Моя модель обучения и убеждения, разумеется, байесовская -
в физическом смысле. И, если бы я хотел вас убедить в том, что, не только это возможно, но что
1. люди действительно моделируют неуверенность\уверенность с помощью вероятностей и теоремы Байеса;
2. что это один из (с учетом того, что я мало знаком с этой областью) мейнстримных способов моделирования убеждений (убеждение не как идеал, вроде "демократия - хорошо", а как знание_о_мире "в моем холодильнике возможно есть молоко")
В соответствии с принципом
близости к задаче мне следовало бы, как это делается в литературе, разобрать несколько примеров, где мы могли бы посмотреть, какие модели неполного знания удобней и согласованней (должен признаться, я могу лишь приводить примеры и анализировать их с помощью теоремы Байеса, а не сравнивать разные способы моделирования неуверенности). Однако
мне очень не хочется этим заниматься.Вместо этого, я могу указать на литературу для чтения.
Юдковский:
Убеждения должны окупаться Убеждения, как ожидания. Убеждение - не то, что люди говорят, а то, что они ожидают. Убеждения не являющиеся ожиданиями принимают разные формы:
Вера в убеждения, Провозглашения и крики ободрения,
Убеждение как одеяние.
Интуитивное объяснение теоремы Байеса A Technical Explanation of Technical Explanation Большая статья про особенности рациональности и байесовской эпистемологии: вероятностная фальсифицируемость, ожидание проснуться с тентаклем вместо руки, религия Байесианства и правило святого Лапласа.
Закономерная неуверенность. Статья о том, как при столкновении со случайными событиями люди склонны принимать решения по "случайному" алгоритму, вместо того, чтобы действовать по упорядоченному.
Рациональность: введение. Статья
Роба Бенсинджера из
Rationality: From AI to Zombies.
Лотереи: бессмысленная трата надежды. Статья об эффекте уверенности и оценке шанса на примере лотереи. "Но шанс то есть?" - так люди говорят.
But There's Still A Chance, Right? Статья об эффекте уверенности и оценке шанса с другими примерами и новыми выводами.
Софизм серого. Статья про то, что убеждения не делятся исключительно на "точно произойдет" (1), может быть да\может быть нет (.5), точно нет (0). В скобках, разумеется, вероятности.
Absolute Authority. Про чудовщных размеров разрыв между людьми, привыкшими к уверенности и наукой, утверждения которой часто носят вероятностный характер, как и большая часть человеческого знания.
Как убедить меня в том, что 2+2=3 Описывается причинная цепочка, которая приводит людей к убеждению 2+2=4 и как такая же цепочка событий может убедить рационалиста в том, что 2+2=3.
Infinite Certainty В рамках
байесовской эпистемологии, в соответствии с
законами вероятности принято назначать логическим истинам вероятность 1. В рамках фреймворка "вероятность - мера уверенности" с вероятностями 1 возникают некоторые сложности. Эта статья описывает некоторые из них.
0 And 1 Are Not Probabilities . Знаменитое
доказательство Кокса (и разные его расширения и переделки) показывает, что все способы репрезентации неуверенности, подчиняющиеся разумным правилам будут изоморфны друг другу. И если перевести вероятности путем десятичного логарифма в децибелы, то будет видно, что 1 и 0 превращаются в бесконечности, что, в свою очередь требует свидетельство бесконечной силы.
Entropy, and Short Codes Энтропия Шеннона и вероятностная формализация бритвы Оккама -
Сообщение минимальной длиныMutual Information, and Density in Thingspace. Продолжение предыдущей статьи.
Conditional Independence, and Naive Bayes Эту статью я не осилил.
Прекрасная вероятность Про разные подходы к вероятностям и законам.
The Second Law of Thermodynamics, and Engines of Cognition Вероятностное доказательство необходимости взаимодействия с реальностью для получения точных убеждений о ней.
Perpetual Motion Beliefs Продолжение предыдущей статьи.
Decoherence is Simple Вероятностная интерпретация сложности гипотезы на примере "decoherence (a.k.a. many-worlds) version of quantum mechanics".
Decoherence is Falsifiable and Testable Вероятностная интерпретация фальсифицируемости (опровергаемости) и верифицируемости (способности делать новые предсказания), а так же формализации бритвы Оккама - "Индукция Соломонова" и "Сообщение минимальной Длинны".
Decision Making and Rationality in the Modern World (Fundamentals in Cognition) 1st Edition
Книга Становича про рациональность.
Во второй главе рассматривается рациональность действий (инструментальная рациональность - максимизация ожидаемой полезности; какое действие позволит максимально приблизить цель) и поведенческие паттерны, того, как люди отклоняются от норм инструментальной рациональности.
В третьей главе описывается рациональность убеждений (как придерживаться убеждений, которые соответствуют доступным свидетельствам - эпистемическая рациональность). И поведенческие паттерны, того, как люди отклоняются от норм эпистемической рациональности.
Обе рациональности - вероятностные, разумеется.
A Critical Introduction to Formal Epistemology (Bloomsbury Critical Introductions to Contemporary Epistemology) Применение формальной системы (тервер - Байес) для моделирования убеждений и разные трудности связанные с этим. Лодка, в которой плывет человек медленно погружается под воду. Он не верит в то, что тонет. Рациональны ли его убеждения?
Bayesian Epistemology 1st Edition Bayes is all the rage in philosophy. Metaphysicians discuss the nature of probability, philosophers of religion recast the problem of evil and the argument from design in probabilistic terms, ethicists appeal to decision- and game-theoretic arguments. We ride this wave and examine what probabilistic models have to offer for certain topics in epistemology and for epistemological questions in philosophyof science. Our approach is an engineering approach rather than a foundational approach. Just as engineers do not bother with the foundations of geometrywhen constructing a bridge, we are consumers of probabilitytheoryand the theoryof Bayesian Networks and construct models to resolve philosophical questions.
Probability Theory: The Logic of Science 1st Edition
Впечатлившая Юдковского своей дотошностью книга про репрезентацию убеждений с помощью тервера от автора
Mind projection fallacy. И статьи Юдковского на эту тему:
Вероятность находится в голове,
Probability is Subjectively Objective,
Frequentist Statistics are Frequently Subjective.
Книги Канемана, разумеется, без них куда.
И финальная статья:
Ожидая короткие понятийные расстояния
