Вместо того, чтобы позволять вам формировать рамки разговора (как следовало бы мне поступить, если бы я ставил целью переубедить вас, независимо от того, как искренне мои чувства: думаю ли я что прав, или
просто хочу ваших денег), я сам их задам.
В чем важность байесовской процедуры?
Во-первых, рассмотрим эту процедуру в исполнении существа со стандартным человеческим мозгом (не пораженным
недугами иррациональности ).
1. Определяются конкурирующие гипотезы.
2. Задаются априорные конкурирующих гипотез. Их можно задавать, спросив себя "как часто", "с какой частотой", можно представить их в виде множеств и сравнить размеры.
3. Оценивается сила свидетельства. В моем случае это происходит, как сравнение возможных миров, где я сравниваю ожидание наблюдать какое-то событие (свидетельство).
4. В зависимости от того, как показало себя свидетельство, следует изменить свое ожидание относительно гипотез - апостерироную вероятность.
Вы можете спросить - ну и что? В чем польза этой процедуры, да и процедура ли это вообще, ведь сравнивать множества можно и не называя их априорными, определять силу свидетельства тоже можно вне теоремы Байеса.
Что-то есть притягательное в стройных и понятных алгоритмах. Не знаю. Однако, я знаю о нескольких когнитивных искажениях (КИ). Неслучайно я буду подавать (предполагая, что и вы о них что-то знаете) их в порядке.
1. Ошибка подтверждения (confirmation bias). Пример 2-4-6. Как-то так получается, что выделив (обратив внимание) гипотезу, мозг начинает (если эта гипотеза не находится за пределами "правдоподобности") подбирать разные мысли, которые, почему-то, вместо того, чтобы опровергать ее - подтверждают. Изменяет ли вам ваша половинка? Задерживается и не отвечает на звонки!
Однако, у нас есть Процедура. Так уж теорема устроена, что в ней должно быть не менее ДВУХ конкурирующих гипотез. А это препятствие на пути ошибки подтверждения. Процедура принуждает вас рассмотреть конкурирующие гипотезы.
2. Игнорирование априорной вероятности (base rate neglect). Некоторые русские пьяницы, а некоторые кавказцы - драчуны. Дает ли определение априорных какое-то преимущество в оценке этих высказываний, в сравнении с приведенными слабыми силлогизмами?
Разумеется, ничего в самой теореме не принуждает сравнивать частоту или размеры множеств (или другие способы задания априорных). Всегда можно начать с 50\50. Но можно ли честно сказать, что часто встречаются ситуации, где НЕТ НИКАКОЙ ИНФОРМАЦИИ В ГОЛОВЕ ВООБЩЕ?.
3. Нечувствительность к тому, какую вероятность назначают свидетельству конкурирующие гипотезы (оно же silent evidence, P(E|!H), и,вроде бы Selection bias и ошибка выжившего). В контексте КИ, это искажение представлено исследованием (Doherty and Mynatt (1990)), где участников просили побыть докторами и определеить, какие данные нужны для диагностирования: процент людей с Болезнью, процент людей без Болезни, процент людей с БОлезнью у которых есть сыпь, процент людей без БОлезни у которых есть красная сыпь. 48% проигнорировали последний кусок данных.
В историческом контексте я встретил описание этого искажения у Талеба в "Черных Лебедях".
Более двух тысяч лет тому назад римский оратор, беллетрист, мыслитель, стоик, политик-манипулятор и (почти всегда) благородный джентльмен Марк Туллий Цицерон в трактате "О природе богов" поведал такую историю. Греческому философу Диа- гору, прозванному Безбожником, показали изображения людей, которые молились богам и спаслись при кораблекрушении. Подразумевалось, что молитва спасает от гибели. Диагор спросил: "А где же изображения тех, кто молился, но все-таки утонул?"
Набожным утопленникам не так-то просто высказать свое мнение со дна морского по той причине, что они мертвы. Как следствие, поверхностный наблюдатель запросто может поверить в чудеса.
У него же. Все ли новички, приходя в казино, могут рассчитвать на "удачу новичка", или же те, кому повезло, будут возвращаться, рассказывая об "удаче новичка"? В то время как те, кому не повезло - не играют и, разумеется, про "удачу новичка" молчат. Должен ли бизнесмен иметь качество Х, как это рассказывают нынешние миллионеры? Что скажут те, кто обладал Х и все равно прогорел?
4. Не знаю есть ли у этого официальное название, однако некоторые люди способны творить что-то вроде ментальной магии. Они (и я принадлежу к этим счастливчикам) могут, каким-то образом, извлекать себя из цепочки причин и следствий с помощью семьи волшебных заклятий: "я умываю руки", "делайте что хотите", "это не мое дело". Изнутри это ощущается так если бы после произнесения этих слов мои действия теряют силу (перестают быть байесовским свидетельством, т.е. становятся таким, для которого частное P(E|H)\P(E|!H)=1). С помощью этих слов я могу воздействовать даже на разумы других людей.
Итак.В байесовском выводе, в байесосвкой вероятности, возможно, нет особой ценности. Ведь ценности располагаются в мозгах, воспринимающих эти объекты. Какую роль в жизни играет приведенный выше эмпирический кластер мыслительных паттернов? Как часто и какая нужда в том, чтобы на вопросы такого рода давались ответы, соответствующие нормативным процедурам? Полезней ли игнорировать априорные? Рассматривать альтернативные гипотезы? Прислушиваться к молчаливым свидетельствам?
Если есть альтернативные подходы решения этих проблем (желательно разработанные на уровне Канемана и Юдковского, да, наглость), если есть "другие проявления рациональности" я бы с интересом про них узнал (про Gerd Gigerenzer я уже знаю).
--------------------------------
Так же, я не встречал (не искал) чтобы кто-либо рассмотрел идею Юдковского о
о байесовской структуре познания с точки зрения второго закона термодинамики. Звучит она убедительно и, естесственным образом, напрашивается мысль: если познание, в какой-то мере байесово, почему бы не усилить его, принудив Систему 2 следовать процедуре байесовсткого вывода?
