Противоречит идеальному байесианству. Идеальные байесианцы учитывают все возможные свидетельства и строят распределения вероятностей максимально возможной точности. Реальные агенты учитывают стоимость расчётов и заморачиваются над точностью там, где ставки велики, сильнее, чем там, где им неважно.
Да, может быть в этом дело. Но это ведь, по сути, описание причины возникновения отклонений от байесианского способа мышления. Мне кажется, что тут чуть интереснее последствия этого отклонения.
Не вижу тут дыры.
Все дело в том, что на кону. Оценивается не вероятность сама по себе, а матожидание выгоды/ущерба.
Да, конечно. В конечном итоге оценивается то самое матожидание. Но есть вполне определённые процессы, алгоритмы обновления вероятностей, расчёта матожиданий и пр, так вот эти алгоритмы чётко разделяют учёт новых сведений в базе знаний (то есть эпистемиологическую функцию) и принятие решений на основании существующей базы знаний (инструментальная функция). С Амелией же мы видим смешение функций. Само по себе это не значит, что Амелия иррациональна, это значит что она не байесианский рационалист. Про дыру же я начал говорить с той точки зрения, что если применять байесианские алгоритмы расчёта вероятностей, то легко упустить момент, когда надо пересчитать вероятности.
В ситуации в книге у Амелии мало что зависит от вопроса, признавать ли Квиррелла за того самого Монро, с кем вместе она сражалась. (версия, что ТОТ Монро - тоже Том Риддл - для всех, кроме Хмури, далеко за пределами вообразимого). Ну в самом деле, что она потеряет в случае ложно-положительного результата? почти ничего, она ж не рассказывает ему никаких тайн, не делает никаких предложений. А вот в случае ложно-отрицательного, то есть если это действительно тот Монро, а она ему в этом отказала, ей самой будет неудобно внутри себя. Пока что перевес за тем, что лучше признать, чем не признать, и даже сопоставление вероятностей ошибок мало влияет на предпочтительный вариант.
А вот когда (если) речь зайдет о том, чтобы, основываясь на том, что это тот же Монро, что-то важное ему доверить - то риск от ложно-положительного опознания будет уже очень большим, и действительно по совокупности, из минимизации вероятного ущерба, выгоднее не признать, даже если соотношение вероятностей ошибок 1:10. Ну, если 1:1000, то можно уже подумать, это уже тянет на сильное доказательство, что это таки тот самый Д.М.
Мне не нравится такой подход, потому что голова работает сложно, там очень много взаимных влияний. Амелия приняла гипотезу о том, что она разговаривает с Монро -- пускай она при этом оставляет за собой право пересмотреть своё решение, передумать при получении новых данных, но она разговаривала с Монро, с её точки зрения. Вся информация, которую она получала в ходе разговора, маркировалась достоверностями соответствующей тому, как Амелия в процессе разговора оценивала достоверность этой гипотезы. Всем выводам, которые она делала из полученной информации так же присваивалась достоверность исходя из её локального по времени восприятия этой ситуации.
Если мы поверим в то, что поведение Амелии было искренним, то есть те нотки сочувствия, сожаления, вины, которые звучали в её голосе -- это не продукт актёрского мастерства, а отражение истинных переживаний, то мы можем предположить, что в её голове в процессе разговора сформировались эти самые чувства вины, сожаления и сочувствия, сформировалось желание помочь бедолаге Монро, пострадавшему на службе обществу. И все те мысли о Монро, которые у неё бродили в голове в это время, особенно новые мысли, сохранялись в её памяти как очень значимые и очень достоверные. Все выводы, которые она сделала или сделает из этой информации так же будут сохранены как достоверные. Потом, вероятно, она вернётся к этим мыслям неоднократно, в связи с разнообразными событиями, и эти мысли будут участвовать в процессе мышления, влиять на него, менять какие-то другие выводы, мнения, убеждения.
А потом, вдруг, Квиррелл подойдёт и попросит на первое апреля накормить всех узников Азкабана ЛСД, обещая, что дементоры, когда нажрутся тех образов, которые возникнут под ЛСД, станут не скучно чёрными, а радужными и устроят гей-парад. "Будет весело", обещает Квиррелл. Тут Амелия спохватится, начнёт пересчитывать достоверность того, что Квиррелл и Монро -- это одна и та же личность, но она при всём желании не сможет обратить всё то влияние, которое уже было оказано на её мировоззрение верой в утверждение "Квиррелл=Монро". В этом вообще проблема практического применения байесианства, потому что, по-сути, надо вспомнить все те мысли, которые учитывали прошлые значения достоверностей, и подумать те мысли заново, на новых значениях, и делать так каждый раз, когда появилось новое свидетельство. Но при подходе Амелии эти пересчёты придётся устраивать не только при появлении свидетельств, но и при изменении ставок. Причём в случае изменения ставок придётся перебирать не только те мысли, которые зависели от определённых убеждений, а вообще все, чтобы переоценить значимость каждой мысли.