Главное > Рациональность
Почему байесовская вероятность важнее других проявлений рациональности?
LswAgnostic:
Ключевой вопрос рациональности "почему я знаю то, что я знаю? Почему я верю в то, во что я верю?"
Путь LessWrong пронизан идеей, что самое важное это байесовская вероятность. На чем основана эта вера/знание?
Ключевой вопрос управления: "Почему я знаю/верю, что предлагаемый вариант дает лучший результат?". Почему внимание к байесовской вероятности даёт лучший результат?
Лучший способ проверки идей - это решение модельных задач.
Рассмотрим модельные задачи: "Написать книгу", "Построить бизнес", "Сложить пасьянс", "Починить мотоцикл", "Справиться с паникой".
Где при решении этих задач появляется байесовская вероятность? Как она помогает?
kuuff:
Откуда человек берёт знания о внешнем мире? Как человек делает умозаключения о том, каков он, внешний мир?
Знания о внешнем мире важны для успешного выполнения любой из перечисленных задач. Но откуда эти знания берутся, и почему мы доверяем тем знаниям, которые у нас есть?
Как в общем-то уже стало ясно, единственный способ знания обретать -- это матстатистика. Ну или что-то типа матстатистики. Человеческие мозги заточены на решение различных задач познания, они действуют не так, как предписывает матстатистика, но очень похожим образом, матстатистика просто чуть точнее. Конечно тут ещё следует учитывать, что мозги были заточены работать не в современной реальности, а немного в другой, и поэтому не всегда заложенные в мозги методы работают успешно -- соответственно начинаются разговоры о когнитивных искажениях и пр. Но между методами матстатистики и работой человеческих мозгов можно найти множество параллелей: глядя на то, как работают мозги, придумывают новые статистические методы, глядя на статистические методы решения тех или иных задач, строят теории о том, как работают мозги.
Но матстатистика подвешена в воздухе, благодаря частотному определению вероятности. Байесовская же вероятность резко упрощает статистический аппарат. Ну, это знаете, как скажем изобретение отрицательных чисел резко упростило решение задач: сложные алгоритмы решения с ветвлениями типа "если a < b, то вычесть a из b, и делать потом то, сё и это; а если a > b, то вычесть b из a, и делать затем что-то иное". С отрицательными же числами всё гораздо проще: надо подставить в формулу, вычислить всё безусловно, получить ответ, который может быть положительным или отрицательным, и сказать, что если число положительное, то мы в плюсе, а если отрицательное, то попали на бабки. Отрицательные числа упростили решения задач, таким образом они упростили задачи, таким образом они дали возможность мыслить о более сложных задачах, охватывать умственным взором более сложные пробемы. Хотя, на первый взгляд, они совершенно не нужны, те же задачи можно решать и без них.
Так и байесовская вероятность. Чтобы понимать, что такое знание, надо знать как знание строится из отдельных свидетельств. Но чтобы понимать это, гораздо удобнее освоить байесовскую вероятность; усвоить, что "вероятность находится в голове"; одолеть теорему Байеса и посмотреть на несколько применений байесовской вероятности -- после этого в голове всегда будет, по-крайней мере качественное понимание того, как из опыта строится знание. А это понимание позвояет оценивать качество этого самого знания.
Muyyd:
Сам я настолько пронизан байесовской эпистемологией, что она является метауровнем. Даже если что-либо окажется полезней, то фраза "метод Х более полезен, чам байесовская рациональность" слишком уж подозрительна похожа на "метод Х назначает большую вероятность наблюдениям У, чем байесовская вероятность". Так что даже если и появится метод более действенный, процесс выбора будет напоминать сильней процесс байесовского вывода, чем каких-либо еще выводов.
--- Цитата: LswAgnostic от 07 Мая 2016, 12:55 ---Ключевой вопрос рациональности "почему я знаю то, что я знаю? Почему я верю в то, во что я верю?"
--- Конец цитаты ---
Это, разумеется, light версия. Чтобы, читатель, услышав ее, подумал: "действительно, почему же?", вместо "а это, блин, что значит?", если бы Юдковский (в статьях или в МРМ, устами Гарри) формулировал фундаментальный вопрос рациональности в его истинной (вербальной, истинная форма - теорема Байеса) форме: "Какого соотношение априорных шансов среди конкурирующих гипотез к апостерироным, с учетом отношений правдоподобия?"
--- Цитата: LswAgnostic от 07 Мая 2016, 12:55 ---Путь LessWrong пронизан идеей, что самое важное это байесовская вероятность. На чем основана эта вера/знание?тих задач появляется байесовская вероятность? Как она помогает?
--- Конец цитаты ---
Насколько я знаю, не было эпической коммуникации, в ходе которой Святой Лапласс передал Человечеству Байесовскую Мудрость. Каким-то образом теорема Байеса проникла в когнитивную науку.
--- Цитировать ---Принятие решений в неопределенности: Правила и предубеждения
С момента привлечения Эдвардсом и eгo коллегами идей Байеса в психологическое исследование, психологам впервые предложили целостную и четко сформулированную модель оптимального поведения в условиях неопределенности, с которой можно было сравнить принятие решений человеком. Соответствие принятия решений нормативным моделям стало одной из главных парадигм исследования в области суждения в условиях неопределенности.
--- Конец цитаты ---
И на этом мои познания исторической части заканчиваются.
Так уж получилось, что относительно одних утверждений мы чувствуем большую уверенность, чем относительно других. Просыпаясь утром, я еще на знаю будет ли дождь и не могу уверенно выбрать какой из вариантов скорее всего произойдет. Но, увидев тучи, мои ожидания меняются: уверенность в том, что будет дождь увеличится, а уверенность в том, что будет сухо - снизится (в идеале, разумеется, в реальности убеждения не всегда так легко меняются).
Нормой для определения действия, которое скорее всего, в сравнении с другими действиями, позволит достичь результата (дойти до пункта Х, сохранив сухость) стала байесовская система принятия решений, а именно максимизация ожидаемой полезности. Мы должны делать те действия, от которых ожидаем больше пользы для достижения желаемого результата.
Однако, необходимым условием так же является определение того, какие же из возможных результатов самые вероятные. И, какие действия являются самыми полезными (какие из разных результатов назначают наибольшую вероятность каким действиям (свидетельствам)).
--- Цитата: LswAgnostic от 07 Мая 2016, 12:55 ---Ключевой вопрос управления: "Почему я знаю/верю, что предлагаемый вариант дает лучший результат?". Почему внимание к байесовской вероятности даёт лучший результат?
--- Конец цитаты ---
Ознакомившись с некоторой литературой по рациональности, я начал задаваться вопросом: "почему наиболее вменяемые решения и правдоподобно звучащие варианты имеют байесовскую структуру, а ошибки часто оказываются результатом пренебрежения распределнием априорных вероятностей среди возможных гипотез и игнорированием вероятности, назначаемой свидетельству конкурирующими гипотезами?".
Есть [PDF]Интуитивное объяснение теоремы Байеса на русском, есть A Technical Explanation of Technical Explanation на английском. Но нет компактного сравнения разных систем репрезентации эмпирических убеждений (вроде "у большинства людей два зрячих глаза" (есть ведь и одноглазые, правда, их мы ожидаем встретить с меньшей уверенностью), а не "две молекулы водорода и молекула кислорода, при затрате энергии N образут молекулу воды H2O"). Я не встречал сравнения силлогизмов Аристотеля с байесовской эпистемологией. Загляните в
Decision Making and Rationality in the Modern World (Fundamentals in Cognition) 1st Edition
и в
A Critical Introduction to Formal Epistemology (Bloomsbury Critical Introductions to Contemporary Epistemology)
. Я пока не владею материалом, чтобы хотябы на десятке страниц изложить кратко почему же стоит использовать теорема Байеса для репрезентации частных убеждений в сравнении с силлогистикой, логикой первого порядка, кванторами.
Та же можно посмотреть: Highly Advanced Epistemology 101 for Beginners
Если вы хотите написать бестселлер, то ваше ожидание того,что ваша книга будет раскуплена может быть равно ожиданию запыления на полках. Ваше ожидание разных состояний реальности (раскуплена, пылиться) измениться в зависимости от того, о чем и как будет эта книга (см. байесовское свидетельство).
LswAgnostic:
--- Цитата: Muyyd от 07 Мая 2016, 14:28 ---
Нормой для определения действия, которое скорее всего, в сравнении с другими действиями, позволит достичь результата (дойти до пункта Х, сохранив сухость) стала байесовская система принятия решений, а именно максимизация ожидаемой полезности. Мы должны делать те действия, от которых ожидаем больше пользы для достижения желаемого результата.
--- Конец цитаты ---
Почувствовал настрой этого абзаца следующим образом.
Байесовская оценка - это неочевидный, сложный алгоритм, которым Система 1 не владеет и поэтому ему следует уделять внимание Системы 2.
Максимизация полезности - это очевидный, простой навык, которым в совершенстве владеет Система 1. Ему не стоит уделять внимание Системы 2.
Это так?
ps
Уточню что я понимаю под "важностью".
Важность - это распределение ресурсов Системы 2. Чем важнее аспект N, тем большая доля ресурсов Системы 2 выделяется на просчитывание аспекта N.
Muyyd:
--- Цитата: LswAgnostic от 07 Мая 2016, 14:49 ---Байесовская оценка - это неочевидный, сложный алгоритм, которым Система 1 не владеет и поэтому ему следует уделять внимание Системы 2.
--- Конец цитаты ---
Как показала экспирементальная наука, Система 1 склонна к пренебрежению распределнием априорных вероятностей (base rate neglect) среди возможных гипотез и игнорированием вероятности, назначаемой свидетельству конкурирующими гипотезами (на встречал формального названия для этого искажения). Для корректировки этих искажений нужно следить, чтобы линия рассуждений на нарушала байесовский вывод, т.е. применять Систему 2.
--- Цитата: LswAgnostic от 07 Мая 2016, 14:49 ---Максимизация полезности - это очевидный, простой навык, которым в совершенстве владеет Система 1. Ему не стоит уделять внимание Системы 2.
--- Конец цитаты ---
Простота этого навыка иллюзорна. Чем обыденный действие - тем проще. Если вы хотите шоколадку из магазина, то вполне очевидно, какие действия будут наиболее эффективными (сходить самому, попросить соседа сгонять в магазин, позвонить в магизин и попросить доставку, например). Такие ситуации достаточно оптимизированы для обычного человека (вы ведь можете оказаться и владельцем магазина, не так ли?). Однако, чем дальше вы от часто повторяемых действий в сторону неизвестности, тем внимательней (с подозрением) надо относиться к тому, какие действия приходят вам в голову, когда вы ставите себе какую-то цель. Если мы примем в качестве репрезентации нашей уверенности тервер, то Юдковский написал довольно убедительную статью о том, почему при встрече с малознакомым явлением (бизнес в новой для вас области, отпуск "дикарем" в незнакомой местности) следует относиться с подозрением к возникающим идеям.
Навигация
Перейти к полной версии