Почему байесовская вероятность важнее других проявлений рациональности?

Автор Тема: Почему байесовская вероятность важнее других проявлений рациональности?  (Прочитано 23583 раз)

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Как насчет таких рассуждений: "Мой предшественник, упокой Бог его нелогичную душу, наивно полагал, что молчание будет сильным свидетельством как в пользу вины, так и в пользу невиновности, но я, зная о байесовском свидетельстве, понимаю, что такое противоречие следует устранить. Основываясь на наблюдениях, я узнаю, сколько из женщин, чья вина была доказана другими уликами, молчат. И определю, какой предсказательной силой по отношению в ожиданию найти другие улики обладает молчание, отрицание вины или признание."

LswAgnostic

  • Ветеран
  • ****
  • Сообщений: 313
  • +29/-12
    • Просмотр профиля
LswAgnostic, а вы уверены, что можно вот так просто сделать непротиворечивую карту?

Да. Всякие N фактов непротиворечиво описываются полином N-ой степени (и более).


И почему непротиворечивость карты у вас на первом месте стоит? Как насчет соответствия карты местности?

Непротиворечивость стоит на первом месте у основоположников "байесовской вероятности". В частности, допущение о непротиворечивости появляется в теореме Кокса.

ps
Имхо, важны все 12 критериев. (И более, если получится еще придумать критериев).
Ясность, точность, конкретность, тщательность, релевантность(значимость), согласованность(последовательность), логичность, глубина(фундаментальность), полнота, значимость(небанальность), честность(непредвзятость), адекватность(применительно к цели).
Допуская, что в некоторые моменты времени часть из критериев может быть нарушена.

kuuff

  • Старожил
  • *****
  • Сообщений: 2 133
  • +220/-52
    • Просмотр профиля
Да. Всякие N фактов непротиворечиво описываются полином N-ой степени (и более).
Такое описание бестолково. Если для описания N фактов нам нужен полином N-ой степени, то такой полином, как карта, будет хуже, чем простое перечисление фактов.

Говорить о предсказательной силе этого полинома можно только если степень полинома меньше, чем количество описываемых фактов. А вот это уже возможно далеко не всегда. И, это невозможно даже в физике: ОТО с КМ так и не подружились окончательно. Попытки же запилить "полином N-ой степени" приводят к какому-то безумному количеству измерений пространства, и до сих пор висят в воздухе.

И судья, который принимает решение исходя из непротиворечивой карты, скорее всего плохой судья. Я бы не хотел к такому попасть. Потому что судебное решение в принципе принимается в противоречивой ситуации, когда надо учитывать последствия этого решения как для каждого участника процесса, так и для общества в целом. Это как минимум.
Теоретически, наверное, можно свести все эти факторы в единую теорию, которая опишет все возможные случаи, которые могут возникнуть в суде. Кстати, прецедентное право, столь популярное в США и Англии -- это и есть подобная попытка. Которая демонстрирует практическую невозможность создать подобную теорию.

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Наткнулся  на интересное у Становича.
Цитировать
A similar admonition applies when we think about the relation between emotion and rationality. In folk psychology, emotion is seen as antithetical to rationality. The absence of emotion is seen as purifying thinking into purely rational form. This idea is not consistent with the definition of rationality adopted in this book. Instrumental rationality is behavior consistent with maximizing goal satisfaction, not a particular psychological process. It is perfectly possible for the emotions to facilitate instrumental rationality as well as to impede it. In fact, conceptions of emotions in cognitive science stress the adaptive regulatory powers ofthe emotions. For example, in their discussion ofthe rationality of emotions, Johnson-Laird and Oatley (1992) conceptualized emotions as interrupt signals supporting goal achievement. Their basic idea is that emotions serve to stop the combinatorial explosion of possibilities that would occur if an intelligent system tried to calculate the utility of all possible future outcomes. Emotions are thought to constrain the possibilities to amanageable number based on similar situations in the past.

anagor1

  • Постоялец
  • ***
  • Сообщений: 113
  • +46/-50
    • Просмотр профиля
Шикарная дискуссия! Низкий поклон участникам! Жаль, что она сошла на нет.
Получив когда-то хорошее (честное слово!) физическое образование, я уже 25 лет не занимаюсь наукой, так что полностью вникнуть во все тезисы и аргументы если и смог бы, то потратив огромный объем самого ценного своего ресурса - времени. Поэтому вынужден пользоваться при анализе полученной информации лишь Системой 1. А она подала в Систему 2 сигнал, что позиция LswAgnostic мне нравится больше. (Ближе? Понятнее? Нет, просто "нравится".) Почему?
Поскольку "образование - это то, что остается, когда всё забыл", я склонен полагать, что моя Система 1 до сих пор работает достаточно адекватно, посему Система 2 может, при желании, выработать некоторые формулировки гипотез, отвечающих на данный вопрос.
Попробую перечислить:
1. Целью дискуссии для отдельного участника может быть а) вербовка оппонента на свою сторону / убеждение его (и заодно себя) в своей правоте; б) осознание разницы мнений; в) иные цели (напр., троллинг). Пропагандистские цели я полагаю менее этичными. И мне показалось, что в высказываниях LswAgnostic доля желания перевербовать была меньше, а желания понять - больше, чем у оппонентов.
2. Просмотреть все многочисленные авторитетные свидетельства, на которые ссылались диспутанты, я, конечно, не мог. Но сложилось ощущение, что доля свидетельств извне предмета дискуссии, а также их разнообразие у LswAgnostic были выше.
В итоге родилась гипотеза, что одним из преимуществом байесианства с точки зрения его "продвижения в массы" является то, что для его приятия требуется куда меньший объем знаний, чем для приятия "других проявлений рациональности". Это можно интерпретировать как признак "истинности учения" (старик Оккам вертится в гробу), но и как признак заведомого опрощения в пропагандистских целях. Тогда, конечно, важно, каковы эти цели. (Владея МРМ, я могу выигрывать. Это понятная личная цель. Но зачем мне вербовать других? Это же снижает вероятность моего выигрыша!)
3. Дискуссия выглядит так, будто участники не вполне договорились о терминах, либо, что скорее всего, у них разная аксиоматика, выходящая за пределы "дискуссионной площадки", и для осознания этой разницы требуется некий метауровень взгляда на дискуссию. Философский, грубо говоря. И тут возникает перед глазами ник одного из участников. Не является ли данный спор в конечном счете дискуссией гностика и агностика?
Лирическое отступление. Глубокое изучение квантовой механики "взрывает мозг". Это не просто слом шаблона, это именно перестройка мировоззрения. На мне этот процесс сказался смешным образом: я принялся срывать один за другим семинары по диамату, которые вел вполне искренне убежденный в своей правоте аспирант филфака. В конце концов, когда ему надоела очередная дискуссия с болтливым неучем, он бросил ему обвинение в"экзистенциализме". Что, конечно же, привело к немедленному изучению неучем материалов по данной теме (включая просмотр пьес Камю в театре на Юго-Западе) и вылилось, в частности, в написание реферата к госу по философии на тему "Бытия и ничто" Сартра. Неудивительно, что интерпретация КМ у меня явно копенгагеновская.
Так вот. Мне кажется, что в глубине разногласий лежит разное представление о понятии "территория". Байесианство в том его изложении, которое проглядывает на этом форуме и в статьях Юдковски (написанных достаточно просто для понимания даже моим почти растерявшим навыки научного мышления мозгом) на удивление гностично. Для меня это - серьезный когнитивный диссонанс! Я никак не могу понять, как можно интерпретировать вероятность чисто субъективно, но при этом не просто допускать, а практически постулировать существование неизменной объективной реальности. Где-то здесь скрыт парадокс, которого я не понимаю. Откуда вы взяли, что территория объективно имеется и неизменна? И зачем нужно такое допущение? Есть же Гуссерль с его феноменологией. Почему не вынести вопрос о реальности "за скобки" (т.н. "феноменологическая редукция")? Что это изменит, кроме ощущения собственной правоты?
Так может быть, данное ощущение - главная опора и цель? Ибо резанула фраза:
Противоречия в мировоззрении -- это что-то плохое, да.
Мне почему-то здесь слышится: "Нет Бога кроме Байеса, и Юдковски - пророк его". К сожалению, это опасение лишь подтверждается столь любимой цитатой Юдковски: "То, что может быть разрушено правдой - должно быть разрушено". Где-то я это уже слышал. Не в ленинских ли статьях? Для сравнения, приведу свою любимую цитату: "Трагедия - это две несовместимые правды".
К сожалению, убежденность, что а) реальность существует; и б) я владею наиболее острым инструментом ее познания - неминуемо приводит к "...должно быть разрушено", а далее и к "до основанья - а затем..." Принципиальное непризнание возможности существования разных правд - не в смысле методов познания, а именно на уровне мировоззрения, на уровне общих жизненных целей и принципов - для меня неприемлемо.
Способны ли рационалисты развеять данное сомнение?

Ну и наконец, "контрольный вопрос": является ли гипотеза "Байеровская вероятность важнее других проявлений рациональности" фальсифицируемой?   ;)




Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Вместо того, чтобы позволять вам формировать рамки разговора (как следовало бы мне поступить, если бы я ставил целью переубедить вас, независимо от того, как искренне мои чувства: думаю ли я что прав, или просто хочу ваших денег), я сам их задам.
В чем важность байесовской процедуры?
Во-первых, рассмотрим эту процедуру в исполнении существа со стандартным человеческим мозгом (не пораженным недугами иррациональности ).
1. Определяются конкурирующие гипотезы.
2. Задаются априорные конкурирующих гипотез. Их можно задавать, спросив себя "как часто", "с какой частотой", можно представить их в виде множеств и сравнить размеры.
3. Оценивается сила свидетельства. В моем случае это происходит, как сравнение возможных миров, где я сравниваю ожидание наблюдать какое-то событие (свидетельство).
4. В зависимости от того, как показало себя свидетельство, следует изменить свое ожидание относительно гипотез - апостерироную вероятность.

Вы можете спросить - ну и что? В чем польза этой процедуры, да и процедура ли это вообще, ведь сравнивать множества можно и не называя их априорными, определять силу свидетельства тоже можно вне теоремы Байеса. Что-то есть притягательное в стройных и понятных алгоритмах. Не знаю.

Однако, я знаю о нескольких когнитивных искажениях (КИ). Неслучайно я буду подавать (предполагая, что и вы о них что-то знаете) их в порядке.
1. Ошибка подтверждения (confirmation bias). Пример 2-4-6. Как-то так получается, что выделив (обратив внимание) гипотезу, мозг начинает (если эта гипотеза не находится за пределами "правдоподобности") подбирать разные мысли, которые, почему-то, вместо того, чтобы опровергать ее - подтверждают. Изменяет ли вам ваша половинка? Задерживается и не отвечает на звонки!
Однако, у нас есть Процедура. Так уж теорема устроена, что в ней должно быть не менее ДВУХ конкурирующих гипотез. А это препятствие на пути ошибки подтверждения. Процедура принуждает вас рассмотреть конкурирующие гипотезы.
2. Игнорирование априорной вероятности (base rate neglect). Некоторые русские пьяницы, а некоторые кавказцы - драчуны. Дает ли определение априорных какое-то преимущество в оценке этих высказываний, в сравнении с приведенными слабыми силлогизмами?
Разумеется, ничего в самой теореме не принуждает сравнивать частоту или размеры множеств (или другие способы задания априорных). Всегда можно начать с 50\50. Но можно ли честно сказать, что часто встречаются ситуации, где НЕТ НИКАКОЙ ИНФОРМАЦИИ В ГОЛОВЕ ВООБЩЕ?.
3. Нечувствительность к тому, какую вероятность назначают свидетельству конкурирующие гипотезы (оно же silent evidence, P(E|!H), и,вроде бы Selection bias и ошибка выжившего). В контексте КИ, это искажение представлено исследованием (Doherty and Mynatt (1990)), где участников просили побыть докторами и определеить, какие данные нужны для диагностирования: процент людей с Болезнью, процент людей без Болезни, процент людей с БОлезнью у которых есть сыпь, процент людей без БОлезни у которых есть красная сыпь. 48% проигнорировали последний кусок данных.
В историческом контексте я встретил описание этого искажения у Талеба в "Черных Лебедях".
Цитировать
Более двух тысяч лет тому назад римский оратор, беллетрист,  мыслитель, стоик, политик-манипулятор и (почти всегда)   благородный джентльмен Марк Туллий Цицерон в трактате "О   природе богов" поведал такую историю. Греческому философу Диа-  гору, прозванному Безбожником, показали изображения людей, которые молились богам и спаслись при кораблекрушении.   Подразумевалось, что молитва спасает от гибели. Диагор спросил:  "А где же изображения тех, кто молился, но все-таки утонул?" 
Набожным утопленникам не так-то просто высказать свое  мнение со дна морского по той причине, что они мертвы. Как  следствие, поверхностный наблюдатель запросто может  поверить в чудеса.
У него же. Все ли новички, приходя в казино, могут рассчитвать на "удачу новичка", или же те, кому повезло, будут возвращаться, рассказывая об "удаче новичка"? В то время как те, кому не повезло - не играют и, разумеется, про "удачу новичка" молчат. Должен ли бизнесмен иметь качество Х, как это рассказывают нынешние миллионеры? Что скажут те, кто обладал Х и все равно прогорел?
4. Не знаю есть ли у этого официальное название, однако некоторые люди способны творить что-то вроде ментальной магии. Они (и я принадлежу к этим счастливчикам) могут, каким-то образом, извлекать себя из цепочки причин и следствий с помощью семьи волшебных заклятий: "я умываю руки", "делайте что хотите", "это не мое дело". Изнутри это ощущается так если бы после произнесения этих слов мои действия теряют силу (перестают быть байесовским свидетельством, т.е. становятся таким, для которого частное P(E|H)\P(E|!H)=1). С помощью этих слов я могу воздействовать даже на разумы других людей.


Итак.
В байесовском выводе, в байесосвкой вероятности, возможно, нет особой ценности. Ведь ценности располагаются в мозгах, воспринимающих эти объекты. Какую роль в жизни играет приведенный выше эмпирический кластер мыслительных паттернов? Как часто и какая нужда в том, чтобы на вопросы такого рода давались ответы, соответствующие нормативным процедурам? Полезней ли игнорировать априорные? Рассматривать альтернативные гипотезы? Прислушиваться к молчаливым свидетельствам?
Если есть альтернативные подходы решения этих проблем (желательно разработанные на уровне Канемана и Юдковского, да, наглость), если есть "другие проявления рациональности" я бы с интересом про них узнал (про Gerd Gigerenzer я уже знаю).
--------------------------------
Так же, я не встречал (не искал) чтобы кто-либо рассмотрел идею Юдковского о о байесовской структуре познания с точки зрения второго закона термодинамики. Звучит она убедительно и, естесственным образом, напрашивается мысль: если познание, в какой-то мере байесово, почему бы не усилить его, принудив Систему 2 следовать процедуре байесовсткого вывода?

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: Muyyd
Почему бы не усилить его, принудив Систему 2 следовать процедуре байесовсткого вывода?
Кстати говоря, имеется и альтернативная стратегия. Если сознание всё равно байесианское, то не будет ли эффективным использовать другие методы? Например, было бы неплохо иметь возможность получать истинное знание без наблюдения. Звучит абсурдно, но это достаточно важная проблема из области познания, для которой до сих пор нет хорошего ответа, имеющего неоспоримые основания. Байесианство в теории принятия решений можно сравнивать с механикой в физике. В том смысле, что невозможно отрицать их важность и даже ту истинность, которой они обладают, но они вряд ли являются последним словом в своих дисциплинах. Известно многое за пределами механицизма. Скорее всего, есть решения и за пределами байесианства.

desmod

  • Ветеран
  • ****
  • Сообщений: 341
  • +31/-251
    • Просмотр профиля
Не знаю есть ли у этого официальное название, однако некоторые люди способны творить что-то вроде ментальной магии.
Подобные методы не только давно известны, но и приобрели большую популярность. Можно ли их назвать "рациональными" - вот вопрос! :)

valergrad

  • Ветеран
  • ****
  • Сообщений: 487
  • +143/-21
    • Просмотр профиля
Подобные методы не только давно известны, но и приобрели большую популярность. Можно ли их назвать "рациональными" - вот вопрос! :)

Можно ли их назвать работающими - вот в чем гораздо более важный вопрос.


desmod

  • Ветеран
  • ****
  • Сообщений: 341
  • +31/-251
    • Просмотр профиля
Их поклонники полагают, что данные методы работают. Muyyd также считает, что его метод, позволяющий "воздействовать даже на разумы других людей" работает. Однако к Muyyd'у, насколько я понимаю, у вас вопросов нет, а к упомянутым поклонникам - есть. Поэтому мне интересно, в чем же, по-вашему, разница между этими методами.

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Давайте четко разделять трансферинг и то, что я выделил. Признаюсь, про трансфериг ничего не знаю.

desmod

  • Ветеран
  • ****
  • Сообщений: 341
  • +31/-251
    • Просмотр профиля
Давайте четко разделять трансферинг и то, что я выделил. Признаюсь, про трансфериг ничего не знаю.
Данный метод, по мнению его основателя, позволяет, говоря вашим языком, при помощи определенных ментальных состояний повышать вероятность желаемых событий.

Но к вам у меня никаких вопросов нет. Если человек считает, что какой-то метод в его исполнении успешен, то почему бы его не использовать? У меня вопрос к valergrad'у - пытаюсь понять его логику претензий.

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Говорить с человеком - воздействовать на его разум. Сказать самому себе "это не мое дело" - воздействовать на свой. И я выделил этот способ потому что он так интересно выражается с точки зрения изменения силы свидетельства-действия.