Парадокс Аллэ

[Kroid]

valergrad, вот что, давайте на время забудем обо всем, что я писал. Вот вам единственный сильнейший аргумент, который я могу придумать. Я уже писал об этом, но растекался мыслью по тексту. Держите концентрированную версию:

Из четырех вариантов в двух экспериментах, один фундаментально отличается от остальных. Он дает гарантию. Остальные три - вероятностные. Это значит, что могут существовать разумные причины для учета этого различия. Примеры этих причин писали до меня, вроде "деньги или смерть".

Если это не так, то вы должны указать причину, по которой отличие одного варианта от трех остальных нельзя принимать во внимание. Либо указать, что этого различия не существует, что оно мнимое.

Идею "давайте возьмем и разделим оба варианта на 0.34" я не приму. Потому что в этом случае мы необратимо потеряем отличие "гарантированого выигрыша".

Спорить об определении функции полезности, о непрерывности, о разнице между функцией и ощущением не буду. Это всё придирки. Если опровергните мой основной аргумент - я сдамся истине.

[mihaild]

Kroid, мой вариант, когда вероятность превращается в гарантию посредине эксперимента, вас не устраивает?

[Kroid]

mihaild, я правильно понял, что изначально я выбираю шанс на 27к из второго эксперимента, потом либо жду результата, либо (с вероятностью 66%) плачу 1$ и выбираю гарантированные 24к из первого? Не вижу причин, по которым это было бы противоречиво.

[mihaild]

Потому что вы могли бы сразу выбрать шанс из второго, и с вероятностью 66% получить всё то же самое (ничего), а с вероятностью 34% получить то же самое + $1.

[anagor1]

В данной задаче Юдковский пишет "придумайте для себя функцию полезности и считайте ее, потому что в противном случае вы можете потерять деньги или не получить того, чего на самом деле хотели"  с конкретным примером как это происходит.

То есть, Юдковски лучше меня самого знает, чего я "на самом деле" хочу? Ха! Сильное утверждение!
К тому же, видимо, то, что я на самом деле хочу (сам того не ведая), всегда вычисляется по Байеру? Н-да... Типа очередная панацея, блин.
Интересно, Вы понимаете, что только что высказали весьма сильное свидетельство в пользу _{диагноза} гипотезы "байесианство страдает каузальной аберрацией"? 

Ладно, давайте не будем упираться в термины. Функция так функция. Я даже готов согласиться, что работа моей Системы 1 тоже в чем-то устроена как бы по-байесиански. За десятилетия своей жизни я принял многие миллионы различных решений в различных условиях, и имел возможность оценить, как они влияют на мой внутренний комфорт (показатель полезности), и это всё записалось где-то в памяти Системы 1, и теперь она, каждый раз быстренько анализируя весь этот дикий массив данных, выдает мне достаточно точные предсказания, как то или иное решение повлияет на полезность.  Ладно, пусть так (хотя звучит глупо).

Но тогда придется сказать, что задача подобрана крайне неудачно! Потому что в огромном большинстве конкретных ситуаций, моделируемых данным абстрактным примером, моя "функция полезности" сработает совершенно не так, как это столь самоуверенно впаривает мне Юдковски. Она видит огромную разницу между первым и вторым вариантами выбора. И не видит никакого парадокса. Я это выше подробно пояснил.

PS
Я тут подумал... И все же я лучше Юдковски знаю, чего хочу!

[valergrad]

Kroid, сделаю еще одну попытку визуализировать для вас, чтобы вы поняли суть...
Представьте вы пришли на телешоу типа "Поле чудес". Всего на это телешоу пришло ровно 100 зрителей, и каждому дали по лотерейному билетику. А теперь разыгрывается лотерея - кто же из зрителей сыграет в "суперигру". Из 100 билетиков случайным образом вытягивается ровно один, и этот человек играет в супер-игру, которая представляет собой игру из эксперимента 1 - то есть либо 24 тысячи с 100% гарантией, либо 27 тысяч с гарантией 97%. Представим, что ловкостью, связями, хитростью вы добыли N = 34 билетика из этих 100, т.е. имеете шанс 34 процентов сыграть в суперигру ( на самом деле совершенно неважно сколько). И тут подходит ведущий дает вам микрофон и спрашивает вас
"Если вы попадете в суперигру, какой вариант вы выберете - 24 или 27?".

Что вы ответите, Kroid, мне, кстати, интересно? И вот здесь мы видим самое главное противоречие. Если вы задумаетесь над вопросом "оптимальная стратегия в суперигре", то вы выберете, я так понял 24 тысячи как гарантированный вариант. Но если вы примете во внимание то, что в суперигру вы еще можете и не попасть, то оптимальная стратегия, по вашему мнению, вдруг поменяется, и станет 27 тысяч. Вам кажется это логичным? Предположим, Kroid, вы действительно скажете:

"Ну, прямо сейчас у меня 33% шанс выиграть 27 тысяч при стратегии "27 тысяч" и 34% шанс выиграть 24 тысячи при стратегии "24 тысячи". Я считаю что 33%-ный шанс выиграть 27 тысяч это лучше чем 34%-ный шанс выиграть 24 тысячи, так что я выберу стратегию "27 тысяч"".

А потом, вдруг неожиданно выпадает ваш билетик. Вы идете в суперигру....и неожиданно понимаете что получилось какое-то там "фундаментальное отличие" и надо было выбирать 24 тысячи, это было бы "надежней".  Правда уже поздно... Вы не видите что ваше поведение противоречиво?

Ведь как рассуждал бы непротиворечивый игрок? "Если я не попаду в суперигру, то я выиграю 0 рублей, здесь выбор моей стратегии безразличен. Если я попаду в суперигру - то там уже при выборе из двух стратегий мне нужно выбирать 24 тысячи, для надежности.  Поэтому, еще до попадания в суперигру, мне выгодно озвучить ведущему стратегию в 24 тысячи. Тогда, если я вдруг попаду в суперигру, я не буду кусать себя за локти".

Это логическое рассуждение. Можно и математически вывести то же самое и еще как угодно. Можно рассуждать и так - в эксперименте 1 мне предлагают уменьшить вероятность победы на 3% увеличив выигрыш на 3000 и я отказываюсь. Тогда и в эксперименте 2, когда мне предлагают уменьшить вероятность победы на 3% увеличив выигрыш на 3000 - я должен отказаться. Соотношение стабильностей/выигрышей абсолютно одинаково и там и там.

Вы говорите, что дело в том, что один из вариантов "дает гарантию"? Что это создает "фундаментальное отличие"? Нет, не думаю что есть какое-то фундаментальное отличие в вероятности равной единица, и не думаю что дело в данном случае в нем. Можно избавиться от вероятности равной единица, если она вас так смущает. Вот 2 новых эксперимента:

Эксперимент 1. Вам предлагают выбрать между вариантами: 
A) выигрыш 100 тысяч с вероятностью 0.95 ( т.е. вероятность провала - 5% )
B) выигрыш 110 тысяч  с вероятностью 0.9 ( вероятность провала 10% - вдвое выше ).
Что вы выберете?

Эксперимент 2. Вам предлагают выбрать между вариантами:
A) выигрыш 500 тысяч с вероятностью 19%
B) выигрыш 550 тысяч с вероятностью 18%
Что вы выберете?

Здесь нет никаких "фундаментально гарантированно", но я убежден что большинство по-прежнему будет выбирать 1A, 2B.
Почему?
Ну, гипотеза номер 1. Это человеческий страх провала. Который отключает мозг. Когда человек выбирает между вариантами, он мысленно представляет себе как он взял более рискованный вариант и проиграл, этот страх очень силен и именно он принимает решение. Но когда риск и так и так высок - "33 процента, 34 - какая разница?" то этот компонент в виде страха провала уже не влияет на принятие решения, и решение принимает другой модуль, с другими приоритетами. Я не буду говорить какое решение правильное - с точки зрения рационалиста нужно просто научиться видеть, что в данном конкретном случае решение принималось не рациональным модулем, а, например, модулем страха. А в другом случае решение принималось модулем жадности и т.п. И что в какой-то момент эти модули могут дать противоречивые указания, или указания про которые ты задним числом будешь думать "где была моя голова?". И один из способов не допускать такого - это, например, добиться принятия решений аналитическим модулем, который может построить непротиворечивую функцию полезности и принимать решения согласно ей. Возможно ты потом задним числом поймешь, что функцию полезности ты выбрал неправильно...но по крайней мере уже не будет противоречивых указаний различных модулей.
Гипотеза номер 2. Речь о том, как человек обрабатывает числа и вообще данные. Как уже отмечалось неоднократно, получая информацию, человек для принятие решений оперирует не самими числами, а логарифмами производной от функций. В эксперименте 1 он видит что в варианте 2 выигрыш увеличивается в 1.1 раза ( логарифм производной равен +0.09),  вероятность победы - уменьшается в 1.1 раза ( -0.09) , вероятность провала - увеличивается в 2 раза ( +0.69). В этом последнем факте логарифм больше в 7 раз, это ему сильно не нравится, и второй вариант запоминается именно этим - как вариант при котором сильно увеличивается вероятность провала. Конечно он отвергается.
В эксперименте 2 же, все числа меняются на 10% - все логарифмы держатся в пределах +-0.09. Ничего не настораживает... поэтому естественно выбрать, например, вариант с наибольшей потенициальной суммой выигрыша.

[Kroid]

Эксперимент 1. Вам предлагают выбрать между вариантами: 
A) выигрыш 100 тысяч с вероятностью 0.95 ( т.е. вероятность провала - 5% )
B) выигрыш 110 тысяч  с вероятностью 0.9 ( вероятность провала 10% - вдвое выше ).
Что вы выберете?

Эксперимент 2. Вам предлагают выбрать между вариантами:
A) выигрыш 500 тысяч с вероятностью 19%
B) выигрыш 550 тысяч с вероятностью 18%
Что вы выберете?

Это уже совершенно другой случай. Эти эксперименты сугубо вероятностные, так что я просто посчитаю матожидание каждого варианта и выберу лучший. Ну, или 1А и 2А, если нужны деньги. Хотя, опять таки, 5% и 1%, целых 4% разницы. В общем, черт знает, по обстоятельствам, в зависимости от того, а что мне вообще нужно. Но абстрактно - по матожиданию.

А про поле чудес, не совсем корректно. Первый этап от меня не зависит как бы. Но вообще интересно. Я мог бы решить, что не стоит испытывать удачу дважды, да и Якубович жулик, так что взял бы 24к.

[fil0sof]

Помните, я как-то раз в соседней ветке упомянул, что 99% человеческих конфликтов возникают из-за недопонимания? Что если я скажу, что сейчас понимаю вас обоих, а вы разными словами говорите об одном и том же, не замечая этого?

(кстати, учитывая всё то же несовершенство мозга и языка, я очень даже не уверен, что смогу эти отличия объяснить, только понимать недостаточно, к сожалению...)

[mihaild]

Kroid, такие варианты:
1А. Вы платите 1 рубль, с вероятностью 100% получаете $24к.
1Б. Вы ничего не платите, с вероятностью 33/34 получаете $27к.

2А. Вы ничего не платите, с вероятностью 34% получаете $24к.
2Б. Вы платите 1 рубль, с вероятностью 33% получаете $27к.

Что вы выберете в случае 1? А в случае 2?

[valergrad]

Это уже совершенно другой случай. Эти эксперименты сугубо вероятностные, так что я просто посчитаю матожидание каждого варианта и выберу лучший. Ну, или 1А и 2А, если нужны деньги.

Ничего себе.
Таким образом, когда вероятности нигде не равны 1 - вы нормально все считаете и способны использовать какие-то непротиворечивые подходы. Но как только где-то вероятность 1 -  так сразу клин, бум, всю рациональность в топку, включается подсистема "фундаментальное различие" и вся логика и математика идет лесом.
Не видите проблемы у себя? А если будет не ровно 1, а 0.999 - ваша подсистема "фундаментальное различие" включится? Для 0.999 вы нормально подсчитаете, или опять будете включать режим "принципиально иной случай"?  А если 0.99999? А на 0.9999999? А на 0.98?  ( Про 0.97 мы уже знаем). Где граница?
Вы сами зачем-то решили 1 выделить в отдельный случай для которого, дескать, все нормальные соображения теряют силу из-за некого "фундаментального различия". Но хотя возможно вы в этом не одиноки, это совсем ни разу не логично. У природы никакого фундаментального различия нет. Есть единица, есть сколь угодно близкие к ней числа, в любом диапазоне близости, и формулы тервера одинаково работают и для единицы и для остальных вероятностей.  В том их и прелесть, да и весь тервер был бы другим если бы единица была каким-то особым случаем, сингулярностью где теряются все закономерности.

[anagor1]

Kroid, сделаю еще одну попытку визуализировать для вас, чтобы вы поняли суть...

Хотя попытка делалась не для меня, всё равно спасибо!
Теперь я действительно понял, почему Вы видите здесь парадокс.
А когда Вы высказали весьма достоверные гипотезы о том, как думает "естественный" человек, я решил было, что расхождения у нас не то чтобы мнимые, но заключаются скорее в понимании термина "парадокс". (Возможно, нечто подобное имел в виду Философ.) Потому что прокомментировать данное ваше рассуждение я мог бы примерно так: "Ну вот! Вы же сами всё объяснили! И где же парадокс?"

Но потом я прочитал повнимательнее и понял, что расхождения гораздо глубже, на уровне, наверное, "восприятия жизни". Постарайтесь и Вы меня понять... впрочем, это ваше дело, стараться или не стараться, но я всё же напишу.

Дело в том, что наше поколение уникально: перед ним в начале 90-х вдруг открылись сумасшедшие возможности, а мозг еще не был выеден "мышлением строителя коммунизма". Наш выпуск поделился примерно пополам: часть уехала за рубеж заниматься наукой, другая осталась в России заниматься бизнесом. (Тех, кто остался в российской науке, можно, увы, образно считать падением монетки на ребро.) Понятно, что далеко не у всех, ринувшихся в бизнес, что-то получилось. Но по прошествии четверти века перед глазами достаточная статистика, чтобы оценить, какие качества и как коррелируют с наблюдаемым успехом. Так вот, оказывается, способность к РМ не только не приносит гарантированного успеха в бизнесе, она коррелирует с ним очень слабо и скорее даже отрицательно. Почему? Видимо, попытка всё обдумать и рассчитать занимает время, а на практике скорость принятия решений важнее их точности. Как сказал мне один весьма успешный предприниматель: "Лучше вовремя принятое неправильное решение, чем никакого". Я не могу отделаться от этого опыта. И не способен убедить себя, что РМ - это именно то, что мне нужно для счастья.

Вы привели совершенно замечательный пример конкретных обстоятельств ("Поле Чудес"), в которых у меня тоже возникло чувство парадокса! Я пытался поставить себя на место Кроида, к которому пример был обращен, и вправду в него (в смысле, в парадокс) уткнуся. С одной стороны, я "сходу" наверняка отвечу ведущему "24000", рассуждая именно так, как рассуждал бы ваш "непротиворечивый игрок". С другой стороны, если ведущий даст мне время задуматься... я, вполне возможно, последую логике, что "33%-ный шанс выиграть 27 тысяч это лучше чем 34%-ный шанс выиграть 24 тысячи". Первая мысль была: "Да это не про меня! Я бы не стал добывать 34 билетика - это глупая суета." Но во-первых, кто-то стал бы - и он тем самым целенаправленно действовал с целью повышения вероятности выигрыша. И просто исходя из принципа последовательности выбрал бы "27". Потому что странно вдруг взять да поменять стратегию ни с того ни с сего. (Вот это действительно странно!) Во-вторых, этот кто-то мог в последний момент вспомнить про неотложные дела "на сто тысяч" и убежал бы, подарив добытые билетики соседу (например, мне). И вот у меня в руках 34 билетика... Блин, я не знаю, как бы я ответил ведущему! Не хватает привходящих обстоятельств, чтобы "вжиться" в роль.
И тут я понял, что для Вас все вышеизложенное - какой-то нервный бред, который не избавит Вас от чувства парадокса. Потому что мы мыслим по-разному. Я не могу возвести РМ на пьедестал "философии жизни", для меня это всего лишь удобный инструмент, который очень полезно иметь в арсенале, но вовсе не обязательно постоянно держать в руках. Но если бы я полагал иначе, я, наверное, вправду чувствовал бы парадокс...
Безусловно, между "точно 1" и "почти 1" "у природы никакого фундаментального различия нет". Но у людей оно есть. Что важнее: понимать природу или понимать людей, 99% которых никаким РМ не обладают? И тут же вплывают новые вопросы. Является ли неуклонное следование РМ правильной стратегией социального сосуществования при таких ("99%") условиях? Если да, то не связано ли это с чувством превосходства над 99%, не понимающими природы - которое, безусловно, "греет душу"? И не служит ли в таком случае "философское РМ" стратегией самоутверждения, а не стратегией жизненного успеха?
Вопросы риторические. А вывод, который я попытаюсь сформулировать, звучит парадоксально-тавтологически: "Правильным для меня решением является моё решение!" Не существует абстрактно, "вообще" правильных решений. Я должен понимать, кто я есть и что мне нужно в этом мире. Понимать это лучше Юдковски, лучше Вас, лучше кого бы то ни было. И тогда я наверняка разберусь, где применимо РМ, а где лучше без него обойтись. Но это не универсальный рецепт. Это всего лишь мое миропонимание.

[valergrad]

Безусловно, между "точно 1" и "почти 1" "у природы никакого фундаментального различия нет". Но у людей оно есть. Что важнее: понимать природу или понимать людей

Ответ на этот вопрос зависит от нашей цели. Если мы хотим разобраться в законах природы и добиваться от нее все больших и больших удобств - то нам важно понимать в первую очередь природу. Если же мы хотим личных благ для себя - то нам важно понимать людей .... но только для того, чтобы использовать баги их когнитивной функции для своего обогащения. Как это делают, например, азартные игры да и большая часть современного бизнеса вообще.

Фактически, в данном случае вы признаете, как мне кажется, пусть и в глубине души, что что-то не так с вашей оценкой этих вероятностных ситуаций. Но вы не хотите скорректировать ее, а гордо несете свое заблуждение - "Да, я рассуждаю здесь может и неправильно, но это мое желание и мое рассуждение! Я так хочу, так что отстаньте!".  Это нормально, это обычно, я много раз слышал подобное от людей. Всегда гораздо проще сохранить заблуждение, чем попытаться от него избавиться. Я уже давно привык в таком случае махать рукой. Но на этом форуме это довольно необычно.

Offtop:

Так вот, оказывается, способность к РМ не только не приносит гарантированного успеха в бизнесе, она коррелирует с ним очень слабо и скорее даже отрицательно.

Боюсь, один выпуск - это слишком мало, чтобы сделать такой глобальный вывод.
И я не уверен, что вы действительно собирали статистику, скорее просто "положились на интуицию".
И ваши знания всех ребят с вашего выпуска тоже сомнительны. Как можно хорошо оценить рациональное мышление всех ребят выпуска? Это нужно реально много времени проводить с каждым. И даже если бы и так - почему мы должны доверять вашей оценке РМ для какого-то человека? Вы пока что демонстрируете скорее анти-рациональность, поэтому ваша оценка чье-то рациональности сомнительна.
И наконец, даже если ваш вывод каким-то чудом после всех этих возражений, оказался бы правильным, то среда для развития бизнеса в России в начале 90-х - совершенно не является типичной средой для развитых стран и даже для России ( и я, надеюсь, не станет).  Даже если в той среде вверх выдвигались самые антирациональные ( а, например, самые приспособленные к конфликтам и насилию, самые жестокие, самые эгоистичные) - это не значит что везде и всегда будет именно так.

[desmod]

Но как только где-то вероятность 1 -  так сразу клин, бум, всю рациональность в топку, включается подсистема "фундаментальное различие" и вся логика и математика идет лесом.

Потому что здесь действительно качественное различие между точно да и возможно нет. А если человек принимает решение подкоркой, где стираются нюансы, то данная ситуация редуцируется к очевидному выбору между да и нет. Но подкорка при этом вовсе не дура. Просто она опирается на первобытный опыт выживания, когда отрицательный исход нередко означал смерть.

Представьте, что подсудимому предлагают выбирать между гарантированным сроком заключения и возможностью рискнуть получить меньший срок при далеко не нулевой вероятности вынесения смертного приговора. В этом случае, если он тоже подумает подкоркой, то будет абсолютно прав.

[valergrad]

Это "качественное отличие" - оно у вас в голове.
Разница между вероятностью 0.999999 и 1  равна одной миллионной, а не некое фундаментальное качественное неизмеримое отличие, которое заставляет срочно переключаться на какой-то другой алгоритм расчета.
И да, из двух вариантов "отсидеть 50 лет" или "отсидеть 5 лет но при этом с вероятностью одна миллионная получить смертный приговор" - я выберу 5 лет, как рационалист. А вы продолжайте пытаться искать где-то в реальном мире абсолютную стабильность ( которой ее там просто нет).
Собственно Аллэ именно так свой закон и сформулировал:

Реальный агент, ведущий себя рационально, предпочитает не поведение получения максимальной ожидаемой полезности, а поведение достижения абсолютной надежности.

Как оказалось из ваших комментариев ( kroid, desmod, anagor1), Аллэ правильно понял суть парадокса, в то время как я выше пытался объяснять через восприятие числовых закономерностей и т.п.  Поэтому благодарю за ваши комментарии - ( хоть я с ними и не согласен ) - они помогли мне лучше понять парадокс.

Хорошо, предположим, мы уяснили суть парадокса. Я полностью согласен с Alaric-ом - рациональность не стоит даже редьки, если она не применяется на практике. Как нам применить это знание на практике? А именно: мы знаем теперь, что средний индивид склонен сильно переоценивать "абсолютную надежность". Какие выводы из этого следуют?

Очевидно, маркетологи это тоже знают. Аллэ не держал это открытие в секрете, фактически он получил за него нобелевку. Раз они это знают, можно предположить, что они существенно повысили стоимость "абсолютной надежности" для покупателя. Т.е. если бы люди оценивали рационально, они бы оценивали абсолютную надежность в товаре или услуге как X, но из-за парадокса они ее оценивают как M*X ( M > 1) , и поэтому маркетологи задирают цену на эту страховку, пока равновесие не установится где-то в районе M*X. Я сейчас не говорю о страховке жизни, скажем, потому что из-за вида кривой полезности она все равно может быть полезной и при завышенной цене.
Но скажем, когда ты покупаешь товар, потеря которого не причинит тебе серьезных неудобств, то вероятно, за страховку на него ты сильно переплачиваешь, чем если бы ты просто посчитал риск его поломки умноженный на  затраты на замену и сравнил со стоимостю страховки. Парадокс Aллэ утверждает , что в большинстве случаев страховка стоит дороже чем должна была быть ( т.к. рассчитана на индивида, который о парадоксе не знает, или как Kroid, desmod знает, но продолжает держаться за привычный, удобный образ мышления).
А если мы бизнесмен - то все понятно, нужно придумать страховку с "абсолютными гарантиями" ( которых может и не быть), и люди заплатят за нее гораздо больше чем она стоит.
Что вы думаете об этом, есть в этом смысл?

[nadeys]

После пятиминутного обдумывания в обоих случаях однозначно выбираю А. Совсем непонятно почему этот Аллэ отрицает предельную полезность денег, ибо именно в она и служит основным критерием для любых вариантов выбора. Предельная полезность денег и страх риска.