61
Рациональность / Re: Парадокс Аллэ
« : 21 Июля 2016, 11:59 »Большая часть людей в этой теме, если упростить, пишет нечто вроде: "Пфф, глупенькие, вот вам формула как считать вероятности, так что нечего противоречивые варианты выбирать. Другая функция полезности? Выбросьте, вот вам правильная, вот вам формулы. И солидное трехбуквенное сокращение захватите."
Добро пожаловать в реальный мир, Нео! Оказывается, у большинства людей цель - не теоретическая максимизация количества денег. Оказывается, на принятие решения влияет больше одного соображения. Оказывается, в функции полезности у них не простая формула вроде "y=2x+5", а логика с кучей if'ов и приоритетов.
Kroid, вы просто ничего не поняли.
Нигде в этом парадоксе не требуется, что функция полезности - это максимизация количества денег. Она может быть какой угодно, хоть максимизацией, хоть минимизацией, хоть выкладыванием красивых узоров из циферек.
Нигде в этом парадоксе не требуется, чтобы влияло ровно одно соображение, чтобы была логика в виде формулы, или чтобы не было логики с кучей if-в и приоритетов. Функция полезности может быть какой угодно - нет, прям вообще какой угодно какую вы себе можете вообразить.
Единственное требование которое мы требовали от нее - это ее одинаковость в эксперименте 1 и эксперименте 2. Если я считаю что заработать доллар с помощью азартной игры - это хорошо, заработать 2 доллара - еще лучше, и 3 почему-то уже некомильфо - то я считаю это и в эксперименте 1 и в эксперименте 2. Если я считаю что это плохо, и вообще я люблю синенькие бумажки, а не зелененькие - то точно также в обоих экспериментах. Мы не накладывали НИКАКИХ ограничений на функцию полезности, мы требовали всего лишь чтобы она была ОДИНАКОВОЙ в эксперименте 1 и в эксперименте 2.
Но люди по разному выбирают в эксперименте 1 и в эксперименте 2 - это значит что они не считают функцию полезности для вариантов, а учитывают еще формулировку самих вариантов, потому что любая функция полезности учитывающая только сами варианты а не их формулировку дала бы одинаковый результат в этих двух экспериментах.
Другой, значительно более упрощенный вариант этого парадокса, может вам будет понятней. Человек собирается пить какую-то фарму для бодибилдинга, и мы ему говорим:
Вариант 1: "Ты знаешь, что одна сотая процента людей в мире погибает от этого препарата, даже вчера так было?"
Вариант 2: "Ты знаешь, что 20 человек в мире умерло из-за этого препарата только за вчера?"
Вариант 1 и Вариант 2 идентичны, но я могу себе представить человека, который на Вариант 1 скажет "ээээ, фигня!", а на вариант 2: "ничего себе! может не стоит...". Это просто разные способы подачи информации. Рациональный человек рассчитал бы в обоих случаях функцию полезности с учетом рисков и получил бы одинаковый результат в обоих случаях. Функция полезности могла быть самой разной, хоть "да я все равно хочу сдохнуть" или "такая красивенькая упаковка...", но решение было бы одинаковым в обоих случаях. У нерационального оно может оказаться разным, просто из-за разного способа представления.
С этим парадоксом то же самое. Задача 2 - это просто-напросто переформулированная задача 1, хоть это и значительно труднее увидеть чем, например в моем примере. Я допускаю что вы этого не видите, тервер сложно дается людям, я сам не сразу увидел, но это так. Поэтому ответ должен быть одинаков, если наш ответ зависит от задачи, а не от ее формулировки.
Добавлено [time]21 Июль 2016, 12:11[/time]:
У большинства людей нет функции полезности. Есть ощущение полезности. Его формирует Система 1, которая "размышляет" в других терминах. Грубо говоря - в гештальтах. Можно допустить, что их тоже можно свести с элементарным понятиям теории информации. Но никакого практического смысла в этом нет. Гештальное ("ассоциативное") мышление дает при принятии решений огромный выигрыш во времени по сравнению с рациональным. А время, в отличие от денег - невосполнимый ресурс.
Увы, аберрация абстрагирования - типичное когнитивное искажение байесианца. Связано это, видимо, с ложной индукцией убеждения "вероятность - у нас в голове" в "у нас в голове - вероятность [и ничего более]".
Утверждение "рациональное решение всегда правильно" не эквивалентно "правильное решение всегда рационально", если правильных решений много, поскольку "правильность" - субъективна. Подмена первого (к которому коннотативно приписывается "для меня") на второе фактически означает претензию на "правда одна, и именно я ей обладаю [поскольку рационален]" и придает таким убеждениям отчетливый оттенок религиозности.
В итоге возникает каузальная аберрация - грубо говоря, "подмена цели методом", а точнее - наделение метода каузальностью, придание ему осмысливающего начала, превращение его в самоцель. Но в жизни никогда нет цели "решить задачу методами теорвера", есть цель лишь "решить задачу". Есть разница между "использовать в задаче рациональное мышление" и "навязывать задаче рациональное мышление". Если вы убеждены, что методами теорвера решите ее лучше, или даже если вы убеждены, что методами теорвера кто угодно решит ее лучше - это лишь ваше убеждение, не более.
"Убежденность" - вообще опасное понятие. В голове оно легко и незаметно трансформируется из субъективного "мне не известны свидетельства против" в объективное "отсутствуют свидетельства против", не допускающее в голову сомнений. Например, убежденность в универсальности и "правоте" байесианства мотивирует "глушить звук" на любые возражения, ведь сомнение - это дискомфорт. Лучше уж не иметь никаких убеждений.
Ненене. В данной задаче утверждается не "рациональным быть круто, поэтому срочно все придумывайте для себя функцию полезности и считайте ее всюду, потому что таковы заповеди рационализма". Не вещь в себе, для какой-то абстрактной цели.
В данной задаче Юдковский пишет "придумайте для себя функцию полезности и считайте ее, потому что в противном случае вы можете потерять деньги или не получить того, чего на самом деле хотели" с конкретным примером как это происходит.
Конкретный пример оторван от жизни, слишком абстрактен, поэтому плохо дается людям. Если бы я хотел внушить людям, что им необходимо придумывать для себя функции полезности и использовать их при принятии решений, я бы воспользовался другим примером. Это там где люди платили 20 долларов чтобы получить одну конкретную услугу, когда она могли заплатить 10 долларов, чтобы получить целый пакет услуг включающих в себя и эту услугу. Не помню уже где я читал об этом эксперименте.