Вы здесь

Двоемыслие (выбирая быть искаженным)

Элиезер Юдковский

В руке у О’Брайена появилась газетная вырезка. Секунд пять она находилась перед глазами Уинстона. Это была фотография — и не приходилось сомневаться, какая именно. Та самая. Джонс, Аронсон и Резерфорд на партийных торжествах в Нью-Йорке — тот снимок, который он случайно получил одиннадцать лет назад и сразу уничтожил. Одно мгновение он был перед глазами Уинстона, а потом его не стало. Но он видел снимок, несомненно, видел! Отчаянным, мучительным усилием Уинстон попытался оторвать спину от койки. Но не мог сдвинуться ни на сантиметр, ни в какую сторону. На миг он даже забыл о шкале. Сейчас он хотел одного: снова подержать фотографию в руке, хотя бы разглядеть ее.

— Она существует! — крикнул он.

— Нет, — сказал О’Брайен.

Он отошел.

В стене напротив было гнездо памяти. О’Брайен поднял проволочное забрало. Невидимый легкий клочок бумаги уносился прочь с потоком теплого воздуха: он исчезал в ярком пламени. О’Брайен отвернулся от стены.

— Пепел, — сказал он. — Да и пепла не разглядишь. Прах. Фотография не существует. Никогда не существовала.

— Но она существовала! Существует! Она существует в памяти. Я ее помню. Вы ее помните.

— Я ее не помню, — сказал О’Брайен.

Уинстон ощутил пустоту в груди. Это — двоемыслие. Им овладело чувство смертельной беспомощности. Если бы он был уверен, что О’Брайен солгал, это не казалось бы таким важным. Но очень может быть, что О’Брайен в самом деле забыл фотографию. А если так, то он уже забыл и то, как отрицал, что ее помнит, и что это забыл — тоже забыл. Можно ли быть уверенным, что это просто фокусы? А вдруг такой безумный вывих в мозгах на самом деле происходит? — вот что приводило Уинстона в отчаяние.

(Джордж Оруэлл, «1984»)

Что, если самообман помогает нам быть счастливыми? Что, если избегание и преодоление искажений делает нас наоборот - несчастными? Конечно, настоящая мудрость была бы рациональностью второго порядка, выбором когда быть рациональным. Когда вы могли бы решать, какие когнитивные искажения должны управлять вами, для максимизации своего счастья.

Оставляя в стороне моральный аспект, я сомневаюсь что такой лунатичный вывих в сознании мог бы на самом деле существовать.

Рациональность второго порядка подразумевает, что в некотором смысле вы должны думать про себя «А теперь я, чтобы сделать себя счастливым, иррационально верю, что выиграю в лотерею». Но у нас нет такого прямого контроля над нашими убеждениями. Вы не можете заставить себя поверить что небо зеленое усилием воли. Вы можете быть способны поверить, что верите - хотя я только что усложнил задачу, указав на это проблемное место. (Всегда пожалуйста!) Вы даже можете верить, что вы счастливы и что обманули себя; но вы на самом деле не будете счастливы и самообмануты.

Чтобы рациональность второго порядка была подлинно рациональной, вам сначала нужна была бы хорошая модель реальности для экстраполяции последствий рациональности и иррациональности. Если потом вы решаете сделать выбор в сторону иррациональности первого порядка, вам бы понадобилось забыть эту точную точку зрения. И затем забыть сам акт забывания. Я не подвержен логическому заблуждению обобщения на основе вымышленного свидетельства, но думаю, что Оруэлл проделал хорошую работу по экстраполяции того, куда ведет этот путь.

Вы не можете знать последствия бытия искаженным, пока не сумеете выйти из-под власти искажений. А потом уже слишком поздно для самообмана.

Другая альтернатива - слепо выбирать оставаться во власти искажений, без ясной идеи о последствиях. Но это не рациональность второго порядка. Это упорствование в глупости.

Будьте иррационально оптимистичным насчет своих навыков вождения и будете счастливо беспечным там, где другие потеют и боятся. Вы не доставите себе труда пристегнуться. Вы будете счастливо беспечным день, неделю, год. А потом УДАР и остаток жизни вы будете испытывать желание почесать фантомную конечность. Или будете парализованы ниже шеи. Или мертвы. Это не является неминуемым, но возможно; насколько это вероятно? Вы не можете провести эту сделку рационально, пока не узнаете реальный уровень своих водительских навыков, чтобы понять, какой опасности себя подвергаете. Вы не можете провести эту сделку рационально, пока не знаете о искажениях наподобие пренебрежения вероятностью.

Не имеет значения сколько дней пройдут в слепом невежестве, достаточно будет единичной ошибки, чтобы аннулировать человеческую жизнь, чтобы перевесить все пенни, собранные вами на путях глупости.

Один из ключевых кусочков совета, который я даю целеустремленным рационалистам - «не пытайтесь быть умными» и «прислушивайтесь к этим тихим надоедливым сомнениям». Если вы не знаете, вы не знаете, чего вы не знаете, вы не знаете, как много вы не знаете, и вы не знаете, сколько вам нужно знать.

Нет рациональности второго порядка. Есть только слепой прыжок, который может привести, а может и не привести в каверну с раскаленной лавой. И если вы уже знаете о конечном пункте прыжка, уже поздно зажмуривать глаза.

Но люди пренебрегают этим, поскольку они не знают, чего они не знают. К неизвестным переменным, если неизвестно даже об их существовании, невозможно получить доступ. Люди не концентрируются на пустой области карты, а просто рассматривают ее так, как если бы это соответствовало пустой территории. Когда они рассматривают возможность слепого прыжка, они проверяют свою память на предмет опасностей и видят, что на их пустой карте нет каверн с лавой. Так почему бы не прыгнуть?

Был там. Пробовал. Обжегся. Не пытайтесь быть умными.

Однажды я сказал подруге о своих подозрениях, что счастье глупости сильно переоценивают. А она потрясла серьезно головой и сказала «Нет, не сильно. Правда не сильно».

Возможно, существуют глупые люди. Возможно, они более счастливы, чем вы. Жизнь нечестна и вы не станете счастливее завидуя тому, чего вы не можете иметь. Я подозреваю, что большая часть читателей Overcoming Bias не смогут достичь «счастья глупости», если попытаются. Этот путь закрыт для вас. Вы никогда не сможете достичь этой степени невежества, вы не сможете забыть что вы знаете, вы не можете перестать видеть то, что видите.

Счастье глупости закрыто для вас. Вы никогда не будете иметь его даже ненадолго вследствие повреждения мозга и скорее всего даже тогда нет. Вы должны размышлять, думаю, является ли счастье глупости оптимальным - если это наибольшее счастье, к которому может стремиться человек - но это не имеет смысла. Этот путь для вас закрыт, даже если бы был доступен.

Все, что вам теперь осталось это стремиться к тому счастью, которого может достичь рационалист. Я думаю, что оно может быть даже больше, в конце концов. Есть ограниченные пути и есть пути без конца; плато для лени и горы, которые нужно покорять; и если покорение занимает больше усилий, гора все еще оказывается выше в конце.

Также в жизни есть нечто большее, чем счастье; и чужое счастье, а не ваше собственное, может быть ставкой в ваших решениях.

Но это спорно. К моменту, когда вы понимаете, что у вас есть выбор, выбора уже нет. Вы не можете перестать видеть то, что видите. Другой путь закрыт.

Перевод: 
Remlin
  • Короткая ссылка сюда: lesswrong.ru/200