Единомыслие

Элиезер Юдковский

Я помню точный момент, когда начал свое путешествие в качестве рационалиста.

Это было не тогда, когда я читал «Конечно вы шутите, мистер Фейнман» или любую другую существующую работу о рациональности; их я просто принял как должное. Путешествие начинается, когда вы видите огромный пробел в своих существующих умениях и открываете путь для их улучшения, создания новых навыков за гранью тех полезных, но неподходящих вам, что нашли в книгах.

В последние моменты моей первой жизни мне было пятнадцать лет, и я перебирал приятные воспоминания о том времени, когда я был еще младше. Мои воспоминания о том периоде расплывчаты; у меня есть мысленная картинка, но я не помню точно сколько мне было лет. Думаю, шесть или семь, изначальное событие произошло в летнем лагере.

Наш вожатый, парень-подросток, собрал нас, детей намного младше его, построил в линию и предложил следующую игру: мальчик, стоящий в конце линии, должен был ползти у нас между ног, а мы бы шлепали его, когда он проползал бы рядом, потом наступала бы очередь следующего мальчика и т.д. (Возможно все, что я бы потерял, было детской наивностью, но я не мог ничего поделать, и задумался…) Я отказался играть в эту игру, и меня поставили в угол.

Эта память — об отказе шлепать и быть отшлепанным — стала для меня символом того, что даже в раннем возрасте я отказывался находить веселье в том, чтобы делать больно другим. Я не обменял бы шлепок по кому-то на шлепок по мне; не оплатил бы болью возможность причинить боль другому. Я отказался играть в игру с отрицательной суммой.

И тогда, в пятнадцать, я внезапно понял, что это было неправдой. Я отказался не потому, что не хотел участвовать в игре с отрицательной суммой. Я узнал о дилемме заключенного рано, но не в семь лет. Я отказался просто потому, что не хотел, чтобы мне было больно, и счел цену стояния в углу за это приемлемой.

Что более важно, я понял, что всегда знал это — что настоящая память всегда была в каком-то из уголков моего сознания, мой ментальный взгляд задерживался на ней на долю секунды и шел дальше.

На самом первом шаге по Пути, я поймал ощущение — обобщив субъективный опыт — и сказал: «Так вот на что похоже ощущение, когда пытаешься запихнуть нежелательную правду на задворки сознания! Теперь я буду замечать всякий раз, когда делаю это, и вычищу все уголки памяти!»

Эту дисциплину я назвал единомыслием, после оруэлловского двоемыслия. В двоемыслии вы забываете, а потом забываете о факте забывания. В единомыслии вы замечаете, что забываете, а потом вспоминаете. Вы придерживаетесь только единой непротиворечивой мысли в сознании за раз.

«Единомыслие» было первым рационалистским умением, которое я создал, а не вычитал в книгах. Я сомневаюсь, что был первым в смысле академического приоритета, но это, к счастью, не обязательно.

Да, я-пятнадцатилетний любил давать имена вещам.

Ужасающие глубины предвзятости подтверждения простираются дальше и дальше. Не бесконечно, для мозга с конечной сложностью, но достаточно для того, чтобы это показалось вечностью. Вы продолжаете исследовать новые механизмы (или читать о них), при помощи которых ваш мозг убирает препятствия со своего пути.

Но юный я вымел несколько углов своей первой метлой.

Перевод: 

Remlin
  • Короткая ссылка сюда: lesswrong.ru/197