Прочие материалы с lesswrong.com

Сюда попадают все материалы, которые не входят в книгу «Рациональность: от ИИ до Зомби». Также здесь могут встречаться материалы, которые в упомянутую книгу входят, но как часть «Цепочек», которые почти не переведены на русский.

Особо продвинутая эпистемология для начинающих

Подробное руководство по эпистемологии от Элиезера Юдковского. Включает практические приложения и задачи для читателя.

Автор: 
Элиезер Юдковский

Полезная идея истины

Элиезер Юдковский

Помню, как я однажды сдавала письменную работу по экзистенциализму. Преподаватель вернула мне её с оценкой «плохо». Она подчеркнула слова «истина» и «истинный» везде, где они встречались в эссе, примерно двадцать раз, и рядом с каждым поставила вопросительный знак. Она хотела узнать, что я понимаю под истиной.

— Даниэлла Эган

Я понимаю, что значит называть гипотезу элегантной, или фальсифицируемой, или соответствующей экспериментальным данным. Мне кажется, что называть убеждение «истинным», или «настоящим», или «действительным» — это всего лишь делать различие между утверждением, что вы во что-то верите, и утверждением, что вы во что-то очень-очень сильно верите.

— Дейл Каррико

Итак, что такое истина? Движущаяся толпа метафор, метонимий, антропоморфизмов, — короче, сумма человеческих отношений, которые были возвышены, перенесены и украшены поэзией и риторикой и после долгого употребления кажутся людям каноническими и обязательными.

— Фридрих Ницше

Задача на ложные убеждения «Салли–Анна» — это эксперимент, который используется, чтобы установить, понимает ли ребёнок разницу между убеждением и реальностью. Проводится он так:

  1. Ребёнок видит, как Салли прячет шарик в закрытую корзину, а Анна за этим наблюдает.
  2. Салли выходит из комнаты, а Анна вынимает шарик из корзины и прячет его в закрытую коробку.
  3. Анна выходит из комнаты, и Салли возвращается.
  4. Экспериментатор спрашивает ребёнка, где Салли будет искать шарик.

Дети до четырёх лет говорят, что Салли будет искать шарик в коробке, а более старшие дети — что в корзине.

Человеческие дети, начиная с возраста (обычно) в четыре года, впервые начинают понимать, что это значит, когда убеждения утрачивают связь с реальностью. Трёхлетний ребёнок моделирует только то, где находится шарик. Четырёхлетний ребёнок, начиная вырабатывать теорию сознания, отдельно моделирует, где находится шарик, и отдельно — где находится шарик по убеждению Салли, и может заметить, когда эти понятия конфликтуют — когда у Салли есть ложное убеждение.

Любое осмысленное убеждение имеет условие истинности, то есть реальность может каким-то образом быть такой, чтобы это убеждение было истинным или наоборот, ложным. Если мозг Салли содержит мысленный образ шарика в корзине, то в реальности шарик действительно может лежать в корзине — и в этом случае убеждение Салли называется «истинным», поскольку реальность удовлетворяет его условию истинности. Либо же возможно, что Анна вынула шарик и спрятала его в коробке, и в этом случае убеждение Салли называется «ложным», поскольку реальность не удовлетворяет его условию истинности.

Математик Альфред Тарский однажды описал понятие «истины» как бесконечную серию условий истинности:

  • Предложение «снег белый» истинно тогда и только тогда, когда снег белый.
  • Предложение «небо голубое» истинно тогда и только тогда, когда небо голубое.

Теперь кажется, что различие тут тривиально: зачем вообще говорить о предложениях, если предложение выглядит настолько похожим на реальность, когда и предложение, и реальность описаны на одном и том же языке?

Но когда мы оглядываемся на задачу «Салли–Анна», это различие становится куда яснее: убеждение Салли закодировано конфигурацией нейронов и нейронных путей в мозгу Салли, во влажной и чрезвычайно сложной органической ткани массой в килограмм с третью, находящейся внутри черепа Салли. Сам же шарик — это маленькая пластиковая сфера, которая перемещается между корзиной и коробкой. Сравнивать убеждение Салли с шариком — значит сравнивать совершенно разные вещи.

Тогда зачем вообще говорить об абстрактных «предложениях», а не об убеждениях, закодированных нейронами? Может быть так, что Салли и Фред верят «в одно и то же», то есть их мозги содержат внутренние модели шарика в корзине — то есть оба утверждения, каждое в своём мозге, имеют одинаковое условие истинности. В этом случае можно абстрагировать то, что эти убеждения имеют между собой общего, то есть общее условие истинности, в виде предложения или утверждения, которое мы считаем истинным или ложным отдельно от каких-либо верящих в него мозгов.

Некоторые мыслители выражают панику по поводу того, что любое суждение об истине — любое сравнение убеждения с реальностью — является частью чьего-то мышления, и, казалось бы, всего лишь сравнивает чужое убеждение со своим собственным:

То есть получается, что все эти разговоры об истине — это всего лишь сравнение чужих убеждений со своими и попытка установить свой авторитет? Получается, что слово «истина» — всего лишь оружие в борьбе за власть?

Мало того, мы даже не можем напрямую сравнить чужие убеждения с своими собственными. Мы можем только сравнить, внутри себя, наше убеждение о чьём-то чужом убеждении с нашим собственным убеждением — сравнить нашу карту их карты с нашей картой территории.

Аналогично получается, что когда мы говорим о наших собственных убеждениях, что они «истинны», это означает, что мы сравниваем свою карту своей карты со своей картой территории. Обычно люди не ошибаются в своём представлении о том, во что они верят. Хотя из этого правила есть определённые исключения, обычно карта карты верна, то есть люди обычно имеют верные убеждения о том, какие убеждения они имеют:

Следовательно, сказать «Я считаю, что небо голубое, и это верно!» — обычно значит выразить ту же информацию, которую выражают предложения «Я считаю, что небо голубое» или просто «Небо голубое», то есть информацию о том, что ваша мысленная модель мира содержит голубое небо.

Подумайте над вопросом:

Если это так, то получается, что постмодернисты правы? Получается, что все эти рассуждения об «истине» — это всего лишь попытка установить приоритет ваших собственных убеждений над чужими, и нет способа сравнить убеждение с самой реальностью, а не с содержимым чьей-то головы?

Здесь и далее я буду вставлять вопросы, над которыми читателям предлагается найти ответ самостоятельно, прежде чем двигаться дальше. Это моя несколько неуклюжая попытка отразить результаты исследований, показавших, что читатели значительно чаще запоминают какой-то факт или решение проблемы, если сначала пытаются решить проблему сами, прежде чем прочитать решение. Удастся вам решить проблему или нет, главное — попытаться и только затем читать дальше. Здесь отражена также проблема, существующая по мнению Майкла Вассара: поскольку статьи такого рода часто кажутся очевидными после прочтения, читателям зачастую сложно визуализировать разницу между «до» и «после», и для целей обучения эту разницу полезно себе представлять. Поэтому, пожалуйста, попытайтесь сначала высказать свой собственный ответ на вопрос — в идеале прошепчите его себе, либо двигайте губами, представляя, как вы его проговариваете, чтобы сделать его явным и доступным для вашей памяти — прежде чем продолжать. Попытайтесь также осознанно заметить разницу между вашим ответом и ответом, приведённым в статье, включая любые дополнительные или отсутствующие детали, и не пытайтесь увеличить или уменьшить это различие.

Ответ:

Ответ, который я дал Дейлу Каррико — который заявил мне, что знает, что означает фальсифицируемость убеждения, но не знает, что означает его истинность, — состоял в том, что мои убеждения определяют мои экспериментальные предсказания, но только реальность может определять мои экспериментальные результаты. Если я очень сильно верю в то, что я умею летать, то это убеждение может сподвигнуть меня сделать шаг с обрыва, ожидая, что он безопасен; но только истинность этого убеждения может спасти меня от смертельного падения.

Поскольку мои ожидания иногда конфликтуют с тем, что я затем вижу и ощущаю происходящим вокруг меня, мне нужны разные названия для того, что определяет мои экспериментальные предсказания, и для того, что определяет мои экспериментальные результаты. Первое я называю «убеждениями», а второе — «реальностью».

Вы не получите прямого столкновения между убеждениями и реальностью — или между чужими убеждениями и реальностью — если будете сидеть в комнате с закрытыми глазами. Но если вы откроете глаза, ситуация изменится!

Давайте проследим за тем, как ваш мозг получает информацию о том, что ваши шнурки развязаны:

  • Фотон покидает Солнце и летит к Земле через её атмосферу.
  • Ваш шнурок поглощает и снова испускает этот фотон.
  • Отражённый фотон проходит через зрачок вашего глаза и направляется на сетчатку.
  • Фотон падает на клетку-палочку или клетку-колбочку, или, ещё точнее, он падает на фоторецептор, форму витамина А, известную как ретиналь. Эта молекула затем изменяет свою форму, вращаясь вокруг двойной связи, благодаря поглощению энергии фотона. Связанный белок под названием опсин в ответ претерпевает смену конформации, и это возмущение далее распространяется на тело нервной клетки, которая наполняет энергией протон и увеличивает его поляризацию.
  • Постепенное изменение поляризации распространяется на биполярную клетку и затем клетку ганглия. Если поляризация клетки ганглия превышает определённую границу, клетка испускает нервный импульс — распространяющееся электрохимическое явление поляризации-деполяризации, которое проходит по мозгу со скоростью от 1 до 100 метров в секунду. Таким образом, свет из внешнего мира преобразуется в информацию внутри нервной системы, совместимую с субстратом остальных мыслей.
  • Нервный сигнал подвергается предварительной обработке другими нейронами в сетчатке, затем в латеральном коленчатом теле в середине мозга, после чего в зрительной коре, находящейся в задней части головы, восстанавливается уменьшенное изображение окружающего мира — изображение, закодированное в частотах испускания сигналов нейронами, составляющими зрительную кору. (Это изображение искажено, поскольку центр поля зрения обрабатывается со значительно большей степенью детализации, чем его края, — то есть распределяется между большим числом нейронов и большей площадью коры.)
  • Информация из зрительной коры затем направляется в височные доли, которые отвечают за распознавание объектов.
  • Ваш мозг распознаёт форму развязанного шнурка.

Так ваш мозг обновляет свою картину мира, включая в неё тот факт, что ваши шнурки развязаны. Даже если до этого он ожидал увидеть их связанными! У вашего мозга нет никакой причины не обновлять свою картину мира, если только в этом не замешана политика. Когда фотоны, направляющиеся в сторону глаза, преобразуются в нервные сигналы, они принимают форму, совместимую с другой содержащейся в мозгу информацией, и могут сравниваться с предыдущими убеждениями.

Убеждения и реальность взаимодействуют постоянно. Если бы мозг и его окружение никогда не соприкасались, нам не нужны были бы ни глаза, ни руки, и мозг мог бы иметь намного более простое строение. Организмам вообще не нужны были бы мозги.

Хорошо, убеждения и реальность — это разные сущности, которые пересекаются и взаимодействуют. Но из того, что нам нужны отдельные понятия для «убеждений» и «реальности», ещё не следует потребность в понятии «истины», то есть сравнения между ними. Возможно, мы могли бы говорить отдельно (а) о представлениях некоего разумного существа о том, что небо голубое, и (б) о самом небе. Вместо того, чтобы говорить «Джейн считает, что небо голубое, и она права», мы могли бы сказать «Джейн считает, что небо голубое; кроме того, небо голубое» и тем самым выразить ту же информацию (а) о наших убеждениях относительно неба и (б) о наших убеждениях относительно убеждений Джейн. Мы всегда могли бы, применяя схему Тарского «Предложение “X“ истинно тогда и только тогда, когда X», заменить любое утверждение об истинном предложении утверждением о его условии истинности, о соответствующем состоянии реальности (неба или чего-нибудь ещё). Так мы могли бы вообще избежать этого надоедливого слова «истина», о котором философы ведут бесконечные споры и которым злоупотребляют разные раздражающие личности.

Пусть есть некое разумное существо — для определённости пусть это будет искусственный интеллект, который занимается своей работой в одиночку и которому никогда не требовалось ни с кем спорить о политике. ИИ знает, что «Моя модель полагает с вероятностью 90%, что небо голубое»; он уверен в том, что эта вероятность — это именно то предложение, которое сохранено в его оперативной памяти. Отдельно ИИ моделирует, что «Вероятность того, что мои оптические датчики обнаружат за окном голубой цвет, равна 99% при условии, что небо голубое», и не путает это утверждение с утверждением о том, что его оптические датчики обнаружат голубой цвет, когда он полагает, что небо голубое. Значит, этот ИИ определённо может отличать карту от территории; он знает, что разные состояния его оперативной памяти имеют последствия и причинно-следственные связи, отличные от тех, какими обладают разные состояния неба.

Но может ли этому ИИ понадобиться общее понятие истины — может ли ему понадобиться придумать слово «истина»? Почему, если бы у него было это понятие, он мог бы работать лучше?

Подумайте над вопросом: Если мы имеем дело с искусственным интеллектом, которому не нужно ни с кем спорить о политике, может ли ему когда-нибудь понадобиться слово или понятие «истина»?

Ответ: Абстрактное понятие «истины» — общая идея о соответствии карты и территории — нужно, чтобы выразить такие идеи, как:

  • Обобщение по всем возможным картам и городам: если ваша карта города точна, то более вероятно, что навигация по этой карте вовремя доставит вас в аэропорт.
  • Чтобы начертить верную карту города, кто-то должен выйти на улицу и посмотреть на здания. Вы не сможете составить точную карту, сидя в комнате с закрытыми глазами и пытаясь представить, каким бы вы хотели видеть город.
  • Истинные убеждения с большей вероятностью делают правильные экспериментальные предсказания, чем ложные убеждения; поэтому, если мы будем больше доверять гипотезам, делающим правильные экспериментальные предсказания, наша модель реальности со временем будет становиться всё более верной.

В этом и состоит главное преимущество рассуждений и размышлений об «истине»: мы можем обобщать правила составления карт, соответствующих территориям, и извлекать уроки, которые можно распространять на другие области, а не только на цвет того или иного неба.

Как и всегда, тотальная философская паника оказалась в данном случае необоснованной. Но наша внутренняя оценка «истины» как сравнения между картой карты и картой реальности есть ключевая практическая проблема: в этой схеме мозгу очень просто принять за истину абсолютно бессмысленное предложение.

Пусть некий профессор литературы рассказывает на лекции, что знаменитые писатели Кэрол, Дэнни и Элейн являются «пост-утопистами», что следует из того, что их произведения имеют признаки «колониального отчуждения». Для большинства студентов типичным результатом будет то, что в аналоги ассоциативных массивов в их мозгах к объектам «Кэрол», «Дэнни» и «Элейн» будет добавлено свойство «пост-утопист». Когда в последующей контрольной работе встретится вопрос «Приведите пример писателя — пост-утописта», студент напишет «Элейн». Что, если студент напишет «Я думаю, что Элейн — не пост-утопист»? Тогда профессор смоделирует…

…и пометит ответ как неправильный.

В конце концов…

  • Предложение «Элейн — пост-утопист» истинно тогда и только тогда, когда Элейн — пост-утопист.

…правильно?

Может, конечно, быть и так, что этот термин действительно что-то означает (хотя я сам его выдумал). Может даже быть и так, что, хотя профессор не может дать хорошего и явного ответа на вопрос «А что вообще такое пост-утопизм?», тем не менее можно показать многим разным профессорам литературы новые произведения неизвестных им авторов, и все они независимо придут к одному и тому же ответу, из чего последует, что какое-то доступное чувствам свойство текста они явно обнаруживают. Мы не всегда знаем, как работают наши мозги, и мы не всегда знаем, что мы видим, и небо было голубым задолго до того, как появилось слово «голубой»; чтобы часть картины мира в вашем мозгу имела смысл, не требуется, чтобы вы могли объяснить её словами.

С другой стороны, может быть и так, что профессор узнал о «колониальном отчуждении», зазубрив то, что ему в своё время говорил его профессор. Может быть так, что единственный человек, чей мозг когда-то вкладывал в эту фразу реальный смысл, уже умер. Так что к тому времени, как студенты узнают, что слово «пост-утопист» — это пароль, который требуется называть в ответ на запрос «колониальное отчуждение», обе фразы стали не более чем словесными ответами. которые требуется заучивать, не более чем набором ответов для теста.

Эти две фразы не выглядят «оторванными» от реальности сами по себе, потому что они не оторваны друг от друга: пост-утопизм как будто имеет последствие в виде колониального отчуждения, а если вы спросите, что следует из колониального отчуждения, то это означает, что автор, скорее всего, пост-утопист. Но если вы очертите кругом эти два понятия, то обнаружите, что ни с чем больше они не связаны. Это плавающие убеждения, никак не связанные со всей остальной моделью. И тем не менее нет никакого внутреннего тревожного сигнала, который бы звучал, когда такое происходит. Точно так же, как «неправота ощущается как правота» — так же, как обладание ложным убеждением ощущается как обладание истинным убеждением, по крайней мере до проведения эксперимента, — так и бессмысленное убеждение может ощущаться как осмысленное.

Группы, обладающие совершенно бессмысленными убеждениями, могут даже враждовать. Если кто-то спросит «Является ли Элейн пост-утопистом?» и одна группа закричит «Да!», а вторая — «Нет!», они могут подраться просто из-за разных кричалок: для начала вражды необязательно, чтобы слова что-то значили. С тем же успехом может начаться драка между группой, кричащей «Ку!», и группой, кричащей «Кю!» Говоря более общо, важно различать видимые последствия высказанного убеждения, содержащегося в мозгу профессора (студенты должны написать на контрольной то, что нужно, иначе профессор посчитает их ответ неверным) и видимые последствия состояния реальности, не оформленного словесно (то есть состояния территории, при котором Элейн действительно является пост-утопистом).

Одним классическим ответом на эту проблему был верификационизм, который считал, что предложение «Элейн — пост-утопист» является бессмысленным, если оно не говорит нам, какие сенсорные ощущения мы ожидаем испытать, если это предложение истинно, и как эти ощущения будут отличаться в случае, когда предложение ложно.

Но теперь представьте, что я направляю фотон в пустоту между галактиками, и он улетает далеко в глубины космоса. В расширяющейся Вселенной этот фотон в конце концов пересечёт космологический горизонт, за которым, даже если фотон упадёт на зеркало, которое отразит его обратно в направлении Земли, он никогда не вернётся сюда, потому что за это время Вселенная расширится слишком быстро. Следовательно, после того, как фотон пересечёт определённую черту, у утверждения «Фотон продолжает существовать вместо того, чтобы исчезнуть» не будет совершенно никаких экспериментальных последствий.

И тем не менее мне кажется — и, надеюсь, вам тоже, — что утверждение «Фотон внезапно исчезает из мироздания сразу же, как только у нас пропадает возможность его когда-либо увидеть, и тем самым нарушает закон сохранения энергии и ведёт себя не так, как все видимые нам фотоны» ложно, а утверждение «Фотон продолжает существовать, улетая в никуда» истинно. И подобные вопросы могут иметь важные последствия в контексте принятия решений: представьте, что мы думаем о снаряжении околосветового корабля, летящего как можно дальше, так что он пересечёт космологический горизонт до того, как он замедлится, чтобы колонизировать какое-нибудь далёкое сверхскопление галактик. Если бы мы думали, что корабль исчезнет из Вселенной, как только пересечёт космологический горизонт, мы бы не стали и рассматривать возможность отправить его в полёт.

Спрашивать себя об ощутимых последствиях наших убеждений полезно и мудро, но они не подходят на роль фундаментального определения осмысленных утверждений. Это отличная подсказка, сигнализирующая о том, что что-то может быть оторванным от реальности «плавающим убеждением», но не абсолютное правило.

Можно попробовать ответить, что для того, чтобы утверждение было осмысленным, реальность должна иметь возможность быть такой, чтобы это утверждение могло быть истинным или ложным; а поскольку Вселенная состоит из атомов, должна существовать такая конфигурация атомов Вселенной, чтобы это утверждение было истинным или ложным. Например, чтобы утверждение «Я в Париже» было истинным, нужно переместить в Париж составляющие меня атомы. Литературный критик может заявлять, что Элейн имеет свойство, называемое пост-утопизмом, но нет никакого способа перевести это заявление в способ перераспределить атомы Вселенной так, чтобы сделать его истинным или же ложным; следовательно, у него нет условия истинности, то есть оно бессмысленно.

И действительно, существуют такие заявления, при которых, если вы остановитесь и подумаете: «Как можно перестроить Вселенную так, чтобы это было истинным или ложным?», то вы внезапно осознаете, что вы не так хорошо понимаете условие истинности этого заявления, как вы думали. Например, «Страдание закаляет дух» или «Все экономические кризисы — результат плохой денежной политики». Эти утверждения необязательно бессмысленны, но их гораздо проще высказать, чем представить себе мир, в котором они истинны или ложны. Точно так же, как и вопрос об ощутимых последствиях, вопрос о способе конфигурации Вселенной является важным индикатором осмысленности или бессмысленности.

Но если бы вы сказали, что для осмысленности утверждения должна существовать конфигурация атомов, делающая его истинным или ложным…

Тогда такая теория, как квантовая механика, изначально была бы бессмысленной, поскольку нет никакого способа распределить атомы так, чтобы сделать её истинной.

И наше открытие, что Вселенная состоит не из атомов, а из квантовых полей, обратило бы все осмысленные утверждения во всём мире в бессмысленные — потому что оказалось бы, что нет никаких атомов, которые можно было бы перераспределить, чтобы выполнить их условия истинности.

Подумайте над вопросом: Какое правило могло бы ограничить наши убеждения только теми, которые могут иметь смысл, не отсекая при этом раньше времени ничего, что в принципе может быть истинным?

Перевод: 
Майя Эверетт
Оцените качество перевода: 
Средняя оценка: 3.3 (64 votes)

Рациональность как привязанность к алгоритмам познания

Элиезер Юдковский

Существует распространённая ошибка (которая меня довольно сильно раздражает), когда человек начинает вещать о важности «Истины». Обычно при этом подразумевается, что Истина — это нечто возвышенное, а не какие-нибудь скучные мирские истины о гравитации, радугах или о том, что ваш коллега сказал о вашем начальнике.

Поэтому довольно полезно упражняться в том, чтобы убирать слово «истина» из всех предложений, где оно появляется. (Замечу, что это один из видов рационалистского табуирования.) Например, вместо утверждения «Я считаю, что небо синее, и это истина!» можно просто сказать «Небо синее». Собеседник при этом получит совершенно одинаковую информацию о том, какой цвет неба с вашей точки зрения. А если утверждения «Я считаю, что демократы выиграют выборы» и «Демократы выиграют выборы» ощущаются для вас по-разному, то это важный сигнал о расхождении ваших сознательных и интуитивных убеждений.

Попробуйте попрактиковаться на следующих утверждениях:

  • Я считаю, что Джесс пытается лишь выиграть спор.
  • Истина в том, что ты невнимателен.
  • Я считаю, что у меня всё наладится.
  • На самом деле учителя очень заботятся об учениках.

Если «истина» определяется как бесконечное семейство предложений вида «Предложение „небо синее“ истинно тогда и только тогда, когда небо синее», то зачем нам вообще рассуждать об «истине»?

Мы не сможем убрать «истину» из предложения «Истинные убеждения с большей вероятностью позволяют делать предсказания, подтверждаемые экспериментом». Это предложение говорит о свойствах связи между картой и территорией. Словосочетание «истинные убеждения» можно заменить на «точная карта», однако это будет отсылкой к тому же понятию.

Слово «истина» можно удалить из большинства предложений лишь потому, что эти предложения не говорят ничего о связи между картой и территорией.

Теперь зададимся вопросом: когда необходимо использовать слово «рациональный»?

Как и в случае слова «истина», существует очень мало предложений, в которых действительно необходимо слово «рациональный». Рассмотрим следующие упрощения. Ни при каком из них практически не происходит потери информации.

  • «Рационально считать, что небо синее».
    -> «Я думаю, что небо синее».
    -> «Небо синее».

  • «Рациональное питание: почему стоит придерживаться палеодиеты»
    -> «Почему вы должны считать, что палеодиета приведёт к самым лучшим последствиям для здоровья».
    -> «Мне нравится палеодиета».

Практически всегда, когда люди объявляют что-то рациональным, можно без потери смысла заменить это слово словом «оптимальный». В тех случаях, когда речь идёт об убеждениях, а не стратегиях, — словами «истинный» или чем-то вроде «я считаю, что это так».

Попробуйте попрактиковаться на следующих утверждениях:

  • «Рационально учить детей дифференцировать и интегрировать».
  • «По-моему, это самая рациональная книга на свете».
  • «Рационально верить в гравитацию».

Подумайте над вопросом: В каких редких случаях из предложения нельзя убрать слово «рациональный»?

Ответ: Слово «рациональный» нам нужно, чтобы разговаривать о когнитивных алгоритмах или мыслительных процессах, обладающих свойствами «систематически улучшают связь между картой и территорией» (эпистемическая рациональность) или «систематически обеспечивают лучшие пути к цели» (инструментальная рациональность).

Например:

»(Эпистемически) рационально придерживаться гипотез, которые позволяют делать предсказания лучше».

или

«Цепляться за невозвратные затраты (инструментально) иррационально».

Из этих предложений нельзя убрать понятие рациональности без потери смысла. Можно найти способ перефразировать их без использования слова «рационально», однако придётся передавать то же самое понятие другими словами. Например:

«Если вы больше придерживаетесь гипотез, которые позволяют делать предсказания лучше, то ваша карта со временем лучше соответствует реальности».

или

«Если вы цепляетесь за невозвратные потери, вам это будет мешать достигать своих целей».

Слово «рационально» подходит для разговора о когнитивных алгоритмах, которые систематически улучшают связь карты и территории или помогают достижению целей.

Аналогично, рационалист — это не просто человек, который уважает Истину.

Слишком многие уважают Истину.

Некоторые уважают Истину о том, что правительство США заложило взрывчатку во Всемирный торговый центр, Истину о том, что судьбу человека решают звёзды (забавно, но если всё пойдёт как надо, правдой окажется противоположное утверждение), Истину о том, что глобальное потепление — это ложь, и так далее.

Рационалист — это человек, который уважает процессы поиска истины. Рационалисты — это люди, которые демонстрируют настоящее любопытство, даже если это любопытство касается давно всем понятных вопросов, вроде взрывчатки во Всемирном торговом центре. Ведь истинное любопытство — это часть излюбленного алгоритма и уважаемого процесса. Рационалисты уважают Стюарта Хамероффа за попытки проверить, действительно ли в нейронах могут происходить квантовые вычисления, пусть даже эта идея априори кажется крайне маловероятной и появилась как следствие ужасного гёделевского аргумента о том, что мозг не может быть механизмом. Однако Хамерофф попытался проверить свои странные убеждения экспериментально. И если бы «странные» убеждения никогда не проверялись экспериментально, человечество до сих пор обитало бы в саванне.

Или вспомним полемику о том, как CSICOP (Комитет по научному расследованию заявлений о паранормальных явлениях) разбирался с так называемым эффектом Марса. Эта полемика привела к тому, что CSICOP покинул его основатель, Деннис Роулинз. Действительно ли положение планеты Марс в небе во время часа рождения человека влияет на то, станет ли он знаменитым атлетом? Я скажу «нет», пусть даже кто-нибудь со мной не согласится. И если вы уважаете лишь Истину, то совершенно не важно, что CSICOP в процессе повысил требования к астрологу Гоклену — в смысле, объявил об эксперименте, а затем придумал новые причины отвергнуть результаты Гоклена, после того, как они оказались положительными. Выводы астролога почти наверняка неверны, конечно же, эти выводы отвергли, Истина восторжествовала.

Однако рационалиста волнуют утверждения, которые нарушают процессы рациональности. Байесианец в ситуации, похожей на описанную чуть-чуть сместил бы свои убеждения в сторону астрологии, однако априорные шансы против астрологии слишком велики. В большей степени байесианец сместил бы свои убеждения в сторону того, что Гоклен случайно наткнулся на какое-то явление, которое стоит исследовать подробнее. И уж точно он не стал бы требовать эксперимента, а затем игнорировать результаты или, когда результаты оказались не такими, как он ожидал, придумывать оправдания, почему эксперимент был неправильным. Такое поведение систематически плохо влияет на поиски истины. А рационалист ценит не просто красоту Истины, но красоту процессов и алгоритмов познания, позволяющих её находить.

У рационалистов получается вести необычайно продуктивные и дружественные разговоры (по крайней мере, пока всё идёт нормально) не потому, что все участники очень сильно уважают то, что они считают Верным или Оптимальным. В обычных условиях люди яростно спорят не потому, что знают правду, но не уважают её. Разговоры рационалистов (потенциально) более продуктивны в той степени, в какой все участники уважают процесс и соглашаются, каким именно этот процесс должен быть - что достигается явным изучением предметов вроде когнитивной психологии и теории вероятностей. Когда Анна говорит мне: «Меня беспокоит, что, судя по всему, тебе не слишком любопытен этот вопрос», речь идёт о состоянии ума, которое мы оба считаем важным. И я понимаю, что когда уважаемая мной рационалистка говорит мне, что я должен проявить любопытство, я должен задуматься, оценить свой уровень любопытства и попытаться его увеличить. Это часть рационалистского процесса, и она находится на мета-уровне относительно конкретного обсуждаемого вопроса.

Нужно ли любить рациональность, чтобы её использовать? Я могу представить мир, в котором миллионы людей учатся в школе правильно использовать Искусство, но лишь горстка любит его настолько, что пытается его развивать, а все остальных Искусство интересует лишь в связи с практическими результатами. Точно также я могу представить компетентного прикладного математика, который работает на инвестиционный фонд исключительно ради денег - он никогда не любил ни математику, ни программирование, ни оптимизацию. Я могу представить компетентного музыканта, который не испытывает особой любви к композиции или наслаждения от музыки, и которого заботит лишь продажа альбомов и поклонницы. Если какое-то явление можно вообразить, это ещё не означает, что его вероятно встретить в реальной жизни… Однако, если где-то существуют множество детей, которые учатся играть на фортепьяно, хотя и не любят это занятие, «музыкантом» будет считаться тот, кто играет необычайно хорошо, а не просто нормально.

Однако пока в нашем мире, где Искусство ещё ни навязывается насильно школьникам, ни приносит явного вознаграждения на обыденном карьерном пути, почти все владеющие какими-то рациональными навыками — это люди, которых захватывает Искусство само по себе. И это — возможно, тут стоит сказать «увы» — многое объясняет, как о рационалистских сообществах, так и о мире.

Перевод: 
Alaric
Оцените качество перевода: 
Средняя оценка: 4.1 (12 votes)

Навык: Карта — не территория

Элиезер Юдковский

Самая ранняя известная мне рационалистская фантастика — это серия «Нуль-А» Альфреда ван Вогта. (Я знаю всего два примера рационалистской фантастики, не произошедшей от «ГПиМРМ», и второй — это «Праща Давида» Марка Стиглера.) У главного героя книг ван Вогта, Гилберта Госсейна, множество невоспроизводимых способностей: хотя они якобы относятся к мыслительным, вы не в состоянии им научиться. Например, благодаря своим тренировкам, герой умеет использовать всю свою силу в чрезвычайных ситуациях. Главный же рационалистский навык, которому, читая о приключениях Госсейна, научиться всё-таки можно, заключён в его девизе:

Карта — не территория.

Меня до сих пор иногда поражает мысль, что эту поговорку пришлось придумать: это сделал парень по фамилии Коржибски, причём лишь в двадцатом веке. Я читал книги ван Вогта в раннем детстве, поэтому для меня эта фраза звучит как аксиома, без которой существовать невозможно.

Однако поскольку Байесовский заговор вступает во вторую стадию своего развития, мы должны приучиться переводить просто красивые мысли в техники, которые можно применить на практике. Начнём.

Подумайте над вопросом. При каких обстоятельствах полезно осознанно думать о различиях между картой и территорией, то есть осознанно представлять мысленный пузырь, содержащий убеждение, и реальность вокруг него вместо того, чтобы с помощью карты напрямую размышлять о реальности? Как именно это поможет и в каких задачах?

Навык 1. Вообразить собственную неправоту.

В книге ван Вогта Гилберт Госсейн вспоминает о поговорке про карту и территорию, когда не уверен в каких-то убеждениях: «Ты так считаешь, но мир не обязательно так устроен». Это высказывание может казаться базовой истиной, но именно с него часто начинается обучение начинающих рационалистов. Они прыгают из мира, где небо просто синее, трава просто зелёная, а люди из Другой Политической Партии просто одержимы злобными демонами, в мир, где, возможно, реальность не совпадает с этими убеждениями и способна когда-нибудь вас удивить. В случае «трава зелёная» этому можно присвоить достаточно низкую вероятность, однако в мире, где территория отделена от карты по крайней мере допустимо, что однажды реальность не согласится с вами. Некоторые люди способны практиковать этот навык. Например, в случаях, когда им хочется полностью отвергнуть вероятность, что, возможно, они ошибаются, эти люди мысленно представляют себя сначала в мире, где их убеждения верны, а потом в мире, где их убеждения неверны. Убеждения относительно мотивов других людей — например, «Он меня ненавидит!» — судя по всему, лучше перефразировать как: «Я считаю, что он меня ненавидит» или «Я предполагаю, что он меня ненавидит». Результат иногда получается гораздо лучше.

По тем же причинам часто помогает рассуждение на языке вероятностей. Если вероятность Х — 75%, значит вероятность не-Х — 25%. Таким образом вы автоматически рассматриваете больше одного мира. Присваивание вероятностей также неминуемо напоминает, что сейчас вы работаете лишь со знаниями о мире. Ведь вероятностными могут быть лишь убеждения. Реальность всегда либо одна, либо другая.

Навык 2. Рассмотреть убеждение с другой точки зрения.

Если мы действительно в чём-то убеждены, нам кажется, что мир такой и есть. Если смотреть изнутри, другим людям кажется, что они живут в другом мире, не в таком же, как вы. Другие не соглашаются с вами не потому, что они безпричинно упрямы, они не соглашаются, потому что ощущают мир по-другому, пусть даже вы и находитесь в одной и той же реальности.

Книга «Гарри Поттер и методы рационального мышления» написана, в том числе, с использованием этого навыка. Когда я создавал того или иного персонажа, например, Драко Малфоя, я не просто представлял, как он думает, я представлял окружающий его субъективный мир, который вращается вокруг него. Всё остальное считалось важным (или вообще принималось во внимание) лишь в зависимости от того, насколько оно важно для этого персонажа. Большинство книг показывают лишь одну точку зрения. Часто, даже если в книге представлено несколько точек зрения, второстепенные персонажи живут во вселенной главного героя и думают в основном о том, что важно главному герою. В «ГПиМРМ», когда вы встаёте на место Драко Малфоя, вас выдёргивают в субъективную вселенную Драко Малфоя, где у Пожирателей Смерти есть веские причины для их действий, а Дамблдор — внешнее беспричинное зло. Поскольку я не планировал писать постмодернистское произведение, персонажи всё же определённо жили в одной и той же реальности и оправдания действий Пожирателей Смерти убедительно звучали лишь для Драко — я не старался их как-то улучшить, чтобы убедить читателя. Речь не идёт о том, что каждый персонаж в буквальном смысле живёт в своей вселенной, и не о том, что все стороны моральны в равной степени, что бы они не делали. Речь о том, что разные элементы реальности для разных персонажей имеют разный смысл и разное значение.

Джошуа Грин однажды заметил (кажется, это было в его статье «Ужасная, кошмарная, нехорошая, очень плохая мораль»), что дискуссии о политике почти всегда выглядят как чтение нотаций непослушным детям, отказывающимся признавать очевидные истины. Отмечу, что если ошибающийся не в состоянии проверить свои убеждения экспериментально, то он может внутренне ощущать себя также, как и в тех случаях, когда он прав.

Навык 3. Вы с меньшей вероятностью примете анти-эпистемологию и подход «мотивированной нейтральности», утверждающие, что истины не существует.

Это навык избегания: он не позволяет принять решение о том, что именно делать, а лишь указывает на один из многих способов совершить ошибку. При обучении стоит уделять меньше внимания подобным навыкам. Тем не менее, если вы уже потратили какое-то время на то, чтобы представить Салли и Анну с их разными убеждениями, а также как с их убеждениями соотносится положение мячика, вам легче не поддаться на чьи-то рассуждения об отсутствии объективной истины. Салли и Анна представляют мир по-разному, но реальность — настоящее положение мячика, — с которой сравниваются их убеждения, лишь одна, поэтому здесь нет «различных правд». Настоящее убеждение (в отличие от веры в убеждение) всегда ощущается как верное, и, да, действительно, у двух людей действительно могут быть разные ощущения истины, но ощущение истины — не территория.

Предположу, что для усвоения этого навыка стоит замечать, когда ты сталкиваешься с подобной анти-эпистемологией, и, возможно, представлять в ответ две фигуры в мысленных пузырях и их единое окружение. Впрочем, по-моему, большинству людей, которые понимают основную идею, не нужны дополнительные аргументы и тренировки, чтобы избежать описанной ошибки.

Навык 4. Принимать решения, рассуждая о последствиях для мира (метод Тарского, он же литания Тарского).

Предположим, вы размышляете, стоит ли стирать свои белые спортивные носки с тёмными вещами. Вы беспокоитесь, что носки могут покраситься, но, с другой стороны, вам очень не хочется запускать стиральную машину второй раз только из-за белых носок. Не исключено, что ваш мозг начнёт придумывать причины, почему вряд ли с вашими носками что-то произойдёт — например, скажет, что тут же нет совсем новых тёмных вещей. В таких случаях помогает литания:

Если на моих носках появятся пятна, я хочу верить, что на носках появятся пятна.
Если на моих носках не появятся пятна, я хочу верить, что на носках не появятся пятна.
Я не буду цепляться за веру, которую не хочу.

Чтобы ваш мозг прекратил убеждать сам себя, представьте, что вы уже в мире, где ваши носки в результате стирки потемнеют, или уже в мире, где с ними ничего не случится, и в обоих случаях вам лучше считать, что вы находитесь именно в том мире, в котором находитесь. Помогают мантры: «То, что может быть разрушено правдой, должно быть разрушено» и «Реальность — это то, что не исчезает, когда вы прекращаете в неё верить». Признание, что убеждение — это ещё не реальность, может помочь нам признать первичность реальности и либо перестать с ней спорить и принять её, либо проявить любопытство.

Анна Саламон и я обычно используем метод Тарского так: мы представляем мир, который нам не нравится или который отличается от наших убеждений, в нём себя, который верит в противоположное, и катастрофу, которая в результате последует. Например, представьте, что вы уже какое-то время едете на машине, вы до сих пор не доехали до своего отеля и начинаете беспокоиться, не пропустили ли вы нужный поворот. Если вы его всё-таки пропустили, вам придётся разворачиваться и ехать ещё 60 километров в противоположном направлении, а это очень неприятная мысль и ваш мозг изо всех сил пытается убедить себя, что вы не заблудились. Анна и я в этом случае представим мир, где мы заблудились, но продолжаем ехать вперёд.

Замечу, что это всего лишь одна из ячеек в матрице 2 х 2:

На самом деле вы едете в нужном направлении На самом деле вы заблудились
Вы считаете, что едете в нужном направлении Не надо ничего менять: просто продолжаете движение и вы приезжаете в отель на свою конференцию Просто продолжаете движение и в какой-то момент заезжаете на своей арендованной машине в море
Вы считаете, что вы заблудились Увы! Вы тратите целых пять минут своей жизни на ненужные вам распросы Вы тратите пять минут на расспросы, разворачиваетесь и едете 40 минут в противоположном направлении

Майкл «Валентайн» Смит говорит, что он применяет обсуждаемый навык, представляя все четыре ячейки по очереди. Практика позволяет делать это очень быстро, и он считает, что представлять все варианты полезно.

Перевод: 
Alaric
Оцените качество перевода: 
Средняя оценка: 4.7 (6 votes)

Рациональность как боевое искусство

Элиезер Юдковский

Мне очень нравится метафора, что рациональность — это боевое искусство для разума. Чтобы изучать боевые искусства, не обязательны огромные мускулы. Безусловно, люди спортивного телосложения чаще занимаются боевыми искусствами, однако боевые искусства можно изучать по самым разным причинам, в том числе и ради удовольствия. Если у вас есть рука, и все сухожилия и мускулы на месте, вы можете научиться сжимать кулак.

Аналогично, если у вас есть мозг, и с корой больших полушарий всё в порядке, вы можете научиться правильно его использовать. Если у вас есть способности, наверное, вы научитесь быстрее. Однако, искусство рациональности — это не про скорость обучения. Искусство рациональности — это тренировки машины, которая есть в голове у каждого из нас. Наши мозги склонны совершать систематические ошибки (как пример такой ошибки можно привести пренебрежение масштабом). Рациональность предназначена, чтобы исправлять такие ошибки или находить способы их обойти.

Увы, наш разум подчиняется нашей воле гораздо хуже, чем руки. По меркам эволюции способность управлять мускулами у нас появилась очень давно, способность же рассуждать о собственном процессе рассуждения — гораздо более свежее изобретение. Таким образом не стоит удивляться, что применять мускулы гораздо проще, чем применять мозги. Однако вряд ли разумно пренебрегать тренировками только потому, что они сложные. Люди захватили Землю не благодаря большим мускулам.

Если вы живёте в городе, наверняка у вас где-нибудь поблизости есть школа боевых искусств. Почему нет таких школ, где обучают рациональности?

Наверное, одна из причин заключается в том, что в рациональности сложно определить наличие навыков. Чтобы перейти на следующий уровень в тхэквондо, обычно нужно сломать доску определённой толщины. Если у вас получилось, все наблюдатели аплодируют. Если у вас не получилось, ваш учитель смотрит, как вы сжимаете кулак, и проверяет, правильно ли вы это делаете. Если неправильно, учитель вытягивает руку, сжимает кулак правильно и вы можете понаблюдать, как надо делать.

В школах боевых искусств техники владения мускулами вырабатывались и оттачивались поколениями. Передать техники рациональности гораздо сложнее, даже если ученик очень-очень хочет их освоить.

Совсем недавно — меньше полувека назад — люди узнали довольно много нового о человеческой рациональности. Например, экспериментальная психология рассказала об эвристиках и искажениях — наверное, это самое важное знание. Также появилась байесианская систематизация теории вероятностей и статистики, произошли новые открытия в эволюционной и социальной психологии. Мы получили эмпирические данные о человеческой психологии, у нас есть теория вероятностей, чтобы интерпретировать результаты экспериментов, и теория эволюции, чтобы объяснять результаты. Всё это дало нам новые способы заглянуть в наш собственный разум. С помощью этих наук мы теперь способны более чётко разглядеть «мускулы» наших мозгов и «пальцы» наших мыслей. У нас появился общий словарь для описания задач и их решений. Человечество может наконец построить боевое искусство для разума: придумать техники личной рациональности, делиться ими, систематизировать их и передавать следующим поколениям.

Я стал лучше понимать рациональность благодаря своим попыткам решать задачи, связанные с сильным искусственным интеллектом (чтобы по-настоящему построить работающего рационалиста из подручных материалов придётся самому овладеть рациональностью на достаточно высоком уровне). Зачастую задачи, связанные с ИИ, требуют намного большего, чем искусство личной рациональности, но иногда этого может хватить. Чтобы овладеть боевым искусством для разума нам нужно научиться в нужное время нажимать на нужные рычаги в гигантской уже существующей думающей машине, внутренности которой мы не в состоянии изменить. Часть этой машины оптимизирована в результате эволюционного отбора для достижения целей, которые противоречат нашим собственным. Мы объявляем, что нас интересует только правда, но в наши мозги зашит механизм рационализации лжи. То, что мы считаем недостатками машины, мы можем попробовать компенсировать, но мы не в состоянии по-настоящему перестроить наши нервные цепи. Впрочем, мастера боевых искусств тоже не в состоянии заменить свои кости титановыми, во всяком случае, пока.

Попытка создать искусство личной рациональности, опираясь на науку о рациональности, может показаться глупой. Кто-нибудь скажет, что это всё равно что пытаться изобрести боевое искусство на основе теоретической физики, теории игр и анатомии человека.

Однако люди способны к рефлексии. У нас есть природная склонность к интроспекции. Мы в состоянии заглянуть внутрь себя, пусть даже наше внутреннее зрение склонно к систематическим искажениям. Таким образом, нам нужно разобраться, что говорит наука по поводу нашей интуиции, с помощью абстрактных знаний исправить ход наших мыслей и улучшить наши метакогнитивные навыки.

Мы не пишем компьютерную программу, чтобы заставить марионетку показывать приёмы боевых искусств. Мы должны заставить двигаться «конечности» нашего собственного мозга. Для этого нам нужно связать теорию с практикой. Нужно выяснить, как использовать науку для нас самих, для повседневной работы нашего разума.

Перевод: 
Alaric
Оцените качество перевода: 
Средняя оценка: 3.1 (Всего оценок: 141)

Знание задним числом

Элиезер Юдковский

Знание задним числом это искажение, при котором люди, знающие ответ, значительно переоценивают его предсказуемость или очевидность в сравнении с оценками тех, кто данный ответ заранее не знает. Иногда это искажение называют эффектом «я-знал-это-наперед».

Фишхофф и Бейт [Fischhoff и Beyth, 1975] представили студентам исторические отчеты о малоизвестных событиях, таких, как конфликт между гуркхами и англичанами в 1814 году. Пять групп студентов, получивших эту информацию, были опрошены в отношении того, как бы они оценили степень вероятности каждого из четырех исходов: победа англичан, победа гуркхов, патовая ситуация с мирным соглашением или пат без соглашения. Каждое из этих событий было описано как реальный итог ситуации одной из четырех экспериментальных групп. Пятой, контрольной группе, о реальном исходе не говорили ничего. Каждая экспериментальная группа приписала сообщенному ей итогу гораздо большую вероятность, чем любая другая или контрольная группа.

Эффект знания «задним числом» важен в суде, где судья или присяжные должны определить, виновен ли обвиняемый в преступной халатности, не предвидев опасность. [Sanchiro, 2003]. В эксперименте, основанном на реальном деле, Камин и Рахлинский [Kamin and Rachlinski, 1995] попросили две группы оценить вероятность ущерба от наводнения, причиненного закрытием принадлежащего городу разводного моста. Контрольной группе сообщили только базовую информацию, бывшую известной городу, когда власти решили не нанимать мостового смотрителя. Экспериментальной группе была дана эта же информация плюс сведения о том, что наводнение действительно случилось. Инструкции устанавливают, что город проявляет халатность, если поддающаяся предвидению вероятность наводнения больше 10 процентов. 76 % опрашиваемых из контрольной группы заключили, что наводнение было настолько маловероятным, что никакие предосторожности не были нужны. 57 % экспериментальной группы заключили, что наводнение было настолько вероятно, что неспособность принять меры предосторожности была преступной халатностью. Третьей группе сообщили итог и также ясным образом инструктировали избегать оценки задним числом, что не привело ни к каким результатам: 56 % респондентов этой группы заключили, что город был преступно халатен.

Рассматривая историю сквозь линзы нашего последующего знания, мы сильно недооцениваем затраты на предотвращения катастрофы. Так, в 1986 году космический челнок Челленджер взорвался по причине того, что кольцевой уплотнитель потерял гибкость при низкой температуре [Rogers, 1986]. Были предупреждающие сигналы о проблемах, связанных с кольцевым уплотнителем. Но предотвращение катастрофы Челленджера должно было потребовать не только внимания к проблемам с кольцевым уплотнителем, но и озабоченности каждым аналогичным предупреждающим сигналом, который бы казался столь же серьезным, как проблема уплотнителей, без преимущества последующего знания.

Вскоре после 11 сентября я подумал про себя, что сейчас кто-либо вспомнит про предупреждавшие сигналы разведки или наподобие этого, после чего знание задним числом начнет свою работу. Да, я уверен, что были предупреждения об Аль-Каиде, но вероятно были такие же предупреждения и об активности мафии, незаконной продаже ядерных материалов и вторжении с Марса.

Поскольку мы не видим цену всей картины, мы склонны выучивать только частные уроки. После 11 сентября Федеральное авиационное агенство запретило пользоваться на самолетах ножами для бумаг - словно бы проблема заключалась в том, что была пропущена эта частная «очевидная» мера предосторожности. Мы не выучили главный урок: цена эффективных мер предосторожности крайне высока, поскольку вам нужно стараться понять, что проблемы не так очевидны, какими кажутся прошлые трудности в свете знания задним числом.

Тестирование модели подразумевает под собой рассмотрение, насколько вероятен наблюдаемый исход. Знание задним числом систематически искажает этот тест; мы думаем, что у нашей модели больше вероятность быть истинной, чем на самом деле. И простое знание об этом когнитивном искажении не помогает убрать его влияние. Вам нужно выписывать ваши предсказания заранее. Или как говорит Фишхофф (1982):

Когда мы пытаемся понять прошлые события, мы неявно тестируем гипотезы или правила, которые используем для интерпретации и предсказания мира вокруг нас. Если, в свете знания задним числом, мы систематически недооцениваем сюрпризы, которые прошлое готовило и готовит для нас, мы подвергаем эти гипотезы слишком слабым тестам, и, возможно, не находим достаточно причины менять их.

Перевод: 
Remlin
Оцените качество перевода: 
Средняя оценка: 3.4 (47 votes)

Пример мотивированного продолжения

Элиезер Юдковский

Я могу понять многих комментирующих в «Пытки против песчинок в глазу»(English), которые утверждают, что предпочтительней песчинки в глазах у 3^^^3 (удивительное большое, но конечное число) людей, чем пятидесятилетняя пытка одного человека. Если вы думаете, что песчинка просто не имеет значения, пока нет других посторонних эффектов — если вы буквально не предпочитаете отсутствие песчинки ее наличию — тогда ваша позиция последовательна. (Хотя я подозреваю, что многие сторонники песчинок выразили бы иное предпочтение, если бы не знали о жале дилеммы.)

Так что хоть я и на стороне тех, кто выбирает ПЫТКУ, но я могу понять и тех, кто выбирает ПЕСЧИНКИ.

Но некоторые из вас говорят, что вопрос бессмысленен; или что вся мораль относительна и субъективна; или что вам нужно больше информации, прежде чем вы можете решить; или вы говорите о других запутывающих аспектах проблемы; и тогда вы не хотите выражать свои предпочтения.

Простите. Не могу поддержать вас в этом.

Если вы на самом деле отвечаете на дилемму, тогда не имеет значения какой выбор вы сделаете, все равно придется от чего-то отказаться. Если вы скажете ПЕСЧИНКИ, вы откажетесь от вашего утверждения на основании определенного вида утилитаризма; вы можете волноваться, что вы недостаточно рациональны, или что другие обвинят вас в приверженности большим числам. Если вы скажете ПЫТКА, вы примете исход, что там есть пытка.

Я фальсифицируемо предсказываю, что большинство тех, кто уходит от ответа, на самом деле уже знают свой ответ — либо ПЫТКА, либо ПЕСЧИНКИ — от высказывания которого они уходят. Возможно просто на долю секунды прежде чем запутывающе-вопросная операция закончится, но я предсказываю, что уход есть. (для большей конкретности: я не предсказываю, что вы знали и выбрали и имели в сознании прямо сейчас некоторый определенный ответ, который осознанно не даете. Я предсказываю, что ваше мышление склонно к определенному неудобному ответу, по крайней мере на долю секунды, прежде чем вы начнете искать причины, чтобы поставить под вопрос саму дилемму.)

В дискуссиях на тему биоэтики, вы очень часто можете видеть экспертов, обсуждающих то, что они видят как за и против, скажем, для исследований по стволовым клеткам; и тогда, в заключение своей речи, они рассудительно объявляют, что срочно требуется больше обсуждений, с участием всех заинтересованных сторон. Если вы на самом деле приходите к некому заключению, если вы на самом деле делаете вывод, что нужно запретить эти исследования, то на вас ополчатся родственники умирающих от болезни Паркинсона. Если вы выскажетесь за продолжение исследований, то на вас обрушится гнев религиозных фундаменталистов. Но кто будет спорить с призывом к дальнейшим обсуждениям?

Не нравится то, к чему ведут свидетельства в споре дарвинистов и креационистов? Рассмотрите вопрос трезво и решите, что нужно больше свидетельств; вы хотите, чтобы археологи нашли еще миллиард окаменелостей, прежде чем вы придете к единому выводу. Таким образом вы никогда не скажете ничего кощунственного, и в то же время не порушите свой образ как рационалиста. Продолжайте делать это во всех вопросах, которые могут выглядеть как ведущие в неудобном направлении, и вы сможете поддерживать в своем сознании всю религию.

Настоящая жизнь часто запутана, и нам приходится выбирать все равно, поскольку отказаться от выбора — это тоже выбор. План ничего не делать — это тоже план. Мы всегда что-то делаем, даже бездействуя. Как сказали Рассел и Норвиг, «Отказываться выбирать это все равно что отказываться, чтобы время шло».

Уворачиваться от неудобных выборов — опасная привычка для сознания. Есть определенные случаи, когда мудро отложить суждение (на час, но не на год). Но когда вы встаете перед дилеммой, где все ответы кажутся неподходящими, это не такой случай! Выберите один из неудобных ответов как наилучший по степени неудобности. Если информации недостает, заполните пробелы правдоподобными предположениями или вероятностными распределениями. Делайте все, что угодно, чтобы превозмочь простой уход в сторону от неудобства. Поскольку при этом вы просто пытаетесь убежать.

Пока вы не выбрали промежуточное лучшее предположение, неудобство будет поглощать ваше внимание, отвлекать вас от поиска, искушать вас запутаться в вопросе всякий раз, когда ваш анализ будет приводить вас к определенному направлению.

В реальной жизни, когда люди уклоняются от неудобных выборов, они часто вредят другим точно так же, как и себе. Отказаться от выбора очень часто наихудший выбор, который вы можете сделать. Мотивированное продолжение это не привычка мышления которую кто-либо может себе позволить, независимо от того, эгоист это или же альтруист. Цена удобства слишком велика. Важно овладеть привычкой стискивать зубы и выбирать — так же важно как впоследствии искать лучшие альтернативы.

Перевод: 
Remlin
Оцените качество перевода: 
Средняя оценка: 3.2 (65 votes)

31 закон удовольствия

Элиезер Юдковский

«Утопия? Вот это? Надо же…
По-моему, на Ад походит больше».

сэр Макс Бирбом, стихотворение, названное
«Надпись на экземпляре Утопии Мора (или Шоу, или Уэллса, или Платона, или кого угодно другого)»

Это краткое изложение цепочки «Теория удовольствия». Оно состоит из советов для авторов или футурологов, желающих описать мир, в котором людям действительно хотелось бы жить. Вся теория осталась «за кадром».

  1. Подумайте о типичном дне человека, который живёт в Утопии уже не первый день. Не зацикливайтесь на первых мгновениях «о-я-услышал-хорошую-новость». Усталый, измученный бедностью крестьянин обрадуется, услышав в раю, что «тебе больше не нужно работать, а улицы вымощены золотыми плитками!», но, скорее всего, спустя пару месяцев он уже будет не настолько счастлив от этого. (Prolegomena to a Theory of Fun1.)

  2. Хорошо подумайте перед тем, как внедрять в вашу Утопию какие-то занятия, которые вы считаете обязательными, хотя они не являются приятными. Взгляните на тот же христианский рай: пение гимнов не выглядит сверхудовольствием, но раз молитвой положено наслаждаться, никто не заостряет на этом внимание. (Prolegomena to a Theory of Fun.)

  3. Упрощение компьютерной игры не всегда её улучшает. То же самое верно и для жизни. Думайте не о полном уничтожении работы, а о том, как избавить людей от «низкокачественной» рутины, чтобы они могли заниматься «высококачественными» сложными делами. (High Challenge.)

  4. В жизни нужны новые ощущения и опыт, и лучше, чтобы он учил чему-то новому. Если новый опыт поступает слишком медленно (по сравнению со скоростью его усвоения и обобщения), будет скучно. (Complex Novelty.)

  5. Люди должны умнеть со скоростью, достаточной для интеграции старого опыта. Но они не должны умнеть настолько быстро, что им некуда будет применить свой новый интеллект. Чем умнее человек, тем быстрее ему становится скучно, но умный человек может решать задачи, которых раньше просто не понимал. (Complex Novelty.)

  6. Люди должны жить в мире, в котором их чувства, тела и мозги используются на полную катушку. Либо мир должен больше напоминать первобытную саванну, чем, скажем, офис без окон, либо мозги и тела должны быть модифицированы, чтобы различные разновидности сложных задач и окружений задействовали их полностью. (Для развлекательной фантастики предпочтителен первый вариант.) (Sensual Experience.)

  7. Тимоти Феррисс писал: «Что противоположно счастью – горе? Нет. Любовь и ненависть – две стороны одной и той же монеты, то же самое справедливо для счастья и горя… Антитеза любви – безразличие, противоположность счастья – скука, в том-то и вся загвоздка… Следует задаваться не вопросами „Чего я хочу?“ или „В чем заключается моя цель“, а вопросом „Что по-настоящему увлекает меня?“… „Жить как миллионер“ – значит заниматься интересными делами, а не просто владеть имуществом, вызывающим зависть».2 (Existential Angst Factory.)

  8. Жизнь каждого человека должна становиться всё лучше и лучше. (Continuous Improvement.)

  9. Вам не надо точно знать, что именно станет лучше в будущем, но вы должны постоянно пытаться это предсказать. В итоге будущее должно оказаться приятным сюрпризом. (Justified Expectation of Pleasant Surprises.)

  10. Наши предки, охотники и собиратели, сами мастерили свои луки, плели свои корзины и строгали свои флейты. Затем они самостоятельно охотились, собирали и играли свою музыку. В Утопиях будущего часто изображается всё больше и больше удобных кнопок, но что именно они делают — понятно всё меньше и меньше. Не спрашивайте о том, что Утопия может сделать для людей. Подумайте лучше, чем интересным могут заниматься её жители — используя свой мозг, своё тело и понятные им инструменты. (Living By Your Own Strength.)

  11. Живя в Эутопии3, люди должны становиться сильнее, а не слабее. Её обитатели должны впечатлять больше, чем обитатели нашего мира, а не наоборот. (Living By Your Own Strength. Также см. Цуёку наритаи.)

  12. Жизнь не должна дробиться на серию несвязанных между собой эпизодов, не имеющих долгосрочных последствий. Нельзя построить жизнь, играя в самые лучшие компьютерные игры, и неважно, насколько эти игры сложны и реалистичны. (Emotional Involvement.)

  13. Люди должны сами вершить свою судьбу. В их жизни всегда должно оставаться место их планам, воображению и возможности управлять своим будущим. Нельзя делать граждан пешками в руках могучих богов, и тем более — их материалом для лепки. Есть простой способ решить эту проблему: мир должен работать по стабильным правилам, которые для всех одинаковы, и Эутопия должна держаться на хорошем выборе начальных правил, а не на каком бы то ни было оптимизационном давлении на жизни людей. (Free to Optimize.)

  14. Человеческие разумы не должны играть на одном поле со значительно превосходящими их сущностями. Большинство людей не любит быть в тени. При взаимодействии с богами человек теряет статус «главного персонажа». Это нежелательно в фантастике, а возможно, и в реальной жизни. (См. “Нарния” К.С. Льюиса, “Культура” Иэна Бэнкса). Либо измените эмоциональную организацию людей так, чтобы они не чувствовали себя ненужными, либо не допускайте богов на их игровое поле. Художественное произведение, предназначенное для людей, не может использовать первый путь. (И в реальной жизни, вероятно, могут быть ИИ, не относящиеся ни к разумным, ни к мешающим. См. основной пост и предшествующее ему.) (Amputation of Destiny.)

  15. Также сложно придумать, как человек может соревноваться на одном поле с ещё шестью миллиардами других людей. Наши первобытные предки жили в группах примерно по 50 человек. Сегодня же СМИ постоянно бомбардируют нас новостями о необычайно богатых и милых людях, и возникает ощущение, будто они живут по соседству. Однако очень немногие люди имеют шанс стать лучшими в чём бы то ни было. (Dunbar’s Function.)

  16. Наши первобытные предки в какой-то степени могли по-настоящему влиять на политику своего племени. Сравните с современным миром национальных государств, в котором почти никто не знает Президента лично и не может убедить Конгресс в том, что он принял плохое решение. (Впрочем, это не мешает людям спорить так, будто они всё ещё живут в племени из полусотни человек.) (Dunbar’s Function.)

  17. Слишком большой выбор не всегда оказывается благом (особенно, если люди не в состоянии получить предлагаемые возможности самостоятельно). Боль от потери сильнее, чем удовольствие от эквивалентного приобретения, и потому, если варианты выбора различаются по многим параметрам, а доступен только один вариант, люди будут фокусироваться на потере невыбранного. Если у людей есть способ избежать неких трудностей, то трудности кажутся менее серьёзными, даже если человек не пользуется этим способом. Также, к сожалению, люди предсказуемо совершают определённые ошибки. Не стоит думать, что больше вариантов — это всегда лучше, потому что «люди всегда могут просто сказать „нет“ ». Больше вариантов выбора обнадёжит лишь читателя художественной книги. «Не волнуйся, ты сделаешь выбор! Ты же доверяешь себе?» Однако жить в условиях большого выбора не всегда настолько забавно. (Harmful Options.)

  18. Экстремальный пример для предыдущего пункта: постоянное искушение невероятно опасными соблазнами, вроде абсолютно реалистичного виртуального мир, или наркотик, дарующий невероятно приятные ощущения и вызывающий сильнейшую зависимость. Вы не сможете позволить себе ни минуты слабости. (См. трилогию Джона Райт «Золотой век»). (Devil’s Offers.)

  19. Однако, если люди развиты настолько, что способны отстрелить себе ноги без посторонней помощи, останавливать их — это чересчур. Можно лишь надеяться, что он достаточно умны, чтобы это не делать, ведь к тому времени, когда они создают пистолет, они уже знают, что происходит при нажатии на курок, и им не нужно удушающее «защитное одеяло». Если это верно, то опасные возможности должны быть ограждены преградами соответствующей «высоты». (Devil’s Offers.)

  20. Если сказать людям правду, до которой они пока не дошли самостоятельно, это не всегда им поможет. (Joy in Discovery.)

  21. Мозг — одна из сложнейших штук во вселенной. Поэтому нам редко приходится взаимодействовать с чем-то сложнее, чем другие люди (другие разумы). И это взаимодействие уникально из-за эмпатии, которую мы испытываем друг к другу: наш мозг считает другие мозги чем-то похожим на себя, а не воспринимает их как большие и сложные машины, у которых нужно дёргать рычажки. Если людям нужно будет меньше взаимодействовать с другими людьми, сложность человеческого существования понизится. Это шаг в неверном направлении. Поэтому не стоит поддаваться искушению упростить жизнь людей, например, дав им идеальных искусственных сексуальных/романтических партнёров. (Interpersonal Entanglement.)

  22. Однако следует признать, что статистически у людей есть проблемы с сексуальными взаимодействиями: распределение мужских характеристик не соответствуют распределению женских желаний и наоборот. Не всё в Эутопии должно быть просто, однако в ней не должно быть ничего бессмысленного и не должно быть разочарований, с которыми ничего нельзя поделать. (Это общий принцип.) Поэтому лучше подумать, как можно повлиять на распределения, чтобы задача оказалась разрешима, а не решать её взмахом волшебной палочки. (Interpersonal Entanglement.)

  23. Вообще, менять мозги, разумы, эмоции и личные качества гораздо опаснее (и с точки зрения этики, и с точки зрения сложности), чем менять тела и условия обитания. Всегда стоит подумать, что вы можете сделать с окружающей средой, перед тем как придумывать изменения в сознании, а если уж решили заняться сознанием, начинайте с маленьких изменений. В противном случае за полётом вашей мысли не успеют не только ваши читатели, но и ваше собственное воображение. (Changing Emotions.)

  24. В нашем мире наслаждение и боль не сбалансированы. Неопытный палач с простыми инструментами за тридцать секунд причинит больше боли, чем сверхискушенный секс-мастер сможет доставить удовольствия за тридцать минут. Один из вариантов — устранить этот дисбаланс: пусть в мире будет больше радости, чем печали. Боль допустима, но только не бесцельная бесконечная невыносимая боль. Наказание должно быть пропорционально ошибке: человек может коснуться горячей плиты и получить болезненный ожог, но он не должен оказываться в инвалидном кресле из-за того, что отвлёкся на пару секунд. Люди становятся сильнее и меньше мучаются. Также в этом варианте следует устранить боль, убивающую разум, и сделать удовольствия более доступными. Другой вариант — полное устранение боли. Возможно, с точки зрения реального мира у него есть серьёзные преимущества, но в художественной литературе его выбирать нельзя ни в коем случае. (Serious Stories.)

  25. Джордж Оруэлл однажды заметил, что Утопии крайне озабочены тем, как бы избежать беспокойства. Не бойтесь написать громкую Эутопию, которая разбудит ваших соседей. (Eutopia is Scary, Джордж Оруэлл, «Почему социалисты не верят в счастье».)

  26. Джордж Оруэлл также заметил, что «Жители идеальных вселенных не способны на спонтанное веселье и обычно отвратительно торгуются». Если в вашей истории персонажи ведут себя именно так, возможно, вы упустили что-то серьёзное и ситуацию нельзя исправить, обязав Государство нанять несколько клоунов. (Джордж Оруэлл, «Почему социалисты не верят в счастье».)

  27. Если бы Бен Франклин попал в наше время, чему-то он бы удивился и обрадовался. Что-то наоборот показалось бы ему ужасающим и отвратительным, и не потому что наш мир развивался как-то неправильно, а потому что наш мир стал лучше по сравнению с эпохой Франклина. Очень мало вещей оказались бы именно такими, как он ожидал. Если вы воображаете мир, который кажется вам знакомым и комфортным, он мало кого вдохновит. Этот мир будет казаться ненастоящим. Попробуйте изобрести по-настоящему лучший мир, который шокировал бы вас (по крайней мере, поначалу), и в котором бы вы чувствовали себя не в своей тарелке (по крайней мере, поначалу). (Eutopia is Scary.)

  28. Утопия и антиутопия — две стороны одной медали: обе подтверждают ваши исходные моральные убеждения. Неважно, либертарианская это утопия с невмешивающимся правительством, или адская антиутопия, в которой государство вторгается во всё, вы скажете: «Я всегда был прав.» Не стоит придумывать мир, который будет соответствовать вашим текущим идеалам государства, отношений, политики, работы или повседневной жизни. Не надо плыть ни по течению, ни против, создайте что-нибудь ещё. (Чтобы обезопасить свои идеалы, скажите себе: «Наверняка это хороший мир, но он не лучше моей любимой стандартной Утопии…». Однако, если ваши идеалы начнут меняться, вы поймёте, что всё сделали правильно.) (Building Weirdtopia.)

  29. Если ваша Утопия оказалась мрачным местом, задыхающимся под тяжестью экзистенциальной тоски, и у вас ничего не получается с этим поделать, значит, есть как минимум одна серьёзная проблема, на которую вы совсем не обратили внимания. (Existential Angst Factory.)

  30. Жалок тот разум, который заботится лишь о себе и ни о чём другом. В нашем мире, чтобы заметить множество людей, находящихся в отчаянном положении, альтруисту стоит лишь оглянуться. У людей в лучшем мире картина иная: в настоящей Эутопии не так легко найти жертв, которых нужно спасать. Из этого не следует, что жители Эутопии оглянувшись вокруг, ничего не увидят: они смогут заботиться о друзьях и семье, правде и свободе, совместных проектах, а также других разумах, общих целях и высоких идеалах. (Higher Purpose.)

  31. В то же время, не стоит для своей истории об Эутопии использовать удобный сюжет «Тёмный Лорд Саурон собирается напасть и всех убить». Потенциальный автор обязан придумать какие-то чуть менее ужасные вызовы для своих персонажей. Ведь прогресс человечества не мешает рассказывать истории об отдельных людях, и люди могут интересно жить даже в отсутствие неминуемой угрозы смерти. Показать это — интересная и сложная задача. Тем же, кому интересны катастрофы планетарного масштаба, стоит сосредоточиться на наших современных реалиях. (Higher Purpose.)

Найти решение, которое удовлетворит всем вышеизложенным условиям, — упражнение для читателя. По крайней мере, пока.

Упоминание в данном списке определённых законов не должно быть истолковано как отрицание или принижение неупомянутых. Например, я не написал о юморе, но мир без смеха был бы тосклив, и т.д.

Каждому, кто всерьёз хочет написать Эутопию с применением этих законов, я хочу сказать: сначала научитесь писать. Существует очень много книг о том, как писать. Вам нужно прочесть минимум три. В любой из них будет упомянуто о важности практики. Тренироваться лучше на чём-нибудь полегче, чем Эутопия. Тем не менее, мой второй совет авторам таков: вашим персонажам никогда не будет скучно и просто, пока они могут создавать друг другу трудности.

И напоследок хочу предупредить: детальная проработка мира, который лучше, чем ваша жизнь, может высосать вашу душу как дементор. Теория Удовольствий опасна. Применяйте её осторожно, вас предупредили.

  • 1. Каждый из пунктов этого эссе ссылается на какое-то эссе из упомянутой цепочки «Теория удовольствия». К сожалению, эта цепочка пока ещё не дождалась своих переводчиков на русский язык. — Прим.перев.
  • 2. Цитируется по переводу Тимоти Феррис, «Как работать по четыре часа в неделю», ООО «Издательство «Добрая книга», 2008, 2010. — Прим.перев.
  • 3. Здесь и далее Юдковский использует слово «Эутопия»(Eutopia) для обозначения «настоящей» Утопии, той, в которой действительно приятно жить. — Прим.перев.
Перевод: 
Tookser, Alaric
Оцените качество перевода: 
Средняя оценка: 3.3 (37 votes)

Атеизм = не-теизм + анти-теизм

Элиезер Юдковский

Время от времени нам задают вопросы из серии «Какая польза от того, чтобы постоянно быть недовольным по поводу того, что Бога нет?». С другой стороны, мы слышим такие фразы, как «Младенцы — атеисты от природы». Мне кажется, что такие замечания и довольно глупые дискуссии, которые вокруг них разгораются, показывают, что понятие «атеизм» на самом деле состоит из двух отдельных компонентов. Назовём их «не-теизм» и «анти-теизм».

Чистый «не-теист» — это человек, выросший в обществе, в котором понятие «Бог» просто никогда не было изобретено — письменность в этом обществе изобрели раньше сельского хозяйства, и одомашивание растений и животных было делом рук ранних учёных. В таком мире суеверие добралось только до первобытного этапа, на котором мир кажется наполненным множеством духов, почти не имеющих собственной морали. Затем суеверие вступило в конфликт с наукой и сошло на нет.

Суеверия первобытных охотников и собирателей не очень похожи на то, что мы обычно понимаем под «религией». Ранние западные комментаторы часто высмеивали их, утверждая, что они и вовсе религией не являются; эти комментаторы, на мой взгляд, были правы. У охотников и собирателей сверхъестественные агенты не имеют никакой особенной моральной грани, и не следят за соблюдением каких-то правил. Их можно умилостивить церемониями, но им не поклоняются. И, что самое главное, охотники и собиратели ещё не успели расщепить свою эпистемологию. У первобытных культур нет специальных правил для рассуждений о «сверхъестественных» сущностях, или даже явного разграничения между сверхъестественным и естественным; духи грома просто существуют в рамках естественного мира, о чём свидетельствует молния, и наш ритуальный танец вызова дождя призван управлять ими. Это, наверно, не идеальный танец вызова дождя, но это лучший из всех, что пока придумали — был ещё тот знаменитый случай, когда он сработал…

Если бы вы показали первобытным людям ритуал для вызова дождя, который работал бы со стопроцентной гарантией посредством взывания к другому духу (или завод по опреснению воды, что в принципе одно и то же), они, скорее всего, быстро избавились бы от старого. У них нет специальных правил для рассуждения (English) о духах — ничего, что могло бы оправдать результат теста имени пророка Илии, который прошёл новый ритуал и не прошёл старый. Для отрицания этого теста нужна вера, религиозные убеждения — а это концепция, возникшая уже после аграрного периода. Перед этим не было государств, в которых священнослужители были ветвью власти, боги не являлись моральным стандартом и не следили за соблюдением установленных вождями правил, и за сомнения в них и их существовании не было специального наказания.

И поэтому цивилизация не-теистов, изобретя науку, просто самым обычным образом делает вывод, что дождь, оказывается, вызван конденсацией в облаках, а не духами. Они ощущает некоторую неловкость по поводу старого суеверия и без промедления выбрасывают его прочь. Они не испытывают никаких трудностей, потому что у них есть лишь суеверия, они ещё не успели добраться до анти-эпистемологии (English) (дополнительных правил мышления в определённых категориях, обычно для защиты существующих убеждений от опровержения).

Не-теисты не знают, что они «атеисты», потому что им никто не рассказал, во что они должны не верить — никто не изобрел «высшего бога», который был бы главным в пантеоне, не говоря уже о монолатрии или монотеизме.

Тем не менее, не-теисты уже знают, что они не верят в существование духов деревьев. Мы можем даже предположить, что они не только не верят в лесных духов, но и в целом имеют хорошую, развитую эпистемологию, и поэтому понимают, что постулировать онтологически базовые ментальные сущности (сущности, которые нельзя редукционистски свести к не-ментальным сущностям, таким, как атомы) — не очень хорошая идея.

Как не-теисты встретят идею Бога?

— Вселенная была создана Богом.
— Кем?
— Э-э, гм, Богом. Бог есть Творец — разум, который решил создать вселенную, и…
— А, так вы утверждаете, что вселенная была создана разумным агентом. Похоже, вы говорите о стандартной гипотезе о том, что мы живём в компьютерной симуляции. Вы, кажется, весьма уверены в этом — у вас что, есть какие-то сильные свидетельства?..
— Нет, я не имею ввиду Матрицу! Бог — это не житель другой Вселенной, запустивший симулятор этой, он просто… Его невозможно описать. Он есть Первопричина, Творец всего, и…
— Кажется, вы постулируете онтологически базовую мыслящую сущность. К тому же, то, что вы предложили — это просто таинственный ответ на таинственный вопрос. Вообще, откуда вы всё это взяли? Не могли бы вы начать рассказ со своих свидетельств — какие новые наблюдения Вы пытаетесь объяснить?
— Мне не нужно никаких свидетельств, у меня есть Вера!
— У вас есть что?

И в этот самый момент не-теисты впервые стали атеистами. То, благодаря чему произошла эта трансформация и есть приобретение анти-теизма — формулирование явных аргументов против теизма. Если вы ни разу не слышали о Боге, вы можете быть не-теистом, но не анти-теистом.

Конечно же, не-теисты не собираются изобретать какие-то новые правила для опровержения Бога — они просто применяют стандартные эпистемологические принципы, которые были разработаны их цивилизацией в процессе отказа от других теорий и концепций — таких, скажем, как витализм. Рационалисты утверждают, что именно так и должен выглядеть анти-теизм в нашем мире: анализ религии при помощи стандартных, общих правил. Этот анализ, как становится ясно достаточно скоро, приводит к её полному отбрасыванию — как с точки зрения познания мира, так и с точки зрения морали. Каждый анти-теистический аргумент должен быть частным случаем общего правила эпистемологии или морали, применимого и вне религии — к примеру, в столкновении науки и витализма.

Если принять во внимание различие между не-теизмом и анти-теизмом, то многие современные споры становятся более понятными — например, вопрос «Зачем придавать столько значения тому, что Бога не существует?» можно перефразировать в «Какова польза обществу от попыток распространения анти-теизма?» Или вопрос «Какой толк от того, чтобы быть просто против чего-то? Где ваша позитивная программа?» превращается в «Меньше анти-теизма и больше не-теизма!». И становится понятно, почему фраза «дети рождаются атеистами» звучит странновато — просто дети не имеют понятия об анти-теизме.

Теперь что касается утверждения о том, что религия совместима с разумным познанием: найдётся ли хоть одно религиозное утверждение, которое не будет отвергнуто хорошо развитой, продвинутой цивилизацией не-теистов? Не будет отвергнуто в ситуации, когда ни у кого нет причин быть осторожным с выводами, нет специальных правил, выделяющих религию в отдельный магистерий, и нет последователей существующих традиционных религий, которых не хотелось бы расстраивать?

Борьба против богизма не имеет никакой самостоятельной ценности — общество не-теистов забудет об этом споре на следующий же день.

Но, по крайней мере, в нашем мире безумие — это не очень хорошо, и здравомыслие стоит защищать, и поэтому открытый анти-теизм (такой как, например, у Ричарда Докинза) приносит пользу обществу — разумеется, при условии того, что он действительно работает (вполне возможно, так и есть: в новом поколении всё больше и больше атеистов).

Тем не менее, цель в долгосрочной перспективе — это не общество атеистов. Это общество не-теистов, в котором на вопрос «Если Бога нет, то что же остается?» люди с недоумением отвечают «А разве чего-то не хватает?».

Перевод: 
sershe
Оцените качество перевода: 
Средняя оценка: 3.4 (712 votes)

Забудьте кое-что, чему вас учили в школе

Элиезер Юдковский

В «Трех школьных вещах, от которых нужно отучиться» (English) Бен Касноча ссылается на список из трех вредных привычек мышления, составленный Биллом Буллардом: считать важными частные мнения, решать выданные задачи, зарабатывать одобрение других. Альтернативы, предлагаемые Буллардом, не кажутся мне хорошими, однако он уверенно выделил некоторые важные проблемы.

Я могу назвать многие другие вредные привычки мышления, привитые школой (и их будет слишком много, чтобы озвучить здесь), но ограничусь двумя из наиболее нелюбимых.

I. Полагаю, что самая опасная привычка мышления, которую прививает школа, заключается в том, что вы, даже не понимая чего-то, можете просто воспроизвести это, как попугай. Один из базовых навыков, полезных в жизни, — уметь осознать свое замешательство, и школа активно сводит эту способность на нет, приучая школьников думать, что они «понимают», если они в состоянии успешно ответить на аттестационные вопросы, что крайне, невероятно далеко от полноценного усвоения знаний, когда они становятся частью вас. Ученики привыкают, что «питание» означает «класть еду в рот»; экзамен не требует разжевывать ее или проглатывать, и они остаются голодными.

Основной причиной этой проблемы может быть необходимость параллельно изучать несколько предметов (каждый из них, разумеется, требует прочитывать большие объемы текстов и выполнять немалое количество домашних работ); расписание запланировано под неистовую зубрежку, за это время невозможно глубоко разжевать и неторопливо переварить знания. Ученикам колледжей не позволяется быть озадаченными; если кто-то из них решит сказать «Постойте, а понимаю ли я это на самом деле? Может, лучше будет, если я проведу несколько дней, читая статьи на эту тему, или обращусь к другому учебнику», он провалится на всех курсах, которые взял на четверть. Через месяц он смог бы понять материал куда лучше и запомнить надолго, но месяц после экзаменов — слишком поздно; в безумной функции полезности, принятой в университетах, это пустой звук.

Многие учащиеся, прошедшие через этот процесс, после этого даже не осознают, если что-то озадачивает их, и не замечают белых пятен в своем мышлении. Их отучили брать паузу на размышление.

II. Я где-то читал (не помню, где именно), что в некой стране физики, казалось, всё больше становились похожими на фанатичных религиозных экстремистов. Это озадачивало меня, пока автор не предположил, что студенты-физики воспринимают услышанные знания как твёрдую истину и таким образом усваивают привычку доверять авторитету.

Выдавать людям авторитетные знания в огромных объемах может быть опасно, особенно если эти знания верны. Это может навредить критическому мышлению.

Но как же нужно поступать? Рассказывать учащимся историю физики, как одни идеи, в свою очередь, сменялись другими, верными? «Вот старая идея, вот новая, вот эксперимент: новая идея победила!» Повторите этот урок десять раз, и какой навык мышления вы привьете? «Новые идеи всегда выигрывают; каждая новая мысль в физике оказывается верной». Так вы по-прежнему не научите никого критическому мышлению, потому что только покажете, как выглядит история задним числом. Вы привьете студентам мысль, что различать справедливые и ложные идеи — это совершенно прозрачно и прямолинейно, и даже если нет ничего, что подтвердило бы новую блестящую мысль, она, похоже, верна.

Не исключено, что возможно преподавать историю физики с исторически реалистичной точки зрения (не опираясь на ретроспективный взгляд) и показывать студентам различные альтернативы, казавшиеся вероятными в свое время, воспроизводя имевшие тогда место разногласия и дискуссии.

Возможно, вы смогли бы избежать подачи знаний студентам на блюдечке с голубой каемочкой: покажите им различные версии уравнений (выглядящие похожими на правду!) и попросите объяснить, какие из них справедливы, или разработать эксперименты, которые смогут различить альтернативы. Это не настолько затруднительно, как если бы мы требовали замечать необычное без подсказок и изобретать объяснения с нуля, но этот способ был бы громадным улучшением по сравнению с тем, чтобы просто запоминать авторитетные знания.

Пожалуй, вы смогли бы выработать привычку думать так: «Мысли, изложенные в авторитетных источниках, зачастую несовершенны, но необходимо приложить огромные усилия, чтобы найти идею лучше. Большинство возможных изменений привело бы к худшему, хотя каждое улучшение — это обязательно изменение».

Перевод: 
Quilfe, Mari_Priutilova, tatiana090293
Оцените качество перевода: 
Средняя оценка: 5 (11 votes)

Непередаваемое превосходство

Элиезер Юдковский

Есть целый литературный жанр, предлагающий продать вам секретный ингредиент успеха Билла Гейтса или Уоррена Баффета, создателя сверхуспешной холдинговой компании Berkshire Hathaway. Основная идея: вы, да-да, именно вы можете стать следующим Ларри Пейджем.

Но скорее всего даже Уоррен Баффет не сможет сделать из вас следующего Уоррена Баффета. Настолько невероятный успех потому и называется невероятным, что никто ещё не догадался, как достичь его наверняка.

Эти книги в большинстве своём – пустая трата надежды. Они скармливают нам исступление от близкой, но недостижимой возможности славы; поэтому я называю их «порнографией превосходства», с поджанрами вроде «порнографии инвестирования» или «порнографии бизнеса», рассказывающими, как любой бариста может основать следующий Старбакс, а любой экономист - попасть в список Fortune 500. Называть эти произведения «порнографией превосходства», наверное, нехорошо по отношению к настоящей порнографии, которая, по крайней мере, явная фикция.

В нашем мире есть невероятно мощные техники, которые наша цивилизация научилась преподавать, техники наподобие «проверяй идеи экспериментом» или «используй капитал, чтобы добыть больше капитала». Вы, да-да, именно вы, можете стать учёным! Может, не совсем каждый, но достаточно людей могут стать учёными, используя выучиваемые техники и передаваемое знание, чтобы поддержать нашу техногенную цивилизацию.

«Вы можете заново инвестировать выручку от предыдущих инвестиций!» Может, вы и не взорвёте рынок, как Уоррен Баффет, но подумайте о цивилизации в целом, практикующей это правило. Мы справляемся намного лучше, чем это делали древние общества без банков и бирж. (Нет, серьёзно, в целом мы до сих пор лучше.) Потому что приём Реинвестирования может быть передан, может быть записан словами, может работать даже для обычных людей без экстраординарной удачи… мы не считаем его невероятным триумфом. Каждый может его применить, значит, наверное, не так уж он и важен (English).

Уоррен Баффет сумел заставить многих людей ценить инвестирование. Он выдал череду советов, и действенных советов притом, исходя из тех, что я читал. По крайней мере, у меня сложилось впечатление, что если бы он знал, как рассказать, что осталось, он бы попросту рассказал.

Но Berkshire Hathaway и Баффет лично до сих пор тратят огромное количество времени, высматривая выдающихся менеджеров. Зачем? Потому что они не знают никакого систематически надёжного способа брать смышлёных детей и превращать их в обитателей Fortune 500.

Есть вещи, которым можно научиться у звёзд. Но вы не можете ожидать так просто поглотить всю их душу; последние кусочки экстраординарности будут самыми сложными. В лучшем случае, вы выучите несколько полезных трюков, которые также могут выучить немало других людей, но так и не подберётесь к желаемому статусу звезды. Если, конечно, у вас самих нет правильного набора генов, годов усилий, вложенных в тренировки, гор удачи на всём пути, и т.д., и т.п.; идея в том, что вам не добраться туда, читая порнографию.

(Если кто-то и в самом деле изобретёт новый выучиваемый суперприём, способный двинуть нашу цивилизацию далеко вперёд, то уже к тому моменту, как вы его закончите учить, появятся сотни других звёзд, применяющих этот трюк!)

Есть много уроков, которые можно извлечь отсюда, но один из главных - история учит не тому, как побеждать, а тому, как не проигрывать (English).

Намного легче избегать повторения легендарных провалов, чем повторять легендарные успехи. Также ошибки намного легче обобщать между областями. Предполагаемые инструкции «как стать звездой» крайне конкретные (Баффет != Эйнштейн), тогда как уроки «как не быть идиотом» в разных профессиях имеют много общего.

Кен Лэй, может научить, как не погубить ещё один Enron, намного надёжнее, чем Уоррен Баффет – как основать ещё один Berkshire Hathaway. Кейси Серин может научить, как терять надежду, лорд Кельвин - как не поклоняться своему невежеству…

Но такие уроки не сделают из вас звезды. Они могут предотвратить вашу жизнь от несчастий, но это не то же самое, что великие победы. Ещё хуже, эти уроки могут показать, что вы делаете что-то не так, что вы, да-да, именно вы вот-вот пополните списки дураков.

Намного легче продавать порнографию превосходства.

Перевод: 
Павел Садовников
Оцените качество перевода: 
Средняя оценка: 4 (8 votes)

О красоте математики

Элиезер Юдковский

Взглянем на последовательность {1, 4, 9, 16, 25, …}. Можно заметить, что это квадраты: A[k] = k^2. Предположим, однако, что вы не увидели закономерности с первого взгляда. Есть ли способ предсказать следующий элемент последовательности? Да, можно найти разности между соседними элементами (разности первого порядка) и получить следующе:

{4 – 1, 9 – 4, 16 – 9, 25 – 16, …} = {3, 5, 7, 9, …}

Даже если вы не заметили, что это последовательные нечётные числа, сдаваться пока рано. Если вы найдете разности соседних чисел ещё раз (назовем это разностями второго порядка), то у вас получится следующее:

{5 – 3, 7 – 5, 9 – 7, …} = {2, 2, 2, …}

Если вы не сможете увидеть, что это повторяющаяся двойка, то в этом случае вы действительно безнадежны.

Но если вы предскажете, что и следующая разность второго порядка — это тоже 2, то это позволит предположить, что следующая разность первого порядка — 11, а следующий элемент исходной последовательности должен равняться 36. И это, как вы вскоре убедитесь, верно.

Копнув достаточно глубоко, можно обнаружить скрытую закономерность, внутреннюю структуру, устойчивые соотношения под переменчивой поверхностью.

Исходная последовательность была получена возведением в квадрат идущих друг за другом чисел. Однако нам удалось продолжить её, используя, казалось бы, совершенно другой подход — такой, который мы, в принципе, могли бы применить, даже не осознавая, что получаем квадраты. Можете ли вы доказать, что эти способы всегда равносильны? (Ведь до сих пор, как вы заметили, мы этого не доказывали, а только предполагали по индукции.) Можете ли вы, как любил спрашивать Пойя, упростить доказательство так, чтобы оно было ясным с первого взгляда?

По современным стандартам это очень простой пример, но это пример такой вещи, в поисках которой математики порой тратят целые жизни.

Радость математики заключается в том, что мы изобретаем некоторые объекты, а затем обнаруживаем, что они обладают всевозможными удивительными свойствами, которые мы не намеревались им прививать. Это как сконструировать тостер и увидеть, что ваше изобретение по какой-то неясной причине работает ещё и как реактивный ранец и mp3-плеер.

Числа открывали и переоткрывали множество раз на протяжении истории человечества. (Похоже, что на некоторых артефактах, датируемых 30000 г. до н.э., действительно находятся насечки, подозрительно напоминающие счетные.) Но я сомневаюсь, что кто-нибудь из людей, придумавших счёт, представлял себе, какой работой он обеспечит будущие поколения математиков. Или то возбуждение, которое однажды будет окружать Великую теорему Ферма или проблему факторизации в RSA-криптографии… И тем не менее всё это неявно уже содержится в определении натуральных чисел, как разности первого и второго порядка — в последовательности квадратов.

Именно это создает впечатление математической вселенной, существующей «где-то там», в платоновском Идеальном, которое люди скорее изучают, нежели создают. Наши определения переносят нас в различные участки Идеального, но мы не создаем там ничего самостоятельно. Так кажется, как минимум, потому, что мы не помним создания всех тех замечательных вещей, которые мы открыли. Первооткрыватели натуральных чисел отправились в Страну счёта, но не создали её, а последующие математики потратили столетия, изучая эту Страну и обнаруживая в ней всевозможные вещи, которые никто не мог даже попытаться себе представить в 30 000 г. до Р. Х.

Сказать, что люди «изобрели числа» (или неявную сущность, скрытую в числах) — всё равно, что заявить, будто Нил Армстронг своими руками слепил Луну. Вселенная существовала до того, как появились разумные существа, её изучающие, и это подразумевает, что физика предшествовала физикам. Это головоломка, я знаю; но если вы заявите, что физики были первыми, то все станет еще запутаннее, ведь возникновение физика требует, хм, достаточно много физики. Физика опирается на математику, так что последняя (или хотя бы та её часть, которая используется физикой) должна предшествовать математикам. Иначе не было бы структурированной вселенной, существующей достаточно долго, чтобы за миллиарды лет организмы, не знающие даже сложения, смогли эволюционировать в математиков.

Удивительно, что математика — это игра без разработчика, и, тем не менее, в неё в полной мере можно играть.

О, а вот и доказательство, что закономерность, которую мы обсуждали выше, верна:

(k + 1)^2 = k^2 + (2k + 1)

Или, более наглядно:

Думаете, задача квадратов настолько тривиальна, что не заслуживает вашего внимания? Думаете, что нет ничего удивительного в разностях первого и второго порядка? Думаете, они так очевидно подразумеваются в квадратах, что не могут считаться отдельным открытием? Тогда рассмотрите кубы:

1, 8, 27, 64…

А теперь — без прямых вычислений и каких-либо математических действий — можете ли вы с первого же взгляда сказать, какой будет разность третьего порядка?

И, конечно, когда вы узнаете, какова у последовательности кубов разность третьго порядка, вы осознаете, что по-другому и быть не могло.

Перевод: 
Quilfe, Aelryn
Оцените качество перевода: 
Средняя оценка: 4.2 (18 votes)

Пацифизм губит ухоженные сады

Элиезер Юдковский

Основная причина гибели хороших интернет-сообществ — отказ от самозащиты.

Где-нибудь в необъятных недрах интернета найдётся место, где это происходит прямо сейчас. Когда-то это был чистый ухоженный сад интеллектуальных бесед, куда приходили образованные и заинтересованные люди, привлечённые высоким уровнем доносящихся оттуда речей. Но в сад прибывает глупец, и уровень бесед чуточку падает — или даже не на чуточку, если глупец вмешивается в разговоры с достойной лучшего плодовитостью. Сад вянет ещё сильнее, если глупец вежлив и слова его понятны; тогда жители сада связаны обязательством ответить, и тогда глупец начинает захватывать беседы.

И сад начинает гнить, и поэтому в нём уже не так весело играть; привыкшие к саду давние гости не покидают его, но новые люди уже не так охотно приходят сюда. Качество же новоприбывших тоже чуточку снижается.

Затем приходит ещё один глупец, и два глупца начинают говорить друг с другом, и после этого некоторые старожилы — люди самих высоких требований и самих радужных перспектив — покидают сад в поисках лучшей доли где-нибудь там, за горизонтом…

Я успел застать ныне забытый USENET, хоть я и был тогда очень молод. Тот первый интернет пал жертвой Вечного Сентября в незапамятные времена; в сегодняшнем же интернете всегда имеется какой-нибудь способ бороться с нежелательными сообщениями или посетителями. Скорее всего, причиной этому служит спам: бедствие столь вопиющее, что никто его не защищает, и столь обширное, что никто не может его просто игнорировать — так что где-то должен быть банхаммер.

Но некоторые сообщества не хотят опускаться до использования банхаммера, если речь идёт о вторжении глупцов. Они слишком добры, чтобы становиться кошмарными цензорами.

В конце концов, любой воспитанник мира университетской науки знает, что цензура — смертный грех. Смертный грех внутри этих огороженных неприступной стеной садов, вход в которые стоит больших денег и значительных усилий, где студентов волнует мнение своих профессоров, и упаси боже, если вахтёр осмелится открыть рот во время конференции.

Легко наивно возмущаться ужасами цензуры, уже живя в холёном саду. Точно также легко наивно восхищаться добродетелью безусловного ненасильственного пацифизма, когда на страже границ твоей страны уже стоят вооружённые солдаты, а покой твоего города охраняет полиция. До тех пор, пока полиция выполняет свою работу, благочестивость не налагает на тебя никаких серьёзных обязательств и не стоит практически никаких усилий.

Особенность интернет-сообществ, однако, состоит в том, что уже нельзя понадеяться на то, что полиция пропустит благородные лозунги мимо ушей и продолжит исполнять свою работу. Сообществу приходится платить за доброту и всепрощение.

В самом начале, когда сообщество ещё цветёт, цензура кажется ужасающей и излишней мерой. Всё ещё довольно неплохо. Это всего лишь один глупец, и если мы не можем вынести одного глупца, то, гм, терпимость и понимание явно не относятся к числу наших сильных сторон. Глупец может уйти и сам по себе, нет нужды паниковать и вводить цензуру. И пусть участвовать в жизни сообщества стало не так весело — разве какое-то банальное веселье может быть внятным оправданием кошмаров цензуры? Это словно считать, что можно избить человека, если тебе не понравилось, как он на тебя посмотрел.

(Это не очень хорошая аналогия: вступление в сообщество — процесс полностью добровольный, и если многообещающего нового участника насторожит то, как на него смотрят, то он просто не будет вступать в сообщество)

И в конце концов, кто будет цензором? Кому в принципе можно доверить такую власть?

Если сад ухожен, то, скорее всего, довольно многим. Но если сад хоть чуточку разделён внутри, если в нём есть фракции, если в нём найдутся люди, не слишком доверяющие потенциальному носителю банхаммера…

(в глазах таких людей внутренняя политика часто представляется чем-то намного более важным, чем какое-то там нашествие варваров)

…то тогда попытка защитить сообщество обычно объявляется попыткой государственного переворота. Как он посмел объявить себя судией и палачом? Он что, думает, что владеть сервером — значит владеть людьми? Владеть нашим сообществом? Он считает, что возможность редактирования исходников делает его богом?

Должен признаться: долгое время я не понимал, почему предложение о защите встречает такой отпор (я считал, что причина — наивность и больше ничего). Мысль о том, что это последствия инстинкта эгалитаризма, не дающего вождям сосредоточить слишком много власти в своих руках. «Среди нас нет лучших, все мы мужчины, способные сражаться; я принесу свой лук и стрелы» — такая поговорка ходила в одном племени охотников-собирателей (в отличие от шимпанзе, у людей есть «уравнители»: оружие, способное убивать быстро и с расстояния. Похоже, что вожди появились лишь ко времени развития земледелия, когда усложнившаяся жизнь уже не позволяла просто взять и покинуть племя).

Возможно, всё потому, что я вырос в тех областях интернета, где всегда был сисоп, и поэтому мне кажется естественным считать, что владелец сервера несёт определённую ответственность. Возможно, всё потому, что я интуитивно ощущаю: противоположность цензуры — не академия, а двач (да и у того всё равно есть какие-то механизмы для борьбы со спамом). Возможно, я вырос на том просторном пустыре, где главной и единственной важной свободой была свобода выбора того ухоженного сада, который был тебе по нраву, и которому по нраву был ты; на пустыре, дышащим мечтой о поиске страны с хорошими законами. Возможно, я принимал за должное то, что если тебе не нравится местный архиволшебник, то правильным решением будет просто уйти (такое случилось со мной однажды; и я действительно просто взял и ушёл).

А, возможно, потому, что владельцем сервера часто был я. Но я играю честно, поддерживая модераторов даже тогда, когда мы расходимся во взглядах касательно внутренней политики. Я знаю, что происходит, когда сообщество начинает сомневаться в своих модераторах. Любой мой политический враг (если его популярность позволяет ему быть опасным), скорее всего не принадлежит к числу людей, могущих злоупотреблять получаемой вместе с титулом модератора властью (по крайней мере, для конкретно этих целей); и когда он надевает костюм модератора, я громогласно его поддерживаю: его нужно подгонять, а не останавливать. Выросшие в академии люди попросту не осознают, насколько велика толщина стен недопущения, удерживающих троллей снаружи их холёного сада так называемой «гласности».

Если у сообщества действительно есть основания для сомнения в модераторах, если его модераторы в самом деле используют свою власть в личных целях — то, наверное, это сообщество не стоит того, чтобы его спасать. Но это, как правило, встречается лишь на словах, и почти никогда — на деле, насколько мне известно.

В любом случае, озарение касательно эгалитаризма (глубинного стремления не допустить, чтобы лидер осуществлял слишком много власти), убивающего интернет-сообщества, пришло ко мне совсем недавно. Во время чтения какого-то комментария на LessWrong’е (я не помню, какого именно), если быть точным.

Но я это наблюдал. Снова и снова, одним из участников этой пьесы был я, подталкивающий модераторов и поддерживающий все их решения, нравились ли они мне как люди, или нет; и всё равно, модераторы боялись сделать то, что могло бы предотвратить медленное разложение. Они были слишком скромны и степень их сомнения в себе была на порядок выше, чем моя степень сомнения в них. Дело происходило в прибежище рационалистов, а третье главное искушение рационалистов — грех недоуверенности (English).

Такова суть интернета: войти может любой. И любой может выйти. И поэтому в интернет-сообществе должно быть весело, ведь иначе оно погибнет. Если ты будешь ждать до последнего, ждать до тех пор, пока не увидишь абсолютный, неоспоримый, вопиющий кошмар — ждать столько, сколько бы ждал полицейский-офицер перед тем, как открыть огонь — потакать своей совести и добродетелям, усвоенным внутри огороженной стеной крепости, и начнёшь действовать лишь тогда, когда ты будешь уверен в своей правоте и не будешь бояться вопрошающих взглядов — то в момент принятия мер будет уже поздно.

Я видел, как сообщества рационалистов умирали из-за того, что они слишком мало доверяли своим модераторам.

Но это — не то же самое, что и система кармы, на самом деле.

Если речь идёт о системе кармы, то доверять нужно себе.

Мне хочется привести небезызвестную цитату: «Ты можешь не верить в себя. Но поверь в меня, того, кто верит в тебя!»

Потому что я действительно и без шуток думаю, что, если ты хочешь минусануть комментарий, который кажется тебе низкокачественным — но всё же ты медлишь, боясь, что на самом деле желание минусануть возникло лишь из-за того, что ты не согласен с заключением или недолюбливаешь автора, нервничая из-за того, что кто-то может обвинить тебя в конформизме, бездумном поддакивании или (о ужас!) в осуществлении цензуры — то, я уверен, как минимум в девяти случаях из десяти этот комментарий действительно будет низкокачественным.

У тебя есть минусовалка. Используй её. Или USENET.

Перевод: 
BT, kmeneusdomi
Оцените качество перевода: 
Средняя оценка: 4.1 (35 votes)

Предполагая красоту

Элиезер Юдковский

Если вы посмотрите на последовательность {1, 4, 9, 16, 25, …} и не увидите в ней квадраты чисел, то вы все еще можете успешно предсказать последующие числа, если заметите разности первого порядка — {3, 5, 7, 9, …}. Действительно, ваше предсказание может попасть в точку, хотя у вас нет никакой возможности это проверить, не посмотрев на выдачу генератора. Соответствие может быть выражено алгебраически или даже геометрически. Это и вправду довольно изящно.

Что бы ни прославляли люди, они будут склонны прославлять это еще сильнее; поэтому некоторые скептики считают, что погоня за изящностью подобна болезни; она создает стройную математику вместо того, чтобы разбираться в беспорядке реального мира. «Тебе повезло», — скажут они, — «но тебе не будет везти всегда. Если ты ожидаешь подобной изящности, то ты исказишь видение мира в угоду своим представлениям и отсечешь те куски реальности, которые не вписываются в твою милую картинку».

Я имею в виду, например, следующее. К вам в руки попадает последовательность {1, 8, 27, 64, 125, …}. Отыскав разности первого порядка, вы получите {7, 19, 37, 61, …}. Все эти числа объединяет лишь то, что они простые, но они даже не идут в последовательности простых чисел подряд. Тут, очевидно, нет изящного порядка, какой мы видели у квадратов чисел.

Вы можете попытаться заставить последовательность вести себя, по-вашему, правильно, настаивая, что разности первого порядка должны быть равномерно распределены, а любые отклонения — ошибки измерения (впрочем, лучше о них просто не думать). «Вы решите», — скажет скептик, — «что разности первого порядка отстоят друг от друга примерно на двадцать, являясь простыми числами, так что следующая разность, вероятно, 83, тогда следующим числом в исходной последовательности будет 208. Но действительность с вами не согласится — это 216».

Сами виноваты, раз ожидали ясности и изящества там, где их нет. Вы оказались чересчур привержены абсолютам, слишком нуждались в совершенстве. Здесь-то и зарыта собака (уф… внимание!) редукционизма!

Уже из выбранного мной примера вы могли догадаться, что я не считаю это хорошим подходом к задаче. Ведь здесь не то чтобы совсем не было закономерности, просто нужно было копнуть немного глубже. Последовательность {7, 19, 37, 61, …} непримечательная (встреть вы ее на улице, могли бы и не узнать), но найдите разности второго порядка, и получите {12, 18, 24, …}. Теперь третьего, и у вас будет {6, 6, …}.

Вы забрались глубже, отыскав устойчивый уровень, но он уже был в примере всё это время.

Если вы слишком быстро хватаетесь за увиденную закономерность, допытываетесь совершенства здесь и сейчас, пытаетесь взломать модель, то, возможно, вам никогда не удастся добраться до устойчивого уровня. Если вы подправляете разности первого порядка, чтобы сделать их «более равномерными» в соответствии со своими эстетическими понятиями (еще до того, как обнаружите настоящий закон, заключенный в самой математике), то найденные вами разности второго и третьего порядков окажутся неверными. Может быть, вы даже не затрудните себя найти их. С того момента, как вы приведете разности первого порядка в соответствие со своими представлениями о прекрасном, вы обретете счастье. Или будете громогласно заявлять, что его обрели.

Ничего из вышесказанного никак не противоречит редукционизму. Порядок заключен здесь, просто спрятан глубже. Мораль моей басни в том, что не надо искать прекрасного? Или в том, чтобы горделиво исповедовать это повсеместное мировоззрение об уродливости мироздания? Нет; мораль в том, чтобы своевременно переходить на более глубокий уровень; сначала отмерять, а уж потом резать; не прерывать исследование ради красоты раньше времени. Пока вы в состоянии не принимать преждевременную иллюзорную красоту за чистую монету, все необходимые меры предосторожности на случай, что реальность окажется неизящной, уже соблюдены.

Но разве это не (уф…) вера — искать красоту там, где ее еще не видно?

Как я недавно подметил, если вы скажете «Я много раз видел смену времен года и ожидаю, что завтра солнце взойдет вон в той точке горизона», это будет недостоверно. И если вы скажете, «Я предполагаю, что мне явится джинн и подарит мне сказочное богатство», то это также будет недостоверно. Но это не одна и та же степень недостоверности; недостаточно справедливо называть то и другое одним словом «вера».

Искать математическую красоту, где ее пока не видно, не столь же надежно, как ожидать, что солнце поднимется на востоке. Но, однако, не кажется, что это та же градация неуверенности, что и в случае с джинном, особенно если перед этим вы изучили последние 57 тысяч случаев, когда человечеству удалось найти скрытую закономерность.

И все же постулаты и аксиомы математики — самодостаточные и закрытые структуры. Можем ли мы рассчитывать, что беспорядочный реальный мир обнаружит скрытую красоту? В следующем выпуске нашей радиопередачи мы расскажем об этом. Не переключайтесь!

Перевод: 
Quilfe, XoR
Оцените качество перевода: 
Средняя оценка: 5 (3 votes)

Против адвокатуры дьявола

Элиезер Юдковский

Из статьи Майкла Рьюза:

Ричард Докинз однажды назвал меня подонком. Он сделал это весьма публично, но не подразумевал желание меня обидеть. Я и не обиделся: мы были и остаёмся друзьями. Причиной его гнева — или даже страданий — было то, что я в ходе публичной дискуссии защищал позицию, которой по-настоящему не придерживался. Мы, философы, все время так делаем; это вариант аргумента «reductio ad absurdum». Отчасти мы делаем это, чтобы подстегнуть дебаты (особенно на уроках), отчасти, чтобы увидеть, насколько далеко можно завести позицию, пока она не разрушится, (и увидеть, почему разрушится), и, отчасти, (будем честны) излить кровожадность, поскольку нам нравится возмущать оппонентов.

Докинз тем не менее, обладает моральной непорочностью — кто-то даже сказал бы моральной закостенелостью — пылкого христианина или идейного феминиста. Даже во имя спора он не может поддержать то, что считает неверным. Делать так не просто ошибочно, считает он; это неправильно в каком-то очень глубоком смысле. Жизнь серьёзна, и есть зло, с которым нужно бороться. Здесь нет места компромиссам или неоднозначностям, даже в педагогических целях. Как говорят квакеры: «Да будет слово ваше: да, да; нет, нет».

Майкл Рьюз ничего не понял.

Когда я был ребёнком, мой отец учил меня скептицизму —

(Папа был в той же степени заядлым скептиком и поклонником Мартина Гарднера и Джеймса Рэнди, в какой и ортодоксальным евреем. Пусть это будет доводом в пользу анти-лечебной силы отделения религии от повседневной жизни.)

— он приводил в пример гипотезу: «Есть объект в поясе астероидов, состоящий целиком из шоколадного торта». Тебе придется изучить каждый объект пояса, чтобы опровергнуть эту гипотезу. Однако, несмотря на то, что эту гипотезу невероятно тяжело опровергнуть, нет и ни одного довода в её пользу.

И маленький Элиезер попросил свой разум поискать аргументы в пользу существования шоколадного торта в поясе астероидов. И вот его разум выдал ответ: «Так как шоколадный торт в поясе астероидов - один из классических примеров плохой гипотезы, если кто-нибудь когда-нибудь изобретёт машину времени, то какой-нибудь шутник подбросит шоколадный торт в пояс астероидов в двадцатом веке, чтобы всё это оказалось правдой».

Так — в очень раннем возрасте — я обнаружил, что мой разум способен, если постараться, придумать аргументы в пользу чего угодно.

Я знаю людей, которых это открытие лишило здравого смысла. Они пришли к выводу, что Разум может быть использован, чтобы отстаивать что угодно. Тогда бессмысленно доказывать, что Бога не существует, потому что вы с тем же успехом могли бы доказывать, что он существует. Ничего не остаётся, кроме как верить, во что захотите.

Сдавшись, они разрабатывают целые философские системы, чтобы их отчаяние выглядело Глубокой Мудростью. Если они заметят, что вы пытаетесь использовать Разум, они просто улыбнутся, погладят вас по голове и скажут: «О, когда-нибудь ты поймёшь, что можешь аргументировать за что угодно».

Быть может, даже сейчас мои читатели думают: «Ох, Элиезер может рационализировать что угодно, это дурной знак».

Но вы знаете… быть ментально гибким не всегда обрекает вас на катастрофу. Я имею в виду, вы этого ожидаете. Но оказывается, что практика отличается от теории.

Рационализация пришла ко мне слишком просто. Было заметно, что это просто игра.

Если бы у меня было хуже с воображением или меня легче было бы поставить в тупик - если бы я не обнаружил, что могу аргументировать любое предположение, и неважно, насколько оно бредовое - тогда, возможно, я бы мог перепутать это занятие с мышлением.

Но я могу даже привести аргументы в пользу существования шоколадного торта в поясе астероидов. Это даже не было трудно; мой мозг сразу же выдал аргумент. Было совершенно ясно, что это мышление — поддельное, а не настоящее. Я ни на мгновение не перепутал игру с реальной жизнью. Я не начал думать, что в поясе астероидов действительно может оказаться шоколадный торт.

Можно было бы ожидать, что любой ребёнок, обладающий достаточно живым умом, чтобы придумать аргументы в пользу чего угодно, точно обречён. Но интеллект не всегда приносит столько вреда, как вы могли бы подумать. В данном случае он просто помог мне в очень раннем возрасте начать различать «рассуждение» и «рационализацию». Между ними ощущалась разница.

Возможно, память меня обманывает… но мне кажется, что даже в таком юном возрасте я посмотрел на предложенный моим мозгом удивительно умный аргумент в пользу путешествующего во времени шоколадного торта и подумал: я должен избегать этого.

(Хотя существуют другие, гораздо более тонкие когнитивные воплощения процессов рационализации, чем бесстыдный, очевидный, сознательный поиск подходящих аргументов. Бессловесное уклонение от рассмотрения той или иной идеи может сбить вас с пути не хуже, чем преднамеренный поиск аргументов против неё. Эти коварные процессы я начал замечать только годы спустя).

Интуитивно я ощущал, что настоящее мышление - это нечто, что дает вам правильный ответ, нравится он вам или нет, а поддельное мышление — это способность доказать что угодно.

Это был невероятно ценный урок —

(хотя, как и многие другие принципы, которые молодой я приобрёл путём анализа вещей, обратных глупости. Он был хорош, когда требовался совет по конкретным проблемам, но мог завести в страшные дебри, когда я пытался применять его, чтобы сделать абстрактные выводы, например, о природе морали)

— который был одним из главных факторов, приведших к моему разрыву с иудаизмом. Тщательно продуманные аргументы и контраргументы древних раввинов были похожи на то фальшивое мышление, которое помогло мне придумать историю про шоколадный торт в поясе астероидов. Только раввины забыли, что это игра, и действительно воспринимали всё всерьёз.

Поверьте, я понимаю традиционный довод в пользу практики адвоката дьявола. Защищая противоположную позицию, вы делаете свой ум более гибким. Вы вытряхиваете себя из привычных рамок. У вас появляется шанс собрать свидетельства против своей позиции, вместо того чтобы защищать её. Вы поворачиваете стол и видите вещи с другой точки зрения. Переход на другую сторону — это честная игра, так что вы разворачиваетесь на 180 градусов, чтобы играть честно.

Возможно, именно это Майкл Рьюз имел в виду, когда обвинил Ричарда Докинза в «моральной ригидности».

Конечно, я не намерен учить людей говорить: «Так как я верю в фей, я не должен ожидать, что мне удастся найти хорошие доказательства того, что фей не существует, так что я не буду искать, потому что это умственное усилие имеет невысокую ожидаемую полезность». Всё это происходит под лозунгом «если вы хотите отстрелить себе ногу, нет ничего проще».

Может быть, существуют какие-то этапы жизни или состояния ума, когда игра в адвоката дьявола может вам помочь. Студенты, которые никогда не задумывались о том, чтобы попробовать искать доводы в пользу обеих сторон проблемы, могут извлечь пользу из понятия «адвокат дьявола».

Но с кем-то, кто находится в этом состоянии ума, я бы скорее начал с того, что политические прения не должны выглядеть односторонними. Нет оснований не ожидать, что с обеих сторон дебатов существуют сильные доводы; одно и то же действие может иметь разные последствия. Если вы не можете представить себе хороших доводов против политического курса, к которому вы благосклонны, или хороших доводов за тот курс, который вы ненавидите, но другие люди одобряют, тогда очень вероятно, что у вас проблема, которая называется «неспособность увидеть другие точки зрения».

Вы, дорогой читатель, вероятно, достаточно хороши в искусстве рассуждения, что если вы смогли закрепиться на правильной дороге, вы не сойдете с нее, если будете играть адвоката дьявола по необходимости. Вы просто будете подсознательно избегать любых аргументов Дьявола, которые будут заставлять вас всерьез нервничать, а затем поздравите себя с выполнением необходимого. Людям на таком уровне нужно более сильное средство. (Пока я рассказал только о средне-сильном средстве).

Если вы можете привести себя в состояние настоящего сомнения и искреннего любопытства, вам уже не нужен адвокат дьявола. Вы можете исследовать противоположную позицию потому что думаете, что она может и правда быть истинной, а не потому что вы играете в игры с шоколадным тортом, путешествующим сквозь время. А если вы не можете привести себя в такое состояние, то может ли вам помочь игра в адвоката дьявола?

У меня нет проблемы придумать аргументы, почему Сингулярность не настанет в ближайшие 50 лет. С некоторыми усилиями я могу представить случай, в котором ее не будет и через 100 лет. Еще я могу придумать правдоподобные сценарии, в которых Сингулярность настанет через две минуты, например, если кто-то делает тайный проект, и он завершается вот прямо сейчас. Я могу придумать правдоподобные аргументы для 10, 20, 30 и 40 лет.

Это не потому что я хорошо играю в адвоката дьявола и придумываю умные аргументы. Это потому что я правда не знаю. Настоящие сомнения присутствуют в каждом случае и я могу их проследить до источника настоящего аргумента. Или, если хотите, я правда не знаю, потому что я могу придумать все эти правдоподобные аргументы.

С другой стороны, мне действительно сложно визуализировать утверждение, что нет типа разума, принципиально более сильного, чем человеческий. Мне сложно поверить, что человеческий мозг, которого едва хватило на то чтобы построить технологическую цивилизацию и придумать компьютеры, теоретически является потолком эффективности интеллекта. Я не могу хорошо аргументировать за это, потому что я сам этому не верю. Или, если хотите, я не верю в это, потому что я не могу за это хорошо аргументировать. Если вы хотите, чтобы кто-то за это аргументировал, найдите того, кто правда в это верит. С очень раннего возраста я стремлюсь избегать образа мыслей, в котором вы можете аргументировать за что угодно.

В состоянии ума и этапе жизни, в котором вы пытаетесь отличить друг от друга рациональность и рационализацию и пытаетесь понять разницу между сильными и слабыми аргументами, игра в адвоката дьявола не может привести вас к неподдельным способам мышления. Ее единственная сила в том, что в некоторых случаях она может показать вам поддельные способы, которые одинаково хорошо работают за обе стороны, и показать вам места, в которых вы не уверены.

Не бывает гроссмейстеров, которые умеют играть только за белых или только за черных. Но в битвах Разума солдат, который дерется за обе стороны с одинаковой силой, имеет нулевую силу.

Так что Ричард Докинз понимает кое-что, чего не понимает Майкл Рьюз: что Разум - это не игра.

Добавлено: Брэндон утверждает, что адвокатура Дьявола это важный социальный, а не индивидуальный процесс. Я об этом, признаюсь, не подумал.

Перевод: 
El_Aurens, Pion, deep_blue_hexagon, Zeta000, Sankogin
Оцените качество перевода: 
Средняя оценка: 3.9 (10 votes)

Рациональность — это систематизированное выигрывание

Элиезер Юдковский

«Рационалисты должны выигрывать», сказал я, и, похоже, мне придется прекратить так говорить, потому что под этим понимают не то, что я хотел сказать.

Откуда вообще взялась эта фраза? Из обсуждения задачи Ньюкома: сверхсущество Омега дает вам на выбор две коробки, прозрачную коробку А с тысячей долларов (или аналогичной ценностью) и непрозрачную коробку Б, в которой может быть либо ничего, либо миллион долларов. Омега говорит вам: «В коробке Б есть миллион долларов только в том случае, если я предсказал, что вы возьмете только коробку Б, оставив А». Омега играл в эту игру много раз и предсказывает правильно 99 раз из 100. Вы возьмете обе коробки или только Б?

Распространенная позиция — на деле она вообще доминирующая в современной философии и теории принятия решений — что единственным разумным выбором будет взять обе коробки; Омега уже принял решение и ушел, так что ваше действие не повлияет на содержимое коробок в любом случае (их аргументация). Теперь, так получилось, что определенные типы безрассудных людей вознаграждаются Омегой (который делает это даже до того, как они приняли решение), но это не меняет заключения, что разумнее всего взять две коробки, что сделает вас богаче на тысячу долларов в любом случае, вне зависимости от содержимого Б.

Именно такой тип мышления я хотел раскритиковать, говоря что рационалисты должны выигрывать.

Миямото Мусаси сказал: «Помни, когда в твоих руках меч — ты должен поразить противника, чего бы тебе это ни стоило. Когда ты парируешь удар, наносишь его, делаешь выпад, отбиваешь клинок или касаешься атакующего меча противника, ты должен сразить противника тем же движением. Достигай цели. Если ты будешь думать только о блокировании ударов, выпадах и касаниях, ты не сможешь действительно достать врага».1

Я сказал: «Если тебе не удалось найти правильный ответ, бессмысленно говорить, что ты действовал правильно».

Вот что я на самом деле хотел донести, когда говорил, что рационалисты должны выигрывать.

Существует точка зрения, которая говорит, что определенный ритуал процесса познания — это образец разумности; таким образом он определяет, что должны делать разумные люди. Но, увы, часто разумные люди проигрывают неразумным, потому что вселенная не всегда разумна. Интеллект это лишь один из путей делать что-либо, не всегда самый подходящий; как если бы профессора разговаривали друг с другом в дискуссионном зале, что иногда срабатывает, иногда нет. Если же толпа варваров атакует дискуссионный зал, по-настоящему толковый и гибкий агент оставит разумность.

Нет. Если «иррациональный» агент превосходит вас систематическим и предсказуемым образом, тогда самое время посмотреть, думаете ли вы «рационально».

Я опасаюсь, что «рационалист» будет держаться за свой метод познания, даже если он терпит неудачу за неудачей, утешая себя: «Я веду себя так добродетельно и разумно, просто ужасно нечестно, что вселенная не дает мне того, что я заслуживаю. Другие просто жульничают, делая все нерационально, вот почему они меня обходят».

Это то, от чего я стараюсь предостеречь, говоря, что рационалисты должны выигрывать. Не скулить, а выигрывать. Если вы продолжаете проигрывать, возможно, вы делаете что-либо не так. Не утешайте себя тем, как вы были замечательно рациональны, если вы проиграли. Это не то, как должно все идти. Это не рациональность неправильна, это вы неправильно используете рациональность.

Это касается и эпистемологической рациональности, если вы осознаете, что думаете о убеждении Х как о разумном (потому что большинство людей верят в это же или просто потому что оно звучит привлекательно), хотя сам по себе мир определенно демонстрирует Y.

Но люди, похоже, понимают это иначе, нежели я имею в виду — словно любой, кто объявляет себя рационалистом, мгновенно преисполняется непобедимого духа, что позволяет им получать все что угодно без усилий и без каких-либо помех или чего-то подобного, я не знаю.

Возможно, альтернативную фразу можно найти у Мусаси, который сказал: «Дух школы Ити — дух победы, вне зависимости от вида оружия и его длины».2

«Рациональность — это дух выигрывания»?
«Рациональность — это путь выигрывания»?
«Рациональность — это систематизированное выигрывание»?

  • 1. Перевод взят с сайта lib.ru, к сожалению, переводчик там не указан. — Прим.редактора.
  • 2. Перевод также взят с сайта lib.ru. — Прим.редактора.
Перевод: 
Remlin
Оцените качество перевода: 
Средняя оценка: 4.1 (14 votes)

Учи невыучиваемому

Элиезер Юдковский

Предыдущий в минисерии: Непередаваемое превосходство

Следует за: Искусственное сложение (English)

Литературный конвейер, который я называю «порнографией превосходства» не слишком хорош в том, что делает. Но это провал довольно важной задачи. Сравнив пользу цивилизации в целом от звёздных навыков Уоррена Баффета и от менее гламурного, но более передаваемого трюка «инвестируйте заново ваши доходы», вряд ли вы будете сомневаться. Легко заметить, как сильно изменится мир, если придумать, как выразить всего лишь ещё один навык, до сих пор бывшим секретным ингредиентом успеха. Не порнографическое обещание постичь душу звезды. Всего лишь способ надёжно передать ещё одну мысль, даже если она не означает всего

Что делает успех таким сложным для повторения?

Голые статистические шансы всегда непередаваемы. Неважно, что вы можете сказать насчёт удачи, вы не можете научить кого-нибудь иметь её. Искусство хватать возможности и открывать себя положительным случайностям (English) обычно недооценивают. Я видел людей, останавливающихся на своём пути из-за «неудачи», которую предприниматель из Силиконовой долины раздавил бы, словно паровой каток – лежачего полицейского… Но даже так, остаётся чистый элемент случайности.

Успех Эйнштейна (English) зависел от его генов, давших ему потенциал, чтобы развить навыки сверх обычного уровня. Если навыки зависят от умственных способностей, вы не можете передать их большинству людей… но даже если такой потенциал – один-на-миллион, то шесть тысяч Эйнштейнов, разгуливающих по планете - совсем не плохо. (А если немного пофантазировать, то кто сказал, что гены непередаваемы? Просто требуется немного более продвинутая технология, чем школьная доска, только и всего.)

Итак, мы исключили истинно непередаваемое - что осталось? До куда можно отодвинуть границу? Чему возможно научить – пусть и очень сложно – но чему не учат?

Мне однажды сказали, что половина Нобелевских лауреатов были учениками других Нобелевских лауреатов. Этот источник (English, pdf) утверждает, что 155 из 503. (Интересно, что тот же источник подсказывает, что число Нобелевских лауреатов с «Нобелевскими дедушками» (учителями учителей) всего лишь 60.) Даже если сделать поправку на отбор выдающихся учеников и политическое проталкивание кандидатов, факты подсказывают, что можно перенимать вещи, находясь в ученичестве – наблюдение из-за плеча, беседы в свободной форме, постоянная правка ошибок в течение работы. Ни один Нобелевский лауреат ещё не преуспел в том, чтобы поместить всё это в книгу.

Что же это такое, чему учатся преемники Нобелевских лауреатов, но не может быть выражено словами?

Этот предмет притягивает меня, так как он сообщается с мета-уровнем, с источником в глубине, с пропастью между генератором и его выходом (English). Мы можем объяснить эйнштейнову теорию относительности студентам, но не можем сделать из них Эйнштейнов. (Если посмотреть на это с правильного угла, то весь гений человеческого интеллекта ничто иное как непередаваемое прозрение, которое есть у людей, но которое мы не можем объяснить компьютеру.)

Количество бессловесного интеллекта в нашей работе обычно недооценивается, потому что сами по себе слова намного легче анализировать (English). Но когда я обращаю внимание, я вижу, что большая часть моих поисковых способностей проявляется во вспышках восприятия, говорящих мне, что именно важно, какую мысль нужно думать следующей.

Когда я встретил своего ученика Марселло, он уже был лучше в математических доказательствах, чем я, по крайней мере, намного быстрее. Он соревновался на национальном уровне, но на подобных соревнованиях вам говорят, какие задачи важны. (А ещё на соревнованиях вы сразу сдаёте листочек с решениями и перескакиваете к следующей задаче, не анализируя, можно ли упростить доказательство, объять его целиком, получить из него ещё что-нибудь.) Но действительно важная вещь, которой я пытался научить – проверяя, можно ли вообще ей научить – было ощущение, какие проблемы ИИ куда-нибудь ведут, а какие - пустышки. «Ты можешь жать на педали так же хорошо, как и я, - сказал я ему, когда он спросил меня, хорошо ли справляется, - но девяносто процентов времени рулю до сих пор я» Это были постоянные упорные попытки облечь в слова причины, почему я думал, что мы ещё не нашли по-настоящему важного прозрения, таящегося где-то в задаче, почему мы должны отбросить текущее доказательство Марселло, переформулировать задачу и попытаться ещё раз, с другого угла, чтобы узнать поймём ли мы проблему по-настоящему в этот раз.

Мы проходим через череду событий, и наш мозг использует неявный алгоритм, чтобы размолоть полученный опыт в сухой остаток, а затем - ещё один неявный алгоритм, чтобы сформировать из него нейронную сеть: процедурный навык, источник бессловесной интуиции, который вы знаете настолько быстро, что вы не знаете, что знаете его. «Нулевой шаг», - так я его называю, шаг в обуславливании вещей, который идёт до первого шага в решении и пролетает настолько быстро, что вы не понимаете, что он был.

Я горжусь умением облекать вещи в словесную формулировку, вникать в одномоментные вспышки озарений и высматривать в них узор и направление, даже если я не могу указать на механизмы, ответственные за них. Но когда я пытался передать остриё, фронт моих работ, где я расширял знание, слова были бессильны, и мне оставалось разбирать с Марселло задачу за задачей, надеясь, что его мозг уловит невыразимый ритм пилотирования: налево, направо; вот это, наверное, достойно развития, это – нет; это кажется ценным озарением, а это – всего лишь чёрная коробка вокруг нашего незнания.

Я ожидал, что так и будет; я никогда не надеялся, что самые главные части мыслей можно будет легко переложить на слова. Если бы это было так просто, то мы бы действительно создали искусственный интеллект в семидесятых.

Цивилизация продвигается, обучая выходу из генератора, а не генерированию. Эйнштейн произвёл многочисленные открытия, затем сгенерировал знание достаточно словесное, чтобы быть переданным студентам в университетах. Когда же нужен ещё один Эйнштейн, цивилизация может лишь затаить дыхание и надеяться.

Но если эти бессловесные навыки есть продукт опыта, то почему не передать опыт (English)? Или, если книги не слишком хороши, а они, наверное, и близко к этому не подходят, то почему бы не провести людей через череду тех же событий, чтобы передать опыт?

  1. Звёзды могут и не знать, что было критически важным опытом.

  2. Критически важные события могут быть сложными для воспроизведения. Например, каждый уже знает ответ к специальной теории относительности, и теперь мы не можем тренировать людей, давая им эту же задачу. Даже знание, что там что-то о взаимосвязи между пространством и временем, уже довольно сильный спойлер. Самая важная часть задачи и есть та, где ученик сверлит взглядом белый лист бумаги до тех пор, пока капли крови не выступят на лбу, пытаясь сообразить, о чём думать дальше. Навыки гениев редки, я уже упоминал (English), потому что мало возможностей практиковать их.

  3. В дело может быть вовлечена удача или природный талант, подсказывая правильные вещи для изучения – нахождения высококачественного решения в пространстве бессловесных процедурных умений. Даже если мы проведём человека через те же испытания, останутся компоненты чистой случайности, влияющие на вероятность изучения того же невыразимого навыка.

Но, я думаю, всё ещё есть причина, продолжать описывать неописываемое и учить невыучиваемому.

Представьте развитие умений играть в азартные игры с изобретением теории вероятности несколько веков назад. В покере до сих пор сохранилась часть искусства, которое звёзды покера могут лишь частично передать на словах. Но в прошлом никто и понятия не имел, как вычислить шанс выпадения одних единиц на трёх кубиках. Может, опытный игрок и имел невыразимое понятие, что некоторые вещи более вероятны, чем другие, но не мог высказать его словами – не мог передать никому, что он узнал о вероятности, кроме как, может, через долгий процесс наблюдения за учеником из-за плеча и корректирования его ставок.

Чем больше мы узнаём что-либо в определённой области и наблюдаем звёзд за работой, тем больше мы узнаём о человеческом разуме в целом, тем больше мы можем надеяться, что новый навык превратится из непередаваемого в выучиваемый, а затем в публицируемый.

Вы можете объединить некоторые пути в семейство, даже если не способны выразить их словами. И даже если сами вы получили что-то благодаря удаче (включая генетическую удачу), вы можете уменьшить роль слепого случая.

  1. Предупреждения о тупиках, задержавших вас. Это очевидный способ помочь.

  2. Если вы выложите на стол набор мыслей, являющихся продуктом невыразимого навыка, кто-нибудь, читая их, может уловить ритм и сделать скачок к невысказанной вещи стоящей за мыслями. Это потребует намного меньше удачи, чем события, которые изначально и привели вас к приобретению этого навыка.

  3. Есть хорошие аттракторы в пространстве решений – кластеризованные под-решения, которые дают доступ к остальным решениям в аттракторе. Тогда – даже если некоторые мысли не могут быть помещены в слова и требуется удача, чтобы набрести на них изначально – объяснения, как найти дверь, может быть достаточно, чтобы заякорить аттрактор.

  4. Некоторый важный опыт вполне дублируем: например, можно советовать людям, какие книги читать или какие области изучать.

  5. Наконец, прогресс науки в целом может лучше объяснить определённую область, и в некоторый момент вы внезапно поймёте, что именно вы знаете и как правильно высказать свои мысли.

И конечно, коронная фраза этой статьи: это те изменения, которые я надеюсь увидеть в некоторых аспектах человеческой рациональности, навыках, которые были до сих пор непередаваемыми или передаваемыми только от учителя к ученику напрямую. За последние несколько десятилетий мы немало узнали о них, и, я думаю, пора бы попытаться систематизировать полученные сведения.

Я жажду уменьшить роль удачи и таланта в обучении рационалистов высшего разряда.

Перевод: 
Павел Садовников
Оцените качество перевода: 
Средняя оценка: 5 (2 votes)

Не выходи из комнаты

Скотт Александер

Психологи определяют «якорение» как способность раздражителя активировать мозг таким образом, что это влияет на ответы на последующие раздражители. Если это звучит недостаточно зловеще, можете переформулировать это как «любая случайная вещь, произошедшая с вами, может перехватить ваши суждения и личность на следующие несколько минут».

К примеру, вы входите в комнату и замечаете в углу чемодан-«дипломат». Ваш мозг теперь — гордый владелец активированного концепта «дипломат». Он на какое-то время настроен думать о дипломатах, и если уж на то пошло, об офисах, бизнесе, конкуренции и амбициях. На следующие несколько минут вы будете склонны воспринимать все социальные взаимодействия как конкурентные и вести себя соответственно. Эти небольшие сдвиги будут достаточно значительны, чтобы их можно было измерять, например, тем сколько денег Вы готовы поставить в игре «Ультиматум». Если это звучит как странная эзотерическая ерунда типа симпатической магии, я только могу отослать Вас к исследованию Кея, Уиллера, Барга и Росса от 2004 года (English)1.

Мы недавно обсуждали плюсы и минусы веры в Санта-Клауса. Вот, к примеру, один из плюсов: датские дети, которым показали изображение шапки Санта-Клауса, были более склонны делиться конфетами с другим ребенком. Почему? Исследователи предположили, что шапка активирует концепт Санта-Клауса, а Санта-Клаус активирует идеализированный концепт дарения и щедрости. Ребёнок после этого склонен относиться к щедрости положительно. Естественно, тот же эффект может быть использован и в обратном направлении. В том же исследовании дети, которым показали логотип известного магазина игрушек, были менее склонны делиться конфетами.

Но ведь этот эффект ограничен исследованиями в паре психологических лабораторий, так? Он не использовался для чего-нибудь вроде, скажем, изменения результатов крупных выборов?

Я знаю о двух хороших исследованиях эффекта прайминга в политике. В первом (English) субъектам подсознательно2 подсказывали буквенно-числовые комбинации, которые напоминали об атаках 11 сентября (например «911» или «WTC»), или случайные буквенно-цифровые сочетания. После этого их просили оценить деятельность администрации президента Буша. Те, кто видел случайные строки, оценивали Буша на неутешительные 42%. Те, кто подвергся якорению, напоминавшему о войне с террором, давали ему оценку в среднем 75%. Изменение довольно значительное, даже при том что никто из испытуемых не смог сознательно вспомнить какие либо упоминания о терроризме.

Во втором исследовании (English) учёные проанализировали данные из 2000 выборов в штате Аризона и выяснили, что место сбора подписей оказывает заметный эффект на результаты голосования. То есть люди, голосовавшие в школах, были более склонны поддерживать политики, направленные на улучшение образования, те, кто голосовал в церкви, были более склонны поддерживать социально консервативные предложения. Сдвиг предпочтений составляет примерно три процента. Подумайте обо всех выборах, завершившихся с перевесом менее чем в три процента…

Возражение: после не значит вследствие! Религиозные люди, возможно, просто живут ближе к церквям и знают, где находится местная церковь, и так далее. Именно поэтому учёные провели большую работу по регрессионному анализу и поправкам к данным. Результат получился тем же.

Возражение: возможно, поправки были не слишком хорошими! Те же учёные собрали голосовавших в своей лаборатории, показали им фотографии зданий и пригласили участвовать в условном голосовании по образовательным вопросам. Те, кому показывали фотографии школ, были более склонны голосовать за образовательные инициативы, чем те, кто видел обычные здания.

Какие техники эти исследования предлагают рационалистам? Мне хочется сказать, что лучший способ защититься — никогда не покидать своей комнаты, но есть и менее радикальные методы. Во-первых, избегайте сильных раздражителей за несколько минут до принятия важного решения. Все знают о террористических атаках 11 сентября, но эти события влияли только на решения тех людей, которые были подвергнуты действию соответствующих раздражителей прямо перед ответом 3.

Во-вторых, постарайтесь принимать решения в нейтральной обстановке и придерживаться их. Самый простой способ нейтрализовать влияние места голосования — это решить, за кого голосовать, пока ещё не вышел из дома, и потом придерживаться этого решения (кроме случаев, когда вас посещает какое-то внезапное озарение на пути к кабинке для голосования). Вместо того, чтобы не покидать свою комнату, лучше принимать решения в ней и выносить их в готовом виде в наполненный раздражителями мир.

Я не могу не вспомнить о старой традиции рационалистов «очищать свой разум» перед принятием важного решения. Или совет «утро вечера мудренее».

Независимо от того, будете ли вы применять какие нибудь формальные техники, отдых в свободном от раздражителей окружении в течение нескольких минут будет неплохим выбором.

  • 1. Полагаю, симпатическая магия действительно имеет какие-то эффекты наподобие плацебо, именно по вышеприведённой причине.
  • 2. Якорение — один из феноменов, провоцирующих истерию вокруг сублиминальных сообщений в рекламе. Плохая новость состоят в том, что эффект вполне реален: изображение попкорна, незаметно для сознания промелькнувшее на экране, может заставить вас думать о попкорне. Хорошая новость состоит в том, что эффект не так уж опасен: ваше желание купить попкорн будет таким же, как если бы вы увидели обычное изображение попкорна на экране.
  • 3. Очевидное возражение: если вы оцениваете действия администрации Джорджа Буша, было бы странным, если бы вы не вспомнили о террористических атаках. Я не видел исследований, напрямую затрагивающих такой вариант, но возможно, что внешняя ссылка, пришедшая не в ходе собственных рассуждений, активирует вас сильнее, чем если бы вы вспомнили об этих событиях самостоятельно
Перевод: 
BT
Оцените качество перевода: 
Средняя оценка: 4 (4 votes)

Обобщение на одном примере

Скотт Александер

«Все делают общие выводы из одного примера. По крайней мере, я делаю именно так.» — Влад Талтош, «Исола», Стивен Браст

Мой старый преподаватель, Дэвид Берман, любил говорить о том, что он называл «заблуждением о типичном разуме». Иллюстрировал он это следующим примером:

В конце 19 века происходили споры о том, чем является «воображение» — просто речевым оборотом или реальным феноменом. То есть, способны ли люди действительно создавать в уме изображения, которые они наглядно видят, или они просто используют фразу «Я мысленно себе это представил» в качестве метафоры?

Когда я это услышал, моей первой реакцией было «Как, #@$%, можно об этом спорить? Естественно, мы можем представлять вещи в уме. Любой кто так не думает — либо настолько фанатичный бихевиорист, что не доверяет собственному опыту, либо просто безумен». К сожалению, профессор мог привести огромный список достаточно известных людей, отрицавших существование мысленных образов, включая видных людей той эпохи. И всё это до того как бихевиоризм вообще появился.

Спор был разрешён Фрэнсисом Галтоном, удивительным человеком, который помимо прочих достижений изобрёл евгенику, «мудрость толпы» и стандартное отклонение. Галтон давал людям очень детальные опросники и выяснил, что некоторые люди способны пользоваться мысленными образами, а некоторые — нет. Те, кто мог, попросту предполагали что все могут так же, те же кто не мог, предполагали что никто не может представлять вещи в уме. Уверенность людей в своей правоте была столь непоколебима, что временами они придумывали совершенно абсурдные объяснения — например, что другие врут или просто не понимают вопроса. Способность представлять вещи в уме варьировалась в широких пределах: примерно пять процентов опрошенных обладали абсолютным эйдетическим воображением1, и примерно пять процентов были совершенно неспособны формировать изображение в уме2.

Доктор Берман назвал эту тенденцию людей считать, что структура их мышления может быть обобщена для применения к другим людям, «заблуждением о типичном разуме».

Он взялся за эту идею и развил её. Он интерпретировал некоторые отрывки биографии Джорджа Беркли, чтобы показать что у Беркли было эйдетическое воображение, и именно поэтому идея Вселенной как чувственного восприятия так его интересовала. Он также предположил, что опыт сознания и квалиа варьируется так же, как воображение, и что философы, отрицавшие их существование (Райл? Деннет? Бихевиористы?), просто были людьми, чей мозг был лишён возможности легко испытывать квалиа. В целом, он верил, что философия разума полна примеров философов, взявших за образец собственный умственный опыт и строивших теории на его основе, и других философов с другим умственным опытом, критикующих первых и не понимающих, как можно было так ошибиться.

Формально, термин «заблуждение о типичном разуме» можно применять лишь к моделям структуры нашего мышления. Но я находил и множество примеров, связанных скорее с психикой, нежели с разумом: тенденцию обобщать на основе собственной личности и поведения.

К примеру, я — один из самых глубоких интровертов, которых вам, скорее всего, доводилось встречать; более замкнутые люди вообще ни с кем не контактируют. В течении всей школьной жизни я подозревал, что другие дети имеют что-то против меня. Они постоянно хватали меня, когда я был чем-то занят, и пытались втянуть меня в какие-то свои игры с друзьями. Когда я протестовал, они не обращали внимания и говорили мне, что я должен бросить свои бессмысленные занятия и пойти с ними. Я считал их хулиганами, специально пытающимися достать меня, и постоянно придумывал способы спрятаться от них или отпугнуть.

В конце концов я понял, что это было двойным непониманием. Они считали, что я должен быть таким же, как они, и единственное, что мешало мне участвовать в их играх — это стеснительность. Я же считал, что они — такие же, как я, и единственное, что может заставить их отрывать занятого человека от дела, — это желание ему досадить.

Также: я не переношу шум. Если кто-нибудь шумит, я не могу спать, не могу учиться, не могу сконцентрироваться, не могу делать ничего — только биться головой в стену и надеяться, что они прекратят шуметь. Одно время у меня была шумная соседка по дому. Когда я просил её быть потише, она говорила, что я слишком чувствительный, и мне стоит просто отдохнуть. Я не скажу, что был сильно лучше неё: она была жуткой чистюлей и постоянно возмущалась из-за того, что я оставлял вещи где попало. Я же, в свою очередь, говорил, что ей стоит просто отдохнуть, и всё равно незаметно, есть на комоде пыль или нет. Мне не приходило в голову, что эта чистоплотность была для неё так же необходима и безусловна, как тишина для меня, и дело действительно было в разнице способов обработки информации у нас в мозге, а не просто в тараканах у неё в голове.

Фразы «просто тараканы в её голове» и «просто слишком чувствителен» говорят нам о проблеме, связанной с заблуждением о типичной психике, а именно: заблуждение о типичной психике невидимо. Мы склонны преуменьшать роль разной организации мышления в разногласиях, и приписывать проблемы тому, что другой участник конфликта намеренно или случайно действует нам наперекор. Я знаю, что громкий шум серьёзно мучит и изнуряет меня, но когда я говорю об этом с другими, они думают что я просто немного помешан на тишине. Подумайте о тех бедолагах, неспособных создавать визуальные образы, которые считают, что все остальные просто метафорически рассуждают об образах в своём воображении и не собираются отказываться от этих метафор.

Я пишу сюда потому, что именно рациональность может помочь нам справиться с этими проблемами.

Есть определённые доказательства тому, что наш обычный способ взаимодействия с людьми включает в себя что-то вроде моделирования их внутри нашего собственного мозга. Мы думаем о том, как бы мы отреагировали, делаем поправку на различия между людьми, и предполагаем, что другой человек будет действовать именно так. Этот способ взаимодействия очень привлекателен, и часто кажется, будто он должен неплохо работать.

Но если статистика говорит нам, что метод, который работает с вами, необязательно сработает с кем-нибудь другим, то вера своему внутреннему чутью — это именно заблуждение о типичной психике. Надо быть хорошим рационалистом, отбросить внутреннее чутье и следовать за данными.

Я понял это, когда недавно работал школьным учителем. Много книг посвящены методам преподавания, которые нравятся студентам и способствуют лучшему усвоению материала. В свои школьные годы я был, эм-м… подвергнут ряду этих методов, и у меня не осталось никакого желания мучить своих студентов подобным образом. И когда я попробовал разные креативные подходы, которые, как мне казалось, понравились бы мне-ученику… всё окончилось полной неудачей. Что же в конце концов сработало? Методы, близкие к тем, которые я так ненавидел в детстве. Ох. Ладно. Теперь я знаю, почему они так широко используются. А я-то всю жизнь думал, что мои учителя — просто ужасные педагоги, не понимая, что я просто странный статистический выброс, на которого подобные методы не действуют.

Я пишу сюда ещё и потому, что мне кажется эта тема имеет отношение к обсуждению соблазнения, которое проходит в обсуждении Bardic, начатом MBlume. Там есть много не слишком лестных вещей о женщинах, в которые тем не менее верят мужчины. Некоторые считают, что женщины никогда не согласятся на романтические отношения со своими друзьями-мужчинами, предпочитая альфа-самцов, которые к ним в итоге плохо относятся. Другие считают, что женщины сами хотят, чтобы им врали и обманывали их. Я мог бы продолжать, но думаю в том обсуждении всё это и так неплохо представлено.

Тем не менее, от большинства женщин я слышу, что это полная ерунда и женщины вовсе не такие. Что же тут происходит?

Ну, боюсь, я в чём-то верю «соблазнителям». Они вложили много сил и времени в своё «искусство» и, по крайней мере по собственным заявлениям, довольно в этом успешны. И все эти несчастные романтически разочарованные парни, которых я встречаю, не могут полностью ошибаться.

Моя теория состоит в том, что женщины в данном случае становятся жертвой заблуждения о типичной психике. Те женщины, которых я об этом спрашивал — далеко не репрезентативная выборка из всех женщин. Это такие женщины, с которыми стеснительный и довольно замкнутый парень знаком и может поговорить о психологии. Точно так же, женщины, которые пишут в Интернете на эту тему — не репрезентативная выборка. Это женщины с хорошим образованием, у которых есть чётко выраженное мнение по гендерным вопросам и время, чтобы писать о своём мнении в блог.

И, чтобы не показаться шовинистом, то же самое справедливо и для мужчин. Я слышу много плохого о мужчинах (особенно с точки зрения их отношения к романтике), но я не могу сказать такого о себе, своих близких друзьях или о ком-либо, кого я знаю. Но эти мнения настолько распространены и так широко поддерживаются, что у меня есть определённый повод им верить.

Эта статья становится всё менее строгой и всё дальше уходит от темы заблуждения о типичном разуме. Сначала я перешёл к заблуждению о типичной психике, чтобы обсудить материи скорее психологического и социального плана, нежели умственного. А теперь она расширилась так, чтобы включить в себя и другую похожую ошибку — суждение о всех людях по собственному социальному кругу, убеждение в том, что твоё окружение репрезентативно; такое убеждение очень редко оказывается верным3.

Изначально статья называлась «Заблуждение о типичном разуме», но я убрал из названия все намёки и переименовал её в «Обобщение на одном примере», потому что именно это связывает все перечисленные ошибки. Мы непосредственно знаем только один разум, одну психику, один социальный круг, и нам хочется считать их типичными даже в присутствии доказательств обратного.

Для читателей LessWrong это, думаю, особенно важно, так как эти люди, насколько я могу судить, в большинстве своём выпадают из общего ряда на любом из изобретённых психометрических тестов.

  • 1. Эйдетическое воображение, слабо связанное с «фотографической памятью», это способность визуально представлять себе что либо и видеть это так же ясно, ярко и чётко как и при обычном зрении. Пример, который приводил мой профессор, состоит в том что, хотя многие люди могут представить себе тигра, только эйдетик способен сосчитать на нём полоски.
  • 2. Согласно результатам Галтона, людей неспособных формировать визуальные изображения было очень много в математике и науке вообще. Со времён Галтона эти идеи подвергались сомнению, но я не могу найти соответствующих исследований.
  • 3. Пример, который окончательно меня убедил: как вы думаете, какой процент старшеклассников списывают на контрольных и экзаменах? Какой процент воровали что-либо из магазина? Попробуйте предположить ответы на эти вопросы сами, прежде чем смотреть ответ. Кто-то недавно провёл исследования на эту тему, и результаты таковы: две трети списывали и треть воровала в магазинах. Это шокировало меня и всех, кого я знаю — мы не списывали и не воровали в школе, и не знали никого, кто бы так делал. Я целый вечер потратил на то, чтобы найти данные, опровергающие или ставящие под сомнение результаты исследования, и не смог ничего найти.
Оцените качество перевода: 
Средняя оценка: 3.2 (13 votes)

Презумпция типичности — худший аргумент в мире?

Скотт Александер

Некоторое время назад Дэвид Стоув провёл конкурс на самый худший аргумент в мире, но учитывая, что он отметил победителем собственного номинанта, да ещё и поддерживающего его философские взгляды, едва ли процесс отбора можно назвать объективным.

Если он может вот так единолично объявить худший аргумент в мире, то могу и я. Я назначаю самым худшим аргументом в мире приём: «X относится к категории, чей типичный представитель вызывает у нас определённую эмоциональную реакцию. Следовательно такую же эмоциональную реакцию должен вызывать и X, даже если это далеко не самый обычный представитель категории.»

Назовём это «презумпцией типичности». Звучит довольно глупо, когда выражаешь этот принцип так. Да кто вообще так делает?

Но звучит он глупо, только если мы рассуждаем исключительно в терминах категорий и признаков. Когда этот софизм облачают в разговорные слова, он становится столь силён, что большая часть плохих доводов в истории политики, философии и культуры чем-то походит на презумпцию типичности. До них мы ещё доберёмся, а пока рассмотрим простой пример.
Предположим, что кто-то захотел поставить памятник Мартину Лютеру Кингу за его ненасильственное сопротивление расизму. Несогласные могут возразить так: «Но ведь Мартин Лютер Кинг был преступником!»

Любой историк может это подтвердить. Технически, преступник — это человек, нарушивший закон. Как известно, Кинг действовал вопреки закону, запрещающему проведение демонстраций против сегрегации. За это он попал в Бирмингемскую тюрьму, где и написал своё знаменитое письмо.

В этом случае Мартин Лютер Кинг — нетипичный преступник. Классическим примером преступника можно считать, скажем, грабителя. Он гонится за наживой, обманывает ни в чём неповинных людей, подрывает основы общества. Всё это мы осуждаем, и потому, назвав человека преступником, мы автоматически начинаем относиться к нему хуже.

Всё те же несогласные скажут: «Мартин Лютер Кинг — преступник, а так как преступников все ненавидят, ненавидеть нужно и Кинга». Но у Кинга нет тех признаков, которые и заставляют нас плохо относиться к преступникам, а именно лживости, асоциальности и жажды наживы. Следовательно, несмотря на то, что он преступник, нет причин его презирать.

Всё это звучит логично и последовательно, когда подаётся в таком формате. К сожалению, это на сто процентов противоречит инстинктивному побуждению ответить: «Мартин Лютер Кинг? Преступник? Он не был преступником! А ну возьми свои слова обратно!» Вот почему презумпция типичности столь успешна. Как только ты это сказал, ты попался в ловушку. Спор больше не о статуе, а о том, был ли Мартин Лютер Кинг преступником. А так как, технически, преступником он был, спор заранее проигран.

В идеале нужно суметь ответить: «Ну, Мартин Лютер Кинг был хорошим преступником.» Увы, это довольно сомнительный дискуссионный манёвр, его сложно применить в некоторых случаях, где обычно используется вышеописанный софизм.

Теперь я хочу рассмотреть несколько частных случаев. Многие имеют политическую подоплёку 1, за что я извиняюсь, но довольно сложно вычленить плохой аргумент из конкретных споров. Ни один из них не призван намекнуть, что позиция, которую он поддерживает, неверна (на самом деле, я разделяю некоторые из них). Примеры лишь показывают, что некоторые конкретные аргументы ошибочны. Например:

«Аборт — это убийство!» Типичный пример убийства — это Чарльз Мэнсон, врывающийся к тебе домой и стреляющий в тебя. Такой тип убийств плох по многим причинам: ты предпочитаешь не умирать, у тебя есть определённые мечты и надежды, которые погибнут вместе с тобой, твои семья и друзья испытают определённые душевные страдания, а остальное общество будет жить в страхе, пока Мэнсона не поймают. Если определить убийство как «забирание жизни другого человека», тогда, технически, аборт — убийство. Но у него нет многих отрицательных последствий убийства в стиле Чарльза Мэнсона. Хотя аборты можно критиковать по многим другим причинам, фраза «аборт — это убийство» призывает испытывать одинаковые негативные чувства в случае Мэнсона и в случае аборта, игнорируя отсутствие многих характерных черт при последних обстоятельствах. Тех черт, которые изначально и породили эти негативные чувства 2.

«Модификация генов для лечения болезней — это евгеника!» Окей, тут ты меня поймал: если определять евгенику как «попытки улучшить генетический пул человечества», это действительно верно. Но что не так с евгеникой? «Что не так с евгеникой? Гитлер занимался евгеникой! Неэтичные учёные из пятидесятых годов, которые стерилизовали чёрных женщин без их согласия, занимались евгеникой!» А что не так с Гитлером и теми учёными? «Что значит, „что с ними не так“? Гитлер убил миллионы людей! Те учёные тоже разрушили жизни многих.» Разве использование модификации генома для лечения болезней делает что-то подобное? «Ну… не совсем.» Тогда что с ним не так? «Это евгеника

«Эволюционная психология — это сексизм!» Если определять «сексизм» как «веру в различие между полами», это верно по крайней мере про часть эволюционной психологии. Например, принцип Бейтмэна постулирует, что у видов, где женские особи инвестируют больше усилий в воспитание потомства, ритуалы спаривания предполагают, что мужские особи будут ухаживать за женскими чтобы основать пару, а это закладывает фундаментальное психологическое различие между полами. «Отлично, значит, ты признаешь, что это сексизм!» Напомни, почему именно сексизм — это плохо? «Потому что сексизм утверждает, что мужчины лучше женщин, и что у женщин должно быть меньше прав!» Это как-то следует из принципа Бейтмэна? «Ну… не совсем.» Так что же с ним не так? «Это сексизм

Второй, чуть более изящный способ использования презумпции типичности выглядит так: «X принадлежит к категории, чей типичный представитель вызывает некоторую эмоциональную реакцию. Следовательно, мы должны применять ту же эмоциональную реакцию к X, даже если X приносит пользу, которая перевешивает вред.»

«Смертный приговор — это убийство!» Убийство в стиле Чарльза Мэнсона приносит только вред. Поэтому оно вызывает столь сильное отторжение. Сторонники высшей меры наказания считают, что оно позволяет уменьшить преступность или принести другую сопутствующую пользу. Другими словами, они считают, что это «хорошее убийство» 3, как во вводном примере Мартин Лютер Кинг был «хорошим преступником». Но так как обычное убийство — это табу, сложно воспринять выражение «хорошее убийство» всерьёз, ведь даже само упоминание слова «убийство» может вызывать точно такую же негативную реакцию, как и в стандартном случае.

«Позитивная дискриминация — это расизм!» Верно, если вы определяете расизм, как «благоволение определённым людям на основе расовой принадлежности», но, снова, нашу мгновенную негативную реакцию на типичный пример расизма (Ку-Клукс-Клан) нельзя обобщить на этот случай. Перед тем как распространять негативные эмоции на позитивную дискриминацию, следует проверить, обладает ли она всем тем, что заставляет нас ненавидеть Ку Клус Клан (насилие, унижение, отсутствие в обществе разнообразия и зависимости благосостояния человека в первую очередь от его поступков). И даже если мы найдём какие-то из них (подрыв меритократии, например), следует так же доказать, что они не приносят больше пользы, перевешивающей вред.

«Взимание налогов — это воровство Верно, если под воровством вы подразумеваете присвоение чьих-либо денег без согласия человека. Но в отличие от типичного примера воровства (проникновение в чей-либо дом и кража украшений) у налогообложения всё же есть положительные стороны. Воровство обычно несправедливо и наносит ущерб обществу. Первое можно применить и к налогообложению. Второе — нет, если вы согласны, что важнее спонсировать государство, чем оставлять деньги именно у тех людей, которые их заработали. Речь идет об относительной важности обоих пунктов. Следовательно, нельзя просто отказаться от налогообложения из-за того, что воровство как таковое вызывает неприязнь. Вам также придется доказать, что предполагаемые затраты этой формы воровства превышают пользу.

Должен заметить, так как большинство споров всё же представляют собой скорострельный обмен доводами и контрдоводами а ля клуб дебатов, иногда всё же следует отвечать «Налоги — это не воровство!». По крайней мере это лучше, чем сказать: «Налоги — воровство, но хорошее», оставляя для противоборствующей стороны ответ: «По всей видимости, мой достопочтимый оппонент считает, что воровство может быть полезным, мы же будем храбро отстаивать противоположную точку зрения», после чего модератор ударит в гонг, не давая полнее раскрыть точку зрения. Если ты в клубе дебатов, делай что должен. Но если у тебя есть роскошь философской ясности, лучше отринь Тёмное Искусство и взгляни чуть глубже на происходящее.

Бывают ли случаи, когда этот аргумент полезен? Да. Например, в качестве попытки установить на ощупь забор Шеллинга; скажем, принцип, что никто не должен воровать, даже если воровство может быть полезным, потому что тогда будет сложнее вычленить и противостоять действительно плохим видам воровства. Или в качестве попытки зажечь разговор, указывая на потенциальное противоречие: «Замечали ли вы, что налогообложение содержит многие черты типичного воровства? Должно быть вы об этом даже никогда не думали? Почему различаются морально интуитивно правильные поступки в обоих случаях? Не лицемерны ли мы?» Но такое использование довольно ограничено. Как только собеседник ответит: «Да, я думал об этом, но налогообложение отличается от воровства по причинам X, Y и Z», разговор уйдёт вперёд; нет особого смысла настаивать: «Но это воровство

Но в большинстве случаев, я думаю, что это больше аргумент, опирающийся на эмоции, или даже скорее аргумент вида «ты будешь выглядеть глупо, ответив на него». Нельзя просто взять и ответить: «Он хороший преступник», так что если у тебя потенциально склонная к критике аудитория и не так уж много времени для объяснений, ты в ловушке. Тебя только что принудили использовать типичный пример для слова, чтобы отнять самую важную информацию.

Во всех остальных случаях адекватная реакция на попытку убрать значимую информацию это «Нет, спасибо, зачем?» И именно поэтому это самый худший аргумент в мире.

Авторские примечания

Отредактировано, август 2013. После того как получил комментарии и жалобы, я немного отредактировал эту статью. В частности, я попытался убрать жаргон с LessWrong, который отпугнул некоторых незнакомых с сайтом людей, которым просто перешли на статью по ссылке.

Отредактировано, август 2013. Также некоторые читатели жаловались, что это просто неинтересная новая формулировка уже обсуждённых софизмов (каких конкретно непонятно, но чаще всего ссылаются на poisoning the well — «отравление источника»). Меня это не особо задевает, ведь я и не утверждал, что открываю Америку. Многие софизмы перекликаются друг с другом, и разбираться в том, где кончается один и начинается другой — не самое увлекательное занятие. Но хочу отметить, что с самой жалобой я не согласен. «Отравление источника» — это представление двух разных фактов. Например: «Мартин Лютер Кинг был плагиатором… и, кстати, что вы думаете о его взглядах на гражданские права?» Утверждения могут быть не связаны вообще, и обычно это делается осознанно в качестве уловки. В случае презумпции типичности утверждение только одно, но сформулировано оно таким образом, чтобы представлять информацию неверным образом. И его употребление часто несознательно. Приведенный пример про плагиат не подходит под презумпцию типичности. Если вам кажется, что это эссе об обыкновенном «отравлении источника», то либо у этого термина есть незнакомое мне значение, либо вы не понимаете сути статьи.

  • 1. По совету от сообщества я специально включил три типично либеральных примера и три типично консервативных, чтобы избежать спекуляций на тему, в чью сторону ангажирована статья.
  • 2. Следует отличать этот подход от деонтологии, веры в то, что есть некий доказуемый моральный принцип, по которому никогда не следует убивать. Я не думаю, что такое уж важное уточнение, потому что мало кто продумывает эту проблему настолько глубоко, и потому что у меня есть личное и (признаю) спорное мнение, что деонтология большей частью и есть попытка формализовать и оправдать презумпцию типичности.
  • 3. Некоторые люди «решают» эту проблему, говоря, что «убийство» относится только к «отнятию жизни не по закону». Увы, это не более искусно, чем переопределить слово «преступник» как «человек, который нарушает закон и не Мартин Лютер Кинг». Вычленение презумпции типичности — это более полное решение. Например, оно так же покрывает родственный (но большей частью саркастичный) пример, что «тюремное заключение — это похищение».
Перевод: 
Павел Садовников, Екатерина Карпова
Оцените качество перевода: 
Средняя оценка: 4.5 (6 votes)

16 видов полезных предсказаний

Джулия Галеф

Как часто вы делаете предсказания (о будущих событиях или об информации, которая вам пока недоступна)? Если вы регулярно читаете тексты LessWrong, вероятно, вы уже знакомы с идеей, что убеждения должны окупаться, что вы должны уметь сказать: «Вот, что я ожидаю увидеть, если мои убеждения точны, и вот, насколько я в этом уверен», и что вы должны обновлять свои убеждения, в зависимости от того, как сбываются ваши предсказания.

Однако… у меня складывается впечатление, что мало кто из нас регулярно делает предсказания. У меня самой всегда существовало расхождение между тем, насколько полезными, теоретически, я считаю предсказания, и тем, как часто я их делаю.

Не думаю, что дело всего лишь в лени. Я считаю, что на самом деле не так уж просто придумать, какие предсказания можно сделать, чтобы улучшить свою модель тех областей, которые для вас важны.

Здесь мне стоит пояснить, что предсказания могут помочь в достижении двух больших целей:

  1. Улучшить откалиброванность (например, понять, что я права в области X только в 70% случаях, а не в 90%, как я ошибочно считала).
  2. Улучшить точность (например, оказываться правым в вопросах из области Х не в 70% случаях, а в 90%).

Если вы просто хотите получше откалиброваться, то не важно, какие именно предсказания вы будете делать. Поэтому для упражнений на калибровку обычно берутся вопросы с ответами, которые легко найти, например: «Какова высота горы Эверест?» или «Доживёт ли Дон Дрейпер до конца «Безумцев»?» Можете ознакомиться, например, c сайтом predictionbook.com или недавней записью про калибровку. Упражнения на калибровку действительно работают.

Но даже если предсказания по поводу тривиальных вопросов улучшат мои способности к калибровке, они не помогут улучшить мою модель мира. То есть, не помогут мне стать более точной, по крайней мере в важных для меня областях. Если я отвечу на уйму вопросов про высоту гор, возможно, я стану более точной в этой теме, однако, мне это не слишком поможет в жизни.

Поэтому я думаю, что сложность с предсказаниями в следующем: Множество {вопросы, ответы на которые легко узнать} — это малое подмножество всех возможных вопросов. И множество {вопросы, ответы на которые меня волнуют} — тоже малое подмножество всех возможных вопросов. А пересечение этих двух подмножеств таким образом оказывается ещё меньше, и его не так легко найти. В итоге кажется, что предсказания делать довольно трудно, ну или по крайней мере польза от них не стоит затрачиваемых усилий.

Однако, это пересечение не пустое. Нужно лишь применить немного стратегического мышления, чтобы определить, какие из вопросов, на которые можно легко ответить, относятся к интересующим вас областям, или — если подойти к задаче с другой стороны — как выделить проблемы, которые для вас важны, и превратить их в вопросы, ответы на которые можно получить.

Я решила разобраться, что входит в это пересечение. Ниже приводятся 16 видов предсказаний, которые я сама применяю, чтобы улучшить свои суждения о важных для меня вопросах. (Впрочем, я уверена, что таких видов гораздо больше, и надеюсь, что вы поделитесь и своими.)

  1. Предсказывайте, сколько у вас уйдёт времени на текущую задачу. Очень важный вопрос, учитывая, как часто встречается ошибка планирования и какие от неё бывают последствия.
    Примеры: «Сколько я буду писать эту запись в блог?», «Когда наша компания станет приносить прибыль?»

  2. Предсказывайте, как вы будете себя чувствовать в предстоящих ситуациях. Аффективное прогнозирование — наша способность предсказывать, как мы будем себя чувствовать — часто даёт сбои, и об этом хорошо известно.
    Примеры: «Насколько мне понравится вечеринка?», «Почувствую ли я себя лучше, если выйду из дома?», «Буду ли я по-прежнему расстраиваться через две недели, если не получу эту работу?»

  3. Предсказывайте, насколько успешно вы справитесь с задачей.
    Такие предсказания помогают мне замечать, когда я безуспешно пытаюсь повторять один и тот же подход. Сделанное предсказание даже само по себе может намекнуть, что мне нужен план получше.
    Примеры: «Буду ли я придерживаться моего плана тренировок хотя бы месяц?», «Как пройдёт событие, которое я организовываю?», «Сколько я сделаю за сегодня?», «Смогу ли я убедить Боба в том, что моя точка зрения по обсуждаемому вопросу верна?»

  4. Предсказывайте, как ваша аудитория отреагирует на конкретную запись в социальных сетях (фейсбуке, твиттере, тумблере, блоге и так далее).
    Это поможет вам лучше разбираться, как создавать успешный контент, а также лучше понимать взгляды на мир ваших друзей (или читателей).
    Примеры: «Наберёт ли это видео необычно высокое количество лайков?», «Приведёт ли ссылка на эту статью к ругани в комментариях?»

  5. Когда вы пробуете новую занятие или новый способ что-нибудь делать, предсказывайте, как много вы получите пользы благодаря этому.
    Я заметила, что в этой области я часто ошибаюсь по обоим направлениям. По поводу некоторых «лайфхаков» мне кажется, что они решат все мои проблемы (а на самом деле такое случается редко). И наоборот, я часто с излишним скепсисом отношусь к занятиям, которые находятся вне моей зоны комфорта, и часто оказываюсь приятно удивлена, когда я всё-таки их пробую.
    Примеры: «Насколько „помодорки“ увеличат мою продуктивность?», «Насколько мне понравится танцевать свинг?»

  6. Когда вы что-то покупаете, предсказывайте, как много вы получите от этого пользы.
    Из исследований по поводу денег и счастья можно сделать два основных вывода: 1) в общем случае на деньги нельзя купить счастье; 2) есть уйма случаев, когда первый пункт не работает. Таким образом, судя по всему, в этой области есть большой потенциал для развития своих способностей к предсказанию, и в результате можно научиться тратить деньги более эффективно, чем люди в среднем.
    Примеры: «Сколько я буду носить эти новые туфли?», «Как часто я буду использовать мою клубную карту?», «Буду ли я думать через два месяца, что действительно стоило перекрасить кухню?», «Буду ли я через два месяца по-прежнему получать удовольствие от новой машины?»

  7. Предсказывайте, как другие люди ответят на вопросы о себе.
    Я часто замечаю, что делаю предположения о других людях, и мне нравится проверять эти предположения. В идеальном случае я получаю интересную обратную связь и о самом предмете вопроса, и о моей модели человека в целом.
    Примеры: «Тебя не беспокоит, что наши встречи длятся дольше, чем запланировано?», «Ты считал себя популярным, когда учился в старших классах?», «Как по-твоему, нормально ли лгать, чтобы защитить чьи-нибудь чувства?»

  8. Предсказывайте, насколько вы сможете продвинуться в решении задачи за пять минут.
    У меня часто появляется впечатление, что задача, с которой я столкнулась, — очень сложная, или что я уже думала над ней и рассмотрела все очевидные варианты решения. Однако, когда я решаю (или кто-то меня подталкивает) устроить пятиминутный мозговой штурм, к моему удивлению, у меня появляется новая многообещающая идея.
    Пример: «Мне кажется, будто я перепробовала уже всё, чтобы решить свои проблемы со сном, и ничего не помогает. Если я прямо сейчас потрачу пять минут на размышления, смогу ли я придумать хотя бы одну новую идею, которую имело бы смысл попробовать?»

  9. Предсказывайте, подтвердят ли данные из вашей памяти ваше впечатление.
    Память нас нередко подводит, и я регулярно удивляюсь, как часто я не в состоянии вспомнить конкретные примеры, которые подтвердили бы то, в чём я достаточно сильно уверена (или как часто я вспоминаю конкретные примеры, которые на самом деле противоречат моему впечатлению).
    Пример: «У меня есть впечатление, будто люди, которые бросают академическую науку, счастливы, что они это сделали. Если я попробую вспомнить нескольких людей, которые бросили академическую науку, и оценить, насколько они счастливы от этого, какое получится соотношение счастливых и несчастливых?»
    «Кажется, что Боб никогда не слушает мои советы. Если я попробую вспомнить примеры, когда Боб последовал моему совету, сколько у меня получится вспомнить?»

  10. Выбирайте один экспертный источник и предсказывайте, как он ответит на вопрос.
    Это быстрый способ проверить утверждение или разрешить спор.
    Примеры: «Поддержит ли Cochrane Medical утверждение, что витамин D помогает росту волос?», «Согласится ли Боб — управлявший несколькими компаниями, похожими на нашу, — что наша стартовая заработная плата слишком мала?»

  11. Когда вы знакомитесь с новым человеком, фиксируйте своё первое впечатление о нём. Предсказывайте, насколько вероятно, что, когда вы узнаете этого человека получше, вы посчитаете своё первое впечатление достаточно точным.
    Выпускница CFAR Лорен Ли предложила мне свою вариацию на эту тему: делайте предсказание о человеке до встречи с ним на основании тех данных, которые у вас уже есть.
    Примеры: «Я знаю о парне, с которым собираюсь встретиться, только то, что он банкир. Я в средней степени уверена, что он окажется самоуверенным.», «Судя по моему единственному диалогу с Лизой, она очень проницательна. Я предсказываю, что у меня сохранится это впечатление, когда я узнаю её получше.»

  12. Предсказывайте, как ваши друзья в фейсбуке ответят на опрос.
    Пример: Я часто задаю в фейсбуке вопросы по поводу этикета. Например, недавно я устроила опрос: «Если беседа идёт как-то неловко, для вас будет лучше или хуже, если собеседник это как-то прокомментирует?» Я была достаточно уверена, что большинство людей ответит «хуже», и ошиблась.

  13. Предсказывайте, насколько правильно вы поняли позицию собеседника. Для проверки пробуйте сформулировать эту позицию своими словами и пересказывайте собеседнику.
    Иллюзия прозрачности очень опасна.
    Примеры: «Ты утверждаешь, что проводить воркшоп в следующем месяце — плохая идея. Полагаю, ты так думаешь, потому что у нас не будет времени на рекламу, верно?»
    «Я знаю, что ты считаешь, что поедание мяса не является проблемой с точки зрения морали. Это потому, что ты думаешь, что животные не страдают?»

  14. Когда вы с кем-то не согласны, предсказывайте, насколько вероятно, что сторонний наблюдатель займёт вашу позицию, если ему объяснить суть вопроса.
    Для лучших результатов, когда вы объясняете суть вопроса, не раскрывайте, кто на какой стороне находится.
    Пример: «Сегодня на работе я и Боб поспорили, стоит ли стажёрам присутствовать на собеседованиях. Что ты думаешь?»

  15. Предсказывайте, окажется ли удивительная для вас новость правдой.
    Это хороший способ откалибровать свой бредодетектор и в целом улучшить ваши модели мира, которые использует ваш здравый смысл.
    Примеры: «Этот заголовок утверждает, что какие-то учёные загрузили в компьютер мозг червя. После того, как я прочту статью, посчитаю ли я, что заголовок точно передаёт смысл реально случившегося?»
    «Это вирусное видео утверждает, что изображает незнакомых людей, которых уговорили поцеловаться. Окажется ли оно постановочным?»

  16. Предсказывайте, найдётся ли в результате быстрого поиска в Сети заслуживающий доверия источник, подтверждающий обсуждаемое утверждение.
    Пример: «Боб утверждает, что после того, как он надевает часы, они вскоре останавливаются. Если я потрачу пару минут на поиск в Сети, найду ли я хоть один заслуживающий доверия источник, утверждающий, что такое явление на самом деле существует?»

И напоследок выскажу ещё одну мысль о том, как извлечь максимум пользы из предсказаний.

Рационалисты часто обращают внимание на важность объективных метрик. А, как вы могли заметить, большинство моих примеров не удовлетворяет этому критерию. Например, «Предсказывайте, случится ли ругань в комментариях? Не существует объективного способа определить, засчитывается ли происходящее в комментариях как „ругань“ или нет…» Или, «Предсказывайте, смогу ли я найти заслуживающие доверия источники, поддерживающие X? А кто скажет, что такое „заслуживающий доверия источник“ и что засчитывается за „поддержку“ X?»

Безусловно, при прочих равных условиях, следует предпочитать объективные метрики. Однако, не всегда прочие условия равны. Субъективные метрики гораздо проще придумать, и они вовсе не бесполезны. В подавляющем большинстве случаев, когда вы видите результаты, вы можете достаточно ясно понять, оказалось ваше предсказание верным или нет — пусть даже вы не сформулировали заранее точные, объективно проверяемые критерии успеха. Обычно здравый смысл говорит, что вы получили «да» или «нет». Иногда будет получаться «э-э… в некотором роде», однако, если вы уверено предсказывали, что результат будет ясно показывать в сторону «да» или «нет», получить подобный сюрприз тоже достаточно интересно.

Также скажу, что я обычно не присваиваю своим предсказаниям вероятности в численной форме. Я просто отмечаю, что моя уверенность попадает в качественные границы «очень уверена», «достаточно уверена», «слабо уверена» (что примерно соответствует вероятностям 90%/75%/60%, если я вынуждена всё-таки переходить к числам).

Возможно, вы сможете извлечь дополнительную пользу, если вы будете не просто полагаться на субъективные впечатления, а станете записывать уровни уверенности в числах и придумывать объективные метрики, которые нельзя обмануть. Однако, по-моему, в большинстве случаев эта дополнительная польза не перевесит того, что предсказания станут для вас достаточно тяжёлой задачей. Другими словами, не позволяйте, чтобы лучшее стало врагом хорошего. Или совсем другими словами: самая большая проблема с вашими предсказаниями прямо сейчас заключается в том, что их не существует.

Перевод: 
Alaric
Оцените качество перевода: 
Средняя оценка: 3.6 (15 votes)

Используйте слово "рационально", только если от него нельзя избавиться

Элиезер Юдковский

Почти всегда, если в предложении используется слово «истина», его можно убрать, применив формулу Тарского. Например, если кто-то говорит: «Я убеждён, что небо синее, и это истина!», то это можно перефразировать как: «Я убеждён, что небо синее, и небо синее». Для любого «Предложение Х — истина» можно просто сказать Х и передать ту же самую информацию о своих убеждениях. Просто говорите о территории, которой карта предположительно соответствует, а не о карте.

Когда слово «истина» убрать нельзя? Когда вы говорите об общих принципах, касающихся соответствия между картой и территорией. Например: «Истинные теории с большей вероятностью дадут верные предсказания об исходах эксперимента». В этом предложении невозможно избавиться от слова «истинные», потому что здесь речь идёт о соответствии между картой и территорией в общем случае.

Аналогично можно убрать слово «рационально» из почти всех предложений, где оно используется. «Рационально считать, что небо синее», «Истина в том, что небо синее» и «Небо синее» передают абсолютно одинаковую информацию о цвете неба с вашей точки зрения. Не больше, не меньше.

Когда из предложения нельзя убрать слово «рационально»?

Когда вы формулируете общие принципы для алгоритмов мышления, которые приводят к соответствию между картой и территорией (эпистемическая рациональность) или направляют будущее туда, куда вы хотите (инструментальная рациональность). Можно убрать слово «рационально» из предложения «Рационально считать, что небо синее». Нельзя убрать слово «рационально» из предложения «Эпистемически рационально повышать свою уверенность в гипотезах, которые делают успешные предсказания». Табуировать это слово, конечно, можно, но вы получите что-то вроде: «Чтобы увеличить соответствие между картой и территорией, следуйте алгоритму, который требует увеличивать уверенность в гипотезе, которая делает успешные предсказания». Можно избавиться от слова, но не получится избавиться от самого понятия, не изменив смысла предложения, поскольку речь фактически идёт об универсальных алгоритмах мышления, которые строят соответствие между картой и территорией.

Никогда не следует использовать слово «рационально» без необходимости, то есть, если мы не обсуждаем алгоритмы мышления как алгоритмы.

Если вы хотите поговорить о том, как применить рациональность, чтобы купить самую крутую машину, но в первую очередь собираетесь рассуждать о машинах, а не о том, какие алгоритмы мышления самые лучшие, назовите свой пост «Как лучше покупать машину», а не «Как рационально покупать машину».

Спасибо за то, что соблюдаете технику безопасности.

Перевод: 
Alaric
Оцените качество перевода: 
Средняя оценка: 5 (4 votes)

Лицензия героя

Элиезер Юдковский

Я полагаю, что большинство читателей знают меня либо как сооснователя MIRI и автора множества исходных задач в области соответствия ИИ1, либо как автора «Гарри Поттера и методов рационального мышления», популярного фанфика по Гарри Поттеру. В книге «Неадекватное равновесие»2 я рассказал, как я применяю в жизни описанные там идеи. Возможно, многим читателям интересно, как эти идеи связаны с моей работой в области ИИ и моими художественными произведениями. И я подумал, что здесь действительно можно найти интересные примеры неадекватности, используемости и скромности.

Нижеприведённый диалог — никогда не происходивший — дополняет «Неадекватное равновесие»3. Большей частью он написан в 2014 году, а в 2017 я его отредактировал и выложил в интернет.

Выдающиеся результаты и взгляд извне

(2010 год. Элиезер-2010 сидит на скамейке, уткнувшись в ноутбук, в несуществующем парке в Редвуд-Сити, Калифорния. К нему подходит Человек.)

Человек: Простите, вы случайно не Элиезер Юдковский?

Элиезер-2010: Мне принадлежит эта сомнительная честь.

Человек: Меня зовут Пат. Пат Модесто4. Мы не встречались, но я читал вас в интернете. Над чем вы работаете сейчас?

Элиезер-2010: Пытаюсь написать научно-популярную книгу по рациональности. Мои записи в блоге на Overcoming Bias5, в смысле на Less Wrong, довольно длинны, нуждаются в редактуре, и, хотя они как-то повлияли на мир, мне кажется, что книгу по рациональности прочитало бы больше людей и она повлияла бы на мир сильнее.

Пат: Как интересно! Вы не возражаете, если я загляну в ваш экран и…

Элиезер (закрывая экран): Возражаю!

Пат: Простите. Гм… То, что я мельком заметил, как по мне, не слишком похоже на научно-популярную книгу по рациональности.

Элиезер: Ну, да, работа над этой книгой шла очень медленно. Поэтому я решил попробовать в свободные часы писать что-нибудь другое, чтобы разобраться: у меня проблемы со скоростью написания вообще или дело именно в этой конкретной книге.

Пат: Вообще-то, я увидел нечто похожее на фанфик по Гарри Поттеру. По-моему, я заметил слова «Гарри» и «Гермиона» в сочетаниях, не похожих на те, что были у Джоан Роулинг.

Элиезер: Да, и вроде бы у меня получается писать его довольно быстро. К тому же, кажется, у меня на него уходит меньше сил, чем обычно.

(Загадочный незнакомец в маске, наблюдающий за этой сценой, завистливо вздыхает.)

Элиезер: Теперь мне надо разобраться, почему моя основная книга пишется настолько медленнее и требует гораздо больше сил… Я бы мог написать столько книг, если бы всегда писал с такой же скоростью, с какой пишу этот фанфик…

Пат: Простите, если мой вопрос покажется глупым. Не хочу сказать, что фанфики по Гарри Поттеру — это плохо. Я и сам в своё время их читал. Однако, насколько я понимаю, ваша философия заключается в том, что мир уже горит и с этим нужно что-то делать. Если это правда, почему вы пишете фанфик по Гарри Поттеру, а не занимаетесь чем-то ещё?

Элиезер: Я занимаюсь чем-то ещё. Я пишу научно-популярную книгу по рациональности. Просто сейчас у меня свободное время.

Пат: Понятно. Но меня интересует, почему в свободное время вы занимаетесь именно этим.

Элиезер: Потому что сил мне не хватает гораздо больше, чем времени. Этот фанфик мне обходится довольно дёшево, поэтому его я могу создавать быстро.

Пат: Я пытаюсь понять, почему вы пишете фанфик по Гарри Поттеру, даже при том, что вам это довольно легко даётся. Разве что действительно дело исключительно в том, что вам нужно понаблюдать, как у вас получается писать быстро, чтобы понять, как быстро писать другие вещи. В этом случае я бы спросил, как вы оцениваете вероятность, что вам действительно удастся это понять. Просто я думаю, что вы могли бы использовать свободное время более эффективно.

Элиезер: Я не уверен, что вы правильно понимаете идею «свободного времени». Существуют причины, почему оно необходимо, и эти причины не сводятся к тому, что люди ленивы. Да, Анне Саломон6 и Люку Мюльхаузеру7 свободное время не нужно, но я не уверен, что их точно можно назвать людьми.

(Загадочный незнакомец в маске вступает в разговор.)

Незнакомец: Прошу прощения.

Элиезер: Вы кто такой?

Незнакомец: Вряд ли это важно.

Пат: И почему вы в маске?

Незнакомец: Ну, я точно не версия Элиезера из 2014 года, тайно вернувшаяся в прошлое, если вы думаете об этом.

Пат: Справедливости ради, об этом я вовсе не думал.

Незнакомец: Пат и Элиезер-2010! По-моему, вы не понимаете друг друга. Разногласие между вами гораздо больше, чем вам кажется.

Пат и Элиезер: Продолжайте.

Незнакомец: Если в феврале 2010 года спросить Элиезера, почему он пишет «Гарри Поттера и методы рационального мышления», он, конечно же, ответит, что, по его предположению, написание «Методов» повлияет к лучшему на его попытки написать «Искусство рациональности» — его предполагаемое руководство по освоению рациональности. Это вызвано тем, что у нас — в смысле, у Элиезера — есть эвристика «планируй главное», которая подразумевает, что любая деятельность оправдана в той мере, в какой она положительно влияет на «нормальный» вариант будущего, а не на маловероятные побочные сценарии.

Элиезер: Конечно.

Пат: Подождите. Разве не вся ваша жизнь…

Элиезер: Нет.

Незнакомец: У Элиезера-2010 также есть эвристика, которую можно сформулировать как: «Деятельность имеет смысл, лишь если ты можешь достичь в ней множества Парето». Другими словами, если Элиезер-2010 ожидает, что работа кого-то другого будет во всех отношениях лучше, чем его работа, ему не придёт в голову тратить на это время. Элиезер-2010 считает, что он способен делать то, что попадёт во множество Парето, поэтому зачем ему вообще заниматься чем-то иным? Поэтому, хоть в свободное время, хоть нет, Элиезер не стал бы писать этот фанфик, если бы считал, что какой-нибудь другой — или даже какая-нибудь другая книга — окажется лучше во всех отношениях.

Пат: Гм…

Элиезер: Я бы не стал использовать именно такие слова.

Незнакомец: Да, потому что если бы вы сказали это вслух, люди бы начали многократно повторять слово «самонадеянность», а вы бы не до конца понимали, почему они так себя ведут. Поэтому вы красиво играете словами и пытаетесь уводить разговор от этой темы.

Пат: Это правда?

Элиезер: Мне кажется, будто незнакомец в маске хочет использовать эффект Барнума. В смысле, большинство людей, если их спрашивать поодиночке, признали бы, что это описание подходит и к ним.

Пат: …… Я совершенно не считаю, что ко мне подходит такое описание.

Элиезер: Я всерьёз удивлюсь, если таких окажется меньше десяти процентов от всего населения.

Незнакомец: Элиезер, за следующие четыре года вы научитесь немного лучше понимать эмоции людей, связанные со статусом. Впрочем, всерьёз их учитывать вы всё равно будете лишь в тех случаях, когда вам нужно будет донести точку зрения, которую невозможно донести никак иначе, то есть, увы, очень часто, поскольку эпистемология скромности слишком быстро распространяется в вашем сообществе. В любом случае, Пат, факт, что Элиезер-2010 тратит очень много времени на «Гарри Поттера и методы рационального мышления» действительно позволяет вам сделать вывод, что Элиезер-2010 считает, что «Методы» могут достичь значительного успеха в каких-то важных для него аспектах. Что они выйдут за границы сделанного кем угодно другим. Хотя, возможно, он в этом и не признается до того, как реально достигнет успеха.

Элиезер: Ну, да, да, так и есть. Меня расстраивает, как в художественной литературе показывают «интеллектуальных» и/или «рациональных» персонажей. И я хочу увидеть правильных «рациональных» персонажей, даже если мне придётся написать про них историю самому. Я чётко представляю, что именно другие писатели делают не так, и как сделать лучше. Если бы я этого не представлял, перспектива написать «Методы» меня бы интересовала гораздо меньше.

Незнакомец (в сторону): Наше мировоззрение настолько заражено неадекватностью цивилизации, что мы почти никогда её не замечаем. По этому поводу даже не стоит переживать, ведь, так уж получилось, мы в самом деле живём в неадекватной цивилизации.

Элиезер (по-прежнему обращаясь к Пату): Однако, я не говорю о том, какими могут получиться «Методы», не только из скромности. Я действительно не уверен, что я смогу сделать «Методы» такими, какими, с моей точки зрения, они могут стать. Я не хочу обещать больше, чем могу сделать. И поскольку нужно планировать главное, я пробую писать «Методы», исключительно чтобы выяснить, могу ли я писать быстрее.

Незнакомец (в сторону): Задним числом я несколько сомневаюсь, что дело именно в этом, хотя рассуждения вполне разумны.

Пат: Можете рассказать больше о том, почему вы думаете, что в вашей истории о Гарри Поттере получатся чрезвычайно «интеллектуальные» персонажи?

Элиезер: А нужно? В литературе я должен показывать, а не рассказывать. Само собой, мои персонажи не будут учить пятьдесят семь языков, потому что они суперумные. Я считаю, что большинство попыток написать «интеллектуальных персонажей» упираются в их поверхностные качества, вроде количества языков, которые они знают, или сводятся к созданию стереотипных поверхностных черт, которые автор видел у других персонажей-«гениев», например, ощущение чуждости. В кино такие персонажи говорят с британским акцентом. Кажется, подавляющее большинство авторов не в курсе про рассуждение Винджа, почему сложно создать персонажа, который окажется умнее автора. Например, чтобы знать, как в шахматной партии походит прекрасный шахматист, нужно играть в шахматы не хуже него. И по этой же причине тяжело написать персонажа, который окажется гораздо рациональнее автора.

По-моему, понятия «интеллект» и «рациональность» у типичных персонажей не имеет ничего общего с умением делать правильный выбор или делать хорошие предсказания. С моей точки зрения, в литературе просто нет идеи персонажа, который достигает успехов в оптимизации своего мышления, отличающейся от идеи персонажа, который побеждает, просто потому что у него в мозги встроен волшебный меч. Кроме того, по-моему, большинство авторов персонажей-«гениев» не уважают их предполагаемый гений настолько, чтобы всерьёз поставить себя на их место — всерьёз попытаться почувствовать, на что похожа их внутренняя жизнь, и подумать хотя бы чуть дальше первого пришедшего в голову клише. Автор просто ставит себя выше «гения», наделяет гения каким-то вариантом очевидной глупости, позволяющей автору сохранять эмоциональную дистанцию…

Незнакомец (в сторону): Подавляющее большинство авторов с трудом могут вообразить персонажа, который по-настоящему умнее автора. Подавляющее большинство футуристов с трудом могут представить ИИ, который по-настоящему умнее человека. И действительно, люди часто пренебрегают гипотезой, что чрезвычайно умный человек уж точно примет во внимание факторы, которые они сами считают очевидными. Однако, когда речь идёт о достаточно компетентных личностях, принимающих решения исходя из собственных знаний и компетенций (я здесь не рассматриваю поведение бюрократических комиссий или коллективное поведение в произвольной области), часто стоит задаваться вопросом, не могут ли они оказаться умнее, чем вы думаете, и нет ли у их действий оправданий лучше, чем те, что приходят вам на ум в первую очередь.

Пат: Хорошо, предположим, вы сможете написать книгу, где персонажи будут демонстрировать интеллект по-настоящему. Как именно это поможет спасти мир?

Элиезер: Почему вы делаете акцент на слове «интеллект», а не на слове «рациональность»? Впрочем, отвечая на ваш вопрос: научно-популярная литература передаёт факты, художественная литература передаёт опыт. За два предыдущих года блоггерства8 я смог передать людям явно недостаточное количество мыслительных навыков, и это меня тревожит. Я надеюсь, что книга, где описывается внутренний опыт персонажа, пытающегося быть рациональным, сообщит людям то, что я не смогу настолько легко сообщить своими эссе в блоге.

Незнакомец: (смеётся).

Элиезер: В чём дело, Незнакомец в маске?

Незнакомец: Просто… вы чересчур скромны.

Элиезер: Вы это мне?

Незнакомец: Там, где я живу сейчас, это довольно очевидно. Вы так тщательно не говорите о своих надеждах относительно «Гарри Поттера и методов рационального мышления», потому что понимаете, что люди вроде Пата не поверят, что это возможно, и вы не сможете убедить их в обратном.

Пат: Этот парень — странный.

Элиезер (пожимает плечами): Это не редкость.

Пат: Давайте не обращать на него внимание. Вы сказали, что сейчас тратите много времени…

Элиезер: Но удивительно мало сил.

Незнакомец: Там, откуда я пришёл, мы бы сказали, что вы тратите удивительно мало «ложек».

Пат: …тем не менее, вы тратите много времени на создание истории о Гарри Поттере с, как вы надеетесь, исключительно рациональными персонажами. Что приведёт к тому, что ваши читатели впитают опыт, как быть рациональными. Что, по-вашему, окажется важным для спасения мира.

Элиезер: М-м, примерно так.

Пат: Как вы думаете, что взгляд извне сказал бы…

Элиезер: О, кстати, я вспомнил, что мне пора бежать. (Начинает закрывать ноутбук.)

Незнакомец: Подождите. Останьтесь, пожалуйста. Вы мне поверите, что это важно?

Элиезер: …Хорошо. Кажется, мне редко что-нибудь советовали незнакомцы в масках, поэтому в этот раз я попробую послушаться и посмотрю, что получится.

Пат: Что я сказал не так?

Незнакомец: Вы сказали, что этот разговор ни к чему полезному не приведёт.

Элиезер: Я бы не был столь радикален. Впрочем, да, по моему опыту, люди, которые используют словосочетание «взгляд извне», обычно не дают полезных советов, и на разговор с ними уходит много сил — как вы сказали, «ложек»? Но раз уж я поверил незнакомцу в маске на слово, я попробую продолжить. Что, по-вашему, говорит о проекте «Методы рационального мышления» взгляд извне?

Пат: Ну, я как раз собирался спросить вас, что удаётся передать читателям средней истории с рациональным персонажем.

Элиезер: Так я не пытаюсь написать среднюю историю. Весь смысл в том, что я считаю, что средняя история с «рациональным» персонажем никуда не годится.

Пат: То есть, вы считаете, что ваши персонажи будут рациональны по-настоящему. Однако, возможно, другие авторы тоже думают, что их персонажи рациональны…

Элиезер (шёпотом Незнакомцу в маске): Можно я уйду?

Незнакомец: Нет. Серьёзно, это важно.

Элиезер: Ладно. Пат, ваша предпосылка ошибочна. Гипотетических авторов, которые всерьёз стараются создать рациональных персонажей, не существует. Авторы не понимают, что для создания рациональных персонажей, нужно прикладывать усилия, и всего лишь изображают очередного «соломенного вулканца», практически не думая в процессе.

Незнакомец: Я бы это перефразировал так: создание рациональных персонажей — не та область, в которую наша цивилизация вкладывает достаточные усилия, и поэтому не стоит ожидать там адекватности.

Пат: Послушайте, я не спорю с тем, что наверняка вы напишете персонажей более рациональных, чем удаются этим средним авторам. Я просто считаю, что важно помнить, что всегда неправота изнутри ощущается так же, как правота.

Незнакомец: Элиезер, пожалуйста, объясните Пату, что вы думаете про это замечание.

Элиезер: На самом деле вы далеко не всегда помните, что «неправота изнутри ощущается так же, как правота». Вы вспоминаете об этом в исключительно избирательных случаях, когда вы уже скептично относитесь к чужим доводам. Просто кажется, будто вы вспоминаете об этом в каждом подходящем случае, поскольку, в конце концов, всякий раз, когда вы считаете нужным подумать об этом, вы об этом думаете. Вы просто использовали абсолютно универсальный контраргумент, а такие аргументы с точки зрения байесианства не позволяют различить случаи, когда мы ошибаемся, и случаи, когда мы правы. Фраза «неправота изнутри ощущается так же, как правота» похожа на фразу «но у меня есть вера». Её одинаково легко произнести как в ситуации, когда ваш собеседник прав, так и в ситуации, когда он ошибается.

Незнакомец: На определённой стадии когнитивного развития людям нужно задумываться о том, почему карта — это не территория. Особенно если им раньше никогда не приходило в голову, как ощущается идея о том, что вселенная в их воображении на самом деле построенная их мозгом реконструкция настоящей вселенной. Просто Элиезер прошёл эту стадию, прочитав примерно в одиннадцать лет книгу С. И. Хаякавы «Язык в мысли и действии»9. Когда умение различать карту и территорию полностью усвоено, отсылка к их разнице при обсуждении идей, которые вам не нравятся, это (абсолютно универсальный) мотивированный скептицизм.

Пат: Хорошо, однако есть исследование, показывающее полезность метода «предсказание на основании референтного класса»…

Элиезер: Я в курсе.

Пат: И мне интересно, какое можно сделать предсказание на основании референтного класса о ваших попытках принести пользу миру с помощью фанфика по Гарри Поттеру?

Элиезер (Незнакомцу в маске): Пожалуйста, можно я всё-таки убегу?

Незнакомец: Нет.

Элиезер (вздыхая): Хорошо, допустим, за данным вопросом кроется нечто большее, чем обычный скепсис. Если вспоминать книги, в которых, с моей точки зрения, хорошо написаны рациональные персонажи, то у них довольно неплохие результаты. Когда я был ребёнком, на меня сильно повлиял «Мир Нуль-А» Альфреда ван Вогта. «Нуль-А» не просто научил меня фразе «карта - не территория». Оттуда я почерпнул идею, что люди, которые применяют рациональные техники, должны быть крутыми, а если они не круты, значит, они делают что-то не так. Уйма учёных и инженеров выросли на одах, в которых Роберт Хайнлайн восхвалял науку и инженерию. Да, я знаю, что Хайнлайн не идеален, но тем не менее.

Незнакомец: Интересно, в каких взрослых вырастут умные дети, читающие в двенадцать лет «Гарри Поттера и методы рационального мышления»?..

Пат: Но ведь книги ван Вогта про Нуль-А — это исключительный пример книг с персонажами-рационалистами. Мой первый вопрос: почему вы считаете, что вы сможете написать что-то подобное? А второй вопрос: даже если ваш рациональный персонаж будет вдохновлять людей не хуже персонажей Хайнлайна, насколько он повлияет на среднего читателя, и как много людей в лучшем случае, по-вашему, прочтут ваш фанфик по Гарри Поттеру?

Элиезер: Скажу честно, по-моему, вы задаёте неправильные вопросы. В смысле, когда я решил писать «Методы», я ни о чём подобном не думал.

Незнакомец (в сторону): Кстати, это правда. В своё время мне не приходил в голову ни один из этих вопросов. Сейчас я их задаю исключительно потому, что я пишу персонажа Пата Модесто. С моей точки зрения, наличие в голове голоса кого-то вроде Пата Модесто — непродуктивно, поэтому мне не приходят спонтанные мысли, что бы он сказал.

Элиезер: С моей точки зрения, чтобы создать как можно лучшую книгу, имеет смысл задаться вопросом, что в плане рациональных персонажей делают неправильно другие авторы, и что правильно сделал Альфред ван Вогт. Я не понимаю, зачем мне нервничать, смогу ли я достичь большего, чем ван Вогт, который мог опереться лишь на работу Альфреда Коржибски, написанную за десятилетия до рождения Даниела Канемана10. Если честно, я всерьёз полагаю, что я уже вышел за пределы так называемого референтного класса, в который вы собираетесь меня запихнуть…

Пат: Что?! Как вообще можно «выйти за пределы» референтного класса?

Элиезер: …что, в свою очередь не гарантирует мне успеха, потому что оказаться за пределами референтного класса — не то же самое, что оказаться лучше него. В смысле, я не делаю выводов на основании этого референтного класса о себе. Я просто попробую написать эту книгу и посмотрю, что получится.

Пат: Вы считаете, что вы автоматически лучше любого автора, который когда-либо пытался написать рациональных персонажей?

Элиезер: Нет! Послушайте, моя голова организована так, что я о таких вещах просто не думаю. В моей голове есть лишь книга, и я задаю себе вопрос, смогу ли я воплотить её в реальность. Я строю в голове модель книги, а не модель себя.

Пат: Но если книга в вашей голове подразумевает, что уровень вашего мастерства относительно среднего автора попадает в очень высокий процентиль, то, как по мне, вполне разумно спросить, почему вы уже считаете, что можете на этот процентиль претендовать.

Незнакомец: Давайте я ещё немного вброшу. Элиезер-2010, предположим, я скажу вам, что в начале 2014 года «Методы» достигли примерно следующего уровня. Во-первых, в них примерно полмиллиона слов, но книга пока не закончена…

Элиезер: Чёрт. Это печально. Значит, я серьёзно замедлился и уж точно не научился всегда писать так быстро, как сейчас. Интересно, что пошло не так? Кстати, а почему я продолжаю писать эту книгу вместо того, чтобы сдаться?

Незнакомец: Потому что она вышла в лидеры на fanfiction.net (где опубликованы 500 тысяч историй) по числу отзывов. У неё есть группы почитателей во многих университетах и колледжах. На сайте, который уже перестал быть основным местом выкладки, у неё больше 15 миллионов просмотров. Поклонники создали проект по созданию аудиоверсии этой книги, при этом вы сами этим проектом не занимались совершенно. «Методы» прекрасно знают в Калтехе и МТИ, у них есть популярный сабреддит с 6 тысячами подписчиков, их часто называют самым известным или самым популярным фанфиком по Гарри Поттеру. Значительная часть читателей утверждает, что это лучшая книга, которую они прочитали в своей жизни, а как минимум одного золотого медалиста международной олимпиады по математике она вдохновила поучаствовать во множестве математических воркшопов MIRI.

Элиезер: Мне нравится этот сценарий. Он странный, а мне нравятся странности. Внедрять такое состояние дел в реальность и вынуждать людей мириться с ним доставило бы мне бесконечное удовольствие.

Незнакомец: Возвращаясь к теме. Какова, по-вашему, вероятность того, что дела будут идти так или лучше?

Элиезер: Гм… надо подумать. Очевидно, что именно такой сценарий невероятен в силу коньюнкции. Однако если поделить исходы в зависимости, будут ли они с точки зрения моей функции полезности лучше или хуже этого, и спросить, какую вероятность я присвою лучшим исходам, то я бы сказал, что примерно 10%. То есть, подобный успех находится примерно на 90-м процентиле моих надежд.

Пат (издаёт нечленораздельные звуки).

Элиезер: Ой. Упс. Я про вас забыл.

Пат: 90-й процентиль?! Вы всерьёз считаете, что такое может случиться с шансами 1 к 10?!

Элиезер: Гм-м…

Незнакомец: Да, он всерьёз так считает. Если бы я не поставил вопрос таким образом, он вряд ли бы думал о подобном прогнозе: не потому что этот прогноз чересчур конкретен, а потому что Элиезер Юдковский просто не пытается продумывать такие подробности заранее. Он называет такое занятие «фантазиями о деталях» и считает, что в подобные фантазии обычно лишь утекает эмоциональная энергия. Но если бы такой прогноз сбылся, Элиезер сказал бы, что присвоил бы исходам такого рода или лучше вероятность в 10% от всех возможных исходов. Хотя он беспокоился бы об искажении задним числом.

Пат: По-моему, вероятность такого исхода скорее ближе к 0,1%, и даже эта оценка — слишком щедра!

Элиезер: Да, «сторонники взгляда извне» часто говорят мне примерно то же самое почти всякий раз, когда я пытаюсь сделать что-нибудь интересное. Впрочем, ваша оценка меня всё же удивила. В смысле, моя базовая гипотеза о том, как работает этот ваш «взгляд извне», заключается в том, что это способ выразить скепсис по любому поводу, подобрав референтный класс, который предрекает неудачу. Затем вокруг этого референтного класса можно построить идеальную эпистемическую ловушку, рассуждая про эффект Даннинга-Крюгера и опасности взгляда изнутри. Однако попытка написать фанфик по Гарри Поттеру, пусть даже очень хороший фанфик по Гарри Поттеру, для большинства людей обычно не выглядит замахом на высокий статус. Я бы ожидал, что люди в основном будут реагировать на фрагмент про золотого медалиста международной олимпиады по математике, хотя априорная вероятность оказаться золотым медалистом международной олимпиады по математике выше, чем априорная вероятность оказаться автором фанфика по Гарри Поттеру с наибольшим количеством отзывов.

Пат: Вы раньше когда-нибудь вообще пытались написать фанфик по Гарри Поттеру? Вы знаете какие-нибудь существующие награды, которые помогают продвигать лучшие фанфики, или сайты, которые рекомендуют фанфики? Вы представляете, что именно хочет значительная часть фэндома по Гарри Поттеру? Например, просто факт публикации на FanFiction.net уже оттолкнёт множество людей. Лучшие работы обычно выкладываются на ArchiveOfOurOwn.Org или на других, ещё более специализированных сайтах.

Элиезер: А, я понял. Вы всерьёз знакомы с существующим фэндомом по Гарри Поттеру. У вас в голове есть модель уже существующей иерархии в этом фэндоме. Поэтому, когда в незнакомец в маске говорит о том, что «Методы» станут самым популярным фанфиком по Гарри Поттеру, вы это воспринимаете как заявку на слишком завышенный статус, и с помощью «взгляда извне» обосновываете, почему это звучит крайне неправдоподобно. Такой трюк можно проделать с любым высказыванием.

Пат: Сомневаюсь, что с помощью взгляда извне или предсказания на основе референтного класса можно продемонстрировать неправдоподобность любого высказывания. По-моему, неправдоподобно выглядят утверждения о событиях, которые вряд ли произойдут. Да, я действительно знаком с сообществом любителей фанфиков по Гарри Поттеру. Как это может обесценить моё мнение? Я разбираюсь в этой области. Я представляю, сколько тысяч авторов — среди которых есть очень хорошие авторы — пишут фанфики по Гарри Поттеру. И только один из них может оказаться автором фанфика с максимальным количеством отзывов. И я спрашиваю снова, вы хотя бы пробовали понять, как реально устроено сообщество? Можете ли вы назвать хотя бы одну ежегодную награду, вручаемую в фэндоме?

Элиезер: Гм… Навскидку точно нет.

Пат: Просили ли вы какого-нибудь из авторов лучших существующих фанфиков по Гарри Поттеру оценить ваш предполагаемый сюжет или предполагаемые идеи истории? Например, Нонджона11 — автора «Чёрной комедии»12? Или Сару-128113, или Джей-Берна14, или любого другого автора, создавшего множество работ, признанных превосходными?

Элиезер: Честно признаюсь, что, хотя я читал этих авторов и мне нравятся их истории, мне ни разу не приходила в голову подобная мысль.

Пат: То есть, вы не консультировались ни с кем, кто разбирается в фэндоме Гарри Поттера лучше вас.

Элиезер: Не-а.

Пат: И раньше вы не писали фанфиков по Гарри Поттеру, даже очень коротких.

Элиезер: Вы правы.

Пат: Вы не предпринимали никаких усилий, чтобы познакомиться с существующим сообществом людей, которые читают или пишут фанфики по Гарри Поттеру, и узнать о том, от чего вообще зависит успех вашей работы.

Элиезер: Я читал некоторые известные фанфики по Гарри Поттеру, потому что мне нравилось их читать. Собственно, именно поэтому у меня в голове появилась идея написать свой фанфик.

Пат: Что бы вы подумали о человеке, который прочитал несколько известных книг по физике и захотел стать величайшим физиком в мире?

Незнакомец (в сторону): По-моему, обычно «взгляд извне» на самом деле касается иерархии статусов и если люди считают, что вы не уважаете существующую иерархию, они реагируют сильнее. И если вы заявляете, что преодолеете некую высокую планку, но людям кажется, что вы делаете это без уважения, то они склонны предрекать вам провал гораздо чаще, чем если бы вы сделали более уважительное по отношению к текущей иерархии заявление. Судя по всему, чокнутый «непризнанный гений» в физике в этом контексте воспринимается как подходящая аналогия не просто потому, что у него неверная «карта». Обычные заблуждения считаются чем-то трагикомическим, они не вызывают презрения. «Непризнанные гении» в физике отличаются тем, что они не уважают физиков — людей с высоким статусом в важной иерархии. Поэтому они кажутся подходящим референтным классом для понимания других очевидных примеров неуважительных претензий на высокий статус. У людей возникают примерно одинаковые чувства, несмотря на то, что эти явления во многом отличаются.

Элиезер: Чтобы стать великим физиком, нужно открыть настоящие законы физики, которые уже существуют в мире, но вам неизвестны. А этого невозможно достичь, не работая вместе с другими физиками — вы должны найти экстраординарно уникальный ключ к экстраординарно уникальному замку. Однако очень много возможных книг могут превзойти все уже существующие фанфики по Гарри Поттеру, и, чтобы их написать, не нужно строить ускоритель.

Незнакомец: Элиезер, насколько я понял, когда вы пытаетесь оценить сложность задачи «стать величайшим физиком», вы оцениваете соответствующую задачу с точки зрения познания. Кажется, вы не обращаете внимание на вопросы, связанные со славой.

Пат: Элиезер, по-моему, вы умышленно игнорируете основную мысль: что именно неправильно в попытке прочитать несколько книг по физике и захотеть стать величайшим физиком в мире. Неужели вы не видите, что это ошибка того же рода, что и ваши воздушные замки о фанфике по Гарри Поттеру? Да, конечно, стремящийся стать физиком ошибается гораздо внушительнее. Вы не понимаете, что критик скажет вам то же самое? Да, стать величайшим физиком в мире намного сложнее. Однако вы пытаетесь решить менее сложную задачу в свободное время, потому что считаете, что она простая.

Элиезер: В случае успешного развития событий, которое описал незнакомец в маске, на последние главы я потрачу гораздо больше усилий, потому что их полезность будет уже доказана.

Незнакомец: Кстати, Пат, а вы знаете, что Элиезер не читал четвёртую, пятую и шестую книги Роулинг о Гарри Поттере? И лишь ограничился просмотром фильмов? И даже когда он начал писать свой фанфик, он не потрудился их прочитать.

Пат (издаёт бессвязные звуки).

Элиезер: Ну… я прочитал первые три книги, когда они вышли, а потом попытался прочитать четвёртую. Проблема в том, что к тому времени я уже прочитал много фанфиков и привык, что вселенная Гарри Поттера — это место для «взрослых» историй. Поэтому, когда я начал читать «Гарри Поттер и кубок огня», мне уже сложно было его воспринимать, мой мозг привык к другому. Но я прочитал достаточно фанфиков по этой вселенной, поэтому я довольно неплохо её знаю. Я могу сказать, как зовут младшую сестру Флёр Делакур. Вообще-то я прочитал целый роман про Габриель Делакур. Я всего лишь не прочитал все исходные книги.

Незнакомец: А в случае необходимости узнать какие-то важные факты из канона Элиезер может заглянуть в Harry Potter Wikia. Поэтому, как вы понимаете, у него есть все знания, которые ему, по его мнению, могут понадобиться.

Пат (издаёт ещё больше бессвязных звуков).

Элиезер: …Зачем вы рассказываете всё это Пату?

Незнакомец: Потому что, с точки зрения Пата, это чертовски важный факт, указывающий на ваш будущий провал. А для меня это иллюстрация очень важного жизненного урока. Можно прочитать ряд работ из некоторой области и тем самым продемонстрировать уважение к людям, которые их написали или считают их важными. А можно собрать ключевую информацию в этой области, необходимую для собственной работы. Без последнего успех немыслим. Первое же важно лишь до тех пор, пока для вас важны публичные отношения. Однако кажется, что люди, у которых нет слепого пятна в отношении статусов, с трудом видят эту разницу.

Пат: Да, я действительно испытал чувство негодования. Когда вы сказали, что Элиезер не прочитал все книги канона и что он считает, что для работы ему хватит вики, я воспринял это как явное неуважение к Дж.К.Роулинг и авторам лучших фанфиков по Гарри Поттеру на данный момент.

Элиезер: Что ж, я попробую немного компенсировать ущерб, нанесённый публичным отношениям. Если бы я считал, что смогу писать книги для детей, которые станут настолько же популярны, как и книги Роулинг, я бы занялся именно этим. Роулинг стала миллиардером, а ещё она научила мою младшую сестру наслаждаться чтением. Люди, обесценивающие умение «писать детские книжки» наверняка никогда не пытались написать что-нибудь сами, и уж тем более не писали детские книжки. Писать хорошие книги для детей сложно. Именно поэтому «Методы» будут нацелены на взрослых. Хотя ваша модель меня, судя по всему, утверждает обратное, но я хорошо представляю и собственные возможности, и собственные ограничения. И я понимаю, что сейчас я недостаточно хорош как автор, чтобы писать книги для детей.

Пат: Я могу вообразить ситуацию, в которой я решу, что у некоего человека есть прекрасные шансы написать лучший фанфик по Гарри Поттеру в мире, пусть даже он прочитал лишь первые три книги канона. Например, если это попытается сделать Нил Гейман. (Впрочем, я чертовски уверен, что Нил Гейман наверняка прочитал бы все книги канона.) Вы считаете, что можете сравниться с Нилом Гейманом?

Элиезер: Вряд ли я когда-нибудь смогу потратить столько времени на совершенствование писательского мастерства, чтобы сравняться с Нилом Гейманом.

Пат: Я читал ваш «Тройной контакт». По-моему, это ваше лучшее произведение. Я знаю, что о нём положительно отозвался Питер Уоттс, обладатель премии «Хьюго». Но, с моей точки зрения, «Тройной контакт» всё же не дотягивает до, скажем, фанфика «Always and Always Part 1: Backwards With Purpose». Так какие же писательские достижения позволяют вам думать, что с десятипроцентной вероятностью ваш проект станет лучшим фанфиком по Гарри Поттеру по числу отзывов?

Элиезер: То, чем вы сейчас занимаетесь, я обычно называю «предъяви свою лицензию героя». Грубо говоря, я обозначил свои намерения попытаться взять высоту, которая, с вашей точки зрения, превосходит моё текущее социальное положение, а вы хотите, чтобы я доказал, что у меня уже хватает на это действие статуса.

Пат: Вы переходите на личности вместо ответа на мой вопрос. Я не понимаю, каким образом при тех знаниях и тех свидетельствах, которые у вас уже есть, вы позволяете себе назначить в этой ситуации вероятность в 10%. Впрочем, давайте убедимся, что мы разговариваем об одном и том же. Вы предполагаете, что эти «10%» реальная хорошо откалиброванная вероятность?

Элиезер: Да. Когда я задумываюсь о шансах, я считаю, что я согласился бы на пари 20:1 — в смысле, если бы вы предложили мне 20 долларов против одного за то, что мой фанфик не получит успеха. И мне было бы неуютно заключать пари при ставке 4 доллара против одного. Возьмём примерно геометрическое среднее и получим шансы 9:1.

Пат: А вы считаете себя хорошо откалиброванным? То, чему вы присваиваете вероятность 9:1 должно происходить в 9 случаях из 10?

Элиезер: Да, думаю, я смог бы сформулировать 10 утверждений, которым я присваиваю вероятность 90%, и ошибиться в среднем примерно один раз. Я не проверяю собственную калибровку так часто, как некоторые из рационалистов, однако когда я последний раз проходил калибровочный тест CFAR на 10 вопросов и пытался указать доверительные интервалы в 90%, вне моих интервалов оказался ровно один правильный ответ. Сносная калибровка случается вовсе не так редко, как думают сторонники взгляда извне. Достаточно лишь кое-что выучить и немного попрактиковаться.

Незнакомец (в сторону): Элиезер-2010 не использует PredictionBook так же часто, как Гверн Бранвен15, не играет в игры на калибровку так же часто, как Анна Саламон и Карл Шульман. Он не присоединился к исследованию Филиппа Тетлока, посвящённому суперпредсказаниям. Однако я заключал пари при любой возможности — и до сих пор это делаю. Кроме того, я всегда стараюсь выразить свою неуверенность численно, если я её замечаю и понимаю, что в ближайшем будущем я узнаю правильный ответ.

Недавно я увидел на доске для заметок на холодильнике загадочный набор утверждений о паровом котле вместе с непонятными числами и диаграммами. На пять секунд меня это озадачило, а потом я предположил, что это записки Бриенны, касающиеся её прохождения игры «Myst». Поскольку я чувствовал собственную неуверенность, но мог довольно скоро выяснить правду, я потратил тридцать секунд на оценку вероятности, что эти записки действительно относятся к игре Бриенны. Сперва я назначил этому вероятность 90%. Это показалось мне очень уж сверхуверенным, поэтому я понизил её до 80%, то есть, до 4:1. Затем я подумал о том, какие другие компактные возможные объяснения я не учёл, и понизил шансы до 3:1. Позже я поговорил с Бриенной и выяснил, что записки действительно касались игры «Myst». После чего я потратил тридцать секунд на размышления о том, действительно ли прочие компактные возможные объяснения загадочных записей были настолько вероятны. Возможно, если я быстро придумал разумное объяснение, мне стоило меньше беспокоиться о возможных неучтённых вариантах.

Я потратил на эти размышления не так много времени. Это лишь один пример из моей жизни. Весь смысл таких историй в том, что их случается много, каждая новая немножко дополняет интуицию. Постепенно накапливается опыт. Размышлять об этом настолько долго, как я об этом сейчас пишу, обычно не слишком хорошая идея. (Если вы знакомы с нейронными сетями и дельта-правилом, то должны были догадаться, чего я пытаюсь добиться от своего мозга.) Мне немножко стыдно, что я не занимаюсь ставками более систематично, но учитывая мой ограниченный запас «ложек», вряд ли меня хватило на что-то большее, чем мои нынешние упражнения, которые пусть и случайны, но достаточно регулярны.

Сейчас, когда я редактирую этот текст, могу сказать, что недавно я присвоил шансы 5:1 против того, что два персонажа из «Карточного домика» займутся сексом друг с другом, но это случилось. Это всерьёз подтолкнуло меня делать поправки против сверхуверенности. (Ведь согласно дельта-правилу, это была большая ошибка.)

Пат: Но ведь исследования показывают, что даже если людей предупреждают о сверхуверенности, дают им прочесть исследования о сверхуверенности и немного попрактиковаться, то сверхуверенность уменьшается, но не исчезает полностью. Так?

Элиезер: Если мы усредняем по всем испытуемым, да, сверхуверенность уменьшается, но не исчезает полностью. Это не означает, что сверхуверенность уменьшается, но не исчезает полностью для любого человека.

Пат: Что заставляет вас считать, что вы справляетесь со сверхуверенностью лучше среднего человека?

Незнакомец: …

Элиезер: То, что я практиковался гораздо больше этих испытуемых. И я не верю, что уровень усилий, прикладываемый средним испытуемым, даже испытуемым, которого предупредили о сверхуверенности и один раз дали попрактиковаться, — это предел человеческих способностей. И всерьёз меня заставляет верить в собственные успехи то, что я проверял. Вряд ли существует «референтный класс», полный сверхуверенными людьми с галлюцинациями о том, как они занимаются калибровкой и обнаруживают, что их интервалы доверия становятся хорошо откалиброванными.

Незнакомец: Я подкину некоторую информацию, которую я узнал из эссе Сары Константин «Существуют ли рациональные люди?». Станович и Уэст в исследовании 1997 года обнаружили, что 88% участников исследования продемонстрировали систематическую сверхуверенность. Это означает, что для оставшихся 12% они не смогли обнаружить сверхуверенность. И это не слишком удивительно: в своей работе 1998 года они указывают, что во многих тестах обнаруживалось, что около 10% студентов не проявляют то или иное искажение.

Элиезер: Верно. Поэтому вопрос в том, могу ли я при наличии некоторой практики добиться такого же отсутствия сверхуверенности, как лучшие 10% студентов. По-моему, это не какая-то супер-сложная задача. Да, конечно, усилия нужны. Мне приходится осознанно увеличивать доверительные интервалы. Думаю, лучшим студентам-испытуемым тоже приходилось это делать. Проблема не в способностях, нужно по-настоящему прикладывать усилия. Но когда я считаю, что увеличил интервалы достаточно, я останавливаюсь.

Факторы успеха и обмен убеждениями

Пат: То есть, вы в самом деле считаете, что когда вы назначаете шансы в 9:1 против того, что «Методы» достигнут суперуспеха, описанного Незнакомцем в маске, вы хорошо откалиброваны. Будете ли вы настаивать на том, что я должен расширить собственные доверительные интервалы о том, каких успехов могут достичь «Гарри Поттер и методы рационального мышления», чтобы избежать собственной сверхуверенности?

Элиезер: Нет. С моей точки зрения, это ничем не отличается от заявления, что вы не должны назначать успеху «Методов» вероятность в 0,1%, потому что шансы 1000:1 — это слишком мало. Так аргументировать нельзя, и я тщательно стараюсь этого не делать. Подобное мышление приводит к статьям вроде работы Орда, Хиллербранда и Сандберга «Как узнать вероятность невероятного»16, которую я считаю неверной. В общем, если существует 500 тысяч фанфиков и лишь один из них может набрать больше всего отзывов, нельзя случайно взять один из них и заявить, что шансы 500 000:1 — это слишком мало.

Пат: Рад, что вы с этим согласны. Конечно, я не дурак, я понимаю, что ваши книги лучше средних. 90% фанфиков по Гарри Поттеру — это полная хрень (в соответствии с законом Старджона), а 90% оставшихся 10% не хватает вдохновения. Таким образом остаётся примерно 5000 фанфиков, с которыми вам придётся соревноваться всерьёз. Я даже признаю, что если вы будете стараться всерьёз, вы окажетесь среди лучших 10% из них. Таким образом шансы, что вы станете лучшим автором фанфика по Гарри Поттеру на fanfiction.net - 1 из 500. Ещё нам надо учесть, что есть и другие сайты с фанфиками по Гарри Поттеру, где работ меньше, но эти работы в среднем лучше. Получается, что ваши шансы написать самый лучший фанфик примерно 1 к 1000, и, по-моему, это довольно щедрая оценка, с учётом того, насколько удивительно несерьёзно вы отнеслись к подготовке… Гм, с вами всё в порядке, Незнакомец в маске?

Незнакомец: Извините, пожалуйста. Я отвлёкся на мысль о мире, где я мог бы зайти на fanfiction.net и обнаружить там 1000 историй, сравнимых с «Гарри Поттером и методами рационального мышления». Я думаю об этом мире и стараюсь не заплакать. Не то, что я не в состоянии вообразить мир, где ваше скромно звучащее вычисление Ферми корректно… Просто мир, который вы описываете, кажется, очень отличается от нашего.

Элиезер: Пат, я понимаю, к чему вы клоните, и я действительно не знаю, что вам ответить, пока у меня не будет возможности показать вам книгу.

Пат: Вы понимаете, что я хочу до вас донести? На вас вообще мои слова действуют? Да, моя оценка довольно приблизительная, но мне кажется, что мой подход к вычислению Ферми вполне разумен. Если вы не согласны с выводом, мне хотелось бы узнать, какие дополнительные факторы приводят к тому, что ваше вычисление Ферми даёт результат в 10%.

Незнакомец: Вы недооцениваете, насколько по-разному вы думаете. Когда Элиезер говорил о своей оценке в 10%, ни один из перечисленных вами факторов ему даже не пришёл в голову.

Элиезер: Вынужден признать, что это правда.

Пат: И какие же, по-вашему, самые важные факторы, влияющие на то, преуспеете вы или нет?

Элиезер: Гм. Хороший вопрос. Я бы назвал… удастся ли мне сохранять мой писательский энтузиазм, смогу ли я писать достаточно быстро, получится ли у меня настолько хорошая история, какую я сейчас представляю, получится ли у меня учиться на ходу и создавать что-то ещё лучшее. Плюс большое количество неуверенности на тему, как люди на самом деле будут реагировать на работу, которая сейчас в моей голове, когда я её напишу.

Пат: Хорошо, у нас есть пять ключевых факторов. Оценим вероятности для каждого из них. Предположим, мы оценим шансы на сохранение энтузиазма в 80%, и в 50% на то, что вы будете писать достаточно быстро, — хотя в прошлом у вас были с этим проблемы, на «Тройной контакт» у вас ушёл целый год, если я правильно помню. Оценим в 25% вероятность того, что вы сможете успешно записать эту невероятную историю, которую, судя по всему, вы представляете: по-моему, авторы практически всегда на этом спотыкаются, и я почти уверен, что и у вас будут с этим большие проблемы, но пусть будет одна четвёртая — хотелось бы «застилменить» ваши доводы. Пусть 50% — вероятность, что вы будете учиться достаточно быстро, чтобы ваш проект не пошёл ко дну из-за уже известных вам проблем. Теперь, даже не упоминая возможную реакцию читателей (вы действительно собираетесь продать когнитивную психологию и формальную эпистемологию фанатам Гарри Поттера?) и несмотря на то, что я был довольно щедр в своих оценках, перемножив все эти вероятности мы получаем оценку в 5%, что меньше полученных вами 10%…

Незнакомец: Неверно.

Пат: …Неверно? Что вы хотите сказать?

Незнакомец: Давайте рассмотрим факторы, которые могут повлиять на то, что ваше рассуждение верно. Сперва оценим вероятность, что произвольное предложение окажется истинным. Затем нужно рассмотреть вероятность, что некий аргумент, направленный в поддержку некоего вывода, не будет содержать грубейших логических ошибок. Потом вероятность, что некто, утверждающий, что аргумент «неверен», ошибается…

Пат: Элиезер, если вы не согласны с моими выводами, то что не так с моими вероятностями?

Элиезер: Ну. начнём с того, что смогу ли я писать быстро, зависит от того, смогу ли я сохранять свой энтузиазм. Реакция аудитории зависит от того, смогу ли я писать быстро. Смогу ли я чему-то научиться, зависит от того, смогу ли я сохранять мой энтузиазм. С точки зрения теории вероятностей перемножать эти числа бредово.

Пат: Хорошо, чему же будет равна вероятность, что вы сможете писать быстро, при условии, что у вас сохраняется энтузиазм…

Элиезер: Вы считаете, что если бы вы начали с этого вопроса, вы бы пришли к другим результатам? Уверен, что если бы вам пришло бы в голову построить вопрос как «вероятность при условии…», у вас получились бы точно такие же вероятности, потому что именно к этому привёл бы баланс ваших мыслительных сил — взять какое-нибудь небольшое число, которое звучит разумно или что-нибудь в этом духе. К тому же проблема условной вероятности далеко не единственная причина, по которой я считаю, что приём «оценим эти вероятности, а потом перемножим» лишь риторический трюк.

Пат: Риторический трюк?

Элиезер: Если подобрать для «вывода» нужные факторы, можно легко добиться, чтобы люди давали сколь угодно маленькие «ответы». Например, посмотрите статью ван Бовена и Эпли «Эффект подробностей при оценочных суждениях»17. Проблема в том, что люди… как бы это покороче объяснить… если людей просить оценить вероятность чего бы то ни было, их оценки будут стремиться к некоторым медианным значениям. Поэтому ими можно довольно сильно манипулировать, подбирая категории, для которых нужно «посчитать» вероятность. Например, если если спрашивать автомеханика о возможных причинах, почему машина может не завестись — причём опытного автомеханика, который каждый день наблюдает настоящую частоту поломок! — а затем просить оценить либо вероятность «отказ системы электрооборудования» в целом, либо отдельные вероятности для «умер аккумулятор», «проблемы с генератором» и «проблема с зажиганием», то вероятность для составляющих в сумме окажется гораздо больше, чем вероятность для целого, если не вдаваться в подробности.

Пат: Но возможно, когда я разбираю в подробностях, что может пойти не так, я просто компенсирую ошибку планирования и то, что люди обычно недостаточно пессимистичны…

Элиезер: Прежде всего, проблема в ваших рассуждениях в том, что описанный исход не обязан быть идеальной конъюнкцией упомянутых факторов. Чтобы достичь успеха, не всё в вашем перечне должно сработать одновременно. Вы упустили другие дизъюнктивные пути, ведущие к тому же исходу. В вашей вселенной никто не прикладывает дополнительных усилий и не ищет ошибки, когда что-то пошло не так! Я никогда не видел, чтобы люди назначали якобы маленькую конъюнктивную вероятность чему-то, что на самом деле требовало выполнения всех предпосылок. Именно поэтому я всегда тщательно стараюсь избегать приёма: «Я любезно разобью это утверждение на большую конъюнкцию и попрошу оценить вероятность каждого множителя».

По моему опыту, этот приём можно применять только с одной целью: заставить людей поверить, что они «назначают» вероятности, в то время как вы манипулируете подбором факторов, чтобы получить итоговый результат, который вам нравится. В честном разговоре использовать его не имеет смысла. Я много раз видел, как люди использовали этот приём. Иногда с его помощью поддерживали выводы, с которыми я был согласен, иногда — выводы, с которыми я был не согласен. Но я никогда не видел, чтобы этот приём помогал найти истину. Я считаю его применение плохой эпистемологией, которая распространена, потому что, пока люди не задумываются достаточно внимательно, он звучит разумно.

Пат: Я рассматривал те факторы, которые вы сами назвали самыми важными. С чем именно в моей оценке вы не согласны?

Незнакомец (в сторону): Кстати, ошибка многих этапов — это замечательный трюк. Можно попросить людей самих подумать о ключевых факторах и всё равно подтолкнуть их дать ответы, из которых будет следовать маленький итоговый ответ. Ведь чем дольше люди перечисляют факторы и назначают им вероятности, тем меньше будет итоговое произведение. Как только мы понимаем, что при увеличении числа перемножаемых вероятностей произведение становится всё меньше и меньше, нам, чтобы отличать правду от лжи, приходится вводить дополнительные компенсирующие меры.

В итоге вам придётся прийти к выводу, что если успех в каком-то реальном предприятии зависит от четырёх факторов (не говоря уже о десяти), то вы априори не сможете его достигнуть. Да, выписать множество возможных сценариев провала для того, чтобы заранее решить, как с ними справляться, может быть мудрой идеей (известной под названием Мерфиджитсу18). Однако когда вы начинаете присваивать «вероятность того, что Х пойдёт не так и это нельзя будет исправить, при условии, что всё предыдущее в списке идёт по плану или может быть успешно исправлено», то, если проект теоретически может достичь успеха — как, например, «Методы», — вам стоит взять вероятность близкую к единице19. В противном случае вы априори исключаете возможность собственного успеха, а попытка что-то «посчитать» — это притворство.

Честно говоря, сомневаюсь, что эту методологию вообще стоит чинить. Вряд ли нужно заморачиваться, пытаясь компенсировать вероятности в сторону увеличения. Просто не нужно заниматься подсчётами «конъюнктивного провала» на основе вероятностей успеха критичных факторов, когда у нас этих факторов очень много и вероятности получены очень приблизительно. Не думаю, что в таких условиях вы сможете что-нибудь оценить хорошо, даже если попытаетесь компенсировать упомянутую предсказуемую ошибку.

Элиезер: Да, я перечислил ключевые для меня факторы и я в самом деле сомневаюсь, что они сработают. Если бы я в них был уверен сильнее, я бы назначил вероятность больше, чем 10%. Однако эти факторы связаны дизъюнктивно в той же мере, что и конъюнктивно. Они не обязаны сработать вместе и сразу. Например, возможен такой сценарий: я буду писать «Методы» достаточно хорошо, что у них сложится достаточная аудитория, потом моя скорость написания значительно снизится, но «Методы» всё равно добьются большого успеха в итоге.

Пат: И как же вы скомбинируете эти факторы, чтобы оценить невероятный успех в 10%?

Элиезер: Никак. Я получил свою оценку следующим образом: я обнаружил, что у меня есть две границы — 20:1 и 4:1 — и я не готов их двигать, не беспокоясь об излишней сверхуверенности в ту или иную сторону. Примерно таким же образом я строил свои десять доверительных интервалов на тесте калибровки CFAR. Затем я взял логарифмическое среднее.

Пат: То есть вы даже не пытались оценить все эти факторы, а затем перемножить?

Элиезер: Нет.

Пат: Тогда откуда, чёрт возьми, вы взяли эти самые 10%? Ваше заявление, что вы получили два других таинственных числа — 20:1 и 4:1, — после чего взяли их геометрическое среднее, не отвечает на самый главный вопрос.

Незнакомец: Полагаю, лучше всего используемая методика описывается словами «взять числа с потолка». Важно практиковаться в калибровке своих чисел с потолка, когда вы потом узнаёте правильный ответ. Также важно понимать ограничения своих чисел с потолка и не пытаться сотворить невозможное, назначив кучу чисел с потолка сложным взаимосвязанным событиям.

Элиезер: Я бы сказал, что получил свою оценку… подумав о задаче на объектном уровне? Применив знания из области моей экспертизы? Я уже размышлял над этой задачей довольно долго, поэтому многие её важные аспекты уже были у меня в голове. Я получил из своей головы некоторое представление о вероятностях, а благодаря своей практике делать ставки я уже немного умею переводить собственное представление о неопределённостях в числа, и таким образом я получил 9:1. Я не очень понимаю, какую вы ещё хотите получить информацию. Если и есть способ получать настоящие, значительно лучшие суждения с помощью какой-то продвинутой техники, то я его не встречал в литературе и пока не практиковал. Если вы мне продемонстрируете, что в 9 случаях из 10 вы сможете назначать правильные 90-процентные доверительные интервалы, и ваши интервалы будут уже моих, и вы этого достигните с помощью какой-то продвинутой техники, я буду рад о ней услышать.

Пат: То есть, фактически, ваша вероятность в 10% происходит из недоступной интуиции.

Элиезер: В данном случае? Более-менее, да. Пока я не могу вам показать, что я планирую делать в «Методах», я мало что способен объяснить на тему, почему они могут преуспеть.

Пат: Если рассуждения у вас в голове корректны, почему их нельзя объяснить мне?

Элиезер: Потому что у меня есть недоступная вам информация. Я знаю, какую книгу я пытаюсь создать.

Пат: Элиезер, мне кажется, вы игнорируете довольно важную мысль. Вам стоит задуматься о том, что вы считаете, что у вас есть непередаваемые причины верить в успех вашего проекта «Методы рационального мышления». Разве неспособность убедить других людей в будущем успехе не схожа с ощущениями спятивших непризнанных гениев, изобретающих дурацкие физические теории? Они ведь тоже ссылаются на непередаваемую интуицию?

Элиезер: Однако ваш метод, который вы называете «предсказанием на основе референтного класса», слишком требователен, чтобы на самом деле определить, сможет кто-то написать фанфик по Гарри Поттеру с наибольшим количеством отзывов. Не важно, речь идёт обо мне или о ком-то ещё. Тот факт, что скромного критика не удаётся убедить, с точки зрения байесианства не позволяет отличить успешный в будущем проект от провального. Это не свидетельство.

Пат: Наоборот. Если бы Нонджон сказал мне, что он намерен написать фанфик по Гарри Поттеру, который получит больше всего отзывов, я посчитал бы это обоснованным утверждением. «Чёрная комедия» Нонджона признана одним из лучших фанфиков, Нонджон на хорошем счету у влиятельных обозревателей и раздающих рекомендации сообществ. Вероятно, он не был бы уверен, что он напишет фанфик, у которого точно будет больше всех отзывов, но он имеет полное право считать себя одним из наиболее вероятных претендентов на место автора такого фанфика.

Незнакомец: Любопытно, насколько вашу оценку вероятности успеха можно свести к одному числу, которое очень сильно коррелирует с тем, насколько человек уважаем внутри соответствующего сообщества.

Пат: Более того, даже если мой метод слишком требователен, это ещё не означает, что в моих рассуждениях какая-то ошибка. Человек, покупающий лотерейный билет, не сможет убедить меня, что у него есть веские причины верить в свой успех. Даже если это будет человек, который выиграет. Это всё равно не означает, что я был неправ, назначая низкую вероятность успеха людям, покупающим лотерейные билеты.

Для Нонджона вполне разумно купить лотерейный билет со ставкой 1:10. Нил Гейман может позволить себе 2 из 3. Шансы для вас, как я уже говорил, вероятно ближе к 1:1000, и они настолько высоки, лишь потому что вы уже продемонстрировали способность хорошо писать. Я даже не штрафую вас за то, что вы планируете внедрить ярко выраженных рациональных персонажей во вселенную Гарри Поттера, а это слишком уж непохоже на существующие лучшие фанфики. Возможно, на меня слишком влияет то, что мне понравилось то, что вы писали раньше. Однако я нахожу крайне подозрительным ваше утверждение, что вам достоверно известно, что ваш лотерейный билет лучше в сто раз, но вы не в состоянии объяснить, откуда вам это известно. Не бывает веских свидетельств, которые невозможно передать другому человеку.

Незнакомец: «Я пишу книгу по экономической теории, которая, как я полагаю, практически перевернёт всеобщие представления об экономике. Вероятно, не сразу, а в течение ближайших десяти лет. Сейчас вряд ли вы — или кто-либо другой — поверят в это. Но я сам не просто надеюсь, что так и будет, я довольно сильно в этом уверен». Так писал Джорджу Бернарду Шоу победитель в лотерее Джон Мейнард Кейнс о своей работе над «Общей теорией занятости, процента и денег».

Элиезер: Кстати, Пат, если я в самом деле преуспею в работе над «Методами», вы сами окажетесь в непередаваемом эпистемическом состоянии по отношению к кому-то, кто узнает обо мне позже лишь в связи с этой работой. Этот другой человек, возможно, предположит, что я не просто случайно выиграл в эту лотерею, но у него будет меньше свидетельств на этот счёт, чем у вас. Это довольно интересный и важный эпистемологический вопрос.

Пат: Я не согласен. Если у вас есть веские интроспективные свидетельства, расскажите мне о состоянии вашего разума. С моей точки зрения, не должно быть ситуаций, когда вы меняете свои взгляды на основании того, как это свидетельство «ощущается для вас», не так, как на основании того, как это свидетельство «ощущается для других людей». В этом случае вы и эти другие люди просто должны обновить свои взгляды ещё раз.

Незнакомец: Нет, в таком сценарии два человека действительно могут оказаться в непередаваемых эпистемических состояниях. Ведь существуют и другие искажения. Вы бы знали, что ситуация «Победа Элиезера» на самом деле была отмечена как отдельный исход заранее, но другой человек отнёсся бы к этому якобы отдельному исходу с учётом послезнания, и поэтому у него были бы веские причины не доверять своему послезнанию, и он не смог бы оказаться в том же состоянии разума, что и вы.

Вы правы, Пат: два агента, у которых совершенно нет когнитивных искажений и у которых нет поистине фундаментальных разногласий об априорных вероятностях, в такой ситуации никогда бы не оказались. Однако, насколько я могу судить, у людей такое случается довольно часто. В науке предсказания заранее ценятся вовсе не случайно: из-за искажения знания задним числом сложно в той же степени поверить в предсказание, о котором вы узнали уже после того, как оно сбылось.

Пат: Вы действительно предполагаете, что повсеместная распространённость когнитивных искажений позволяет вам сильнее верить в то, что ваши рассуждения корректны? Моя эпистемология в этих вопросах гораздо прямолинейнее вашей. Применим правило «веские свидетельства всегда можно передать» к описанному случаю. Гипотетический человек, наблюдавший за тем, как Элиезер Юдковский пишет «Цепочки» на LessWrong’е, слышит, как он присваивает существенную вероятность в успехе собственных «Методов», а затем видит, как этот успех наступает, должен просто понять, что на это скажет внешний наблюдатель. А он скажет вот что: вам просто повезло или не повезло — как и в случае покупателя лотерейного билета, который заранее заявил, что владеет паранормальными способностями, а потом ему посчастливилось выиграть.

Элиезер: Мне это сильно напоминает сложность, которую я однажды описывал для «метода воображаемого изменения взглядов»20. Способности людей к логическим выкладкам не идеальны, поэтому мы не можем быть уверены, что мы рассуждали об априорных вероятностях правильно. Я понимаю, почему сейчас с вашей точки зрения успех «Методов» — это всё равно что выигрыш в лотерею с шансами 1 к 1000. Но если это в самом деле случится, вы не скажете: «Ну надо же, случилось событие с шансами 1 к 1000». Вам придётся задуматься, не было ли ошибки в методе, который вы использовали для определения априорной вероятности. Для лотерейных билетов это неверно, потому что мы слишком хорошо представляем, как в этом случае устроена априорная вероятность. Ну и к тому же, в реальной жизни мы никогда не видели, чтобы кто-то из наших друзей выигрывал в лотерею.

Пат: Я согласен, что если «Методы» окажутся успешны, я пересмотрю свои взгляды, а не буду настаивать, что я был прав в своей оценке шансов. Поскольку я очень-очень уверен, что этого не случится, я счастлив уступить в этом вопросе. Аргументы против вашего успеха в написании фанфика по Гарри Поттеру мне кажутся достаточно сильными — как и любые другие аргументы с точки зрения взгляда извне.

Незнакомец: Но мы обсуждаем не это.

Пат: Неужели?

Незнакомец: С моей точки зрения, в этом-то и проблема. Если человеку кажется привлекательной эпистемология скромности, он тривиально может изобрести железобетонный аргумент против любого проекта, который включает в себя какое-то важное свершение, небывалое в прошлом. Исключается возможность любого проекта, пытающегося выйти за пределы неадекватности цивилизации.

Пат: Послушайте. Нельзя просто прийти на какое-то поле деятельности и с первой же попытки захватить там лидерство. Именно об этом и говорит эпистемология скромности. Предполагается, что вы неспособны преуспеть с такими шансами против вас, какие я описал. Возможно, при наличии миллиона претендентов, кто-то преуспеет, хотя скромность предсказывает его поражение. Но если мы выиграем спор 999 999 раз из миллиона, по-моему, это довольно неплохо. Если, конечно, Элиезер не заявит, что проект по написанию нового фанфика по Гарри Поттеру настолько важен, что шанс в 0,0001% всё равно стоит того…

Элиезер: Я никогда этого не скажу. Никогда. Если скажу, можете меня пристрелить.

Пат: Тогда почему вы не отвечаете на вполне ясные, вполне обыденные, вполне очевидные аргументы, по которым я думаю, что вы не добьётесь успеха? Нет, серьёзно, что происходит сейчас у вас в голове?

Элиезер: Ощущение беспомощности от неспособности передать свои мысли.

Незнакомец: Мрачная ирония.

Пат: Тогда, уж простите, мистер Элиезер Юдковский, но я думаю, что вы просто иррациональны. И вы даже не слишком стараетесь это скрыть.

Элиезер (вздыхает): Я могу понять, почему, с вашей точки зрения, это выглядит именно так. Какие-то из моих мыслительных приёмов, которые, с моей точки зрения, помогают мне делать хорошие предсказания и вырабатывать полезные привычки, я передавать умею. Но другие вызывают у меня ощущение беспомощности: я их знаю, но не способен о них рассказать. Этот разговор связан с той частью, про которую я знаю, но не знаю, как описать.

Пат: И почему я должен в это поверить?

Элиезер: Например, потому что идеи, про которые я разобрался, как их передать, я передал достаточно впечатляюще. Именно в этом заключалась тайная цель номер 7 написания Цепочек на LessWrong: я хотел дать хороший ключ ко всем техникам, которые я не в состоянии продемонстрировать. Вам я могу лишь сказать, что вы беспокоитесь о вещах, о которых, с моей точки зрения, даже не стоит думать. Весь ваш подход к задаче неверен. Речь не о том, что неверны ваши аргументы. Они просто относятся к неправильному вопросу.

Пат: И какой же вопрос будет правильным?

Элиезер: Именно это мне сложно объяснить. Могу сказать, что вам стоит отказаться от всех ваших мыслей по поводу соревнования с другими. Люди, которые были перед вами, в каком-то смысле «зонды»: сигналы эхолота, отражения которых дают вам какое-то представление о сложности задачи. Иногда вы можете проплыть мимо проблем, которые остановили других, и выйти в новую часть океана. И это не обязательно даже приведёт вас к успеху, моя мысль здесь в том, что человек обычно почти ничего не знает о том, что самое сложное в его задаче. Часто совершенно не имеет никакого смысла выяснять, кто именно ваши соперники — насколько они умны, мотивированы или насколько им хорошо платят. Ведь вы можете посмотреть на их работу и оценить её качество.

Пат: Представим человека, который предсказывает гиперинфляцию, заявляя, что мнение общепризнанных экономистов можно игнорировать, поскольку лишь идиоты могут думать, что если утроить количество денег в экономике, то инфляции не будет.

Элиезер: Я не представляю, что происходит в головах у таких людей. Однако я сомневаюсь, что проблему можно решить, посоветовав им быть скромнее. Сказать человеку заткнуться и уважать экспертов в общем случае неправильный способ аргументации, потому что он не различает общепринятую экономику (у которой относительно высокие академические стандарты) от общепринятой диетологии (у которой относительно низкие академические стандарты). Я не уверен, что в такой ситуации может надёжно помочь хоть что-нибудь, кроме как понять экономику самому. Если бы я столкнулся с таким человеком, мне следовало бы посоветовать ему почитать побольше блогов по экономике и попробовать внимательно следить за аргументами или, что ещё лучше, почитать учебник по экономике. Однако я сомневаюсь, что если люди будут сидеть тихо и тревожно задавать себе вопросы, не слишком ли они дерзко себя ведут, то это поможет решить описанную проблему. Если и решит, то мы получим другую проблему.

Пат: То есть, ваша эпистемология на мета-уровне для меня столь же недоступна, как и ваши оценки на объектном уровне.

Элиезер: Я могу понять ваш скепсис.

Пат: Почему-то я сомневаюсь, что вы пройдёте идеологический тест Тьюринга за мою точку зрения.

Незнакомец (улыбаясь): Ну, я-то точно справлюсь с вашим идеологическим тестом Тьюринга.

Элиезер: Пат, я понимаю, как вы получили ваши оценки. Я не сомневаюсь, что вы даёте советы, желая мне помочь. Однако при этом я воспринимаю ваши советы как проявление тревожности, которая никак не входит в перечень того, о чём мне нужно думать, чтобы создать хорошую книгу. Подобные размышления — бессмысленная трата сил. Если я преуспею, это точно произойдёт не благодаря таким мыслям. Чтобы сделать «Методы» такими, как я хочу, мне стоит думать не о том, насколько я хорош по сравнению с другими людьми. Поэтому я об этом и не думаю.

Пат: Мне кажется очень странным ваше замечание: «Если я преуспею, это точно произойдёт не благодаря таким мыслям». Оно полезно именно потому, что позволяет не тратить наши усилия на проекты, в которых у нас очень мало шансов преуспеть.

Незнакомец: Звучит очень разумно. Я могу на это ответить лишь посоветовать провести один день так, как я. Откажитесь от всех мыслей, которые не внесут никакого вклада в ваш успех, если он случится. Возможно, полученный опыт чему-нибудь вас научит.

Элиезер: Дело в том, Пат… Даже если я просто начну отвечать на ваши возражения и защищать себя от вашей разнообразной критики, это поспособствует развитию привычки, которую я считаю вредной. Вы непреклонно концентрируетесь на мне и моей психологии, и, если я ввяжусь в этот спор и начну защищаться, мне придётся сосредоточиться на себе, а не на моей книге. Из-за этого я потрачу гораздо меньше внимания на то, что должен сделать профессор Квиррелл на первом уроке Защиты. И что ещё хуже, мне придётся защищать собственные решения, а в этом случае мне будет сложнее изменить их в будущем.

Незнакомец: Подумайте, насколько сложнее Элиезеру будет отказаться от его другого проекта — «Искусства рациональности» — в случае его провала после множества подобных разговоров (реальных или внутренних): разговоров, в которых ему приходится защищать все причины, почему для него нормально считать, что он способен написать научно-популярный бестселлер в области рациональности. Именно поэтому важно не бояться попыток использовать неадекватность цивилизации. Важно, чтобы люди могли пробовать амбициозные проекты, не задумываясь, что они обязаны добиться успеха любой ценой или у них отберут лицензию героя.

Элиезер: Верно. И… работа мысли, связанная с беспокойством, что может подумать критик и как от него защититься или в чём ему уступить, отличается от работы мысли, которая нужна, чтобы проявить любопытство по какому-то поводу, попытаться узнать ответ и поставить эксперимент. Она отличается от того, как я думаю, когда работаю над задачей в реальном мире. Я должен думать просто о своей работе.

Пат: Если бы вы просто пытались ради забавы написать неплохой фанфик по Гарри Поттеру, я бы с вами согласился. Но вы говорите, что хотите создать самый лучший фанфик. Это же совершенно другая ситуация…

Элиезер: Нет! Я как раз пытаюсь вам объяснить, что в моей голове пытаться написать хороший фанфик и пытаться написать самый лучший фанфик — это одно и то же. Есть объектный уровень, и вы его оптимизируете. У вас есть оценка, насколько хорошо вы можете его оптимизировать. Вот и всё.

Социальные эвристики, а также важность, разрешимость и недооценённость проблемы

Пат: Мне в голову только что пришла забавная мысль. Вы ведь пытаетесь работать над теорией дружественного ИИ…

Элиезер: Предположу, здесь вы тоже не верите в мой успех.

Пат: Ну, конечно же, я не верю, что вы сможете спасти мир! (Смеётся.) Мы живём не в фантастической книге. Однако я в самом деле полагаю, что у вас есть основания надеяться внести важный вклад в теорию дружественного ИИ, которая окажется полезной какой-нибудь группировке, разрабатывающей сильный ИИ. Мне показалось интересным, что этого явно будет достичь проще, чем реализовать описанный Незнакомцем в маске сценарий или похожий на него, вероятность чего вы оценили в 10%.

Незнакомец (улыбаясь): Это совершенно-совершенно-совершенно не так.

Замечу, кстати, что там, откуда я пришёл, выражение «дружественный» ИИ вышло из моды. Мы стали говорить о «соответствии ИИ целям оператора», в основном потому что «соответствие ИИ» меньше отдаёт антропоморфизмом, чем «дружественность».

Элиезер: Соответствие? Хорошо, меня это устраивает. Однако, Пат, ваши слова оказались для меня неожиданностью. Это выходит за пределы моих представлений о вашем идеологическом тесте Тьюринга. Продолжайте, пожалуйста.

Пат: Хорошо. Что бы вы там не думали, мои слова не являются универсальным контраргументом, который я применяю к тому, что мне просто интуитивно не нравится. Они основаны на конкретных наблюдаемых доступных сторонним наблюдателям факторам, благодаря которым утверждения можно разделить на правдоподобные и неправдоподобные. Если мы отложим в сторону недоступную интуицию и просто посмотрим на доступные сторонним наблюдателям факторы, то станет совершенно очевидным, что существует огромное сообщество писателей, которые явно пытаются создавать фанфики по Гарри Поттеру. Это сообщество гораздо больше и гораздо активнее — по любой объективной доступной стороннему наблюдателю метрике, — чем сообщество, работающее над вопросами, связанными с «соответствием», «дружественностью» или чем-то там ещё. Оказаться лучшим автором в гораздо большем сообществе — намного неправдоподобнее, чем внести значительный вклад в соответствие ИИ, которым почти никто не занимается.

Элиезер: Когда я оцениваю относительную сложность задач «внести ключевой вклад в соответствие ИИ» и «довести „Методы“ до уровня, описанного Незнакомцем в маске», относительный размер существующих сообществ, который вы упомянули, мне представляется не важным. Если бы я заранее не ознакомился с фанфиками по Гарри Поттеру, у которых самая лучшая репутация, мне стоило бы учесть число соревнующихся авторов. Однако если я вижу собственными глазами уровень соревнования, то информация о размере сообщества уже не играет для меня никакой роли.

Пат: Но ведь наверняка размер сообщества должен заставить вас хотя бы задуматься, стоит ли доверять вашей интуиции в том, что вы сможете написать что-то значительно лучшее, чем результат работы столь многих авторов.

Незнакомец: Видите это мета-рассуждение? С моей точки зрения, когда люди начинают размышляют о мире таким образом, оно портит всё.

Элиезер: Если вы увидите девушку, жонглирующую несколькими шариками, вы её будете спрашивать, не стоит ли ей внезапно задуматься, входит ли она в референтный класс людей, которые лишь думают, что они хорошо ловят шарики? Это всё просто… бессмысленная трата сил.

Незнакомец: Социальная тревожность и чрезмерная педантичность.

Элиезер: Продуктивно работающий мозг сосредоточен на других вещах.

Пат: Вы утверждали, что взгляд извне — это универсальный контраргумент против любого утверждения о том, что некто с низким статусом может сделать что-то важное. Я объясняю вам, почему метод, опирающийся на наблюдаемые метрики, которые может проверить сторонний наблюдатель, утверждает, что, возможно, вы сможете внести важный вклад в соответствие ИИ, которым больше никто не занимается, но вы не напишете фанфик по Гарри Поттеру с самым большим числом отзывов, потому что с вами соревнуются тысячи авторов.

(Наблюдающая за дискутирующими Женщина неожиданно подходит к ним и вмешивается.)

Женщина: Ну, нет. Я больше не могу сдерживаться.

Пат: Э? Кто вы?

Женщина: Я истинный голос скромности и взгляда извне!

Я услышала ваш разговор и хочу сказать: внести важный вклад в проблему соответствия ИИ никак не может быть проще, чем написать популярный фанфик.

Элиезер: …Это, конечно, верно, но кто?..

Женщина: Меня зовут Мод Стивенс21.

Пат: Ну что ж, Мод, приятно познакомиться. Я всегда рад послушать о своих ошибках, даже если о них говорят люди, которые случайно сталкиваются со мной в парке и при этом подозрительно много обо мне знают. Так в чём же я ошибаюсь?

Мод: Вы все уверены, будто если человек не говорит о «соответствии» или «дружественности», то его работа не имеет к этим проблемам никакого отношения. Но это просто слова. Если мы учтём специалистов по машинной этике, которые работают над дилеммами вагонетки в реальном мире, экономистов, занимающихся вызванной технологиями безработицей, учёных в области информатики, изучающих вопросы азимовских агентов 22, и им подобных, окажется, что людей, которые пытаются внести вклад в эти вопросы, гораздо-гораздо больше.

Пат: Что? Элиезер, это правда?

Элиезер: Насколько я знаю, нет, разве что Мод работает в АНБ и хочет рассказать о каких-то очень интересных засекреченных исследованиях. Примеры, которые она перечислила, не связаны с техническими вопросами, которые я называл «дружественностью». Прогресс в упомянутых Мод вопросах не поможет определить предпочтения, которые с достаточной для нас уверенностью приведут к хорошим результатам, даже если речь идёт о системах умнее нас, способных рассматривать гораздо большее пространство стратегий, чем мы можем представить. Также он не поможет спроектировать системы, остающиеся стабильными при самомодификации, чтобы хорошие свойства исходного ИИ сохранялись, когда он становится умнее.

Мод: И вы утверждаете, что никто другой в мире не заметил этих проблем?

Элиезер: Нет, этого я не утверждаю. Вопросы вроде «как нам задать правильные цели для искусственного интеллекта, сравнимого с человеческим?» и «что случится, когда ИИ станет настолько умён, что сможет автоматизировать исследования ИИ?» задаются уже давно. Однако они просто повисают в воздухе и незаметно, чтобы они смещали приоритеты в исследованиях. Нельзя сказать, что сообщество людей, которые вообще думают про суперинтеллект, — мало. Конечно же, есть много направлений работы над надёжностью, прозрачностью и безопасностью в каких-то конкретных системах ИИ, которые случайно могут облегчить работу над соответствием ИИ умнее человека. Однако сообщество людей, которые на ежедневной основе работают и принимают решения о том, какими техническими вопросами заняться, именно чтобы решать вопрос сверхинтеллектуального ИИ, — очень мало.

Мод: Я на это скажу, что вы просто забегаете вперёд и пытаетесь решать задачу с конца, хотя область пока просто не готова сосредоточить усилия на этом. Возможно, идущая сейчас работа не направлена на вопросы сверхинтеллекта напрямую, но нам стоит ожидать, что существенного прогресса в соответствии ИИ достигнут последователи тех, кто сейчас работает над вопросами вроде применения дронов в боевых целях или вызванной ими безработицы.

Пат (осторожно): Я хочу сказать, что если Элиезер говорит правду — а я считаю его честным человеком, пусть он по моим стандартам часто и бывает слегка безумен, — то в 2010 году в этой области почти никого нет. Не так уж много людей работают над вопросами, связанными с ИИ умнее человека, и лишь группа Элиезера и Институт будущего человечества в Оксфорде всерьёз утверждают, что занимаются вопросами соответствия ИИ. Если Элиезер утверждает, что задача, как создать ИИ умнее человека, чтобы он нас всех не убил, не относится к полю деятельности нынешних специалистов по машинной этике, то я посчитаю это достаточно правдоподобным, хотя, конечно, мне хотелось бы узнать и другие точки зрения перед тем, как сделать окончательный вывод.

Мод: Но область, в которой соревнуется Элиезер, не ограничивается людьми, пишущими статьи по этике. Любой, занимающийся машинным обучением, да и вообще любой областью информатики может внести свой вклад в проблему соответствия ИИ.

Элиезер: Гм, я бы с радостью об этом услышал. Однако победа в данном случае это «задача решена»…

Пат: Подождите, Мод. Мне кажется, вы выходите за рамки того, что может объективно проверить сторонний наблюдатель. Это всё равно что сказать, мол, Элиезер должен соревноваться со Стивеном Кингом, потому что в принципе Стивену Кингу может взбрести в голову написать фанфик по Гарри Поттеру. Если все эти прочие люди, занимающиеся ИИ, не работают над конкретными задачами, над которыми работает Элиезер, в то время как множество авторов из фэндома по Гарри Поттеру напрямую соревнуются с Элиезером в написании фанфиков, то любой разумный сторонний наблюдатель должен согласиться, что контраргумент «взгляд извне» очень существенен во втором случае, а в первом случае он довольно слаб (если вообще верен).

Мод: Выходит, написать фанфик сложнее, чем спасти мир? Вы серьёзно? Такого не может быть.

Элиезер: Пат, я не согласен с аргументами Мод, но у неё преимущество: она рационализирует верный вывод. Соответствие ИИ — сложнее.

Пат: Я не ожидаю, что вы решите весь вопрос целиком. Но внести значительный вклад в довольно специализированной области знания, которой занимаются очень мало людей, должно быть проще, чем оказаться самым успешным человеком в области, в которой работают множество других.

Мод: Бред какой-то. Нельзя даже сравнивать писателей фанфиков с экспертами по машинному обучению и профессорами ведущих университетов, которые способны внести гораздо более впечатляющий вклад в исследования сильного ИИ.

Элиезер: Гм. Прорыв в исследованиях сильного ИИ может быть впечатляющим, но без соответствия ИИ…

Пат: А вы сами пробовали писать фанфики? Попробуйте. Вы поймёте, что это намного сложнее, чем вам кажется. Если вы хороши в математике, это ещё не означает, что вы можете вот так взять и…

(Незнакомец в маске поднимает руку и щёлкает пальцами. Время останавливается. Затем Незнакомец в маске выжидающе смотрит на Элиезера-2010.)

Элиезер: Гм. Незнакомец в маске… Вы представляете, что тут происходит?

Незнакомец: Да.

Элиезер: Благодарю за лаконичный и содержательный ответ. Не будете ли вы любезны объяснить, что тут происходит?

Незнакомец: Пат прекрасно знаком с иерархией статусов в сложившемся сообществе фэндома по Гарри Поттеру, в котором есть свои ритуалы, призы, политика и так далее. Однако Пату в силу литературной гипотезы не хватает интуиции на тему, насколько дерзко пытаться внести вклад в соответствие ИИ. Если мы Пата расспросим, скорее всего выяснится, что он полагает, что соответствие ИИ — это круто, но не астрономически важно, или что существует множество других экзистенциальных рисков такого же уровня. Если бы Пат, как вы, верил, что долгосрочные последствия для цивилизации в значительной степени зависят от решения проблемы соответствия, скорее всего, он инстинктивно считал бы эту задачу более престижной. Всё, что он знает о задаче на объектном уровне и о том, сколько людей ей занимаются, осталось бы неизменным, но ощущаемый статус задачи возрос бы.

Мод, в свою очередь, наоборот незнакома с политическими деталями и динамикой статусов среди поклонников Гарри Поттера, но очень чувствительно относится к важности задачи соответствия. Поэтому для Мод интуитивно очевидно, что для внесения вклада в работу над соответствием ИИ требуется гораздо более впечатляющая лицензия героя, чем для написания лучшего в мире фанфика по Гарри Поттеру. Пат этого не понимает.

Элиезер: Но ведь идеи в области соответствия ИИ нужно формализовать, и полученный формализм должен удовлетворять одновременно множеству разных требований, причём довольно точно. Это очень абстрактная задача с огромным количеством ограничений, потому что нужно вписать неформальную задачу в правильную формальную структуру. Да, при написании художественной литературы мне нужно жонглировать такими штуками как сюжет, персонажи, напряжение, юмор, но всё это остаётся когнитивной задачей с гораздо меньшим числом ограничений…

Незнакомец: Эти соображения вряд ли приходили в голову Пату или Мод.

Элиезер: Важно ли то, что я планирую тратить на исследования гораздо больше усилий, чем на написание художественных книг? Если «Методы» не получатся сразу, я быстро сдамся.

Незнакомец: Извините. Позволено вам делать что-нибудь высокостатусное или нет, не может зависеть от того, сколько, по вашим словам, вы на это планируете потратить сил. Ведь «каждый может так сказать». Без этого нельзя было бы осаживать претендентов. Что совершенно ужасно.

Элиезер: … … Есть ли какой-нибудь организующий принцип, делающий всё это осмысленным?

Незнакомец: Полагаю, самые важные понятия, которых вам не хватает: неадекватность цивилизации и поддержание статуса в иерархии.

Элиезер: Просветите меня.

Незнакомец: Вы понимаете, как Пат пришёл к оценкам, что должно быть тысяча фанфиков по Гарри Поттеру, сравнимых с «Методами»? И понимаете, почему я прослезился, вообразив такой мир? Представьте, что Мод совершает ту же самую ошибку. Представьте мир, в котором всякий необразованный невежа вроде вас не в состоянии достоверно оценить шансы на то, чтобы внести серьёзный вклад в соответствие ИИ, не говоря уже о том, чтобы чего-то достичь, потому что люди пытаются заниматься серьёзной технической работой с 1960-х. В этом мире люди довольно много думали над этой задачей, вкладывали всю свою смекалку, считали результат довольно важным и потому старались убедиться, что они работают над правильной задачей и используют надёжные технологии. Функциональная теория принятия решений изобретена в 1971 году, через два года после публикации Роберта Нозика «Задача Ньюкома и два принципа выбора». Все полагают, что у человеческих ценностей высокая колмогоровская сложность. Все понимают почему, если вы программируете максимизатор ожидаемой полезности с функцией полезности U, а на самом деле вы под ней подразумевали V, то у U-максимизатора появятся инструментальные стимулы убедить вас в том, что он V-максимизатор. Никто не предполагает, что можно «просто выдернуть вилку из розетки» у чего-то гораздо умнее его. И все прочие мировые крупномасштабные активности и институты изменились соответственным образом.

Мы можем назвать такой мир «адекватным миром» и противопоставить его ныне существующему. У «адекватного мира» есть свойство, которое можно назвать «неиспользуемость» — или, по крайней мере, «неиспользуемость Элиезером». Можно провести аналогию. Вы не можете предсказать изменение стоимости акций Майкрософт на 5% в ближайшие шесть месяцев. Возьмём это свойство акций из S&P 500 и отмасштабируем на всю планету: вы не можете превзойти экспертов, вы не можете найти познаваемую ошибку. В «адекватном мире» эксперты всё равно совершают ошибки, они не идеальны. Но на групповом уровне они умнее и точнее, чем Элиезер Юдковский, поэтому вы не в состоянии понять, что является эпистемической или моральной ошибкой, точно так же, как вы не в состоянии понять, отклонилась ли цена на акции Майкрософт от рыночной вверх или вниз.

Элиезер: Ладно… Я могу понять, почему рассуждения Мод были бы разумны в «адекватном мире». Но как она согласовывает аргументы, приводящие к её выводам, с миром, в котором мы живём и который значительно отличается от «адекватного»? Не похоже, что Мод в состоянии сказать: «Смотри, очевидно, проблема уже решается», потому что проблема, очевидно, не решается.

Незнакомец: Предположим, вы инстинктивно регулируете претензии на статус, стараясь добиться того, чтобы никто не получил статус выше, чем заслуживает.

Элиезер: Ладно…

Незнакомец: Это поощряет поведение, которые вы назвали «лицензия героя». Ваша текущая модель считает, что люди прочли слишком много книг, где протагонист родился под знаком сверхновой, у него есть легендарный меч, и они не понимают, что реальность устроена не так. Или, например, люди связывают достижения Эйнштейна с его нынешним престижем, не осознавая, что до 1905 года Эйнштейну никто не предсказывал величайшую судьбу.

Элиезер: Верно.

Незнакомец: Неверно. Ваша модель статуса героя заключается в том, что за героическую службу племени должна быть награда. Вы считаете, что, хотя, конечно же, нельзя разрешать людям претендовать на статус героя, если они пока ещё не послужили племени, но ни у кого не должно быть интуитивных возражений против того, что кто-то попробует племени послужить. Да, при условии, что желающий тщательно подчеркнёт, что пока он ещё ничего не добился и не считает, что ему уже положен высокий статус.

Элиезер: …и это неверно?

Незнакомец: Для «нечутких к статусу» людей, вроде вас, эта модель прекрасно работает. Но обычно эмоции в отношении статуса работают не так. Если коротко, для того, чтобы претендовать на какой-то высокий статус, вы уже должны получить какой-то статус. И у большинства людей это довольно базовое ощущение, нельзя сказать, что кто-то этому учит.

Элиезер: Но до 1905 года Эйнштейн работал в патентном бюро. У него даже не было учёной степени. В смысле, Эйнштейн был нетипичным работником патентного бюро, и, без сомнения, он это понимал, но сторонний наблюдатель, посмотрев на его резюме…

Незнакомец: Мы сейчас говорим не об эпистемических предсказаниях. Это просто факт о том, как работают человеческие эмоции, когда дело касается статусов. В глазах Пата наличие определённой вероятности написать самый популярный фанфик по Гарри Поттеру идёт вместе с определённым статусом. В глаза Мод наличие определённой вероятности внести важный вклад в проблему соответствия ИИ идёт вместе с определённым статусом. Поскольку ваш текущий статус в соответствующей иерархии они оценивают гораздо ниже, вы не имеете права заявлять о соответствующих оценках вероятностей или вести себя так, как будто считаете, что они верны. Вам нельзя просто попробовать и посмотреть, что получится, потому что это подразумевает, что какая-то вероятность успеха у вас есть. Сама претензия на то, что вы можете взять и попробовать, — уже претензия на статус и потому вас нужно осадить. Если этого не сделать, любой сможет претендовать на слишком высокий статус, и это будет ужасно.

Элиезер: Хорошо. Но как отсюда происходит переход к заблуждениям об адекватности цивилизации?

Незнакомец: Благодаря обратной цепи рационализаций, возможно, с примесью веры в справедливый мир и искажения «статус-кво». Если сказать экономисту, что можно каждый год удваивать свои вложения, продавая и покупая акции Майкрософт, пользуясь каким-то простым алгоритмом, он очень удивится. После этого экономист начнёт прикидывать, почему этот самый алгоритм не сработает, какой в нём есть незаметный риск — ему захочется сохранить идею о неиспользуемости рынка ценных бумаг, и это вполне естественно.

Пат пытается сохранить идею о том, что «рынок фанфиков» «неиспользуем Элиезером» — поскольку интуитивно ему кажется, что у вас слишком низкий статус, чтобы добиться успеха на этом рынке. Это приводит его к мысли, что существует ещё тысяча людей, которые пишут фанфики по Гарри Поттеру не хуже, чем вы. В результате Пат воображает мир, который адекватен в соответствующем отношении. В этом мире усилия авторов дёшево конвертируются в популярные истории, поэтому простой смертный не способен предсказать, что он напишет более популярную историю. А адекватность мира в прочих отношениях гарантирует, что любой посторонний, который на самом деле способен переиграть этот рынок — например, Нил Гейман, — уже богат, почитаем и так далее.

И это распространённое явление. Если некто верит, что у вас недостаточно высокий статус, чтобы делать предсказания лучше, чем Европейский Центральный Банк, он будет считать, что Европейский Центральный Банк справляется со своей работой довольно хорошо. Экономист не скажет, что Европейский Центральный Банк обязательно хорошо справится со своей работой: он порекомендует обратить внимание на стимулы, на то, что лица, принимающие решения, не получат гигантские бонусы за то, что экономика Европы улучшится. Однако невозможно, чтобы Элиезер был умнее Европейского Центрального Банка, ведь в этом случае нарушится иерархия статусов. Чтобы мировую иерархию статусов нельзя было оспорить, она должна быть правильной и мудрой, чтобы она была правильной и мудрой, она должна быть неиспользуемой. Интуитивное понимание неадекватности цивилизации очень сильно помогает рассеивать миражи вроде лицензии героя или эпистемологии скромности. Ведь когда эпистемология скромности своей цепью рационализаций объясняет, почему некто не в состоянии совершить что-то значимое, она приводит к необходимости заявить об адекватности цивилизации.

Элиезер: Но цивилизация в некоторых областях может быть неиспользуемой, даже если она не является адекватной. А вы, кажется, утверждаете, что Пат и Мод в основном заботит неиспользуемость.

Незнакомец: Можно воображать мир, где ни у кого нет стимулов заниматься проблемой соответствия ИИ и потому ей почти никто не занимается, более того, люди, которые знают о проблеме и хотели бы её решать, всё равно не занимаются ей, потому что конкуренция приводит к тому, что они лишаются каких-то ценных ресурсов. Можно воображать мир, который неиспользуем для вас, но используем для многих других. Однако заявление об адекватности цивилизации подтверждает текущую иерархию статусов гораздо сильнее и гораздо надёжнее. Идея адекватного мира более точно соответствует интуитивному представлению, что самые уважаемые и самые авторитетные люди мира заслуженно занимают своё место: они слишком хорошо организованы, слишком хорошо информированы, действуют в самых лучших намерениях и потому человек с улицы не в состоянии распознать творение Молоха вне зависимости от того, способен он с ним что-то сделать или нет. Кроме того, чтобы разговаривать о неиспользуемой неадекватности, нужно лучше знать микроэкономику, о том, как люди пытаются использовать рынки и какие проблемы они при этом пытаются решать. Заявить об адекватности цивилизации гораздо легче.

Неадекватности цивилизации — это основная причина, почему мир в целом нельзя назвать неиспользуемым в той же мере, как краткосрочный рынок ценных бумаг. А эпистемология скромности, грубо говоря, утверждает, что вы не можете прогнозировать неиспользуемость мира, потому что не можете быть уверены, что ориентируетесь в чём бы то ни было лучше экспертов.

Элиезер: Это… я, кажется, понял… Но я всё ещё не понимаю, как на самом деле думает Мод.

Незнакомец: Что ж, смотрите.

(Незнакомец в маске поднимает руку и снова щёлкает пальцами. Время запускается снова.)

Пат: …стать лучшим в литературе, потому что какие-то там фанфикописатели тупые.

Мод: Мой дорогой друг, пожалуйста, задумайтесь о ваших собственных словах. Если проблема соответствия ИИ действительно настолько важна, как уверяет Элиезер, оказался ли бы он одним из немногих людей, которые над ней работают?

Пат: Ну, всё выглядит так, будто так и есть.

Мод: Значит, проблема не может быть такой важной, как он уверяет. Иначе бы получилось, что какой-то странный одиночка обнаружил важную проблему, над которой работает лишь он и ещё парочка человек. А это означало бы, что все остальные, занимающиеся этой областью, идиоты. Кто такой Элиезер, чтобы игнорировать академический консенсус о том, что проблема соответствия ИИ не слишком интересна, чтобы над ней работать?

Пат: Я вполне могу представить некоторые препятствия, с которым, возможно, сталкивается типичный учёный, который хочет работать над соответствием ИИ. Например, быть может, на такую работу сложно получить грант.

Мод: Если на неё тяжело получить грант, значит, люди, распределяющие гранты, справедливо рассудили, что эта проблема не является приоритетной.

Пат: Вы хотите сказать, что в финансировании науки уже всё настолько хорошо, что все стоящие направления исследований уже кем-то разрабатываются?

Незнакомец: Кто конкретно из людей, распределяющих гранты, будет получать меньше в мире, где соответствие ИИ — важная проблема, но на неё не выделяются гранты? Если никто не лишается своих премий или ещё чего-нибудь ценного, то вот вам и ответ. Никакой загадки здесь нет.

Мод: Все свидетельства прекрасно согласуются с гипотезой, что гранты не выделяются, потому что грантодатели приняли продуманное и информированное решение: соответствие ИИ — не проблема вовсе.

Элиезер: Пат, спасибо вам за защиту, но, думаю, я здесь объясню лучше. Как я уже упоминал, вопросы вроде взрыва интеллекта и мысль о том, что при построении системы целеполагания ИИ это надо как-то учесть, придумал не я. Это довольно широко известные идеи, и люди любого уровня важности зачастую охотно соглашаются обсудить их с глазу на глаз. Хотя, конечно, есть разногласия относительно величины риска и относительно того, какие именно усилия будут более всего полезны, чтобы его снизить. Вы можете найти обсуждение этого вопроса в популярнейшем вузовском учебнике по ИИ: «Искусственный интеллект: современный подход»23. Поэтому нельзя утверждать, что среди исследователей есть консенсус о том, что эта проблема не важна.

Мод: Значит, грантодатели скорее всего тщательно оценили эту проблему и решили, что процветание человечества в долгосрочной перспективе лучше всего обеспечить путём прогресса в области ИИ каким-то ещё способом, а над соответствием работать, лишь когда мы достигнем некоего порога возможностей. По всей вероятности фонды ждут именно этого, чтобы запустить широкомасштабное исследование в области соответствия ИИ.

Элиезер: И как именно грантодатели могли прийти к подобному решению, не изучив задачу каким-нибудь заметным образом? Если всё сообщество, выделяющее гранты, способно прийти к консенсусу такого уровня, то где статьи и анализы, которыми они воспользовались, чтобы прийти к своему решению? Каковы аргументы сторон? Ваши слова звучат так, будто вы говорите о тайном заговоре компетентных грантодателей из сотни различных организаций, которые каким-то образом получили доступ к литературе о стратегических и технических исследованиях — или даже провели их сами, — о которых не слышал ни Ник Бостром, ни я. Благодаря этим исследованиям эти грантодатели установили, что задачи, которые решаются сейчас, которые кажутся важными и поддающимися исследованию, вряд ли к чему-то приведут, однако в будущем всё будет развиваться в каком-то конкретном известном направлении с известной скоростью, что подготовит почву для позднейшего скоординированного вмешательства.

Вы утверждаете, что хотя все исследователи привычно на кофе-брейках обсуждают самоулучшающийся ИИ и законы Азимова, существуют какие-то тайные веские причины того, почему изучать эту задачу — плохая идея? И все грантодатели пришли вместе к этой мысли, не оставив никакого следа о том, как именно они приняли это решение? Я просто… В том, как устроено распределение грантов и в функционировании научного сообщества существует столько прекрасно известных и абсолютно естественных ошибок, что соответствие ИИ вполне может оставаться критично важной проблемой, которую тем не менее учёные вовсе не рвутся решать. Однако вы постулируете огромный мировой заговор из никому не известных компетентных людей, которые руководствуются тайными анализами и обсуждениями. Как вы вообще до этого дошли?

Мод: Потому что иначе…

(Незнакомец снова щёлкает пальцами.)

Незнакомец: Ну что же, Элиезер-2010, ответьте на свой вопрос. Как Мод до этого дошла?

Элиезер: С точки зрения Мод… Чтобы всякие не слишком значимые или неавторитетные личности не решали важные задачи, не должно быть низко висящих плодов, про которые можно понять, что это низко висящий плод. Если существуют важные задачи, не затронутые системой грантов и прочих вознаграждений в научной среде, то кто-нибудь вроде меня может понять, что над ними стоит работать. Если есть какие-то проблемы, связанные с грантодателями или стимулами в научной среде, и кто-нибудь вроде меня может опознать эти проблемы, то становится вероятно, что кто-то не важный вроде меня узнает, что есть важная задача, над которой никто не работает. Декларируемое Мод состояние научной системы да и всего мира в целом — это цепочка рассуждений, вызванная необходимостью не допустить существование низко висящих плодов.

Сперва Мод пыталась утверждать, что задача о соответствии ИИ уже активно исследуется, как это и было бы в адекватном мире, который вы описали. Когда эту позицию стало сложно защищать, она переключилась на утверждение, что авторитетные аналитики изучили задачу и дружно решили, что она не важна. Когда и эту позицию стало сложно защищать, она переключилась на утверждение, что авторитетные аналитики изучили задачу и дружно изобрели какую-то лучшую стратегию, которая включает временную приостановку работ над этой задачей.

Незнакомец: И у этих очень разных гипотез есть общее свойство: они утверждают, что в особо ценных исследованиях существует что-то похожее на эффективный рынок: люди и коллективы с достаточно высоким статусом в научной системе не могут ошибиться так, чтобы это стало заметно.

Возможно, дальше бы Мод предположила, что лучшие исследователи уже определили, что это лёгкая задача. Или что есть тайный консенсус, что сильный ИИ не появится ещё несколько веков. По моему опыту воображение у людей вроде Мод иногда не знает границ. Всегда найдётся какой-то ещё вариант.

Элиезер: Но почему люди всё это придумывают? Никакой экономист не сказал бы, что тут можно обнаружить эффективный рынок.

Незнакомец: Мод скажет, конечно, система не идеальна. Однако продолжит, что мы тоже не идеальны. Все, кто распределяют гранты и научные должности, ничуть не хуже нас и делают всё, что в их силах, чтобы исправить те искажения в системе, которые в состоянии заметить.

Элиезер: Но ведь это явно противоречит и наблюдениям, и экономической теории стимулов.

Незнакомец: Да. Однако это принимается за истину. Ведь если эксперты могут ошибаться, значит мы тоже можем ошибаться, верно? Может быть, это у нас систематически неправильные стимулы и лишь краткосрочные вознаграждения.

Элиезер: Но ведь находиться внутри системы с плохо спроектированными стимулами, это не то же самое, что быть неспособным определить истину в… о, я понял.

Это было очень познавательно, Незнакомец в маске. Спасибо.

Незнакомец: Спасибо за что, Элиезер? Указать человеку на проблему — не слишком большая услуга, если он ничего не может с ней сделать. Вы не получите никакого преимущества по сравнению с основной временной линией.

Элиезер: Всё равно лучше хоть немного понимать, что именно происходит.

Незнакомец: Это тоже ловушка, и мы оба это понимаем. Если вам нужна сложная теория, чтобы подтвердить, что вы видите очевидное, то со временем эта теория будет лишь усложняться и отвлекать вас. Вам придётся всё старательней перепроверять себя. Гораздо лучше просто принимать вещи такими, какие они есть, и не придумывать для этого огромных аргументов. Если вам нужно проигнорировать чей-то совет, лучше не сочинять много сложных обоснований, почему вы имеете на это право: так вам будет легче впоследствии передумать и всё же принять этот совет, если случится так, что вам он станет нравиться больше.

Элиезер: Верно. Тогда зачем вы мне всё это рассказываете?

Незнакомец: А всё это время я обращался не к вам. Последний мой урок заключается в том, что я никогда не рассказываю такие штуки себе.

(Незнакомец трижды поворачивается вокруг своей оси. Его никогда тут не было.)

  • 1. В оригинале «AI alignment». — Прим.перев.
  • 2. В оригинале «Inadequate Equilibria», на русский язык не переводилась. — Прим.перев.
  • 3. Хотя автор пишет, что этот диалог лишь дополняет «Неадекватное равновесие», мне он показался достаточно самостоятельным произведением. Не обязательно читать «Неадекватное равновесие», чтобы понять, о чём здесь идёт речь. — Прим.перев.
  • 4. Фамилия героя говорящая, и образована от слова «modest» — скромный. — Прим.перев.
  • 5. Название совместного блога Юдковского и Робина Хансона, где Юдковский начал писать свои «Цепочки». Буквально переводится как «Преодолевая искажения». Из этого блога родился коллективный блог lesswrong.com. Overcoming bias до сих пор является блогом Робина Хансона. — Прим.перев.
  • 6. Одна из основательниц CFAR. С 2016 года — президент CFAR. — Прим.перев.
  • 7. Исполнительный директор MIRI в 2011-2015 годах, в настоящее время работает в Open Philanthropy Project. — Прим. перев.
  • 8. «Цепочки» — серию эссе в блоге lesswrong.com, которая потом превратилась в книгу «Рациональность: от ИИ до Зомби» — Юдковский писал как раз в 2007 - 2009 годах. — Прим. перев.
  • 9. В оригинале S. I. Hayakawa, «Language in Thought and Action». Первоначально публиковалась под названием «Language in Action» и переводилась на русский под названием «Язык в действии». — Прим.перев.
  • 10. Юдковский здесь несколько преувеличивает. Основная работа Коржибски — «Наука и здравомыслие»(в оригинале «Science and Sanity») написана в 1933 году. Даниел Канеман родился в 1934 году. — Прим. перев.
  • 11. В оригинале Nonjon — Прим.перев.
  • 12. В оригинале «A Black Comedy» — Прим. перев.
  • 13. В оригинале Sarah1281 — Прим.перев.
  • 14. В оригинале JBern — Прим.перев.
  • 15. Известный рационалист, ведёт сайт gwern.net. — Прим.перев.
  • 16. Ord, Hillerbrand and Sandberg, «Probing the Improbable». — Прим.перев.
  • 17. Van Boven and Epley, «The Unpacking Effect in Evaluative Judgments». — Прим.перев.
  • 18. В российском сообществе чаще используется название «премортемы». — Прим.перев.
  • 19. Судя по всему, у Юдковского здесь опечатка, и на самом деле, нужно взять вероятность близкую к нулю. — Прим.перев.
  • 20. Англ. «method of imaginary updates». — Прим.перев.
  • 21. В оригинале: «Maude Stevens». В этом имени тоже читается слово «modesty» — «скромность». — Прим. перев.
  • 22. Англ. «Asimovian agents». — Прим.перев.
  • 23. В оригинале «Artificial Intelligence: A Modern Approach». — Прим.перев.
Перевод: 
Alaric
Оцените качество перевода: 
Средняя оценка: 4.5 (15 votes)

Понимание на уровне шестерёнок

Valentine

Среди бумажных дорожных карт одни полезнее других. Иногда это связано с тем, насколько хорошо карта отражает территорию, однако стоит ещё учитывать и особенности самой карты, не связанные с территорией. Например, линии на карте могут быть жирными и смазанными и из-за этого нельзя разобрать, насколько далеко дорога проходит от реки. Или, скажем, непонятно, какой дороге соответствует какая подпись.

Я хочу показать, что у моделей тоже есть свойство, которое не связано с моделируемым. Оно связано с понятностью моделируемого, но лишь в той же степени, как смазанные линии на дорожной карте связаны с понятностью этой карты.

«Насколько детерминировано сопряжены переменные в модели?» – вот что это за свойство. Я знаю, что есть несколько критериев, которые показывают в какой мере модель обладает данным свойством. Вот далеко не полный список таких критериев:

  1. Окупается ли модель? Допустим, что она окупается. Если модель будет сфальсифицирована, то сколько (и в какой степени точных) убеждений можно получить из факта её опровержения?
  2. Насколько нелепо будет предположить, что модель точна, но какая-то из её переменных может противоречить ей?
  3. Если модель точна, то можно ли вывести заново позабытое значение одной из переменных?

По-моему, множество разных тем, затронутых на LessWrong, связаны с этим крайне важным свойством. Кроме того, из него можно вывести множество идей и приёмов, но об этом позже.

Я начну с нескольких примеров, а в конце подведу итог и напишу, к чему же всё это.

Пример: шестерёнки в ящике

Взглянем на эти шестерёнки в ящике:

Картинка со скрытыми шестерёнками

(Рисунок любезно предоставлен моим коллегой, Дунканом Сабиеном.)

Пусть они представляют собой модель внутреннего устройства некой системы из шестерней. Тогда, после поворота левой шестерни против часовой стрелки правая шестерня может повернуться как по ходу движения часовой стрелки, так и против. Созданная таким образом модель не отвечает описанным выше трём критериям:

  • Модель не окупается. Допустим ты считал, что правая шестерёнка повернётся в одну сторону, но обнаружил, что она вращается в другую. Единственный вывод, который из этого можно сделать: если схема устройства проста (то есть, ничто не меняет направление вращения правой шестерни исключительно в тех случаях, когда левая шестерня вращается против часовой стрелки), то через направление вращения правой шестерёнки можно узнать, чётно ли количество всех шестерёнок в механизме или нет.
  • Правая шестерня легко может вращаться в обе стороны. Твои ожидания ничем не ограничены.
  • Ты уже сейчас не знаешь, в какую сторону вращается правая шестерня и не можешь выяснить это.

Представим, что Джо заглядывает внутрь ящика и говорит: «Правая шестерня вращается по часовой». Ты полагаешь, что Джо так скажет скорее в том случае, когда правая шестерёнка вращается по часовой, чем наоборот и это выглядит свидетельством в пользу гипотезы вращения по часовой стрелке. Чем больше людей, подобных Джо, заглядывают в ящик и говорят то же самое, тем больше накапливается свидетельств.

А теперь заглянем внутрь ящика:

Картинка с видимыми шестерёнками

…и теперь мы не понимаем, что же случилось с Джо.

Второй критерий здесь кажется мне особенно важным. Утверждение Джо и очевидная модель не могут быть верны одновременно. И не важно, сколько вообще людей согласны с утверждением Джо. Либо абсолютно все они неправы, либо твоя модель неверна. Логика неуязвима к социальному давлению. То есть, если набрать достаточно свидетельств о том, насколько хорошо твоя карта соответствует данной территории, и эти свидетельства говорят, что твоя карта в целом верна, то у тебя есть весомые эпистемические обоснования пренебречь мнением многих других людей. Собирая свидетельства о соответствии карты и территории ты скорее обнаружишь правду, чем если будешь собирать свидетельства о мнениях других людей.

Любопытно также обратить внимание на первый критерий. Предположим, что правая шестерня и в самом деле крутится по часовой стрелке в том случае, когда левая крутится против часовой. Что из этого следует? Например, из этого следует то, что твоя исходная модель (если я правильно её себе представляю) неверна. Однако она может быть неверна лишь ограниченным количеством способов. Возможно, вторая шестерня слева находится на вертикальной направляющей и, вместо того, чтобы вращаться, движется вверх. Для сравнения: фраза вроде «шестерни работают от волшебства» не даст тебе такой точности.

Объединив эти две идеи, мы переводим взгляд на Джо и замечаем, что можем сформулировать более точные утверждения, чем просто «Джо неправ». Мы знаем, что либо модель шестерней Джо неверна (например, он считает, что какая-то из шестерёнок перемещается по вертикали), либо его модель расплывчата и не так ограничена, как наша (например, он просто сосчитал шестерни и ошибся), либо Джо лжёт. Первые два варианта дают проверяемые предсказания: если его модель неверна, она неверна каким-то конкретным образом; если его модель расплывчата, то должно быть место, где она не удовлетворяет тем трём критериям внутренней связанности моделей. Если во время разговора с Джо мы сконцентрируемся на этих двух возможностях и выяснится, что обе они не соответствуют действительности, то станет ясно, что Джо просто несёт чушь (либо мы не придумали четвёртый вариант).

Благодаря этому примеру у нас в CFAR появился термин: «шестерёночная модель» или «модель на основе шестерёнок». Когда мы подмечаем взаимосвязь, мы говорим о «поиске шестерёнок». Я буду использовать этот термин и дальше.

Пример: арифметика

При сложении 25 и 18 столбиком нужно перенести 1 в разряд десятков. Обычно при этом пишут единицу над двойкой в числе 251.

Забавно то, что можно складывать числа столбиком, совершенно не понимая, что означает эта единица над двойкой и по какой причине её надо ставить.

На самом деле, это достаточно важная проблема при обучении математике. На практике есть расхождение между тем, чтобы (а) запомнить и отработать алгоритмы, которые позволяют быстро вычислять ответы, и (б) «по-настоящему понять» как именно работают эти алгоритмы.

Увы, в сфере образования люди часто устраивают философские дебаты о том, что значит «понимать», и меня это довольно сильно раздражает. Обычно эти споры выглядят так:

  • Некто А: Ученики говорят, что они переносят 1, потому что им так сказал учитель. Значит, они не понимают алгоритм сложения по-настоящему.
  • Некто Б: Что имеешь в виду под «по-настоящему понимают»? А что не так с тем, чтобы просто следовать инструкции, полученной от человека, который разбирается в предмете?
  • А: Но получается, это поведение обосновано социальными, а не математическим причинами.
  • Б: Математическое обоснование социально. Формы доказательств, используемые топологами, не будут приняты аналитиками. Что именно в математике будет считаться «доказательством» или «обоснованием» оговаривается социально.
  • А: Да ладно. Мы не можем просто договориться, что $e = 3$2, и объявить это истиной. Возможно, способ, которым мы обсуждаем математику является социальным конструктом, но говорим-то мы о чём-то реальном.
  • Б: Я не уверен, что это так. И даже если это на самом деле так, то как вы можете понять, что говорите о «чем-то реальном», а не об одном из социальных конструктов, которыми мы пользуемся, чтобы делиться своими мнениями?

И так далее.

(Хотел бы я, чтобы такие споры проходили в атмосфере совместного поиска истины. К сожалению, научное сообщество этого не ценит, поэтому вряд ли я этого дождусь.)

Мне кажется, А пытается указать на то, что у таких учеников модель алгоритма сложения столбиком не шестерёночная (и явно было бы лучше, если бы она стала таковой). Полагаю, что это проясняет и то, что что говорит А, и почему это так важно. Сверимся с нашими критериями:

  • Алгоритм сложения столбиком определённо окупается. Например, если отсчитать 25 жетонов, а потом ещё 18, а зачем подсчитать общее их число, то оно должно соответствовать тому, что предсказано алгоритмом. Если же оказалось, что это число не совпадает с количеством подсчитанных жетонов, то ученик может придти лишь к выводу, что алгоритм сложения столбиком не работает для жетонов и больше ничего. (Напротив, если бы я попал в такую ситуацию, то подумал бы, что я либо ошибся в алгоритме, либо ошибся в подсчёте, и был бы весьма уверен, что хотя бы одна из этих двух причин верна.)
  • Ученик, наверное, легко может представить себе мир, в котором алгоритм работает и без переноса 1. Это значит, что его модель — во всяком случае, в том виде, как мы её представляем — недостаточно ограничена. (Мой же мозг взрывается при попытке представить, как можно получить правильный ответ, если перенос единицы будет ошибкой.)
  • Мы ожидаем, что если ученики забудут указания учителя на случай, когда сумма превышает 9, то они самостоятельно не осознают необходимости перенести единицу в следующий разряд. (Если бы я и забыл о правиле переноса, то я был бы озадачен этим лишним десятком и придумал что-нибудь математически эквивалентное «переносу 1».)

Кажется, в этом контексте полезно табуировать слово «понимать».

Пример: моя мать

Моя мать очень любит изучать историю.

Прямо сейчас, это, вероятно, несвязанный ни с чем случайный факт в твоей голове. Если через месяц я спрошу тебя: «Нравится ли моей матери изучать историю?», ты можешь попытаться вспомнить ответ но с тем же успехом можешь решить, что мир устроен по-другому.

Но только не в моём случае. Если я забуду, как именно мама относится к изучению истории, то я смогу сделать разумное предположение, основанное на общей интуиции. Если я вдруг узнаю, что она не любит историю, это вряд ли окажется для меня крушением основ; в то же время я буду всерьёз озадачен, и задумаюсь, верна ли моя интуиция по поводу того, почему мама увлечена растениями и почему ей нравится общаться с семьёй. Я задумаюсь о том, что недостаточно хорошо понимаю, что за человек моя мать.

Как можно заметить, это применение критериев 1 и 3. При этом, моя модель моей матери не полностью шестерёночна. Я не могу сказать, что она чувствует прямо сейчас или какое из определений деления3 ей ближе. Но критерии показывают, что моя модель моей матери шестерёночнее твоей модели.

Этим примером я хочу подчеркнуть, что свойство «шестерёночности» у моделей небинарно. Это скорее характеристика в диапазоне от «набор случайных поверхностных бессвязных фактов» до «четкой формальной системы с выверенными логическими умозаключениями». (По-крайней мере, так я сейчас представляю себе этот диапазон.)

Кроме того, я считаю, что «узнать» человека как раз и означает повысить шестерёночность своей модели этого человека. «Узнать» человека — это не запомнить несколько разрозненных фактов о том, где он работает, сколько у него детей и чем он увлекается. «Узнать» человека — это значит уточнить степень своего искреннего удивления при получении нового факта, который не вписывается в уже имеющуюся модель твоего знакомого.

(А вот то, насколько твоя шестерёночная модель на самом деле подходит кому-то, кого ты знаешь — это уже вопрос эмпирического характера и относится он к соответствию карты и территории. Сейчас я бы хотел сосредоточиться только на свойствах карт.)

Я считаю, что такие едва шестерёночные модели позволяют нам предполагать, что именно ведущий популярной детской телепередачи4 думает про тех людей, которые издеваются над кошками в Хэллуоин, даже если он никогда не упоминал эту тему. Исходя из критерия №2, вероятно, ты будешь весьма потрясён, если получишь веские свидетельства в пользу того, что он оказался одним из таких людей, и скорее всего, таких свидетельств потребуется действительно много. Согласно критерию №1 тебе потребуется обновить большое количество своих убеждений об этом человеке. Предполагаю, что многие пережили что-то вроде «Да кто же он такой на самом деле?!», когда против Билла Косби выдвинули множество обвинений в совершении преступления5.

Пример: гироскопы

Наблюдая поведение гироскопа большинство людей невольно удивляются. Даже если они логически знают, что подвешенный гироскоп не упадёт, а станет вращаться, то они обычно всё-таки чувствуют, что это как-то странно. Даже те, кто интуитивно понял работу гироскопов, поначалу привыкали к этому и, скорее всего, считали гироскопы удивительными и контринтуитивными.

Как ни странно, для большинства людей допустимо представить себе мир, в котором физика работает точно так же, как в нашем, и только подвешенные за один конец гироскопы сначала падают, а после продолжают вращаться.

Если вы из таких людей, это значит что ваша физическая модель гироскопов не удовлетворяет второму критерию шестерёночности.

Истинная причина, по которой гироскопы ведут себя именно так, как они себя ведут, выводится из трёх законов Ньютона. Представим модель вращения, где а) исполняются три закона Ньютона, и б) подвешенный за один конец гироскоп не вращается, а падает — такая модель не будет согласованной. И если а) и б) кажутся тебе допустимыми одновременно, в твоей модели вращения не хватает шестерёнок.

Вот что привлекает меня в физике — вообще всё состоит из шестерёнок. По-моему, физика — это система шестерёнок, которая возникает при наблюдении за поведением любого физического объекта, вопрошании «Почему он ведёт себя так?» и поиске подходящих шестерёнок. Хотя этот уровнь абстрации и отличается от «шестерёнок людей», но мы ожидаем(по-крайней мере, теоретически), что по мере развития физики удастся соединить шестерёнки механики с шестерёнками, движущими романтическими отношениями.

Хочу сразу пояснить, я не утверждаю, что мир сделан из шестерёнок — такое утверждение содержит ошибку типизации. Как я считаю, суть в самом свойстве шестерёночности, которое позволяет строить более полезные модели — чем модель шестерёночнее, тем больше истины она позволяет узнать о мире.

Шестерёночность это ещё не всё

Подчеркну, что хотя я и считаю, что при прочих равных, чем больше шестерёнок, тем лучше, у моделей есть и другие важные свойства.

Самое очевидное из них — это точность. Большую часть этого эссе я его умышленно игнорировал. Именно для этого свойства крайне важна добродетель эмпиризма. Я же здесь эмпиризм игнорировал, но надеюсь, что не противоречил ему.

Другое важное свойство — генеративность. Приводит ли модель к получению полезного опыта (что бы не значило слово «полезный» в этом контексте)? К примеру, многие воззрения о Боге, божественном или других подобных вещах слишком абстрактны, чтобы окупаться. Однако некоторые люди всё же считают их полезными для переосмысления эмоционального восприятия красоты, смыслов и других людей. Я знаю несколько бывших атеистов, которые считают, что благодаря принятию христианства сделались гораздо более приятными людьми и наладили личные отношения. С эпистемической точки зрения тут есть чего опасаться — религиозный способ мышления проникает в утверждения о реальном устройстве мира. Но если ты эпистемически осторожен, то, возможно, стоит изучить, как использовать силу веры без эпистемологического ущерба.

Так же я считаю, что применение модели имеет смысл даже при нехватке в ней шестерёнок. На самом деле, во многих ситуациях у нас просто нет другого выбора — подавляющее большинство наших моделей не получается полностью связать с физикой. Например, я хотел бы подарить матери некую книгу, поскольку считаю, что она ей понравится; однако в рамках моей модели я могу придумать вариант, почему книга ей может оказаться не интересна. Да, моя модель матери ограничена довольно слабо, но я не считаю, что из-за этого (а) я не должен использовать эту модель или (б) не следует изучать, «почему» я могу оказаться прав и не прав. (Я отношусь к этому, как к предварительным вычислениям: каким бы не оказался мир, мои модели становятся более «чёткими», в них появляется больше шестерёнок. Просто так получается, что я заранее знаю, где они появятся.)

Я это упоминаю, потому что, кажется, зачастую в рационалистских кругах считают, что не стоит обсуждать модели, в которых не хватает шестерёнок. Я против такого подхода. Конечно, я считаю, что очень важно следить за шестерёночностью твоей модели, а не замечать нехватку шестерёнок так и просто просто эпистемически опасно. Очень полезно уметь отличать, хотя бы для себя, в какой модели есть шестерёнки, а в какой — нет. Однако я думаю, что, когда мы пытаемся выстроить правильную эпистемологию, есть и другие качества, не менее важные.

Я бы хотел, чтобы мы помнили о причине, по которой шестёрнки ценны на самом деле, а не зацикливались на шестерёночности самой по себе.

Что дальше

Я считаю, что концепция «шестерёнки в моделях» очень помогает продираться через непонятное. Она защищает наше понимание мира от социальной глупости и требует некоторой строгости мышления, которая, на мой взгляд, объединяет многие идеи в Цепочках.

Я собираюсь развивать эту концепцию и дальше вместе с другими идеями. В частности, я ещё не говорил откуда мы вообще знаем, что шестерёнки достойны внимания. Поэтому, хоть я и рассматриваю шестерёнки как мощное оружие в нашей войне против низкого уровня здравомыслия6, я полагаю, что важно изучить кузницу, в котором оно ковалось. Возможно, это не будет моим следующим постом, но, надеюсь, одним из ближайших.

  • 1. В России, насколько я понимаю, часто просто ставят точку. — Прим. перев.
  • 2. Основание натурального логарифма, математическая константа приблизительно равная 2,71828 — Прим. перев.
  • 3. В оригинале используется оборот «Partitive and Quotitive Division». Точный русский аналог пока найти не удалось. Речь о том, что операцию деления можно определять по разному. Например, когда мы делим 12 на 3, это может означать, что мы хотим делим 12 объектов на 3 части и хотим узнать, сколько объектов в каждой части. Или это может означать, что мы хотим узнать, сколько частей по 3 объекта получится из 12 объектов. — Прим.перев.
  • 4. В оригинале Mr. Rogers. — Прим.перев.
  • 5. Билл Косби — американский актёр, долгое время лидировавший в индексах общественного одобрения рекламной индустрии, был одним из самых узнаваемых и убедительных рекламных лиц. — Прим. перев.
  • 6. Не переведено дословно: «низкого уровня здравомыслия» - в оригинале «sanity drought», дословно «засуха здравомыслия», игра слов с названием эссе Юдковского «Raising the Sanity Waterline». — Прим. перев.
Перевод: 
gihh, Alaric, ildaar
Оцените качество перевода: 
Средняя оценка: 5 (Всего оценок: 1)

Литания против гуру

Элиезер Юдковский

Я твой герой!
Я твой мастер!
Изучай мои искусства
Ищи мой путь

Учись, как учился я
Ищи, как искал я

Завидуй мне!
Равняйся на меня!
Соперничай со мной!
Превзойди меня!

Оглянись,
Улыбнись,
И иди вперед!

Я никогда не был твоим городом,
Я был лишь одним из участков твоего пути.

Английский (исходный) вариант:

I am your hero!
I am your master!
Learn my arts,
Seek my way.

Learn as I learned,
Seek as I sought.

Envy me!
Aim at me!
Rival me!
Transcend me!

Look back,
Smile,
And then—
Eyes front!

I was never your city,
Just a stretch of your road.

Перевод: 
Remlin
Оцените качество перевода: 
Средняя оценка: 4.2 (6 votes)

Наука выигрывания в повседневной жизни

Фрагменты цепочки от Люка Мелхаузера, которая обобщает основанные на научных данных советы для «выигрывания» в повседневной жизни. Цепочка посвящена повышению работоспособности, улучшению отношений, работе с эмоциями и так далее.

Автор: 
Люк Мелхаузер

Научные основы самопомощи. Что мы о них знаем?

Люк Мюльхаузер

Примечание редактора: Эта статья была написана в 2011 году. С тех пор могли появиться новые исследования, о которых автор статьи знать не мог.

Некоторые читатели предположили, что сообщество Less Wrong улучшало бы инструментальную рациональность участников эффективнее, если бы оно сначала освоило имеющуюся научную литературу по продуктивности и самопомощи, а затем сподвигло читателей сознательно тренировать навыки самопомощи и применять изученное в реальной жизни.

Мне нравится эта идея. Эта статья представляет из себя краткий обзор самопомощи с научной точки зрения — профессионалы называют соответствующую область «психологией адаптации». Сначала я опишу состояние индустрии самопомощи и научной литературы, затем я вкратце изложу доступные научные данные по трём темам самопомощи: методы обучения, продуктивность и счастье.

Индустрия самопомощи и научная литература

Как вы наверное знаете, большая часть индустрии самопомощи — это фикция, над которой можно лишь посмеяться. Большинство книг о самопомощи написаны, чтобы их можно было продать, а не для помощи людям. Популярная психологияскорее миф, а не что-то реальное. Как пишет Кристофер Бакли(Buckley, 2009): «Чем больше люди читают [книг о самопомощи], тем больше они думают, что им нужны эти книги… Это больше напоминает зависимость, чем на союз».

Где вы сможете найти надёжный и подтверждённый эмпирически совет по самопомощи? Несколько ведущих психологов-терапевтов (например, Альберт Эллис, Арнольд Лазарус, Мартин Селигман) написали книги о самопомощи, основанные на десятках исследований, но даже в этих книгах зачастую даются рекомендации, которые всё ещё спорны, потому что они пока не являются частью устоявшейся науки.

Клейтон Такер-Ладд исследовал самопомощь всю жизнь. Несколько десятков лет он писал и правил «Психологическую самопомощь» (pdf). Эта книга является обзором, что учёные знают и не знают о методах самопомощи (на 2003 год), однако, в ней более 2000 страниц и большая их часть содержит скорее научные мнения, а не экспериментальные результаты, потому что по многим вопросам экспериментальных результатов пока нет. Существует интернет-сообщество, в котором люди делятся, какие приёмы из этой книги у них работают, а какие нет.

Быстрее принесёт пользу «59 секунд» Ричарда Вайсмана. Вайсман - экспериментальный психолог и исследователь паранормальных явлений. Он собрал научно-обоснованную часть исследований самопомощи и оформил её в короткую, весёлую и полезную книгу в стиле Малкольма Гладуэлла. Следующая по хорошести популярная книга о самопомощи в целом - это, скорее всего, «Что вы можете изменить и чего вы не можете» Мартина Селигмана.

Есть две большие книги, в которых оцениваются сотни популярных книг по самопомощи, исходя из мнения профессиональных психологов, и даются советы, как выбрать книгу по самопомощи. К сожалению, их ценность невысока, поскольку мнения даже профессиональных психологов часто расходятся с эмпирическими данными. Подробно об этом можно прочитать в работах Скотта Лилиенфельда и других: «Наука и псевдонаука в клинической психологии» и «Navigating the Mindfield». По этим двум работам можно оценить, что известно и что неизвестно согласно эмпирическим исследованиям (а не по мнению экспертов). Лилиенфельд к тому же является редактором полезного журнала «Scientific Review of Mental Health Practice». Также он собрал список вредного психологического лечения. Ещё можно посмотреть «A guide to treatments that work» Натана и Гормана, «What works for whom?» Рота и Фонаджи, и, более общую, «Как думать прямо о психологии» Становича.

Много книг самопомощи написаны как «один размер подходит для всех», но конечно же это редко применимо в психологии, что приводит к разочарованию читателя (Norem & Chang, 2000). Но психологи проверили эффективность чтения отдельных проблемо-ориентированных книг самопомощи («библиотерапии»)1. Например, судя по всему, чтение «Хорошего самочувствия» Дэвида Бёрнса помогает при депрессии в той же степени, что и индивидуальная или групповая терапии. Результаты варьируются от книги к книге.

Есть как минимум четыре университетских учебника, которые учат базовой научной самопомощи. Первый - это Psychology Applied to Modern Life: Adjustment in the 21st Century by Weiten, Dunn и Hammer. Он дорогой, но можно предварительно просмотреть его здесь. Остальные - это Human Adjustment by Santrock, Psychology for Living by Duffy и Psychology and the Callenges of Life by Nevid & Rathus.

Если бы вы могли прочесть только одну книгу о самопомощи, я бы порекомендовал Psychology Applied to Modern Life: Adjustment in the 21st Century by Weiten, Dunn и Hammer2. К сожалению, как и в случае «Психологической самопомощи» Такер-Ладда, многие главы этой содержат обзор научного мнения, а не экспериментальные результаты. Слишком мало было поставлено экспериментов!

В личной переписке со мной Вейтон заметил:

Ты пытаешься что-то найти примерно посреди чёрной дыры эмпирических исследований… В сущности, почти всё написанное по этой теме подчёркивает полное отсутствие свидетельств.

Наверное, я слишком циничен, но я подозреваю, что эмпирических проверок нет, потому что авторы книг о самопомощи и тайм-менеджменте сильно сомневаются, что получат благоприятные результаты. Следовательно, им не интересно настаивать на таких исследованиях, ведь они могут подорвать их продажи и лишить возможности написать следующую книгу. Другая причина в том, что у большинства авторов таких книг мало или совсем нет исследовательского опыта. Если рассуждать менее цинично, другая причина в том, что при необходимом исследовании возникли бы такие же огромные сложности, которые появляются, когда мы оцениваем эффективность различных подходов к терапии. Правильно оценивать эффективность разных видов терапий чрезвычайно сложно, и потому такие исследования требуют очень больших денег.

Когда я связывался с другими ведущими исследователями в психологии адаптации, они высказывали примерно такое же мнение.

Некоторые научные советы

Тем не менее, какие-то полезные советы психология как наука дать может. Я сосредоточусь на двух областях, которые особо интересны сообществу Less Wrong — учёбе и продуктивности, — а также на одной области, интересной всем — счастье.

Методы обучения

Когда вы хотите что-то выучить, упорядочивайте информацию, например, составляйте конспект (Einstein & McDaniel 2004; Tigner 1999; McDaniel et al. 1996). Зубрёжка не работает (Wong 2006). Составьте себе расписание, по которому вы будете учиться (Allgood et al. 2000). Проверяйте усвоение материала (Karpicke & Roediger 2003; Roediger & Karpicke 2006a; Roediger & Karpicke 2006b; Agarwal et al. 2008; Butler & Roediger 2008) и делайте это периодически, с перерывом между сеансами обучения 24 часа и более (Rohrer & Taylor 2006; Seabrook et al 2005; Cepeda et al. 2006; Rohrer et al. 2005; Karpicke & Roediger 2007). Проще говоря: используйте Anki.

Чтобы хранить в памяти изученное более эффективно, попробуйте акростихи (Hermann et al. 2002), метод ссылок (Iaccino 1996; Worthen 1997) и метод локусов (Massen & Vaterrodt-Plunnecke 2006; Moe & De Beni 2004; Moe & De Beni 2005).

Продуктивность

К сожалению, эксперименты в области продуктивности и тайм-менеджмента проводились реже, чем в области обучения. Если вы хотите получить обзор научных мнений о продуктивности, я рекомендую страницы 121-126 в Psychology Applied to Modern Life. Согласно этим страницам, профессионалы сходятся примерно на следующем:

  • Решать правильные задачи гораздо важнее, чем решать задачи эффективно. Более того, главная причина прокрастинации — это излишняя концентрация на повышении эффективности. Говорите «нет» чаще и используйте время для задач, которые действительно важны.
  • Делегируйте ответственность как можно чаще. Выкидывайте ненужные задачи и вещи.
  • Записывайте, как используете время. (Quantified Self может помочь.)
  • Записывайте свои цели. Разбивайте их на цели поменьше, и разбивайте те на выполнимые задачи. Планируйте эти задачи в календаре.
  • Проверяйте заметки и почту один раз. Выполняйте одну задачу за раз и группируйте похожие задачи вместе.
  • Используйте время простоя (полёты, проезды в автобусе, ожидание в очереди к доктору). В наше время многие из задач могут быть решены на смартфоне.

Почему исследований продуктивности так мало? Ведущий исследователь в этой области, Пирс Стил, в личной переписке объяснил мне так:

Наука обычно развивается от описания к экспериментам, и исследования прокрастинации находятся лишь на начальной стадии. Конкретно о прокрастинации работ почти нет, но есть много работ по более широкой области самоконтроля… многие результаты должны сохраниться, так как основы у этих явлений совпадают. Например, я совершенно уверен, что постановка целей работает, поскольку существуют около тысячи исследований об этом в области мотивации (не только конкретно прокрастинации). С другой стороны, мы строим поведенченскую лабораторию, так что мы можем проверить многие из этих техник в лоб, что несомненно нужно сделать.

Стил написал на эту тему книгу «Уравнение прокрастинации», которую я очень рекомендую.

Счастье

Существует множество исследований о факторах, которые коррелируют с субъективным благополучием (личной оценкой человека своего счастья и довольства жизнью).

Факторы, которые слабо коррелируют со счастьем включают в себя: возраст3, пол4, наличие детей5, интеллект6, физическую привлекательность7 и богатство8 (пока вы выше черты бедности). Факторы, средне коррелирующие со счастьем, включают в себя: здоровье9, социальную активность10 и религиозность11. Факторы, сильно коррелирующие со счастьем: генетика12, удовлетворённость любовью и отношениями13, удовлетворение работой14.

Для многих из этих факторов с некоторой достоверностью продемонстрирована и причинно-следственная связь, но это слишком сложная история для этой статьи

Заключение

Многие профессионалы построили свою карьеру после призыва Джорджа Миллера «выпустить психологию» в массы для улучшения благополучия людей. В результате, чтобы проверить, какие методы самопомощи работают, а какие нет, были проведены сотни экспериментов. Мы можем использовать это знание для достижения своих целей.

Но впереди остаётся ещё много работы. Многие особенности человеческой психологии и поведения изучены недостаточно хорошо. Многие методы самопомощи, описанные в научно-популярной и академической литературе, пока не проверены экспериментально. Если вы рассматриваете психологию как карьеру и (1) вы хотите улучшить благополучие людей, (2) получить финансирование исследований, (3) изучить область, которая недостаточно разработана, и (4) получить шанс написать книгу-бестселлер о самопомощи, когда вы закончите исследование, тогда пожалуйста, рассмотрите карьеру в экспериментальной проверке различных методов самопомощи. Человечество скажет вам за это спасибо.

Список литературы

Abdel-Khalek (2006). «Happiness, health, and religiosity: Significant relations.» Mental Health, 9(1): 85-97.

Agarwal, Karpicke, Kang, Roediger, & McDermott (2008). «Examining the testing effect with open- and closed-book tests.» Applied Cognitive Psychology, 22: 861-876.

Allgood, Risko, Alvarez, & Fairbanks (2000). «Factors that influence study.» In Flippo & Caverly, (Eds.), Handbook of college reading and study strategy research. Mahwah, NJ: Erlbaum.

Argyle (1999). «Causes and correlates of happiness.» In Kahneman, Diener, & Schwartz (Eds.), Well-being: The foundations of hedonic psychology. New York: Sage.

Argyle (2001). The Psychology of Happiness (2nd ed.). New York: Routledge.

Buckley (1998). God is My Broker: A Monk-Tycoon Reveals the 7 1/2 Laws of Spiritual and Financial Growth. New York: Random House.

Butler & Roediger (2008). «Feedback enhances the positive effects and reduces the negative effects of multiple-choice testing.» Memory & Cognition, 36(3).

Chida, Steptoe, & Powell (2009). «Religiosity/Spirituality and Mortality.» Psychotherapy and Psychosomatics, 78(2): 81-90.

Cepeda, Pashler, Vul, Wixted, & Rohrer (2006). «Distributed practice in verbal recall tasks: A review and quantitative synthesis.» Psychological Bulletin, 132: 354-380.

Diener, Sandvik, Seidlitz, & Diener (1993). «The relationship between income and subjective well-being: Relative or absolute?» Social Indicators Research, 28: 195-223.

Diener, Wolsic, & Fujita (1995). «Physical attractiveness and subjective well-being.» Journal of Personality and Social Psychology, 69: 120-129.

Diener, Gohm, Suh, & Oishi (2000). «Similarity of the relations between marital status and subjective well-being across cultures.» Journal of Cross-Cultural Psychology, 31: 419-436.

Diener & Seligman (2002). «Very happy people.» Psychological Science, 13: 80-83.

Diener & Seligman (2004). «Beyond money: Toward an economy of well-being.» Psychological Science in the Public Interest, 5(1): 1-31.

Diener, Kesebir, & Tov (2009). «Happiness» In Leary & Hoyle (Eds.), Handbook of Individual Differences in Social Behavior (pp. 147-160). New York: Guilford.

Einstein & McDaniel (2004). Memory Fitness: A Guide for Successful Aging. New Haven, CT: Yale University Press.

Frey & Stutzer (2002). «What can economists learn from happiness research?» Journal of Economic Literature, 40: 402-435.

Hermann, Raybeck, & Gruneberg (2002). Improving memory and study skills: Advances in theory and practice. Ashland, OH: Hogrefe & Huber.

Iaccino (1996). «A further examination of the bizarre imagery mnemonic: Its effectiveness with mixed context and delayed testing. Perceptual & Motor Skills, 83: 881-882.

Inglehart (1990). Culture shift in advanced industrial society. Princeton, NJ: Princeton University Press.

Johnson & Krueger (2006). «How money buys happiness: Genetic and environmental processes linking finances and life satisfaction.» Journal of Personality and Social Psychology, 90: 680-691.

Judge & Klinger (2008). «Job satisfaction: Subjective well-being at work.» In Eid & Larsen (Eds.), The science of subjective well-being (pp. 393-413). New York: Guilford.

Kahneman, Krueger, Schkade, Schwarz, & Stone (2006). «Would you be happier if you were richer? A focusing illusion.» Science, 312: 1908-1910.

Kasser (2002). The high prices of materialism. Cambridge, MA: MIT Press.

Kasser, Ryan, Couchman, & Sheldon (2004). «Materialistic values: Their causes and consequences.» In Kasser & Kanner (Eds.), Psychology and consumer culture: The struggle for a good life in a materialistic world. Washington DC: American Psychological Association.

Karpicke & Roediger (2003). «The critical importance of retrieval for learning.» Science, 319: 966-968.

Karpicke & Roediger (2007). «Expanding retrieval practice promotes short-term retention, but equally spaced retrieval enhances long-term retention.» Journal of Experimental Psychology: Learning, Memory, and Cognition, 33(4): 704-719.

Lucas & Diener (2008). «Personality and subjective well-being.» In John, Robins, & Pervin (Eds.), Handbook of personality: Theory and research (pp. 796-814). New York: Guilford.

Lyubomirsky, Sheldon, & Schkade (2005). «Pursuing happiness: The architecture of sustainable change.» Review of General Psychology, 9(2), 111-131.

Lykken & Tellegen (1996). «Happiness is a stochastic phenomenon.» Psychological Science, 7: 186-189.

Lykken (1999). Happiness: The nature and nurture of joy and contentment. New York: St. Martin’s.

Massen & Vaterrodt-Plunnecke (2006). «The role of proactive interference in mnemonic techniques.» Memory, 14: 189-196.

McDaniel, Waddill, & Shakesby (1996). «Study strategies, interest, and learning from Text: The application of material appropriate processing.» In Herrmann, McEvoy, Hertzog, Hertel, & Johnson (Eds.), Basic and applied memory research: Theory in context (Vol 1). Mahwah, NJ: Erlbaum.

Miller (1969). «On turning psychology over to the unwashed.» Psychology Today, 3(7), 53–54, 66–68, 70, 72, 74.

Moe & De Beni (2004). «Studying passages with the loci method: Are subject-generated more effective than experimenter-supplied loci?» Journal of Mental Imagery, 28(3-4): 75-86.

Moe & De Beni (2005). «Stressing the efficacy of the Loci method: oral presentation and the subject-generation of the Loci pathway with expository passages.» Applied Cognitive Psychology, 19(1): 95-106.

Myers (1992). The pursuit of happiness: Who is happy, and why. New York: Morrow.

Myers & Diener (1995). «Who is happy?» Psychological Science, 6: 10-19.

Myers & Diener (1997). «The pursuit of happiness.» Scientific American, Special Issue 7: 40-43.

Myers (1999). «Close relationships and quality of life.» In Kahnemann, Diener, & Schwarz (Eds.), Well-being: The foundations of hedonic psychology. New York: Sage.

Myers (2008). «Religion and human flourishing.» In Eid & Larsen (Eds.), The science of subjective well-being (pp. 323-346). New York: Guilford.

Nickerson, Schwartz, Diener, & Kahnemann (2003). «Zeroing in on the dark side of the American dream: A closer look at the negative consequences of the goal for financial success.» Psychological Science, 14(6): 531-536.

Nolen-Hoeksema (2002). «Gender differences in depression.» In Gotlib & Hammen (Eds.), Handbook of Depression. New York: Guilford.

Proulx, Helms, & Cheryl (2007). «Marital quality and personal well-being: A Meta-analysis.» Journal of Marriage and Family, 69: 576-593.

Roediger & Karpicke (2006a). «Test-enhanced learning: Taking memory tests improves long-term retention.» Psychological Science, 17: 249-255.

Roediger & Karpicke (2006b). «The power of testing memory: Basic research and implications for educational practice.» Perspectives on Psychological Science, 1(3): 181-210.

Riis, Loewenstein, Baron, Jepson, Fagerlin, & Ubel (2005). «Ignorance of hedonic adaptation to hemodialysis: A study using ecological momentary assessment.» Journal of Experimental Psychology: General, 134: 3-9.

Rohrer & Taylor (2006). «The effects of over-learning and distributed practice on the retention of mathematics knowlege. Applied Cognitive Psychology, 20: 1209-1224.

Rohrer, Taylor, Pashler, Wixted, & Cepeda (2005). «The Effect of Overlearning on Long-Term Retention.» Applied Cognitive Psychology, 19: 361-374.

Ross & Van Willigen (1997). «Education and the subjective quality of life.» Journal of Health & Social Behavior, 38: 275-297.

Seabrook, Brown, & Solity (2005). «Distributed and massed practice: From laboratory to class-room.» Applied Cognitive Psychology, 19(1): 107-122.

Solberg, Diener, Wirtz, Lucas, & Oishi (2002). «Wanting, having, and satisfaction: Examining the role of desire discrepancies in satisfaction with income.» Journal of Personality and Social Psychology, 83(3): 725-734.

Stubbe, Posthuma, Boomsa, & De Geus (2005). «Heritability and life satisfaction in adults: A twin-family study.» Psychological Medicine, 35: 1581-1588.

Tigner (1999). «Putting memory research to good use: Hints from cognitive psychology.» College Teaching, 47(4): 149-151.

Van Boven (2005). «Experientialism, materialism, and the pursuit of happiness.» Review of General Psychology, 9(2): 132-142.

Warr (1999). «Well-being and the workplace.» In Kahneman, Diener, & Schwartz (Eds.), Well-being: The foundations of hedonic psychology. New York: Sage.

Wong (2006). Essential Study Skills. Boston: Houghton Mifflin.

Worthen (1997). «Resiliency of bizarreness effects under varying conditions of verbal and imaginal elaboration and list composition. Journal of Mental Imagery, 21: 167-194.

  • 1. Прочитайте хороший обзор литературы в книге Бергсма, «Do Self-Help Books Help?» (2008).
  • 2. Я рекомендую 10-е издание, в котором по сравнению с 9-м внесли значительные улучшения, в том числе 4500 новых ссылок.
  • 3. Возраст и счастье не связаны между собой(Lykken 1999), влияние возраста на счастье людей составляет меньше 1% (Inglehart 1990; Myers & Diener 1997).
  • 4. Несмотря на то, что женщины вдвое чаще болеют депрессией, чем мужчины(Nolen-Hoeksema 2002), женщины оценивают своё благополучие не хуже, чем мужчины (Myers 1992).
  • 5. Поскольку люди с детьми и бездетные одинаково счастливы (Argyle 2001), судя по всему, радости и стрессы родительства уравновешивают друг друга.
  • 6. Судя по всему, ни IQ, ни успехи в учёбе не влияют на счастье(Diener et al. 2009; Ross & Van Willigen 1997).
  • 7. У людей с красивой внешностью есть много преимуществ, но они не оценивают своё счастье выше, чем другие (Diener et al. 1995).
  • 8. Корреляция между доходами и счастьем удивительно мала (Diener & Seligman 2004; Diener et al. 1993; Johnson & Krueger 2006). Возможно, проблема в том, что высокие доходы способствуют большему материализму, который мешает счастью (Frey & Stutzer 2002; Kasser et al. 2004; Solberg et al. 2002; Kasser 2002; Van Boven 2005; Nickerson et al. 2003; Kahneman et al. 2006).
  • 9. Люди с инвалидностью счастливее, чем вы могли бы подумать (Myers 1992; Riis et al. 2005; Argyle 1999).
  • 10. Те, кого устраивает их социальная жизнь, в среднем более счастливы, чем другие (Diener & Seligman 2004; Myers 1999; Diener & Seligman 2002).
  • 11. Религиозность коррелирует со счастьем (Abdel-Kahlek 2005; Myers 2008), хотя, возможно, причина здесь не в религиозных убеждениях, а религиозных сообществах(Chida et al. 2009).
  • 12. Счастье в будущем легче всего прогнозировать, опираясь на счастье в прошлом(Lucas & Diener 2008). Счастья удивительно сложно лишить внешними факторами(Lykken & Tellegen 1996), поскольку генетика отвечает примерно за 50% различия в уровне счастья (Lyubomirsky et al. 2005; Stubbe et al. 2005).
  • 13. Люди в браке счастливее одиноких и разведённых (Myers & Diener 1995; Diener et al. 2000), и по удовлетворению браком можно предсказывать счастье (Proulx et al. 2007).
  • 14. Отсутствие работы делает людей очень несчастными (Argyle 2001), а удовлетворение от работы сильно коррелирует со счастьем (Judge & Klinger 2008; Warr 1999).
Перевод: 
SamMetalWorker, Alaric
Оцените качество перевода: 
Средняя оценка: 4.4 (5 votes)

Как перестать откладывать дела

Люк Мюльхаузер

Введение

«Ибо не понимаю, что делаю: потому что не то делаю, что хочу, а что ненавижу, то делаю» — апостол Павел, послание к Римлянам, 7:15.

Когда вы понимаете, как использовать байесианское мышление, возникает соблазн решать все привычные задачи «с нуля» только при помощи новых навыков рациональности. Но часто более эффективно будет воспользоваться вашей эрудицией и по меньшей мере сначала определить, что же вы точно знаете о предмете проблемы.

Сегодня, я хочу решить проблему прокрастинации путем подытоживания того, что мы о ней знаем и как с ней бороться.

Позвольте мне начать с описания трёх типичных ситуаций…

Эдди посетил курсы по продажам, прочёл все книги и повторил перед зеркалом этим утром все обязательства для себя. Теперь ему нужно совершить первую продажу. Один отказ за другим деморализуют его. Он переставляет вещи на столе, бродит по сайтам Интернета и откладывает холодные звонки до тех пор, пока потенциальные клиенты не уйдут с работы домой.

Три кадра подряд Валери сидит, уставившись на пустой документ в Microsoft Word. Ей нужно завтра сдать это отупляюще скучное сочинение по муниципальной политике. Она решает, что ей нужен перерыв, переписывается с друзьями, смотрит ТВ-шоу, после чего обнаруживает, что мотивации писать стало ещё меньше. В 10 вечера она наконец ныряет в работу, но результат соответствует затраченному времени: он ужасен.

В квартире ниже этажом Том готовится заранее. Он получил визу, купил билеты на самолёт и заказал себе отдых на время отпуска в Доминиканской республике. Ему осталось ещё зарезервировать комнату в отеле, но это можно сделать в любое время. Том всё переносит это дело на следующий день недели, а в итоге и вовсе о нём забывает. Собирая вещи, он вспоминает, что надо заказать комнату, но к этому моменту уже нет ничего вблизи пляжа. Прибыв на место, он обнаруживает, что его комната находится в 10 кварталах от пляжа и украшена дохлыми комарами.

Эдди, Валери и Том стали жертвами склонности откладывать дела на потом, но она по-разному у них проявилась1.

Проблема Эдди — заниженные ожидания. Он рассчитывает лишь на провал. Эдди имеет заниженный уровень ожидания успеха от того, что он сделает следующий «холодный» звонок. Результаты 39-и исследований прокрастинации показывают, что низкий уровень ожиданий это основная причина прокрастинации. Вы сомневаетесь в своей способности следовать диете. Вы не думаете, что получите работу. Вам следует чаще выходить наружу и встречаться с девушками, чтобы учиться флиртовать, но вы настроены на то, что они откажут и поэтому вы откладываете. Вы научились быть беспомощными.

Проблема Валери в том, что её задача имеет для неё низкую ценность. Все мы откладываем то, что нам не нравится. Легко пойти на встречу с друзьями чтобы выпить или пойти поиграть в видеоигру; не так легко начать выполнять свои обязанности. Это не только очевидно, но и подтверждено рядом научных исследований. Мы откладываем те вещи, которые не хотим делать.

Но наиболее надёжным признаком склонности откладывать дела на потом является проблема Тома: импульсивность. Для Тома было бы легко забронировать отель, но он предпочел отвлечься на более срочные или интересные вещи и даже не помнил о бронировании отеля до последнего момента, что оставило его с весьма бедным выбором комнат. Научные исследования показали, что прокрастинация тесно связана с импульсивностью.

Импульсивность сочетается с более общим компонентом склонности откладывать дела на потом: временем. Влияние события на наши решения снижается по мере увеличения расстояния до него во времени. Нас меньше мотивируют отложенные награды, чем немедленные, и чем вы импульсивней, тем больше на вашу мотивацию влияют такие задержки.

Ожидания, ценность, задержка и импульсивность — это четыре основных компонента склонности откладывать дела на потом. Пирс Стил (Piers Steel), ведущий исследователь в этой области, объясняет:

Понизьте определённость или размер награды за выполнение задачи — т.е. ожидания или ценность — и вряд ли вам хватит энтузиазма её завершить. Увеличьте задержку до получения награды и нашу восприимчивость к такой задержке — импульсивность — и мотивация снова упадёт.

Уравнение прокрастинации

Из этого можно вывести «уравнение прокрастинации»: мотивация равняется ожиданиям умноженным на ценность, делённым на импульсивность и задержку.

Уравнение

И хотя изучение этого явления продолжается, уже сейчас есть уравнение прокрастинации, которое было получено из основных выводов о прокрастинации и опирается на наши лучшие текущие теории о мотивации.

Увеличьте размер награды за решение задачи (включая как удовольствие работы над задачей, так и величину постэффектов), и ваша мотивация вырастет. Увеличьте предполагаемые шансы на награду и мотивация тоже вырастет.

Как вы могли уже заметить, часть уравнения, касающаяся влияния размера награды и шансов её получить, представляет собой одно из основных уравнений теории ожидаемой полезности, лежащей в основе современной экономики. Но одним из важнейших аргументов против стандартной экономической теории является то, что она не учитывает время. Например, в 1991 году Джордж Акерлоф (George Akerlof) заметил, что мы иррационально считаем текущие издержки более важными, чем будущие издержки. Это привело к расцвету поведенческой (бихевиористской) экономики, учитывающей время (помимо прочего).

Следовательно, знаменатель, который дает такой эффект для нашей мотивации делать задачу — это время. Чем больше промежуток между нами и ожидаемой наградой за решение задачи, тем меньше нам хочется делать эту задачу. Негативный эффект этой задержки, влияющий на нашу мотивацию, усиливается нашим уровнем импульсивности. Для очень импульсивных людей, задержки наносят очень большой ущерб их мотивации.

Уравнение прокрастинации в действии

В качестве примера рассмотрим студентку колледжа, которая должа написать статью на заданную тему. Однако к сожалению для нее, колледжи создали идеальный шторм компонентов прокрастинации. Во-первых, хотя значение статьи для ее оценки может быть высоким, непосредственная оценка этого значения может быть в данной момент низкой, особенно если ей так же, как и многим студентам, не хочется писать статьи. Более того, скорее всего вряд ли она ожидает высокую оценку. Измерить производительность тяжело, и нередко если эссе проверяют два разных профессора, они могут поставить весьма разные оценки: эссе на четверку может получить пятерку, если повезет, или тройку, если не повезет. Также присутствует и большая задержка во времени, поскольку статья нужна к концу семестра. Если наша студентка имеет импульсивный характер, отрицательный эффект этой задержки на ее мотивацию писать статью значительно усиливается. Написание статьи — тяжелое занятие (низкая оценка), результаты неопределенные (малые ожидания) и срок сдачи далеко (большая задержка).

И это еще не все. Аудитории колледжа и комнаты кампуса в общем, можно назвать самыми отвлекающими местами на земле. Всегда есть возможности повеселиться (клубы, вечеринки, отношения, игры, встречи, алкоголь) что всегда под рукой и доступны. Неудивительно, что задача написания статьи не может конкурировать. Эти потенциальные помехи усиливают отрицательный эффект задержки награды за выполнение задачи и отрицательный эффект импульсивности студентки.

Как побороть склонность откладывать дела на потом

Хотя уже много известно о явлениях нейробиологии, стоящих за прокрастинацией, я не буду здесь этого касаться. Вместо этого, давайте перейдем прямо к вариантам решения нашей проблемы с прокрастинацией.

Теперь, когда вы знаете уравнение прокрастинации, наша общая стратегия очевидна. Так как обычно вы мало что можете сделать с задержкой награды за выполнение задачи, мы сконцентрируемся на трех частях уравнения прокрастинации, над которыми мы имеем контроль. Чтобы побороть прокрастинацию нам нужно:

  1. Повысить ожидание успеха
  2. Повысить ценность задачи (сделать её более приятной и поощряющей)
  3. Понизить импульсивность

Вы можете подумать, что эти вещи вовсе не под вашим контролем, однако исследователи нашли несколько полезных методов реализации этих задач.

Большинство советов ниже взято из лучшей доступной книги о прокрастинации, «Уравнение прокрастинации» Пирса Стила, в которой эти методы объяснены более подробно.

Оптимизация оптимизма

Если вы не думаете, что можете преуспеть, у вас мало мотивации делать то, что нужно. Скорее всего вы слышали совет «Будь позитивней!» Но как? К настоящему времени исследователи выявили три основных методики увеличения оптимизма: спирали успеха, заместительная победа, мысленное сравнение.

Спирали успеха

Одним из способов построить свой успешный оптимизм является использование спиралей успеха. Достигая одну стимулирующую цель за другой, вы, разумеется, набираетесь уверенности в своей способности добиваться успеха. Итак: задайте себе серию значимых, трудных, но достижимых целей и выполните их! Настройте себя на успех, снова и снова делая то, в чём вы можете преуспеть, чтобы поддерживать уверенность в себе на высоком уровне.

Стил рекомендует это для новичков: «зачастую лучше всего — иметь цели процесса или обучения, а не цели продукта либо результата. То есть цели приобретения или оттачивания новых навыков либо этапов (процесса), нежели цели победить или получить максимальный счёт (результат)».

Туристические курсы и похожие виды спорта (сплав по горным рекам, скалолазание, палаточный туризм и т.п.) — великолепный выбор для этого. Выучите новый навык, будь это кулинария или карате. Возьмите на себя больше ответственности на работе или в своём сообществе. Продвиньте любимое хобби на более высокий уровень. Главное — достигать одну цель за другой и уделять внимание своим успехам. Ваш мозг наградит вас увеличением ожидания успеха, а значит — повышением способности справляться со склонностью откладывать дела на потом.

Заместительная победа

И пессимизм, и оптимизм заразны. Где бы вы ни были, у вас, вероятно, есть доступ к сообществам, отлично подходящим для повышения позитива: мастера тостов, клубы «ротари» (по одному представителю от разных свободных профессий), фонды популяризации знаний («лоси»), религиозные общины и прочие. Рекомендую посетить 5-10 подобных групп в вашей местности и присоединиться к наилучшей из них.

Также можно увеличить оптимизм, просматривая вдохновляющее кино, читая вдохновляющие биографии и слушая мотивирующих ораторов.

Мысленное сравнение

Многие популярные книги по помощи себе советуют творческую визуальзацию — методику регулярно и наглядно представлять себе то, чего хотите достичь: машину, карьеру, достижения. Удивительным образом, исследования показали, что этот метод на самом деле может понизить вашу мотивацию.

Но это если не добавить другой важный шаг: мысленное сравнение. Представив себе то, чего хотите достичь, мысленно сравните это с тем, в каком положении находитесь сейчас. Представьте свою старую ржавую машину и свой маленький счёт в банке. Это обозначит текущую ситуацию как препятствие, которое нужно преодолеть, чтобы осуществить свои мечты, что стимулирует процесс планирования и приложения усилий.

Предостережение против чрезмерного оптимизма

И наконец, должен заметить, что избыток оптимизма тоже может быть проблемой, хоть и встречается реже. Например, избыточный оптимизм в оценке того, сколько времени займёт выполнение задачи, может привести к тому, что вы будете её откладывать до последней минуты, когда выяснится, что уже слишком поздно. Нечто вроде книги «Секрет» Ронды Бирн (Rhonda Byrne) может быть чересчур оптимистичным.

Как себя защитить от избытка оптимизма? Планируйте с учётом худшего, но надейтесь на лучшее. Уделяйте внимание тому, как именно вы откладываете дела на потом, стройте запасные планы на случай провала, но используйте описанные в этой главе способы, чтобы достичь как можно большего успеха.

Увеличение ценности

Трудно быть мотивированным что-то сделать, что не имеет особой ценности для нас — или ещё хуже, просто неприятно. Хорошая новость в том, что эта ценность в некоторой степени искусственная и относительная. Эластичность ценности — это хорошо изученная область, называемая психофизикой, и у исследователей есть несколько советов, как добавить ценность в необходимые задачи.

Поток

Если задача, которую вы избегаете, скучна, постарайтесь сделать её более трудной, настолько, чтобы уровень трудности соответствовал вашим текущим навыкам, и вы достигнете состояния «потока». Это то, что делали полицейские в фильме «Суперполицейские»: они придумывали странные игры и задачи, чтобы сделать скучную работу выполнимой. Миртл Янг сделала свою работу на фабрике картофельных чипсов более интересной и сложной, выискивая чипсы, похожие на знаменитостей, и откладывая их с конвейера.

Значение

Также помогает, если вы убедитесь, что задачи связаны, хотя бы через цепь событий, с чем-то, что для вас важно: вы читаете книгу, чтобы сдать экзамен, чтобы получить диплом, чтобы получить желаемую работу и реализоваться в карьере. Разрыв цепи делает задачу ощущаемой как бесполезная.

Энергия

Очевидно, что задачи трудней выполнять, когда у вас мало энергии. Беритесь за них тогда, когда вы в наилучшей форме. Это зависит от вашего суточного ритма, но у большинства людей максимум энергии приходится на период, начинающийся через несколько часов после того, как они проснулись, и длящийся 4 часа. Также следите, чтобы высыпаться и регулярно делать физические упражнения.

Также многим людям помогает следующее:

  • Пить много воды.
  • Перестать потреблять пищу, содержащую пшеницу и другие злаки.
  • Принимать лекарства (особенно модафинил), если необходимо.
  • Раз в неделю недолго, но интенсивно заниматься спортом.
  • Когда устали, можно ополоснуть лицо холодной водой, либо принять душ, либо сделать «разножку» (прыжки на месте с переменой положения рук и ног) или пробежку.
  • Слушать музыку, повышающую настроение.
  • Понизить хаотичность своей жизни, так как обработка хаотичной информации истощает ваш мозг весь день напролёт.

Награды

Ещё один очевидный способ повысить ценность задачи — наградить себя за её завершение.

Также, можно сочетать горькое лекарство со сладким мёдом. Объединяйте долгосрочные интересы с краткосрочными удовольствиями. Найдите партнёра для совместной работы, чья компания вам приятна. Угостите себя особым кофе за выполнение задач. Я себя подкупаю замороженным йогуртом «Pinkberry» для выполнения задач, которые я ненавижу делать.

Страсть

Конечно, самый мощный способ увеличить ценность задачи — везде, где можно, концентрироваться на тех делах, которые вы любите делать. Мне не требуются особой мотивации, чтобы делать исследования в метаэтике или писать научные статьи по помощи себе: это то, что я люблю делать. Некоторые люди, любящие играть в видеоигры, сделали на этом карьеру. чтобы выяснить, какая карьера может требовать именно тех задач, которые вы любите делать, можете попробовать пройти личностный тест RIASEC. В США есть O*NET, который может помочь найти работу, пользующуюся спросом и соответствующую вашей личности.

Управление импульсивностью

Импульсивность, в среднем, это фактор, который более всего влияет на величину прокрастинации. Здесь приведены два метода Стила, которые помогают немного справиться с импульсивностью.

Самоограничение на данный момент

Одиссей сумел проплыть мимо прекрасных поющих сирен не с помощью своей силы воли. Напротив, он знал о своей слабости и заранее подготовился: буквально привязал себя к мачте корабля. Некоторые формы самоограничения полезны при управлении импульсивностью.

Первый способ — «выбросить ключ»: закройте привлекательные альтернативы. У многих людей повысилась результативность, когда они решили не допускать наличия телевизора в своём доме; у меня его нет уже много лет. Но сейчас ТВ становится всё более доступным через Интернет. Чтобы заблокировать его, вам может понадобится инструмент вроде RescueTime. Или просто отключите роутер от розетки, когда у вас есть дела.

Другой способ — сделать провал воистину болезненным. Вебсайт «stickK» позволяет вам отложить деньги, которые вы потеряете, если не выполните цель, и обеспечивает, чтобы у вас был сторонний судья, который решит, выполнили вы цель или нет. Чтобы «поднять ставки», сделайте так, чтобы ваши деньги в случае вашего провала ушли в организацию, которые вы ненавидите. И попросите выбранного судью опубликовать подробности вашего благотворительного взноса в Фейсбуке, если вы не выполните цель.

Постановка целей

Сотни книг рекомендуют постановку целей по системе SMART: цели должны быть конкретными, измеримыми, достижимыми, реалистичными и привязанными ко времени. Эти рекомендации подкреплены хорошими исследованиями? Не особо. Во-первых, заметим, что достижимость перекрывается реалистичностью, а конкретность перекрывается измеримостью и привязанностью ко времени. Во-вторых, отсутствуют важные концепции. Выше мы уже подчёркивали важность того, чтобы цели были трудными, но интересными (и вели к состоянию «потока») и значимыми (связанными с тем, что вы хотите).

Также важно разделять задачи на множество мелких подзадач, которые проще достичь и у которых более близкие сроки выполнения. Например, часто ставят задачи на день, но также может помочь постановка цели на «прямо сейчас», чтобы прорваться через порог «включения в работу». Первой целью может стать «Написать письмо продюсеру», а следующей — задача дня. После выполнения первой 5-минутной задачи вы, вероятно, уже окажетесь на пути к выполнению большей по объёму задачи дня, даже если она требует 30 минут или 2 часа.

Ещё: у ваших задач измеряются затраты или результаты? Ваша задача — потратить 30 минут на дело Х или получить конечный результат Х? Попробуйте оба способа для разных задач и выясните, какой лучше работает для вас.

Поскольку мы существа с привычками, помогает вхождение в рутинный процесс. Например: делайте упражнения в одно и то же время каждый день.

Заключение

Подведем итоги. Чтобы побороть прокрастинацию, вам нужно увеличить вашу мотивацию для каждой задачи, которую вы склонны откладывать. Чтобы сделать ее, вы можете (1) оптимизировать ваш оптимизм, что вы сможете ее сделать, (2) сделать выполнение задачи интересным и приятным занятием и (3) предпринять шаги по уменьшению вашего уровня импульсивности. Для реализации этих вещей используйте методы, объясняемые выше (постановка целей, самоограничение, использование спиралей успеха и так далее)

Предупреждение: не пытайтесь быть идеальными. Не пытайтесь полностью исключить склонность откладывать дела на потом. Будьте реалистичны. Чрезмерное регулирование сделает вас несчастливым. Вам нужно найти баланс.

Итак, теперь у вас есть нужные инструменты. Выясните, какие переменные уравнения склонности откладывать дела на потом больше всего влияют на вашу ситуацию и какие методы изменения этих переменных лучше всего работают для вас. А затем давайте и сделайте себя сильней, выполните эту работу и помогите спасти мир!

(А также прочтите книгу «Уравнение прокрастинации» (English), если хотите узнать обо всём этом подробней, чем я написал здесь).

  • 1. Это вымышленные персонажи, используемые для иллюстрации уравнения.
Перевод: 
Knivy, Remlin
Оцените качество перевода: 
Средняя оценка: 3.7 (23 votes)

Как быть счастливым

Люк Мелхаузер

Как-то сотрудник сказал мне: «Люк! Ты, кажется, самый счастливый человек из всех, кого я знаю! Как тебе удается быть таким счастливым все время?»

Скорее всего это был риторический вопрос, однако у меня есть достаточно подробный ответ. Видите ли, я был несчастлив большую часть своей жизни и даже несколько раз задумывался о самоубийстве. Тогда я потратил два года на изучение науки счастья. Теперь счастье является моим естественным состоянием. Я не могу припомнить в последнее время такого, чтобы я был несчастлив больше чем 20 минут.

Это изменение не произойдет само собой со всеми, или даже со многими (за исключением некоторых), но это стоит попробовать!

Мы все хотим быть счастливы, и счастье полезно для многих вещей. К примеру, счастье улучшает физическое состояние, повышает креативность, и даже позволяет вам принимать лучшие решения. (Труднее быть рациональным, когда вы несчастливы.) Так что, как часть цепочки о том, как выигрывать в жизни с наукой и рациональностью, давайте рассмотрим науку счастья.

Влияние на счастье

Раньше я заметил, что существует множество исследований тех факторов, которые связаны с субъективным благополучием (собственные оценки счастья и удовлетворенности жизнью человека).

К факторам, которые особо не связаны со счастьем, относят: возраст, пол, наличие детей, интеллект, физическая привлекательность и деньги (до тех пор, пока вы находитесь выше черты бедности). Факторы, которые умеренно связаны со счастьем: здоровье, социальная активность и религиозность. Факторы, значительно влияющие на счастье: генетика, любовь и удовлетворенность от отношений и работы.

Но одной взаимосвязи не достаточно. Мы хотим знать что является причиной счастья. И это понятие является более сложным для оценки. Но мы действительно кое-что об этом знаем.

Счастье, личность и навыки

Гены служат причиной около 50 % отклонений состояния счастья. Даже победители лотерей и недавно парализованные не замечают таких значительных изменений счастья, как вы можете ожидать. Предположительно, гены формируют счастье, создавая вашу личность, которая, как известно, является наследственной.

Итак, какие же черты личности склонны больше всего влиять на счастье? Экстравертность является одним из лучших показателей счастья, так же как сознательность, уступчивость, чувство собственного достоинства и оптимизм.

Что если вам не присущи эти черты? Во-первых, надо отметить, что они могут быть присущи вам, но вы об этом не знаете. Интравертность, к примеру, может усиливаться из-за нехватки социальных навыков. Если вы решили выучить и практиковать социальные навыки, можете выяснить, что у вас есть гораздо больше экстравертности, чем вы думали раньше! (Так случилось со мной.) Тоже самое подходит и для сознательности, уступчивости, самоуважения и оптимизма — они только частично связаны с личностью. Они относятся к тем навыкам, которым в определенной степени можно научится, и их изучение (или даже притворство, что научились) может увеличить счастье.

Во-вторых, недостаточность каких-либо из этих черт конечно же не обрекают вас на несчастье.

Счастье является субъективным и относительным понятием

Счастье определяется не объективными факторами, а вашим отношением к ним.

Счастье также относительно: вы, вероятно, будете счастливее, зарабатывая 25000 долларов в год на Коста Рике (где ваши соседи будут получать 13000 долларов в год), чем если будете зарабатывать 80000 долларов в год в Беверли Хиллз (где ваши соседи будут получать 130000 долларов в год).

Счастье является относительным понятием и в другом смысле: по отношению к вашим ожиданиям. Мы достаточно слабо можем спрогнозировать силу наших эмоциональных реакций на будущие события. Мы переоцениваем страдания, которые можем познать после разрыва романтических отношений, невозможность получить повышение, или даже подхваченную болезнь. Также мы переоцениваем радость, которую можем ощутить от покупки новой машины, получения повышения или поездки в милый прибрежный город. Потому снижайте ваши ожидания об удовольствии, которое вы получите от расходов такого рода.

Поток и внимательность

Вы, должно быть, слышали об известном исследовании, которое показывает, что люди становятся счастливее, когда они находятся в состоянии «потока». Это такое состояние, в котором вы полностью поглощены своей целью, которая интересна, сложна, и действительно полезна для вас. Это опыт «растворения в моменте» или, как говорят спортсмены, «нахождение в своей стихии».

Обретение потока в значительной мере связано с выполнением тех задач, которые соответствуют уровню вашей квалификации. Когда задание выходит далеко за рамки ваших способностей, вы будете чувствовать себя побежденным. Если задание слишком простое, вам будет скучно. Только когда задание сложное, но приемлемое, вам будет нравиться его выполнять. Мне вспомнилось состояние полицейских из фильма «Суперполицейские», которые придумывали странные игры и проблемы, чтоб сделать свою работу терпимой. Миртл Янг свою скучную работу на фабрике картофельных чипсов делала более интересной и сложной, выискивая картофельные чипсы похожие на знаменитостей, и забирала их с конвейерной ленты в свою коллекцию.

Если вы испытываете трудности с негативными эмоциями, достижение потока, возможно, будет лучшим лекарством. В противовес популярному мнению, позитивное мышление, для которого нужно прилагать усилия, часто делает вещи хуже. Пытаться не думать о расстраивающей мысли Х дает тот же эффект, что и попытка не думать о розовом слоне: вы ничего не можете сделать, а все равно думаете о розовом слоне.

В то время как пребывание «потерянным в моменте» может дать вам несколько лучших моментов в жизни, исследование также показало, что когда вы не в потоке, то попытка сделать перерыв и практиковать осознанность — то есть уделить внимание окружающей ситуации, вашим действиям и вашим ощущениям — может уменьшить хроническую боль и депрессию, уменьшить стресс и усталость, и дает целый ряд других положительных эффектов.

Как быть счастливее

Итак, счастье — это весьма сложная штука. Хуже того, мы должны помнить разницу между опытом счастья и воспоминаниями о нем. Я могу только слегка коснуться темы исследования счастья в этом крошечном посте. Вкратце, не существует простого способа исправить несчастье; не существует прямого пути к блаженству.

Более того, счастье по разному достигается разными людьми. Человек, страдающий от депрессии, вызванной химическим дисбалансом, получит больше пользы от таблетки, нежели от улучшения навыков социального взаимодействия. Здоровая, приятная, ответственная женщина-экстраверт все равно может быть несчастной, если она в ловушке неудачного замужества. Некоторые люди были воспитаны родителями, чей стиль воспитания не способствовал развитию здоровой самооценки, и нужно приложить значительные усилия, чтобы скомпенсировать этот недостаток. Для некоторых дорога к счастью длинна. Для остальных — коротка.

Ниже я рассматриваю ряд методов для того, чтобы стать счастливее. Некоторые из них я рассмотрел выше, многие — нет.

Эти методы грубо рассортированы в порядке убывания важности и эффективности, основываясь на моем читательском опыте. Вы должны подумать о том, кто вы, что делает вас счастливым, а что — несчастным, и чего вы можете достигнуть, чтобы определить какой из нижеописанных методов нужно попробовать первым. Еще, использование какого-либо из этих методов может потребовать от вас сначала достигнуть некоторых успехов в борьбе с откладыванием дел.

Итак, вот несколько методов для того, чтобы стать счастливее:

  1. Если вы страдаете серьезной болезнью, депрессией, тревожностью, паранойей, шизофренией или другими серьезными проблемами — прежде всего обратитесь к врачу. Вот так.
  2. Если даже вам не нужна профессиональная помощь, вы можете получить выгоду от определенного самоизучения и начальные рекомендации от опытного психолога-консультанта, как Том Кларк.
  3. Развивайте навыки и привычки, связанные с экстраверсией. Для начала, купите одежду поприличнее и научитесь носить ее правильно. Почитайте книги на эту тему. Потом изучите базовые социальные навыки, включая язык тела. Если вы ярко выраженный интроверт, сначала попрактикуйтесь в общении на форумах и чатах. Далее, тратьте больше времени на небольшие разговоры с людьми. Ходите на встречи и мероприятия клуба «CouchSurfing». Практикуйте ваши навыки пока они не станут более естественными, и вы обнаружите, что вы наслаждаетесь пребыванием в компании других людей. Научитесь быть смешным и практикуйте это тоже.
  4. Повышайте свою самооценку и развивайте оптимизм. Это непросто. Во-первых, слишком высокая самооценка может вести к ужасному нарциссизму. Во-вторых, неясно, может ли рационалист использовать некоторые стандартные методы повышения самооценки (корыстная предвзятость, упоение своей славой, само-гандикап), поскольку они связаны с самообманом и анти-эпистемологией. Однако есть несколько безопасных путей для повышения самооценки и оптимизма. Используйте спирали успеха, заместительную победу и умственный контраст, как описано в статье «Как перестать откладывать дела».
  5. Улучшайте вашу способность понимать других. Проще говоря, это в основном значит: улучшайте свою эмпатию. К сожалению, мало известно (в научном смысле) о том, как улучшать эмпатию. Стандартный совет состоит в том, чтобы стараться видеть вещи с точки зрения другого человека и больше думать о тех людях, которым повезло меньше чем вам и что вы можете для них сделать. Несколько хороших советов может дать организация «Roots of Empathy».
  6. Улучшайте свою добросовестность. Она включает в себя ряд направлений: полезную организацию, сильную рабочую этику, надежность, планирование заранее и т. д. Каждому из этих отдельных навыков можно научиться. Здесь могут пригодится методы борьбы с откладыванием дел на потом. Некоторые люди сообщают, что книги, наподобие «Getting Things Done», помогли им стать организованней и ответственней.
  7. Развивайте привычку быть благодарным. Наслаждайтесь хорошими моментами на протяжении каждого дня. Проводите время думая о счастливых воспоминаниях. И в конце каждого дня пишите по пять вещей, за которые вы благодарны: за крышу над головой, вашу хорошую судьбу родиться в богатой стране, существование сайта Less Wrong, вкус шоколада, ощущение оргазма….что угодно. Это звучит по-детски, но работает.
  8. Найдите свою цель и следуйте за ней. Одно из преимуществ религии в том, что она дает людям чувство смысла и цели. Однако даже без волшебного божества, которое даст вам цель, вы можете найти себе цель которая будет вести вас. Это может занять много времени, и, может быть, вам придется перепробовать множество областей перед этим. Но однажды вы найдете путь, который значительно мотивирует вас и дает ощущение полноты жизни. (Конечно вы можете найти не одну цель, а множество.) Сильное ощущение осмысленности и цели имеет множество положительных эффектов. Рекомендация «найди цель» также предлагает иллюстрацию того, как методы могут отличаться по важности для людей. Данной рекомендации не всегда придается значение в литературе по счастью, но я предполагаю, что для нашего мозга мотивирующие цели делают больше, нежели любые другие методы из данной статьи.
  9. Найдите приносящую удовлетворение работу. Немногие люди делают то, что им нравится. Принять данную точку зрения может быть сложно и трудно. Вы можете обнаружить что выполнение десяти других рекомендаций из данного списка — это первое что нужно чтобы получить хороший шанс на получение приносящей удовлетворение работы. Чтобы определить какая работа даст вам возможность делать то, что вам нравится, вам может помочь тест личности RIASEC. В США, O*NET может помочь вам найти работу, которая востребована и отвечает вашим способностям.
  10. Улучшайте ваши отношения с вашим партнером, или найдите другого. Точно так же как с поиском подходящей работы, это сложно, однако дает сильный эффект. Если вы знаете, что ваши отношения никуда не движутся, то вы можете захотеть прекратить их и потратить больше времени на саморазвитие, что поможет улучшить будущие отношения. Если же вы достаточно серьезно относитесь к своему партнеру, есть множество вещей, что вы можете сделать для улучшения отношений. Хотя широко рекламируется «активное слушание», оно не всегда предвещает успех в отношениях. Опробованные советы для улучшения шансов на успех в отношениях и удовлетворение ими включают в себя:
    1. почаще занимайтесь с партнером чем-то новым и захватывающим,
    2. говорите партнеру что-то позитивное и положительное (о нем в том числе) в пять раз чаще, нежели негативное,
    3. каждую неделю пишите, чем ваши отношения лучше, нежели у тех людей, которые вы знаете,
    4. разбавляйте любую критику партнера упоминанием одного или двух его положительных качеств, и
    5. почаще смотрите друг другу в глаза.
  11. Чаще выходите наружу и побольше двигайтесь. Это улучшит ваше внимание и самочувствие.
  12. Проводите больше времени в потоке. Оставьте невыполнимые задачи в пользу задач, которые находятся на грани ваших возможностей. Выполнение легких и скучных задач будет более увлекательным если выполнять их в виде игры или ставя вызовы для себя в виде этих задач.
  13. Регулярно практикуйте осознанность. Если вы не в потоке, то не замыкайтесь в себе, а обратите внимание на то, как вы ведете себя, как функционируют ваши эмоции и как ваши текущие действия продвигают вас к вашим целям. В этом может помочь медитация.
  14. Избегайте потребительства. То, чем вы владеете, в некотором смысле владеет вами. Потребительство ведет к тому, что вы становитесь несчастны. К сожалению, скорее всего вы с рождения запрограммированы смотреть сквозь линзы потребительства. Одним из способов избавиться от этих программ это является просмотр документального фильма о преднамеренном изобретении потребительства от Эдварда Бернайса. После него вы можете захотеть продать или отдать много ваших вещей и, что более важно, кардинально измените ваши покупательские шаблоны.

Замечу, что стремление к счастью, как к конечной цели, может оказаться непродуктивным. Многие люди отмечают, что постоянные попытки проверить счастливы ли они, на самом деле только понижают уровень счастья — эти слова вполне соответствуют данным по исследованию состояния потока. Лучше стремиться достигать поставленных целей, а счастье будет побочным эффектом.

Помните: счастье не наступит в результате чтения статей в интернете. Счастье придет, когда вы выполните рекомендации этого исследования.

Удачи!

Перевод: 
Remlin
Оцените качество перевода: 
Средняя оценка: 3.1 (18 votes)

Выученное непонимание

Анна Саламон

Однажды у меня сломалась посудомоечная машина. Я позвала на помощь Стива Рейхока, потому что он «хорошо разбирается в технике».

«Слив засорился», — сказал он.

«Как ты это понял?» — спросила я.

Он указал на оставшуюся грязную воду.

«Вода не уходит».

Мы прочистили засор, и посудомоечная машина заработала.

Я чувствовала себя глупо, потому что тоже могла бы до этого додуматься. Вода не уходила — возможно, потому что слив засорился. Базовая рациональность в действии.1

Но вместо того, чтобы подумать о проблеме хотя бы десять секунд, я классифицировала проблему как «техническую». И вспомнила, что «не знаю, как работает техника» (кэшированная мысль). А потом под влиянием моей кешированной веры в то, что существует магический «способ заставить технику работать», о котором знают другие люди, но не знаю я, я вообще перестала пытаться думать на эту тему.

«Техника» была для меня ментальным стоп-сигналом — пустой областью, которая всегда оставалась пустой, потому что я никогда не задавала напрашивающихся следующих вопросов (например: «Замечаю ли я в посудомоечной машине что-то необычное? Почему на её дне вода?»)

Когда я преподавала математику, новые ученики вели себя так, будто формулы степеней (или любой другой изучаемый материал) упали с неба на каменных скрижалях. Они жёстко цеплялись за эти ниспосланные правила. Им не приходило в голову попытаться их понять или сымпровизировать. Студенты относились к математике так же, как я к сломанным посудомоечным машинам.

Чтобы описать состояние, при котором некто научился вести себя так, будто он беспомощен, Мартин Селигман когда-то ввёл термин «выученная беспомощность». Я думаю, что нам нужен термин для выученной беспомощности в мышлении. Мне нравится вариант «выученное непонимание»2 3. Люди, павшие жертвой выученного непонимания, всё ещё могут что-нибудь делать — мои ученики иногда повторяли формулы снова и снова, нанимали репетитора и так далее. Но в их исполнении это походило на ритуал поклонения неизвестному божеству — какая-то их часть прикладывала усилия, но их центр, отвечающий за понимание предмета, сдался.

На всякий случай подчеркну: вызвать сантехника и понять, что он знает больше, чем вы, зачастую очень хорошая идея. Однако нужно избегать ситуаций, в которых вы мысленно ограничиваете собственные способности, сохраняете какие-то куски вашей карты пустой, потому что решили, что некая область либо не подчиняется никаким законам, либо рассуждать о ней могут лишь люди, обладающие какими-то особыми навыками.

Обращайте внимание на собственное выученное непонимание

Выученное непонимание встречается часто. Предполагаю, что большинство из нас воспринимает почти всё вокруг как нечто совершенно непостижимое4. Чтобы увидеть собственное непонимание, попробуйте примерить на себя следующие примеры:

  1. Когда у Сандры ломается компьютер, она беспомощно бежит к своей соседке по комнате за помощью, ведь Сандра «не ладит с компьютерами». Её соседка, напротив, куда-то тыкает, что-то вводит, лезет в Google и находит решение.5

  2. Большинство ученых знают, что научный метод — это хорошо (и, например, что p-значения меньше 0,05 — это хорошо). Но многие не просто не понимают, почему научный метод (или подобные p-значения) хорош. Они не понимают, что могли бы это понять.

  3. Многие, сталкиваясь с вопросами о сознании, морали или Боге, ожидают, будто для таких ситуаций нужен какой-то особый способ рассуждений. Таким образом они не доверяют собственным впечатлениям и отгораживаются от них.

  4. Фред осознаёт, что интуитивно опасается развития нанотехнологий. Но на его карте интуиции соответствует пустое пятно: он может пойти на поводу у своей интуиции, может её проигнорировать, но он не в состоянии её исследовать6. Ему не приходит в голову изучить причины своих интуитивных представлений или оценить степень их точности.

  5. Мне трудно писать художественную литературу — впрочем, алкоголь помогает. Проблема в том, что, поскольку я не умею писать художественный текст и мне больно замечать собственное неумение, большая часть моего разума предпочитает либо вообще не писать, либо писать без энтузиазма, ковыряясь в мелких деталях. Точно так же многие специалисты по высшей математике избегают попыток попробовать себя в философии, социальных науках или других «грязных» областях знаний.

  6. У Боба есть смутное желание «победить» в жизни и смутное недовольство своей нынешней траекторией. Но он никогда не пытался сформулировать, что именно он подразумевает под «победой», или что ему нужно изменить, чтобы добиться её. Он даже не понимает, что он мог бы этим заняться.

  7. Сандра просто почти ни о чем не думает. Она ездит на работу в машине, которая работает «по волшебству», садится на своё место в офисе компании, которая приносит прибыль «по волшебству», и всерьёз думает лишь над своей работой. Затем она заказывает ланч, который ей «по волшебству» нравится, болтает с коллегами, используя «по волшебству» привычные шаблоны общения, работает ещё четыре часа и возвращается домой к отношениям, которые «волшебным» образом преуспевают или терпят крах.

Я не хочу сказать, что мы постоянно должны пересматривать вообще всё. Полезно уметь направлять своё внимание и сосредотачиваться на своей работе. Но обсуждаемое здесь «выученное непонимание» не связано с какой-то целью. Выученное непонимание — это не просто решение игнорировать некую область. Это вера в то, что данная область для вас недоступна. Это отстранение от тех частей вашего разума, которые могли бы разобраться в непонятном.

По аналогии: часто есть веские причины чего-нибудь не делать, например, не искать новую работу, нового романтического партнера, не осваивать новые навыки… Однако если человек всё это не делает из-за подавляющей выученной беспомощности, это плохо.

Как уменьшить выученное непонимание

Есть много причин, почему люди чувствуют себя беспомощными при попытке понять что-либо. Например:

  • А. Просто привычка. Вы не привыкли думать об этом. Поэтому автоматически вы об этом и не думаете;

  • Б. Желание избежать неминуемых поначалу грубых ошибок, которые поставят вас перед фактом вашей возможной некомпетентности (как, например, мой страх писать художественную литературу);

  • В. Избегание социальных конфликтов или претензий на статус. Если ваш начальник / супруг / супруга / кто угодно ещё расстроится от вашего несогласия, вам может быть выгодно «не разбираться» в некоей области.

Поэтому, если вы хотите уменьшить своё выученное непонимание, постарайтесь замечать области, которые вас волнуют, но которые вы при этом считаете «непостижимыми». Затем посейте в своём разуме мысли, касающиеся этой области: установите таймер на десять минут и напишите как можно больше вопросов на эту тему. Ещё лучше: пообщайтесь с людьми, для которых эта область не является непостижимой. Научитесь делать что-нибудь новое, чтобы лучше погрузиться в эту тему. Спросите, какие вспомогательные навыки могут вам помочь.

Если возникают страхи, такие как (Б) и (В), попробуйте спросить себя: «Интересно, что нужно сделать, чтобы [достичь моей цели]?». Например: «Интересно, что мне нужно, чтобы чувствовать себя комфортно, когда я танцую?» или «Интересно, что мне требуется, чтобы писать литературные тексты без страха?».

Вам даже не обязательно отвечать на эти вопросы. Если это тема, которой вы боялись, то просто спросите. Это даст вам толчок. Затем найдите ответы в Google, Wikipedia или How.com и наслаждайтесь получением компетенции.

  • 1. Ричард Фейнман в детстве удивлял других людей тем, что «чинил радиоприёмники, думая»[Это отсылка к знаменитой книге «Вы, конечно, шутите, мистер Фейнман» — Прим.перев.]. Судя по всему, люди часто не обращают внимание на то, что умение размышлять помогает в работе с машинами.
  • 2. Спасибо Стиву Рейхоку за этот термин. Также спасибо Люку Мюльхаузеру за помощь с этим эссе.
  • 3. В оригинале «learned blankness». — Прим.перев.
  • 4. Гарри Поттер Элиезера Юдковского предполагает, что для становления героем нужно, чтобы выученное непонимание не поглотила тебя целиком, то есть, чтобы твой мир не превратился в узенькие туннели мыслей, окружённые огромными пластами непостижимого. Цитирую:

    — Ну… — потянул Гарри. Вилка и нож в его руках нервно пилили отбивную на всё более тонкие ломтики. — По-моему, нетрудно сделать что-нибудь, если оно лежит в рамках привычного мира… Например, если от тебя ждут, что ты это сделаешь, или если у тебя уже есть необходимые для этого навыки, или ты выполняешь работу под наблюдением человека, который не даст тебе совершить ошибку и проследит, чтобы ты сделал свою часть. Но для таких ситуаций, скорее всего, уже есть готовые решения, а значит в них не нужны герои. Поэтому я считаю, что люди, которых мы называем «героями», редки, поскольку им приходится всё делать самостоятельно, а большинство чувствует себя неуютно в таких обстоятельствах.

  • 5. Спасибо Заку Дэвису за замечание о том, что навык «ладить с компьютерами», судя по всему, в значительной степени основывается на желании пробовать различные способы решения проблемы и разбираться, как всё устроено. Если вы хотели бы уменьшить количество выученного непонимания в своей жизни и пока не слишком ладите с компьютером, можете попробовать развить у себя этот навык в понимании Зака.
  • 6. Один из способов подступиться к причинам своей интуиции — это представить какой-нибудь другой сценарий и посмотреть, как на него отреагирует ваша интуиция. Фред мог бы спросить себя: «Предположим, нанотехнологии развились бы в результате Манхэттенского проекта. Насколько было бы всё плохо?» Или: «Предположим, Джон (от которого я всё это узнал) изменил бы своё мнение о вероятности катастрофы. Как бы это повлияло на мои взгляды?»
Перевод: 
Герман Васнецов, Alaric
Оцените качество перевода: 
Средняя оценка: 4.7 (11 votes)

Как осваивать "гибкие навыки"

Анна Саламон

Получение некоторых навыков в значительной степени связано с явной и умышленной передачей информации. Например, можно явным образом узнать название столицы Миссури, количество миль, которое можно проехать без дозаправки, или формулу нахождения корней квадратного уравнения.

Другие же навыки почти целиком опираются на полуинтуитивные, неявные шаблоны восприятия и поведения. К таким навыкам, например, относятся:

  • контроль эмоций и уровня энергии,
  • построение крепких отношений,
  • составление надёжных планов,
  • поиск подходов к математической задаче,
  • написание убедительных текстов,
  • умение непредвзято рассуждать на эмоционально важные для вас темы,

и так далее. Эксперты в этих навыках часто не в состоянии точно и подробно объяснить, как они делают то, что делают, однако это ничуть не умаляет их способностей.

Я бы хотела поделиться некоторыми идеями о том, как осваивать подобные «гибкие навыки».

Полезность ложных идей

Когда вы читаете учебник по химии, после каждого предложения имеет смысл задавать вопрос: «Правда ли то, что я узнал?». Если для значительного числа предложений ответом будет «нет», скорее всего, вам стоит отложить этот учебник и поискать другой, получше. Предполагается, что учебники по химии состоят из достоверных утверждений — утверждений, которые вы без колебаний можете добавить к своей коллекции «достоверных и недвусмысленных утверждений» и благодаря этому стать лучше в химии. Если же книга не удовлетворяет этому критерию, её главная ценность теряется.

Однако, на мой взгляд, для гибких навыков это не так.

Можно проверять идеи в своём «внутреннем симуляторе»

«Внутренний симулятор» — это предложенный CFAR способ различать декларируемые убеждения и ожидания. По сути, «внутренний симулятор» — это та ваша часть, которая способна перемотать плёнку вперёд, чтобы определить, чего ждать дальше: «Успею ли я повернуть налево до того, как эта машина достигнет меня?», «Как она отреагирует, если я подойду и скажу: „Привет“?». То есть, какую сцену мой внутренний видео-проигрыватель показывает следующей в фильме, где я подхожу к незнакомке и говорю: «Привет».

Скорее всего, в вопросах, где у вас есть богатый опыт — например, в вопросах социального взаимодействия или физических явлений, с которыми вы сталкиваетесь ежедневно — ваш «внутренний симулятор» гораздо точнее сформулированных явным образом моделей. Наверняка он хуже в тех областях, где вы достаточно начитаны — например, у вас может быть в голове точная модель «эффекта свидетеля», но в реальной ситуации у вас могут возникнуть неверные ожидания и вам придётся вносить поправки уже на уровне сознания. И на внутренний симулятор всегда должно «заземляться» обучение, направленное на изменение автоматических ответов системы 1 (такие как шаблоны восприятия или привычки «триггер-действие», столь важные во многих «гибких навыках»).

На мой взгляд, большинство книг о «гибких» навыках не ставят своей целью расширить ваш багаж «достоверных явно сформулированных утверждений». Вместо этого они пытаются спровоцировать вас на эксперименты в вашем внутреннем симуляторе, и тем самым дать вам какие-то идеи. Некоторые идеи в вашем внутреннем симуляторе будут выглядеть многообещающе, некоторые — нет. Лучшие вы сможете попробовать в реальной жизни.

Пример: Сосед

Чтобы понять, как это работает, представьте, что вы попали в неоднозначную социальную ситуацию. Предположим, что Фред, ваш сосед по совместно снимаемой квартире, легко раним и обидчив, а ещё оставляет после себя полный бардак на кухне. Вы перебрали какое-то число идей, как с ним можно было бы поговорить, но по вашим оценкам все они закончатся, скорее всего, плохо. И вот вы стоите в отделе «самопомощи» книжного магазина и ищите, собственно, помощи.

В ходе поисков вы натыкаетесь на множество советов, которые вы уже слышали. Например: «представьте ситуацию со стороны Фреда» или «объясните Фреду, в чём будет выгода для него, сошлитесь на его собственные интересы или сыграйте на его гордости». Согласитесь, до многих из этих советов можно дойти своим умом. Тем не менее, в случае с Фредом большую их часть вы так и не опробовали. При этом вам хочется их применить — истории из книг действительно мотивируют посмотреть на ситуацию глазами Фреда, и вы спонтанно начинаете представлять, что, возможно, чувствует он. Между делом вы также обнаруживаете в своей голове новые идеи, как можно начать разговор. Отчасти они появились благодаря прочитанным историям, и некоторые из них очень даже ничего.

Некоторые из книг при этом содержат утверждения, которые, с вашей точки зрения, являются полной чушью. Например, одна из них сообщает, что все ваши конфликты с Фредом вызваны тем, что его или вас недостаточно хвалили в детстве. Вы примеряете и такую точку зрения, но вам от неё становится не по себе, никаких новых озарений не происходит, поэтому вы переходите к следующей главе.

В этом примере, книги выполняют роль не столько источника достоверных знаний, сколько подспорья для вашего собственного процесса восприятия, трактовки, целеполагания и планирования. И в этом смысле такая литература полезна.

Пример 2: Чтение хорошей книги, посвящённой построению отношений

Пока я читала «Узы, которые освобождают»1, я встретила много явных утверждений, с которыми полностью не согласна (например, утверждения о христианском боге). Я воспринимала их как поэзию: я пыталась представить себе мир, в котором живет автор, и как бы я выглядела в этом мире, то есть лучше разобраться, как автор понимает людей и их взаимоотношения.

В книге также было много историй, каждая из которых внутри моей симуляции была «похожа на правду» (соответствовала миру в той степени, в какой я его понимаю). И вместе эти истории наталкивали меня на новые закономерности. По мере чтения я чувствовала, как меняется моя интуиция в описываемых вопросах — я стала замечать в историях типичные детали, которые раньше проходили мимо моего внимания, а сейчас их удалось вынести на сознательный уровень.

Благодаря этой книге, я изменила своё представление о том, как рационализация влияет на близкие отношения, и улучшила навык отстраняться от своих рационализаций, чтобы лучше понимать близких мне людей. Также мне стало легче игнорировать обвинения со стороны «общества»2. И эти изменения произошли не потому, что я доверяла автору и слушала его советы. А потому, что я посмотрела на мир с его точки зрения, и те закономерности, на которые он указывал, вписались в мою картину мира.

Попробуйте!

То, о чём я пишу, можно попробовать, читая книги. Но поскольку полезность книг кроется не только в их точности, есть и другой путь (возможно, не менее эффективный): взять и написать собственную книгу — или, по крайней мере, 5 минут от этой книги. Можете воспринимать это упражнение как способ отвлечь Систему 1 от привычных шаблонов.[1]

Засеките 5 минут (I):

Выберите гибкий навык Х, который вы хотели бы прокачать. Затем засеките 5 минут (в буквальном смысле, с настоящим таймером — подумать «примерно 5 минут» гораздо менее эффективно). В течение этих 5 минут письменно объясните себе, как делать Х.

Например, вы выбрали «нетворкинг на конференциях». Тогда эти 5 минут вы можете выписывать варианты, что именно в нём самое сложное и как с этими сложностями справляться. Скажем: «Я не знаю, как завязать разговор. Поэтому на конференции я могу понаблюдать за другими людьми и запомнить, как начинают разговор они. Ещё я могу попробовать просто начать с: „Здравствуйте, меня зовут Анна“, или: „О, вы же доктор Такой-то? Мне очень понравилась ваша работа о том-то и том-то“. Этот вариант, кстати, ничего. Мне стоит перед конференцией почитать абстракты и загуглить хотя бы некоторые статьи…»

Засеките 5 минут (II):

Это упражнение придумал Зак Вэнс, и оно мне очень нравится. Оно действительно стоит своих 5 минут. Снова выберите гибкий навык Х (например «нетворкинг на конференциях»), который вы хотели бы прокачать. Затем выберите другой навык Y, которым вы уже хорошо владеете (например, «программирование» — Y может быть любым навыком, не обязательно гибким). Теперь засеките 5 минут, и объясните (письменно или вслух другу) почему Х ничем не отличается от Y, в смысле, что человек, овладевший Y, уже знает все необходимое, чтобы преуспеть в Х, — нужно лишь приложить Y к Х. (Ваша цель: составить очень короткое руководство, позволяющее всем овладевшим Y заложить основу для обучения Х). Мой собственный пример (выросший из идеи «нетворкинг на конференциях ничем не отличается от программирования» можно увидеть по сноске [2].

При этом, конечно, важно не верить вообще всему, что вы сгенерировали за это упражнение — в конце концов, всё это написал втайне новичок в навыке Х. Однако, повторюсь, вы можете использовать написанное как отправную точку для экспериментов и тем самым помочь Системе 1 выбраться из локального оптимума в пространстве вариантов поиска новых идей, где она могла застрять.

Некоторые книги по прокачке «гибких навыков», которые стоит посмотреть

  • Terry Warner, «Bonds that Make Us Free»;
  • Далай-Лама, «Открытое сердце»;
  • Дэвид Бернс, «Ругаться нельзя мириться»;
  • Брайан Трейси, «Оставьте брезгливость, съешьте лягушку»;
  • Дейл Карнеги, «Как завоёвывать друзей и оказывать влияние на людей»;
  • Джей Уорли, «Селф-терапия»;
  • Юджин Джендлин, «Фокусирование» (аудиокнига гораздо лучше, на мой взгляд);
  • Элиезер Юдковский, Основные цепочки LessWrong.

Также можно сходить в книжный, посмотреть там новые книги по гибким навыкам и полистать какие-нибудь — возможно, некоторые из них с вами «срезонируют». Литературу такого рода можно найти в разделах про бизнес, самопомощь, континентальную философию, эзотерику, а также в узко специализированных разделах, посвящённых конкретным гибким навыкам, таким как писательство или решение проблем.

Во время чтения:

Во время чтения книги (или плодов своих пятиминуток), возможно, стоит задать про каждый параграф следующие вопросы:

  • Правда ли это? Можно ли использовать эту информацию для обновления моей явной модели навыка Х? (Да, явные модели все ещё кстати!)
  • Даже если эта информация неверна, — есть ли в ней или рядом хоть что-то похожее на правду?
  • Если, начиная с этого места, я дам волю своим ассоциациям, обретёт ли что-то из моего прошлого опыта новый смысл?
  • Что практично/любопытно в этой новой идее? А в идеях, которые могут прийти мне в голову во время свободных ассоциаций? Улучшают ли эти идеи мое неявное пространство гипотез?
  • Во время чтения, могу ли я представить, как я выполняю навык Х каким-то новым и, главное, полезным образом? Чувствую ли я, как развивается моя интуиция?
  • Как мне наиболее тщательно погрузиться в тот контекст, то чувство, настроение или мировоззрение, которые породили эту книгу? И когда я этого достигну, получу ли я новое озарение?

Буду рада увидеть ваши любимые книги или стратегии для их чтения в комментариях!

[1] Кажется, Система 1 почти всегда застревает на привычных шаблонах. Например, я регулярно набираю текст и вожу машину, однако оба этих навыка за последние несколько лет практически не улучшились. Мое умение разговаривать улучшилось гораздо заметнее, но всё же и оно подвержено этой склонности «делать одно и то же снова и снова». Поэтому даже случайный шум может помочь как отправная точка для обучения чему-то новому.

Выученное непонимание»3, судя по всему, из той же серии, — человек застревает на уровне онтологии. Обычно книги по гибким навыкам нужны именно для того, чтобы помочь читателю перейти этот барьер.)

[2] Мой пример, придуманный за полторы минуты:

Нетворкинг на конференциях ничуть не отличается от программирования. Три добродетели программиста — лень, нетерпеливость и высокомерие, — а также аналитическое мышление и навык повторного использования кода позволят вам достичь тех же высоких результатов.

Re: Лень: Многие, попав на конференцию, начинают знакомиться изо всех сил и заставляют себя разговаривать со всеми подряд. Однако, вообще-то очевидно, что одни беседы гораздо полезней других. Будьте ленивы — ещё в самолёте (или во время скучного разговора) продумайте план, с кем и о чём вы хотите поговорить, а потом позиционируйте себя соответственно.

Также, приближаясь к новому человеку, смотрите на это как на возможность попрактиковать и отладить собственное приветствие, таким образом рассматривая его как модуль кода, который будет использован неоднократно, а не одноразовое задание, которое можно выполнить и забыть. А после бегло просмотрите свои воспоминания и подумайте, нельзя ли улучшить процесс.

Во время отладки вы можете искать «тестовые примеры» — например, подходить к людям, о репутации которых вам уже известно, или к людям, с которыми уже беседовали ваши друзья, чтобы понять, похоже ли ваше взаимодействие с ними на то, что вы слышали. Благодаря таким «тестовым примерам» вы можете сравнивать свои результаты с результатами других людей, что поможет вам в отладке собственных рутин.

Напомню, что текст выше я написала за 90 секунд, которые я отвела себе на это упражнение. Это не какой-то специально подобранный пример. И уж точно не стоит его считать проверенным руководством по нетворкингу. Тем не менее, возможно, он позволяет понять, как рационализация(!) может запустить процесс обучения.

  • 1. Речь идёт о книге C. Terry Warner, «Bonds That Make Us Free: Healing Our Relationships, Coming to Ourselves». На русский язык не переводилась. — Прим.перев.
  • 2. Англ. social shame. — Прим.перев.
  • 3. Англ. learned blankness. По ссылке речь идёт о ситуациях, в которых человек считает себя заведомо неспособным к решению задач в некоторой области, и поэтому даже не пытается задуматься, как их решить. — Прим. перев.
Перевод: 
Евгений Миньков, Alaric
Оцените качество перевода: 
Средняя оценка: 5 (5 votes)

Стратегическое мышление не свойственно нам по умолчанию

Анна Саламон

В ответ на запись Казус системной неэффективности.

Пользователь lionhearted пишет:

Большинство в целом умных людей тратят время на условно-продуктивные занятия, и не используют массу возможностей быть по-настоящему продуктивными.

Вот немного дурацкий пример: предположим, кто-то мечтает стать комиком, самым лучшим комиком в мире, и зарабатывать этим на жизнь. Ничего другого он не хочет, это его цель. И для того, чтобы усовершенствовать свой талант комика, он решает пересматривать старые мультики про Гарфилда и его друзей, которые показывали по телевизору в 1988-1995-х…

И я удивляюсь: почему так?

Почему случайно выбранный восьмилетка завалит экзамен по математическому анализу? Потому что большинство возможных ответов неверны, и никакая сила не направит его в сторону правильных. (Здесь нет необходимости ссылаться на «страх успеха»: большинство способов написать или не написать что-либо в ответ на тест ведут к провалу, так что и люди, и камни, заваливают его по умолчанию.)

Почему большинство из нас, как правило, выбирает «добиваться цели» путями намного менее эффективными, чем те, которые мы бы могли найти, если бы постарались? [1] Моё предположение — что, как и в случае с тестированием по математике, основная часть тех самых путей — неэффективна, и в прошлом не существовало достаточно сильного эволюционного или культурного давления, чтобы у нас выработались такие очень узкие поведенческие паттерны, которые бы действительно помогали добиться успеха.

Если конкретнее: в некотором ограниченном смысле у нас явно бывают цели. Мы: (1) говорим себе и другим, как мы стремимся добиться всяких «целей»; (2) ищем поведение, которое соответствует выбранной роли, которую мы себе присвоили («учить математику», «становиться комиком», «быть хорошим родителем»); и иногда даже (3) радуемся или разочаровываемся, когда поставленную «цель» удается или не удается достичь.

Но при этом существуют приемы, потенциально полезные для достижения целей (или важные для самого процесса целеполагания), которыми мы не пользуемся по умолчанию. Например:

  • (а) Спросить себя, чего мы пытаемся достичь;
  • (b) Спросить себя, как мы поймем, что цель достигнута («Как понять, что ты уже лучший комик?»), а также как отслеживать прогресс;
  • (с) Найти в себе сильную внутреннюю заинтересованность в любой информации, полезной для достижения цели;
  • (d) Собрать такую информацию (в том числе спрашивать, как другие достигали подобных или похожих целей; просчитать, какие стратегии были или не были действенными в прошлом);
  • (е) Систематически проверять различные теории касательно достижения наших целей, включая методы, которые нам непривычны, и параллельно отслеживать и отмечать, какие теории работают, а какие нет;
  • (f) Ту часть энергии, которая не занята поиском новых стратегий, сосредоточить на методах, которые лучше всего работают;
  • (g) Убедиться, что наша цель — действительно наша, мы сами к ней стремимся, и нас не сдерживает страх или неуверенность, стоит ли она наших усилий; что мы заранее продумали все вопросы и решения, которые окажутся на пути, чтобы они потом не отнимали у нас ресурсы;
  • (h) Использовать внешние триггеры и социальные ситуации, которые поддержат нашу мотивацию эффективно двигаться к цели, невзирая на периодические разочарования или искушения предпочесть осязаемый быстрый результат — неосязаемому в отделенном будущем.

Есть и множество других полезных техник. Но вместо того, чтобы ими пользоваться, мы просто делаем дела, как получается — действуем по привычке, импульсивно или исходя из соображений сиюминутного удобства; думая о цели, мы выбираем действия, которые просто с ней ассоциируются. Мы много чего делаем. Но у нас нет системного подхода к выбору алгоритма поступков, который бы эффективно оптимизировал достижение заявленных целей и вообще любых целей.

Почему так получается? В целом, потому что люди находятся только на пороге разумности. У 5% людей, может быть, достаточно развито абстрактное мышление, чтобы на словах понять вышеописанные приемы и оценить их потенциальную пользу. И это еще совсем не гарантирует способность их автоматически применять. Наш вербальный аппарат гораздо лучше справляется с абстрактными рассуждениями, чем механизмы мотивации, которые в итоге обуславливают наше поведение. Например, у меня достаточно развито абстрактное мышление, чтобы понимать, что стоять на стеклянном полу небоскреба безопасно, или что мороженое не слишком полезно для здоровья, или что регулярная физическая нагрузка способствует достижению моих целей… но награда за то, чтобы я руководствовалась этими соображениями, неосязаема, так что у меня автоматически не включается мотивация ими руководствоваться и соответственно менять свое поведение. Я могу настроить свои автопилоты — например, визуализировать как употребление мороженого закупоривает мои артерии, вообразить насколько это омерзительно; могу прогуливаться по страшному прозрачному полу, пока мозг не привыкнет думать, что я никуда не упаду… но автоматической привычки таким образом тренировать свои автопилоты у нас тоже нет. Так что совсем не удивительно, что большинство из нас не проводит такого рода работу над автоматическими реакциями ума, и большая часть наших действий по достижению целей также получается куда менее эффективной, чем возможно.

И все же, я хочу учиться. Я знаю людей, гораздо более стратегичных, чем я, и при этом мне видны способы развить стратегическое мышление еще лучше, чем у них. Похоже, что иметь цели, в более широком смысле, чем описано в (1)-(3), — часть рационального мышления как такового; это будет помогать нам получать в жизни то, что для нас важно. И этой теме на LW уделялось недостаточно внимания.

Подытоживая вопрос пользователя Lionhearted: насколько этот анализ выглядит верным? Кто-нибудь из вас пытался сознательно развить у себя стратегическое мышление или навыки достижения целей? Если да, то каким методом? Согласны ли вы с алгоритмами (a)-(h), описанными выше? Может, вы хотели бы что-то к ним добавить? Поделитесь идеями, как обучить себя такого рода алгоритмам.

[1] Например, почему многие люди долго учатся, чтобы «зарабатывать деньги», но при этом не потратят и пары часов, чтобы заранее сравнить потенциальную зарплату? Почему многие люди, которые ежедневно проводят часы за компьютерным набором текста, делают это двумя пальцами и не удосуживаются поставить себе программу по обучению десятипальцевому методу? Почему люди проводят субботы «отдыхая», но не потрудившись проследить, какие из привычных им видов рекреации конкретно им на самом деле нравятся? Почему даже люди, великолепно умеющие считать в уме, при этом боятся заболеваний, автокатастроф, приведений, и принимают меры защиты, но без учета статистики относительных рисков? Почему большинство из нас привыкает к единственному режиму того, как учиться, как писать тексты, как взаимодействовать с людьми и т.п., не рассматривая альтернативные варианты, которые могут оказаться гораздо эффективнее — даже поэкспериментировав и убедившись, что есть варианты значительно эффективнее?

Перевод: 
Alina1412, Pion, Berekuk, ouch_my_brain
Оцените качество перевода: 
Средняя оценка: 4.2 (19 votes)

Живя осознанно

Осознанность в том смысле, в каком я буду использовать этот термин, означает самоосмысление. Осознающий ум — тот, который, обладая чем-то, знает, чем он обладает. Это может быть эмоция, убеждение или иррациональное убеждение, предрасположенность, ощущение, воспоминание — все, что только может происходить или храниться в вашем мозге. Что творится в вашей голове? Ответ на этот вопрос — и важно, чтобы вы были точны — это то, что вы осознаете.

Материалы цепочки распространяются по лицензии CC BY-NC-SA 3.0

Ханна Финли
Remlin
http://lesswrong.com/lw/1xh/living_luminously/

Живя осознанно

Ханна Финли

Я взяла слово «осознанность» из книги «Знание и его пределы» Тимоти Уильямсона, но я вкладываю в него другой смысл. (Он употреблял его как «быть в состоянии знать», а не знать на самом деле, и это определение не ограничивалось ментальными состояниями и событиями.)

Осознанность в том смысле, в каком я буду использовать этот термин, означает самоосмысление. Осознающий ум — тот, который, обладая чем-то, знает, чем он обладает. Это может быть эмоция, убеждение или иррациональное убеждение, предрасположенность, ощущение, воспоминание — все, что только может происходить или храниться в вашем мозге. Что творится в вашей голове? Ответ на этот вопрос — и важно, чтобы вы были точны — это то, что вы осознаете. Возможно это прозвучит неожиданно, но многим людям довольно трудно ответить на подобный вопрос. Даже если они могут опознать появление отдельных ментальных событий, они с трудом могут воспроизвести свой мыслительный процесс в динамике по времени, объяснить, почему он разворачивается именно таким образом, или наблюдать, как он изменяется. При достаточном уровне осознанности вы можете проверять свой опыт, мнения и запасенные мысли. Вы можете наблюдать, как они взаимодействуют, и различать шаблоны в их поведении. Это позволяет вам предсказывать, что вы подумаете и в свою очередь — что вы сделаете в будущем при различных внешних обстоятельствах.

За последние несколько лет я сделала все для увеличения моей осознанности настолько, насколько это возможно. Хотя я (пока) не осознаю в совершенстве, я уже достигла заметных улучшений в таких вспомогательных навыках, как управление настроением, изучение систем, вызывающих несдержанность и другое непозволительное поведение, и просто стала больше понимать о том, почему я делаю и чувствую то, что делаю и чувствую. У меня есть основания верить, что я осознаю значительно больше, чем средний человек, поскольку я могу задать людям вопросы, которые кажутся мне невероятно простыми, о том, что они думают, и обнаружить, что они не могут ответить. В то же время я не верю только своему впечатлению, что я всегда права, когда рассуждаю о себе. Мои модели себя, после того как я заканчиваю их настройку и подгонку и решаю, что они более или менее верны, описывают большую часть моего поведения. Обычно они также совпадают с тем, что другие люди думают обо мне — по крайней мере на определенном уровне.

В этой цепочке я планирую поделиться некоторыми из техник для улучшения осознанности, которые я использовала. Я надеюсь, что по крайней мере часть из них будет кому-то полезна. Однако я могу сказать, что «результаты не типичны». Мои предыдущие попытки улучшения осознанности в других состоят в том, что я задавала индивидуально подобранные вопросы в реальном времени, и получалось довольно хорошо; осталось узнать, смогу ли я выделить основную идею, преобразовав ее в доступный большинству формат.

Я разбила цепочку на восемь постов, не считая этот, который служит введением и оглавлением. (Я буду обновлять заголовки в списке ниже ссылками на каждый написанный пост.)

«Возможно, вас съел монстр». Почему вы хотите быть осознающим? Что в этом хорошего, и как это работает?

«Да будет свет». Откуда брать предварительные данные, когда вы начинаете моделировать себя, если ваши существующие модели вероятно полны искажений?

«ЭПО — основы осознанности». Наиболее существенный шаг в изучении осознанности — это установление соотношения ваших эмоций, поведения и обстоятельств.

«Свет, камера, мотор!». Осознанность не случается сама по себе — вам необходимо практиковаться в ней и наблюдать за ключевыми ментальными объектами.

«Луч света». Не делайте самоанализ статичным. Мысли могут ускользать. Отмечайте и систематизируйте все, что только найдете в своем сознании.

«Блики и тени». По мере того как вы открываете и понимаете новые вещи в себе, полезно подтверждать или отказываться от ваших подкомпонентов, соответствующим образом поощряя их или препятствуя им.

«Город огней». Удобным приемом работы с напряжениями в себе является представление себя как мультиагентной системы.

«Тени от лампы». Когда у вас есть модели, тестируйте их — и меняйте результаты ваших экспериментов!

Бонусные посты!
«Урешику Наритай»: история о том, как я использовала осознанность, чтобы поднять мою планку счастья до нужного уровня.
«Как получать удовольствие от неприятной компании». Основанная на осознанности модель того, как сознательно испытывать симпатию.
«Семь сияющих историй»: конкретные художественные описания техник осознанности из этой цепочки в действии. (Примечание: некоторые люди отмечают, что «ССИ» значительно улучшили их понимание этой цепочки. Возможно, стоит читать каждую «Сиящую Историю» вместе с соответствующим постом. «Сияющие истории» открываются вместе с ссылками к соответствующим частям, и апофения комментаторов позволяет разместить истории под основными статьями.)

Я уже написала все посты в этой цепочке, хотя я могу позднее внести правки в более поздние статьи в ответ на обратную связь, и возможно, что мне зададут вопрос, в ответ на который я добавлю еще пост. Я буду это делать по мере получения отзывов сообщества.

Перевод: 
Remlin
Оцените качество перевода: 
Средняя оценка: 2.7 (26 votes)

Вас может съесть гру

Ханна Финли

Осознанность — забавная, полезная для остальных и важная для саморазвития вещь. Вы узнаете об этом из данной цепочки.

Осознанность? Ха! Да кому это надо?

Это понятный вопрос. Типичный человек проходит сквозь жизнь с удивительно малой долей самоанализа и еще меньшей долей самоанализа точного и осторожного. Наши модели самих себя иногда даже хуже наших моделей других людей — у нас больше данных, но также больше искажений, которые перегружают наши размышления помехами. Большую часть времени большинство людей действуют напрямую согласно своим эмоциям и убеждениям, без попыток рассмотреть этот процесс осознанно. И непохоже, чтобы из-за этого как-то страдали или умирали — когда вы в последний раз видели на могиле эпитафию «Здесь лежит наш дорогой Тейлор, который мог бы быть с нами сегодня, если бы только лучше осознавал природу поиска в памяти»? Абсурд. Если Тейлору надо что-то помнить, то это либо проявляется, либо нет, и если у него хронические проблемы с памятью, то он может просто записывать воспоминания на внешнем носителе. Осознание того, как воспоминания сохраняются изначально и настройка этого процесса не обладают высоким приоритетом в списке дел.

Тем не менее, я думаю, что стоит потратить немало времени и усилий для улучшения осознанности. Я приведу три причины для этого.

Во-первых, вы — интереснейшее существо. Это попросту весело и захватывающе — копаться в своем сознании. Люди в большинстве своем — это сложнейшие и самые интригующие явления в мире. И вы тоже. Вы наблюдали множество мгновений. Начиная с исходной конструкции, которая уже является совершенно особенной, вы накопили сложный набор фильтров, через который вы интерпретируете то, что воспринимаете — вспоминаемое прошлое, переживаемое настоящее, ожидаемое будущее. Вам что-то нравится, чего-то вы хотите, во что-то верите, чего-то ожидаете, что-то чувствуете. В закоулках вашего мозга полно всяческих вещей. Разве вам не хочется узнать, что же там? Это же вы. Для многих людей разговор о себе — излюбленная тема. Вы исключение? (Есть только один путь выяснить это…)

Во-вторых, точная модель себя может помочь вам иметь дело со всеми остальными наилучшим образом. Прямо сейчас они, вероятно, используют неуклюжие нагромождения своих проекций, стереотипов и автоматически сделанных предположений, которые они могут не обновлять, даже если узнают вас лучше. Я не думаю, что вы окружили себя ужасными людьми, которые используют точные данные о вас, чтобы навредить или манипулировать вами, но если это так, будет в таком случае разумно не распространять всю информацию, которую вы осознаете. Что касается остальных, то более полная модель вас поможет обеим сторонам избежать множества проблем. Я приведу себя в качестве примера: я ненавижу сюрпризы. Зная это и будучи способной рассказать полную и достоверную историю о том, как это работает, я могу объяснить людям, которые могут захотеть обменяться подарками, почему им не следует дарить мне что-то завернутое, чтобы избежать моего раздражения. Большинство людей вокруг меня не совершают тех действий, которые, как они знают, будут раздражать меня; но без подробного объяснения о том, насколько необычны мои предпочтения, они слишком легко возвращаются к своей основной модели стандартного человека.

В-третьих — и это наиболее подходящая остальным постам в данной цепочке причина — лучшее представление о том, кто вы и на что способен ваш мозг, скоро принесет вам веские плоды в том, что касается приемов для изменения себя. Если вы постоянно двигаетесь от точки А до точки Z, но не знаете ничего о пути между ними, тогда есть только один метод избежать Z — попытаться остановиться сразу перед тем, как это случится. Если вы сможете пронаблюдать процесс с начала и определить, какому шаблону ваше сознание следует сквозь алфавит по пути к Z, вы сможете узнать, что можно с легкостью заменить G на Q и больше никогда не иметь дела с Z. Аналогично этому, если вы пытаетесь дойти от альфы до омеги, но постоянно терпите неудачу, как вы собираетесь определить, где же вы встречаете препятствия, пока вы не рассмотрите ситуацию в целом? Это может быть какой-то банальной проблемой в середине пути, которую вы исправите практически мгновенно, если только будете знать о ней. Вдобавок ваши неправильные модели себя уже меняют вас посредством такого чудесного явления как когнитивный диссонанс. Пока вы не поймете, как это происходит, вы упускаете возможность наблюдать и управлять процессом.

Аналогия: вы ждете, что вас заберут из аэропорта. Назначенное время уже прошло, а вы сидите на багажной стойке с чемоданами у ног, смотрите на часы, хмуритесь. Человек, который должен был вас забрать из аэропорта, не появился! Это полный провал! Но если вы позвоните ему и начнете кричать: «Аэропорт, придурок! Я в аэропорту! Почему тебя тут нет?» — вряд ли это улучшит положение вещей, если только человек не забыл про вас. Если же он стоит в пробке или ищет объезд из-за ремонта дороги, или заблудился, или его приняли за террориста службы безопасности аэропорта, то крик вам не поможет. И пока вы не поймете, что его задержало, вы не сможете помочь. Вы должны знать, где он, чтобы рассказать, как избежать пробок; вы должны знать, где проходит ремонт, чтобы рассказать, как его объехать; вы должны знать местные ориентиры, которые он может увидеть, чтобы понять, где вы; вы должны знать, следует ли вам идти к охране и извиняться за непонимание. Без определенных, особых данных о том, что именно пошло не так, вы не сможете это исправить.

В следующих постах цепочки я собираюсь проиллюстрировать некоторые методы, которые помогли мне узнать о себе больше и изменить в себе то, что мне не нравилось. При удачном стечении обстоятельств они помогут вам осуществить те изменения, к которым я постаралась подготовить вас в этой статье.

Примечание переводчика. Название является отсылкой к известному мему.

Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 5 (2 votes)

Да будет свет

Ханна Финли

Вы можете начать с психологических исследований, личностных тестов и обратной связи от знакомых людей, когда вы изучаете себя. Тогда вы можете отбросить плохое, оставить хорошее и двигаться далее.

Понять эту статью гораздо лучше Вам поможет первая из «Семи Сияющих Историй».

Где вам брать предварительную информацию, когда вы начинаете моделировать себя всерьез вместо того, чтобы полагаться в этом деле на интуицию?

Ну, одно можно сказать уверенно: не стоит начинать с уровня самоанализа. Если вы провели хоть сколько-нибудь времени на этом сайте, вы знаете, что люди пронизаны искажениями и механизмами самообмана, которые систематически вводят нас в заблуждение относительно нас самих. («Я великолепен и замечателен! А последние пятьсот раз когда я делал что-то невеликолепное и незамечательное — это просто случайности!») Людям многое плохо удается, и следование эдикту «Познай самого себя!» не является исключением.

У взгляда со стороны дурная репутация, однако я собираюсь защищать его — как отправную точку — когда буду наполнять копилку инструментов осознанности. Существует большое количество литературы, объясняющей, что же творится внутри наших голов. Это психология, и у нее довольно внушительный послужной список. Для примера, знание об эвристике и искажениях позволяет распознать, как они действуют в вас самих. Во многих случаях я понимаю, что попала под действие эффекта наблюдателя («Кто-то сидит на середине дороги. Может, позвонить 911? Хотя люди вокруг не волнуются, скорее всего мне тоже не о чем беспокоиться…»); я достигла определенного прогресса в уменьшении степени обобщений, которые делаю, исходя из одного примера («Как люди не сходят с ума от брызг масла на плите?»); и я настораживаюсь, когда думаю, что я лучше большинства, но не имею информации, подтверждающей это («Теперь я могу быть уверена, что у меня хорошо выходит решать проблемы такого рода, — я ответила на все вопросы, а большинство людей не могут, так говорит кто-то, кто вряд ли будет лгать!»). И даже если вы обычный человек с нормальной психикой, вы, конечно, не собираетесь соответствовать всем психологическим исследованиям. Эти открытия даже между собой не особо комбинируются. Но контроль за существенными, очевидными особенностями, например, за какой-то психической болезнью, это неплохо для начала.

Чтобы определить свои не самые типичные реакции, вы можете попробовать личностные тесты, такие как тест Майерса-Бриггса или «Большая пятерка». Это не очень надежные источники, но некоторые из них в какой-то мере соответствуют реальности. Соответственно, проникайтесь теми данными, которые получаете. Отбирайте то, что звучит верно («Да, я предполагаю, что склонен больше, чем другие, беспокоиться о беспорядке вокруг»), и выбрасывайте оставшееся («Что? Я не люблю эксперименты! Я даже улиток не буду пробовать никогда!») — хотя это грубые данные первого приближения, не основанные на опыте, с которыми надо на самом деле работать, но вы можете позволить себе такие неточности в начале игры. Когда пройдете тесты, подумайте немного над вашим типом интеллекта, определите, к какой категории относится ваш язык любви1 — все, что определяет вас и делает частью чего-либо.

Кроме того, если у вас есть честные друзья или родственники, просите их о помощи. Заметим, что даже у самых честных из них может быть чересчур радужное представление о вас: вы для них близкий человек, так что они, возможно, не обращают внимания на ваши недостатки и могут преувеличивать ваши добродетели относительно гипотетического мнения нейтрального наблюдателя. И они не находятся рядом с вами постоянно, что ограничивает обстоятельства, в которых их модель тестируется; влияние на вас их присутствия искажает эту модель. Но взгляд с их стороны имеет важное значение.

(Советы по получению обратной связи от родственников/друзей: я обнаружила, что думать о себе вслух полезно для получения некоторых основных входящих данных. Некоторых друзей я могу спросить в упор, хотя это помогает только в определенных ситуациях («Думаешь, я просто устал?» «Я был последователен в той ситуации?»), а не при обсуждении свойств характера, когда ответ может оказаться слишком категоричным («Я сволочь?» «Я использую людей?»). Когда вы общаетесь письменно и сохраняете переписку, вы можете посылать людям отрывки из диалогов (когда это допустимо по отношению к вашему исходному собеседнику) и спрашивать, что ваш консультант об этом думает. Если вы не помните каких-то событий или внушили себе, что не помните, тогда тот, кто был с вами, поможет вам рассмотреть событие со своей точки зрения — этот процесс автоматически покажет, как вы вели себя в глазах свидетеля.)

Если во время охоты на предварительную информацию что-то покажется вам неправильным, будет ли это результат теста или общая характеристика группы, которая подходила вам в остальных случаях, то это здорово! Теперь вы можете что-то исключить. Подумайте: что делает модель неправильной? Когда происходит то, что опровергает ее? (Причем лучше точное «как в тот раз на прошлой неделе», нежели смутное «в восемьдесят девятом, вроде бы в январе».) Что можно изменить в минимальной степени, чтобы сделать модель правильной?(«Сменить слово «быстрый» на «тщательный» — и это буду один в один я!») Если это поможет, разбивайте собираемую вами информацию на небольшие порции. Тогда вы сможете проверять их по одной за раз вместо того, чтобы целиком принять или отвергнуть то, что тест говорит о вас.

Если что-то звучит правильно, то это тоже круто! Задайтесь вопросом: как эта идея может предсказать ваше познание и поведение? («При встрече с высоким темноволосым незнакомцем вы быстро определите его характер по невербальным знакам.») Как можно протестировать её и уточнить модель? (Где водятся высокие брюнеты?) Если вы вели себя в прошлом не в соответствии с моделью, о каких исключениях из правила это говорит, и как можно их лаконично, в духе бритвы Оккама, обобщить? («Именно тот высокий темноволосый незнакомец носил очень клевую футболку, которая скрывала характеристики тела.»)

Обратите внимание: возможно, вы проявите склонность отметать результаты исключительно потому, что они звучат плохо («Я не могу быть нарциссом! Я никогда о себе так не скажу!»), а не потому что они звучат неправильно, и сохранять результаты, которые звучат хорошо («Ага, я смешной и умный!»), а не те, что звучат правильно. Повторите литанию Тарского несколько раз, если это поможет: если у вас есть особенность, то вы хотите верить, что она у вас есть. Если у вас нет особенности, то вы хотите верить, что вы её не имеете. Да не пристанут к вам убеждения, которых вы не хотите. Знание о том, что у вас есть плохие свойства, не сделает их хуже — но поможет вам исправить их, обойти или смягчить. Если вам не хватает хороших свойств характера, не обманывайте себя, они не появятся — но самообман может лишить вас возможности развить их на самом деле. Если вы не можете ответить на вопрос: «Когда вы делали то, что опровергает эту модель?» или перечислить случаи, когда вы вели себя в соответствии с данной моделью, вы скорее всего обманываете себя. Попытайтесь снова. Думайте лучше. Нет гарантий, что вы правы, но цель — именно оказаться правым.

  • 1. Выглядит глупо, но я обнаружила, что ответы на эти вопросы очень полезны в качестве первой, приблизительной оценки того, как нужно вести себя с людьми.
Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 4.2 (6 votes)

ЭПО — основы осознанности

Ханна Финли

Эмоции, поведение и обстоятельства взаимодействуют друг с другом. Эти взаимодействия образуют информационные шаблоны, которые вам надо опознать и использовать для развития своей осознанности.

Понять эту статью гораздо лучше Вам поможет вторая из «Семи Сияющих Историй».

Самое эффективное, что можно сделать в поисках осознанности — это понять, как соотносятся ваши ЭПО, собрать данные о том, как эти три взаимосвязанных элемента влияют друг на друга и появляются вместе или по отдельности.

«Э» означает «эмоции». Эмоции — это то, что вы чувствуете, и то, что у вас в голове. Это может быть куда сложнее, чем «да, я в отличном состоянии» или «сегодня мне грустно». В вас помещаются одновременно множество эмоций по самым разным поводам; то, как вы спокойно относитесь к двум разным вещам, не похоже на то состояние, когда вы волнуетесь по одной и улыбаетесь по другой причине; и ни одно из состояний не похоже на беспокойство по какому-то крайне важному для вас вопросу. Это происходит примерно так: вы беспокоитесь по поводу оценки результатов вашей работы и наслаждаетесь своей покупкой, и предвкушаете визит к двоюродному брату на следующей неделе, и одновременно раздражаетесь от того, что ушибли ногу, и все это на фоне забавной песни по радио. Для простоты я добавила сюда и менее эмоциональное познание тоже: какие мысли приходят вам в голову, каким этапам рассуждений вы следуете, что привлекает ваше внимание в окружающем мире.

«П» означает «поведение». В данной статье поведение означает то, что вы на самом деле делаете. Сюда входит очень небольшая категория тех вещей, которые вы на самом деле намеревались сделать — и уже почти начали, но не сделали из-за внешних обстоятельств или изменили свои планы после поступления новой информации. Это важно. Мимолетные замыслы и намерения приходят нам в голову постоянно, и если вы твердо и окончательно не определите, каким из них вы будете следовать в конечном счете, у вас останутся только подсознательно выбранные обрывки незавершенных планов. Это особенно проблематично из-за того, что более слабые намерения будут отклонены незначительными внешними препятствиями в гораздо большей степени. Не волнуйтесь о «настоящих» планах, которые отбрасывает этот процесс фильтрации. Вы пытаетесь узнать себя в целом, а не образцового себя, который доблестно пытался сделать нечто хорошее и был остановлен обстоятельствами; если эти отвергнутые планы были для вас типичны, то они повлияют на ваше фактическое поведение. Доверьтесь закону средних чисел.

«О» означает «обстоятельства». Это то, что происходит вокруг вас (Который час? Что происходит в вашей жизни сейчас, происходило недавно и что, возможно, случится в ближайшем будущем: основные события, второстепенные изменения, планы на потом, что вам говорят окружающие? Где вы: тепло или холодно, светло или темно, ветрено, спокойно, тихо, шумно, есть ли запахи, есть ли особые приметы у места, суета ли вокруг, красочно или серо, естественно, искусственно, красиво, уродливо, просторно, уютно, влажно, сухо, пустынно, переполнено, формально , неофициально, знакомо, ново, загромождено или аккуратно?). Также в это входят и ваши поступки, и то, что происходит у вас внутри — то, что обычно относят к чисто физическим явлениям (Вы выдохлись, устали после перелета, в состоянии наркотического опьянения, хотите пить или есть, вам больно, вы нездоровы, пьяны, энергичны, вы чешетесь, подвижны, возбуждены или дрожите? Вы откинулись на кресле, прячетесь в подвале, танцуете, путешествуете пешком, играете на барабанах или плаваете с аквалангом?) Обстоятельства отслеживать немного легче, чем эмоции и поведение. Если у вас есть срочная, четкая и ясная проблема, будет разумно решить ее, а уже потом заниматься осознанностью. И если отдельные проблемы, связанные с некоторыми физическими недугами, можно игнорировать, то проигнорировать боль или сильный голод трудно, и с ними нужно разбираться незамедлительно. Не пренебрегайте обстоятельствами, когда выполняете упражнения на соответствие, только потому, что вам кажется, будто это только «содержимое вашего черепа». САР (сезонное аффективное расстройство или «зимняя депрессия») — достаточное доказательство того, что окружение может серьезно влиять на наши чувства. И не странно ли, в конце концов, если вы ощущаете себя и действуете одинаково, когда танцуете на балу и когда устанавливаете таймер на микроволновке, чтобы разогреть суп, и когда берут в заложники при захвате банка?

Все эти аспекты взаимозависимы:

Э -> П: Ваши эмоции влияют на поведение почти напрямую — эмоции, в конце концов, включают в себя ваши мысли и ощущения, и не зависят от чисто рефлекторных действий, которые появляются под их влиянием.

О -> П: Обстоятельства также очевидно влияют на поведение. Вы не можете нажать на педаль газа, если ее у вас под ногами нет; вы не можете взять немного тапенады, если ее нет; и мне сложно кружиться в юбке, если я одета в спортивный костюм.

Э -> О: Эмоции могут менять ваши обстоятельства посредством вашего поведения, а также того, что происходит с вашим телом (мы все знакомы с тем, как стресс, например, может отражаться на самочувствии), и через окружающих — невербальными средствами.

П -> О: Ваше поведение, очевидно, влияет на обстоятельства: разбей окно, и тут же появится сквозняк. Скажи что-нибудь, и окружающие люди скорее всего вас услышат и отреагируют.

П -> Э: Поведение может влиять на эмоции посредством тесной двухсторонней связи (улыбнитесь — и ваши эмоции улыбнутся вместе с вами!) и посредством эффекта согласованности, который делает вас похожим на человека, чье поведение вы имитируете.

О -> Э: Обстоятельства влияют на ваши эмоции как осознанно, посредством познания и информации («Мой день рождения! Ура!»), так и неосознанно, посредством физических эффектов (если вы долго работали, пренебрегая сном, то вы вряд ли будете довольны результатом).

Так что не просто соотносите то, как они появляются вместе. Замечайте еще и причинно-следственные отношения. Пока вы не разовьете осознанность достаточно, чтобы обнаруживать их напрямую, вам может понадобиться определенный ретроспективый анализ для того, чтобы понять цепочку сложнее, чем «я был голоден и думал о сыре, так что я съел немного». И замечайте интересные пропуски. Если с вами происходит то, что обычно считается грустным, и вы не можете обнаружить грусти ни в своих эмоциях, ни в физических реакциях, это очень важные данные.

Эти соотношения сформируют строительные блоки для вашего первого уточнения модели, которая базируется на исходных данных, которые вы извлекли из внешних источников.

Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 3.4 (13 votes)

Свет, Камера, Мотор!

Ханна Финли

Следует регулярно и часто уделять внимание ключевым ментальным событиям, так как важные мысли могут проскакивать очень быстро или случайно, а вам нужно поймать их.

Возможно, вы поймете данный пост лучше, если прочитаете третью из Семи Сияющих Историй.

Быть осознанным трудно, и вы сами — сложный объект. Нельзя задуматься на десять минут за коктейлем, а потом объявить, что все о себе поняли. Вам придется долго работать, поскольку некоторые эффекты не заметны сразу. Если ваши эмоции зависят от смены времен года или от важных событий, то первая фаза работы займет у вас целый год — или всё время до наступления события, которые, кстати, не происходят каждый второй вторник. Вдобавок, вы не сможете собрать модели хорошего качества из обрывков самонаблюдения длительностью в пять секунд; продолжительные линии познания тоже важны и могут потребовать значительного времени для полного раскрытия.

К сожалению, наблюдение за мыслями неизбежно их меняет. При достаточном уровне самоанализа это не повлияет на точность вашего представления о себе в общих чертах; в принципе, нет причины не тратить все свое время на наблюдение мыслей и формирование мета-идей в реальном времени, но по сути это не происходит. Поэтому некоторые данные нужно вытаскивать из памяти. Чтобы уменьшить ошибку введения, которая возникает при получении информации из области хранения, следует систематизировать только самые недавние мысли. Возможно, стоит придумать систему напоминаний извне, чтобы периодически обращать свое внимание на происходящее внутри — как в текущий момент, так и за последний небольшой промежуток времени. Это может быть специальная система (например, таймер, который срабатывает каждые полчаса), или можно привязать подходящие напоминания к окружающим событиям, например, к вопросу «Как дела?».

Когда вы занимаетесь самонаблюдением, нужно многое отслеживать. Вот к примеру:

О чем вы думали? (Это может быть более, чем одна вещь. Вы — система в значительной степени распараллеленная.) Это идея, изображение, ощущение, желание, убеждение, человек, объект, слово, место, эмоция, план, воспоминание…?

Насколько сильно вы были заняты этим? (Эта тема сама по себе ограниченная или многогранная?) Может ли что-то еще (чувственные, когнитивные, эмоциональные элементы) нарушить вашу концентрацию, и как вы реагируете на подобное вмешательство?

Что вы чувствуете по отношению к предмету ваших мыслей? Это не только эмоциональные реакции наподобие «это угнетает» или «ух ты!», но и то, что вы хотите сделать по отношению к этим мыслям (и хотите ли), и насколько важными или интересными вам кажутся эти мысли.

Как вы в общем ощущаете процесс мышления? (Я провела неформальный опрос на эту тему и не получила двух одинаковых ответов. Занимательно, но это может быть ключом к понимаю того, чем вы отличаетесь от других, и таким образом — к уточнению вашей модели себя по отношению к общей исходной информации, с которой мы начали.) Представление о стиле вашего мышления может помочь в исследовании данных, собранных в ходе самоанализа, хотя не стоит забывать, что они зачастую метафоричны. Ответы могут отличаться, когда вы думаете «активно», то есть новая информация образуется в вашем сознании, и когда вы думаете «пассивно» — читаете или слушаете какую-либо информацию и впитываете содержимое по мере его появления.

Какие воспоминания всплывают в ответ на мысли, и всплывают ли: похожие ситуации из прошлого, не связанные явным образом истории, которые появляются без причины, события, при которых вы поняли ключевые идеи, относящиеся к теме размышлений? Формируют ли эти мысли ожидание будущего — план, страх, надежда, предвкушение, волнение?

Что вы воспринимаете сейчас чувственно? Сюда входят не только изображение, звук, запах, прикосновение и вкус, но и температура, проприорецепция (чувство ориентации в пространстве) и внутренние ощущения, такие, как голод или тошнота. Можете ли вы определить, как это все взаимодействует с мыслью?

Данных не может быть слишком много. (Хотя вы можете собрать слишком много данных в одной ситуации по сравнению с другой, и это разбалансирует ваши модели, поэтому стоит приложить согласованные усилия для диверсификации ситуаций и моментов для их анализа.) Когда вы собираете данные, установите для них соотношение, чтобы узнать, что могут привнести в вашу жизнь различные компоненты ваших мыслей.

Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 5 (3 votes)

Луч света

Ханна Финли

Исследовать мысли легче и правильнее, если они находятся не в вашей голове. Переведите их в другую, внешнюю форму и смотрите на них так, как если бы они принадлежали кому-то еще.

Вы сможете понять данный пост лучше, если прочитаете четвертую из Семи Сияющих Историй.

Одна из проблем самоанализа состоит в том, что выводы, которые вы делаете о ваших мыслях, — это тоже мысли. И конечно, мысли могут меняться или исчезать прежде, чем вы извлечете из них информацию о себе. Если меня настиг случайный приступ злости, он может продлиться достаточно долго, чтобы заставить меня взорваться, но исчезнет до того, как я пойму, что злость была беспричинна. Если бы мысли не были такими ненадежными, не стоило бы беспокоиться об осознанности. Поэтому, если вы серьезно занимаетесь развитием осознанности, вам нужен способ представлять ваши мысли в определенном формате, который будет их хранить.

Вам нужно переместить ваши мысли за пределы вашей головы.

Записывать их — очевидный способ, по крайней мере для меня. Вам не нужно публиковать записанное, так что нет необходимости в эстетичности или грамотности, просто делайте записи удобными для себя. Главное — придать им форму, которую вы сможете использовать без необходимости продолжать самоанализ. Не имеет значения, чертите ли вы, пишете или поете, — просто скидывайте содержимое вашего мозга вовне и смотрите. Легко обмануть себя, считая, что какая-то идея логична; обмануть кого-то другого сложнее. Запись мысли автоматически запускает механизмы, которые мы используем для общения, помогая самоанализу оставаться на высоком уровне.

Чтобы перевести ваши мысли в не-мысли, используйте ярлыки для их отображения. Распределяйте их по ссылочным классам так, чтобы можно было заметить, когда такое же суждение, шаблон мышления или поток познания возникнет вновь. Таким образом вы сможете опознавать схемы: «Эй, когда я чувствовал подобное в прошлый раз, я сказал то, о чем потом жалел; нужно быть осторожнее.» Если вы можете распознать то, что случается дважды, вы сможете уловить и тот момент, когда это не происходит; а новые настроения или черты характера потенциально крайне важны. Они означают, что вы или что-то вокруг вас изменилось, и это может быть как полезным ресурсом, так и коварной помехой.

Ваши метки могут выражаться в стандартных терминах или же нет — если вы хотите называть ощущения от того, что у вас из рук упало мороженое, «белой горкой», никто вас не остановит. (Словарь эмоций, который в значительной степени совпадает со словарями окружающих, может быть полезен позже, когда вы пытаетесь поделиться вашими выводами о себе; но вы можете в любой момент составить словарь для подобного перевода.) Стоит распознавать, насколько помеченные явления похожи друг на друга (например, раздражение больше похоже на ярость, чем на ликование), и иметь способ отразить это в вашей системе символов. Подобные сходства делают более очевидным то, какие стратегии перехода из одного состояния в другое вы используете.

В том случае, если вы думаете не словами, вам может показаться довольно трудным преобразовать свои мысли в то, что будет их отображать. Возможно, например, что вы думаете образами, но рисовать не умеете. Это один из шагов в осознанности, которые, по моему мнению, можно пропустить, так что, если вы искренне не можете придумать, как записать танец вашего сознания для последующего самоанализа, вы можете просто работать над мышлением очень осторожно, чтобы заметить то, что повторно появляется в ваших мыслях. Я рекомендую проводить по меньшей мере пять-десять минут, пытаясь записать, сделать диаграмму, нарисовать, пробормотать или выразить танцем вашу ментальную активность прежде, чем вы определите ее как несостоятельную.

После того, как вы выразили свои мысли в видимой или звуковой форме, проанализируйте их как мысли другого человека, который это написал. (За исключением того, что это как бы код, который понятен только вам, так что вам не нужно проводить криптоанализ.) Что вы думаете об описанном человеке, если бы вы ничего больше о нём не знали? Как бы вы могли объяснить эти мысли? Какие потоки размышлений идут в фоновом режиме от одного убеждения к другому, или от восприятия к убеждению, или от желания к намерению? Каких следующих действий вы бы ожидали от этого человека? Что бы вы могли еще предположить о человеке? И что еще вы хотели бы знать? Если вы встретите этого человека, как вы удовлетворите свое любопытство без того, чтобы полагаться на перегруженный искажениями ответ, который вы получите в ответ на вербальный запрос? Попробуйте прямо сейчас — в комментарии к этому посту, если хотите: запишите, как получится, что вы думаете. Отключите внутреннего критика и посмотрите со стороны: что должно происходить в сознании, которое скрывается за написанным?

Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 5 (3 votes)

Блики и тени

Ханна Финли

Неотъемлемой частью процесса развития осознанности являются решения о том, какие части себя вам нравятся, а какие — нет.

Понять эту статью гораздо лучше вам поможет пятая из «Семи Сияющих Историй».

По мере того, как вы раскрываете и понимаете в себе что-то новое, вы можете обнаружить, что вам нравятся некоторые вещи и не нравятся другие. Абсолютно довольные собой люди обычно подвержены либо редкому высокомерию, либо еще более редкой святости, которые отличаются безграничным одобрением себя. К счастью, как и было обещано во втором посте, осознанность поможет определить, что вам хотелось бы изменить, и понять, что у вас уже есть.

Но что менять?

Важный шаг в развитии осознанности — это сортировка ваших мыслей и ощущений не только по типу, соотношению, силе и т.д., но также по тому, насколько вы их одобряете. Вы одобряете мысли, которые вам нравятся, в которых находите отражения ваших лучших черт, предпочитаете видеть в действии и желаете оставить неизменным (по крайней мере, пока они полезны). И наоборот, вы отвергаете те мысли, которые вам не нравятся, считаете проявлением своих отрицательных свойств, неэффективными, которые хотите изменить или полностью от них избавиться.

Решить, что есть что, может оказаться сложной задачей. Нужно будет не раз просеять ваши желания, чтобы окончательно разобраться, хотите ли вы хотеть торт, или нравится ли вам то, что вам нравится спать, или нужно ли вам ваше предпочтение преференциализма. Хорошо было бы начать с целей макро-уровня и теоретических обязательств (т.е. если предпочтение имеет силу, служит ли оно вашей жизненной цели, прямо или косвенно? Если у вас есть метаэтические представление о правильном и неправильном, побуждает ли эта тенденция, которую вы в себе открыли, делать правильные вещи?).

В качестве второго подхода вы можете поработать с информацией, которую собрали, когда коррелировали ваши ЭПО. Как вы чувствуете себя, когда оцениваемое желание удовлетворено? Когда оно не удовлетворено? Выводит ли вас из строя неудовлетворенность? Улучшает ли исполнение желания вашу производительность? Вы можете окончательно удовлетворить его? Если обычно вы не можете удовлетворить это, будет ли проще изменить желание или изменить обстоятельства, которые препятствуют его удовлетворению? Впрочем, это второй шаг. Вам нужно узнать, какие эмоции и поведение предпочтительны для вас, до того, как начнете оценивать желания (и другую ментальную активность) по их значимости; оценка эмоций и поведения — сама по себе упражнение в одобрении и отказе.

Знать, что вам нравится и что не нравится в вашем сознании, это здорово. Когда у вас есть эта информация, вы можете сразу же ее использовать: мне кажется полезным отмечать выражение своих эмоций словами «одобрено» и «не одобрено». Таким образом, окружающие могут использовать эту классификацию; тогда они не будут считать, что я считаю правильным все, что чувствую, и не будут присваивать мне свои собственные предпочтения. И то, и другое будет в равной степени ненадежно и приведет к тому, что у людей будут неверные модели меня; мне до сих пор не удалось избавиться от всех своих нежелательных особенностей, и мои шаблоны одобрения не соответствуют шаблонам окружающих людей или их ожиданиям.

Вдобавок, раз вы знаете что вам нравится и не нравится в вашем сознании, вы можете начать прогрессировать в увеличении отношения хороших характеристик к плохим. Люди часто делают случайные продвижения пытаясь «стать лучше», но когда «лучше» значит «стать ближе к смутно определенным интуитивным представлениям о морали», это не та цель, к которой стоит стремиться. Конкретные проекты наподобие быть более щедрым или внимательным это уже ближе, однако наибольшее имеющее значение преимущество в само-обзоре приходит от осознания движения поведения в нежелаемом направлении и прекращения его еще в зародыше. (Больше об этом — в «Тенях от лампы»). Шансы низки, что ваши шаблоны мозга находятся достаточно близко к стандартным достоинствам, чтобы быть полезными целями. Лучше планировать опознать то, что уже есть, и тогда одобрять или отказываться от этих обработанных мыслей и работать с ними по мере их появления, вместо подмены их неестественными категориями.

Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 5 (Всего оценок: 1)

Город огней

Ханна Финли

Для того, чтобы понять свою психологию и выявить сложность своей структуры, вы можете представить себя не как единое целое, а как систему из нескольких агентов.

Понять эту статью вам станет гораздо проще после прочтения шестой из «Семи Сияющих Историй».

Пытаясь разобраться в запутанном клубке черт своего характера, вы, вероятно, натолкнетесь на ряд противоречий. В вас могут одновременно уживаться несколько противоположных точек зрения, вы можете переключаться между разными типами мышления или даже верить в явно противоречащие друг другу вещи. И эта путаница еще больше затрудняет процесс самопознания.

К сожалению, у нас нет ни словаря, ни даже мысленной модели, которые позволили бы свободно описывать себя (или других людей) как совокупность множества субъектов. То, что обычно получается, больше похоже на туманное описание двойственности («Я счастлив, и в то же время мне немного грустно! Странно!»), чем на глубокий конфликт, который занимает наши мысли. Модели человеческой психики, которые ближе всего к разрешению этой неразберихи, — это то, что я называю «мультиагентными моделями». (Примечание: я понятия не имею, как то, что я собираюсь описать, соотносится с реальными психиатрическими заболеваниями, включающими в себя множественность личности, голоса в голове или другие подобные явления. Я описываю мультиагентные модели, реализуемые психически цельным человеком).

Мультиагентные модели известны довольно давно: уже в «Государстве» Платона говорится о страсти (которая непостоянна сама по себе), духе и интеллекте, формирующих триединую душу. Платон обсуждает их функции, как если бы каждая из них имела свой собственный орган и могла при возможности воспринимать, желать, планировать и действовать (включая возможность подавлять две другие, чтобы управлять душой единолично). Ненамного отличается и структура, предложенная Фрейдом, — модель ид/суперэго/эго. Понятие мультиагентности появляется и в искусстве. Это на удивление распространенный и естественный способ описания сложного ума обычного человека. Конечно, говорить об этом как о чем-то реальном, а не как о способе развития психологических теорий или понятия идеальной городской планировки, или о драматизации морального конфликта, может показаться нездоровым. Дайте мне минуту — у меня есть данные более, чем из одного источника, что подобная практика полезна.

Нет причины ограничивать себя традиционными мультиагентными моделями, одобренными давно умершими философами, психологами или карикатуристами, если вам больше подходит другое деление. У вас может быть два «Я», или пять, или двенадцать.(Иметь больше, чем вы можете отследить, я не рекомендую; если «Я» слишком много, то это может оказаться признаком болезни. Если группа из нескольких «Я» формирует устойчивый блок, лучше будет объединить их в одного субагента.) Выделяйте ключевой элемент или поощряйте краткие выступления периферийных элементов. Называйте их описательно или по структурам мозга, или по цветам радуги — как вам будет удобно их различать. Говорите с собой вслух или пишите, или просто думайте в форме диалога, если вы считаете, что у вас так получится лучше. Несколько примеров того, что может выступать в качестве субагентов:

Желания или блоки желаний, сложные и возвышенные («хочу, чтобы всем было хорошо») или простые и низменные («хочу пирога»).

«Внутренний ребенок» или подобные ролевые группировки свойств характера («профессиональный Я», «семейный Я», «хобби-Я»).

Склонности и принципы высшего порядка («совесть», «невроз», «чувство справедливости»).

Мнения или точки зрения, как конкретные в данной ситуации, так и общие тенденции («оптимизм», «взгляд со стороны»,»Я должен делать Х»).

Изначально неопределенные, постепенно влияющие на личность субагенты, если ничего определенного не проявляется (которые можно назвать, не подразумевая ничего конкретного, например, производным от своего имени).

Основываясь на практических наблюдениях разных людей, можно определить одного из субагентов как «вы». На деле один субагент может быть определен только как «вы» — очень трудно ослабить влияние опыта монолитного наблюдателя. Это неплохо, особенно если «вы» одобряет и отвергает, но не позволяйте одобрению и осуждению ускользнуть из-под вашего контроля, когда выполняете подобные упражнения. Вам нужно взаимодействовать со всеми вашими субагентами, не только с теми, которые вам нравятся; у субагентов может проявляться манипулятивное и даже мстительное поведение, когда вы даете им право голоса, например, если вы определили ваше желание пирога как субагента и подавляли его годами, вы можете обнаружить, что Желание пирога злится на Сдержанность и плохо о ней отзывается. Желание пирога не утихомирится, если вы просто одобрите его в обход Сдержанности, в то время как Желание пирога просто пытается сказать о вашей отчаянной тяге к тирамису. До тех пор, пока вы не поймете Желание пирога достаточно хорошо, чтобы избавиться от него, вам нужно работать с ним. Прямое противостояние, обычное осуждение скорее всего сделают его злее и изобретательнее в попытках заставить вас съесть пирог.

Несколько вспомогательных заметок по субагентам:

Ваши субагенты могут удивить вас больше, чем вы ожидаете от… ну… себя, и это делает данное упражнение очень полезным. Если же вы будете управлять диалогом, вы немногое получите — выйдет так, что вы просто пишете фанфик про работу своего мозга, но на самом деле про эту работу ничего нового не узнаете.

Не все субагенты будут «заинтересованы» в каждой вашей проблеме и не будут постоянно высказываться. (Желание пирога скорее всего не заинтересуется тем, как вам себя вести на свидании на следующей неделе, однако оно оживится, когда подойдет время заказать десерт).

Ваши субагенты не должны лгать друг другу напрямую («должны» в предикативном, не в нормативном смысле — дайте мне знать, если ваши будут так делать), но они могут угрожать, вести переговоры, прятаться и совершенно не знать о себе.

Ваши субагенты могут взаимодействовать неэффективно. Субагент-переводчик может оказаться полезным, если возникнет проблема с пониманием.

(Опишите ансамбли ваших субагентов в комментариях, чтобы вдохновить других! Напишите диалоги между ними!)

Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 5 (Всего оценок: 1)

Тени от лампы

Ханна Финли

Вы можете использовать осознанность для того, чтобы помочь себе превратиться в того, на кого вы хотите быть похожим. Завершите это путем исправления результатов своих опытов над самим собой так, чтобы они оказались положительными.

Вы можете обнаружить, что понимаете этот пост лучше, если прочитаете седьмую из «Семи Сияющих Историй».

Когда у вас есть последовательные модели себя, эмпирически выгодно подвергнуть их испытанию.

Дело в том, что, когда вы испытываете себя, вы знаете, какой тест проводите и какие данные подтвердят каждую из гипотез. Кроме того, вы и есть субъект, генерирующий данные. Это создает сложности для надежного научного контроля за экспериментами такого рода.

К счастью, оказалось, что контроль для данной цели не обязателен! Помните, что вы не просто пытаетесь определить, что происходит в устойчивой части вашей личности. Вы также по возможности оцениваете и изменяете то, что отвергаете. Вы можете позволить выводам из наблюдений за собой изменить ваше поведение; более того, вы можете напрямую влиять на результаты тестов.

Предположим, что ваша модель себя предсказывает, что вы сделаете то, что, как вам кажется, вам не стоит делать; предположим, например, что она предсказывает, что вы накричите на кузину в следующий раз, когда она зайдет к вам и испачкает ковер, и вы думаете, что вы не должны кричать. Тогда вы можете опровергнуть эту модель тем, что промолчите: безусловно, если вы не накричали, то вас нельзя точно описать моделью, которая предсказывала обратное. Удержавшиcь от крика, вы сдвигаетесь к более точной модели наподобие «может накричать, если не будет думать перед тем, как сказать» или «ранее кричал, однако смог измениться». И если вас описывает подобная модель, а не та, в которой вы кричите, …вы не можете кричать.

(Заметим, конечно, что подмена «кричащей» модели той, где вы молча поднимаете вашу кузину и выкидываете из окна, — это не улучшение. Вы хотите заменить модель, которая вам не нравится, на более подходящую. Если у вас не получается — если контролировать свой крик вам трудно настолько, что у вас руки чешутся выкинуть кузину в окно, да так, что вы почти уже делаете это — тогда вам следует отложить подмену модели до лучших времен.)

Теперь, осознание того как не накричать (давайте не будем забывать о несдержанности, в конце концов) будет легче, поскольку у вас есть понимание того, что заставляет вас это делать в первую очередь. Вооруженные этим знанием, вы можете определить как управлять обстоятельствами чтобы предотвратить срабатывание триггеров крика самих по себе. Или вы можете попробовать более трудную, но более стабильную психическую перестройку от обстоятельств к поведению.

К сожалению, я не могу быть конкретней как это хотелось бы, поскольку очень много зависит от точных привычек вашего мозга, так отличающегося от любого другого, включая мой. Вам может потребоваться попробовать несколько разных стратегий, прежде чем вы найдете ту, что работает для вас и позволяет изменить то, что вам нужно изменить. Вы можете обнаружить что успешные стратегии со временем слабеют и нуждаются в замене и обновлении. Вы можете обнаружить что слушать других людей полезно (пишите техники ниже!) — а можете и не обнаружить.

Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 5 (Всего оценок: 1)

Урешику Наритай!

Ханна Финли

Это дополнение к цепочке про осознанность. В одном из комментариев я упомянула, что подняла свой уровень счастья (среди прочего) и это заявление было встречено с немалым интересом. Некоторые из подробностей уже подзабылись, однако ниже я воссоздам для вашего анализа то, что могу, о том процессе. Он содержит множество личных самооткрытий; пропустите их, если к вам это не относится.

В общем: я решила что я должна и хочу быть счастливее; я переименовала мои настроения и соответствующим образом подошла к управлению ими; также я обозначила управление настроением и поведением (включая поиск новых методов) как высокоприоритетное занятие. Теперь каждый шаг более подробно:

  1. Я пришла к пониманию необходимости стать счастливее. Быть несчастной не просто не приятно. Это опасно: у меня даже как-то были мысли о суициде. В жизнь я их никак не воплощала, в основном потому что я присоединяла надежды на улучшение к конкретным внешним признакам (различным академическим продвижениям) таким образом воображала себя как магически исцеленную, когда получала следующий диплом (и следующий, и следующий.) Однажды я заметила, что я делаю, это было неприемлемо. Если я хотела жить, я должна была найти безопасное эмоциональное место в котором могла бы остаться. Это должно было быть моим главным приоритетом и требовало следующих под-проектов:

    • Я должна была избавиться от багажа, который говорил мне что это обычно или уместно чувствовать себя плохо большую часть времени. Я одобряю мою способность реагировать эмоционально на мое окружение: но это должно быть кратковременным, а не хроническим. Реагировать эмоционально это ощущать себя хуже, если вещи становятся хуже, а не ощущать себя плохо несколько месяцев или лет подряд. (особенно не когда ощущать себя плохо снижает способность делать вещи менее плохими.) Далее, иметь низкий уровень счастья не повредит мой эмоциональный спектр за исключением его уменьшения; это уменьшить возможное влияние реального горя и не будет смешиваться с планом «реагировать эмоционально». Низкий уровень также ставит под угрозу мою способность реагировать эмоционально на позитивные новости, поскольку присоединен к систематическому уменьшению такой позитивности.

    • Я должна избавиться от багажа, который говорит мне что невозможно когнитивно менять мое настроение. Настроения соответствуют мыслям и хотя это может быть трудно — избегать мышления о вещах, я могу решить думать о том, о чем хочу. Десятилетия приема различных антидепрессантов не оказали воздействия, что представляет собой сильное свидетельство в пользу того, что моя проблема не в химическом балансе. И было легко увидеть что мое настроение меняется в малых масштабах при вещах под моим полным или частичным контролем, наподобие сна, диеты и активности. Это не кажется чем-то из ряда вон выходящим, что долгосрочные вмешательства большого масштаба могли иметь похожие эффекты на мое настроение в целом.

    • Я должна решить и действовать в соответствии решением, что мое счастье важно и стоит моего времени и внимания. Я должна уделять внимание и замечать что помогает, а что мешает. Я должна поместить увеличение помогающих факторов и снижение мешающих на вершину моего списка всякий раз когда это возможно, и ослаблять мои стандарты на тему «дистанционной доступности» чтобы предотвратить самосаботаж. И я должна подтвердить отказ от контрпродуктивных проектов или воздействий по меньшей мере пока я не разовью стабильность при работе с эмоциями которые они генерируют без того, чтобы постоянно пребывать в подавленном состоянии.

  2. Я переобозначила мои настроения так чтобы опознавать их в момент побуждения правильных действий. Когда данная точка на шкале счастье-несчастье — назовем ее «2» по шкале от от 1 до 10 — было обозначено как «нормальное» или «начальное», тогда когда я ощущала «2», я не предполагала что это значит что-то особенное; это было исходное состояние. Это давало мне возможность находится в состоянии «2» большую часть времени, и когда вещи становились хуже, я опускалась ниже и ожидала, пока вещи во внешнем мире исправяться, чтобы я могла подняться. Проблема была в том, что «2» не было хорошим местом, чтобы проводить там много времени.

    • Я должна была обозначить старую стартовую точку как субнормальное, проблемное состояние, которое создает необходимость в немедленных действия от меня по его исправлению. Это было похоже как будто говоришь мне, неведомо для меня, моя левая нога постоянно болела, требуя лекарств; при этом принимать их было бы трудно, учитывая то, что моя левая нога всегда чувствовала себя одинаково, пока я не ударялась или получала массаж. Но в конце концов я прикрепила актуальность к старой стартовой точке. Это было не то, что все в порядке; это был знак, что что-то не так.

    • Я должна была убедиться что у меня есть множество доступных и дешевых оправданий чтобы взбодриться, так что я не попаду в ловушку «ну только раз» оставляя себя в состоянии «2» вместо того, чтобы действовать. Я назначила одну пару носков любимой и носила их всякий раз когда вставала с неправильной стороны кровати; я приобрела привычку сохранять каждый рисунок милого животного который я находила в Интернете, так что я могла пролистать коллекцию всякий раз, когда мне требовалось; я заставила себя развивать навык приобретения друзей с целью что если у меня будет много друзей и я зайду в чат, кто-то будет там чтобы поговорить со мной; я стала жадной до недорогих товаров наподобие музыки или интересных вебсайтов. Когда одно из этих средств не срабатывало, я заставляла себя попробовать что-то еще, вместо того, чтобы погружаться в грустный внутренний диалог «ну, это не помогло; наверно что-то на самом деле не так и я должна чувстовать себя плохо, пока все не наладится само собой». Я также приспособила мою склонность чувствовать себя лучше после ночного сна — если я ощущала себя плохо и при этом было позднее время — я ложилась спать, резонно ожидая что утром будет лучше.

    • Я прекратила мириться с незначительными ранениями моих эмоций, которые я идентифицировала как наиболее постоянные и, таким образом, по большей части вероятно вносящие вклад в мое плохое состояние. Например я заметила что я всегда сплю лучше когда я не ложусь спать, ожидая что утром меня разбудит будильник, так что я переделала мое расписание так, чтобы утром было время поваляться в кровати, и нашла такой будильник, который будит меня максимально мягко, если мне обязательно требуется встать. Я распозанала людей, которые вводят меня в состояние фрустрации и опустошенности и ограничила взаимодействие с ними как ограничением возможностей вообще вступать с ними в контакт, так и путем удаления моих стандартов, что нельзя брость разговор посередине, так что я могу уйти раньше, чем вещи станут очень плохими. В общем я практиковалась в «выписывании вещей» и репетиции внутренний монологов, в которых я объясняла себе что нет необходимости волноваться об Х. («Я не могут управлять скоростью автобуса. Я села на него и он доедет тогда, когда доедет. Нет необходимости волноваться об опоздании пока я снова не пойду пешком — так что я остановлюсь. Чтобы управлять моим сильным навязчивым желанием успеть вовремя, я начну думать о том, как выбрать наилучший путь, который мне надо выбрать когда я сойду с автобуса.»)

    • Я обозначила мою новую желаемую стартовую точку — безопасную область спектра, назвала ее «5», которая была амбициозна но достижима — как «нормальную». При вопросе как я себя ощущала в этом состоянии, я сознательно выберу сказать что я была в порядке, вместо того чтобы с энтузиазмом воскликнуть «великолепно», как я бы сделала раньше — энергия, которую я ощущала на точке «5» больше не должна была быть чем-то экстраординарным. Подобным образом, нет подходящих оснований для совершения вещей, которые не нравятся. На «5» я не испытывала счастья — я ждала пока я стану еще лучше, пока не расслабиться моя эмоциональная жадность. Вместо этого, «5» была хорошим местом для предприниятия более продвинутых экспериментов, предлагаемых процессом улучшения. (более сложными нежели выбор определенной пары носков для надевания — начало ДнД игры, или хождения вокруг, исследования новой локации или работы над куском арта или фанфика; интервал времени и усилия сделали их бедными «ободряющими» усилиями, но прекрасными путями для получения состояний от «5» до «6» или «7».

    • Я сделала точку отметки не-грустных недостатков в моем статусе, наподобие скуки, голода, усталости, или раздражения. Они напрямую не связаны со стартовой точкой, которую я пытаюсь ощущать, но они могут усиливать плохое влияние или ограничивать силу хорошего. Вдобавок, на уровне осознанности на котором я должна работать, они также могут маскировать настроения, которые на самом деле грустные, примерно так же как кто-то может ощущать голод, когда на самом деле хочет пить.

  3. Я обозначила мое настроение как управляемое. Мышление об этом как о чем-то что атакует меня без закономерности или причины — лечения депрессии наподобие простуды — не просто стоит мне возможности сражаться с ним, но также делает целую ситуацию кажущейся бесконтрольной и безнадежной. Я не доверяю выученной беспомощности: я решила что лучше всего интерпретировать мою раннюю статистику нахождения в стартовой точке как показатель того, что я еще не обнаружила верных техник, нежели как индикацию что это непреложный и постоянный порядок вещей. Вдобавок, факт что я не знаю как это исправить еще значит что если собиралось стать моим главным приоритетом, я должна относится к ценности данной информации как к очень высокой; это стоило эксперимента и я не должна ждать гарантий, чтобы сделать это.

    • Даже если я определила что мое настроение реагирует каким-то методом на мое окружение, это убирает мою власть только над одним шагом: я могу контролировать мое окружение в определенной степени и с достаточно сильной причиной это делать я смогу деактивировать эту силу. (Это иногда имеет неожиданные и драматичные последствия. Для примера, когда я определила что аспирантура больше не совместима с моим счастьем, я бросила ее настолько быстро, насколько могла, хотя это было перспективное время — середина семестра — и отправилась в путешествие по стране. Могу добавить, что это дало отличный эффект.)

    • Даже если у меня на тарелке много всего, быть счастливее поможет мне делать это. Это похоже на сон: легко бодрствовать и бодрствовать, потому что сон кажется таким непродуктивным, и вы можете сделать немного работы, однако вы устаете. Но в долгосрочной перспективе, давая себе часок-другой нормального сна позволит вам сделать больше, и находится при этом в хорошем настроении. Управлнение настроением обычно не наиболее продуктивная вещь в кратковременной перспективе, которую я могла делать, однако рассмотрение его как главного приоритета в сложных ситуациях позволило мне быть более эффективной чем я была раньше.

    • Я должна была быть готова тратить ресурсы на мой проект. Это включало в себя работу над неврозами, наподобие моего нежелания тратить деньги и преодоления некоторого фонового нежелания пробовать новые вещи. Также мне пришлось позволить себе быть зависимой от своих прихотей. Я все еще не знаю что с моим настроением делает, скажем, предмет искусства, которое меня поражает, но когда это происходит, я должна творить или потеряю направление. Имеющие силу направления делают забавные вещи очень ценны для меня и таким образом когда возможно я не сдерживаю их, даже если это стоит времени и перекрывает другую деятельность.

Перевод: 
Remlin, timur.perevos
Оцените качество перевода: 
Средняя оценка: 3 (Всего оценок: 1)

Как получить удовольствие от неприятной компании

Ханна Финли

В одном из комментариев я упомянула, что могу любить людей целенаправленно. В ответ на просьбу рассказать как это возможно, я написала свои советы в виде поста. Я не включила и не буду включать любые конкретные примеры из жизни (все нижеприведенное выдумано), потому что я беспокоюсь о том, что люди, которых я люблю целенаправленно, расстроятся, узнав, что это о них, хотя симпатия (некогда вызванная) совершенно искренняя. Если кто-то считает что полезно было бы что-то конкретизировать в большей степени, я постараюсь придумать историю, которая восполнит недостаток.

Любить людей полезно. С одной стороны, если вам приходится находиться в их обществе, то это более приятно. С другой, ну, они часто разговаривают, и если они знают, что они вам нравятся, они чаще будут склонны помогать вам. Таким образом очень удобно уметь полюбить кого-то независимо от того, что человек представляет собой на самом деле. Есть три простых компонента для того чтобы любить кого-либо целенаправленно. Первое — снизьте значимость плохих черт путем отсекания, видоизменения и преуменьшения их; второе — увеличьте значение положительных черт путем распознания, анализа и восхищения ими; и третье — ведите себя так, чтобы убрать эффекты предвзятости.

1. Снизьте важность плохих черт.

Подумайте о чертах, которые вам не нравятся в этом человеке — это могут быть несколько надоедливых привычек или список из серьёзных пороков, длинный, как ваша рука, но убедитесь, что знаете, какие это качества. Отметьте, что каким бы большим ни был список, он не обо всём человеке. («Обо всём!» не является лучшим ответом на данном этапе.) Невозможно полностью описать человека, перечислив черты, которые вы в нём заметили. Обратите внимание, таким образом, что вам не нравятся эти качества в человеке, но это не обязательно связано с самим человеком. Положите список в «ящик» — отдельно, пока вы наконец не составите мнение о человеке.

Когда человек показывает характеристику, привычку или склонность, которая есть и у вас (или, возможно, просто ухудшит вас, оказавшись вашей), будьте начеку — это может быть ошибочная оценка поведения. Это особенно незаметно в том случае, если человек вам уже не нравится, так что важно компенсировать прямо и осознанно данное влияние. Повышайте осознанность мыслью об «истории ситуативного поведения», в которой вы рассматриваете обстоятельства, а не характерную черты, которые объясняют недавний пример плохого поведения. Это должна быть такая история, которую вы можете придумать, чтобы не прибегать к ворчанию насколько это ужасный человек — то есть не прибегать к «Ну, может, у нее мозг марсианина, но блин, насколько это возможно?». Лучше звучит «Я знаю знаю, что она легла спать поздно и она выглядит уставшей» или «может быть из-за того, что этот трехчасовой телефонный разговор, который сейчас завершился, был о чем-то ужасно напрягающем».

Самое лучшее время для практики этой привычки — это практика в автомобиле. Выдумывайте истории о неправильном поведении на дороге вокруг вас. «Солнце так ярко светит — она могла не заметить меня» «Эта машина выглядит старой! Я бы не смогла водить её хотя бы наполовину так же хорошо, неудивительно, неудивительно, что она постоянно глохнет.» «Он жутко опаздывает — может, у него что-то случилось с родственником?» «Возможно, она говорит по мобильному, потому что работает доктором, всегда на связи — будет хуже, если она не ответит на звонок во время вождения.» «Он бы остановился, будь у него место для этого, но здесь нет обочины.» Конечно, всё это скорее всего неправда. Но это разумные объяснения, и они не о том. что каждый водитель — безумец! Я подчёркиваю, что от вас не требуется верить этим историям. Просто признайте, что они правдоподобны, чтобы восполнить искажение гипотез подобно этой, что возникнет существенная ошибка восприятия.

Если такой информации нет, то попытайтесь предположить — «Я бы действовал так, если бы был простужен; может быть она заболела?» является допустимой спекуляцией даже при отсутствии других признаков простуды. Если возможно, будет хорошей идее спросить (искренне, с любопытством, уважительно, по-доброму! не обвиняюще, грубо, бесчувственно, воинственно!) почему человек поступает так, как он поступает. Будьте уверены, если человек психически здоров, то у него в сознании есть объяснение, которое не сводится к «Я ужасное оправдание для человека, который по своей натуре делает злые вещи просто, потому что ему нравится». (Заметим, однако, что не все могут вербализировать самосуждения, когда их попросят.) Вне зависимости от того, верите ли вы им или нет, убедитесь что вам известно по меньшей мере одно объяснение на основе обстоятельств для того, что они сделали.

Замечайте, какие ситуации вызывают больше плохого поведения, нежели другие. У каждого есть ситуации, которые вызывают худшее в них, и когда худшее уже действует вам на нервы, вы должны избегать по мере возможностей того, чтобы на поверхность всплыло еще более худшее. Если у вас есть влияние на роли, которые этот человек играет в вашей жизни (или вообще), ограничьте их теми, в которых их худшие привычки не имеют значения, смягчены или компенсируются местными достоинствами. Не просите забрать вас из аэропорта кого-то, кто ужасает вас своей скоростью; не предлагайте разрезать десерт тому, кто славится своим эгоизмом; не назначайте срочных задач прокрастинатору. Просите любителя быстрой езды доехать до банка, пока он не закрылся, когда вы (к сожалению) застряли дома; дайте эгоисту задачи где ему придется работать с комиссией; дайте прокрастинатору такие задания, которые ему не захочется откладывать.

2. Увеличьте значимость положительных черт.

Не смотрите на меня так. Это работает. По крайней мере с этого можно начать. Вам не нужно ждать, что вам понравится кто-то до тех пор пока вы не откроете, что они пожертвовали миллионы долларов на смягчение экзистенциальных рисков или узнали, что под псевдонимом они являются вашим любимым музыкантом. Вам может нравиться их крутая стрижка, или их молчаливость, или даже обувь. Вы можете ценить то, что они вынесли больше тягот, нежели вы (если вынесли, но постарайтесь «ошибиться» в оценке в нужную сторону) — даже если вы не думаете, что они хорошо со всем справились, все равно им было тяжело. Вы можете признавать что они лучше вас или лучше большинства, или лучше чем кто-либо из ваших знакомых, кто вам нравится, или они лучше в некотором навыке, некоторой сфере. Вы можете думать, что они сделали отличную работу по подборке их мебели, или перенесите на них ваше хорошее отношение к их родственникам или знакомым. Что-то всегда есть.

Узнайте больше о вызывающих симпатию фактах, которые вы обнаружили. «Поймайте их в действии», когда эти качества демонстрируются. В заключение к тому, что говорилось выше, создавайте ситуации, где эти качества будут выставлены не в плохом, а в лучшем свете. Добейтесь в этом успеха, безусловно и в ваших глазах. Поговорите с вашими общими друзьями о том, что ещё можно полюбить — узнайте, как человек находит друзей, что привлекает в нём людей, что люди извлекают из общения с ним. Спросите о добрых делах данного человека. Собирайте сведения, словно вы биограф, который страшится иска за клевету и боится написать слишком мало: вам нужно знать столько хороших фактов, насколько возможно.

В этом деле чрезвычайно важно развивать восхищение, а не зависть. Зависть и негодование приводят к обратным результатам, в то время как восхищение и уважение — какими бы сдержанными они ни были — являются шагом в верном направлении. Кроме того, вы постараетесь использовать эти особенности человека. Это не отдалит ваши цели, если вы не примете во внимание их значимость для огромного плана. Не думайте: «У неё классная причёска, почему же у неё такая классная причёска, хотя она ужасный человек и не заслуживает этого? Гр-р-р!» Вместо этого: «У неё такая классная причёска. На неё приятно взглянуть, вот почему здорово, когда она рядом. Интересно, у неё есть время научить меня укладывать волосы так же?» Или вместо «Конечно, он умеет говорить на латыни, но чёрт возьми, какой от этого прок? Он что, думает, что нас захватят легионеры и захотят, чтобы он был дипломатом?» будет полезнее для создания симпатии подумать «У многих людей нет терпения и стремления выучить какой-нибудь второй язык, тем более такой, у которого не осталось носителей, чтобы помочь и научить его тонкостям. Уверена, что он приложил к этому много усилий.»

3. Получите постоянный результат.

Будьте добры и внимательны к человеку. Велика вероятность. что ему что-то в вас не нравится (придирки чаще возникают у обеих сторон, а не у одной). Если вам удалось выяснить, что именно и делать это меньше — по крайней мере при нём — у вас возникнет смешанное чувство, что вы можете заставить себя полюбить этого человека. Иначе говоря, я думаю, почему бы вам не потрудиться не стучать пальцами в его присутствии, или не делать ошибок в его замысловатом имени, или помнить, на что у него аллергия, чтобы не приносить еду для всех, кроме него? Это то, что вы делаете, когда вам не наплевать на его чувства, а если вам не наплевать на них, значит он вам хотя бы немного нравится. (Берегитесь: если вы видите, что то, что вы делаете, раздражает его, и вы отвечаете с негодованием, что у него завышенные предпочтения насчёт глубоко укоренившейся части вашей личности и как он смеет, то вы что-то делаете не так. Главное не измениться до неузнаваемости, пытаясь быть его идеаль