Рациональность

В сообществе LessWrong под рациональностью понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих убеждений) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина «рациональность» наследуется из работ специалистов по когнитивной психологии, в частности, Кейта Становича.

Эпистемическая рациональность

• (основная статья: Эпистемическая рациональность)

Эпистемическая рациональность — образ действий и мыслей, укрепляющий соответствие между местностью и её когнитивной картой, корректировка убеждений в свете новой информации. Искусство обретения убеждений, согласующихся с реальностью настолько близко, насколько возможно. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.

Инструментальная рациональность

• (основная статья: Инструментальная рациональность)

Инструментальная рациональность — реализация ваших ценностей. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична (в том числе из альтруистических, нравственных или эстетических соображений). Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».

Рациональность в теории и на практике

Идеальной математической моделью абсолютно рационального поведения является идеальный байесов агент:

• За счет математически оптимального способа извлекать информацию из наблюдаемых фактов (с помощью байесовских обновлений) он может строить настолько точную модель реальности, насколько физически возможно; это дает ему наилучший возможный уровень эпистемической рациональности;
• Обладая максимально точной картиной мира из возможных, и стремясь на ее основе выбирать действия, приводящие к наилучшей реализации его целей, он в итоге способен добиваться наилучших возможных результатов; это дает ему наилучший возможный уровень инструментальной рациональности.

Стоит, однако, иметь в виду, что такая оптимальность является потенциальной. В конкретных эпизодах идеальный байесов агент может как прийти к неверным выводам (из-за неудачного набора наблюдений, создающих ложное впечатление), так и не получить ожидаемого результата от наиболее многообещающих действий (из-за того, что на практике реализовался не самый вероятный из возможных сценарий развития событий). В подобных случаях агент, действующий «иррационально», может достичь лучших результатов (за счет простого везения в данном конкретном эпизоде), но на долгой дистанции результаты идеального байесового агента будут лучше.

При этом нужно понимать, что в реальности идеальный байесов агент не может быть реализован, так как для его работы требуются бесконечные объем памяти, быстродействие и точность вычислений. Реальные люди не обладают ничем подобным. Кроме того, архитектура человеческого мозга далека от теоретической архитектуры мышления идеального агента. Человеческий мозг эволюционно развивался в условиях дикой саванны, где действовал отбор, с одной стороны, на снижение энергопотребления мозга, с другой — на обеспечение минимально достаточного уровня эффективности мышления, чтобы человек имел приличные шансы дожить до репродуктивного возраста и затем размножиться и вырастить потомство. Результатом стала архитектура мозга, в которой большинство процессов мышления и принятия решений происходят автоматически на основе эвристик; обычно эти эвристики работают довольно хорошо, но в ряде случаев оборачиваются когнитивными искажениями и приводят к нежелательным результатам.

В реальности людям, стремящимся к рациональности, стоит иметь в виду, что их мозг в любом случае будет работать на основе эвристик Системы 1, а использовать Систему 2 в режиме 24/7 невозможно. Поэтому оптимальным на мета-уровне будет не подменять работу Системы 1 на работу Системы 2, а с помощью Системы 2 искать сценарии провала эвристик Системы 1 и дорабатывать эти эвристики так, чтобы они работали более успешно.

Популярные заблуждения о рациональности

• Рациональность (в том смысле, в каком она понимается в сообществе LessWrong) часто путают с рационализмом. Однако, помимо общего корня, между ними мало общего. Более того, рациональность больше сближается с эмпиризмом, чем с рационализмом.
• Часто рациональность противопоставляют эмоциональности («эмоции нерациональны»). Классическим примером такого «неэмоционального рационалиста» является Спок из киновселенной Звездного Пути. Однако, в сообществе LessWrong принят консенсус, что эмоции ортогональны рациональности; при этом «эмоции, которые могут быть разрушены правдой, должны быть разрушены; эмоции, которые питаются правдой, должны процветать» (и то, и другое относится как к «позитивным», так и к «негативным» эмоциям). Кроме того, известно, что положительные/отрицательные эмоции служат в человеческом организме для положительной/отрицательной мотивации к достижению целей; наилучшим подходом среди рационалистов считается не избавление от этой регуляторной системы, а только более тонкая ее настройка и активное использование для достижения наилучших результатов. Наконец, поскольку рациональность направлена в том числе на достижение человеком своих целей и ценностей, то ожидается, что успешное их достижение будет вызывать у него положительные эмоции (радость, удовольствие, моральное удовлетворение); так что положительные эмоции (которые заземлены о реальные достижения) считаются вполне желаемым результатом.
• Поскольку представление о двух системах мышления и когнитивных искажениях, характерных для Системы 1, является очень важным в рациональности, у новичков часто создается впечатление, что мышление с помощью Системы 1 является «плохим», а с помощью Системы 2 — «хорошим», и следует как можно чаще использовать Систему 2. В действительности же эти две системы просто предназначены для разных задач, и более многообещающим будет научиться использовать каждую из них более эффективно. В частности, рекомендуется с помощью Системы 2 находить сценарии провала эвристик Системы 1, придумывать более оптимальные эвристики, и затем внедрять их в Систему 1. Таким образом, «более рациональным» будет не тот, кто чаще использует Систему 2, а тот, кто с помощью Системы 2 внедрил в Систему 1 больше «более рациональных» эвристик.
• Иногда можно встретить людей, которые приписывают «рациональности» другие подобные характеристики, сравнивая ее либо с деструктивной сектой, либо с «курсом саморазвития, [необоснованно] обещающим добиться больших успехов с помощью простых действий». В одних случаях такие якобы принадлежащие «рациональности» свойства рассматриваются в позитивном ключе, в других — подвергаются критике. На самом деле подобные интерпретации прямо противоречат идеям и ценностям, заложенным в Цепочки и другие мейнстримные тексты о LessWrong-рациональности; поэтому обычно такие мысли можно услышать от людей, которые сами не читали эти тексты. Это бывает и когда такие люди просто превратно понимают идеи рациональности, и когда они заслуженно критикуют как раз тех людей, которые превратно поняли идеи рациональности. В связи с этим, начинающим рационалистам обычно советуют, во-первых, знакомиться с рациональностью по первоисточникам («Цепочки» и другие тексты с сайта LessWrong с высоким рейтингом), во-вторых — при чтении держать в уме возможность неверной интерпретации, чтобы усвоить из прочитанного только «здоровые» идеи и не усвоить «нездоровые».

Статьи по теме

• Что такое рациональность

См. также

• LessWrong
• Две системы
• Когнитивное искажение