Рациональность
В сообществе LessWrong под рациональностью понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих убеждений) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина "рациональность" наследуется из работ специалистов по когнитивной психологии, в частности, Кейта Становича.
Содержание
Эпистемическая рациональность
- (основная статья: Эпистемическая рациональность)
Эпистемическая рациональность — образ действий и мыслей, укрепляющий соответствие между местностью и её когнитивной картой, корректировка убеждений в свете новой информации. Искусство обретения убеждений, согласующихся с реальностью настолько близко, насколько возможно. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.
Инструментальная рациональность
- (основная статья: Инструментальная рациональность)
Инструментальная рациональность — реализация ваших ценностей. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична (в том числе из альтруистических, нравственных или эстетических соображений). Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».
Рациональность в теории и на практике
Идеальной математической моделью абсолютно рационального поведения является идеальный байесов агент:
- За счет математически оптимального способа извлекать информацию из наблюдаемых фактов (с помощью байесовских обновлений) он может строить настолько точную модель реальности, насколько физически возможно; это дает ему наилучший возможный уровень эпистемической рациональности;
- Обладая максимально точной картиной мира из возможных, и стремясь на ее основе выбирать действия, приводящие к наилучшей реализации его целей, он в итоге способен добиваться наилучших возможных результатов; это дает ему наилучший возможный уровень инструментальной рациональности.
Стоит, однако, иметь в виду, что такая оптимальность является потенциальной. В конкретных эпизодах идеальный байесов агент может как прийти к неверным выводам (из-за неудачного набора наблюдений, создающих ложное впечатление), так и не получить ожидаемого результата от наиболее многообещающих действий (из-за того, что на практике реализовался не самый вероятный из возможных сценарий развития событий). В подобных случаях агент, действующий "иррационально", может достичь лучших результатов (за счет простого везения в данном конкретном эпизоде), но на долгой дистанции результаты идеального байесового агента будут лучше.
При этом нужно понимать, что в реальности идеальный байесов агент не может быть реализован, т.к. для его работы требуются бесконечные объем памяти, быстродействие и точность вычислений. Реальные люди не обладают ничем подобным. Кроме того, архитектура человеческого мозга далека от теоретической архитектуры мышления идеального агента. Человеческий мозг эволюционно развивался в условиях дикой саванны, где действовал отбор, с одной стороны, на снижение энергопотребления мозга, с другой - на обеспечение минимально достаточного уровня эффективности мышления, чтобы человек имел приличные шансы дожить до репродуктивного возраста и затем размножиться и вырастить потомство. Результатом стала архитектура мозга, в которой большинство процессов мышления и принятия решений происходят автоматически на основе эвристик; обычно эти эвристики работают довольно хорошо, но в ряде случаев оборачиваются когнитивными искажениями и приводят к нежелательным результатам.
В реальности людям, стремящимся к рациональности, стоит иметь в виду, что их мозг в любом случае будет работать на основе эвристик Системы 1, а использовать Систему 2 в режиме 24/7 невозможно. Поэтому оптимальным на мета-уровне будет не подменять работу Системы 1 на работу Системы 2, а с помощью Системы 2 искать сценарии провала эвристик Системы 1 и дорабатывать эти эвристики так, чтобы они работали более успешно.
