264
правки
Изменения
Расписал про заблуждения; прогнал викификатор
В сообществе [[LessWrong]] под '''рациональностью''' понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих [[Убеждение|убеждений]]) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина "рациональность" «рациональность» наследуется из работ специалистов по когнитивной психологии, в частности, [[Кейт Станович|Кейта Становича]].
== Эпистемическая рациональность ==
* (основная статья: [[Эпистемическая рациональность]])
Эпистемическая рациональность — рациональность — образ действий и мыслей, укрепляющий соответствие между [[Карта и территория|местностью и её когнитивной картой]], корректировка убеждений в свете новой информации. Искусство обретения убеждений, [https://lesswrong.ru/w/Простая_истина согласующихся с реальностью настолько близко, насколько возможно]. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.
== Инструментальная рациональность ==
* (основная статья: [[Инструментальная рациональность]])
Инструментальная рациональность — рациональность — реализация ваших [[Ценности|ценностей]]. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична (в том числе из альтруистических, нравственных или эстетических соображений). Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».
== Рациональность в теории и на практике ==
Идеальной математической моделью абсолютно рационального поведения является [[Агент|идеальный байесов агент]]:
* За счет математически оптимального способа извлекать информацию из наблюдаемых фактов (с помощью [[Байесовское обновление|байесовских обновлений]]) он может строить настолько точную модель реальности, насколько физически возможно; это дает ему наилучший возможный уровень эпистемической рациональности;
* Обладая максимально точной картиной мира из возможных, и стремясь на ее основе выбирать действия, приводящие к наилучшей реализации его целей, он в итоге способен добиваться наилучших возможных результатов; это дает ему наилучший возможный уровень инструментальной рациональности.
Стоит, однако, иметь в виду, что такая оптимальность является потенциальной. В конкретных эпизодах идеальный байесов агент может как прийти к неверным выводам (из-за неудачного набора наблюдений, создающих ложное впечатление), так и не получить ожидаемого результата от наиболее многообещающих действий (из-за того, что на практике реализовался не самый вероятный из возможных сценарий развития событий). В подобных случаях агент, действующий "иррационально"«иррационально», может достичь лучших результатов (за счет простого везения в данном конкретном эпизоде), но на долгой дистанции результаты идеального байесового агента будут лучше.
При этом нужно понимать, что в реальности идеальный байесов агент не может быть реализован, т.к. так как для его работы требуются бесконечные объем памяти, быстродействие и точность вычислений. Реальные люди не обладают ничем подобным. Кроме того, архитектура человеческого мозга далека от теоретической архитектуры мышления идеального агента. Человеческий мозг эволюционно развивался в условиях дикой саванны, где действовал отбор, с одной стороны, на снижение энергопотребления мозга, с другой - другой — на обеспечение минимально достаточного уровня эффективности мышления, чтобы человек имел приличные шансы дожить до репродуктивного возраста и затем размножиться и вырастить потомство. Результатом стала архитектура мозга, в которой большинство процессов мышления и принятия решений происходят автоматически на основе эвристик; обычно эти эвристики работают довольно хорошо, но в ряде случаев оборачиваются [[Когнитивное искажение|когнитивными искажениями]] и приводят к нежелательным результатам.
В реальности людям, стремящимся к рациональности, стоит иметь в виду, что их мозг в любом случае будет работать на основе эвристик [[Две системы|Системы 1]], а использовать [[Две системы|Систему 2]] в режиме 24/7 невозможно. Поэтому оптимальным на мета-уровне будет не подменять работу Системы 1 на работу Системы 2, а с помощью Системы 2 искать сценарии провала эвристик Системы 1 и дорабатывать эти эвристики так, чтобы они работали более успешно.
== Популярные заблуждения о рациональности ==
* Рациональность (в том смысле, в каком она понимается в сообществе LessWrong) часто путают с [https://ru.wikipedia.org/wiki/Рационализм_(философия) рационализмом]. Однако, помимо общего корня, между ними мало общего. Более того, рациональность больше сближается с [https://ru.wikipedia.org/wiki/Эмпиризм эмпиризмом], чем с рационализмом.
* Часто рациональность противопоставляют эмоциональности («эмоции нерациональны»). Классическим примером такого «неэмоционального рационалиста» является Спок из киновселенной Звездного Пути. Однако, в сообществе LessWrong принят консенсус, что эмоции ортогональны рациональности; при этом «[https://lesswrong.ru/w/Мне_сегодня_рационально эмоции, которые могут быть разрушены правдой, должны быть разрушены; эмоции, которые питаются правдой, должны процветать]» (и то, и другое относится как к «позитивным», так и к «негативным» эмоциям). Кроме того, известно, что положительные/отрицательные эмоции служат в человеческом организме для положительной/отрицательной мотивации к достижению целей; наилучшим подходом среди рационалистов считается не избавление от этой регуляторной системы, а только более тонкая ее настройка и активное использование для достижения наилучших результатов. Наконец, поскольку рациональность направлена в том числе на достижение человеком своих целей и ценностей, то ожидается, что успешное их достижение будет вызывать у него положительные эмоции (радость, удовольствие, моральное удовлетворение); так что положительные эмоции (которые заземлены о реальные достижения) считаются вполне желаемым результатом.
* Поскольку представление о [[Две системы|двух системах мышления]] и [[Когнитивное искажение|когнитивных искажениях]], характерных для Системы 1, является очень важным в рациональности, у новичков часто создается впечатление, что мышление с помощью Системы 1 является «плохим», а с помощью Системы 2 — «хорошим», и следует как можно чаще использовать Систему 2. В действительности же эти две системы просто предназначены для разных задач, и более многообещающим будет научиться использовать каждую из них более эффективно. В частности, рекомендуется с помощью Системы 2 находить сценарии провала эвристик Системы 1, придумывать более оптимальные эвристики, и затем внедрять их в Систему 1. Таким образом, «более рациональным» будет не тот, кто чаще использует Систему 2, а тот, кто с помощью Системы 2 внедрил в Систему 1 больше «более рациональных» эвристик.
* Иногда можно встретить людей, которые приписывают «рациональности» другие подобные характеристики, сравнивая ее либо с деструктивной сектой, либо с «курсом саморазвития, [необоснованно] обещающим добиться больших успехов с помощью простых действий». В одних случаях такие якобы принадлежащие «рациональности» свойства рассматриваются в позитивном ключе, в других — подвергаются критике. На самом деле подобные интерпретации прямо противоречат идеям и ценностям, заложенным в Цепочки и другие мейнстримные тексты о LessWrong-рациональности; поэтому обычно такие мысли можно услышать от людей, которые сами не читали эти тексты. Это бывает и когда такие люди просто превратно понимают идеи рациональности, и когда они заслуженно критикуют как раз тех людей, которые превратно поняли идеи рациональности. В связи с этим, начинающим рационалистам обычно советуют, во-первых, знакомиться с рациональностью по первоисточникам («Цепочки» и другие тексты с сайта [[LessWrong]] с высоким рейтингом), во-вторых — при чтении держать в уме возможность неверной интерпретации, чтобы усвоить из прочитанного только «здоровые» идеи и не усвоить «нездоровые».
== Статьи по теме ==
