Рациональность - История изменений

ReverendBayes: Добавил в "см. также" ссылку на категорию "Сообщество"

2024-04-13T04:32:55Z

Добавил в "см. также" ссылку на категорию "Сообщество"

ReverendBayes: Категория

2023-12-21T19:11:39Z

Категория

ReverendBayes: Золотая страница

2023-12-04T18:11:13Z

Золотая страница

Alaric: Интервики-ссылки на статьи на lesswrong.ru

2023-10-22T13:04:00Z

Интервики-ссылки на статьи на lesswrong.ru

ReverendBayes: Расписал про заблуждения; прогнал викификатор

2023-10-21T18:18:49Z

Расписал про заблуждения; прогнал викификатор

ReverendBayes: Добавил новые разделы и ссылки, немного переформатировал текст

2023-10-17T18:50:28Z

Добавил новые разделы и ссылки, немного переформатировал текст

Alaric: Замена внешней ссылки на внутреннюю

2018-07-24T13:52:41Z

Замена внешней ссылки на внутреннюю

Berekuk: Замена текста — «Категория:Понятие» на «Категория:Понятия»

2018-07-14T15:32:15Z

Замена текста — «Категория:Понятие» на «Категория:Понятия»

Alaric в 23:19, 16 апреля 2017

2017-04-16T23:19:20Z

Berekuk в 22:18, 16 апреля 2017

2017-04-16T22:18:30Z

@@ Строка 36: / Строка 36: @@
 * [[Две системы]]
 * [[Когнитивное искажение]]
 [[Категория:Понятия]]
 [[Категория:С чего начать изучение рациональности]]

← Предыдущая		Версия 19:11, 21 декабря 2023
Строка 38:		Строка 38:

	[[Категория:Понятия]]		[[Категория:Понятия]]
		+	[[Категория:С чего начать изучение рациональности]]

← Предыдущая		Версия 18:11, 4 декабря 2023
Строка 1:		Строка 1:
		+	{{Golden}}
		+
	В сообществе [[LessWrong]] под '''рациональностью''' понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих [[Убеждение\|убеждений]]) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина «рациональность» наследуется из работ специалистов по когнитивной психологии, в частности, [[Кейт Станович\|Кейта Становича]].		В сообществе [[LessWrong]] под '''рациональностью''' понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих [[Убеждение\|убеждений]]) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина «рациональность» наследуется из работ специалистов по когнитивной психологии, в частности, [[Кейт Станович\|Кейта Становича]].

@@ Строка 4: / Строка 4: @@
 * (основная статья: [[Эпистемическая рациональность]])
-Эпистемическая рациональность — образ действий и мыслей, укрепляющий соответствие между [[Карта и территория|местностью и её когнитивной картой]], корректировка убеждений в свете новой информации. Искусство обретения убеждений, [https://lesswrong.ru/w/Простая_истина согласующихся с реальностью настолько близко, насколько возможно]. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.
+Эпистемическая рациональность — образ действий и мыслей, укрепляющий соответствие между [[Карта и территория|местностью и её когнитивной картой]], корректировка убеждений в свете новой информации. Искусство обретения убеждений, [[lwru:Простая истина|согласующихся с реальностью настолько близко, насколько возможно]]. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.
 == Инструментальная рациональность ==
@@ Строка 23: / Строка 23: @@
 == Популярные заблуждения о рациональности ==
 * Рациональность (в том смысле, в каком она понимается в сообществе LessWrong) часто путают с [https://ru.wikipedia.org/wiki/Рационализм_(философия) рационализмом]. Однако, помимо общего корня, между ними мало общего. Более того, рациональность больше сближается с [https://ru.wikipedia.org/wiki/Эмпиризм эмпиризмом], чем с рационализмом.
-* Часто рациональность противопоставляют эмоциональности («эмоции нерациональны»). Классическим примером такого «неэмоционального рационалиста» является Спок из киновселенной Звездного Пути. Однако, в сообществе LessWrong принят консенсус, что эмоции ортогональны рациональности; при этом «[https://lesswrong.ru/w/Мне_сегодня_рационально эмоции, которые могут быть разрушены правдой, должны быть разрушены; эмоции, которые питаются правдой, должны процветать]» (и то, и другое относится как к «позитивным», так и к «негативным» эмоциям). Кроме того, известно, что положительные/отрицательные эмоции служат в человеческом организме для положительной/отрицательной мотивации к достижению целей; наилучшим подходом среди рационалистов считается не избавление от этой регуляторной системы, а только более тонкая ее настройка и активное использование для достижения наилучших результатов. Наконец, поскольку рациональность направлена в том числе на достижение человеком своих целей и ценностей, то ожидается, что успешное их достижение будет вызывать у него положительные эмоции (радость, удовольствие, моральное удовлетворение); так что положительные эмоции (которые заземлены о реальные достижения) считаются вполне желаемым результатом.
+* Часто рациональность противопоставляют эмоциональности («эмоции нерациональны»). Классическим примером такого «неэмоционального рационалиста» является Спок из киновселенной Звездного Пути. Однако, в сообществе LessWrong принят консенсус, что эмоции ортогональны рациональности; при этом «[[lwru:Мне сегодня рационально|эмоции, которые могут быть разрушены правдой, должны быть разрушены; эмоции, которые питаются правдой, должны процветать]]» (и то, и другое относится как к «позитивным», так и к «негативным» эмоциям). Кроме того, известно, что положительные/отрицательные эмоции служат в человеческом организме для положительной/отрицательной мотивации к достижению целей; наилучшим подходом среди рационалистов считается не избавление от этой регуляторной системы, а только более тонкая ее настройка и активное использование для достижения наилучших результатов. Наконец, поскольку рациональность направлена в том числе на достижение человеком своих целей и ценностей, то ожидается, что успешное их достижение будет вызывать у него положительные эмоции (радость, удовольствие, моральное удовлетворение); так что положительные эмоции (которые заземлены о реальные достижения) считаются вполне желаемым результатом.
 * Поскольку представление о [[Две системы|двух системах мышления]] и [[Когнитивное искажение|когнитивных искажениях]], характерных для Системы 1, является очень важным в рациональности, у новичков часто создается впечатление, что мышление с помощью Системы 1 является «плохим», а с помощью Системы 2 — «хорошим», и следует как можно чаще использовать Систему 2. В действительности же эти две системы просто предназначены для разных задач, и более многообещающим будет научиться использовать каждую из них более эффективно. В частности, рекомендуется с помощью Системы 2 находить сценарии провала эвристик Системы 1, придумывать более оптимальные эвристики, и затем внедрять их в Систему 1. Таким образом, «более рациональным» будет не тот, кто чаще использует Систему 2, а тот, кто с помощью Системы 2 внедрил в Систему 1 больше «более рациональных» эвристик.
 * Иногда можно встретить людей, которые приписывают «рациональности» другие подобные характеристики, сравнивая ее либо с деструктивной сектой, либо с «курсом саморазвития, [необоснованно] обещающим добиться больших успехов с помощью простых действий». В одних случаях такие якобы принадлежащие «рациональности» свойства рассматриваются в позитивном ключе, в других — подвергаются критике. На самом деле подобные интерпретации прямо противоречат идеям и ценностям, заложенным в Цепочки и другие мейнстримные тексты о LessWrong-рациональности; поэтому обычно такие мысли можно услышать от людей, которые сами не читали эти тексты. Это бывает и когда такие люди просто превратно понимают идеи рациональности, и когда они заслуженно критикуют как раз тех людей, которые превратно поняли идеи рациональности. В связи с этим, начинающим рационалистам обычно советуют, во-первых, знакомиться с рациональностью по первоисточникам («Цепочки» и другие тексты с сайта [[LessWrong]] с высоким рейтингом), во-вторых — при чтении держать в уме возможность неверной интерпретации, чтобы усвоить из прочитанного только «здоровые» идеи и не усвоить «нездоровые».
 == Статьи по теме ==
-* [http://lesswrong.ru/w/Что_такое_рациональность Что такое рациональность]
+* [[lwru:Что_такое_рациональность|Что такое рациональность]]
 == См. также ==

@@ Строка 1: / Строка 1: @@
-В сообществе [[LessWrong]] под '''рациональностью''' понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих [[Убеждение|убеждений]]) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина "рациональность" наследуется из работ специалистов по когнитивной психологии, в частности, [[Кейт Станович|Кейта Становича]].
+В сообществе [[LessWrong]] под '''рациональностью''' понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих [[Убеждение|убеждений]]) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина «рациональность» наследуется из работ специалистов по когнитивной психологии, в частности, [[Кейт Станович|Кейта Становича]].
 == Эпистемическая рациональность ==
 * (основная статья: [[Эпистемическая рациональность]])
-Эпистемическая рациональность — образ действий и мыслей, укрепляющий соответствие между [[Карта и территория|местностью и её когнитивной картой]], корректировка убеждений в свете новой информации. Искусство обретения убеждений, [https://lesswrong.ru/w/Простая_истина согласующихся с реальностью настолько близко, насколько возможно]. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.
+Эпистемическая рациональность — образ действий и мыслей, укрепляющий соответствие между [[Карта и территория|местностью и её когнитивной картой]], корректировка убеждений в свете новой информации. Искусство обретения убеждений, [https://lesswrong.ru/w/Простая_истина согласующихся с реальностью настолько близко, насколько возможно]. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.
 == Инструментальная рациональность ==
 * (основная статья: [[Инструментальная рациональность]])
-Инструментальная рациональность — реализация ваших [[Ценности|ценностей]]. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична (в том числе из альтруистических, нравственных или эстетических соображений). Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».
+Инструментальная рациональность — реализация ваших [[Ценности|ценностей]]. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична (в том числе из альтруистических, нравственных или эстетических соображений). Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».
 == Рациональность в теории и на практике ==
 Идеальной математической моделью абсолютно рационального поведения является [[Агент|идеальный байесов агент]]:
 * За счет математически оптимального способа извлекать информацию из наблюдаемых фактов (с помощью [[Байесовское обновление|байесовских обновлений]]) он может строить настолько точную модель реальности, насколько физически возможно; это дает ему наилучший возможный уровень эпистемической рациональности;
 * Обладая максимально точной картиной мира из возможных, и стремясь на ее основе выбирать действия, приводящие к наилучшей реализации его целей, он в итоге способен добиваться наилучших возможных результатов; это дает ему наилучший возможный уровень инструментальной рациональности.
-Стоит, однако, иметь в виду, что такая оптимальность является потенциальной. В конкретных эпизодах идеальный байесов агент может как прийти к неверным выводам (из-за неудачного набора наблюдений, создающих ложное впечатление), так и не получить ожидаемого результата от наиболее многообещающих действий (из-за того, что на практике реализовался не самый вероятный из возможных сценарий развития событий). В подобных случаях агент, действующий "иррационально", может достичь лучших результатов (за счет простого везения в данном конкретном эпизоде), но на долгой дистанции результаты идеального байесового агента будут лучше.
+Стоит, однако, иметь в виду, что такая оптимальность является потенциальной. В конкретных эпизодах идеальный байесов агент может как прийти к неверным выводам (из-за неудачного набора наблюдений, создающих ложное впечатление), так и не получить ожидаемого результата от наиболее многообещающих действий (из-за того, что на практике реализовался не самый вероятный из возможных сценарий развития событий). В подобных случаях агент, действующий «иррационально», может достичь лучших результатов (за счет простого везения в данном конкретном эпизоде), но на долгой дистанции результаты идеального байесового агента будут лучше.
-При этом нужно понимать, что в реальности идеальный байесов агент не может быть реализован, т.к. для его работы требуются бесконечные объем памяти, быстродействие и точность вычислений. Реальные люди не обладают ничем подобным. Кроме того, архитектура человеческого мозга далека от теоретической архитектуры мышления идеального агента. Человеческий мозг эволюционно развивался в условиях дикой саванны, где действовал отбор, с одной стороны, на снижение энергопотребления мозга, с другой - на обеспечение минимально достаточного уровня эффективности мышления, чтобы человек имел приличные шансы дожить до репродуктивного возраста и затем размножиться и вырастить потомство. Результатом стала архитектура мозга, в которой большинство процессов мышления и принятия решений происходят автоматически на основе эвристик; обычно эти эвристики работают довольно хорошо, но в ряде случаев оборачиваются [[Когнитивное искажение|когнитивными искажениями]] и приводят к нежелательным результатам.
+При этом нужно понимать, что в реальности идеальный байесов агент не может быть реализован, так как для его работы требуются бесконечные объем памяти, быстродействие и точность вычислений. Реальные люди не обладают ничем подобным. Кроме того, архитектура человеческого мозга далека от теоретической архитектуры мышления идеального агента. Человеческий мозг эволюционно развивался в условиях дикой саванны, где действовал отбор, с одной стороны, на снижение энергопотребления мозга, с другой — на обеспечение минимально достаточного уровня эффективности мышления, чтобы человек имел приличные шансы дожить до репродуктивного возраста и затем размножиться и вырастить потомство. Результатом стала архитектура мозга, в которой большинство процессов мышления и принятия решений происходят автоматически на основе эвристик; обычно эти эвристики работают довольно хорошо, но в ряде случаев оборачиваются [[Когнитивное искажение|когнитивными искажениями]] и приводят к нежелательным результатам.
 В реальности людям, стремящимся к рациональности, стоит иметь в виду, что их мозг в любом случае будет работать на основе эвристик [[Две системы|Системы 1]], а использовать [[Две системы|Систему 2]] в режиме 24/7 невозможно. Поэтому оптимальным на мета-уровне будет не подменять работу Системы 1 на работу Системы 2, а с помощью Системы 2 искать сценарии провала эвристик Системы 1 и дорабатывать эти эвристики так, чтобы они работали более успешно.
 == Популярные заблуждения о рациональности ==
 == Статьи по теме ==

@@ Строка 5: / Строка 5: @@
 [[Инструментальная рациональность]] — реализация ваших [[Ценности|ценностей]]. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична. Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».
-Это определение взято из работ специалистов по когнитивной психологии, в частности, [https://en.wikipedia.org/wiki/Keith_Stanovich Кейта Становича].
+Это определение взято из работ специалистов по когнитивной психологии, в частности, [[Кейт Станович|Кейта Становича]].
 === Статьи по теме ===

← Предыдущая		Версия 15:32, 14 июля 2018
Строка 10:		Строка 10:
	* [http://lesswrong.ru/w/Что_такое_рациональность Что такое рациональность]		* [http://lesswrong.ru/w/Что_такое_рациональность Что такое рациональность]

−	[[Категория:~~Понятие~~]]	+	[[Категория:Понятия]]

← Предыдущая		Версия 23:19, 16 апреля 2017
Строка 10:		Строка 10:
	* [http://lesswrong.ru/w/Что_такое_рациональность Что такое рациональность]		* [http://lesswrong.ru/w/Что_такое_рациональность Что такое рациональность]

−	[[Категория:~~Рациональность~~]]	+	[[Категория:Понятие]]

← Предыдущая		Версия 22:18, 16 апреля 2017
Строка 9:		Строка 9:
	=== Статьи по теме ===		=== Статьи по теме ===
	* [http://lesswrong.ru/w/Что_такое_рациональность Что такое рациональность]		* [http://lesswrong.ru/w/Что_такое_рациональность Что такое рациональность]
		+
		+	[[Категория:Рациональность]]