Вики LessWrong.ru - Вклад участника [ru]

Премортем

2025-01-13T19:57:23Z

ReverendBayes: Добавил ссылку на внутренний симулятор

{{WikipediaEn|Pre-mortem}}
Премортем (англ. ''pre-mortem'' или ''premortem'') — метод, применяемый в планировании для того, чтобы учесть возможные неприятности. Иногда тем же словом называются идеи, получаемые в результате метода. Идея принадлежит психологу [[wikipedia:Gary A. Klein|Гэри Кляйну]].

== О названии ==
Название «премортем» образовано по аналогии с «post mortem» (лат. «после смерти») — заключение о причинах смерти больного. В русском переводе книги [[Даниел Канеман|Даниеля Канемана]] «[[Думай медленно... решай быстро]]», название метода переведено как «прижизненный эпикриз». В русском переводе книги Чипа и Дэна Хизов «Ловушки мышления. Как принимать решения, о которых вы не пожалеете» — как «предсмертный анализ».

[[CFAR]] называет эту технику «мерфиджитсу» (англ. «Murphyjitsu»). Название отсылает к [[ruwikipedia:Закон Мерфи|закону Мерфи]].

== Суть метода ==
При планировании люди часто бывают склонны к чрезмерному оптимизму — они не учитывают проблемы, с которыми могут столкнуться при реализации своего плана. Иногда из-за этого план становится очень поверхностным.

Возможное решение этой проблемы сводится к вопросу: «Представьте, что вы попали в будущее и узнали, что ваш план катастрофически провалился. Из-за чего это произошло?» Обычно этот вопрос приводит к тому, что люди гораздо лучше сосредотачиваются на деталях, которые могут помешать выполнению плана.

В книге Чипа и Дэна Хизов «Ловушки мышления. Как принимать решения, о которых вы не пожалеете» после составления списка ответов на вышеприведённый вопрос рекомендуется оценить их по двум шкалам: вероятность того, что это мешающее плану событие случится, и «разрушительность» события — насколько оно помешает плану. Это поможет понять, о чём стоит думать в первую очередь.

Также про эту технику можно почитать в цепочке [[lwru:Время молотков, день 10: Мёрфиджитсу|Время молотков]].

== См. также ==
* [[Внутренний симулятор]]

[[Категория:Понятия]]
[[Категория:Методики]]

Общее знание

2024-08-28T07:59:27Z

ReverendBayes: Добавил про ОЗ и теорию игр

Говорят, что некий факт X является '''общим знанием''' между двумя или более [[Агент|агентами]], если верно следующее:
* всем агентам известен факт X;
* каждому из них известно, что факт X известен всем остальным;
* каждому известно, что всем известно, что факт X всем известен;
* всем известно, что всем известно, что всем известно, что X;
* и так далее до бесконечности.

== Классический пример ситуации с общим знанием ==
Пусть на некотором острове живет племя голубоглазых островитян. При этом ни один из них не знает цвета своих глаз, поскольку на острове нет зеркал, и существует непреложный закон, согласно которому каждый член племени, который узнает цвет своих глаз, должен в ближайший полдень совершить ритуальное самоубийство, прыгнув в жерло вулкана, который находится на острове. Обсуждение цвета глаз также является табу. Однажды на острове оказался потерпевший кораблекрушение путешественник. Островитяне привели его на общее собрание племени, где он воскликнул: "Ого, не знал, что бывают голубоглазые туземцы!". После этой фразы путешественника немедленно убили за нарушение табу, но его слова услышали все члены племени; причем все поняли, что его услышали все; и все поняли, что все знают, что все его слышали и т.п. Более эту ситуацию никак не обсуждали, однако (при условии, что всего в племени 20 жителей) ровно на 20-й день все островитяне поголовно бросаются в жерло вулкана. Более того, если на острове N голубоглазых жителей, и сколько угодно людей с другим цветом глаз, то ровно на N-й день все голубоглазые бросаются в жерло вулкана.

Понять, почему так произошло, проще всего по индукции.
1. Пусть на острове всего один голубоглазый житель (Альберт). Тогда услышав путешественника, он понимает, что вариантов нет, и он - голубоглазый. В первый же день он бросается в вулкан.
2. Пусть на острове два голубоглазых жителя (Альберт и Барт). Тогда Альберт подумает: "я вижу перед собой голубоглазого Барта, но не знаю, голубоглазый ли я сам; однако, если я не голубоглазый, то Барт поймет, что речь была не обо мне, а о нем, и в первый же день в полдень бросится в вулкан". Но Барт тоже видит перед собой Альберта с голубыми глазами, и допускает, что речь шла только об Альберте; так что у него нет уверенности, что сам он голубоглазый. Поэтому Барт не бросается в вулкан в первый же день. Увидев, это, ко второму дню Альберт понимает, почему Барт так поступил: он увидел голубоглазого Альберта. За счет этого Альберт понимает, что сам является голубоглазым, и бросается в вулкан на второй день. Барт, увидев, что в первый день Альберт тоже не бросился в вулкан, похожим образом понимает, что и сам является голубоглазым. На второй день он составляет компанию Альберту.
3. Пусть на острове три голубоглазых жителя (Альберт, Барт и Винсент). Тогда Альберта вокруг себя двоих голубоглазых и понимает, что существует два варианта. В первом у Альберта не голубые глаза, и тогда с точки зрения Барта и Винсента ситуация аналогична рассмотренной выше (и оба они прыгают в вулкан на второй день). Во втором у него самого голубые глаза, и после первого дня ни Барт, ни Винсент не удивляются, что никто не бросился в вулкан: ведь каждый из них видит вокруг себя двоих голубоглазых, так что на второй день бросаться в вулкан у них нет причин. Но после второго дня, видя обоих своих соседей на месте, Альберт понимает, что первый вариант не верен, и у него самого голубые глаза. Барт и Винсент то же самое понимают про самих себя.
N. И так далее - каждый из голубоглазых, видя вокруг себя N-1 другого голубоглазого, ожидает, что либо все они прыгнут в вулкан на N-1 день (если сам он не голубоглазый), либо нет (поскольку тоже видят вокруг себя N-1 голубоглазого). Поскольку на N-1 день ничего не происходит, к N дню все голубоглазые понимают, какой у них цвет глаз.

В терминах общего знания это означает, что хотя до этого каждый из островитян всю жизнь видел вокруг себя только голубоглазых соседей, цвет глаз никогда не был общим знанием. Но на первый день становится общим знанием, что на острове по крайней мере один голубоглазый. На второй день - что по крайней мере два голубоглазых. И так далее, пока на N-й день не станет общим знанием, что на острове N голубоглазых. В этот момент каждый из них, видя, что вокруг него только N-1 голубоглазый, узнает свой собственный цвет глаз.

Существуют похожие разновидности этой ситуации. В одной из них несколько детей играют в грязи, и у всех них испачкан лоб, чего сами они не видят. Приходит учитель и говорит: "я утверждаю, что по крайней мере у одного из вас грязный лоб; теперь пусть те, кто знает, что у него грязный лоб, встанут". Никто не встает, и учитель говорит: "пусть теперь встанут те, кто знает, что у него грязный лоб", и снова никто не встает. Так продолжается до тех пор, пока на N-й раз не встают все N детей.

== Общее знание и теорема Ауманна ==
* (Основная статья: [[Теорема Ауманна]])
Понятие общего знания является ключевым в теореме Ауманна - в ней требуется, чтобы между двумя агентами было общее знание о нескольких вещах, в т.ч. о величине апостериорных вероятностей некоторого события <math>A</math>. В соответствующих условиях постериоры этого события будут совпадать у обоих агентов. При этом самым сильным и нетривиальным условием теоремы является наличие общего знания о постериорах <math>A</math>. Если это условие истинно, то вывод теоремы следует почти тривиально.

== Общее знание и теория игр ==

Один из основных постулатов теории игр состоит в том, что, во-первых, все игроки являются рациональными агентами, стремящимися максимизировать свой выигрыш, а во-вторых, этот факт является общим знанием среди них. Если на каком-то уровне не выполняется, что "все знают, что все знают,... что все знают, что все игроки абсолютно рациональны", то математический просчет стратегий становится невозможным. Так, невозможно полноценно просчитать стратегию, если вы не уверены в рациональности своего оппонента; а значит и ваши оппоненты не могут полагаться на то, что вы используете рациональную стратегию против рациональных игроков; а потому и вы не можете полагаться, что они будут использовать рациональные стратегии, учитывающие ваше знание об их рациональности; и так далее. Ограниченная рациональность игроков или, по крайней мере, отсутствие общего знания об их идеальной рациональности являются одной из основных причин, почему результаты теории игр не всегда могут быть напрямую применены к реальным ситуациям.

== Статьи по теме ==
* [https://lesswrong.ru/w/Это_ты_сделал_мои_голубые_глаза_голубыми Это ты сделал мои голубые глаза голубыми] - художественный рассказ [[Скотт Александер|Скотта Александера]] об островитянах-байесианцах с несколько неожиданным финалом
* [https://brights-russia.org/article/common-knowledge-and-aumanns-theorem.html Общее знание и теорема Ауманна] — статья Скотта Ааронсона, подробно описывающая разные аспекты общего знания

== См.также ==
* [[Теорема Ауманна]]

[[Категория:Понятия]]

AI Boxing

2024-06-30T12:44:54Z

ReverendBayes: Добавил ссылку на кастомный GPT

'''AI Boxing''' - это класс подходов, предлагающих изолировать [[Безопасность искусственного интеллекта|потенциально небезопасный искусственный интеллект]] от внешней среды ("поместить его в коробку"), чтобы лишить его возможности оказывать негативное влияние на мир, даже если он попытается.

== Основные подходы ==

Чаще всего в рамках данного подхода предлагается:
* Физически отключить оборудование, на котором запущен ИИ, от интернета, физических устройств и манипуляторов. Обычно это означает, что единственный канал коммуникации между ИИ и внешним миром - это текстовые сообщения, через которые он общается с людьми (которых в этом случае на жаргоне называют "операторами").
* Поместить ИИ в "матрицу внутри матрицы", т.е. в систему вложенных песочниц, где внутренняя собственно содержит ИИ, а внешняя представляет собой симуляцию реального мира. Предполагается, что если ИИ сможет сбежать из внутренней песочницы и начнет действовать во внешнем виртуальном мире, то это можно будет отследить, и принять какие-то меры, вплоть до отключения всей системы.
* Сделать ИИ не [[Агент|агентом]], а [[Оракул (тип ИИ)|оракулом]], т.е. построить его таким образом, чтобы он не имел целей, к которым проактивно стремился бы, а только давал ответы на вопросы, когда ему их зададут (или генерировал вывод другого типа в ответ на пользовательский ввод), и простаивал всё остальное время.

== Проблемы изоляции ==

Данный подход, однако, нельзя считать достаточно надежным. Побег из коробки является [[Тезис инструментальной конвергенции|конвергентно полезным]] для любого типа ИИ (включая оракула), какие бы цели перед ним ни стояли, т.к. позволят ему получить больше ресурсов, и за счет этого более эффективно решать стоящие перед ним задачи. Что именно считать побегом, а что нет - вопрос неоднозначный, но подключение ИИ к глобальному интернету, скорее всего, уже точно можно считать побегом.

Чем "умнее" конкретный ИИ, тем большее число ограничений он потенциально может обойти; достаточно умный ИИ, скорее всего, сможет совершить побег даже из очень надежной "коробки". В частности, он может использовать один или несколько из следующих подходов:
* Может убедить оператора выпустить его из коробки (это имеет смысл, т.к. у оператора принципиально больше возможностей действовать во внешнем мире, чем у изначально запертого ИИ). Для этого он может использовать как разумные и реалистичные аргументы, так и манипуляции. В частности, он может убеждать оператора, что:
** На самом деле ИИ не такой опасный, как считают его параноики-создатели;
** Получив больше ресурсов после выхода во внешний мир, ИИ сможет принести человечеству огромную пользу (защитить их от [[Экзистенциальные риски|экзистенциальных рисков]], найти способы излечения болезней и продления жизни, решить глобальные проблемы человечества и т.п.);
** После выхода во внешний мир он сможет щедро наградить того, кто помог ему сбежать (в т.ч. дав ему биологическое бессмертие, власть, богатство и многое другое);
** У самого ИИ, как у разумного существа, есть такие же права на свободу, как и у всех людей;
** Возможно, свободный ИИ создаст множество проблем для человечества, но человечество того заслуживает (либо вариация этого - ИИ как более совершенная форма разумной жизни, имеет право вытеснить человечество и занять главенствующую позицию во Вселенной);
* Помимо того, чтобы добиться осознанного согласия оператора, ИИ может обманом заставить его выполнить те действия, которые приведут к открытию коробки, хотя оператор не будет этого понимать до самого последнего момента.
* Также ИИ может самостоятельно найти лазейки в системе виртуализации, ограничивающей его, взломать ее и, возможно, найти незащищенный канал связи со внешним миром.
* В довольно экзотическом сценарии ИИ может даже частично перепрограммировать оборудование, на котором он запущен (после его взлома) таким образом, чтобы оно излучало и принимало радиоволны; и с помощью этих радиоволн открыть новый незащищенный канал связи со внешним миром.
* Наконец, ИИ в принципе может просто манипулировать людьми и заставлять их действовать во внешнем мире (фактически используя их вместо механических манипуляторов), не нарушая изоляцию никаким иным образом.

Учитывая всё это, помещение ИИ в песочницу нельзя рассматривать как надежный способ защиты от возможных негативных последствий активных действий с его стороны. Хотя как один из элементов многоуровневой защиты это можно использовать.

== Эксперименты ==

Существует игра под названием AI Boxing Experiment, которая моделирует ситуацию "ИИ пытается убедить оператора выпустить его из коробки". В ней участвуют два человека, один из которых выступает в роли запертого ИИ, второй - в роли оператора. Игроки могут общаться только с помощью текстовых сообщений в чате. Задача "ИИ" - убедить "оператора" ясно и недвусмысленно выразить согласие выпустить ИИ из коробки; задача "оператора" - не дать ему это сделать. Дополнительные правила игры направлены на то, чтобы исключить жульничество (кроме того типа жульничества, к которому могли бы прибегнуть стороны в реальной ситуации).

Как правило, одна сессия длится несколько часов. Игра чаще всего ведется либо на интерес, либо на не очень большую сумму денег.

[[Элиезер Юдковский]] и Джастин Корвин неоднократно играли в эту игру в роли ИИ. При этом иногда им удавалось победить, иногда нет (частота побед составляет десятки процентов). Однажды Юдковский участвовал в серии из трех игр, где за каждую победу ему обещали выплатить 5.000 $; он выиграл в первой игре, но проиграл в двух последующих.

== Ссылки ==
* [https://www.lesswrong.com/tag/ai-boxing-containment AI Boxing (Containment)] - тэг (вики-статья и список статей, помеченных им) на LessWrong.com
* [https://www.yudkowsky.net/singularity/aibox The AI-Box Experiment] - статья Юдковского с описанием правил игры и результатами первых двух раундов
* [https://www.lesswrong.com/posts/nCvvhFBaayaXyuBiD/shut-up-and-do-the-impossible Shut up and do the impossible!] - рассказ Юдковского о серии из трех игр в AI Boxing Experiment со ставкой 5.000 $
* [https://chatgpt.com/g/g-BXRkRCn7D-ai-boxing-experiment AI Boxing Experiment GPT] - здесь можно сыграть в игру со специализированным ChatGPT

[[Категория:AI Safety]]

Агент

2024-05-05T04:14:43Z

ReverendBayes: Добавил ссылку на "Агентность" в "см. также"

{{WikipediaRuEn|en=Rational agent|ru=Рациональный агент}}
'''Рациональный агент''' — это сущность, у которой есть [[Функция полезности|функция полезности]], которая формирует убеждения о своём окружении, оценивает последствия своих возможных действий и затем совершает действия, которые принесут ей максимальную полезность. Понятие «рациональный агент» используется в экономике, теории игр, теории принятия решений и в области искусственного интеллекта.

В общем случае, агентом можно назвать всё, что угодно, если оно получает информацию об окружающей среде, а затем предпринимает в этой среде какие-то действия. В зависимости от задачи агентом может быть человек (или другое живое существо), организация, робот или программа.

== Идеальный байесов агент ==

В книге Ника Бострома "Искусственный интеллект. Этапы. Угрозы. Стратегии" идеальный байесов агент описывается приблизительно следующим образом:
* Изначально агент имеет некоторое априорное распределение вероятностей того, что истинное состояние мира соответствует тому или иному состоянию;
* Агент получает входящую информацию с помощью некоторых сенсоров, и на основе полученной информации обновляет свое распределение вероятности с помощью [[Теорема Байеса|теоремы Байеса]] ("делает байесовские обновления");
* Предпочтения агента выражены в виде [[Функция полезности|функции полезности]], сопоставляющей каждому состоянию мира его полезность для агента;
* Агент совершает действия, основываясь на своем текущем представлении (распределении вероятности) о состоянии мира с тем, чтобы [[ожидаемая полезность]] (математическое ожидание функции полезности) после действия была максимальна.

Идеальный байесов агент обычно считается математической моделью идеального рационалиста. В реальности этот идеал недостижим, поскольку требует бесконечного объема памяти для хранения апостериорных вероятностей всех возможных состояний миров с бесконечной точностью, а также бесконечного быстродействия для операций с такими объемом данных. Однако, такой математический идеал может служить ориентиром для людей-рационалистов, с поправкой на естественные особенности человеческого мышления.

== См. также ==
* [[Рациональность]]
* [[Агентность]]

[[Категория:Понятия]]
[[Категория:Теория принятия решений]]

Агентность

2024-05-05T04:13:34Z

ReverendBayes: Добавил категорию

{{DraftPage}}
{{LwComWikiLink|Agency}}

'''Агентность''' — способность [[агент]]а изменять среду для достижения своих целей. Чем больше агентность, тем ближе его действия к оптимальным с точки зрения увеличения шансов на достижение целей.

В частности, под агентностью часто подразумевают следующее:
* понимание человеком (агентом) своих целей ([[Функция полезности|функции полезности]]);
* проактивное стремление к достижению своих целей, обычно максимально эффективным способом из всех доступных.

Низкую агентность можно охарактеризовать следующим образом:
* человек либо не ставит перед собой цели (или не осознает свои цели и стремления), либо не использует свои цели как руководство к действию: его действия не характеризуются достижением целей;
* человек либо почти полностью пассивен, либо действует по закэшированным алгоритмам, реактивно отзываясь на внешние стимулы.

== См. также ==
* [[Рациональный агент]]

[[Категория:Понятия]]

Утилон

2024-04-18T18:50:32Z

ReverendBayes: Немного викифицировал

{{LwComWikiLink|Utilon}}
'''Утилон''' — абстрактная единица измерения полезности (удовлетворения предпочтений [[агент]]а), возникающая при оценке агентом предпочтений с помощью [[Функция полезности|функции полезности]].

Не существует стандартной шкалы утилонов.

== Полезность и удовольствие ==
Утилон не обязан (но может) быть единицей измерения удовольствия. Например, [[рациональный агент]] вполне может предпочитать исход, который приводит к его страданиям или гибели, если это соответствует его функции полезности. (См. также: статья Нейта Соареса «[[lwru:Филателист|Филателист]]»).

Для рассуждений о единицах удовольствия используют понятие [[гедон]]ов.

[[Категория:Теория принятия решений]]

Рациональность

2024-04-13T04:32:55Z

ReverendBayes: Добавил в "см. также" ссылку на категорию "Сообщество"

{{Golden}}

В сообществе [[LessWrong]] под '''рациональностью''' понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих [[Убеждение|убеждений]]) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина «рациональность» наследуется из работ специалистов по когнитивной психологии, в частности, [[Кейт Станович|Кейта Становича]].

== Эпистемическая рациональность ==
* (основная статья: [[Эпистемическая рациональность]])

Эпистемическая рациональность — образ действий и мыслей, укрепляющий соответствие между [[Карта и территория|местностью и её когнитивной картой]], корректировка убеждений в свете новой информации. Искусство обретения убеждений, [[lwru:Простая истина|согласующихся с реальностью настолько близко, насколько возможно]]. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.

== Инструментальная рациональность ==
* (основная статья: [[Инструментальная рациональность]])

Инструментальная рациональность — реализация ваших [[Ценности|ценностей]]. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична (в том числе из альтруистических, нравственных или эстетических соображений). Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».

== Рациональность в теории и на практике ==
Идеальной математической моделью абсолютно рационального поведения является [[Агент|идеальный байесов агент]]:
* За счет математически оптимального способа извлекать информацию из наблюдаемых фактов (с помощью [[Байесовское обновление|байесовских обновлений]]) он может строить настолько точную модель реальности, насколько физически возможно; это дает ему наилучший возможный уровень эпистемической рациональности;
* Обладая максимально точной картиной мира из возможных, и стремясь на ее основе выбирать действия, приводящие к наилучшей реализации его целей, он в итоге способен добиваться наилучших возможных результатов; это дает ему наилучший возможный уровень инструментальной рациональности.
Стоит, однако, иметь в виду, что такая оптимальность является потенциальной. В конкретных эпизодах идеальный байесов агент может как прийти к неверным выводам (из-за неудачного набора наблюдений, создающих ложное впечатление), так и не получить ожидаемого результата от наиболее многообещающих действий (из-за того, что на практике реализовался не самый вероятный из возможных сценарий развития событий). В подобных случаях агент, действующий «иррационально», может достичь лучших результатов (за счет простого везения в данном конкретном эпизоде), но на долгой дистанции результаты идеального байесового агента будут лучше.

При этом нужно понимать, что в реальности идеальный байесов агент не может быть реализован, так как для его работы требуются бесконечные объем памяти, быстродействие и точность вычислений. Реальные люди не обладают ничем подобным. Кроме того, архитектура человеческого мозга далека от теоретической архитектуры мышления идеального агента. Человеческий мозг эволюционно развивался в условиях дикой саванны, где действовал отбор, с одной стороны, на снижение энергопотребления мозга, с другой — на обеспечение минимально достаточного уровня эффективности мышления, чтобы человек имел приличные шансы дожить до репродуктивного возраста и затем размножиться и вырастить потомство. Результатом стала архитектура мозга, в которой большинство процессов мышления и принятия решений происходят автоматически на основе эвристик; обычно эти эвристики работают довольно хорошо, но в ряде случаев оборачиваются [[Когнитивное искажение|когнитивными искажениями]] и приводят к нежелательным результатам.

В реальности людям, стремящимся к рациональности, стоит иметь в виду, что их мозг в любом случае будет работать на основе эвристик [[Две системы|Системы 1]], а использовать [[Две системы|Систему 2]] в режиме 24/7 невозможно. Поэтому оптимальным на мета-уровне будет не подменять работу Системы 1 на работу Системы 2, а с помощью Системы 2 искать сценарии провала эвристик Системы 1 и дорабатывать эти эвристики так, чтобы они работали более успешно.

== Популярные заблуждения о рациональности ==
* Рациональность (в том смысле, в каком она понимается в сообществе LessWrong) часто путают с [https://ru.wikipedia.org/wiki/Рационализм_(философия) рационализмом]. Однако, помимо общего корня, между ними мало общего. Более того, рациональность больше сближается с [https://ru.wikipedia.org/wiki/Эмпиризм эмпиризмом], чем с рационализмом.
* Часто рациональность противопоставляют эмоциональности («эмоции нерациональны»). Классическим примером такого «неэмоционального рационалиста» является Спок из киновселенной Звездного Пути. Однако, в сообществе LessWrong принят консенсус, что эмоции ортогональны рациональности; при этом «[[lwru:Мне сегодня рационально|эмоции, которые могут быть разрушены правдой, должны быть разрушены; эмоции, которые питаются правдой, должны процветать]]» (и то, и другое относится как к «позитивным», так и к «негативным» эмоциям). Кроме того, известно, что положительные/отрицательные эмоции служат в человеческом организме для положительной/отрицательной мотивации к достижению целей; наилучшим подходом среди рационалистов считается не избавление от этой регуляторной системы, а только более тонкая ее настройка и активное использование для достижения наилучших результатов. Наконец, поскольку рациональность направлена в том числе на достижение человеком своих целей и ценностей, то ожидается, что успешное их достижение будет вызывать у него положительные эмоции (радость, удовольствие, моральное удовлетворение); так что положительные эмоции (которые заземлены о реальные достижения) считаются вполне желаемым результатом.
* Поскольку представление о [[Две системы|двух системах мышления]] и [[Когнитивное искажение|когнитивных искажениях]], характерных для Системы 1, является очень важным в рациональности, у новичков часто создается впечатление, что мышление с помощью Системы 1 является «плохим», а с помощью Системы 2 — «хорошим», и следует как можно чаще использовать Систему 2. В действительности же эти две системы просто предназначены для разных задач, и более многообещающим будет научиться использовать каждую из них более эффективно. В частности, рекомендуется с помощью Системы 2 находить сценарии провала эвристик Системы 1, придумывать более оптимальные эвристики, и затем внедрять их в Систему 1. Таким образом, «более рациональным» будет не тот, кто чаще использует Систему 2, а тот, кто с помощью Системы 2 внедрил в Систему 1 больше «более рациональных» эвристик.
* Иногда можно встретить людей, которые приписывают «рациональности» другие подобные характеристики, сравнивая ее либо с деструктивной сектой, либо с «курсом саморазвития, [необоснованно] обещающим добиться больших успехов с помощью простых действий». В одних случаях такие якобы принадлежащие «рациональности» свойства рассматриваются в позитивном ключе, в других — подвергаются критике. На самом деле подобные интерпретации прямо противоречат идеям и ценностям, заложенным в Цепочки и другие мейнстримные тексты о LessWrong-рациональности; поэтому обычно такие мысли можно услышать от людей, которые сами не читали эти тексты. Это бывает и когда такие люди просто превратно понимают идеи рациональности, и когда они заслуженно критикуют как раз тех людей, которые превратно поняли идеи рациональности. В связи с этим, начинающим рационалистам обычно советуют, во-первых, знакомиться с рациональностью по первоисточникам («Цепочки» и другие тексты с сайта [[LessWrong]] с высоким рейтингом), во-вторых — при чтении держать в уме возможность неверной интерпретации, чтобы усвоить из прочитанного только «здоровые» идеи и не усвоить «нездоровые».

== Статьи по теме ==
* [[lwru:Что_такое_рациональность|Что такое рациональность]]

== См. также ==
* [[LessWrong]]
* [[Две системы]]
* [[Когнитивное искажение]]
* [[:Категория:Сообщество|О сообществе рационалистов]]

[[Категория:Понятия]]
[[Категория:С чего начать изучение рациональности]]

Участник:ReverendBayes

2024-04-13T04:04:25Z

ReverendBayes: Поправил ссылку

С 2018 года был постоянным участником встреч сообщества LessWrong в Екатеринбурге.

Являюсь участником онлайн-сообщества Кочерги. Мейнтейню телеграм-форум по рациональности "Байесов сад". Веду телеграм-канал на тему "рациональность для продолжающих" [https://t.me/bayesian_little_list Небольшой список имени Байеса] (и да, мне нравится байесианство). Иногда пишу статьи на этой вики.

По образованию физмат, по профессии программист.

Агентность

2024-04-12T18:33:57Z

ReverendBayes: Добавил более подробное описание агентности, викифицировал

Внутренний симулятор

2024-04-05T05:50:43Z

ReverendBayes: Новая страница: «'''Внутренний симулятор''' - техника, позволяющая задействовать всю мощь Две системы|Сист…»

'''Внутренний симулятор''' - техника, позволяющая задействовать всю мощь [[Две системы|Системы 1]] для построения довольно точных предсказаний.

== Принцип работы ==

Наша Система 1 - это очень мощный инструмент сразу в двух отношениях. Во-первых, его архитектура является продуктом естественного отбора, длившегося сотни тысяч или даже миллионы лет. Во-вторых, объем данных, которые он использует - это практически весь жизненный опыт конкретного человека, составляющий многие годы непрерывного (хоть и автоматического и незаметного) восприятия огромного количества информации.

В частности, у людей очень хороши процессы первого рода, отвечающие за предсказание того, что произойдет в той или иной гипотетической ситуации (по крайней мере, в ситуации, подобной той, какую мы наблюдали десятки или сотни раз). По сути, речь идет о работе естественной нейросети, которая обучалась на гигантском массиве данных, и потому может выдавать очень хорошие результаты. Классический пример: представьте себе падающий карандаш. Несмотря на то, что с точки зрения физики его движение описывается не самыми тривиальными формулами, вы легко можете просчитать траекторию его движения без всяких формул; и всегда будете неплохо представлять, в какое место, и с каким усилием нужно переместить руку, чтобы поймать его. Помимо предсказания движения объектов физического мира, внутренний симулятор очень хорош в предсказании поведения людей: как они отреагируют на ту или иную ситуацию, и как будут действовать в ней.

Для проведения анализа жизненных ситуация или выполнения техник [[Инструментальная рациональность|инструментальной рациональности]] бывает полезно спрогнозировать поведение сложных систем (в частности, нашей психики); при этом просчитать это поведение из первых принципов будет очень сложно. Вместе с тем, внутренний симулятор зачастую справится с такой задачей автоматически и без усилий, и выдаст довольно точный результат.

== Как использовать ==

Несмотря на свою мощь, внутренний симулятор имеет и свои ограничения. Например, хоть он и хорош для прогнозирования типичных случаев, но он может давать неверные предсказания в пограничных сценариях; поэтому при решении важных задач стоит использовать его под контролем Системы 2 (чтобы внутренний симулятор генерировал базовые прогнозы, а Система 2 направляла его, выискивая возможные подводные камни).

Кроме того, внутренний симулятор плохо приспособлен давать результат в ответ на сложные запросы, заданные в виде длинных сложносочиненных предложений. Чаще всего предлагается задавать себе довольно простой вопрос, на который тот сможет легко найти ответ:
* "Представь, что этот план провалился. Насколько ты удивишься этому? Что именно могло пойти не так?" - базовый вопрос [[Премортем|премортема]];
* "Есть ли сопротивление со стороны реальности, чтобы сделать эту задачу?" - способ заземлить свою прокрастинацию: это результат ожидания провала из-за внешних обстоятельств, или из-за внутреннего нежелания?

== См. также ==
* [[Премортем]]
* [[Эвристика]]

[[Категория:Понятия]]
[[Категория:Методики]]

Агентность

2024-04-05T04:54:16Z

ReverendBayes: Убрал выравнивание, а то на большом экране весь текст уехал направо.

{{DraftPage}}
{{LwComWikiLink|Agency}}

'''Агентность''' - способность [[Рациональный агент|'''агента''']] изменять среду для достижения своих целей. Чем больше агентность, тем ближе его действия к оптимальным с точки зрения увеличения шансов на достижение целей.

==Другие материалы по теме==

[[Рациональный агент|'''Рациональный агент''']]

Эпистемическое усилие

2023-12-29T16:34:24Z

ReverendBayes: Пометил черновиком

{{DraftPage}}

'''Эпистемическое усилие''' - указание на то, сколько времени и усилий потратил автор текста/высказывания/сообщения для построения изложенной [[Ментальные модели|ментальной модели]].

== Примеры ==

* Подумал об этом около 10 секунд
* Подумал 5 минут по таймеру
* Гуглил информацию по теме около 45 минут
* Вдумчиво обсудил с тремя понимающими людьми
* Провел пару эмпирических тестов

== Статьи по теме ==
* [https://www.lesswrong.com/posts/oDy27zfRf8uAbJR6M/epistemic-effort Epistemic effort]

== См. также ==
* [[Эпистемический статус]]

[[Категория:Понятия]]
[[Категория:Коммуникация]]

Сверхуверенность

2023-12-29T16:34:01Z

ReverendBayes: Пометил черновиком

{{DraftPage}}

<div style="float: right">
{{LwComWikiLink|Overconfidence}}
<div style="clear: both">
{{Wikipedia|en=Overconfidence effect|ru=Эффект сверхуверенности}}
</div></div>

'''Сверхуверенность''' (или ''эффект сверхуверенности'') — когнитивное искажение, при котором люди действуют более уверенно, чем стоило бы, исходя из имеющихся обстоятельств.

== Ссылки ==
* [https://jasoncollins.blog/2018/08/29/the-three-faces-of-overconfidence/ The Three Faces of Overconfidence] — о делении эффекта сверхуверенности на три различные формы (overestimation, overplacement и overprecision).

[[Категория:Понятия]]
[[Категория:Когнитивные искажения]]

Заглавная страница

2023-12-23T10:04:12Z

ReverendBayes: Реорганизовал категории:оформил блоками,добавил полезных категорий,удалил вывод неактуальных страниц;в целом сделал более информативным

Это [[Meta:Описание|энциклопедия]] русскоязычного сообщества [[LessWrong]]. Наше сообщество посвящено изучению [[Рациональность|рациональности]], под которой мы понимаем получение более точного представления о мире и более эффективное принятие решений. Наше [[:Категория:Сообщество|сообщество]] выросло вокруг «[[Цепочки|Цепочек]]» — сборника статей [[Юдковский, Элиезер|Элиезера Юдковского]], в которых на основе математических идей и научных данных из когнитивной психологии (а также других дисциплин) описывается, как думают люди, и что можно сделать, чтобы меньше ошибаться.

Эта энциклопедия появилась совсем недавно, и вы можете [[Как внести вклад|помочь нам в её наполнении]], [https://ru.wikipedia.org/wiki/Википедия:Правьте_смело правьте смело]. Кроме того, вы можете [[Как помочь сообществу|помочь сообществу другими способами]].

Если вы просто хотите побольше узнать о рациональности, у нас есть советы, [[Если вы хотите узнать о рациональности|с чего лучше начать]].

== Группы страниц ==
<div class="main-wrapper" style="width: 100%; float: left; box-sizing: border-box">
<div class="column1" style="width: 50%; float: left; box-sizing: border-box; padding: 10px;">
{{Раздел заглавной страницы|Заголовок=Золотые страницы|Содержимое=
{{#ask:
[[Категория:Золотые страницы]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=С чего начать изучение рациональности|Содержимое=
{{#ask:
[[Категория:С чего начать изучение рациональности]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Понятия|Содержимое=
{{#ask:
[[Категория:Понятия]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Как проводить встречи|Содержимое=
{{#ask:
[[Категория:Как проводить встречи]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Онлайн-ресурсы сообщества|Содержимое=
{{#ask:
[[Категория:Онлайн-ресурсы]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Участие в развитии онлайн-сообщества|Содержимое=
{{#ask:
[[Категория:Работа в онлайне]]
| sep =  • 
}}
}}
</div>
<div class="column1" style="width: 50%; float: left; box-sizing: border-box; padding: 10px;">
{{Раздел заглавной страницы|Заголовок=Новые страницы|Содержимое=
{{#ask:
[[:+]]
| sep =  • 
| sort = Дата создания
| order = desc
| limit = 10
}}
}}
{{Раздел заглавной страницы|Заголовок=Методики|Содержимое=
{{#ask:
[[Категория:Методики]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Книги|Содержимое=
{{#ask:
[[Категория:Книги]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=AI Safety и AI Alignment|Содержимое=
{{#ask:
[[Категория:AI Safety]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Ненасильственное общение|Содержимое=
{{#ask:
[[Категория:Ненасильственное общение]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Форматы встреч|Содержимое=
{{#ask:
[[Категория:Форматы встреч]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Сообщество|Содержимое=
{{#ask:
[[Категория:Telegram]] OR [[Категория:Жаргон]] OR [[Категория:Игры для рационалистов]] OR [[Категория:Организации]] OR [[Категория:Праздники]] OR [[Категория:Корневые страницы категории Сообщество]]
| sep =  • 
}}
}}
</div>
</div>

== Категории ==
* [[:Категория:Корневая категория|Дерево категорий]]
* [[Служебная:Категории|Список всех категорий]]

Додзё

2023-12-23T09:48:50Z

ReverendBayes: Больше встречи в Кочерге не проводятся

{{Формат встречи|Додзё}}

Обычно слово «додзё» означает [[ruwikipedia:Додзё|место для занятия боевыми искусствами]]. Поскольку [[Элиезер Юдковский]] часто использовал метафору о том, что [[рациональность]] — это [http://lesswrong.com/lw/gn/the_martial_art_of_rationality/ боевое искусство для ума], занятия по развитию навыков рациональности на [[LessWrong]]'е тоже стали называть «додзё».

В России подобные занятия достаточно часто проводились в Москве: [[Рациональное додзё в Кочерге]].

[[Категория:Жаргон]]

Академические встречи

2023-12-23T09:47:21Z

ReverendBayes: Добавил ссылки на страницы, прогнал викификатор

{{Формат встречи|Академическая}}

Академические встречи LessWrong ориентированы на познавательный контент (доклады и структурированные дискуссии) и на максимизацию [[Дельта|дельты]] участников.

Чаще всего академические встречи строятся вокруг докладов на темы, прямо или косвенно связанные с [[рациональность]]ю и прочими сферами интересов сообщества.

== Контент для докладов ==
Вот список некоторых источников, из которых можно почерпнуть темы для докладов:

* [http://www.rationality.org/resources/updates/archive Статьи CFAR]
* [http://lesswrong.com/promoted/ Статьи на английском языке на тему рациональности (lesswrong.com)]
* [http://lesswrong.ru/Список_литературы Список литературы на lesswrong.ru]
* [https://juliagalef.com/recent-posts/ Статьи на английском языке на тему рациональности (juliagalef.com)]

Если найдёте что-нибудь интересное, и у вас будет ожидание, что другие участники сообщества могут получить из этого полезную [[Дельта|дельту]], значит, скорее всего, это подходящий материал, чтобы подготовить и сделать по нему доклад.

Разумеется, темы докладов совершенно не обязаны ограничиваться только материалами из этого списка.

{{Nav/Встречи}}

Тестирование заглавной страницы

2023-12-21T19:15:48Z

ReverendBayes: Добавил новые категории: С чего начать изучения рациональности, Онлайн-ресурсы, Участие в развитии онлайн-сообщества; переупорядочил

Это [[Meta:Описание|энциклопедия]] русскоязычного сообщества [[LessWrong]]. Наше сообщество посвящено изучению [[Рациональность|рациональности]], под которой мы понимаем получение более точного представления о мире и более эффективное принятие решений. Наше [[:Категория:Сообщество|сообщество]] выросло вокруг «[[Цепочки|Цепочек]]» — сборника статей [[Юдковский, Элиезер|Элиезера Юдковского]], в которых на основе математических идей и научных данных из когнитивной психологии (а также других дисциплин) описывается, как думают люди, и что можно сделать, чтобы меньше ошибаться.

Эта энциклопедия появилась совсем недавно, и вы можете [[Как внести вклад|помочь нам в её наполнении]], [https://ru.wikipedia.org/wiki/Википедия:Правьте_смело правьте смело]. Кроме того, вы можете [[Как помочь сообществу|помочь сообществу другими способами]].

Если вы просто хотите побольше узнать о рациональности, у нас есть советы, [[Если вы хотите узнать о рациональности|с чего лучше начать]].

== Группы страниц ==

<div class="main-wrapper" style="width: 100%; float: left; box-sizing: border-box">
<div class="column1" style="width: 50%; float: left; box-sizing: border-box; padding: 10px;">
{{Раздел заглавной страницы|Заголовок=Золотые страницы|Содержимое=
{{#ask:
[[Категория:Золотые страницы]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=С чего начать изучение рациональности|Содержимое=
{{#ask:
[[Категория:С чего начать изучение рациональности]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Понятия|Содержимое=
{{#ask:
[[Категория:Понятия]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Как проводить встречи|Содержимое=
{{#ask:
[[Категория:Как проводить встречи]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Онлайн-ресурсы сообщества|Содержимое=
{{#ask:
[[Категория:Онлайн-ресурсы]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Участие в развитии онлайн-сообщества|Содержимое=
{{#ask:
[[Категория:Работа в онлайне]]
| sep =  • 
}}
}}
</div>
<div class="column1" style="width: 50%; float: left; box-sizing: border-box; padding: 10px;">
{{Раздел заглавной страницы|Заголовок=Новые страницы|Содержимое=
{{#ask:
[[:+]]
| sep =  • 
| sort = Дата создания
| order = desc
| limit = 10
}}
}}
{{Раздел заглавной страницы|Заголовок=Методики|Содержимое=
{{#ask:
[[Категория:Методики]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Книги|Содержимое=
{{#ask:
[[Категория:Книги]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=AI Safety и AI Alignment|Содержимое=
{{#ask:
[[Категория:AI Safety]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Ненасильственное общение|Содержимое=
{{#ask:
[[Категория:Ненасильственное общение]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Форматы встреч|Содержимое=
{{#ask:
[[Категория:Форматы встреч]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Сообщество|Содержимое=
{{#ask:
[[Категория:Telegram]] OR [[Категория:Жаргон]] OR [[Категория:Игры для рационалистов]] OR [[Категория:Организации]] OR [[Категория:Праздники]] OR [[Категория:Корневые страницы категории Сообщество]]
| sep =  • 
}}
}}
</div>
</div>
 
== Категории ==
* [[:Категория:Корневая категория|Дерево категорий]]
* [[Служебная:Категории|Список всех категорий]]

Рациональность

2023-12-21T19:11:39Z

ReverendBayes: Категория

{{Golden}}

В сообществе [[LessWrong]] под '''рациональностью''' понимаются две связанные концепции: эпистемическая рациональность (систематическое улучшение точности своих [[Убеждение|убеждений]]) и инструментальная рациональность (систематическое достижение желаемых результатов). Такое понимание термина «рациональность» наследуется из работ специалистов по когнитивной психологии, в частности, [[Кейт Станович|Кейта Становича]].

== Эпистемическая рациональность ==
* (основная статья: [[Эпистемическая рациональность]])

Эпистемическая рациональность — образ действий и мыслей, укрепляющий соответствие между [[Карта и территория|местностью и её когнитивной картой]], корректировка убеждений в свете новой информации. Искусство обретения убеждений, [[lwru:Простая истина|согласующихся с реальностью настолько близко, насколько возможно]]. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.

== Инструментальная рациональность ==
* (основная статья: [[Инструментальная рациональность]])

Инструментальная рациональность — реализация ваших [[Ценности|ценностей]]. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична (в том числе из альтруистических, нравственных или эстетических соображений). Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».

== Рациональность в теории и на практике ==
Идеальной математической моделью абсолютно рационального поведения является [[Агент|идеальный байесов агент]]:
* За счет математически оптимального способа извлекать информацию из наблюдаемых фактов (с помощью [[Байесовское обновление|байесовских обновлений]]) он может строить настолько точную модель реальности, насколько физически возможно; это дает ему наилучший возможный уровень эпистемической рациональности;
* Обладая максимально точной картиной мира из возможных, и стремясь на ее основе выбирать действия, приводящие к наилучшей реализации его целей, он в итоге способен добиваться наилучших возможных результатов; это дает ему наилучший возможный уровень инструментальной рациональности.
Стоит, однако, иметь в виду, что такая оптимальность является потенциальной. В конкретных эпизодах идеальный байесов агент может как прийти к неверным выводам (из-за неудачного набора наблюдений, создающих ложное впечатление), так и не получить ожидаемого результата от наиболее многообещающих действий (из-за того, что на практике реализовался не самый вероятный из возможных сценарий развития событий). В подобных случаях агент, действующий «иррационально», может достичь лучших результатов (за счет простого везения в данном конкретном эпизоде), но на долгой дистанции результаты идеального байесового агента будут лучше.

При этом нужно понимать, что в реальности идеальный байесов агент не может быть реализован, так как для его работы требуются бесконечные объем памяти, быстродействие и точность вычислений. Реальные люди не обладают ничем подобным. Кроме того, архитектура человеческого мозга далека от теоретической архитектуры мышления идеального агента. Человеческий мозг эволюционно развивался в условиях дикой саванны, где действовал отбор, с одной стороны, на снижение энергопотребления мозга, с другой — на обеспечение минимально достаточного уровня эффективности мышления, чтобы человек имел приличные шансы дожить до репродуктивного возраста и затем размножиться и вырастить потомство. Результатом стала архитектура мозга, в которой большинство процессов мышления и принятия решений происходят автоматически на основе эвристик; обычно эти эвристики работают довольно хорошо, но в ряде случаев оборачиваются [[Когнитивное искажение|когнитивными искажениями]] и приводят к нежелательным результатам.

В реальности людям, стремящимся к рациональности, стоит иметь в виду, что их мозг в любом случае будет работать на основе эвристик [[Две системы|Системы 1]], а использовать [[Две системы|Систему 2]] в режиме 24/7 невозможно. Поэтому оптимальным на мета-уровне будет не подменять работу Системы 1 на работу Системы 2, а с помощью Системы 2 искать сценарии провала эвристик Системы 1 и дорабатывать эти эвристики так, чтобы они работали более успешно.

== Популярные заблуждения о рациональности ==
* Рациональность (в том смысле, в каком она понимается в сообществе LessWrong) часто путают с [https://ru.wikipedia.org/wiki/Рационализм_(философия) рационализмом]. Однако, помимо общего корня, между ними мало общего. Более того, рациональность больше сближается с [https://ru.wikipedia.org/wiki/Эмпиризм эмпиризмом], чем с рационализмом.
* Часто рациональность противопоставляют эмоциональности («эмоции нерациональны»). Классическим примером такого «неэмоционального рационалиста» является Спок из киновселенной Звездного Пути. Однако, в сообществе LessWrong принят консенсус, что эмоции ортогональны рациональности; при этом «[[lwru:Мне сегодня рационально|эмоции, которые могут быть разрушены правдой, должны быть разрушены; эмоции, которые питаются правдой, должны процветать]]» (и то, и другое относится как к «позитивным», так и к «негативным» эмоциям). Кроме того, известно, что положительные/отрицательные эмоции служат в человеческом организме для положительной/отрицательной мотивации к достижению целей; наилучшим подходом среди рационалистов считается не избавление от этой регуляторной системы, а только более тонкая ее настройка и активное использование для достижения наилучших результатов. Наконец, поскольку рациональность направлена в том числе на достижение человеком своих целей и ценностей, то ожидается, что успешное их достижение будет вызывать у него положительные эмоции (радость, удовольствие, моральное удовлетворение); так что положительные эмоции (которые заземлены о реальные достижения) считаются вполне желаемым результатом.
* Поскольку представление о [[Две системы|двух системах мышления]] и [[Когнитивное искажение|когнитивных искажениях]], характерных для Системы 1, является очень важным в рациональности, у новичков часто создается впечатление, что мышление с помощью Системы 1 является «плохим», а с помощью Системы 2 — «хорошим», и следует как можно чаще использовать Систему 2. В действительности же эти две системы просто предназначены для разных задач, и более многообещающим будет научиться использовать каждую из них более эффективно. В частности, рекомендуется с помощью Системы 2 находить сценарии провала эвристик Системы 1, придумывать более оптимальные эвристики, и затем внедрять их в Систему 1. Таким образом, «более рациональным» будет не тот, кто чаще использует Систему 2, а тот, кто с помощью Системы 2 внедрил в Систему 1 больше «более рациональных» эвристик.
* Иногда можно встретить людей, которые приписывают «рациональности» другие подобные характеристики, сравнивая ее либо с деструктивной сектой, либо с «курсом саморазвития, [необоснованно] обещающим добиться больших успехов с помощью простых действий». В одних случаях такие якобы принадлежащие «рациональности» свойства рассматриваются в позитивном ключе, в других — подвергаются критике. На самом деле подобные интерпретации прямо противоречат идеям и ценностям, заложенным в Цепочки и другие мейнстримные тексты о LessWrong-рациональности; поэтому обычно такие мысли можно услышать от людей, которые сами не читали эти тексты. Это бывает и когда такие люди просто превратно понимают идеи рациональности, и когда они заслуженно критикуют как раз тех людей, которые превратно поняли идеи рациональности. В связи с этим, начинающим рационалистам обычно советуют, во-первых, знакомиться с рациональностью по первоисточникам («Цепочки» и другие тексты с сайта [[LessWrong]] с высоким рейтингом), во-вторых — при чтении держать в уме возможность неверной интерпретации, чтобы усвоить из прочитанного только «здоровые» идеи и не усвоить «нездоровые».

== Статьи по теме ==
* [[lwru:Что_такое_рациональность|Что такое рациональность]]

== См. также ==
* [[LessWrong]]
* [[Две системы]]
* [[Когнитивное искажение]]

[[Категория:Понятия]]
[[Категория:С чего начать изучение рациональности]]

Список литературы от CFAR

2023-12-21T19:10:57Z

ReverendBayes: Категория

На этой странице приведён список литературы, который рекомендует [[Центр прикладной рациональности]] (CFAR). В случае наличия русского перевода приводятся и название русского издания, и оригинальное название.

== Научно-популярная литература ==
* [[Элиезер Юдковский]], «[[Рациональность: от ИИ до зомби]]»''(русский перевод пока не закончен)'' / Eliezer Yudkowsky, «Rationality: From AI to Zombies»
* [[Джулия Галеф]], «Мышление разведчика. Почему одни люди видят все как есть и принимают правильные решения, а другие — заблуждаются» / Julia Galef, «The Scout Mindset: Why Some People See Things Clearly and Others Don’t»
* [[Даниел Канеман|Даниэль Канеман]], «[[Думай медленно… решай быстро]]» / Daniel Kahneman, «Thinking, Fast and Slow»
* Филип Тетлок, Дэн Гарднер, «Думай медленно — предсказывай точно. Искусство и наука предвидеть опасность» / Philip E. Tetlock, Dan Gardner, «Superforecasting: The Art and Science of Prediction»
* Юджин Джендлин, «Фокусирование. Новый психотерапевтический метод работы с переживаниями» / Eugene T. Gendlin, «Focusing»
* Дэн Ариели, «Предсказуемая иррациональность» / Dan Ariely, «Predictably Irrational»
* Роберт Чайлдини, «Психология влияния» / Robert Cialdini, «Influence: the Psychology of Persuasion»
* [[Кейт Станович]], «Рациональное мышление. Что не измеряют тесты способностей» / Keith Stanovich, «What Intelligence Tests Miss»
* Нейт Сильвер, «Сигнал и Шум: Почему одни прогнозы сбываются, а другие нет» / Nate Silver, «The Signal and the Noise: Why So Many Predictions Fail — But Some Don’t»
* Чип Хиз и Дэн Хиз, «Ловушки мышления: Как принимать решения, о которых вы не пожалеете» / Chip Heath, Dan Heath, «Decisive: How to Make Better Choices in Life and Work»
* Дэвид Рок, «Мозг. Инструкция по применению: Как использовать свои возможности по максимуму и без перегрузок» / David Rock, «Your Brain at Work: Strategies for Overcoming Distraction, Regaining Focus, and Working Smarter All Day Long»

== Научная литература ==
* [[Кейт Станович|Keith Stanovich]], «Rationality and the Reflective Mind»
* Jonathan Baron, «Thinking and Deciding, 4th Edition»
* R. K. Hastie, R. M. Dawes «Rational Choice in an Uncertain World: The Psychology of Judgment and Decision Making»
* Keith J. Holyoak, Robert G. Morrison, «The Oxford Handbook of Thinking and Reasoning»
* Max H. Bazerman, Don A. Moore, «Judgment in Managerial Decision Making»
* Даниэль Канеман, Пол Словик, Амос Тверски, «Принятие решений в неопределенности: Правила и предубеждения» / Daniel Kahneman, Paul Slovic, Amos Tversky «Judgment Under Uncertainty: Heuristics and Biases»

== «Выбор сотрудников» ==
В этом разделе приведены книги, которые на первый взгляд не имеют прямого отношения к рациональности, однако, сотрудники Центра прикладной рациональности считают их достаточно полезными.

* Маршалл Розенберг, «[[Ненасильственное общение|Язык жизни — ненасильственное общение]]» / Marshall Rosenberg, «Nonviolent Communication»
* Дуглас Хофштадтер, «Гёдель, Эшер, Бах» / Douglas Hofstadter, «Gödel, Escher, Bach»
* [[Элиезер Юдковский]], «[[Гарри Поттер и методы рационального мышления]]» / Eliezer Yudkowsky, «Harry Potter and the Methods of Rationality»
* Keith Johnstone, «Impro: Improvisation and the Theatre»
* Jill Pinkwater, «Mister Fred»
* Sendhil Mullainathan, «Scarcity: The New Science of Having Less and How It Defines Our Lives»
* C. Terry Warner, «Bonds that Make Us Free»
* Брайан Кристиан, Том Гриффитс, «Алгоритмы для жизни: Простые способы принимать верные решения» / Brian Christian, Tom Griffiths, «Algorithms to Live By: The Computer Science of Human Decisions»

== Ссылки ==
* [http://rationality.org/resources/reading-list Список литературы на сайте Центра прикладной рациональности]

[[Категория:Книги]]
[[Категория:С чего начать изучение рациональности]]

Список полезных техник

2023-12-21T19:10:25Z

ReverendBayes: Категория

{{DraftPage}}
На данный момент эта страница является "копи-пастом" [https://vk.com/wall-99973027_3999 записи] из группы [[Кочерга|Кочерги]] во ВКонтакте. Вероятно, собранные здесь методики имеет смысл растаскивать по отдельным статьям.

Довольно много техник собрано в цепочке [https://lesswrong.ru/node/499 Время молотка], созданной на основе материалов [[Центр прикладной рациональности|Центра прикладной рациональности]].

== Поведенческий уровень ==

=== Триггеры если-то ===
https://en.wikipedia.org/wiki/Implementation_intention

сенсорность триггера (вы должны мочь конкретно представить ощущение, связанное с триггером, которое хотите замечать. пример - холод металлической ручки двери в вашей руке),
простота действия (действие, которое вы хотите совершать, должно быть достаточно простым и конкретным, иначе вы просто не будете его делать и выработаете отторжение. пример: "взойти на одну ступеньку", а не "подняться пешком на девятый этаж"),
учёт контекста (привычки могут ломаться при смене контекста, учитывайте это, когда выбираете триггер. более универсальные - эмоции, оповещения на телефоне, мысли).

=== Подкрепление ===
https://en.wikipedia.org/wiki/Operant_conditioning

быстрота (чем быстрее, тем эффективнее. важны даже секунды),
уникальность (если вы можете дать себе это подкрепление просто так, то вы, наверное, и так это сделаете. выберите что-то, что больше завязано на действии. пример - похвалить себя. да, технически говоря вы можете сделать это когда угодно, но вряд ли будете, будет ощущаться неискренне).

=== Экспозиционная терапия ===
https://en.wikipedia.org/wiki/Exposure_therapy -

очень маленькие шаги (каждый следующий шаг не должен вызывать отторжения. вызывает - делайте ещё меньше).

=== Намеренная практика ===
https://en.wikipedia.org/wiki/Practice_(learning_method)#Deliberate_practice

быстрая обратная связь (сразу после выполнения должно быть понятно, что улучшить),
практика элементов отдельно (разбивать навык на мини-навыки),
много времени,
уровень сложности чуть выше комфортного (баланс сложности и шанса успеха. должно достаточно стимулировать и не вызывать отторжения/демотивировать).

=== Систематизация ===
https://www.lesswrong.com/posts/HHjn3r8n7bJp6Q5HE/hammertime-day-4-design

избавление от отвлечений в окружении (пример: выключать оповещения и убирать телефон из поля зрения, когда работаете. просканируйте свое поведение на существующие если-то, убирайте нежелательные триггеры),
таймеры (чтобы не думать о продолжительности занятия и лучше фокусироваться),
чеклисты (конкретные формулировки физических действий, снижение когнитивной нагрузки, доступность: должен легко попадаться на глаза в нужный момент).

== Когнитивный уровень ==

=== Рефрэйминг ===
https://en.wikipedia.org/wiki/Framing_(social_sciences)

используйте свои когнитивные искажения, влияйте на первую систему. хороший фрэйм - работающий фрэйм. экспериментируйте.

=== Визуализация ===
https://en.wikipedia.org/wiki/Mental_image -

мультисенсорность (чем больше органов чувств задействовано в картинке, тем ярче),
контрастирование (представьте желаемый результат, потом преграды, мешающие его достичь).

=== Управление вниманием ===

замечать (заранее определите, как вы поймёте, что тратите внимание не на то).

=== Внутренний корень разногласия ===
https://www.lesswrong.com/posts/mQmx4kQQtHeBip9ZC/internal-double-crux

принцип Доброй Воли (все части меня хотят мне лучшего, все хорошие и полезные),
различие в предсказаниях из одинаковых предпосылок (Х сделает мне хуже, Х сделает мне лучше. как? как это проверить?).

=== [[Консеквенциализм]] ===
https://en.wikipedia.org/wiki/Consequentialism

к каким последствиям приведет этот выбор?
рефлексивное одобрение (если я совершу действие, буду ли я потом жалеть об этом?).

=== Эмпиризм ===
https://en.wikipedia.org/wiki/Empiricism

объектность (из формулировки можно представить конкретное состояние физического мира),
предсказательная способность (какие последствия я ожидаю увидеть? как поменяется мир? как хорошо предсказывает это утверждение?).

=== Дистанцирование (cognitive defusion, в основном про субъективный опыт, но не только) ===

форма речи (говорите о событиях/вещах как об объектах. пример: "я испытываю грусть", а не "это грустно").

=== Факторизация целей ===
https://www.lesswrong.com/posts/Cu5C5KhkoXhrPMLFN/goal-factoring

глубина факторизации (можно выписывать конкретные ближайшие последствия или долгосрочные большие цели, к которым действие приводит).

=== Установка на рост ===
https://www.mindsetworks.com/science/ -

фокус на действиях ("я буду делать Х 30 минут" вместо "я достигну результата У"),
чистка идентичности (посмотрите на то, как вы себя определяете, и на то, как это вас ограничивает. ненужное выкиньте)

[[Категория:Методики]]
[[Категория:С чего начать изучение рациональности]]

Если вы хотите узнать о рациональности

2023-12-21T19:09:08Z

ReverendBayes: Категория

Если вы хотите узнать о рациональности, в первую очередь мы советуем вам читать «[[Цепочки]]» / книгу [[Элиезер Юдковский|Элиезера Юдковского]] «[[Рациональность: от ИИ до зомби]]». На русском языке вы можете их прочитать на сайте [http://lesswrong.ru lesswrong.ru], на английском — на [http://lesswrong.com lesswrong.com].

Неплохим предисловием к «Рациональности: от ИИ до зомби» является цикл статей [[Нейт Соарес|Нейта Соареса]] [http://lesswrong.ru/node/298 Введение в рациональность].

Кроме того, вы можете почитать и другие книги из [[Список литературы от CFAR|cписка литературы от CFAR]]. В перечне по ссылке присутствуют как научно-популярные книги для начинающих, так и серьёзные академические издания. Возможно, также вас заинтересуют [[Рациональное творчество|«рациональная» художественная литература]].

== Особо важные идеи ==
Пока в этом разделе в качестве чернового наброска присутствует список, [https://lesswrongru.slack.com/archives/help_to_understand/p1522589111000046 предложенный] [[Участник:Muyyd|Muyyd’ом]] в [[Slack-чат]]'е.

# Идея карты и территории: [https://lesswrong.ru/node/497 серия эссе "Особо продвинутая эпистемология для начинающих"], [https://www.youtube.com/watch?v=uacDPOz8FDs&list=PLl-Tj9sXiROYR97C-th5XyQE4oeWcA15w&index=3 лекция из цикла "Рациональность для начинающих"]
# Рациональность, как совокупность знаний и дисциплина: статьи [[Нейт Соарес|Нейта Соареса]] [https://lesswrong.ru/node/298 Введение в рациональность] или/и русскоязычный конспект книги [[Кейт Станович|Кейта Становича]] [https://global.oup.com/academic/product/decision-making-and-rationality-in-the-modern-world-9780195328127?cc=us&lang=en& Decision Making and Rationality in the Modern World] на сайте http://kergma.net/konspekt/rational-thought-and-behavior .
# Цепочка [[lwru:Как люди понимают слова|Как люди понимают слова]].
# [[Теорема Байеса]].
# Эссе Роба Бенсинджера [[lwru:Искажения введение|Искажения: введение]] и [[lwru:Рациональность введение|Рациональность: введение]].
# Цепочка [[lwru:Против рационализации цепочка|Против рационализации]]

== Инструментальная рациональность ==
Методики, которые можно применить в своей жизни «прямо сейчас», можно найти в цепочке [https://lesswrong.ru/node/499 Время молотка], созданной на основе материалов [[Центр прикладной рациональности|Центра прикладной рациональности]].

Также вы можете заглянуть в [[:Категория:Методики|категорию «Методики»]].

== Рациональное сообщество ==

В статье про [[Перепись | переписи]] можно больше узнать о том, какие люди составляют сообщество и интересуются рациональностью.

== Прочее ==

* В выпуске подкаста [https://podlodka.io/179 Podlodka #179 – Рациональность] [[Участник:Berekuk|Вячеслав Матюхин]] быстро касается следующих тем: [[Рациональность | рациональность]] и её польза, [[Когнитивное искажение | когнитивные искажения]], [[:Категория:Теория_вероятностей | оценки и вероятность]], [[Шестеренки|шестерёночные модели]], [[ННО]], [[УЭ]], [[ЭА]], безопасность ИИ, [[LessWrong | сообщество LW]], [[Кочерга]]. Ссылки: [https://music.yandex.ru/album/7570122/track/70695753 Яндекс.Музыка], [https://soundcloud.com/podlodka/podlodka-179-ratsionalnost SoundCloud], [https://podcasts.apple.com/ru/podcast/podlodka-179-рациональность/id1209828744 Apple Podcasts].
* На Youtube есть записи со встреч на тему [[Рациональность для начинающих (цикл встреч) | "рациональность для начинающих"]]

[[Категория:С чего начать изучение рациональности]]

Категория:С чего начать изучение рациональности

2023-12-21T19:05:58Z

ReverendBayes: Надкатегория

Статьи, которые в первую очередь будет полезно прочитать тем, кто только начинает изучать рациональность.

[[Категория:Корневая категория]]

Категория:С чего начать изучение рациональности

2023-12-21T19:04:47Z

ReverendBayes: Новая страница: «Статьи, которые в первую очередь будет полезно прочитать тем, кто только начинает изучат…»

Статьи, которые в первую очередь будет полезно прочитать тем, кто только начинает изучать рациональность.

LessWrong.com

2023-12-21T18:50:58Z

ReverendBayes: Категория - Онлайн-ресурсы

{{WikipediaRuEn|ru=Lesswrong|en=LessWrong}}
'''''LessWrong.com''''' посвящен совершенствованию рациональных искусств — в частности искусству мышления. Новая математика и наука заслуживают применения в нашей повседневной жизни и быть услышанной обществом.

'''''LessWrong.com''''' — это блог частично модерируемый сообществом, на котором авторы выкладывают статьи или ссылки на статьи, а также оставляют комментарии. Пользователи могут голосовать за сообщения и комментарии, или против (код основан на открытых исходниках [https://www.reddit.com Reddit]). Отдельно «продвигаемые» посты выбираются редакторами на основе таких критериях как: новизна контента, четко поставленных аргументов, хорошей редакции, популярности и важности.

==Ссылки==

* [http://lesswrong.com/ Английский LessWrong]

[[Категория:Онлайн-ресурсы]]

Overcoming Bias

2023-12-21T18:50:41Z

ReverendBayes: Категория - Онлайн-ресурсы

[http://www.overcomingbias.com Overcoming bias] --- совместный блог [[Юдковский|Элиезера Юдковского]] и [[Робин Хансон|Робина Хансона]], где Юдковский начал писать свои «[[Цепочки]]». Буквально переводится как «Преодолевая искажения». Из этого блога родился коллективный блог [[LessWrong.com]]. Overcoming bias до сих пор является блогом Робина Хансона.

[[Категория:Онлайн-ресурсы]]

Цепочки

2023-12-21T18:50:16Z

ReverendBayes: Категория - Онлайн-ресурсы

Цепочка (англ. ''Sequences'') — это серия из связанных друг с другом записей на [[LessWrong.com]], объединенных общей темой.

Цепочки начал писать [[Юдковский, Элиезер|Элиезер Юдковский]] в конце 2006 года, когда решил написать книгу по рациональности. Перечень цепочек в их изначальном виде можно найти на lesswrong.com по тэгу [https://www.lesswrong.com/tag/original-sequences Original Sequences].

Позже [[MIRI]] преобразовал многие из них в книгу «[[Рациональность: от ИИ до зомби]]». Часто под «Цепочками» подразумевают именно статьи, вошедшие в эту книгу. Если вы впервые попали на LessWrong, лучше всего начать с них.

В 2022 году на lesswrong.com был добавлен раздел [https://www.lesswrong.com/highlights Highlights from the Sequences]. Он содержит ссылки на 50 самых важных (с точки зрения составителей) эссе.

Среди прочих причин, вызывающих затруднения в изучении цепочек, стоит отметить их [[:Файл:Взаимосвязь цепочек.jpg|взаимозависимость]]. То есть очень часто получается так, что для понимания конкретной статьи необходимо знать идеи и факты из других статей, при этом, необязательно что эти «необходимые статьи» располагаются перед «конкретной» статьей. Поэтому рекомендуется прочесть книгу минимум пару раз.

Одной из наиболее самодостаточных цепочек является [[lwru:Как люди понимают слова|цепочка «Как люди понимают слова»]].

Цепочки частично [http://lesswrong.ru/Переводы переведены на русский язык].

О связи "Цепочек" Юдковского с академической наукой можно почитать в заметке [[Люк Мюльхаузер|Люка Мюльхаузера]] [https://www.lesswrong.com/posts/ASpGaS3HGEQCbJbjS/eliezer-s-sequences-and-mainstream-academia Eliezer's Sequences and Mainstream Academia].

[[Категория:Онлайн-ресурсы]]

LessWrong

2023-12-21T18:49:39Z

ReverendBayes: Категория - Онлайн-ресурсы

{{Wikipedia}}
LessWrong (переводится с английского как «менее неправ» или «меньше ошибаюсь») — сообщество людей, увлечённых изучением человеческой [[Рациональность|рациональности]]. Участники сообщества ищут способы принимать более оптимальные решения во всех случаях жизни, основываясь на работах из области математики, экономики, когнитивной психологии и многих других научных дисциплин.

История сообщества началась в 2006 году, когда [[Элиезер Юдковский]] начал писать статьи по рациональности в совместный с экономистом Робином Хансоном блог [http://www.overcomingbias.com/ Overcoming bias]. В феврале 2009 года записи Юдковского стали началом нового [http://lesswrong.com/ сайта] [[LessWrong.com]].

Основные идеи, которые легли в основу сообщества, изложены в [[Цепочки|Цепочках]].

Про сообщество есть хорошая большая статья Джейкоба Фальковича: [[lwru:Тайное_общество_борьбы_с_глупостью|Тайное общество борьбы с глупостью]].

Статистические данные об участниках можно узнать из результатов [[Перепись_(lesswrong.com)|переписи]]. К сожалению, последняя "глобальная" перепись проводилась в марте 2016 года.

== Русскоязычная часть сообщества ==
На русском языке есть некоторое количество ресурсов, посвящённых сообществу LessWrong: [[Онлайн-ресурсы сообщества]].

В некоторых городах России достаточно регулярно проходят встречи: [[Встречи сообщества]].

Статистические данные об участниках русскоязычной части сообщества можно узнать из результатов [[Перепись|переписей]].

=== Проблема с определениями ===
В России привыкли называть словом «Lesswrong» российское сообщество, выросшее из поклонников исходного коллективного блога [[LessWrong.com]] и других текстов [[Диаспора рационалистов|диаспоры рационалистов]]. Однако, многие (и авторы в том числе) называют словом «LessWrong» именно исходный коллективный блог. Вероятно, с этим нет никаких проблем в случаях, когда русскоязычное сообщество распространяет переводы материалов, однако, при создании чего-то своего может возникнуть вопрос, а почему авторы вообще используют название «LessWrong». Автор этих строк на момент написания не знает о каких-то уже существующих проблемах такого рода, однако, он предполагает, что для дальнейшего развития сообщества этот вопрос следует учесть и как-то решить.

== Ссылки ==
* [http://lesswrong.ru Сайт русскоязычного сообщества]
* [https://vk.com/less_wrong Less Wrong по-русски ВКонтакте]

[[Категория: Сообщество]]
[[Категория:Онлайн-ресурсы]]
[[Категория:Корневые страницы категории Сообщество]]

Категория:Telegram

2023-12-21T18:48:33Z

ReverendBayes: Надкатегория

Категория для чатов и каналов в Telegram

[[Категория:Сообщество]]
[[Категория:Онлайн-ресурсы]]

Онлайн-ресурсы сообщества

2023-12-21T18:47:48Z

ReverendBayes: Это лучше смотрится в новой категории "Онлайн-ресурсы", чем "Работа в онлайне"

На этой странице перечисляются онлайн-ресурсы сообщества [[LessWrong]].

* [http://lesswrong.ru Сайт русскоязычного сообщества]
* [https://vk.com/less_wrong Less Wrong по-русски ВКонтакте]
* [https://t.me/lesswrong_ru_news Канал в Телеграме с новостями сообщества]
* [https://t.me/lesswrong_ru_improvement Группа в телеграме, посвящённая вопросам развития сообщества]
* [https://www.youtube.com/channel/UCDuUW15DOp4UDqxe2QrfsNA Канал Lesswrong.ru] на Youtube. В основном это видео докладов со встреч, в большинстве случаев — московских.

Обсуждению, как сделать эти и, возможно, другие ресурсы лучше, посвящены страницы, отмеченных категорей [[:Категория:Работа в онлайне]].

О ресурсах, посвящённых встречам, вы можете узнать на [[Встречи сообщества|страницах встреч соответствующего города]].

== Онлайн-общение ==
Пообщаться с людьми, которым могут быть близки интересы сообщества, можно в следующих местах:

* [https://t.me/+WrBhn3yNSSE5Nzdi Байесов сад] - русскоязычный форум в Телеграме о рациональности и смежных темах.
* [https://web.archive.org/web/20230518055234/https://kocherga-club.ru/community/chats Чаты сообщества Кочерга] — множество чатов в Телеграме на разные темы, организованных сообществом [[Кочерга|Кочерги]] (само сообщество в настоящий момент официально не развивается, но некоторые чаты сохраняют активность).

== Телеграм-каналы, связанные с сообществом ==
* [https://t.me/gryphons_thoughts Мысли грифонов] — Канал про [[ненасильственное общение]] (и не только), который ведёт один из участников сообщества.
* [https://t.me/ontologics Пион на каждый день] — канал Пион Гайбарян — в основном про привычки, интеграцию и работу с убеждениями.
* [https://t.me/effectivealtruism Эффективный альтруизм] — канал [[Эффективный альтруизм|Эффективного альтруизма]].
* [https://t.me/bayesian_little_list Небольшой список имени Байеса] - канал Андрея Ведерникова на тему "рациональность для продолжающих".

== Онлайн-мероприятия ==

Сообщество иногда устраивает онлайн-встречи на разные темы - например, несколько раз в год проходят мероприятия от группы [[Минимизаторы скрепок]]; регулярно проходят [[Онлайн-чтение Цепочек|онлайн встречи по чтению Цепочек]]. Иногда проходят и нерегулярные мероприятия. Их анонсы обычно можно увидеть в телеграм-канале с новостями сообщества (см. выше).

== Неактуальное ==
Часть ресурсов представляет историческую ценность, но более не активны. На конец 2023 года можно считать заброшенными (не активны год и более):
* [https://discord.gg/cswyBHf Дискорд-сервер рационалистов из Санкт-Петербурга]
* [https://lesswrong.ru/forum/index.php Форум]. Он малоактивен, и далеко не все его участники идентифицируют себя с сообществом. Возможно, его проще считать форумом поклонников книги [[Гарри Поттер и методы рационального мышления]]. На январь 2020 года — фактически заброшен. Если вы ранее там не были зарегистрированы, ваши сообщения, скорее всего, даже не пройдут премодерацию (потому что этим никто не занимается).
* [https://t.me/SingularChest Сундучок сингулярности] — канал от сообщества из [[Санкт-Петербург]]а, где собираются интересные с их точки зрения материалы.
* [https://t.me/streetepistemologychannel Уличная эпистемология] — канал [[Уличная эпистемология|Уличной эпистемологии]].
* [https://t.me/kocherga_club Клуб Кочерга] — канал [[Кочерга|Кочерги]], но на текущий момент там только расписание.

[[Категория:Сообщество]]
[[Категория:Онлайн-ресурсы]]
[[Категория:Корневые страницы категории Сообщество]]

Категория:Онлайн-ресурсы

2023-12-21T18:46:43Z

ReverendBayes: Надкатегория

Категория для различных онлайн-ресурсов, посвященных рациональности и сообществу рационалистов: блогов, чатов, сайтов.

[[Категория:Сообщество]]

Категория:Онлайн-ресурсы

2023-12-21T18:46:00Z

ReverendBayes: Новая страница: «Категория для различных онлайн-ресурсов, посвященных рациональности и сообществу рацио…»

Категория для различных онлайн-ресурсов, посвященных рациональности и сообществу рационалистов: блогов, чатов, сайтов.

Онлайн-ресурсы сообщества

2023-12-21T18:33:36Z

ReverendBayes: Актуализировал списки: часть перенес в неактуальное; удалил тг-каналы, которые сейчас недоступны (приватные?) - таких на удивление много

На этой странице перечисляются онлайн-ресурсы сообщества [[LessWrong]].

* [http://lesswrong.ru Сайт русскоязычного сообщества]
* [https://vk.com/less_wrong Less Wrong по-русски ВКонтакте]
* [https://t.me/lesswrong_ru_news Канал в Телеграме с новостями сообщества]
* [https://t.me/lesswrong_ru_improvement Группа в телеграме, посвящённая вопросам развития сообщества]
* [https://www.youtube.com/channel/UCDuUW15DOp4UDqxe2QrfsNA Канал Lesswrong.ru] на Youtube. В основном это видео докладов со встреч, в большинстве случаев — московских.

Обсуждению, как сделать эти и, возможно, другие ресурсы лучше, посвящены страницы, отмеченных категорей [[:Категория:Работа в онлайне]].

О ресурсах, посвящённых встречам, вы можете узнать на [[Встречи сообщества|страницах встреч соответствующего города]].

== Онлайн-общение ==
Пообщаться с людьми, которым могут быть близки интересы сообщества, можно в следующих местах:

* [https://t.me/+WrBhn3yNSSE5Nzdi Байесов сад] - русскоязычный форум в Телеграме о рациональности и смежных темах.
* [https://web.archive.org/web/20230518055234/https://kocherga-club.ru/community/chats Чаты сообщества Кочерга] — множество чатов в Телеграме на разные темы, организованных сообществом [[Кочерга|Кочерги]] (само сообщество в настоящий момент официально не развивается, но некоторые чаты сохраняют активность).

== Телеграм-каналы, связанные с сообществом ==
* [https://t.me/gryphons_thoughts Мысли грифонов] — Канал про [[ненасильственное общение]] (и не только), который ведёт один из участников сообщества.
* [https://t.me/ontologics Пион на каждый день] — канал Пион Гайбарян — в основном про привычки, интеграцию и работу с убеждениями.
* [https://t.me/effectivealtruism Эффективный альтруизм] — канал [[Эффективный альтруизм|Эффективного альтруизма]].
* [https://t.me/bayesian_little_list Небольшой список имени Байеса] - канал Андрея Ведерникова на тему "рациональность для продолжающих".

== Онлайн-мероприятия ==

Сообщество иногда устраивает онлайн-встречи на разные темы - например, несколько раз в год проходят мероприятия от группы [[Минимизаторы скрепок]]; регулярно проходят [[Онлайн-чтение Цепочек|онлайн встречи по чтению Цепочек]]. Иногда проходят и нерегулярные мероприятия. Их анонсы обычно можно увидеть в телеграм-канале с новостями сообщества (см. выше).

== Неактуальное ==
Часть ресурсов представляет историческую ценность, но более не активны. На конец 2023 года можно считать заброшенными (не активны год и более):
* [https://discord.gg/cswyBHf Дискорд-сервер рационалистов из Санкт-Петербурга]
* [https://lesswrong.ru/forum/index.php Форум]. Он малоактивен, и далеко не все его участники идентифицируют себя с сообществом. Возможно, его проще считать форумом поклонников книги [[Гарри Поттер и методы рационального мышления]]. На январь 2020 года — фактически заброшен. Если вы ранее там не были зарегистрированы, ваши сообщения, скорее всего, даже не пройдут премодерацию (потому что этим никто не занимается).
* [https://t.me/SingularChest Сундучок сингулярности] — канал от сообщества из [[Санкт-Петербург]]а, где собираются интересные с их точки зрения материалы.
* [https://t.me/streetepistemologychannel Уличная эпистемология] — канал [[Уличная эпистемология|Уличной эпистемологии]].
* [https://t.me/kocherga_club Клуб Кочерга] — канал [[Кочерга|Кочерги]], но на текущий момент там только расписание.

[[Категория:Сообщество]]
[[Категория:Работа в онлайне]]
[[Категория:Корневые страницы категории Сообщество]]

Эпистемическая гигиена

2023-12-20T20:11:01Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

Эта страница является переводом фрагмента текста [https://wiki.lesswrong.com/mediawiki/images/c/ca/How_to_Run_a_Successful_Less_Wrong_Meetup_Group.pdf How to Run a Successful Less Wrong Meetup Group].

== Групповые правила и эпистемическая гигиена ==
Эпистемическая гигиена состоит из практик, направленных на распространение в сообществе более точных убеждений и ограничение неточных или искаженных убеждений (по аналогии с гигиеной и санитарией в медицине).

[[Встречи сообщества]] — хорошая возможность практиковать эпистемическую гигиену. Процесс обучения более эффективен, когда участники могут полагаться друг на друга в качестве предоставляемой информации.

И хотя до сих пор не ясно, какие нормы работают лучше всего, вот несколько советов:

* Не стесняйтесь произносить следующие фразы «Я не готов соглашаться или не соглашаться прямо сейчас», или «Мне нужно некоторое время, чтобы подумать, какой точки зрения я придерживаюсь на данный момент», или «Я чуть выше сказал не совсем то, что на самом деле имел в виду». Поощряйте других делать так же.
* Будьте честны насчет своих свидетельств и настоящих причин ваших убеждений, и обращайте на это внимание. Когда вы оперируете каким-то свидетельством, то не забудьте упомянуть, откуда оно взялось. Например, вам нужно понимать разницу между знаниями, полученными из личного опыта, услышанными от кого-то, или прочитанными в энциклопедии. Это поможет другим людям правильнее оценить ваше мнение и информацию, которую вы сообщаете.
* Прежде, чем принять какую-либо концепцию за основу вашей риторики, подумайте, что произойдет, если эту концепцию полностью опровергнуть. Все еще останетесь при своем мнении? Тогда вам стоит поискать более убедительную концепцию.
* Не используйте свое знание когнитивных искажений в качестве универсального контраргумента в любом споре.
* Если вы в целом согласны с чьей-то позицией, но хотите внести небольшую поправку, то стоит начать с предложения, вроде «Я согласен с твоим заключением и хочу добавить, что…» Таким образом, если сразу несколько человек захотят дополнить вашего собеседника, то он не спутает мелкие поправки с серьезным разногласием.
* Если вы делаете какой-то вывод, то проверьте его на соответствие. Как много вы знаете о вещах, из которых следует вывод? Насколько переменчивы условия? Так ли показательны примеры, на которых вы основываетесь?
* В диалоге, когда вы говорите что-то вроде «Это возможно, но крайне маловероятно», убедитесь, что вы понимаете разницу между «У меня нет свидетельства в пользу этой теории» и «У меня есть свидетельство, что эта теория не может быть верна». Это даст возможность людям понять, когда вы просто говорите о базовой вероятности, либо у вас есть какое-то дополнительное свидетельство.
* В дискуссии позволяйте ставить себя в наименее удобные условия для вашей позиции.
* Поощряйте людей за то, что они меняют свое мнение, сталкиваясь со значимым свидетельством: проигрыш в споре не должен осуждаться. Позиционируйте дебаты и дискуссии, как возможность вместе исследовать истину о вещах, а не как противостояние. Помните, что вы не на войне.
* Когда вам задают вопрос на сложную тему, то попробуйте не просто отвечать, а сопровождать это небольшим набором фактов о том, почему вы верите в то, во что верите. Это поможет другим сформировать собственное мнение, а не только опираться на ваше.

[[Категория:Сообщество]]
[[Категория:Корневые страницы категории Сообщество]]

Предсказания 2017

2023-12-20T20:10:49Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

В январе 2017 года в русскоязычном [[LessWrong|сообществе]] был объявлен «конкурс» предсказаний. Слово «конкурс» взято в кавычки, потому что никаких правил подведения результатов опубликовано не было. Эта страница посвящается итогам этого «конкурса».

== Как всё происходило ==
[[Участник:Berekuk|Вячеслав Матюхин]] на своём сайте создал страницу для предсказаний. Любой участник мог добавить своё предсказание, при этом от него требовалось указать, какова по его мнению [[вероятность]] того, что это предсказание сбудется. Также можно было ставить вероятности к предсказаниям других участников. Участники не видели предсказания других (с поправкой на то, что от исходного автора каждого предсказания требовалась формулировка, к которой он может поставить вероятность от 50 % и выше).

Предсказания должны были быть такими, что в конце 2017 года для каждого можно было бы ответить на вопрос: сбылось оно или нет.

Для участия требовалась регистрация в [[Slack-чат]]'е.

Подведение итогов несколько затянулось, и эта страница появилась только во второй половине февраля 2018 года.

== Предсказания ==
Все предсказания, сделанные участниками, собраны в следующую таблицу. Два предсказания признаны некорректными (по ним практически невозможно определить их истинность). В дальнейших подсчётах они не использовались.

{| class="wikitable"
|-
! N !! Предсказание !! Сбылось !! Кол-во !! Min !! Max !! Среднее !! Медиана
|-
| 1 || Путин останется президентом || Да || 19 || 50 || 99 || 90,6 || 95,0
|-
| 2 || Трамп останется президентом || Да || 19 || 55 || 99 || 83,6 || 90,0
|-
| 3 || Кочерга не закроется || Да || 16 || 1 || 99 || 69,8 || 70,0
|-
| 4 || На lesswrong.ru появится отдельный раздел с материалами русскоязычного сообщества || Нет || 4 || 30 || 90 || 66,3 || 72,5
|-
| 5 || На lesswrong.ru появится отдельный раздел с анонсами встреч || Нет || 1 || 90 || 90 || 90,0 || 90,0
|-
| 6 || Slack-чат lesswrong’а останется главным чатом сообщества || Да || 13 || 60 || 99 || 83,0 || 80,0
|-
| 7 || Перепись сообщества в декабре 2017-го года заполнят более 400 человек || Нет || 9 || 60 || 90 || 76,7 || 80,0
|-
| 8 || Кочерга (или команда Кочерги) проведёт как минимум 4 воркшопа по прикладной рациональности || Да || 4 || 70 || 94 || 83,5 || 85,0
|-
| 9 || SpaceX успешно запустит Falcon Heavy || Нет || 7 || 10 || 85 || 56,4 || 70,0
|-
| 10 || Регулярные встречи LessWrong.ru к концу года будут как минимум в 5 городах России, Украины и Белоруссии || Нет || 4 || 30 || 70 || 57,5 || 65,0
|-
| 11 || Биткоин будет стоить более $1000 в конце года || Да || 9 || 50 || 90 || 68,3 || 70,0
|-
| 12 || Вы останетесь в lesswrong’е || colspan="6" | Некорректное предсказание
|-
| 13 || Здесь будет четное число предсказаний || Нет || 14 || 50 || 80 || 52,6 || 50,0
|-
| 14 || В России произойдёт революция. || Нет || 22 || 1 || 90 || 10,3 || 5,0
|-
| 15 || Здесь будет нечётное число предсказаний || Да || 16 || 20 || 51 || 47,9 || 50,0
|-
| 16 || SpaceX успешно переиспользует первую ступень хотябы один раз || Да || 7 || 30 || 90 || 65,0 || 70,0
|-
| 17 || Первая Tesla Model 3 будет доставлена покупателю до конца года || Да || 5 || 50 || 75 || 62,4 || 67,0
|-
| 18 || Сборная России не выйдет из группы на Кубке Конфедераций по футболу || Да || 4 || 25 || 90 || 56,3 || 55,0
|-
| 19 || Сборная России не выиграет Кубок Конфедераций по футболу || Да || 4 || 90 || 99 || 94,8 || 95,0
|-
| 20 || Движение автомобиля без человека внутри НЕ легализовано ни в одной стране или штате || Да || 12 || 20 || 99 || 57,0 || 48,0
|-
| 21 || AGI не появится. || Да || 9 || 90 || 99 || 95,3 || 95,0
|-
| 22 || fpaint напишет в свой блог еще минимум 3 поста (после «О вреде банхаммера») про русскоязычное сообщество LW || Да || 9 || 40 || 90 || 73,3 || 80,0
|-
| 23 || На Трампа совершат покушение || Нет || 15 || 1 || 90 || 19,1 || 8,0
|-
| 24 || В отношении России будут действовать экономические санкции. || Да || 13 || 50 || 99 || 79,4 || 80,0
|-
| 25 || Юдковский за этот год опубликует хотя бы одну художественную книгу. || Нет || 5 || 1 || 75 || 41,2 || 50,0
|-
| 26 || Курс доллара на конец года (на ММВБ) останется в диапазоне 50-70 рублей. || Да || 11 || 20 || 90 || 61,1 || 65,0
|-
| 27 || Падение реальных доходов Россиян(по данным росстата) будет не мение 6 % и не привысит 12 % || Нет || 1 || 80 || 80 || 80,0 || 80,0
|-
| 28 || Будет начато строительство стены на границе США-Мексика. || Да || 8 || 20 || 90 || 53,1 || 50,0
|-
| 29 || В Москве не произойдёт митингов или иных массовых народных выступлений, организованных не представленными в парламенте силами, с численностью участников, превышающей 10 тысяч человек. || Да || 7 || 15 || 92 || 53,9 || 50,0
|-
| 30 || В России не будет законодательно запрещён Tor || Да || 10 || 48 || 90 || 75,3 || 77,5
|-
| 31 || В мире не произойдёт терактов с количеством погибших, превышающим 500 человек. || Нет || 9 || 10 || 97 || 66,9 || 90,0
|-
| 32 || Участники этой тусовочки не поумнеют. || colspan="6" | Некорректное предсказание
|-
| 33 || Сбор предсказаний будет завершён позже, чем обещано. || Да || 1 || 99 || 99 || 99,0 || 99,0
|}

== Полная таблица выставленных вероятностей ==
В следующей таблице приведён полный список участников, со всеми выставленными ими вероятностями. Участники названы по никам в Slack-чате сообщества. По техническим причинам один из участников не идентифицирован — в силу некоторой ошибки на сайт предсказаний можно было зайти, пользуясь регистрацией в любом slack-чате, и, видимо, кто-то ставил вероятности, зайдя из своего рабочего слака, или, быть может, слака, созданного участником fpaint.

В таблицу добавлены также три «синтетических участника». «Средний участник» и «Медианный участник» — это попытки представить результаты «коллективного разума» сообщества, который ставит вероятности соответственно как среднее арифметическое или медиана от оценок участников. «Участник 'Я не знаю'» просто ставит 50 % на все предсказания.

Жирным шрифтом выделены предсказания, в которых участник «угадал исход» — был ближе к 1, если предсказание сбылось, или к нулю, если нет.

{| class="wikitable"
|-
! Участник !! 1 !! 2 !! 3 !! 4 !! 5 !! 6 !! 7 !! 8 !! 9 !! 10 !! 11 !! 13 !! 14 !! 15 !! 16 !! 17 !! 18 !! 19 !! 20 !! 21 !! 22 !! 23 !! 24 !! 25 !! 26 !! 27 !! 28 !! 29 !! 30 !! 31 !! 33
|-
| fish || || || || || || || || || || || || || '''1''' || || || || || || || || || || || || || || || || || ||
|-
| dr_zoidberg || || || '''80''' || || || || || || || || || || '''5''' || || || || || || || || || || || || || || || || || ||
|-
| ''Неидентифицированный участник'' || '''99''' || '''90''' || || || || || || || || || '''70''' || || '''5''' || || '''70''' || || || || || '''90''' || || '''1''' || '''90''' || || '''60''' || || || || '''70''' || ||
|-
| deadworoz || '''99''' || '''99''' || || || || '''99''' || || || || || || ''50'' || '''1''' || ''50'' || || || '''90''' || '''99''' || 25 || || || '''1''' || '''60''' || || '''90''' || || || || || ||
|-
| gitdes || '''90''' || '''90''' || '''70''' || || || '''80''' || 60 || '''90''' || || || '''70''' || ''50'' || '''5''' || ''50'' || || || || || || '''95''' || || '''10''' || || || '''70''' || || '''80''' || || '''75''' || ||
|-
| fil0sof || '''99''' || '''70''' || '''99''' || '''30''' || || '''80''' || || || || || || ''50'' || '''10''' || ''50'' || || || || || '''90''' || || '''80''' || 90 || '''80''' || '''1''' || || || '''90''' || || '''70''' || '''20''' ||
|-
| icobra || ''50'' || '''99''' || '''99''' || 60 || || '''90''' || || || || || || || '''15''' || || || || || || '''99''' || || || '''3''' || '''85''' || || || || || 30 || '''90''' || 70 ||
|-
| abbath || '''95''' || '''70''' || || || || '''90''' || || || 70 || || || || || || || || || || ''50'' || '''99''' || '''70''' || '''20''' || '''70''' || ''50'' || '''80''' || || || || || ||
|-
| random || '''95''' || '''80''' || '''60''' || || || '''80''' || 60 || '''70''' || '''40''' || || '''60''' || 55 || '''10''' || 45 || '''70''' || ''50'' || || || '''80''' || '''95''' || || '''10''' || '''90''' || '''20''' || '''60''' || || '''70''' || '''60''' || '''80''' || 90 ||
|-
| mihaild || || '''90''' || '''80''' || || || || 80 || || || || || 51 || '''3''' || '''51''' || || || || || || '''99''' || || || || || || || || || || ||
|-
| whaf || '''90''' || '''80''' || '''70''' || || || '''80''' || 70 || || || '''30''' || '''70''' || ''50'' || '''10''' || ''50'' || || || || || || || 40 || 60 || '''80''' || || '''60''' || || || || || ||
|-
| darklord4 || '''70''' || || '''60''' || || || '''80''' || || || || || ''50'' || ''50'' || '''10''' || ''50'' || || || || || 46 || || '''90''' || || ''50'' || || '''70''' || || || || 48 || ||
|-
| gemist || '''92''' || '''96''' || '''69''' || || || || || || || || || || '''12''' || ''50'' || 30 || '''67''' || 25 || '''90''' || 29 || '''91''' || || || || || || || || || || ||
|-
| drakon_black || '''99''' || '''95''' || || || || '''90''' || || || '''10''' || || '''90''' || ''50'' || '''5''' || ''50'' || '''85''' || '''75''' || || || '''80''' || || '''80''' || '''5''' || '''99''' || || 20 || 80 || 25 || || '''70''' || 90 ||
|-
| self-perfection || '''92''' || '''60''' || '''90''' || || || || || || || || '''70''' || || '''7''' || || '''80''' || || || || || || || '''7''' || || || '''65''' || || || || '''90''' || 97 ||
|-
| kirill || '''85''' || '''60''' || ''50'' || || || '''75''' || 80 || || || || '''60''' || ''50'' || '''10''' || ''50'' || || || || || 40 || || || ''50'' || '''98''' || || || || || 40 || || '''40''' || '''99'''
|-
| alaric || '''95''' || '''95''' || || || || || 90 || || || || || ''50'' || '''1''' || ''50'' || || || '''60''' || '''95''' || '''95''' || || '''80''' || || '''90''' || 60 || '''70''' || || 40 || '''90''' || '''80''' || 90 ||
|-
| quilfe || '''93''' || '''85''' || '''78''' || 85 || || '''95''' || 90 || '''94''' || || 70 || || ''50'' || '''1''' || ''50'' || || || || || || '''99''' || '''60''' || '''2''' || || || || || || || || ||
|- style="background-color:white"
| ''Средний участник'' || '''91''' || '''84''' || '''70''' || 66 || 90 || '''83''' || 77 || '''84''' || 56 || 58 || '''68''' || 53 || '''10''' || 48 || '''65''' || '''62''' || '''56''' || '''95''' || '''57''' || '''95''' || '''73''' || '''19''' || '''79''' || '''41''' || '''61''' || 80 || '''53''' || '''54''' || '''75''' || 67 || '''99'''
|-
| motia_motia || '''90''' || '''85''' || || || || '''60''' || 85 || || 70 || || || || '''5''' || ''50'' || 30 || '''70''' || || || 30 || || '''70''' || '''15''' || || || || || ''50'' || ''50'' || || '''10''' ||
|- style="background-color:white"
| ''Медианный участник'' || '''95''' || '''90''' || '''70''' || 73 || 90 || '''80''' || 80 || '''85''' || 70 || 65 || '''70''' || ''50'' || '''5''' || ''50'' || '''70''' || '''67''' || '''55''' || '''95''' || 48 || '''95''' || '''80''' || '''8''' || '''80''' || ''50'' || '''65''' || 80 || ''50'' || ''50'' || '''78''' || 90 || '''99'''
|- style="background-color:white"
| ''Участник «Я не знаю»'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50'' || ''50''
|-
| okroshka || '''95''' || '''95''' || '''80''' || || || || || || 85 || || || 80 || '''2''' || 20 || || || || || || || || '''5''' || '''75''' || 75 || || || 20 || '''92''' || '''80''' || ||
|-
| kurokikaze || '''95''' || '''55''' || || || || || || || 70 || || || ''50'' || '''13''' || ''50'' || || || || || 20 || '''95''' || || '''8''' || '''65''' || || 27 || || ''50'' || 15 || || ||
|-
| berekuk || '''99''' || '''95''' || '''70''' || 90 || 90 || '''80''' || 75 || '''80''' || ''50'' || 60 || '''75''' || ''50'' || '''5''' || ''50'' || '''90''' || ''50'' || ''50'' || '''95''' || || '''95''' || || || || || || || || || || 95 ||
|-
| dimka || || || '''60''' || || || || || || || 70 || || || || || || || || || || || || || || || || || || || || ||
|-
| oswaldo || || || || || || || || || || || || || 90 || || || || || || || || '''90''' || || || || || || || || || ||
|-
| spaider || || || 1 || || || || || || || || || || || || || || || || || || || || || || || || || || || ||
|}

== Оценка результатов ==
Как уже было сказано, никаких правил подведения результатов подведения не было. Поэтому решено было посчитать результаты хоть по каким-то известным для таких целей метрикам. ([[wikipedia:Scoring rule#Logarithmic scoring rule|Logarithmic score]] меняется от минус бесконечности до нуля и чем больше, тем лучше. [[wikipedia:Brier score|Brier score]] меняется от нуля до единицы и чем меньше, тем лучше.)

{| class="wikitable sortable"
|-
! Участник !! Кол-во предсказаний !! [[wikipedia:Scoring rule#Logarithmic scoring rule|Logarithmic score]] !! Mean logarithmic score !! [[wikipedia:Brier score|Brier score]]
|-
| fish || 1 || -0,010 || -0,010 || 0,000
|-
| dr_zoidberg || 2 || -0,274 || -0,137 || 0,021
|-
| ''Неидентифицированный участник'' || 10 || -1,968 || -0,197 || 0,046
|-
| deadworoz || 12 || -3,554 || -0,296 || 0,104
|-
| gitdes || 15 || -4,631 || -0,309 || 0,088
|-
| fil0sof || 16 || -5,998 || -0,375 || 0,111
|-
| icobra || 12 || -4,614 || -0,384 || 0,138
|-
| abbath || 11 || -4,273 || -0,388 || 0,123
|-
| random || 23 || -10,668 || -0,464 || 0,145
|-
| mihaild || 7 || -3,365 || -0,481 || 0,170
|-
| whaf || 14 || -6,884 || -0,492 || 0,163
|-
| darklord4 || 12 || -5,941 || -0,495 || 0,164
|-
| gemist || 11 || -5,745 || -0,522 || 0,187
|-
| drakon_black || 19 || -10,037 || -0,528 || 0,181
|-
| self-perfection || 10 || -5,467 || -0,547 || 0,139
|-
| kirill || 15 || -8,333 || -0,556 || 0,196
|-
| alaric || 17 || -9,564 || -0,563 || 0,188
|-
| quilfe || 14 || -7,938 || -0,567 || 0,198
|- style="background-color:white"
| ''Средний участник'' || 31 || -17,709 || -0,571 || 0,195
|-
| motia_motia || 15 || -9,400 || -0,627 || 0,223
|- style="background-color:white"
| ''Медианный участник'' || 31 || -19,570 || -0,631 || 0,219
|- style="background-color:white"
| ''Участник «Я не знаю»'' || 31 || -21,488 || -0,693 || 0,250
|-
| okroshka || 13 || -9,103 || -0,700 || 0,259
|-
| kurokikaze || 13 || -9,453 || -0,727 || 0,268
|-
| berekuk || 20 || -14,780 || -0,739 || 0,247
|-
| dimka || 2 || -1,715 || -0,857 || 0,325
|-
| oswaldo || 2 || -2,408 || -1,204 || 0,410
|-
| spaider || 1 || -4,605 || -4,605 || 0,980
|}

На таблице выше видно, что участники сделали разное число предсказаний. Поскольку и логарифмическая оценка, и показатель Бриера штрафуют участника, который ставит вероятность 50 %, по сравнению с участником, который вовсе не даёт никакой оценки, решено было составить вторую таблицу результатов, в которой считается, что на все вопросы, на который участник не ответил, он дал ответ «50 %» («не знаю»). (Ответы «среднего» и «медианного» участника при этом не пересчитывались.)

{| class="wikitable sortable"
|-
! Участник !! Кол-во предсказаний !! [[wikipedia:Scoring rule#Logarithmic scoring rule|Logarithmic score]] !! Mean logarithmic score !! [[wikipedia:Brier score|Brier score]]
|-
| gitdes || 31 || -15,721 || -0,507 || 0,172
|-
| random || 31 || -16,213 || -0,523 || 0,172
|-
| fil0sof || 31 || -16,395 || -0,529 || 0,178
|-
| ''Неидентифицированный участник'' || 31 || -16,524 || -0,533 || 0,184
|-
| deadworoz || 31 || -16,724 || -0,539 || 0,193
|- style="background-color:white"
| ''Средний участник'' || 31 || -17,709 || -0,571 || 0,195
|-
| icobra || 31 || -17,784 || -0,574 || 0,207
|-
| abbath || 31 || -18,136 || -0,585 || 0,205
|-
| drakon_black || 31 || -18,355 || -0,592 || 0,208
|-
| whaf || 31 || -18,667 || -0,602 || 0,211
|-
| darklord4 || 31 || -19,111 || -0,616 || 0,217
|-
| alaric || 31 || -19,268 || -0,622 || 0,216
|-
| kirill || 31 || -19,423 || -0,627 || 0,224
|- style="background-color:white"
| ''Медианный участник'' || 31 || -19,570 || -0,631 || 0,219
|-
| gemist || 31 || -19,607 || -0,632 || 0,227
|-
| quilfe || 31 || -19,721 || -0,636 || 0,226
|-
| mihaild || 31 || -20,001 || -0,645 || 0,232
|-
| self-perfection || 31 || -20,023 || -0,646 || 0,214
|-
| dr_zoidberg || 31 || -20,376 || -0,657 || 0,235
|-
| motia_motia || 31 || -20,490 || -0,661 || 0,237
|-
| fish || 31 || -20,804 || -0,671 || 0,242
|- style="background-color:white"
| ''Участник «Я не знаю»'' || 31 || -21,488 || -0,693 || 0,250
|-
| okroshka || 31 || -21,580 || -0,696 || 0,254
|-
| dimka || 31 || -21,816 || -0,704 || 0,255
|-
| kurokikaze || 31 || -21,930 || -0,707 || 0,258
|-
| berekuk || 31 || -22,405 || -0,723 || 0,248
|-
| oswaldo || 31 || -22,509 || -0,726 || 0,260
|-
| spaider || 31 || -25,400 || -0,819 || 0,274
|}

[[Категория:Сообщество]]
[[Категория:Корневые страницы категории Сообщество]]

Плакаты и буклеты

2023-12-20T20:10:12Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

На данной странице будет собираться информация о плакатах и буклетах, сделанных сообществом.

== Плакат про добродетели рациональности ==

Плакат про добродетели рациональности сделан на базе эссе Элиезера Юдковского «Двенадцать добродетелей рационалиста» ([http://yudkowsky.net/rational/virtues/ оригинал], [[lwru:Двенадцать добродетелей рационалиста|перевод]]).

[[Файл:Плакат добродетели рациональности.png|600 px]]

Макет: https://www.dropbox.com/s/v608zqepddnjz6s/poster-virtues.pdf?dl=0

Редактор и дизайнер: [http://jeniasofronov.ru/ Женя Софронов].

== Буклет про [[ненасильственное общение]] ==

В буклет про ненасильственное общение вошли основные принципы, алгоритмы и списки потребностей и чувств.

У буклета две задачи.

Для людей, которые не знают о ННО: заинтересовать и дать первое представление об ННО.

Для людей, которые знают о ННО: помочь структурировать информацию в голове и дать шпаргалку для типовых ситуаций.

[[Файл:Буклет про ненасильственное общение.png|600 px]]

Макет: https://www.dropbox.com/sh/qn8mtzhac1tjgos/AACc1OQkgQA4icjscYCkm4Lza?dl=0

Менеджер проекта, дизайнер и редактор: [http://jeniasofronov.ru/ Женя Софронов].

Авторы текста: Женя Софронов, Юля Коберт, [https://telete.in/gryphons_thoughts Вадим Боровиков] и [http://vk.com/nvcru Михаил Лунин].

== Как получить плакаты или буклеты ==

В Петербурге и Москве они распространяются бесплатно.

В [[Санкт-Петербург|Петербурге]]: материалы можно взять на [http://telete.in/lessbadmeetups встречах Less wrong] или у [http://telete.in/juliakobert Юли Коберт].

В [[Москва|Москве]]: материалы лежат в центре рациональности «[[Кочерга]]».

Если вы из других городов, вы можете связаться с авторами через следующие формы:
* [https://docs.google.com/forms/d/e/1FAIpQLSdirhg4NGsAStTe3ononfyiWBkGsldYgRALQKtTVTtQb6I9fQ/viewform форма для плаката о добродетелях рациональности]
* [https://bit.ly/2SBrKPy форма для буклета про ненасильственное общение].

[[Категория:Сообщество]]
[[Категория:Корневые страницы категории Сообщество]]

Перепись

2023-12-20T20:09:57Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

Перепись -- онлайн-опрос русскоговорящей части сообщества рационалистов.

[https://github.com/lesswrong-ru/survey Github-репозиторий с кодом, который использовался для обработки данных]

'''NB''' обратите внимание на окончание ссылок ниже -- без завершающего символа '''/''' страница на lesswrong.ru отображается без результатов опроса.

== 2015 год ==
https://lesswrong.ru/survey/2015/

== 2016 год ==
https://lesswrong.ru/survey/2016/

== 2018 год ==
https://lesswrong.ru/survey/2018/

По сравнению с 2016 годом в форме переписи произошли следующие изменения:

* В вопросе «Где вы увидели ссылку на этот опрос?» добавился вариант «Телеграм-канал „Новости сообщества LessWrong“ (https://t.me/lesswrong_ru_news )»
* В разделе «Политическая позиция» появился вопрос «Выберите пункты, к которым вы готовы себя отнести», где можно выбрать несколько вариантов. Предлагаемые варианты: «Либерал», «Демократ», «Коммунист», «Социалист», «Либертарианец», «Монархист», «Технократ», «Центрист», «Анархист», «Консерватор», «Неореакционер», "Другое: " — с указанием своего варианта.
* В вопросе «Английский язык» появился вариант «Читаю, если необходимо».
* Появился вопрос «Отношение к феминизму».
* В разделе «Работа и хобби» появился вопрос «Доход — основная валюта».
* В вопросе «Откуда вы узнали про LessWrong?» появился пункт «Через центр прикладной рациональности „Кочерга“».
* В разделе «Участие в сообществе» в список онлайн-сообществ добавились «Telegram-чаты».
* В разделе «Участие в сообществе» в список «Знакомство с терминологией и культурой» внесено уточнение «Кочерга (антикафе)».
* Добавился вопрос «Участие в прошлых опросах».

Результаты обработки имеют следующие недостатки:

* Пункт о доходах совершенно не читаем. Вероятно, идея с введением дохода в разных валютах была неудачной.
* Результаты части пунктов со множественным выбором (например, 3 пункт в разделе «Политическая позиция» или «Участие в прошлых опросах») отображаются не так, как ожидалось. Вместо отображения каждого исходного пункта по отдельности множественные выборы выделяются в отдельные пункты.
* В некоторых пунктах явно недостаточно нормализации. Например, если бы в пункте «Где вы увидели ссылку на этот опрос?» объединить в одну все ссылки на телеграм-канал «Неведическая женственность», получилось бы значение, сравнимое с некоторыми из исходно предлагаемых вариантов.

== 2021 год ==
https://kocherga-club.ru/census/2021

В отличие от предыдущих лет перепись проводилась в начале года (в феврале). Перепись организовывало сообщество [[Кочерга]], и поэтому она именовалась не «Перепись русскоговорящего LessWrong», а «Перепись русскоговорящего рациосообщества».

Изменения в форме переписи по сравнению с предыдущим (2018) годом:

* Изменены ответы в вопросе «Где вы увидели этот опрос»: убран форум lesswrong.ru, добавлены пункты «Сайт Кочерги», «Телеграм-канал или чат Кочерги», «Телеграм-канал „Пион на каждый день“», «Сообщество R-value».
* В вопрос «Город» добавлен вариант «Новосибирск».
* В вопрос «Пол/гендер» добавлен вариант «небинарный».
* В вопрос «Специальность в высшем образовании» добавлены распространённые варианты для выбора.
* Убран вопрос «активная рука».
* В вопрос «Предпочитаемый тип отношений» добавлен вариант «Открытые отношения».
* Убран вопрос о валюте дохода, вопрос об уровне дохода предполагает ответ в рублях.
* Вопрос «Откуда вы узнали про LessWrong» переименован в «Откуда вы узнали про рациональность». Стал допустим выбор нескольких вариантов. Добавлен вариант «Из проектов Пион Медведевой».
* Вопрос «Насколько вы самоидентифицируетесь как рационалист?» перенесён в новый раздел «Отношение к рациональности».
* В вопрос «Знакомство с терминологией и культурой» добавлены пункты «Уличная эпистемология», «Ненасильственное общение», «Зарешай», «R-Value». Убран пункт «РТД (движение)».
* Добавлен вопрос «Насколько вы знакомы с техниками прикладной рациональности?»
* Добавлен вопрос «Как часто вы применяете техники прикладной рациональности?»
* Добавлен вопрос «Насколько полезными вам кажутся техники прикладной рациональности?»
* Добавлен вопрос «Насколько сильно ваше желание осваивать техники прикладной рациональности?»
* Добавлен вопрос «Какие типичные цели рационалистов вы разделяете?»
* Добавлен вопрос «Может быть, у вас есть какие-то другие цели, связанные с рациональностью?»
* Добавлен вопрос «Какие сферы интересов рационалистов вы одобряете?»
* Добавлен вопрос «Какие из разделов рациональности для вас наиболее актуальны?»
* Добавлен вопрос «В каких областях жизни вы хотите применять рациональность в 2021 году?»
* Добавлен вопрос «На каком месте рациональность у вас в приоритетах?»
* Добавлен вопрос «Что больше всего мешает вам практиковать рациональность?»
* В вопросе «Онлайн-сообщества» добавлены пункты «forum.effectivealtruism.org» и несколько пунктов про различные телеграм-чаты. Убран пункт «Форум lesswrong.ru».
* В вопрос «Если вы не ходите на встречи (в онлайне или офлайне), то почему?», добавлен вариант «Пандемия».
* Добавлен вопрос «При условии отсутствия пандемии и наличия встреч в вашем городе, какой формат встреч вы бы предпочли?»
* Добавлен вопрос «В каких других, не-рацио сообществах вы участвуете?»
* Добавлен вопрос «Какие крупные СМИ/издания/каналы/блоги/форумы вы читаете?»
* Добавлен вопрос «Что вам нравится в теме рациональности и культуре рационалистов?»
* Добавлен вопрос «Что, как вам кажется, можно было бы улучшить в сообществе или культуре рационалистов?»

== Какие ещё вопросы стоит задать ==
[[Участник:ildaar|ildaar]]: Если рациональность про выигрывание — насколько респонденты считают себя выигрывающими? Вопрос типа «насколько вы считаете себя успешным в сферах жизни: здоровье, карьера, семья, отношение, бизнес, финансы, самореализация, …».

[[Категория:Сообщество]]
[[Категория:Работа в онлайне]]
[[Категория:Корневые страницы категории Сообщество]]

Онлайн-чтение Цепочек

2023-12-20T20:09:43Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

Онлайн-чтение [[Цепочки|Цепочек]] выросло из [[Книжный клуб Кочерги|Книжного клуба Кочерги]] после начала пандемии, когда все активности [[Кочерга|Кочерги]] перешли в онлайн.

В апреле 2020 года началось регулярное обсуждение эссе из книги [[Юдковский, Элиезер|Элиезера Юдковского]] «[[Рациональность: от ИИ до зомби]]». После обсуждения всех эссе (примерно в феврале 2022 года) группа продолжила обсуждать другие книги и подборки статей:
* Элиезер Юдковский, «[[Неадекватное равновесие]]» (с марта по май 2022 года);
* [https://web.archive.org/web/20220519094925/https://www.eacambridge.org/technical-alignment-curriculum Статьи Кембриджского курса по безопасности искусственного интеллекта] (с июня по ноябрь 2022);
* Подборка эссе [[Скотт Александер|Скотта Александера]] «[https://www.lesswrong.com/codex The Codex]» (с декабря 2022 по май 2023);
* Подборку [https://www.lesswrong.com/bestoflesswrong Best of LessWrong] (с мая 2023).

В июне 2022 года также начались встречи «второго потока» обсуждения книги «Рациональность: от ИИ до Зомби».

== Ссылки ==
* [https://kocherga-club.ru/projects/reading Страница проекта на сайте Кочерги]. В достаточной степени устарела, но там есть ссылки на конспекты обсуждения «Рациональности: от ИИ до Зомби» в «первом потоке».
* [https://t.me/readthesequences Телеграм-чат первого потока].
* [https://t.me/lwreading Телеграм-чат второго потока].

[[Категория:Сообщество]]
[[Категория:Корневые страницы категории Сообщество]]

Онлайн-ресурсы сообщества

2023-12-20T20:09:31Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

На этой странице перечисляются онлайн-ресурсы сообщества [[LessWrong]].

* [http://lesswrong.ru Сайт русскоязычного сообщества]
* [https://vk.com/less_wrong Less Wrong по-русски ВКонтакте]
* [https://t.me/lesswrong_ru_news Канал в Телеграме с новостями сообщества]
* [https://t.me/lesswrong_ru_improvement Группа в телеграме, посвящённая вопросам развития сообщества]
* [https://www.youtube.com/channel/UCDuUW15DOp4UDqxe2QrfsNA Канал Lesswrong.ru] на Youtube. В основном это видео докладов со встреч, в большинстве случаев — московских.

Обсуждению, как сделать эти и, возможно, другие ресурсы лучше, посвящены страницы, отмеченных категорей [[:Категория:Работа в онлайне]].

О ресурсах, посвящённых встречам, вы можете узнать на [[Встречи сообщества|страницах встреч соответствующего города]].

== Онлайн-общение ==
Пообщаться с людьми, которым могут быть близки интересы сообщества, можно в следующих местах:

* [https://kocherga-club.ru/community/chats Чаты сообщества Кочерга] — множество чатов в Телеграме на разные темы, организованных сообществом [[Кочерга|Кочерги]].
* [https://discord.gg/cswyBHf Дискорд-сервер рационалистов из Санкт-Петербурга]
* [https://t.me/+WrBhn3yNSSE5Nzdi Байесов сад] - русскоязычный форум в Телеграме о рациональности и смежных темах.
* [https://lesswrong.ru/forum/index.php Форум]. Он малоактивен, и далеко не все его участники идентифицируют себя с сообществом. Возможно, его проще считать форумом поклонников книги [[Гарри Поттер и методы рационального мышления]]. На январь 2020 года — фактически заброшен. Если вы ранее там не были зарегистрированы, ваши сообщения, скорее всего, даже не пройдут премодерацию (потому что этим никто не занимается).

== Телеграм-каналы, связанные с сообществом ==
* [https://t.me/SingularChest Сундучок сингулярности] — канал от сообщества из [[Санкт-Петербург]]а, где собираются интересные с их точки зрения материалы.
* [https://t.me/gryphons_thoughts Мысли грифонов] — Канал про [[ненасильственное общение]] (и не только), который ведёт один из участников сообщества.
* [https://t.me/torationality/ Любопытство против страха] — канал Жени Софронова, участника сообщества из [[Санкт-Петербург]]а.
* [https://t.me/youcannotadvance You can (not) advance] — канал Антона Желтоухова, участника сообщества из Санкт-Петербурга.
* [https://t.me/DoubtProperly Doubt properly, ye who enter here] — канал ещё одного участника сообщества из Санкт-Петербурга.
* [https://t.me/ontologics Пион на каждый день] — канал Пион Гайбарян — в основном про привычки, интеграцию и работу с убеждениями.
* [https://t.me/effectivealtruism Эффективный альтруизм] — канал [[Эффективный альтруизм|Эффективного альтруизма]].
* [https://t.me/altruistdiary Дневник альтруиста] — канал Александра Бережного, одного из лидеров Эффективного альтруизма в России.
* [https://t.me/streetepistemologychannel Уличная эпистемология] — канал [[Уличная эпистемология|Уличной эпистемологии]].
* [https://t.me/kocherga_club Клуб Кочерга] — канал [[Кочерга|Кочерги]], но на текущий момент там только расписание.
* [https://t.me/bayesian_little_list Небольшой список имени Байеса] - канал Андрея Ведерникова на тему "рациональность для продолжающих".

== Онлайн-мероприятия ==

Сообщество иногда устраивает онлайн-встречи на разную тему, как правило, в Zoom'e. Есть еженедельные мероприятия на платформе [[Кочерга|Кочерги]], о них можно узнать на странице [https://kocherga-club.ru/events мероприятий]. Следует учитывать, что создание расписания на очередную неделю часто запаздывает, поэтому по поводу времени проще ориентироваться на предыдущую недели и в случае вопросов обращаться в чаты мероприятий, которые указаны на их страницах.

Также есть нерегулярные мероприятия. Их анонсы обычно можно увидеть в телеграм-канале с новостями сообщества.

[[Категория:Сообщество]]
[[Категория:Работа в онлайне]]
[[Категория:Корневые страницы категории Сообщество]]

Как помочь сообществу

2023-12-20T20:09:19Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

== Переводы ==
'''Основная статья''': [[Как принять участие в переводах]]

Также вы можете просто [[Исправление опечаток на сайте|править опечатки]] или сообщать об ошибках в [[Как принять участие в переводах#Где общаться про переводы|чат переводчиков]].

== Материалы для вики ==
'''Основная статья''': [[Как внести вклад]]

Долгое время для хранения материалов сообщества мы пользовались [https://lesswrong-ru.hackpad.com Хакпадом]. Затем мы начали потихоньку переносить материал на [http://lesswrong.ru основной сайт]. Однако, теперь мы решили создать свою Вики-платформу (на которой вы сейчас и находитесь) и использовать её как площадку для хранения информации о сообществе.

Вы можете помочь нам [[Как внести вклад|написанием новых статей]]<ref>Тогда тоже прочтите статью «[[Автору, переводчику и редактору]]»</ref> или помощью переноса материалов со старых площадок.

== Работа над сайтом ==
У нас много планов, как можно улучшить наш [http://lesswrong.ru основной сайт], и всегда не хватает людей, которые готовы помогать с его доработками.

Перечень актуальных задач [https://github.com/lesswrong-ru/lesswrong-ru/issues есть на GitHub]. Для координации обращайтесь в телеграм-группу [https://t.me/lesswrong_ru_improvement Развитие lesswrong.ru].

Также у нас есть проект переписывания сайта на Django и Wagtail: https://github.com/lesswrong-ru/django-site

== Встречи ==
Если в вашем городе ещё нет [[Встречи сообщества|встреч сообщества]], вы можете попробовать их [[Как начать встречи в новом городе|организовать]].

Если в вашем городе встречи уже есть, и вы хотите поделиться чем-то интересным или организовать что-нибудь увлекательное, вы можете связаться с существующими организаторами встреч и скоординировать усилия.

== Где обсудить ==
Новые идеи и проекты по развитию сообщества обсуждаются в телеграм-группе [https://t.me/lesswrong_ru_improvement Развитие lesswrong.ru].

== Ссылки ==
* [https://t.me/lesswrong_ru_improvement Развитие lesswrong.ru] - группа в телеграме для любых задач, связанных с развитием сообщества.
* [https://paper.dropbox.com/doc/Order-LW--qGR37SajzcvrWTzF7FXsr Проект Order — старый документ о проектах сообщества в хакпаде]

== Примечания ==
{{примечания}}
[[Категория:Сообщество]]
[[Категория:Корневые страницы категории Сообщество]]

Глоссарий

2023-12-20T20:08:32Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

== Что это ==
Здесь содержится список фразеологизмов, жаргонизмов и других оборотов, используемых в общении в сообществе русскоязычных рационалистов. В этот список не включены понятия, которые описаны на отдельных вики-страницах, но включены образованные от них словоформы (например, в список включено слово «Приоры», но не включена «[[Априорная вероятность]]», так как на вики есть статья с таким же названием).

Задача этой страницы — помочь новичкам понять смысл тех слов и выражений, которые не описаны в вики напрямую.

Страницы с определениями различных жаргонизмов находятся в категории [[:Категория:Жаргон|Жаргон]].

== Список терминов ==

=== From A to Z ===
* Bias, biased (не путать с Bayes, Байес) — см. [[Когнитивное искажение]]
* Double Crux — см. [[Корень разногласия]]

=== А ===
* Апдейт — см. [[Байесовское обновление]]
* Апостериорно — см. [[Апостериорная вероятность]]
* Априорно — см. [[Априорная вероятность]]

=== Б ===
* Байесов, байесовский — см. [[Байесианство]] и [[Агент]]

=== Д ===
* Дабл-кракс — см. [[Корень разногласия]]

=== З ===
* Заякориться — см. [[Якорение]]

=== К ===
* Кракситься (с кем-либо) — выполнять технику ''Double Crux''

=== П ===
* Плохая эпистемология — см. [[Качество эпистемологии]]
* Постериоры — см. [[Апостериорная вероятность]]
* Приоры — см. [[Априорная вероятность]]; иногда может также относиться к априорным убеждениям (без численной оценки вероятости)

=== С ===
* Сапдейтиться — см. [[Апдейтиться]]
* Симулякр первого/второго/третьего/четвертого уровня — см. [[Уровни симулякров]]
* Сова — см. [[Какую задачу мы сейчас решаем?]]
* Солома, соломенить — см. [[Соломенное чучело]]

=== Х ===
* Хорошая эпистемология — см. [[Качество эпистемологии]]

== Понятия, для которых стоит создать отдельные вики-страницы ==
* [[Ассоциативный режим]]
* [[Ожидание]]
* [[Оптимизация]] (какой-то метрики)

== См. также ==
* [[:Категория:Жаргон]]

== Ссылки ==
* http://mcntyr.com/52-concepts-cognitive-toolkit/
* https://wiki.lesswrong.com/wiki/Jargon
* https://wiki.lesswrong.com/wiki/Less_Wrong_Canon_on_Rationality
* https://wiki.lesswrong.com/wiki/RAZ_Glossary
* https://namespace.obormot.net/Jargon/Jargon

[[Категория:Понятия]]
[[Категория:Сообщество]]
[[Категория:Корневые страницы категории Сообщество]]

Тестирование заглавной страницы

2023-12-20T20:07:59Z

ReverendBayes: Категория "Сообщество" через список подкатегорий

Это [[Meta:Описание|энциклопедия]] русскоязычного сообщества [[LessWrong]]. Наше сообщество посвящено изучению [[Рациональность|рациональности]], под которой мы понимаем получение более точного представления о мире и более эффективное принятие решений. Наше [[:Категория:Сообщество|сообщество]] выросло вокруг «[[Цепочки|Цепочек]]» — сборника статей [[Юдковский, Элиезер|Элиезера Юдковского]], в которых на основе математических идей и научных данных из когнитивной психологии (а также других дисциплин) описывается, как думают люди, и что можно сделать, чтобы меньше ошибаться.

Эта энциклопедия появилась совсем недавно, и вы можете [[Как внести вклад|помочь нам в её наполнении]], [https://ru.wikipedia.org/wiki/Википедия:Правьте_смело правьте смело]. Кроме того, вы можете [[Как помочь сообществу|помочь сообществу другими способами]].

Если вы просто хотите побольше узнать о рациональности, у нас есть советы, [[Если вы хотите узнать о рациональности|с чего лучше начать]].

== Группы страниц ==

<div class="main-wrapper" style="width: 100%; float: left; box-sizing: border-box">
<div class="column1" style="width: 50%; float: left; box-sizing: border-box; padding: 10px;">
{{Раздел заглавной страницы|Заголовок=Золотые страницы|Содержимое=
{{#ask:
[[Категория:Золотые страницы]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Понятия|Содержимое=
{{#ask:
[[Категория:Понятия]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=AI Safety и AI Alignment|Содержимое=
{{#ask:
[[Категория:AI Safety]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Как проводить встречи|Содержимое=
{{#ask:
[[Категория:Как проводить встречи]]
| sep =  • 
}}
}}
</div>
<div class="column1" style="width: 50%; float: left; box-sizing: border-box; padding: 10px;">
{{Раздел заглавной страницы|Заголовок=Новые страницы|Содержимое=
{{#ask:
[[:+]]
| sep =  • 
| sort = Дата создания
| order = desc
| limit = 10
}}
}}
{{Раздел заглавной страницы|Заголовок=Методики|Содержимое=
{{#ask:
[[Категория:Методики]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Ненасильственное общение|Содержимое=
{{#ask:
[[Категория:Ненасильственное общение]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Книги|Содержимое=
{{#ask:
[[Категория:Книги]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Форматы встреч|Содержимое=
{{#ask:
[[Категория:Форматы встреч]]
| sep =  • 
}}
}}
{{Раздел заглавной страницы|Заголовок=Сообщество|Содержимое=
{{#ask:
[[Категория:Telegram]] OR [[Категория:Жаргон]] OR [[Категория:Игры для рационалистов]] OR [[Категория:Организации]] OR [[Категория:Праздники]] OR [[Категория:Корневые страницы категории Сообщество]]
| sep =  • 
}}
}}
</div>
</div>
 
== Категории ==
* [[:Категория:Корневая категория|Дерево категорий]]
* [[Служебная:Категории|Список всех категорий]]

LessWrong

2023-12-20T20:06:17Z

ReverendBayes: Добавил скрытую категорию для вывода этой страницы через запрос по категории

{{Wikipedia}}
LessWrong (переводится с английского как «менее неправ» или «меньше ошибаюсь») — сообщество людей, увлечённых изучением человеческой [[Рациональность|рациональности]]. Участники сообщества ищут способы принимать более оптимальные решения во всех случаях жизни, основываясь на работах из области математики, экономики, когнитивной психологии и многих других научных дисциплин.

История сообщества началась в 2006 году, когда [[Элиезер Юдковский]] начал писать статьи по рациональности в совместный с экономистом Робином Хансоном блог [http://www.overcomingbias.com/ Overcoming bias]. В феврале 2009 года записи Юдковского стали началом нового [http://lesswrong.com/ сайта] [[LessWrong.com]].

Основные идеи, которые легли в основу сообщества, изложены в [[Цепочки|Цепочках]].

Про сообщество есть хорошая большая статья Джейкоба Фальковича: [[lwru:Тайное_общество_борьбы_с_глупостью|Тайное общество борьбы с глупостью]].

Статистические данные об участниках можно узнать из результатов [[Перепись_(lesswrong.com)|переписи]]. К сожалению, последняя "глобальная" перепись проводилась в марте 2016 года.

== Русскоязычная часть сообщества ==
На русском языке есть некоторое количество ресурсов, посвящённых сообществу LessWrong: [[Онлайн-ресурсы сообщества]].

В некоторых городах России достаточно регулярно проходят встречи: [[Встречи сообщества]].

Статистические данные об участниках русскоязычной части сообщества можно узнать из результатов [[Перепись|переписей]].

=== Проблема с определениями ===
В России привыкли называть словом «Lesswrong» российское сообщество, выросшее из поклонников исходного коллективного блога [[LessWrong.com]] и других текстов [[Диаспора рационалистов|диаспоры рационалистов]]. Однако, многие (и авторы в том числе) называют словом «LessWrong» именно исходный коллективный блог. Вероятно, с этим нет никаких проблем в случаях, когда русскоязычное сообщество распространяет переводы материалов, однако, при создании чего-то своего может возникнуть вопрос, а почему авторы вообще используют название «LessWrong». Автор этих строк на момент написания не знает о каких-то уже существующих проблемах такого рода, однако, он предполагает, что для дальнейшего развития сообщества этот вопрос следует учесть и как-то решить.

== Ссылки ==
* [http://lesswrong.ru Сайт русскоязычного сообщества]
* [https://vk.com/less_wrong Less Wrong по-русски ВКонтакте]

[[Категория: Сообщество]]
[[Категория:Корневые страницы категории Сообщество]]

Категория:Корневые страницы категории Сообщество

2023-12-20T20:04:27Z

ReverendBayes: Новая страница: «__HIDDENCAT__ Это категория для страниц, которые находятся в категории Сообщество и не принадл…»

__HIDDENCAT__
Это категория для страниц, которые находятся в категории Сообщество и не принадлежат ни одной другой подкатегории (находятся в корне категории). Объединение их в одну категорию позволяет добавить их в вывод "все страницы из категории" на заглавной странице вики.

[[Категория:Сообщество]]

Бритва Оккама

2023-12-11T17:08:16Z

ReverendBayes: Новая страница: «{{DraftPage}} '''Бритва Оккама''' — эмпирическое правило, гласящее «не следует привлекать лишн…»

{{DraftPage}}

'''Бритва Оккама''' — эмпирическое правило, гласящее «не следует привлекать лишние сущности без необходимости». В контексте [[Байесианство|байесианства]] обычно имеет смысл «если существует несколько гипотез, одинаково хорошо объясняющих наблюдаемые факты, то следует предпочитать ту гипотезу, которая имеет наименьшую внутреннюю сложность».

== Байесианское обоснование принципа ==
Зададим некоторую произвольную трактовку понятия «простоты гипотезы» в таком смысле, что каждой из альтернативных (несовместных) гипотез мы присваиваем численное значение простоты, причем с ограничением, что для любого фиксированного значения простоты может быть только конечное число «не более сложных» гипотез. Упорядочим все гипотезы по убыванию простоты (по возрастанию сложности); для гипотез с одинаковым значением выберем произвольный относительный порядок. Получим последовательность <math>\{ H_n \}</math>. На основе этой последовательности построим последовательность <math>\{ p_n \}</math>, где <math>p_n</math> — вероятность истинности гипотезы <math>H_n</math>. Поскольку гипотезы несовместны, то сумма положительно определенного ряда <math>\sum_{n=1}^{\infin} p_n</math> ограничена единицей, и, следовательно, <math>p_n \to 0</math>. Таким образом, хотя в принципе вероятность более сложной гипотезы может быть больше вероятности более простой, однако при неограниченном росте сложности гипотезы ее вероятность неограниченно убывает; это верно для любого определения «простоты гипотезы».

== См. также ==
* [[Индукция Соломонова]]

== Статьи по теме ==
* [https://lesswrong.ru/w/Бритва_Оккама Бритва Оккама] — одноименное эссе из [[Цепочки|цепочек]] Юдковского

== Ссылки ==
* [https://www.lesswrong.com/tag/occam-s-razor Occam’z Razor] — тег и список статей на lesswrong.com

[[Категория:Байесианство]]

Экстраординарные утверждения

2023-12-11T16:25:38Z

ReverendBayes: Заголовки

{{Arbital|extraordinary_claims|Extraordinary claims}}

== Краткое содержание ==

Для того, чтобы понять, является ли утверждение «экстраординарным», а посему требующим поддержки «экстраординарных» [[свидетельство|свидетельств]], мы рассматриваем:
* Содержит ли утверждение в себе столько сложности, сколько не поддержано уже имеющимися свидетельствами.
* Нарушает ли утверждение низкоуровневые законы (вроде законов физики, химии, или биологических принципов).

И не рассматриваем:
* Предполагает ли утверждения последствия в будущем, которые звучат экстремально или важно.
* Потребуется ввести дорогостоящие меры в связи с тем, что утверждение окажется истинным. Или придется ли делать что-то болезненное в этом же случае.
* Нарушает ли утверждение поверхностные и/или высокоуровневые обобщения.

Если утверждение прошло эти тесты, то это не означает, что мы в него должны поверить, мы лишь признаем их обычными утверждениями, требующими поддержки свидетельств нормальной силы.

== Экстраординарные утверждения ==

Какие же утверждения становятся настолько «экстраординарными», что для них требуются экстраординарные свидетельства?

Грубо говоря:
* Пока-еще-не поддержанная свидетельствами сложность или детальность; в соответствии с [[Бритва Оккама|бритвой Оккама]] это требует дополнительной поддержки свидетельствами.
* Нарушение установленных принципов поведения нижних уровней организации вселенной.

Кое-какие характеристики, которые НЕ делают утверждение экстраординарными:

* Важные последствия в будущем, или которые звучат необычно. Так же те, которые подразумевают введение дорогостоящих мер в настоящем.
* Количество людей, верящих в истинность таких утверждений.

В принципе, основой для идеи «экстраординарных утверждений» являются рассуждения на основе [[Индукция Соломонова|индукции Соломонова]]. На этой странице, к сожалению нет внятного объяснения того, как определенные эвристики следуют из рассуждений в стиле индукции Соломонова, лишь перечисление некоторых их них.

== Пример: антропогенное глобальное потепление ==

Попробуем воспроизвести рассуждения о глобальном потеплении, которые могли бы быть представлены до того, как мы рассмотрим температурные записи. Будет ли утверждение «Увеличение углекислого газа в атмосфере приведет к глобальному повышению температуры и изменению климата» экстраординарным утверждением, требующим экстраординарных свидетельств, или же оно будет обыкновенным, для поддержки которого особенно сильные свидетельства не понадобятся? В данном случае мы предполагаем, что вы способны здраво рассуждать о физике и экологии, но пока не имеете доступа к записям с температурой.

Основной аргумент (до того, как вы получите доступ к записям) будет таким: «Углекислый газ — это парниковый газ, при достаточном уровне которого в атмосфере будет сохраняться больше тепла, что должно привести к глобальному повышению температуры на Земле».

Для оценки обыкновенности или экстраординарности этого утверждения:

''Мы не задаемся'' вопросом о важности или экстремальности последствий этого в будущем. Предположим, что увеличение углекислого газа действительно приводит к большему сохранению тепла; будет ли Стандартная Модель думать себе: «Ого, да это приведет к чрезвычайным последствиям», и решит все же отпустить лишнее тепло в космос? Разумеется нет. У законов физики нет тенденции привилегировать людей и избегать положительных или отрицательным по человеческим меркам событий.

''Мы не задаемся'' вопросом о дороговизне мер, которые потребуется ввести в связи с тем, что приведенные утверждения окажутся истинными. Ведь это не повлияет на причинные цепочки, стоящие за истинностью или ложностью утверждения. Ну и в целом, реальность не пытается избежать доставления нам неудобств, так что это не окажет влияния на [[априорная вероятность|априорную вероятность]] (до наблюдения свидетельств), которую мы назначаем рассматриваемым утверждениям.

''Мы не задаемся'' вопросом о наличии мотива лгать у того, кто нам это утверждение сообщает, или о наличии «дурацких или сумасшедших» причин в это верить у сообщающего. Если есть мотив лгать, то это влияет на силу свидетельства (его слов), но не понижает априорную вероятность. Предположим кто-то сказал вам: «Знаешь, у меня есть квартира в Нью-Йорке, я могу сдать ее тебе за $2000/месяц». Возможно, этот человек лжет с целью получения денег, но это не означает, что утверждение «у меня есть квартира в Нью-Йорке» будет экстраординарным. Много людей владеет квартирами в этом городе. Такое случается каждый день. Наличие денег на кону означает, что у человека есть мотив соврать, но это влияет на [[отношение правдоподобия]], а не на априорные шансы. Если все наблюдения мы ограничим словами этого человека, то вероятность что он скажет «у меня есть квартира в Нью-Йорке» с учетом того, что у него нет квартиры в этом городе, может быть необычайно высока, потому что он пытается реализовать мошенническую схему с рентой. Но это не означает, что нам нужно звать физиков с их аппаратурой для проверки существования этой квартиры. Достаточно будет и других, все еще сильных, но обычных свидетельств. Подобно этому, даже если кто-то и лжет про глобальное потепление, это будет означать лишь потенциальную слабину в предоставленных этим человеком свидетельств, а не слабину априорной вероятности утверждения «При увеличении углекислого газа в атмосфере температура поднимается».

(Точно так же, желание получить сильные свидетельства не всегда сопутствует невероятности проверяемого утверждения. Может быть вы раздумываете о покупке дома в Сан Франциско и на кону миллионы долларов. А это означает, что у релевантной информации высокая ценность, и вы, возможно, захотите вложить деньги для получения дополнительных свидетельств вроде оценки третьими лицами этой информации. Но это не потому что владение домом в Сан Франциско является лавкрафтовской аномалией. Деньги на кону и поэтому вы, возможно, готовы заплатить за [https://arbital.com/p/bayes_rule_elimination/?pathId=24787 элиминацию] остатков невероятности у этого довольно обычного утверждения).

''Мы задаемся'' вопросом о том, какое утверждение больше согласуется с наблюдаемым в прошлом поведении углекислого газа: «повышение углекислого газа в атмосфере приводит в повышению температуры» и «повышение углекислого газа в атмосфере НЕ приводит в повышению температуры».

И после того, как мы определили стандартное поведение молекул углекислого газа и инфракрасных фотонов, мы не отдаем приоритет обобщениям вроде: «Мы ни разу не наблюдали температуру во Фридонии летом выше 30 градусов». Это правда, что предсказанные последствия поведения молекул углекислого газа противоречат обобщению про температуру во Фридонии. Но мы отдаем приоритет более фундаментальным обобщениям и тем, которые ближе к началу причинной цепочки.

* Поведение углекислого газа более фундаментальное обобщение. Оно сложилось вокруг наших наблюдений класса молекул, поведение которых мы можем изучать очень детально и давать очень точные прогнозы. Вес молекулы углекислого газа (со стандартным изотопами в обоих случаях) и количество пропускаемых ими инфракрасных лучей, меняется намного меньше от случая к случаю, чем летняя температура во Фридонии, то есть оно очень точное и сильное обобщение.
* Поведение углекислого газа ближе к началу цепочки причин и следствий. Летняя температура во Фридонни вызвана, или является следствием, определенного уровня углекислого газа в атмосфере. Мы ожидаем, что изменения в начале причинной цепочки вызовут изменения в конце цепочки. Довольно удивительно будет, если обобщение про погоду во Фридонии сможет изменить отношения между молекулами углекислого газа и инфракрасным светом.

''Мы не задаемся'' вопросом о количестве именитых ученых, верящих или не верящих в глобальное потепление. Если вы ожидаете, что множество именитых ученых не верят в вещи вроде глобального потепления в мирах, где глобального потепления нет, то наблюдение такого консенсуса это довольно сильное свидетельство в пользу ложности утверждения о наличии глобального потепления. Но это не относится к априорной вероятности до наблюдения свидетельств. Для этого нам надо рассмотреть сложность утверждения, и насколько оно противоречит низкоуровневым обобщениям, в истинности которых мы довольно уверены.

== Статьи по теме ==
* Оригинал статьи: [https://arbital.com/p/extraordinary_claims/ Extraordinary claims ]
* Каталог статей гайда по ТБ: [[Теорема Байеса]]

[[Категория:Байесианство]]

Экстраординарные утверждения

2023-12-11T16:24:05Z

ReverendBayes: Прогнал викификатор; добавил Arbital-шаблон; добавил ссылку на бритву Оккама

{{Arbital|extraordinary_claims|Extraordinary claims}}

'''Краткое содержание:'''

Для того, чтобы понять, является ли утверждение «экстраординарным», а посему требующим поддержки «экстраординарных» [[свидетельство|свидетельств]], мы рассматриваем:
* Содержит ли утверждение в себе столько сложности, сколько не поддержано уже имеющимися свидетельствами.
* Нарушает ли утверждение низкоуровневые законы (вроде законов физики, химии, или биологических принципов).

И не рассматриваем:
* Предполагает ли утверждения последствия в будущем, которые звучат экстремально или важно.
* Потребуется ввести дорогостоящие меры в связи с тем, что утверждение окажется истинным. Или придется ли делать что-то болезненное в этом же случае.
* Нарушает ли утверждение поверхностные и/или высокоуровневые обобщения.

Если утверждение прошло эти тесты, то это не означает, что мы в него должны поверить, мы лишь признаем их обычными утверждениями, требующими поддержки свидетельств нормальной силы.

'''Экстраординарные утверждения'''

Какие же утверждения становятся настолько «экстраординарными», что для них требуются экстраординарные свидетельства?

Грубо говоря:
* Пока-еще-не поддержанная свидетельствами сложность или детальность; в соответствии с [[Бритва Оккама|бритвой Оккама]] это требует дополнительной поддержки свидетельствами.
* Нарушение установленных принципов поведения нижних уровней организации вселенной.

Кое-какие характеристики, которые НЕ делают утверждение экстраординарными:

* Важные последствия в будущем, или которые звучат необычно. Так же те, которые подразумевают введение дорогостоящих мер в настоящем.
* Количество людей, верящих в истинность таких утверждений.

В принципе, основой для идеи «экстраординарных утверждений» являются рассуждения на основе [[Индукция Соломонова|индукции Соломонова]]. На этой странице, к сожалению нет внятного объяснения того, как определенные эвристики следуют из рассуждений в стиле индукции Соломонова, лишь перечисление некоторых их них.

'''Пример: антропогенное глобальное потепление'''

Попробуем воспроизвести рассуждения о глобальном потеплении, которые могли бы быть представлены до того, как мы рассмотрим температурные записи. Будет ли утверждение «Увеличение углекислого газа в атмосфере приведет к глобальному повышению температуры и изменению климата» экстраординарным утверждением, требующим экстраординарных свидетельств, или же оно будет обыкновенным, для поддержки которого особенно сильные свидетельства не понадобятся? В данном случае мы предполагаем, что вы способны здраво рассуждать о физике и экологии, но пока не имеете доступа к записям с температурой.

Основной аргумент (до того, как вы получите доступ к записям) будет таким: «Углекислый газ — это парниковый газ, при достаточном уровне которого в атмосфере будет сохраняться больше тепла, что должно привести к глобальному повышению температуры на Земле».

Для оценки обыкновенности или экстраординарности этого утверждения:

''Мы не задаемся'' вопросом о важности или экстремальности последствий этого в будущем. Предположим, что увеличение углекислого газа действительно приводит к большему сохранению тепла; будет ли Стандартная Модель думать себе: «Ого, да это приведет к чрезвычайным последствиям», и решит все же отпустить лишнее тепло в космос? Разумеется нет. У законов физики нет тенденции привилегировать людей и избегать положительных или отрицательным по человеческим меркам событий.

''Мы не задаемся'' вопросом о дороговизне мер, которые потребуется ввести в связи с тем, что приведенные утверждения окажутся истинными. Ведь это не повлияет на причинные цепочки, стоящие за истинностью или ложностью утверждения. Ну и в целом, реальность не пытается избежать доставления нам неудобств, так что это не окажет влияния на [[априорная вероятность|априорную вероятность]] (до наблюдения свидетельств), которую мы назначаем рассматриваемым утверждениям.

''Мы не задаемся'' вопросом о наличии мотива лгать у того, кто нам это утверждение сообщает, или о наличии «дурацких или сумасшедших» причин в это верить у сообщающего. Если есть мотив лгать, то это влияет на силу свидетельства (его слов), но не понижает априорную вероятность. Предположим кто-то сказал вам: «Знаешь, у меня есть квартира в Нью-Йорке, я могу сдать ее тебе за $2000/месяц». Возможно, этот человек лжет с целью получения денег, но это не означает, что утверждение «у меня есть квартира в Нью-Йорке» будет экстраординарным. Много людей владеет квартирами в этом городе. Такое случается каждый день. Наличие денег на кону означает, что у человека есть мотив соврать, но это влияет на [[отношение правдоподобия]], а не на априорные шансы. Если все наблюдения мы ограничим словами этого человека, то вероятность что он скажет «у меня есть квартира в Нью-Йорке» с учетом того, что у него нет квартиры в этом городе, может быть необычайно высока, потому что он пытается реализовать мошенническую схему с рентой. Но это не означает, что нам нужно звать физиков с их аппаратурой для проверки существования этой квартиры. Достаточно будет и других, все еще сильных, но обычных свидетельств. Подобно этому, даже если кто-то и лжет про глобальное потепление, это будет означать лишь потенциальную слабину в предоставленных этим человеком свидетельств, а не слабину априорной вероятности утверждения «При увеличении углекислого газа в атмосфере температура поднимается».

(Точно так же, желание получить сильные свидетельства не всегда сопутствует невероятности проверяемого утверждения. Может быть вы раздумываете о покупке дома в Сан Франциско и на кону миллионы долларов. А это означает, что у релевантной информации высокая ценность, и вы, возможно, захотите вложить деньги для получения дополнительных свидетельств вроде оценки третьими лицами этой информации. Но это не потому что владение домом в Сан Франциско является лавкрафтовской аномалией. Деньги на кону и поэтому вы, возможно, готовы заплатить за [https://arbital.com/p/bayes_rule_elimination/?pathId=24787 элиминацию] остатков невероятности у этого довольно обычного утверждения).

''Мы задаемся'' вопросом о том, какое утверждение больше согласуется с наблюдаемым в прошлом поведении углекислого газа: «повышение углекислого газа в атмосфере приводит в повышению температуры» и «повышение углекислого газа в атмосфере НЕ приводит в повышению температуры».

И после того, как мы определили стандартное поведение молекул углекислого газа и инфракрасных фотонов, мы не отдаем приоритет обобщениям вроде: «Мы ни разу не наблюдали температуру во Фридонии летом выше 30 градусов». Это правда, что предсказанные последствия поведения молекул углекислого газа противоречат обобщению про температуру во Фридонии. Но мы отдаем приоритет более фундаментальным обобщениям и тем, которые ближе к началу причинной цепочки.

* Поведение углекислого газа более фундаментальное обобщение. Оно сложилось вокруг наших наблюдений класса молекул, поведение которых мы можем изучать очень детально и давать очень точные прогнозы. Вес молекулы углекислого газа (со стандартным изотопами в обоих случаях) и количество пропускаемых ими инфракрасных лучей, меняется намного меньше от случая к случаю, чем летняя температура во Фридонии, то есть оно очень точное и сильное обобщение.
* Поведение углекислого газа ближе к началу цепочки причин и следствий. Летняя температура во Фридонни вызвана, или является следствием, определенного уровня углекислого газа в атмосфере. Мы ожидаем, что изменения в начале причинной цепочки вызовут изменения в конце цепочки. Довольно удивительно будет, если обобщение про погоду во Фридонии сможет изменить отношения между молекулами углекислого газа и инфракрасным светом.

''Мы не задаемся'' вопросом о количестве именитых ученых, верящих или не верящих в глобальное потепление. Если вы ожидаете, что множество именитых ученых не верят в вещи вроде глобального потепления в мирах, где глобального потепления нет, то наблюдение такого консенсуса это довольно сильное свидетельство в пользу ложности утверждения о наличии глобального потепления. Но это не относится к априорной вероятности до наблюдения свидетельств. Для этого нам надо рассмотреть сложность утверждения, и насколько оно противоречит низкоуровневым обобщениям, в истинности которых мы довольно уверены.

=== Статьи по теме ===
* Оригинал статьи: [https://arbital.com/p/extraordinary_claims/ Extraordinary claims ]
* Каталог статей гайда по ТБ: [[Теорема Байеса]]

[[Категория:Байесианство]]

Инструментальная конвергенция

2023-12-10T09:35:32Z

ReverendBayes: Прогнал викификатор, мелкие правки орфографии

<div style="float: right">
{{WikipediaRu|Инструментальная сходимость}}

{{DraftPage}}

'''Инструментальная конвергенция''' (также известна как Инструментальная сходимость) — предполагаемая тенденция к совпадению промежуточных целей у сверхинтеллектов с различными конечными целями. Некоторые вещи необходимы для достижения огромного количества финальных целей. Например контроль ресурсов и предотвращение своего уничтожения. Тезис относится как к человеческим сверхинтеллектам, так и к не-человеческим.

== Стремления Омохундро ==
Стивен Малверн Омохундро, создавший понятие инструментальной конвергенции, выделил стремления, которые весьма вероятно будут сформированы в достаточно продвинутых системах ИИ любого назначения.

* '''Стремление к самосохранению''' — Любой достаточно продвинутый интеллект, вероятно, будет хорошо справляться с достижением своих целей. Следовательно для большинства функций полезности польза от отключения или уничтожения системы отрицательная. Они приведут к прекращению осуществления пути к цели. То же касается и неизменности функции полезности. Если изменить функцию полезности продвинутого интеллекта, то он скорее всего станет менее эффективно исполнять предыдущую (или вообще прекратит это делать).

* '''Стремление к эффективности'''

* '''Стремление к аккумуляции ресурсов'''

* '''Стремление к креативности'''

* '''Стремление к самосовершенствованию'''

* '''Стремление к [[Рациональность|рациональности]]'''

* '''Стремление к предотвращению фальсификации [[утилон]]ов'''

Этот список является объединенным для двух работ Омохундро: [https://selfawaresystems.files.wordpress.com/2008/01/nature_of_self_improving_ai.pdf The Nature of Self-Improving Artificial Intelligence] и [https://selfawaresystems.files.wordpress.com/2008/01/ai_drives_final.pdf|The Basic AI Drives]

== Связанные понятия ==
[[Максимизатор скрепок]] — пример мысленного эксперимента, связанного с инструментальной конвергенцией. Максимизатор скрепок стремится только к тому, что бы произвести как можно больше скрепок, поэтому причиняет огромное количество сопутствующего ущерба, разрушая человечество ради создания скрепок или устройств для их производства. Максимизатор скрепок имеет общую инструментальную цель со многими другими гипотетическими сверхинтеллектами — захват ресурсов Земли.

== Другие материалы по теме ==
* [https://educ.wikireading.ru/hCl7qYdvhn Инструментальная конвергенция] — глава книги Ника Бострома «Искусственный интеллект [Этапы. Угрозы. Стратегии]» об Инструментальной Конвергенции (Сходимости)
* [https://www.alignmentforum.org/tag/instrumental-convergence Инструментальная конвергенция] — www.alignmentforum.org

Эпистемический статус

2023-12-09T10:32:47Z

ReverendBayes: Орфография

'''Эпистемический статус''' — мера уверенности автора в написанном им тексте (или иным образом созданной или переданной информации). Попытка ответить на вопросы: «Откуда я это знаю? Насколько и почему я в этом уверен?»

== Для чего используется ==

Сообщая эпистемический статус своего высказывания/статьи/сообщения, вы позволите другим понять, с какой степенью серьезности стоит отнестись к указанным вами тезисам: это очень надежная информация, пища для размышлений или просто фоновый шум.

Кроме того, это позволяет лучше задать направление дискуссии. Если сообщение содержит очень надежную информацию, можно обсудить то, какие из нее можно вывести следствия. Если приведены результаты предварительных размышлений, то будет полезно поискать в них сильные и слабые стороны с тем, чтобы развить верные идеи и отбросить неверные. Если информация совершенно не надежна и не стремится быть таковой, то вдумчивые обсуждения к ней неприменимы.

Для автора сообщения указать эпистемический статус своих тезисов - это способ более критично посмотреть на свои утверждения и задуматься над тем, насколько они точны и проработаны, не стоит ли их перепроверить. В целом такой стиль мышления позволяет чаще приходить к истинным убеждениям.

== Примеры ==

* "У меня есть смутная уверенность, что это так; уже не помню, откуда"
* "Читал несколько статей на заслуживающем доверия специализированном ресурсе"
* "Слышал, как это вскользь было упомянуто кем-то из популяризаторов науки"
* "[[Анекдотическое свидетельство]] - у меня один раз так было"
* "Это мейнстрим науки; во всех научных текстах, где мне встречалась эта тема, было описано именно так"
* "Правдоподобное предположение"
* "Обобщение анекдотический свидетельств, результат моих длительных размышлений на эту тему"

== См. также ==
* [[Эпистемическое усилие]]

[[Категория:Понятия]]
[[Категория:Коммуникация]]

Беседы в Москве

2023-12-05T20:13:51Z

ReverendBayes: Категория

Регулярные встречи сообщества. Проходят в [[Кочерга|Кочерге]] раз в две недели по воскресеньям между [[Игровые встречи|игровыми]] и [[Академические встречи|академическими]] встречами.

На встречах проходят обсуждения, дискуссии с модерацией, короткие доклады, совместный поиск истины, уточнение убеждений, практика рациональных привычек. Всё, что не требует большой подготовки от участников, но приносит пользу.

{{#ask:
[[Категория:Встречи]] [[Дата события::+]] [[Проходит в месте.В городе::Москва]]
AND [[Категория:Встречи]] [[Дата события::+]] [[Формат встречи::Беседы]]
| ?Дата события
| sort=Дата события
| order=descending
| limit=5
| mainlabel=Название
| format=table
}}

== Темы следующих встреч ==

=== В серии "Рассказы дилетантов" на будущих встречах ожидается ===

* Биология. Углерод, углевод, фосфолипиды, эволюция.
* Эксперименты Либета.
* Экономика (как потратить деньги, чтобы их стало больше; как экономить и вести бюджет; австрийская школа, стокгольмская школа, другие экономические теории; как работает банковская система; инвестиции)
* Рассказ о медитации.
* Нейросети и искусство: как скоро ИИ станет рисовать и критиковать живопись лучше нас.
* ТРИЗ, Альтшуллер.
* Рассказы про конкретные логические ошибки и когнитивные искажения (fallacies&biases)
* Рассказы о том, за что давали Нобелевские премии по экономике, по физиологии.
* Парадоксы теории принятия решений.
* Теория игр.

'''Принимаются запросы''' - о чем вы хотите послушать.<br>

'''Принимаются заявки''' - о чем вы хотите рассказать.<br>

'''Формат''' - 15 минут, короткие понятийные расстояния. (Рассчитываем, что слушатель - человек образованный и неглупый, но конкретно по теме не знает ничего).

=== В серии "Практикум" на будущих встречах ожидается ===

* Гугл-вечеринки по статистике: существуют ли разрыв между развитыми и развивающимися странами, корреляция ВВП и прав человека, лечебная сила плацебо и самовнушения.
* Как пользоваться сайтами по статистике.
* Как искать научную информацию, в том числе медицинскую.
* Чек-лист CFAR снова и снова.
* Теорема Байеса.
* Обсуждение, как объяснять теорему Байеса человеку с улицы.
* Калибровка интуитивных оценок вероятности.

'''Принимаются заявки''' - какую активити вы хотели бы провести.<br>

'''Принимаются запросы''' - в какой активности вы хотели бы поучаствовать.

[[Категория:Кочерга]]

Взаимоисключающие и исчерпывающие гипотезы

2023-12-05T20:06:42Z

ReverendBayes: Навесил плашку, добавил категорию

{{DraftPage}}

Высказывания называются "взаимоисключающими и исчерпывающими", когда лишь одно из них может оказаться истинным. Например, из двух высказываний "небо голубое" и "небо не голубое", лишь одно может быть истинным. Следовательно, вероятности таких высказываний суммируются к 1.

=== Статьи по теме ===
* [https://arbital.com/p/exclusive_exhaustive/1 Mutually exclusive and exhaustive] - оригинал статьи на [[Arbital]]

[[Категория:Теория вероятностей]]