Глоссарий

Что это

Собираем список терминов, которые мы часто используем в общении. И короткие описания, что они значат.

Эта страница переехала на вики с хакпада и очень нуждается в вычитке. Вероятно, её стоит разделить на отдельные статьи.

Принцип правок описаний:

• Каждый может расписать свое определение, потом из всех вариантов выбираем лучший (сбором мнений или редакторским произволом.)
• В смысле, если вам не нравится чье-то описание (по-крупному, не в смысле опечаток), пишите свое альтернативное.
• (Это чтобы не подвисать в сомнениях, лучше свой вариант или хуже. Сомневаетесь — напишите.)

Список

Две системы, первосистемно, второсистемно.

Вариант от Alaric

[Участник: Alaric]] В таком варианте давать определение несколько затруднительно, поэтому я его слегка изменил. Если нужно давать именно к такому — надо думать.

Первая и вторая системы (Система 1 и Система 2) — способ описать два режима человеческого мышления. Мы говорим, что работает первая система, когда человек что-то осознаёт автоматически, практически без каких-либо усилий: например, понимает смысл написанного на хорошо знакомом языке, узнаёт известного ему человека в лицо, когда в памяти всплывает что-то очень хорошо заученное, и так далее. Мы говорим, что работает вторая система, когда человек может осознать собственный мыслительный процесс, может понять, что он предпринимает умственные усилия.

Система 1 и Система 2 — это абстракции, в человеческом мозге не выделены какие-то участки, про которые можно сказать, мол, вот это отвечает за работу Системы 1, а это — за Систему 2, однако, этими абстракциями удобно пользоваться для рассуждений о мышлении.

Подробнее об этом можно прочитать в книге Д. Канемана «Думай медленно… решай быстро».

Эвристика

Вариант от Alaric

Приём или способ решать некоторые задачи в условиях неполной информации, иногда интуитивный и неосознаваемый. (А ещё это наука, которая такими приёмами занимается.)

Табуирование

Вариант от Alaric

Приём в дискуссии, заключающийся в отказе от использования некоего слова или термина. Это позволяет разрешить противоречия, которые возникают, когда спорщики вкладывают в это слово или термин разный смысл (возможно, неосознанно). Подробнее: http://lesswrong.ru/w/Табуируй_свои_слова

Вариант от Muyyd

Рациональное табуирование — один из фундаментальных навыков как для дискуссии, так и для познания. Реализуется в форме сознательного отказа от использования слова или термина, а так же его синонимов, для того, чтобы проверить, сможет ли человек думать об исследуемом\дискутируемом феномене без привычных терминов-ярлыков. Следует думать о предмете рассуждений, так, как будто вы наблюдаете его впервые, описывая его не привычным словом-ярлыком (или одним из синонимов), а сосредоточив внимание на наблюдаемых внешних характеристиках и внутренних механизмах.

Главное препятствие на пути успешного наблюдения «как в первый раз» в том, что мозг уже имеет набор удобных концептов для описания, например, «звук» или «бита». Но такие слова несут в себе разрушительную силу ярлыков], и яд [запасенных мыслей].

Пример 1. (по ссылке первая основания статья про табуирование)

Альберт: падающее в лесу дерево производит звук, даже если его никто не слышит.
Барри: падающее в лесу дерево не производит звука, если его некому слышать.
  Первое табуирование.
Альберт: падающее в лесу дерево производит акустические вибрации, даже если их никто не слышит.
Барри: падающее в лесу дерево не производит слуховые переживания, если их некому переживать.
  Второе табуирование.
Альберт: падающее в лесу дерево производит волны давления, передающиеся через физический объект-проводник.
Барри: падающее в лесу дерево не приводит к появлению внутри мозга сенсорной обработки информации, поступившей в виде временного ряда преобразованных частот.
'''[http://lesswrong.com/lw/nv/replace_the_symbol_with_the_substance/ Пример 2].  (по ссылке вторая основания статья про табуирование)'''
Это бита? Нет, это длинный, округлый, конусообразный, деревянный стержень, сужающийся у одного конца так, чтобы человек мог ухватить его и махнуть им.
Это мяч? Нет, это покрытый кожей сфероид с симметричным вышитым узором, твердый, но не как металл, его можно взять в руку и бросить или ударить деревянным стрежнем, или поймать.

Табуирование тесно связано с:

1. Прагматизмом, ведь такой подход позволяет понять связь убеждений и ожидаемых переживаний.
2. Редукционизмом, ведь такой подход часто заставляет перейти на более низкий уровень организации, изучая части, вместо того, чтобы проскальзывать взглядом по целому.
3. С дисциплиной «близость к задаче». Ведь слова часто отвлекают от вопроса, который вы хотите задать.
4. Обходом кэшированных мыслей, которые будут заполнять разум при использовании привычных слов. Чтобы избежать этого, привычные слова можно табуировать.
5. Умением не терять из виду основную цель.

Свидетельство

На отдельной странице: Свидетельство

Калибровка

На отдельной странице: Калибровка

Стилменинг

Вариант от Kirill

Стилменинг (от английского «lwcom:Steel man»), стальное чучело — подмена аргумента собеседника улучшенной версией. Соломенное чучело наоборот. Вне сообщества LessWrong идея использования наиболее убедительной интерпретации чужих аргументов обычно называется принципом доверия (английское Principle of charity).

Универсальный контраргумент

(Полностью) универсальный контраргумент (английское Fully general counterargument) — аргумент, который может применяться для отклонения любого утверждения по выбору аргументирующего. Обладание таким аргументом ведёт к иррациональности из-за невозможности обновления своих убеждений при появлении новых свидетельств.

Подробнее смотри цепочку «Против рационализации» (Against rationalisation).

Убеждения

Убеждение

Эпистемический/Инструментальный

Вариант от Pion

Слово «эпистемический» (как некоторая противоположность «инструментальный») это специфическая характеристика навыка или знания (или даже вообще рациональности как набора навыков и знаний). Противопоставление используется для проведения различия между навыками, которые позволяют оптимизировать непосредственно процессы во внешней или внутренней жизни индивида, и навыками, которые позволяют оптимизировать конкретно только процесс познания. Первое — инструментальное, второе — эпистемическое. Про это можно почитать у Ф. Бэкона, опыты плодоносные и опыты светоносные — примерно то же самое.

Вариант от AnCap

Инструментальное - то что относится к реализации функции полезности. Если цель - достать яблоко, то ходьба будет одним из инструментов, который большинство используют для этой цели. Эпистимическое - то что относится к процессам познания, которые как правило тесно связаны с остальными инструментами. Чтобы достать яблоко, надо знать некоторые факты о мире, из которых и формируется карта. Поскольку знания и знания о знаниях и навыки работы с ними также важны как и все остальные инструменты вместе взятые, о них говорят как о двух равноправных областях рациональности

Эксплицитный/имплицитный

Вариант от Pion

Разделение между тем, что вынесено в некоторое общее поле и заявлено, и тем, что скрыто, то есть находится в голове у конкретного человека. Также применяется для описания теории: эксплицитная теория — это такой набор представлений о действительности, который касается указания очевидных свойств внешнего мира. Имплицитная теория — это, проще говоря, мнение конкретного человека о чем-либо, которое также влияет на его поведение и восприятие. Читай Р. Стернберга.

Метапозиция

Вариант от Pion

Отношение индивида к фактам и процессам его внутренней жизни, чаще всего к мнениям и оценкам. «Мне нравится кофе» — позиция; «Я не хочу, чтобы мне нравился кофе, потому что я от него не сплю» — метапозиция. Часто «позиция» бывает первосистемной, то есть формируется быстро и невнимательно, а метапозиция возникает тогда, когда в процессе оценки явления задействована вторая система.

Мета

Вариант от Pion

Слово для обозначения явления более высокого порядка к обсуждаемому, то есть «объектному». Обычно это приставка, для таких слов как «метаязык», «метанавык», «метаэтика» и тп. В ЛВ-сленге само по себе используется (не как приставка, а как самостоятельное слово): для обозначения режима разговора, в котором способ ведения разговора становится предметом разговора (в особо запущенных случаях в разговорах становится предметом способ ведения разговора о способе ведения разговора и так далее); для запроса обратной связи или любого разговора про формат того, что происходит (с пожеланием абстрагироваться от содержания и рассматривать только форму).

Структурирование, следствие, разворачивание

Вариант от Pion

Процессы связанные с прояснением позиции человека по какому-то вопросу, обычно с помощью другого человека, который исполняет роль ведущего (или, как может показаться, психотерапевта). Еще используется словосочетание «заполнять белые пятна в карте» и «уточнять и расширять карту».

Отслеживать, отрефлексировать, оттормаживать

Вариант от Pion

Жаргонизмы для обозначения сознательного контролирования некоторого внутреннего процесса. Например, остановить порыв ударить кого-то, кто разозлил = оттормозить злость. Считается, что осознанная, отслеженная, отрефлексированная эмоция уже не является аффектом, то есть не заставляет делать что-то не подумавши.

Дельта

Вариант от Pion

То, насколько убеждения человека меняются с получением новой информации. Когда вам сообщают что-то, чего вы раньше не знали, и это полностью переворачивает ваш мир, то это у вас «большая дельта», а если вам сообщили что-то, что вы и так знаете, то это «никакой дельты».

Участник:Berekuk Пошло отсюда: http://reddit.com/r/changemyview/wiki

Прайминг, якорение

Вариант от Pion

Класс эффектов (названия из когнитивной психологии) имплицитной памяти, связанный с тем, что ответ человека на какой-либо вопрос сильно связан с неосознанным запоминанием предыдущей информации. В ЛВ-словаре используется часто в контексте «я не хочу тебя праймить, поэтому говори число первым/назови ответ первым». Подробнее о подобных эффектах можно почитать у Д. Канемана в «Думай медленно…решай быстро».

Феноменологический анализ

Вариант от Pion

От названия большого направления в философии ХХ века. В ЛВ-словаре обычно обозначает метод построения определений по принципу: примеры употребления — варьирование фантазией — построение универсального определения. Подробнее об этом можно прочитать у А. Райнаха и Р. Ингардена.

Этика

Вариант от Pion

Раздел философии, занимающийся принципами должного поведения. В ЛВ-словаре обычно система принципов поведения в голове у конкретного человека. Можно слышать «твоя этика непоследовательна» или «дыра в твоей этике…»

Ценности

Вариант от Pion

Составляющая этической системы, которая формирует конкретные цели в жизни каждого человека. В ЛВ-сообщесте часто можно услышать, что существуют т. н. «терминальные» ценности, которые являются основой и главной мотивации внутренней жизни. Они отличаются от всех прочих тем, что являются ценностями без всякого основания в других ценностях. Например, для многих людей терминальной ценностью является собственный комфорт. А для других терминальной ценностью может быть разнообразие информации в мире, и так далее.

Вариант от Muyyd

Терминальные и инструментальные ценности можно (чтобы не путать их) формально выразить (только зная формальные формулировки можно надеяться на то, что мы не запутаемся, кмк) функции полезности (т.ц.) и ожидаемой полезности действия (и.ц.). В качестве примера будет использоваться «Я хочу дать моей сестре пенициллин».

Результаты (список возможных результатов)
- [сестра жива; сестра мертва]

Действия (список возможных действий)
- [ввести пенициллин; не вводить пенициллин]

Функция полезности (она связывает каждый результат с полезностью, выражаемой с помощью числа от отрицательной бесконечности до положительной)
- (сестра жива→ 1)
- (сестра мертва→ 0)

Функция условной вероятности (которая связывает действия и результаты посредством распределения вероятностей). Вероятность представлена числом от 1 до 0.
-ввести пенициллин→сестра жива (0,9)
-ввести пенициллин→сестра мертва (0,1)
-не вводить пенициллин→сестра жива (0,3)
-не вводить пенициллин→сестра мертва (0,7)

Ожидаемая полезность действия. Полезность Результата * Вероятность наблюдать результат при выполнении Действия]
- ОП (ввести пенициллин) → 1*0,9=0,9
- ОП (не вводить пенициллин) → 1*0,3=0,3

Выбор действия с максимальной ожидаемой полезностью.
-ввести пенициллин.

С точки зрения такой формализации, становится понятней, что «снижение числа преступлений» является терминальной ценностью (функцией полезности, которую следует максимизировать, то есть выбирать такие действия из всех возможных, которые с большей вероятностью приведут к снижению), а «нагнетание страха перед наказанием», «ресоциализация преступников» — инструментальными (то есть нужно отслеживать, насколько запуганным (действия, которые приведут к нужном состоянию) наказанием должен быть человек, чтобы вероятность совершения им преступлений была минимальной).

См. Terminal Values and Instrumental Values, Adaptation-Executers, not Fitness-Maximizers, Zut Allais!, Lost Purposes.

Фальсификация (теоретико-вероятностная формулировка)

Вариант от Muyyd

Фальсифицируемость — количественная характеристика гипотезы, зависящая от вероятностей, которые эта гипотеза назначает (концентрирует массу вероятности) определенным событиям. С точки зрения теоремы Байеса, если есть какое-то наблюдение В, которое гипотеза Ai не может объяснить, то есть P(B|Ai) — крохотная, то числитель P(B|Ai)P(Ai) тоже будет крохотным, как и апостериорная вероятность P(Ai|B). Обновление вероятности Ai на основании успешного наблюдения В снизило вероятность Ai почти до нуля. Так же, если Ai назначает В огромную вероятность, но при этом, в соответствующий момент, мы В не наблюдаем, то это так же сильно снижает вероятность Ai. Теория, отказывающаяся быть уязвимой, широко размазывает массу вероятности, чтобы избежать дыр. Она не сможет сконцентрировать вероятности для нескольких предпочтительных событий, не сможет дать точный совет. Таким образом, рациональность поощряет смелые и точные предсказания: точная гипотеза предпочтительней туманной, но туманная, предпочтительней полного невежества (равномерного распределения вероятностей по всем возможным исходам).

См. Интуитивное объяснение интуитивного объяснения, Убеждения должны окупаться, A Technical Explanation of Technical Explanation, Decoherence is Falsifiable and Testable.

Обсуждение из хакпада:

Alaric: Мы, кажется, для новичков пишем? :)
Muyyd: У нас будет отдельный словарь и для старичков? :) Может, мне мешает хайнсайт найти ответ на вопрос: «какое наиболее короткое сообщение максимально поспособствует тому, что прочитавший его человек сможет употребить термин примерно так же, как и человек, читавший статьи». Но, думаю, именно этот вопрос следует себе задавать. И не недооценивать понятийные расстояния.
Для фальсификации надо бы добавить примеры, но это уже на выходных.
Gryphon: ИМХО это вообще не новичковский уровень. Я бы тут не приводил никаких формул, а рассказал бы кратенько примеры про нагретую не с той стороны плитку и флогистон.
Muyyd: Не вижу никаких препятствий, мешающих кому-нибудь еще (^_^) создать еще одно определение, например: «фальсификация (традиционная формулировка)» плитками и флогистонами.

TODO

• Ожидание
• Байесианство
• Априорно, апостериорно
• Ассоциативный режим
• Вероятность, шансы, риски
• Оптимизация (какой-то метрики)
• Конструктивное
• Деонтология
• Приоры

Ссылки

• http://mcntyr.com/52-concepts-cognitive-toolkit/ <- тут хорошая подборка
• https://wiki.lesswrong.com/wiki/Jargon
• https://wiki.lesswrong.com/wiki/Less_Wrong_Canon_on_Rationality - Имхо, >80 % понятий из этого списка стоит перевести и добавить в глоссарий или будущий проект-наследник глоссария.