Создание сообщества

В этой цепочке обсуждаются группы, посвящённые рациональности, и групповая рациональность. Поднимаются следующие вопросы:

  • Можно ли научиться рациональности? Можно ли обучать других рациональности?
  • Если да, насколько большого прогресса можно достичь?

Как мы можем убедиться, что наши действия действительно дают прирост рациональности? Как определить правильную причину, если этот прирост действительно есть?

  • Какие нормы в сообществе сделают процесс самоулучшения более лёгким?
  • Можем ли мы эффективно сотрудничать при работе над крупномасштабными задачами, не жертвуя свободой мысли?

И самое главное: Что мы упустили? Что будет в следующих учебниках по рациональности, которые заменят этот текст? Как улучшить существующий стиль и проверить существующие рекомендации? Что можно добавить? В каких направлениях можно развиваться?

Автор: 
Элиезер Юдковский

Общий уровень здравомыслия

Элиезер Юдковский

Перефразирую «Байесианца с чёрным поясом»1: за каждой впечатляющей, драматичной ошибкой кроется история о более важной и менее драматичной ошибке, без которой первая не случилась бы.

Даже если завтра повсюду в мире магическим образом исчезнут все следы религии, то, хотя жизнь многих людей и улучшится, нам всё ещё будет очень далеко до решения серьёзных проблем со здравомыслием, из-за которых вообще существует религия.

У нас есть веская причина потратить часть наших усилий на устранение религии, ведь религия — это непосредственная проблема. Однако религия исполняет и роль задохнувшейся канарейки в угольной шахте. Религия — это знак, симптом большей проблемы, которая никуда не денется просто потому, что кто-то лишится своей религии.

Рассмотрим мысленный эксперимент: чему вы могли бы научить других людей, с условиями, что это правда, это полезная широко применимая рационалистская техника, это не касается религии напрямую, но это могло бы подтолкнуть людей от религии отказаться? Даже так: представьте, что вы опросите всех ваших студентов через пять лет, чтобы посмотреть, как много из них откажется от религии по сравнению с контрольной группой. Но если вы хотя бы чуть-чуть попытаетесь сражаться с религией напрямую, вы провалите эксперимент. На уроках вам запрещается упоминать религию и любое религиозные утверждения, вам даже нельзя никак намекать на них. Все ваши примеры должны основываться на ситуациях из реального мира и не иметь ничего общего с религией.

Если мы не сражаемся с религией напрямую, чему мы научим людей, чтобы поднять «общий уровень здравомыслия» до уровня, при котором религия исчезнет сама собой?

Ниже перечислены несколько тем, которые я уже освещал. У меня, впрочем, встречались упоминания религии, но от них можно легко избавиться.

Но давайте посмотрим с другой стороны.

Предположим, что мы знаем учёного, который всё ещё религиозен: не важно, имеем мы дело с активным участием в религиозной жизни или с неясными случайными высказываниями о чем-то «духовном».

Теперь мы знаем, что этот человек не понимает во всех тонкостях…

  • …что есть свидетельство и почему;

  • …бритву Оккама;

  • …что два правила выше вытекают из законов и причинно-следственного механизма, благодаря которым мозг составляет карты, и не отменяются, когда речь идёт о зубных феях;

  • …чем отличаются настоящие ответы от затычек для любопытства;

  • …как переосмысливать что-либо, вместо того, чтобы просто повторять услышанное;

  • …некоторые основные направления науки за последние три тысячи лет;

  • …сложные искусства обновления убеждений на основе новых свидетельств и отказа от устаревших убеждений;

  • …эпистемологию начального уровня;

  • …честности перед собой продвинутого уровня;

  • …и так далее, и так далее, и тому подобное.

Если посмотреть на этот список, то видно, что изучить все его составляющие не так уж сложно. Быстрое введение во всё это (кроме натуралистической метаэтики) могло бы оказаться… обязательным предметом второго курса?

Но даже некоторые нобелевские лауреаты не прошли такой курс! Пример Ричарда Смолли может показаться некорректным, но есть и более пугающий пример Роберта Ауманна.

И их нельзя считать отдельными исключениями. Если бы все их коллеги прошли бы такой курс, они бы поправили Смолли и Ауманна (дружески отвели бы в сторонку и объяснили базовые принципы) или относились бы к ним достаточно настороженно и не дали бы Нобелевскую премию. Ведь если рассуждать реалистично (пусть это и кажется несправедливым), разве получил бы Нобелевскую премию учёный, публично рассуждающий о существовании Санта Клауса?

Именно об этом и говорит нам мёртвая канарейка, религия: общий уровень здравомыслия сейчас смехотворно низок. Даже в научной элите.

Если мы выкинем мёртвую гниющую канарейку, то в нашей шахте станет пахнуть чуть лучше, но уровень здравомыслия значительно не вырастет.

Я не планирую критиковать движение нео-атеистов. Вред, нанесённый религией, — это очевидная существующая опасность, или даже продолжающееся бедствие. Сражение против непосредственных последствий религии приоритетней использования её в качестве канарейки или экспериментального индикатора. Но даже если Докинз, Деннет, Харрис и Хитченс каким-то образом окончательно победят даже в самых далёких уголках человеческого мира, настоящая работа рационалистов только начнётся.

  • 1. Юдковский ссылается на блог «Black Belt Bayesian», который уже не существует. — Прим.перев.
Перевод: 
Kelegorm, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
312
Оцените качество перевода: 
Средняя оценка: 4.3 (16 votes)

Чувство, что большее возможно

Элиезер Юдковский

Когда учишь людей теме, которую ты пометил как «рациональность», помогает, если они уже заинтересованы в ней. (Есть менее прямые пути учить людей составлять карты, отражающие территорию, или оптимизировать реальность в соответствии с их ценностями, но я выбрал именно явный метод.)

И когда люди объясняют, почему они не заинтересованы в рациональности, одна из самых частых причин — это что-то вроде: «Я знаю парочку рациональных людей и они не кажутся мне более счастливыми»

О ком они думают? Наверное, об объективистах или о ком-то похожем. Может, об обычном учёном, которого они знают. Или обычном атеисте.

Это далеко не самая суть рациональности, как я и говорил прежде.

Даже если ограничиться людьми, способными вывести формулу Байеса — что уже вычёркивает 98% вышеназванных — это всё ещё не суть рациональности. В смысле, это же довольно базовая теорема.

С самого начала у меня было чувство, что должна существовать какая-то дисциплина познания, искусство мышления, навык, делающий людей заметно компетентнее, мощнее; эквивалент Поднятия Уровня в Крутости (English).

Но когда я смотрю на окружающий мир, я не вижу этого. Иногда я замечаю намёк, эхо того, что должно быть возможно, когда читаю творчество Робина Доуса, Даниэла Гилберта, Туби и Космидес1. Отдельные маститые учёные-психологи, которым далеко не всё равно — настолько не всё равно, что, мне кажется, их коллеги чувствуют себя неудобно, ведь не круто заботиться о чём-то настолько сильно. Они уловили ритм, единство, пронизывающее их аргументы —

Но даже это… всё ещё не самая суть рациональности.

Даже среди тех немногих, кто впечатляет меня отголоском брезжущей внутренней мощи, я не думаю, что их мастерство рациональности может сравниться со, скажем, мастерством математики Джона Конвэя2. Базовое знание, которое мы привлекаем к построению нашего понимания — если извлечь только части, которые мы использовали, а не всё, что было необходимо изучить, чтобы отыскать их — не сравнимо по величине со всем тем, что профессиональный инженер-атомщик знает про строение ядерных реакторов. Наверное, оно даже не сравнится с тем, что обычный инженер знает про мосты. Мы практикуем наши навыки способами, которые выучили постфактум; однако, эта практика и близко не стояла с тренировочным режимом олимпийского бегуна или даже игрока в теннис средней лиги.

И корень этой проблемы, как я подозреваю, это то, что мы ещё не собрались вместе и не систематизировали наши навыки. Нам пришлось создавать их постфактум, и есть верхний предел, как много один человек может сделать, даже если он может привлечь работу, проделанную в других научных областях.

Основное препятствие, сбивающее нас с правильного пути, — это сложность тестирования результатов тренировочных программ, следовательно мы не можем так просто получить методы, основанные на экспериментальных результатах. Я напишу больше на эту тему, потому что мне кажется, что распознание успешных методов и отделение их от провальных — важная, блокирующее дальнейшее развитие проблема.

Существуют эксперименты, исследующие балансирующие поправки для исправления отдельных когнитивных искажений, но они больше похожи на «заставь студентов практиковаться час, затем протестируй их через две недели», а не на «проведи половину записавшихся через версию А трёхмесячной тренировочной программы, а половину — через версию Б, а затем проведи исследование через пять лет». Вытекающее из обстоятельств количество усилий подходит для обучения людей, которые Действительно Серьёзны Насчёт Рациональности, но никак для тех, кто Готов Потратить Час Времени Или Около Того.

Дэниэл Бурфут3 замечательно заметил, почему интеллект кажется решающим фактором в рациональности: когда приходится импровизировать с совсем малым багажом знаний и количеством систематической практики, интеллект оказывается на самом важном месте.

Почему «рационалисты» не окружены видимой аурой мощи? Почему они ещё не на самой верхушке любой элиты любого направления, имеющего дело с мышлением? Почему большинство «рационалистов» кажутся обычными людьми, возможно со слегка большим интеллектом, с ещё одной игрушкой в чулане?

Тут можно придумать несколько ответов, но один из них определённо состоит в том, что они практикуются в рациональности намного менее систематично, чем каратист с первым даном — в поединках.

Я не ухожу от критики. Я не бейцукай (English), потому что есть граница того, как много Искусства можно создать в одиночку и как сильно можно полагаться на умозрительные заключения без экспериментально выявленной статистики. Я знаю о единственном использовании рациональности под названием «редукционизм запутывающих знаний». Об этом я спрашивал свой мозг, это он мне дал. Есть и другие искусства, я думаю, которые могла бы включить зрелая рационалистская тренировочная программа, которые сделали бы меня сильнее, счастливее и эффективнее. Если бы я только мог пройти через стандартизированную тренировочную программу, собирая сливки с методов обучения, экспериментально подтверждённых, как эффективные. Но моя жизнь не вместит ещё один огромный сфокусированный поток усилий, который я вложил в моё под-искусство рациональности, создавая его с нуля.

Я считаю себя в чём-то лучше каратиста с первым даном, но в чём-то и хуже. Я могу пробить кирпич и уже работаю над сталью, при том, что моя конечная цель — адамантий. Но у меня весьма приблизительное понимание того, как следует бить, блокировать или бросать в уличном бою.

Почему есть школы боевых искусств, но нет рационалистских додзе? (Этот вопрос был первым в моём первом посте в блоге.) Разве бить важнее чем думать?

Нет, но гораздо легче проверить, ударил ли ты кого-то или нет. Это часть обучения, важная часть.

Но что ещё более важно, есть люди, которые хотят бить, которые следуют идее, что должно быть систематизированное искусство сражения, которое сделает обучающегося заметно более мощным бойцом, со скоростью и изяществом за пределом возможностей не практикующихся. Они идут в школу, которая обещает научить их этому. И эта школа существует, потому что давным-давно у каких-то людей было чувство, что большее возможно. Эти люди собрались вместе, поделились между собой техниками, практиковались вместе, формализовали знания и в конце-концов разработали Систематизированное Искусство Боя. Они добились так много потому что считали, что должны быть круты, и были готовы вложить усилия.

Сейчас они добились чего-то стоящего этим стремлением, в отличие от тысячи других стремящихся к крутости, потому что могли сказать, ударили они цель или нет; это дало возможность школам регулярно соревноваться друг с другом в реалистичных соревнованиях с явно определёнными победителями.

Но до всего этого было стремление, желание стать сильнее, чувство, что большее возможно. Видение скорости, силы и грации, которой они ещё не обладали, но могли бы обладать, если бы вложили уйму работы, которая позволила бы им систематизировать, тренироваться и тестировать.

Почему у нас ещё нет Искусства Рациональности?

В-третьих, потому что современные «рационалисты» имеют проблемы в командной работе: об этом я напишу больше.

Во-вторых, потому что сложно проверить, успешна ли тренировка или какая из двух школ сильнее.

Но во-первых, потому что у людей нет ощущения, что рациональность — это что-то, что должно быть систематизировано, тестируемо и передаваемо, как боевое искусство, что должно включать так же много знания, как и инженерия, чьи суперзвёзды должны практиковаться так же усердно, как и шахматные гроссмейстеры, чьи успешные адепты должны быть окружены видимой аурой крутости.

И обратно, они не оглядываются на отсутствие видимой мощи, и не говорят: «Должно быть, мы делаем что-то не так»

«Рациональность» кажется ещё одним хобби, о котором люди говорят на вечеринках, искусственным разговорным одеянием с немногими или вовсе никакими бонусами; при том не кажется, что этот подход неверен.

  • 1. В оригинале Robyn Dawes, Daniel Gilbert, Tooby & Cosmides. — Прим.перев.
  • 2. В оригинале John Conway. — Прим. перев.
  • 3. В оригинале Daniel Burfoot. — Прим.перев.
Перевод: 
Павел Садовников
Номер в книге "Рациональность: от ИИ до зомби": 
313
Оцените качество перевода: 
Средняя оценка: 4.8 (10 votes)

Эпистемическая порочность

Элиезер Юдковский

Я очень благодарен тому, кто навёл меня на большое эссе Гиллианы Рассел «Эпистемическая порочность в боевых искусствах»1. К сожалению, я не смог найти в своей переписке и комментариях на Overcoming Bias, кто именно это был. Может быть, Анна Саламон?

С галстуками на шеях и в добротных туфлях (дело происходило в Англии) мы выстроились в шеренгу и повторяли его движения — левой, правой, левой, правой — и тогда он сказал, что если мы будем молотить воздух с достаточной самоотдачей ещё года три, то сможем убить быка одним ударом.

Я боготворила мистера Ховарда (хотя я бы скорее умерла, чем сказала бы ему об этом), и поэтому я, худая одиннадцатилетняя девочка, искренне поверила: если я буду упражняться, то к четырнадцати годам смогу убить быка одним ударом.

Рассказ выше иллюстрирует эпистемическую порочность в боевых искусствах, которой и посвящено данное эссе. Хотя слово «порочность»2 обычно означает преднамеренные жестокость и насилие, я буду использовать его в более старомодном значении — обладание пороками.

То, о чём пишет Гиллиана Рассел, удивительно хорошо обобщается на другие случаи. Эпистемическая порочность возникает по следующим причинам:

  • Искусство, додзё и сенсей воспринимаются как что-то святое. «Прийти в додзё с накрашенными ногтями на ногах — всё равно, что заявиться в церковь в мини-юбке и топе… Об изучающих другие стили боевых искусств говорят так, словно бы они исповедуют неправильную веру».
  • Если наставник выделил вас из группы и научил особому приёму, который вы потом отрабатывали двадцать лет, то из-за больших эмоциональных инвестиций вы будете отвергать все вновь появляющиеся подтверждения бесполезности этого приёма.
  • У новеньких нет особого выбора: боевому искусству нельзя научиться по книжке, поэтому ученики вынуждены доверять учителям.
  • Почитание прославленных мастеров прошлого. «Бегуны считают, что нынешние сотрудники Runner’s World3 знают о беге больше, чем все древние греки вместе взятые. И это верно не только для бега или других физических активностей, где история знает своё место. Это верно для любой достаточно разработанной изучаемой области. Физику не будет зазорным сказать, что теории Исаака Ньютона ошибочны…» (Звучит знакомо?)
  • «Мы, мастера боевых искусств, страдаем от особого рода скудности — скудности данных, которая делает наши убеждения труднопроверяемыми… Определить точные силу и угол ломающего шею удара может лишь тот, кто, к несчастью, оказался в настоящей рукопашной битве».
  • «Если нет возможности проверить эффективность техники, то трудно проверить и способы улучшения этой техники. Стоит ли отрабатывать нукитэ4 в воздухе, или это только стимулирует излишнее повторение движения? Неспособность проверить наши методы для драки не позволяет нам тщательно проверять наши методы для тренировок».
  • «Главная проблема не в том, что мы живём в скудности данных. Думаю, и многие уважаемые дисциплины — например, теоретическая физика — живут в такой же скудности. Проблема в том, что мы бедны, но мы продолжаем вести себя так, словно живём в роскоши и можем спокойно позволять себе верить всему, что нам говорят».(+10!)

Мне показалось, что в эссе ещё был запомнившийся мне фрагмент о том, что боевые искусства начинали деградировать после отказа от настоящих боёв — таких, в которых люди всерьёз пытались причинить вред друг другу и иногда кто-то погибал. Впрочем, при повторном прочтении я его не обнаружил.

Во времена боёв насмерть вы бы примерно знали, кто на самом деле настоящие мастера, и какая школа может победить другие.

А затем всё «цивилизовалось» и докатилось до появления на YouTube роликов, в которых предполагаемых чёрных поясов n-ного дана вбивают в землю люди с реальным боевым опытом.

Я слышал об одном по настоящему печальном примере. Некий мастер по-настоящему верил, что может использовать техники ки5. Его ученики в самом деле падали, когда он использовал эти атаки. Да, странный, необычный и пугающий случай самогипноза или чего-то подобного… Но когда этот мастер вышел против скептика, его, разумеется, быстро впечатали в пол.

Истинно сказано, что знание «как не проиграть» часто полезнее знания «как победить». Все вышеупомянутые факторы риска прямо переносятся на любую попытку начать «рациональное додзё». И я спрашиваю вас: что с этим можно сделать?

  • 1. Gillian Russell, “Epistemic Viciousness in the Martial Arts,” in Martial Arts and Philosophy: Beating and Nothingness, ed. Graham Priest and Damon A. Young (Open Court, 2010).
  • 2. В оригинале «viciousness». — Прим.перев.
  • 3. Издаваемый в США журнал о беге Runner’s World — Прим.перев.
  • 4. Техника прямого удара пальцами вперёд в каратэ — Прим.перев.
  • 5. См. например статью Ци в Википедии. — Прим.перев.
Перевод: 
gihh, Alaric, ildaar
Оцените качество перевода: 
Средняя оценка: 5 (8 votes)