Наслаждение обыденностью

Холодная наука убивает
Любое чудо. Радуга на небе
Пленяла красотою взоры наши.
Теперь же знаем мы её устройство,
И всё: занесена она в каталог
Унылых и обыденных вещей.
Джон Китс, «Ламия»

Автор: 
Элиезер Юдковский

Наслаждение обыденностью

Элиезер Юдковский

Холодная наука убивает
Любое чудо. Радуга на небе
Пленяла красотою взоры наши.
Теперь же знаем мы её устройство,
И всё: занесена она в каталог
Унылых и обыденных вещей.
Джон Китс, «Ламия»1

Ничто не «просто».
Ричард Фейнман 2

Наверняка вы должны оценить фразу «каталог унылых и обыденных вещей». Однако, что именно попадает в этот каталог? В смысле, кроме радуги?

Конечно же, туда попадает всё мирское. Всё естественное, всё немагическое. Всё, что уже познано или хотя бы познаваемо. Всё, что играет по правилам (или даже играет по любым правилам, что совсем скучно). Всё, что является частью обычной вселенной. Короче говоря, всё реальное.

И рассуждая так, вы загоняете себя в тупик.

Потому что рано или поздно вы разочаруетесь вообще во всём: что угодно либо не существует, либо — о, ужас — оказывается реальным.

Если мы не в состоянии наслаждаться обыденным, наша жизнь всегда будет пуста.

Чем провинились радуги, что их отправили в каталог обыденных вещей? У них появилось научное объяснение. Китс пишет: «Теперь же знаем мы её устройство». Слово «мы» здесь довольно интересно: подозреваю, сам Китс не знал, как устроена радуга. Вполне возможно, ему хватило того, что кто-то другой знает, как устроена радуга. Не исключено, что ему было бы сложно даже принять факт, что радугу в принципе можно объяснить научно. И даже если Китс на самом деле так не думал, я знаю достаточно людей, которые рассуждают именно так.

Я уже писал, что ничего по настоящему таинственного не существует. Если я не знаю о некоем явлении, это факт о состоянии моего разума, а не о самом явлении. Поклоняться явлению, потому что оно кажется восхитительно таинственным, значит поклоняться собственному невежеству. Пустая карта не соответствует пустой территории, она соответствует месту, где мы ещё не были. Ну и так далее.

И таким образом всё — абсолютно всё, что существует на самом деле, — в итоге должно оказаться в «каталоге унылых и обыденных вещей».

Поэтому есть два пути:

  • Решить, что для вас в мире всё равно есть что-то важное: пусть даже оно не волшебное, познаваемое и объяснимо с помощью науки.
  • Или всю оставшуюся жизнь страдать от экзистенциального разочарования.

(Другие люди могут выбрать путь самообмана, но для вас этот вариант закрыт.)

Здесь можно вспомнить про странную привычку чудаков, именуемых учёными: внезапно с заворожённым видом уставиться на мусор из кармана, или на помёт птиц, или на радугу, или на ещё что-нибудь обыденное, что умудрённые жизнью люди никогда не удостоят второго взгляда.

И подумать, что учёные — по крайней мере, некоторые — это такие люди, которые способны наслаждаться жизнью в реальной вселенной.

  • 1. В предыдущих эссе для перевода этого отрывка использовался перевод Сергея Сухарева, однако, к сожалению, он не содержит деталей, на которые ссылается Юдковский в этом эссе. — Прим.перев.
  • 2. В оригинале здесь использовано слово «mere», а эссе названо «Joy in the Merely Real». — Прим.перев.
Перевод: 
Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
202
Оцените качество перевода: 
Средняя оценка: 4.4 (5 votes)

Наслаждение открытием

Элиезер Юдковский

Ньютон — величайший из гениев, живших на Земле, и при этом самый удачливый. Ведь систему мира можно создать только один раз.

— Лагранж

Мне гораздо больше нравится открывать что-нибудь самому, чем читать о чужих открытиях в учебнике. Это нормально, естественно и ожидаемо.

Однако открыть нечто неведомое пока вообще никому, первым раскрыть какую-то тайну…

Есть байка о том, как кто-то из учёных, впервые осознавших, что звёзды горят благодаря термоядерному синтезу, — я встречал варианты с Фридрихом Хоутермансом и Хансом Бете — гулял ночью с девушкой. Девушка заметила, мол, как красивы звёзды, а учёный ответил: «Да, и в настоящий момент я единственный человек в мире, который знает, почему они сияют».

Многочисленные источники подтверждают, что ощущать себя первым человеком, разгадавшим сложную тайну, невероятно приятно. Вероятно, это ближе всего к приёму наркотиков без приёма наркотиков. Впрочем, откуда мне знать.

Это не здоро́во.

И дело не в том, что я против эйфории. Меня беспокоит исключительность переживания. Почему открытие должно ощущаться менее остро лишь потому, что ответ знает кто-то ещё?

Самое доброжелательное объяснение, которое я могу предложить, заключается в том, что вы не будете тратить на задачу месяцы или годы, если ответ можно найти в библиотеке. А невероятно приятное переживание приходит, когда вы рассматриваете задачу со всех возможных сторон, терпите неудачу, снова анализируете задачу, используете все идеи, которые вам приходят в голову, и все данные, до которых дотянутся руки. Вы продвигаетесь шаг за шагом и вот, в конце концов, у вас наступает озарение. Все торчащие концы и неразрешенные вопросы внезапно встают на свои места. Представьте, будто получив одну улику, вы раскрыли дюжину убийств в запертых комнатах.

Более того, вы по-настоящему понимаете решение задачи. Вы теперь в другом свете видите все подсказки, которые вы изучали в процессе решения. Ваше понимание родилось из задаваемых ежедневно вопросов и размышлений над ними, и никто не сможет его с вами разделить (неважно, сколько раз вы расскажете правильный ответ), пока не потратит месяцы на изучение этой задачи в её историческом контексте. И даже если кто-нибудь возьмётся за изучение этого контекста, он не получит этого ощущения, как все части встают на свои места.

Вероятно, поэтому Джеймс Клерк Максвелл, скорее всего, получил больше удовольствия от открытия уравнений Максвелла, чем вы, когда о них читали.

Менее приятное объяснение невероятного удовольствия проистекает из того, что на вежливом языке социальной психологии называется «вовлечением» , «стремлением к постоянству» и «когнитивным диссонансом». Чем больше усилий мы тратим для получения чего-либо, тем больше мы это ценим. Например, исследования показывают, что если подвергать желающих вступить в братство более суровым испытаниям, то они впоследствии больше ценят само братство. Аналогично, вино в более дорогой бутылке оценивается как более вкусное.

Естественно, нет ничего плохого, если вам нравится думание как процесс и потому вы получаете гораздо больше удовольствия от решения головоломки, чем от получения ответа напрямую. Менее приятно было бы обнаружить, что ответ на головоломку, за который вы заплатили 100 долларов, кажется вам более приятным, ценным, важным, удивительным и так далее, по сравнению с ответом, который вы получили бесплатно.

(Я подозреваю, что науку так сложно рекламировать среди широких масс, потому что многие люди считают, что если знание даётся бесплатно, ничего важного в нём нет. Возможно, если бы для получения правды об эволюции нужно было бы проходить устрашающий обряд, людей больше бы устраивал ответ.)

Самое неприятное объяснение заключается в том, что удовольствие первооткрывателя связано со статусом. Соревнование. Редкость. Всех обскакать. Неважно, трёхкомнатная или четырёхкомнатная у вас квартира, главное, что она больше, чем у Джонсов. Даже двухкомнатной хватит, если вы уверены, что у Джонсов будет меньше.

Вообще, я не против соревнований. Да, игра Го — это игра с нулевой суммой, но я не считаю её варварским пережитком, который нужно уничтожить. Но если эйфория от научного открытия связана с редкостью ресурса, это значит, что она доступна только одному человеку на цивилизацию на единицу истины.

Если удовольствие от научного открытие выдается по одному на открытие, тогда, с точки зрения теории веселья, Ньютон получил изрядную долю удовольствия из пула, выделенного всей разумной жизни на Земле — и прошлой, и будущей — на изучение физики. Эта эгоистичная сволочь объяснила орбиты планет и приливы!

А по сути ситуация ещё хуже, потому что в Стандартной Модели физики (открытой сволочами, испортившими головоломку всем остальным) Вселенная бесконечна в пространстве, ветвится инфляционно и ветвится квантово, то есть у реальности есть по меньшей мере три способа оказаться экспоненциально или бесконечно огромной.

Поэтому пришельцы, или альтернативные версии Ньютона, или даже дубликаты Ньютона по Тегмарку могли открыть закон тяготения до нашего Ньютона — если предполагать, что в такого рода рассуждениях вообще имеет смысл слово «до».

Когда я впервые об этом задумался, это меня несколько приободрило. Если уж я понимаю, что кто-то где-то на просторах пространства и времени уже знает ответ на любой вопрос, на который в принципе возможен ответ, — даже на вопрос из области биологии или истории, ведь есть Земли, некогерентные нашей, — то как-то глупо думать, что удовольствие от открытия способен получить лишь один человек.

Такой расклад приводил бы к бесконечным неразрешимым экзистенциальным страданиям, поэтому я считаю, что мы получили противоречие.

Непротиворечивое решение, позволяющее получать удовольствие, — перестать беспокоиться о том, что знают другие люди. Если вы не знаете ответ, то для вас тайна сохраняется. Если вы можете поднять руку, сжать пальцы в кулак и при этом не знаете, как ваш мозг это сделал, — или даже не знаете, какие именно мышцы проходят под кожей, — можете считать себя столь же невежественным, как и охотник-собиратель. Конечно, кто-то другой знает ответ, но и в дни охотников-собирателей кто-то на альтернативной Земле или, что то же самое, кто-то из будущего знал ответ. Тайна и удовольствие от открытия либо вещь личная, либо несуществующая. И я предпочитаю думать, что она личная.

Удовольствие, которое можно получить, открыв для цивилизации нечто доселе неизвестное, действительно единично в расчёте на открытие на цивилизацию. Это редкая штука, примерно как Нобелевская премия. Ради такой награды кто-нибудь действительно может сосредоточиться над одной задачи на долгие годы, а именно это необходимо для поистине глубокого понимания. Вдобавок, работа над задачей, нерешённой цивилизацией, — надёжный способ избежать спойлеров.

Однако я хочу опровергнуть идею, что рационалисты меньше веселятся. И, в частности, я хочу вернуть магию и тайну во все части мироздания, которые лично вы не понимаете. Неважно, какое знание и где существует. Может быть, оно есть где-то далеко в пространстве и времени, может, об этом знает человек в соседней квартире. Если что-то не знаете вы, это тайна. А теперь подумайте, как много всего вы не знаете! (Если вам ничего не приходит в голову, у вас другие проблемы.) Разве мир не стал внезапно гораздо более загадочным, волшебным и увлекательным? Как будто вас переместили в альтернативное измерение, где нужно выучить все правила с нуля?

Однажды мой друг заметил, что я смотрю на мир так, как будто никогда не видел его раньше. Я подумал, какой милый комплимент… Погодите-ка! Я никогда не видел его раньше! Разве у кого-то бывает предпоказ?

Ран Прие

Перевод: 
sepremento, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
203
Оцените качество перевода: 
Средняя оценка: 5 (7 votes)

Привяжись к реальности

Элиезер Юдковский

Возможно, вы читаете вот это всё и задаётесь вопросом: «Хорошо, но при чём тут редукционизм

Отчасти я хочу оставить путь к отступлению. Сложно разбирать на части нечто важное, когда ты убеждён, что в процессе из мира исчезнет сказка и обесценится радуга. В этой книге я действительно планирую кое-что разобрать на части, и я предпочёл бы не плодить бессмысленное экзистенциальное страдание.

Отчасти это крестовый поход против рациональности по-голливудски, где принято считать, будто понимание радуги уничтожает её красоту. Нет, радуга остаётся прекрасной, а вы вдобавок получаете красоту физики.

Однако ещё, что гораздо более важно, я здесь рассуждаю об одной из идей, которые вроде бы незаметны, но на самом деле очень важны для понимания рациональности. Одной из тех штук, которые я подразумеваю, когда начинаю говорить о «Пути». А именно, о привязке к реальности.

Если я правильно помню, в одной из книг цикла о Дюне Фрэнка Герберта сказано, что Правдовидец, который сам говорит только правду, получает возможность определять ложь других людей, потому что у него формируются особые отношения с правдой и он начинает ощущать отклонения от неё. В реальности так не бывает, но я всё равно считаю это одной из красивейших мыслей в художественной литературе. Чтобы приблизиться к правде, необходимо как минимум прильнуть к реальности как можно сильнее, без страха и отговорок.

Тема привязки к реальности уже затрагивалась в эссе «Лотереи: бессмысленная трата надежды». Когда вы осознаете, что лотерейные билеты обладают отрицательной ожидаемой полезностью, вы не теряете надежду разбогатеть. Но вы перестаёте тратить эту надежду на лотерейные билеты. Вы вкладываете её в работу, в образование, свой стартап, в халтурку на eBay. А если вам и правда не на что надеяться, возможно, стоит начать поиск.

Как по мне, мечтать — это нормально. Но не стоит мечтать о невозможном. Выиграть в лотерею возможно, но вероятность выигрыша близка к нулю и её нельзя увеличить своими действиями. Нельзя сказать, что выиграть в лотерею чрезвычайно тяжело, в смысле, что это требует отчаянных усилий. Усилия здесь просто не причём.

Я говорю это, чтобы показать пример, как можно взять бесцельный поток эмоциональной энергии и привязать его к реальности.

Я не хочу сказать, что нужно ставить приземлённые «реалистичные» цели: лёгкие, безопасные, одобряемые родителями. Возможно, для кого-то это окажется неплохим советом, но сейчас я не об этом.

Я хочу сказать, что эмоциональную энергию можно вкладывать в радугу, даже если она окажется не волшебством. Будущее всегда абсурдно, но всегда реально.

Стереотип рациональности по-голливудски говорит, что «рациональный = безэмоциональный». Чем вы более рассудительны, тем больше эмоций ваш рассудок неизбежно уничтожит. В эссе «Мне сегодня рационально» я противопоставляю этой позиции тезисы «То, что может быть разрушено правдой, должно быть разрушено» и «То, что питается правдой, должно расцветать». Как только вы создадите свой лучший набросок истины, нет ничего иррационального в эмоциях, которые вы испытаете. Раз эти эмоции не были уничтожены правдой, ничего иррационального в них нет.

Потому вместо того, чтобы уничтожать эмоциональную энергию, вызванную плохим объяснением радуги, как того требует стереотип рациональности по-голливудски, давайте перенаправим её на реальность — свяжем её с убеждениями настолько истинными, насколько получится.

Хотите летать? Не бросайте саму идею полёта. Бросайте придумывать зелья полёта и стройте самолёт.

Помните, в эссе «Думай как реальность» я рассуждал о том, что если кажется, будто физика противоречит интуиции, то это не физика странная, это ты — странный?

Сейчас я говорю примерно о том же, только вместо гипотез у нас эмоции. Привяжите свои чувства к реальному миру. Не к «реалистичной» повседневности. Я был бы ужасным лицемером, если бы призывал вас заткнуться и идти делать домашнюю работу. Я имею в виду настоящий реальный мир — Вселенную и её законы, со всем её абсурдом вроде посадки на Луну и эволюции интеллекта человека. Но в котором нет магии, нигде и ни в каком виде.

Мем рациональности по-голливудски гласит: «Наука лишает жизнь веселья».

Наука возвращает веселье в жизнь.

Рациональность направляет вашу эмоциональную энергию во Вселенную, а не куда-то ещё.

Перевод: 
sepremento, Alaric, ildaar
Номер в книге "Рациональность: от ИИ до зомби": 
204
Оцените качество перевода: 
Средняя оценка: 5 (9 votes)

Если вам нужна магия, магия не поможет

Элиезер Юдковский

Большинство ведьм вообще не верят ни в каких богов. Они, конечно, знают, что боги существуют. Мало того, время от времени им даже приходится иметь с ними дело. Но вот верить… Нет, в богов ведьмы не верят. Слишком уж хорошо они знают этих самых богов. Это все равно что верить, например, в почтальона.

— Терри Пратчетт, «Ведьмы за границей».1

Когда-то давно я размышлял о философии фэнтези…

И прежде чем кто-то попрекнёт меня, мол, я «не понял, в чём суть фэнтези», позвольте пояснить: я вырос среди научной фантастики и фэнтези. Я читаю фэнтези с пяти лет. Иногда я пытаюсь писать фэнтези. И я не из тех людей, что пытаются писать, не задумавшись предварительно над философией жанра. Откуда по-вашему берутся идеи?

Как бы то ни было:

Я размышлял о философии фэнтези и мне пришло в голову, что существуй в мире настоящие драконы — если бы можно было пойти в зоопарк или хотя бы в далёкие горы и встретить огнедышащего дракона, — но при этом никто никогда не встречал бы зебру, то драконы бы не будоражили воображение, а фэнтези изобиловало бы зебрами.

Как по мне, это прекрасный способ загнать себя в угол. Трава всегда зеленее по другую сторону нереальности.

Возьмём типичный сюжет для фэнтези: протагонист с Земли — неплохой малый, который плохо учился в школе или задолжал за ипотеку, однако всё ещё добр душой — внезапно оказывается в мире, где магия заняла место науки. Часто протагонист начинает заниматься магией и постепенно становится (могущественным) чародеем.

Итак, вопрос, несколько грубый, но его нужно задать:

Скорее всего, большинство читателей таких романов представляют себя на месте протагониста и мечтают получить магические способности. Жаждут магии. Также, за исключением небольшого числа людей, большинство читателей этих романов учёными не являются.

То есть, родившись в мире науки, учёными они не стали. Почему они думают, что они вели бы себя по-другому, если бы родились в мире магии?

Научный подход — это способность заинтересоваться обыденным, это умение понять, что ничто не «просто». Если человек не способен заинтересоваться обыденным, чем ему поможет магия? Если он обнаружит в себе магию, она окажется обыденностью. Она перестанет очаровывать своей недоступностью. Да, возможно, сперва он обрадуется, но (как у большинства выигравших в лотерею, которые спустя шесть месяцев оказались вовсе не столь счастливы, как они ожидали) радость скоро исчезнет. Скорее всего, это произойдёт именно тогда, когда придётся всерьёз изучать заклинания.

Разве что они научатся наслаждаться обыденностью. Если полёт на дельтаплане их будет восхищать так же, как поездка на драконе. Если электрический свет восхитит их не меньше, чем магический… даже если для этого придётся немного подучиться…

Поймите меня правильно, я не против драконов. Кто знает, когда-нибудь мы, возможно, даже создадим парочку.

Но если вас не радует полёт на обыденном дельтаплане, то вряд ли вас восхитит полёт на драконе, когда они станут реальностью.

Думаете, что предпочли бы жить в будущем, а не в настоящем? Такое предпочтение вполне понятно. Кажется, с течением времени мир становится лучше.

Но не забывайте: для Тёмных Веков тысячелетней давности мы живём в будущем. У нас есть возможности, о которых не могли мечтать даже короли.

Если тренд сохранится, то будущее, вероятно, будет очень приятным местом. Но если вы до него доживёте, то обнаружите всего лишь новое настоящее. Если вы в целом не способны радоваться настоящему, если эмоциональная энергия уходит исключительно в будущее, если вы умеете надеяться только на лучшее завтра, то не важно, на какое время нужно перенестись – это не поможет.

(Да, возможно, в будущем появятся таблетки, которые решат проблему с эмоциональной привязкой к будущему. Не думаю, что это как-то меняет мою основную мысль. Важно то, какие таблетки мы захотим принимать.)

Мэтью С.2 в своих комментариях на LessWrong восхищается неформальной «теорией» Руперта Шелдрейка, которая «объясняет» такие не требующие объяснения явления как сворачивание белка и симметрия снежинки. Почему же Мэтью С. не восхищается, например, специальной теорией относительности? Почему его не радует СТО, которая является одним из признанных законов? Восхищаться признанным и верным законом гораздо удобнее — такое восхищение не испарится.

Если бы теория Шелдрейка была признанной истиной и преподавалась в начальной школе, то Мэтью С. было бы на неё наплевать. С чего бы ему восхищаться одним законом физики больше, чем остальными?

Можете ли вы представить более ужасную катастрофу для движения Нью-эйдж, чем обнаружить, что их ритуалы и в самом деле работают? Или, допустим, что в небе появились настоящие «летающие тарелки». Какой смысл верить в инопланетян, если вот они – просто существуют, и все остальные тоже их видят? В мире, где паранормальные способности обыденны, последователи Нью-эйдж не стали бы в них верить. Сейчас же практически никому не приходит в голову верить в гравитацию. (Кроме учёных, разумеется.)

Почему я так настроен против магии? Разве не лучше было бы, если бы она существовала?

Вообще-то я не против магии. Напомню: иногда я пытаюсь писать фэнтези. Но меня раздражают подобные мечтания о магии. При таком подходе родившийся в мире заклинаний и зелий тосковал бы о мире, где налажено конвейерное производство предметов обихода.

Чтобы привязаться к реальности, как на эмоциональном, так и на интеллектуальном уровне, нужно в том числе примириться с фактом, что вы живёте именно здесь. Только так можно увидеть мир и все возможности, которые он даёт, без желания отвести взгляд.

Скажу прямо: в мире, где я родился, хватает драконов, чтобы с ними сражаться, и магии, чтобы её изучать. А если я вдруг окажусь в каком-то из фэнтези-миров, то не удивлюсь, обнаружив себя за изучением запретного могущественного заклинания.

Ведь перемещение в мир магии ничего не меняет. Важно не где ты, а кто ты.

А потому запомните Литанию против перемещений в альтернативную вселенную:

Если я собираюсь:
Где-либо быть счастливым,
Или в чем-то достичь величия,
Или где-то разгадывать тайны,
Или мир какой-то спасти,
Или о чём-то сильно заботиться,
Или где-то помочь людям,
То я вполне могу это сделать и здесь.

  • 1. Использован перевод П. Киракозова. — Прим.перев.
  • 2. Речь идёт о том же пользователе, который упоминался в эссе «Редукционизм». — Прим.перев.
Перевод: 
sepremento, Alaric, ildaar
Номер в книге "Рациональность: от ИИ до зомби": 
205
Оцените качество перевода: 
Средняя оценка: 5 (16 votes)

Обыденная магия

Элиезер Юдковский

Я считаю, что рационалисту следует эмоционально привязываться к редукционистской вселенной — вселенной, которой полностью управляют строгие законы и в которой нет таких сверхъестественных сущностей, как душа или магия. Рационалисту стоит вкладывать всю свою надежду и всё своё внимание в эту обычную вселенную и её возможности, принимая её такой, какая она есть.

У буддистов есть старый трюк для борьбы с дуккха: надо составить список вещей, за которые ты благодарен, вроде крыши над головой.

Так почему бы не составить список способностей, которые есть у нас и которые были бы супер крутыми, если были бы магией или если бы ими обладали лишь избранные?

Например, предположим, что вместо одного глаза у нас во лбу был бы ещё магический второй глаз. И этот второй глаз позволял бы нам заглядывать в третье измерение — то есть, можно было бы легко сказать, насколько далеко находится тот или иной предмет, — в то время как один глаз позволял бы видеть только двумерную тень настоящего мира. Лишь те, у кого был бы такой второй глаз, могли бы точно целиться из легендарного оружия, убивающего на расстоянии, гораздо большем досягаемости меча. Или на полную мощь использовать сверхбыстрые механизмы, именуемые «автомобилями».

«Бинокулярное зрение» — не слишком интересное название для такой крутой способности. Она нас впечатлит, лишь если получит достойное, внушающее уважение имя. Например: «Мистический Глаз Глубокого Восприятия».

Вот вам список моих любимых магических способностей:

  • Вибрационная телепатия. Обладатели этой способности способны передавать невидимые вибрации через сам воздух, и это позволяет им делиться мыслями. Благодаря этому вибрационные телепаты создают друг с другом очень глубокие эмоциональные связи, недоступные другим приматам.

  • Психометрическое узорничество. Психометрический узорник оставляет на поверхностях небольшие аккуратные узоры и благодаря этому может оставлять впечатления об эмоциях, истории, знаниях, даже о структуре других заклинаний. Эта способность гораздо сильнее, чем вибрационная телепатия, так как узорник способен делиться мыслями давно умерших узорников, живших тысячи лет назад. Смотря на один узор и одновременно рисуя другой, узорник способен множить узоры, а эти узоры могут содержать подробное описание другой магии. Поэтому маги-узорники владеют практически невообразимыми силами. Но если узорник попробует использовать сложный узор, который не в состоянии нарисовать сам, у него могут появиться проблемы.

  • Многомерный кинез. Простейшим, практически неосознаваемым волевым усилием кинетики направляют экстраординарно сложные силы сквозь крохотные щупальца в любой физический объект в пределах досягаемости. Кинетики способны не просто толкнуть объект, а произвести несколько разных толчков с различных направлений, что позволяет создавать вращающие моменты и искривления. Эта способность не так проста, как кажется. Кинетики используют ее не только для управления уже существующими объектами с потрясающей точностью, они ещё и заставляют силы изменять объекты так, что ими становится ещё проще управлять. Кинетики даже создают инструменты, увеличивающие силу их кинеза, которые, в свою очередь, позволяют создавать еще более точные и сложные инструменты. Надеюсь, вы понимаете, насколько впечатляющей является такая цепь положительной обратной связи.

  • Око. Владеющий этой способностью способен замечать мельчайшие движущиеся возмущения в Силе, что скрепляет материю — крохотные колебания, подобные дарящим жизнь силам Солнца, падающим на листву, но гораздо менее заметные. Носитель Ока может ощущать объекты, находящиеся на расстоянии, намного превышающем расстояние касания, благодаря мелким возмущениям в Силе, которые создают эти объекты. Носители Ока способны постичь горы, до которых нужно идти много дней, с той же лёгкостью, как если бы до них можно было достать рукой. Согласно носителям Ока, когда опускается ночь и гаснет свет солнца, они могут ощущать огромные пылающие огни на немыслимом расстоянии. Впрочем, никто не способен это проверить. Говорят, обладание Оком делает его носителя равным королям.

И наконец,

  • Абсолютная Сила. Обладающий этой способностью вмещает в себе крохотную, несовершенную копию всей вселенной, что позволяет ему выискивать пути в вероятностях к любому желаемому будущему. Если вам кажется, что эта способность могущественна до абсурда, вы правы. Если она появляется в какой-то игре, она рушит весь игровой баланс. Среди жизненных форм она встречается невероятно редко. Это воистину «тайная техника мира».

    Ничто не может противостоять Абсолютной Силе, кроме другой Абсолютной Силы. Любая сила, не дотягивающая до абсолютной окажется просто «осмыслена» Абсолютной и рассеяна каким-нибудь непостижимым образом. Возможно, Абсолютная Сила даже поглотит её и сделает частью своего могущества. Поэтому, Абсолютная Сила иногда зовется «Главной техникой техник» или «Козырем, который бьёт все другие козыри». «Осмысление» самых могущественных Абсолютов распространяется на галактические расстояния и целые временные эпохи. Такие Абсолюты способны постигнуть даже странные законы тайного «мира за миром».

    Абсолюты погибают от крупных природных катастроф или от невероятно быстрых внезапных атак, которые не дают им возможности использовать свою силу. Но такие победы над Абсолютами, в сущности, вопрос удачи. Они не ставят под сомнения способность Абсолюта подчинять вероятности своей воле, и, если он переживет атаку, то начнёт подчинять само Время, чтобы избежать атак в будущем.

    Однако Абсолютная Сила опасна сама по себе, и множество Абсолютов пали жертвой собственных сил – ошибки в их несовершенных внутренних копиях мира уничтожили их.

    Абсолют остаётся одной из опаснейших жизненных форм на планете, даже если его лишить оружия и брони и запереть в клетке. Можно сломать меч, можно отрубить конечность, но Абсолютную Силу невозможно отобрать, не убив её носителя.

    Возможно из-за того, что связь Абсолютов со своей Силой очень сильна, Абсолюты относятся к тем, кто утратил Абсолютную Силу без надежды на восстановление, как к «мёртвым, пусть и дышащим». Абсолюты утверждают, что именно Абсолютная Сила делает существо самим собой, что это не просто средство. Абсолюты даже настаивают на том, что те, кто не обладает Абсолютной Силой, не в состоянии по-настоящему её осмыслить, и, следовательно, не могут понять, почему она настолько необходима – подозрительно удобный аргумент, кстати.

    Власть Абсолютов неоспорима, и другие формы жизни для них не более чем пешки.

Перевод: 
Muyyd, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
206
Оцените качество перевода: 
Средняя оценка: 3.1 (46 votes)

Красота устоявшейся науки

Элиезер Юдковский

Фактам не нужно быть необъяснимыми, чтобы быть красивыми. Истина не становится менее достойна изучения если кто-то другой её уже знает. Убеждения не становятся менее стоящими, если их разделяют другие…

…к тому же, если обращать внимание только на спорные научные вопросы, то голова в конце-концов окажется забита мусором.

СМИ считают, что только самые сенсационные научные открытия достойны репортажей. Часто ли вам встречаются заголовки наподобие «Общая теория относительности всё ещё управляет орбитами планет» или «Теория флогистона остаётся ложной»? Получается, как только сенсационное открытие становится устоявшейся наукой, оно больше не горячая новость. А наука, которая «достойна репортажа», часто основана на мельчайших доказательствах и в половине случаев ошибочна. Не находись она на самом краю переднего рубежа научного знания, не быть ей горячей новостью.

Научные противоречия обычно касаются настолько сложных вещей, что даже люди, посвятившие годы изучению конкретной области, могут заблуждаться. Это-то и делает жаркие споры такими привлекательными для СМИ.

Что ещё хуже, такие противоречия вообще не приносят удовольствия тому, кто не разбирается в данной области и не принимает участия в этой игре.

Конечно же, можно повеселиться, выбрав за кого болеть в споре. Но тогда это мало чем отличается от футбола. А удовольствие от науки заключается не в этом.

Читая хорошо написанный учебник, получаешь: аккуратно сформулированные объяснения для начинающих учеников, шаг за шагом выведенную математику (где она используется), большое количество экспериментов, приведённых в качестве наглядного материала (там, где они применяются), тестовые задания на которых можно проявить только что полученные навыки, а ещё достаточно хорошую гарантию того, что изучаемое на самом деле верно.

Читая пресс-релизы, обычно получаешь: лжеобъяснения, которые дают лишь иллюзию понимания обсуждаемого результата, который автор пресс-релиза и сам не понял, и который, скорее всего, никто не сможет повторить.

Современная наука построена на открытиях, построенных на открытиях, построенных на открытиях, и так далее, вплоть до людей вроде Архимеда, которые открыли факты, наподобие причины плавания кораблей. Вплоть до открытий, которые можно понять, даже ничего не зная о других открытиях. Самое лучшее место, с которого стоит начинать путешествие — это начало.

Не надо стесняться читать научные книги для начинающих. Если хочется притвориться утончённым знатоком, пойди и почитай детектив. Если просто хочется получить удовольствие — помни, что простота находится в самом центре научной красоты.

Считать, что можно сразу же отправиться на передний рубеж накопленных знаний, не будучи знакомым с устоявшейся наукой — это всё равно, что…

…пытаться взобраться по верхней половине Эвереста (а это единственная его часть, которая тебе интересна) встав у подножия горы, приседая, и подпрыгивая очень старательно (чтобы пропустить все неинтересные части)

Я, на самом деле, не пытаюсь сказать, что на научные разногласия вовсе не надо обращать внимания. Если 40% онкологов считают, что белые носки вызывают рак, а другие 60% яростно с ними спорят — это важный факт и о нём стоит знать.

Просто не стоит думать, что противоречия — это то, без чего наука не может быть интересной.

И уж тем более не надо думать, что интересной может быть лишь новейшая наука. Стабильная подпитка научными новостями вредит: ты — то, что ты ешь. Если потреблять только скоропортящиеся новости и никогда не читать проверенные временем учебники, то так и мозг может сгнить.

Перевод: 
Нефёдов Е.А.
Номер в книге "Рациональность: от ИИ до зомби": 
207
Оцените качество перевода: 
Средняя оценка: 5 (3 votes)

Первое апреля: День удивительного открытия

Элиезер Юдковский

Вы, наверное, думаете: «Первое апреля… разве это не день дурака?»

Да. И это даёт нам идеальное прикрытие для празднования Дня удивительного открытия.

Как я уже писал в «Красоте устоявшейся науки», когда СМИ пишут о науке, они сосредотачиваются только на сенсациях. И это большая проблема. Сенсации в науке возникают лишь на самом переднем крае, а это значит, что новое открытие:

  • Спорно;
  • Подтверждено лишь одним экспериментом;
  • Ужасно сложно для простого смертного. Чтобы его понять, нужно огромное количество предварительных знаний — собственно, поэтому оно и не произошло ещё три столетия назад.
  • Впоследствии окажется неверным.

При этом людям не показывают надёжные знания, не говоря уже о понятных вещах — ведь это не сенсации.

В День удивительного открытия я предлагаю журналистам, которым действительно важна наука, рассказывать читателям — под прикрытием первого апреля — такие важные, но забытые истории, как:

Обратите внимание, что все заголовки истинны — они описывают события, которые на самом деле произошли. Правда, не вчера.

В истории науки было множество удивительных открытий, которые поймёт практически любой. Даже человек без кандидатской степени или вообще без высшего образования. Вспомните, как Архимед воскликнул «Эврика!» в тот миг, когда понял связь между объёмом воды, который вытесняет корабль и причиной его плавучести. По меркам науки это произошло достаточно давно, и поэтому для понимания теории не нужно знать о пятидесяти других открытиях. Для её объяснения достаточно пары графиков. Любой человек понимает, как её применить. А сам эксперимент можно воспроизвести в ванной.

Современная наука строится на открытиях, которые основаны на других открытиях, а те, в свою очередь, на других открытиях и так далее вплоть до Архимеда. Рассказывать о науке только в виде сенсаций всё равно что зайти в кинотеатр на последней четверти фильма, написать заметку о том, как «окровавленный мужчина целует девушку с пистолетом», и выйти.

А если ваш редактор скажет: «Но читателям это будет неинтересно…»

Тогда скажите, что на Reddit и Digg бывают ссылки не только на сенсации. Ещё бывают ссылки на короткие статьи с добротными объяснениями устоявшейся науки. Читатели голосуют «за», а это о чём-то говорит. Объясните, что если газета не будет похожа на Reddit, то, чтобы платить зарплату, придётся продавать наркотики. Редакторам нравятся такие разговоры, да?

В Интернете новое качественное объяснение устоявшейся науки — это новость и распространяется подобно новости. Так почему бы научным разделам в газетах не взять этот способ на вооружение? Почему новое объяснение не достойно колонки?

Однако это будет уже следующим шагом. Пока что давайте понаблюдаем, подхватят ли журналисты идею с «Днём удивительного открытия» и расскажут ли о каком-то понятном научном событии так, как будто оно только что произошло.

Первое апреля. Запишите себе в календарь.

Перевод: 
sepremento, Alaric, ildaar
Номер в книге "Рациональность: от ИИ до зомби": 
208
Оцените качество перевода: 
Средняя оценка: 4.7 (7 votes)

Гуманизм — замена религии?

Элиезер Юдковский

Задолго до братьев Райт человек мечтал о волшебных зельях, позволяющих летать. В самом по себе желании летать не было ничего иррационального. Не было ничего зазорного в желании посмотреть на облако сверху вниз. Иррациональность крылась лишь в «волшебных зельях».

Предположим, пока я смотрел запуск космического шаттла, меня положили в томограф и записали активность моего мозга. (Хотя желание полететь в космос не «реалистично», это в общем-то правомочная мечта — её можно осуществить согласно законам вселенной). Не исключено, что записанная активность будет похожа на активность мозга набожного христианина при виде картины с изображением Рождества.

Если эксперимент действительно даст такой результат, то многие, как христиане, так и некоторые атеисты, позлорадствуют: «Ха-ха, так значит, твоя религия — космические полёты!»

Однако подобное проведение границ неверно. Это всё равно что считать, что раз кто-то когда-то пытался взлететь при помощи иррациональных средств, то теперь никому никогда нельзя наслаждаться видом облаков под крылом самолёта.

Хотя при виде запуска космического корабля я и испытываю ощущение прикосновения к чему-то запредельному, я не считаю, что космические корабли для меня — суррогат религии. Считать иначе было бы теоморфизмом — точкой зрения злорадствующих фанатиков, которые считают, что у всех нерелигиозных людей есть некая дыра в сознании, которая требует заполнения.

Впрочем, справедливости ради, не всегда это просто злорадство. У некоторых атеистов действительно есть такая дыра в сознании. Я наблюдал попытки заменить религию атеизмом или даже трансгуманизмом. Результат неизменно ужасен. Крайне ужасен. Абсолютно унизительно ужасен.

Я называю такие ситуации «гимнами отсутствию Бога».

Когда кто-нибудь начинает писать атеистический гимн — «Славься, о неразумная вселенная», ну и так далее — в результате всегда, без исключений, получится отстой.

Почему? Потому что это подражание. Потому что такие гимны появляются на свет исключительно из-за смутного ощущения, что раз у церквей есть гимны, то нам тоже надо завести свой. И на художественном уровне результат получается значительно хуже искреннего религиозного искусства, которое выражает подлинные эмоции, а не подражает чему-то.

Религиозные гимны (в большинстве своём) писали искренне верующие люди, которые вкладывали все свои силы в ритм, стихи и образы. В итоге получались изящные и художественно целостные произведения.

Так что же, атеисты обречены жить без гимнов?

Вот вам лакмусовая бумажка для проверки на пост-теизм: «Если бы у человечества никогда не было религии — если бы мы не допустили первородной ошибки — имела ли бы смысл эта песня, эта картина, этот ритуал, этот способ мышления?»

Если бы человечество не допустило первородной ошибки, никто не пел бы гимны отсутствию Бога. Однако браки всё равно бы существовали, поэтому церемония атеистического бракосочетания точно имеет смысл — во всяком случае пока вам неожиданно не приходит в голову толкнуть на ней речь о том, что Бога нет. Потому что в мире, где религии никогда не было, никто не станет прерывать свадьбу разговором о невозможности гипотетической концепции. Люди будут говорить о любви, детях, ответственности, честности, преданности, но кто, блин, вспомнит Бога?

Так же и в мире, где никогда не существовала религия, найдутся люди, которые прослезятся, наблюдая за запуском космического шаттла.

Именно поэтому, даже если эксперимент покажет, что когда я смотрю запуск шаттла, у меня активируются те же зоны мозга, которые обычно «отвечают за религию» и связаны с чувством чего-то запредельного, я не буду считать космические корабли подменой религии. Я ожидаю, что те же самые зоны мозга стали бы активными по тем же самым причинам даже в том мире, где никогда не существовала религия.

Хороший «атеистический гимн» — это просто песня, не содержащая религиозных мотивов, о чём угодно, достойном песни.

Помимо прочего, обратное глупости не есть ум. Величайший дурак в мире может заявить, что Солнце светит и это не заставит его погаснуть. Смысл не в том, чтобы создать образ жизни, во всех отношениях как можно менее похожий на религию — именно такой стиль мышления заставляет писать гимны отсутствию Бога. Не соверши человечество первородной ошибки, никто не пытался бы избегать вещей, напоминающих религию. Выбирайте убеждения с умом, а чувства приводите в соответствие с убеждениями: если полёты в космос существуют на самом деле, а взлёт ракеты заставляет вас петь, то напишите, чёрт возьми, песню!

Если мои глаза наполняются слезами от запуска космического шаттла, то это не значит, что я пытаюсь заполнить дыру, которая осталась от религии — это значит, что моя эмоциональная энергия, моё небезразличие связаны с реальным миром.

Если бы Бог говорил отчётливо и ясно отвечал на молитвы, то он стал бы очередным скучным элементом повседневности. Верить в него было бы всё равно, что верить в почтальона. Если бы Бог действительно существовал, то пропала бы внутренняя неопределённость, которая вызывает тягу к действиям для своей компенсации. А если бы в Бога верили все вокруг, то пропало бы чувство своей особенности, ощущение себя одним из избранных.

Если вы вкладываете свою эмоциональную энергию в космические полёты, у вас нет таких проблем. Я могу смотреть на взлёт космического шаттла и всё равно восхищаться. Любой человек может верить, что космические шаттлы реальны, но это не сделает их менее особенными. Я не загнал себя в угол своими фантазиями.

Выбор между Богом и человечеством — это не выбор препарата для галлюцинаций. В конце концов, человечество и впрямь существует.

Перевод: 
sepremento, Alaric, ildaar
Номер в книге "Рациональность: от ИИ до зомби": 
209
Оцените качество перевода: 
Средняя оценка: 4.6 (9 votes)

Дефицит

Элиезер Юдковский

Нижеследующее в основном взято из книги Роберта Чалдини «Психология влияния»1. Я держу у себя эту книгу в трёх экземплярах: один для себя и ещё два, чтобы одалживать друзьям.

Социальная психология называет «дефицитом» ситуацию, когда нечто становится более желанным, если кажется, что оно менее доступно.

  • Если двухлетний малыш окажется в комнате с двумя игрушками, одна из которых легко доступна, а другая находится за плексигласовой стеной, то малыш проигнорирует доступную игрушку и пойдёт к той, что кажется запретной. Если стена достаточно низкая и через неё легко перелезть, то разница в предпочтении между игрушками исчезает.2
  • Когда в округе Дейд запретили покупать и хранить фосфатные моющие средства, многие жители ездили в соседние округа и покупали огромное количество этих средств. По сравнению с жителями округа Тампа, где такого запрета не было, жители округа Дейд считали, что фосфатные средства мягче, эффективнее, лучше справляются с въевшимися пятнами, и даже полагали, что фосфатные моющие средства легче наливать.3

Аналогично, информация, которая подаётся как запретная или секретная, кажется более важной и достоверной.

  • Когда студенты университета Северной Каролины узнавали, что критика совместных общежитий запрещается, они начинали хуже относиться к совместным общежитиям (даже не знакомясь с этой критикой).4
  • Когда у водителя была страховка ответственности, то присяжные в эксперименте назначали его жертве в среднем на четыре тысячи долларов компенсации больше, чем если у него такой страховки не было. Однако, если впоследствии судья говорил присяжным, что информация о страховке недоступна и её нужно игнорировать, то присяжные назначали в среднем на тринадцать тысяч долларов больше, чем если у водителя не было страховки.5
  • Покупатели в магазинах, которым говорили, что говядина в дефиците, покупали говядины в два раза больше тех, кому говорили, что её достаточно. Покупатели, которым говорили, что говядина в дефиците и более того, информация об этом дефиците сама по себе дефицит — то есть мало кто знает, что говядины мало — покупали в шесть раз больше. (Поскольку исследование проводилось в полевых условиях, информация была фактически правдивой.)6

Обычно это явление объясняется «психологическим реактивным сопротивлением». Это словосочетание для социальных психологов заменяет фразу: «когда говоришь людям чего-то не делать, они начинают прикладывать ещё больше усилий». Судя по всему, здесь задействованы такие фундаментальные инстинкты, как сохранение статуса и сохранение возможностей. Когда какие-то другие люди пытаются ограничить нашу свободу, мы сопротивляемся. А когда есть риск потерять некую возможность, пусть даже по естественным причинам, мы пытаемся ухватиться за неё до исчезновения.

В обществе охотников-собирателей привычка хвататься за исчезающие возможности, вероятно, была довольно полезной — собирай фрукты, пока они пригодны в пищу. Однако в денежном обществе она может обойтись довольно дорого. Чалдини пишет, что в одном из магазинов бытовой техники, за которым он наблюдал, продавец, обнаружив интерес покупателя к какому-либо прибору, подходил и печально рассказывал, что товар закончился и последний экземпляр продали всего двадцать минут назад. Дефицит приводил к усиливающемуся желанию купить этот товар, и покупатель часто спрашивал, есть ли возможность найти такой же товар в кладовке, на складе, где угодно. «Хорошо, — отвечал продавец, — возможно, он где-то остался, я готов пойти и проверить. Однако, я правильно понимаю, что вам нужна именно эта модель и что вас устраивает её цена?»

Чалдини отмечает, что основной сигнал, на который стоит обращать внимание, — это желание обладать вещью, а не использовать. (Тимоти Феррис даёт похожий совет о планировании жизни: стоит спрашивать себя, какие переживания сделают вас счастливыми, а не какие приобретения или перемены в статусе.)

Однако самая главная проблема в желании недоступного заключается в том, что как только вы это получаете, оно перестаёт быть недоступным. Если мы не можем наслаждаться всего лишь доступным, наши жизни всегда будут полны разочарования…

  • 1. Автор ссылается на издание: Robert B. Cialdini, «Influence: The Psychology of Persuasion: Revised Edition» (New York: Quill, 1993). Книга переводилась на русский язык, но содержание различных изданий может немного отличаться. — Прим.перев.
  • 2. Sharon S. Brehm and Marsha Weintraub, «Physical Barriers and Psychological Reactance: Two-year-olds’ Responses to Threats to Freedom», «Journal of Personality and Social Psychology» 35 (1977): 830–836.
  • 3. Michael B. Mazis, Robert B. Settle, and Dennis C. Leslie, «Elimination of Phosphate Detergents and Psychological Reactance», «Journal of Marketing Research» 10 (1973): 2; Michael B. Mazis, «Antipollution Measures and Psychological Reactance Theory: A Field Experiment», «Journal of Personality and Social Psychology» 31 (1975): 654–666.
  • 4. Richard D. Ashmore, Vasantha Ramchandra, and Russell A. Jones, «Censorship as an Attitude Change Induction», «Paper presented at Eastern Psychological Association meeting» (1971).
  • 5. Dale Broeder, «The University of Chicago Jury Project», «Nebraska Law Review» 38 (1959): 760–774.
  • 6. A. Knishinsky, «The Effects of Scarcity of Material and Exclusivity of Information on Industrial Buyer Perceived Risk in Provoking a Purchase Decision» (Doctoral dissertation, Arizona State University, 1982).
Перевод: 
sepremento, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
210
Оцените качество перевода: 
Средняя оценка: 4.9 (8 votes)

Священная обыденность

Элиезер Юдковский

Я готовился к диалогу с Адамом Франком на Bloggingheads1 и читал его книгу «Постоянный огонь»2. Это книга о восприятии священного. Возможно, я редко об этом упоминаю, но, конечно, мне знаком опыт, о котором пишет Франк. Я испытываю подобные чувства, когда смотрю видео о запуске космического корабля. Или, в меньшей степени, поскольку это гораздо более частое явление, когда смотрю ночью на звёзды и думаю, что они значат. Или, например, думаю о рождении ребёнка. Обо всём, что важно для разворачивающейся истории.

Адам Франк считает, что наличие такого опыта является важным общим свойством науки и религии. А не, например, что возможность испытывать подобные чувства — это свойственное человеку качество, которое религия лишь портит.

«Постоянный огонь» цитирует «Многоообразие религиозного опыта» Уильяма Джеймса:

Итак, условимся под религией подразумевать совокупность чувств, действий и опыта отдельной личности, поскольку их содержанием устанавливается отношение её к тому, что она почитает Божеством.3

И эта тема развивается далее: священность — это нечто индивидуальное и личное.

Эта мысль меня всерьёз поразила. Предполагается, что у меня не может быть чувства прикосновения к священному, если я лишь один из многих людей, смотрящих как SpaceShipOne выигрывает X-Prize? Но почему? Предполагается, что мой опыт священного обязан чем-то отличаться от опыта всех остальных людей, смотрящих ту же трансляцию? Почему, ведь у нас же мозг устроен одинаково? Вообще, зачем мне верить в то, что я уникален? (Однако это слово Адам Франк тоже активно использует в оборотах вроде «уникальный опыт священного»). Быть может, это ощущение личное в том смысле, что мы с трудом передаём друг другу любой опыт? Тогда зачем делать акцент на чувстве священного, а не на ощущениях при насморке?

И тут меня озарило: я понял, что передо мной трюк «эпистемологии Тёмной стороны»: если сделать нечто личным, оно становится недоступным для критики. Вы получаете право говорить: «Вы не можете меня критиковать, поскольку речь идёт о моём личном опыте, а у вас никогда не будет к нему доступа, чтобы его оспорить».

Однако за такую защиту от критики приходится платить одиночеством. Тем самым одиночеством, которым Уильям Джеймс восхищался как основой религиозного опыта. Словно одиночество это что-то хорошее.

Чтобы понять, как религия может вывернуть чувство священного, имеет смысл подумать о следующих реликтах эпистемологии Тёмной стороны:

Загадочность: почему священное должно быть загадочным? Космический корабль можно запустить без всякой тайны. Насколько меньше я ценил бы звёзды, если бы не понимал, чем они являются на самом деле, если бы они были для меня лишь точечками в ночном небе? Однако если кто-то оспаривает ваши религиозные чувства, например, задаёт вопрос: «Почему Бог не исцеляет людей, которые потеряли конечности?», вы глубокомысленно изрекаете: «Это священная тайна!» Чтобы защитить ложь, есть вопросы, которые нельзя задавать, и ответы, которые нельзя подтвердить. И такая невозможность получить ответ начинает ассоциироваться со священным. И за защиту от критики вы платите подлинным любопытством, которое искренне желает найти ответы на вопросы. Вы поклоняетесь собственному невежеству в вопросах, на которые ваше поколение пока не нашло ответов. Возможно, даже в вопросах, на которые ответы уже есть.

Вера: давным-давно, когда люди были более наивны и даже вполне разумные люди верили в каких-нибудь богов, религия строила свою репутацию на свидетельствах о чудесах в своих священных писаниях. И христианские археологи всерьёз рассчитывали найти остатки Ноева Ковчега. Но когда никаких подтверждающих свидетельств обнаружить не удалось, религия сделала то, что Уильям Бартли назвал «Возвращение к убеждению»4. «Я верю, потому что я верю!» И так вера без достаточных свидетельств стала ассоциироваться с опытом священного. И ради защиты от критики вы жертвуете своей способностью ясно мыслить в вопросах, которые касаются священного для вас, а также способностью понимать священное и умением отказываться от ошибок.

Экспериенциализм: если раньше вы считали, что радуга — это священный договор между Богом и человечеством, а потом осознали, что Бога не существует, вы можете «сбежать к чистому опыту», то есть начать хвалить себя за то, что испытываете такие чудесные ощущения, когда думаете о Боге, — не важно, существует он или нет. Платой за защиту от критики становится солипсизм: ваш опыт отрывается от всего, на чём он основан. Наверняка смотреть на взмывающий в пламени космический корабль и думать: «На самом деле же неважно, существуют космические корабли или нет, важно то, что я сейчас чувствую», сопровождалось бы ужасной пустотой внутри.

Отстранение: если область священного не подчиняется обыденным правилам свидетельств и её невозможно исследовать обыденными средствами, значит, она обязана существенно отличаться от мира обыденного. Поэтому мы с гораздо меньшей вероятностью будем думать о космических кораблях, как о чём-то, возможно, священном, ведь это творение обыденных человеческих рук. Китс перестал восторгаться радугой и низвёл её в «каталог унылых и обыденных вещей» за то, что стало известно её устройство — ужасное преступление. И за защиту от обыденной критики вы платите тем, что ничто обыденное больше не будет для вас священным.

Личное: про это я уже сказал выше.

Именно из-за этих искажений мы не должны ни в коем случае спасать религию. Даже в форме «духовности». Если убрать общественные институты и фактические ошибки, отказаться от церквей и писаний, останется… вся эта чушь про загадочность, веру, солиптический опыт, личное одиночество и отрыв от реальности.

Изначальная ложь — лишь начало проблемы. Кроме неё есть множество дурных привычек мышления, которые выработались, чтобы её защищать. Религия — это кубок с ядом, и мы изо всех сил должны стараться из него не пить. Духовность — это такой же кубок. Да, из него вытащили исходную ядовитую пилюлю. Но какая-то часть яда уже успела раствориться и осталась в кубке. Питьё стало немного менее смертельным, но лучше его не пробовать.

Когда ложь защищается веками, подлинное происхождение привычек теряется в тумане, его скрывают множество слоёв недокументированной болезни. В таких случаях, полагаю, мудрее начать с нуля, а не пытаться выборочно отказываться от исходной лжи, сохраняя привычки мышления, выработанные, чтобы её защищать. Просто признайте, что вы неправы. Откажитесь от ошибки полностью. Не защищайте её больше. Не пытайтесь говорить, что в каких-то мелочах вы всё-таки правы. Просто скажите «Упс», отбросьте ошибку целиком и начните с начала.

Именно способность на самом деле, по настоящему, перестать защищать свои ошибки и признать, что ты был совершенно не прав, отличает научный опыт от религиозного. Никакая религия не в состоянии вместить в себя такую способность. Иначе она потеряет себя полностью и станет просто человечностью…

И та же самая способность позволяет просто смотреть на далёкие звёзды. В звёзды можно поверить без напряжения, не отвлекаясь на постоянно появляющиеся противоречащие свидетельства. Они по-настоящему существует, этот опыт сцеплен с реальностью и входит в разворачивающуюся историю. Звёзды можно познать, они — источник настоящей пищи для любопытства. Их можно разделить с другими людьми. Они сотканы из той же ткани, что и вы, и всё остальное. Прекрасны и священно обыденны.

  • 1. К сожалению, страница c этим диалогом как-то странно исказилась: при правильном названии и временных кодах на ней показывается совершенно другое видео. — Прим. перев.
  • 2. Adam Frank, «The Constant Fire: Beyond the Science vs. Religion Debate» (University of California Press, 2009).
  • 3. Использован перевод В. Г. Малахиевой-Мирович, М. В. Шик, под ред. С. В. Лурье. — Прим. перев.
  • 4. Англ. «retreat to commitment». Это название одной из книг Бартли. — Прим. перев.
Перевод: 
Alaric, Remlin
Номер в книге "Рациональность: от ИИ до зомби": 
211
Оцените качество перевода: 
Средняя оценка: 5 (2 votes)

Чтобы распространять науку, держите её в тайне

Элиезер Юдковский

Порой мне кажется, что пифагорейцы были правы.

Да, я писал, что «наука» публична по своей природе. Я писал, что «наука» отличается от всего лишь рационального знания принципиальной возможностью воспроизвести эксперимент самостоятельно, а не полагаться на авторитет. Я утверждал, что «науку» следует определять как доступное широкому кругу лиц знание человечества. Я даже предполагал, что будущие поколения станут относиться ко всем статьям, что не были опубликованы в общедоступном журнале, как к ненаучным, а конкретнее, они не станут считать такие статьи частью публичного знания человечества, раз людям приходилось платить за чтение.

Однако можно вообразить и другое будущее. В этом другом будущем знание, которое мы сейчас называем «наукой», изъято из общественной среды — книги и журналы спрятаны и их охраняет загадочная секта из гуру в мантиях. Эти гуру делятся знанием только с теми, кто пройдёт страшные ритуалы посвящения. И всё это только ради того, чтобы люди наконец начали учиться.

Я имею в виду, вот прямо сейчас люди могут изучать науку, но не делают этого.

Социальная психология называет такой эффект «дефицитом». То, чего не хватает, ценится больше. Особенно силён этот эффект в отношении информации — если мы считаем какую-то информацию секретной, мы с большей вероятностью постараемся её получить, а после этого будем выше её ценить.

Мне кажется, что люди считают: раз информация о науке находится в свободном доступе, то ничего важного в ней нет. И поэтому вместо изучения науки люди вступают в секты, которым хватает здравого смысла держать свои Великие Истины в секрете. На самом деле Великая Истина может оказаться полным бредом, но люди стремятся к ней сильнее, чем к последовательному научному знанию. Это же тайна.

Наука — великое «похищенное письмо» нашего времени. Она на виду у всех и никто её не видит.

Разумеется, открытость науки полезна для научной элиты. Она-то уже прошла ритуалы посвящения. Но для всех остальных людей на планете из-за свободного доступа наука хранится в секрете в сотни раз эффективнее, чем если бы её скрижали стерегли в тайных хранилищах, а для получения доступа требовалось бы пройти по горящим углям. (И это был бы действительно страшный ритуал, потому что великие тайны теплоизоляции доступны только Посвящённым в Физику третьего круга.)

Будь научные знания скрыты в древних хранилищах (а не в неудобных журналах с платой за доступ), то, по крайней мере, тогда люди пытались бы попасть в эти хранилища. Они отчаянно бы старались изучать науку. Особенно если бы они сначала узрели мощь, которой владеют Физики восьмого круга, а потом им бы сказали, что они недостойны узнать объяснение этих чудес.

А при попытке создать, скажем, секту Сайентологов, да, сначала у публики появлялся бы интерес. Однако очень скоро люди начинали бы задавать неудобные вопросы, вроде: «А почему ваш восьмой круг не показывает свои способности, как Физики?». Или: «Как так получилось, что никто из магистров Математики не желает вступить в вашу секту?» Или: «Почему я должен следовать за вашим Основателем, ведь он нигде не достиг восьмого круга, кроме как в своей собственной секте?» Или: «Зачем мне заниматься в вашей секте, ведь у Дантистов Смерти есть штучки гораздо круче?»

С этой точки зрения выход математики за пределы секты пифагорейцев начинает казаться огромной стратегической ошибкой человечества.

Наверняка вы сейчас скажете: «Но ведь в науке уже полно устрашающих ритуалов посвящения! Плюс её сложно изучать просто в силу её природы! Разве это не считается?» Нет, ведь общество считает, что наука находится в свободном доступе. Раз любой может её изучать, значит, изучать её не так уж и важно.

Это вопрос имиджа. Люди строят своё поведение с оглядкой на других людей. Любой человек может пойти в магазин и купить лампочку. Никто не смотрит на неё с изумлением и благоговением. Никто не думает, что в физике процесса кроется какая-то тайна — пусть даже вы её не понимаете. На всякий случай вот вам объяснение в газете в один абзац, которое выглядит убедительно и авторитетно. В итоге никто не считает, что в лампочке есть какая-то священная тайна, вот вы и не считаете.

Даже самые простые штуки, абсолютно инертные объекты — например, кресты, — могут становиться волшебными, если все на них смотрят, как на волшебство. Но поскольку вам теоретически позволено знать, как работает лампочка, и вам не нужно для этого уходить в горы на поиски монастыря Электриков, то вы и не утруждаете себя учёбой.

Но поскольку у науки всё же есть свои ритуалы посвящения, как социальные, так и с точки зрения необходимости приложить мыслительные усилия, учёные не разочаровываются в ней полностью. Проблема в том, что в современном мире лишь очень немногие вообще начинают заниматься наукой. Она не может быть подлинным Тайным Знанием, поскольку кому угодно позволено её знать — хотя, фактически, мало кто знает.

Представьте, что для того, чтобы узнать Великую Тайну Естественного Отбора, ниспосланную Дарвином, Чьё Имя Останется в Веках, вам нужно было бы заплатить 2 тысячи долларов, пройти церемонию с мантиями, масками и факелами и принести в жертву быка. Потом вам бы показали окаменелости и оптический нерв, проходящий сквозь сетчатку, под микроскопом. И только затем наконец поведали бы Истину. Да вы бы воскликнули: «Это величайшее знание в мире!» и остались бы полностью довольны. А если бы впоследствии какая-то другая секта попыталась сказать вам, что всё это устроил бородатый мужик на небе шесть тысяч лет назад, вы бы смеялись как сумасшедший.

А, кстати, было бы весело устроить всё как-нибудь вот так. Особенно если бы обряд посвящения требовал сопоставить какие-то свидетельства самостоятельно — вместе или с одногруппниками — и лишь после этого вы могли бы сказать сенсею Науки, что готовы перейти на следующий круг. Да, это было бы не слишком эффективно, зато весело.

Если бы человечество не совершило исходной ошибки — не пошло по религиозному пути вначале и не боялось теперь всего, от чего несёт религией — тогда, возможно, получение учёной степени сопровождалось бы церемонией с литаниями и песнопениями. Людям нравится петь. Зачем лишать процесс веселья?

Может быть, мы просто поступаем неправильно.

И нет, я не предлагаю всерьёз отменить последние пятьсот лет открытости и засекретить всю науку. По крайней мере, не сейчас. Сейчас очень важна эффективность, особенно в таких областях, как медицинские исследования. Я просто объясняю, почему Тайну о том, как из всего лишь атомов возникает невыразимая разница между синевой и краснотой, я не расскажу никому меньше чем за сто тысяч долларов…

Кхм! Я хотел сказать, что предлагаю вам представить эту альтернативную Землю, чтобы вы могли посмотреть на науку и на секты одинаково. Чтобы вы по достоинству оценили научную истину, когда узнаете её, пусть даже она и кажется недостаточно защищённой, чтобы быть столь ценной. Представьте мантии и маски. Представьте, как вы прокрадываетесь в тайное хранилище и крадёте Утерянное Знание Ньютона. И не давайте обмануть себя какой угодно организации с мантиями и масками, пока они не покажут вам данных.

Создаётся впечатление, будто у людей есть дыры в сознании, которые необходимо заткнуть Эзотерическим Знанием, Страшными Секретами и Тайной Истиной. И я даже не критикую этот образ мышления! Секретные эзотерические тайные истины действительно существуют: например, квантовая механика или байесовские структуры. Мы просто привыкли представлять Тайную Истину как что-то очень неприглядное, как часть ложной обыденности.

Но если дыры для тайного знания не заткнуть истинными убеждениями, их заткнут убеждения ложные. Кроме науки изучать нечего — эмоциональная энергия либо вкладывается в реальность, либо тратится на полную ерунду, либо уничтожается. Лично я считаю, что эмоциональную энергию лучше всего инвестировать. И не стоит без надобности отказываться от веселья.

Прямо сейчас от обоих взглядов на мир мы имеем худшее. Наука на самом деле не бесплатна, ведь образование и учебники стоят дорого. Но общество считает, что раз всем позволено что-то знать, значит это неважно.

В идеале хотелось бы наоборот.

Перевод: 
sepremento, Alaric, ildaar
Номер в книге "Рациональность: от ИИ до зомби": 
212
Оцените качество перевода: 
Средняя оценка: 4.8 (13 votes)

Церемония посвящения

Элиезер Юдковский

Узкую лестницу освещали яркие факелы неправильного цвета — пламя напоминало расплавленное золото или осколки солнца.

192… 193…

Сандалии Бреннана тихо щёлкали по каменным ступеням. Звуки напоминали стук медленно падающих костей домино.

227… 228…

На полкруга ниже него по ступеням шелестел край тёмной мантии. Сам человек в мантии постоянно оставался вне поля зрения.

239… 240…

Ещё совсем чуть-чуть, предсказал сам себе Бреннан, и его догадка оказалась верной: шестнадцать раз по шестнадцать ступеней, и они оказались перед стеклянными величественными вратами.

Врата были изготовлены мастерски, с чувством юмора и великим вниманием к коэффициентам преломления. Громадные и изогнутые, они искажали свет, изгибали его, искривляли и всячески использовали его так, чтобы оставить лишь намёки на то, что скрыто за ними (ещё более сильные источники света, тёмные стены). Увидеть что-то внутри было решительно невозможно. Если только, конечно, у вас нет ключа: противо-врат, толстых там, где тонко и тонких там, где толсто. Такой ключ свёл бы эффекты исходных врат на нет.

Фигура в мантии рядом с Бреннаном вытянула обе руки, скрытые перчатками из зеркальной материи. Сверкающие пальцы ухватились за ручки искривлённых врат. Бреннан эти ручки даже не заметил: из-за повсеместных искажений об их очертаниях можно было только догадываться, но невозможно было разглядеть.

— Желаешь ли ты знать? — прошептал проводник. По громкости этот шёпот почти не отличался от обычного голоса, однако гендер говорящего понять по нему было нельзя.

Бреннан замешкался. Ответ на вопрос казался слишком очевидным. Настолько очевидным, что это выглядело подозрительно даже для ритуала.

— Да, — наконец произнёс Бреннан.

Проводник ответил одним лишь молчанием.

— Да, я хочу знать, — сказал Бреннан.

— Что именно ты хочешь знать? — прошептала фигура в мантии.

Бреннан напряжённо наморщил лоб, изо всех сил пытаясь представить партию от начала до конца и надеясь, что он её ещё не проиграл. Наконец он обратился к первому и последнему средству — правде:

— Не важно. Ответ всё равно да.

Стеклянные врата разделились посредине и с еле слышным шорохом ушли в окружающий камень.

В открывшейся зале стояли шеренги людей в мантиях и капюшонах из ткани, поглощающей свет. Стены же в зале оказались не из чёрного камня, а зеркальными. Из-за этого казалось, что квадратная сетка из чёрных мантий во всех направлениях уходит в бесконечность. Возникало ощущение, будто здесь собрались люди из гораздо большего города, а, может, даже и всё человечество. В воздухе ощущалась влажное тепло, дыхание собравшихся — запах толпы.

Проводник Бреннана прошёл в центр площадки, где таким же безжалостным жёлтым пламенем горели четыре факела. Бреннан последовал за ним, а когда остановился, то с некоторым изумлением осознал, что все капюшоны обращены к нему. Ещё никогда в жизни Бреннану не приходилось находиться под столь пристальным вниманием. Оно пугало, хотя и не было слишком уж неприятным.

— Он здесь, — сказал проводник своим странным громким шёпотом.

Бесконечные ряды фигур в мантиях ответили в унисон:

— Кого нет среди нас?

В их идеальном, точно синхронизированном хоре, невозможно было вычленить ни один голос.

— Якоба Бернулли, — нараспев произнёс проводник.

— Мёртв, но не забыт, — откликнулись стены.

— Абрахама де Муавра.

— Мёртв, но не забыт.

— Пьера-Симона Лапласа.

— Мёртв, но не забыт.

— Эдвина Томпсона Джейнса.

— Мёртв, но не забыт.

— Они мертвы, — сказал проводник, — и навсегда утрачены для нас. Но у нас по-прежнему есть мы сами, и проект продолжается.

В наступившей тишине проводник повернулся к Бреннану и вытянул руку. На ладони лежало небольшое почти прозрачное кольцо.

Бреннан шагнул вперёд, чтобы взять его…

…но рука сомкнулась в кулак.

— Если три четверти людей в этой комнате — женщины, — произнёс проводник, — а три четверти женщин и половина мужчин принадлежит Ереси Добродетели, как и я, то какова вероятность, что я мужчина?

— Две одиннадцатых, — уверенно ответил Бреннан.

На мгновение воцарилась абсолютная тишина.

Затем послышался изумлённый смех.

Снова послышался шёпот проводника — в этот раз по-настоящему тихий, почти неслышный.

— Вообще-то, одна шестая.

Бреннану показалось, что его лицо сейчас расплавится — настолько сильно у него вспыхнули щёки. Ему ужасно захотелось выбежать из комнаты. Взбежать вверх по лестнице, покинуть город, а затем изменить имя и начать жизнь заново, чтобы когда-нибудь пройти ритуал правильно.

— Искренняя ошибка по крайней мере честна, — сказал проводник уже громче. — И мы можем понять, насколько ты честен, по тому, насколько ты будешь упорствовать. Если я последователь Ереси Добродетели, то какова вероятность, что я мужчина?

— Одна… — начал было Бреннан.

И осёкся. Вновь повисла ужасная тишина.

— Да скажи уже одна шестая, — прошептал проводник, теперь уже достаточно громко, чтобы его услышали. Снова раздался хохот, местами не слишком добрый.

Бреннан часто дышал. На лбу выступил пот. Если он ошибается, он в самом деле сбежит из города.

— Три четверти женщин умножить на три четверти Добродетельных равно девять шестнадцатых Добродетельных женщин в комнате. Четверть мужчин умножить на половину Добродетельных это две шестнадцатых Добродетельных мужчин. Если у меня есть лишь информация о том, что вы из Добродетельных, то я оцениваю шансы как два к девяти или вероятность как две одиннадцатых, что вы мужчина. Впрочем, я не убежден, что данная информация верна. Во-первых, всё кажется слишком подогнанным. А во-вторых, в зале нечётное число людей.

Рука вытянулась вновь и раскрыла кулак.

Бреннан взял кольцо. В свете факелов оно было почти невидимым. Судя по всему, его сделали не из стекла, но из какого-то другого материала с индексом преломления света очень близким к воздуху. От рук проводника кольцо нагрелось и теперь ощущалось на пальце как что-то живое.

Облегчение было столь велико, что аплодисментов фигур в капюшонах Бреннан почти не расслышал.

Проводник в мантии прошептал последние слова:

— Теперь ты послушник Байесовского заговора.

Перевод: 
sepremento, Alaric, ildaar
Номер в книге "Рациональность: от ИИ до зомби": 
213
Оцените качество перевода: 
Средняя оценка: 4.8 (13 votes)