Наука и рациональность

В последней цепочке четвёртого тома все его идеи собираются воедино. Также делаются некоторые выводы о силе институтов современной науки.

Примечание редактора: Значительная часть этой цепочки не переведена на русский язык.

Автор: 
Элиезер Юдковский

Провалы Древней науки

Элиезер Юдковский

На этот раз не было ни мантий, ни капюшонов, ни масок. Предполагалось, что студенты станут друзьями и союзниками. И все знали, зачем ты в этом классе. Притворяться, что ты не состоишь в Заговоре, не имело смысла.

Их сенсеем был Джеффриссай — возможно, лучший в своё время, среди своих современников. Его ученики были либо самыми многообещающими, либо теми, в чьём становлении бейзутсукай видели политическую выгоду.

Бреннан относился ко второй категории и знал это. Впрочем, он не колебался, используя имя своей Хозяйки, чтобы открывать двери. В поисках знания годились все доступные пути — здесь это уважали.

— …на протяжении более тридцати лет, — говорил Джеффриссай. — Ни один из них этого не увидел; ни Эйнштейн, ни Шрёдингер, ни даже фон Нейман. — Он отвернулся от своего скетчера к классу. — Ставлю перед вами вопрос: как они допустили такой провал?

Студенты быстро переглянулись — расчёт взаимного риска между осторожными и просто растерянными. За Джеффриссаем водилась слава любителя игр.

Наконец Хирива-по-прозвищу-Чёрная подалась вперёд, тихо звякнув браслетами с вырезанными на них уравнениями на щиколотках. — Судя по указанным вами годам, сенсей, это было через двести пятьдесят лет после Ньютона. Уж наверное учёные той эпохи должны были постичь понятие универсального закона.

— Знать универсальный закон гравитации, — сказал студент Тадзи с соседнего места, — не то же самое, что понимать само понятие универсального закона. — Он, как и Хирива, считался одним из самых многообещающих.

Хирива нахмурилась. — Нет… говорят, Ньютона хвалили за открытие первой универсалии. Даже при его жизни. Значит, это было известно. — Она помолчала. — Но самого Ньютона уже не было в живых. Существовал ли религиозный запрет на предложение новых универсалий? Воздерживались ли они из уважения к Ньютону, или ждали, пока заговорит его призрак? Мне не вполне ясно, чем руководствовалась Древняя наука…

— Нет, — пробормотал Тадзи со смешком в голосе, — тебе действительно совершенно не ясно.

Выражение лица Джеффриссая было доброжелательным. — Хирива, дело не в религии, не в свинце в питьевой воде, не в том, что у них у всех был Альцгеймер, и не в том, что они целыми днями читали веб-комиксы. Забудь каталог ужасов древних времён. Просто думай в терминах когнитивных ошибок. Что Древняя наука могла думать неправильно?

Хирива со вздохом откинулась назад. — Сенсей, я правда не могу представить такой промах, который привёл бы к подобному.

— Дело было не в одной ошибке, — поправила её Тадзи. — Как говорится: ошибки не ходят поодиночке, они охотятся стаями.

— Но весь человеческий вид? — сказала Хирива. — Тридцать лет?

— Дело было не во всём человеческом виде, Хирива, — сказал Стирлин. Он был одним из самых старших на вид студентов, с короткой седеющей бородкой. — Быть может, лишь один из ста тысяч мог бы по памяти записать уравнение Шрёдингера. Значит, это и была их первая и главная ошибка — неспособность сконцентрировать силы.

— Избавь нас от пропаганды! — взгляд Джеффриссая вдруг стал свирепым. — Ты здесь не для того, чтобы агитировать за Кооперативный Заговор, господин политик! Не гни истину, чтобы доказать свою точку зрения! Кажется, у вашего Заговора есть выражение: «сравнительное преимущество». Ты правда думаешь, что имело бы смысл призвать весь человеческий вид, каким он был в ту эпоху, обсуждать квантовую физику?

Стирлин не дрогнул. — Возможно, нет, сенсей, — сказал он. — Но если вы сравниваете ту эпоху с нынешней, это стоит учитывать.

Джеффриссай плоско повел рукой по воздуху — «возможно»-жест, которым он отклонял довод верный, но не относящийся к делу. — Я бы не назвал это главной ошибкой. Задача не должна была требовать миллиарда физиков для решения.

— Я могу назвать более конкретные древние ужасы, — сказал Тадзи. — Целыми днями писать заявки на гранты. Преподавать студентам, которые предпочли бы оказаться где угодно ещё. Необходимость публиковать тридцать статей в год ради постоянной должности…

— Но мы говорим не только об учёных низшего статуса, — сказала Инь; на её лице играла лёгкая насмешливая улыбка. — Говорят, Шрёдингер удалился на месяц на виллу вместе с любовницей, которая служила источником вдохновения, и вышел оттуда с уравнением, названным его именем. Мы считаем это знаменитым историческим успехом нашей методологии. Некоторые физики Древней науки действительно понимали, как сфокусировать умственную энергию, и были достаточно влиятельны, чтобы так поступить, если бы захотели.

— Верно, — сказал Тадзи. — В конце концов, административное бремя — лишь общее препятствие. То же касается и таких ответов, как «их не обучали теории вероятностей и они не знали о когнитивных искажениях». Кажется, наш сенсей хочет более конкретного ответа.

Джеффриссай ободряюще приподнял бровь. — Не отбрасывай свою мысль так быстро, Тадзи; она начинает быть уместной. Какая система создаёт административное бремя для собственных людей?

— Система, которая не смогла адекватно поддержать своих людей, — сказал Стирлин. — Та, что не ценила их труд.

— Ага, — сказал Джеффриссай. — Но есть студент, который ещё не высказался. Бреннан?

Бреннан не вздрогнул. Он намеренно выждал ровно столько, чтобы показать, что не боится, а затем сказал: — Отсутствие прагматической мотивации, сенсей.

Джеффриссай слегка улыбнулся. — Разверни мысль.

Какая система создаёт административное бремя для собственных людей? — спросил их сенсей. Остальные студенты развивали собственные линии рассуждений. Бреннан, держась в стороне, мог уделить больше внимания скупым подсказкам учителя. Быть новичком не всегда было недостатком — его учили, задолго до того, как байесианцы взяли его к себе, использовать любое доступное преимущество.

— Манхэттенский проект, — сказал Бреннан, — был запущен с конкретной технологической целью: оружием огромной мощи, во время войны. Но ошибка, которую Древняя наука совершила в отношении квантовой физики, не имела немедленных последствий для их технологий. Они были в замешательстве, но у них не было отчаянной нужды в ответе. Иначе окружающая их система устранила бы всё бремя с их пути к решению. Наверняка Манхэттенский проект так и сделал — Тадзи? Ты знаешь?

Тадзи задумался. — Не всё бремя — но я почти уверена, что в разгар работы они не писали заявки на гранты.

— Что ж, — сказал Джеффриссай. Он сделал несколько шагов и встал прямо перед партой Бреннана. — Ты считаешь, что учёные Древней науки просто недостаточно старались. Потому что их искусство не имело военного применения? Довольно соревновательная точка зрения, я бы сказал.

— Не обязательно, — спокойно ответил Бреннан. — Прагматизм — тоже добродетель рациональности. Желаемое применение для лучшей квантовой теории помогло бы учёным Древней науки во многих отношениях, не только мотивируя их. Оно придало бы форму их любопытству и подсказало бы, что считать успехом, а что — провалом.

Джеффриссай негромко усмехнулся. — Не гадай так усердно, что мне хотелось бы услышать, Соперник. Твоё первое утверждение было ближе к тому, что я имел в виду; а твоя чересчур байесианская оговорка промахнулась… Фактор, который я имел в виду, Бреннан, заключался в том, что учёные Древней науки считали приемлемым потратить тридцать лет на решение проблемы. Весь их общественный процесс науки строился на том, чтобы рано или поздно прийти к истине. Неверная теория отбрасывалась в конце концов — как только следующее поколение студентов вырастало, уже привычное к замене. Работа заполняет всё отведённое ей время, как говорится. Но люди способны додуматься до важных вещей гораздо быстрее тридцати лет, если ожидают от себя скорости. — Джеффриссай вдруг с силой хлопнул рукой по подлокотнику кресла Бреннана. — Сколько времени у тебя есть, чтобы увернуться от брошенного ножа?

— Очень мало времени, сенсей!

— Меньше секунды! Два противника нападают на тебя одновременно! Сколько времени у тебя есть, чтобы понять, кто из них опаснее?

— Меньше секунды, сенсей!

— Двое противников разделились и напали на двух твоих девушек! Сколько времени у тебя есть, чтобы решить, кого из них ты по-настоящему любишь?

— Меньше секунды, сенсей!

— Новый аргумент показывает, что твоя драгоценная теория ошибочна! Сколько времени тебе нужно, чтобы передумать?

— Меньше секунды, сенсей!

— Неверно! Не давай мне неверный ответ только потому, что он вписывается в удобный шаблон и, как тебе кажется, я его от тебя жду! Сколько на самом деле нужно времени, Бреннан?

На спине Бреннана выступил пот, но он остановился и по-настоящему задумался над этим…

— Отвечай, Бреннан!

— Нет, сенсей! Я ещё не закончил думать, сенсей! Ответ был бы преждевременным! Сенсей!

— Очень хорошо! Продолжай! Но не трать тридцать лет!

Бреннан глубоко вздохнул, заново формулируя мысли. Наконец он сказал: — В реалистичном сценарии, сенсей, в лучшем случае я сразу увижу проблему; применю дисциплину приостановки суждения; попытаюсь заново собрать все свидетельства, прежде чем продолжать; и в зависимости от того, насколько эмоционально я был привязан к теории, применю технику кризиса веры, чтобы удостовериться, что действительно способен пойти в любую сторону. Так что, самое малое, пять минут, а возможно, и до часа.

— Хорошо! На этот раз ты действительно подумал! Думай так каждый раз! Ломай шаблоны! Во времена Древней науки, Бреннан, грантовому агентству было нередко тратить полгода на рассмотрение заявки. Они позволяли себе такое время! А тебя оценивают по скорости, Бреннан! Вопрос не в том, доберёшься ли ты до истины в конце концов! Любой способен найти истину за пять тысяч лет! Тебе нужно двигаться быстрее!

— Да, сенсей!

— Теперь, Бреннан, ты только что узнал нечто новое?

— Да, сенсей!

— Сколько времени тебе понадобилось, чтобы это узнать?

Произвольный выбор здесь… — Меньше минуты, сенсей, если отталкиваться от наиболее очевидной точки отсчета.

— Меньше минуты, — повторил Джеффриссай. — Итак, Бреннан, сколько, по-твоему, должно занимать решение крупной научной проблемы, если не тратить время впустую?

Вот это была настоящая ловушка, если Бреннан вообще когда-либо слышал таковую. Не было способа угадать, какой временной промежуток имел в виду Джеффриссай — что сенсей счёл бы слишком долгим, а что слишком коротким. А значит, единственным выходом было попытаться дать по-настоящему честный ответ; это давало хоть какую-то защиту — защиту честностью, пусть и слабую. — Один год, сенсей?

— Как думаешь, можно ли справиться за один месяц, Бреннан? В случае, скажем так, когда у тебя в принципе уже достаточно экспериментальных данных, чтобы определить ответ, но не настолько много, чтобы позволить себе ошибаться в их интерпретации.

Опять же, никакого способа угадать, какой ответ мог бы понравиться Джеффриссаю… — Месяц кажется мне нереалистично коротким сроком, сенсей.

— Коротким сроком? — недоверчиво переспросил Джеффриссай. — Сколько минут в тридцати днях? Хирива?

— 43 200, сенсей, — ответила она. — Если считать шестнадцатичасовые периоды бодрствования и ежедневный сон, то 28 800 минут.

— Предположим, Бреннан, что на то, чтобы додуматься до оригинальной мысли самому, а не узнать её от кого-то другого, требуется целых пять минут. Разве даже крупная научная проблема требует 5 760 отдельных озарений?

— Признаюсь, сенсей, — медленно сказал Бреннан, — я никогда прежде не думал об этом в таком ключе… но вы правда хотите сказать, что это реалистичный уровень продуктивности?

— Нет, — сказал Джеффриссай, — но точно так же нереалистично думать, что одна-единственная проблема требует 5 760 озарений. И тем не менее это было сделано.

Джеффриссай отступил назад и благожелательно улыбнулся. Каждый студент в комнате напрягся; они знали эту улыбку. — Хотя никто из вас не попал точно в тот ответ, который я имел в виду, тем не менее ваши ответы были не менее разумны, чем мой. Кроме ответа Стирлина, боюсь. Даже ответ Хиривы не был полностью неверен: некогда предложение новых теорий считалось священной обязанностью, зарезервированной для людей высокого статуса, поскольку в ту эпоху в обращении было лишь ограниченное число задач. Но ответ Бреннана особенно интересен, и я склонен проверить его теорию мотивации на практике.

О, чёрт, — сказал себе Бреннан. Джеффриссай жестом велел ему встать перед классом.

Когда Бреннан поднялся, Джеффриссай аккуратно уселся в его кресло.

— Бреннан-сенсей, — сказал Джеффриссай, — у тебя есть пять минут, чтобы придумать нечто ошеломляюще блестящее о провале Древней науки в квантовой физике. А наша задача — смотреть на тебя с ожиданием. Могу только представить, насколько неловко тебе будет, если ты не сможешь придумать ничего хорошего.

Ублюдок. Бреннан не произнёс этого вслух. На лице Тадзи читалось некоторое сочувствие; Стирлин держался отстранённо от этой игры; а Инь смотрела на него с саркастическим интересом. Хуже того, Хирива смотрела на него с ожиданием, полагая, что он справится с вызовом. А Джеффриссай смотрел на него во все глаза, ожидая мудрых слов гуру. Пошёл ты, сенсей.

Бреннан не запаниковал. Это было очень, очень, очень далеко от самой пугающей ситуации, с которой ему доводилось сталкиваться. Он на мгновение задумался, как именно думать; а затем начал думать.

На отметке четыре минуты тридцать секунд Бреннан заговорил. (В таких вещах есть своё искусство: раз уж всё равно приходится это делать, стоит хотя бы сделать так, чтобы это выглядело легко.)

— Одна мудрая женщина, — сказал Бреннан, — однажды сказала мне, что мудрее всего считать наши прошлые «я» безнадёжными глупцами — видеть в тех, кем мы когда-то были, полных идиотов. Я не обязательно утверждаю это сам; но так сказала мне она, и в этом есть более чем крупица истины. Пока мы оправдываем прошлое, пытаемся представить его в лучшем свете, уважаем его, мы не можем совершить чистый разрыв. Мне пришло в голову, что это правило может не отличаться и для человеческих цивилизаций. Поэтому я попытался оглянуться назад и рассмотреть учёных Древней науки как простых глупцов.

— Каковыми они не являлись, — сказал Джеффриссай.

— Каковыми они не являлись, — продолжил Бреннан. — С точки зрения чистого интеллекта они, несомненно, превосходили меня. Но мне пришло в голову, что трудность в понимании того, что учёные Древней науки сделали неправильно, могла заключаться в слишком большом уважении к древним и легендарным именам. И это действительно дало озарение.

— Довольно вступлений, Бреннан, — сказал Джеффриссай. — Если ты нашёл озарение, изложи его.

— Учёных Древней науки не обучали… — Бреннан замолчал. — Нет, «не обучали» — неверное понятие. Их обучали не той задаче. В то время не существовало Заговоров, не существовало тайных истин; как только учёные Древней науки решали крупную проблему, они публиковали решение всему миру и друг другу. По-настоящему пугающие и запутывающие открытые проблемы, должно быть, встречались крайне редко и исчерпывались в момент решения. Так что не было возможности обучить исследователей Древней науки наводить порядок в научном хаосе. Их обучали чему-то другому — не уверен, чему именно…

— Обучали манипулировать тем, что наука уже открыла, — сказала Тадзи. — Учителям Древней науки было достаточно трудно обучить своих студентов использовать уже существующие знания или следовать уже известным методологиям; это всё, что учителя науки того времени стремились передать.

Бреннан кивнул. — Что сильно отличается от создания собственной новой науки. Учёные Древней науки, столкнувшись с проблемами квантовой теории, возможно, никогда прежде не сталкивались с подобным страхом — смятением от незнания. Учёные Древней науки, возможно, преждевременно хватались за неудовлетворительные ответы, потому что привыкли работать с аккуратным, общепринятым сводом знаний.

— Хорошо, Бреннан, — пробормотал Джеффриссай.

— Но прежде всего, — продолжил Бреннан, — учёный Древней науки не мог практиковать саму задачу, с которой столкнулись квантовые физики — задачу разрешения крупной путаницы. Это было то, что делалось, если повезёт, раз в жизни, и, как заметила Хирива, Ньютона уже не было бы рядом. Так что, хотя физики Древней науки, напутавшие с квантовой теорией, вовсе не были глупы, в сильном смысле они были дилетантами — импровизировавшими весь процесс смены парадигмы на ходу.

— И никакой теории вероятностей, — заметила Хирива. — Так что даже тот, кто преуспел бы в решении задачи, не имел бы понятия, что именно он только что сделал. Он не смог бы объяснить это никому другому, разве что смутно.

— Да, — сказал Стирлин. — И лишь горстка людей вообще могла взяться за такую задачу без всякого обучения этому; это те самые физики, чьи имена дошли до нас. Горстка людей, сделавших по горстке открытий каждый. Этого не хватило бы, чтобы поддержать сообщество. Каждому учёному Древней науки, взявшемуся за новую смену парадигмы, пришлось бы заново открывать правила с нуля.

Джеффриссай поднялся с кресла Бреннана. — Приемлемо, Бреннан; ты меня, признаться, удивил. Мне придётся ещё подумать над этим твоим методом. — Джеффриссай направился к двери класса, затем оглянулся. — Впрочем, у меня в голове был по крайней мере ещё один крупный изъян Древней науки, который никто из вас не назвал. Жду от вас список возможных изъянов завтра. Ожидаю, что изъян, который я имел в виду, будет в этом списке. У вас есть 480 минут, не считая времени на сон. Я вижу здесь пятерых. Задача не требует более 480 озарений для решения и не более 96 озарений в последовательности.

И Джеффриссай вышел из комнаты.

Перевод: 
Alex
Оцените качество перевода: 
Голосов пока нет

Ученые уже всё это знают?

Элиезер Юдковский

poke утверждает:

Умение выдвигать относящиеся к делу гипотезы — важный навык, развивая который, ученый проводит значительную часть своего времени. Это может не входить в традиционное описание науки — что не означает его отсутствия в институте современной науки, который добывает подлинное, актуальное знание здесь, в реальном мире: несовершенно ваше описание, а не наука.

Знаю, что я называл себя в молодости «глупым», но это лишь словесный оборот; «неумелое владение высоким интеллектом» было бы точнее. Элиезер18 обычно не делал очевидных ошибок — только его «очевидное» не было моим «очевидным».

Нет, я не проходил традиционное обучение. Но когда я оглядываюсь и вижу, что Элиезер18 делал неверно — я вижу множество современных ученых, делающих те же ошибки. Я не вижу ни одного признака, что они были предупреждены лучше, чем я.

Сэр Роджер Пенроуз — физик мирового уровня — все еще полагает, что сознание имеет причиной квантовую гравитацию. Предполагаю, что никто никогда не предупреждал его о таинственных ответах на таинственные вопросы — ему говорили лишь, что его гипотезы должны быть фальсифицируемы и иметь наблюдаемые следствия. Как и Элиезеру18.

«Cознание имеет причиной квантовую гравитацию» имеет проверяемые следствия. Сказанное подразумевает, что можно взглянуть на нейроны и обнаружить когерентную квантовую суперпозицию1, (которая, коллапсируя2?) способствует обработке информации, и что вы никогда не сможете воспроизвести поведение на входе-выходе нейрона, используя расчетную микроанатомическую симуляцию…

… но даже после того, как вы сказали: «Сознание имеет причиной квантовую гравитацию», вы не сможете на этой основе предсказать, как именно ваш мозг помыслит «Я мыслю, следовательно, я существую!» или таинственную красноту красного — даже если вы думаете, что тем самым прояснили вопрос.

Это громадный знак опасности — теперь я понимаю, но это не знак опасности, о которой я был предупрежден, и я сомневаюсь, что Пенроузу когда-либо говорил о ней его научный руководитель. Сомневаюсь, что и Нильс Бор был когда-либо предупрежден о ней, когда пришло время формулировать Копенгагенскую интерпретацию.

Насколько я могу судить, Элиезер18, и сэр Роджер Пенроуз, и Нильс Бор не были предупреждены, потому что общепринятого предупреждения не существует.

Я не обобщал понятие «таинственных ответов на таинственные вопросы» в столь многих словах, пока не начал писать байесианский анализ того, что отличает технические, нетехнические и полутехнические научные объяснения.

Сейчас, конечный результат того анализа может быть сформулирован не-технически в терминах четырех знаков опасности:

  1. объяснение действует скорее как затычка для любопытства, чем как управление ожиданием.
  2. у гипотезы нет подвижных частей — секрет не в особом составном механизме, а в явно неделимом веществе или силе.
  3. те, кто предлагает объяснение, лелеют свое невежество; они с гордостью говорят, как явление одерживает победу над обычной наукой или как оно непохоже на обычные природные явления.
  4. даже после того, как ответ дан, явление остается тайной и наделено теми же качествами удивительной необъяснимости, которые у него были изначально.

В принципе, все это могло быть заявлено как прямое следствие витализма. Так же, как простейшая теория вероятности могла быть придумана Архимедом, или древние греки могли разработать теорию естественного отбора. Но фактически никто никогда не предупреждал меня о какой-либо из этих четырех опасностей, в таких выражениях — в лучшем случае предупреждали, что у гипотез должны быть проверяемые следствия. И я не формулировал знаки опасности явным образом, пока не попытался помыслить вопрос в целом в терминах распределения вероятностей — требовалась некоторая избыточность подхода.

У меня просто нет причин верить, что эти предупреждения передаются при научном обучении — это определенно не так для большинства ученых. Среди прочего, это советы по управлению ситуациями смятения и отчаяния, научного хаоса. Как обычному ученому или научному руководителю мог бы представиться случай использовать подобную технику?

Мы только что провели дискуссию о провале одномирности в физике. Ясно, что никто не говорил им о формальном определении Бритвы Оккама, в виде тайного знания или как-то иначе.

Есть известный эффект, состоящий в том, что у великих ученых есть множество великих учеников. Может быть, это связано с тем, что наставники передают навыки, которые они не могут описать. Но я не думаю, что это засчитывается как часть стандартной науки. И если великие наставники не смогли облечь свое руководство в слова и огласить его во всеуслышание, это означает, что такие вещи вряд ли хорошо воспринимаются.

Мыслить в отсутствие явных свидетельств и не ошибиться мгновенно и бесповоротно — очень, очень трудно. Когда ты учишься в школе, ты можешь упустить один момент, а затем научишься пятидесяти другим моментам, которые окажутся верными. Когда ты обдумываешь новое знание в отсутствие сокрушительно подавляющего руководства, ты можешь упустить один момент и через 50 шагов очнуться во Внешней Монголии.

Я вполне уверен, что ученые, которые выключают свой мозг и погружаются в какую-нибудь уютную чепуху, как только покидают пределы своей специальности, не осознают, что разум есть двигатель, и за каждым надежным убеждением есть история причинности. Также, подозреваю, им никогда не говорили, что существует строгая рациональная вероятность, наделенная статусом свидетельства, в котором нет места произволу; даже если вы не можете рассчитать ответ, и даже если вы не получаете надежного указания, чем верить.

Сомневаюсь, что ученые, которых СМИ, рисующие изумительно детальные картины Жизни в 2050 году, попросили погадать о будущем, знали об ошибке конъюнкции. Или знали о том, как представительная эвристика может добиться того, что более детальные истории могут казаться более правдоподобными, притом что каждая лишняя деталь «разбавляет» вероятность. Представление о том, что каждая дополнительная деталь нуждается в собственном обосновании — о том, что невозможно выдумать длинную подробную историю, в точности как те, которым вас учили на уроках биологии или истории — жизненно необходимо для точного мышления в отсутствие определенных свидетельств. Но как подобное представление попадет в курс стандартного научного обучения? Когнитивные искажения были открыты лишь несколько десятилетий назад, и знание о них не распространялось до весьма недавних пор.

Далее, «эмоциональные пике» вокруг понятий вроде «эмерджентность» или «сложность», которые определены достаточно смутно, чтобы вы могли наговорить о них кучу умных слов. Вокруг того рода ошибок, что обычно делал Элиезер18, строятся целые научные направления! (Хотя я никогда не западал на эту вашу «эмерджентность»)

Иногда я говорю, что цель науки — накопить такую гору свидетельств, что даже ученые не смогут ее игнорировать; и что это отличительная черта ученого — не-ученый даже тогда оставит их все без внимания.

Если числом свидетельств — пусть огромным — можно добиться того, что вы в итоге отчаетесь, прекратите искать отговорки и просто сдадитесь — отбросите старую теорию и никогда больше ее не упомянете — тогда это все, что требуется, чтобы распахнуть двери Науки в будущее и воздвигнуть технологическую — а не религиозную — цивилизацию.

Книги Карла Сагана, Мартина Гарднера и другие артерии Традиционной Рациональности задуманы, чтобы преодолеть это различие — преобразовать кого-то из не-ученого в потенциального ученого и защитить его от экспериментально опровергнутого бреда.

Какое еще обучение получают профессиональные ученые? Частотная статистика учит вычислять статистическую значимость. Обучение по стандартной методике позволит им мусолить бумаги в рамках крепко устоявшейся парадигмы. Если б Наука требовала от среднего ученого большего — не думаю, что она смогла бы двигаться дальше. У нас хватает проблем от людей, проникших в науку до жути неподготовленными.

Ник Тарлтон отлично сформулировал итоговую проблему — на самом деле лучше, чем я. Если вы выдвигаете странно звучащую гипотезу, еще не подкрепленную свидетельствами, и пытаетесь проверить ее экспериментально, Наука не говорит, что вы дурак. Наука не доверяет своим старейшинам решать, какие гипотезы «не заслуживают проверки». Но это выверенно неточный общественный стандарт, и если вы попытаетесь сделать его стандартом индивидуальной эпистемологической рациональности, он позволит вам слишком многое принимать на веру.

Обращаясь к аналогии с либертарианством, основанном на прагматическом недоверии, это различие между «Сигареты не должны быть вне закона» и «Кури Мальборо!». Вы помните, чтобы вас хоть раз предупреждали об этой ошибке так подробно? Тогда почему бы людям не делать точно такую же ошибку? Сколько людей добровольно приложат дополнительные усилия — будут строже к себе, чем требуется? Некоторые, но не многие.

Многие ученые поверят любым глупостям вне лаборатории, пока они могут убедить себя, что эти глупости не были однозначно опровергнуты, или пока им удается не задавать вопросов. Где тот стандартный вузовский курс, после которого люди видят делающего глупость и спрашивают «Он что, пропустил то самое занятие?» Насколько я знаю, такого курса нет.

Может, если вам очень повезло с преподавателем, он передал вам редкостные умения вроде «Спроси себя, какие задачи в твоей области наиболее важны, и работай над одной из таких вместо того, чтобы купиться на что-то простое и банальное» или «Будь точнее в выражениях, чем требует редактор, ищи новые способы избежать влияния твоих ожиданий на эксперимент, даже если это не общепринято».

Но я действительно не думаю, что существует тайная общепринятая научная традиция выверенного рационального мышления при ограниченных свидетельствах. Половина ученых все еще верят, что они верят в Бога! Сложные навыки не общеприняты.

  • 1. Ква́нтовая (когерентная) суперпози́ция— это суперпозиция состояний, которые не могут быть реализованы одновременно с классической точки зрения, это суперпозиция альтернативных (взаимоисключающих) состояний.
  • 2. Редукция или коллапс волновой функции — мгновенное изменение описания квантового состояния (волновой функции) объекта, происходящее при измерении.
Перевод: 
Son_goku
Номер в книге "Рациональность: от ИИ до зомби": 
248
Оцените качество перевода: 
Средняя оценка: 4.7 (3 votes)