Абсолютный авторитет

Элиезер Юдковский

К вам приходит человек и высокомерным тоном заявляет: «Наука не знает ничего по-настоящему. Все, что у вас есть, это теории - вы не знаете точно, что вы правы. Вы, ученые, меняли свое мнение о том, как работает гравитация - откуда нам знать, что завтра вы не поменяете свое мнение об эволюции?»

Обратите внимание на глубокую культурную пропасть между вами. Если вы думаете, что сможете преодолеть ее с помощью нескольких предложений, вы сильно разочаруетесь.

Мир непросвещенных делится на авторитеты и не-авторитеты. Тому, во что можно верить, следует верить; то, чему доверять нельзя, следует просто игнорировать. Есть хорошие источники информации и плохие источники информации. Если ученые меняли свое мнение хоть раз за все время своего существования, наука не может быть истинным Авторитетом, и ей никогда больше нельзя будет доверять - как свидетелю, пойманному на лжи, или работнику, крадущему деньги из кассы.

К тому же им кажется естественным то, что сторонник какой-либо идеи будет защищать ее против любого возможного контраргумента и ни в чем не сознается. Все аргументы сразу игнорируется. Если уж сторонник науки признает, что наука неидеальна - что ж, тогда она точно бесполезна.

Когда кто-то живет всю свою жизнь, привыкнув к определенности, вы не можете просто сказать ему: «Наука основана на вероятностях, как и все остальные знания». Они поймут первую половину высказывания как признание вашей вины и проигнорируют вторую половину, посчитав ее отчаянной попыткой обвинить всех остальных, чтобы избежать обвинения самому.

Вы сами признали, что вам нельзя доверять - так убирайся прочь, Наука, и не тревожь нас более!

Один из очевидных источников такого типа мышления - религия, где писания якобы исходят от самого Бога; таким образом, любое признание хоть малейшего изъяна уничтожит авторитет полностью; и любой признак сомнения является грехом, и заявлять об определенности обязательно, есть она там или нет.

Но я подозреваю, что в деле также замешаны традиционные способы обучения в школе. Учитель говорит вам определенные вещи, и вы обязаны верить ему, а затем повторять все, что он сказал, на контрольной. А когда другой ученик высказывает вслух свои мысли, вы можете иметь свое мнение - вы вправе соглашаться или не соглашаться (наверное), и никто вас за это не накажет.

Этот опыт, я боюсь, помещает убеждения в социальную сферу авторитета, приказов и закона. В этой социальной сфере есть качественное различие между абсолютными законами и не-абсолютными законами, между приказами и предложениями, между авторитетами и не-авторитетами. Возникает ощущение, что существуют точные знания и неточные знания, как точные правила и неточные правила. Строгим авторитетам необходимо подчиняться, тогда как неточные предположения можно принять или проигнорировать в зависимости от личного предпочтения. И Наука, признаваясь в возможности своей ошибки, должна принадлежать ко второй категории.

(Замечу мимоходом, что я вижу что-то подобное у тех, кто думает, что если вы не обладаете оценкой вероятности, данной Авторитетным лицом - написанной, например, на клочке бумаги учителем в классе, или спущенной свыше неким другим Неоспоримым Источником, тогда ваша неопределенность не может учитываться Байесианской теорией вероятности. Кто-то может - внимание! - оспорить вашу оценку априорной вероятности. Таким образом, не-до-конца-просвещенным кажется, что Байесианские вероятности принадлежат к классу убеждений, произносимых учениками, а не к классу убеждений, диктуемых учителями - и поэтому не являются настоящими знаниями.)

Глубокая культурная пропасть между Авторитетным Путем и Количественным Путем довольно сильно раздражает тех, кто смотрит на нее со стороны рационалистов. По ту сторону находятся те, кто верит, что обладает знанием более надежным, чем основанные всего лишь на вероятностях догадки ученых - догадки о том, например, что завтра Луна взойдет в определенном месте и определенной фазе, точно так же, как она делала при каждом ночном наблюдении со времен изобретения астрономических инструментов, и точно так же, как предсказывают физические теории, чьи предыдущие предсказания были успешно подтверждены до четырнадцати цифр после запятой. А какое знание противопоставляют этому непросвещенные, и почему? Скорее всего, это какой-нибудь старый пыльный свиток, который был опровергнут одиннадцатью разными способами с прошлого воскресенья, и с прошлого понедельника, и с любого другого дня недели. Однако это более надежный источник, чем Наука (как говорят они), потому что он никогда не признает ошибок, никогда не меняет свои взгляды, независимо от того, сколько раз будет опровергнут. Они кидаются словом «определенность» как теннисным мячом, используя его так же легко, как перышко - пока ученые сгибаются под весом необходимых сомнений, изо всех сил пытаясь получить еще одну крошечную долю вероятности. «Я идеален», говорят они без всякой задней мысли, «я, должно быть, гораздо выше вас, ведь вам до сих пор приходится прикладывать усилия, чтобы стать лучше».

Не существует простого способа, чтобы им это донести - ни одного мгновенного сокрушительного аргумента. Рассуждая аккуратно, вам, возможно, удастся завоевать аудиторию, если это публичные дебаты. К сожалению, вы не можете просто пробормотать: «Глупый смертный, Количественный Путь за гранью твоего понимания, и убеждения, которые ты так легко называешь «определенными», подкреплены слабее, чем наши самые слабые гипотезы.» Это разница в восприятии жизни, которую не так легко преодолеть при помощи слов вообще, не говоря уж о том, чтобы сделать это быстро.

Что вы можете попытаться сделать, в плане риторики, выступая перед публикой? Трудно сказать… может быть:

  • «Сила науки исходит из нашей способности изменять свое мнение и признавать свою неправоту. Если вы никогда не признаете свою неправоту, это не значит, что вы совершаете меньше ошибок.»

  • «Каждый может сказать, что он абсолютно уверен. Намного труднее никогда в жизни не совершить ни одной ошибки. Ученые понимают эту разницу, поэтому они не говорят, что они абсолютно уверены. Вот и все. Это не значит, что у них есть какая-то особая причина сомневаться в той или иной теории - абсолютно каждое новое свидетельство может быть в ее пользу, все планеты и звезды выстроятся в линию, как костяшки домино, в поддержку единственной гипотезы, и ученые все равно не скажут, что они абсолютно уверены, потому что они просто ставят более высокие стандарты. Это не значит, что ученые имеют меньше права на определенность, чем, скажем, политики, которые всегда и во всем абсолютно уверены.»

  • «Ученые не используют фразу „не абсолютно уверен“ в том же смысле, в котором она используется в обычном разговоре. Например, представим, что вы идете ко врачу, чтобы сделать анализ крови, и после анализа врач приходит и говорит: „Мы провели несколько тестов и обнаружили, что это не абсолютно точно, что вы не сделаны из сыра, и существует ненулевая вероятность того, что двадцать фей, сделанных из разумного шоколада, поют песню «I love you» из шоу «Барни и его друзья» внутри вашего кишечника.“ Бегите, вашему доктору нужен доктор. Когда ученый говорит эту фразу, он имеет ввиду то, что считает вероятность настолько маленькой, что ее невозможно увидеть и в электронный микроскоп, и ученому необходимо увидеть свидетельство в виде крайне маловероятного события, чтобы опровергнуть теорию.»

  • «Согласились ли бы вы поменять свое мнение о вещах, в которых „абсолютно уверены“, если бы получили достаточно свидетельств? Например, предположим, что сам Бог спустится с небес и скажет вам, что вся ваша религия верна, за исключением Непорочного Зачатия. Если это изменит ваше мнение, вы не можете говорить, что вы абсолютно уверены в истинности Непорочного Зачатия. В силу технических особенностей теории вероятности, если теоретически возможно то, что вы измените свое мнение по определенному вопросу, это явление не может иметь вероятность, точно равную единице. Неопределенность может быть меньше пылинки, но она будет. А если вы не готовы поменять свое мнение даже под влиянием слов самого Бога - тогда, полагаю, у вас такая проблема с невозможностью признания своих ошибок, что ее вряд ли может решить такой смертный, как я.

Но, вообще говоря, более интересный вопрос в том, как вы можете попытаться убедить кого-либо наедине, не перед аудиторией. Как начать долгий процесс обучения жизни во вселенной без абсолютной определенности?

Думаю, первоначальным шагом должно стать понимание того, что можно жить без абсолютной определенности - что, гипотетически говоря, если вы не уверены в чем-то абсолютно, это не значит, что вы не можете принимать решения по моральным и фактическим вопросам. Перефразируя Лоис Буджолд: «Не давите сильнее, ослабьте сопротивление».

Один из самых распространенных методов защиты Абсолютного Авторитета - это то, что я называю «Аргументом против Аргумента в пользу Софизма Серого», который звучит примерно так:

  • Моральные релятивисты говорят:

    • Мир не делится на черное и белое; следовательно:
    • Все серое; следовательно:
    • Ни один человек не лучше другого; следовательно:
    • Я могу делать все, что захочу, и вы меня не остановите ухахахаха.
  • Но мы должны быть способны предотвращать убийства.

  • Следовательно, есть какой-то способ иметь абсолютную определенность, или моральные релятивисты выиграют.

Перевернутая глупость не есть ум. Вы не можете получить верный ответ, просто перевернув каждый аргумент, из которого следует неправильный вывод - это дает глупцам слишком много контроля над вами. Тогда каждая без исключений часть рассуждения должна быть верна с математической точки зрения. И из того факта, что моральные релятивисты говорят, что «Мир не делится на черное и белое», не следует, что это неверно, точно также как из убеждения Сталина в том, что 2 + 2 = 4, не следует, что «2 + 2 = 4» - неверно. Ошибка здесь (и ее достаточно) в переходе от двуцветного взгляда на мир к одноцветному, подразумевающему, что все оттенки серого одинаковы.

Согласившись с предпосылкой о том, что нужно иметь абсолютное знание об абсолютном добре и абсолютном зле, для того чтобы принимать решения по моральным вопросам, мы бы сделали бессмысленным весь дальнейший спор. Можно иметь неполное знание, относительно плохие и относительно хорошие варианты выбора и при этом все равно иметь возможность выбирать. Вообще говоря, это должно быть чем-то естественным, а не тем, о чем стоит так драматизировать.

То есть, да, если перед вами стоит выбор между двумя альтернативами A и B, и каким-то образом вам удалось прийти к абсолютной, доведенной до 100% уверенности в том, что А является абсолютно правильным и хорошим выбором, а B - суммой всего ужасного и отвратительного, тогда это достаточное условие для того, чтобы выбрать А. Но это не обязательное условие.

А, вот еще что: «Логическая ошибка: Ссылаясь на последствия убеждения».

Посмотрим, что еще нужно знать вашему собеседнику? Например, то, что существует целая культура рационализма, в которой сомнение, вопросы и признание своих ошибок не являются чем-то ужасным и постыдным.

В этой культуре принято собирать информацию посредством изучения явлений, а не чтения проповедей. Когда вы изучаете явления более пристальным взглядом, иногда вы обнаруживаете, что они отличаются от того, чем казались на первый взгляд; но это не значит, что Природа вас обманывала, или что вам нужно прекратить изучение.

Также существует идея откалиброванного свидетельства, заключающаяся в том, что «вероятность» не является маленькой шкалой прогресса в голове, которая измеряет вашу эмоциональную привязанность к определенной идее. Скорее, она измеряет то, как часто на практике, в реальной жизни, люди с определенными убеждениями говорят вещи, соответствующие истине. Если вы возьмете сто людей и попросите каждого сказать что-то, в чем они «абсолютно уверены», сколько высказываний будут соответствовать истине? Меньше ста.

Если уж на то пошло, утверждения, относительно которых люди имеют фанатичную уверенность, с намного меньшей вероятностью будут истинными, чем утверждения вроде «Солнце больше Луны», которые кажутся слишком очевидными, чтобы испытывать по поводу них какие-либо эмоции. Каждому утверждению, в котором кто-то «абсолютно уверен», можно найти кого-то, кто будет «абсолютно уверен» в чем-то прямо противоположном, потому что такие эмоциональные провозглашения своих убеждений не могут существовать без наличия противоборствующих сторон. Поэтому маленькая шкала прогресса в головах людей, измеряющая их эмоциональную привязанность к идее, не слишком хорошо отражает откалиброванную уверенность - они даже не связаны между собой.

А что касается «абсолютной уверенности» - ну, если вы говорите, что у некоего события вероятность 99,9999%, это значит, что вы считаете, что можете сделать один миллион одинаковых по силе независимых заявлений, одно за другим без перерыва, в течение года или около того, и ошибетесь в среднем лишь один раз. Это довольно невероятно. (Удивительно то, что мы можем получить примерно такую же степень уверенности для утверждения «Вы не сможете выиграть лотерею».) Так что давайте не будем говорить о вероятностях, равных 1.0. Как только вы поймете, что в реальной жизни такие вероятности не нужны, вы поймете, насколько нелепо верить в то, что можно приблизиться к 1.0 с помощью человеческого мозга. Вероятность, равная 1.0 - это не просто определенность; это бесконечная определенность.

На самом деле, мне кажется, что, для того чтобы не допускать непонимания публики, ученым, возможно, стоит говорить «Мы не БЕСКОНЕЧНО уверены» вместо «Мы не до конца уверены». Во втором случае во время обычного разговора может показаться, что у вас есть определенные причины для сомнений.

Перевод: 

stas
  • Короткая ссылка сюда: lesswrong.ru/348