Вы здесь

Когда рекурсивное обоснование достигает конца

Элизер Юдковский

Почему я считаю, что Солнце взойдет завтра?

Потому что я тысячи раз видел, как солнце восходит в предыдущие дни.

Да, но почему я убежден, что будущее будет походить на прошлое?

Даже если перейти от поверхностных наблюдений о встающем Солнце, к видимо универсальным и не допускающим исключений законам гравитации и ядерной физики, даже тогда этот вопрос так и остается нерешенным: «Почему я считаю, что все это будет выполняться завтра?»

Я мог бы апеллировать к Бритве Оккама, принципу использования наиболее простой теории, удовлетворяющей фактам… но каковы основания доверять бритве Оккама? Потому что следование ей приводило к успеху в прошлом? Но разве из этого следует, что Бритва Оккама продолжит работать и завтра?

И так было сказано:
Наука также зависит от необоснованных допущений. Таким образом, наука фундаментально основана на вере, так что не смейте критиковать меня за веру в [глупое-убеждение-№238721]»

Как я уже отмечал ранее:
Крайне показательно, что утверждения вида: «Наука основана на вере, вот вам!» - обычно произносятся людьми, считающими веру чем-то хорошим. Тогда почему они говорят: «Наука тоже основана на вере!», столь победоносно высокомерным тоном, а не как будто делают комплимент?

Требование иммунитета к критике, редко является хорошим знаком.

Но это не решает вполне легитимную философскую дилемму: если каждое убеждение должно быть обосновано, и эти обоснования также должны быть обоснованы, то как же разрешается эта бесконечная рекурсия?

И, если в конце концов вам можно просто допустить что-то без обоснования, то почему вам нельзя просто допустить все что угодно без обоснования?

Подобная критика иногда встречается по отношению к Байесианству – что оно требует принятия некоторого базиса – похоже, эти люди считают, что проблема индукции – это исключительная проблема Байесианства, которую можно избежать, используя классическую статистику. Об этом я, возможно, поговорю позже.

Но сперва, давайте явно признаем, что правила Байесианского обновления сами по себе не решают проблему индукции.

Представьте, что вы достаете красные и белые мячики из урны. Вот вы достали 9 штук и 6 из них оказались белыми, а 3 красными. Какова вероятность того, что следующий мячик окажется красным?

Это зависит от ваших исходных убеждений касательно урны. Если вы считаете, что ее создатель пользовался генератором случайных чисел со значениями от нуля до единицы и использовал результат как фиксированную вероятность того, что конкретный мячик будет красным, то ответ 4/11 (по правилу Лапласса). Если вы считаете, что урна изначально содержала 10 красных и 10 белых мячей, то ответ 7/11.

Таким образом, при правильно (или, скорее, неправильно) подобранных исходных положениях нам бы казалось, что шанс того, что Солнце взойдет завтра, будет уменьшаться с каждым следующим днем… Например, если вы абсолютно априори уверены, что где-то существует огромная бочка, и из нее каждый день достают клочки бумаги, надпись на которых и определяет, взойдет ли солнце или же нет. И если в бочке содержится лишь ограниченное количество клочков бумаги с надписью «Да», а выбираются они без возвращения.

В пространстве всех возможных разумов существуют разумы, с анти-Оккамовскими и анти-Лаплассовскими исходными допущениями. Они верят, что чем проще теория, тем менее она правдоподобна и что чем чаще нечто происходит, тем меньше вероятность того, что это повторится.

И если вы спросите у этих странных существ, почему они продолжают использовать допущения, которые, похоже, никогда не работают в реальной жизни… то они ответят: «Потому что это никогда не срабатывало раньше!»

Урок, который можно извлечь отсюда таков: «Нечего иметь дурацкие исходные положения». Это невероятно полезный на практике принцип, но сомневаюсь, что он удовлетворит философов.

Вот как я пытаюсь решить эту проблему самостоятельно: Я подхожу к таким вопросам как «Следует ли мне доверять своему мозгу?» или «Следует ли мне доверять бритве Оккама?» как и к любому другому.

Следует ли мне доверять Бритве Оккама? Ну, насколько хорошо (какая-либо конкретная формулировка) Бритвы Оккама работает на практике? Какие обоснования из области теории вероятностей я могу найти для нее? Когда я смотрю на вселенную, похоже ли, что это та вселенная, в которой Бритва Оккама могла бы хорошо работать?

Следует ли мне доверять своему мозгу? Очевидно, нет – он не всегда работает правильно. Но тем не менее, человеческий мозг кажется куда более могущественным, чем самые умудренные компьютерные программы, которым я мог бы доверять в противном случае. Насколько хорошо мой мозг работает на практике, с какими проблемами он успешно справляется?

Когда я изучаю причинностную историю своего мозга – его истоки, заключенные в закономерностях естественного отбора, – с одной стороны я нахожу множество конкретных причин для сомнений: мой мозг был оптимизирован под работу в условиях древних саванн, а не под решение математических задач. Но, с другой стороны, так же становится понятным, почему мозг в принципе способен работать. Естественный отбор быстро бы избавился от мозгов, настолько неподходящих для рассуждений, настолько вредных, как имеющие анти-Оккамианские и анти-Лаплассианские исходные положения.

Данная методика не является объявлением внезапной остановки в приведении обоснований. Я не обрываю цепь проверки на моменте, когда я дохожу до Бритвы Оккама или же своего мозга или же еще чего-то неоспоримого. Цепь проверки продолжается - но, для этого ей необходимо использовать мой нынешний мозг и известные мне методы рассуждения. А что еще я мог бы использовать?

В самом деле, как бы я ни решил эту дилемму, принимать решение все равно буду я. Даже если бы я решил доверять чему-то внешнему, какой-либо компьютерной программе, довериться ей все равно было бы моим решением.

Отказ от убеждений, не имеющих какого-либо обоснования, является крайне полезной практикой. Не редко я говорю, что фундаментальный вопрос рациональности это: «Почему ты веришь в то, во что ты веришь?» Я бы не хотел произносить что-то даже просто звучащее, как ненуждающееся в обосновании.

Что само по себе является не самой здоровой мотивацией: не всегда можно избегать вещей кажущихся опасными и если кто-то раздражает вас своей глупостью, нельзя обернуть эту глупость и получить ум.

И все же, я подчеркну разницу между следующими высказываниями:
«Вот допущение, которое я не могу обосновать, которое просто должно быть принято за истину без какого-либо дальнейшего изучения»
И
«Вот продолжающееся изучение допущения, использующее силу всего моего нынешнего интеллекта – вместо того, чтобы использовать что-нибудь еще, например генератор случайных чисел или волшебный шар – даже при том, что мой нынешний интеллект основан на этом самом допущении.»

Все же, разве не было бы здорово, если бы можно было изучить проблему того, насколько доверять своему мозгу без необходимости использовать свой текущий интеллект? Не было бы лучше, если бы мы могли бы решать проблему о том, как думать, не используя свой нынешний уровень рациональности?

Хмм. Если поставить вопрос таким образом, начинает создаваться впечатление, что возможно и нет.

Джейнс говорил, что вы должны всегда использовать всю доступную вам информацию – он был теоретиком Байесианства, которому приходилось распутывать парадоксы, созданные другими людьми, в результате использования различной информации на разных этапах вычислений. Принцип «Всегда прикладывай максимум усилий» кажется не менее достойным чем «Никогда не делай ничего напоминающего логический круг». В конце концов, альтернатива к тому чтобы стараться как можно сильнее – это делать меньше, чем можно было бы.

Но все же… разве не было бы здорово, если бы существовал способ обосновать Бритву Оккама или же то, что будущее будет похожим на прошлое, без использования допущения, что методы успешно работавшие в прошлом лучше тех, что стабильно приводят к провалу?

Разве не было бы здорово, если бы существовала некая цепочка обоснований, которая ни упирается в непроверяемые допущения, ни вынуждена проверять саму себя на основании своих же правил? Такая цепочка обоснований, что могла бы начаться с чистого листа и убедить идеального студента философии абсолютной пустоты?

Ну, это определенно было бы любопытным, но я не ожидаю увидеть ничего подобного в ближайшее время. В прочих эссе я уже не раз выступал против возможности существования абсолютно чистого призрака в машине. Нет такого аргумента, что смог бы убедить камень.

Так что даже если кому-то удастся решить Проблему Первопричины и получить настоящее обоснование того, что вселенная проста, которое при этом не будет нуждаться в допущении простоты вселенной… и тогда я буду ожидать, что это объяснение может быть понято лишь наделенным разумом слушателем, а не, скажем, камню. Слушатели, изначально не способные к осуществлению modus ponens, остаются не у дел.

Так что же в итоге происходит, когда кто-то спрашивает меня «Почему я верю в то, во что я верю?»

В настоящее время я начинаю ходить по следующему циклу объяснений: «Я предсказываю, будущее, полагая, что оно будет напоминать прошлое на наиболее простом и стабильном уровне организации материи, что я способен обнаружить, потому что ранее следование этому правило обычно давало хорошие результаты. И используя простое допущение о простоте вселенной, я могу понять, почему оно дает хорошие результаты, и я даже могу понять, каким образом мой мозг мог эволюционировать так, чтобы наблюдать вселенную с определенной степенью точности, при условии, что мои наблюдения верны».

Но разве я только что не воспользовался логическим кругом?

Ну вообще-то я только что воспользовался изучением степени достоверности своего ума, используя для этого свой нынешний ум, вместо чего бы то ни было еще.

Рефлексии подобного рода, в самом деле, и являются причиной по которой мы изначально отметаем большинство логических кругов. Мы хотим иметь непротиворечивую причинностную историю того, как наш мозг приходит к знанию чего бы то ни было, объясняющую каким образом процесс, который мы используем для приобретения убеждений является надежным. Вот в чем глубинная потребность стоящая за фундоментальным вопросом рациональности: «Почему вы верите в то во что вы верите?»

Теперь представьте, что вы написали на листке бумаги: «1) Все, что написано на этом листке бумаги истинно, 2) Масса атома гелия равна 20 граммам». Если бы подобное действительно работало бы в реальности, то вы могли бы узнать истинную массу атома гелия, просто приняв на веру самообосновывающееся утверждение. Что позволяло бы выстраивать истинную карту вселенной, сидя у себя в комнате с закрытыми занавесками. Что нарушало бы второй закон термодинамики, создавая информацию из ниоткуда. Что не было бы правдоподобным объяснением того, как ваш разум оказался убежден в чем-то истинном.

Даже если бы вы начали с того, чтобы верить бумажке, не похоже, что есть какие-либо причины по которым она могла бы соответствовать реальности. Это было бы просто чудесным совпадением, что а) масса атома гелия 20 грамм и б) на бумажке написано именно это.

В целом, вера в самообосновывающиеся утверждения не кажется рабочим способом создания карты, соответствующей территории - стоит нам изучить причинностную историю разумов, используя для этого, разумеется, свой собственный разум.

Но что насчет эволюции, в результате которой мы начинаем отдавать предпочтения более простым убеждениям и считать, что алгоритмы работавшие в прошлом с большей вероятностью будут работать и в будущем? Даже когда мы изучаем данную причинностную историю возникновения нашего разума, все равно кажется, что она могла бы правдоподобно работать для описания реальности.

Но что насчет доверия рефликтивной самосогласованности как таковой? Разве большинство разумов среди всех возможных, сгенерированных случайно и принявших состояние внутренней непротиворечивости не будет ошибаться? Но ведь наш разум и не является случайно сгенерированным. Он эволюционировал при помощи естественного отбора.

Если данный аргумент кажется вам подозрительным, то забудьте на секунду о проблеме философского обоснования и задайте себе вопрос: «Действительно ли это является истинным?»

(Для чего вы, конечно же, воспользуетесь собственным разумом.)

Но разве это не то же самое, что утверждать «Я верю, что Библия – это слово Божие, потому что так утверждается в Библии»?

Не могут ли верующие утверждать, что их слепая вера была помещена в них Богом и поэтому является достоверной?

Ну вообще-то, когда религиозные люди наконец-то приходят к отказу от Библии, они делают это вовсе не за счет того, что магическим образом переводят свой разум в нерелигиозное состояние абсолютной пустоты, затем заново переосмысляют свои религиозные убеждения в этом нерелигиозном состоянии разума, а затем перескакивают в новое состояние, в котором они уже не имеют религиозных убеждений.

Люди перестают быть религиозными, потому что сомнение проникает даже в религиозный разум. Они замечают, что их молитвы (и что хуже, молитвы, казалось бы, куда более достойных людей) остаются без ответа. Они замечают, что Бог, который дает вроде бы утешительные ответы о вселенной, не способен сказать им о сотом знаке после запятой числа пи (что было бы крайне обнадеживающим, желай Бог бы вас обнадежить). Они изучают историю сотворения Богом мира и проклятия неверующих, и это кажется бессмыслицей даже, если исходить из их собственных религиозных предпосылок.

Религиозность не делает вас менее человеком. Ваш мозг обладает все теми же возможностями человеческого мозга. Опасность религиозности в том, что она может помешать вам применять эти способности по отношению к своей религии - помешает полноценной саморефлексии. Люди избавляются от своих ошибок не за счет того, что обнуляют себя до идеального философа абсолютной пустоты и переосмысляют свой опыт с чистого листа. Люди избавляются от своих ошибок, подвергая свои убеждения сомнению, используя силу своего текущего разума.

Вот почему так важно отличать саморефлексию при помощи своего разума (не то, чтобы вы могли использовать что-то еще) и обладание неоспоримыми допущениями, о которых вы не можете рефлексировать.

«Я верю, что Библия — это слово Божие, потому что так написано в Библии». Ну, если бы Библия была бы невероятно надежным источником информации касательно всех прочих вопросов, если бы вместо утверждений, что у кузнечиков четыре ноги, а вселенная была создана за шесть дней, в ней содержалась бы периодическая таблица элементов за века до появления химии, если бы Библия действительно служила нам верой и правдой как источник истины, тогда, вообще-то, нам стоило бы на полном серьезе рассмотреть это отдельное утверждение, что Библия была написана Богом.

Аналогично, если бы все остальное, что говорили священники, оказалось бы правдой, то мы могли бы и более серьезно отнестись к утверждению, что вера была помещена в нас Богом и является систематически надежным источником знания, особенно, если бы люди были бы способны постичь сотый знак после запятой числа пи, при помощи одной лишь веры.

То, что утверждение «Я верю, что Библия слово Божие, потому что так написано в Библии» является порочным кругом не должно приводить к отказу от саморефлексии на основании своего собственного ума. Мы просто должны понимать, что все, что ставит под сомнение достоверность Библии, также ставит под сомнение и ее заверения в собственной достоверности.

Это также касается и рациональности. Если будущее перестанет быть похожим на прошлое – даже на простейших и наиболее стабильных уровнях организации – ну тогда я, скорее всего, уже буду мертв, так для функционирования моего мозга необходима упорядоченная вселенная, в которой по-прежнему работают законы химии. Но, если каким-то образом мне бы удалось выжить, тогда мне следовало бы поставить под сомнение принцип, согласно которому будущее должно напоминать прошлое.

Но раз пока этого не случилось, какова альтернатива утверждению: «Я полагаю, что будущее будет напоминать прошлое на наиболее стабильном уровне организации материи, какой только я смогу обнаружить, так как данное убеждение успешно оправдывалось в прошлом и давало лучшие результаты, чем любое другое»?

Это утверждение: «Вера в то, что будущее не будет напоминать прошлое, всегда меня подводила, и именно поэтому я и буду так считать»?

Помните, что быть рационалистом – это не значит выигрывать споры у идеальных философов абсолютной пустоты. Быть рационалистом – это просто выигрывать. И для этого мы хотим приблизиться настолько близко к истине насколько это возможно. И таким образом я принимаю следующий принцип: Сомневаться в том, что утверждает мозг и что подсказывает интуиция, сомневаться в своих принципах рациональности, используя всю текущую силу своего ума, и прикладывая все доступные усилия на каждом шагу.

И если один из ваших нынешних принципов окажется несовершенным – согласно вашей же собственной проверке, раз уж вы не можете выйти за рамки себя – то измените его! А затем снова взгляните на себя и мир вокруг, используя ваши новые усовершенствованные принципы.

Смысл не в том, чтобы быть рефлексивно последовательным. Смысл в том, чтобы выигрывать. Но, следя за собой, играя с целью выиграть, мы становимся более рефлексивно последовательными. Вот что значит «играть, чтобы выигрывать» и одновременно «следя за собой».

Все без исключения требует обоснования. Иногда - и неизбежно, насколько я могу судить - эти обоснования будут замыкаться в самосогласованную рефлексию. И я считаю, существуют признаки, позволяющие при помощи здравого смысла отличить ее от порочного логического круга. Но всякий кто всерьез рассматривает порочные круги, весьма далек от рациональности. И, конечно же, подобные люди будут настаивать, что порочный круг — это «самосогласованная рефлексия», даже если она состоит всего лишь из единственного клочка бумаги с надписью «Верь мне». Что ж, не всегда удается совершенствовать методы рационального мышления, заботясь еще и о том, чтобы люди настолько одержимые саморазрушением не использовали их, чтобы раз за разом стрелять себе в ногу.

Никогда не сдерживайтесь, критикуя способы критики, и не считайте неизбежность циклических обоснований лицензией на иммунитет к критике.

Всегда боритесь в полную силу, и не важно, приводит ли это к замкнутому циклу или нет – прикладывайте столько усилий, сколько способны. И в конечном итоге, играйте, чтобы выигрывать.


Перевод: 
Горилла В Пиджаке
Номер в книге "Рациональность: от ИИ до зомби": 
264
Оцените перевод: 
Средняя оценка: 4 (2 votes)
  • Короткая ссылка сюда: lesswrong.ru/467