Вы здесь

Распутывание вопроса

Элиезер Юдковский

«Если дерево падает в лесу, и нет никого рядом, чтобы это услышать, — создаёт ли дерево звук?»

Я не отвечал на этот вопрос. Я не выбирал позицию «да» или «нет» и не защищал её. Вместо этого, я разобрался с тем, как человек обрабатывает слова, даже нарисовал схематическую иллюстрацию нейронной сети. В конечном итоге, я надеюсь, не осталось не только вопроса, но даже ощущения вопроса.

У множества философов, особенно у философов-любителей и философов древнего мира, есть опасный инстинкт: они пытаются ответить на любой заданный вопрос.

Например: «Есть ли у нас свобода воли?»

Опасный инстинкт философии состоит в том, чтобы выдвинуть аргументы «за» и «против», взвесить их, опубликовать их в престижном философском журнале и, наконец, заявить: «да, у нас точно есть свобода воли» или «нет, у нас точно нет свободы воли».

Некоторые философы достаточно мудры, чтобы вспомнить, что большинство философских диспутов в действительности являются спорами о смысле слова или вокруг путаницы, возникшей в результате использования разных смыслов одного слова в разных местах. Такие философы пытаются наиболее точно определить то, что они подразумевают под «свободой воли», и затем возвращаются к вопросу «Есть ли у нас свобода воли? Да или нет?».

Ещё более мудрый философ может заподозрить, что замешательство, вызванное словами «свобода воли» показывает, что понятие ущербно само по себе. Тогда он пускается путём Традиционного Рационалиста. Такой философ начинает рассуждать о том, что понятию «свобода воли» присущи самопротиворечивость или бессмысленность, потому что она не имеет никаких проверяемых последствий. А затем публикует эти сокрушительные замечания в престижном философском журнале.

Но обосновав своё замешательство вы не устраните причину проблемы. Замешательство никуда не денется. Доказательство бессмысленности вопроса поможет не более, чем ответ на него.

Инстинкт философа — найти и занять такую позицию в диспуте, которую проще всего защищать, опубликовать её и пойти дальше. Но «наивный», инстинктивный взгляд — это свойство человеческой психологии. Можно доказывать, что свобода воли невозможна, пока не погаснет Солнце, но это не даст ответа на вопрос из области когнитивистики: если свободы воли не существует, то что происходит в голове человека, который считает, что обладает ею? И это вовсе не риторический вопрос!

Люди думают, что у них есть свобода воли — это факт человеческой психологии. Поиски позиции в диспуте, которую проще всего защищать, не изменят и не объяснят этот психологический факт. Философия может привести вас к отказу от концепции, но отказ от концепции — это не то же самое, что и понимание когнитивных алгоритмов, порождающих эту концепцию.

Можно взглянуть на Стандартный Диспут на тему «Если дерево падает в лесу, и нет никого рядом, чтобы это услышать, — создаёт ли дерево звук?», и поступить в стиле Традиционного Рационалиста — отметить факт, что спорщики не ожидают каких-либо расхождений в наблюдениях, и ликующе объявить, что спор бессмыслен. В данном случае это действительно так, но остаётся вопрос из области когнитивистики: почему спорщики вообще сделали эту ошибку?

Ключевая идея программы изучения эвристик и предвзятостей в том, что ошибки, которые мы делаем, чаще говорят гораздо больше о наших когнитивных алгоритмах, нежели о правильных ответах. Так (однажды спросил я сам себя) каким должно быть устройство разума, чтобы впадать в ошибку спора о деревьях, падающих в безлюдных лесах?

Когнитивные алгоритмы, которые мы используем, — это наш способ воспринимать мир. И эти когнитивные алгоритмы могут не точь-в-точь соответствовать реальности. Они могут не соответствовать даже макроскопический реальности, не говоря уж об истинных кварках. Эти когнитивные алгоритмы могут порождать искажённое восприятие мира.

Например, может существовать обособленный узел в центре нейронной сети, который не соответствует ни реальному явлению, ни какому-либо реальному свойству реального явления, встречающемуся в реальном мире. Существование подобных узлов зачастую оправдано тем, что с их помощью мы можем упрощать вычисления» (Метафорически говоря. На самом деле, человеческая нейробиология гораздо сложнее.)

Этот обособленный узел оставляет ощущение нерешённого вопроса, даже после того, как были получены ответы на все подвопросы, на которые только можно было ответить. Не важно, как сильно кто-то старается доказать, что ответ никак не повлияет на ожидаемый опыт — вы всё равно продолжаете задаваться вопросом «И всё же, производит падающее дерево звук или нет?».

Но все вопросы будут сняты, как только вы поймёте в деталях, почему и как ваш мозг создаёт это чувство вопроса, как только вы осознаете, что чувство неотвеченного вопроса соответствует иллюзорному центральному узлу нейронной сети, который не знает, возбуждаться ему или нет, несмотря на то, что все окружающие его узлы уже перешли в определённые состояния. Или ещё лучше, если вы поймёте принципы работы наивного байесовского метода. Не останется ни тянущегося чувства замешательства, ни неясного ощущения неудовлетворённости.

Если же тянущееся чувство наличия неотвеченного вопроса остаётся, или кажется, что вы заговариваете себе зубы, то это знак, что вы не разложили вопрос. Неясное ощущение неудовлетворённости должно предостерегать не хуже окрика. От вопроса, который действительно был распутан и разложен на составляющие, не остаётся ничего.

Ликующе-громогласное отрицание свободы воли, абсолютно неоспоримое доказательство того, что свобода воли не может существовать, кажущееся вполне удовлетворяющим — это крики «ура!» домашней команде(english). В таком случае можно и не заметить, что с точки зрения когнитивистики так и не было получено удовлетворительного объяснения, описывающего по шагам то, как возникает каждое интуитивное ощущение.

Может даже захотеться не признавать своё непонимание, ведь это будет восприниматься как очки не в пользу вашей команды. Если признать во время разноса неразумных верований в свободу воли, что осталось что-то неразъяснённое, то это может показаться уступкой противнику.

Так можно когда-нибудь прийти к какому-нибудь само собой разумеющемуся(english) утверждению из области эволюционной психологии. Например, что древние племена, верившие в свободу воли, были более склонны иметь позитивные взгляды на мир и, следовательно, иметь большее потомство, чем другие племена — что, разумеется, полная чушь. Говорящий так утверждает, что мозг создаёт иллюзию свободы воли, но не объясняет, как именно мозг это делает. Можно попытаться победить оппозицию, подрывая её посылки, но в таком объяснении иллюзия свободы воли принимается как свершившийся факт. Сама же иллюзия так и не была разобрана на части.

Представьте, что в Стандартном Диспуте о дереве, падающем в безлюдном лесу, вы сначала показали, что нет никакой разницы в ожиданиях, а затем стали размышлять: «Возможно, что те люди, которые говорили о бессмысленности споров, воспринимались как согласившиеся с правотой оппонента и теряли свой социальный статус. Поэтому среди нас закрепился инстинкт спорить о смысле слов». Это утверждение о том, что замешательство существует и объяснение-почему оно возникает. Взгляните теперь на структуру нейронной сети в эссе «Ощути смысл» – это объяснение-как, разбор замешательства на более мелкие части, каждая из которых не вызывает замешательства сама по себе. Поняли разницу?

Найти хорошую гипотезу о когнитивных алгоритмах (или хотя бы гипотезы, которые не развалятся за полсекунды) — гораздо сложнее, чем просто опровергнуть философское замешательство. В самом деле, это это совершенно иное искусство. Держите это в уме, и будете меньше смущаться, произнося слова «Я знаю, что то, что вы говорите, не может быть истиной, и я могу доказать это. Но я не могу написать блок-схему, которая покажет, как ваш мозг совершает ошибку, и это значит, что мне нужно продолжать разбираться».

Я говорю это, потому что иногда мне кажется, что как минимум 20% реальной эффективности тренированного рационалиста проистекает из того, что он не останавливается слишком рано. Если вы продолжите задавать вопросы, то рано или поздно вы доберётесь до пункта назначения. И наоборот, вы не доберётесь, если слишком рано решите, что ответ найден.

Важнее всего заметить своё замешательство. Даже если оно еле заметно. Даже если кто-то рядом с вами настаивает, что у людей есть свобода воли, и ухмыляется, а то, что вы не знаете в точности, как именно работают когнитивные алгоритмы, ничем не может помочь справиться с ужасающей глупостью его мнения.

Но, когда вы разобрали когнитивный алгоритм на детали в достаточной мере для того, чтобы проследить весь процесс мысли шаг за шагом и описать, как возникает каждое интуитивное восприятие — то есть, разобрать замешательство на более мелкие части, которые сами по себе не вызывают замешательства — то вы справились с вопросом.

Будьте готовы к тому, что вы можете поверить в то, что вы справились, когда на самом деле вы всего лишь ликующе опровергли ошибку.

Но когда вы действительно справитесь, вы узнаете об этом. Распутывание вопроса вызывает чувство, которое вы ни с чем не спутаете, после того как столкнётесь с ним впервые, и столкнувшись с ним, решите не попадать впросак снова. Спящие не знают, что они спят, но когда вы проснётесь, вы поймёте, что не спите(english).

То есть: когда вы справились с задачей, вы узнаете, что вы с ней справились, но, к сожалению, не наоборот.

Вот домашнее задание: в соответствии с тем, как алгоритм ощущается изнутри, определить, как устроен когнитивный алгоритм, которым порождён приведённый выше спор о «свободе воли».

Ваша задача не спорить о том, есть ли у людей свобода воли или нет.

Ваша задача не рассуждать о том, совместима ли свобода воли с детерминизмом или нет.

Ваша задача не доказывать, что вопрос плохо поставлен, или что концепция противоречива, или что нет проверяемых следствий.

Вам не следует придумывать эволюционное объяснение тому, как размножались люди, верившие в свободу воли, или рассуждать о том, что концепция свободы воли выглядит подозрительно совпадающей с некоторым искажением X. Всё это будет всего лишь объяснением-почему люди верят в «свободу воли», а не объяснением-как они это делают.

Ваше домашнее задание — проследить и выписать список вызовов функций1 внутренних алгоритмов человеческого ума, по мере того, как ими порождается интуиция, питающая весь этот чёртов философский спор.

Это один из первых настоящих вызовов, с которым я, как целеустремлённый рационалист, когда-то столкнулся. Относительно прочих эта головоломка довольно проста. Пусть она послужит и вам.

  • 1. В оригинале «stack trace» – Прим.перев.

Перевод: 
kuuff
Номер в книге "Рациональность: от ИИ до зомби": 
189
Оцените качество перевода: 
Средняя оценка: 4.2 (10 votes)
  • Короткая ссылка сюда: lesswrong.ru/190