Вы здесь

Суть твоя — физика

Элиезер Юдковский

Три месяца назад — ничего себе, неужели это было так давно? — я дал домашнее задание: провести трассировку стека1 человеческих когнитивных алгоритмов, которые порождают дебаты о «свободе воли». Обратите внимание, что эта задача совершенно отлична от задачи доказательств существования или не-существования свободы воли.

Сейчас, как и ожидалось, люди задаются вопросом: «Если будущее предопределено, как наш выбор может его контролировать?» Мудрый читатель может догадаться, что все это укладывается в нормальность; но остается вопросом, как именно.

Люди слышат: «Вселенная работает как часы; физика детерминирована; будущее предопределено». И в их разуме образуется сеть причинно-следственных связей, которая выглядит следующим образом:

Здесь мы видим, что причины «Я» и «Физика» конкурируют за определение состояния «Будущего» следствия. Если «Будущее» полностью определено «Физикой», то очевидно, что «Я» не может на него повлиять.

Эта причинно-следственная сеть — не явное философское убеждение, а скрытое, фоновое представление мозга, контролирующее, какие философские аргументы кажутся «разумными». Только кажется, что дела обстоят именно так.

Время от времени появляется очередной пресс-релиз по нейробиологии, в котором утверждается, что, поскольку исследователи использовали фМРТ, чтобы увидеть, как мозг делает те или иные вещи во время процесса принятия решений, то выбор делаете не вы, а ваш мозг.

Как в старой избитой мысли: «Редукционизм подрывает саму рациональность. Потому что он означает, что каждый раз, когда вы что-то говорите, это не результат рассуждений о доказательствах — это просто кварки скачут туда и сюда».

Разумеется, реальная диаграмма должна быть такой:

Или лучше даже такой:

Почему это не очевидно? Потому что есть много уровней организации, которые отделяют наши модели наших мыслей — наших эмоций, наших убеждений, наших мучительных колебаний и нашего окончательного выбора — от наших моделей электронов и кварков.

Мы интуитивно можем отчетливо представить себе, что рука состоит из пальцев (и ладони). Очевидно, что неправильно спрашивать, берем ли мы что-то на самом деле своей рукой или же просто нашими пальцами и ладонью.

Но разрыв между физикой и мышлением не может быть преодолен путем прямого представления. Никто не может представить себе, как атомы составляют человека так же отчетливо, как могут представить, что пальцы составляют руку.

Поэтому нужна постоянная бдительность, чтобы поддерживать восприятие себя как сущности внутри физики.

Эта бдительность — один из величайших ключей к философии, подобно пониманию ошибки проецирования ума. Как вы помните, именно этот момент я назвал сбивающим с толку квантовых физиков, которые не смогли представить себе макроскопическую декогеренцию; они не подумали применить те же законы к самим себе.

Убеждения, желания, эмоции, мораль, цели, образы, ожидания, чувственные восприятия, мимолетные желания, идеалы, искушения… Вы могли бы назвать это «поверхностным слоем» разума, теми частями «Я», которые люди могут видеть даже без науки. Если я скажу: «Не вы определяете будущее, а ваши желания, планы и действия определяют будущее», вы легко сможете увидеть отношения части и целого. Это видно сразу, как и в случае с пальцами, составляющими руку. Есть другие отношения части и целого, доходящие вплоть до физики, но они не сразу видны.

«Компатибилизм» — это философская позиция, согласно которой «свободу воли» можно интуитивно и удовлетворительно определить так, чтобы она была совместима с детерминистической физикой. «Инкомпатибилизм» — это позиция, согласно которой свобода воли и детерминизм несовместимы.

Мою позицию можно было бы назвать «реквайредизмом»2. Когда агентность, выбор, контроль и моральная ответственность воплощаются разумным путем, они требуют детерминизма — хотя бы в некоторых участках во Вселенной. Если вы выбираете, планируете, действуете и воплощаете в жизнь какое-либо будущее в соответствии с вашим желанием, то все это требует реальности закономерного типа; вы не можете заниматься этим в условиях полного хаоса. Должен быть порядок хотя бы в тех частях реальности, которые вы контролируете. Вы находитесь внутри физики, и поэтому вы/физика определили будущее. Если бы оно не было определено физикой, оно не могло бы быть определено вами.

Или, может быть, мне следует сказать: «Если бы будущее не было определено реальностью, оно не могло бы быть определено вами» или «Если бы будущее не было определено чем-то, оно не могло бы быть определено вами». Вам не нужна нейробиология или физика, чтобы довести до бессвязности наивные определения свободы воли. Если бы разум не был воплощен в мозгу, он был бы воплощен в чем-то другом; была бы какая-то реальная вещь, которая была бы разумом. Если бы будущее не определялось физикой, оно определялось бы чем-то, каким-то законом, каким-то порядком, какой-то большей реальностью, которая включала бы вас в себя.

Но если нами управляют законы физики, то как можно говорить, что мы себя контролируем?

Посмотрите на это так: если бы законы физики не контролировали нас, как бы мы могли контролировать себя?

Как мысли могут судить другие мысли, как эмоции могут конфликтовать друг с другом, как один образ действий может показаться лучшим, чем другие, как мы можем перейти от неуверенности к уверенности в наших собственных планах посреди полного хаоса?

Если бы нас не было в реальности, где бы мы могли быть?

Будущее определяется физикой. Что это за физика? Та физика, которая включает в себя действия людей.

Выбор людей определяется физикой. Что это за физика? Та физика, которая включает в себя взвешивание решений, рассмотрение возможных последствий, суждения о них, искушение, следование морали, рационализацию проступков, попытки поступить лучше…

Нет такого, что какой-то кварк внезапно прилетит с Плутона и отменит все это.

Все мысли из вашего процесса принятия решений реальны, все они что-то собой представляют. Но мысль слишком велика и сложна, чтобы быть атомом. Значит мысли состоят из вещей поменьше. И мы называем то, из чего состоят вещи, «физикой».

Физика лежит в основе наших решений и включает в себя наши решения. Она не разобъясняет их.

Помните — физика складывается в нормальность. Это ваши когнитивные алгоритмы создают путаницу.

  • 1. Трассировка стека — понятие из программирования. — Прим.перев.
  • 2. В оригинале «requiredism», от слова «require» («требовать»). — Прим.перев.

Перевод: 
К. Кирдан
Номер в книге "Рациональность: от ИИ до зомби": 
241
Оцените качество перевода: 
Средняя оценка: 5 (2 votes)
  • Короткая ссылка сюда: lesswrong.ru/3864