Физикализм для продвинутых

Автор: 
Элиезер Юдковский

Рука или пальцы

Элиезер Юдковский

Вернёмся к нашей изначальной теме: Редукционизму и ошибке проецирования ума. Иногда люди считают, что классными могут быть лишь фундаментальные штуки, и тогда им сложно принять редукционизм на эмоциональном уровне. Но такая позиция лишит нас возможности наслаждаться чем-либо сложнее кварка, так что я предпочитаю отбросить её.

Напоминаю, что основной тезис редукционизма состоит в том, что хотя мы и используем многоуровневые модели для упрощения вычислений, физическая реальность состоит лишь из одного уровня.

Сегодня же я бы хотел предложить вам следующую загадку: Когда вы берёте стакан воды, его берёт ваша рука?

Большинство людей, конечно же, наивно ответят: «Да».

Однако недавно учёные совершили невероятное открытие. Оказывается, стакан держит вовсе не рука. На самом деле, его держат ваши пальцы и ладонь.

Да, я знаю, меня это тоже потрясло. Но оказалось, что когда учёные измерили силы, приложенные к стакану каждым из ваших пальцев и ладонью, то они не обнаружили никакой дополнительной силы. Таким образом, сила, прикладываемая вашей рукой, должна быть равна нулю.

Идея здесь в том, что когда вы можете увидеть (а не просто знать), как более высокий уровень редуцируется к более низкому, они не будут казаться вам отдельными местами на вашей карте. Вы сможете увидеть, насколько глупо думать, что пальцы могут быть отдельно от вашей руки. Вы сможете увидеть, насколько глупо спорить о том, берёт ли стакан ваша рука или же ваши пальцы.

Ключевое слово: «увидеть». Важна непосредственная визуализация. Когда вы представляете руку, вы также представляете и пальцы, и ладонь. И наоборот, представив ладонь и пальцы, вы поймёте, что это рука. Таким образом, высокий и низкий уровни вашей карты внутри вашего разума окажутся тесно связаны.

В реальности, конечно же, эти уровни связаны ещё теснее — самым тесным из возможных способов: физической идентичностью. Это можно увидеть. Вы можете увидеть, что слова (1) «рука» или же (2) «пальцы и ладонь» относятся не к различным объектам, а всего лишь к различным точкам зрения.

Но представим, что вам не хватает знаний, чтобы настолько тесно связать уровни вашей карты. Например, предположим, у вас был бы «детектор руки», который отображал бы «руку» как точку на карте (как на старых дисплеях радаров), и аналогичные детекторы для пальцев и ладони. Тогда бы вы видели множество точек вокруг руки, но вы могли бы представить, как точка-рука передвигается отдельно от остальных. Таким образом, несмотря на то, что физическая реальность руки (того, чему соответствует точка) идентична/строго состоит из физических реальностей пальцев и ладони, вы бы не смогли увидеть этот факт. Даже если бы кто-то сказал вам, или же если бы вы сами догадались, глядя на совпадение в расположении точек, вы бы только знали о факте редукции, но не могли бы его увидеть. Вы все ещё могли бы представить как точка-рука двигается отдельно, хотя это было бы физически невозможным, при условии, что физическое устройство детекторов остаётся неизменным.

Или же, на ещё более низком уровне связности, люди могли бы просто сказать вам «Вон там рука, а вон там пальцы». И у вас было бы информации не больше, чем у старомодного ИИ, воспринимающего ситуацию, используя Лисп-токены с говорящими названиями. Не было бы никакого очевидного противоречия в допущении:

|—Внутри(Комната,Рука)
|—~Внутри(Комната,Пальцы)

Потому что вы бы не обладали знанием, что:

|—Внутри(x, Рука)—> Внутри(x,Пальцы)

Из этого не следует, что рука на самом деле может отсоединиться от пальцев и подобно призраку красться по комнате. Просто у старомодного ИИ с таким устройством нет возможности это понять. Карта — это не территория

В частности, не следует делать слишком много выводов из того, что выглядит умозрительно возможным, ведь разум отдельного воспринимающего субъекта может отделить руку от составляющих её элементов: пальцев и ладони. Умозрительная возможность это не то же самое, что логическая и уж тем более физическая возможность. Вероятно, вы считаете умозрительно возможным, что 235757 — простое число, потому что вы не знаете наверняка. Но логически невозможно, чтобы 235757 было простым числом. Будь вы логически всеведущими, то для вас было бы очевидным, что 235757 составное (и вы бы знали его множители). Вот почему мы используем понятие «невозможных возможных миров»: чтобы рассуждать о вероятностных распределениях по высказываниям, которые на самом деле могут быть или не быть логически возможными.

И легко вообразить философов, критикующих «элиминативных пальцеристов», которые противоречат непосредственному факту личного опыта. Мы ведь можем чувствовать, что наша рука держит стакан. Таким образом, допущение, что «руки» на самом деле не существуют, должно очевидно привести к тому, что стакан упадёт и разобьётся. Также легко вообразить философов, предполагающих существование «межпальцевых связывающих законов», чтобы объяснить, как специфическая конфигурация пальцев порождает существование руки — с дополнением, разумеется, что хотя наш мир и включает в себя эти конкретные «связывающие законы», умозрительно они могли бы быть другими и, таким образом, не являются ни в коем смысле обязательными фактами, и так далее.

Всё это случаи ошибки проецирования ума, и то, что я называю «наивным философским реализмом» — озадаченность философской интуиции касательно прямой, проверяемой информации о реальности. Ваша неспособность представить что-то — всего лишь вычислительный факт о том, что ваш мозг может и не может представить. Другой мозг может работать иначе.

Перевод: 
Горилла В Пиджаке
Номер в книге "Рациональность: от ИИ до зомби": 
214
Оцените перевод: 
Средняя оценка: 5 (2 votes)

Злые атомы

Элиезер Юдковский

Фундаментальная физика — кварки и всё такое — очень далека от тех уровней, который мы можем увидеть, вроде рук и пальцев. В лучшем случае, вы знаете, как повторить эксперименты, показывающие, что ваша рука (как и всё остальное) состоит из кварков, и знаете, как вывести несколько уравнений, описывающих атомы, электронные облака, молекулы и прочие подобные штуки.

В худшем случае, существование кварков внутри вашей руки — это какое-то утверждение, которое вам сказали. В таком случае встаёт вопрос, в каком смысле вы вообще можете сказать, что «знаете» об этом, пусть даже вы используете то же слово «кварк», которое использовал бы физик, чтобы передать знание другому физику.

В любом случае, вы не можете действительно увидеть общность между уровнями — ни у кого нет настолько большого мозга, чтобы представить несколько чисел Авогадро кварков и заметить, как они складываются в руку.

Но мы, по крайней мере, понимаем, что руки делают. Руки могут давить на объекты, прикладывая к ним силу. Когда нам рассказывают об атомах, мы представляем маленькие бильярдные шары, стукающиеся друг о друга. Кажется очевидным, что «атомы» тоже могут толкать объекты, врезаясь в них.

Подобное представление об атомах не вполне корректно. Однако человеческое воображение позволяет относительно просто представить, что наша рука сделана из маленькой галактики кружащих бильярдных шариков, давящих на вещи, когда наши «пальцы» касаются их. Демокрит представил это 2400 лет назад, и какое-то время (примерно в 1803-1922 годах)Наука считала, что он был прав.

Но как насчёт, например, злости?

Как маленькие бильярдные шарики могут злиться? На бильярдных шарах появляются маленькие хмурые лица?

Представьте себя на месте охотника-собирателя — кого-то, кто даже не имеет представления о письме, не говоря уже о том, чтобы использовать материю для вычислений, кого-то, кто не имеет не малейшего понятия, что существует такая штука, как нейроны. Тогда вы сможете представить функциональный разрыв, который ваши предки могли видеть между маленькими бильярдными шарами и «Гррр! Аргхх!»

Забудьте на минуту о субъективном опыте и подумайте о разрыве между злостью и бильярдными шарами на уровне поведения. О разнице между тем, что делают бильярдные шарики и что заставляет делать людей злость. Злость может заставить человека поднять кулак и ударить кого-то, или говорить подлости за спиной, или подкинуть ночью скорпионов в чью-то палатку. А бильярдные шарики просто толкают предметы.

Попробуйте поставить себя на место охотника-собирателя, который никогда не испытывал «Ага!» от обработки информации. Постарайтесь избегать предвзятости послезнания насчёт таких вещей как нейроны и компьютеры. Только тогда вы сможете увидеть эту непреодолимую для объяснений пропасть.

Как можно объяснить злое поведение при помощи бильярдных шаров?

Ну, очевидное материалистическое предположение заключается в том, что маленькие бильярдные шарики толкают вашу руку и заставляют ударить кого-то, или же толкают ваш язык, чтобы получилось оскорбление.

Но откуда бильярдные шарики знают, как это делать — в смысле, как заставить ваш язык или пальцы следовать длительному плану, — если сами они не злятся?

И к тому же, если вы не увлеклись — о, боже! — сциентизмом, вы и сами благодаря своим ощущениям поймёте, что это объяснение очевидно ложно. Атомы могут толкать вашу руку, но они не могут заставить вас чего бы то ни было хотеть.

Кто-нибудь заметит, что вас может разозлить употребление вина. Но кто сказал, что вино состоит исключительно из бильярдных шариков? Может быть, в вине просто содержится эссенция злости?

Очевидно, что редукционизм — это ошибочная концепция.

(Ученик в отчаянии восклицает: «Искусство подвело меня». Мастер в отчаянии восклицает: «Я подвёл своё искусство».)

Что нужно, чтобы преодолеть этот разрыв? Не достаточно просто идеи «нейронов», «обрабатывающих информацию». Если вы скажете лишь эти слова и ничего более, в вашей модели лишь появится магическое, необъяснимым образом соединяющее уровни правило, благодаря которому вы переходите от шариков к мыслям.

Однако настоящий шаг по преодолению этого разрыва проделал разработчик искусственного интеллекта, который знает, как создать программу, играющую в шахматы. Если вы понимаете такие концепции как консеквенциализм, обратная цепочка рассуждений, функции полезности и деревья поиска, вы можете заставить планировать механическую (основанную исключительно на причинно-следственных связях) систему.

Делается это так. Для каждого возможного хода в шахматах, вычислите возможные ходы своего противника, затем свой ответ на эти ходы и так далее. Оцените позицию, получившуюся в результате самого далёкого хода, до которого вы в состоянии досчитать, с помощью какого-нибудь простого алгоритма (можно просто подсчитать материал [Общую стоимость фигур и пешек каждой стороны. — Прим.перев.]). Затем вернитесь назад и с помощью минимакса найдите лучший возможный ход для текущей позиции. Сделайте этот ход.

В более общем случае: если у вас в разуме есть цепочки причинно-следственной связи, в какой-то степени являющиеся отображением — зеркалом, эхом — действительности, то вы можете посчитать функцию полезности от исходов, которые предоставляет вам ваше воображение, выбрать действие, которое приведёт к исходу, полезность которого высока, и совершить это действие. Цепочки причинно-следственной связи в вашем разуме, соответствующие внешнему миру, не обязаны быть сделаны из бильярдных шариков, вокруг которых есть маленькие ауры намерений. Deep Blue будет работать и без изображений маленьких шахматных фигурок на его транзисторах. Также читайте эссе «Простая истина».

Эти рассуждения всё равно являются очень сильными упрощениями, но по крайней мере они должны сократить разрыв. Если вы всё это понимаете, вы видите, как состоящий из материи планировщик под воздействием алкоголя может выдавать более злое поведение. Бильярдные шарики алкоголя толкают бильярдные шарики, составляющие функцию полезности.

Но даже если вы знаете, как написать небольшие ИИ, вы не можете представить общность уровней между транзисторами и шахматами. Транзисторов слишком много, возможных ходов в шахматах — тоже.

Аналогично, даже если бы вы знали всё о неврологии, вы не смогли бы представить переход от уровня нейронов к уровню злости — не говоря уже о переходе от атомов к злости. Нельзя это увидеть в той же степени, в какой вы способны увидеть руку, состоящую из пальцев и ладони.

Представьте, что учёный-когнитивист заявляет: «Злость — это гормоны». Даже если вы повторите эти же слова, это не значит, что вы преодолели разрыв между уровнями. Вы можете верить в то, что вы в это верите, но это не то же самое, что понять, какое отношение бильярдные шарики имеют к тому, чтобы хотеть кого-то ударить.

В результате, вы приходите к таким интерпретациям как: «Злость это всего лишь гормоны, она вызывается маленькими молекулами, поэтому её нельзя оправдать в каком-либо моральном смысле. И поэтому нужно учиться контролировать свою злость».

Или же: «На самом деле не существует такой вещи как злость — это иллюзия, цитата без референта, вроде миража воды в пустыне или поисков дракона в гараже, которого там нет».

Эти интерпретации — горькие пилюли (впрочем, вы не обязаны их глотать), и поэтому куда легче их провозглашать, чем верить в них по-настоящему.

Мне кажется, это то, что не-редукционисты/не-материалисты думают, что критикуют, когда критикуют материалистов-редукционистов.

Но материализм не настолько прост. Он не сводится к заявлению: «Злость состоит из атомов, вот и всё, вопрос решён». Такое заявление не объяснит, как дойти от бильярдных шариков до драки между людьми. Чтобы начать преодолевать разрыв между уровнями, нужно вникнуть в теорию вычислений, консеквенциализм и деревья поиска.

А по современным стандартам это был ещё довольно простой пример, потому что я специально ограничился вопросом лишь злого поведения. Разговор о поведении не требует понимания того, как алгоритм выглядит изнутри (не нужно преодолеть разрыв между взглядом от первого и от третьего лица) или же умения разрешать неверные вопросы (не нужно распутать места, где ваш собственный разум неверно отражает реальность).

Переход от материальных сущностей, которые гнут и ломают, жгут и роняют, толкают и пихаются, к злому поведению — всего лишь практическая задача для современной философии. Но это очень важная практическая задача. Её можно всецело оценить, лишь когда вы поймёте, насколько сложно её было решить до того, как была изобретена письменность. Когда-то и здесь был разрыв в понимании — хотя сейчас, когда этот разрыв давно и успешно закрыт, в ретроспективе он может быть и незаметен.

Преодолеть разрыв в понимании можно, если принять помощь от науки и не доверять взгляду изнутри, порождённому вашим разумом.

Перевод: 
Горилла В Пиджаке, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
215
Оцените перевод: 
Средняя оценка: 5 (2 votes)

Тепло или движение

Элиезер Юдковский

Завершив предыдущее эссе, я понял, что существует куда более простой пример, как редукционизм преодолевает разрыв между двумя вроде бы разными сущностями: редукция тепла к движению.

Сегодня, задним числом, эквивалентность тепла и движения многим кажется совершенно очевидной. Раз уж все говорят, что «тепло — это движение», то это убеждение не может быть «странным».

Но когда-то кинетическая теория тепла была крайне спорной научной гипотезой. В научном мире господствовали убеждения о теплороде, невесомом веществе, перетекающем из горячих объектов в холодные. А до того основной теорией тепла было: «потому что флогистон

Представьте, что вы изучили кинетическую теорию и теорию теплорода совершенно независимо. Теперь вы знаете кое-что о движении: столкновение, упругий отскок, импульс, кинетическая энергия, гравитация, инерция, траектория свободного движения. Также, без какой-либо связи с предыдущим, вы знаете кое-что о тепле: температура, давление, горение, тепловые потоки, двигатели, таяние, испарение.

Такое состояние знаний не просто возможно. Примерно такие знания были у Сади Карно, который, исходя исключительно из теории теплорода, придумал идею цикла Карно — тепловой машины максимально возможной эффективности, из существования которой следует второй закон термодинамики. И это в 1824 году, когда кинетика была уже высокоразвитой наукой.

Представьте, что, как и Карно, вы знаете многое о движении и знаете многое о тепле, но для вас это разные сущности. Для вас это разные части знания — в вашем мозге есть отдельные корзины для убеждений о движении и для убеждений о тепле. Но изнутри при таком состоянии кажется, будто в окружающем мире есть движущиеся объекты и горячие объекты, будто в окружающем мире движение и тепло — независимые свойства материи.

И вдруг к вам является физик из будущего и говорит: «Где тепло, там и движение, и наоборот. Вот почему, например, два предмета нагреваются при трении друг о друга».

Есть (как минимум) две возможные интерпретации утверждения: «Где тепло, там и движение, и наоборот».

Во-первых, вы можете предположить, что движение и тепло существуют отдельно друг от друга. Что теория теплорода верна, однако среди законов нашей вселенной существует «связывающий закон», согласно которому, когда объекты быстро двигаются, возникает теплород. И наоборот, другой связывающий закон утверждает, что теплород может давить на объекты и заставлять их двигаться, и именно поэтому горячий газ оказывает больше давления на своё окружение (таким образом, позволяя паровой машине использовать пар, чтобы двигать поршень).

Во-вторых, вы можете предположить, что тепло и движение в некотором, хотя и пока ещё таинственном смысле, — это буквально одно и то же.

«Бессмыслица», — скажет Первый Мыслитель, — «у слов „тепло“ и „движение“ — разные значения. Поэтому мы и используем два разных слова. Мы знаем, как определить, стоит ли рассуждать о наблюдаемом явлении как о «тепле»: тепло может плавить объекты или воспламенять их. Мы знаем, как определить, что объект „быстро двигается“: он меняет своё положение в пространстве, и когда он столкнётся с препятствием, он может треснуть или деформироваться. Тепло имеет отношение к изменению вещества, движение же — к изменению местоположения и формы. Утверждать, что эти два слова имеют одно и то же значение, значит, банально вводить себя в заблуждение».

«Невозможно», — скажет Второй Мыслитель. — «Не исключено, что в нашем мире тепло и движение связывают какие-то законы, в смысле, существуют законы физики, согласно которым движение создаёт тепло и наоборот. Но я легко могу вообразить мир, где трение не нагревает предметы, а газы при высоких температурах не создают больше давления. И раз существуют возможные миры, где тепло и движение не связаны, то тепло и движение должны быть разными свойствами — это истинно априори».

Первый Мыслитель путает цитату и референт. 2 + 2 = 4, но «2 + 2» ≠ «4». Строка «2 + 2» содержит пять символов (включая пробелы), а строка «4» содержит лишь один. Если ввести обе строки в интерпретатор питона, они выведут один и тот же результат >>> 4. Таким образом, если вы видите строки «2 + 2» и «4», нельзя заключить, что из различия этих строк следует, что они должны иметь различное «значение» согласно интерпретатору питона.

Можно сказать, что слова «тепло» и «кинетическая энергия» «указывают на» одно и то же явление, даже если мы пока не знаем, как именно тепло сводится к движению. В смысле, пусть мы не знаем, какие именно объекты находятся по ссылкам, но это совпадающие объекты. Можете вообразить идеальный всеведущий интерпретатор науки, который выведет один и тот же результат, когда мы вводим в командную строку «тепло» и «кинетическая энергия».

Я использую метафору интерпретатора науки, чтобы акцентировать внимание на том, что для разыменовывания указателя приходится выйти за пределы мышления. Конечным результатом разыменовывания является нечто, находящееся в реальности, не в чьём-либо уме. Так можно сказать «настоящий референт», но нельзя непосредственно вычислить значение этих слов изнутри собственной головы. Нельзя мыслить, используя настоящий референт тепла. Если бы вы размышляли, используя настоящее тепло, то мысль «один миллион Кельвинов» тут же испарила бы ваш мозг. Однако, формируя убеждение о своём убеждении о тепле, вы можете рассуждать о вашем убеждении о тепле, и делать утверждения вида: «Возможно, что мое убеждение о тепле не слишком соответствует настоящему теплу». Вы не можете по-настоящему сравнить своё убеждение о тепле и настоящее тепло внутри своего разума, но вы можете рассуждать об этом сравнении.

Таким образом, вы можете сказать: «Мои убеждения о тепле и движении — это разные убеждения, но, возможно, что настоящие тепло и движение — это одно и то же явление». Приведу аналогию: можно додуматься до идеи, что «утренняя звезда» и «вечерняя звезда», вероятно, одна и та же планета, и при этом понимать, что нельзя это определить точно, лишь анализируя свои убеждения, — вам потребуется найти телескоп.

Аналогично можно разобрать ошибку Второго Мыслителя. Физик сказал ему: «Где тепло, там и движение», и мыслитель воспринял это утверждение как физический закон: «наличие теплорода порождает движение». Физик же на самом деле подразумевал что-то похожее на дедуктивное правило: «если вам говорят, что где-то есть „тепло“, автоматически выводите наличие там „движения“ ».

Из подобной проекции многоуровневой модели на многоуровневую реальность вытекает ещё одна, отдельная ошибка: неспособность отделить умозрительную возможность от логической. Сади Карно мог допустить существование другого мира, где тепло и движение не связаны друг с другом. Для Ричарда Фейнмана, точно знающего, как из уравнений движения выводятся уравнения тепла, такая идея не просто невообразима, но и настолько внутренне противоречива, что попытка её представить может взорвать мозг.

Отдам должное философам — некоторые из них упоминали подобные проблемы. Например, Хилари Патнэм, автор мысленного эксперимента «Земля-Близнец», писал12:

Как только мы открыли, что вода (в действительном мире) есть H2O, ни один мир, где вода не есть H2O, не может рассматриваться как возможный. В частности, если «логически возможное» утверждение — это утверждение, истинное в некотором «логически возможном мире», то утверждение «вода не есть H2O» не является логически возможным.

С другой стороны, вполне можно представить себе, что опыт убедит нас (и придаст рациональный характер нашей вере в то), что вода не есть H2O. В этом смысле мыслимо, что вода не есть H2O. Мыслимо, но не логически возможно! Быть мыслимым не значит быть логически возможным.

Мне кажется, что слово «вода» в этих двух параграфах используется в разных смыслах — в одном случае «вода» относится к данным, которые мы вводим в интерпретатор науки, а в другом «вода» относится к тому, что мы получим из интерпретатора науки, введя туда слово «вода». В первом параграфе, Хилари, как я понимаю, утверждает, что после того, как были произведены эксперименты и обнаружено, что вода это H2O, вода немедленно переопределяется так, чтобы и означать буквально H2O. Но вы могли бы непротиворечиво поддерживаться иной позиции касательно того, означает ли слово «вода» «H2O» или же «то, что на самом деле находится в этой бутылке», до тех пор пока вы используете свои определения последовательно.

Полагаю, вышенаписанное тоже уже неоднократно повторялось? Так или иначе…

Вполне вероятно, что если в мире существует некая единая сущность, которая принимает достаточно различные формы, а вы при этом недостаточно разбираетесь в редукции, то вам будет казаться, что в мире присутствуют две разных сущности. Знания, относящиеся к этим двум разным явлениям, вероятно, отнесут к разным учебным дисциплинам и их будут изучать два разных научных направления, расположенные в разных зданиях вашего университета.

Чтобы вспомнить, насколько разными когда-то казались тепло и движение, приходится настраиваться на соответствующий исторический контекст. Не исключено, что есть способ легче — в зависимости от того, сколько вы уже знаете, — если вы в состоянии игнорировать давление привычного (например, фраза «тепло — это движение» сейчас звучит не странно, а «тепло — это не движение» — странно). В смысле предположим, что завтра физики объявят: «В популярных книгах о науке всегда было одно ложное утверждение. На самом деле тепло не имеет ничего общего с движением». Смогли бы вы доказать, что они неправы?

Сказать: «Возможно, тепло и движение — это одно и то же!» — легко. Сложно — объяснить, как это. Нужно очень много знаний, чтобы дойти до того уровня, когда вы уже не сможете представить мир, в котором эти два явления могут существовать по отдельности. Редукция не дёшева, и потому она даёт столь многое.

Или, возможно, стоит переформулировать так: «Редукционизм — это легко, редукция — вот что сложно». Но весьма помогает быть редукционистом, когда дело доходит до поиска редукции.

  • 1. Hilary Putnam, “The Meaning of Meaning,” in The Twin Earth Chronicles, ed. Andrew Pessin and Sanford Goldberg (M. E. Sharpe, Inc., 1996), 3–52.
  • 2. Русский перевод цитируется по изданию Патнэм Х. «Философия сознания» — М.: Дом интеллектуальной книги, 1999, перевод Макеевой Л. Б., Назаровой О. А., Никифорова А. Л. — Прим.перев.
Перевод: 
Горилла В Пиджаке, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
216
Оцените перевод: 
Средняя оценка: 4 (2 votes)

Когда антропоморфизм стал глупым

Элиезер Юдковский

Оказывается, большинство вещей во вселенной неразумны.

Это утверждение вызвало бы недоверие во множестве ранних культур. В те времена был распространён анимизм: вера в то, что деревья, камни, реки и холмы — всё имеет души, потому что, а почему бы собственно и нет?

Если эти куски плоти, называемые людьми, способны мыслить, то почему то же самое не могут делать и куски дерева?

Мои мышцы двигаются согласно моей воле, а вода течет по реке. Кто может утверждать, что река не повелевает движением воды? Река вытекает из берегов и затапливает место стоянки моего племени. Почему бы не предположить, что река разозлилась, раз она направила часть себя, чтобы навредить нам? Ведь именно это мы подумаем, когда чей-то кулак ударит в наш нос.

Нет никакой очевидной (для охотника-собирателя) причины, почему это невозможно. Это может показаться глупой ошибкой, только если путать глупость со странностью. Естественно, убеждение, что у рек есть духи, кажется нам «странным», ведь в нашем племени нет таких убеждений. Но нет ничего очевидно глупого в том, чтобы считать, что в движущейся воде есть духи, как и в движущихся кусках плоти.

Если бы эта идея была очевидно глупой, никто бы в неё и не поверил. Как, например, долгое время никто не верил в очевидно глупую идею, будто бы Земля движется, хотя всё выглядит так, будто она совершенно неподвижна.

Разве это так уж очевидно, что деревья не могут мыслить? Не будем забывать, что деревья вообще-то наши дальние родственники. У нас есть общий предок с папоротником, надо просто отойти подальше в прошлое, чтобы его найти. Если куски плоти могут мыслить, то почему не могут куски дерева?

Чтобы было очевидным, что древесина не может мыслить, нужно принадлежать к культуре, у которой есть микроскопы. Причём хорошие микроскопы.

Аристотель считал, что мозг — это орган для охлаждения крови. (Хорошо, что наши убеждения о работе нашего мозга практически не влияют на его работу).

Египтяне выкидывали мозг в процессе мумификации.

Вместилищем интеллекта мозг назвал Алкмеон Кротонский, пифагореец пятого века до нашей эры. Он отследил путь оптического нерва от глаза к мозгу. Но при тех свидетельствах, которыми он располагал, это была всего лишь догадка.

Когда центральная роль мозга перестала быть лишь догадкой? Я не знаю историю достаточно хорошо, чтобы ответить на этот вопрос. Вероятно, даже нельзя выделить какую-то ключевую точку. Быть может, стоит объявить ей тот миг, когда кто-то проследил анатомию нервов и заметил, что отделение их от мозга приводит к потере способности двигаться и чувствовать?

Но даже в этом случае причиной остаётся лишь таинственный дух, движущийся по нервам. Кто может утверждать, что древесина и вода, пусть даже они и не содержат этих маленьких нитей, которые есть в человеческом теле, не способны переносить этот мистический дух каким-то другим способом?

Я потратил некоторое время на поиски в Сети, чтобы выяснить точно, когда кто-то обратил внимание на очень запутанную внутреннюю структуру нейронов мозга и воскликнул: «Эй, спорим, этот гигантский клубок занимается обработкой сложной информации!» Я не преуспел в своих поисках. (Это не Камилло Гольджи — связность нейронов была известна и до него). Возможно, здесь также не было единственного переломного момента.

Однако я бы сказал, что антропоморфизм постепенно начал становиться ошибочным именно с открытия этой связности, а также с появлением теории естественного отбора Чарльза Дарвина и идеи, что мышление — это вычисление.

Именно в это время стало возможным посмотреть на дерево и сказать: «Я не вижу в биологии дерева органа, который занимался бы обработкой сложной информации. По поведению дерева тоже не заметно, что у него есть подобный орган. А если он спрятан настолько, что не влияет на поведение дерева, как естественный отбор мог бы привести к его появлению?»

Именно в это время стало возможным посмотреть на реку и сказать: «В воде нет элементов, которые воспроизводились бы на протяжении множества поколений с некоторыми отличиями, которые могли бы обеспечить естественный отбор. Откуда у реки может появиться структура, сравнимая с мозгом по сложности и функциям?»

Именно в это время стало возможным посмотреть на атом и сказать: «Злость кажется очень простым явлением, но на самом деле она устроена сложно. В таком простом объекте как атом для неё нет места, разве что внутри кварков существует целая неизведанная вселенная субчастиц. Но даже в таком случае, раз мы никогда не наблюдали каких-либо признаков атомной злости, эта вселенная никак не влияла бы на известные нам высокоуровневые явления».

Именно в это время стало возможным посмотреть на щенка и сказать: «Родители щенка могут прижать его к земле, когда тот совершит что-то неправильное, но это не значит, что щенок способен на размышления о морали. Согласно нашим нынешним теориям эволюционной психологии, способность к моральным рассуждениям возникает, как ответ на более сложные социальные испытания. Развитая мораль, которая появилась у нас, — это результат естественного отбора в результате словесных споров о политике племени».

Именно в это время стало возможным посмотреть на камень и сказать: «Тут нет даже простейших поисковых деревьев, какие есть в шахматной программе. Откуда у камня может появиться намерение катиться вниз, как когда-то считал Аристотель?»

Есть известная притча:

Чжуан-цзы и Хуэй-цзы прогуливались по мосту через реку Хао. Чжуан-цзы сказал:
— Как весело играют рыбки в воде! Вот радость рыб!
— Ты ведь не рыба, — возразил Хуэй-цзы. — Откуда тебе знать, в чём радость рыб?
— Но ведь ты не я, — ответил Чжуан-цзы. — Откуда же ты знаешь, что я не знаю, в чём заключается радость рыб?1

Теперь мы знаем.

  • 1. Цитируется перевод с китайского В. В. Малявина по книге Чжуан-Цзы, «Даосские каноны». — Прим.перев.
Перевод: 
Горилла В Пиджаке, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
218
Оцените перевод: 
Средняя оценка: 5 (3 votes)

Априори

Элиезер Юдковский

Традиционная Рациональность сформулирована на языке социальных норм. Нарушение норм трактуется как жульничество: если ты нарушаешь правила, и никто другой этого не делает, значит, ты предаёшь первым, что делает тебя плохим, очень плохим человеком. Для байесианцев, мозг –– это машина для достижения точности: если нарушать принципы рациональности, машина просто не работает — независимо от того, нарушает ли правила кто-то ещё.

Предположим, что Традиционные философы столкнулись с проблемой бритвы Оккама. Если две гипотезы одинаково хорошо удовлетворяют одним и тем же наблюдениям, почему мы должны считать, что с большей вероятностью истинной окажется более простая из них? Наверное, кто-нибудь скажет, что бритва Оккама работала в прошлом и, таким образом, скорее всего, продолжит работать и в будущем. Но, судя по всему, такой аргумент сам является предсказанием на основании бритвы Оккама: предположение «бритва Оккама работает вплоть до 8 октября 2027 года, а затем перестаёт работать» –– более сложная гипотеза, но она также удовлетворяет всем наблюдаемым свидетельствам.

Кто-нибудь скажет, что бритва Оккама — это разумное распределение априорных вероятностей. Но какое распределение оказывается «разумным»? Почему бы не назвать «разумным» очень сложное априорное распределение, при котором бритва Оккама работает во всех предыдущих случаях, но выдаёт ошибки в будущем?

Итак, похоже, не существует способов оправдать использование бритвы Оккама иначе как путём апелляции к бритве Оккама. То есть вряд ли этот аргумент убедит какого-либо судью, который изначально не признает бритву Оккама. (Что общего в словах, выделенных курсивом?)

Если вы философ, который ежедневно лишь пишет статьи, критикует статьи других людей и отвечает на их критику своих статей, вы можете просто взглянуть на бритву Оккама и пожать плечами. Оправдания, споры и риторика здесь заканчиваются. В своём написании статей вы заключаете перемирие: пока ваши приятели-философы не требуют от вас обоснований для ваших не подкреплённых аргументами убеждений, вы не требуете от них обоснований для их не подкреплённых аргументами убеждений. И в качестве символа вашего перемирия — вашего белого флага — вы используете фразу «истинно априори».

Но для байесианца, живущего в нашу эпоху когнитивных наук, эволюционной биологии и Искусственного Интеллекта, слово «априори» совершенно не объясняет, почему мозг-машина работает. Если мозг содержит в себе удивительную «фабрику априорных истин», которая действительно работает, производя точные убеждения, становится любопытно, почему мучимый жаждой охотник-собиратель не может использовать «фабрику априорных истин», чтобы обнаружить источник питьевой воды. Становится любопытно, почему вообще эволюция привела к появлению глаз, если уж существует способ производить точные убеждения без необходимости смотреть на что-либо.

Джеймс Ньюман сказал: «Факт, что яблоко, добавленное к ещё одному яблоку, всегда даёт два яблока, помогает обучать арифметике, однако никак не связан с истинностью равенства 1 + 1 = 2». Согласно Интернет Энциклопедии Философии, априорными называются утверждения, познаваемые независимо от опыта. Википедия цитирует Юма1: к отношениям между идеями «можно прийти благодаря одной только мыслительной деятельности, независимо от того, что существует где бы то ни было во вселенной»2. Можно увидеть, что 1 + 1 = 2, всего лишь подумав об этом и безо всяких яблок.

Но в нашу эру нейронаук следует понимать, что мысли объективно существуют во вселенной. Мысли — это деятельность мозга. Материальные мозги — реальные объекты вселенной — состоят из кварков согласно единой математической физике, законы которой внутри и вне вашего черепа одинаковы.

Когда вы мысленно складываете 1 + 1 и получаете 2, эти мысли представляют собой активацию нейронов. В принципе, мы могли бы экспериментально наблюдать те же самые материальные явления в чужом мозгу. Такой эксперимент потребует некоторого прогресса в вычислительной нейробиологии и нейрокомпьютерных интерфейсах, но, теоретически, он реализуем. Вы могли бы увидеть, как чья-то чужая машина работает в рамках цепочек материальных причин и следствий, чтобы «чисто умозрительно» вычислить, что 1 + 1 = 2. Чем же наблюдение за принципом работы чужого мозга как способ познания отличается от наблюдения за собственным мозгом, решающим ту же задачу? Когда «чистый разум» говорит вам, что 1 + 1 = 2, «независимо от опыта или наблюдений», вы на самом деле наблюдаете за работой вашего мозга в качестве свидетельства.

Если это кажется контринтуитивным, попробуйте рассмотреть разум/мозг как машину, сталкивающую нейронный шаблон единицы с нейронным шаблоном единицы и получающую нейронный шаблон двойки. Если двигатель работает правильно, то он должен производить абсолютно те же самые выходные данные, как если бы он наблюдал (при помощи глаз и сетчатки) за таким же мозгом-машиной, производящей такое же столкновение и копировал себе итоговый шаблон. Проще говоря, для любого априорного знания, полученного силой «чистого разума», вы узнали бы то же самое, если бы пронаблюдали активацию нейронов чужого мозга, в котором нейроны активируются таким же образом. Машины эквивалентны, результаты их работы эквивалентны, убеждения сцеплены с реальностью в той же степени.

Нет ничего, что вы могли бы знать «априори», и при этом не могли бы узнать с тем же уровнем правдоподобия, наблюдая за выбросом нейротрансмиттеров в чьём-то мозгу. Сами-то вы кто, дорогой читатель?

Именно поэтому вы можете предсказать результат сложения 1 яблока и 1 яблока, мысленно представив сначала такое сложение, или же ввести «3 х 4» в калькулятор, чтобы предсказать результат воображения 4 рядов с 3 яблоками в каждом из них. Вы и яблоки существуете в рамках единого универсального физического процесса, и одна его часть может отражать состояние другой.

Являются ли все активации нейронов, которые философы называют «априорными убеждениями», произвольными? Многие алгоритмы ИИ работают лучше с «регуляризацией», сдвигающей пространство решений в пользу более простых решений. Но регуляризованные алгоритмы сложнее сами по себе. Они содержат лишнюю строчку кода (а может и 1000 строчек), по сравнению с нерегуляризованными алгоритмами. Человеческий мозг предвзят в пользу простоты и таким образом мы мыслим более эффективно. Если на данном этапе нажать кнопку «Пренебречь», мы получим сложноустроенный мозг, существующий и работающий без каких-либо причин. Так что не следует называть априорные убеждения произвольными –– они формируются явно не путём генерации случайных чисел. (Что вообще означает слово «произвольный»?)

Даже если другие философы затрудняются с тем, чтобы обосновать свои утверждения, это не позволяет вам называть свои утверждения «истинными априори». Факт, что философ не в состоянии что-то объяснить, не может как обеспечить холодильник электроэнергией, так и создать волшебную фабрику по производству точных убеждений. Пока вы не поймёте, почему машина работает, не может быть ни перемирий, ни белых флагов.

Если выкинуть из головы «обоснования» и «аргументы», становится очевидным, почему бритва Оккама работает на практике: мы живём в простом мире, во вселенной с низкой энтропией, и в ней можно найти простые объяснения. «Но» - воскликнете вы, - «почему сама вселенная устроена таким образом?» Этого я не знаю, но своё незнание я воспринимаю, как следующую тайну, которую необходимо понять. Этот вопрос отличается от: «Как я могу обосновать бритву Оккама для гипотетического собеседника, который её ещё не принял?»

Возможно, вы не сможете убедить в чём бы то ни было гипотетического собеседника, не принимающего бритву Оккама, как не сможете убедить в чём-нибудь камень. Разуму необходимо некоторое количество динамической структуры, чтобы быть способным воспринимать аргументы. Если разум не поддерживает modus ponens, он может целый день принимать «A» и «A → B», но так и не вывести из этого «B». Как можно обосновать modus ponens для разума, который его не поддерживает? Как можно убедить камень стать мозгом?

Мозги эволюционировали из не-мозговой материи путём естественного отбора. Их существование не было оправданно в процессе спора с идеальным студентом философии абсолютной пустоты. Это не делает наши заключения бессмысленными. Мозг-машина может корректно работать, производя точные убеждения, даже если он был всего лишь собран, — не важно, человеческими руками или же совокупным стохастическим естественным отбором — а не появился во вселенной как результат дискуссии. Но чтобы удовлетвориться этим ответом, необходимо воспринимать рациональность на языке машин, а не аргументов.

  • 1. Юдковский ссылается на англоязычную статью, но в настоящее время она тоже не содержит упомянутой цитаты. — Прим.перев.
  • 2. Цитируется перевод С. И. Церетели. — Прим.перев.
Перевод: 
Горилла В Пиджаке, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
219
Оцените перевод: 
Средняя оценка: 5 (3 votes)

Редуктивная отсылка

Элиезер Юдковский

Основной тезис редукционизма (в моей формулировке) состоит в том, что человеческий разум ради эффективности использует многоуровневую карту, в рамках которой мы думаем об «атомах» и «кварках», «руках» и «пальцах», «тепле» и «кинетической энергии», как об отдельных сущностях. В то же время, реальность состоит из одного уровня. Атомы не являются некой дополнительной сущностью, чьё влияние на цепочку причин и следствий выходит за рамки влияния кварков.

Сади Карно сформулировал предшественника Второго Закона термодинамики, используя теорию теплорода, в которой тепло считалось жидкостью, перетекающей из горячих тел в холодные. Теплород создавался огнём и заставлял газы расширяться. До того, как люди додумались до редукции, свойства тепла изучались отдельно от кинетики. Если вам нужно спроектировать паровой двигатель, суммарный эффект всех этих крошечный вибраций и столкновений, что мы называем «теплом», можно представить значительно проще, чем при помощи полного квантово-механического описания каждого отдельного кварка. Люди думают лишь об относящихся к задаче величинах, которые действительно влияют на результат, и благодаря этому производят эффективные вычисления.

Однако реальность, судя по всему, использует всю квантовую механику кварков. Как-то раз я общался с человеком, который считал, будто использование общей теории относительности для решения задачи с малыми скоростями (например, скоростями артиллерийского снаряда) приведёт к неверному ответу. Не просто потребует больше вычислений, а даст ошибочный с точки зрения эксперимента результат — потому что при низких скоростях, артиллерийские снаряды подчиняются ньютоновской механике, а не ОТО. Но физика не работает таким образом. Реальность продолжает пользоваться теорией относительности, даже когда разница окажется лишь в четырнадцатом знаке после запятой, что человек воспринял бы как бессмысленную трату вычислительных ресурсов. Физика делает всё при помощи грубой силы. Ещё никто никогда не замечал, чтобы физика упрощала свои вычисления (если, конечно, Повелители Матрицы не стирали свидетелям память).

Таким образом, наша карта очень сильно отличается от территории. Наши карты — многоуровневые, а территория — одноуровневая. И раз представление столь отлично от обозначаемого объекта, в каком смысле убеждения вида: «Я ношу носки» могут быть истинными? Ведь сама сама реальность состоит лишь из кварков.

На случай, если вы забыли, что значит слово «истинный», я напомню классическое определение Альфреда Тарского:

Утверждение «снег белый» истинно тогда и только тогда, когда снег белый.

В случае, если вы забыли, в чём разница между утверждениями «Я верю в то, что снег белый» и « „Снег белый“ – истина», перечитайте эссе «Качественное замешательство». Нельзя получить истину лишь путём размышлений: если вы хотите, например, узнать, является ли истинным утверждение: «утренняя звезда = вечерняя звезда», вам потребуется телескоп. Изучить лишь сами убеждения недостаточно.

Именно это упускают постмодернисты, вопрошающие: «Но откуда вы можете знать, что ваши убеждения истинны?» Когда вы проводите эксперимент, вы на самом деле выходите за пределы собственной головы. Вы вступаете в сложное взаимодействие, результат которого с точки зрения причин и следствий определён предметом рассуждения, а не одними только вашими убеждениями о нём. Однажды я определил «реальность» так:

Даже когда у меня есть простая гипотеза, которая прекрасно согласуется со всеми известными мне данными, всё равно что-нибудь может меня удивить. Так что мне нужно по-разному называть те штуки, которые определяют мои предсказания, и ту штуку, которая определяет результат опыта. Первое я называю «убеждениями», а второе — «реальностью».

Интерпретация вашего эксперимента по-прежнему зависит от ваших исходных убеждений. Я не собираюсь сейчас рассматривать вопрос о том, Откуда Берутся Исходные Убеждения, так как это было бы отступлением от темы эссе. Суть в том, что истина определяется как идеальное сопоставление между убеждением и реальностью. Если мы понимаем, что планеты отличны от убеждений о планетах, мы можем провести такой эксперимент, что позволит проверить, является ли убеждение «утренняя звезда и вечерняя звезда – это одна и та же планета» истинным. Этот эксперимент будет включать в себя использование телескопов, а не одну лишь интроспекцию, так как мы понимаем, что «истина» подразумевает сравнение внутреннего убеждения и внешнего факта. Поэтому мы используем инструмент — телескоп, — наблюдения через который, насколько нам известно, зависят от внешней действительности — планеты.

Убеждение, что телескоп способен помочь нам определить «истинность» убеждения «утренняя звезда = вечерняя звезда» основывается на нашем предшествующем убеждении о том, как телескоп взаимодействует с планетой. Повторюсь, я не собираюсь рассматривать проблему исходных убеждений в данном эссе, разве что процитирую одну из моих любимых строчек Рэймонда Смаллиана: «Если более умудрённый читатель возразит, что данное утверждение является всего лишь тавтологией, то пусть хотя бы отдаст ему должное за внутреннюю непротиворечивость». Аналогично, я нахожу использование телескопа примером не порочного логического круга, а самосогласованности: для любого систематического способа получения истинных убеждений должно существовать рациональное объяснение того, как он работает.

Вопрос, интересующий нас сейчас: как мы можем рассуждать об истинности утверждения «снег белый», если в реальности существуют лишь кварки?

Наши убеждения о «снеге» и «белизне» порождаются определёнными наборами нейронных связей — пусть даже мы не в состоянии точно представить, как эти связи выглядят. Нейронные связи сами по себе воплощены в виде некоторого набора кварков, о котором мы знаем и того меньше. Где-то во внешнем мире существуют молекулы воды, температура которой достаточно низка, и молекулы организуются в виде повторяющейся мозаичной структуры. Эта структура совершенно не похожа на переплетение нейронов. В каком смысле сравнение одного (непостоянного) набора кварков с другим делает убеждение «снег белый» истинным?

Очевидно, ни я, ни кто-либо другой не может предложить Функцию Идеального Кваркового Сопоставления, которая для утверждения «снег белый» принимает на вход кварковые описания заключённого в нейронах убеждения (а также всего остального мозга) и снежинки (а также законов оптики), а в качестве результата возвращает «истинно» или «ложно». Да и не факт, что фундаментальный уровень — это действительно поля частиц.

С другой стороны, выкидывать на помойку все наши убеждения из-за того, что они не представлены в виде гигантского набора характеристик кварков, с которым всё равно невозможно работать и который мы не можем получить… кажется, не слишком разумно. Это не лучший способ достигнуть наших целей.

Мне представляется, что такие слова как «снег» или «белый» можно считать чем-то вроде долговой расписки. Нам не известно точно, какие именно физические конфигурации кварков считаются «снегом», однако, тем не менее, что-то вы зовёте снегом, а что-то — нет, и, даже если вы иногда ошибаетесь (например, относительно искусственного снега), Идеальный Всезнающий Научный Интерпретатор увидел бы сконцентрированный кластер в центре и перерисовал бы границы так, чтобы получить определение проще.

В одноуровневой вселенной, чей нижний уровень неизвестен наверняка или же слишком обширен для решения наших задач, концепции в многоуровневом разуме можно воспринимать как что-то вроде долговых расписок. Мы не знаем, чему точно они соответствуют. Однако, судя по всему, мы способны отличать положительные примеры от отрицательных, способны на этом основании делать предсказания, поэтому мы предполагаем (возможно, несколько обобщая при этом), что в кварках есть некоторое различие, что существуют какие-то отличия на фундаментальном уровне, объясняющие отличия в наших ощущениях и, в конце концов, приводящие к тому, что мы говорим «снег» или «не снег».

Я вижу эту белую субстанцию, в разных ситуациях она оказывается одной и той же, поэтому я предполагаю, что в окружающей среде есть какая-то стабильная неявная причина её существования. И я называю эту белую штуку «снег». «Снег» — это долговая расписка, описывающая простую мысленную границу, которая содержит в себе незримые причины моего опыта.

Мысленный эксперимент Хилари Патнэма (в котором вода это не H2O, а некая иная субстанция, обозначаемая XYZ, со всеми известными нам свойствами, характерными для воды) и последующий за ним философский спор, помогает пристальнее рассмотреть этот вопрос. У «снега» нет известного нам логического определения. Скорее это полученный эмпирически указатель на логическое определение. Такое рассуждение остаётся истинным, даже если вы считаете, что снег это кристаллы льда, которые в свою очередь являются сочетанием молекул воды при низкой температуре. Молекулы воды состоят из кварков. Что если окажется, что кварки состоят из чего-то ещё? Чем в таком случае окажется снежинка? Вы не знаете, но она останется снежинкой, а не превратится в огнетушитель.

И, конечно же, эти абзацы, которые я только что написал, находятся куда выше уровня кварков. «Воспринимать белую субстанцию на уровне чувств, отнести её к какой-то категории и подумать:“снег“ или „не снег“ » — это тоже рассуждения, которые находятся гораздо выше кварков.

Таким образом, мои мета-убеждения также являются долговыми расписками, и Идеальный Всезнающий Научный Интерпретатор знал бы какая конфигурация кварков (или чего бы там ни было), приводит мой мозг в состояние, соответствующее убеждению «верить в то, что снег белый».

Но тогда вся доступная нам реальность состоит из таких долговых расписок. Кто-то мог бы назвать это порочным кругом, я же предпочитаю называть это самосогласованностью.

Балансировать на шаткой эпистемологической жёрдочке — в отношении убеждений как о реальности, так и о рефлексии — где-то высоко-высоко над неизвестной фундаментальной реальностью и надеяться не свалиться может быть несколько пугающим занятием.

Впрочем, если подумать, то сложно представить иной вариант событий.

Таким образом, утверждение «реальность не содержит руки как фундаментальные сущности, существующие дополнительно и независимо от кварков» совершенно не то же самое, что «рук не существует» или «у меня нет рук». Нет никаких фундаментальных рук. Руки состоят из ладони и пальцев, которые в свою очередь состоят из мышц и костей, и так далее вплоть до полей элементарных частиц, которые, насколько нам известно, являются фундаментальными причинностными сущностями.

Это не то же самое, что утверждение «рук не существует». Не то же самое, что «слово „руки“ — это долговая расписка, которая никогда не будет оплачена, так как не существует эмпирического кластера, ему соответствующего». Или же «расписка „руки“ никогда не будет оплачена, потому что логически невозможно согласовать все необходимые характеристики». Или «утверждение „люди имеют руки“ логически непротиворечиво, но это не то состояние, в котором находится реальность».

Просто там, где мы видим «руки», на самом деле существуют конфигурации элементарных частиц. У этих конфигураций есть общие свойства, но они не фундаментальны.

Если бы я действительно не имел рук — если бы реальность внезапно перешла в то состояние, которое мы бы описали как «у Элиезера нет рук» — вскоре бы реальность соответствовала состоянию, которое мы бы описали как «Элиезер кричит, а кровь хлещет из обрубков его кистей»

И это истинно, даже несмотря на то, что в предложении выше не были указаны какие-либо положения кварков.

Соответственно, предыдущее предложение мета-истинно.

Карта содержит множество уровней, территория — всего лишь один. Это не значит, что более высоких уровней «не существует», аналогично дракону в гараже, которого там нет, или миражу в пустыне, который приводит к ожиданию питьевой воды там, где пить нечего. Высшие уровни вашей карты не ложны, не лишены референта: их референты находятся в единственном уровне физики. Если бы «крылья самолета» не существовали, самолет бы упал. «Крылья самолета» явно существуют в многоуровневой модели самолета в голове инженера, а также не явно в квантовой физике реального самолета. Неявное существование не то же самое что несуществование. Точное описание этой неявности нам не известно —– оно оно не представлено в явном виде на нашей карте. Но это не мешает нашей карте работать или даже быть истинной.

Каждое понятие и убеждение в вашем мозгу, включая мета-убеждения о том, как ваш мозг работает и почему вы в состоянии формировать точные убеждения, находятся намного-намного выше реальности. И понимание этого несколько пугает…

Перевод: 
Горилла В Пиджаке
Номер в книге "Рациональность: от ИИ до зомби": 
220
Оцените перевод: 
Средняя оценка: 5 (4 votes)

Зомби! Зомби?

Элиезер Юдковский

«Зомби» в философском значении этого слова – предположительно, существо в точности подобное нам в любом отношении: одинаковое поведение, речь, мозг; каждый атом и кварк находится точно в том же месте и движется согласно тем же законам механики – отличие лишь в том, что зомби не имеет сознания.

Более того, утверждается, что если зомби «возможны» (понятие, остающееся предметом баталий), то, исходя исключительно из нашего знания об этой «возможности», мы можем a priori сделать вывод о вне-физической природе сознания – в значении, описанном далее; стандартное определение для такой точки зрения – «эпифеноменализм».

(Для тех, кто не знаком с зомби, обращаю внимание, что это не «чучело»1. См., например, статью в Стэнфордской философской энциклопедии о зомби. «Возможность» зомби признана существенной частью – вероятно, большинством – академических представителей философии сознания.)

Я где-то прочитал: «Вы не тот, кто произносит свои мысли – вы тот, кто слышит их». В иврите величайшая душа – та, которую Бог вдохнул в Адама – называется Н’шама, «слышащий».

Если вы представляете себе «сознание» как исключительно пассивное слушание, понятие «зомби» изначально кажется легко представимым. Это некто, лишенный «слышащего».

(Предупреждение: впереди много букв. Очень длинная статья из 6600 слов, затрагивающая Дэвида Чалмерса. Ее можно считать моим наглядным контрпримером к Спору с Элиезером, часть 2, где Ричард Чапелл обвиняет меня в том, что я не связываюсь со сложными аргументами настоящих философов.)

Когда вы открываете холодильник и видите, что апельсиновый сок закончился, вы думаете: «Черт, я остался без сока». Звучание этих слов, вероятно, воспроизводится в слуховом отделе коры вашего головного мозга, как будто вы слышите, как кто-то еще сказал это. (Почему я так думаю? Потому что носители китайского языка способны запоминать более длинные последовательности цифр, чем носители английского. Китайские числительные все односложные, и говорящие на китайском могут помнить до 10 цифр, в отличие от известного «7±2» для англоговорящих. Кажется, в «оперативной памяти» слухового отдела коры головного мозга существует самозамкнутая петля из повторяющихся звуков, ограничение по длине которой исчисляется в фонемах.)

Предположим, что сказанное верно; в качестве начального условия это не должно составлять трудности для сторонников зомби. Даже если в отношении людей это неверно, кажется нетрудным вообразить ИИ, разработанный на такой основе (а «возможность вообразить» - это суть спора о зомби). Сказанное не только осознаваемо в принципе – в ближайшую пару десятилетий вполне возможно, что хирурги смогут подключить сеть рецепторов нервных сигналов к слуховой коре и прочитать разворачивающееся в ней повествование. (Исследователи уже подключились к боковому коленчатому ядру2 мозга кошки и воспроизвели узнаваемые визуальные образы на входе.)

Итак, наш зомби, физически идентичный нам до последнего атома, откроет холодильник и сформирует в слуховой коре образы для фонем «Черт, я остался без сока». До этого момента эпифеноменалисты охотно с нами соглашаются.

Но, говорит эпифеноменалист, внутри зомби некому слышать; отсутствует внутренний слушатель. Внутреннее повествование произнесено, но не услышано. Вы не тот, кто высказывает ваши мысли, а тот, кто их слышит.

Они бы сказали, что, кажется, куда проще создать ИИ, который выводит на печать некое внутреннее повествование, чем показывать, что внутренний слушатель слышит его.

Спор о зомби состоит в том, что если Мир Зомби возможен – не обязательно физически возможен в нашей вселенной, лишь «возможен в теории», или «может быть представлен», или что-то в этом роде – тогда сознание должно быть вне-физическим явлением, чем-то вне и сверх обычных атомов. Почему? Потому что даже если вы каким-то образом узнаете положение всех атомов во вселенной, вам все еще предстоит услышать, как отдельный и дополнительный факт, что люди обладают сознанием – что у них есть внутренний слушатель – что мы, вероятно, не в Мире Зомби.

«Зомбизм» не то же самое, что дуализм. Декарт считал, что существует телесная субстанция и совершенно отличная от нее разумная субстанция, но Декарт также полагал, что эта разумная субстанция есть источник активной причинности, взаимодействующий с телесной субстанцией и управляющий нашей речью и действиями. Лишение человека разумной субстанции породило бы традиционного, шатающегося и завывающего, зомби.

И хотя в иврите самая сокровенная душа названа Н’шама, тот-кто-слышит, я не слышал о рабби, отстаивающем возможность зомби. Большинство рабби, вероятно, почувствовали бы отвращение к идее, что божественная частица, которую Бог вдохнул в Адама, на самом деле бездействует.

Технический термин, обозначающий веру, что сознание присутствует, но не воздействует на физический мир, - эпифеноменализм.

Хотя в споре о зомби есть и другие составляющие (я разберусь с ними далее), думаю, первое, что прельщает в «зомбизме» - это интуитивно понятный тезис о пассивном слушателе. В особенности он прельщает непрофессиональную аудиторию. Ключевое понятие просто и доступно: свет горит, вот только дома никого нет.

Философы обращаются к интуитивно понятному тезису о пассивном слушателе, когда говорят: «Конечно, мир зомби можно представить; вы в точности знаете, на что он будет похож».

Одно из величайших сражений Войны зомби происходит на почве того, что, в точности, имеют в виду, говоря, что зомби «возможны». Ранние философы-зомбисты в 1970-е просто считали, что зомби «возможны» и не трудились определить, какого рода возможность они имели в виду.

Поскольку я поднаторел в математической логике, первое, что приходит мне на ум – это логическая возможность. Если у вас есть подборка утверждений вроде (A->B), (B->C), (C>~A), то сложное убеждение логически возможно, если для него есть модель – которая, в вышеприведенном простом случае, сводится к поиску таких значений для А, В, С, что все утверждения (A->B), (B->C), (C->~A) – истинны. Тогда ответом будет A=B=C=0, а также A=0, B=C=1 или A=B=0, C=1.

Нечто будет казаться возможным – «концептуально возможным» или «представимым» - если вы рассматриваете подборку утверждений, не замечая противоречий. Но, как правило, наибольшая трудность – именно обнаружить противоречия или*, с другой стороны*, разработать полную и точную модель! Если вы ограничиваетесь простыми Булевыми утверждениями вида((А или В или С) и (В или ~С или D) и (D или ~A или ~C) …), конъюнкциями или дизъюнкциями трех переменных, тогда это очень известная задача под названием 3-SAT, одна из первых задач, для которой была доказана NP-полнота3.

Итак, то, что вы не видите противоречий в Мире зомби с первого взгляда, не означает, что противоречий не существует. Это как не видеть с первого взгляда противоречий в гипотезе Римана. От концептуальной возможности («не вижу трудности») к строгой логической возможности – огромный скачок. Легко сделать так, что это будет скачок к NP-полноте, а с использованием теорий первого порядка4, даже для ограниченных задач вычисление можно сделать сколь угодно трудным. И именно логическая, а не концептуальная возможность Мира зомби необходима, чтобы предположить, что логически всезнающий разум может знать положение всех атомов во вселенной - и все же ему нужно сообщить как дополнительный, не вытекающий [из его знания] факт то, что у нас есть внутренний слушатель.

Само по себе то, что вы пока не видите противоречие, не дает гарантии, что вы не увидите противоречие в следующие 30 секунд. «Все нечетные числа – простые. Доказательство: 3 – простое, 5 – простое, 7 – простое…»

Поэтому давайте еще немного поразмыслим над Спором о зомби. Можем ли мы придумать контрпример к утверждению «Сознание не имеет причинного воздействия на мир, которое может быть обнаружено извне»?

Если вы закроете глаза и сконцентрируетесь на вашей внутренней осведомленности, в вашем внутреннем повествовании будут появляться мысли из ряда «Я сознаю…», «Мое осознание отдельно от моих мыслей», «Я не тот, кто высказывает мои мысли, но тот, кто их слышит», «Поток моего сознания не есть мое сознание» и «Кажется, существует часть меня, которую я могу представить уничтоженной без перемен в моем внешнем поведении».

Вы даже можете произнести эти фразы вслух в то время как вы размышляете. В принципе, некто со сверхчувствительным томографом5 мог бы прочитать фонемы в вашей слуховой коре; но произнести вслух означает устранить все сомнения насчет того, вошли ли вы в мир проверяемости и физических следствий.

Определенно кажется, что внутренний слушатель ловится в акте слушания той вашей частью, что создает внутреннее повествование и приводит в движение язык.

Представьте, что таинственная инопланетная раса посетила вас и оставила в подарок таинственный черный ящик. Вы тыкаете и пинаете ящик, но (насколько можете сказать) не вызываете никакой реакции. Вы не можете вынудить ящик отсыпать вам золотых монет или ответить на вопросы, и делаете вывод, что ящик причинно неактивен. «Для всех Х, черный ящик не делает Х». Черный ящик – результат, но не причина; он эпифеноменален, не имеет причинной способности. Размышляя, вы проверяете эту общую гипотезу, чтобы понять, истинна ли она в некоторых пробных случаях, и она кажется истинной – «Превращает ли ящик свинец в золото? Нет. Кипятит ли ящик воду? Нет.»

Но вы можете видеть черный ящик; он поглощает свет и веско оттягивает вашу руку. Это также часть танца причинности. Если бы черный ящик был всецело за пределами причинной вселенной, вы бы не могли его видеть; вы никак не могли бы узнать о его существовании; вы не могли бы сказать: «Спасибо за ящик!» Вы бы не думали об этом контрпримере, формулируя общее правило. «Все Х: Черный ящик не делает Х». Но он все время был здесь.

(На самом деле, инопланетяне оставили вами другой черный ящик, на этот раз совершенно эпифеноменальный, и у вас нет ни малейшего намека, что он здесь, в вашей комнате. Они так пошутили.)

Если вы можете закрыть глаза и ощутить, что вы ощущаете – если вы можете осознавать себя сознающего, и думаете «Я сознаю, что я сознаю» - и говорите это вслух – то ваше сознание не бездействует в отношении вашего внутреннего повествования или ваших шевелящихся губ. Вы можете видеть себя видящим, и ваше внутреннее повествование отражает это, так же, как ваши губы – если вы решите сказать об этом вслух.

Я не встречал приведенный выше аргумент – «слушатель, пойманный в акте слушания» - сформулированным именно так, хотя это, конечно, может быть кем-то уже высказано.

Но общепринятым моментом является то – и философы-зомбисты это признают! – что философы Мира зомби, до последнего атома идентичные нашим философам, пишут те же труды по философии сознания.

С этого момента Мир зомби перестает быть интуитивно понятным следствием идеи пассивного слушателя.

Философы, пишущие о сознании, окажутся хотя бы одним воздействием сознания на мир. Вы можете придумать изощренные причины, почему это не так, но вам придется постараться.

Интуитивно вы предположите, что если бы ваша внутренняя осведомленность исчезла, мир бы изменился так, что ваше внутреннее повествование более не включало бы фразы вроде «Внутри меня есть таинственный слушатель», потому что таинственный слушатель исчез. Но обычно ваше внутреннее повествование может сказать «Я осознаю свою осведомленность» лишь после того, как вы сфокусируете свое сознание на собственной осведомленности – из этого следует, что если первое так и не произошло, не будет и второго. Вы можете придумать изощренные причины, почему это не так, но вам придется постараться.

Вы можете внушить себе веру в то, что «Сознание не воздействует» и не увидите противоречия, пока не поймете, что разговор о сознании – следствие того, что вы сознаете. Но как только вы поймете связь между общим правилом, что «сознание не воздействует», и его частным приложением, что сознание не воздействует на то, как философы пишут труды про сознание – «зомбизм» перестает быть интуитивно понятным и начинает требовать, чтобы вы приняли как должное странные вещи.

Первая странность, которую вы должны принять – существование Повелителя зомби, бога Мира зомби, который тайно управляет зомби-философами и заставляет их говорить и писать о сознании.

Повелитель зомби не кажется невозможным. Люди часто не вполне последовательны, говоря о сознании. Наверное, нетрудно исказить их рассуждения до уровня, скажем, обывателя, разглагольствующего в баре. Можно взять за основу болтовню тысячи обывателей на тему сознания, скормить ее не сознающему, но хитроумному ИИ – продвинутому, но не самообучающемуся – и получить на выходе рассуждения о «сознании», звучащие так же здраво, как рассуждения большинства людей – то есть, вполне бредово.

Но эти рассуждения о «сознании» не будут произвольными. Они не созданы внутри ИИ – это будет записанная имитация речей кого-то еще, всего лишь симуляция6 с главным ИИ, озвучивающим персонажей. Это не то, что имеется в виду, когда говорят о Мире зомби.

Предположим, Мир зомби до последнего атома совпадает с нашим миром, за исключением того, что его обитатели лишены сознания. Далее, атомы в Мире зомби движутся по тем же физическим законам, что и в нашем мире. Если есть «законы сопряжения», определяющие, какие соединения атомов пробуждают сознание, то эти законы неизвестны. Но, гипотетически, различие и не может быть установлено экспериментально. Когда речь идет о кварке, движущемся так или этак или воздействующем на соседние кварки – о том, что можно измерить в рамках эксперимента –действуют те же законы физики.

В Мире зомби нет места для Повелителя зомби, потому что последнему придется управлять движением зомбьих губ, а такое управление, в принципе, можно обнаружить экспериментально. Повелитель зомби движет губами – следовательно, у него есть наблюдаемые следствия. Это может быть точка, в которой электрон по знаку Повелителя движется туда, а не сюда. (Если не принимать, что Повелитель на самом деле находится внутри мира, понимаемого как структура из кварков – но тогда Мир зомби не совпадает с нашим до последнего атома, если вы не думаете, что Повелитель зомби присутствует и в нашем мире.)

Когда философ в нашем мире пишет: «Я думаю, что Мир зомби возможен», его пальцы последовательно нажимают клавиши З-О-М-Б-И. В этих нажатиях можно отследить цепь причинности: сокращение мышц, возбуждение нервов, команды, посылаемые через спинной мозг двигательной областью коры головного мозга – и далее в менее известные области мозга, где внутреннее повествование философа впервые заговорило о «сознании».

И зомби-двойник философа нажимает те же клавиши, вследствие тех же факторов с точки зрения причинности. В цепи объяснений того, почему философ пишет именно так, нет причины, которой бы отсутствовала в отношении его зомби-двойника. У двойника также есть внутреннее повествование о «сознании», которое продвинутый томограф мог бы считать из его слуховой коры. И какие бы другие мысли, или иные подобные мотивы, ни вели к такому внутреннему повествованию, они в точности те же как в нашей вселенной, так и в Мире зомби.

Итак, вы не можете сказать, что философ пишет о сознании вследствие сознания, в то время как зомби-двойник пишет о сознании по знакуПовелителя зомби или ИИ. Когда вы отслеживаете цепь причинности от клавиатуры к внутреннему повествованию, отзывающемуся в слуховой коре, и к причине повествования, вы должны найти такое же физическое объяснение в нашем мире, как и в мире зомби.

Как пишет самый убежденный защитник зомбизма Дэвид Чалмерс:

«Подумайте о моем зомби-двойнике в соседней вселенной. Он все время говорит о сознательном опыте – по сути, он кажется одержимым. Он тратит абсурдное количество времени, сгорбившись за компьютером и строча главу за главой о тайнах сознания. Он часто говорит об удовольствии, которое он получает от неких свойств чувственного опыта7, питая особую любовь к темно-зеленому и багровому. Он часто ввязывается в споры с зомби-материалистами, заявляя, что их позиция несправедлива к реалиям сознательного опыта.

И в то же время у него нет сознательного опыта вообще! В его вселенной материалисты правы, а он ошибается. Большая часть его утверждений о сознательном опыте – попросту ложь. Но, несомненно, есть физическое или физиологическое объяснение, почему он утверждает то, что утверждает. В конце концов, его вселенная всецело подчиняется законам, в ней нет чудес – следовательно, должно быть какое-то объяснение и его утверждениям.

…Любое объяснение поведения моего двойника равно будет считаться объяснением моего поведения, так как процессы внутри его тела в точности соответствуют процессам внутри моего. Основание под его утверждениями, очевидно, не зависит от существования сознания, ведь в его мире сознания не существует. Следовательно, объяснение моих утверждений также не зависит от существования сознания».

Чалмерс не выдвигает аргументы против зомби; таковы его подлинные убеждения!

Эта парадоксальная ситуация одновременно радует и пугает. Она не обязательно станет приговором убеждениям не-редукционизма, но, по крайней мере, с ней нам придется сцепиться.

Я на самом деле полагаю, что эта пилюля горчайшая из всех, что нам вовеки пришлось проглотить. Таков мой сомнительный комплимент Дэвиду Чалмерсу. Менее горькая не помогла бы прояснить все следствия, позволила бы уйти от столкновения с ними или рационализировать причину, почему все не так страшно.

Почему кто бы то ни было решил проглотить такую пилюлю? Почему кто-то выдвинул утверждение о бессознательных зомби, которые пишут труды о сознании точно по той же причине, что и наши, несомненно наделенные сознанием, философы?

Я писал не об интуитивно ясном понятии пассивного слушателя. Интуиция в этом случае может подсказать, что зомби могут водить машину, заниматься математикой или даже влюбиться – но она не говорит, что зомби пишут философские труды о своем пассивном слушателе.

Спор о зомби покоится не только на понятии пассивного слушателя. Если б дело было только в нем, думаю, спор бы уже затих. Интуитивное представление, что «слушателя» можно устранить без последствий, исчезло бы, как только вы осознаете, что ваше внутреннее повествование, по-видимому, связывается со слушателем в каждом акте слушания.

Нет, побуждение проглотить эту пилюлю исходит из совершенно иного интуитивного представления – состоящего в том, что, сколько бы атомов вы ни добавили, сколько бы масс и электрических зарядов ни взаимодействовали, они с необходимостью никогда не вызовут субъективного ощущения таинственной красноты красного. То, что расположение таких-то атомов в таком-то порядке вызывает ощущение красноты, (по Чалмерсу) может быть фактом нашей физической вселенной – но если это верно, то без данного факта можно обойтись и объяснить [это явление], не вовлекая движение атомов.

Но если вы рассмотрите второе интуитивное представление само по себе, без понятия пассивного слушателя, трудно понять, почему оно предполагает зомбизм. Возможно это всего лишь иной род вещества, отличный от атомов и дополняющий их, который не является причинно пассивным – душа, которая на самом деле порождает вещество и на самом деле играет роль причинности, когда мы пишем о «таинственной красноте красного». Уберите душу и…хм, предполагая, что вы не впадете в кому, вы точно не напишете новых трудов о сознании.

Это точка зрения Декарта и большинства других древних мыслителей. Душа имеет иную природу, но она взаимодействует с телом. Точка зрения Декарта известна как вещественный дуализм – существуют вещество-мысль, вещество-разум, отличные от атомов; но они причинно действенны, взаимодействуют с нашей вселенной и оставляют на ней различимый отпечаток.

Зомбисты же привержены дуализму свойств – они верят не в обособленную душу, а в то, что материя в нашей вселенной имеет дополнительные свойства, не относящиеся к физическим.

«Не относящиеся к физическим?» Что это значит? А то, что дополнительные свойства здесь, но они не влияют на движение атомов, в отличие от параметров электрического заряда или массы. Дополнительные свойства не обнаруживаются сторонним экспериментом; вы осознаете, что наделены сознанием, изнутри ваших дополнительных свойств, но ни один ученый не может непосредственно обнаружить это извне.

Итак, дополнительные свойства здесь, но они не являются причинно активными. Они не перемещают атомы и поэтому не могут быть обнаружены извне.

И поэтому мы (якобы) можем представить вселенную в точности, как эта, где все атомы на тех же местах, но дополнительные свойства отсутствуют, и все происходит так же, как раньше, только никто не наделен сознанием.

Мир зомби может быть физически невозможным, - скажут зомбисты, - так как установлено, что вся материя в нашей вселенной имеет дополнительные свойства, либо подчиняется «законам сопряжения», пробуждающим сознание – но Мир зомби возможен логически: законы сопряжения могли бы оказаться иными.

Но если вы осознаете, что «возможность вообразить» и логическая возможность не одно и то же, и что Мир зомби не так уж интуитивно понятен – почему вы говорите, что Мир зомби логически возможен?

Почему, почему вы говорите, что дополнительные свойства эпифеноменальны и не могут быть обнаружены?

Мы можем сделать эту дилемму еще жестче. Чалмерс верит, что существует нечто, называемое сознанием, и что это сознание воплощает подлинную и неописуемую сущность таинственной красноты красного. Это может быть свойство, не связанное с массой и зарядом, но оно есть, и это – сознание. Сказав все это, Чалмерс далее определяет, что сущность сознания эпифеноменальна и не является причинно действенной – но почему он так решил?

Как можно сказать, что возможно устранить самую суть сознания и оставить все атомы на своих местах и в том же состоянии? Если это верно, нам нужно отдельное физическое объяснение для всего того, что Чалмерс говорит о «таинственной красноте красного». То есть, одновременно существуют вне-физическая«таинственная краснота красного» и совершенно отдельная физическая причина того, что Чалмерс способен говорить о «таинственной красноте красного».

Чалмерс признает, что эти две вещи, по-видимому, должны быть связаны, но послушайте, зачем нам сразу обе? Почему бы не выбрать ту или другую?

Если вы утверждаете, что существует таинственная краснота красного, почему бы не сказать, что она взаимодействует с вашим внутренним повествованием и побуждает вас говорить о ней?

Не проще ли подход, выбранный Декартом – в строгом смысле?

Зачем заявлять о вне-материальной душе – и тут же о том, что эта душа не воздействует на физический мир – а затем вводить ужасно таинственный материальный процесс, который побуждает ваше внутреннее повествование говорить о сознательном опыте?

Почему бы не заявить об истинной материи сознания, к которой простые бездушные атомы в любом количестве не смогут ничего добавить – и только потом, зайдя так далеко, позволить этой материи сознания обладать свойствами причинности вроде тех, что позволяют философам говорить о сознании?

Я не одобряю подход Декарта. Но я хотя бы понимаю, из чего исходил Декарт. Сознание кажется таинственным, и вы заявляете о таинственной материи сознания. Прекрасно!

Но теперь зомбисты заявляют, что эта таинственная материя ничего не делает, так что вам необходимо абсолютно новое объяснение того, почему вы можете сказать, что наделены сознанием.

Это не витализм. Это нечто столь причудливое, что виталисты подавились бы кофе. «Когда огонь горит, он высвобождает флогистон. Но флогистон не оказывает экспериментально подтвержденного воздействия на нашу вселенную, так что вам придется искать отдельное объяснение, почему огонь плавит снег». Вы шутите?

Полагают ли приверженцы «дуализма свойств», что, если они заявят о новой действующей силе, которая оказывает причинное воздействие на наблюдаемые объекты, они высунут голову слишком далеко?

Что до меня, я бы сказал, что если вы заявляете о таинственном, дополнительном, отдельном, сугубо умозрительном свойстве сознания, не связанном с положениями и скоростями в пространстве, вы уже высунули голову дальше некуда. Сначала заявить о материи сознания, а потом о том, что она ни на что не влияет – во имя няшных котят, за что?

Это даже не является очевидным карьерным мотивом. «Привет, я философ сознания. Мой предмет исследования – самая важная штука во вселенной, и мне нужна наилучшая финансовая поддержка, понимаете? Хм, мило, что вы это сказали, но на самом деле явление, которое я изучаю, вообще ни на что не влияет». (Аргумент от карьеры несостоятелен, но я его привел, чтобы оставить место для отступления).

Чалмерс критикует вещественный дуализм на том основании, что не видно новой физической теории или нового вещественного взаимодействия, которые могли бы объяснить сознание. Но у дуализма свойств те же проблемы. Неважно, о каком роде двойных свойств вы говорите – как именно он объясняет природу сознания?

Когда Чалмерс заявляет о дополнительном свойстве, которым является сознание, он перепрыгивает необъяснимое. Как это поможет его теории определить далее, что это дополнительное свойство ни на что не влияет? Почему бы просто не придать ему причинность?

Если б я разозлился, именно сейчас я бы вытащил на свет дракона – притчу Карла Сагана о драконе в гараже. «У меня в гараже дракон!» Отлично! Пойдем посмотрим! «Ты его не увидишь – это невидимый дракон». Тогда я бы хотел его услышать! «Извини, дракон не слышен». Тогда я измерю прирост концентрации углекислоты! «Он не дышит». Я распылю в воздухе мешок муки, чтобы обрисовать его форму. «Дракон проницаем для муки».

Один из мотивов для попытки сделать свою теорию принципиально неопровергаемой8 – то, что в глубине души вы боитесь подвергнуть ее проверке. Сэр Роджер Пенроуз (физик) и Стюарт Хэмерофф (невролог) – вещественные дуалисты, полагающие, что в квантах протекает нечто таинственное, что Эверетт неправ и что «коллапс волновой функции» физически реален – что именно там обитает сознание, и таким образом оно оказывает причинное воздействие на ваши губы, когда вы произносите «Я мыслю, следовательно, я существую». Поверив в это, они предсказывают, что нейроны сопротивляются декогеренции достаточно долго, чтобы поддерживать макроскопические квантовые состояния.

Это процедура проверки, и до сих пор ее перспективы для Пенроуза выглядели не блестяще – но основная деятельность Пенроуза с научной точки зрения вполне респектабельна. Может, не соответствует Байесовым критериям – но все же имеет здоровые корни. Он выступил с бредовой гипотезой – указал, как ее проверить – вышел и действительно попытался проверить ее.

Как я сказал Стюарту Хэмероффу, «Думаю, гипотеза, которую вы проверяете, совершенно безнадежна, и ваши эксперименты определенно заслуживают финансирования. Даже если вы не найдете в точности то, что ищете, вы ищете там, где до вас никто не искал – и можете обнаружить что-нибудь интересное».

Итак, устранение эпифеноменализма будет неприятно тем, что зомбисты побоятся говорить о действующем веществе-сознании, ведь ученые могут отправиться искать эти дополнительные свойства – и не найти их.

Хотя я не думаю, что это справедливо в отношении Чалмерса. Если бы Чалмерсу недоставало честности к себе, он мог бы многое сделать намного проще.

(На случай, если Чалмерс читает это и действительно боится фальсификации, я укажу, что, если эпифеноменализм ложен, то существует другое объяснение так называемому сознанию, и оно будет в итоге найдено – тогда теория Чалмерса обрушится; так что, если Чалмерса заботит его место в истории, у него нет мотивов поддерживать эпифеноменализм, если он действительно не считает его истинным).

Чалмерс – один из самых неуспешных философов, кого я знаю. Иногда мне интересно, не готовит ли он нечто вроде «Побежденного атеизма». Чалмерс проводит действительно тонкий анализ… и в последний миг сворачивает в тупик. Он показывает все неувязки сценария с Миром зомби – и тут же, выбросив все свои доводы на свалку, смиренно принимает этот сценарий.

Чалмерс делает то же самое, когда подробно объясняет, почему нельзя оправдать нашу собственную веру в сознание тем, что наш зомби-двойник ошибается, говоря те же вещи по тем же причинам.

По поводу теории Чалмерса – его слова о вере в сознание не имеют причинного обоснования; вера не может быть вызвана фактом как таковым. В отсутствие сознания Чалмерс писал бы те же труды по тем же причинам.

Насчет эпифеноменализма – высказывание Чалмерса о вере в сознание не обосновано тем, что это результат процесса, систематически выдающего верные убеждения, поскольку зомби-двойник пишет те же труды в результате того же систематического процесса – и ошибается.

Чалмерс признает это и, на самом деле, объясняет в своей книге каждый довод очень подробно. Значит, Чалмерс прочно доказал, что его вера в эпифеноменальное сознание не обоснована, так? Нет, он пишет:

«Опыт сознания находится в центре нашей эпистемологической вселенной; у нас есть прямой доступ к нему. Отсюда вопрос: что, как не причинная связь с этим опытом и не механизмы формирования убеждений, обосновывает наше доверие к этому опыту? Думаю, ответ ясен: обладание опытом обосновывает доверие к нему. Например, сам факт, что у меня есть опыт красного, обосновывает мое убеждение, что у меня есть опыт красного…

Поскольку мой зомби-двойник лишен опыта, его эпистемологическая ситуация сильно отличается от моей, и его суждения лишены соответствующего обоснования. Тянет возразить, что, если мое убеждение относится к области физического, его обоснование также должно относиться к этой области – но это non sequitur (нелогично). Из отсутствия обоснований в области физического можно сделать вывод, что не обосновано убеждение моей физической части (скажем, мозга). Но вопрос в том, обосновано ли мое убеждение, а не убеждение моего мозга –ведь, если дуализм свойств верен, то я – нечто большее, чем мой мозг».

Итак – если я верно понял этот тезис – есть «подлинный я», где-то за пределами моего мозга, который верит, что он не зомби, и непосредственно ощущает опыт зомби-небытия – и это обосновывает его веру.

Но Чалмерс лишь написал все это в своей очень даже физической книге, и то же сделал Чалмерс-зомби.

Чалмерс-зомби не смог бы написать книгу благодаря тому, что за пределами мозга есть «подлинное зомби-я» – должна быть совершенно иная причина в рамках законов физики.

Следовательно, даже если существует скрытая часть Чалмерса, сознающая и верящая в сознание прямо и непосредственно, также существует отделимое подпространство Чалмерса – закрытая для причинности познающая подсистема, действующая всецело в рамках физики – именно это «внешнее я» проговаривает чалмерсово внутреннее повествование и пишет труды о сознании.

Не вижу способа избежать обвинения, что, исходя из его же собственной теории, этот отделимый внешний Чалмерс сошел с ума. Это часть Чалмерса, которая одинакова в этом мире и в Мире зомби, и в каждом из миров она пишет философские труды о сознании без веских причин. Его философские труды не исходят из внутреннего ядра осведомленности и убеждения в осведомленности, они исходят из обычной физики внутреннего повествования, которое заставляет пальцы Чалмерса нажимать на клавиши компьютера.

И этот безумный внешний Чалмерс пишет философские труды, которые вдруг оказываются совершенно правильными, по отдельной и дополнительной чудесной причине. Чудо не является логически необходимым (тогда был бы логически возможен и Мир зомби). Это физически возможное чудо, которое оказывается верным в том, что мы полагаем нашей вселенной, даже несмотря на то, что наука не может различить нашу вселенную и Мир зомби.

Или по меньшей мере так покажется исходя из того, что говорит нам безумный, по его собственному признанию, внешний Чалмерс.

Думаю, я говорю за всех редукционистов, когда произношу «Эээ…?»

Это не эпициклы. То есть, «Движение планет следует этим эпициклам – но эпициклы на самом деле ничего не делают – что-то еще, что я не могу объяснить, движет планеты так, как это описывают эпициклы – и, я бы сказал, даже если б не было никаких эпициклов».

У меня нестандартный взгляд на философию, поскольку я смотрю на всё глазами разработчика ИИ; конкретнее – самосовершенствующегося ИИ общего характера со стабильной структурой мотивации.

Когда я думаю о разработке ИИ, я рассматриваю такие принципы, как теория вероятности, Байесовы представления о свидетельстве как дифференциальной диагностике и, прежде всего, согласованность [связность] мышления. Любой самосовершенствующийся ИИ, начинающий работу в состоянии несогласованного мышления, долго не протянет.

Если самосовершенствующийся ИИ обратится к той своей части, что делает заключение Б исходя из условия А – части, что записывает Б в память, когда истинно условие А – исследовав эту часть, ИИ определяет, каким образом она (причинно) действует в контексте большой вселенной, и решает, что эта часть систематически записывает в память ложные данные – тогда ИИ вносит в себя изменение: не записывать Б в область убеждений при условии А.

Любая эпистемологическая теория, не принимающая во внимание согласованность [связность] мышления – не лучшая теория, чтобы строить на ее основе самосовершенствующийся ИИ. С моей точки зрения, это сокрушительный аргумент, принимая во внимание, для чего я на самом деле собираюсь применять философию. Так что, в любом случае мне придется разработать теорию, предусматривающую согласованность мышления. И когда я это сделаю – ей-богу, согласованность мышления обретет интуитивно понятный смысл.

Таков необычный аспект, в котором я предполагаю рассматривать все эти вопросы. А теперь вернемся к Чалмерсу.

Причинно замкнутый «внешний Чалмерс» (на которого никак не влияет «внутренний Чалмерс» со своими отдельными, дополнительными знаниями и убеждениями) должен осуществлять некое систематически ненадежное, недозволенное действие, которое необъяснимым образом побуждает внутреннее повествование порождать убеждения о «внутреннем Чалмерсе» - правильные без какой-либо на то причины, логичной в нашей вселенной.

Но у внешнего Чалмерса или любого ИИ с последовательным мышлением и самодиагностикойнет возможных оснований, чтобы верить в эту чудесную правильность. Хорошо спроектированный ИИ, думаю, выглядит как последовательно мыслящий разум, воплощенный в системе причинности, с проверяемой теорией того, как эта система причинности систематически порождает точные убеждения, решая при этом поставленные перед ней задачи.

Итак, ИИ вглядится в Чалмерса и увидит познавательную систему с замкнутыми причинными связями, выдающую бессмысленное внутреннее повествование. Бессмыслица, по-видимому, существенно влияет на то, что, по мысли Чалмерса, должно считаться морально целостной личностью.

Эту проблему не нужно решать теоретикам Дружественного ИИ – сложность возникает, лишь если вы эпифеноменалист. Если верить редукционистам (сознание возникает в пределах атомарной структуры, или вещественным дуалистам (сознание представляет собой причинно действенную нематериальную сущность), говорящий о сознании говорит о чем-то реально существующем, и последовательно мыслящий байесианский ИИ может понять это, отследив цепь причин, побуждающих человека говорить о «сознании».

По Чалмерсу, познавательная система с замкнутыми причинными связями, порождающая чалмерсово внутреннее повествование, работает с (таинственными) искажениями, поскольку чудесным образом – не с необходимостью, а случайно и только в нашейвселенной – выдает верные ответы. Более того, внутреннее повествование утверждает, что «внутреннее повествование, работает с (таинственными) искажениями, но чудесным образом верно отражает обоснованные представления эпифеноменального внутреннего ядра»

Да неужели!

Не пора ли вам уже отбросить эту идею? Не пора ли, на самом грубом интуитивном уровне, прийти к мысли: «О чем я только думал?»

Человечество накопило обширный опыт того, как выглядят верные представления о мире. Они выглядят совсем не так.

«Аргумент от недоверия», - вы говорите. Отлично, вы хотите, чтобы я это сказал? Указанная чалмерсианская теория заявляет о множественных необъяснимых сложных чудесах. Это обрушивает ее изначальную вероятность, согласно вероятностному правилу конъюнкции и Бритве Оккама. Следовательно, над ней берут верх, самое малое, две теории, которые предусматривают меньше чудесного, а именно:

  1. вещественный дуализм:
  • «существует еще не понятая материя сознания, необычайная сверх-физическая материя, которая оказывает видимое воздействие на наш мир; именно эта материя побуждает нас говорить о сознании».
  1. Не-вполне-основанный-на-вере редукционизм:
  • так называемое «сознание» возникает в рамках физики не понятым пока образом, в точности как последние три тысячи раз, когда человечество сталкивалось с чем-то таинственным.

  • интуитивное представление, что вещество не может, теоретически, быть частью сознания, - неверно. Точное знание причин, почему вы можете рассуждать о сознании, могло бы подтолкнуть вас к пониманию вещей, о которых вы не имеете пока никакого представления; и впоследствии вы бы осознали, что ваши доводы о том, что в физике нет места сознанию, имели изъян.

Сравните с эпифеноменальным дуализмом свойств:

  • У вещества есть дополнительные свойства, обусловленные сознанием, которые мы пока не понимаем. Эти свойства эпифеноменальны по отношению к экспериментальной физике – они не воздействуют на движение частиц.

  • Отдельносуществует еще не понятая физическая причина, по которой философы могут говорить о сознании и выдумывать теории двойных свойств.

  • Чудесным образом, когда философы говорят о сознании, законы сопряжения с нашим миром в точности таковы, что рассуждения о сознании оказываются верными, хотя они и возникают вследствие неисправности (логически не допустимых выводов) в познавательной системе с замкнутыми причинными связями, которая строчит философские труды.

Знаю, что мои слова основаны на ограниченном опыте. Но исходя из моего ограниченного опыта Спор о зомби может быть кандидатом на самую безумную идею в философии.

Временами вы как рационалист вынуждены верить в вещи, кажущиеся вам странными. Странными кажутся относительность, квантовая механика, естественный отбор.

Но эти странности закреплены солидными свидетельствами. Есть разница между верой в что-то странное, но в полной мере подтвержденное наукой –

  • и верой в утверждение, которое кажется совершенно безумным, поскольку большой сложный философский спор крутится вокруг неопределенных чудес и громадных слепых пятен, даже не претендующих на постижимость -

  • и даже после того, как вы примете на веру все, что вам говорят, явление все еще будет казаться тайной и останется таким же удивительно непроницаемым, каким было изначально.

Если бы все аргументы Дэвида Чалмерса по отдельности казались правдоподобными – а они таковыми мне не кажутся – то рационалисту уместно было бы сказать:

«Ладно… Признаю, что не знаю, как работает сознание… может, я неверно подхожу к проблеме как таковой или задаю неверные вопросы…но эта тема с зомби не может быть здравой. Аргументы недостаточно хорошо стыкуются, чтобы вынудить меня во все это поверить – особенно когда я понимаю, что не стану оттого менее озадаченным. На уровне чутья, она просто не похожа на то, как действительность могла бы работать на самом-самом деле.

Обратите внимание, я не говорю, что это заменит аккуратное аналитическое опровержение тезиса Чалмерса. Система 1 не заменит Систему 2, хотя она может направить к цели. Вам все же придется найти, в чем именно загвоздка.

Чалмерс написал толстую книгу, не полностью доступную в бесплатном анонсе Гугла. Я не воспроизвел длинные цепи аргументов, которые Чалмерс обстоятельно выдвигает против себя. Я лишь взялся за окончательное опровержение последних доводов Чалмерса в свою защиту, которые он еще не противопоставил моим знаниям – чтобы загнать мяч на его поле, где он и был.

Но на глубинном уровне – да, при виде аргументов в пользу зомби разумно сказать: «Это не может быть верно», - и начать поиск ошибки.

  • 1. Понятие «чемпион» (steel man) используется, когда обращаются к наиболее сильной форме позиции или аргумента противника. «Чучело» (straw man)- это искажение позиции или аргумента оппонента с тем, чтобы их было легко опровергнуть.
  • 2. *Боковое коленчатое ядро -**одно из двух клеточных ядер таламуса, расположенных на концах каждого из оптических трактов, из которых зрительные пути идут к полосатой области затылочной коры.*
  • 3. NP - класс задач, решения для которых можно быстро проверить. NP-полная задача - задача, умея решать которую, можно решить любую NP-задачу
  • 4. Теория первого порядка – теория, в которой можно формулировать утверждения про объекты ее модели, но не про множества объектов.
  • 5. fMRI – functional magnetic resonance imaging, функциональная магнитно-резонансная томография.
  • 6. Holodeck - Holographic Environment Simulator (Голографический симулятор окружающей среды) - система виртуальной реальности для экипажей космических кораблей вселенной Star trek.
  • 7. Термин, используемый в аналитической философии сознания для обозначения сенсорных, чувствительных явлений любого рода. В более точных философских терминах квалиа — это свойства чувственного опыта.
  • 8. Unfalsifiable, нефальсифицируемой (согласно критерию Поппера).
Перевод: 
Son_goku
Номер в книге "Рациональность: от ИИ до зомби": 
221
Оцените перевод: 
Средняя оценка: 4.8 (4 votes)

Зомби: теперь в кино!

Элиезер Юдковский

Военный штаб. За столом сидят несколько человек в офицерской форме. Во главе стола — командир базы генерал Фред, грузный мужчина с резкими чертами лица.

Генерал Фред: Сообщения подтвердились. Нью-Йорк заполонён… зомби.
Полковник Тодд: Опять?! Но у нас уже были зомби, всего месяц назад!
Генерал Фред: Эти зомби… они другие. Это философские зомби.
Капитан Мадд: Они агрессивные? Бросаются на людей, кусаются?
Полковник Тодд: Они полностью теряют мыслительные способности?
Генерал Фред: Нет. Внешне они ничем не отличаются от людей… Но они лишены сознания.

Гнетущая тишина.

Полковник Тодд: О, боже.

Генерал Фред встал и подошёл к большому экрану на стене.

Генерал Фред: Это — Нью-Йорк две недели назад.

На экране сменяются кадры: шумная многолюдная улица, ресторан с обедающими посетителями, работники, загружающие мусорный контейнер в грузовик.

Генерал Фред: А это — Нью-Йорк… сегодня.

На экране — станция метро в час пик, шумная компания студентов в парке, парочка, гуляющая по набережной.

Полковник Тодд: Это гораздо хуже, чем я мог себе представить.
Капитан Мадд: Почему?
Полковник Тодд: Никогда в жизни не видел такой зловещей обыденности.

К столу подошёл учёный в лабораторном халате.

Учёный: Заболевание лишает человека сознания, никоим образом не влияя на мозг. Мы пытаемся определить пути распространения. Заболевание поражает дуальные свойства материи, поэтому мы пришли к выводу, что оно действует за пределами нашей Вселенной. Мы имеем дело с эпифеноменальным вирусом.
Генерал Фред: Вы уверены?
Учёный: Настолько, насколько можем быть уверены при отсутствии каких-либо свидетельств.
Генерал Фред: Так. Составьте отчёт по каждому случившемуся эпифеномену. Где, как и с кем. Мне нужен полный список всего ненаблюдаемого за последние 50 лет.
Капитан Мадд: Если вирус эпифеноменальный, как мы узнали, что он существует?
Учёный: Так же, как мы узнали, что обладаем сознанием.
Капитан Мадд: М-м… окей.
Генерал Фред: Какие успехи с эпифеноменальным лекарством?
Учёный: Мы перепробовали каждое известное плацебо. Всё бестолку. Они все обладают эффектами.
Генерал Фред: Пробовали подключить к работе гомеопатов?
Учёный: Мы пытались, сэр! Нам не удалось их найти!
Генерал Фред: Отлично. А даосов?
Учёный: Они отказываются что-либо делать!
Генерал Фред: Значит, у нас ещё есть шанс.
Полковник Тодд: А что на счёт Дэвида Чалмерса? Разве он не должен быть здесь?
Генерал Фред: Чалмерс… он заразился одним из первых.
Полковник Тодд: Чёрт…

===========================================================================

Медицинский изолятор со стенами из пуленепробиваемого стекла. Дэвид Чалмерс бесцельно бродит из угла в угол. К изолятору подходит доктор.

Доктор: Дэвид! Давид Чалмерс! Вы меня слышите?
Чалмерс: Слышу.
Медсестра: Всё бестолку…
Чалмерс: Я в полном порядке. Я наблюдал за своими мыслями и чувствами, и не заметил никаких изменений. Знаю, именно это вы и ожидаете от меня услышать, но…

Доктор отвернулся от стекла.

Доктор: Его слова больше ничего не значат.
Чалмерс: Это какое-то безумное извращение моих философских идей. То, о чём вы говорите — просто бред!
Доктор: Почему это?
Чалмерс: Потому что…

===========================================================================

Двое военных в камуфляже, офицер и сержант, охраняют просёлочную дорогу, ведущую к большим металлическим воротам огромного бетонного строения. На их форме — нашивка с надписью «КАРАНТИН».

Офицер: Хрен опознаешь этих ублюдков. Выглядят как люди, разговаривают как люди, до последней молекулы не отличаются от людей. Но они — не люди.
Сержант: Уроды…

Вдалеке раздался рёв двигателя. Показался человек на белом мотоцикле. Он был в чёрных очках, в строгом чёрном кожаном костюме с чёрным кожаным галстуком, и в серебристых ботинках. Седая борода развевалась на ветру. Человек в костюме резко остановился у ворот. Двое военных подбежали к нему.

Офицер: Стоять! Вы к кому?
Человек в костюме: Здесь содержится Дэвид Чалмерс?
Сержант: Вам-то что, он ваш друг?
Человек в костюме: Не совсем. Но даже у зомби есть права.
Офицер: Предъявите ваши квалиа.
Человек в костюме: У меня их нет.

Сержант выхватил пистолет.

Сержант: Допрыгался, зомби!
Офицер: Стой. Зомби всегда говорят, что у них есть квалиа.
Сержант: Значит, он нормальный человек?
Офицер: Нет, они говорят то же самое.

Охранники замерли в замешательстве.

Сержант: Эм-м…
Офицер: Кто вы?
Человек в костюме: Я Дэниел Деннет, твари!

Словно из ниоткуда Деннет выхватил меч и со звонким лязгом разрубил пистолет сержанта. Офицер потянулся за своим, но Деннет внезапно оказался у него за спиной и ребром ладони ударил его в основание шеи. Офицер тут же упал без сознания. Сержант в панике попятился назад.

Сержант: Это невозможно! Что это было?!
Деннет: Я един со своим телом.

Следующим ударом Деннет отправил сержанта к своему командиру. После этого он повернулся к огромному строению и крепче сжал в руке свой меч.

Деннет (тихо, сам себе): Ложка существует.

===========================================================================

Генерал Фред: Только что получили рапорт. Мы потеряли Детройт.
Капитан Мадд: Не то чтобы я был рад этому, но…
Генерал Фред: Население Австралии стало простой материей.
Полковник Тодд: Эпифеноменальный вирус распространяется всё быстрее. Мы можем потерять человеческую цивилизацию, какой мы её знаем. Судьба всего человечества зависит от нас.
Капитан Мадд: Мы можем попытаться договориться с ними…
Генерал Фред: Мы пытались связаться с ними несколько раз, и получили только один ответ.
Капитан Мадд: Какой же?
Генерал Фред: Скоро узнаем.

Вошёл секретарь с конвертом в руках и передал его генералу. Тот распечатал конверт, достал листок бумаги и молча уставился на него.

Капитан Мадд: Что они пишут?
Генерал Фред: Они написали… «Это у вас вирус».

Гробовая тишина. Полковник Тодд медленно поднял руки к глазам.

Полковник Тодд: О боже, это правда. Это правда. Я… — Слеза скатилась по его щеке. — Я ничего не чувствую.

Перевод: 
Дмитрий Федорков
Номер в книге "Рациональность: от ИИ до зомби": 
226
Оцените перевод: 
Средняя оценка: 5 (3 votes)

Исключая сверхъестественное

Элиезер Юдковский

Порой кто-нибудь заявляет, что креационизм нельзя преподавать в школе, — особенно как гипотезу, конкурирующую с теорией эволюции, — поскольку креационизм апеллирует к «сверхъестественному» и потому его априори автоматически следует исключить из сферы научного рассмотрения.

То есть… эти люди утверждают, что, возможно, креационисты правы, но даже будь креационизм правдой, его всё равно следовало бы запретить в научно-образовательных учреждениях, поскольку наука имеет дело только с «естественным»?

Очевидно, такое представление родилось из стремления избежать конфронтации между наукой и религией. Нельзя же просто так взять и заявить, что наука не учит Религиозному Убеждению X, потому что X протестировали научным методом, и оно оказалось ложным. Так что вместо этого можно… скажем… заявить, что наука исключает гипотезу X априори. В этом случае не приходится обсуждать, как эксперимент показал ложность X апостериори.

Разумеется, подобная аргументация играет на руку креационистам. Они получают возможность утверждать, что наука предвзята в пользу атеизма и несправедливо относится к теории Разумного Замысла, не обращая внимания на свидетельства. Если бы наука априорно отвергала гипотезу Разумного Замысла, такое негодование было бы вполне справедливым!

Но давайте вернёмся немного назад. Вот кто-то приходит и говорит: «Разумный Замысел отвергается наукой априори, потому что он „сверхъестественнен“, а наука имеет дело только с „естественными“ объяснениями».

Что конкретно подразумевается под «сверхъестественным»? Является ли любое объяснение, придуманное кем-то по фамилии Коэн, сверхъестественным? Короче, если мы хотим выкинуть некоторое множество гипотез из области научного, то какие именно гипотезы предполагается исключать?

Пока что лучшее услышанное мной определение «сверхъестественному» принадлежит Ричарду Кэрриеру: «сверхъестественное» объяснение прибегает к онтологически базовым разумным сущностям, то есть таким разумным сущностям, которые не могут быть сведены к неразумным.

Именно в этом, например, заключается разница между утверждением «Вода течёт вниз, потому что хочет быть внизу» и дифференциальными уравнениями, которые описывают только движение, но не желания. В этом разница между утверждением, что дерево отращивает листья благодаря духу дерева, и изучением биохимии растений. Когнитивная наука переносит битву со сверхъестественностью на поле разума.

Чем замечательно это определение сверхъестественного? За полной аргументацией я отсылаю вас к Ричарду Кэрриеру. Однако, для примера: допустим, вы обнаружили что-то похожее на духа, живущего в дереве — дриаду, которая материализуется внутри и снаружи дерева, на чистом английском говорит, что ей нужно защищать её дерево, и так далее. А затем, предположим, мы навели микроскоп на эту дриаду, и оказалось, что она состоит из частиц — не из особых неизъяснимых спиритических частиц типа материи желаний или полотна верований, а из обыкновенных частиц типа кварков и электронов, частиц, поведение которых определяется движением, а не сознанием. Разве это тут же не низвело бы дриаду в разряд обычных скучных вещей?

Но если мы принимаем определение сверхъестественного, которое предложил Ричард Кэрриер, то у нас возникает дилемма: мы хотим объективно оценивать религиозные утверждения, но у нас, кажется, есть серьёзные основания исключить сверхъестественные объяснения априори.

Ведь как выглядела бы вселенная, если бы редукционизм был ложной идеей?

Ранее я определил тезис редукционистов так: человеческое сознание создаёт многоуровневые модели реальности, причём разные уровни этих моделей разделяются явным образом. Физику знакомо и уравнение гравитации Ньютона, и уравнение гравитации Эйнштейна, и то, как первое выводится из второго, будучи его приближением для низких скоростей. Но все эти три отдельных представления существуют лишь для удобства человеческого познания. Нельзя сказать, что в реальности существует закон тяготения Ньютона, который правит на низких скоростях, закон гравитации Эйнштейна, который правит на высоких скоростях, и «закон-перемычка», сглаживающий интерфейс. Сама по себе реальность имеет только один уровень — Эйнштейновскую гравитацию. Лишь ошибка проецирования ума заставляет некоторых людей говорить так, словно высокоуровневые представления существуют сами по себе. Разные уровни структуры могут быть по разному представлены на картах людей, но территория — это единый низкоуровневый математический объект.

Теперь представим, что всё это неверно.

Представим, что ошибка проецирования ума ведёт не к ошибочным, а к верным выводам.

Представим, что Боинг 747 имеет собственное фундаментальное физическое существование, независимое от кварков, которые его составляют.

Какие экспериментальные наблюдения вы ожидали бы получить, окажись вы в такой вселенной?

Если вы не можете придумать хороший ответ, то это не наблюдение, опровергающее «нередукционистские» убеждения, а логическая несостыковка. Если вы не знаете, какие предсказания делает «нередукционистская» модель, как вы поймёте, что экспериментальные данные её опровергают?

Мой тезис таков: нередукционизм — это лишь путаница в головах у людей. Но когда ты считаешь некоторую идею лишь следствием путаницы, становится сложно представить, как выглядела бы вселенная, если на самом деле никакой путаницы нет. Возможно, моя многоуровневая модель мира состоит во взаимно-однозначном соответствии с порождающими её физическими элементами. Но почему, при заданных правилах, модель не могла бы оказаться отображением ещё и какого-нибудь другого списка фундаментальных штук и их взаимосвязей? Должно ли всё, что я вижу в модели (вроде Боинга 747 или человеческого разума), оказаться отдельной настоящей сущностью? Однако, что если я вижу шаблон в этой новой суперсистеме?

Вера в сверхъестественное — это частный случай нередукционизма. Только в этом случае оказывается несводимым к первоэлементом не Боинг, а лишь (некоторые) вымышленные объекты. Религия — это частный случай веры в сверхъестественное, где нередуцируемыми объектами являются Бог(и) и души. А также грехи, ангелы, карма и так далее.

Рассмотрим идею могущественной сущности, способной наблюдать и изменять любой элемент нашей наблюдаемой вселенной, однако сводимой к неразумным частицам, которые взаимодействуют с элементами нашей вселенной по общим законам. Если я предположу, что эта сущность чего-то хочет, однако это «хотение» обусловлено мозгом, состоящим из частиц и полей, то это окажется не религией, а лишь натуралистической гипотезой о натуралистической Матрице. Если завтра разверзнутся небеса, явится огромная светящаяся бесформенная фигура и провозгласит вышеприведённое описание мира, это не будет значить, что фигура непременно говорит правду. Впрочем, я бы показал видеозапись этого явления на уроке естествознания и попытался вывести проверяемые следствия из провозглашённой теории.

С другой стороны, религии проигнорировали открытие древней бестелесной сущности — присутствующей в каждом творении природы и в каждом падающем листе, не созданной разумным замыслом, а возникшей из физических законов. Она огромна как поверхность планеты, и ей миллиарды лет. Не имея мозга, она создала всю жизнь на Земле и человеческий разум. Естественный отбор, открытый Дарвином, так никто и не провозгласил долгожданным Создателем — он не был фундаментально разумным.

И теперь мы столкнулись с дилеммой: если стандартное, нормальное, общепринятое, скучное понимание физики и мозга верно, то человек в принципе не может ни помыслить, ни сделать экспериментально проверяемые предсказания об альтернативной вселенной, в которой нематериальные сущности несводимы к материальным. Ведь если старая добрая скучная, нормальная модель верна, значит наши мозги сделаны из кварков, и поэтому мы можем породить только такие представления и гипотезы, какие могут породить кварки. То есть любая модель, которую вы способны вообразить, заведомо порождена взаимодействием простых частиц.

Люди, живущие в редукционистской вселенной не могут вообразить в деталях нередукционисткие вселенные. Они могут произнести по слогам «не-ре-дук-ци-о-нист-ский», но не могут это представить.

Люди часто склонны к антропоморфизму. Сверхъестественные объяснения им кажутся более простыми, чем они есть на самом деле. Это вызвано тем, что ваш мозг использует себя как непрозрачный черный ящик, чтобы предсказывать поведение других объектов, помеченных как «сознательные». Поскольку у вас уже есть большая сложная нейронная сеть, которая осуществляет вашу способность «хотеть», мы с лёгкостью описываем воду как нечто «желающее» течь вниз. Самих только слов «хотеть/желать» уже достаточно, чтобы привести в действие всю сложную механику вашего мозга, которая за это отвечает.

Или же вы представляете, что Богу нравятся красивые вещи, и поэтому он создал цветы. Ваше собственное чувство прекрасного определяет, что прекрасно, а что нет. Но у вас нет диаграммы ваших собственных синапсов. Вы не можете описать неразумную систему, которая решит, что «красиво», а что «некрасиво», также как вы. Не можете написать компьютерную программу, которая спрогнозирует ваши собственные оценки. Но это лишь изъян в вашем собственном знании. Из этого не следует, что мозг непознаваем.

Если «скучный» взгляд на реальность верен, то вы никогда не сможете предсказать что-либо нередуцируемое, поскольку вы сами редуцируемы. Вы никогда не сможете получить Байесовское подтверждение гипотезе о нередуцируемости, поскольку абсолютно любое ваше предположение окажется предположением редуцируемой штуки — вашего мозга.

У нашего мышления есть пределы, за которые действительно нельзя выйти. Если наша вселенная и в самом деле вычислима машиной Тьюринга, то мы никогда не сможем представить себе что-либо, невычислимое машиной Тьюринга. Наши математики могут описывать машины с оракулом любого класса сложности для разрешения проблемы останова, однако мы всё равно не сможем предположить такой результат работы этой машины, который был бы достоверно отличим от результата, вычислимого обычной машиной Тьюринга.

Конечно, всё это верно, только если верна «скучная» точка зрения. Насколько вы верите, что теория эволюция верна, настолько же вы должны ожидать, что сильного свидетельства против эволюции не найдётся. Насколько вы убеждены в том, что теория редукционизма верна, настолько же вы должны ожидать, что нередукционистские гипотезы окажутся непоследовательными и ложными. Насколько вы убеждены в ложности сверхъестественного, настолько же вы должны ожидать, что оно окажется невообразимым.

С другой стороны, если обнаружится, что гипотеза о сверхъестественном верна, то, предположительно, также обнаружится, что сверхъестественное не является невообразимым.

Итак, вернёмся теперь снова к проблеме разумного замысла (далее РЗ).

Следует ли признать, что теория РЗ априори является нефальсифицируемой, и вычеркнуть её из круга научных вопросов на основании того, что эта теория апеллирует к сверхъестественному и, таким образом, ставит себя вне натурфилософии?

Мой ответ: «Конечно же, нет». Нередуцируемость разумного создателя не является необходимой частью гипотезы РЗ.
И поскольку сами сторонники гипотезы РЗ редуцируемы, то для каждого предполагаемого нередуцируемого бога найдётся предполагаемый редуцируемый инопланетянин с абсолютно таким же поведением. Насколько я уверен (а я весьма и весьма уверен) в том, что теория редукционизма и вправду верна, настолько же я должен ожидать, что для любой мыслимой гипотезы о сверхъестественном найдётся соответствующая ей редукционистская формулировка.

Если мы обратимся к археологическим данным, чтобы проверить, действительно ли воды Красного моря расступились только из-за желания Иеговы продемонстрировать свои сверхъестественные способности, то нам не важно, был ли Иегова базовой онтологической сущностью, или инопланетянином с нанотехнологиями, или Тёмным Повелителем Матрицы. Вы проводите какое-то количество раскопок, не находите на дне Красного моря ни скелетов, ни оружия, зато находите записи, что Египет управлял большей частью территории Ханаана. Так что вы помечаете соответствующую историческую запись в Библии как «опровергнуто» и продолжаете жить дальше. Эта гипотеза непротиворечива, фальсифицируема и неверна.

Аналогично биологические свидетельства показывают, что лисы сконструированы так, чтобы ловить кроликов, кролики — чтобы убегать от лис, но ни те, ни другие не сконструированы, чтобы «сохранять свой вид» или «сохранять гармонию в природе». Можно вспомнить и о сетчатке глаза, которая устроена шиворот-навыворот: её светочувствительные клетки расположены с противоположной стороны от глаза. И так далее. Есть тысячи примеров случайного, безнравственного, непродуманного устройства. Библейская модель нашего чуждого бога непротиворечива, фальсифицируема и неверна — непротиворечива до тех пор, покуда вас не заботит, является ли Бог базовой онтологической сущностью или просто пришельцем.

Просто преобразуйте сверхъестественные гипотезы в соответствующие естественные. Просто делайте такие же предсказания таким же образом, но без привлечения каких-либо нематериальных базовых онтологических сущностей. Консультируйтесь с «чёрным ящиком» в своей голове, чтобы строить предположения. Допустим, вы рассуждаете о «разгневанном боге», и у вас нет полноценного «разгневанного ИИ», чтобы отличить «разгневанное» поведение от «не разгневанного». Делайте предсказание самостоятельно или сверяйтесь с предсказаниями древних теологов, у которых не было доступа к результатам экспериментов. Если эксперимент противоречит вашим предсказаниям, то справедливо будет заявить, что данное религиозное утверждение было научно опровергнуто. Утверждению был дан шанс на выживание, но оно было отвергнуто. Апостериори. Не априори.

В конечном счёте, редукционизм — это всего лишь неверие в сложные базовые штуки. Если словосочетание «сложные базовые штуки» звучит для вас как оксюморон… ну, вот поэтому я и считаю доктрину о нередуцируемости скорее путаницей в головах, чем одним из возможных вариантов мироустройства. Если вы обнаруживаете, что допускаете существование сложных базовых сущностей, лучше будьте осторожней.

Самое главное правило науки — смотреть и видеть. Даже если бы Бог оказался громом в горах, все равно было бы что-то, что можно найти и увидеть.

Вывод: любой кандидат в разработчики Сильного Искусственного Интеллекта, который уважительно отзывается о религиозных убеждениях, определённо не является экспертом в редуцировании ментальных объектов до нементальных. Совершенно точно он очень мало знает о самых основах, и крайне маловероятно, что такой человек окажется стоящим специалистом в искусстве разработки ИИ. Разве что мы имеем дело со случаем крайнего савантизма. Или разве что он явно лжёт. В общем, небольшое заблуждение тут точно исключено.

Перевод: 
Kelegorm, Aelryn, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
227
Оцените перевод: 
Средняя оценка: 5 (2 votes)