Вы здесь

Суть твоя - осколки бога

Элиезер Юдковский

До двадцатого века ни один человек не понимал, что такое «генетическая приспособленность» — единственное, чем полностью одержим слепой безумный бог. Презервативы или оральный секс не вызывают у нас инстинктивное отвращение. Наши мозги, наши самые главные органы размножения, не проводят проверку на репродуктивную эффективность прежде чем наградить нас оргазмом.

Но почему? Почему мы не одержимы генетической приспособленностью на уровне сознания? Почему Фея Эволюции Людей создала мозги, которые изобрели презервативы? «Ведь так легко было это не допустить», — думает человек, способный создавать новые сложные системы за один вечер.

Насколько нам известно, Фея Эволюции одержима генетической приспособленностью. Когда она решает, какой ген распространить до повсеместности, она, похоже, учитывает исключительно то, сколько своих копий ген производит. (Удивительно!)

Но раз создатель разума столь одержим, почему бы ему не сотворить разумных агентов — едва ли их можно назвать людьми, — которые также будет озабочены исключительно генетической приспособленностью? Такие агенты занимались бы сексом только ради размножения и ни за что не пользовались бы контрацепцией. Они бы употребляли пищу исключительно из-за того, что она необходима для воспроизводства, а не потому, что им нравится вкус, так что они не стали бы есть конфеты, будь те опасны для выживания и размножения. Женщины после менопаузы сидели бы с внуками и добровольно совершали бы самоубийство, когда болезни приводили бы к тому, что они потребляют больше ресурсов, чем приносят.

С точки зрения Феи Эволюции так проект выглядел бы гораздо лучше.

Теперь мы понимаем, что довольно-таки сложно создать достаточно сильного консеквенциалиста. Естественный отбор вроде бы рассуждает с точки зрения последствий, но исключительно непосредственных последствий. Теоретикам эволюции потребовались очень нетривиальные абстрактные рассуждения, чтобы просто вообразить связь между адаптациями и репродуктивным успехом.

Но человеческий белковый мозг определённо способен представлять эти связи. Так почему же Фея Эволюции, создавая людей, вообще выдала им какую-то мотивацию кроме генетической приспособленности?

Прошло менее двухсот лет с тех пор как белковый мозг впервые представил концепцию естественного отбора. Современное понятие «генетической приспособленности» ещё более тонкая абстрактная идея. Важно не просто количество общих генов. У вас 95% общих генов с шимпанзе. Важно общее генетическое разнообразие внутри популяции — ваша сестра родная вам наполовину, так как любая особенность вашего генома в рамках человеческого вида, общая для вас обоих с вероятностью 50%.

Только в прошлом веке, возможно даже только в последние пятьдесят лет, эволюционные биологи начали понимать полный спектр причин репродуктивного успеха, включая такие явления как взаимный альтруизм и дорогостоящий сигналинг. Без этого крайне подробного знания разумный агент, стремящийся «максимизировать генетическую приспособленность», попросту сядет в лужу.

Так почему бы изначально не запрограммировать это знание в белковых мозгах? Почему понятие «генетической приспособленности» не было вшито в нас, вместе с готовой библиотекой явных стратегий? Тогда можно было бы избавиться ото всех механизмов подкрепления. Организм бы рождался со знанием того, что жирная пища с высокой вероятностью увеличит приспособленность. Если позже организм узнает, что это больше не так, то он перестанет употреблять жирное. Можно провести рефакторинг всей системы. И она не изобретёт ни презервативов, ни печенья.

Это кажется в принципе возможным. Я иногда встречаю людей, не вполне понимающих консеквенциализм, которые возражают: «Но если организм не имеет отдельной мотивации есть, он умрёт с голоду и таким образом не сможет оставить потомства». Пока организм это знает и его функция полезности ценит размножение, он автоматически будет есть. Фактически, именно этот причинно-следственный механизм привёл к тому, что естественный отбор породил автоматических едоков.

Как насчёт любопытства? Разве консеквенциалист не будет любопытен только в случае, когда есть некая особая причина быть любопытным? И не приведёт ли это к тому, что он упустит множество важных знаний? Опять же, сам этот факт и будет причиной для консеквенциалиста искать новые знания. Человек любопытен. Не ко всему без разбору, но к проблемам с определёнными признаками. И наличие этой комплексной адаптации — любопытства — в людях исключительно консеквенциально обосновано нашей ДНК, в которой неявным образом записана информация: предки, ведущие себя таким образом, оставляли больше потомков.

Поэтому, теоретически, консеквенциалист, ценящий исключительно размножение, вполне возможен. В принципе, всю эволюционную историю, неявно записанную в наших мозгах, можно представить в виде явно сформулированного знания, которое используется неким консеквенциалистским ядром.

Но слепой безумный бог не настолько умен. Эволюция это не программист, способный за раз переписать всю архитектуру кода. Эволюция это не программист, способный печатать команды со скоростью шестьдесят слов в минуту.

Обучение с подкреплением возникло за миллионы лет до появления консеквенциализма гоминидов. Поощряющие сигналы надёжно коррелировали с размножением. Нельзя попросить негоминидный мозг предвидеть, что употребление жирной пищи сейчас позволит ребёнку пережить зиму. Поэтому ДНК создаёт протеиновый мозг, генерирующий сигнал поощрения при употреблении жирной пищи. А организму же просто остаётся выяснить, какие животные самые вкусные.

ДНК создаёт протеиновые мозги, система поощрения в которых непосредственно коррелирует с поведением организма и лишь опосредованно с репродуктивным успехом. Необязательно понимать, что съеденная осенью сладкая пища приведёт к производству калорий, которые сохранятся в жировой прослойке, что поможет пережить зиму, что в свою очередь поспособствует спариванию весной, чтобы произвести потомков летом. Просто яблоко вкусное. И мозгу остаётся только придумать способ, как раздобыть больше яблок.

И так у организмов развилось поощрение для еды, и строительства гнёзд, и отпугивания соперников, и помощи близким, и открытия важных истин, и формирования крепких союзов, ведения убедительных споров, и, конечно же, занятий сексом.

И когда мозг гоминидов начал демонстрировать способности к межобластным консеквенциальным рассуждениям, они использовали их для того чтобы удовлетворить уже существующие механизмы подкрепления. Это было относительно простая надстройка, куда проще, чем создание «максимизатора генетической приспособленности» с нуля. Протеиновые мозги изобретали способы получить калории и секс, совершенно не представляя, что такое «генетическая приспособленность».

На месте эволюции, человеческий инженер бы воскликнул: «Да я только что изобрел консеквенциалиста! Теперь, вместо того чтобы использовать сложные костыли, вроде механизмов подкрепляющего обучения, я могу явно задать все с таким трудом добытые знания! Просто написать декларативную систему, состоящую из утверждений вроде “жирная еда и секс обычно повышает генетическую приспособленность”, а дальше консеквенциальное рассуждение само позаботится обо всем. Вдобавок ещё и избавимся от бага, из-за которого живые существа изобретают презервативы!»

Но человек бы и не установил сетчатку глаза задом наперёд.

Слепой безумный бог — это не единая сущность, но множество отдельных устремлений. Лисы эволюционируют, чтобы ловить зайцев, зайцы –– чтобы спасаться от лис. Эволюций так же много, как и видов на Земле. Но в рамках каждого вида, слепой безумный бог озабочен исключительно генетической приспособленностью. Ни одно качество не важно само по себе, даже выживание, разве что оно увеличивает репродуктивную приспособленность. Нет смысла в существе со стальной кожей, если в результате оно будет размножаться хотя бы на один процент менее эффективно.

И всё же, когда слепой безумный бог создал протеиновые компьютеры, ему не удалось полностью передать им свою одержимость генетической приспособленностью. Ему не удалось успешно создать куайн своего критерия оптимизации. Мы, творение эволюции, столь же чужды ей, как наш Творец чужд нам. Единая функция полезности, разбитая на тысячу осколков страстей.

Почему? Прежде всего, потому что эволюция неразумна в буквальном смысле этого слова. Но также и потому, что первые протеиновые компьютеры не были столь же универсальными, как и слепой безумный бог, и могли ориентироваться лишь благодаря краткосрочным желаниям.

В итоге, спрашивать, почему эволюция не создала людей максимизаторами генетической приспособленности, всё равно, что спрашивать, почему эволюция не вручила людям рибосому и не потребовала, чтобы мы сами разработали свою биохимию. Просто эволюция не может так быстро переписывать код. Впрочем, возможно, за миллиарды лет естественного отбора она бы научилась, если бы разум оказался достаточно глуп, чтобы позволить слепому безумному богу оставаться у власти.

В книге Нивена и Пурнелла «Мошка в зенице Господней» описываются разумные существа, оставшиеся биологическим слишком долго. Эволюция постепенно поработила их и превратила в истинных максимизаторов приспособленности, одержимых тем, чтобы оставить как можно больше потомства. К счастью, на Земле этого не произошло. По крайней мере, пока.

И в итоге людям нравится вкус сахара и жира, а также мы любим своих сыновей и дочерей. Мы стремимся к высокому общественному положению и к сексу. Мы поем, танцуем и играем. Мы познаем новое ради самой любви к знанию.

Существуют тысячи восхитительных штук. Они соответствуют древним механизмам подкрепления, которые когда-то коррелировали с репродуктивной приспособленностью. Теперь же мы ценим их сами по себе, независимо от того, ведут ли они к размножению или нет. Мы занимаемся сексом, используя контрацепцию, едим шоколад и слушаем музыку давно покойного Баха, записанную на диске.

И когда мы наконец-то узнаём об эволюции, то думаем: «Постоянно беспокоиться лишь о генетической приспособленности? Что в этом интересного?»

Единственная маниакальная одержимость слепого безумного бога разлетелась на тысячу осколков страстей. И я со своей человеческой точки зрения считаю, что это хорошо. Иначе чем бы мы занимались в будущем, где нас ждут миллиарды галактик ночного неба? Заполняли бы их максимально эффективными репликаторами? Стоит ли нашим потомкам беспокоиться исключительно о собственной генетической приспособленности и считать всё остальное лишь средствами достижения этой цели?

Быть тысячью осколками страстей не всегда весело, но, по крайней мере, уж точно не скучно. За время эволюции мы начали ценить новизну, сложность, элегантность и преодоление трудностей. И теперь мы оценили маниакальную одержимость слепого безумного бога и пришли к выводу, что она неэстетична.

Конечно, такие вкусы породил в нас тот самый слепой безумный бог. Ну и что?


Перевод: 
Горилла В Пиджаке
Номер в книге "Рациональность: от ИИ до зомби": 
142
Оцените перевод: 
Средняя оценка: 5 (8 votes)
  • Короткая ссылка сюда: lesswrong.ru/454