Суть твоя - осколки бога

Элизер Юдковский

До двадцатого века, ни один человек не имел представления о «генетической приспособленности» - единственной вещи, которой полностью одержим слепой безумный бог. У нас нет инстинктивного отвращения перед презервативами или оральным сексом. Наши мозги, эти превосходные репродуктивные органы, не проводят проверку на репродуктивную эффективность, прежде чем наградить нас оргазмом.

Почему нет? Почему мы не являемся сознательно одержимыми генетической приспособленностью? Почему Фея Эволюции Людей создала мозги, которые изобрели презервативы? «Не допустить этого было бы так легко» - думает человек, способный создавать новые сложные системы за один вечер.

Насколько нам известно, Фея Эволюции просто одержима генетической приспособленностью. Когда она решает, какой ген распространить до повсеместности, она, похоже, учитывает исключительно то, сколько своих копий ген производит (Удивительно!)

Но раз создатель разума столь одержим, почему бы ему не сотворить разумных агентов – едва ли их можно назвать людьми, – которые также будет озабочены исключительно генетической приспособленностью? Такие агенты занимались бы сексом только ради размножения и ни за что не пользовались бы контрацепцией. Они бы употребляли пищу исключительно из-за того, что она необходима для воспроизводства, а не потому, что им нравится вкус, так что они не стали бы есть конфеты, будь те угрозой для выживания и размножения. Женщины после менопаузы сидели бы с детьми до тех пор, пока не становились слишком больными, начиная негативно сказываться на бюджете семьи, и тогда бы они добровольно совершали самоубийство.

Это выглядит совершенно очевидным улучшением проекта – с точки зрения Феи Эволюции.

Понятно, что довольно-таки сложно создать достаточно сильного консеквенцианалиста. Естественный отбор вроде бы рассуждает консеквенциально, но исключительно в зависимости от непосредственных последствий. Теоретикам эволюции потребовались крайне высокоэффективные абстрактные рассуждения, чтобы представить связь между адаптациями и репродуктивным успехом.

Но человеческий мозг определенно способен представлять эти связи. Так почему же, когда Фея Эволюции создала людей, она дала им какую-либо мотивацию кроме генетической приспособленности?

Прошло менее двухсот лет, с тех пор как белковый мозг впервые представил концепцию естественного отбора. Современное понятие «генетической приспособленности» еще более деликатно - это крайне абстрактная концепция. Важно не просто количество общих генов. У вас 95% общих генов с шимпанзе. Что важно, так это общее генетическое разнообразие внутри популяции - ваша сестра родная вам наполовину, так как любая особенность вашего генома по отношению к человеческому виду, имеет 50% вероятность быть общей для вас двоих.

Только в прошлом веке, возможно даже во второй его половине, эволюционные биологи начали понимать полный спектр причин репродуктивного успеха, включая взаимный альтруизм и дорогостоящий сигналлинг. Без этого крайне подробного знания, разумный агент, стремящийся «максимизировать генетическую приспособленность» попросту сядет в лужу.

Так почему бы изначально не запрограммировать это знание в белковых мозгах? Почему понятие «генетической приспособленности» не было вшито в нас, вместе с готовой библиотекой явных стратегий? Тогда можно было бы избавиться ото всех механизмов подкрепления. Организм бы рождался со знанием того, что жирная пища с высокой вероятностью увеличит приспособленность. Если позже организм узнает, что это больше не так, то он перестанет употреблять жирное. Можно провести рефакторинг всей системы. И она не изобретет ни презервативов, ни печенья.

Это кажется в принципе возможным. Я иногда встречаю людей, не вполне понимающих консеквенциализм, которые возражают: «Но если организм не имеет отдельной мотивации есть, он умрет с голоду и не сможет таким образом оставить потомства». Что ж, покуда организм это знает и обладает функцией полезности, ценящей репродукцию, он автоматически будет есть. Фактически, это как раз и есть та консеквенциальная причина, по которой естественный отбор породил автоматических едоков.

Но что на счет любопытства? Разве не будет консеквенциалист любопытен только в случае, когда есть некая особая причина быть любопытным? И раз так, не приведет ли это к тому, что он упустит множество важных знаний? Опять же, сам этот факт и будет причиной для консеквенциалиста искать новые знания. Человек любопытен. Не ко всему без разбору, но к проблемам со специфическими характеристиками. И наличие этой комплексной адаптации в людях исключительно консеквенциально обосновано нашей ДНК. Это неявный способ представления информации: Предки, ведущие себя таким образом оставляли больше потомков.

Но слепой безумный бог не настолько умен. Эволюция это не программист, способный за раз переписать всю архитектуру кода. Эволюция это не программист, способный сидеть и печатать команды со скоростью шестьдесят слов в минуту.

За миллионы лет до возникновения гоминидного консеквенциализма существовало обучение с подкреплением. Поощряющие сигналы были стабильно коррелированы с репродукцией. Негоминидный мозг не способен предвидеть, что употребление жирной пищи сейчас позволит ребенку пережить зиму. Поэтому ДНК создает протеиновый мозг, генерирующий сигнал поощрения при употреблении жирной пищи. А организму же просто остается выяснить, какие животные самые вкусные.

ДНК создает протеиновые мозги, система поощрения в которых непосредственно коррелирует с поведением организма, и лишь опосредованно с репродуктивным успехом. Необязательно понимать, что съеденная осенью сладкая пища приведет к производству калорий, которые могут быть сохранены в жировой прослойке, что поможет пережить зиму, что в свою очередь поспособствует спариванию весной, чтобы произвести потомков летом. Просто яблоко вкусное. И мозгу остается только придумать способ, как раздобыть больше яблок.

И так организмы развили поощрение для еды, и строительства гнезд, и отпугивания соперников, и помощи близким, и открытия важных истин, и формирования крепких союзов, ведения убедительных споров, и, конечно же, занятий сексом.

И когда мозг гоминидов начал демонстрировать способности к межобластным консеквенциальным рассуждениям, они использовали их для того чтобы удовлетворить уже существующие механизмы подкрепления. Это было относительно простая надстройка, куда проще, чем создание «максимизатора генетической приспособленности» с нуля. Протеиновые мозги изобретали способы получить калории и секс, без какого-либо явного представления о «генетической приспособленности».

На месте эволюции, человеческий инженер бы воскликнул: «Да я только что изобрел консеквенциалиста! Теперь, вместо того чтобы использовать сложные костыли, вроде механизмов подкрепляющего обучения, я могу явно задать все с таким трудом добытые знания! Просто написать декларативную систему, состоящую из утверждений вроде “жирная еда и секс обычно повышает генетическую приспособленность”, а дальше консеквенциальное рассуждение само позаботится обо всем. Вдобавок еще и избавимся от бага, из-за которого живые существа изобретают презервативы!»

Но человек бы и не установил сетчатку глаза задом наперед.

Слепой безумный бог – это не единая сущность, но множество отдельных устремлений. Лисы эволюционируют чтобы ловить зайцев, зайцы – спасаться от лис. Существует так же много эволюций, как и видов на Земле. Но в рамках каждого вида, слепой безумный бог озабочен исключительно генетической приспособленностью. Ни одно качество не важно само по себе, даже выживание, разве что оно увеличивает репродуктивную приспособленность. Нет смысла в существе со стальной кожей, если в результате оно будет размножаться хоть на 1% менее эффективно.

И все же, когда слепой безумный бог создал протеиновые компьютеры, ему не удалось полностью передать им свою одержимость генетической приспособленностью. Ему не удалось успешно создать куайн своего критерия оптимизации. Мы, творение эволюции, столь же чуждые ей, как и наш Творец чужд нам. Единая функция полезности, разбитая на тысячу осколков страстей.

Почему? Прежде всего, потому, что эволюция буквально неразумна. Но также и потому, что первые протеиновые компьютеры не были столь же универсальными, как и слепой безумный бог, и могли ориентироваться лишь благодаря краткосрочным желаниям.

В итоге, спрашивать, почему эволюция не создала людей максимизаторами генетической приспособленности, все равно, что спрашивать, почему эволюция не дала людям рибосому, потребовав, чтобы мы сами разработали свою биохимию. Просто эволюция не может так быстро переписывать код. Но возможно, спустя миллиард лет естественного отбора, именно это бы и произошло, будь интеллекты столь глупы, чтобы позволить слепому безумному богу оставаться у власти.

В произведении Нивена и Пурнеля Соринка в Глазу Бога описывается разумный вид, оставшийся биологическим слишком долго, постепенно становясь действительно порабощенным эволюцией, превращаясь в истинных максимизаторов приспособленности, одержимых тем, чтобы оставить как можно больше потомства. Но к счастью, это не то, что произошло в действительности на нашей планете. По крайней мере, пока.

Итак, людям нравится вкус сахара и жира, а также мы любим своих сыновей и дочерей. Мы ищем высокого общественного положения и секса. Мы поем, танцуем и играем. Мы познаем новое, ради самой любви к знанию.

Тысяча предпочтений, соответствующих древним механизмам подкрепления, что когда-то коррелировали с репродуктивной приспособленности. Теперь же мы ценим их самих по себе, независимо от того ведут ли они к размножению или нет. Мы занимаемся безопасным сексом, едим шоколад и слушаем музыку давно покойного Баха, записанную на диске.

И когда мы наконец-то узнаем об эволюции, то думаем: «Быть постоянно одержимым генетической приспособленностью? И что в этом интересного?»

Мы – маниакальная одержимость слепого безумного бога, разбитая на тысячу осколков страстей. И, будучи человеком, я считаю, что это хорошо. Иначе что бы мы делали с нашим будущим? С миллиардом галактик ночного неба? Заполнили бы их максимально эффективными репликаторами? Следует ли нашим потомкам быть озабоченным исключительно собственной генетической приспособленностью, воспринимая все остальное лишь как средства достижения этой цели?

Быть тысячью осколками страстей не всегда здорово, но, по крайней мере, это не скучно. Мы развили вкусы к новизне, сложности, элегантности и преодолению трудностей – вкусы, что оценивают маниакальную одержимость слепого безумного бога и находят ее эстетически неудовлетворительной.

И да, эти вкусы породил в нас тот самый слепой безумный бог. И что с того?

Перевод: 
Горилла В Пиджаке
Оцените перевод: 
Средняя оценка: 5 (3 votes)