Вы здесь

Истинные моральные конфликты

Элиезер Юдковский

Повесть «Тройной контакт»1 – самая известная моя работа до МРМ. Когда я работал над ней, то совершенно очевидно считал, что никто не станет всерьёз воспринимать это как литературное произведение. Например, в книге есть внутрикорабельный 4chan2.

Каково же было моё удивление, когда профессиональные писатели-фантасты, такие как Дэвид Брин и Питер Уоттс, оставили свои рецензии на повесть, к тому же хвалебные. Я сидел и спрашивал себя: «Что же, чёрт возьми, я сделал правильно?»

Основной моральный конфликт в «Тройном контакте» строится на следующем открытом вопросе: как много боли(или горя) мы готовы иметь в эвдемонии3 – настолько хорошем мире, насколько это физически достижимо? Прежде я уже рассматривал этот вопрос в серии эссе «Теория удовольствия»4. Я было нерешительно склонился в сторону варианта «Допустимо иметь в мире некоторое количество боли и горя, только их должно быть гораздо меньше, чем сейчас». Но при этом я отдавал себе отчёт, что это может быть просто точкой зрения живушего в 21 веке человека по имени Элиезер Юдковский, и, что даже если большая часть страданий будет устранена, то потомки могут однажды просто взять и избавиться и от всего оставшегося страдания.

У рационалистов принято стилменить5: пытаться представить позицию оппонента звучащей настолько убедительно, насколько это вообще возможно. Есть у этой практики и подводные камни, я рассмотрел некоторые из них в эссе «Против адвокатуры дьявола». Но в целом, вы можете относиться к принципу «атакуй самые сильные аргументы противоположной стороны» как к умному способу держаться подальше от Мэри Сью6. Если вам противостоит небеспричинно сильная сторона, то и показывать ещё следует сильной. Ведь если выставлять противную сторону слабой, чтобы легче было одержать над ней победу, то это достойно лишь презрения и показывает исключительно вашу собственную слабость.

Я знал, что мои симпатии были на стороне Удовольствия. Потому-то чутьё автоматически подсказало мне сделать так, чтобы Сверхблаженство, анти-болевая сторона в «Тройном контакте», звучало как можно убедительнее. Я хотел, чтобы читатель ощутил мощь позиции Сверхблаженства, чтобы он разделил чувства людских персонажей в момент, когда те сомневаются, правы ли они на самом деле. Определённо, я не собирался ослаблять позицию Сверхблаженства для того, чтобы показать в произведении правоту людской стороны. В этом было бы что-то неправильное, словно бы я несправедлив к полноправной оппозиции, к которой принадлежат мыслители типа Дэвида Пирса – и это чем-то напоминало мне ощущение после прочтения «Атлант расправил плечи».

Орсон Скотт Кард в одном эссе (к сожалению, не помню точно, каком) заметил, что, хотя из конфликта между Добром и Злом и может выйти неплохая история, она не будет и вполовину такой захватывающей, как история конфликта между Добром и Добром.

На выборе между абсолютным устранением боли и просто чрезвычайным её сокращением – между позициями Сверхблаженства и Удовольствия, и строится центральный моральный конфликт «Тройного контакта». Ключевое слово – «конфликт». Позже я осознал, что повесть с корабельным 4chan привлекла так много внимания профессионалов, потому что я случайно поступил совершенно верно с литературной точки зрения, поместив в центр истории сильный конфликт – дилемму, в разрешении которой я сам не был уверен, где доводы с обеих сторон оказывали на меня сильное влияние. Склонность к стилменингу побудила меня взвинтить данный конфликт до предела и вывести Сверхблаженство как можно более убедительным, что в литературе соответствует действию «сделайте ваших злодеев сильнее». (Ни один профессиональный редактор никогда не отправлял обратно рукопись с пометкой: «Этот злодей слишком силен, его следует ослабить».)

Истинный моральный конфликт – достаточно редкое явление в литературе, потому-то «Тройной контакт» и заслужил пристальное внимание со стороны критиков, даже несмотря на наличие в истории корабельного 4chan. Вы наверняка прочли много историй, в которых есть стороны А и Б, якобы придерживающиеся разные нравов, но это вовсе не та же литературная особенность, что и наличие в истории морального конфликта. Почти всегда ясно, что по мнению автора вы должны поддерживать сторону А. Во «Властелине колец» не хватает сомнений – вдруг увлечённый индустриализацией Саруман мог быть в чём-то прав? «Атлант расправил плечи» не располагает к размышлению вместе с автором над вопросами вроде «Так ли хороша идея капитализма?» и «Действительно ли путь Джона Голта к капитализму является единственно верным?». Вместо этого все, кто выступает против капитализма, выведены слабыми и презренными, практически бандитами.

Тщетны попытки найти баланс, выводя «морально неоднозначную» историю борьбы Зла со Злом, в которой обе стороны порочны и разложены. С литературной точки зрения это, определённо, самый неверный ход. Истории вида «Зло против Зла» неспособны вызвать сопереживания, связанного с моральными вопросам, поскольку никто в таких историях не оптимизирует этику и не пытается поступать правильно. Не получится показать персонажей, мучающихся над открытым вопросом о том, как им поступить наилучшим образом, если никто в произведении не рассматривает варианты, хотя бы отдалённо похожие на приемлемые. Ослабить сильный конфликт «Добро против Добра» до уровня «Серое против Серого» или даже до «Зло против Зла» – в литературе такое эквивалентно действию «отберите у персонажей оружие и чёрную кожаную униформу и отправьте их обмениваться пощёчинами в песочнице». Истории типа «Зло против Зла» недостаточно изощренны, ведь интеллектуальная тонкость невозможна без размышления над вопросами, а для вопросов, требующих вдумчивых рассуждений, необходимо, чтобы аргументы обеих сторон казались сильными хотя бы на первый взгляд.

(И раз уж мы коснулись этой темы: чтение «литературных» историй о том, как сломленные люди становятся ещё более сломленными, не приносит удовольствия, если говорить о чистом гедонизме. Можете попытаться контрсигналить, мол, ваше произведение должно быть очень модное и бунтарское, раз его чтение не доставляет самого обыкновенного удовольствия, но и не надейтесь, что сможете обмануть тех, кто достаточно самосознателен, чтобы не купиться на мета-бунтарство.)

Что же насчёт того, как не допускать моральной неоднозначности, то нет ничего нового в старом затёртом откровении о том, что жизнь – сложная штука. Да, те, кто придерживаются только деонтологических правил, в конце концов приходят к поступкам с плохими последствиями. Да, стремление к консеквенциализму может привести к нарушению деонтологического правила. Да, те, кто заявляют, что нечто влечёт за собой хорошие последствия, могут глупо игнорировать какие-то плохие последствия. Те, кто объявляют себя добродетельными, могут лгать об этом. И так далее, и так далее. Как и те, кто выступают в нашем мире за добро, в курсе вышеозначенного и потому начеку, так и персонаж с разумом первого уровня тоже будет всё это учитывать.

Писатель, который пытается в своей истории очернить идеалы, прибегая к шокирующим откровениям, неизвестным ни одному из идеалистично настроенных персонажей (но, конечно, хорошо известных автору), проваливает проверку на разум первого уровня – все персонажи упускают из виду очевидное лишь для того, чтобы автор мог поставить их на место (заметно ниже автора). И наоборот, если вы не уверены в том, какие из недостатков решения приемлемы и следует продолжать продвижение, даже просчитав все риски, то логично, что и идеалистичный персонаж с разумом первого уровня будет неуверен не меньше вас.

Естественной средой для по-настоящему изощрённого литературного исследования морали является конфликт «Добро против Добра», разыгранный в полную силу. Столкновение высоких идеалов, которых данная история не пытается ни запятнать, ни ниспровергнуть, ни использовать для демонстрации незаурядного цинизма автора – ибо всё это не приводит ни к чему, кроме ослабления конфликта.

Истинный и незапятнанный идеал – это не обязательно такой идеал, все сторонники которого непогрешимы, и не идеал, политика которого не имеет недостатков. Истинный идеал – это цель, которую стоит оптимизировать, несмотря ни на что, которая несёт тёплое светлое чувство даже в запутанном мире. Если вы не позволяете себе ощутить это тёплое светлое чувство или рассказать о нём другим, то вы не сможете включить его в свою историю, и у вас не получится заставить своих читателей сопереживать вашим идеалам. Всмотритесь в себя в поисках морали, этики, эстетики, добродетели и тех черт реальности, которыми вы всё ещё дорожите. Когда два таких вот высоких идеала противопоставлены и сбалансированы так, что вы сами не уверены в том, кто же прав, или когда внутри высокого идеала вскрыт моральный вопрос, в ответе на который вы не уверены – тогда вам удалось создать истинный моральный конфликт и вокруг него можно построить историю.


Перевод: 
ildaar
Оцените качество перевода: 
Средняя оценка: 5 (Всего оценок: 1)
  • Короткая ссылка сюда: lesswrong.ru/1503