Вы здесь

Правдоподобные злодеи и точки зрения

Элиезер Юдковский

Иногда МРМ ошибочно принимают за конфликт типа «Серое против Серого».

Я был ошеломлён, когда в первый раз прочёл такое мнение, и до сих пор не могу понять – как кто-то мог прочитать МРМ и подумать так. Дементоры – это чистое зло. Фениксы – это чистое добро. Думаю, это не будет спойлером для МРМ, если я скажу, что считаю, что Амикус Кэрроу и профессор МакГонагалл находятся на этой оси настолько далеко друг от друга, насколько это вообще возможно для людей. Возможно, в этом мире нет чистого белого и чистого черного, но это не значит, что всё серое здесь одного оттенка.

Однако, когда мы углубляемся в точку зрения Драко, то мы видим мир таким, каким его видит Драко, в котором всем моральные доводы выстраиваются в пользу Пожирателей Смерти, да ещё и в убедительно звучащих для Драко Малфоя формулировках. Это ведь только злодеи из детских книг произносят свои речи таким образом, чтобы позиция героя казалась ещё более оправданной, независимо от того, насколько на самом деле эта позиция может быть оправдана.

Люциус Малфой ведёт себя на публике как достопочтенный и жёсткий политик, взявший на себя неблагодарную задачу защиты наивной общественности от влиятельных и харизматичных лидеров культа, таких как Дамблдор… и делает он так потому, что это именно эту очевидную роль правдоподобный!Люциус обязательно разыграл бы на автомате, а не потому, что в МРМ Люциус Малфой стоит на одной моральной ступеньке с Алисой Лонгботтом.

Но тогда, поскольку в мире Люциуса сам Люциус совсем не является злодеем, неужели он не может любить собственного сына? В собственном мысленном мире Люциус никогда не получал злодейского письма с поздравлением по поводу принятия в плохие парни; потому-то Люциус считает, что должен вести себя так, будто он представляет мужество, честь и другие благородные качества Древнейшего Дома, и он воспитывает сына соответствующим образом.

Читатель может принять такую ситуацию за конфликт «Серое против Серого», если он, например, привык к толкиновским героям, сражающимся против орков и Саурона. Или если читатель не осознаёт, как это на самом деле мало значит, когда персонаж считает, что его позиция оправдана – это ведь совсем не помогает вам понять, где персонаж находится на оси добра и зла. Адольф Гитлер был ярым противником вивисекции животных. На некоторых званых вечерах он очень ярко описывал случаи жестокого обращения с животными, в попытке убедить присутствующих отказаться от мяса. Очевидно, Гитлер тоже не получил своего злодейского письма. Возможно, даже не вся его одежда была чёрной. В этом и заключается разница между Волдемортом из детской книжки и Адольфом Гитлером из реальной жизни.

Конечно же, оправданными пытаются выглядеть не только злодеи. Самооправдание даётся дёшево, и любой мало-мальски умный персонаж может добыть его сколько душе угодно. Существенная часть искусства рациональности состоит в том, чтобы научиться делать самооправдания более дорогими и труднодоступными. У любого персонажа, которого не изображают как продвинутого рационалиста, не возникнет ни малейших проблем с придумыванием истории, в которой он окажется хорошим парнем, независимо от того, чем именно он занимается.

Для усложнения самооправданий необходимо, в первую очередь, чтобы вы были в состоянии оторваться от собственной мысленной вселенной и представить, как всё выглядит для кого-то другого, что также является ключевым навыком рационалистов.

Экономист Брайан Каплан придумал улучшенную версию стилменинга под названием «идеологический тест Тьюринга»12. Чтобы пройти ИТТ, вы должны сформулировать довод в пользу позиции, противоположной вашей, который будет достаточно правдоподобен, чтобы сторонник этой позиции не мог с уверенностью сказать – написан этот довод вами либо его же сторонником. ИТТ гораздо требовательнее стилменинга, поскольку слишком легко убедить себя в том, что вы привели «самый сильный аргумент» противоположной позиции, и гораздо сложнее убедить того, кто всерьёз занимает эту позицию, в том, что вы искренне сделали всё возможное, чтобы отстоять её. Это проверка на понимание – испытание, пройдя которое, вы сможете убедиться, что на самом деле понимаете доводы, в которые вы, по вашим словам, не верите.

Опять-таки, люди проваливают ИТТ из-за того, что они держатся за собственные мысленные привязки, из-за того, что они боятся отклониться от нормы и взглянуть на вселенную с другой точки зрения, из-за того, что им просто не хватает практики представлять, что другая сторона тоже может считать себя оправданной.

Именно этому в 22 главе3 МРМ Гарри пытается обучить Драко, который испытывает типичные проблемы в освоении навыка:

Даже поняв эту мысль, Драко не смог придумать какую-нибудь «правдоподобную альтернативу», как это назвал Гарри, для идеи, что волшебники становится менее могущественными, поскольку мешают свою кровь с грязью. Это было слишком очевидной истиной.

После чего Гарри Поттер слегка раздражённо заметил, что не может поверить, что у Драко и впрямь так плохо получается воображать себя на чужом месте. Наверняка же существовали Пожиратели Смерти, которые изображали врагов чистоты крови, и у них, без сомнения, нашлись бы более правдоподобные аргументы против собственной стороны, чем то, что предлагает Драко. Если бы Драко изображал сторонника Дамблдора и высказал бы идею о домовых эльфах, он бы ни на секунду никого не одурачил.

Когда я пишу в МРМ про Пожирателей Смерти, то я пытаюсь пройти ИТТ – если я прописываю точку зрения Драко Малфоя, я пишу о Пожирателях Смерти так, как их видел бы Драко Малфой. Смысл в том, чтобы настоящий Пожиратель Смерти не смог прочесть моё изложение точки зрения Драко Малфоя и воскликнуть: «Ага! Это совершенно очевидно было написано не настоящим Драко Малфоем, а кем-то, кто хотел выставить Пожирателей Смерти в плохом свете.» (Не считая, конечно, того, что мысли Драко Малфоя внутренне оптимизированы таким образом, чтобы они понравились его друзьям и его кругу общения, а не читающим книгу магглам, выступающим за просвещение.)

Профессор Квиррелл прописывается таким образом, чтобы настоящий профессор Квиррелл не смог указать на одну из приписанных ему строк и сказать: «Что? Я бы так не сказал. Есть гораздо более убедительные аргументы в пользу того, что нация сильна при сильном правителе, например…»

Меня часто беспокоит, что многие находят профессора Квиррелла чрезвычайно убедительным, хотя его точка зрения – это (мягко говоря) не то, по поводу чего у меня есть какие-то сомнения. Но, по крайней мере, это показывает, что я всё делаю правильно.

Говорят, каждый считает себя героем собственной истории. Это даже близко не соответствует действительности. Насколько я могу судить, большая часть мира состоит из людей, которые определённо считают себя NPC4, и на любую фразу или мысль о том, что они могли бы оказать влияние на сюжет истории, отзываются глубоким шоком и не верят в это. Есть также люди, которые считают себя самих антигероями (и даже отъявленным злодеями) в собственных историях. Но это всё вырожденные случаи, особенно на литературном уровне – всё-таки в первом приближении большинство активных персонажей истории должны считать себя её героями.

Аналогично, каждый активный персонаж должен жить в мысленном мире, в центре которого находится его собственное существование, а не главный герой вашей истории. Когда вы прописываете точку зрения Боба, каждый объект должен упоминаться в той мере, в которой он имеет отношение к Бобу. Рон Уизли практически не существует в мире Гарри; но как только мы переключаемся на мир Гермионы, Рон вновь появляется. Драко видит все вещи так, как они относятся к Драко; профессор МакГонагалл видит все вещи так, как они относятся к Хогвартсу. Дамблдор всё еще постоянно размышляет о Гриндевальде и связанных с ним великих событиях, которые преобладали в первой половине жизни профессора. Чтобы пройти тест Тьюринга за Дафну Гринграсс, я должен прописывать её точку зрения таким образом, чтобы читающий её мысли человек не смог бы сказать, что настоящим центром вселенной является кто-то другой (например, Гарри Поттер).

(Кроме того: каждый агентный персонаж в истории является тем самым «единственным нормальным человеком» 56. Вот неполный список персонажей МРМ, выведенных в этой роли: Гарри, Гермиона, профессор МакГонагалл, профессор Квиррелл, Драко, Невилл, Дафна Гринграсс, Сьюзен Боунс, Шизоглаз Хмури, Амелия Боунс и Фоукс.)

Когда во что-то искренне веришь, то это не кажется тебе верой – кажется, что так мир и устроен на самом деле. Искренняя вера в то, что небо голубое, не воспринимается как принадлежность к кругу голубонебесников. Это просто ощущается как то, что небо голубое.

Процесс создания и становления персонажа – это не просто выдумывание личности. Это ещё и экстраполяция вселенной, которая является мысленным миром данного персонажа – не просто того, во что он «верит», но и всей окружающей вселенной, в которой эта точка зрения должна существовать.


Перевод: 
ildaar
Оцените качество перевода: 
Средняя оценка: 3.5 (2 votes)
  • Короткая ссылка сюда: lesswrong.ru/1504