Делая историю доступной

Элиезер Юдковский

Есть такая привычка мышления, которую я называют логическим заблуждением обобщения на основе вымышленного свидетельства. Журналисты, которые, например, ведут речь про Терминатора, в обсуждении про ИИ, не относятся к этому сюжету, как к пророчеству или свершившейся правде. Но фильм приходит на ум, он доступен, как будто-то бы он является иллюстрированным историческим случаем. Как если бы журналисты видели как это случилось на какой-то другой планете, и может произойти и на нашей. Подробней про это в секции 7 в «Потенциальное влияние когнитивных искажений на оценку глобальных рисков» (1)

Есть и обратная обобщению на основе вымышленного свидетельства ошибка: неспособность в достаточной степени учитывать исторические свидетельства. Проблема с обобщением на основе вымышленного свидетельства в том, что оно вымышленное - оно никогда не происходило. Оно не начертано на основе того же распределения, что и наша вселенная; художественная литература систематически отличается от реальности. Но история же действительна случилась и должна быть доступной.

В мире наших предков не было фильмов; все, что ты видел своими глазами, было правдой. Совершенно неудивительно, что вымысел, который мы видим в как живых движущихся картинках, оказывает на нас такое серьезное влияние? Наоборот, то, что реально происходило, доступно нам на бумаге; оно произошло, но мы не видел этого. Мы не помним, что это происходило с нами.

Обратная ошибка - обращаться с историей как с обычными рассказами, анализировать той же частью разума, что используется при чтении новелл. Ты можешь произнести, что это «правда», а не «вымысел», но это не означает, что ты воспринимаешь это так серьезно, как следовало бы. Множество искажений являются следствием недостаточно серьезного восприятия сухой, абстрактной информации.

Однажды, я дал Таинственный Ответ на таинственный вопрос, не осознавая, что совершаю ту же самую ошибку, что и астрологи, придумавшие мистическое объяснение звездам, или алхимики, придумавшие мистические свойства материи, или виталисты, постулировавшие мутное «élan vital» для объяснения биологии.

Когда я понял, на чьем месте я стою, то ощутил шок неожиданной связи с прошлым. Я осознал, что изобретение и уничтожение витализма, о котором я читал лишь в книгах, действительно происходило с реальными людьми, которые переживали опыт так же, как и я переживал изобретение и разрушение моего собственного таинственного ответа. И я понял, что если бы я действительно переживал опыт прошлого, если бы я жил во времена научных революций, а не читал о них в книгах, я, вероятно, не совершил бы эту же ошибку снова. Я бы не стал изобретать очередной таинственный ответ; достаточно было бы тысяч предыдущих.

Итак, - подумал я, - для того, чтобы действительно ощутить силу истории, я должен приблизить мысли Элиезера, пережившего историю, должен думать о событиях так, как если бы они случились со мной (с соответствующим учетом баланса для искажения доступности исторической литературы - мне следует помнить себя тысячей крестьян на одного лорда). Я должен погрузить себя в историю, вообразить жизнь сквозь эры, которые я наблюдал лишь посредством чернил на бумаге.

Почему мне следует помнить полет Братьев Райт? Меня там не было. Но, как рационалист, посмею ли я не помнить, если событие действительно произошло? Действительно ли это такая большая разница - видеть событие собственными глазами, что является причинной цепочкой, включающей отраженные фотоны, но даже это не прямой контакт, что уж говорить про наблюдение события посредством книги? Фотоны и книги по истории спускаются по цепочке причин и следствий от самого события.

Мне нужно было пересилить ложную амнезию, вызванную рождением в конкретную эпоху. Я должен был вспомнить, сделать доступными, все воспоминания, а не только те, что, чисто случайно, принадлежат мне и моему времени.

Земля внезапно стала старше.

С точки зрения моих обычных воспоминаний, Соединенные Штаты существовали всегда - не было времени, когда не было бы Соединенных Штатов. Я не помнил, до того момента, как поднялась Римская Империя, принесла мир и порядок, и, просуществовав множество веков, что я даже забыл, что могло быть иначе, и пала, и варвары захватили мой город, и знание, которым я обладал, было потеряно. Современный мир стал более хрупким для меня, ведь это не первый новый мир.

Так много ошибок, снова и снова, ведь я не помнил, что совершал их в каждой эре, что жил.

Только представьте, люди еще удивляются, почему преодоление искажений важно.

Неужели ты не помнишь, как много раз ошибки убивали тебя? Я заметил, что внезапная амнезия следует сразу за смертельной ошибкой. Но послушай меня, это случалось. Я помню, хоть меня там и не было.

Так что в следующий раз, когда ты сомневаешься в странности будущего, вспомни, как ты был рожден в племени охотников-собирателей тысячи лет назад, когда еще никто не знал о Науке. Вспомни, как ты был шокирован до глубины души, когда Наука объяснила великие и ужасные священные тайны, которые ты так восхвалял. Вспомни, как ты думал, что сможешь летать, если съешь нужный гриб, как ты разочарованно усвоил, что никогда не сможешь полететь, а потом полетел. Вспомни, как ты ты всегда думал, что рабство - это правильно и хорошо, а потом передумал. Не надо воображать, как бы ты предсказал перемены - ведь это проявление амнезии. Вспомни, по факту, ты не гадал. Вспомни, как век за веком мир менялся так, как ты и представить не мог.

Может так ты будешь менее шокирован тем, что будет дальше.

Перевод: 

Muyyd
  • Короткая ссылка сюда: lesswrong.ru/232