Рациональность и английский язык

Элиезер Юдковский

Вчера кто-то сказал, что мой стиль письма напоминает ему «Политика и английский язык» Джорджа Оруэлла. Мне это было приятно, особенно по той причине, что я уже держал в мыслях сегодняшнюю тему.

Если вы хотите увидеть точку зрения творческой личности на рациональность, то читайте Оруэлла; его следует обязательно читать как рационалистам, так и авторам. Оруэлл не ученый, но писатель; его инструмент не числа, но слова; его противник не Природа, но зло в человеке. Если вы хотите посадить человека в тюрьму без суда, то вы должны думать о том, чтобы подать это как-то иначе, нежели «Я собираюсь посадить мистера Дженнингса в тюрьму без суда и следствия.» Вы должны затуманить мышление слушателей, заглушить их голос морали. Вы скажете «Ненадежный элемент был подвергнут альтернативному судебному процессу.»

Оруэлл выдающийся противник тоталитаризма и затуманенного мышления, в котором прячется зло — это видно в его записях по языку, которые выглядят как классические документы рационалиста на одном уровне с Фейнманом, Саганом или Докинзом.

«Писателям говорят избегать использования пассивного залога». Рационалист, эрудиция которого проистекает исключительно из науки, может не увидеть слабого места в предыдущем предложении; однако каждый, кто хотя бы немного занимался писательством, должен это увидеть. Я написал предложение в пассивном залоге без указания того, кто говорит авторам избегать пассивного залога. Пассивный залог убирает того, кто действует, оставляя только само действие. «Ненадежный элемент был подвергнут альтернативному судебному процессу.» — подвергнут кем? Что за «альтернативный судебный процесс»? Пользуясь такими формулировками можно закамуфлировать, что происходит на самом деле.

Журнальные статьи часто пишутся в пассивном залоге. (Прошу прощения, некоторые ученые пишут свои журнальные статьи в пассивном залоге. Не то чтобы статьи появлялись из воздуха, и некого было обвинить.) Звучит куда весомее сказать «Субъектам вводился Progenitorivox», чем «Я раздал студентам по упаковке препарата Progenitorivox и сказал принимать, пока он не закончится.» Если вы убираете ученого из описания, остаются только данные. Но в реальности-то ученый существует, а субъекты — это реальные студенты, и препарат не «вводился», а студенты принимали его по инструкции. Пассивный залог искажает реальность.

Судя по комментариям, которые я получаю на Overcoming Bias, кто-то будет протестовать против того, что использование пассивного залога в журнальной статье это тяжкий грех — в конце концов, если вы подумаете, то можете понять, что ученый там был. Это не кажется логической ошибкой. И вот по этой причине рационалистам нужно читать Оруэлла, а не только Фейнмана или даже Джейнса.

Научная литература предоставляет знания, художественная — опыт. Медицина может экстраполировать, что произойдет с незащищенным человеком в вакууме. А художественная литература может заставить вас пережить это.

Некоторые рационалисты будут стараться анализировать неправильную фразу, стараться увидеть — может ли там быть еще один смысл, пытаться создать логическую интерпретацию. Они будут великодушны и дадут автору привилегию сомнения. С другой стороны, авторы стараются не использовать привилегию сомнения. Не имеет значения, поймет ли аудитория, что вы сказали именно то, что хотели сказать или подразумевали что-то иное; вы не можете спорить с аудиторией в независимости от того, насколько умны ваши суждения.

Писатель знает, что читатели не остановятся, чтобы подумать. Художественный опыт это непрерывный поток впечатлений. Писатель-рационалист уделяет внимание созданию опыта через слова. Если вы оцениваете общую рациональность утверждения, и вы анализируете слова осознанно, перефразируя тезисы, подбирая значение и звучание, выискивая самородки истинности, тогда вы не сможете создать правильное впечатление — то, что должна увидеть или почувствовать аудитория.

Романист должен заметить вопиющую неправильность «Субъектам вводился препарат.» Что должен читатель пережить здесь? Это предложение создает отстраненное ощущение властности и всётолько опыт ощущения, что тебе сказали что-то надежное. Романист должен видеть, что существительные слишком абстрактны для того, чтобы показать то, что произошло на самом деле — строго профессора, который с препаратом в руках объясняет нервничающему студенту, что ему делать.

Я не говорю, что журнальные статьи нужно писать в виде романов, однако я утверждаю, что рационалист должен стать более осознанным в отношении опыта, который создает через слова. Рационалист должен понимать сознание и то, как с ним работать. Это включает в себя поток осознанности, часть вас самих, которая воплощается в языке. Рационалист должен стать более осознанным в отношении настоящего влияния фраз, которое лежит за пределами их пропозициональной семантики.

Или если говорить более прямо: то, что имелось в виду во фразе, не является оправданием того, какое влияние она оказала!

Мне все равно, какую рациональную интерпретацию вы можете построить, чтобы сорвать овации, типа «ИИ должен быть разработан только в рамках демократических процессов.» Это не оправдывает его иррационального влияния, которого сигнализирует аудитории выражать одобрение, не говоря уже о том, насколько оно размыто, неопределенно и вопиет о необходимости уточнения.

Оруэлл предупреждал о влиянии штампов на опыт мышления:

«Когда смотришь на кого-то, кто стоит на трибуне и механически повторяет знакомые фразы — _зверства, звери, железная пята, кровавая тирания, свободные люди мира, стоять плечом к плечу_ — часто возникает любопытное ощущение, что видишь не живого человека, а какой-то манекен… Оратор, который пользуется подобной фразеологией, уже прошел часть пути по превращению себя в машину. Подходящие шумы выходят из его рта, однако его мозг не вовлечен в это, как это было бы, если бы он выбирал слова для себя сам…

Прежде всего необходимо позволить значению подбирать под себя слово, а не наоборот. В прозе самое худшее, что можно сделать со словами — сдаться им. Когда вы думаете о конкретном объекте, вы думаете без слов, а уже потом, если вы хотите описать вещь, которую представляете, вы начинаете подбирать их, пока не найдете те слова, что кажутся вам наиболее подходящими. Когда вы думаете о чем-то абстрактном, вы более склонны мыслить сразу в словах и, пока вы не сделаете осознанного усилия, чтобы предотвратить это, существующий диалект будет врываться в ваши мысли и делать свою работу, ценой затуманивания или даже изменения смысла. Возможно, лучше перестать использовать слова настолько, насколько возможно и передавать смысл как можно яснее через образы и ощущения.»

Пирс мог бы написать этот последний абзац. Есть более чем один путь, ведущий к Пути.

Перевод: 

Remlin
  • Короткая ссылка сюда: lesswrong.ru/94