Двенадцать добродетелей рациональности

Элиезер Юдковский

Первая добродетель — это любопытство. Жгучее желание знать куда выше, нежели торжественная клятва преследовать истину. Чтобы почувствовать этот жгучий зуд любопытства необходимо, чтобы вы были невежественны и чтобы вы хотели избавиться от своего невежества. Если глубоко в душе вы уверены, что вы уже знаете, или если в душе вы не хотите знать, то ваши вопросы будут бессмысленны, а навыки не будут иметь применения. Любопытство стремится уничтожить себя; нет любопытства, которое не хочет ответа. Триумф загадки в том, чтобы быть решенной, после чего она перестает быть загадкой. Будьте осторожней с теми людьми, кто советует быть открытым и скромно признаёт своё невежество. Есть время признать ваше невежество и время избавиться от него.

Вторая добродетель — это высвобождение. Ходжелл (P. C. Hodgell) говорит: «То, что может быть уничтожено правдой, должно быть уничтожено». Не отказывайтесь от опыта, который может разрушить ваши убеждения. Мысль, о которой вы не можете подумать, контролирует вас больше, чем те мысли, о которых вы говорите вслух. Примите испытания и проверьте себя в огне. Откажитесь от эмоции, основанной на ошибочном мнении, и ищите эмоцию, основанную на фактах. Если железо приближается к вашему лицу и вы верите, что оно горячее, в то время как оно холодное, то Путь осуждает ваш страх. Если железо приближается к вашему лицу и вы верите, что оно холодное, в то время как оно горячее, Путь осуждает ваше спокойствие. Оцените свои убеждения, а уже потом позвольте быть вашим эмоциям. Скажите себе: «Если железо горячее, то я хочу верить, что оно горячее, и если оно холодное, то я хочу верить в то, что оно холодное». Остерегайтесь привязываться к тем убеждениям, которых вы не желаете.

Третья добродетель — это лёгкость. Позвольте ветрам доказательства нести вас подобно листку, не выбирающему направления. Не стоит сражаться против доказательств как отступающий арьергард, сдавая свои позиции только под давлением, ощущая себя обманутым. Сдавайтесь истине так быстро, как только можете. Сделайте это в тот момент, когда вы поймете, что сопротивляетесь; в момент, когда вы можете видеть, что четверть ветров доказательства дуют против вас. Не будьте преданны вашему делу и предавайте его, если против вас сильный противник. Если вы ощущаете доказательство как ограничение и стремитесь освободить себя, вы заковываете себя в цепи своих прихотей. Невозможно сделать верную карту города, сидя в своей спальне с закрытыми глазами и рисуя линии на бумаге под влиянием импульса. Вам нужно пройтись по городу и рисовать те линии, что соответствуют тому, что вы видите. Если, видя город неясно, вы думаете, что вы можете сдвинуть линию немного вправо, немного влево, в соответствии со своим капризом, это всё та же ошибка.

Четвёртая добродетель — это непредвзятость. Кто-то, кто желает верить, говорит: «Разрешит ли мне доказательство верить?» Другой, кто желает сомневаться, спрашивает: «Заставит ли меня доказательство верить?» Не стоит громоздить массу доказательств только на те предложения, что вам не нравятся, защищая себя фразой: «Это хорошо — быть скептиком». Если вы признаёте только благоприятные доказательства, собранные и выбранные из ваших собранных данных, тогда чем больше данных вы соберёте, тем меньше узнаете. Если вы избирательно выбираете, какие аргументы имеют недостатки или как трудно вам исследовать их на недостатки, тогда каждый недостаток, про который вы узнаете, как его определить, делает вас глупее. Если вы сначала напишете внизу листа бумаги «Таким образом, небо зелёное!», то не имеет значения, какие аргументы вы напишете выше задним числом; заключение уже написано, и оно уже верно или уже ложно. Быть умным в аргументах — это не рациональность, это рационализация. Интеллект, чтобы быть полезным, должен использоваться для чего-то другого, нежели для защиты самого себя. Выслушивайте гипотезы и их доказательства, представленные вам, но помните, что вы не гипотеза, вы судья. Таким образом, не ищите аргументов для той или иной стороны, поскольку если бы знали вашу точку назначения, вы бы были уже там.

Пятая добродетель — это доказательство. Те, кто желает неудачи, должны сначала предотвратить помощь со стороны друзей. Те, кто мудро улыбаются и говорят: «Я не буду доказывать» — сами лишают себя помощи и отказываются от объединения усилий. В доказательстве стремитесь к точной честности, во имя других и самого себя: часть вас, которая искажает то, что вы говорите другим, также искажает ваши мысли. Не верьте, что приносите пользу другим, соглашаясь с их доказательствами; это польза для вас. Не думайте, что справедливость ко всем сторонам означает балансирование собой поровну между позициями; истина не делится на равные части в начале обсуждения. Вы не можете двигаться вперёд в фактических вопросах, сражаясь кулаками или оскорблениями. Ищите тест, который позволит реальности рассудить вас.

Шестая добродетель — это эмпиризм. Корни дерева знания в наблюдении, а его плоды — предсказания. Может ли дерево расти без корней? Может ли кормить нас без плодов? Если дерево падает в лесу, и никто не слышит его, издает ли оно звук? Один скажет: «Да, ведь оно создает колебания воздуха», другой: «Нет, ведь никто не обрабатывает мозгом слуховую информацию». Хотя они спорят, один говорит «да», а другой «нет», они не ожидают различных ощущений. Спрашивайте не о том, каких убеждений придерживаться, а каких наблюдений ожидать. Всегда помните, о каких различиях в наблюдениях вы спорите. Не позволяйте спорам блуждать и менять тему на какую-нибудь другую, скажем, о том, чье рациональность-фу сильнее. Джерри Кливер сказал: «Это не неудача в применении какой-то высокоуровневой, замысловатой, сложной техники. Это упущение самых основ. Вроде как не следить за шариком при игре в наперстки». Не будьте ослеплены словами. Если вычесть слова, должны остаться предсказания.

Седьмая добродетель — это простота. Антуан де Сент-Экзюпери говорил: «Совершенство это не когда нечего добавить, а когда нечего убрать». Простота — это добродетель для убеждений, разработки, планирования и обоснования. Когда вы проповедуете убеждение со множеством деталей, каждая дополнительная деталь — это ещё один шанс, что ваше убеждение окажется неверным. Каждое определение добавляется к вашему бремени; если вы можете облегчить свою ношу, вы должны сделать это. Нет такой соломы, что имела бы силу сломать тебе спину. Об артефактах говорят: «Самая надёжная деталь в машине — это та, которой там нет». О планах: запутанная сеть ломается. Цепь из тысячи связей приведёт к правильному выводу, если каждый шаг верен, но если даже один будет неправильным, то ты можешь оказаться где угодно. В математике гора хороших записей не сможет скомпенсировать единичную ошибку. Таким образом, будьте осторожней при каждом шаге.

Восьмая добродетель — это скромность. Быть скромным означает предпринимать определённые действия, чтобы предвидеть свои ошибки. Признавать свою способность ошибаться, но не делать ничего по этому поводу — это не скромность; это расхваливание своей честности. Кто скромней всех? Те, кто наиболее умело готовятся к глубочайшим и самым катастрофическим ошибкам в их убеждениях и планах. Поскольку в этом мире много тех, чьё понимание рациональности ужасающе низко, начинающие студенты рациональности выигрывают споры и приобретают преувеличенное мнение о своих способностях. Но быть лучшим бесполезно: Жизнь не ранжируется по кривой. Лучший физик Древней Греции не смог бы рассчитать траекторию падающего яблока. Нет гарантий, что даже с самыми упорными усилиями есть возможность достичь достаточности; поэтому не тратьте ни единой мысли на то, хуже ли другие. Сравнивая себя с другими, вы не увидите предубеждения, которые разделяют все люди. Быть человеком означает сделать десять тысяч ошибок. Никто в мире не достигает совершенства.

Девятая добродетель — это перфекционизм. Чем больше ошибок вы в себе исправите, тем больше найдёте новых. По мере того как ваш разум становится тише, вы слышите всё больше шума. Если вы заметили в себе ошибку, то это сигнал, что вы готовы искать способы продвинуться на следующий уровень. Если вы смиритесь с ошибкой вместо того, чтобы её исправлять, вы не пройдёте на следующий уровень и не получите навык для выявления новых ошибок. В каждом виде искусства — если вы не стремитесь к совершенству, не стоит даже делать первые шаги. Даже если совершенство недостижимо, это не оправдание, чтобы не попытаться. Установите себе наивысший стандарт, который можете себе представить, и ищите такой, который ещё выше. Не удовлетворяйтесь ответом, который почти верен; ищите тот, который совершенно точно верен.

Десятая добродетель — это точность. Один приходит и говорит: количество — где-то между 1 и 100. Другой говорит: количество между 40 и 50. Если количество равно 42, то они оба правы, но второе предсказание более полезно и способно выдержать более строгое испытание. Что верно для одного яблока, может быть неверно для другого; поэтому больше можно сказать об одном яблоке, чем обо всех яблоках мира. Самые узкие суждения режут глубже всех, это лезвие меча. И то же касается искусства составления карт: Путь — это точное Искусство. Не шагайте к истине, а танцуйте. На каждом па танца ваша нога встанет именно там, где нужно. Каждая часть доказательства меняет ваши представления именно настолько, сколько нужно, не больше и не меньше. Сколько именно нужно? Чтобы это вычислить, изучайте теорию вероятностей. Даже если не можете произвести расчёты, знание того, что это возможно сделать, говорит вам, что танцевальное па было точным и в нём нет места вашим капризам.

Одиннадцатая добродетель — это учение. Изучайте многие науки и вбирайте их мощь, как свою собственную. Каждая область, которую вы впитали, делает вас сильнее. Если вы поглотите достаточно наук, щели между ними уменьшатся, и ваше знание станет единым целым. Если вы ненасытны, вы станете мощнее гор. Особенно важно поглощать математику и науки, связанные с рациональностью: эволюционную психологию, эвристики и когнитивные искажения, социальную психологию, теорию вероятностей, теорию принятия решений. Но они не могут быть единственными областями для изучения. Искусство должно иметь цели, отличные от себя самого, иначе оно свалится в бесконечную рекурсию.

Впереди этих одиннадцати добродетелей — добродетель, которая не имеет названия.

Миямото Мусаси писал в «Книге пяти колец»:

«Помни, когда в твоих руках меч — ты должен поразить противника, чего бы тебе это ни стоило. Когда ты парируешь удар, наносишь его, делаешь выпад, отбиваешь клинок или касаешься атакующего меча противника, ты должен сразить противника тем же движением. Достигай цели. Если ты будешь думать только о блокировании ударов, выпадах и касаниях, ты не сможешь действительно достать врага. Более, чем о чем бы то ни было, ты должен беспокоиться о том, как провести свой удар сквозь его защиту и достичь цели. Тщательно изучи сказанное.»

Каждый шаг в ваших размышлениях должен прорезать путь к верному ответу в том же самом движении. Более, чем о чем-либо еще, вы должны думать о том, чтобы ваша карта верно показала территорию.

Если вы не сможете достичь правильного ответа, то бессмысленно возражать, что вы действовали как положено.

Как улучшить своё понимание рациональности? Не говорите себе: «Мой долг — быть рациональным». Это лишь закрепит ошибочное понимание. Возможно, ваше понимание рациональности состоит в том,что рационально верить словам Великого Учителя, а Великий Учитель говорит: «Небо зелёное», вы же смотрите на небо и видите, что оно голубое. Если вы подумаете: «Выглядит так, словно небо голубое, но рационально верить словам Великого Учителя», то потеряете шанс найти свою ошибку.

Не спрашивайте, состоит ли «Путь» в том, чтобы делать то или иное. Спросите, голубое небо или зелёное. Если слишком много говорить о Пути, то вы до него не доберётесь.

Вы можете попытаться назвать высочайшие принципы такими именами как «карта, изображающая местность» или «опыт успеха и неудачи» или «Байесова теория принятия решений». Но вероятно, вы неверно опишете безымянную добродетель. Как вы найдёте свою ошибку? Не путём сравнивания своего описания с ним самим, но сравнивая его с тем, что вы не назвали.

Если долгие годы вы будете практиковать техники рациональности и следовать ее строгим ограничениям, вы сможете увидеть проблеск сути. Тогда вы увидите, что все техники — это одна техника, и продолжите двигаться без чувства, что ограничены. Мусаси писал: «Когда вы почувствуете силу природы, ощущая ритм любой ситуации, вы сможете наносить удары естественно и атаковать противника естественно. Это и есть Путь Пустоты.»

Итак, вот двенадцать добродетелей рациональности:

Любопытство, отказ, лёгкость, непредвзятость, доказательство, эмпиризм, простота, скромность, перфекционизм, точность, учение и пустота.

Перевод: 

Remlin, Knivy
  • Короткая ссылка сюда: lesswrong.ru/33