Приложи экстраординарные усилия

Элиезер Юдковский

«Кроме того, следует хорошо понимать, что, не имея намерения превзойти остальных в любом деле, какое бы ты ни делал, ты едва ли сможешь достичь даже среднего уровня».
— Дайдодзи Юдзан, «Будосёсинсю»1

«В важных вопросах „серьёзное“ усилие приносит лишь посредственные результаты. Каждый раз, когда мы принимаемся за что-то, по-настоящему стоящее, наши усилия должны принимать размеры колоссальные, как если бы на кону стояла наша жизнь! Только лишь эти исключительные усилия — усилия, вынуждающие нас выйти за границы того, что мы считали возможным, — только они обеспечивают победу в битве и успех в жизненных начинаниях».
— Масаюки Симабукуро, «Мерцающая сталь: Осваивая Эйсин-Рю»2

«…“серьезное“ усилие приносит лишь посредственные результаты» — я такое видел очень часто. Самого малого усилия хватает нам, чтобы убедиться: мы сделали всё возможное.

Есть добродетель, стоящая на уровень выше принципа «Цуёку наритаи» («Хочу стать сильнее»). Изначально иссёкенмей подразумевала преданность, которую обещает самурай взамен на свое положение; в иероглифическом написании участвуют слова «жизнь» и «земля». Со временем термин эволюционировал, и теперь означает «предпринять отчаянное усилие»: сделай максимально усердную и сфокусированную попытку, как если бы от этого зависела твоя жизнь. Это одна из составляющих бусидо — учения о правильном поведении воина, причём не только в бою. Я также встречал варианты написания «иссё кенмей» и «иссёу кенмей». Один из источников указывает, что первое — это максимальное усилие, приложенное в каком-то конкретном начинании, в то время как второе — жизненный принцип.

Я стараюсь не восхвалять Восток слишком сильно, потому что наши знания о восточной культуре очень избирательны. Но по крайней мере в некоторых отношениях японская культура обгоняет американскую. Наличие в повседневном языке ёмкой фразы, означающей «сделать отчаянное усилие, будто на кону стоит твоя жизнь» — это один из примеров такого превосходства. Что-нибудь подобное могут сказать родители своим детям перед экзаменами в вузе. Но не воспринимайте это как дешёвое лицемерие, как если бы то же самое сказал американский родитель. В Японии к экзаменам относятся очень серьёзно.

Время от времени, я слышу вопрос: почему люди, называющие себя «рационалистами» не выглядят такими уж преуспевающими в жизни. Исходя из личного опыта, ответ довольно простой: нужно колоссально много рациональности, перед тем, как прекратишь раз за разом наступать на совершенно идиотские грабли.

Как я уже упоминал ранее: Роберт Ауман, нобелевский лауреат, доказавший, что байесианцы с одинаковыми исходными данными не могут согласиться не соглашаться, — верующий ортодоксальный иудей. Он отлично понимает всю математику, стоящую за теорией вероятности, но для его спасения этого не достаточно. Что же ещё нужно? Изучить эвристики и когнитивные искажения? Социальную психологию? Эволюционную психологию? Да, все это несомненно пригодится, но самое необходимое это иссёкенмей, отчаянное усилие быть рациональным — на более высоком уровне, чем Роберт Ауман сейчас.

Порой я всерьёз задумываюсь, не начать ли втюхивать рациональность в Японии, а не в Штатах. Впрочем, несмотря на старательных студентов, Япония всё же не превосходит Америку в области науки. Японцы не правят миром, хотя в 80-х многие считали, что будут (что привело к финансовому пузырю). Но почему?

На Западе есть поговорка: «Колесо не скрипит, — его и не смажут».

В Японии есть соответствующая: «Торчащий гвоздь по шляпке получает».

Едва ли я буду оригинален, если скажу: предпринимательство, готовность рисковать и идти против толпы, — всё это характерно скорее для Запада, а не для Востока. И раз уж японские учёные ещё не превзошли американских, перечисленные качества как минимум уравновешивают культуру отчаянных усилий.

Любой, кто соберёт волю в кулак на тридцать секунд, сможет сделать отчаянное усилие и поднять непривычно большой вес. Но что если нужно поднять грузовик? Тогда отчаянных усилий уже не хватит. Чтобы преуспеть понадобится сделать что-то экстраординарное. Возможно придётся сделать что-то, чему не учили в школе. Что-то, чего от вас совершенно не ожидают, и могут откровенно не понять. Возможно придётся сменить привычный распорядок, посмотреть в лицо трудностям, для которых у вас ещё не заготовлено ментальных программ, и обойти Систему.

Такие действия не входят в понятие иссёкенмей. Если бы входили — Япония выглядела бы совершенно по-другому.

Поэтому давайте далее различать «готовность предпринять отчаянные усилия» и «готовность предпринять экстраординарные усилия».

Скажу больше: вторая добродетель выше первой.

Она также и более опасна. Если вы приложите отчаянное усилие, чтобы поднять большой вес, используя всю силу и без страховки, вы можете порвать мышцу. Получите травму, возможно она не заживёт. Но если наперекосяк пойдёт творческий план, вы можете, например, взорвать грузовик вместе с ни в чём неповинными прохожими. Представьте двух предпринимателей: один использует отчаянные меры, чтобы получить доход, потому что иначе он станет банкротом, а другой пускается на экстраординарные меры, чтобы скрыть факт хищения, за который он может сесть. Борьба с системой — не всегда правое дело.

Однажды в гости к моему младшему брату пришёл его друг и, они захотели поиграть в игру, — я совершенно не помню в какую, но помню, что у неё были сложные и хорошо прописанные правила. Друг захотел изменить их, просто потому что «играть по оригинальным правилам скучно». Я сказал ему: «Не нарушай правила чисто из духа противоречия. Даже если ты нарушаешь правила, когда у тебя есть невероятно веская причина, ты можешь получить неприятности, преследующие тебя до конца жизни».

Однако я всё равно считаю, что нам следует больше уважать добродетель «экстраординарных усилий». Я потерял счёт, сколько раз мне говорили: «Бессмысленно работать над дружелюбным ИИ, потому что первые ИИ будут разработаны мега-корпорациями и будут заточены на максимизацию прибыли», «Бессмысленно работать над дружелюбным ИИ, потому что первые ИИ будут созданы военными в качестве оружия». А я стою в это время и думаю: «Неужели им вообще не приходит в голову мысль, что возможно стоит предпринять что-нибудь, чтобы предотвратить ожидаемый исход?» Само собой, у нас с ними разные исходные представления насчёт всей этой затеи с ИИ, но если бы я верил в то же, что и они, я бы не пожимал флегматично плечами.

Или как мне порой говорят: «Тебе стоит пойти в колледж и получить степень магистра, затем защитить докторскую. Потом напиши много-много статей на ординарные темы — иначе учёные и инвесторы к тебе не прислушаются». Предположим, я получу степень бакалавра, но даже после этого мне придётся приостановить мою основную деятельность как минимум на десять лет. Всего лишь для того, чтобы сделать всё обычным, нормальным, стандартным способом. И я думаю: «Они действительно считают, что человечество сможет выжить, если абсолютно все будут поступать исключительно обычным, нормальным, стандартным способом?»

Я не настолько глуп, чтобы строить планы, зависящие от готовности большинства людей, или даже 10% от всех людей, не то что сделать, но хотя бы подумать о чём-то, выходящем за границы их зоны комфорта. По этой причине я предпочитаю стратегию профинансированного частно и сделанного в гараже «мозга в коробке». Чтобы получить финансирование такого предприятия, нужно лишь, чтобы мизерная доля от шести миллиардов человечества задумалась над нетривиальным вопросом больше, чем на 5 секунд. Из всех испытаний, посылаемых нам природой, это выглядит извращённо справедливым: жизнь и смерть человеческой расы целиком зависит от того, сможем ли мы собрать несколько людей, способных сделать что-то хоть немного экстраординарное. Цена неудачи непропорциональна обстоятельствам, впрочем, другие испытания природы гораздо хуже — ведь у природы нет никакой справедливости. Серьёзно, из шести миллиардов человек должны найтись хотя бы несколько, кто способен хоть какое-то время думать за гранью привычного.

И даже если не вдаваться глубоко в этот спор, я до сих пор поражаюсь, как часто даже единственная необходимость экстраординарного усилия безоговорочно воспринимается как совершенно непреодолимое препятствие.

Да, «будь как можно более проще» — порой полезная эвристика. Да, риски действительно суммируются. Но иногда нужно идти навстречу неприятностям. Риски экстраординарного понимать, конечно, надо. Но также нужно понимать цену обыденности: не всегда есть, что терять.

Представляя будущее, многие люди видят не очень радостную картину. Но при этом им не приходит в голову попробовать что-нибудь поменять. Или же их устраивает будущее с тем, что мне представляется привкусом грусти или потери, и поэтому им не интересно, можно ли добиться большего. Грусть для них вполне обыденна.

Как однажды сказал улыбающийся человек: «Всё это — часть плана».

  • 1. Цитируется по сайту readgo.ru, автора перевода установить пока не удалось. — Прим.перев.
  • 2. Книга на русский язык не переводилась. Автор ссылается на издание: Masayuki Shimabukuro, Flashing Steel: Mastering Eishin-Ryu Swordsmanship (Frog Books, 1995). — Прим.перев.
Перевод: 
Евгений Миньков, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
309
Оцените качество перевода: 
Средняя оценка: 4.5 (22 votes)