Предисловие

Элиезер Юдковский

Перед вами — собрание записей в блог за два года. Сейчас я оглядываюсь на этот проект и вижу, что многое сделал совершенно неправильно. Я считаю, это хорошо. Если бы я оглянулся назад и НЕ увидел ошибок — это бы значило, что с 2009 года я не вырос как писатель и не улучшил своё понимание материала. «Ой!» — говорим мы, когда пересматриваем свои убеждения и стратегии. Если, оглядываясь назад, ты не видишь, что именно ты сделал неправильно — значит, ты с тех пор ничему не научился и не изменил свое мнение.

В течение двух лет я писал посты в блог и не думал о том, чтобы помогать людям в их повседневной жизни, и я ошибался. Я хотел помогать людям с большими, сложными и важными проблемами, и подбирал впечатляющие абстрактные примеры.

По прошествии времени я вижу, что это было второй по важности ошибкой в моём подходе. Она была связана с первой: я не понимал, что огромная проблема в изучении описанного мною способа рассуждений — применять его на практике, а не просто знать теорию. Я не осознавал, что важна именно практическая часть; оглядываясь назад, я могу сказать разве что «Ой!» и «Эх».

Да, порой те самые большие проблемы и вправду важны, но это не отменяет простой правды: чтобы мастерски овладеть этими навыками, нужно практиковаться, а это трудно делать на отвлеченных задачах. (Сегодня CFAR, Центр практической рациональности, постоянно работает над тем, чтобы устранить последствия этой серьёзной ошибки).

И третья огромная ошибка в том, что я слишком сильно концентрировался на рациональных убеждениях — и слишком мало на рациональном действии.

Четвёртая по важности ошибка — организация содержания цепочек. В частности, нужно было раньше создать вики и предоставить возможность читать посты как части цепочек.

Эту ошибку по крайней мере можно исправить. В нашей книге «Rationality: From AI to Zombies» Роб Бенсингер отредактировал мои записи и организовал их по-другому, стараясь не переписывать содержание материалов (хотя кое-где всё же пришлось это сделать).

Моей пятой ошибкой было то, что я — как мне казалось — пытался прямо говорить о глупости того, что казалось мне глупым. Я хотел избежать искажения под названием бульверизм — это когда вы начинаете обсуждение с того, что люди, которые верят в то-то и то-то, глупые. Сначала я рассматривал саму тему, а потом уже говорил: «Вот почему это глупо». В 2009 году я был не уверен, важно ли мне иметь в окружении людей, презирающих гомеопатию. Я и сейчас считаю, что если вежливо обходиться с какой-то идеей, то некоторые люди понимают это как «ничего страшного, если я скажу, что верю в гомеопатию; это не повредит моему статусу». А ирония и насмешки могут развеять их иллюзии.

Я думаю, сейчас я был бы вежливее. Беспардонность послужила определенной цели и даже кому-то помогла; но теперь я более серьёзно отношусь к риску построить сообщество, в котором нормальной ожидаемой реакцией на новичка будет открытое презрение и насмешки.

Тем не менее я очень рад, что моя читательская аудитория не стала использовать мою риторику для унижения или травли. (Я хотел бы отдельно упомянуть Скотта Александера: он более приятный человек, чем я, и отлично пишет на эти темы, а потому заслуживает благодарности за построение здоровой атмосферы сообщества Less Wrong.)

Если я оглядываюсь назад и сообщаю, что провалился — значит, у меня были цели, которых я хотел достичь. Что же это за цели?

Есть один ценный способ рассуждений, которому пока не учат в школах. Ему систематически вообще нигде не учат. Он просто проявляется сам у тех, кто вырос на книгах вроде «Вы, конечно, шутите, мистер Фейнман» — или у тех, кому в университете повезло с хорошим преподавателем.

Чаще всего этот способ мышления практикуется в науке и проведении экспериментов. Просто идёте и смотрите на Вселенную, а не выдумываете. И говорите «Ой!» и отказываетесь от плохой теории, если экспериментом она не подтверждается.

Но такой склад ума применяется и шире. Он универсальнее тех очков, которые вы надеваете в лаборатории. Его можно использовать в реальной жизни, хотя тут есть свои нюансы. Если вы не можете сказать «Ой!» и отказаться от нерабочей теории — вы будете постоянно стрелять себе в ногу. Вы обречены перезаряжать оружие и спускать курок. Вы знаете таких людей. И иногда вы, даже не задумываясь об этом, действуете в точности как они. Хорошо бы существовал способ мышления, благодаря которому можно перестать так делать.

Несмотря на серьёзность моих ошибок, статьи, выложенные за два года ведения моего блога помогли удивительному количеству людей, чего я не ожидал. Это работает не слишком надёжно, но иногда всё-таки срабатывает.

В современном обществе так мало учат навыкам рациональных убеждений и принятия решений, так мало учат математике и другим наукам, на которых всё это основано! В результате даже просто прочитать мои излияния о проблемах науки и философии может быть полезным. Посмотрите на всё это с десятков разных точек зрения — это иногда помогает уловить единый ритм.

На самом деле всё сводится к одному и тому же. Я описывал огромные отвлеченные задачи и пренебрегал повседневной жизнью, но законы в обоих случаях одинаковы. Я концентрировался на одном и упускал многое другое; но всё сводится к одному. Я горжусь тем, что оглядываюсь назад — и даже при учёте всех моих ошибок и всех моих «Ой!», даже спустя пять лет я всё ещё считаю, что это лучше, чем ничего.

— февраль 2015

Перевод: 

Remlin, Muyyd, Staenrey
  • Короткая ссылка сюда: lesswrong.ru/225