Это ваша настоящая причина отказа?

Элиезер Юдковский

Бывало и бывает так, что кто-то только узнает о моих трансгуманистических убеждениях — в противоположность идеям о человеческой рациональности — странных, экзотически звучащих идеях типа сверхинтеллекта или дружестенного ИИ. И он тут же отвергает их.

Если попросить объяснить причину этого, то не так уж редко можно услышать в ответ:

— Почему я должен верить тому, что говорит Юдковский? У него нет даже докторской степени!

Нередко свидетели данного разговора советуют «Тебе нужно получить докторскую степень, и тогда люди прислушаются к тебе». Иногда этот совет можно услышать непосредственно от самого возражающего в виде «Возвращайся, когда получишь степень!»

Есть хорошие и плохие причины для получения степени, и конкретно эта — плохая.

Есть множество причин, по которым кто-то может на самом деле выказывать враждебную реакцию на трансгуманистические тезисы. Большинство из них основаны на распознавании паттернов, а не на вербализированной мысли: тезис распознается как «странная непонятная идея» или «научная фантастика» или «культ вокруг конца света» или «чрезмерный молодежный энтузиазм».

Так что тут же, как только это было воспринято, идея отвергается. Если, уже потом, кто-то говорит «Почему нет?», мозг начинает поиск оправдания. Но этот поиск не обязательно приводит к истинной причине — под «истинной причиной» я подразумеваю не наилучшую причину, которая может быть предложена, но то, что имело решающий вес при принятии решения, в тот самый момент, когда идея была отвергнута.

Вместо этого поиск оправдания выдает правдоподобно звучащий факт: «У говорящего нет степени».

Но точно так же у меня нет степени, когда я говорю о рациональности, так почему никто при этом так мне не возражает?

Более того, если у меня есть степень, люди не рассматривают это как решающий фактор, сигнализирующий, что они должны верить всему, что я скажу. Скорее, идея все равно отвергается, по тем же причинам, а поиск оправдания находит другой момент, который может служить останавливающей точкой.

Они бы сказали: «Почему я должен вам верить? Вы всего лишь человек с докторской степенью! Таких много. Возвращайтесь, когда будете авторитетом в этой области и будете состоять в штате главного университета.»

Но поверят ли люди случайному профессору из Гарварда, если он будет говорить странные вещи? Конечно же нет. (Но будь я профессором из Гарварда, на деле было бы легче привлечь внимание СМИ. Репортеры изначально были расположены недоверчиво ко мне — как и к любому другому человеку с докторской степенью — но все еще бы сделали обо мне репортаж как о гарвардском профессоре, который говорит странные вещи.)

Если вы говорите вещи, которые звучат неправильно для новичка, в противовес магически звучащей технической терминологии о лептонных кварковых переплетениях в N+2 измерениях; и слушатель является незнакомцем, не знающим вас лично и тему разговора; тогда я подозреваю что точка, в которой средний человек на самом деле начнет доверять не своему первому впечатлению, чисто из-за академических степеней, где-то рядом с уровнем Нобелевского лауреата. Возможно. Грубо говоря, вам нужен любой уровень академических регалий, расцениваемый как «за гранью обыденности».

Насколько я могу сказать, примерно это произошло с Эриком Дрекслером. Он представил свое видение нанотехнологии и люди сказали, — где технические подробности? или «Возвращайтесь, когда у вас будет степень!» И он провел шесть лет, расписывая технические подробности и получая степень под руководством Марвина Мински. «Наносистемы» — великая книга. Но изменили ли те люди, которые говорили «Возвращайтесь, когда получите степень!» свое мнение о молекулярной нанотехнологии после этого? Насколько я знаю, нет.

Похоже, что та же тенденция работает и в случае с институтом Сингулярности — когда мы делаем то, что, как предполагалось, должно давать нам больше доверия, ничего не меняется. «Вы разрабатываете какие-либо программы? Мы не заинтересованы в поддержке тех, то не пишет код» -> OpenCog -> ничего не изменилось. «У Элизера Юдковски нет академических регалий» -> Место директора по исследованиям занимает профессор Бен Гертцель -> ничего не меняется. Единственная вещь. которая, похоже, действительно поднимает уровень доверия, так это знаменитые люди, ассоциируемые с организацией, такие как Питер Тиль, спонсирующий нас, или Рей Курцвейл.

Это важно для ваc и только что нанятых вами консультантов — держать в уме то, что явная причина, по которой вы упускаете возможные перспективы, может отличаться от настоящей; и вы должны обдумать это осторожно, прежде чем приложить больше усилий. Если венчурный капиталист говорит «Если бы только ваши продажи росли немного быстрее!», если потенциальный клиент говорит «Это неплохо, но у вас нет фичи Х», это может и не быть настоящей причиной. Возможно исправление этого поможет, а возможно и нет.

Так это следует держать в уме при разногласиях. Робин и я разделяем убеждение, что два рационалиста не могут согласиться не соглашаться: они не должны иметь общих знаний о эпистемологическом несоглашении, пока что-то весьма неправильно.

Я подозреваю, что, в общем, если два рационалиста разрешают несоглашение видимого уровня, они должны ожидать обнаружить, что настоящие источники несоглашения либо трудно обговорить либо трудно показать, например:

Необыкновенное, но хорошо поддерживаемое научное знание математики;

Длинные понятийные расстояния;

Трудно переводимые в слова интуитивные ощущения, возможно проистекающие из специфичных представлений;

Нечто, проистекающее из профессии (что может быть хорошей причиной);

Шаблоны, распознанные из опыта;

Явные привычки в мышлении;

Эмоциональные привязанности к вере в определенный исход;

Страх опровержения прошлых ошибок;

Самообман на глубоком уровне для получения преимущества, возможности гордиться или других личных выгод;

Если дело в одном из этих истинных отказов, который можно легко выложить на стол, несоглашение, скорее всего, будет решить настолько легко, что все закончится еще на первой встрече.

«Это моя настоящая причина отказа?» — вопрос, который нужно задавать себе всегда, чтобы легче иметь дело с Другим Парнем. Однако попытки напрямую публично заняться психоанализом с Другим могут привести к ухудшению обсуждения очень быстро, насколько я могу сказать.

Однако вопрос «Это ваша истинная причина отказа?» это нечто обязательное, что должно присутствовать у Несогласных, чтобы скромно спросить, есть ли какой-то продуктивный путь разрешить этот подвопрос. Возможно, правилом должна быть возможность открыто спросить: «Эта простая и звучащая прямо причина является вашим истинным отказом или просто идет от интуиции или профессиональной деформации?» В то же время как более постыдные причины остаются на совести Другого, как и их собственная ответственность поддержания таких причин.

P.S.

Данный пост на самом деле не о докторской степени или величине доверия в общем. Но я всегда понимал, что если хочется обсудить подробно что-то в стратегически важном разговоре, то проще нанять академика с высоким статусом, нежели тратить огромное количество времени на попытки достигнуть низкого или среднего академического статуса самому.

В то же время, если есть профессор, который может позволить мне сдать ему и просто дать мне степень по аналитической философии — просто выписать тезис и защитить его — тогда я должен, для себя, разработать общую и математически изящную теорию по проблемам ньюкомбовского вида. Я думаю это был бы отличный тезис, для которого у меня есть немало наработок — если бы кто-либо имел власть позволить мне так сделать.

Перевод: 

Remlin
  • Короткая ссылка сюда: lesswrong.ru/182