Стандартный «нестандарт»

Элиезер Юдковский

Всякий раз, когда кто-то призывает вас «думать нестандартно», они обычно, для вашего удобства, точно указывают рамки этого «нестандартно». Не забавно ли видеть одинаково выглядящих нонконформистов?..

В области исследований искусственного интеллекта все агитаторы нестандартного подхода призывают использовать нейронные сети. Они ведь могут имитировать работу человеческого мозга! Новая ИИ идея: завершите шаблон: «Логические ИИ, несмотря на все обещания, так и не дают реальный результат десятилетиями — все что нужно, это нейронные сети!»

Этой шаблонной мысли уже около трех десятилетий. А интеллекта пока нет. Но почему-то все знают, что нейронные сети являются Доминантной-Парадигмой-Инновационной Идеей, причем еще со времен изобретения алгоритма обратного распространения ошибки в 1970-х. Со времен хиппи.

Нонконформисты по своей природе хотят отличаться от нормы. Если вы не носите черное, как люди узнают, что вы угнетенный художник? Как людям распознать уникальность, если неизвестен шаблон, в соответствии с которым распознается уникальность? Как кто-либо поймет, что ваш концепт ИИ революционен, если это не нейронные сети?

Другим примером этого же явления можно назвать «антиправительственную» литературу, которая вся звучит одинаково, основываясь на маленькой открытой лиге повстанцев, которые управляют целым английским департаментом. Как спросил Анонимус в блоге Скотта Ааронсона:

«Хоть что-то из антиправительственной литературы, которую вы читали, заставило вас изменить свои политические взгляды?»

Или как замечает Лизард:

«Революция уже похожа на телепрограмму. Ее уже можно приобрести. Она уже является покупаемым стилем, доступным в магазине. Двадцать долларов за маску, за баллончик с краской, за транспарант «Бей фашистов» и доступ в ваш блог, где вы можете писать о жестокости полиции, когда вы подставились под пожарный гидрант. Капитализм учится как продавать антикапитализм».

Многие в Силиконовой Долине наблюдают, как большинство венчурных капиталистов в любой момент времени гонятся за одной и той же Революционной Инновацией, которая является абсолютно той же, что и полгода назад. Это особенно разрушительное наблюдение в венчурном капитале, поскольку там есть прямой экономический мотив не следовать за стадом — даже если кто-то еще развивает продукт или снижает цену на стартап. Стив Юрветсон однажды сказал мне, что в Драпер Фишер Юрветсон только двум партнерам нужно согласиться, чтобы основать любой стартап до полутора миллионов долларов. И если все партнеры согласны, что какая-то вещь звучит здорово, они этого не делют. Если бы только комитеты по распределению грандов были так же разумны.

Проблема с оригинальностью в том, что вы по-настоящему должны думать чтобы добиться этого, вместо того, чтобы позволить мозгу последовать шаблону. Нет ничего с наклейкой «за границами шаблона», куда вы могли бы сразу отправиться. Это почти что дзен — типа того, что вы не можете понять сатори через слова, потому что сатори это опыт, который происходит без слов. Чем больше вы стараетесь следовать инструкциям мастера дзен, которые он дает вам через слова, тем дальше вы будете от очищения своего разума.

По этой причине, как я думаю, люди и не добиваются новизны, стремясь к ней. Свойства типа правды или хорошего дизайна независимы от новизны: 2 + 2 = 4, да, правда, даже несмотря на то, что каждый так думает. Люди, которые стремятся открыть правду или изобрести хороший дизайн, могут достигать креативности. Не каждое изменение есть улучшение, но каждое улучшение есть изменение.

Каждое улучшение есть изменение, но не каждое изменение есть улучшение. Тот, кто говорит «я хочу построить оригинальную мышеловку!», а не «я хочу построить оптимальную мышеловку!», всегда желает восприниматься как оригинал. «Оригинальность» в этом смысле по существу социальна, потому что может быть определена только в сравнении с другими людьми. Так что их мозг просто выполняет стандартный шаблон для которого распознается «оригинальность», после чего их друзья кивают, соглашаясь, и говорят что это антиправительственно.

Книги по бизнесу всегда говорят вам, для вашего удобства, куда нужно идти, чтобы получить кусочек сыра. В ином случае читателям оставалось бы только спрашивать «Где это «за пределами», куда мне нужно идти?»

Настоящее мышление, наподобие сатори, — бессловесный акт сознания.

Знаменитые философы Монти Пайтона сказали лучше всего.

Перевод: 

Remlin
  • Короткая ссылка сюда: lesswrong.ru/144