Вы здесь

Табуируй свои слова

Элиезер Юдковский

По правилам игры «Табу» от Hasbro необходимо помочь партнёру угадать слово, напечатанное на карточке, не произнеся при этом ни самого слова, ни ещё пяти дополнительных, напечатанных на карточке. Например, как бы вы объяснили слово «бейсбол», не используя слов «спорт», «бита», «удар», «подача», «база» (и, разумеется, «бейсбол»)?

Попав в такую ситуацию я бы, ни секунды не задумываясь, сказал «искусственный групповой конфликт, в котором нужно шарахнуть продолговатым деревянным цилиндром по брошенному сфероиду и затем пробежаться по четырём безопасным позициям». Можно, конечно, найти и более эффективный способ передать слово «бейсбол» без нарушения правил игры, например — «То, во что играют Янкис»1. Вообще, навык исключения отдельных слов из собственных мыслей я развивал много лет и не для игры.

В предыдущем эссе было видно, как раскрытие определений на месте соответствующих слов позволяет выявить эмпирическую непродуктивность классического аристотелевского силлогизма: «Все люди смертны(и, по-видимому, двуногие без перьев). Сократ — человек. Следовательно, Сократ смертен». Если заменить здесь слово «человек» его мнимым определением, то выявится подразумеваемая цепочка заключений:

Все [смертные, ~пернатые, двуногие] смертны.
Сократ — [смертный, ~пернатый, двуногий].
Следовательно, Сократ смертен.

Принцип замены слов их определениями можно применять гораздо более широко:

АЛЬБЕРТ: Дерево, падающее в пустом лесу, создаёт звук.
БАРРИ: Дерево, падающее в пустом лесу, не создаёт звука.2

Поскольку один говорит «звук», а другой «~звук», то мы явно нашли противоречие, верно? Но представим, что было бы, если бы собеседники сначала разыменовали указатели3:

АЛЬБЕРТ: Дерево, падающее в пустом лесу, удовлетворяет [проверка принадлежности: это событие порождает акустические вибрации].
БАРРИ: Дерево, падающее в пустом лесу, не удовлетворяет [проверка принадлежности: это событие порождает слуховые впечатления].

Теперь мнимое противоречие исчезло и для этого было достаточно всего лишь запретить использовать слово «звук». В случае, если разногласия возникнут вокруг термина «акустические вибрации», можно табуировать и его, заменив на «волны давления, распространяющиеся в физической среде». При необходимости можно наложить табу на слово «волна» и заменить его волновым уравнением. Если затабуировать «слуховые впечатления», то получим «форма обработки сенсорной информации человеческим мозгом, принимающая на вход временной ряд смешанных частот».

Спор вокруг силлогизма можно переформулировать следующим образом:

АЛЬБЕРТ: Сократ входит в категорию [проверка принадлежности: эта личность погибнет, выпив настойку болиголова].
БАРРИ: Сократ входит в категорию [проверка принадлежности: эта личность не погибнет, выпив настойку болиголова].

Видно, что ожидания Альберта и Барри существенно расходятся: спорщики ожидают наблюдать различные события после того, как Сократ выпьет настойку болиголова. Этого противоречия сложно было бы заметить, если бы оба они использовали общее слово «человек», подразумевая под ним каждый своё.

В зависимости от того, за чем следить в диалоге: за ярлыками (Альберт говорит «звук», Барри говорит «не звук»), либо за испытаниями (Альберт предложил проверку на акустические вибрации, Барри предложил проверку на слуховые впечатления), можно прийти к сильно различающимся выводам по поводу того, с чем спорщики согласны и не согласны между собой.

Если на конгрессе так называемых футурологов спросить, появится ли искусственный интеллект в ближайшие тридцать лет, то, я думаю, по крайней мере половина из них ответит утвердительно. Без дополнительного регулирования они разойдутся довольные собой и достигнутым консенсусом. Однако стоит лишь наложить табу на термин «искусственный интеллект» (а так же на слова «компьютеры», «мыслить» и прочее), а после поинтересоваться, что именно они ожидают увидеть — и, вполне возможно, обнаружится конфликт ожиданий, скрывавшийся под неприметным привычным словом. Шейн Легг4, например, собрал 71 определение слову «интеллект».

Иллюзию согласия между различными религиями можно рассеять, наложив табу на слово «Бог» и попросив верующих объяснить, в чём именно состоят их убеждения, либо наложив табу на слово «вера» и попросив верующих объяснить, почему они носят свои убеждения. Правда, большинство не сможет хоть чего-нибудь ответить вообще: большая часть их убеждений — всего лишь провозглашения, а аудиозапись можно разглядывать хоть под микроскопом, но не найти при этом разъяснения терминов.

Столкнувшись с философскими трудностями, старайтесь не бросаться выяснять определения спорных терминов, а пытайтесь мыслить не используя вообще ни этих терминов, ни их синонимов. Старайтесь так же не изобрети случайно какого-нибудь слова на замену табуированным. Описывайте внешние наблюдения и внутренние механизмы — недостаточно оперировать идентификатором, каким бы он ни был.

Альберт считает, что люди обладают «свободой воли». Барри считает, что люди не обладают «свободой воли». Ну что же, тут явно назревает мнимый спор. Большинство философов посоветовали бы Альберту и Барри постараться как можно точнее определить, что именно они называют «свободой воли», что привело бы разговор в плоскость, в которой они сами готовы рассуждать часами. Я бы посоветовал Альберту и Барри описать, каким именно качеством, по их мнению, обладают (либо не обладают) люди, вообще не используя при этом слов «свобода воли». Попробуйте проделать это в качестве домашнего задания, исключив так же слова «выбирать», «действовать», «решать», «предопределено», «ответственность», а так же их синонимов.

Табуирование — один из множества нестандартных приёмов в моём арсенале, и, по моему скромному мнению, этот приём работает намного лучше стандартного. Хоть он и более энергозатратен, зато полностью себя окупает.

  • 1. Известный американский бейсбольный клуб, см. https://ru.wikipedia.org/wiki/Нью-Йорк_Янкис — Здесь и далее примечания переводчика.
  • 2. Спорщики Альберт и Барри впервые появляются в эссе https://lesswrong.ru/w/Спорыобопределениях
  • 3. Юдковский ссылается на понятие из программирования, когда в некой переменной X(«указателе»), содержится адрес ячейки в памяти, в которой содержится значение некой переменной Y, и для того, чтобы оперировать значением переменной Y, необходимо сначала «разыменовать» указатель X — получить по адресу памяти значение переменной Y. См. https://ru.wikipedia.org/wiki/Указатель(типданных)
  • 4. Шейн Легг — исследователь искусственного интеллекта, В 2010г. основал компанию DeepMind, см. https://ru.wikipedia.org/wiki/DeepMind

Перевод: 
BT, ildaar
Номер в книге "Рациональность: от ИИ до зомби": 
167
Оцените качество перевода: 
Средняя оценка: 3.9 (34 votes)
  • Короткая ссылка сюда: lesswrong.ru/58