Нижняя строчка

Элиезер Юдковский

Есть две запечатанные коробки А и Б. Только в одной из них лежит алмаз. Есть множество самых разнообразных признаков и тестов на предмет того, лежит ли в коробке алмаз; но среди них нет стопроцентно надежного. Например на одной из коробок стоит синяя печать, а мне известно, что такая печать чаще встречается на коробках с алмазами, а не на пустых. Или одна из коробок блестит и у меня есть подозрение — хотя я не уверен — что коробка без алмаза не должна блестеть.

Теперь предположим, что существует умный аргументатор, который держит в руках листок бумаги и который говорит владельцам коробок А и Б: «Предложите цену за мои услуги и для того, кто предложит больше, я докажу, что его коробка содержит алмаз, так что ее можно будет продать подороже». Владельцы коробок предлагают цены, владелец коробки Б предлагает больше, и аргументатор принимает его предложение.

Умный аргументатор начинает с того, что организовывает свои мысли. Сначала на нижней строчке бумаги он пишет «Таким образом, в коробке Б находится алмаз!» Потом, в начале он пишет «На коробке Б стоит синий штамп,» ниже «Коробка А сияет», потом «Коробка Б легче, чем коробка А», и еще много различных признаков; при этом аргументатор отбрасывает все признаки, свидетельствующие, что алмаз в коробке А. Далее он приходит ко мне и зачитывает по памяти свой листок: «На коробке Б синий штамп, коробка А блестит» и так далее, завершая все фразой «Таким образом, алмаз в коробке Б».

Но задумаемся: в момент, когда спорщик пишет свое заключение, в момент, когда чернила ложатся на бумагу, сцепленность через свидетельство этих чернил с физическими коробками становится фиксированной.

Тут может помочь представление множества миров — ветвей Эверетта или дубликатов Тегмарка — внутри которого есть некоторая объективная частота с которой коробка А или Б содержит алмаз. И сходным образом есть подмножества «миры с блестящей коробкой А», где алмаз в Б; и есть подмножество «миры с блестящей А и Б с синим штампом», где Б содержит алмаз.

Чернила на бумаге сформированы кривыми шансов, которые похожи на этот текст: «И таким образом, в коробке Б лежит алмаз». Если так получилось что вы воспринимаете текст буквально, вы можете запутаться и решить, что это чернила как-то определяют наличие алмаза в коробке Б. Испытуемые, которым сказали говорить цвет картинки, а потом показали написанное красным шрифтом слово «зеленый», часто говорят «зеленый», не красный. Тут помогает быть неграмотным, чтобы не обманываться формой чернил.

Для нас настоящий смысл вещи в ее сцепленности с другими вещами. Рассмотрим снова собрания миров, ветви Эверетта или дубликаты Тегмарка. В момент, когда все умные аргументаторы во всех мирах пишут нижнюю строку в своих бумагах — предположим, что это происходит в один и тот же момент во всех мирах — корреляция между чернилами и коробками фиксируется. Аргументатор пишет нестираемыми чернилами; их нельзя изменить. Коробки тоже не изменятся. Внутри множества миров, где чернила говорят «И таким образом коробка Б содержит алмаз» уже есть определенный процент миров, где бриллиант в коробке А. И положение дел не изменится, что бы ни было написано в строчках выше.

Так что сцепленность через свидетельство для чернил зафиксировано и я оставляю вам решать, что это может быть. Возможно обладатели коробок которые верят, что лучший выбор, который они могут сделать это нанять оценщиков; возможно владельцы коробок те, кто боятся своих собственных нехваток возможностей предложить большую цену. Если обладатели коробок сами не понимают признаки и тесты, тогда чернила будут совершенно не сцеплены с содержимым коробок, хотя смогут рассказать вам о финансах владельцев и их привычках сорить деньгами.

Теперь рассмотрим другого человека, который по-настоящему любопытен и сначала выписывает все отличительные признаки обоих коробок на листе бумаги, а потом применяет свои знания и законы вероятности, после чего выписывает на нижней строчке: «Таким образом я оцениваю вероятность того, что коробка Б содержит алмаз, в 85%». Свидетельством чего является данная запись? Изучение цепи причин и следствий ведет к этим чернилам на этой бумаге, я нахожу что цепь причинности проходит через все признаки и тесты коробок и зависима от них; для миров с разными признаками на нижней строчке будет стоять разная вероятность.

Так что записи любопытного исследователя сцеплены с признаками и тестами, а, следовательно, и с содержимым коробок, в то время как записи умного аргументатора являются свидетельством только о том, кто предложил большую цену. Это огромная разница в том, о чем говорят записи, хотя тот, кто будет судить поверхностно, может подумать что записи одинаковы.

Ваша эффективность как рационалиста определяется тем, каким методом действий вы руководствуетесь, когда пишете нижнюю строчку ваших мыслей. Если ваша машина издает необычный шум, когда вы тормозите, а вы не хотите принимать мысль, что тормоза требуют замены, вы можете решить поискать причины по которым машину не надо ремонтировать. Но вероятность того, что вы выживете в ветвях Эверетта или мирах Тегмарка — что мы примем за описание вашей эффективности как рационалиста — определяется алгоритмом, который решает для какого заключения вы будете искать аргументы. В этом случае настоящий алгоритм будет «Никогда не ремонтировать дорогие вещи». Если это хороший алгоритм, то все в порядке; если это плохой алгоритм, то что ж, увы. Аргументы которые вы подберете задним числом, выше нижней линии, ничего уже не изменят.

Дополнение: это задумывалось как предостережение для вашего мышления, не как Полностью Универсальный Контраргумент против заключений, которые вам не нравятся. Можно ведь говорить «Мой оппонент — умный аргументатор», и если вы хотите сохранить те же убеждения, что были у вас и раньше. Самый умный аргументатор мира может сказать, что светит солнце, и все еще будет светло. Смотрите следующую статью по данной теме.

Перевод: 

Remlin
  • Короткая ссылка сюда: lesswrong.ru/168