Пытки против пылинок

«Что самое плохое может случиться?», как говорится в оптимистичном выражении. Пожалуй, это плохой вопрос для человека с творческим воображением. Давайте рассмотрим проблему на индивидуальном уровне: на самом деле это не самое худшее, что может случиться, но, тем не менее, было бы довольно плохо, если бы вас ужасно пытали в течение нескольких лет. Это одна из худших вещей, которые реально могут случиться с человеком в современном мире.

А что самое наименьшее из плохого может случиться? Ну, предположим, что пылинка попала вам в глаз и вызвала лёгкое раздражение, на долю секунды, — едва достаточно, чтобы вы заметили, прежде чем моргнуть и убрать её.

Для нашего следующего ингредиента нам понадобится большое число. Давайте воспользуемся 3^^^3, записанным в стрелочной нотации Кнута:

• 3^3 = 27.
• 3^^3 = (3^(3^3)) = 3^27 = 7625597484987.
• 3^^^3 = (3^^(3^^3)) = 3^^7625597484987 = (3^(3^(3^(… 7625597484987 раз …)))).

3^^^3 — это экспоненциальная башня из троек высотой в 7 625 597 484 987 слоев. Вы начинаете с 1; возводите 3 в степень 1, получая 3; возводите 3 в степень 3, получая 27; возводите 3 в степень 27, получая 7625597484987; возводите 3 в степень 7625597484987, получая число, намного большее, чем число атомов во Вселенной, но которое все еще может быть записано в десятичной системе счисления на 100 квадратных километрах бумаги; затем возведите 3 в эту степень; и продолжайте, пока не возведёте в степень 7625597484987 раз. Это и будет 3^^^3. Это самое маленькое из просто непостижимо огромных чисел, какое я знаю.

Теперь вот какая моральная дилемма. Если ни то, ни другое событие не произойдет лично с вами, но вам все равно нужно было бы выбрать одно или другое:

Вы предпочли бы, чтобы один человек ужасно мучился от пыток в течение пятидесяти лет без надежды и покоя, или чтобы 3^^^3 людям попали пылинки в глаз?1

Я считаю, что ответ очевиден. Как насчет вас?2

• 1. Этот мысленный эксперимент позволяет продемонстрировать различия между этическими системами с так называемым «лексическим порядком» и без него. Например, если вы считаете, что любая достаточно интенсивная пытка всегда хуже любого числа слегка раздраженных глаз от попавших в них пылинок, это говорит о лексичности между соответствующими переживаниями. Для предпочтений с таким упорядочиванием нельзя построить вещественнозначную функцию полезности, которая удовлетворяла бы аксиомам фон Неймана и Моргенштерна. Однако они допускают построение не-вещественнозначных функций полезности. — Прим.перев.
• 2. Когда Элиезер Юдковский писал это эссе, он хотел, чтобы читатели подумали над ответом. Однако, если вы хотите точно узнать, какой ответ очевиден для него, об этом можно прочитать, например, в эссе Circular Altruism. — Прим. ред.