Законы рациональности беспристрастны

Элиезер Юдковский

Традиционная Рациональность сформулирована так же, как и социальные нормы, а нарушения социальных норм воспринимаются как мошенничество или измена общим стандартам.

Если ты желаешь убедить людей в чём-то, ты обязан предоставить определённое количество свидетельств. Если ты пытаешься этого избежать, то всем ясно: ты жульничаешь. Теория должна делать смелые предсказания сама, а не просто воровать предсказания, сформулированные другими теориями. Теория должна давать возможность себя опровергнуть, а не трусливо пытаться избежать огня критики; это членский взнос клуба качественных теорий.

Традиционная Рациональность похожа на обычаи, управляющие жизнью человеческих обществ, и поэтому её легко передавать из уст в уста. Люди замечают общественное мошенничество лучше, чем изоморфные ему нарушения абстрактных логических правил. Однако, люди, видящие в рациональности общественное обязательство, могут прийти к некоторым странным выводам.

Например, можно увидеть верующих, защищающих свои убеждения фразой «Ты тоже не можешь обосновать свою веру в науку!». Иными словами: «Как ты смеешь критиковать меня за необоснованные убеждения, лицемер! Ты же сам не лучше!»

В глазах байесианцев, мозг — аналитическое устройство. Оно обрабатывает сложные данные и переносит свидетельства на когнитивную карту, которая отражает местность. Принципы рациональности являются законами в том же смысле, что и второй закон термодинамики: добыча истинных убеждений требует вычислимого количества связанных с ними свидетельств, также как и надёжное охлаждение содержимого холодильника требует вычислимого минимума свободной энергии.

Законы физики инвариантны относительно обращения времени, поэтому, в принципе, существует ничтожно малая — настолько малая, что отличить её от нуля могут только математики — вероятность того, что холодильник спонтанно охладит сам себя, сгенерировав при этом электричество.

Представь, что ты ни разу не был в Нью-Йорке. Сможешь ли ты нарисовать его точную подробную(English) карту, сидя в комнате с закрытыми жалюзи и не имея доступа в интернет? Теоретически да, но вероятность этого немногим больше ничтожно малой вероятности самозаморозки холодильника.

Прежде чем начать рисовать карту незнакомой местности, плесни немного воды в чашку при комнатной температуре; подожди, пока она спонтанно замёрзнет, и лишь после этого приступай к самому занятию.

Если вода не замёрзла, то это означает, что Владыки Матрицы пока что не перевернули законы мироздания с ног на голову. В этом случае ничтожно малую вероятность успеха следует игнорировать.

Не всегда можно понять, что карта неверна (особенно, если так ни разу и не увидеть Нью-Йорк своими глазами), но всегда можно убедиться в том, что вода сама по себе не замерзает.

Если дело касается устоявшихся обычаев, то любой проступок, теоретически, можно оправдать. Все переходят дорогу на красный свет, так почему же наказывают именно меня? Да, я не могу привести свидетельства в пользу своей модели, но ведь никто не может, почему я крайний? Это нечестно!

Общество тут же осознает, что все мы одинаково грешны и смягчившись, милосердно освободит всех от обязательства предоставлять свидетельства в пользу своих убеждений. Затем наступит свобода, равенство и братство.

Если дело касается математических законов, то все попытки что-то оправдать бессмысленны. Бесполезно зачитывать вслух 30 причин, согласно которым ты не можешь упасть с обрыва. Даже если все проголосуют за то, что нечестно требовать электричества для заморозки продуктов, то на идущие внутри холодильника процессы это никак не повлияет. Даже если все согласятся с тем, что тебе не обязательно посещать Нью-Йорк, карта всё равно будет неверной. Госпожа Природа и Госпожа Математика совершенно безразличны к людским просьбам.

Так что — вернёмся к общественному языку Традиционной Рациональности — не думай, что заявление «нет ничего страшного в моих необоснованных убеждениях о X, ведь у тебя есть необоснованные убеждения о Y» сойдет тебе с рук. Если обе заключившие контракт стороны нарушили свои обязательства, человек-судья может решить не применять санкции ни к кому. Но если два инженера соберут два механизма одинаково плохо, ни один механизм не заработает. Одна ошибка не может оправдать другую. Факт, что я делаю что-то неправильно, не может помочь тебе или освободить тебя от исполнения правил: он говорит лишь о том, что страдать от последствий мы будем вдвоём.

Когда речь идёт о законах либеральной демократии, каждый имеет право на свои убеждения. Когда речь идёт о законах природы, никто не имеет права на абсолютную точность. Мы не арестовываем людей за то, что они верят в странные вещи (по крайней мере, в адекватных странах). Но никто не может обойти закон о необходимости свидетельств для получения соответствующих истине убеждений. Даже единогласное решение всей человеческой расы не имеет веса в суде Матери Природы.

Физики не решают, какими должны быть законы природы, физики просто угадывают, каковы они на самом деле. Рационалисты не решают, какими должны быть законы рациональности, рационалисты просто угадывают, каковы они на самом деле. Нельзя рационализировать то, что не было рациональным с самого начала. Даже если кто-то ухитрится в натиске ошеломляющего красноречия убедить всех физиков мира в том, что в законе гравитации сделано исключение персонально для него, то всё равно, шагнув со скалы, он упадёт.

Фраза «это решаем не мы» слишком антропоморфна. Не существует никакой вышестоящей инстанции, способной делать исключения в законах. Существуют лишь причина и следствие.

Помни об этом, когда будешь просить разрешения нарушить закон всего лишь этот раз. Мы не можем выдать разрешения. У нас просто нет на это права.

Перевод: 

BT
  • Короткая ссылка сюда: lesswrong.ru/37