Но ведь шанс все равно есть, не так ли?

Элиезер Юдковский

Несколько лет назад я разговаривал с одним человеком и он по ходу разговора сказал, что не верит в эволюцию. Я ответил: «Сейчас не девятнадцатый век. Когда Дарвин впервые предложил теорию эволюции, в ней еще можно было сомневаться. Но мы живем в двадцать первом веке. Мы можем читать гены. У человека и шимпанзе ДНК совпадают на 98%. Мы знаем, что люди и обезьяны являются родственниками. Это факт.»

Он сказал: «Может быть, совпадение ДНК является случайным.»

Я ответил: «Шансы на это равны примерно двум в степени семьсот пятьдесят миллионов к одному.»

Он сказал: «Но ведь шанс все равно есть, не так ли?»

Итак, есть несколько причин, по которым прошлый-я не может праздновать чистую с моральной точки зрения победу в этом споре. Первая причина в том, что я не помню, откуда я взял это число 2^750,000,000, хотя порядок этой величины не должен был слишком сильно отличаться. Другая причина в том, что мой прошлый-я не использовал понятия откалиброванной уверенности. За всю историю человечества, когда люди оценивали вероятность некоего события в 1 к 2^750,000,000, они, без всяких сомнений, ошибались чаще, чем раз в 2^750,000,000 случаев. К слову, совпадение ДНК было позже снижено с 98% до 95% - и это относится только к 30,000 известным генам, а не ко всему геному, и поэтому порядок истинной величины все-таки довольно сильно отличается от моей оценки.

Но я по-прежнему считаю, что ответ моего собеседника был довольно забавным.

Я не помню, что я ответил на его последнюю реплику - скорее всего, что-то вроде «Нет» - но я запомнил этот разговор, потому что благодаря ему я понял несколько новых вещей о законах мышления непросвещенных.

Я впервые понял, что человеческая интуиция делает качественное различие между «Отсутствием шансов» и «Очень маленьким шансом, на который при этом стоит обращать внимание». Это можно увидеть в обсуждении «Новой Улучшенной Лотереи» на Overcoming Bias, в котором кто-то сказал: «Есть большая разница между нулевым шансом получения богатства и шансом, равным эпсилону», на что я ответил: «Между нулевым шансом стать богатым и шансом, равным эпсилону, существует разница величиной в эпсилон; если вам это кажется неубедительным, поставьте вместо эпсилона один, деленное на гуголплекс.»

Проблема в том, что теория вероятностей иногда позволяет нам рассчитать шансы, которые настолько малы, что их невозможно даже визуализировать - но к этому времени мы их уже посчитали. Люди смешивают карту с территорией, поэтому на интуитивном уровне вероятность, явно определенная в виде символов, ощущается как «шанс, который нужно учитывать», даже если число, описываемое этими символами, настолько мало, что в реальности оно было бы меньше самой маленькой пылинки. Мы можем использовать слова, чтобы описывать такие маленькие числа, но наши чувства на это неспособны - настолько слабого чувства, соответствующего этому числу, просто не существует, оно не активирует достаточного количества нейронов и не высвобождает достаточно нейромедиаторов, чтобы что-то почувствовать. Вот почему люди покупают лотерейные билеты - они не способны испытать такое же слабое чувство, насколько слаба вероятность.

Но еще более любопытным показалось мне качественное деление между «определенностью» и «неопределенностью», где «неопределенный» аргумент можно просто проигнорировать. Будто бы, если правдоподобие равно нулю, вы можете отказаться от убеждения, а если правдоподобие равно один к десяти в степени гугол, вы можете оставить его себе.

Я понимаю, что мы живем в свободной стране и никто не посадит вас в тюрьму за неверные рассуждения, но если вы собираетесь игнорировать аргументы против событий с правдоподобием один к десяти в степени к гугол, зачем обращать внимание на аргументы против событий с нулевым правдоподобием? Я хочу сказать, что если вы в любом случае собираетесь проигнорировать свидетельство, какая разница между тем, чтобы игнорировать определенное и неопределенное свидетельство?

В своей жизни я часто учился на ужасно вопиющих примерах рассуждений других людей, используя полученные выводы для менее очевидных случаев. Например, в этом случае я понял, что если ты не игнорируешь правдоподобие один к десяти в степени гугол, потому что тебе так хочется, ты не можешь игнорировать и правдоподобие 0.9, потому что тебе так хочется. Это такой же опасный путь.

Вспомните об этом примере, если вы когда-нибудь будете думать «Но вы не можете доказать мне, что я не прав». Если вы собираетесь игнорировать аргумент, основанный на вероятности, почему бы просто не проигнорировать все доказательство?

Перевод: 

stas
  • Короткая ссылка сюда: lesswrong.ru/347