Какое свидетельство отсеивает свидетельство?

Элиезер Юдковский

Вчера я обсуждал дилемму умного аргументатора, нанятого, чтобы продать вам коробку, в которой может быть алмаз, а может и не быть. Умный аргументатор указывает вам, что на коробке есть синий штамп, а это известный признак, при котором чаще такие коробки содержат алмаз, нежели те, на которых штампа нет. Что происходит здесь, с байесовской точки зрения? Должны ли вы беспомощно обновлять ваши вероятности, как этого желает умный аргументатор?

Если вы можете сами посмотреть на коробку, вы сможете сами пересчитать все признаки. Но что, если вы не можете? Что, если единственным свидетельством, которое у вас есть, является слово умного аргументатора, который обязан говорить вам только правду, но не обязан говорить вообще все, что ему известно? Каждое утверждение, которое он делает, является валидным свидетельством — как вы можете не обновить ваши вероятности? Перестает ли это быть правдой в такой же пропорции как ветви Эверетта или дубликаты Тегмарка, в которых коробка Б имеет синий штамп, коробка Б содержит алмаз? Согласно Джейнсу, байесианец должен всегда учитывать все известные свидетельства, иначе он окажется под угрозой парадокса. Но тогда умный аргументатор может заставить вас поверить чему угодно, подобрав достаточно эффективную выборку признаков. Это не звучит правильно.

Рассмотрим более простой пример, неравновесную монетку, которая может быть искажена так, чтобы выпадать 2/3 времени орлом, а 1/3 решкой или наоборот, у обоих случаев априорная вероятность одинакова. Каждый наблюдаемый орел это один бит свидетельств для О-смещенной монетки; каждая наблюдаемая решка один бит свидетельств для Р-смещенной монетки. Я подкидываю монетку десять раз, а потом говорю вам: «на четвертом, шестом и девятом броске выпадал орел.» Какова ваша апостериорная вероятность, что монетка О-смещенная?

И ответ в том, что вероятность может быть почти любой, в зависимости от того, какая цепь из причин и следствий лежит за такой моей манерой высказывания — моим выбором о каких бросках монетки сообщать.

Возможно я всегда сообщаю о результатах четвертого, шестого и девятого бросков, независимо от их результатов, как и от результатов других бросков. Если вы знаете, что я следую такому алгоритму, то апостериорные шансы будут восемь к одному в пользу О-смещенной монетки.

Я мог бы сообщать только о тех бросках, которые приводят к орлам. В таком случае, вы знаете, что все остальные броски привели к решкам и тогда апостериорные шансы равны один к шестнадцати против О-смещенной монетки.

Я мог бы заранее решить сообщать результат 4, 6, 9 бросков только если вероятность, что монетка О-смещена, превосходит 98%. Ну и так далее.

Или рассмотрим задачу Монти Холла:

В этом шоу вам на выбор дается три двери, ведущие в разные комнаты. Вы знаете, что в одной из комнат лежит сто тысяч долларов, две другие пусты. Ведущий просит вас выбрать дверь, вы выбираете первую. Тогда ведущий открывает дверь во вторую комнату, показывая, что она пуста. Хотите ли вы выбрать третью дверь или продолжите настаивать на открытии первой?

Ответ зависит от того, как себя ведет ведущий. Если известно, что он всегда открывает дверь и всегда только ту, что ведет в пустую комнату, то вам следует изменить свой выбор на дверь номер три. Если ведущий всегда открывает вторую дверь, независимо от того, что за ней, то двери номер один и номер три имеют равные вероятности содержать деньги. Если ведущий открывает дверь вообще только в том случае, если вы выбрали дверь, за которой лежат деньги, то вам определенно стоит придерживаться прежнего выбора.

Вы должны учитывать не только тот факт, что вторая комната пуста, но и тот факт, что ведущий выбрал именно ее, чтобы открыть. Многие люди путаются в стандартной задаче Монти Холла, поскольку они принимают во внимание только факт того, что во второй комнате денег нет, в результате чего у первой и третьей комнаты получаются равные вероятности содержать деньги. Вот почему байесианцам нужно учитывать все их знания, чтобы избежать парадоксов.

Когда кто-то говорит «четвертый бросок — орел», мы не обрабатываем то, что четвертый бросок был орел — мы не берем подмножество всех возможных миров, где четвертый бросок приводит к орлу — нам лучше обрабатывать подмножество всех возможных миров, где говорящий, следуя некому алгоритму, сообщает «четвертый бросок — орел». Произнесенное предложение само по себе не является фактом; не впадайте в заблуждение касательно простого значения слова.

Большинство судебных процессов работают на теории, что в любом случае есть две противоположных стороны и что легче найти двух людей с искажениями, нежели одного без. Между обвинением и защитой у кого-то есть мотив представить любой данный кусок свидетельства, так что суд рассмотрит все свидетельства; такова теория. Если в дилемме с коробками есть два умных аргументатора, это не так хорошо, как если бы там был один любопытный исследователь, но почти так же хорошо. Но это только для случая с двумя коробками. Рельность часто имеет задачи с множеством сторон, глубокие задачи, неочевидные ответы, которые нельзя быстро найти Синим и Зеленым, которые кричат друг на друга.

Остерегайтесь как бы не злоупотребить понятием фильтрации свидетельств в качестве Полностью Универсального Контраргумента, исключая все свидетельства, которые вам не нравятся: «Этот аргумент мы фильтруем, таким образом я могу просто его игнорировать». Если вы снимаете галочку с противоположного аргумента, то вы знакомы со случаем и достаточно внимательны, чтобы выбирать сторону. Вы, вероятно, уже знаете сильнейшие аргументы своей стороны. У вас нет причины делать вывод, из противоположного аргумента, о существовании новых благоприятных знаков и признаков, которые вы еще не видели. Так что вы остаетесь с неудобными фактами самими по себе; синяя печать на коробке Б все еще является свидетельством.

Но если вы слышите аргумент в первый раз, и вы слышите только одну сторону аргумента, тогда вам тем более нужно быть осторожней! В определенном смысле никто не может на самом деле верить теории естественного отбора, пока не выслушает креационистов хотя бы в течение пяти минут; и вот уже тогда можно говорить, какая из теорий более цельная.

Перевод: 

Remlin
  • Короткая ссылка сюда: lesswrong.ru/169