Элиезер и парадокс Ньюкома

Автор Тема: Элиезер и парадокс Ньюкома  (Прочитано 42763 раз)

Kroid

  • Ветеран
  • ****
  • Сообщений: 779
  • +62/-7
    • Просмотр профиля
Re: Элиезер и парадокс Ньюкома
« Ответ #60 : 28 Декабря 2015, 15:20 »
  • (+)0
  • (−)0
  • Цитировать
    Представьте, что вы только что были скопированы, и знаете, что в соседней комнате сидит точная ваша копия (или вы - точная копия, в общем, вы равнозначны). Вы еще ни о чём не успели поговорить, и вы не думали о возможных стратегиях поведения в случае, если такое случится, до того, как это произошло.
    Тогда всё совсем просто. Я придумываю эксперимент, который абсолютно точно даст разные ответы для меня и моей копии. Например, если я знаю наше местонахождение (и оно различается), то решаю, что тот кто севернее, звонит адвокату.

    fil0sof

    • Главный модератор
    • Ветеран
    • *****
    • Сообщений: 969
    • +55/-3
      • Просмотр профиля
      • VK profile
    Re: Элиезер и парадокс Ньюкома
    « Ответ #61 : 28 Декабря 2015, 15:25 »
  • (+)0
  • (−)0
  • Kroid, ты похоже всё-таки не понимаешь разницы между человеком, который мыслит точно так же как ты, и человеком, с которым у тебя существует мгновенная ментальная связь. Мыслить одинаковыми паттернами и одновременно думать одни и те же мысли — разные вещи. В этом затык в диалоге с kuuff'ом про выборы и миграцию, в этом же ошибка здесь. Подумай над этим)

    Kroid

    • Ветеран
    • ****
    • Сообщений: 779
    • +62/-7
      • Просмотр профиля
    Re: Элиезер и парадокс Ньюкома
    « Ответ #62 : 28 Декабря 2015, 15:34 »
  • (+)0
  • (−)0
  • Как насчет близнецов Уизли? Они думают одинаковыми паттернами или же одновременно думают одни и те же мысли?

    fil0sof

    • Главный модератор
    • Ветеран
    • *****
    • Сообщений: 969
    • +55/-3
      • Просмотр профиля
      • VK profile
    Re: Элиезер и парадокс Ньюкома
    « Ответ #63 : 28 Декабря 2015, 15:55 »
  • (+)0
  • (−)0
  • Они — что-то среднее, ближе даже ко второму. Но они на то и магические близнецы из фанфика по ГП :D

    В данном конкретном примере разница проста. Если ты подумал о каком-то эксперименте, который должен дать разные ответы для тебя и копии, то твоя копия тоже подумает о таком эксперименте. Но вот не факт, что ты выберешь "кто севернее, тот и платит", а он при этом не выберет "кто южнее, тот и платит". Потому что хоть вы и мыслите концептуально одинаково, это не значит, что вы всегда будете думать строго об одном и том же. Из множества таких экспериментов с разными ответами вы можете выбрать разные эксперименты.

    Skywrath

    • Ветеран
    • ****
    • Сообщений: 723
    • +71/-9
      • Просмотр профиля
    Re: Элиезер и парадокс Ньюкома
    « Ответ #64 : 28 Декабря 2015, 19:54 »
  • (+)0
  • (−)0
  • Цитата: Quilfe
    Вы не можете просто отнестись к этому другому как к внешней реальности и оценить вероятность того, как поступит он, чтобы принять решение, потому что эта цепочка мыслей будет буквально соответствовать его цепочке.
    Нельзя ли это обойти формальным трюком? Например, решить кинуть монетку. Если решка, то шлю письмо адвокату, иначе я не буду тратить свои деньги. Копия решает так же, мы получаем по 50% на вариант с письмом. Можно бросить кубик, так как 50% всё-таки слишком мало и получить более удачные приближения. В обычной дилемме такой фокус не сработает, но если вы утверждаете симметричность мышления, то её можно разрушить достаточно примитивным, искусственным приёмом.

    Kroid

    • Ветеран
    • ****
    • Сообщений: 779
    • +62/-7
      • Просмотр профиля
    Re: Элиезер и парадокс Ньюкома
    « Ответ #65 : 29 Декабря 2015, 00:26 »
  • (+)0
  • (−)0
  • Я еще некоторое время подумал над этим вопросом и вот к чему пришел. Дело не в том, что двойники будут мыслить одинаковые мысли одновременно. Если у нас схожие паттерны мышления (по определению), то мы оба первым делом подумаем, что за счет этого свойства можно предсказывать поведение друг друга и кооперироваться, даже не имея возможностей напрямую посовещаться (ведь мы оба в детстве читали определенные книги, смотрели фильмы, решали головоломки и тд; это как Гарри, который заранее придумал кусать себя за щеку чтобы сказать "мне стерли память").

    Проблема одна - какое средство передачи и получения данных выбрать, как его интерпретировать? Очевидно, что каждый из нас заглянет в прошлое и возьмет наиболее значимое событие. Далее по текущей обстановке определим, какую роль возьмет на себя каждый из нас. В зависимости от условий это может занять большее или меньшее время. Возможно, это сработает не с первой попытки. Но мы синхронизируемся намного быстрей, чем просто два случайных человека, ведь мы знаем, как мы думаем.

    С другой стороны, если бы я провел детство по-другому (например, играл бы сутками в футбол во дворе), я бы не смог воспользоваться этой ситуацией. А тот же Гарри, уверен, синхронизоровался бы сам с собой на порядок быстрее, чем я.

    littlenovice01

    • Новичок
    • *
    • Сообщений: 2
    • +1/-0
      • Просмотр профиля
    Re: Элиезер и парадокс Ньюкома
    « Ответ #66 : 26 Января 2016, 21:22 »
  • (+)0
  • (−)0
  • По поводу парадокса Ньюкома и Путей выигрывания (извините, что через месяц почти, когда тема завeршена)
    Очень понравился комментарий kuuff'a #40
    Но в #42-ом он сослался на Timeless Decision Theory
    Цитировать
    Да. Собственно к этому Юдковский и подводит. Собственно Timeless Decision Theory и пытается решить эту проблему, заявляя, что если для того, чтобы выжить нам надо нарисовать стрелку причинно-следственной связи из будущего в прошлое, то надо просто взять и нарисовать её, даже если физика требует, чтобы любая причина была раньше любого своего следствия.
    Я считаю, что суждение не может менять истинность или ложность из-за от Вашего плачевного положения, а потому мне представляется необходимым всё-таки найти правильную модель.
    По-моему, тема такая: Вы не можете изменить тот выбор, кoторый был сделан, но Вы не имеете о нём информации, а т.к. он основывается на просчитывании функции вашего поведения, то в своей модели (где у Вас есть выбор) Вы не только можете, а и будете влиять на результат; а в более общей системе Омеги ваше поведение - лишь заранее просчитанная функция с 1%-ой вероятностью ошибки, а в ещё более общей системе - без вероятности ошибки. Т.е. всё в согласии с законами физики: Омега заранее просчитал и оттолкнулся от этого, потом игрок просто "проигрывает" функцию (так же, как можно заранее просчитать результат действия программы, а потом её запустить). Т.е. действия игрока детерминированы и обсуловлены причинно-следственными связями от предыдущих событий. Восприятие ситуации как парадокса, по-моему, возникает из-за того, что её, во-первых, вырывают из последовательности событий, во-вторых, рассматривают только с точки зрения игрока, тогда как для проверки соответствия физическим законам нужно смотреть с т.з. системы, принимающей решения.
    Плюс пара комментов по статье Юдковского:
    Цитировать
    И я должен сказать, что это всеобщий принцип рациональности (конечно, в том смысле, как я определяю это понятие) — то, что вы никогда в конце концов не обнаружите себя завидующим чужому выбору самому по себе.
    В статье из контекста понятно, но для общего случая надо переформулировать, т.к., например, ретроспективно можно
    Цитировать
    Возможно, слишком легко говорить, что вы «следуете» стратегии «брать оба ящика» в проблеме Ньюкома и что это «разумный» выбор, пока деньги не будут действительно перед вами. Возможно, вы просто нечувствительны к абстрактным проблемам такого рода. А что, если у вашей дочери заболевание, смертельное в 90% случаев, и в ящике А сыворотка, которая вылечит ее с вероятностью в 20%, а ящик Б может содержать лекарство, успешно действующее с шансами в 95%? Что, если к Земле мчится астероид, и ящик А содержит систему защиты, действующую 10% времени, а в ящике Б может быть орудие, которое защищало бы Землю постоянно?

    Будь это так, вы бы заметили, что вас просто соблазняет сделать необоснованный выбор?

    Что, если ставка, которую может принести ящик Б, — это что-то такое, что вы не можете оставить? Что-то безгранично более важное для вас, нежели следовать тому, что выглядит разумным? Если вам совершенно нужно выиграть — действительно выиграть, а не просто определить себя как победителя?
    Oн пытается бороться с неверным мышлениям, накаляя эмоции (т.е. усиливая иррациональность). Это неверно.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Элиезер и парадокс Ньюкома
    « Ответ #67 : 26 Января 2016, 22:19 »
  • (+)0
  • (−)0
  • По-моему, тема такая: Вы не можете изменить тот выбор, кoторый был сделан, но Вы не имеете о нём информации, а т.к. он основывается на просчитывании функции вашего поведения, то в своей модели (где у Вас есть выбор) Вы не только можете, а и будете влиять на результат; а в более общей системе Омеги ваше поведение - лишь заранее просчитанная функция с 1%-ой вероятностью ошибки, а в ещё более общей системе - без вероятности ошибки. Т.е. всё в согласии с законами физики: Омега заранее просчитал и оттолкнулся от этого, потом игрок просто "проигрывает" функцию (так же, как можно заранее просчитать результат действия программы, а потом её запустить). Т.е. действия игрока детерминированы и обсуловлены причинно-следственными связями от предыдущих событий. Восприятие ситуации как парадокса, по-моему, возникает из-за того, что её, во-первых, вырывают из последовательности событий, во-вторых, рассматривают только с точки зрения игрока, тогда как для проверки соответствия физическим законам нужно смотреть с т.з. системы, принимающей решения.
    Угу. Тут две разные системы причинно-следственных связей. Первая -- чисто физическая, которая крутит шестерёнки Вселенной. А вторая -- это система причинно-следственных связей теории принятия решений. Мы не обязаны создавать такую ТПР, которая будет полагаться именно на физические причинно-следственные связи, хуже того мы не можем создать такую ТПР, потому что на момент принятия решений мы, как правило, не имеем всей необходимой информации, для того чтобы нарисовать все релевантные физические причинно-следственные связи. Поэтому мы придумываем такие правила рисования причинно-следственных связей, которые максимизируют эффективность наших решений, а не такие, которые создадут наиболее точную физическую модель. Созданием точной физической модели пуская занимаются физики-теоретики.

    Oн пытается бороться с неверным мышлениям, накаляя эмоции (т.е. усиливая иррациональность). Это неверно.
    Тяжело в учении, легко в бою. :)
    Надо в режиме тренировки поставить себя в ситуацию, когда иррациональный выбор станет казаться правильным, для того, чтобы именно в этой ситуации научиться принимать рациональное решение.
    Это, знаете, как с бросанием курить. Когда я не хочу курить, я могу рационально рассуждать о курении, и произносить умные вещи о том, что надо отказаться от курения и просто не курить. Но когда я хочу курить, мне гораздо-гораздо сложнее мыслить рационально. Мне очень долго это не удавалось вообще.