ТПР

Автор Тема: ТПР  (Прочитано 3298 раз)

little nasty

  • Новичок
  • *
  • Сообщений: 5
  • +2/-4
    • Просмотр профиля
ТПР
« : 29 Сентябрь 2017, 11:03 »
  • (+)2
  • (−)1
  • Хай всем.
    Вот типа учу эту вашу рациональность по Юдковскому, пытаюсь понять
    Вопрос по теории принятия решений - нафига нужна вневременная теория Юдковского, чем она круче и как ей вообще пользоваться.
      lesswrong.ru/w/Парадокс_Ньюкома_сожалея_о_своей_рациональности
      Там про причинников
      Цитировать
      Я сейчас не буду глубоко погружаться в литературу, но замечу, что преобладающее мнение в современной теории принятия решений гласит, что следует выбрать оба ящика, а Омега просто вознаграждает агентов с нерациональными установками. Эта доминирующая точка зрения берет свое начало из причинной теории принятия решений
      Цитировать
      Я говорю это потому, что общепринятая позиция гласит: «Словесные аргументы в пользу того, чтобы брать один ящик, отыскать легко, но трудно разработать хорошую теорию, которая этого требует».
      Про конкретного причинника Джеймса Джойса
      • Если его прогон не стёб, то это сильное свидетельство в пользу того, что он долбоёб

      Топовые методы рационального убеждения:
      • капс, капс курсивом, жирный капс
      • Верите ли вы или нет, но это так.

      Толстый троллинг Юдковским причинников
      и т.п.


      Я не знаю, как там думают большинство причинников, но с моей т.з. то, что Омега предсказывает какого-то чела, не нарушает принципа причинности.
      Если смотреть со стороны Омеги:
      • Есть реальный мир, который Омега напрямую воспринимать не может. Омега строит модель, и выделяет предсказываемого чела. Потом он эмулирует этого чела у ся в сандбоксе и получает некоторый вывод (причём не обязательно просто "чел выберет Б" (это минимум), он может, по идее, предсказывать все возбуждения-торможения нейронов в коре головного мозга (или вообще во всей ЦНС) чела). Проэмулировал чела, положил (или не положил) лям и утёк.

      Если смотреть со стороны того предсказываемого чела:
      • Есть реальный мир, который предсказываемый чел напрямую воспринимать не может. Он строит модель, выделяет там себя. Детерминистически предсказать себя на детальном уровне он не может, поэтому у него возникает иллюзия свободы воли. Потом он думает, нейроны возбуждаются-тормозятся и т.п., и говорит некий ответ, в данном случае Б.

      Так вот, у чела была иллюзия выбора и свободы воли, в то же время, так как он всё же представляет собой детерминистический конечный автомат (и он, и комната, где ящики выбирал, и всё остальное), то все его действия были заранее предопределены и выводимы, но неизвестны ему. Таким образом, если спросить, какова вероятность, что конкретно этот чел ответил бы "Б", то она будет зависеть от наших знаний: если знаний у нас 0, то байесианская 1:1, т.е. 50%. Если же мы смотрим с позиции Омеги, то вероятность 100%* или около 100% (указана в условии). Если же мы смотрим с позиции демона Лапласа, то у нас всегда будут твёрдые 100%*. Причём проблемы самореференции могут быть у демона Лапласа, расположенного в той же вселенной, которую предсказывает и у предсказываемого чела, но не у Омеги, т.к. омежьи действия на чела (до его выбора) никак не влияют.

      * ну понятно, что эпсилон и всё такое, вроде уверенности в своей системы, но эти практические замечания не важны вообще.

      В результате, как буду мыслить я:
      • Точность предсказания Омеги составляет 100% или около 100%, на него стоит положиться. Я ещё не знаю свой финальный выбор, но Омега уже знает. Значит, каким бы ни был мой выбор, модель меня в сандбоксе Омеги уже прошла все метания и как-то ответила, и правильность её ответа зависит только от похожести на меня, т.е. точности модели. Но т.к. у меня этой информации нет, у меня есть иллюзия свободы выбора (впрочем, если бы информация появилась до выбора, ситуация бы нарушилась из-за самореференции (т.к. модель предсказывала тот мир, где ей не говорят о предыдущем предсказании)). В то же время я могу просмотреть соответствие принципу причинности и проверить правильность своих рассуждений: нарушения принципа причинности нет (модель-то была до меня (возможно, это была даже копия, и возможно, он её уже  ̶у̶б̶и̶л̶ отключил - подлец, подонок, садист... потом допла́чу)), значит ошибок такого рода тоже нет. Действуя в своих интересах и полагаясь на модель Омеги, я выбираю Б.
      Причина, по которой запарывалось большинство причинников (в изложении Юдковского, а это не то же самое, что на самом деле), мне кажется простой: у этих ебанатов не укладывалось в голове, что кто-то может их взять  ̶ж̶ё̶с̶т̶к̶о̶ ̶и̶ ̶б̶о̶л̶ь̶н̶о̶ и предсказать.

      Но Юдковский пошёл дальше и запилил свою теорию, хотя мог примкнуть к меньшинству причинников (которые считают иначе).

      Он, как я понимаю, топит за то, что надо проводить стрелку из будущего в прошлое и таким образом разрешать этот самый парадокс Ньюкома. Что, типа, чел своим выбором решает, положит Омега лям или нет (но это ложь,̶ ̶п̶и̶з̶д̶ё̶ж̶,̶ ̶п̶р̶о̶в̶о̶к̶а̶ц̶и̶я̶ - на самом деле решает модель; вспоминается на эту тему рассказ Деннета, где чел был поселён в одно тело с собственной копией, причём он был только наблюдателем, но он не замечал этого, пока они не рассинхронизировались).
      Но, в некотором смысле, стрелки назад и так проводят: по ТПР возможны стрелки вперёд, назад, хрен знает куда и т.п. (например, в попытках предсказания в шпионских играх: он знает, что мы знаем, что он знает, что мы украли секретную инфу. Но что мы это знаем, он не знает. Или успешно делает вид). А потом по принципу причинности проверяем.
      Если это согласуется с причиннизмом, то большинство причинников неправо, меньшинство право, и непонятно, что же Юдковский открыл.
      Если нет, тогда с причинной моделью всё плохо: парадокс Ньюкома - крайний случай саморефенции, но сама по себе самореференция встречается постоянно за счёт попытки предсказаний действий друг друга.

      И непонятно, есть ли в модели Юдковского проверка потом на принцип причинности. Если нет - это огромная течь, и как юзать на практике непонятно.

      Поможете-разъясните, кто там прав, кто виноват, как что юзать и какая я дрянь?

      Quilfe

      • Ветеран
      • ****
      • Сообщений: 282
      • +51/-7
        • Просмотр профиля
      Re: ТПР
      « Ответ #1 : 30 Сентябрь 2017, 12:28 »
    • (+)0
    • (−)0

    • Kroid

      • Ветеран
      • ****
      • Сообщений: 779
      • +62/-7
        • Просмотр профиля
      Re: ТПР
      « Ответ #2 : 02 Октябрь 2017, 00:38 »
    • (+)1
    • (−)1
    • Чувак, твой сленг тяжело читать :)

      По мне, так это все можно воспринимать проще.

      Жил был Чел. Всю жизнь он жил по определенной схеме и считал, что он весь из себя такой логичный. Потом пришел Омега и начал типа жульничать - обходить правила, которым следовал Чел. Чел негодует и пытается защитить свои правила, обвиняя Омегу и остальных во всех грехах.

      В покере это называется "тильт" - игрок допускает все больше ошибок, чтобы защитить свои прошлые ошибочные решения, не замечая, что летит прямиком в ад.

      Так вот, не будь как Чел. Разуй глаза и посмотри на реальность. Хрен знает, как Омега проворачивает свой трюк. Может, он гребаный пророк. Может, откатывает время. А может, у него чемодан с секретом, который аннигилирует кучу баксов, если ты сделаешь неправильный выбор. Нужно правильно расставлять приоритеты: вначале забрать миллион, а потом философствовать над своими убеждениями. Или, если ты дохрена миллиардер - получить десять тыщ и понтоваться перед всеми своим несгибаемым характером и твердыми убеждениями.

      TKOTS

      • Новичок
      • *
      • Сообщений: 4
      • +0/-1
        • Просмотр профиля
      Re: ТПР
      « Ответ #3 : 02 Октябрь 2017, 08:49 »
    • (+)0
    • (−)1
    • Цитировать
      Хрен знает, как Омега проворачивает свой трюк.
      Строго говоря, не хрен знает, если хочешь рискнуть миллионом ради того, чтобы попытаться обмануть Омегу и взять 1 010 000.
      Хотя матожидание прибыли в этом случае резво скакнёт вниз, так что если в целях получить больше денег одному конкретному тебе, то нужно действительно брать чемодан и не философствовать :)

      mihaild

      • Пользователь
      • **
      • Сообщений: 22
      • +5/-0
        • Просмотр профиля
      Re: ТПР
      « Ответ #4 : 02 Октябрь 2017, 15:10 »
    • (+)0
    • (−)0
    • Он, как я понимаю, топит за то, что надо проводить стрелку из будущего в прошлое и таким образом разрешать этот самый парадокс Ньюкома.
      Неправильно понимаете. Там в причинную диаграмму добавляется абстрактное вычисление, которое вообще не привязано ни к какому моменту времени.