Форум LessWrong.ru
Главное => Общение => Тема начата: little nasty от 29 Сентября 2017, 11:03
-
Хай всем.
Вот типа учу эту вашу рациональность по Юдковскому, пытаюсь понять
Вопрос по теории принятия решений - нафига нужна вневременная теория Юдковского, чем она круче и как ей вообще пользоваться.
lesswrong.ru/w/Парадокс_Ньюкома_сожалея_о_своей_рациональности (https://lesswrong.ru/w/Парадокс_Ньюкома_сожалея_о_своей_рациональности)
Там про причинников
Я сейчас не буду глубоко погружаться в литературу, но замечу, что преобладающее мнение в современной теории принятия решений гласит, что следует выбрать оба ящика, а Омега просто вознаграждает агентов с нерациональными установками. Эта доминирующая точка зрения берет свое начало из причинной теории принятия решений
Я говорю это потому, что общепринятая позиция гласит: «Словесные аргументы в пользу того, чтобы брать один ящик, отыскать легко, но трудно разработать хорошую теорию, которая этого требует».
Про конкретного причинника Джеймса Джойса
- Если его прогон не стёб, то это сильное свидетельство в пользу того, что он долбоёб
Топовые методы рационального убеждения:
- капс, капс курсивом, жирный капс
- Верите ли вы или нет, но это так.
Толстый троллинг Юдковским причинников
и т.п.
Я не знаю, как там думают большинство причинников, но с моей т.з. то, что Омега предсказывает какого-то чела, не нарушает принципа причинности.
Если смотреть со стороны Омеги:
- Есть реальный мир, который Омега напрямую воспринимать не может. Омега строит модель, и выделяет предсказываемого чела. Потом он эмулирует этого чела у ся в сандбоксе и получает некоторый вывод (причём не обязательно просто "чел выберет Б" (это минимум), он может, по идее, предсказывать все возбуждения-торможения нейронов в коре головного мозга (или вообще во всей ЦНС) чела). Проэмулировал чела, положил (или не положил) лям и утёк.
Если смотреть со стороны того предсказываемого чела:
- Есть реальный мир, который предсказываемый чел напрямую воспринимать не может. Он строит модель, выделяет там себя. Детерминистически предсказать себя на детальном уровне он не может, поэтому у него возникает иллюзия свободы воли. Потом он думает, нейроны возбуждаются-тормозятся и т.п., и говорит некий ответ, в данном случае Б.
Так вот, у чела была иллюзия выбора и свободы воли, в то же время, так как он всё же представляет собой детерминистический конечный автомат (и он, и комната, где ящики выбирал, и всё остальное), то все его действия были заранее предопределены и выводимы, но неизвестны ему. Таким образом, если спросить, какова вероятность, что конкретно этот чел ответил бы "Б", то она будет зависеть от наших знаний: если знаний у нас 0, то байесианская 1:1, т.е. 50%. Если же мы смотрим с позиции Омеги, то вероятность 100%* или около 100% (указана в условии). Если же мы смотрим с позиции демона Лапласа, то у нас всегда будут твёрдые 100%*. Причём проблемы самореференции могут быть у демона Лапласа, расположенного в той же вселенной, которую предсказывает и у предсказываемого чела, но не у Омеги, т.к. омежьи действия на чела (до его выбора) никак не влияют.
* ну понятно, что эпсилон и всё такое, вроде уверенности в своей системы, но эти практические замечания не важны вообще.
В результате, как буду мыслить я:
- Точность предсказания Омеги составляет 100% или около 100%, на него стоит положиться. Я ещё не знаю свой финальный выбор, но Омега уже знает. Значит, каким бы ни был мой выбор, модель меня в сандбоксе Омеги уже прошла все метания и как-то ответила, и правильность её ответа зависит только от похожести на меня, т.е. точности модели. Но т.к. у меня этой информации нет, у меня есть иллюзия свободы выбора (впрочем, если бы информация появилась до выбора, ситуация бы нарушилась из-за самореференции (т.к. модель предсказывала тот мир, где ей не говорят о предыдущем предсказании)). В то же время я могу просмотреть соответствие принципу причинности и проверить правильность своих рассуждений: нарушения принципа причинности нет (модель-то была до меня (возможно, это была даже копия, и возможно, он её уже ̶у̶б̶и̶л̶ отключил - подлец, подонок, садист... потом допла́чу)), значит ошибок такого рода тоже нет. Действуя в своих интересах и полагаясь на модель Омеги, я выбираю Б.
Причина, по которой запарывалось большинство причинников (в изложении Юдковского, а это не то же самое, что на самом деле), мне кажется простой: у этих ебанатов не укладывалось в голове, что кто-то может их взять ̶ж̶ё̶с̶т̶к̶о̶ ̶и̶ ̶б̶о̶л̶ь̶н̶о̶ и предсказать.
Но Юдковский пошёл дальше и запилил свою теорию, хотя мог примкнуть к меньшинству причинников (которые считают иначе).
Он, как я понимаю, топит за то, что надо проводить стрелку из будущего в прошлое и таким образом разрешать этот самый парадокс Ньюкома. Что, типа, чел своим выбором решает, положит Омега лям или нет (но это ложь,̶ ̶п̶и̶з̶д̶ё̶ж̶,̶ ̶п̶р̶о̶в̶о̶к̶а̶ц̶и̶я̶ - на самом деле решает модель; вспоминается на эту тему рассказ Деннета, где чел был поселён в одно тело с собственной копией, причём он был только наблюдателем, но он не замечал этого, пока они не рассинхронизировались).
Но, в некотором смысле, стрелки назад и так проводят: по ТПР возможны стрелки вперёд, назад, хрен знает куда и т.п. (например, в попытках предсказания в шпионских играх: он знает, что мы знаем, что он знает, что мы украли секретную инфу. Но что мы это знаем, он не знает. Или успешно делает вид). А потом по принципу причинности проверяем.
Если это согласуется с причиннизмом, то большинство причинников неправо, меньшинство право, и непонятно, что же Юдковский открыл.
Если нет, тогда с причинной моделью всё плохо: парадокс Ньюкома - крайний случай саморефенции, но сама по себе самореференция встречается постоянно за счёт попытки предсказаний действий друг друга.
И непонятно, есть ли в модели Юдковского проверка потом на принцип причинности. Если нет - это огромная течь, и как юзать на практике непонятно.
Поможете-разъясните, кто там прав, кто виноват, как что юзать и какая я дрянь?
-
https://www.youtube.com/watch?v=FYvBliz9JE4
-
Чувак, твой сленг тяжело читать :)
По мне, так это все можно воспринимать проще.
Жил был Чел. Всю жизнь он жил по определенной схеме и считал, что он весь из себя такой логичный. Потом пришел Омега и начал типа жульничать - обходить правила, которым следовал Чел. Чел негодует и пытается защитить свои правила, обвиняя Омегу и остальных во всех грехах.
В покере это называется "тильт" - игрок допускает все больше ошибок, чтобы защитить свои прошлые ошибочные решения, не замечая, что летит прямиком в ад.
Так вот, не будь как Чел. Разуй глаза и посмотри на реальность. Хрен знает, как Омега проворачивает свой трюк. Может, он гребаный пророк. Может, откатывает время. А может, у него чемодан с секретом, который аннигилирует кучу баксов, если ты сделаешь неправильный выбор. Нужно правильно расставлять приоритеты: вначале забрать миллион, а потом философствовать над своими убеждениями. Или, если ты дохрена миллиардер - получить десять тыщ и понтоваться перед всеми своим несгибаемым характером и твердыми убеждениями.
-
Хрен знает, как Омега проворачивает свой трюк.
Строго говоря, не хрен знает, если хочешь рискнуть миллионом ради того, чтобы попытаться обмануть Омегу и взять 1 010 000.
Хотя матожидание прибыли в этом случае резво скакнёт вниз, так что если в целях получить больше денег одному конкретному тебе, то нужно действительно брать чемодан и не философствовать :)
-
Он, как я понимаю, топит за то, что надо проводить стрелку из будущего в прошлое и таким образом разрешать этот самый парадокс Ньюкома.
Неправильно понимаете. Там в причинную диаграмму добавляется абстрактное вычисление, которое вообще не привязано ни к какому моменту времени.