Бюрократы, Администраторы (Semantic MediaWiki), Кураторы (Semantic MediaWiki), staff, Администраторы
877
правок
Изменения
м
→Теории принятия решений. TDT: ссылки
* Пару слов о себе
* Как используете [[Теорема Байеса|теорему Байеса ]] в жизни, что про неё знаете?
=== Кое-что из обсуждаемого ===
* Встреча [https://t.me/mustreads Мастридера]
* Воркшоп [[Кочерга|Кочерги ]] и сложность применения теоремы Байеса на практике.
* Примерная статистика: 3 не знают, что такое теорема Байеса или узнали совсем недавно, 6 знают, но не применяют, 3 применяют, но только один систематически (организатор встречи)
* Выписали на доске 7 примеров убеждений (пара были не очень политкорректными, мы постеснялись и поставили вопросики).
* Убеждение - кусок модели окружающего мира, который храниться хранится в голове (возникло непонимание в определениях, кто-то понимал под убеждениями штуки, которые считаются фактами, но не имеют обоснования).
* Влад нарисовал график стратегий работы с убеждениями в осях обновляемость и запоминание. В левом вернем углу Боб - не обновляет, но запоминает. Преимущество: делает, а не думает, социальное - уверен в сообществе с такими же убеждениями и модели их поведения. Думает, что точность его убеждений абсолютная. В правом нижнем Элис - не запоминает, но обновляет. Преимущества: адаптация и манипуляции. Точность не имеет значения. Мы хотим оказаться в правом верхнем (или по крайней мере предполагаем, что хотим, и оставляем вопрос почему за рамками данной лекции).
* Проблемы с разделением этических и не этических ценностей, прозвучало понятие терминальных ценностей, хотя не все могут разделять или понимать консеквенциализм, из-за этого было недопонимание.
* Количество вариантов, когда получено свидетельство при условии верной гипотезы делённое на все варианты, когда получено свидетельство (без математического вывода).
== [[Теории принятия решений]]. TDT ==
* Утилоны, ожидаемая полезность и связь с убеждениями.
* Представьте, что вы стоите на крыше высотки и раздумываете прыгать ли. Ваша терминальная ценность - максимизация ожидаемой продолжительности жизни. Ряд упрощений: если вы спрыгнитеспрыгнете, то точно умрёте умрете в течении течение минуты. Если вы не спрыгнете, то точно проживете хотя бы минут 10. Можно ли придумать контекст, в котором прыгать - рационально?
* [https://lesswrong.ru/w/Парадокс_Ньюкома_сожалея_о_своей_рациональности Парадокс Ньюкома].
* Суть проблемы, решаемой с помощью TDT - есть что-то в реальности, что меняется в зависимости от того, как ты обычно принимаешь решения(того, как принимает решения симуляция тебя), но не зависит от твоего конкретного решения в момент t0.* [[Юдковский]]: Выбирайте, как если бы вы контролировали логические выходы внедряемых абстрактных вычислений, включая выходы всех других реализаций и симуляций этих вычислений.* Предположим в момент t0 ты выбираешь из А=(100 утилонов, если симуляция тебя выбирает А, и 1000 утилонов, если симуляция тебя выбирает Б) и Б=(10 утилонов, если симуляция тебя прошлом выбирает А, и 500 утилонов, если симуляция тебя выбирает Б). Если ты байесианец, то ты выбираешь А и радуешься, потому что в каждом из возможных вариантов А больше Б. Ну и конечно ты получаешь 100 утилонов, а не 500, как мог бы получить, если бы всегда выбирал Б и симуляции симуляция была бы абсолютно точной.
* Какие ситуации могут встречать в реальной жизни: 1. Тебя пытается просимулировать другое разумное существо. 2. Есть несколько агентов внутри тебя( или разные состояния тебя во времени, что почти одно и тоже), которые обладают симуляциями друг друга.
* Например, собеседования. Где Б - это вести себя вызывающе и нагло, а А - вести себя спокойно и уважительно. При этом, если собеседующий будет изначально предполагать тебя наглым и вызывающим, то ты получишь только плюс к карме за счёт Б, а если будет думать, что ты выберешь А, то соответственно наоборот. Собеседующий - не идеальная машина для предсказаний. Но собеседующий может тебя предсказывать по сообщениям, по твоему взгляду и внешнему виду. Если ты всегда выбираешь Б и думаешь, что ты всегда выбираешь Б, то вероятность, что Б сработает больше. При этом в момент принятия решения об этом(начинать ли вести себя как Б или нет) ты уже не влияешь на модель собеседующего или по крайней мере часть влияния приходится именно на момент до этого решения.
* Встреча была скорее рассчитана на три часа, чем на два. Поэтому мы сильно задержались, многие люди уходили в процессе.
* Было не очень организованное завершение, многие уже устали, но не понимали, когда уходить, т.к. не было таймингов и человека, кто объявил бы о завершении встречи.
* Во время знакомства все говорили только о том, что знали про теорему Байеса, т.к. все предыдущие говорили так, хотя в конце выясниласьвыяснилось, что у многих была потребность глубже познакомитсяпознакомиться.
== Что было хорошо ==
* Почти всем дали высказаться.
* После встречи даже люди, которые не очень поняли темы, спрашивали про литературу.
* Подробно и с со многих сторон объяснили задачу про болезнь и тесты, её ее многие поняли.
* В дискуссии поднимались интересные вопросы по эпистемологии и метаэтике, что полезно для размышления.