Встреча/Санкт-Петербург/2019-11-30 - История изменений

Alaric: /* Теории принятия решений. TDT */ ссылки

2019-12-02T15:43:32Z

‎Теории принятия решений. TDT: ссылки

Alaric: /* Вопросы для знакомства */ пара ссылок

2019-12-02T15:41:41Z

‎Вопросы для знакомства: пара ссылок

5.16.122.253: /* Что было хорошо */

2019-12-01T22:30:47Z

‎Что было хорошо

5.16.122.253: /* Что пошло не так */

2019-12-01T22:29:57Z

‎Что пошло не так

5.16.122.253: /* Теории принятия решений. TDT */

2019-12-01T22:25:46Z

‎Теории принятия решений. TDT

5.16.122.253: /* Что такое убеждения в целом. Какие функции, откуда берутся. */

2019-12-01T22:21:48Z

‎Что такое убеждения в целом. Какие функции, откуда берутся.

78.107.205.177 в 05:55, 1 декабря 2019

2019-12-01T05:55:50Z

IgorImmortality: Новая страница: «{{Встреча |Дата=2019/11/30 13:00:00 |Город=Санкт-Петербург |Место=[https://vk.com/italyanskaya16 Пространство Ит…»

2019-11-30T18:06:23Z

Новая страница: «{{Встреча |Дата=2019/11/30 13:00:00 |Город=Санкт-Петербург |Место=[https://vk.com/italyanskaya16 Пространство Ит…»

Новая страница

{{Встреча
|Дата=2019/11/30 13:00:00
|Город=Санкт-Петербург
|Место=[https://vk.com/italyanskaya16 Пространство Итальянская 16]
|Адрес=Метро Гостиный двор, ул. Итальянская, д. 16/19
|Формат=Академические встречи
}}
{{DISPLAYTITLE:Интуитивное введение в теорему Байеса 30 ноября 2019 года}}

Мы немного поговорили о наших убеждениях и о том, как они меняются. Обсудили, как и зачем можно измерять веру, и выяснили, как принимать оптимальные решения даже в условиях, когда не понимаешь, что происходит. Также в конце поговорили про [https://wiki.lesswrong.com/wiki/Timeless_decision_theory Timeless decision theory] и её применение к реальной жизни.

Организатор: Влад

Дополняющие лекторы: Игорь Тимофеев, Миша

== Attention! ==
Желающие провести встречу или частично поучаствовать в её организации(сделать доклад, практику, позвать в бар играть в настолки или в антикафе попить пива в компании, предложить место и время, помодерировать, просто придумать тему активности) - воспользуйтесь, пожалуйста, нашей [https://docs.google.com/spreadsheets/d/1NFsD1XbfJoUT3woO7RNPutNeCogijH7MTQnPVhJ8GTw/edit#gid=0 формой для будущих встреч Lesswrong]. Также можно написать в личные сообщения нашей [https://vk.com/lwspb_meetups группы ВКонтакте] или в [https://t.me/joinchat/CbRJy1FCdfmoOCOXBOgV2A телеграм чат для Питерских встреч]. Всё будет просмотрено и принято на вооружение.

== Программа встречи ==

# Знакомство. Без тайминга(как и вся встреча - экспериментальный формат).
# Что такое убеждения в целом. Какие функции, откуда берутся.
# Моделирование реальности, убеждения должны окупаться.
# Конкретные задачи.
# Общая запись теоремы.
# Теории принятия решений. TDT.
# Научный метод (не успели).

== Вопросы для знакомства ==

* Пару слов о себе
* Как используете теорему Байеса в жизни, что про неё знаете?

=== Кое-что из обсуждаемого ===
* Встреча [https://t.me/mustreads Мастридера]
* Воркшоп Кочерги и сложность применения теоремы Байеса на практике.
* Примерная статистика: 3 не знают, что такое теорема Байеса или узнали совсем недавно, 6 знают, но не применяют, 3 применяют, но только один систематически (организатор встречи)

== Что такое убеждения в целом. Какие функции, откуда берутся. ==

* Выписали на доске 7 примеров убеждений (пара были не очень политкорректными, мы постеснялись и поставили вопросики).
* Убеждение - кусок модели окружающего мира, который храниться в голове (возникло непонимание в определениях, кто-то понимал под убеждениями штуки, которые считаются фактами, но не имеют обоснования).
* Влад нарисовал график стратегий работы с убеждениями в осях обновляемость и запоминание. В левом вернем углу Боб - не обновляет, но запоминает. Преимущество: делает, а не думает, социальное - уверен в сообществе с такими же убеждениями и модели их поведения. Думает, что точность его убеждений абсолютная. В правом нижнем Элис - не запоминает, но обновляет. Преимущества: адаптация и манипуляции. Точность не имеет значения. Мы хотим оказаться в правом верхнем (или по крайней мере предполагаем, что хотим, и оставляем вопрос почему за рамками данной лекции).
* Проблемы с разделением этических и не этических ценностей, прозвучало понятие терминальных ценностей, хотя не все могут разделять или понимать консеквенциализм, из-за этого было недопонимание.

== Моделирование реальности, убеждения должны окупаться. ==
* Предположим, мы хотим, чтобы убеждения были близки к реальности и максимально точны.
* Байесианство - пытаемся предсказывать будущие события(комментарий из зала: не то же самое, что соответствие реальности - не понятно почему? Решили не обсуждать).
* Снова путаница с этическими вопросами, как можно измерить красоту или доброту? Какие границы применимости байесианства?
* Различное понимание слова "реальность" (или не понимание вообще).
* Всё ещё непонятно откуда берём числа, но вроде стало понятно, что лучше иметь хоть какие-то числа, хотя были комментарии, что интуиция лучше.

== Конкретные задачи. ==
* Известная задача про положительный тест на болезнь и вероятность действительно быть больным.
* Объяснение с разных сторон: через таблицу, через формулы.

== Общая запись теоремы. ==
* Количество вариантов, когда получено свидетельство при условии верной гипотезы делённое на все варианты, когда получено свидетельство (без математического вывода).

== Теории принятия решений. TDT ==
* Утилоны, ожидаемая полезность и связь с убеждениями.
* Представьте, что вы стоите на крыше высотки и раздумываете прыгать ли. Ваша терминальная ценность - максимизация ожидаемой продолжительности жизни. Ряд упрощений: если вы спрыгните, то точно умрёте в течении минуты. Если вы не спрыгнете, то точно проживете хотя бы минут 10. Можно ли придумать контекст, в котором прыгать - рационально?
* [https://lesswrong.ru/w/Парадокс_Ньюкома_сожалея_о_своей_рациональности Парадокс Ньюкома].
* Суть TDT - есть что-то в реальности, что меняется в зависимости от того, как ты обычно принимаешь решения(того, как принимает решения симуляция тебя), но не зависит от твоего конкретного решения в момент t0.
* Юдковский: Выбирайте, как если бы вы контролировали логические выходы внедряемых абстрактных вычислений, включая выходы всех других реализаций и симуляций этих вычислений.
* Предположим в момент t0 ты выбираешь из А=(100 утилонов, если симуляция тебя выбирает А, и 1000 утилонов, если симуляция тебя выбирает Б) и Б=(10 утилонов, если симуляция тебя прошлом выбирает А, и 500 утилонов, если симуляция тебя выбирает Б). Если ты байесианец, то ты выбираешь А и радуешься, потому что в каждом из возможных вариантов А больше Б. Ну и конечно ты получаешь 100 утилонов, а не 500, как мог бы получить, если бы всегда выбирал Б и симуляции была бы абсолютно точной.
* Какие ситуации могут встречать в реальной жизни: 1. Тебя пытается просимулировать другое разумное существо. 2. Есть несколько агентов внутри тебя( или разные состояния тебя во времени, что почти одно и тоже), которые обладают симуляциями друг друга.
* Например, собеседования. Где Б - это вести себя вызывающе и нагло, а А - вести себя спокойно и уважительно. При этом, если собеседующий будет изначально предполагать тебя наглым и вызывающим, то ты получишь только плюс к карме за счёт Б, а если будет думать, что ты выберешь А, то соответственно наоборот. Собеседующий - не идеальная машина для предсказаний. Но собеседующий может тебя предсказывать по сообщениям, по твоему взгляду и внешнему виду. Если ты всегда выбираешь Б и думаешь, что ты всегда выбираешь Б, то вероятность, что Б сработает больше. При этом в момент принятия решения об этом(начинать ли вести себя как Б или нет) ты уже не влияешь на модель собеседующего или по крайней мере часть влияния приходится именно на момент до этого решения.
* С кейсом про суицид: если раньше ты дал себе обещание убить себя, если сделаешь штуку, которая может также убить тебя, но медленнее. При этом это обещание себе дает тебе сильно меньшую вероятность сделать эту штуку, но только, если ты по TDT. Моделируя себя, как байесианца, ты с большей вероятностью проиграешь.
* Есть множество других кейсов более приближенных к реальной жизни, чем история с Омегой, например, классическая дилемма заключенного и т.п.
* Влад был не согласен с многими тезисами Игоря по поводу TDT, но обсудить их не успели.

== Что пошло не так ==
* Появляются ветки в другие стороны, когда обоснуем, зачем нам нужно байесианство - но ветки остаются незакрытыми, у народа складывается ощущение общего непонимания происходящего.
* Множество непонятных для новичков идей: разделение этики и убеждений о реальности, убеждения должны окупаться, что рациональность и байесианство это не всегда про то, чтобы игнорировать интуицию (этот момент вроде бы обсудили).
* Встреча была скорее рассчитана на три часа, чем на два. Поэтому мы сильно задержались, многие люди уходили в процессе.
* Было не очень организованное завершение, многие уже устали, но не понимали, когда уходить, т.к. не было таймингов и человека, кто объявил бы о завершении встречи.
* Во время знакомства все говорили только о том, что знали про теорему Байеса, т.к. все предыдущие говорили так, хотя в конце выяснилась, что у многих была потребность глубже познакомится.

== Что было хорошо ==
* Почти всем дали высказаться.
* После встречи даже люди, которые не очень поняли темы, спрашивали про литературу.
* Подробно и с многих сторон объяснили задачу про болезнь и тесты, её многие поняли.
* В дискуссии поднимались интересные вопросы по эпистемологии и метаэтике, что полезно для размышления.

@@ Строка 58: / Строка 58: @@
 * Количество вариантов, когда получено свидетельство при условии верной гипотезы делённое на все варианты, когда получено свидетельство (без математического вывода).
-== Теории принятия решений. TDT ==
+== [[Теории принятия решений]]. TDT ==
 * Утилоны, ожидаемая полезность и связь с убеждениями.
 * Представьте, что вы стоите на крыше высотки и раздумываете прыгать ли. Ваша терминальная ценность - максимизация ожидаемой продолжительности жизни. Ряд упрощений: если вы спрыгнете, то точно умрете в течение минуты. Если вы не спрыгнете, то точно проживете хотя бы минут 10. Можно ли придумать контекст, в котором прыгать - рационально?
 * [https://lesswrong.ru/w/Парадокс_Ньюкома_сожалея_о_своей_рациональности Парадокс Ньюкома].
 * Суть проблемы, решаемой с помощью TDT - есть что-то в реальности, что меняется в зависимости от того, как ты обычно принимаешь решения(того, как принимает решения симуляция тебя), но не зависит от твоего конкретного решения в момент t0.
-* Юдковский: Выбирайте, как если бы вы контролировали логические выходы внедряемых абстрактных вычислений, включая выходы всех других реализаций и симуляций этих вычислений.
+* [[Юдковский]]: Выбирайте, как если бы вы контролировали логические выходы внедряемых абстрактных вычислений, включая выходы всех других реализаций и симуляций этих вычислений.
 * Предположим в момент t0 ты выбираешь из А=(100 утилонов, если симуляция тебя выбирает А, и 1000 утилонов, если симуляция тебя выбирает Б) и Б=(10 утилонов, если симуляция тебя прошлом выбирает А, и 500 утилонов, если симуляция тебя выбирает Б). Если ты байесианец, то ты выбираешь А и радуешься, потому что в каждом из возможных вариантов А больше Б. Ну и конечно ты получаешь 100 утилонов, а не 500, как мог бы получить, если бы всегда выбирал Б и симуляция была бы абсолютно точной.
 * Какие ситуации могут встречать в реальной жизни: 1. Тебя пытается просимулировать другое разумное существо. 2. Есть несколько агентов внутри тебя( или разные состояния тебя во времени, что почти одно и тоже), которые обладают симуляциями друг друга.

@@ Строка 30: / Строка 30: @@
 * Пару слов о себе
-* Как используете теорему Байеса в жизни, что про неё знаете?
+* Как используете [[Теорема Байеса|теорему Байеса]] в жизни, что про неё знаете?
 === Кое-что из обсуждаемого ===
 * Встреча [https://t.me/mustreads Мастридера]
-* Воркшоп Кочерги и сложность применения теоремы Байеса на практике.
+* Воркшоп [[Кочерга|Кочерги]] и сложность применения теоремы Байеса на практике.
 * Примерная статистика: 3 не знают, что такое теорема Байеса или узнали совсем недавно, 6 знают, но не применяют, 3 применяют, но только один систематически (организатор встречи)

@@ Строка 81: / Строка 81: @@
 * Почти всем дали высказаться.
 * После встречи даже люди, которые не очень поняли темы, спрашивали про литературу.
-* Подробно и с многих сторон объяснили задачу про болезнь и тесты, её многие поняли.
+* Подробно и со многих сторон объяснили задачу про болезнь и тесты, ее многие поняли.
 * В дискуссии поднимались интересные вопросы по эпистемологии и метаэтике, что полезно для размышления.

@@ Строка 76: / Строка 76: @@
 * Встреча была скорее рассчитана на три часа, чем на два. Поэтому мы сильно задержались, многие люди уходили в процессе.
 * Было не очень организованное завершение, многие уже устали, но не понимали, когда уходить, т.к. не было таймингов и человека, кто объявил бы о завершении встречи.
-* Во время знакомства все говорили только о том, что знали про теорему Байеса, т.к. все предыдущие говорили так, хотя в конце выяснилась, что у многих была потребность глубже познакомится.
+* Во время знакомства все говорили только о том, что знали про теорему Байеса, т.к. все предыдущие говорили так, хотя в конце выяснилось, что у многих была потребность глубже познакомиться.
 == Что было хорошо ==

@@ Строка 40: / Строка 40: @@
 * Выписали на доске 7 примеров убеждений (пара были не очень политкорректными, мы постеснялись и поставили вопросики).
-* Убеждение - кусок модели окружающего мира, который храниться в голове (возникло непонимание в определениях, кто-то понимал под убеждениями штуки, которые считаются фактами, но не имеют обоснования).
+* Убеждение - кусок модели окружающего мира, который хранится в голове (возникло непонимание в определениях, кто-то понимал под убеждениями штуки, которые считаются фактами, но не имеют обоснования).
 * Влад нарисовал график стратегий работы с убеждениями в осях обновляемость и запоминание. В левом вернем углу Боб - не обновляет, но запоминает. Преимущество: делает, а не думает, социальное - уверен в сообществе с такими же убеждениями и модели их поведения. Думает, что точность его убеждений абсолютная. В правом нижнем Элис - не запоминает, но обновляет. Преимущества: адаптация и манипуляции. Точность не имеет значения. Мы хотим оказаться в правом верхнем (или по крайней мере предполагаем, что хотим, и оставляем вопрос почему за рамками данной лекции).
 * Проблемы с разделением этических и не этических ценностей, прозвучало понятие терминальных ценностей, хотя не все могут разделять или понимать консеквенциализм, из-за этого было недопонимание.

@@ Строка 62: / Строка 62: @@
 * Представьте, что вы стоите на крыше высотки и раздумываете прыгать ли. Ваша терминальная ценность - максимизация ожидаемой продолжительности жизни. Ряд упрощений: если вы спрыгните, то точно умрёте в течении минуты. Если вы не спрыгнете, то точно проживете хотя бы минут 10. Можно ли придумать контекст, в котором прыгать - рационально?
 * [https://lesswrong.ru/w/Парадокс_Ньюкома_сожалея_о_своей_рациональности Парадокс Ньюкома].
-* Суть TDT - есть что-то в реальности, что меняется в зависимости от того, как ты обычно принимаешь решения(того, как принимает решения симуляция тебя), но не зависит от твоего конкретного решения в момент t0.
+* Суть проблемы, решаемой с помощью TDT - есть что-то в реальности, что меняется в зависимости от того, как ты обычно принимаешь решения(того, как принимает решения симуляция тебя), но не зависит от твоего конкретного решения в момент t0.
 * Юдковский: Выбирайте, как если бы вы контролировали логические выходы внедряемых абстрактных вычислений, включая выходы всех других реализаций и симуляций этих вычислений.
 * Предположим в момент t0 ты выбираешь из А=(100 утилонов, если симуляция тебя выбирает А, и 1000 утилонов, если симуляция тебя выбирает Б) и Б=(10 утилонов, если симуляция тебя прошлом выбирает А, и 500 утилонов, если симуляция тебя выбирает Б). Если ты байесианец, то ты выбираешь А и радуешься, потому что в каждом из возможных вариантов А больше Б. Ну и конечно ты получаешь 100 утилонов, а не 500, как мог бы получить, если бы всегда выбирал Б и симуляции была бы абсолютно точной.