Почему байесовская вероятность важнее других проявлений рациональности?

[kuuff]

В вашем случае может сработать отработка конкретных навыков с временным понижением уровня оппонента.
Фокусировка на отработке конкретных навыков "Атака", "Наращивание сил в точке", "Выигрыш преимущества", "Быстрый размен", "Выделение угроз", "Защита от угроз". Понижение уровня помогает удерживать фокусировку, не отвлекаясь на другие моменты игры.

Чтобы отрабатывать конкретные навыки, надо сначала научиться дифференцировать различные задачи, надо категоризировать задачи, их надо научиться видеть, чтобы о них можно было думать. А для этого, я полагаю, лучшим стилем действий будет наблюдение за чужими рассуждениями.

[LswAgnostic]

чтобы о них можно было думать.

Если затабуизировать слова "думать", "размышлять" и производные, то как тогда эта цель будет формулироваться?

[kuuff]

Если затабуизировать слова "думать", "размышлять" и производные, то как тогда эта цель будет формулироваться?

Эмм... Не знаю. Я не уверен, что здесь возможно затабуировать эти слова.
На другом примере: если я говорю, что для того, чтобы учиться читать, я сначала должен научиться различать буквы, отличать "а" от "б". Можно ли затабуировать слово "читать" и производные от него и сказать то же самое?
Я очень смутно поедставляю, какие вообще специальные навыки могут быть нужны для "атаки" или для "быстрого размена". Я не уверен, что я понимаю, что имеется в виду под словами "выигрыш преимущества". То есть, не то чтоб мне вообще непонятно было бы, о чём именно вы говорили, какой-то смысл я вижу в этом, но, говоря образно, картинка расфокусирована. Вот её надо сфокусировать, навести на резкость.

[LswAgnostic]

На другом примере: если я говорю, что для того, чтобы учиться читать, я сначала должен научиться различать буквы, отличать "а" от "б". Можно ли затабуировать слово "читать" и производные от него и сказать то же самое?

Сформулировать так, как будто это задача для компьютера (для абстрактного вычислительного устройства).
Читать - декодировать последовательность символов-букв в граф высокоуровневых понятийных образов.
Читать - декодировать последовательность символов-букв в последовательность слов.
Декодировать - распознать

Я очень смутно поедставляю, какие вообще специальные навыки могут быть нужны для "атаки" или для "быстрого размена". Я не уверен, что я понимаю, что имеется в виду под словами "выигрыш преимущества". То есть, не то чтоб мне вообще непонятно было бы, о чём именно вы говорили, какой-то смысл я вижу в этом, но, говоря образно, картинка расфокусирована. Вот её надо сфокусировать, навести на резкость.

Начинать удобнее с материального выигрыша, затем переходить к выигрышу позиционному.
Материальный выигрыш - выигрыш пешки, выигрыш фигуры.

Атака - наращивание сил в определенной точке. (Упрощая)Если наших бьет больше, то по итогам размена за нами останется материальный выигрыш.
Быстрый размен - нападение защищенной фигурой на равносильную.

ps
Для эффективного обучения рекомендуется следующий алгоритм.

1. Самостоятельные попытки
2. Формулирование причин-препятствий, мешающих достичь результат
3. Обращение к внешнему опыту, с фокусировкой на поиске способов устранения препятствий, и тестированием корректного выделения причин-препятствий.

[Muyyd]

очему "молчание" предпочтительнее, чем "выглядеть идиотом"?
Почему с точки зрения рационального агента стратегия "отсутствие формирования гипотез о неизведанном" дает большую максимизацию пользы, чем стратегия "формирование самостоятельных гипотез, часть из которых окажется позже ошибочной"?
Как формулируется в данном случае "польза"? Каким способом измеряется?

Когда я писал это, я не столько был рациональным агентом, сколько человеком
И тем не менее, равномерное распределение ожидания (максимальная энтропия, гипотеза невежества, ignorant) предпочтительней "глупой гипотезы" (stupid theory).

[LswAgnostic]

И тем не менее, равномерное распределение ожидания (максимальная энтропия, гипотеза невежества, ignorant) предпочтительней "глупой гипотезы" (stupid theory).

Данный расчет базируется на частичном допущении всемогущества. Допускается что мозг человек имеет бесконечные вычислительные ресурсы. Это не так. Вычислительные ресурса мозга - капля в море, по сравнению с вариантами реальности.

У каждого индивидуума каждую секунду происходит выбор:
- за какой частью реальности наблюдать
- какую часть реальности прогнозировать
- какую часть реальности менять

При отсутствии гипотезы все эти выборы делаются хаотически, не приводя к результату.

ps
Плохой план лучше отсутствия всякого плана.

Добавлено 11 Мая 2016, 10:23:

Когда я писал это, я не столько был рациональным агентом, сколько человеком
И тем не менее, равномерное распределение ожидания (максимальная энтропия, гипотеза невежества, ignorant) предпочтительней "глупой гипотезы" (stupid theory).

Какова твоя функция полезности в этом случае? Какие действия ее максимизируют?

Предположу, что функция полезности - это создание карты в своей голове, максимально приближенной к территории.
Выдвинутая и озвученная гипотеза помогает заполнять карту:
 - гипотезу X опровергли => карта дополнилась утверждением: на территории T нет X
 - гипотезу X поддержали => карта дополнилась утверждением: на территории T есть X

Выдвижение гипотезы помогает устранять слепые пятна.

ps
Карта - набор утверждений: чем территория является?, чем территория не является?.
Белое пятно = неизвестность = неопределенность - знание рациональное агента о том, что карта не совпадает с территорией
Слепое пятно - незнание рационального агента о том, что карта не совпадает с территорией
Вред - необратимое состояние
Вариация - возможный вариант территории/будущего
Лучший - максимально полезный
Лучшее действие в условиях неопределенности/незнания - выполнение действия, минимизирующего вред с учетом всех вариаций;  максимизация пользы в наиболее вероятных вариациях
Гипотеза - упорядочивание вариаций от наиболее вероятных к менее вероятным

[Muyyd]

Согласен, что LessWrong полезен (в некоторой топологии описания реальности).

Меня мучают вопросы: Полезен ли LessWrong максимально? Что можно добавить для продвижения к максимуму?

Думаю, полезней вопрос ставить так: [наиболее полезная идея для достижения задачи Х от лессвронга] в сравнении с [наиболее полезной идеей для решения задачи Х из другой области] помогает решить задачу Х?

Sarah and Abraham laughed when theywere told that Sarah would bear a son, considering that she was 90 years old and he was 100 years old. Did they have good reason to laugh? It is curious that Abraham laughs, since it is God himself who is telling him and God has clearlyrevealed his identityto Abraham. Sarah is not so fortunate. God appears in the form of three strangers who paya visit to Abraham in the desert. One of these strangers reports to him that Sarah will bear a son. Sarah overhears the stranger, whose true identityis not revealed to her. It seems that she has good reason to laugh, since it would indeed be out of the ordinary that she and Abraham would still have a child considering their old age.

Очевидно, что априорные шансы гипотез ребенок и не-ребенок сильно в пользу второй гипотезы. Однако, так же очевидно, что Абрам наблюдал куда более сильное байесовское свидетельство, чем Сара. Так же очевидно, как должны Сара и Абрам сдвинуть свое апостериорное ожидание. Это, разумеется, пример из Bayesian Epistemology, так что он мог быть составлен с подразумеваемым готовым ответом.
Но, если серьезно, что полезней, чем байесовская эпистемология, для решения такого рода вопросов? И, как я вижу, подавляющее большинство вопросов повседневной жизни таковы.

[LswAgnostic]

Но, если серьезно, что полезней, чем байесовская эпистемология, для решения такого рода вопросов? И, как я вижу, подавляющее большинство вопросов повседневной жизни таковы.

Полезнее вопросы:
- как принять решение, которое максимизирует последствия на всех возможных вариантах развития будущего?
- какие действия максимизируют желаемые варианты развитие будущего? какие действия минимизируют нежелательные варианты развития будущего?

ps
Будущее - одно. Принятие решений на основе вероятностей оптимально для задач, которые возникают многократно.

[Muyyd]

Будущее - одно. Принятие решений на основе вероятностей оптимально для задач, которые возникают многократно.

Это если думать в вероятностях, как о частоте. А не как о методе сохранения логической непротиворечивости в условиях неполной информации.

[LswAgnostic]

А не как о методе сохранения логической непротиворечивости в условиях неполной информации.

Почему важна логическая непротиворечивость в условиях неполноты информации?
Почему нельзя отметить "да, в данный момент данные противоречивы из-за неполноты информации" и жить(принимать решения) дальше, исходя из этого?
Почему важнее потратить ресурсы на устранение противоречий в карте, чем на сами задачи?

ps
имхо, не стоит использовать слово "вероятность" для ситуаций, не связанных с частотой. Такое употребление ухудшает коммуникацию между людьми из-за двусмысленности.

[Muyyd]

имхо, не стоит использовать слово "вероятность" для ситуаций, не связанных с частотой. Такое употребление ухудшает коммуникацию между людьми из-за двусмысленности.

Не так то уж легко себя останавливать, если привык думать о вероятностях, как о субъектино-объективных штуках. Но, когда я помню про коммуникацию, стараюсь использовать слово "ожидание".

Почему важна логическая непротиворечивость в условиях неполноты информации?
Почему нельзя отметить "да, в данный момент данные противоречивы из-за неполноты информации" и жить(принимать решения) дальше, исходя из этого?
Почему важнее потратить ресурсы на устранение противоречий в карте, чем на сами задачи?

Потому что в таком случае люди склонны к созданию убеждений вроде:

Фридрих Шпее фон Лангенфельд, духовник присуждённых к смерти ведьм, в 1631 году написал книгу «Cautio Criminalis» («Предосторожность касательно преступлений»), в которой он язвительно описал древо принятия решения о приговоре обвинённой в колдовстве: если ведьма вела злую и грешную жизнь, то это говорило о её вине; если она вела добрую и благочестивую жизнь, то это тоже было доказательством, поскольку ведьмы, скрываясь, пытаются притвориться образцами добродетели. После того, как женщину привели в тюрьму: если она была испугана, то она была виновной; если она не была испугана, то это подтверждало её вину, поскольку ведьмы, стараясь казаться невинными, натягивают храбрую мину. Услышав обвинение в колдовстве, женщина может попытаться спастись бегством: если она убегает, то она виновна; если она остаётся на месте, то её ноги сковал дьявол.

Или

«Я придерживаюсь мнения, что это отсутствие является самым зловещим во всей этой ситуации. Больше чем что-либо ещё, это убеждает меня в том, что будущие саботажи, будущие действия Пятой Колонны будут назначены на определённое время, точно так же, как на определённое время был назначен Перл Харбор… Я считаю, что нам внушают лживое ощущение безопасности.» — Робин Дэйвс, «Rational Choice in an Uncertain World».

Даже больше, если не ограничивать себя правилами - получается чепуха. Посмотрите, как я перестану ограничивать себя правилами построения слов на русском языке:длорвыапдлро ывадлр оывч адлроывап ло рывап дол риаплодрр олдчсваидлр овилдор. Достижение целей, т.е. максимизация функции ожидаемой полезности - цель рациональности по лессвронгу, однако, байесовская эпистемология - средство которое редко подводит.

[LswAgnostic]

Потому что в таком случае люди склонны к созданию убеждений вроде: Или

Потерялся.

Как связано между собой "противоречивость карты" и "отсутствие свидетельств"?

ps
Афаик, "отсутствие свидетельств" часто появляется как следствие выстраивания непротиворечивой карты. Судья из примера сделал свою карту непротиворечивой, достроив ее убеждением "всякая, обвиняемая как ведьма, - виновна, вне зависимости от наблюдаемых фактов".

Если исходная информация неполная, то достроить её до непротиворечивой можно только убеждениями с неизвестной степенью достоверности.

[Muyyd]

Вам не кажется, что, если бы люди, практикующие байесовскую рациональность, выстраивали свои убеждения в соответствии с вашими о байесовской рациональности представлениями, они бы... Даже не знаю. Не смогли бы функционировать?
Это верный сигнал того, что вы не можете посмотреть на мир с моей точки зрения - она кажется вам абсурдной. Что-то вроде того, что "если Бога нет, то все дозволено",

Афаик, "отсутствие свидетельств" часто появляется как следствие выстраивания непротиворечивой карты. Судья из примера сделал свою карту непротиворечивой, достроив ее убеждением "всякая, обвиняемая как ведьма, - виновна, вне зависимости от наблюдаемых фактов".

Про это Юдковский придумал хорошо звучащий пример. Составленные разными людьми пять карт одного города будут с необходимостью содержать меньше противоречий, чем пять случайных карт. Но, нарисовав случайную карту, скопировав ее четыре раза, можно получить пять абсолютно непротиворечивых карт, но бесполезных.

[LswAgnostic]

Сравните два варианта внутренних диалога судьи:
1. Моя карта непротиворечива, на основе неё - данная женщина виновна, и единственный выход - ее смерть. Следуя моей непротиворечивой карте я принимаю решение отправить её на смерть.
2. Моя карта противоречива: часть неё утверждает - что женщина невиновна, другая - женщина виновна и выход - смерть, третья - женщина виновна, но недостаточно для смерти. Мой выбор остановиться на втором варианте и приговорить к смерте.

Какой из этих вариантов приводит к более взвешенным поступкам?

[Kroid]

LswAgnostic, а вы уверены, что можно вот так просто сделать непротиворечивую карту?

Судья из примера сделал свою карту непротиворечивой, достроив ее убеждением "всякая, обвиняемая как ведьма, - виновна, вне зависимости от наблюдаемых фактов".

До первого исключения, когда обвинят в ведьмовстве его дочь. И когда ему взятку дадут. Оглянуться не успеет, как карта обрастет кучей ифов и противоречий.

И почему непротиворечивость карты у вас на первом месте стоит? Как насчет соответствия карты местности?