Главное > Рациональность

Пределы применимости байесовского подхода

<< < (2/7) > >>

Quilfe:
Фрагмент? Там же сама книга существенно про байесовский подход к логике (насколько правдоподобна недоказанная теорема, как «свидетельства» это сдвигают). Фундаментального обоснования такого подхода там вроде нет, но работоспособность понять можно.

mentalgopher:

--- Цитата: Quilfe от 30 Марта 2017, 20:48 ---Фрагмент? Там же сама книга существенно про байесовский подход к логике (насколько правдоподобна недоказанная теорема, как «свидетельства» это сдвигают). Фундаментального обоснования такого подхода там вроде нет, но работоспособность понять можно.

--- Конец цитаты ---

Сама книга, по памяти, про вопросы индукции и эвристики построения исследовательских программ в математике.
Не помню, чтобы она содержала нетривиальный алгоритм получения ответа на вопрос: на какую 1000 цифру после запятой в десятичной записи корня из 2 имеет смысл ставить рациональному агенту? Тот же вопрос для 10**10, 10**(10**10) цифр.

Onery:
Байесовский подход будто бы применим к тому, что мы настолько не знаем, как себя ведет, что считаем случайным. Если представить агентов, обладающих свободой воли, то будет неприменим по определению свободы воли.
Более просто, в задачах теории игр оппонента просчитывать стоит не на основе истории известных его действий, а на основе ваших функций выигрыша на пространстве ситуаций. Или хотя бы не только на основе истории.
Если названное можно счесть ограничением байесовского подхода.

kuuff:

--- Цитата: mentalgopher от 30 Марта 2017, 18:24 ---У меня такое чувство, что мы говорим о разном "байесианстве". Поэтому предлагаю табуировать это слово.
Мой вопрос о пределах применимости будет звучать так:
знаете ли вы ситуации, в которых метод, состоящий из шагов:

* формирования модели возможных миров
* перечисления наблюдаемых свидетельств
* перечисления исследуемых утверждений (=убеждений)
* задания априорной правдоподобности для утверждений (=приоров)
* получения обновлённых свидетельств
* вычисление обновлённых правдоподобностей исследуемых утверждений (=постериоров)
Такой метод работает не с теориями и не с фактами, а с обновлением правдоподобностей.
Разве что последний пример имеет хоть какое-то отношение к методу, но мне непонятно, в чём проблема, если достаточно точно определить "сегодня" и "завтра".
--- Конец цитаты ---
Я не понял, как вы вышвырнули в окно "игнорирование истории познания"? Перечисленные вами шаги как-то гарантируют, что утверждение, за которым числятся успешные предсказания, будет иметь большую правдоподобность, нежели утверждение, которое было выведено ретроспективно и ни разу не проверялось практикой? Если да, то поясните как. Если нет, то стоит ли мне делать вывод, что вы считаете наличие сбывшихся предсказаний свойством, несущественным для правдоподобности утверждения? Или вы как-то иначе видите проблему?


--- Цитата: mentalgopher от 30 Марта 2017, 18:24 ---Опять же, табуируем слово проблема и "пределы применимости".
Я не знаю, как применить байесианский подход для утверждений типа "теорема Х верна", потому что у меня буксует самый первый шаг задания модели возможных миров. Допускаю, что могут быть построены математические метамодели с металогиками, оперирующими аксиоматическими логиками, и таким образом этот вопрос может быть разрешим. (Хотя это моя очень буйная фантазия, никогда не слышал про такое.) Так что у меня остаются 2 вопроса:

* Знает ли кто-то как разрешить предложенную ситуацию с теоремами?
* Знает ли кто-то аналогичные постановки задачи применения байесовского метода, где возникают похожие сложности?
--- Конец цитаты ---
Если мы отвлечёмся от тех вопросов, которые предъявляются к логике, и будем считать её безусловно работоспособной, то это несколько упростит нам жизнь: тогда математические построения перестанут быть чем-то вероятностным. Собственно мы придём к той картинке, которая существует в голове у всех: математика непогрешима -- я рассказываю об этом исключительно ради определённости, чтобы меньше путаницы возникало бы в дальнейшей коммуникации.

И после этого предисловия, основной мой посыл: надо проводить границу между математической теорией и моделью реальности. Это разные вещи: все математические теории лишены главного -- привязки к реальности. Вместо этих привязок в математической модели есть система аксиом.

Вот если мы начинаем применять эту модель к реальности, то мы каким-то образом связываем систему аксиом с реальностью. В процессе мы делаем какие-то допущения (например, что Земля плоская и поэтому на её поверхности работает геометрия Евклида), эти допущения задают некие границы применимости получившейся модели. При этом допущения могут носить и стохастический характер: в случае геометрии это может вылезти в то, что применяя геометрию плоскости к поверхности Земли мы можем не знать в точности рельефа и соответственно ошибка предсказаний сделанных на основании применения геометрии будет случайной величиной.

Тут есть один нюанс: обычно когда мы начинаем скрещивать математическую теорию с реальностью, чтобы получить модель реальности, мы оставляем математическую теорию нетронутой. Мы пользуемся ею в том виде, в котором она существует, а все погрешности и неточности оставляем где-то снаружи от математической теории. Но мы могли бы пойти и другим путём: мы могли бы построить эту математическую теорию заново, используя вместо системы аксиом (каждая из которых считается истинной), систему стохастических допущений, каждое из которых имеет некую достоверность. Попробуйте таким образом натянуть любую математическую теорию на реальность, и вы увидите как в стройные логические построения теорем начнут проникать грязные байесовские достоверности вместо кристаллически чистых истины и лжи.

mentalgopher:

--- Цитата: mentalgopher от 30 Марта 2017, 21:22 ---Не помню, чтобы она содержала нетривиальный алгоритм получения ответа на вопрос: на какую 1000 цифру после запятой в десятичной записи корня из 2 имеет смысл ставить рациональному агенту? Тот же вопрос для 10**10, 10**(10**10) цифр.

--- Конец цитаты ---

Хех, данный вопрос успешно рассматривается эргодической теорией - как ввести меру для описания состояний динамической системы, пусть даже детерминированной. Теперь я знаю кого спрашивать :) Но при чём тут байесианство я понимать перестал.


--- Цитата: Onery от 30 Марта 2017, 22:30 ---
Более просто, в задачах теории игр оппонента просчитывать стоит не на основе истории известных его действий, а на основе ваших функций выигрыша на пространстве ситуаций. Или хотя бы не только на основе истории.

--- Конец цитаты ---

TDT она ж ровно про представление игроков алгоритмами, действие которых предсказуемо в зависимости от вводных данных. В байесианство она вписывается прекрасно, там собственно байесовские сети и строятся.


--- Цитата: kuuff от 30 Марта 2017, 22:42 ---Я не понял, как вы вышвырнули в окно "игнорирование истории познания"? Перечисленные вами шаги как-то гарантируют, что утверждение, за которым числятся успешные предсказания, будет иметь большую правдоподобность, нежели утверждение, которое было выведено ретроспективно и ни разу не проверялось практикой? Если да, то поясните как. Если нет, то стоит ли мне делать вывод, что вы считаете наличие сбывшихся предсказаний свойством, несущественным для правдоподобности утверждения? Или вы как-то иначе видите проблему?
--- Конец цитаты ---

Да, я не понимаю, что значит "утверждение, которое было выведено ретроспективно и ни разу не проверялось практикой" - потому что не вижу, в каком месте формальной модели оно возникает. Раз не вижу, с чистой совестью отсекаю при помощи бритвы оккама.
Да, вопрос правдоподобности рассуждений я не вижу смысла соотносить с эмпирикой - потому что возникает куча философских вопросов, которые бесполезны для получения новых результатов.

В конце концов, я всецело на стороне Давида Юма - с чего это вдруг предполагается, что "в реальности" "существуют" какие-либо "причинные связи"?)

Так что сначала я построю формальную модель, а потом уже буду наблюдать как она ведёт себя на практике.


--- Цитата: kuuff от 30 Марта 2017, 22:42 ---Если мы отвлечёмся от тех вопросов, которые предъявляются к логике, и будем считать её безусловно работоспособной, то это несколько упростит нам жизнь: тогда математические построения перестанут быть чем-то вероятностным. Собственно мы придём к той картинке, которая существует в голове у всех: математика непогрешима -- я рассказываю об этом исключительно ради определённости, чтобы меньше путаницы возникало бы в дальнейшей коммуникации.
--- Конец цитаты ---

Я говорю с простой позиции, что какое отношение математические построения имеют к реальности опыта - непонятно.


--- Цитата: kuuff от 30 Марта 2017, 22:42 ---И после этого предисловия, основной мой посыл: надо проводить границу между математической теорией и моделью реальности. Это разные вещи: все математические теории лишены главного -- привязки к реальности. Вместо этих привязок в математической модели есть система аксиом.

Вот если мы начинаем применять эту модель к реальности, то мы каким-то образом связываем систему аксиом с реальностью. В процессе мы делаем какие-то допущения (например, что Земля плоская и поэтому на её поверхности работает геометрия Евклида), эти допущения задают некие границы применимости получившейся модели. При этом допущения могут носить и стохастический характер: в случае геометрии это может вылезти в то, что применяя геометрию плоскости к поверхности Земли мы можем не знать в точности рельефа и соответственно ошибка предсказаний сделанных на основании применения геометрии будет случайной величиной.

--- Конец цитаты ---
Для меня любая модель реальности в идеале математизируется.
Когда я говорю про границы применимости метода, я имею в виду очень простое обстоятельство - в одних ситуациях метод даёт удовлетворительный результат, в других - нет.

Для меня утверждения типа "ошибка предсказаний сделанных на основании применения геометрии будет случайной величиной" бессмысленны. Потому что случайные величины - это функции заданные на вероятностных пространствах, это часть мат.модели.
Заходы про "у нас есть 'чистая математическая модель', а потом мы делаем какие-то 'допущения' " - вызывают у меня закономерный вопрос - а что сразу мешает построить внятную мат.модель? Если же вы допущениями "допущениями" называете требования к методике физического эксперимента - то это другой вопрос. Но мне непонятно зачем сюда мат.модель приплетать.


--- Цитата: kuuff от 30 Марта 2017, 22:42 ---Тут есть один нюанс: обычно когда мы начинаем скрещивать математическую теорию с реальностью, чтобы получить модель реальности, мы оставляем математическую теорию нетронутой. Мы пользуемся ею в том виде, в котором она существует, а все погрешности и неточности оставляем где-то снаружи от математической теории. Но мы могли бы пойти и другим путём: мы могли бы построить эту математическую теорию заново, используя вместо системы аксиом (каждая из которых считается истинной), систему стохастических допущений, каждое из которых имеет некую достоверность. Попробуйте таким образом натянуть любую математическую теорию на реальность, и вы увидите как в стройные логические построения теорем начнут проникать грязные байесовские достоверности вместо кристаллически чистых истины и лжи.

--- Конец цитаты ---
Мне кажется, что вы романтизируете ситуацию. Если бы было так, как вы описали, я ожидаю,что  существовала бы какая-то особая логика, в которой "математическое ожидание случайной величины на 90% вычислено и существует, а на 10% бесконечно и не существует."
Однако же я подобных примеров не встречал. Готов сапдейтнуться, если вы готовы предъявить такие примеры.

Навигация

[0] Главная страница сообщений

[#] Следующая страница

[*] Предыдущая страница

Перейти к полной версии