Главное > Рациональность
Пределы применимости байесовского подхода
kuuff:
--- Цитата: mentalgopher от 31 Марта 2017, 00:56 ---Да, я не понимаю, что значит "утверждение, которое было выведено ретроспективно и ни разу не проверялось практикой" - потому что не вижу, в каком месте формальной модели оно возникает. Раз не вижу, с чистой совестью отсекаю при помощи бритвы оккама.
Да, вопрос правдоподобности рассуждений я не вижу смысла соотносить с эмпирикой - потому что возникает куча философских вопросов, которые бесполезны для получения новых результатов.
--- Конец цитаты ---
Есть чисто практическое следствие: я могу взять N случайных чисел и написать для них интерполяционный многочлен, который будет предсказывать все эти числа. Но предсказательная сила этого многочлена будет равна нулю. Точнее она будет ничем не лучше чем случайное угадывание.
--- Цитата: mentalgopher от 31 Марта 2017, 00:56 ---В конце концов, я всецело на стороне Давида Юма - с чего это вдруг предполагается, что "в реальности" "существуют" какие-либо "причинные связи"?)
--- Конец цитаты ---
Какая разница, что там существует в реальности? Мы сейчас обсуждаем карту, а карта без причинно-следственных связей... У вас есть такая?
--- Цитата: mentalgopher от 31 Марта 2017, 00:56 ---Я говорю с простой позиции, что какое отношение математические построения имеют к реальности опыта - непонятно.
Для меня любая модель реальности в идеале математизируется.
Когда я говорю про границы применимости метода, я имею в виду очень простое обстоятельство - в одних ситуациях метод даёт удовлетворительный результат, в других - нет.
--- Конец цитаты ---
ППКС
--- Цитата: mentalgopher от 31 Марта 2017, 00:56 ---Для меня утверждения типа "ошибка предсказаний сделанных на основании применения геометрии будет случайной величиной" бессмысленны. Потому что случайные величины - это функции заданные на вероятностных пространствах, это часть мат.модели.
--- Конец цитаты ---
Бывают ошибки постоянные и предсказуемые: если мы приближаем сферу плоскостью, то ошибка будет жёстко зависеть от координат точки. Если же мы приближаем непойми что плоскостью, то для того, чтобы учитывать ошибку, нам придётся задавать эту ошибку случайной величиной, которая не определяется как функция жёстко детерминированная своими аргументами.
--- Цитата: mentalgopher от 31 Марта 2017, 00:56 ---Заходы про "у нас есть 'чистая математическая модель', а потом мы делаем какие-то 'допущения' " - вызывают у меня закономерный вопрос - а что сразу мешает построить внятную мат.модель?
--- Конец цитаты ---
Не, я ещё раз подчеркну, не надо путать матмодель и математическую теорию. Это разные вещи. Математическая теория оторвана от практики. Надо сделать допущения и привязать эту теорию к практике, вот тогда она станет моделью.
--- Цитата: mentalgopher от 31 Марта 2017, 00:56 ---Если же вы допущениями "допущениями" называете требования к методике физического эксперимента - то это другой вопрос. Но мне непонятно зачем сюда мат.модель приплетать.
--- Конец цитаты ---
Нет, я имею в виду то, что математическая теория -- это всегда идеализация, причём как правло довольно жёсткая идеализация. И как эту идеализацию применить к каждому конкретному случаю -- это вопрос который решает уже не математик, а инженер, который использует математику прикладным образом.
--- Цитата: mentalgopher от 31 Марта 2017, 00:56 ---Мне кажется, что вы романтизируете ситуацию. Если бы было так, как вы описали, я ожидаю,что существовала бы какая-то особая логика, в которой "математическое ожидание случайной величины на 90% вычислено и существует, а на 10% бесконечно и не существует."
Однако же я подобных примеров не встречал. Готов сапдейтнуться, если вы готовы предъявить такие примеры.
--- Конец цитаты ---
Я не понял что это за логика такая особая. Но я уверен, что никто особо не занимался строить геометрию евклида заново на байесовской логике, чтобы заложить прямо в геометрию все те допущения, которые приходится делать, применяя эту геометрию на практике. Такое бы резко усложнило геометрию, и сделало бы её уже -- в смысле заточило бы её на более узкий класс ситуаций. И я не думаю, что от этого вырастет точность, потому что человечество давно придумало другой способ использования идеализированных математических теорий: можно сделать допущения, что теория применима, провести все вычисления, а потом отдельно оценить те ошибки, которые оказались в результатах. Иногда эти ошибки расчитывают параллельно с результатом, и вот тогда ситуация начинает чем-то напоминать ту байесианскую модель, которую можно было бы построить, способом предложенным мной.
mentalgopher:
--- Цитата: kuuff от 31 Марта 2017, 09:37 ---Есть чисто практическое следствие: я могу взять N случайных чисел и написать для них интерполяционный многочлен, который будет предсказывать все эти числа. Но предсказательная сила этого многочлена будет равна нулю. Точнее она будет ничем не лучше чем случайное угадывание.
--- Конец цитаты ---
В рамках мат.модели это называется проблемой переобучения - были N чисел и мы их преобразовали в N коэффициентов интерполяционного многочлена. По сути дела нашли способ запомнить исходные числа в преобразованном виде. Решается разбиением выборки на однородные части, где обучение(=построение модели) происходит по одним данным, а проверка предсказательной силы - по другим.
Почему "игнорирование истории познания" является хоть сколько-то проблемой, я всё ещё не понял.
--- Цитата: kuuff от 31 Марта 2017, 09:37 ---Какая разница, что там существует в реальности? Мы сейчас обсуждаем карту, а карта без причинно-следственных связей... У вас есть такая?
--- Конец цитаты ---
Переформулирую - я не вижу как в мат.модели, оперирующей правдоподобностью утверждений, возникают причинно-следственные связи.
Потому что если возникают - то на каком из 6ти шагов?
--- Цитата: kuuff от 31 Марта 2017, 09:37 ---Бывают ошибки постоянные и предсказуемые: если мы приближаем сферу плоскостью, то ошибка будет жёстко зависеть от координат точки. Если же мы приближаем непойми что плоскостью, то для того, чтобы учитывать ошибку, нам придётся задавать эту ошибку случайной величиной, которая не определяется как функция жёстко детерминированная своими аргументами.
--- Конец цитаты ---
Ну, сначала неплохо бы определить "непойми что" как пространственную фигуру (или другой формализованный математический объект). Иначе ваше утверждение звучит как заявление вида "существует сложная физическая реальность, которая не описывается грубыми математическими формулами".
--- Цитата: kuuff от 31 Марта 2017, 09:37 ---Не, я ещё раз подчеркну, не надо путать матмодель и математическую теорию. Это разные вещи. Математическая теория оторвана от практики. Надо сделать допущения и привязать эту теорию к практике, вот тогда она станет моделью.
Нет, я имею в виду то, что математическая теория -- это всегда идеализация, причём как правло довольно жёсткая идеализация. И как эту идеализацию применить к каждому конкретному случаю -- это вопрос который решает уже не математик, а инженер, который использует математику прикладным образом.
--- Конец цитаты ---
Тогда я не понял, из какой предметной области вы взяли слово "допущение".
Когда я занимаюсь рассчётом многофазных потоков - там есть "физическая модель", которая задаёт перечисление физических сущностей и важных для моделирования физ.эффектов.
--- Цитата: kuuff от 31 Марта 2017, 09:37 ---Я не понял что это за логика такая особая. Но я уверен, что никто особо не занимался строить геометрию евклида заново на байесовской логике, чтобы заложить прямо в геометрию все те допущения, которые приходится делать, применяя эту геометрию на практике. Такое бы резко усложнило геометрию, и сделало бы её уже -- в смысле заточило бы её на более узкий класс ситуаций. И я не думаю, что от этого вырастет точность, потому что человечество давно придумало другой способ использования идеализированных математических теорий: можно сделать допущения, что теория применима, провести все вычисления, а потом отдельно оценить те ошибки, которые оказались в результатах. Иногда эти ошибки расчитывают параллельно с результатом, и вот тогда ситуация начинает чем-то напоминать ту байесианскую модель, которую можно было бы построить, способом предложенным мной.
--- Конец цитаты ---
Мне всё ещё непонятно, какого рода "допущения" вы готовы заложить в геометрию.
Есть семантика Крипке возможных миров. В ней можно задать модель, в которой в процессе измерений агент может находиться в одном из 3 плоских миров - с Евклидовой геометрий, со сферической геометрией и с гиперболической геометрией. И в процессе измерений у агента есть вероятности нахождения в каждой версии мира по данным его наблюдений.
Но при этом непонятно зачем городить огород, если обычно можно сделать вычисления в 3ёх вариантах и выбрать подходящий.
Разве что большой расчёт от начала до конца не целесообразен, и модель возможных миров будет предлагать следующее действие для улучшения какого-нибудь показателя. Но это уже будет не геометрия :)
Насчёт "новых логик" я скептически отношусь к предложениям "перезаложить основы". Лет 100 назад активно обсуждалась особая "квантовая логика", и где она? Тот квантмех, что излагался мне, был вполне на аристотелевской логике, правда объекты были нестандартные.
Onery:
--- Цитата: mentalgopher от 31 Марта 2017, 00:56 ---TDT она ж ровно про представление игроков алгоритмами, действие которых предсказуемо в зависимости от вводных данных. В байесианство она вписывается прекрасно, там собственно байесовские сети и строятся.
--- Конец цитаты ---
Я про теорию игр в известном мне контексте, TDT назвали Вы, а не я.
Восхитительный пример получился. То есть чтобы байеса сюда применить, нужно а) не рассматривать игрока (оппонента) как описываемую систему б) рассматривать как систему полный набор игроков, ситуаций и функции выигрыша в) придумать, что игрок должен действовать по алгоритму, придумать алгоритмы, которые мы будем уже оценивать.
То есть все замечания относительно того, что рациональность - еще не наука, с примером, тепленькие.
Мне напомнить в деталях, что результаты теории игр, самые первые же, этим не покрываются?
Skywrath:
--- Цитата: mentalgopher ---Значит ли это, что я буду получать результаты отличные от тех, кто доверяет логике?
--- Конец цитаты ---
Здесь, имеется в виду, что пределы применимости законов логики - определяют и пределы применимости всего, что на них основано. Если некоторая сфера познания лежит вне законов логики, то байесовские методы - оказываются бесполезными или даже непреминимыми.
--- Цитата: mentalgopher ---Мне непонятно, в чём проблема, если достаточно точно определить сегодня и завтра.
--- Конец цитаты ---
Проблема в том, что множество исследуемых утверждений, возможно построить таким образом, что интуитивно абсурдные утверждения становятся правдоподобными. При этом, не факт, что интуиция видит все абсурдные утверждения. То есть, в специфичной ситуации - эффективность метода оказывается нулевой. В целом, вполне ожидаемо, что если метод разбить, как вы это сделали на шаги, то на них придётся накладывать дополнительные условия корректности и не всегда очевидно, какие именно это условия. В зависимости от их нарушений, возникают те или иные проблемы. Данная проблема, например, возникает, когда на третьем шаге был сформирован набор убеждений в котором остальные шаги не смогут разобраться. На других шагах могут быть иные сложности. Это - несколько формальный комплекс возражений, но на него достаточно просто указать.
Quilfe:
Я не хочу вникать во всю дискуссию выше, но вы, кажется, используете слово «правдоподобие» как некий размытый синоним вероятности утверждения. Но внутри байесовского фрейма это слово имеет другое значение — вероятность наблюдения данных свидетельств при той или иной гипотезе, f(H) = P(E_0 | H). Лучше, чтобы избегать путаницы, говорить о качественной вероятности «уверенность», скажем.
В докладе mihaild об основаниях Джейнсовского теорвера то же самое, кстати, но там вроде из контекста всё ясно.
Навигация
Перейти к полной версии