Сложность гипотез. Бритва Оккама и индукция Соломонова

Автор Тема: Сложность гипотез. Бритва Оккама и индукция Соломонова  (Прочитано 18554 раз)

TrofMan

  • Новичок
  • *
  • Сообщений: 1
  • +2/-0
    • Просмотр профиля
TLDR. Гипотеза "Бог может всё" действительно простая (в естественном языке, по крайней мере), но ничего не предсказывает. Поэтому при получении конкретных свидетельств она сразу проигрывает любой гипотезе, делающей более-менее конкретные успешные предсказания.

Рассмотрим три гипотезы, предсказывающие падение камней. Закодируем их на русском языке в кодировке Windows 1251 (по байту на символ).
1. Бог может всё (13 Б).
2. Бог может всё, и он заставляет камень падать по уравнению h(t)=h0+v0*t-g*t^2/2 (78 Б).
3. Камень падает по уравнению h(t)=h0+v0*t-g*t^2/2 (47 Б).

Первая гипотеза простая, третья сложнее, вторая ещё сложнее. Назначаем им априорные вероятности соответственно (256^-13, 256^-78, 256^-47). Нормировать не будем, всё равно нас интересует только соотношение вероятностей.

Первая гипотеза присваивает равные вероятности всем исходам. Количество этих исходов, вообще, несчётно, но мы сделаем скидку на неточность и ограниченность восприятия. Например, возьмём пространство исходов, покрытое равномерной сеткой: положение камня с точностью 1 см в боксе в один кубометр, воспринимаемое с периодом 0.1 с в течение 1 с. Итого 100^3*10 = 10^7 исходов, вероятность 10^-7 у каждого.

Вторая и третья гипотезы дают одинаковые детерминированные предсказания, они присваивают единичную вероятность исходу, вычисляемому по уравнению h(t)=h0+v0*t-g*t^2/2.

Сто раз кидаем камни в вышеуказанном боксе, наблюдаем. По каждому из этих свидетельств правдоподобие первой гипотезы 10^-7, правдоподобие второй и третьей гипотезы 1. Т. е. каждое из ста свидетельств ослабляет первую гипотезу на ln(10^7)/ln(256) = 2.9 Б.

После учёта и сложности, и предсказательной способности, получаем следующее:
1) 13+2.9*100 = 303 Б
2) 78 Б
3) 47 Б

Итого, апостериорная вероятность третьей гипотезы в 256^(303-47)=2^2048 раз выше по сравнению с первой гипотезой, и в 256^(78-47)=2^248 раз выше по сравнению со второй.