264
правки
Изменения
Новая страница: «{{DraftPage}} '''Бритва Оккама''' — эмпирическое правило, гласящее «не следует привлекать лишн…»
{{DraftPage}}
'''Бритва Оккама''' — эмпирическое правило, гласящее «не следует привлекать лишние сущности без необходимости». В контексте [[Байесианство|байесианства]] обычно имеет смысл «если существует несколько гипотез, одинаково хорошо объясняющих наблюдаемые факты, то следует предпочитать ту гипотезу, которая имеет наименьшую внутреннюю сложность».
== Байесианское обоснование принципа ==
Зададим некоторую произвольную трактовку понятия «простоты гипотезы» в таком смысле, что каждой из альтернативных (несовместных) гипотез мы присваиваем численное значение простоты, причем с ограничением, что для любого фиксированного значения простоты может быть только конечное число «не более сложных» гипотез. Упорядочим все гипотезы по убыванию простоты (по возрастанию сложности); для гипотез с одинаковым значением выберем произвольный относительный порядок. Получим последовательность <math>\{ H_n \}</math>. На основе этой последовательности построим последовательность <math>\{ p_n \}</math>, где <math>p_n</math> — вероятность истинности гипотезы <math>H_n</math>. Поскольку гипотезы несовместны, то сумма положительно определенного ряда <math>\sum_{n=1}^{\infin} p_n</math> ограничена единицей, и, следовательно, <math>p_n \to 0</math>. Таким образом, хотя в принципе вероятность более сложной гипотезы может быть больше вероятности более простой, однако при неограниченном росте сложности гипотезы ее вероятность неограниченно убывает; это верно для любого определения «простоты гипотезы».
== См. также ==
* [[Индукция Соломонова]]
== Статьи по теме ==
* [https://lesswrong.ru/w/Бритва_Оккама Бритва Оккама] — одноименное эссе из [[Цепочки|цепочек]] Юдковского
== Ссылки ==
* [https://www.lesswrong.com/tag/occam-s-razor Occam’z Razor] — тег и список статей на lesswrong.com
[[Категория:Байесианство]]
'''Бритва Оккама''' — эмпирическое правило, гласящее «не следует привлекать лишние сущности без необходимости». В контексте [[Байесианство|байесианства]] обычно имеет смысл «если существует несколько гипотез, одинаково хорошо объясняющих наблюдаемые факты, то следует предпочитать ту гипотезу, которая имеет наименьшую внутреннюю сложность».
== Байесианское обоснование принципа ==
Зададим некоторую произвольную трактовку понятия «простоты гипотезы» в таком смысле, что каждой из альтернативных (несовместных) гипотез мы присваиваем численное значение простоты, причем с ограничением, что для любого фиксированного значения простоты может быть только конечное число «не более сложных» гипотез. Упорядочим все гипотезы по убыванию простоты (по возрастанию сложности); для гипотез с одинаковым значением выберем произвольный относительный порядок. Получим последовательность <math>\{ H_n \}</math>. На основе этой последовательности построим последовательность <math>\{ p_n \}</math>, где <math>p_n</math> — вероятность истинности гипотезы <math>H_n</math>. Поскольку гипотезы несовместны, то сумма положительно определенного ряда <math>\sum_{n=1}^{\infin} p_n</math> ограничена единицей, и, следовательно, <math>p_n \to 0</math>. Таким образом, хотя в принципе вероятность более сложной гипотезы может быть больше вероятности более простой, однако при неограниченном росте сложности гипотезы ее вероятность неограниченно убывает; это верно для любого определения «простоты гипотезы».
== См. также ==
* [[Индукция Соломонова]]
== Статьи по теме ==
* [https://lesswrong.ru/w/Бритва_Оккама Бритва Оккама] — одноименное эссе из [[Цепочки|цепочек]] Юдковского
== Ссылки ==
* [https://www.lesswrong.com/tag/occam-s-razor Occam’z Razor] — тег и список статей на lesswrong.com
[[Категория:Байесианство]]
