Сложность гипотез. Бритва Оккама и индукция Соломонова

[Skywrath]

Программа, описывающая Бога, будет намного больше, чем программа, описывающая поведение кварков.

Не знаю, выглядит крайне спекулятивно. Интуитивно, понятно, что Бог может всё записывается в три слова. По какой логике, его программа вдруг оказывается больше, чем у нескольких кварков? Их поведение гораздо более специфичное.

[Muyyd]

Не знаю, выглядит крайне спекулятивно. Интуитивно, понятно, что Бог может всё записывается в три слова. По какой логике, его программа вдруг оказывается больше, чем у нескольких кварков? Их поведение гораздо более специфичное.

Только потому что ваш мозг скрывает от вас сложность этих трех слов: процессы, помогающие нам понять поведение другого разумного агента (единственные разумные агенты, поведение которых нам надо было моделировать в течении дооооолгого времени - другие homo) протекают вне сознательного уровня восприятия. Как вы и сказали - воспринимаются интуитивно. Только потому что в языке есть короткое слово для концепта, не означает, что сам концепт простой . Написав программу, описывающую гипотезу Бога, надо будет описать еще и выходные данные, которые воплощают предсказания этой гипотезы. Или вместо программы, можно попробовать описать Бога пришельцам, которые Бога так и не изобрели.
Представим, что надо описать как катится с горы камень (изменение позиции камня относительно вершины во времени). Вам нужно будет написать процедуру, симулирующую Бога, но это не поможет понять, где конкретно окажется камень - дополнительная процедура лишь увеличит количество кода. Вы обнаружите, однако, что ваш код с необходимостью включает процедуру, возводящую числа в квадрат.
Сравним две программы, какая из них короче? Так индукция Соломонова назначает наивысшую апостериорную вероятность самой короткой программе, которая при этом дала самое точное предсказание.
Надеюсь, вашим следующим вопросом не будет: почему это мы должны следовать именно этой формализации бритвы Оккама, вместо того, чтобы просто считать слова? У меня и так есть подозрение, что вы опрашиваете меня по материалу статьи.

[Kroid]

Программа, описывающая Бога, будет намного больше, чем программа, описывающая поведение нескольких кварков.

Вот в этом не уверен. Формально вы правы, но проблема в другом. Несколько кварков - то, что получилось вследствии некоего события, послужившего возникновению вселенной, Большого Взрыва. Бог - причина этого события (возможно, не непосредственная причина, но самая базовая). Тогда уж нужно сравнивать длину описания Бога и длину описания самой первой причины.
Я не физик, так что сейчас пойдут лишь предположения обывателя. Мы знаем, что большой взрыв послужил точкой отсчета: начало вселенной, начало времени и все такое. Но мы не знаем, что было до него. Ничего не было, а потом "да будет свет" и все появилось? Из ничего не может появиться что-то, значит, есть причина, от которой произошел БВ. А какая тогда причина у этой причины?
В итоге, что "Бог был всегда", что "до большого взрыва ничего не было" - лишь таинственные ответы на таинственные вопросы. А вы предлагаете программку написать. Вы умеете определять количество информации в таинственном ответе?

[Muyyd]

Несколько кварков - то, что получилось вследствии некоего события, послужившего возникновению вселенной, Большого Взрыва. Бог - причина этого события (возможно, не непосредственная причина, но самая базовая).

Это еще один пример нижней строчки. Наше невежество не является свидетельством, как бы не старались креоционисты. Прежде чем сознательно рассматривать гипотезу о

• всемогущей (нашей программе надо описать все возможные  и невозможные (всемогущество, оно такое) взаимодействия в кварками или чем-то более фундаментальным чем волновые функции и чем-то еще, и упомянуть, что Бог это может для всех случаев (суммировав)
• всеблагой (описать совокупность моральных принципов: описать множества ситуаций и правила поведения этого агента там)
• всезнающей (даже не знаю что тут должно быть, возможно в силу того, что мои, редуцируеруемые до кварков мозги  не в силах корректно вообразить и предсказать поведение чего-либо, не редуцируемого до тех же кварков)
• разумной фундаментальной (нередуцируемой) сущности (на этом этапе можно перестать претворяться, что я могу вообразить каким бы был мир, если бы идея редукционизма о многоуровневой карте и одновуровневой территории была бы ложной

   стоит обзавестись свидетельствами равными в объеме сложности этой гипотезы. Я не физик тоже, но прыжок от математически простых в поведении кварков (насколько я знаю, единственная причина по которой мы не используем кварковые модели белков, например - количество кварков и сложность вычислений поведения такого количества объектов) до всемогущей всеблагой всезнающей разумной фундаментальной (нередуцируемой) сущности, просто потому что мы не знаем... Нам стоит признаться, что мы не знаем, дабы распределение априорных был равномерным, однако, в поисках альтернативных гипотез стоит смотреть на физические формулы, а не в худ. литературу.

Байесовская интерпретация индукции Соломонова в данном случае была ответом на стандартное возражение о том, что если гипотеза не может быть фальсифицируема (Бог не отвечает на молитвы - не хочет), то к ней нельзя применить теорему Байеса. Но можно: с ее помощью возможно определить какая из гипотез проще и назначить меньшую вероятность более сложной.

[Kroid]

Концепция Бога, о которой говорит Skywrath лежит "за кварками". То что кварки описать легче ничего не значит. Повторюсь, Muyyd, вы сравниваете несравнимое. Попробуйте эмулировать не поведение кварков, а поведение того, от чего эти кварки образовались. Иначе вы просто прячете сложность.

[Muyyd]

А я говорю о том, что в поисках того, что же лежит за простыми кварками нельзя прыгать к сложному Богу, минуя множество других, более простых гипотез. Даже говорить о Боге слишком рано - происходит контаминация мышления. В комментах Skywrath про закварки ничего не говориться. Вот что там:

Бог, являясь эффективно всемогущим - не создаёт условных вероятностей, так что теорема Байеса эффективно бесполезна и в лучшем случае подтверждает, что Бог не отвечает на ваши молитвы

Теорема Байеса может больше, чем анализировать причинно-следственную связь, описываемую условными вероятностями. Она можете еще и измерять сложность и выявлять (вкупе с машинным обучением - формализацией бритвы Оккама - индукцией Соломонова) ошибочность интуитивного понимания сложности человеческим мозгом, прячущим сложность коноцептов  за простыми словами и своей сложной архитектурой.

[Kroid]

А с этим я полностью согласен.

_{upd я имею ввиду первые два предложения, до того, как вы отредактировали сообщение.}

[Muyyd]

Кто-то кого-то недопонял. Но кто, кого и в чем?

[Skywrath]

Только потому что ваш мозг скрывает от вас сложность этих трех слов.

Проблема в том, что здесь нет ничего сложного. Вы представляете, что перечисление возможных взаимодействий на языке программного кода должно якобы занять много строчек кода, но это не так. В предположении о том, что вы вообще способны описывать кодом программы некие взаимодействия, которое вы должны принимать в подобных размышлениях, вы имеете тривиальное решение. Достаточно просто написать программу, перечисляющую все программы и она предоставит все возможные и невозможные взаимодействия со всем, что можно формализовать, если не представить. Это программа по своей природе будет являться самой короткой, создавшей верное описание. В большинстве случаев. Точно так же, вы можете закодировать любые другие абсолютные свойства, которые можно представить, так как все они тривиальны. Разум, который не является тривиальным свойством, закодирован так быть не сможет, но Бог не обязан быть разумен. Хотя, это и отбросит часть религиозных доктрин. Это похоже на то, как программа перечисляющая бесконечность всех чётных чисел оказывается короче той, которая должна назвать пять специфично выбранных констант, занимающих много места в коде. Все абсолютные категории тривиально структурированы.

[Al1]

Проблема в том, что здесь нет ничего сложного.

Проблема в том, что идея того или иного Б-га как инициатора большого взрыва попросту ничего не объясняет, не предсказывает. В гипотетической программе, описывающей динамику вселенной с самого её возникновения, её можно записать только если ни на что не влияющим комментарием (однако, увеличивающим длину кода). Что-то вроде
%Брахман увидел сон%
%как Шива разрушил очередную вселенную и создал новую%
%в которой некий Яхве внезапно начал носится над бездною. Со временем он обнаружил, что вокруг как-то мрачновато, и провозгласил "Да будет свет!"%
%и случился большой взрыв. (зав каф теологии при МИФИ А.Я.Попов доклад окончил. Передаю слово физикам:%
(А дальше начинается код, реально описывающий начальные условия вселенной, которые в любом случае тут бы шли, с комментарием или без. И по этим данным можно предсказать дальнейшие условия, т.е. начинаются причинно-следственные связи.)

[Skywrath]

Попросту ничего не объясняет, не предсказывает.

Я об этом сразу сказал, но это уже другой аргумент. С точки зрения длины кода, самый простой способ описать всё: просто написать программу, перечисляющую все, что можно описать. Понятно, что код у такого deus.exe окажется гораздо короче, чем у universe.exe действующей в парадигме описания Вселенной, какой она есть. По аналогии, вместо того что бы описывать падение камня по законам физики, вы можете для каждого конкретного случая написать более краткую, тривиальную версию программы, которая просто пишет одно число: камень падает там-то или там-то. Вселенная является, по логике вещей, лишь одной из реализаций описания в номинальном пространстве в котором оперирует deus.exe и в качестве комментария к частной реализации, %Брахма увидел сон% получает ту же ценность, что и %камень падает по законам физики% для каждой программы, которая не решает общую задачу падения. Падает, конечно, но проще записывать число и не морочить всем голову физическими проблемами.

[Muyyd]

Достаточно просто написать программу, перечисляющую все программы и она предоставит все возможные и невозможные взаимодействия со всем, что можно формализовать, если не представить.

Какие выходные данные у этой программы?

[Skywrath]

Какие выходные данные у этой программы?

Выходные: тексты всех возможных программ, она же их перечисляет. Кстати, всё это можно тривиально пересобирать в программу, которая способна дать ответ на любой гипотетический вопрос по номеру этого вопроса и входным данным. Тут работает безумно хитрый трюк с использованием в качестве номера вопроса - полного кода разрешающей вопрос программы.

[Scondo]

По аналогии, вместо того что бы описывать падение камня по законам физики, вы можете для каждого конкретного случая написать более краткую, тривиальную версию программы, которая просто пишет одно число: камень падает там-то или там-то.

На самом деле нет. То есть как только у нас начинает рассматриваться более одного состояния камня (и тем более несколько камней с несколькими состояниями) для увеличения эффективности сжатия информации мы можем использовать функции-предсказания и кодировать ошибки. Достаточно тривиально, что ошибки, содержащие меньше значащих цифр, будут занимать меньше места.
То есть если мы кодируем N-е X_nположение камня как F(X₀, n) то, в зависимости от условий падения мы можем подбирать F: включая туда простую силу тяготения, аэродинамическое сопротивление, гравитационные неравномерности. Каждое дополнение будет увеличивать сложность (и размер) функции, поэтому чтобы коэффициент сжатия рос, необходимо, чтобы это дополнение уменьшало размер ошибки на не меньшую величину.

F = (бог есть) не уменьшает размер ошибки. F = (%описание бога во всех аспектах влияния на вселенную%) настолько большое, что не компенсируется никаким уменьшением ошибки (фактически "бог непознаваем" требует чтобы описание бога было бесконечного размера).

На самом деле это не говорит ничего о существовании Бога, это говорит только о том, что идею о его существовании невозможно (бесполезно) использовать для описания окружающей реальности. Также как вводить релятивистские поправки на падение кирпича с пятиэтажки бесполезно: неравномерность толчка будет вносить большую погрешность и релятивистские поправки не уменьшат размер ошибки.

[vkv]

По аналогии, вместо того что бы описывать падение камня по законам физики, вы можете для каждого конкретного случая написать более краткую, тривиальную версию программы, которая просто пишет одно число: камень падает там-то или там-то.

конечно же нет. у нас есть 10^адцатой камней, которые могут упасть в 10^отой моментов времени, с 10^ой результатами. тогда как правил всего 10^ей, а может и меньше 10.