Сложность гипотез. Бритва Оккама и индукция Соломонова

Автор Тема: Сложность гипотез. Бритва Оккама и индукция Соломонова  (Прочитано 18555 раз)

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитировать
Программа, описывающая Бога, будет намного больше, чем программа, описывающая поведение кварков.
Не знаю, выглядит крайне спекулятивно. Интуитивно, понятно, что Бог может всё записывается в три слова. По какой логике, его программа вдруг оказывается больше, чем у нескольких кварков? :D Их поведение гораздо более специфичное.

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Не знаю, выглядит крайне спекулятивно. Интуитивно, понятно, что Бог может всё записывается в три слова. По какой логике, его программа вдруг оказывается больше, чем у нескольких кварков? :D Их поведение гораздо более специфичное.
Только потому что ваш мозг скрывает от вас сложность этих трех слов: процессы, помогающие нам понять поведение другого разумного агента (единственные разумные агенты, поведение которых нам надо было моделировать в течении дооооолгого времени - другие homo) протекают вне сознательного уровня восприятия. Как вы и сказали - воспринимаются интуитивно. Только потому что в языке есть короткое слово для концепта, не означает, что сам концепт простой . Написав программу, описывающую гипотезу Бога, надо будет описать еще и выходные данные, которые воплощают предсказания этой гипотезы. Или вместо программы, можно попробовать описать Бога пришельцам, которые Бога так и не изобрели.
Представим, что надо описать как катится с горы камень (изменение позиции камня относительно вершины во времени). Вам нужно будет написать процедуру, симулирующую Бога, но это не поможет понять, где конкретно окажется камень - дополнительная процедура лишь увеличит количество кода. Вы обнаружите, однако, что ваш код с необходимостью включает процедуру, возводящую числа в квадрат.
Сравним две программы, какая из них короче? Так индукция Соломонова назначает наивысшую апостериорную вероятность самой короткой программе, которая при этом дала самое точное предсказание.
Надеюсь, вашим следующим вопросом не будет: почему это мы должны следовать именно этой формализации бритвы Оккама, вместо того, чтобы просто считать слова? У меня и так есть подозрение, что вы опрашиваете меня по материалу статьи.
« Последнее редактирование: 06 Декабря 2015, 17:27 от Muyyd »

Kroid

  • Ветеран
  • ****
  • Сообщений: 779
  • +62/-7
    • Просмотр профиля
Цитировать
Программа, описывающая Бога, будет намного больше, чем программа, описывающая поведение нескольких кварков.
Вот в этом не уверен. Формально вы правы, но проблема в другом. Несколько кварков - то, что получилось вследствии некоего события, послужившего возникновению вселенной, Большого Взрыва. Бог - причина этого события (возможно, не непосредственная причина, но самая базовая). Тогда уж нужно сравнивать длину описания Бога и длину описания самой первой причины.
Я не физик, так что сейчас пойдут лишь предположения обывателя. Мы знаем, что большой взрыв послужил точкой отсчета: начало вселенной, начало времени и все такое. Но мы не знаем, что было до него. Ничего не было, а потом "да будет свет" и все появилось? Из ничего не может появиться что-то, значит, есть причина, от которой произошел БВ. А какая тогда причина у этой причины?
В итоге, что "Бог был всегда", что "до большого взрыва ничего не было" - лишь таинственные ответы на таинственные вопросы. А вы предлагаете программку написать. Вы умеете определять количество информации в таинственном ответе? :)

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Несколько кварков - то, что получилось вследствии некоего события, послужившего возникновению вселенной, Большого Взрыва. Бог - причина этого события (возможно, не непосредственная причина, но самая базовая).
Это еще один пример нижней строчки. Наше невежество не является свидетельством, как бы не старались креоционисты. Прежде чем сознательно рассматривать гипотезу о

  • всемогущей (нашей программе надо описать все возможные  и невозможные (всемогущество, оно такое) взаимодействия в кварками или чем-то более фундаментальным чем волновые функции и чем-то еще, и упомянуть, что Бог это может для всех случаев (суммировав)
  • всеблагой (описать совокупность моральных принципов: описать множества ситуаций и правила поведения этого агента там)
  • всезнающей (даже не знаю что тут должно быть, возможно в силу того, что мои, редуцируеруемые до кварков мозги  не в силах корректно вообразить и предсказать поведение чего-либо, не редуцируемого до тех же кварков)
  • разумной фундаментальной (нередуцируемой) сущности (на этом этапе можно перестать претворяться, что я могу вообразить каким бы был мир, если бы идея редукционизма о многоуровневой карте и одновуровневой территории была бы ложной
   стоит обзавестись свидетельствами равными в объеме сложности этой гипотезы. Я не физик тоже, но прыжок от математически простых в поведении кварков (насколько я знаю, единственная причина по которой мы не используем кварковые модели белков, например - количество кварков и сложность вычислений поведения такого количества объектов) до всемогущей всеблагой всезнающей разумной фундаментальной (нередуцируемой) сущности, просто потому что мы не знаем... Нам стоит признаться, что мы не знаем, дабы распределение априорных был равномерным, однако, в поисках альтернативных гипотез стоит смотреть на физические формулы, а не в худ. литературу.

Байесовская интерпретация индукции Соломонова в данном случае была ответом на стандартное возражение о том, что если гипотеза не может быть фальсифицируема (Бог не отвечает на молитвы - не хочет), то к ней нельзя применить теорему Байеса. Но можно: с ее помощью возможно определить какая из гипотез проще и назначить меньшую вероятность более сложной.
« Последнее редактирование: 06 Декабря 2015, 20:34 от Muyyd »

Kroid

  • Ветеран
  • ****
  • Сообщений: 779
  • +62/-7
    • Просмотр профиля
Концепция Бога, о которой говорит Skywrath лежит "за кварками". То что кварки описать легче ничего не значит. Повторюсь, Muyyd, вы сравниваете несравнимое. Попробуйте эмулировать не поведение кварков, а поведение того, от чего эти кварки образовались. Иначе вы просто прячете сложность.

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
А я говорю о том, что в поисках того, что же лежит за простыми кварками нельзя прыгать к сложному Богу, минуя множество других, более простых гипотез. Даже говорить о Боге слишком рано - происходит контаминация мышления. В комментах Skywrath про закварки ничего не говориться. Вот что там:
Бог, являясь эффективно всемогущим - не создаёт условных вероятностей, так что теорема Байеса эффективно бесполезна и в лучшем случае подтверждает, что Бог не отвечает на ваши молитвы
Теорема Байеса может больше, чем анализировать причинно-следственную связь, описываемую условными вероятностями. Она можете еще и измерять сложность и выявлять (вкупе с машинным обучением - формализацией бритвы Оккама - индукцией Соломонова) ошибочность интуитивного понимания сложности человеческим мозгом, прячущим сложность коноцептов  за простыми словами и своей сложной архитектурой.

Kroid

  • Ветеран
  • ****
  • Сообщений: 779
  • +62/-7
    • Просмотр профиля
А с этим я полностью согласен.

upd я имею ввиду первые два предложения, до того, как вы отредактировали сообщение.

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Кто-то кого-то недопонял. Но кто, кого и в чем? :)

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: Muyyd
Только потому что ваш мозг скрывает от вас сложность этих трех слов.
Проблема в том, что здесь нет ничего сложного. Вы представляете, что перечисление возможных взаимодействий на языке программного кода должно якобы занять много строчек кода, но это не так. В предположении о том, что вы вообще способны описывать кодом программы некие взаимодействия, которое вы должны принимать в подобных размышлениях, вы имеете тривиальное решение. Достаточно просто написать программу, перечисляющую все программы и она предоставит все возможные и невозможные взаимодействия со всем, что можно формализовать, если не представить. Это программа по своей природе будет являться самой короткой, создавшей верное описание. В большинстве случаев. Точно так же, вы можете закодировать любые другие абсолютные свойства, которые можно представить, так как все они тривиальны. Разум, который не является тривиальным свойством, закодирован так быть не сможет, но Бог не обязан быть разумен. Хотя, это и отбросит часть религиозных доктрин. Это похоже на то, как программа перечисляющая бесконечность всех чётных чисел оказывается короче той, которая должна назвать пять специфично выбранных констант, занимающих много места в коде. Все абсолютные категории тривиально структурированы.

Al1

  • Постоялец
  • ***
  • Сообщений: 213
  • +74/-11
    • Просмотр профиля
Проблема в том, что здесь нет ничего сложного.
Проблема в том, что идея того или иного Б-га как инициатора большого взрыва попросту ничего не объясняет, не предсказывает. В гипотетической программе, описывающей динамику вселенной с самого её возникновения, её можно записать только если ни на что не влияющим комментарием (однако, увеличивающим длину кода). Что-то вроде
%Брахман увидел сон%
%как Шива разрушил очередную вселенную и создал новую%
%в которой некий Яхве внезапно начал носится над бездною. Со временем он обнаружил, что вокруг как-то мрачновато, и провозгласил "Да будет свет!"%
%и случился большой взрыв. (зав каф теологии при МИФИ А.Я.Попов доклад окончил. Передаю слово физикам:%
(А дальше начинается код, реально описывающий начальные условия вселенной, которые в любом случае тут бы шли, с комментарием или без. И по этим данным можно предсказать дальнейшие условия, т.е. начинаются причинно-следственные связи.)

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: Al1
Попросту ничего не объясняет, не предсказывает.
Я об этом сразу сказал, но это уже другой аргумент. С точки зрения длины кода, самый простой способ описать всё: просто написать программу, перечисляющую все, что можно описать. Понятно, что код у такого deus.exe окажется гораздо короче, чем у universe.exe действующей в парадигме описания Вселенной, какой она есть. По аналогии, вместо того что бы описывать падение камня по законам физики, вы можете для каждого конкретного случая написать более краткую, тривиальную версию программы, которая просто пишет одно число: камень падает там-то или там-то. Вселенная является, по логике вещей, лишь одной из реализаций описания в номинальном пространстве в котором оперирует deus.exe и в качестве комментария к частной реализации, %Брахма увидел сон% получает ту же ценность, что и %камень падает по законам физики% для каждой программы, которая не решает общую задачу падения. Падает, конечно, но проще записывать число и не морочить всем голову физическими проблемами.

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Достаточно просто написать программу, перечисляющую все программы и она предоставит все возможные и невозможные взаимодействия со всем, что можно формализовать, если не представить.
Какие выходные данные у этой программы?

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитировать
Какие выходные данные у этой программы?
Выходные: тексты всех возможных программ, она же их перечисляет. :D Кстати, всё это можно тривиально пересобирать в программу, которая способна дать ответ на любой гипотетический вопрос по номеру этого вопроса и входным данным. Тут работает безумно хитрый трюк с использованием в качестве номера вопроса - полного кода разрешающей вопрос программы.

Scondo

  • Ветеран
  • ****
  • Сообщений: 321
  • +35/-4
    • Просмотр профиля
По аналогии, вместо того что бы описывать падение камня по законам физики, вы можете для каждого конкретного случая написать более краткую, тривиальную версию программы, которая просто пишет одно число: камень падает там-то или там-то.
На самом деле нет. То есть как только у нас начинает рассматриваться более одного состояния камня (и тем более несколько камней с несколькими состояниями) для увеличения эффективности сжатия информации мы можем использовать функции-предсказания и кодировать ошибки. Достаточно тривиально, что ошибки, содержащие меньше значащих цифр, будут занимать меньше места.
То есть если мы кодируем N-е Xnположение камня как F(X0, n) то, в зависимости от условий падения мы можем подбирать F: включая туда простую силу тяготения, аэродинамическое сопротивление, гравитационные неравномерности. Каждое дополнение будет увеличивать сложность (и размер) функции, поэтому чтобы коэффициент сжатия рос, необходимо, чтобы это дополнение уменьшало размер ошибки на не меньшую величину.

F = (бог есть) не уменьшает размер ошибки. F = (%описание бога во всех аспектах влияния на вселенную%) настолько большое, что не компенсируется никаким уменьшением ошибки (фактически "бог непознаваем" требует чтобы описание бога было бесконечного размера).

На самом деле это не говорит ничего о существовании Бога, это говорит только о том, что идею о его существовании невозможно (бесполезно) использовать для описания окружающей реальности. Также как вводить релятивистские поправки на падение кирпича с пятиэтажки бесполезно: неравномерность толчка будет вносить большую погрешность и релятивистские поправки не уменьшат размер ошибки.

vkv

  • Ветеран
  • ****
  • Сообщений: 704
  • +27/-17
    • Просмотр профиля
По аналогии, вместо того что бы описывать падение камня по законам физики, вы можете для каждого конкретного случая написать более краткую, тривиальную версию программы, которая просто пишет одно число: камень падает там-то или там-то.
конечно же нет. у нас есть 10^адцатой камней, которые могут упасть в 10^отой моментов времени, с 10^ой результатами. тогда как правил всего 10^ей, а может и меньше 10.

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
На самом деле это не говорит ничего о существовании Бога, это говорит только о том, что идею о его существовании невозможно (бесполезно) использовать для описания окружающей реальности. Также как вводить релятивистские поправки на падение кирпича с пятиэтажки бесполезно: неравномерность толчка будет вносить большую погрешность и релятивистские поправки не уменьшат размер ошибки.
Я забыл упомянуть, что байесовская интерпретация индукции Соломонова является формализацией бритвы Оккама. Так что она говорит нам, что гипотеза с участием Бога является более сложной и нет ничего, что оправдывало бы такую сложность. Некоторые называют в шутку индукцию Соломонова - световым мечом Соломонова (Solomonoff's lightsaber).

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: vkv
Конечно же нет.
Речь идёт о варианте, когда вас интересует только один камень из существующих. Разумеется, когда вам интересны все камни более эффективной становится общая программа. Но подобный аргумент работает и для Вселенной. Ведь когда вас интересует всё, что можно представить, окажется проще перечислить все возможные программы, чем и без того огромные программы хранить в явном виде. Просто по ряду причин, нас не интересуют проблемы настолько общего плана. Почему не интересуют? На этот вопрос отвечают более сильные аргументы, чем реализации Бритвы Оккама. В ней не определяется, что именно вы объясняете.

Цитата: Scondo
Идею о существовании Бога бесполезно использовать для описания окружающей реальности.
Любую идею о существовании бесполезно использовать для описания окружающей реальности. Ничего, из того, что вы можете рассчитать не рассчитывается точнее, когда вы говорите, что данный объект существует. Это ненужная, с инструментальных позиций, гипотеза. %Вселенная существует% окажется точно таким же комментарием в программе, как и %Брахман увидел сон%. Цифры не изменятся от того, что вы скажите, что всё здесь иллюзия или нечто в подобном роде. Заставляет задуматься, зачем вообще говорить об окружающей реальности, если по индукции Соломонова проще сразу отказаться давать какие бы то ни было экзистенциальные комментарии или смысловые интерпретации. Можно легко обойтись без них, не потеряв совершенно ничего.

Scondo

  • Ветеран
  • ****
  • Сообщений: 321
  • +35/-4
    • Просмотр профиля
Речь идёт о варианте, когда вас интересует только один камень из существующих. Разумеется, когда вам интересны все камни более эффективной становится общая программа.
Форма reductio ad absurdum не совсем применима в данном случае. Программа (модель) полезна не для одного и не для всех камней, но только для некоторого числа камней. Как ни странно, именно это та ситуация, с которой мы сталкиваемся в нашем мире.

Мы записываем фильм, и на плёнке (а затем в памяти компьютера) отображаются последовательные положения чего-либо. мы можем разработать алгоритм, который проанализирует закономерность N кадров, выделит в них "объекты" и "движения" и, используя их, предскажет кадр N+1(такая техника действительно используется в H.264). Никто не пытается выделить "объекты" во всех фильмах и увязать их между всеми фильмами "движением" - это было бы по меньшей мере непрактично. На самом деле такой анализ используется внутри небольшого(от десятка секунд до нескольких минут) фрагмента.
То же самое делаем и мы, когда рассуждаем о, к примеру, запасе яиц в холодильнике: если в понедельник было полтора десятка, а к среде стало восемь штук, то на выходных надо бы закупиться. Я могу предположить что двух десятков мне хватит на неделю или около того, но прогноз закупки яиц на год составлять вряд ли буду (ко мне могут приезжать гости, я могу уезжать в отпуск и т.д.).

Ничего, из того, что вы можете рассчитать не рассчитывается точнее, когда вы говорите, что данный объект существует.
Не совсем. Вопрос в том, что мы понимаем под "существованием". Вот в примере с видео возникает модель состоящая из "объектов" и "движения". Они определённо существуют как параметры модели, но вот насколько они "существуют" в реальности? Даже для видео с прогулкой красивой девушки "объекты" кодировщика имеют не слишком много общего с изящной девичьей фигуркой. А если записать видео нагрева печи в ИК диапазоне? Существует ли фронт нагрева? У кодировщика определённо есть набор соответствующих ему "объектов" и их "движения". А для наблюдателя в оптическом диапазоне это неподвижная стенка кирпичей.

Разумно говорить, что все вещи существуют как часть некоторых моделей. Машина у меня под окном "существует" потому, что я полагаю увидеть её, если выгляну в окно. Но не слишком поздно, потому что машина также "способна двигаться" и может уехать. Дом напротив "существует" потому, что я вижу его и полагаю видеть изо дня в день и полагаю врезаться если попытаюсь пройти сквозь него. Skywrath "существует" потому, что я ожидаю от него сообщений на форуме; перестанет отвечать - перестанет существовать, но перейдёт в категорию "существовал", потому что я ожидал(и дожидался) сообщений на форуме.

Я утверждаю, что на сегодня Бог не существует как часть физических моделей. Что, впрочем, не мешает ему существовать в составе психологических, например.

fil0sof

  • Главный модератор
  • Ветеран
  • *****
  • Сообщений: 969
  • +55/-3
    • Просмотр профиля
    • VK profile
Оффтоп не касающийся сложностей гипотез перенёс в Общение (с айпада очень неудобно контекстную ссылку давать, до компа нескоро доберусь, найдёте). Пожалуйста, давайте следить за потоком мыслей хотя бы в этом разделе форума

gnomo_sapiens

  • Гость
  • Постоялец
  • ***
  • Сообщений: 247
  • +10/-52
    • Просмотр профиля
Бритва Оккама оказывается ложной когда исключает из рассуждения факторы, которые определяют результат рассуждения. Фактор может исключаться не намеренно, а в результате дефекта восприятия. Пример искаженного восприятия:
http://anlazz.livejournal.com/104009.html
Однако только подобным вариантами искажения реальности не исчерпываются. Постсоветское пространство предлагает нам еще более экзотические варианты артефактов восприятия, которые способны «проникнуть» в любое, самое, что не на есть доброкачественное научное исследование.

Scondo

  • Ветеран
  • ****
  • Сообщений: 321
  • +35/-4
    • Просмотр профиля
Бритва Оккама оказывается ложной когда исключает из рассуждения факторы, которые определяют результат рассуждения. Фактор может исключаться не намеренно, а в результате дефекта восприятия. Пример искаженного восприятия:
http://anlazz.livejournal.com/104009.html
Однако я не увидел в статье по ссылке исключения каких-либо факторов Бритвой Оккама. Как максимум - там показано влияние контекста на модель. Да, разумеется, если мы не учитываем контекст и не расширяем выборку, чтобы устранить его влияние - наша модель будет пригодна только внутри того контекста, в котором она построена (кстати, этим же объясняется большинство когнитивных искажений: модели, построенные на повседневных наблюдениях за последний век, "клинит" при столкновении с современным социумом/наукой)

Muyyd

  • Ветеран
  • ****
  • Сообщений: 756
  • +45/-1
    • Просмотр профиля
Бритва Оккама оказывается ложной когда исключает из рассуждения факторы, которые определяют результат рассуждения.  Фактор может исключаться не намеренно, а в результате дефекта восприятия.
Да, нет ничего удивительного, что фильтрация свидетельств и другие ошибки применения ни к чему хорошему не приводит. Неужели есть метод, правильность применения которого и выдаваемые результаты не зависят друг от друга? Т.е. как криво бы его не применяли, он всегда бы "оказывался не ложным, а истинным"?
И, разумеется, у людей полно встроенных алгоритмов мешающих эффективно использовать эмпирические данные .
Но, когда бритва Оккама из первоначального утверждения
Цитировать
Lex parsimoniae: Entia non sunt multiplicanda praeter necessitatem.
“The law of parsimony: Entities should not be multiplied beyond necessity.”
Принцип бережливости: не множь сущности сверх необходимого
формализуется в штуки, подобные байесовской интерпретации индукции Соломонова
Цитировать
Solomonoff induction assigns a prior probability to each possible computer program, with the entire distribution, over every possible computer program, summing to no more than 1. This can be accomplished using a binary code where no valid computer program is a prefix of any other valid computer program (“prefix-free code”), e.g. because it contains a stop code. Then the prior probability of any program P is simply 2−L(P ) where L(P ) is the length of P in bits.
The program P itself can be a program that takes in a (possibly zero-length) string of bits and outputs the conditional probability that the next bit will be 1; this makes P a probability distribution over all binary sequences. This version of Solomonoff induction, for any string, gives us a mixture of posterior probabilities dominated by the shortest programs that most precisely predict the string. Summing over this mixture gives us a prediction for the next bit.
The upshot is that it takes more Bayesian evidence—more successful predictions, or more precise predictions—to justify more complex hypotheses. But it can be done; the burden of prior improbability is not infinite.
Индукция Соломонова назначает априорные вероятности  для каждой возможной программы, так что распределение вероятностей по всем программам не больше единицы. Это можно получить, используя бинарный код, при условии, что никакая валидная программа не является префиксом для другой валидной программы, например, потому что содержит остановку кода. Тогда каждая априорная вероятность вычисляется по формуле 2−L(P ), где L(P ) - длинна программы Р в битах.
Программой Р может быть программа (возможно даже с нулевой длинной), которая, в ответ на ввод последовательности битов, выдает условную вероятность того, что следующий бит будет равен единице; что делает Р распределением вероятностей относительно всех бинарных цепочек. Эта версия индукции Соломонова дает, для каждой цепочки, совокупность апостериорных вероятностей, где доминирует наиболее короткие программы, которые наиболее точно предсказывают следующий биты в цепочке. Просуммировав совокупность, мы получаем предсказание следующего бита.
Плюс этого в том, что потребуется больше байесовских свидетельств - предсказания должны быть успешней или\и точней, чтобы оправдывать более сложные гипотезы. Но это возможно. Бремя априорных вероятностей не бесконечно.
Так вот, когда мы имеем дело с такими формализациями, туманные предостережения вроде "Бритва Оккама оказывается ложной когда исключает из рассуждения факторы, которые определяют результат рассуждения. Фактор может исключаться не намеренно, а в результате дефекта восприятия." теряются из-за своей туманности на фоне точности формулировок современных формализаций бритвы Оккама.
Не буду утверждать, будто понимаю что там написано, но тем не менее, факт остается фактом. Бритва Оккама тоже не осталась прежней с того момента, как была сформулирована. Она тоже развивалась, перестала быть вербальной и туманной. И предостережения тоже не должны быть размытыми, иначе будут, скорее всего, проигнорированы.
« Последнее редактирование: 02 Января 2016, 21:32 от Muyyd »

LswAgnostic

  • Ветеран
  • ****
  • Сообщений: 313
  • +29/-12
    • Просмотр профиля
Достаточно просто написать программу, перечисляющую все программы и она предоставит все возможные и невозможные взаимодействия со всем, что можно формализовать, если не представить.

С помощью какого алгоритма среди сгенерированных найти ту программу, которая делает ожидаемое действие? Например, эффективно управляет ядерным реактором.
Каким алгоритмом ее отличить от похожих, но с ошибками?
« Последнее редактирование: 11 Мая 2016, 01:22 от LswAgnostic »

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: LswAgnostic
С помощью какого алгоритма среди сгенерированных найти ту программу, которая делает ожидаемое действие?
Я могу неформально гарантировать, что подобного алгоритма нет и быть не может. :D Но это не имеет какого-нибудь особого значения. Если вы помните, то это всего лишь означает, что конкретное ожидаемое действие оказывается крайне сложным в формализации. Другое дело, что формализация для универсального множества всех возможных действий, который допускает формальная система - заведомо тривиальна, так как она падает на описание этой системы, которое вы всё равно будете выбирать прежде, чем описывать на неё алгоритмы. Грубо говоря, Бог - очень простой объект и здесь вы можете чуть ли не в три слова сказать, что он может всё. Каждое конкретное действие, напротив будет невероятно сложным в своём описании и интерпритации. Всё-таки, практически ни одну задачу невозможно решить в три слова.

LswAgnostic

  • Ветеран
  • ****
  • Сообщений: 313
  • +29/-12
    • Просмотр профиля
Допустим, что бог описывается предложенным ранее алгоритмом.

Такой бог не может всё, потому что не смотря на то, что у него есть все алгоритмы, у него нет алгоритма по выбору из них правильного.

"перечислить все алгоритмы" != "мочь решать все задачи".
мочь решать все задачи = для каждой задачи X из множества всех задач из множества всевозможных алгоритмов мочь выбрать один алгоритм, решающий задачу X.
« Последнее редактирование: 15 Мая 2016, 13:47 от LswAgnostic »

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: LswAgnostic
Такой бог не может всё.
Как там было? Карта не территория? :D Речь идёт об алгоритме, описывающем Бога, не о реализующем его функции. Если вы помните примеры с кварками и так далее, то алгоритмы описывающие законы физики ещё не позволят вам реализовать эти законы на практике. Вы не сдвините Землю с орбиты просто рассчитав необходимые для того физические воздействия. Здесь имеется аналогичная ситуация - даже описав Бога, вы им не становитесь. Естественно, эта ситуация немного хуже в том плане, что вы и по описанию его предсказать не можете, но это довольно очевидное следствие из его всемогущества. Существует определённая разница между описанием объекта и его конструктивной реализацией. Здесь она просто стала достаточно очевидной. :D

LswAgnostic

  • Ветеран
  • ****
  • Сообщений: 313
  • +29/-12
    • Просмотр профиля
Существует определённая разница между описанием объекта и его конструктивной реализацией.

Конструктивная реализация - это наиболее точное описание объекта.
Зачем необходимо неточное описание? В чем его польза по сравнению с точным описанием объекта? Какие задачи неточное описание решает?

Если достаточно неточного описания, то почему не ограничится описанием "Бог может зажечь звезду"? Зачем описание делается с помощью сложного алгоритма? Где достаточная грань неточности описания?

Важна ли в описании полнота описания? Как обеспечивается полнота описания?

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: LswAgnostic
В чем его польза по сравнению с точным описанием объекта?
Здесь задаётся другой вопрос. В чём польза неточного описания по сравнению с полным отсуствием описаний. Например, в случае некоторых объектов мы можем не иметь информации о том как именно их построить, но обладать информацией по поводу того, как они влияют на происходящее, существуют ли или нет, и так далее. То есть, это косвенный способ извлечь хоть какую-нибудь пользу из уже имеющейся, но вполне возможно - достаточно сложной в прямой реализации концепции.

Цитата: LswAgnostic
Почему не ограничится описанием "Бог может зажечь звезду"?
Потому, что это будет описанием другого объекта. Например, некоторого "языческого" бога, который отвечает только за звёзды. Возможно, даже за какую-то конкретную звезду. :D Конечно, такое возможно, но это - создание новых сущностей.

Цитата: LswAgnostic
Важна ли в описании полнота описания? Как обеспечивается полнота описания?
Насколько я помню, полнота описания достигается тогда, когда описание не способно описывать объекты, которые могут быть не желательны при описании и наоборот, когда она не забывает про какие-то пограничные случаи. То есть, чёткий критерий полноты - это адекватность описания поставленным целям. Например, выше звезду может зажечь какой-нибудь физический процесс и даже человек, имеющий нужную технологию, что конечно же будет уже отличается от идеи бога.

LswAgnostic

  • Ветеран
  • ****
  • Сообщений: 313
  • +29/-12
    • Просмотр профиля
Будет ли полным описание шахматиста в виде перечисления набора действий, которые он может сделать на основе шахматных правил?

ps
Имхо, описание бога через список возможных действий без описания внутреннего состояния и алгоритма принятия решений настолько же неполно, как описание всемогущего бога через описание "это тот, кто может зажигать звезды".

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: LswAgnostic
Будет ли полным описание шахматиста в виде перечисления набора действий, которые он может сделать на основе шахматных правил?
Думаю, да. Любой, кто может сделать все разрешённые правилами действия может называться шахматистом. Конечно, это не описывает конкретного шахматиста и всякие странные случаи типа недо-шахматистов, которые могут играть, но имеют проблемы с совершением некоторых ходов, например, не знают о связии на проходе. Но это будет адекватным описанием, если не вдаваться в подобные детали. Скажем так. Это будет хорошим описанием множества из "настоящих шахматистов".

Цитата: LswAgnostic
Без описания внутреннего состояния и алгоритма принятия решений.
Хе-хе-хе-хе-хе. Это невозможно! :D Программа описания перебирает все возможные формализации. Хотя, я и говорил, что Бог может всё, но под этим понимается и то, что Бог может иметь любое внутреннее состояние и что Богом может быть принято любое решение. Грубо говоря, это самое полное описание из всех возможных в формализации. Вы не можете сделать больше, чем всё. Поэтому, здесь нет и недостающих описаний. Сказано всё, что могло быть сказано! :D Грубо говоря, здесь совершенно нечего добавить и любые комментарии окажутся избыточными - они уже есть в описании. Ну или с другой стороны. Всемогущество - тривиально противоречивое свойство. Логики говорят, что из противоречия вам оказывается доступен любой возможный вывод. Но ведь это как раз и есть состояние всемогущества! И пытаясь добавлять какие-то новые описания в эту систему, вы просто вводите в неё новые противоречия, которые не изменят суть дела. Если одного противоречия уже достаточно, то второе оказывается явно избыточным. Тем не менее, данное описание является, хотя и нереализуемым в силу противоречивости, но очень важным, так как оно эквивалентно заданию формального языка указанием на все утверждения, которые в нём могут быть выражены. Из этого следует один интересный вывод в который, несмотря на все желания не могли поверить математики прошлого. Хотим ли мы этого или нет - мы всегда говорим правду на языке обмана. Математическая истина недостижима в синтаксисе формальной системы.
« Последнее редактирование: 17 Мая 2016, 17:42 от Skywrath »

TrofMan

  • Новичок
  • *
  • Сообщений: 1
  • +2/-0
    • Просмотр профиля
TLDR. Гипотеза "Бог может всё" действительно простая (в естественном языке, по крайней мере), но ничего не предсказывает. Поэтому при получении конкретных свидетельств она сразу проигрывает любой гипотезе, делающей более-менее конкретные успешные предсказания.

Рассмотрим три гипотезы, предсказывающие падение камней. Закодируем их на русском языке в кодировке Windows 1251 (по байту на символ).
1. Бог может всё (13 Б).
2. Бог может всё, и он заставляет камень падать по уравнению h(t)=h0+v0*t-g*t^2/2 (78 Б).
3. Камень падает по уравнению h(t)=h0+v0*t-g*t^2/2 (47 Б).

Первая гипотеза простая, третья сложнее, вторая ещё сложнее. Назначаем им априорные вероятности соответственно (256^-13, 256^-78, 256^-47). Нормировать не будем, всё равно нас интересует только соотношение вероятностей.

Первая гипотеза присваивает равные вероятности всем исходам. Количество этих исходов, вообще, несчётно, но мы сделаем скидку на неточность и ограниченность восприятия. Например, возьмём пространство исходов, покрытое равномерной сеткой: положение камня с точностью 1 см в боксе в один кубометр, воспринимаемое с периодом 0.1 с в течение 1 с. Итого 100^3*10 = 10^7 исходов, вероятность 10^-7 у каждого.

Вторая и третья гипотезы дают одинаковые детерминированные предсказания, они присваивают единичную вероятность исходу, вычисляемому по уравнению h(t)=h0+v0*t-g*t^2/2.

Сто раз кидаем камни в вышеуказанном боксе, наблюдаем. По каждому из этих свидетельств правдоподобие первой гипотезы 10^-7, правдоподобие второй и третьей гипотезы 1. Т. е. каждое из ста свидетельств ослабляет первую гипотезу на ln(10^7)/ln(256) = 2.9 Б.

После учёта и сложности, и предсказательной способности, получаем следующее:
1) 13+2.9*100 = 303 Б
2) 78 Б
3) 47 Б

Итого, апостериорная вероятность третьей гипотезы в 256^(303-47)=2^2048 раз выше по сравнению с первой гипотезой, и в 256^(78-47)=2^248 раз выше по сравнению со второй.