Doomsday argument как слабое свидетельство конца света или мира - симуляции.

[anagor1]

Например, если априорное распределение было равномерным (что вряд ли, конечно), то после n бросков, из которых было k орлов, байесовская вероятность получить орла равна (k-1)/(n-2).

А если из двух бросков выпал один орел? 
Вы перепутали плюсы с минусами.

Вашу формулу можно обобщить. Если аппроксимировать наши знания об априорной плотности вероятности бета-распределением с коэффициентами a и b, то апостериори мы получим бета-распределение с коэффициентами k+a и n-k+b. Матожидание бета-распределения равно a/(a+b), а дисперсия примерно ab/(a+b)³. Отсюда вы можете вывести оба крайних случая. Если a=b=1, то у нас равномерное распределение, и апостериори получается ваша формула. Если a=b и очень велики, то при не таких больших k и n на выходе тоже будет очень узкий сигнал возле 1/2.

[desmod]

То есть, неявно предполагается, что у монеты есть некое имманентное свойство, называемое "вероятностью", которое проявляется при ее бросании. Но все, что мы знаем о монете, мы знаем из своих ощущений.

Здесь уместнее использовать термин случайность, поскольку вероятность - это (количественная) оценка случайности. Тогда разница между объективной и субъективной вероятностью сводится к вопросу, является ли случайность объективно измеримым феноменом или же феноменом нашего знания/незнания. При втором подходе подбрасываемая монета не обязательно характеризует случайность. Если бы мы достоверно знали все физические условия (форму и вес монеты, силу броска, расстояние от руки, которая подбрасывает монету, и т.д.), то могли бы точно предсказать результат. Но поскольку такая информация обычно неизвестна, более удобно допустить, что результат броска случайный.

Сама же доступная нам информация может быть формализуемой и неформализуемой. Обработка формализуемой информации приводит к выявлению некоего объективного показателя, называемого объективной вероятностью. Неформализуемая информация оценивается разнообразными эвристическими методами, в результате чего мы получаем субъективную вероятность. Она обладает теми же свойствами, что и объективная вероятность (математические расчеты, во всяком случае, полностью аналогичны), но в отличие от последней позволяет учесть индивидуальные мнения и предпочтения конкретного лица, принимающего решение.

Традиционно баейсовский подход считается разновидностью субъективистского подхода, в рамках которого баейсовская вероятность интерпретируется как "степень уверенности". Однако существует и объективистский байесовский подход, развиваемый Джейнсом (на основе термодинамического понятия вероятности), что вносит изрядную терминологическую путаницу.

Или, на вероятностном языке, мы ни одной гипотезе никогда не сможет приписать вероятность "1" [верно!].

Поскольку все физические эксперименты проводятся с определенной погрешностью, то достаточно уложиться в заранее заданную (и рассчитанную на основе той же гипотезы) погрешность.

Я вот считаю так - и я объясняю, почему я так считаю. Это вовсе не "универсальное объяснение". Это мое объяснение моей оценки.

Здесь "универсальное" используется в значении "наиболее типичное" из принимаемых оценок, а не "единственно возможное". Ведь нельзя исключить, что в вашем случае "некая функция от информации, известной некоему субъекту" выдаст какое-то другое значение. В конце концов, предположение, что на некоем глубинном уровне у всех людей есть нечто общее - всего лишь предположение.

[kuuff]

является ли случайность объективно измеримым феноменом

Расскажите про объективные измерения: разве такие бывают?

[Quilfe]

Да, точно, (k+1)/(n+2).

[anagor1]

Десмод, Вы извините, но дискуссия с вами напоминает дискуссию о звуке падающего дерева из статей Юдковски. Вы весьма произвольно используете термины, не уточняя вкладываемого Вами в них смысла. А потом вдруг "универсальный" оказывается синоним "типичного", и т.п. Более того, смысл плавает от одного случая употребления термина к другому. (Скажем, для термина "объективный" я насчитал в ваших рассуждениях аж три различимых значения.) При этом для объяснения размытых терминов Вы вводите новые, не менее размытые (напр., "случайность", "формализумость"). В итоге я не могу понять содержание ваших суждений: то ли Вы возражаете, то ли пересказываете мой тезис своими словами...

[desmod]

Расскажите про объективные измерения: разве такие бывают?

С точки зрения научного метода познания - бывают. Объективность в данном случае означает независимость от наблюдателя и воспроизводимость.

А потом вдруг "универсальный" оказывается синоним "типичного"

Напомню, что обсуждалась конкретная задача, в связи с которой возник вопрос: почему при использовании байесовского подхода "по дефолту" постулируется равномерное априорное распределение? Ведь если сам подход субъективистский, то и априорные допущения должны варьироваться в зависимости от предпочтений субъекта? Я предложил свой вариант разрешения этого парадокса. Если он не устраивает, предложите лучший.

При этом для объяснения размытых терминов Вы вводите новые, не менее размытые (напр., "случайность", "формализумость").

Случайность - философская категория, которая, тем не менее, широко используется в целом ряде вполне точных наук. А в них ее необходимо измерять (т.е. вводить понятие вероятности), что требует уточняющих представлений о мире, выходящих за рамки компетенции данных наук. Поэтому нет, и не может быть никакого "единственно верного" определения вероятности - все зависит от картины мира самих интерпретаторов. Разные подходы базируются на разных мировоззренческих установках. Выше я привел небольшой обзор основных направлений.

[Alaric]

Я вижу, что "парадокс" байесовских оценок возникает ровно в том случае, если вероятности приписывается объективный смысл.

Я пропущу изрядную часть дискуссии и скажу, что это предложение мне представляется верным.

Байесовская вероятность - это мера нашего незнания. Грубо говоря, в тот момент, когда мы отправляем монетку в воздух, некий идеальный вычислитель мог бы проанализировать её полёт и, исходя из законов физики, точно определить, какой стороной она приземлится. Для этого вычислителя вероятность выпадения "орла" всегда строго равна "0" или "1".

Но мы не можем точно предсказать, какой стороной приземлится монетка. Однако, мы знаем, что среднестатистические монетки в половине случаев падают одной стороной, а в половине - другой. И мы это наше несовершенное знание формулируем в виде: вероятность того, что вот прямо сейчас монетка упадёт орлом - 1/2.

И да, строго говоря, для разных людей байесовская вероятность может быть разной, потому что у них разная мера незнания. Один из смыслов рациональности по Юдковскому - постоянно обновлять свою оценку вероятности события, исходя из поступления новых свидетельств.

[Alaric]

Я решил хоть немножко упорядочить происходящее и выделил вопрос "Почему с мерой незнания можно обращаться как с вероятностью" в отдельную тему.

[LswAgnostic]

Байесовская вероятность - это мера нашего незнания. Грубо говоря, в тот момент, когда мы отправляем монетку в воздух, некий идеальный вычислитель мог бы проанализировать её полёт и, исходя из законов физики, точно определить, какой стороной она приземлится. Для этого вычислителя вероятность выпадения "орла" всегда строго равна "0" или "1".

Имхо, есть два различных феномена: незнание и случайная величина.

В первом случае - ничего не известно.
Во втором случае известно, что перед нами значение, распределенное по определенному закону.

"Верна ли гипотеза Римана?", "Что задумал мистер X?"  - это чистое незнание.
"Какой стороной упадет честная монета?", "Наработка на отказ серийного прибора?" - это знание того, что "выбор" происходит по известному закону.

В первом случае бессмысленно использовать вероятности и байесовскую формулу, во втором - при многократном применении использование теории вероятности даёт выигрыш.

[kuuff]

В первом случае - ничего не известно.

Не "ничего". Если речь идёт о мере незнания, значит знание есть, но неполное. И именно эта неполнота и измеряется.

"Верна ли гипотеза Римана?", "Что задумал мистер X?"  - это чистое незнание.

Нет. Не "чистое". Гипотеза Римана может быть либо верной, либо неверной, либо её может не быть. При этом гипотеза Римана не может быть ударом по печени или котиком с серебряными крыльями. Смотрите сколько я знаю об этой гипотезе, хотя "не знаю о ней ничего". Слова "гипотеза" и "Риман" уже известны мне, и они задают достаточно узкое пространство значений для случайной величины.
Чистого незнания не бывает. Где-то тут я уже сомневался в том, является ли камень примером абсолютно ничего не знающего субъекта. Абсолютным незнанием может обладать только ничто. Но ничто не существует, и поэтому ничто не может обладать абсолютным незнанием. Простите за каламбур. Не сдержался.

"Какой стороной упадет честная монета?" "Наработка на отказ серийного прибора?" - это знание того, что "выбор" происходит по известному закону.

Да, это знание закона распределения случайной величины. Но незнание точного её значения. Мы знаем, что монета может упасть одной из двух сторон и третьего не дано. Но мы не знаем какой именно. Наше знание неполное. Неполноту этого знания мы и измеряем.

Складывается впечателение, что вы просто не хотите видеть, что все эти ситуации можно описывать единообразно, одним и тем же языком вероятностей. Стоит ли мне задать вопрос "почему вы не хотите видеть"?

[LswAgnostic]

И именно эта неполнота и измеряется.Нет. Не "чистое". Гипотеза Римана может быть либо верной, либо неверной, либо её может не быть. При этом гипотеза Римана не может быть ударом по печени или котиком с серебряными крыльями.

Красивый образ. Он явственно показывает, что знание о гипотезе Римана заключается в знании того, чем ответ на гипотезу Римана не является. И в этом отличие от честной монеты. Знание о монете заключается в знании о том, чем выпадение монеты является.

Чем больше изучается гипотеза Римана - тем меньше становится зазор на континиууме незнания, но не появляется знание о самом этом зазоре. Информация о зазоре появится только в одном случае, когда появится доказательство верности или неверности гипотезы Римана.

[kuuff]

Мы не можем объективно оценить своё незнание? То есть незнание субъективно? Что серьёзно? Да не может быть!

[vkv]

Имхо, есть два различных феномена: незнание и случайная величина.

Если уж совсем по правде, случайные величины если и есть, то только на квантовом уровне.
Поведение макрообъектов всегда можно предсказать, если знать о них все. А всё, что для нас выглядит как случайность - результат действия неизвестных нам фактов. При кидании монетки люди не слишком озабочены контролем своих мускулов, поэтому она выпадает довольно случайным образом, а вот Перси Диаконис построил машинку, которая кидает монетку так, что та выпадает одной и той же стороной. И сам вроде руками так же научился кидать.
(я, кстати, тоже так умею, если кидать монетку плашмя и с маленькой высоты.)

[valergrad]

Если уж совсем по правде, случайные величины если и есть, то только на квантовом уровне.
Поведение макрообъектов всегда можно предсказать, если знать о них все. А всё, что для нас выглядит как случайность - результат действия неизвестных нам фактов. При кидании монетки люди не слишком озабочены контролем своих мускулов, поэтому она выпадает довольно случайным образом, а вот Перси Диаконис построил машинку, которая кидает монетку так, что та выпадает одной и той же стороной. И сам вроде руками так же научился кидать.
(я, кстати, тоже так умею, если кидать монетку плашмя и с маленькой высоты.)

Что монетку. Даже игральный кубик достаточно несложно научиться кидать так, чтобы нужная тебе цифра выпадала существенно чаще чем 1/6. В одной из книг типа "Энциклопедия игрока" была статья, посвященная обучению и тренировке этого умения. А профи вероятность могут и к 90% приближать. Не случайно ведь придумали специальные стаканчики для игральных кубиков и бросают по несколько штук за раз, там уже гораздо сложнее манипулировать.

[kuuff]

что, если парадокс не является парадоксом, потому что мы живем не в самом начале, а в самом конце человеческой истории?

Нет. Из наблюдения о том, что численность человечества изменяется экспоненциально не следует того, что завтра будет конец света. Я внезапно просветлился и понял это.

Рассуждение примерно такое.

Этот топик был начат два с половиной года назад, и тогда вероятность конца света завтра была равна 1. Сегодня она опять равна 1. Если мы на временной оси выберем любую точку, где происходит экспоненциальный рост, то эта вероятность будет равна 1 для того, кто находится в этой точке и высчитывает эту вероятность.

Отсюда вытекает лишь одно: вероятности конца света во всех этих точках равны. Энтропия распределения равна нулю. А значит, данное наблюдение даёт нам 0 бит информации о том, когда случится конец света.

Фух. Я теперь могу спать спокойно.


Тут есть одна вещь, которая не совсем формализуется в моей голове до чисто математической строгости -- в словах "энтропия распределения равна нулю" есть ссылка на распределение вероятности, но я не уверен, что предложенный способ посчитать эти вероятности в разных точках времени, даст нам в результате график вероятностей, который подпадает под определение графика плотности распределения вероятностей. То есть это будет график функции p(t), зависимость вероятности от времени, и я не вижу формальных причин, почему бы по нему не посчитать энтропию, и я уверен, что рассуждение верно. Но не уверен, что оно формально грамотно.

При этом, я сейчас пока излагал всё это, я вспоминил, что я где-то читал о вероятностях, что вероятность равная 1 не обязательно указывает на исход который стопудов случится. И там была ситуация типа этой: разные исходы имели вероятность равную 1. Вероятно фишка в том, что надо сначала отнормировать эти вероятности (то есть сложить все вероятности, а потом каждую поделить на получившуюся сумму, чтобы результирующие значения давали бы в сумме 1: сумма вероятностей всех возможных исходов должна равнятся 1, если это не так, то значит мы где-то накосячили).

Точно так же, вероятность равная 0, не обязательно означает невозможность исхода: если мы случайно бросим точку на отрезок [0,1],  то вероятность попасть в значение 0,5 равна нулю. Но для любой точки отрезка вероятность попадания точки туда равна нулю. И тем не менее какая-то из этих точек будет выбрана нашим броском, несмотря на нулевую вероятность.