Мне кажется, в этой ситуации есть 2 основных ловушки.
1. Субъективность/объективность вероятности. "Субъективность" означает не то, что мы можем от балды нарисовать любое число и что вероятность определяется каким-то святым духом, а что это не свойство, присущее самой изучаемой системе, а некая функция от информации, известной некоему субъекту. И в идеале это вполне определенная функция. На практике мы не знаем, как ее точно считать, как перевести состояние мозга в число - мы вообще не имеем свободного доступа к своему состоянию мозга, но определенную аппроксимацию сделать можно. В идеале вероятность субъективна относительна монетки, но объективна относительно информации.
2. Если предположить, что монетка не имеет памяти, то у нее есть некая объективная частота выпадания орла (или у системы бросающий + монетка, скажем). И это не то же, что вероятность выпадения орла. С байесовской точки зрения, эта объективная частота - некая неизвестная величина, и мы имеем в голове распределение этой величины. Каждый бросок это распределение в соответствии с теоремой Байеса для непрерывно распределенных величин корректирует. И "вероятность выпадения орла" следующим броском это матожидание этой величины. Например, если априорное распределение было равномерным (что вряд ли, конечно), то после n бросков, из которых было k орлов, байесовская вероятность получить орла равна (k-1)/(n-2) (доказательство тут не буду писать, у Джейнса этот пример есть, хотя не помню, было ли там доказательство, но доказывал сам).
"Байесианцы" называют вероятностью именно это "субъективное" знание, а не частоту. Проблема в том, что в явном виде у нас нет априорного распределения, и приходится его достраивать из неких общих соображений. Например, если 100% известно, что монетка симметрична, то у нас 100% вероятности сконцентрировано на том, что частота 0,5, и 0 на остальном, то даже если мы пронаблюдаем 1000 орлов и 0 решек, мы должны будем считать, что монета симметрична и вероятность следующего орла 0,5. Если мы не знаем точно, то априорное распределение будет сначала расти, потом падать. Если мы знаем, что монета несимметрична, то это будет что-то с двумя пиками слева и справа от 0,5 и проколотое посередине. Обычно нет причин, чтобы априорное распределение было асимметричным, так что матожидание частоты (до бросков) всегда 0,5.
Если априорное распределение будет достаточно равномерным (не буквально равномерным, но дающим плотность, ограниченную снизу везде не нулем), то при длинной серии бросков наша субъективная вероятность будет стремиться к k/n независимо от того, что именно это за распределение, и можно аппроксимировать наше байесианство, просто поделив число орлов на число бросков. Но это именно аппроксимация. Нельзя сказать "Мы не знаем априорное распределение и в этом проблема байесианства", иначе у нас возникнет проблема, когда мы сделаем два броска и увидим два орла. Не 100% же вероятность орла? Мы не можем просто проигнорировать часть задачи потому, что не знаем ответ. И мы не должны путать вероятность (субъективную) и частоту (объективную, но неизвестную). Хотя частоты, будь они известны, разумеется, подставляемы как вероятности - но они неизвестны и с таким же успехом можно подставлять TRUE и FALSE. По отношению к задачам вроде монетки байесовский подход расширяет частотный примерно в том же духе, в каком частотный расширяет бинарную логику.