Просмотр сообщений - anagor1

Просмотр сообщений

В этом разделе можно просмотреть все сообщения, сделанные этим пользователем.


Сообщения - anagor1

Страницы: 1 2 [3]
31
Просто в ситуации с монетой мне лично непонятно, на основе каких допущений появляется ответ 1/2.
Ну например:
"Монета выглядит симметричной";
"Мы много раз кидали другие монеты, и частота выпадения орла была близка к 1/2";
"Меня в школе учили, что слово "монета" -  синоним "бинарная случайная величина с равновероятным исходами".

И давайте поймем, на какой вопрос это ответ. Значение вопроса зависит как раз от понимания слова "вероятность" во фразе:
"Какова вероятность выпадения орла?"
Если это понимать как "какова объективная характеристика монеты, описываемая определенной частотой ее падений тем или иным образом" - то ответ "не знаю, не кидал".
Если же понимать "какова оценка моего ожидания события "выпадение орла" - то ответ 1/2, если кроме слова "монета" мне ничего не известно. Я ведь вправе оценить, правда? Вот просто взять и оценить, ниоткуда. Или из соображений "1/2 - середина интервала [0;1]. Поэтому, если мне вообще ничего не известно, такая оценка, если уж я вынужден какую-то  давать, будет наилучшей."

32
Хотите сказать, что данная вероятность равна 1/2? :)
Смотря для кого. Для меня - нет. Она близка к нулю. Так как у меня есть априорная информация о динозаврах. Она может быть неточной, поэтому не "ноль", а "близка к нулю". Но для блондинки - вполне может быть и 1/2. А для ребенка, который только что вышел из кинотеатра, посмотрев "Парк Юрского периода" - наверняка больше 1/2.
Я вижу, что "парадокс" байесовских оценок возникает ровно в том случае, если вероятности приписывается объективный смысл. Нельзя одновременно допускать, что у монетки есть некая объективная характеристика "вероятность", которая должна как-то проявиться в будущих экспериментах, и заявлять, что вероятность выпадения монетки орлом априорно 1/2. Или-или. Это философский вопрос, а не математический.
Тот факт, что мы приписываем вероятности интенциональные свойства вместо объективных, никак не влияет на наше право использовать колмогоровскую аксиоматику и методы теорвера, разработанные в частотной (объективной) интерпретации. Более того, как я вижу кажется, баейсова интерпретация не отвергает частотную, а лишь редуцирует ее.
Дело в том, что вопрос о монете - голая абстракция. В ней нет интенциональности, и поэтому утверждение "вероятность 1/2" является бессмысленным. Но если речь зайдет конкретной монете, всегда есть какие-то свидетельства. мы можем провести рентгенографию и убедиться в равномерной плотности материала, мы можем хотя бы осмотреть монету и оценить ее симметричность. В конце концов, следует задаться и вопросом, как именно мы ее намерены бросать.

Теперь я попытаюсь сформулировать итоговую мысль без феноменалистской терминологии. Байесианский подход не является конкурирующим по отношению к частотному или аксиоматическому, или любому другому. Мы не пытаемся иначе, чем они, интерпретировать объективную вероятность как свойство реальности. Мы просто "забыли" про реальность и смотрим не на нее, а в собственную голову, на свой собственный мыслительный процесс. Мы пытаемся понять, как мы мыслим, пытаясь познать мир,  а не как устроен мир


33
Ответ на этот вопрос зависит от нашей цели. Если мы хотим разобраться в законах природы и добиваться от нее все больших и больших удобств - то нам важно понимать в первую очередь природу. Если же мы хотим личных благ для себя - то нам важно понимать людей .... но только для того, чтобы использовать баги их когнитивной функции для своего обогащения. Как это делают, например, азартные игры да и большая часть современного бизнеса вообще.

Фактически, в данном случае вы признаете, как мне кажется, пусть и в глубине души, что что-то не так с вашей оценкой этих вероятностных ситуаций. Но вы не хотите скорректировать ее, а гордо несете свое заблуждение - "Да, я рассуждаю здесь может и неправильно, но это мое желание и мое рассуждение! Я так хочу, так что отстаньте!".  Это нормально, это обычно, я много раз слышал подобное от людей. Всегда гораздо проще сохранить заблуждение, чем попытаться от него избавиться. Я уже давно привык в таком случае махать рукой. Но на этом форуме это довольно необычно.

С офтопом согласен в том плане, что аргумент для Вас слаб. Я всего лишь пытаюсь хоть чуть-чуть подточить ваш эгоцентризм, явно сквозящий во втором процитированном абзаце. Ибо, несмотря на то, что давно оставил науку, я в глубине души все же, наверное, остаюсь ученым. И потому в этой самой глубине у меня действительно всегда есть сомнение, что я прав. А в вашей глубине такого сомнения почему-то нет. Вы совершенно не относите к себе собственную фразу "Всегда гораздо проще сохранить заблуждение, чем попытаться от него избавиться." В вашей голове рациональный подход нефальсифицируем. Для меня это значит, что он ненаучен. (Но я не делаю обобщений на всё байесианство. Ненаучна именно ваша его интерпретация.)
Второе, что я пытаюсь донеси - это суть (философскую, если хотите) ваших заблуждений (Вы же первый перешли на личности :) ). Вы в некий момент хитро упускаете из виду, что байесианская вероятность субъективна. Что рациональный подход - это аналитический метод. Ваши рассуждения относятся к вашему представлению о природе, а не к самой природе, которая суть вещь в себе. "Разобраться в законах природы" - это ни в коем случае не значит точно их узнать. Это значит с помощью эмпирических наблюдений получить у себя в голове (sic!) картину достаточно вероятных гипотез, которые будут предсказывать результаты многих решений и поступков. Понимаемое так (например, мной), байесианство совершенно не сводится к теорверу. Оно поднимается на философский метауровень, становясь гносеологическим методом, неким рефлексирующим соображением на тему "как же именно мы, люди, познаем мир, и что именно мы познаем, и какова цена нашего знания в судный день, и т.п."? Оно опирается (но не заменяет и не отменяет) на феноменологию Гуссерля и критический рационализм Поппера. И да, можно сказать "дает им вероятностные оценки", но в этой фразе нельзя подменять байесианскую интерпретацию вероятности априорной! Вероятность - степень нашего доверия к гипотезам об устройстве бытия, не более. Байесианство дает возможность оценить это доверие численно. Еще раз: оценить мое субъективное ощущение достоверности гипотезы численно. И больше ничего!
Опираясь на такое понимание РМ, я должен в данной задаче рассуждать так. Да, методами теорвера правильным получается вот такой выбор. Но я наблюдаю, что и моя Система 1 в целом ряде случаев сделает не его, и, что неизмеримо важнее, большинство людей поступают так, будто делают принципиальное различие между "точно 1" и "около 1". Такова их природа, такова природа их мышления  (а это тоже "природа" в терминах "феноменологического байесианства"). Такова их "когнитивная функция", утверждение же про "баги" в ней выходит за рамки опыта, это лишь мое субъективное оценочное суждение. Оно может быть полезно мне ради повышения ЧСВ, но оно ничего не добавляет моему пониманию бытия. Вот эксперименты, вот их результаты. Всё, стоп. Я обрел некоторые гипотезы, относящиеся к сфере "понимание людей" и действительно могу в дальнейшем их использовать. При этом я ни в коем случае не обрел полное понимание людей - такое утверждение принципиально запрещено феноменологически-байесианским подходом. Ведь я редуцировал реальность и не могу ничего о ней знать точно. Есть лишь оценки гипотез в моей голове. (Я вижу, что повторяюсь - это нарочно.) Далее я думаю: где я могу использовать приобретенное знание (т.е., достаточно достоверные гипотезы о природе когнитивной функции людей)? Азартные игры, финансовые вопросы, всякие биржевые игры - много всего. Да, пригодится, полезное знание! В то же время, "если я хочу личных благ для себя" и не свожу эти блага к обладанию пачкой долларов в кармане, то я должен видеть и те сферы бытия, где приобретенное с помощью Аллэ знание не уместно. В отношениях с близкими людьми, например. Или в отношениях с сотрудниками. Утверждение "важно понимать людей, но только для того, чтобы использовать баги их когнитивной функции для своего обогащения" - кхм... no comments. Да, мне очень, ОЧЕНЬ важно понимать любимого человека, но я не могу себе даже представить, чтобы я "использовал баги его когнитивной функции для своего обогащения".

PS Извините, если задел. Я понимаю, что кое-где передернул, "поймав" на не самых удачных формулировках.

34
Kroid, сделаю еще одну попытку визуализировать для вас, чтобы вы поняли суть...
Хотя попытка делалась не для меня, всё равно спасибо!
Теперь я действительно понял, почему Вы видите здесь парадокс.
А когда Вы высказали весьма достоверные гипотезы о том, как думает "естественный" человек, я решил было, что расхождения у нас не то чтобы мнимые, но заключаются скорее в понимании термина "парадокс". (Возможно, нечто подобное имел в виду Философ.) Потому что прокомментировать данное ваше рассуждение я мог бы примерно так: "Ну вот! Вы же сами всё объяснили! И где же парадокс?"

Но потом я прочитал повнимательнее и понял, что расхождения гораздо глубже, на уровне, наверное, "восприятия жизни". Постарайтесь и Вы меня понять... впрочем, это ваше дело, стараться или не стараться, но я всё же напишу.

Дело в том, что наше поколение уникально: перед ним в начале 90-х вдруг открылись сумасшедшие возможности, а мозг еще не был выеден "мышлением строителя коммунизма". Наш выпуск поделился примерно пополам: часть уехала за рубеж заниматься наукой, другая осталась в России заниматься бизнесом. (Тех, кто остался в российской науке, можно, увы, образно считать падением монетки на ребро.) Понятно, что далеко не у всех, ринувшихся в бизнес, что-то получилось. Но по прошествии четверти века перед глазами достаточная статистика, чтобы оценить, какие качества и как коррелируют с наблюдаемым успехом. Так вот, оказывается, способность к РМ не только не приносит гарантированного успеха в бизнесе, она коррелирует с ним очень слабо и скорее даже отрицательно. Почему? Видимо, попытка всё обдумать и рассчитать занимает время, а на практике скорость принятия решений важнее их точности. Как сказал мне один весьма успешный предприниматель: "Лучше вовремя принятое неправильное решение, чем никакого". Я не могу отделаться от этого опыта. И не способен убедить себя, что РМ - это именно то, что мне нужно для счастья.

Вы привели совершенно замечательный пример конкретных обстоятельств ("Поле Чудес"), в которых у меня тоже возникло чувство парадокса! Я пытался поставить себя на место Кроида, к которому пример был обращен, и вправду в него (в смысле, в парадокс) уткнуся. С одной стороны, я "сходу" наверняка отвечу ведущему "24000", рассуждая именно так, как рассуждал бы ваш "непротиворечивый игрок". С другой стороны, если ведущий даст мне время задуматься... я, вполне возможно, последую логике, что "33%-ный шанс выиграть 27 тысяч это лучше чем 34%-ный шанс выиграть 24 тысячи". Первая мысль была: "Да это не про меня! Я бы не стал добывать 34 билетика - это глупая суета." Но во-первых, кто-то стал бы - и он тем самым целенаправленно действовал с целью повышения вероятности выигрыша. И просто исходя из принципа последовательности выбрал бы "27". Потому что странно вдруг взять да поменять стратегию ни с того ни с сего. (Вот это действительно странно!) Во-вторых, этот кто-то мог в последний момент вспомнить про неотложные дела "на сто тысяч" и убежал бы, подарив добытые билетики соседу (например, мне). И вот у меня в руках 34 билетика... Блин, я не знаю, как бы я ответил ведущему! Не хватает привходящих обстоятельств, чтобы "вжиться" в роль.
И тут я понял, что для Вас все вышеизложенное - какой-то нервный бред, который не избавит Вас от чувства парадокса. Потому что мы мыслим по-разному. Я не могу возвести РМ на пьедестал "философии жизни", для меня это всего лишь удобный инструмент, который очень полезно иметь в арсенале, но вовсе не обязательно постоянно держать в руках. Но если бы я полагал иначе, я, наверное, вправду чувствовал бы парадокс...
Безусловно, между "точно 1" и "почти 1" "у природы никакого фундаментального различия нет". Но у людей оно есть. Что важнее: понимать природу или понимать людей, 99% которых никаким РМ не обладают? И тут же вплывают новые вопросы. Является ли неуклонное следование РМ правильной стратегией социального сосуществования при таких ("99%") условиях? Если да, то не связано ли это с чувством превосходства над 99%, не понимающими природы - которое, безусловно, "греет душу"? И не служит ли в таком случае "философское РМ" стратегией самоутверждения, а не стратегией жизненного успеха?
Вопросы риторические. А вывод, который я попытаюсь сформулировать, звучит парадоксально-тавтологически: "Правильным для меня решением является моё решение!" Не существует абстрактно, "вообще" правильных решений. Я должен понимать, кто я есть и что мне нужно в этом мире. Понимать это лучше Юдковски, лучше Вас, лучше кого бы то ни было. И тогда я наверняка разберусь, где применимо РМ, а где лучше без него обойтись. Но это не универсальный рецепт. Это всего лишь мое миропонимание.

35
Вот тут я с вами не согласен. Если моя голова может взять формулировку и озадачиться над её парадоксальностью, если она не может снять эту парадоксальность честно*, то это очень интересно, потому что в моей голове есть изъяны, которые следовало бы устранить.

* под честным снятием парадоксальности я подразумеваю что-то, что не могу вербализовать точнее, но заявления типа "теория вероятности не умеет решать такие задачи" выглядят для меня читерским способом снять парадокс.
Я вроде бы понимаю, что значит "честно". Чувство "эврика!", когда вдруг рывком все проясняется, мне знакомо.
По сути, мы пришли к согласию по всем объективируемым пунктам.
1. Парадокс суть чувство дискомфорта, "мутного непонимания", возникающее из-за того, что формулировка не укладывается в некие шаблоны моего мышления.
2. Прежде чем я смогу решить задачу, парадокс нужно снять. То есть, следует как бы отдельно размышлять над парадоксом и над задачей. ("Как бы", потому что часто снятие парадокса немедленно приводит к пониманию решения, тем самым размышление над парадоксом может являться частью процесса размышления над задачей.) 
Расхождения же наши чисто субъективны, неснимаемы и, видимо, упираются куда-то в мировоззрение. Я не считаю шаблоны мышления вот именно "изъянами". Это полезные штуки, как бы "интеллектуальные гештальты", позволяющие резко ускорять мыслительный процесс за счет пропуска целых цепочек рассуждений на основании "это похоже на то, что я уже много раз думал - и всё получалось; значит, сразу возьмем результат по аналогии". Причем к самим шаблонам можно отнестись как к "гипотезам": каждый раз, когда шаблон не срабатывает, доверие к нему слабеет... Это был не аргумент, просто пояснение. Мы мыслим по-разному, и это нормально, это даже интересно. ("Чуждый", но живой разум интереснее мертвого парадокса.)

Теперь давайте все же вернемся к ДА. Моя Система 1 (или что-то еще, контроллер какой-нибудь) мне почему-то четко сигнализирует, что парадоксальность мнимая, что ребята считают ангелов на кончике иглы. И что это не тот парадокс, о который можно пошатнуть мои любимые шаблоны. "Почему?" - спрашиваю я свой контроллер. Ну вот такое соображение. Предположим, сегодня мы с вами узнали некое свидетельство, явно сцепленное с корректно поставленной вероятностной задачей про КС - допустим, ИГИЛ получила термоядерную бомбу откуда-то. Или обнаружен крупный астероид, летящий вроде бы прямо в Землю. Или началась эпидемия неизлечимой болезни. Ну мало ли? Придумайте что-нибудь, достоверное для себя. Вопрос: как это повлияет на оценку вероятности КС с помощью принципа Коперника? Ответ: никак. На входе там - исключительно данные о количестве родившихся к настоящему моменту. И всё! Причем если встать на точку зрения Коперника, когда население было раз в 10 меньше, то мы с вами с вероятностью 90% мертвы. Что, конечно, тоже може принять за гипотезу... 
Вы же сами увидели, в чем беда ДА: там нет приоров. Эти рассуждения не поколебать ничем. Они нефальсифицируемы. И мой контроллер мне тут же говорит: "Не трать время. Это схоластика. Ты не вынесешь для себя ничего полезного из ее обдумывания." Он и Вам это просил передать, кстати.

PS Но уж если Вы так любите парадоксы, могу вам предложить поразмыслить над 13-м парадоксом Зенона в интерпретации Гейзенберга:
"Догонит ли кот Шредингера мышь Эйнштейна?"

36
В данной задаче Юдковский пишет "придумайте для себя функцию полезности и считайте ее, потому что в противном случае вы можете потерять деньги или не получить того, чего на самом деле хотели"  с конкретным примером как это происходит.
То есть, Юдковски лучше меня самого знает, чего я "на самом деле" хочу? Ха! Сильное утверждение!
К тому же, видимо, то, что я на самом деле хочу (сам того не ведая), всегда вычисляется по Байеру? Н-да... Типа очередная панацея, блин.
Интересно, Вы понимаете, что только что высказали весьма сильное свидетельство в пользу диагноза гипотезы "байесианство страдает каузальной аберрацией"?  ;)

Ладно, давайте не будем упираться в термины. Функция так функция. Я даже готов согласиться, что работа моей Системы 1 тоже в чем-то устроена как бы по-байесиански. За десятилетия своей жизни я принял многие миллионы различных решений в различных условиях, и имел возможность оценить, как они влияют на мой внутренний комфорт (показатель полезности), и это всё записалось где-то в памяти Системы 1, и теперь она, каждый раз быстренько анализируя весь этот дикий массив данных, выдает мне достаточно точные предсказания, как то или иное решение повлияет на полезность.  Ладно, пусть так (хотя звучит глупо).

Но тогда придется сказать, что задача подобрана крайне неудачно! Потому что в огромном большинстве конкретных ситуаций, моделируемых данным абстрактным примером, моя "функция полезности" сработает совершенно не так, как это столь самоуверенно впаривает мне Юдковски. Она видит огромную разницу между первым и вторым вариантами выбора. И не видит никакого парадокса. Я это выше подробно пояснил.

PS
Я тут подумал... И все же я лучше Юдковски знаю, чего хочу!

37
Наблюдение, что "мы родились именно сегодня" действительно не несёт в себе никакой информации, потому что именно такое наблюдение мы бы сделали вне зависимости от даты рождения, то есть априорная вероятность такого наблюдения равна 1, а значит оно несёт ноль бит информации.
Вот! Мы уже начинаем друг друга понимать.
Осталось сойтись только в двух моментах:
1. Парадокс - у нас в голове, а не в задаче. И нельзя решать задачу, не убрав из головы "чувство парадокса". Сначала нужно избавиться от ощущения парадоксальности (возможно, даже самообманом), а потом думать над задачей.
2. Видимая парадоксальность условий не есть признак сложности, интересности и адекватности задачи. Скорее всего, это признак некорректной ее постановки. Да, размышление над некоторыми абстрактными парадоксами позволяет обретать и оттачивать некоторые навыки мышления. Но если парадоксально выглядит практическая задача - это подозрительно! Всякая загадка привлекает внимание. Это естественно, поскольку человек любопытен. Но это означает, что в среднем любая загадка привлекает больше моего внимания, чем заслуживает. Не стоит позволять своему любопытству себя обманывать.

38
Большая часть людей в этой теме, если упростить, пишет нечто вроде: "Пфф, глупенькие, вот вам формула как считать вероятности, так что нечего противоречивые варианты выбирать. Другая функция полезности? Выбросьте, вот вам правильная, вот вам формулы. И солидное трехбуквенное сокращение захватите."

Добро пожаловать в реальный мир, Нео! Оказывается, у большинства людей цель - не теоретическая максимизация количества денег. Оказывается, на принятие решения влияет больше одного соображения. Оказывается, в функции полезности у них не простая формула вроде "y=2x+5", а логика с кучей if'ов и приоритетов.
У большинства людей нет функции полезности. Есть ощущение полезности. Его формирует Система 1, которая "размышляет" в других терминах. Грубо говоря -  в гештальтах. Можно допустить, что их тоже можно свести с элементарным понятиям теории информации. Но никакого практического смысла в этом нет. Гештальное ("ассоциативное") мышление дает при принятии решений огромный выигрыш во времени по сравнению с рациональным. А время, в отличие от денег - невосполнимый ресурс.
Увы, аберрация абстрагирования - типичное когнитивное искажение байесианца. Связано это, видимо, с ложной индукцией убеждения "вероятность - у нас в голове" в "у нас в голове - вероятность [и ничего более]".
Утверждение "рациональное решение всегда правильно" не эквивалентно "правильное решение всегда рационально", если правильных решений много, поскольку "правильность" - субъективна. Подмена первого (к которому коннотативно приписывается "для меня") на второе фактически означает претензию на "правда одна, и именно я ей обладаю [поскольку рационален]" и придает таким убеждениям отчетливый оттенок религиозности.
В итоге возникает каузальная аберрация - грубо говоря, "подмена цели методом", а точнее - наделение метода каузальностью, придание ему осмысливающего начала, превращение его в самоцель. Но в жизни никогда нет цели "решить задачу методами теорвера", есть цель лишь "решить задачу". Есть разница между "использовать в задаче рациональное мышление" и "навязывать задаче рациональное мышление". Если вы убеждены, что методами теорвера решите ее лучше, или даже если вы убеждены, что методами теорвера кто угодно решит ее лучше - это лишь ваше убеждение, не более.
"Убежденность" - вообще опасное понятие. В голове оно легко и незаметно трансформируется из субъективного "мне не известны свидетельства против" в объективное "отсутствуют свидетельства против", не допускающее в голову сомнений. Например, убежденность в универсальности и "правоте" байесианства мотивирует "глушить звук" на любые возражения, ведь сомнение - это дискомфорт. Лучше уж не иметь никаких убеждений. ;)



39
Ну и, как бы это сказать, мне вообще не нравится это "байесианство пришло на смену..." Почему именно на смену? Может быть байесианство -- это уточнение, то есть сужение, критического рационализма, и таким образом является частью его? Частью, а не чем-то самостоятельным и непересекающимся с ним?
Тут наши представления очень близки. Я привел довольно точную аналогию: [Байесианство\КР]=[Ленинизм\Диамат]. Я бы сказал так: байесианство можно рассматривать как "проекцию" КР на практическую плоскость для некоторого класса задач. (Ну вот как Маркс: умничал, умничал, гуманитарщиной страдал, а Ленин взял да применил.) И покуда оно понимается так - мне всё нравится. Но ведь это ваша ссылка?  Интуитивное объяснение теоремы Байеса - "Ранее наиболее популярной философией науки была фальсификация Карла Поппера – старая философия, которая была смещена байесовской революцией."(Пунктуацию я поправил.)
И посмотрите на саму конструкцию статьи. Сначала меня кормят кашкой с ложечки, разжевывая все комочки, а потом вдруг делают сильнейшее агрессивное утверждение на несколько порядков более высокого уровня, с претензией на истину в последней инстанции. Такой прием повсеместно применяется в лженаучных теориях. Спрашивается: какова целевая аудитория статьи? Видимо, та же, что и у лженауки. Потому что всякого образованного человека подобные пассажи только оттолкнут.
Ну да ладно. Вернемся к нашим баранам Думздеям. Попробую объяснить иначе, ближе к вашим терминам. Давайте для начала отдельно поймем, где парадокс (а как я писал в соседней теме - он всегда в голове, а не реале), а уж затем будем думать о самой задаче.
Факт моего рождения, как и вашего - эмпирический факт, безусловно. Но является ли он свидетельством для гипотезы о КС? Сам по себе - нет! (То есть, является, если я, например, изобретатель кварковой бомбы, но вообще, абстрактное "я" - нет.) И авторы "парадокса" стремятся подсунуть в качестве свидетельства не сам "факт рождения", а "факт вероятности рождения в определенной части спектра" - почувствуйте разницу! Но пока нет выборки, нет пространства событий - нет и вероятности. "Есть только факт - за него и держись". Чтобы сделать свидетельством "рождение в части спектра", мы должны реализовать ту самую гипотезу, которую мы проверяем. Перед нами элементарный логический ляп, подобный попытке доказать утверждение с использованием его же. Вопрос "Почему мы обнаружили себя..." подменяет априори на апостериори и совершенно подобен вопросу "Ну почему я?" пассажира падающего лайнера.
Все факты, которые мы можем признать свидетельствами КС, должны быть сцеплены с этой гипотезой в реале, а не в чьей-то измученной парадоксами голове. То есть, мы должны видеть, что они по-разному влияют на нашу оценку достоверности гипотез "КС будет" и "КС не будет". Не знаю как вашего, но факт моего рождения, как мне хочется надеяться, таким свойством не обладает, даже несмотря на то, что Нерушимого Обета не разрушать мир я вроде бы не давал... если, конечно, мне не стерли память. Хотя это ведь можно проверить. Вот завтра попытаюсь разрушить - и погляжу, что получится...



40
ТС на самом деле очень правильный подход продемонстрировал. Только надо его обобщить и не пытаться сразу вот так вот втиснуть в рамки формальной математики.

Всякий парадокс субъективен. (Если он объективен, то это не парадокс, а научная проблема.) То есть, он существует у нас в сознании (но не обязательно у всех нас) и отражает наличие там некоего когнитивного искажения. По сути, парадоксальность - это не факт, а ощущение, чувство, эмоция. Это звоночек у нас в голове: "братан, типа по жизни чота не так, ну-ка давай проверь настройки!" Избавиться от чувства парадокса - с практической точки зрения и означает его разрешить. Он перестает тебя мучить, перестает отбирать твои ресурсы - а не в этом ли задача? Не абстрактная задача, а твоя, личная?

Одним из типичных искажений при "чувстве парадокса" является т.н. "баба", или "аберрация абстрагирования". Суть ее в том, что во всех задачках, подобных Аллэ, в качестве условия всегда приводится абстрактная, оторванная от жизни ситуация. Но человек не живет в абстрактном платоновском мире. Он живет в в мире вещном, где не бывает таких простых ситуаций, где каждая ситуация всегда обставлена кучей привходящих обстоятельств, а условия якобы парадоксальной задачи - лишь проекция, искаженная, аберрированная и частично обессмысленная, как вырванная из контекста фраза. Причем обстоятельства эти разные и у разных людей, и у меня в разные моменты моего бытия. Реальные решения принимаются в реальной жизни (а моя жизнь для меня субъективно реальна, в рамках туннеля, конечно), а не в платоновском мире идей.

Дело в том, что в студенческие годы мы тоже баловались всякими рациональными идеями и концепциями (не теряя, впрочем, самоиронии). И насочиняли всякой херни не меньше Юдковски, часть из которой, видимо, не совсем херня, так как запала в память. Причем отдельные понятия, вроде бы чисто наши, тусовочные - например, "туннель реальности" -  и вовсе обнаружились через некоторое время в популярных концепциях почти в такой же формулировке.

Еще одним универсальным понятием был и является УДК - Условный Душевный Комфорт. Это по определению, видимо, и есть та самая "функция полезности". Ибо "всё, что мы делаем - мы делаем ради того, чтобы максимизировать УДК". Вот только формализовать УДК в терминах математики нет никакого смысла. Он и так вполне годится, чтобы снимать баб... э-э-э... в смысле, устранять аберрации. И для многих других задач (скажем, чтобы жить было веселее).

Теперь у нас достаточно понятий, чтобы рассмотреть этот якобы парадокс. Собственно, серьезную дилемму представляет лишь первая его половина. Выбор (может быть, не рациональный, но правильный, потому что максимизирует УДК) сильно зависит от обстоятельств. Скажем, если я банкир и речь идет о наполнении кассы банка (в которой уже лежат миллионы), я наверняка выберу 27000. Если у меня есть знание о многократной повторяемости данного эксперимента - тоже. Если страховая компания готова за 1000 застраховать меня от потери 27 тыс. - тем более. (И будь у меня тыщ 100, я готов буду поработать такой страховой компанией, если у Аллэ в приемной выстроится очередь желающих попытать счастья.)
Но в типичной своей ситуации я выберу 24, и буду прав. Потому что с точки зрения своего бюджета я плохо различаю 24 и 27, у меня все равно нет четких планов, как их потратить. УДК, полученный от приобретения этих денег, примерно один и тот же. А вот выбрав 27, я рискую этого УДК лишиться на много дней вперед. С вероятностью 1/34 (пусть маленькой, но далеко не нулевой) меня как минимум неделю будет грызть живьем моя жаба, напевая: "Дурак, вот дурак! А выбрал бы 24 - сейчас бы летел на Канары..." Минутный дискомфорт в момент выбора или долгий-долгий потом... да о чем тут говорить! 

А вот во втором варианте выбора дилемма в проекции на УДК на самом деле очень слабая. Я у него (у комфорта своего) спросил, и он ответил, что почти не различает вероятности 33% и 34%. "Поэтому, - говорит, - бери 27 и не мучайся." Я и беру. Хотя три на два в кубе мне кажется красивее, чем три в кубе. Потому что особой разницы нет Получится урвать - хорошо, не получится - хрен с ним. Главное, правильно настроиться и быть готовым к облому.
То есть, психотехника, позволяющая подавить раздражение от неудачи, гораздо проще (деньги - пыль!), УДК в обоих случаях страдает примерно одинаково, и куда меньше, чем в случае неудачи при шансах 33/34.

Так что я вот лично никак не пойму, где парадокс. Я умею считать, чесслово. Две секунды - и я скажу вам, что абстрактно выгоднее с точки зрения тервера. Но я не понимаю, зачем видеть тут парадокс? Какая мне с этого польза? У меня за дверью живой Юдковски, что ли, стоит с двумя коробками? Но коли так - тем более неважно, 24 или 27. Все равно ж часть пропьем, а остальное придется пожертвовать на цели создания дружественного ИИ.




41
Есть принципиальные различия между частотной вероятностью и байесовской.
Я понимаю разницу, мамой клянусь!
И да, как и Вы, полагаю ее мировоззренческой.
И да, как и Вы, предпочитаю субъективистское понимание. Хотя фразу "байесовская вероятность это возводит в ранг правила математической точности" считаю жутко некорректной: в ней как минимум присутствует выражение с сильной эмоциональной коннотацией "возводит в ранг", а также неявное (и весьма сомнительное) допущение, что "математическая точность" является характеризующим признаком, позволяющим отнести теорию к философскому метауровню мышления.
Но самое печальное, что постоянные ссылки Юдковски и авторов данного форума на некую "реальность", постоянное неявное предполагание, что существует некоторая неизменная и "правильная" "территория", порождают у меня подозрение, что, причисляя себя к субъективистам, байесианцы на самом деле  не мыслят как субъективисты. Сократ, конечно, голова, я б ему палец в рот не положил, но вы уж определитесь заодно, как вы относитесь к Кьеркегору, Канту, Ясперсу, Гуссерлю, коли уж претендуете на философский метауровень. Впрочем, понятно как. Как к Попперу, видимо. Увы, "байесианство пришло на смену критическому рационализму" (вычитал в одной из статей) - для меня звучит смешно, примерно как заявление, что "марксизм-ленинизм пришел на смену диалектическому материализму".

И да, это не схоластика. Это как раз тот способ, которым человеческая голова познаёт реальность.
Вот видите. Опять "реальность". Как можно познать "вещь в себе"? Ну ладно, заменим последние два слова на "пытается нечто познать". Даже в этом случае утверждение чересчур сильное. Да, часть процесса познания, видимо, происходит похожим на байесовские рассуждения образом. И в этом - польза байесианства. Но в любом случае это лишь гносеологическая модель, "карта карты". Попытка приписать байесианству большее, имхо, сродни необоснованной претензии на мировое господство. Такая гипотеза слишком чешет ЧСВ, это подозрительно.
На самом деле я сказал выше, и я скажу ещё раз: все попытки сказать, что данная задача нерешаема теорвером, для меня выглядят слабостью. Попыткой свою личную неспособность решить задачу превратить в универсальное правило. Может быть загадочный вопрос, но загадочный ответ -- это нонсенс. Наше личное непонимание того, как решается задача -- это наше личное непонимание, а не неотъемлимое свойство задачи.
Это еще может быть нашим личным непониманием ее условий. Или непониманием отсутствия у нее корректных условий. Или наличием в ней лишних условий, которые мы не сумели отсечь и упорно принимаем к рассмотрению, пытаясь всунуть в рассуждения, в которых они только мешают.
В задаче "оценить вероятность КС в течение 100 лет" лишней является информация об экспоненциальном росте населения в абстрактной формулировке. Идея сингулярности - это свидетельство, да. И рост населения нужно учесть, но иначе - например, оценивая последствия перенаселения Земли при отсутствии технологий колонизации космоса.
Парадокс DA порождается тем, имхо, что принцип Коперника, на котором он основан, неявно противоречит байесианскому взгляду на мир. Он, возможно, годится для гипотезы о нашем одиночестве во вселенной, поясняя "отсутствие свидетельств". Но не является свидетельством сам по себе, т.к. это не эмпирика, а порождение воспаленного сознания. И в данном случае неуместен.
Априорная вероятность авиакатастрофы ничего не значит для человека в падающем самолете, как и для того, кто уже сходит по трапу. Более того, для уже летящего на 10000 м - тоже, если допустить, что он не способен ничего сделать в случае появления грозящих катастрофой проблем. Человек может собирать какие-то свидетельства до посадки в самолет, с целью принять решение: лететь или нет, переоценивая априорные шансы.
Да, если "замкнуть" пространство элементарных событий "рождение человека" неким апокалипсисом и предположить их независимость, то можно рассуждать о вероятности моего рождения в ту или иную эпоху. Но я уже родился! Это не гипотеза и "не факт, это больше, чем факт - так оно и есть на самом деле". И я, увы, не имел возможности выбрать, когда это сделать. Ничего уже не повлияет на вероятность моего рождения. Оно свершилось!
Но разве я центр мира? "То есть, я, конечно, центр сошел с ума, но не до такой же степени!" Значит, замкнуть ПЭС можно совершенно произвольным образом, и да, в зависимости от того, как я ее (мысленно!) замкну, я обнаружу себя в той или иной точке интервала: может, в первых 5% человечества, а может, и в последних 20% (но не в 5, увы) - но эта пустая схоластика не может свидетельствовать ни о чем.

Добавлено [time]20 Июль 2016, 10:42[/time]:
Немного не согласен. Это разные интерпретации в том смысле, что если оба ( байесианец и частотник ) дают решение для задачи, то оно будет иметь одинаковый ответ.
Но при этом есть целый класс задач ( в частности эта ) которую "частотники" заявляют как "не имеющие смысла".
Т.е. ответ "я придерживаюсь частотной интерпретации, поэтому эта задача не имеет смысла" - вполне легальный ответ, который я готов принять ... пока спор между частотниками и байесианцами не закончен. Хоть я с ним и не согласен.
ОК, я Вас понял. Единственная просьба не обзывать меня "частотником"... Руки дойдут - публикну, наверное, темку про интерпретации, дабы расставить по местам то, что по ним расставляемо. Мы как раз в воскресенье ее обсуждали...  Ну да это потом.
Я хотел бы только вот что заметить: отсутствие смысла не мешает решать задачу. Оно может лишь служить отмазкой для нежелания ее решать. Интерпретировать можно результат решения, но не его процесс, который идет исключительно в голове и не требует перманентной привязки к "территории". Хотя процесс действительно может идти по-разному в зависимости от навыков и шаблонов мышления. Но любой математик знает, что если задача решена, то ответ будет один и тот же вне зависимости от того, решалась ли она методами теории чисел или с помощью эллиптических интегралов.

42
Так вы частотник? Ну, тут форум байесианцев в основном, так что вас не поймут.
"Разве нас может интересовать мнение человека лысого, с таким носом? Пусть сначала исправит нос, отрастит волосы, а потом и выскажется."

Вообще-то, если я правильно понимаю Юдковски, обозначение "байесианец" не может служить идентификатором "свой-чужой".
Быть байесианцем и причислять себя к данному сообществу - разные вещи, не так ли? 
Если Вы подписываетесь под тем, что байесианец способен понять только байесианца... то Вы не байесианец, как мне думается. ;)
Частотная, коломогоровская, байесовская интепретации вероятности - это лишь интерпретации, связанные с мировоззренческими установками. В подавляющем большинстве задач совершенно не важно, какой интерпретации человек придерживается, так же как неважно, верит он в Бога или нет, носит ли балахон, пейсы или колпак с бубенцами.

43
Шикарная дискуссия! Низкий поклон участникам! Жаль, что она сошла на нет.
Получив когда-то хорошее (честное слово!) физическое образование, я уже 25 лет не занимаюсь наукой, так что полностью вникнуть во все тезисы и аргументы если и смог бы, то потратив огромный объем самого ценного своего ресурса - времени. Поэтому вынужден пользоваться при анализе полученной информации лишь Системой 1. А она подала в Систему 2 сигнал, что позиция LswAgnostic мне нравится больше. (Ближе? Понятнее? Нет, просто "нравится".) Почему?
Поскольку "образование - это то, что остается, когда всё забыл", я склонен полагать, что моя Система 1 до сих пор работает достаточно адекватно, посему Система 2 может, при желании, выработать некоторые формулировки гипотез, отвечающих на данный вопрос.
Попробую перечислить:
1. Целью дискуссии для отдельного участника может быть а) вербовка оппонента на свою сторону / убеждение его (и заодно себя) в своей правоте; б) осознание разницы мнений; в) иные цели (напр., троллинг). Пропагандистские цели я полагаю менее этичными. И мне показалось, что в высказываниях LswAgnostic доля желания перевербовать была меньше, а желания понять - больше, чем у оппонентов.
2. Просмотреть все многочисленные авторитетные свидетельства, на которые ссылались диспутанты, я, конечно, не мог. Но сложилось ощущение, что доля свидетельств извне предмета дискуссии, а также их разнообразие у LswAgnostic были выше.
В итоге родилась гипотеза, что одним из преимуществом байесианства с точки зрения его "продвижения в массы" является то, что для его приятия требуется куда меньший объем знаний, чем для приятия "других проявлений рациональности". Это можно интерпретировать как признак "истинности учения" (старик Оккам вертится в гробу), но и как признак заведомого опрощения в пропагандистских целях. Тогда, конечно, важно, каковы эти цели. (Владея МРМ, я могу выигрывать. Это понятная личная цель. Но зачем мне вербовать других? Это же снижает вероятность моего выигрыша!)
3. Дискуссия выглядит так, будто участники не вполне договорились о терминах, либо, что скорее всего, у них разная аксиоматика, выходящая за пределы "дискуссионной площадки", и для осознания этой разницы требуется некий метауровень взгляда на дискуссию. Философский, грубо говоря. И тут возникает перед глазами ник одного из участников. Не является ли данный спор в конечном счете дискуссией гностика и агностика?
Лирическое отступление. Глубокое изучение квантовой механики "взрывает мозг". Это не просто слом шаблона, это именно перестройка мировоззрения. На мне этот процесс сказался смешным образом: я принялся срывать один за другим семинары по диамату, которые вел вполне искренне убежденный в своей правоте аспирант филфака. В конце концов, когда ему надоела очередная дискуссия с болтливым неучем, он бросил ему обвинение в"экзистенциализме". Что, конечно же, привело к немедленному изучению неучем материалов по данной теме (включая просмотр пьес Камю в театре на Юго-Западе) и вылилось, в частности, в написание реферата к госу по философии на тему "Бытия и ничто" Сартра. Неудивительно, что интерпретация КМ у меня явно копенгагеновская.
Так вот. Мне кажется, что в глубине разногласий лежит разное представление о понятии "территория". Байесианство в том его изложении, которое проглядывает на этом форуме и в статьях Юдковски (написанных достаточно просто для понимания даже моим почти растерявшим навыки научного мышления мозгом) на удивление гностично. Для меня это - серьезный когнитивный диссонанс! Я никак не могу понять, как можно интерпретировать вероятность чисто субъективно, но при этом не просто допускать, а практически постулировать существование неизменной объективной реальности. Где-то здесь скрыт парадокс, которого я не понимаю. Откуда вы взяли, что территория объективно имеется и неизменна? И зачем нужно такое допущение? Есть же Гуссерль с его феноменологией. Почему не вынести вопрос о реальности "за скобки" (т.н. "феноменологическая редукция")? Что это изменит, кроме ощущения собственной правоты?
Так может быть, данное ощущение - главная опора и цель? Ибо резанула фраза:
Противоречия в мировоззрении -- это что-то плохое, да.
Мне почему-то здесь слышится: "Нет Бога кроме Байеса, и Юдковски - пророк его". К сожалению, это опасение лишь подтверждается столь любимой цитатой Юдковски: "То, что может быть разрушено правдой - должно быть разрушено". Где-то я это уже слышал. Не в ленинских ли статьях? Для сравнения, приведу свою любимую цитату: "Трагедия - это две несовместимые правды".
К сожалению, убежденность, что а) реальность существует; и б) я владею наиболее острым инструментом ее познания - неминуемо приводит к "...должно быть разрушено", а далее и к "до основанья - а затем..." Принципиальное непризнание возможности существования разных правд - не в смысле методов познания, а именно на уровне мировоззрения, на уровне общих жизненных целей и принципов - для меня неприемлемо.
Способны ли рационалисты развеять данное сомнение?

Ну и наконец, "контрольный вопрос": является ли гипотеза "Байеровская вероятность важнее других проявлений рациональности" фальсифицируемой?   ;)




44
P.S. Я несколько озадачен первой смутившей меня вещью. Что то в моих размышлениях не так, но что - не вижу.  ??? Если сможете подсказать - буду признателен.
Мы не просто наблюдаем рост численности, но и можем строить некоторые достоверные гипотезы, исходя из понимания процессов, которые на нее влияют. Грубо: мы знаем средний срок жизни, среднее число детей, и т.п.
Если мы будет достаточно хорошо понимать процессы, приводящие к росту ребенка, мы также сможем строить гипотезы о том, что с его весом будет дальше. Другой вариант (уже статистический) - посмотреть на других детей, изучить закономерности их роста. Если же  у нас нет ни того, ни другого - мы ничего не можем сказать. То есть, сказать-то мы можем, но толку в этом будет...

Математика - лишь инструмент для нашего мозга, как топор для руки. Но в подавляющем большинстве случаев "чувство парадокса" указывает не на наличие реальной проблемы, требующей решения, а на наличие шаблона мышления. Часто тут нужен не Байес, а психоаналитик. Хвататься думать надо всем, что показалось вам странным... тогда в некий момент и психоаналитик может не спасти.

Прежде всего, чтобы вот именно рационально рассмотреть вопрос, следует "убить наблюдателя". Грубый пример: при посадке в самолет вероятность гибели в авиакатастрофе (мы не знаем никаких обстоятельств вроде технического состояния борта и степени трезвости экипажа) ничтожно мала - миллионные доли процента. Как вы думаете, с точки зрения пассажира падающего самолета - это парадокс? А у него ведь самый последний вопрос звучит почти так же: "Почему я?" Следует ли из этого, что пользоваться авиационным транспортом нельзя? Нет? Значит, и конца света бояться не следует, видимо... Или вы не считаете такое рассуждение рациональным? ;)

Тогда давайте так. Рациональное мышление, мягко говоря, не сводится к байесовским оценкам. Сначала нужно построить гипотезы. Взять их откуда-то: с потолка, и подкорки, списать у соседа по парте. Творческий такой процесс, ага. Неформализуемый.  Потом эти гипотезы надо как-то оценить. Причем оценить, исходя из эмпирических данных. Повторю, эмпирических, то есть взятых где-то снаружи, а не изнутри вашей головы. И только после того можно что-то вычислять. Если же все начальные оценки высосаны вами из пальца или из собственных нейронов - любые ваши выводы будут пустопорожней схоластикой.


Страницы: 1 2 [3]