Сообщения

31

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 2

« : 28 Апреля 2019, 02:03 »

Рациональное и иррациональное — в отношении мышления мне, признаюсь, непонятно данное противопоставление. Таким может быть вывод, выраженный в словах или иных символах, таким может быть решение, выраженное в поступке. Но я лично мыслю (и, следовательно, существую) в какой-то иной плоскости, нежели та, в которой лежат данные понятия. Рациональность — это качество логики, а не самого мышления. То есть, это понятие скорее синтаксическое, чем семантическое.

Если глянуть исторически, то рациональный агент -- это изобретение экономики. Вебер, по-моему, придумал рационального агента. Вебер был социологом, а не экономистом, но в общем он создавал модель общества подходящую для экономики, и экономисты залипли на этом, внося в свои экономические модели постулат о рациональности участников рынка. После Великой Депрессии острота этого постулата несколько снизилась, но потом (где-то в районе 1970-1980) пришёл Фридман и там ещё какой-то чувак пришёл, я забыл как его звать, и они разломали кейнсианство и между прочим вернули в экономические теории рациональных агентов в новой инкарнации -- теория рациональных ожиданий (rational expectations theory).

Канеман, которого Юдковский так уважает, и выдаёт это уважение Поттеру из ГПиМРМ, по-хорошему-то всё что сделал -- это показал, что участники рынка вообще и очень сильно нерациональны. Что всё же не стоит, строя модель экономики, закладывать в основание постулат о том, что участники рынка ведут себя рационально. Они систематически ведут себя иррационально.

И в этом контексте рационально и иррационально довольно легко определяется. Рациональный агент оптимизирует прибыль (ну или доход или что-то там -- я в этой экономической терминологии до сих пор плаваю).

Собственно Юдковский именно в этом смысле понимает рационального агента, и он это понимание расширяет с поведения на рынке на вообще любое поведение.


Я сейчас заглянул в википедию и там такой замечательный пассаж есть (собственно это первый абзац статьи, самые сливки):

Rationality is the quality or state of being rational – that is, being based on or agreeable to reason.[1][2] Rationality implies the conformity of one's beliefs with one's reasons to believe, and of one's actions with one's reasons for action. "Rationality" has different specialized meanings in philosophy,[3] economics, sociology, psychology, evolutionary biology, game theory and political science.

Мне очень нравится. Но я хочу подчеркнуть последнее предложение: рациональность имеет различные специализированные значения в философии, экономике, социологии, психологии, эволюционной биологии, теории игр и в политической науке. Вот Юдковский берёт экономическое значение, а потом начинает его перемешивать со всеми остальными. Совершая ошибку, схожую с той, в которой Поттер обвинял проф. Квиррела, мол, тот скептичен ко всему, кроме самого скепсиса. Вот Юдковский, по-моему, выстраивая своё рациональное мировоззрение, забывает применить свои методы к этому самому выстроенному мировоззрению. Деля всё на карту и территорию, Юдковский забывает подумать мысль "если рациональность это карта, то что является территорией для этой карты".

Сама по себе рациональность Юдковского -- это лишь карта процессов познания и принятия решения. Реальные процессы познания и (я верю что) принятия решения, которые протекают в нашей голове, сокрыты от нас. Может быть они даже сокрыты барьером сходным с психофизическим, и столь же непознаваемы. Оценить рациональность можно только по поведению, но поведение не есть рациональность. Это то же самое, что вы пишете про вероятность: мы можем наблюдать исход, но саму вероятность нет. Так и с рациональностью -- мы можем наблюдать результат, но не рациональность. Даже если человек нам излагает каким образом он пришёл к решению, то это лишь его изложение, это его словесная интерпретация его процесса мышления, и даже если он не врёт нам сознательно по каким-то причинам, эта интерпретация может быть рационализацией. Мы не можем отличить, и я подозреваю, что мы принципиально не можем отличить, потому что любая высказанная словами мысль строится теми же механизмами психики и на тех же принципах, что и рационализация.

Впрочем, это уже психология, куда вы не хотели лезть, но я могу вернутся на шаг назад: есть много рациональностей. Под каждую задачу придумывается своё определение рациональности. И байесианская рациональность -- это лишь способ описания этой самой рациональности. И это неизбежно, потому что рациональность так или иначе требует утилитарной функции, которую мы будем оптимизировать. Но эта утилитарная функция нам неизвестна. У Лэма был какой-то рассказ (я могу поискать если интересно), в котором робот-убийца с искусственным интеллектом занимался психологичекими практиками, пытаясь понять себя. Который возлюбил свою предназначенную жертву, нашёл её чтобы сказать ей об этом, и с любовью убил. Точнее добил, потому что тот и так уже умирал. То что мы считаем своей утилитарной функцией -- это интерполяция, построенная на основании наблюдений за собой.

32

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма, часть 3

« : 28 Апреля 2019, 00:53 »

Главное в том, что состояние классической системы непосредственно наблюдаемо. И абсолютно точно. Ибо точка фазового пространства — бесконечно мала. Мы можем в любой момент замерить положение, скорость и вращение твердого тела и указать тем самым, в какой точке фазового пространства данная система находится.

Меня вот это резануло. Это может быть к тому выяснению, что субъективно, а что объективно. Я вижу физику -- классическую или квантовую, без разницы, -- как карту. Физика это карта реальности, самая точная из существующих карт реальности, но всё же карта.

Реальность как таковая не дана нам в психике, её нет в сенсорном входе информации в психику. Всё что мы можем -- это создавать предсказательные модели, которые всё лучше и лучше предсказывают сенсорный вход. Это не значит само по себе, что мы в принципе не можем создать модель, которая будет предсказывать реальность абсолютно точно. Мы не можем, но тому есть другие причины. Психофический барьер сам по себе не запрещает создание точной карты, запрет проистекает из ограниченности вычислительных возможностей психики, из квантовой неопределённости, и может быть из ограничения на скорость из теории относительности.

И если так, то фраза "состояние классической системы непосредственно наблюдаемо" становится несколько размытой. Классическая система -- это карта, модель, это идеальная система. Наблюдения же дают нам информацию о реальности. Мы наблюдаем/измеряем, а потом берём результаты и интерпретируем их в рамках модели, внося туда (edit: "туда" -- это "в модель") начальные параметры. Когда же мы говорим о наблюдаемом состоянии, мы смешиваем идеальную систему и реальность.

Это может быть просто придирка к формулировке, а может и нет. Мне кажется, что очень важно иметь в психике эдакое нечто названное реальностью, пускай даже всё что мы знаем о ней -- это то, что она непознаваема непосредственно и наше восприятие может работать с ней только через призму моделей. Важно потому, что так или иначе у нас в голове есть много разных моделей под разные случаи жизни, у нас в голове возникают даже иерархии моделей, когда одна модель построена поверх другой модели. У нас даже возникают модели пространства наших моделей, как я сейчас демонстрирую.

Один из способа упорядочивать пространство моделей -- это классифицировать их по "близости к реальности", смотреть как далеко модель от реальности. Понятно, что это условность. Точнее может быть это условность. Возьмём, для примера, термодинамику газов. Там есть микроуровень -- это модель газа как множества молекул-шариков, и модель кстати стохастическая, но даже не в силу квантовой неопределённости, а просто потому что всем влом измерять положение каждой индивидуальной молекулы, да и не нужно это. И есть макроуровень, где основные параметры -- давление и температура. Тут как бы выходит, что макроуровень -- это модель, которая дальше от реальности, чем микроуровень. Но это условность, потому, что макроуровень был создан в процессе познания раньше. То есть, в некотором смысле, макроуровень ближе к реальности, он требует меньше фантазирования о невидимых вещах, которые не даны нам в ощущениях. Но... Впрочем, я оставлю эту нить рассуждения, иначе я никогда не закончу.

Так вот, есть у нас в голове много моделей и мы как-то их друг с другом соотносим. Но если мы не выделяем реальность в отдельную непознаваемую сущность, то при выстраивании иерархии моделей у нас начинаются проблемы. Юдковский, например, приходит к тому, что он регулярно ставит знак равенства между квантовой механикой и реальностью. Это может быть и не так страшно -- мы же в конце-концов понимаем, что это не так. Мы держим в уме, что это не так. Но мне не нравится держать в уме то, что можно непосредственно уложить в общую картину. Я не вижу причин держать в уме то, что можно непосредственно уложить в общую картину.

33

Рациональность / Re: Интерпретации вероятности и критика эпистемологии рационализма

« : 27 Апреля 2019, 23:58 »

О, круто. Мне нравится ваш труд уже потому, что он ищет место Юдковскому на карте размеченной признанными философами.

[Движок добавляет новые сообщения к старому и тем самым не позволяет выложить текст более 20 тыс. Регать нового перса, чтобы прокладывать между постами - лень. Придется заводить вторую тему. А потом и третью.]

Можно было, наверное, выложить в wiki, и накидать сюда ссылок.

34

Обсуждение книги / Re: Замечания о переводе

« : 17 Марта 2019, 20:48 »

Глава 27.
"Disappeared anyone" - "исчез кого-то", т.е. грубо говоря - Гарри лично никого не ликвидировал, не изгонял и т.п.. Слово "устраивал" неточное, т.к. Гарри это всё устроил. Может "провернул"?

"Изчез кого-то"... Я посмотрел в словаре синонимов, и я не вижу там ничего хорошего, чтобы в страдательном залоге можно было бы употребить, сохранив грамматическую структуру предложения.
https://sinonim.org/s/%D0%B8%D1%81%D1%87%D0%B5%D0%B7%D0%B0%D1%82%D1%8C
По моим наблюдениям, грамматически подходят варианты, которые заканчиваются на "-ся", их можно поставить в нужную форму, убрав этот самый "-ся", но... "никого не провалил скозь землю"? "никого не испарил"? Такие штуки могут сработать, но только если в предыдущем предложении упомянуть Риту Скитер, как провалившуюся сквозь землю или как испарившуюся.

Противоположность - это дополнение множества? Но на картинке с девушкой и старухой одни и те же графические элементы принадлежат обеим интерпретациям, т.е. такая "противоположность" не достигается.

С обеими картинками есть такой эффект интересный, что можно видеть либо одну интерпретацию, либо другую, но не обе вместе и одновременно. "Противоположность" может не лучшее слово, может быть лучше было бы слово, которое лучше отражает идею несовместимости, идею вытеснения одного другим. Но я не знаю, что это может быть.

Та идея, которую Гермиона пыталась ухватить за хвост, сводилась к тому, что она проверила все правила трансфигурации, задавая вопросы Поттеру, и тем самым нарушила правила трансфигурации, ибо вопросы о безопасности правил можно задавать только МакГонагалл или Дамблдору.

Короче, я не знаю как это с литературной точки зрения, но с психологической всё ок. В голове у Гермионы созрело понимание факта нарушения правил, и это понимание потихоньку всплывало на поверхность сознания, ища способ как перекодировать это понимание из бессознательного представления в представление, которое будет понятно сознанию, которое уложится в стройную картину мира, поддерживаемую сознанием, которое сгладит возникающие когнитивные диссонансы, которое выделит причины и следствия, развесит няшные ярлычки "истина" и "ложь" и тп. И эти поиски отражались в сознании Гермионы как ассоциации, чем-то близкие всплывающей идее (то есть имеющие с ней какое-то общее свойство), но недостаточно точные.

Весь предыдущий абзай был ради этой фразы "недостаточно точные", что оправдывает с психологической точки зрения использование недостаточно точного слова.

35

Обсуждение книги / Re: Замечания о переводе

« : 10 Марта 2019, 17:30 »

Первый же ответ там (в ВК) по-моему исчерпывающий - не мог остаться без защиты.

Меня это не убеждает. Патронус перемещается быстро -- можно заценить по времени между двумя появлениями патронуса МакГонагалл, когда она Поттеру в Азкабан отправляла сообщения. Быстро перемещается, быстро возвращается. Бари при этом работает в Азкабане, он не может иметь повышенную чувствительность к воздействию дементоров. Либо он забыл про такую возможность, либо не знал про неё. Последний вариант наиболее вероятен.

Но это, на самом деле, не очень важно, потому что только члены Ордена Феникса могли отправлять Патронуса. Я просто попробовал поискать по реддиту, и напоролся на ссылку: https://www.lesswrong.com/posts/nnnd4KRQxs6DYcehD/harry-potter-and-the-methods-of-rationality-discussion-19#8p9nqoCueDGhaiY9n
Она немного о другом, но "I hadn't thought of that, but (in canon) only members of the Order of the Phoenix can use their Patronuses that way." Это слова Юдковского, они немного выдраны из контекста, но они заявляют именно, что только члены Ордена Феникса могут отправлять патронусов.

К чему там местоимение вместо артикля. Может быть просто потому, что англичане вообще любят вставлять местоимения не к месту (с точки зрения русского), может потому что Юдковский думал, что Квиррелл думал, что если только члены Ордена Феникса могут отправлять патронусов, то это значит, что их Дамблдор научил. Но мне кажется, что перевод ничего не проиграет от того, что фишка Дамблдора станет фишкой Дамблдора. В том смысле, что это на самом деле наиболее вероятное объяснение тому, что только члены Ордена Феникса могли отправлять патронуса, и, даже если не Дамблдор научил Орден Феникса этому, то Квиррелл не мог считать иначе.

Кстати из этого вытекает, что с большой вероятностью Бари не был членом Ордена Феникса. Так ли это?

36

Рациональность / Re: Doomsday argument как слабое свидетельство конца света или мира - симуляции.

« : 08 Марта 2019, 21:06 »

что, если парадокс не является парадоксом, потому что мы живем не в самом начале, а в самом конце человеческой истории?

Нет. Из наблюдения о том, что численность человечества изменяется экспоненциально не следует того, что завтра будет конец света. Я внезапно просветлился и понял это.

Рассуждение примерно такое.

Этот топик был начат два с половиной года назад, и тогда вероятность конца света завтра была равна 1. Сегодня она опять равна 1. Если мы на временной оси выберем любую точку, где происходит экспоненциальный рост, то эта вероятность будет равна 1 для того, кто находится в этой точке и высчитывает эту вероятность.

Отсюда вытекает лишь одно: вероятности конца света во всех этих точках равны. Энтропия распределения равна нулю. А значит, данное наблюдение даёт нам 0 бит информации о том, когда случится конец света.

Фух. Я теперь могу спать спокойно.


Тут есть одна вещь, которая не совсем формализуется в моей голове до чисто математической строгости -- в словах "энтропия распределения равна нулю" есть ссылка на распределение вероятности, но я не уверен, что предложенный способ посчитать эти вероятности в разных точках времени, даст нам в результате график вероятностей, который подпадает под определение графика плотности распределения вероятностей. То есть это будет график функции p(t), зависимость вероятности от времени, и я не вижу формальных причин, почему бы по нему не посчитать энтропию, и я уверен, что рассуждение верно. Но не уверен, что оно формально грамотно.

При этом, я сейчас пока излагал всё это, я вспоминил, что я где-то читал о вероятностях, что вероятность равная 1 не обязательно указывает на исход который стопудов случится. И там была ситуация типа этой: разные исходы имели вероятность равную 1. Вероятно фишка в том, что надо сначала отнормировать эти вероятности (то есть сложить все вероятности, а потом каждую поделить на получившуюся сумму, чтобы результирующие значения давали бы в сумме 1: сумма вероятностей всех возможных исходов должна равнятся 1, если это не так, то значит мы где-то накосячили).

Точно так же, вероятность равная 0, не обязательно означает невозможность исхода: если мы случайно бросим точку на отрезок [0,1],  то вероятность попасть в значение 0,5 равна нулю. Но для любой точки отрезка вероятность попадания точки туда равна нулю. И тем не менее какая-то из этих точек будет выбрана нашим броском, несмотря на нулевую вероятность.

37

Обсуждение книги / Re: Тот, кто разорвет звезды...

« : 21 Февраля 2019, 20:07 »

Поттер где-то упоминает (в смысле размышляет), что звёзды сжигают топливо приближая тепловую смерть Вселенной. Поэтому горение надо прекратить. И тут кстати встаёт любопытная задачка: как это сделать? Ну, допустим, мы взорвём звёзды и распылим их атомарным водородом по Вселенной, но флуктуации плотности броуновского движения приведут к появлению центров масс, на которые будет наматываться всё больше и больше водорода, которого со временем накопится столько, что у этого водорода из-за возникшего давления не будет другой возможности продолжать существование, кроме как уплющиваться в гелий.

Может если всю материю разобрать на кусочки чуть меньше критической массы необходимой для зажигания термояда, и потом как-нибудь хитро запустить их по орбите, чтобы создать динамическое равновесие в системе, чтобы они летали бы так и не сталкивались, то тогда запасы водорода смогут существовать столько, сколько потребуется.

А потом останется при помощи магии создать термоядерный реактор, с КПД близким к 100%, и запитать жизнь этим. Гораздо эффективнее выйдет, чем вся эта система со звёздами, с которых меньше процента мощности используется по делу.

38

Общение / Re: когда знания стали опасны

« : 20 Февраля 2019, 21:46 »

Может мне показалось, но я вижу в ваших словах чёрно-белую презумпцию: либо это хорошо, либо это плохо. Но так не бывает, всё имеет и чёрные стороны, и белые. Понятно, что для этих технологий можно придумать множество мирных применений. Ну, хотя бы, в психологии приходится заниматься анализом слов людей, и такая штука может позволить сделать это, во-первых, проще, во-вторых, объективнее. Но в то же время, есть и потенциальные плохие использования.

Все эти технологии меняют наше общество, сильно меняют. Я наблюдаю это уже лет тридцать. И конкретно эта технология, наверное, даже не является чем-то особо революционным. Что меня привлекло -- это именно ассоциация с тупыми маглами учёными из ГПиМРМ, которые раскрыли политикам ядерную бомбу. Мы видим здесь исследователей, которые сделали полшага в сторону Байесианского заговора, в сторону технологий, которые доступны только тем, кто может их воспроизвести.

То есть, даже "полшага" -- это может быть преувеличение. Они продолжают исходить из идеи "если мы не раскроем, то другие раскроют", не видно сотрудничества в этой дилемме заключённого. Но пускай не полшага, пускай они лишь движение обозначили, но это произошло.

39

Общение / Re: когда знания стали опасны

« : 16 Февраля 2019, 18:17 »

Фейковые новости/аккаунты/спам написанные людьми на зарплате или роботом - велика ли разница?

Да. Роботы могут насоздавать на много порядков больше.

Надо читать доверенные источники, проверять важные вещи, а не тыкать на контекстную рекламу со скандальными заголовками.

Эмм... Я не уверен, что это так работает. Самый доверенный источник, который я знаю -- это научные статьи, но даже научной статье я не поверю, пока не загляну внутрь. По-крайней мере, если это не статья о физике/химии. Биология, тем более медицина, тем более психология, и совершенно определённо социология -- это области, где глупо принимать чьи-то выводы без анализа того, как он пришёл к этим выводам, на какие парадигмы он опирается, какие данные использует, каким образом он получал эти данные, как он их обрабатывал, и тп.

Но представьте теперь, что есть постоянный поток фейковых научных статей, где все данные были сгенерированы генератором случайных чисел, и подтасованы под выводы. Доверять рецензентам? Сомнительная идея:
Как я обманул миллионы, заставив их думать, что шоколад помогает сбрасывать вес, разложение науки. Я не знаю о кампаниях, нацеленных на то, чтобы завести науку во тьму, ссылки выше -- это лишь попытки показать, что подобные кампании возможны. Но представьте теперь, что AI генерирует по десятку статей в месяц? А если мы ещё научим его общаться с рецензентами, то есть учится на своих ошибках, проделывая всё то, что ребята по второй ссылке проделывали? А если таких AI несколько десятков, созданных разными игроками с разными целями? Кто-то доказывает, что глобальное потепление -- фейк; кто-то, что капитализм сгнил, наконец; кто-то, что Мадуро белый и пушистый; кто-то, что ожирение -- это здоровый образ жизни.

Думаю, просто снова возрастет рейтинг профессиональных команд (официальных сайтов и каналов) с редакторами, которые отсеивают фейки.

Если они смогут справиться с потоком фейков. Если не смогут, то они вместо чёрного списка и контекстной фильтрации включат фильтрацию по белому списку, и тогда мы будем получать лишь информацию, которая была получена в поле профессиональными журналистами/исследователями.

Будут какие-нибудь новые антибот-ИИ, вычисляющие фейки и ботов.

Гонка вооружений. Совершенно бесперспективно. То есть оно может позволит поддерживать градус неадеквата на определённом уровне, но в долгосрочной перспективе будет лишь усугублять ситуацию, и доводить её до уровня, когда вообще ни в чём разобраться невозможно. Единственный способ иметь какое-либо мнение -- это положиться на мнение доверенного ИИ. Любопытный, кстати, сценарий для захвата мира искусственным интеллектом. Я такого ещё не слышал.

Плюс ВК по паспорту и все такое.

Вот интернет по паспорту выглядит более правдоподобным. По-крайней мере в том смысле, что это может сработать.

Но, на самом деле, всё это можно обобщить и привести к общему знаменателю: это указывает на то, что вырастет значимость авторитета, и ценность информации будет определяться авторитетом в большей мере, чем фактами. Вопрос лишь в том, как будут выбираться эти авторитеты.

40

Общение / когда знания стали опасны

« : 16 Февраля 2019, 14:19 »

Первым учёным-маглам недоставало ваших традиций. Вначале они не имели представления об опасности знания и считали, что можно свободно говорить обо всём, что им удаётся узнать. Но когда знания стали опасны, они сказали своим политикам, что всё нужно держать в секрете

https://blog.openai.com/better-language-models/

Вкратце. Проект OpenAI натаскал нейросетку на генерацию текстов. Очень правдоподобных текстов, то есть очень похожих на написанное людьми. На моём уровне знания английского эти тексты неотличимы, от написанных людьми. Нейросетка может прочитать текст и ответить на вопросы о нём. Там по ссылке есть примеры.

Статья предполагает, что у подобный AI может быть использован для очень разных целей, и в частности злоумышленниками:

• для генерации фейковых новостей
• чтобы выдавать себя за другого
• для автоматизации производства оскорбительного или фейкового контента в соцсетях
• для автоматизации спама/фишинга

И поэтому исследователи выложили результаты лишь отчасти. Они не выложили готовую модель, не выложили данные, на которых тренировали нейросетку, не выложили программу, которая тренировала нейросетку. Как я понимаю, они выложили лишь топологию сетки, типа как там нейроны соединяются.

Это не спасёт нас от того, что мем "there are no girls on the Internet" устареет и его заменит "there are no humans on the Internet". Идея ясна, повторить разработку не так сложно. Нужен лишь один посредственный специалист и вычислительный кластер для тренировки сети. Навскидку, я полагаю это порядка десятков тысяч долларов и нескольких месяцев.

Но мы предупреждены и может быть у нас есть ещё полгода "старого" интернета, в котором даже фейковый контент пишется людьми. Что будет после мне лично сложно спрогнозировать. Островки здравого смысла в океане белого шума, где невозможно отличить ложь от истины?


Добавлено 16 Февраля 2019, 14:26:
Я вот думаю, что можно перейти на какой-нибудь редкий язык, и общаться на нём. Редкость языка не позволит легко натренировать сетку на него. Человек пока лучше нейросеток умеет учиться на небольших объёмах данных. На этом редком языке сгенерированные автоматически тексты будут светиться неграмотностью и непоследовательностью. Но это будет работать лишь для небольших сообществ, как только сообщество станет достаточно большим, чтобы стать целью для информационной атаки (реклама, фишинг, пропаганда, уничтожение сообщества, ...), оно станет целью и ничего не сможет противопоставить кроме "анального огорожения", с последующим угасанием в своём уютном загончике.

41

Общение / Re: СТЭ - фейк?!

« : 08 Февраля 2019, 10:41 »

kuuff, как я понял, разногласие у нас с Вами (и у Вас с авторами "Стэнфордского эксперимента"), по сути, в определении слова "эксперимент".

Да, но не совсем. Я пытаюсь показать, что это не наука, а цирк. А это значит, что делать какие-либо выводы из СТЭ и считать эти выводы научными, можно лишь после тщательного анализа того, что именно происходило в СТЭ, и на возможности этих выводов будут накладываться, как минимум, все те ограничения, которые связаны с исследованием вида "наблюдение". При этом, я не вижу какие научные выводы можно сделать из СТЭ, кроме "исследования надо планировать тщательнее".

Излагая это, я начинаю давить на правильное использование терминологии, но вовсе не для того, чтобы вы приняли эту терминологию и с сего момента использовали бы слово "эксперимент" правильно (что значит "правильно" в данном контексте? я не знаю.). Вовсе не для этого. Проблема в том, что я учился разговаривать о валидности научного исследования в терминологии, которая чётко разделяет эксперимент и наблюдение. Я не умею иначе, потому что валидность выводов из наблюдения проверяется иначе, чем валидность выводов из эксперимента. Любые сведения полученные от реальности позволяют нам уточнять свою картину мира, то есть виртуально, любые сведения позволяют делать валидные выводы. Но какие выводы будут валидными, а какие нет -- это уже можно выяснить только анализируя методологию исследования, а этот анализ начинается с того, что мы определяем тип исследования. Я мог бы попытаться табуировать слова, и заменять слово "эксперимент" на что-нибудь типа "опытная проверка существования причинно-следственной связи". И может быть так было бы лучше. Но мне показалось, что будет проще пояснить смысл, в котором я использую слова, и использовать их. И мне показалось, что это будет интереснее вам, поскольку мои сообщения будут более информативными -- они дадут возможность узнать немного о классификации научных исследований, хотя бы на уровне "я знаю, что такое существует, и представляю зачем".

Но вообще всё это вроде как просто спор о терминологии, т.е. ни о чём, на мой взгляд.

Я не рассматриваю это как спор. В том смысле, что я не считаю, что вы не правы в своих убеждениях, и я не вижу за вами попыток убедить меня в том, что я не прав в своих. Несогласия, как вы и говорите, возникают вокруг принципов использования слов, но я не считаю, что это разговор ни о чём. Мы можем понимать друг друга, только если мы понимаем слова одинаково. И разговор, нацеленный на выяснение того, как собеседник понимает слова -- это важный разговор. Ну да, Юдковский предложил другую технику -- "табуируй свои слова", -- но я выше написал, почему я предпочёл ей другую.

Да и, думаю, мне стоит сказать, что с главным посылом Вашего поста первого я-то, кажется, в целом согласен, - с тем, что на основании одного эксперимента, где набрали 70 человек по объявлению в газете, один раз всё это провели и всё - совсем не факт что так уж много можно сказать. Особенно в свете открывшихся фактов, про обман и т.п.

Там много претензий, и однократность опыта лишь одна из них.

42

Общение / Re: СТЭ - фейк?!

« : 07 Февраля 2019, 21:13 »

Вы, кажется, описываете некий "идеальный эксперимент", коих в природе видимо не существует (т.к. люди вроде как в принципе не создают вселенные, помимо вымышленных),

Да, создать несколько альтернативных Вселенных ради эксперимента невозможно. Но суть в том, что эксперимент -- это как минимум два замера, один если ситуация смоделирована "так", а второй если ситуация смоделирована "эдак". Ну, например, если у меня есть гипотеза, что злые люди часто чихают, то мне нужно померять как часто чихает злой человек, и как часто чихает незлой человек. Тогда у меня будет два замера, и тогда их можно сравнивать.

Мне надо либо поделить всех испытуемых на две группы -- более злых и менее злых, либо поделить их на группы рандомно, и испытуемых из одной группы злить перед тем, как провоцировать их на чихание.

Ай, не. Я не прав, на самом деле. Если я поделю их на группы "злые" и "не злые", то тут не будет экспериментального воздействия, а значит это будет корреляционное исследование. По результатам (возможно) можно будет сказать, что злые чаще чихают, но сказать что именно злость вызывает чихание -- нет (может быть они злые, потому что у них простуда, и поэтому же они чихают чаще). Так что единственный вариант -- злить одну группу людей перед чиханием.

Но так или иначе, мы получаем, что все испытуемые оказываются в идентичных условиях (как бы в параллельных вселенных). Разница между ними только в том, какое экспериментальное воздействие мы оказываем.

а, во-вторых, любой эксперимент теоретически можно повторять до бесконечности, с каждой итерацией получая о нём всё больше знаний. Скажем, можно в качестве эксперимента покупать регулярно билеты американской лотереи Powerball, где шанс первый приз получить - порядка 1 на 300 миллионов, по моим данным. Соответственно, если черпать знания о данной лотерее исключительно из экспериментальных данных, то о наиболее значимом и "позитивном" исходе мы узнаем в среднем лишь спустя сотни миллионов купленных билетов, и то всей информации о данной лотерее эти сотни миллионов нам не дадут (и нисколько миллионов не дадут, видимо).

Это кстати не эксперимент. Для эксперимента нужно два сетапа, которые мы сравним. Где здесь два сетапа? Билет куплен и билет не куплен?

Но, к счастью, на практике, вроде как можно с подобными вещами знакомиться вообще без экспериментов. Я вот никогда лотерейные билеты не покупал, например, а написать что-то разумное по теме могу, вроде бы. Так же и с "экспериментами" в области психологии: люди ставят что могут, столько раз, сколько могут, а уж какие выводы делать из этого - бог его знает.

Да, действительно, есть вещи которые можно понимать без экспериментов. Вот если взять данную ситуацию, что было результатом исследования? Что вероятность взять первый приз 1/300M, так? В этом нет причинно-следственной связи, которую мы хотели бы проверить, мы уже заранее знаем как работает система на качественном уровне, у нас остаются лишь количественные вопросы. Нам лишь надо измерить. Это как с ростом: для того, чтобы измерить свой рост вовсе не обязательно ставить эксперименты, можно взять линейку и померять. У нас уже заранее есть готовая шкала для таких измерений, мы заранее постулировали, что вероятность взять первый приз не зависит ни от чего, она постоянна. Нам осталось приложить линейку и посмотреть результат.

Вот если бы мы предполагали, что вероятность выигрыша зависит от дня недели, вот тогда бы нам пришлось ставить эксперимент. И даже если мы возьмём исторические данные о выигрышах, и даже если там будут указаны даты покупок билетов, то всё что мы увидим в лучшем случае -- это корреляцию. Может быть даты билетов зависят от каких-то свойств личности купившего билет, и эти же свойства влияют на выбор дня недели для покупки билета? Какие ещё гипотезы можно предположить? Что на самом деле зависимость не от дня недели, а от места покупки билета, и в разных областях пики покупок билетов приходятся на разные дни недели?

Чуете? Померить вероятность просто, а как дело коснулось причинно-следственной связи, всё тут же стало сложно, и уже надо головой думать, включать креатив, генерировать гипотезы, и, конечно же, продумывать эксперимент так, чтобы чётко разделить гипотезы.

Мне лично немного странной кажется некоторая зацикленность (как я это вижу) "рационалистического сообщества" на слове эксперимент. Знания о мире можно получать и без экспериментов, кажется. Я вот в Сирии ни разу не был, например, а знаю, вроде бы, что там война идёт. Знаю, хотя ставил ноль экспериментов по приезду в Сирию и проверке, действительно ли там война, или же нет. И т.д. Хотя лично я даже ГПиМРМ не осилил, так что, возможно, моё мнение обо всём этом ни черта не стоит.

Я не знаю. Могу предположить.

Эксперимент -- это единственное, что позволяет делать уверенный вывод о наличии причинно-следственной связи. Не все факты о реальности -- это факты о причинно-следственной связи, утверждение "в Сирии идёт война" не содержит в себе причинно-следственной связи. Но такие факты и проверить проще, как правило. А вот установить причинно-следственную связь уже требует всяких вывертов. Из-за чего собственно и изобретали эксперимент, отрабатывали всю методологию эксперимента, и почему, скажем, в психологии экспериментальное исследование -- это круто, а вот корреляционное, скорее чтобы набить публикации.

И отчасти, может быть зацикленность на эксперименте идёт в рационалистические сообщества из научных кругов, которые несомненно гораздо больше заинтересованы в поиске причинно-следственных связей, нежели во всяких там деталях, типа есть ли война в Сирии, какой радиус у Земли, и тп. Не то, чтобы радиус Земли был бы не важен, но измерение его -- это скорее технический вопрос. Вот изобрести новый способ измерения, и использовать его -- это да, это круто, это новый инструмент в копилку. Измерить то, что нужно измерить, но сложно -- это тоже круто. А взять линейку и померить ею что-нибудь ещё, что никто не догадался померить -- пфеу, и чё? Спасибо, занесите ваши данные в базу данных, до свидания.

Может быть потому, рационалистские сообщества считают, что эксперимент -- это круто, и это наивысшее достижение в развитии исследовательских методов. А может потому, что причинно-следственные связи -- это основа любого описания реальности, и поэтому они выглядят важными, и поэтому единственный инструмент для их проверки оказывается столь популярным.

А может быть потому, что сообщество рационалистов в целом не слушало курс экспериментальной психологии, где за неумение объяснить основные отличия эксперимента от других методов исследования выгоняли с экзамена. И из-за этого большинство рационалистов не видит разницы между экспериментом, корреляционным исследованием, измерением и наблюдением, и поэтому они используют слово "эксперимент" для обозначения любого исследования. Но мне это режет глаз. Я, чтобы не занудничать, обычно делаю вид, что не замечаю, но здесь было уместно упомянуть, потому что Поттер называет исследование в "Робберс Крейв" экспериментом, то есть он (называя себя учёным), на самом деле лопух, неумело прикидывающийся учёным. СТЭ, кстати, тоже не эксперимент, там тоже нет сравнения двух условий.

43

Общение / Re: СТЭ - фейк?!

« : 07 Февраля 2019, 08:13 »

В процессе изучения психологии систематически, я пришёл к выводу, что почти вся психология на которую опирается Поттер в ГПиМРМ -- это, во-первых, популярная психология, то есть только то, что оказалось достаточно скандальным, чтобы доползти до неспециализированных СМИ, во-вторых, по большей части всё это туфта. И Зимбардо -- неплохой пример. Можно ещё вспомнить "Робберс Кейв" -- типа эксперимент, показывающий как возникает вражда между группами, и как её можно снять. Но это во-первых не эксперимент: эксперимент предполагает, что мы создадим две одинаковые "вселенные", одной позволим развиваться самостоятельно, а на другую произведём экспериментальное воздействие. А затем сравним результаты. При этом методологии для и ради, процедура сравнения должна быть формализована до начала эксперимента. Здесь же была только одна "вселенная". Чтобы это было экспериментом, надо было, например, взять ещё 44 мальчика, вывезти их в тот же лагерь, но не делить на две группы. При этом, заявлено, что "эксперимент" показывает как поссорить и как помирить, то есть это два разных "эксперимента". То есть пришлось бы создавать ещё дополнительных "вселенных". Но и это полбеды: они делают выводы на основании одного наблюдения. Чтобы быть хоть сколь-нибудь уверенными в результатах, им следовало бы повторить сетап раз 15 хотя бы. Чтобы быть уверенными в том, что это не результат "везения": может в одной из групп был пацан заводила, который всё это устроил? А может их вожатые провоцировали вражду? Кстати может быть я что-то читал об этом, о том, что в том эксперименте вражда была спровоцирована не столько делением на группы, сколько вожатыми. То есть вожатых тоже следовало бы менять, вожатые должны были бы быть не в курсе эксперимента, и им всем должна была бы даваться одни и те же инструкции, а когда они приходили бы плакаться о проблемах с детьми, им тоже должны были бы даваться всем одинаковые ответы. На каждый их запрос к руководителю смены, у руководителя смены должен был бы быть заученный наизусть ответ.

Но я был в детском лагере психологом несколько раз, и на мой взгляд 15 смен не хватит. Смена на смену не приходится, они все разные. Они настолько разные, что вражда между группами в одной смене может выглядить более мирной, нежели дружба между группами в другой. Чтобы ставить эксперимент придётся проводить сотни смен, если не тысячи. Можно устроить исследование типа наблюдение, собственно то, что и было сделано. Но было несистематическое наблюдение, в котором не были достаточно чётко формализованы условия, не был формализован протокол наблюдений, то есть это форма исследования, которая, как нас учили на экспериментальной психологии, годится только для того, чтобы разработать план систематического наблюдения. Если бы это было бы систематизированное наблюдение за десятью-двадцатью сменами, то это было бы что-то на чём можно попытаться делать выводы о человеческой природе. Но когда это было несистематизированное наблюдение за одной сменой -- это бред сивой кобылы, а не наука.

Короче, когда Поттер заявляет что он подсекает в когнитивистике -- не верьте ему. Когнитивист из него ещё хуже, чем рационалист. Во-первых, большая часть экспериментов на которые он ссылается -- это дело рук социальной психологии, а не когнитивной. Социальная психология в целом -- бред сомнительной научности (по-крайней мере в том виде, в котором нам её на психфаке СПбГУ излагали, это не наука, это технология, а может быть даже не технология, а ремесло). Во-вторых, существенная часть экспериментов на которые ссылается Поттер (я навскидку не готов оценить какая именно часть -- 50%, 90%?), сомнительны с научной точки зрения или даже отвергнуты как ненаучные (или даже вообще не могут быть классифицированы как эксперименты, что ставит под вопрос вообще понимание Поттером понятия эксперимент).

44

Общение / Re: Краткая история человечества

« : 29 Января 2019, 01:28 »

2) Неандертальцы - не homo sapiense, строго говоря, это не наше человечество. Они считаются в роду Homo, это да, но если их и называть человечеством, то это другое человечество.
ПОэтому начинать нашу историю с неандертальцев несколько.. хм.. странно, по-моему.

Харари где-то в самом начале разбирает этот вопрос. В "Homo Sapience" "homo" означает род (в смысле биологической классификации) и означает "человек" если его перевести на русский. Homo Sapience, Homo Erectus, Homo Neanderthalensis -- это всё виды принадлежащие к роду Homo, то есть они все человеки, то есть люди.

А если не с терминологической точки зрения этот вопрос рассматривать, то вообще было бы странно разбирать историю человечества, не упоминая неандертальцев: неандертальны сосуществовали с sapience некоторое время, они явно взаимодействовали, скорее всего sapience устроил им геноцид, и, судя по всему, они даже обменивались генами. В смысле в генотипе человека есть гены неандертальцев, и может быть Валуев не просто выглядит похоже на неандертальца, может быть его внешний вид -- является внешним видом неандертальца, в силу того что Валуеву досталось довольно много генов от них, и эти гены были экспрессированы.

Ну и финально, Харари начинает излагать историю не с неандертальцев, а с зарождения жизни. Впрочем, всё что было до гоминидов он очень поверхностно описывает.


Добавлю к впечатлениям от книги. Я дочитал её, и:

1. Харари меня убедил в том, что атеизм -- это религия. Ну, по-крайней мере атеизм в той форме, в которой он есть в моей голове (даже несмотря на то, что пару месяцев назад я пришёл к выводу, что мой атеизм и не атеизм вовсе, а агностицизм, и вообще атеизм -- это реакционная глупость, реакция на религию). Собственно неплохой повод подумать о терминальных ценностях. Я и раньше сталкивался с аргументами вида "если бога нет, то всё позволено, но наблюдаемая реальность отличается от этого, значит бог есть". Но раньше они меня не убеждали.

2. Я наконец разгадал загадку стоимости жизни. В ГПиМРМ поднимается этот вопрос, там ещё Поттер ругается с Дамблдором, заявляя что стоимость жизни Гермионы равна бесконечности. С бесконечной есть проблема, вызванная тем, что когда мы эту бесконечность подставляем в формулы теории игр, мы получаем бессмыслицу: любая стратегия поведения несёт в себе риск смерти (может быть очень маленький), а это значит что матожидание выигрыша при любой стратегии -- минус бесконечность. Поттер тогда разрешает этот вопрос, выходя на другой уровень и рассматривая человека частью человечества, которое вполне может пожертвовать жизнью нескольких сотен миллионов, если надо. Но мне это казалось странным и неправильным: а если я Панси Паркинсон и мне плевать на других людей, то значит теория игр для меня не работает? И теперь я понял, что если жизнь конечна, то стоимость её не бесконечна: выбирая из опасной и безопасной стратегии поведения в какой-либо ситуации, я могу выбрать безопасную, гарантированно сохранить жизнь, но через пять минут подскользнуться на льду, упасть, приложиться черепушкой к поребрику и всё равно потерять эту жизнь. Кроме того я всё равно её гарантированно потеряю потому что если мне повезёт не умереть от поребрика, то естественная смерть меня настигнет. И всю эту ситуацию можно рассматривать как обмен конечной жизни на терминальные ценности. Вопрос лишь в обменном курсе. И тут теория игр начинает работать.

Вероятно она будет работать даже для Панси, которая избавилась от риска умереть от старости, но я не уверен. В том смысле, что у Панси есть шансы умереть несмотря на победу над старостью, и если запустить время к бесконечности, то вероятность смерти на этом промежутке времени будет стремиться к единице. А теперь немного мути (я ещё не формализовал мысль до конца) но если перемножить вероятности на терминальные ценности Панси и проинтегрировать по времени на промежутке (0, +бесконечность), то тем не менее может получится бесконечность. Если не получится, то я уверен теория игр будет работать. А если получится, то по-моему нет.

45

Общение / Краткая история человечества

« : 27 Января 2019, 08:06 »

На правах рекламы: A Brief History of Humankind
Или в русском переводе.

В смысле, я сейчас читаю, и я без ума от этой книги, мысли лезут изо всех щелей. Ну, например, Харари тщательно разжёвывает идею мифа, и показывает, что вообще всё общество построено на мифах, на вере в то, что не существует или в то, что существует только благодаря вере (самоисполняющееся пророчество). Скажем золото, почему оно такое дорогое? Потому что мы верим в то, что оно дорогое. А верим мы в то, что оно дорогое, потому что оно дорогое. Вера делает миф частью реальности, а, будучи частью реальности, миф эмпирически подкрепляет веру.

Кстати, Small Gods Терри Пратчетта даёт неплохую метафору для этого: бог обретает силу благодаря вере людей. Вера становится сильнее, когда бог демонстрирует свою силу людям. Арманд Пежо заплатил юристу, тот совершил все необходимые ритуалы, чтобы из небытия вызвать к жизни юридическое лицо "Peugeot". Люди верят в то, что "Peugeot" существует, поэтому он существует, может брать кредиты, строить заводы, нанимать рабочих, производить автомобили. Поэтому люди могут видеть автомобили пежо, ездить на них, и поэтому они верят в существование Peugeot. Практически полная эквивалентность Peugeot и Великого Ома. Гррр... я сейчас задумался: ведь Брута объяснял Великому Ому, что если тот будет хоть иногда делать что-нибудь полезное для людей, то шансов на выживание у него будет гораздо больше. Peugeot приносит пользу людям, и поэтому Peugeot сегодня круче Зевса на пике его славы, в Peugeot верят миллиарды людей, всё или почти всё население Земли (все, за исключением тех, кто никогда не слышал про Peugeot), в то время как в Зевса, я подозреваю, никогда не верили столь единодушно.

Харари рассматривает историю человечества начиная с неандертальцев, и заканчивая 2014 годом, отслеживая мифологии тех обществ, которые возникали в процессе, и показывая как возникали новые мифы, и как они изменяли общество. Причём он с очень разных позиций смотрит на это, например, он описывает эпоху великих открытий и с экономических позиций (становление капитализма, который смог финансировать открытия и завоевания -- корпорации нанимающие адмиралов и генералов, и покупающие им целые флоты и армии), и с точки зрения развития науки/технологий (которые давали техническую возможность совершать открытия и завоевания, и при этом создавали экономическую целесообразность открытий и завоеваний), и с точки зрения возникновения научного мышления (в частности, признание того, что есть важные вещи, которые мы не знаем, но которые нам было бы полезно знать).

Короче я очень рекомендую книжку.