Сообщения

1

Общение / Re: когда знания стали опасны

« : 08 Декабря 2019, 01:59 »

Я не понимаю, чего вы так зациклились на этом старкрафтовском боте. Старкрафтовский бот не пишет текстов.

Ну, речь была о том, что достижения AI в новостях в очередной раз преувеличили в маркетинговых целях. Это я про другие ИИ. Из чего я делаю предположение что и "у нас есть бот который генерит осмысленные тексты но мы вам его не покажем" - это тоже маркетинговое преувеличение и никаких осмысленных текстов этот тайный бот не генерит.
Он, вероятно, генерит чуть более прилизанные тексты чем те боты, которые есть в открытом доступе, и проблемы которых сейчас очевидны.  Т.е. пока что можно расслабиться, хотя кто знает что будет через 5-10 лет.

2

Общение / Re: когда знания стали опасны

« : 16 Ноября 2019, 03:33 »

"В смысле, если мы вдруг фантазируем, скажем, ИИ, который играет на бирже или вообще вмешивается в политику, то никто же его не будет ограничивать одним экраном монитора и никто не будет ему тормозить реакцию до человеческой."

Это верно. Но речь о том, что как только реакцию понизили до околочеловеческого уровня ( на самом деле она все еще намного выше чем даже у самых топовых игроков, но уже не 100 раз, а скажем, в 5) стала очевидна скажем так "тупость" этого ИИ которого первый же неожиданный маневр человека выводит из колеи. Например, эта нейронная сеть за миллион или сколько там игр не освоила концепцию "невидимых" юнитов. Я наблюдал, кстати, поведение людей в похожих ситуациях. Умный человек понимает, что нужен способ их детектить буквально после первой же проигранной таким образом игры, сразу же гуглит, спрашивает или исследует этот вопрос сам. Тем не менее я видел людей которые не задаются этим вопросом пока не потерпят, скажем, с десяток поражений от "невидимок". Меня всегда подобное поражало, но это действительно так ( и это имхо один из способов измерять интеллект ). Но миллион игр? Это уже за гранью. При этом за счет многократного превосходства в скорости реакции она все равно побеждала 99% игроков.

Теперь представим себе нейронную сеть которая показала блестящие биржевые результаты, скажем, анализируя новостные ленты. Лучше чем 99.9% людей. За счет своей скорости реакции и способности работать 24 часа в сутки. Мы ее внедряем повсеместно.... а потом оказывается что она не понимает концепцию "1-го апреля". И 1-го апреля следующего года мы получаем  мировой финансовый крах.

Поэтому, нужно быть очень аккуратно относится к тому, если превосходство было получено скажем так, методом грубой силы. Чем грубее сила используется - тем более скептически нужно относиться к этому.  Грубая сила хороша для проверки различных способов обучения, но финальная, лучшая версия, должна побеждать не с помощью ее.

В копилку кстати "пессимистических" новостей об AI. Помните AlphaZero который "разгромил" Stockfish? У меня еще были претензии к условиям матча. Тем не менее 15-й чемпионат шахматных программ в прошлом году все же выиграла улучшенная версия AlphaZero - в начале этого года и там все было честно и не подкопаешься. Но в только что завершимшемся 16-м чемпионате чемпионство завоевала улучшенная версия Stockfish - проанализировав поражения, ее авторы программ улучшили ее и она смогла взять реванш. Таким образом, "алгоритмическая" версия смогла обойти "нейронную", после того как "нейронная" показала ей ее слабости ( люди этого уже сделать на таком уровне, понятно, не могли). Как бы не оказалось, что после прогресса и бума 2013-2019 мы опять не застрянем с машинным обучением как это уже было не раз. Только на более высокой ступеньке, конечно, с большим количеством задач которые мы умеем решать.

3

Общение / Re: когда знания стали опасны

« : 12 Ноября 2019, 23:53 »

Вспомнил что я расписывал про слабость AI для Старкрафта, у которого маркетологи сильно преувеличили реальную силу в новостях год назад.
На днях вышло доказательство моих слов: новая версия программы от DeepMind после того как в ней убрали "читерство" сделала большой шаг назад. После года "доработки" сейчас ее уровень игры в районе 6000 MMR, это даже не уровень грандмастер лиги ( у топовых человеческих игроков 6700-7000).

https://www.youtube.com/watch?v=mpAUufSzaUo

Моя фраза:

Разница между "обыграть сильнейшего игрока в старкрафт" от "обыграть сильного игрока в старкрафт который играл без подготовки и за чужую расу, используя всевидение и 100-кратное преимущество в скорости реакции" довольно велика.

Оказалась верна. И за год эту разницу не покрыли даже на 5%.

4

Общение / Re: Краткая история человечества

« : 24 Июня 2019, 18:46 »

kuuff, если мы лишаем себя возможности сказать "здесь я совершенно не согласен", "здесь я согласен на 90%", "здесь я полностью согласен" - то мы уравниваем все теории. И теория "Лысые не должны занимать высокие государственные посты т.к. мы видим что их правление ведет к неудачам" становится в один ряд с какой-нибудь теорий Цивилизаций Шпенглера.
Кроме того Харари изучал именно историю, археология, антропология и история - это не совсем гуманитарные науки, и именно они критиковали его книгу.

5

Общение / Re: когда знания стали опасны

« : 24 Июня 2019, 14:47 »

AlphaZero.

Ну я не знаю есть ли где-то статья которая собрала бы все в кучу. Скажем если ты пойдешь в вики https://en.wikipedia.org/wiki/AlphaZero
то там есть ряд замечаний по этому поводу. Но я просто интересуюсь этой темой, постоянный обитатель каналов, форумов и дискордов о шахматном программировании поэтому в курсе.
Если вкратце в эпохальном матче AlphaZero против Stockfish.

1. У Stockfish почему-то была взята сильно устаревшая версия.
2. Стокфиш почему-то был лишен дебютной книги ( у программы на нейронных сетях некое подобие дебютной книги зашито в мегабайтах их весов, так что это несимметричное ограничение).
3. Стокфиш почему-то был лишен эндшпильных баз ( как позже выяснилось это тоже несимметричное ограничение ).
4. Стокфиш играл на более слабом компьютере
5. Даже на этом слабом компьютере ему были установлены очень странные настройки ( например всего 1 гигабайт на хэш - напрямую влияет на его силу).
Это все поставило под сомнения превосходство Альфы над Стокфишем.
Самое главное: на просьбу дать бинарник программы чтобы поучаствовать в каком-либо из официальных чемпионатов уже на нормальных настройках - было отвечено категорическим отказом. Так что мы точно уже никогда не узнаем в какую на самом деле силу играл АльфаЗеро.

Некое представление может дать следующий тест. Авторы опубликовали архитектуру нейронной сети и алгоритм. Программа была воссоздана ( русским программистом кстати ) под названием LeelaChessZero. Шахматное сообщество помогло ее натренировать - это заняло много месяцев, а не несколько часов т.к. у шахматного сообщества гораздо меньше компьютерных мощностей чем у гугла. После полугода тренировки LeelaChessZero сыграла матч в тех же условиях с той же старой версией стокфиша - и добилась лучшего результата чем AlphaZero т.е. предположительно она играет сильней. Но в матче на нормальных настройках против последней версии стокфиша - эта же версия проиграла.
( Через несколько месяцев она сумела превзойти и последнюю версию стокфиша).


Starcraft.
Статьи выходили под заголовками "Нейросеть обыгрывает лучших игроков в старкрафт". О чем почему-то забывали часто упомянуть в этих статьях.

1. "про-игрок" был действительно "про", но играл не за свою расу ( почему нельзя было пригласить игрока своей расы - непонятно).
2. предвосхищая обвинения в "программа просто выиграла за счет реакции" они опубликовали табличку с графиками APM живого игрока и программы. Табличка была из серии "классический пример как ввести в заблуждение и попытаться внушить ложный вывод таблицей".
3. таким образом программа действительно просто использовала стократное превосходство в реакции и точности над живым человеком ( в том числе и потому что ей не нужно было осуществлять какие-то движения мышкой и клавиатурой, она напрямую вызывала функции ядра игры).
4. В дополнение ко всему было использование "всевидение" т.е. видение все карты в целом, что человеку в принципе недоступно - он видит информацию через монитор на котором в один момент времени отображается только один кусочек карты. Характерно, что когда в последней игре "всевидение" отключили - эту игру человек легко выиграл, причем метод которым он воспользовался может применить любой квалифицированный игрок.

В целом если сложилось впечатление что я критикую их достижения - вовсе нет. Это выдающиеся результаты в любом случае. Просто нужно отличать насколько они выдающиеся на самом деле от того, как их рекламируют маркетологи. Разница между "обыграть сильнейшего игрока в старкрафт" от "обыграть сильного игрока в старкрафт который играл без подготовки и за чужую расу, используя всевидение и 100-кратное преимущество в скорости реакции" довольно велика.

Особенно нужно быть подозрительным если как в случае с GPT просто говорится "у нас есть что-то выдающееся, но мы вам это не покажем".

6

Общение / Re: когда знания стали опасны

« : 23 Июня 2019, 15:32 »

Просто коммент: совершенно не уверен что тексты сгенеренные нейросетками так хороши, что их невозможно отличить.  По моему опыту в нейросетях сейчас маркетинг идет на три головы вперед реальных достижений. Так достижения нейронных сеток в шахматах, доте и старкрафте ( AlphaZero, OpenAI, OpenMind ) были серьезно сфальсифицированы т.е. преувеличены, эксперты в каждой области были весьма недовольны, хотя публика "схавала". Не исключено что и чудесная сеть генерирующая связный текст "которую мы вам не дадим" это просто миф и уровень текста там лишь немногим лучше выпущенной в публичный доступ. Выпущенную в публичный доступ каждый может потестить самостоятельно - до связного текста ей как до луны, а тайная отличается лишь в несколько раз большим числом параметров.

Конечно рано или поздно и этот барьер будет преодолен... но не уверен что в тот момент нас будет волновать именно жалкая человеческая политика.

7

Общение / Re: Краткая история человечества

« : 23 Июня 2019, 15:25 »

Прочитал обе книги. У Харари есть какая-то теория и он ее придерживается. Прочитать вероятно стоит - интересно, но соглашаться или нет ( в целом, или в конкретных деталях ) - это уже личное дело каждого.

8

Общение / Re: Профессионал о дилемме вагонетки

« : 23 Июня 2019, 15:20 »

На ту же тему есть пародия - как Фейнман решал бы классическую задачу с собеседований на логическое мышление.

http://translatedby.com/you/what-would-feynman-do/into-ru/trans/

9

Обсуждение книги / Re: Критика произведения

« : 14 Октября 2018, 18:09 »

valergrad, А как же замечательный байес, который дает возможность применить статистические выводы к единичному событию?

Возможность-то он дает, но нужно ли ей пользоваться? Вся суть использования этого метода - это получить хоть какие-то вероятности, в случае неопределенности. Очевидно, что чем меньше неопределенности - тем точнее получится оценка вероятности. И даже если оценка вероятности получится абсолютно точной - это все равно всего лишь вероятность, т.е. неточная вещь. Это означает, что если есть какая-то возможность убрать неопределенность - то нужно ей пользоваться!

Например, в нашем конкретном случае.
Если бы нам не был доступен текст книги - то да, нам оставалось бы только применять Байеса. А именно: вероятностные рассуждения, о том, какие бывают в принципе книги, и попытки прикинуть - "что более вероятно" основываясь на общем распределении книг. Но текст нам доступен, и поэтому вероятностные рассуждения о том, какие тексты в целом бывают - бессмысленны, у нас есть вполне конкретный текст. Нужно взять его и прочитать, после этого все рассуждения о миллионе остальных книг - теряют всякую актуальность.

Если хотите - это такое когнитивное искажение, нередко присущее байезианцам - они игнорируют конкретную информацию, которую могут получить, говоря "ну, я вот тут могу приблизительную вероятность посчитать и на этом успокоиться". Скажем, предположим, им нужно побеседовать с человеком о каком-то совместном предприятии, и оценить вероятность того, что он не аферист. Беседуя с человеком, они вычленияют фактическую информацию и вычисляют разные вероятности "Так, он мигрант, это повышает вероятность для афериста, высшее образование - понижает и т.п.". При этом небайезианец, возможно, попытался бы прочуствовать что-то интуитивно - по вербальной мимике, лицевой мимике, языку телодвижений. И скажу честно - я не уверен, какой из подходов даст в среднем лучший результат. Рациональным выглядит использовать оба подхода - даже если для этого придется записать разговор на видео, и пересматривать его потом ( т.к. использование и логики и интуиции одновременно онлайн - может быть затруднительным ).

Про непонимание учебников я же как раз конкретно написал, почему это другой случай. Потому что это непонимание не выливается в миллион возмущений в духе "это совсем не матанализ, и вообще автор сам себе противоречит!" от непонявших.

Здесь легко ответить - эти учебники слишком авторитетны. По ним воспитывались тысячи студентов, многие из которых чего-то добились. Более того, сюда добавляется заслуженный авторитет матанализа как науки. Т.е. любой студент который рискнет говорить "Что-то по-моему Зорич написан плохо" понимает, что этим он просто себя выставит "глупым", а не нанесет хоть малейший урон по репутации Зорича - и поэтому даже и не пытается.
У Юдковского, разумеется такой репутации еще нет ( а может и не будет ), нет такой репутации еще и у "Рациональных методов" как таковых. Так что любой желающий может критиковать вволю, чем и пользуется.

Еще один косвенный аргумент, почему мне не кажется разумной версия, что дело в объективной сложности материала. Он состоит в том, что среди моих знакомых большая часть тех, кому книга не понравилась (и у некоторых аргументы похожи на аргументы Д.Волкова) - как раз люди, способные понимать сложный материал, и не только из своей узкой области.

А я уже об этом говорил - сила в одной области, не означает автоматически силу в другой области. Поэтому эта попытка "давить авторитетом" - мол, ученому-профессору-химику не понравилось, значит все плохо - не логична. Мы выслушаем конкретные претензии ученого-профессора-химика и разберем их - действительно ли они серьезны.  Ряд претензий в разборе Волкова выглядит именно так, что он не понял конкретные моменты из книги. И я вполне верю, что возможно в физике или химии он прекрасно понимает все моменты и не упускает их - возможно там ему помогает 10-20 летняя практика. Но здесь я вынужден судить по тому, что он написал - а здесь, пожалуй, видно именно что непонимание.

10

Обсуждение книги / Re: Критика произведения

« : 09 Октября 2018, 16:26 »

Дискуссия интересная, лично меня зацепил вот этот коммент, который выглядит логичным, поэтому именно на него хочется ответить:

В каком варианте сколько будет отрицательных отзывов, типа "автор совсем не раскрыл заявленную тему" или "автор феерично ошибся вот тут и вот тут", вызывающих массу однотипных возражений от тех, кто понял, вида "да они недочитали/ничего не поняли"?
В варианте 2 их будет очень много, явно.
А в варианте 1? Для оценки этого нужно посмотреть на другие книги Б, В, Г..., для которых этот вариант практически достоверно верен. И мы видим, что для этих книг таких отрицательных отзывов практически нет.
Тем самым, по любимой тут теореме Байеса, получаем, что гипотеза 2 значительно вероятнее, чем гипотеза 1.

Другими словами, неформально:
Если читатель книгу не понимает вовсе - это может быть проблема как читателя, так и автора. Или вообще не быть ничьей проблемой, не все книги для всех читателей, ничего страшного. Но если многие книгу понимают неправильно - то это, обычно, проблема автора. чем больше среди читателей именно неправильно понявших - тем в бОльшей степени это проблема именно автора.

Насколько много таких отрицательных отзывов на ГПиМРМ именно в духе "Гарри же совсем не такой рациональный, как его пытается изобразить автор", либо в духе  "Гарри странный, настоящие дети так себя не ведут, автор не знает настоящих детей, поэтому автору вообще не стоило бы писать худ.лит., читать дальше не буду, книга - УГ" - именно в этой теме написано.
По общему впечатлению, львиная доля отрицательных отзывов таковы. Учитывая общее количество людей, пытавшихся читать, это все-таки очень и очень много.

Конечно, если многие книгу понимают неправильно - то обычно это проблема автора. Если взять тысячу случайных книг, которые люди плохо понимают, то, возможно, в большинстве случаев  это будет именно проблема этих книг, а не читателей ( я статистику не собирал, но готов поверить). Но важно также понимать, что статистический анализ - он работает именно на статистических количествах, то есть нужно именно иметь тысячи случайных нормально распределенных книг чтобы рассуждать статистически об общих закономерностях. Если мы обсуждаем одну-единственную конкретную книгу, то обсуждать ее "статистически" - довольно бессмысленно.
Может быть более понятная аналогия - известно, что статистически мигранты совершают большее количество преступлений, чем коренные жители практически в любой развитой стране, это железная закономерность.   Но если у нас есть два подозреваемых в преступлении - коренной житель и мигрант, то на основании только этой статистики делать выводы - совершенно глупо ( хотя начинать расследование с мигранта - рационально). Должно быть понятно, что в данном случае статистика дает слишком мало информации, и надо рассматривать конкретно данное преступление или конкретно данную книгу.

Более того - подобный статистический анализ можно повести как угодно. Скажем, предположим, выясняется, что мигрант - с ученой степенью, а коренной житель - с ее отсутствием. Что если рассмотреть не статистику по мигрантам/коренным жителям, а статистику по людям с ученой степенью/без? Перемножать вероятности? А сколько еще подобных деталей мы упустили? Собирать тоже по ним статистику? Глупо. И логика одна - если нам нужно сделать вывод не о целой группе целиком, а о конкретном объекте, то нужно вкладывать максимальные усилия в оценку данного конкретного объекта, и забыть о статистике, если только она не дает весьма внушающих цифр, вроде "90% X принадлежат к A".

И в данном случае - внушающих цифр нет. Очень многие книги непонятны по совершенно объективным причинам. Скажем, учебники по матанализу - у студентов очень часто проблемы с их пониманием, при том, что они, вообще говоря, предназначены для обучения, т.е. понимания. Скажем, у нас был учебник Зорича по матанализу - и многие студенты говорили, что он совершенно непонятен, и преподаватели таким студентам рекомендовали действительно более простой учебник Фихтенгольца. Значит ли это что Фихтенгольц лучше Зорича? Нет, не согласен. Как читавший оба, я считаю что Зорич раскрывает ряд тем и глубже и на более высоком уровне и современней чем Фихтенгольц, что человеку который собирается идти в науку математику действительно лучше все-таки разобраться с Зоричем ( хотя, инженеру вероятно сойдет и Фихтенгольц ).

Соответственно, если у многих людей проблемы с пониманием ГПМРМ - почему бы не считать, что это объективная сложность материала, а не проблема подачи? Отсутствие сложных формул и чертежей - это не то что делает материал сложным,  сложным материал делает другое. Конечно, можно сказать, что если школьник понял книгу - то значит материал прост, и поэтому профессор, который не понял книгу - он высказывает действительно серьезные претензии, а не просто непонимание. Но это возможно просто снобизм - методы рационального мышления в настолько зачаточном состоянии ( об этом Юдковский пишет регулярно ), что школьник и профессор действительно могут быть здесь в равных условиях.

Поэтому я за то, чтобы рассматривать каждую претензию отдельно - и в каждом конкретном случае объяснять - что конкретно, читавший эту книгу не понял - если мы считаем что дело действительно в непонимании. Конечно, стараться быть при этом объективными и не рационализировать - насколько это в наших силах. И, конечно, если он бросил читать эту книгу, то объяснения в духе "ты просто не понял, это была загадка, и ответ дается спустя 20 глав" не заставят его вернуться к ее чтению - но это не делает книгу хуже. Это просто ограничивает ее целевую аудиторию. Так же как матанализ Зорича и даже Фихтенгольца не предназначен для всех, также и мысль что "рациональные методы предназначены для всех" вероятно слишком оптимистична.

11

Общение / Re: Сексуальная ориентация и рациональность.

« : 21 Сентября 2017, 22:25 »

И на самом деле есть куча народу, считающего это вполне справедливым. Да, мол, стюардесса должна быть мила, подтянута и сипатична на фасад. Кстати, в этой выборке примерно поровну и дяденек и тетенек. Мол, не берут же в манекенщицы или в эскорт-услуги некрасивых?..
А с моей точки зрения это ахинея. Отбирать стюардессу по внешности - все равно что отбирать по такому же критерию сотрудников МЧС, воспитателей или врачей. От стюардессы требуются коммуникативные навыки, стрессоустойчивость, физические данные параметров сила\выносливость и, желательно, доп.образование, хотя бы фельдшерское.

Эм, только вы забыли упомянуть еще одну точку зрения: это конечно ахинея, но у компании есть право решать какие сотрудники ей нужны. Я конечно против дискриминации, но грань между "защитой от дискриминации" и "вмешательство в менеджмент компании" не всегда очевидна.
Когда набирают работников в грузчики, никто ведь не удивляется что требуют физической силы, и дохлого - не возьмут.  Когда набирают герлз на какую-нибудь выставку - никто не удивляется что требуют только красивых и длинноногих. Вы можете сказать, что физическая сила необходима грузчику, но красота не является необходимой для стюардессы. Но можно ведь посмотреть на это под другим углом - физическая сила это конкурентное преимущество грузчика ( грузчик послабее в принципе тоже может перетаскать...но за большее число подходов ), а красота - конкурентное преимущество стюардессы ( по крайней мере по мнению аэрофлота или кто там это устроил ). И так же как мы не запрещаем ИТ-компаниям набирать программистов по их конкурентным преимуществам ( в виде знания технологий, интеллекта и т.п. ), то почему мы должны запрещать авиакомпаниям набирать сотрудниц по их конкурентным преимуществам? Если же компания определяет конкурентные преимущества сотрудников неправильно ( скажем, на самом деле надо было набирать стрессоустойчивых стюардесс, а не красивых ) , то мы можем только пожелать ей разориться, ну или по-дружески посоветовать ей пересмотреть свою политику - но не требовать от нее соблюдения каких-то "диверсити норм".

В этом смысле, Гугл в тяжелой ситуации. kuuff тут скинул ссылку на длинную слащавую статью, про то, как азиатка из гугла пишет как "белые инженеры ее не замечали и игнорировали ее слова во время совещания потому что она не белая, не мужчина и не инженер". Мне лично кажется что единственным важным фактором здесь было именно последнее - не инженер, а то что она азиатка или там женщина не влияло ни на что. Совещание же,  вероятно было техническим, так что вполне логично, что замечания не-инженера, да еще такой назойливой, вежливо игнорировали. Дальше она ругает их за то, что они "не замечают людей не принадлежащих к культуре инженеров и молча дискриминируют их игнорированием" - действительно, необычно, для компании, которая сплошь построена инженерами, для инженерных задач и всю свою прибыль получает с инженерных решений.
В целом же гугл давно долбают с этой диверсити - т.к. они стараются набирать самых сильных инженеров, а по каким-то причинам среди таких инженеров очень мало женщин и исчезающе мало черных.  Гугл борется с этим как может - создал специальный отдел, даже начал набирать женщин/черных даже если они не очень сильные инженеры. Но единственное что он не может - это заставить своих работников уважать ребят которые попали "по программе диверсити" также сильно как остальных, компетентных инженеров. Ну, потому что коллеги видят кто есть кто, и выбирают свой круг общения по духу, а это значит и по компетенции. Можно нанять человека из соображений диверсити, но трудно заставить дружить из этих соображений. И поэтому эти ребята ( и девчата), которые действительно попадают в своеобразный круг отчуждения, плачутся в газетах о дискриминации в Гугле - хотя разумеется никаких фактов предъявить не могут кроме "со мной в отделе никто не дружит и мое мнение на технических совещаниях игнорируют".

12

Общение / Re: Задача о сундуках

« : 04 Августа 2017, 05:15 »

К чему я это? К тому, что в постановке задачи 1, 2 и 4 проверяется всегда только один ребёнок. Не имея информации о влиянии способа этого выбора мы можем предположить его равновероятным, делая не существенным различие младший/старший/идёт по улице. В 3 же варианте некто (мистер Джонс или его сосед, которого мы опрашиваем) проверив, что один из детей девочка может проверить второго ребёнка и выяснить, что тот мальчик. Это и смещает вероятность двух мальчиков в пользу "нет".

Верно. Тем не менее в 3-м и 4-м случае у нас одна и та же информация которую мы получили - то, что у Джонса два сына и что по крайней мере один из них мальчик. И только лишь способ  получения этой информации резко меняет вероятность с 1/3 до 1/2. Это... заставляет меня задуматься о том, что частенько при оценке вероятностей при наличии информации я о таких вещах как "способ получения информации" не задумываюсь, и соответственно сильно промахиваюсь в оценках. А вы?

Буквально тут же nar предлагает две задачи, очевидно не прочитав и не продумав мой коммент - аяяяй.

1. Есть два ребёнка, один из них мальчик. Какая вероятность, что старший из них мальчик?
2. Есть два ребёнка, старший из них мальчик. Какая вероятность, что хотя бы один из них мальчик?

Я только что показал что вероятность в первой задаче зависит от того, каким образом образом мы узнали что "один из них мальчик". Если мы это узнали "запросом к БД" или похожим способом - вероятность одна. Если мы узнали это увидев одного из этих детей и он оказался мальчиком - совсем другая.  Важно не путать это.
Во второй же задаче ответ очевидно 100%.

13

Общение / Re: Задача о сундуках

« : 03 Августа 2017, 01:58 »

У мистера Джонса два ребёнка. Старший из них - мальчик. Какова вероятность, что второй - тоже мальчик.

В этом случае ответ очевиден - 1/2. Существует 4 равновероятных варианта семей, условию удовлетворяет только 2 из них, второй мальчик - только в одном из этих двух, так что условная вероятность равна 1/2.
Гораздо более интересен такой вопрос:

У мистера Джонса два ребёнка. Хотя бы один из них - мальчик. Какова вероятность, что второй - тоже мальчик?

Здесь правильный ответ если посчитать вероятности: 1/3. Вроде бы. Ну, если разложить по терверу - 3 возможных варианта, только один из этих трех нам подходит. Замечу, люди незнакомые с тервером обычно отвечают: 1/2.

Я в свое время размышлял над этой задачей и, имхо, эта задача хороший пример разницы между "игровой вероятностью" и "вероятностью реального мира". Дело в том, что ответ неожиданно зависит от того, каким образом мы узнали, что кто-то из них - мальчик.

1. Джонс говорит нам "У меня двое детей. Старший из них - мальчик. ". Ответ: 1/2.
2. Джонс говорит нам "У меня двое детей. Младший из них - мальчик.". Ответ: 1/2.
3. Джонс говорит нам "У меня двое детей. Хотя бы один из них мальчик.". Ответ: 1/3.
4. Джонс говорит нам "У меня двое детей. Вон, кстати идет мой ребенок!". И мы видим идущего мальчика.
Казалось бы случай аналогичен случаю 3) - мы знаем что у Джонса двое детей, и мы знаем что хотя бы один из них мальчик.  Тем не менее здесь ответ: ближе к 1/2 ( я много над этим размышлял, и считаю что здесь именно такой ответ, но если кто-то приведет сильные аргументы в пользу 1/3 или другого числа - я выслушаю ).

Чем отличаются 3 или 4? Казалось бы имеем одну и ту же информацию, но важно то, что мы получили ее разным способом. Грубо говоря "рандомизация" была сделана другим способом.
Если перенести это в математическую модель, то в одном случае мы как будто бы делаем запрос к базе данных "Определи является ли количество мальчиков у Джонса числом > 0", а в другом случае мы натыкаемся на строчку в этой же самой базе данных в которой есть запись для сына Джонса и пол "М". Оттого и вероятность разная. В реальном мире наткнуться на такую строчку с мальчиком ( или встретить мальчика ) более вероятно, если их больше одного что каким-то образом выравнивает эту вероятность, и единственный способ получить вероятность 1/3 - это задавать странные, выхолощенные вопросы ( или запросы к БД ) вроде "Хотя бы один из ваших детей мальчик, да-нет?".

Если же еще задуматься, то мы понимаем, что "реальная" вероятность на самом деле должна учитывать вероятность того, что Джонс сказал определенные слова имея определенный набор детей. Скажем, если бы у него было два мальчика - стал бы он говорить "хотя бы один из них мальчик"? Может он сказал бы в этом случае "у меня два мальчика" ? Обычный метод - если рассмотреть  параллельные вселенные в которых отличается все, кроме события для которых мы посчитать вероятности в данном случае не годится. Событие "рождение девочки 15 минут назад" настолько сильно изменит жизнь Джонса по сравнению с событием "рождение мальчика 15 лет назад", что вероятно он будет через 15 лет разговаривать в другом месте, с другими людьми, другими фразами - и нельзя будет посчитать эту вероятность опять же.

14

Обсуждение книги / Re: Любительский перевод главы 116. + вопросы переводчикам

« : 11 Июля 2017, 23:59 »

Гм, а мне наоборот показалось, что это вступление - это именно то, ради чего вся книга в общем-то и писалась. Учитывая род занятий Юдковского ( работы по созданию дружественного ИИ).

Мне нужно повысить уровень моей игры, или я проиграю.

И "я" здесь - все человечество.

15

Общение / Re: Размышления о Молохе

« : 28 Июня 2017, 05:08 »

Что-то тема заглохла. Можно добавлять сюда примеры действия "закона Молоха" которые вы встречаете в жизни.
Вот пример совсем не глобальный, но зато в образцово-чистом виде.

Предпосылки:
В настольном теннисе несколько лет назад ввели новые мячи - сделанные из пластика ( в отличие от старых, которые были сделаны из целлулоида). Не буду сейчас касаться причин по которым мировая теннисная федерация это сделала. Официальной причиной была высокая горючесть целлулоида и соответственно стоимость его перевозки, обещалось что пластиковые мячи будут дешевле за счет этого фактора. На деле оказалось что пластиковые мячи не только в несколько раз дороже, но при этом значительно быстрее выходят из строя, они понижают вариативность игры за счет меньшего вращения, они менее стабильны - с непредсказуемым отскоком, и, что являлось ключевым фактором - у каждой фирмы которая делала новые мячи прыгучесть и вращабельность, назовем это так, немного отличались ( в отличие от целлулоида, в котором все качественные мячи были идентичны по свойствам). Дополнительно добавлю, что правила "играть только пластиковыми мячами", разумеется распространялось только на профессионалов, чем играют у себя любители на своих любительских турнирчиках - их разумеется не волновало. Профессионалы протестовали, но они люди подневольные ( их можно просто исключить из федерации в случае слишком сильных протестов), и они, скрепя сердце стали играть и тренироваться новым мячом.

Мы видим что в мире "без Молоха" любители продолжили играть целлулоидом т.к. он лучше по всем качествам, да впрочем, банально дешевле в несколько раз. Но здесь начинает действовать всесильный Молох. Любитель может получить небольшое преимущество если заранее привыкнет к пластиковому мячу определенной марки, и на любительском турнире предложит играть сопернику именно этими мячами. По правилам бросается жребий, и в 50% случаев будут играть целулоидом - к которому они готовы одинаково, а в 50% - мячом к которому готов только он. Да, они оба будут больше ошибаться, чаще промахиваться, игра будет менее интересной, и возрастут расходы на мячи, но то, кто заранее привык к новому отскоку будет чуть подготовленнее в этих условиях. Преимущество мизерное - ты не обыграешь соперника на разряд сильнее за счет этого, это скажется только в игре равных соперников или почти равных. Сама победа в любительском турнире - это вопрос в основном самолюбия, денег или чего-то еще там нет, конечно же. Но, 5% самолюбивых игроков быстро просекли эту фишку и начали покупать пластиковые мячи и настаивать на игре ими. И стали выигрывать чуть чаще ( за счет потери во всем остальном ). Это сподвигло небольшой процент остальных тоже купить пластиковые мячи и т.д. и т.п. Процесс шел довольно небыстро, но где-то за 2-3 года завершился - почти все любители стали играть пластиковыми мячами. В итоге никто не имеет преимущества за которым они переходили на пластик - ситуация просто стала для всех хуже. Точно как по книжке.  Было достаточно забавно наблюдать как люди писали десятки гневных постов о пластиковых мячах , с оскорблениями их пользователей, с попытками переубеждения - но сами через полгода-год-полтора уже молча переходили на пластик. Молох победил всех.