Последние сообщения

Страницы: [1] 2 3 ... 10
1
Общение / Re: Краткая история человечества
« Последний ответ от kuuff 08 Июль 2019, 16:03 »
Не, в этом случае у вас ничего подтасовывать не получится, потому что у вас нет теории. Ну, или есть теория, но это теория вида "аппарат тяжелее воздуха может летать". Эта теория заведома верна: мы знаем это без всяких экспериментов: есть птицы, они летают; есть Луна, она летает; есть летающие насекомые; камни кстати тоже могут летать по баллистической кривой -- теория верна заведомо, эта идея была принята без сбора научных данных, вы полагались на самые что ни на есть бытовые знания. Если ваши попытки собрать экспериментальные данные покажут, что ничего не выходит, вы попробуете другой подход, потом ещё один, сделаете крылья подлиннее, потом два крыла, десять крыльев, замените крылья на крышку от кастрюли, и будет это продолжаться лет дцать, до тех пор, пока что-нибудь не взлетит. Теория, таким образом, будет доказана.

А аэродинамика, как наука, возникла уже после того, как первые самолёты поднялись в воздух. И опровергнуть её уже не удастся никакими данными. Сколько не приводи данных противоречащих аэродинамике, Боинг с Эйрбасом будут всё равно выпиливать самолёты следуя этой самой аэродинамике. Вот если предложить новую аэродинамику, которая объясняет и новые данные тоже, тогда новая аэродинамика может побить старую. Томас Кун это описывал.
2
Общение / Re: Краткая история человечества
« Последний ответ от Gradient 08 Июль 2019, 15:15 »
Цитировать
Но не с тем, что теория так таки уж зависит от входных данных. Если мы говорим о границах применимости теории, то мы будем менять входные данные, и теория будет менять свои предсказания, но в первую очередь за границами своей применимости. Внутри этих границ её предсказания останутся теми же или изменятся несущественно. Потому что данные подбираются таким образом, чтобы эти предсказания были бы именно такими. Это не хорошо и не плохо, так работает человеческая психика.
А можно об этом поподробнее? Ну то есть я в курсе ошибки подтверждения. Но вот допустим мне надо сделать самолёт - а самолётов ещё нет. Я смотрю на чужие неудачи и думаю: ага! Надо использовать научный метод! А запилю-ка я аэродинамическую трубу и построю прикладную теорию самолётостроения. Посмотрю, как и от чего зависит подъёмная сила, сила трения, какие ещё силы есть, как вибрация зависит от параметров конструкции и так далее. В общем, у меня есть мотивация избежать ошибки - потому что иначе самолёт не взлетит, и возможно, я ещё и убьюсь. Да, при этом гипотез у меня особо нет, и я намереваюсь вывести интересующие меня функции методом "сделаю таблицу, построю график, буду проводить расчёты по нему".
Вы утверждаете, что в этом случае я буду неосознанно подтасовывать данные? Если у меня есть очень сильная мотивация сделать всё идеально?
В менее острых областях описанный вами эффект, полагаю, наблюдается, у меня вопрос скорее к тому, не выдали ли вы сверхобощение =)
3
Общение / Re: Краткая история человечества
« Последний ответ от kuuff 07 Июль 2019, 21:59 »
В общем, я согласен. Но не с тем, что теория так таки уж зависит от входных данных. Если мы говорим о границах применимости теории, то мы будем менять входные данные, и теория будет менять свои предсказания, но в первую очередь за границами своей применимости. Внутри этих границ её предсказания останутся теми же или изменятся несущественно. Потому что данные подбираются таким образом, чтобы эти предсказания были бы именно такими. Это не хорошо и не плохо, так работает человеческая психика.

Все эти рассуждения Харари о мифах, создающих реальность в которой живёт человек, они не новы, были попытки запилить что-нибудь подобное и раньше. Может быть менее радикально, но были. Был Выготский с его культурно-исторической концепцией. Были всякие философы типа Роланда Барта, с его мифологиями. Докинз, с его эгоистичными мемами. И это то, о чём я знаю, реально я уверен их гораздо больше.

И такие теории продолжат появляться, потому что идея с условной формулировкой "сознание определяет бытие" -- это довольно очевидная идея, для которой несложно найти факты её подтверждающие. (формулировка условна, потому что я бы сказал, что психика в целом, вместе со всей её историей, определяет бытие, а не только сознание, но плевать). С другой стороны "бытие определяет сознание" -- это тоже довольно очевидная идея и для неё тоже можно найти подтверждающих фактов. По-хорошему, если копнуть, то выясняется что бытие влияет на формирование сознания, а сознание влияет на бытие, при этом структура сознания передаётся наследственным (негенетическим) путём, и поэтому есть инерционность в подстраивании сознания под реалии между поколениями, инерционность изменений, которая влияет на то, как работает градиентный спуск поиска наилучшего сознания.

Но вся эта область, на данный момент, недостаточно хорошо категоризирована, нет какой-то теории, которая бы взяла бы и удовлетворительно описала бы все релевантные факты. Есть теории построенные вокруг "бытие определяет сознание", которые объясняют часть фактов, есть теории построенные вокруг "сознание определяет бытие", которые объясняют другую часть фактов. И процесс генерации таких теорий будет продолжаться до тех пор, пока не найдётся пара теорий, которая окажется совместимой, пара теорий которые будут дополнять друг-друга и при этом говорить в одних и тех же терминах, пользоваться одинаковыми категориями. Когда и если такая пара найдётся и будет создана такая синтетическая теория, тогда Выготский, Харари и прочие будут выглядеть как аппроксимации частных случаев этой самой теории. То есть от них откажутся, их теории уйдут в прошлое, но не потому, что они не станут неверными, а потому что они станут уродливыми, столь же уродливыми как и Птомлей. Хотя есть шансы, что новая синтетическая теория будет непрактичной в большинстве случаев (как ОТО), и тогда они продолжат существовать (как классическая гравитация).

Область недостаточно категоризирована, и поэтому попытки исследовать её и найти новые категоризации, посредством изобретения новых понятий (типа мифа Харари) -- они неизбежны, они необходимы и нужны. И да, когда будет найдена достаточно хорошая категоризация, реакция на неё будет выглядеть как "это же тривиально, и очевидно", потому что когда человек, прочитав такую теорию, будет садиться рефлексировать о том, что он собственно узнал, он не сможет понять, что он узнал. Ему будут нужны очень специфические навыки рефлексии, чтобы заметить изменения своей психики, вызванные прочтением теории. Это, во-первых, hindsight bias, во-вторых, проблемы с тем, чтобы отличить психическую модель реальности от реальности. Когда у нас есть одна теория, и мы находим взамен ей другую, то мы можем сравнить эти теории, и сказать какая лучше. Таким образом, мы можем видеть, в чём собственно эта новая теория заключается. Но когда у нас нет теории описывающей известные нам факты, есть лишь неосознаваемая интуиция в отношении таких фактов, и мы узнаём теорию, которая хорошо работает ровно на тех же точках данных, что и интуиция, то мы не замечаем, что что-то изменилось. Нам кажется, что теория не объясняет ничего, и это в некотором извращённом психическом смысле действительно так.

Возникает интересная ситуация, люди на каком-то уровне чувствуют, что теория много чего объясняет, но не видят чего она объясняет, и соответственно не могут найти к чему придраться или с чем согласиться.

Так вот, и я к тому, что на теорию Харари в википедии приведена критика вида "теория ни о чём", то есть критика именно того вида, которого следует ждать в случае возникновения зародыша революционной теории. Это ненадёжное свидетельство, и я даже не уверен, что его можно использовать как свидетельство в пользу того что новая теория -- это шаг в нужном направлении: я не занимался историей науки настолько плотно, чтобы сказать, когда чаще возникает такая реакция: в ответ на плохие теории, или в ответ на хорошие. Но и тем не менее, я воспринимаю это как свидетельство хорошести теории.

ps. А и чтобы вы не думали, что про тривиальность новых теорий я выдумал только сейчас, подогнав теорию под факты, я могу сослаться на Аллахвердова, он вообще излагал мысль о том, что тривиализация -- это задача науки. У него есть два таких труда "Методологическое путешествие по океану бессознательного к таинственному острову сознания" и "Сознание как парадокс", я читал лишь один, и думаю первый, но не уверен что именно первый (вроде я помню, что я испытывал проблемы с тем, чтобы воспроизвести название прочитанной книги, так что скорее всего я читал именно первую). При этом я точно помню, что про тривиализацию я подчерпнул именно у него, и я подозреваю, что подчерпнуть эту идею можно в любом из этих двух его трудов.

Добавлено 07 Июль 2019, 22:07:
А, и я ещё докину, по поводу критики новых теорий. У меня несколько лет на диске валялась книжка Хеллмана "Великие противостояния науки". Я всё никак не мог её почитать, но тут собрался и прочитал. Там есть любопытные моменты, хотя я и не могу сказать, чтоб я от неё был в восторге. Но там есть одна мысль, что противостояния в науке часто возникают из-за того, что приходит новый учёный, запиливает новую теорию на стыке нескольких других теорий, будучи при этом дилетантом во всех этих сложившихся теориях или в части из них. И тут специалисты в этих теориях, начинают глумиться над этой новой теорией и над её автором, по причине тех дилетантских ошибок, которые тот совершил ссылаясь на теории, специалистом в которых он не является. И это случается в любом случае, вне зависимости от того, станет ли эта новая теория общепринятой со временем, или не станет.
4
Общение / Re: Краткая история человечества
« Последний ответ от Gradient 07 Июль 2019, 16:05 »
Добавлю немного взгляда со стороны машинного обучения =)
В машинном обучении есть такая штука как обученная модель. Мы берём данные наблюдений и подбираем некий алгоритм, который мог бы их сгенерировать - такой алгоритм называется обученной моделью. Никто не ставит целью сгенерировать датасет идеально точно - надо лишь сделать функцию ошибки поменьше. В смысле, схема такая: есть известные данные, есть наша модель, есть некоторые неизвестные данные. Мы запускаем модель на известных данных, и она предсказывает неизвестные - например, по положению Юпитера минуту назад предсказывает его положение через минуту.
Этот этап аналогичен формированию гипотезы на базе наблюдений.
Следующий этап - кроссвалидация. У нас есть некие данные, которых не было на этапе обучения. Мы запускаем модель на этих данных и проверяем, чему равна, допустим, среднеквадратическая ошибка.
Этот этап аналогичен эксперименту.
А затем, если нас устраивает точность, мы эту модель пускаем в продакшн - и это аналогично тому, как если бы мы по итогам экспериментов назвали гипотезу теорией.

Я это к чему всё говорил. Каждый раз, когда теория с эпициклами проваливалась - выяснялась её недостаточная точность - эту теорию, с точки зрения машинного обучения, отправляли на помойку, а в прод пускали другую теорию - в которой на один эпицикл больше. Эксперимент над одной теорией про эпициклы не позволял сказать что-либо о других теориях, основанных на эпициклах.
Конкретную обученную модель вполне можно опровергнуть (увидеть, что она в среднем даёт неудовлетворительное качество прогноза). Опровергнуть, возможно, нельзя всё семейство моделей, то есть все теории, основанные на эпициклах.

Потом. Теория - это не просто что-то, что верно или неверно. У теории есть уровень точности - среднеквадратическая ошибка, например, на отложенной выборке. Поэтому если некая теория работает неудовлетворительно, но альтернатив нет... Появился над-теория: "Теория Х верна в случаях А, Б, В, в остальных случаях аппроксимируем искомую величину белым шумом". Мы выкинули из прода теорию Х, и поместили туда эту над-теорию.

Кроме того, есть такой подход к созданию моделей, как бустинг. В реальной жизни это выглядит так: мы сделали теорию, она прогнозирует траектории планет, но допускает какие-то систематические промахи. Мы говорим: ну, значит, там есть ещё какое-то воздействие. Именно оно объясняет эти ошибки! Назовём его тёмной материей! И создаём новую теорию, которая прогнозирует эти ошибки. Дальше смотрим - а даже сумма из этих двух теорий даёт не вполне точный прогноз. И придумываем новую теорию, которая прогнозировала бы эти ошибки.
Получается стопка теорий, и это похоже на эпициклы. Но это в целом работает.
А потом приходит какой-нибудь новый теоретик и находит, как 2-3 слоя "эпициклов" заменить одной теорией, которая проще, чем эти слои в сумме. И получается новая теория, которая обычно прогнозирует лучше. Просто потому, что обычно более простые теории, при прочих равных, дают лучший прогноз.

Заменить неправильные факты на правильные можно, но в таком случае мы получим иную теорию - в том смысле, что она не будет с точностью до бита совпадать со старой и не будет давать точно такие же прогнозы. Но она может быть из того же семейства - то есть формулы такие же, а константы другие. А может выйти, что при замене верных фактов на неверные, мы не сможем подобрать константы. Если y=x^2, то какие коэффициенты не подбирай, линейная зависимость будет предсказывать Y достаточно плохо.

Так что если у нас теория плохо предсказывает, мы можем её загнать в рамки или усилить "эпициклами", то есть бустингом. И держать постоянно в уме, что она не очень точная. И отбросить её, когда появится что-то получше.
5
Общение / Re: Краткая история человечества
« Последний ответ от kuuff 02 Июль 2019, 13:46 »
Ну да, примерно так. Неверные факты можно выкинуть и заменить верными. Теории как правило переживают такую операцию без особых потерь.
6
Общение / Re: Краткая история человечества
« Последний ответ от Pony 02 Июль 2019, 12:29 »
Э... А я не поняла. Теория - это такая точка зрения? "Я художник, я так вижу"? В пень факты, я так вижу, а факты меня не устраивают. Чем теория тогда отличается от фэнтези, например? А Харари именно это и делает: искажает, игнорирует или выдумывает несуществующие факты.
7
Общение / Re: когда знания стали опасны
« Последний ответ от kuuff 27 Июнь 2019, 18:20 »
А, ну то, что СМИ перевирают, это вполне нормально и естественно. Особенно это нормально и естественно, если мы говорим про США, где вообще помпезно презентовать результаты своей деятельности -- это национальная особенность.

Но в любом случае, нам рано или поздно придётся столкнутся с текстами написанными ботами. И я думаю, что скорее рано, чем поздно. Может через десять лет, может через двадцать, но постепенно мы выйдем на то, что приходя на новостной сайт, я буду смотреть персонализованный аналог телевизионных новостей, с интерактивным ведущим, который будет реагировать на мои замечания и либо пропускать какие-то детали, либо наоборот подсыпать ещё деталей.
8
Общение / Re: Краткая история человечества
« Последний ответ от kuuff 27 Июнь 2019, 18:15 »
kuuff, если мы лишаем себя возможности сказать "здесь я совершенно не согласен", "здесь я согласен на 90%", "здесь я полностью согласен" - то мы уравниваем все теории. И теория "Лысые не должны занимать высокие государственные посты т.к. мы видим что их правление ведет к неудачам" становится в один ряд с какой-нибудь теорий Цивилизаций Шпенглера.

Да, мы уравниваем теории, но уравниваем их по одному не очень существенному показателю. Высота болида формулы 1 равна высоте ребёнка. Мы их уравняли? Да. Но разве это так важно?

С теорией бессмысленно соглашаться или не соглашаться, можно соглашаться или не соглашаться с конкретным применением этой теории. Классическая гравитация Ньютона или ОТО. С какой я больше согласен? А это совершенно не важно, потому что в любом конкретном случае я буду выбирать теорию, которая даст мне удовлетворительный результат минимумом усилий. В одних случаях это будет гравитация Ньютона, в других Эйнштейна.

Это не значит, что не существует бесполезных теорий, но у нас нет надёжного способа априорно судить о том, что полезно, а что нет.

Кроме того Харари изучал именно историю, археология, антропология и история - это не совсем гуманитарные науки, и именно они критиковали его книгу.
О, гуманитарность наук здесь не при чём. Совершенно та же самая штука ярко работает в математике, где теория Галуа запиленная для решения какой-то дурацкой задачи -- поиска корней многочлена в радикалах, -- внезапно оказыается прорывной теорией, с далекоидущими последствиями. Или геометрия Лобачевского, которая выглядела как совершенно бесполезное теоретизирование, но вдруг нашла применение в ОТО. Или основания математики, которые шатаются, меняются, но основное здание математики остаётся неизменным. Казалось бы, каждое изменение оснований должно приводить к коренной перестройке математики, но нет, ничего подобного.

Кроме того, теорию невозможно опровергнуть фактами. Да, я знаю, Юдковский думает иначе, но он ошибается. Вся история науки показывает, что теории неопровержимы фактами. Птомлеевская система нарашивала эпициклы, когда сталкивалась с фактами противоречащими ей, и это позволяло ей существовать. Чтобы птомлеевскую систему опровергнуть, потребовалась система Коперника, и то ей удалось это не сразу, а когда концентрические окружности были заменены эллипсами (то есть теория Коперника, столкнувшись с противоречащими ей фактами, просто впитала их, и продолжила существовать, как ни в чём не бывало). Или взять закон Менделя -- Мендель ведь настолько был убеждён в правоте своей теории, что он подтасовывал данные, чтобы доказать её. Я не помню деталей, но он не сразу нашёл горох, чтобы поставить на нём убедительный эксперимент без фальсификаций, до гороха он на чём-то другом доказывал свой закон, и современные биологи сказали, что данные полученные Менделем могли быть получены только подтасовкой (если интересны подробности, вы скажите, я одолею свою лень и найду их).

В ГПиМРМ Поттер как-то приводит пример с Нептуном, про который астрономы не знали, но который влиял на движение других планет. И астрономы ведь не вышвырнули свои теории гравитации из-за того, что данные не сходились. А ось вращения Солнца? Современные модели формирования планетарной системы не могут объяснить неперпендикулятность оси вращения солнца плоскости эклиптики. Современные модели построены на ОТО, они не предсказывают факты и даже не объясняют задним числом факты, значит ОТО следует выкинуть в окно? Не, этот факт просто положили в сторонку, и продолжили пользоваться ОТО. Сейчас нашли возможное объяснение в виде планеты, которая была захвачена Солнцем давным давно, и которая вращается вне плоскости эклиптики, и делая так в течение миллиардов лет поворачивает всю плоскость. Но десятилетями этого объяснения не было, и это не мешало ОТО доминировать.

И кстати, Томас Кун своими этапами научных эволюций заявил именно это, теория не может быть опровергнута фактами. Правда Кун рассматривал исключительно удобные ему науки, типа физики, где всегда есть ровно одна парадигма, в гуманитарных науках же всегда есть ещё одна парадигма. В естественных науках это тоже попадается (скажем модифицированный закон гравитации Эйнштейна, который позволяет описывать движение звёзд некоторых галактик без привлечения тёмной материи), но там, обычно, благодаря наличию формул и вообще высокой степени формализации, возможно чётко установить связь между разными теориями и объяснить как из одной вытекает другая и обратно. В том смысле, что в физике можно объяснить почему есть две парадигмы, и зачем они нужны две разные. В гуманитарных науках это не всегда возможно чётко проследить.
9
Общение / Re: Краткая история человечества
« Последний ответ от valergrad 24 Июнь 2019, 18:46 »
kuuff, если мы лишаем себя возможности сказать "здесь я совершенно не согласен", "здесь я согласен на 90%", "здесь я полностью согласен" - то мы уравниваем все теории. И теория "Лысые не должны занимать высокие государственные посты т.к. мы видим что их правление ведет к неудачам" становится в один ряд с какой-нибудь теорий Цивилизаций Шпенглера.
Кроме того Харари изучал именно историю, археология, антропология и история - это не совсем гуманитарные науки, и именно они критиковали его книгу.
10
Общение / Re: когда знания стали опасны
« Последний ответ от valergrad 24 Июнь 2019, 14:47 »
AlphaZero.

Ну я не знаю есть ли где-то статья которая собрала бы все в кучу. Скажем если ты пойдешь в вики https://en.wikipedia.org/wiki/AlphaZero
то там есть ряд замечаний по этому поводу. Но я просто интересуюсь этой темой, постоянный обитатель каналов, форумов и дискордов о шахматном программировании поэтому в курсе.
Если вкратце в эпохальном матче AlphaZero против Stockfish.

1. У Stockfish почему-то была взята сильно устаревшая версия.
2. Стокфиш почему-то был лишен дебютной книги ( у программы на нейронных сетях некое подобие дебютной книги зашито в мегабайтах их весов, так что это несимметричное ограничение).
3. Стокфиш почему-то был лишен эндшпильных баз ( как позже выяснилось это тоже несимметричное ограничение ).
4. Стокфиш играл на более слабом компьютере
5. Даже на этом слабом компьютере ему были установлены очень странные настройки ( например всего 1 гигабайт на хэш - напрямую влияет на его силу).
Это все поставило под сомнения превосходство Альфы над Стокфишем.
Самое главное: на просьбу дать бинарник программы чтобы поучаствовать в каком-либо из официальных чемпионатов уже на нормальных настройках - было отвечено категорическим отказом. Так что мы точно уже никогда не узнаем в какую на самом деле силу играл АльфаЗеро.

Некое представление может дать следующий тест. Авторы опубликовали архитектуру нейронной сети и алгоритм. Программа была воссоздана ( русским программистом кстати ) под названием LeelaChessZero. Шахматное сообщество помогло ее натренировать - это заняло много месяцев, а не несколько часов т.к. у шахматного сообщества гораздо меньше компьютерных мощностей чем у гугла. После полугода тренировки LeelaChessZero сыграла матч в тех же условиях с той же старой версией стокфиша - и добилась лучшего результата чем AlphaZero т.е. предположительно она играет сильней. Но в матче на нормальных настройках против последней версии стокфиша - эта же версия проиграла.
( Через несколько месяцев она сумела превзойти и последнюю версию стокфиша).


Starcraft.
Статьи выходили под заголовками "Нейросеть обыгрывает лучших игроков в старкрафт". О чем почему-то забывали часто упомянуть в этих статьях.

1. "про-игрок" был действительно "про", но играл не за свою расу ( почему нельзя было пригласить игрока своей расы - непонятно).
2. предвосхищая обвинения в "программа просто выиграла за счет реакции" они опубликовали табличку с графиками APM живого игрока и программы. Табличка была из серии "классический пример как ввести в заблуждение и попытаться внушить ложный вывод таблицей".
3. таким образом программа действительно просто использовала стократное превосходство в реакции и точности над живым человеком ( в том числе и потому что ей не нужно было осуществлять какие-то движения мышкой и клавиатурой, она напрямую вызывала функции ядра игры).
4. В дополнение ко всему было использование "всевидение" т.е. видение все карты в целом, что человеку в принципе недоступно - он видит информацию через монитор на котором в один момент времени отображается только один кусочек карты. Характерно, что когда в последней игре "всевидение" отключили - эту игру человек легко выиграл, причем метод которым он воспользовался может применить любой квалифицированный игрок.

В целом если сложилось впечатление что я критикую их достижения - вовсе нет. Это выдающиеся результаты в любом случае. Просто нужно отличать насколько они выдающиеся на самом деле от того, как их рекламируют маркетологи. Разница между "обыграть сильнейшего игрока в старкрафт" от "обыграть сильного игрока в старкрафт который играл без подготовки и за чужую расу, используя всевидение и 100-кратное преимущество в скорости реакции" довольно велика.

Особенно нужно быть подозрительным если как в случае с GPT просто говорится "у нас есть что-то выдающееся, но мы вам это не покажем".
Страницы: [1] 2 3 ... 10