Последние сообщения

Последние сообщения

Страницы: 1 ... 6 7 [8] 9 10
71
Общение / Re: когда знания стали опасны
« Последний ответ от kuuff 27 Июнь 2019, 18:20 »
А, ну то, что СМИ перевирают, это вполне нормально и естественно. Особенно это нормально и естественно, если мы говорим про США, где вообще помпезно презентовать результаты своей деятельности -- это национальная особенность.

Но в любом случае, нам рано или поздно придётся столкнутся с текстами написанными ботами. И я думаю, что скорее рано, чем поздно. Может через десять лет, может через двадцать, но постепенно мы выйдем на то, что приходя на новостной сайт, я буду смотреть персонализованный аналог телевизионных новостей, с интерактивным ведущим, который будет реагировать на мои замечания и либо пропускать какие-то детали, либо наоборот подсыпать ещё деталей.
72
Общение / Re: Краткая история человечества
« Последний ответ от kuuff 27 Июнь 2019, 18:15 »
kuuff, если мы лишаем себя возможности сказать "здесь я совершенно не согласен", "здесь я согласен на 90%", "здесь я полностью согласен" - то мы уравниваем все теории. И теория "Лысые не должны занимать высокие государственные посты т.к. мы видим что их правление ведет к неудачам" становится в один ряд с какой-нибудь теорий Цивилизаций Шпенглера.

Да, мы уравниваем теории, но уравниваем их по одному не очень существенному показателю. Высота болида формулы 1 равна высоте ребёнка. Мы их уравняли? Да. Но разве это так важно?

С теорией бессмысленно соглашаться или не соглашаться, можно соглашаться или не соглашаться с конкретным применением этой теории. Классическая гравитация Ньютона или ОТО. С какой я больше согласен? А это совершенно не важно, потому что в любом конкретном случае я буду выбирать теорию, которая даст мне удовлетворительный результат минимумом усилий. В одних случаях это будет гравитация Ньютона, в других Эйнштейна.

Это не значит, что не существует бесполезных теорий, но у нас нет надёжного способа априорно судить о том, что полезно, а что нет.

Кроме того Харари изучал именно историю, археология, антропология и история - это не совсем гуманитарные науки, и именно они критиковали его книгу.
О, гуманитарность наук здесь не при чём. Совершенно та же самая штука ярко работает в математике, где теория Галуа запиленная для решения какой-то дурацкой задачи -- поиска корней многочлена в радикалах, -- внезапно оказыается прорывной теорией, с далекоидущими последствиями. Или геометрия Лобачевского, которая выглядела как совершенно бесполезное теоретизирование, но вдруг нашла применение в ОТО. Или основания математики, которые шатаются, меняются, но основное здание математики остаётся неизменным. Казалось бы, каждое изменение оснований должно приводить к коренной перестройке математики, но нет, ничего подобного.

Кроме того, теорию невозможно опровергнуть фактами. Да, я знаю, Юдковский думает иначе, но он ошибается. Вся история науки показывает, что теории неопровержимы фактами. Птомлеевская система нарашивала эпициклы, когда сталкивалась с фактами противоречащими ей, и это позволяло ей существовать. Чтобы птомлеевскую систему опровергнуть, потребовалась система Коперника, и то ей удалось это не сразу, а когда концентрические окружности были заменены эллипсами (то есть теория Коперника, столкнувшись с противоречащими ей фактами, просто впитала их, и продолжила существовать, как ни в чём не бывало). Или взять закон Менделя -- Мендель ведь настолько был убеждён в правоте своей теории, что он подтасовывал данные, чтобы доказать её. Я не помню деталей, но он не сразу нашёл горох, чтобы поставить на нём убедительный эксперимент без фальсификаций, до гороха он на чём-то другом доказывал свой закон, и современные биологи сказали, что данные полученные Менделем могли быть получены только подтасовкой (если интересны подробности, вы скажите, я одолею свою лень и найду их).

В ГПиМРМ Поттер как-то приводит пример с Нептуном, про который астрономы не знали, но который влиял на движение других планет. И астрономы ведь не вышвырнули свои теории гравитации из-за того, что данные не сходились. А ось вращения Солнца? Современные модели формирования планетарной системы не могут объяснить неперпендикулятность оси вращения солнца плоскости эклиптики. Современные модели построены на ОТО, они не предсказывают факты и даже не объясняют задним числом факты, значит ОТО следует выкинуть в окно? Не, этот факт просто положили в сторонку, и продолжили пользоваться ОТО. Сейчас нашли возможное объяснение в виде планеты, которая была захвачена Солнцем давным давно, и которая вращается вне плоскости эклиптики, и делая так в течение миллиардов лет поворачивает всю плоскость. Но десятилетями этого объяснения не было, и это не мешало ОТО доминировать.

И кстати, Томас Кун своими этапами научных эволюций заявил именно это, теория не может быть опровергнута фактами. Правда Кун рассматривал исключительно удобные ему науки, типа физики, где всегда есть ровно одна парадигма, в гуманитарных науках же всегда есть ещё одна парадигма. В естественных науках это тоже попадается (скажем модифицированный закон гравитации Эйнштейна, который позволяет описывать движение звёзд некоторых галактик без привлечения тёмной материи), но там, обычно, благодаря наличию формул и вообще высокой степени формализации, возможно чётко установить связь между разными теориями и объяснить как из одной вытекает другая и обратно. В том смысле, что в физике можно объяснить почему есть две парадигмы, и зачем они нужны две разные. В гуманитарных науках это не всегда возможно чётко проследить.
73
Общение / Re: Краткая история человечества
« Последний ответ от valergrad 24 Июнь 2019, 18:46 »
kuuff, если мы лишаем себя возможности сказать "здесь я совершенно не согласен", "здесь я согласен на 90%", "здесь я полностью согласен" - то мы уравниваем все теории. И теория "Лысые не должны занимать высокие государственные посты т.к. мы видим что их правление ведет к неудачам" становится в один ряд с какой-нибудь теорий Цивилизаций Шпенглера.
Кроме того Харари изучал именно историю, археология, антропология и история - это не совсем гуманитарные науки, и именно они критиковали его книгу.
74
Общение / Re: когда знания стали опасны
« Последний ответ от valergrad 24 Июнь 2019, 14:47 »
AlphaZero.

Ну я не знаю есть ли где-то статья которая собрала бы все в кучу. Скажем если ты пойдешь в вики https://en.wikipedia.org/wiki/AlphaZero
то там есть ряд замечаний по этому поводу. Но я просто интересуюсь этой темой, постоянный обитатель каналов, форумов и дискордов о шахматном программировании поэтому в курсе.
Если вкратце в эпохальном матче AlphaZero против Stockfish.

1. У Stockfish почему-то была взята сильно устаревшая версия.
2. Стокфиш почему-то был лишен дебютной книги ( у программы на нейронных сетях некое подобие дебютной книги зашито в мегабайтах их весов, так что это несимметричное ограничение).
3. Стокфиш почему-то был лишен эндшпильных баз ( как позже выяснилось это тоже несимметричное ограничение ).
4. Стокфиш играл на более слабом компьютере
5. Даже на этом слабом компьютере ему были установлены очень странные настройки ( например всего 1 гигабайт на хэш - напрямую влияет на его силу).
Это все поставило под сомнения превосходство Альфы над Стокфишем.
Самое главное: на просьбу дать бинарник программы чтобы поучаствовать в каком-либо из официальных чемпионатов уже на нормальных настройках - было отвечено категорическим отказом. Так что мы точно уже никогда не узнаем в какую на самом деле силу играл АльфаЗеро.

Некое представление может дать следующий тест. Авторы опубликовали архитектуру нейронной сети и алгоритм. Программа была воссоздана ( русским программистом кстати ) под названием LeelaChessZero. Шахматное сообщество помогло ее натренировать - это заняло много месяцев, а не несколько часов т.к. у шахматного сообщества гораздо меньше компьютерных мощностей чем у гугла. После полугода тренировки LeelaChessZero сыграла матч в тех же условиях с той же старой версией стокфиша - и добилась лучшего результата чем AlphaZero т.е. предположительно она играет сильней. Но в матче на нормальных настройках против последней версии стокфиша - эта же версия проиграла.
( Через несколько месяцев она сумела превзойти и последнюю версию стокфиша).


Starcraft.
Статьи выходили под заголовками "Нейросеть обыгрывает лучших игроков в старкрафт". О чем почему-то забывали часто упомянуть в этих статьях.

1. "про-игрок" был действительно "про", но играл не за свою расу ( почему нельзя было пригласить игрока своей расы - непонятно).
2. предвосхищая обвинения в "программа просто выиграла за счет реакции" они опубликовали табличку с графиками APM живого игрока и программы. Табличка была из серии "классический пример как ввести в заблуждение и попытаться внушить ложный вывод таблицей".
3. таким образом программа действительно просто использовала стократное превосходство в реакции и точности над живым человеком ( в том числе и потому что ей не нужно было осуществлять какие-то движения мышкой и клавиатурой, она напрямую вызывала функции ядра игры).
4. В дополнение ко всему было использование "всевидение" т.е. видение все карты в целом, что человеку в принципе недоступно - он видит информацию через монитор на котором в один момент времени отображается только один кусочек карты. Характерно, что когда в последней игре "всевидение" отключили - эту игру человек легко выиграл, причем метод которым он воспользовался может применить любой квалифицированный игрок.

В целом если сложилось впечатление что я критикую их достижения - вовсе нет. Это выдающиеся результаты в любом случае. Просто нужно отличать насколько они выдающиеся на самом деле от того, как их рекламируют маркетологи. Разница между "обыграть сильнейшего игрока в старкрафт" от "обыграть сильного игрока в старкрафт который играл без подготовки и за чужую расу, используя всевидение и 100-кратное преимущество в скорости реакции" довольно велика.

Особенно нужно быть подозрительным если как в случае с GPT просто говорится "у нас есть что-то выдающееся, но мы вам это не покажем".
75
Общение / Re: Краткая история человечества
« Последний ответ от kuuff 23 Июнь 2019, 16:02 »
Одно из главных моих интеллектуальных достижений в процессе получения гуманитарного образования -- это мысль о том, что гуманитарные теории не для того, чтобы соглашаться с ними или не соглашаться. Гуманитарная теория -- это своего рода точка зрения, которая позволяет посмотреть на объект исследования с другого угла. Основная фишка в том, что описывая проблему в рамках разных теорий, мы замечаем гораздо больше нюансов в этой проблеме. Чем больше теорий мы используем для анализа проблемы, тем больше нюансов мы видим. Не все эти нюансы мы будем затем учитывать, решая проблему, но решение о том, что учитывать, а что игнорировать, надо принимать в каждой конкретной проблеме, а не один раз и навсегда.

Собственно, такое положение дел неизбежно в гуманитарных науках, потому что они работают с очень сложными вещами, в которых очень много внутренних взаимосвязей, отследить все невозможно хотя бы из-за их количества, но есть ещё и проблемы методологические: не на все взаимосвязи есть практические методы, позволяющие их заметить и исследовать. Ни одна теория не может описывать проблему сколь-нибудь полно.
76
Общение / Re: когда знания стали опасны
« Последний ответ от kuuff 23 Июнь 2019, 16:02 »
достижения нейронных сеток в шахматах, доте и старкрафте ( AlphaZero, OpenAI, OpenMind ) были серьезно сфальсифицированы т.е. преувеличены, эксперты в каждой области были весьма недовольны

Где можно об этом почитать подробнее?
77
Общение / Re: когда знания стали опасны
« Последний ответ от valergrad 23 Июнь 2019, 15:32 »
Просто коммент: совершенно не уверен что тексты сгенеренные нейросетками так хороши, что их невозможно отличить.  По моему опыту в нейросетях сейчас маркетинг идет на три головы вперед реальных достижений. Так достижения нейронных сеток в шахматах, доте и старкрафте ( AlphaZero, OpenAI, OpenMind ) были серьезно сфальсифицированы т.е. преувеличены, эксперты в каждой области были весьма недовольны, хотя публика "схавала". Не исключено что и чудесная сеть генерирующая связный текст "которую мы вам не дадим" это просто миф и уровень текста там лишь немногим лучше выпущенной в публичный доступ. Выпущенную в публичный доступ каждый может потестить самостоятельно - до связного текста ей как до луны, а тайная отличается лишь в несколько раз большим числом параметров.

Конечно рано или поздно и этот барьер будет преодолен... но не уверен что в тот момент нас будет волновать именно жалкая человеческая политика.
78
Общение / Re: Краткая история человечества
« Последний ответ от valergrad 23 Июнь 2019, 15:25 »
Прочитал обе книги. У Харари есть какая-то теория и он ее придерживается. Прочитать вероятно стоит - интересно, но соглашаться или нет ( в целом, или в конкретных деталях ) - это уже личное дело каждого.
79
Общение / Re: Профессионал о дилемме вагонетки
« Последний ответ от valergrad 23 Июнь 2019, 15:20 »
На ту же тему есть пародия - как Фейнман решал бы классическую задачу с собеседований на логическое мышление.

http://translatedby.com/you/what-would-feynman-do/into-ru/trans/
80
Обсуждение книги / Re: Смерть сознания
« Последний ответ от kuuff 18 Май 2019, 05:49 »
Во-первых, я не очень понял. Вы привели, по-сути, два определения смерти:
1.
Смерть есть полная потеря агентом способности воздействовать на окружающую действительность.

2.
Потерю способности к осуществлению этого цикла по любой причине, будь то утрата функции полезности, утрата вариативности возможного поведения или утрата приемлемого уровня соответствия между представлением о последствиях действий и реальными последствиями, следует рассматривать как смерть.

Они разные. Скажем, можно порезать человеку эфферентные нервные пути. Это можно сделать аккуратно, так, чтобы не поломать функционирование сердца, и не остановить дыхание. Человек потеряет способность воздействовать на внешнюю реальность. Теоретически можно вообще мозг вынуть, и поддерживать его функционирование "в пробирке" -- я читал о подобных опытах с мозгами свиней. И первое определение называет подобную ситуацию смертью. Но второе наводит на мысль о том, что всё же речь не об этом.

Во-вторых, "приемлемый уровень соответствия между представлением о последствиях действий и реальными последствиями" -- это очень размыто. Человек в состоянии аффекта идёт и убивает. Он в этот момент теряет связь с последствиями своих действий, всё его сознание фиксировано на чём-то одном. Значит ли, что он пережил смерть? А сон -- это смерть?

А шизофрения? Вот берёт шизофреник кусок мела, рисует на полу круг, и сидит в этом кругу голый всю ночь. Для него это выглядит, будто пока он сидит в этом кругу, Вселенная в безопасности, его родные и близкие в безопасности, а если он выйдет, то может случится катастрофа, Вселенная лопнет и все родные и близкие умрут мучительной смертью. То есть, дело не в том, что он верит в это, не всё гораздо интереснее: это его реальность такая. О, да, кстати о шизофрениках, очень рекомендую к прочтению книжку, где описана история болезни изнутри. Или у dpmmax'а есть куча психиатрических баек, которые позволяют глянуть на альтернативные реальности пациентов, типа этой, например.

Возвращаясь к определению: "утрата функции полезности" -- я переживал подобное. Это называется депрессия. Это когда лежишь на диване, тебе невыносимо плохо, невыносимо скучно, но нет ничего в этом мире, что могло бы развлечь. Даже когда ты забиваешь на чувство вины за себя слабака, подставляющего других людей, и говоришь себе плевать, дай-ка я займусь чем-нибудь... И если не выходит заняться полезным, займусь я чем-нибудь бесполезным. Но единственное чего хочется -- это заснуть: когда спишь, время проходит незаметно, безболезненно и не требуется усилий, чтобы дрейфовать по времени в будущее. Ничего не хочется настолько, что не заставить себя дойти до холодильника, чтобы поесть. А когда в холодильнике кончается еда, ты ещё два дня лежишь на диване голодный, прежде чем находишь в себе сил сделать усилие воли и сходить в магазин. То есть мне всё было одинаково противно. И очень противно. На диване было лежать противно, и я выбирал лежание на диване только потому, что это было отказом от выбора из многих одинаково противных опций. Был ли я мёртв, когда лежал с депрессией?

Это может показаться лишними придирками, ну вроде как мы говорим о "нормальных" людях, а мои примеры явно о ненормальных. Но граница между нормальностью и ненормальностью на деле размыта очень. То есть, я даже скажу хуже: её вообще нет. Считать одних людей нормальными, а других ненормальными -- это ксенофобия чистой воды. Любое свойство ненормального человека есть и у нормального, просто выраженность этих свойств разная.
Страницы: 1 ... 6 7 [8] 9 10