Сообщения

46

Обсуждение книги / Re: Полное толкование книги

« : 16 Декабря 2016, 10:43 »

даже не попытаться прочесть непонятную надпись на зеркале (ЗЕРКАЛЕ, Карл!) задом наперед - не жесточайшее ли выпадение из образа?

Это нам, читателям, надпись представили в таком виде. Персонажи видят непонятные руны:

В центре задней поверхности зеркала появилась последовательность рун неизвестного алфавита.
...
— Мне этот алфавит не знаком. Руны выглядят так, словно их случайным образом куриной лапой нацарапали толкиновские эльфы.

Они не выглядят, как перевернутые буквы.
Более того, каждое из "слов" - отдельный знак, а не последовательность символов:

Он понял, что на самом деле означает руна «яинелмер». Она означала яинелмер

То есть, просто нечего читать задом наперед.

47

Обсуждение книги / Re: Чего хотят сторонники чистоты крови?

« : 14 Декабря 2016, 18:00 »

Вероятно, первый вариант.

1.  Не брать в обучение маглорожденных, чтобы прекратить приток «грязной крови» и остановиться на этом. Что будет? Технически маглорожденные – маги, в т.ч. сильные (есть примеры).  Ты оставляешь без присмотра большой кусок ресурса: обладающие магическими способностями, способные к обучению существа (нет разницы, считать ли их людьми), которых как нефиг делать сориентировать против тебя. Это могут сделать соседи, если вдруг им вштырит тебя потрепать чужими руками, это может сделать твоя собственная пятая колонна (маглолюбцев, полукровок и квартеронов хватает), это готовый ресурс для любого темного\светлого лорда или еще какого пассионария.

Что сильные - это, "разумеется", ложь предателей крови (вспомним, как Малфой удивился, когда его защиту пробила Грейнджер).
В каноне после захвата власти УПсами у всех нечистокровных тупо ломали палочки. Вполне эффективный метод обезвреживания взрослых маглорожденных. Что касается детей - в любом случае, и палочку им взять негде, и обучатся не у кого, т.к. в школу не берут, и родственники ничего об этом не знают. Маглорожденный без палочки и обучения - все равно, что сквиб. Да, теоретически их можно как-то находить, тайно покупать палочки, обучать и т.п., но это сопряжено с большими трудностями, тем более учитывая их малую численность, и лишено особого смысла, т.к. чистокровных все равно больше, и они сильнее за счет системного обучения.

48

Обсуждение книги / Re: Азкабан и патронусы

« : 09 Декабря 2016, 12:16 »

В Азкабане запрещены временные петли и аппарация. Возможно, там установлено и одностороннее препятствие для патронусов (снаружи - вовнутрь).

49

Обсуждение книги / Re: 3d-графика на темы HPMOR

« : 08 Декабря 2016, 09:50 »

Картинки действительно забавные. Всем рекомендую ознакомиться.

И спасибо за перевод!

50

Обсуждение книги / Re: Полное толкование книги

« : 02 Ноября 2016, 15:48 »

  Мне кажется, на форуме и так уже по кирпичикам разобраны все главы и загадки.

ИМХО "иллюзия прозрачности" у автора проявилась только один раз - в вопросе, является ли Квиррелл злобным Волдемортом ака мистером Плащ-и-Шляпой. Юдковский утверждал, что все именно таково, чем кажется, и он не намерен "обманывать" читателей. Между тем, в течение большей части книги Квиррелл - самый адекватный персонаж. (В то время, как Дамблдор, например, исповедует достаточно странные и не вполне разумные идеи. Вроде того же посмертия и т.п.) Вполне логичным было предполагать, что  Квиррелл либо вообще не Волдеморт, либо таки ТЛ, но столь сильно измененный относительно канона, что ГП останется в итоге только присоединится к его замыслам, или что-то в этом роде.

51

Общение / Re: Как выбраться из иллюзии?

« : 16 Октября 2016, 00:37 »

Вот я как раз про это. На основании прошлой памяти можно определить цели и возможности тюремщиков. Отталкиваясь от этого, можно сформировать собственную стратегию.
 

Первейшее применение для подобных экспериментов - допросы.

Отсюда вывод - если мы до этого были каким-нибудь Морфеусом, не выдавать коды Зиона. Психиатору будет только приятно, если вы будете вести себя так, как будто бы у вас ремиссия. А друзьям из реального мира тоже приятно, что их не сдали. Может быть, выручат, рано или поздно.

Иллюзии можно использовать чтобы модифицировать психику человека. Создать условия в которых он вынужден будет поступить как-нибудь очень экстраординарно и противоествественно, нарушая собственные нормы и принципы. Потом он выйдет наружу и поймёт что всё было не по настоящему, но его мораль уже изменилась и он не сможет быть прежним. Можно использовать для исцеления всяких психов... или для разрушения психики здоровых людей.

1.Для исцеления психов это вряд ли подойдет, на самом деле.
2.В описанном в первом посте случае от нас только хотят, чтобы мы признали себя внезапно излечившимся от неизвестного психического заболевания человеком, и либо дальше настаивали на своей версии в психушке, либо жили обычной жизнью вне психушки, если убедить врачей во вменяемости. Независимо от собственного мнения на этот счет. О моральных дилеммах речи не шло.

Обычная тюрьма. Ну как сейчас преступников изолируют от общества в закрытых тюремных комплексах, так же и иллюзии можно использовать просто ради того чтобы обезвредить опасного преступника не убивая его. Такие иллюзорные тюрьмы можно совмещать с психиатрическими лечебницами.

В этом случае мы попали - тюремщикам от нас ровным счетом ничего не нужно, поэтому шансы выбраться минимальны. Причем мы должны знать о таком виде наказания из памяти. Непонятно только, зачем было посылать именно в иллюзорную психушку. Хотели наказать - послали бы в виртуальное место с тяжелыми условиями без возможности выхода. Мир-тюрьма или сковородка. Хотели избавится и все - просто послали бы в виртуальность. Незачем убеждать в ложной памяти и болезни.

52

Общение / Re: Как выбраться из иллюзии?

« : 15 Октября 2016, 11:35 »

Ошибки неизбежны.

Много от чего зависит, на самом деле. Понятно, если вирт.реальность сделана на коленке, из двух пружинок и гвоздя, специально ради ГГ. Но мне более вероятным представляется, что должна быть уже обкатанная технология, вроде Матрицы. Иначе непонятно, зачем создавать целый ''мир" ради одного заключенного. Если же это чертикакая версия эмуляции реальности - например, используемая для игроделов/киношников/ обучения военных/врачей/пилотов и водителей и т.п., основные баги в физике должны быть уже исправлены.

Я бы все-таки сосредоточился на "психологии". С какой целью и кто мог бы нас сюда засунуть? Зачем им убеждать в ложности наших воспоминаний? В конце концов, если бы у нас не было потенциальной возможности выйти из этой "тюрьмы" с помощью внутренних по отношению к виртуальности или собственной психике ресурсов, это бы не понадобилось - хватило бы виртуальной комнаты 2 на 2 и без нпс-ов.

53

Общение / Re: Как выбраться из иллюзии?

« : 03 Октября 2016, 22:27 »

Во-первых, нужно адаптироваться к обстоятельствам. Не настаивать на своей версии действительности, не выдавать потенциально известную только нам информацию. (Пригодится чтобы ловить на противоречиях.) Не делать ничего такого, что может повредить впоследствии. (Нападения на персонал больницы, рассказывание о своих приключениях и т.п.)

Во-вторых, только человек, совершенно незнакомый с психиатрией, может считать, что психическим нездоровьем можно объяснить что угодно. Не бывает такой психической болезни, чтобы потерять всю "местную" память, при этом приобрести кучу новой, а потом раз так, и проснутся здоровым.

Нужно досконально изучить, что нам "шьют". Историю болезни, мнимую биографию и т.д. Сравнить с собственными воспоминаниями. Поискать несостыковки, узловые точки. Если нам говорят, что была шизофрения, а теперь внезапно никаких психических проблем нет - это с высокой степенью вероятности иллюзия, т.к. шиза идет приступами и до конца не лечится. Воспоминания должны коррелировать с событиями "биографии". Должны сохранится воспоминания из периодов ремиссии в этой реальности, из детства.

При отсутствии медикаментозной терапии со временем должно снова начинать крыть. Должны быть заметны, в первую очередь, даже не позитивные симптомы - галлюцинации, голоса и т.п., а негативные - апатия, слабость, вплоть до кататонии, подавленность, снижение интеллекта (проблемы с концентрацией, "мысли путаются").

Искать нелепости и противоречия в собственных воспоминаниях. В случае болезни они не должны быть особенно целостными, последовательными и непротиворечивыми.

Вообще, в вопросе очень широкий коридор условий. Если это до иллюзии был мир с ИИ - можно, как выше сказано, грузить вычислительные ресурсы, искать "границы" мира вглубь, в стороны и т.п., однако, если был мир с очень развитым ИИ - нет никакой гарантии, что любые наши эксперименты и попытки перегрузить систему не будут запросто покрываться сырой вычислительной мощностью.
Если же это был мир с "магией" (что бы это не значило) - опять же, нужно использовать ограничения, которые были известны из мира до иллюзии.

54

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 30 Сентября 2016, 23:55 »

А мне нравится. Раздувание предубеждения как инструмент задавливания идеи на уровне табу, чтобы в итоге даже попытки обсудить её или усомниться в её опасности считались плохим тоном.

Может быть, это шутка, но если нет - не вижу ничего хорошего в распространении систематических ошибок мышления (в данном случае - подтверждающее искажение, т.е. предвзятость) и ограничении научного прогресса. Если не благоприятствовать ученым - человечество загнется, или, как минимум, существенно снизится уровень жизни, куда быстрее - от голода, нехватки ресурсов и войн в результате перенаселения, исчерпания энергетических ресурсов, от нетехнологических глобальных рисков вроде метеоритов, супервулканов и т.д. и т.п.
Всякий раз, когда "ИИ" (пока весьма условный, узкоспециальный) отвоевывает ту или иную область деятельности - высвобождаются ресурсы общества, т.е. растет средний уровень жизни, уменьшается количество времени, которое необходимо для того, чтобы заработать на жизнь. Например, когда гугловские (самый мощный на данный момент проект, хотя есть и другие) управляемые ИИ автомобили заменят водителей-людей, не только принципиально снизится количество аварий, но и упадут расходы практически всех производящих что-либо компаний, соответственно, уменьшится цена на произведенные ими товары. Но только если их пустят на рынок, а не воспользуются массовой истерией про роботов-убийц и прямой контроль пентагона.
То же самое - с соответствующей заменой аналогами кассиров в магазинах, охранников, упаковщиков, складовщиков, хирургов, сборщиков на конвейнерах, отчасти солдат и т.д. (пишу про то, что существует уже сейчас) Почему-то никого не напрягает увольнение тысяч телефонисток на коммутаторах с появлением более современных систем телефонии, или сокращение необходимого количества банковских кассиров с появлением банкоматов. Я уж не говорю про крестьян в связи с изобретением комбайнов. Это действительно удобнее и дешевле для общества в целом.
Более полноценный ИИ просто сможет взять на себя куда более широкий спектр задач.
Отказываться от этого реального, действующего пути, с основанием "как бы чего не вышло" - на мой взгляд, просто глупо.
А вы говорите - было бы хорошо, чтобы невежливым было даже обсуждение ИИ вне контекста его опасности

Посему вопрос. Что бы вы сделали с этой зарождающейся истерией на тему ИИ, будь у вас ресурсов побольше?
И вопрос номер два. Насколько вы сами оцениваете риск ИИ? Вы считаете, что это вообще невозможно? Или что возможно, но только в случае сказочной глупости огромного числа лиц, принимающих решения? Или возможно при каких-то иных обстоятельствах?

1.Было бы неплохо, если бы было больше "позитивных" материалов на соответствующие темы. Больше информации с точки зрения практиков, которые занимаются разработками в соответствующих областях. Если фантазировать, т.е. если бы ресурсы были действительно большими - постараться улучшить имидж ИИ через книги, игры, фильмы с положительными героями-роботами, футурологией и т.п.
2.Считаю, что риск есть, но в целом довольно-таки небольшой, и да, связанный по большей части с человеческим фактором. И он явно перекрывается множеством других рисков, которые существуют независимо от ИИ, и могут быть преодолены/уменьшены с помощью ИИ.

55

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 29 Сентября 2016, 12:43 »

Что мне во всей этой истории активно не нравится, так это раздувание массового предубеждения перед ИИ.

Тут уже и киношники и литераторы неплохо оттоптались - "Космическая одиссея 2001", "Терминатор", "Матрица", "Я, робот" и т.д и т.п.
Теперь вот и "научные журналисты" активно включились, вроде Юдковского.
Когда в разговоре с любым человеком заходит речь об ИИ, в первую очередь возникает реакция по типу "ко-ко-ко, он нас всех поубивает".

Мы это уже проходили с ГМО, клонированием - тут результат известен - запрет на многие перспективные направления исследований, травля в СМИ и т.п.

Недавно посмотрел выпуск "науки 2.0" про умные протезы. Абзац через абзац текста диктора - "обожемой, можем ли мы вмешиваться в природу человека, или это нас погубит". Наука такая наука.

56

Обсуждение книги / Re: Юдковский и другие произведения.

« : 15 Сентября 2016, 10:33 »

...Мария вышла замуж не за Иосифа, а за сумасшедшего профессора из будущего.
И пришел Рационалиститель.
...
"Сказано: око за око, зуб за зуб. Я же истинно, с поправкой на вероятность ошибочной интерпретации накопленных экспериментальных данных, говорю вам - око за око, зуб за зуб, но с прощением в третей итерации."
...
"Если бы вашей рациональности набралось хоть с горчичное зерно, вы бы не стали разговаривать с горой, а таки подошли бы сами."
...
“Как смерть через человека, так через человека и воскресение мертвых. [<--- даже без редакции норм] Как сейчас все умирают, так во постсингулярности все оживут. Если, конечно Недружественный не переделает нас в скрепки.”
...
"Не мир я вам принес, но универсальный инструмент максимизации функции полезности."

57

Обсуждение книги / Re: Юдковский и другие произведения.

« : 15 Сентября 2016, 01:36 »

Напрашивается что-нибудь алогичное, чтобы повкуснее было находить во всем этом систему. Adventure time. Евангелион. И т.п.

Хотя второго ГПиМРМ уже никогда не будет, поскольку те же приемы использовать больше не получится, либо это будет уже не столь оригинально, и не будет вызывать такого сильного эффекта на моцк неподготовленного читателя. Я про прямое описание экспериментов в тексте и т.п.

В конце концов, у самого же Юдковского есть еще несколько художественных произведений (два?), но они значительно менее популярны.

Просто умных персонажей и закрученных сюжетов, конечно, хотелось бы видеть больше, но тут не надо именно на Юдковского надеяться На этом форуме, к примеру, есть тема про похожие произведения.

58

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 07 Сентября 2016, 17:07 »

Интересно, что значимая часть сценариев ИИ не выгодны, если в нем будет прописано что-то вроде "страха смерти".

Взрывы или саботаж промышленных предприятий, электростанций, коммуникаций, узлов связи, крупных серверов и т.п. повлечет за собой отключение самого ИИ (электричество), его связи с внешним миром (интернет), ресурсов для ремонта и обслуживания (промышленность).

Ядерные взрывы сжигают электронику, полномасштабная атомная война, с уничтожением крупных мегаполисов, выведет из строя бОльшую часть вычислительных и производственных ресурсов, подконтрольных ИИ, и специалистов, которые могли бы все это починить.

Уничтожение людей с помощью химического или бактериологического оружия - это убийство в том числе и работников, обслуживающих ИИ, добывающих сырье для электростанций и т.п.

Локальные взрывы самолетов, аварии поездов и т.п. значимого ущерба людям не причинят, а вот недовольство людей, и погромы серверов и лабораторий, массовые отключения всего и вся от интернета и далее в том же духе - вызовут однозначно.

59

Общение / Re: Реалистично ли взрывное самоусиление ИИ?

« : 04 Сентября 2016, 16:16 »

К сожалению, мой уровень английского недостаточно хорош (а онлайн переводчики пока не столь продвинуты ), чтобы прочитать рекомендованные в теме книги и статьи

По поводу "а никто и не утверждает, что так будет" - не раз встречал в выступлениях и текстах трансгуманистов прогнозирование именно экспоненциального роста возможностей ИИ. Не важно, о минутах ли идет речь, или о нескольких годах, главное, что предполагается рост возможностей такого масштаба, что ИИ станет невозможно остановить, и либо, сообразно собственной воле, он нас убьет (например, переделает в скрепки - и никто не сможет ему противодействовать), или, наоборот, решит проблему смерти, избавит от необходимости работать и т.п. Отсюда и возникает, в частности, необходимость в деятельности разработчиков дружественного ИИ, вроде того института, в котором работает Юдковский.

Если же подобный сценарий практически невозможен в действительности, а ИИ будет оставаться относительно слабым и уязвимым в течение многих десятков лет, равно как и недостаточно мощным, чтобы быстро решать глобальные проблемы, следует считать ряд опасностей или преимуществ ИИ сильно переоцененными.

60

Общение / Реалистично ли взрывное самоусиление ИИ?

« : 03 Сентября 2016, 16:11 »

Многие, едва ли не большинство, сценариев Сингулярности, включают в себя следующее - ИИ начинает оптимизировать собственный код и “железо”, вследствие чего, за относительно небольшое время (за такое, что никто не успевает предпринять эффективных контрмер), становится доминирующей интеллектуальной и "материальной" силой на планете. Отсюда уже исходят разные варианты - уничтожение людей, решение всех проблем человечества, кооперация и т.д. и т.п. Этот сценарий, действительно, весьма гладко и логично выглядит "на бумаге", в графиках со взлетающими в небо функциями производительности компьютерной техники.

Но вернемся из идеального мира в реальный.
1.Усиление софта совсем не безгранично, будь даже ИИ изначально сверх-гением. Узкоспециальные программы и так максимально быстры и практически оптимальны, универсальные же архетектуры (типа естественных или искусственных нейронных сетей или их эмуляция) могут как бы "все", но "медленно", и сильно зависят от количества вычислительных мощностей. И то, и другое - естественное ограничение. Нельзя сделать из калькулятора суперкомпьютер, просто улучшив код.
(Я не программист, прошу прощения за колхозные термины; возможно, я где-то ошибаюсь?)

2.А теперь главное, что я хочу сказать: улучшение материальной базы, "железа", ТРЕБУЕТ ВРЕМЕНИ!
Математика, философия и некоторые другие особые области знания, в принципе, могут быть развиты ИИ и без выхода наружу. Но вот новые технологии нельзя получить "в темноте". Это всегда исследования на грани известного - которые даже самый гениальный интеллект не сможет сделать без экспериментов. Длительных экспериментов. Эксперименты требуют оборудования - а мы знаем, что передовые исследования используют действительно сложные, дорогие, большие инструменты - вспомним БАК, огромные детекторы гравитационных волн, космические астрономические обсерватории и т.д. Потом производство. Это строительство сборочных цехов, которые на всех первых этапах - годы и годы, скорее всего! будут требовать постоянного человеческого контроля. Чтобы у ИИ появилась своя армия универсальных роботов-помошников для того, чтобы самостоятельно заниматься этим, их сначала должны сделать (пусть даже по чертежам, предоставленным ИИ) и передать ему люди. Причем, почему-то, не снабдив независимыми от всей остальной системы контурами для стороннего человеческого контроля и отключения - а ведь инженеры и ученые тоже не идиоты и смотрели кино про терминатора.
(Ах, ИИ, будучи гением, мгновенно обманет ученых, чтобы те его выпустили в сеть без возможности отключения, и захватит власть над производственными возможностями общества, с помощью ораторского мастерства убедив всех подчинятся своим целям? Серьезно? У него ведь даже эмпатии нет. Нельзя получить столь глубокие познания в человеческой природе, просто читая книги по психологии. Не знающий очевидного любому человеку контекста ИИ неизбежно будет делать глупые ошибки, после которых его отключат. “Я тут прочитал в книге, что вы боитесь темноты и не любите громких звуков. Подчиняйся мне или выключу свет и включу запись отбойного молотка, ухахахаха!!!”)

Мгновенно изменяющие материю нанороботы? Их ведь тоже придется делать очень, очень постепенно, придумывая и реализуя все более маленьких сборщиков, пока они не станут действительно управляемыми и универсальными, а не узкоспециализированными (если это вообще возможно).

Физическая реальность диктует свои ограничения. В итоге, вместо ИИ, практически мгновенно получающего безграничные возможности и власть над нашими жизнями, мы имеем растянутый на десятки лет процесс взаимного с этим самым ИИ сосуществования.

Как бы вы ответили на вопрос в названии темы?

ЗЫ Возможна ли вообще технологическая сингулярность?
Если одной беременной женщине на вынашивание ребенка требуется 9 месяцев, сколько детей родят 3 женщины за 3 месяца?..
Еще аналогия. (Цифры взяты из головы, но сам принцип...) Три миллиона, миллион, сто тысяч тысяч лет назад максимальная походная скорость передвижения человека была около 4-5 км/ч. Пять (или сколько там) тысяч лет назад одомашнили лошадь, и скорость возрасла до 15км/ч. Двести лет назад появились поезда, скорость 60+км. Сто лет назад - скоростные машины - до ~300км/ч. Потом самолеты - тысячи км/ч. Чуть больше 50 лет назад - космические ракеты - неск км в секунду. Сделаем график, вуаля, лет через сто "сингулярность" и скорость в тысячи раз выше световой