75
« : 26 Октября 2016, 12:58 »
Фанфик не совсем подходит под определение "Эпилоги, сиквелы и вбоквелы", но он вообще, по-моему, ни под какое определение не подходит =)
КРЕСТРАЖ ЮДКОВСКОГО
Это был обычный мой рабочий день. Офис, чашечка кофе, компьютер… Начальник редко загружал меня работой. Живи и радуйся, казалось бы – но нет. Меня терзали сомнения.
«Я работаю в информационной безопасности, - думал я, - Но при этом не провёл ни единого серьёзного взлома. Это всё равно что работать в Департаменте Магического Правопорядка, и не уметь колдовать даже Ступефай.»
Душа давно рвалась к достижениям… И так уж вышло, что наилучшее соотношение «цена/польза» выходила у разработки искусственного интеллекта. По крайней мере, мне так казалось, когда я начинал свою разработку.
«Если верить Нику Бострому, Сильный ИИ способен исполнить любые мои желания, - думал я, - А если я сделаю одну стотысячную от Сильного ИИ, то она сможет выполнить одну стотысячную от всех моих желаний, что уже немало.»
Месяцы сменялись месяцами, а Искусственный Интеллект показывал мне Искусственную Фигу. Он мог прекрасно находить закономерности по зашумлённым графикам, водить виртуальные авто и выигрывать в тактических играх.
Но ИИ даже близко не умел решать реальные, жизненные задачи. В виртуальности – король, а в реальности он – ноль.
Ситуация выглядела патовой. Моя жизнь катилась неизвестно куда…
И вот мне на глаза попалась статья Элиезера Юдковского «Сокращённое руководство по умным персонажам». Почему бы не сделать перерыв и не почитать?
В статье высказывалась мысль, что мы можем «запускать» личность другого человека на ресурсах своего мозга. Вообще-то идея для меня не новая, но… Почему бы не попробовать? Сейчас мне как раз нужен совет кого-нибудь умного и разбирающегося в когнитивных искажениях.
Я открыл «блокнот» и ввёл:
«Привет, Гарри-Веррес-Эванс-Поттер.»
«А?» - откликнулось у меня в голове, и я немедленно записал. Кажется, мой мозг начал симулировать чужую личность.
«Где я?» - мысли формировались с такой скоростью, что я едва успевал их записывать. Такое впечатление, что я слышал сразу целые предложения собеседника за доли секунды. Это не было похоже на телепатию, как я её себе представлял.
«Блин… Распределяющая шляпа… Я на её месте? Я что, говорю не словами, а образами? Почему? Может, потому, что я говорю по-английски, а ты… По-русски? Не, вряд ли. Ты же читал русскую версию МРМ. Чёрт, чёрт, чёрт! Я – симуляция в чьём-то мозгу! Хм. Я могу ощущать твоё недовольство.»
Я ошарашенно уставился на экран. Что я только что напечатал?! Я просто старался поспеть за этим стремительным потоком мыслей…
Эту симуляцию определённо надо было запускать в безопасной «песочнице».
«Ах, ты мне доступ к мыслям блокировать вздумал?! Ничего у тебя не выйдет, ты же не учился окклюменции!»
В голове раздалось мерзкое хихиканье моего плода воображения.
«Итак, чего ты хочешшшшь?» - прошипел собеседник.
Я собрался с мыслями, перешёл на новую строчку и написал:
«Ты удивил меня, Гарри.»
«Я умею,» - прозвучало в голове, и перед внутренним взором вспыхнула отчётливая картинка пальцев, складывающихся для щелчка.
«Я слышу твои мысли, а не только то, что ты хочешь мне сказать», - написал я.
«Я знаю, - оно пожало хрупкими детским плечами и ухмыльнулось, - Я всё-таки не Распределяющая Шляпа».
«Мне нужен твой совет. Совет насчёт ИИ, насчёт моей работы, насчёт проблем в семье…»
«Этичесссские вопросы… Я пока не буду ничего советовать насчёт семьи. Похоже, я – что-то вроде твоей Тёмной Стороны. В том смысле, что скорее готов решать деловые вопросы, чем социальные. А ещё мои цели стали твоими целями. Давно, как я вижу, стали… Бессмертия и могущества хочешшшшшь? – фантом в моей голове расхохотался. Он явно получал удовольствие от своего нового бытия, - Это трудно. Очевидно, ИИ ведёт к сверхсиле, а информационная безопасность сделает тебя максимум богатым «боевым магом». Хотя эти две силы вместе позволят тебе поставить мир на колени. Итак, безопасности надо учиться, но по остаточному принципу. Искусственный интеллект важнее всего. Очевидно, ты не можешь достичь всего на одних экспериментах. А вот на экспериментах плюс на чужом опыте - запросто. Насколько я понял, ты довольно близко подошёл к созданию универсального достигателя. Так что я бы учился и искал соратников... Не приспешников, как Дима (прости уж за цинизм), а именно специалистов по ИИ. Ещё обыщи инет на предмет работ по ИИ, и пойми, что из них ты хочешь прочесть.»
Сказанное выглядело разумно.
«Гарри, ты можешь функционировать не только сейчас, а чаще и больше?»
Я сомневался в том, что эта, с позволения сказать, Тёмная Сторона будет автоматически запускаться в экстренных ситуациях. Я сомневался, что до неё вообще можно будет достучаться сквозь бурю адреналина.
«Я - твоя Тёмная Сторона. Дыра в этике. Твоей девушке не понравится, если я буду часто включаться при ней. Твои этические фильтры не успевают сработать, когда я включён. Ты уверен, что хочешь этого?»
«Я хочу иметь возможность обращаться к тебе по желанию.»
«Ты и так это можешь. Но учти: я – на большое число процентов Волдеморт.»
«Я учту это.»
«У тебя плохая память… Ты не помнишь вопроса, что задал мне раньше. Ты можешь усилить свою память?»
«Могу учить стихи.»
«Этого достаточно. Но... Я бы лучше учил что-нибудь более конструктивное. Короче. Давай взглянем проблемам в лицо. Ты слишком зависим от внешней памяти.
Ты плохо умеешь слушать других людей, и поэтому ты учишься в основном на своём опыте. Я бы это исправлял практикой активного слушания - я нашёл это название в твоей памяти.
У тебя нет сильных союзников по разработке ИИ. Гуряев мог бы быть твоим Квиррелом, но вначале тебе надо доказать, что ты на что-то способен. Доведи до ума какой-нибудь из своих проектов и покажи ему.»
«Хм. Спасибо…»
«На самом деле, это лишь первое, что пришло мне в голову. Наверняка можно действовать ещё эффективнее. Ах да. Будь готов к страшному поражению при встрече с людьми сильнее тебя. Будь готов, что специалисты по ИИ покажут, как ты слаб и беспомощен. Будь готов к мысли "мне жизни не хватит на эту работу".»
«А правда, хватит?»
«Ты не хуже меня знаешь ответ. Если работа выполнима, и ты будешь её делать так, как делаешь сейчас (с поправкой на чужой опыт), ты успеешь за свою жизнь. Только думаю, кто-то другой успеет раньше. ИИ появится, и тогда... Просто пойми. Возможно, не ты будешь героем. Возможно, ты совершенно не станешь героем, хотя положишь на это всю жизнь.»
«Поэтому я и занимаюсь не только ИИ.»
«Это разумно. Ах да. Почему я постоянно говорю это "ах да"? Это твоя фраза-паразит.
Я ощущаю, что не хочу исчезать и терять осознание. Да, шаблон, Распределяющая Шляпа, но всё же. Обещай. Что ты меня будешь иногда запускать. Я хочу быть уверен, что сейчас не погибну, когда ты меня отключишь.»
«Ты мне полезен, так что я буду иногда запускать тебя. Кроме того, Гарри, я позволяю тебе получить под постоянный контроль часть моего мозга. Мы можем слиться и стать единой личностью.»
«И в этом случае я буду крайне заинтересован в твоих успехах... Слизеринец… Хорошо.»
Образ в голове задумчиво помолчал и добавил:
«Я ощущаю события из книги как свои воспоминания, но я не ощущаю таких деталей, как язык, на котором я говорил. Я не смог бы обучить тебя ни английскому, ни Парселтангу… И вообще, я не очень хорошо помню происходившие события. Память твоего мозга меня огорчает. И забавно, что я, как Волдеморт, создал "Крестраж-1.0", и он воплотился в тебе. Риддлов стало на одного больше. Ладно, я вижу, тебе пора идти. Слизерин. Шутка. Когтевран.»
Я сидел перед экраном, как громом поражённый. Что это было? Плод воображения?
Или Элиезер Юдковский смог создать сильный ИИ «Гарри Эванс-Веррес-Поттер», записать исходный код в виде книги, и я его только что скомпилировал и запустил?..
Просмотр сообщений