"Все её загадки можно разгадать"

[kuuff]

Хмм. Странно. Квирелл вроде бы достаточно четко дал понять, что это он отобрал карту у близнецов... Тогда не понимаю. Если бы карта оказалась у Дамблдора, инкогнито Волдеморта было бы мгновенно раскрыто. Какая то логическая неувязка получается. Если бы близнецы были одни, то не вопрос - ложные воспоминания, но Дамблдора (или "Дамблдора") видел весь класс вместе с Трелони. Не понимаю.

Я не понимаю, чего вы не понимаете. Смотрите, карта была у близнецов. Дамблдор позаимствовал у них карту на время, чтобы поискать Тома Риддла. Нашёл только Поттера, но не Квиррелла, поскольку тот отсутствовал в Хогвартсе. Дамблдор разочарованно вернул карту близнецам. Квиррелл вернулся в Хогвартс, узнал об инциденте со слов однокурсников близнецов. Провёл сеанс легилименции на близнецах, чтобы выяснить чего это Дамблдор их дёргал. Узнал про карту, забрал её. Всё.
Действия Квиррела после возвращания я нафантазировал, в качестве примера того, каким образом карта могла оказаться у Квиррелла.

[OverQuantum]

ЕМНИП, где-то было подтверждение в разговоре со Снейпом.

Вот где? Anonymouse тоже писал, что Дамблдор признался "после смерти Гермионы где-то", но найти пока никто не смог.

[Glaider]

Вот где? Anonymouse тоже писал, что Дамблдор признался "после смерти Гермионы где-то", но найти пока никто не смог.

Глава 61. Там Минерва упрекает Дамблдора, что он дал Поттеру мантию-неведимку, Снейп присутствует, но вопросов по мантии не имеет. Плюс скорее всего Квиррелл был бы в курсе о знаке смерти на мантии, если бы она была у него во владение, однако считается, что он смог идентифицировать воскрешающи камень, только после подсказки Поттера, что косвенно указывает на то, что до того момента о рисунках на мантии он не знал. Вот парочка косвенных указаний, что скорее всего мантию отдал Дамблдор.

[OverQuantum]

Глава 61. Там Минерва упрекает Дамблдора, что он дал Поттеру мантию-неведимку, Снейп присутствует, но вопросов по мантии не имеет.

Дамблдор не подтверждает, что он дал Мантию Поттеру. Неответ Дамблдора не означает ничего

считается, что он смог идентифицировать воскрешающи камень, только после подсказки Поттера, что косвенно указывает на то, что до того момента о рисунках на мантии он не знал.

Да, вот этот момент я упустил. В главе 108 Квиррелл прямо говорит, что кольцо с Камнем было у него давно, он хотел сделать из него хоркрус, но боялся незнакомой древней магии. И только благодаря Поттеру - "learned where to find the Resurrection Stone", Дар признал его владельцем и Квиррелл его "incorporated it into my great creation".
В этом случае сразу становится понятно почему в конце 40й главы Квиррелл засобирался и прервал встречу раньше времени - сразу как увидел символ.

[Мимокрокодил]

А вот вам необъявленная загадка, но я её по ходу разгадал.

Юдковский -- специалист по АИ, а конкретно -- по дружественному АИ. И по фундаментальным вопросам, возможно ли вообще такое сочетание.
Фишка в том, что, если мы создаём АИ, превосходящий человеческий, но глухой к чужим чувствам -- мы получаем в точности портрет Риддла-старшего. "Для того, чтобы сделать такое, нужно быть не просто злым. Нужно быть... пустым".

Вот и ответ на незаданный вопрос, "почему Риддл такой Волдеморт". Ответ -- "это личное профессиональное его автора"

Я, правда, придерживаюсь простой логики. Чтобы сделать искусственный интеллект полностью дружественным, он должен быть полностью человеческим. Любое непонимание человеческих чувств автоматически приводит к тому, что в некоторых ситуациях он причинит огромное горе, думая, что совершает благо. А для полного понимания человека надо мыслить, как человек.

Так что, если мы не хотим создать Волдеморта или повёрнутую на "испытаниях ценой любых жертв" ГлаДОС, вообще не нужно делать АИ. Нужно перенести сознание достаточно достойного человека в синтетический носитель в точности, а потом добавить больше нейронов для бога нейронов, больше тактовой частоты для скорости мысли. Взять простого учёного и заменой мозга сделать из него гениального учёного. А потом -- сверхгениального. И не одного, а целое суперчеловечество. Эволюция, Феликс

Я даю 50%, что авторский эпилог будет содержать подвижки в эту сторону.

[Панда]

Тогда Гарри - дружественный ИИ?
Интеллект Риддла, воспитание Верресов плюс маленький остаток Гарри Поттера.

[nadeys]

Я, правда, придерживаюсь простой логики. Чтобы сделать искусственный интеллект полностью дружественным, он должен быть полностью человеческим. Любое непонимание человеческих чувств автоматически приводит к тому, что в некоторых ситуациях он причинит огромное горе, думая, что совершает благо. А для полного понимания человека надо мыслить, как человек.

Я обладаю высокой уверенностью что 50% всех людей хотя бы раз совершали осознанный малый злой поступок, 99% хотя бы раз совершали неосознанные малые злые поступки.
Большинство людей хотели бы совершать большие злые или субъективно "добрые" поступки(вроде истребления всех врагов), но не могут потому что им не хватает возможностей.
Таким образом если вы наделите ИИ человеческой психологией то вам придётся иметь дело со всей человеческой жестокостью, эгоизмом и когнитивными искажениями.
Гитлер ведь тоже был человеком и спекуляции о его психологической нестабильности не имеют подтверждений.

Так что, если мы не хотим создать Волдеморта или повёрнутую на "испытаниях ценой любых жертв" ГлаДОС, вообще не нужно делать АИ. Нужно перенести сознание достаточно достойного человека в синтетический носитель в точности, а потом добавить больше нейронов для бога нейронов, больше тактовой частоты для скорости мысли. Взять простого учёного и заменой мозга сделать из него гениального учёного. А потом -- сверхгениального. И не одного, а целое суперчеловечество.

Даже если в качестве образца вы возьмёте исключительно умного и исключительно добронамеренного человека - есть немалая вероятность что этот супергений решит истребить половину человечества ради сохранения экологического баланса планеты.
В конце концов люди и так умирают каждую минуту и если уничтожение 1 миллиарда недочеловеков приблизило бы наступление утопии, то с точки зрения сверхчеловека это был бы выгодный размен.

Добавлено [time]30 Март 2015, 19:44[/time]:

Тогда Гарри - дружественный ИИ?
Интеллект Риддла, воспитание Верресов плюс маленький остаток Гарри Поттера.

Гарри обычный ИИ. Он собирается взять власть над миром, у него есть в подчинённых есть фанатичный цепной пёс и он осознаёт что иногда ради общего блага нужно совершать меньшее зло. Войной, трансфигурацией и финансовыми спекуляциями он разрушит все консервативные общества и их культуры противоречащие рационализму, безболезненно умертвит идиотов, вероятно разрушит все прежние правительства. Вероятно в конечном итоге он построит на Земле Утопию, но с точки зрения как минимум 10% жителей планеты он вероятно будет являться тираном и чудовищем.

[Панда]

если уничтожение 1 миллиарда недочеловеков приблизило бы наступление утопии, то с точки зрения сверхчеловека это был бы выгодный размен.

Да это и с моей точки зрения нормально. Фиг с нами.

безболезненно умертвит идиотов

В этом сомневаюсь, со смертью у Гарри большие проблемы.

[Мимокрокодил]

Да просто представьте себе, что человечество по интеллекту находится на уровне комнатной собачки, а вас такой небольшой кружок над ним возвышается -- я, ты, Хокинг, Юдковский, ещё несколько персон, но ключевой момент -- именно себя поставить на место синтетического гения.

Что бы вы делали? Неужели бы учинили геноцид? И противно бы не стало?

Скорее всего, вы плюнете на этих собачек, в два счёта выдрессируете их, манипулируя на порядок круче любого ZOG или Ч0рного Лорда, и создадите инфраструктуру для массового развития уже своего супер-вида. Никакого геноцида, никаких смертоубийств -- просто у людишек появится хозяин. А они будут в ответ докучать молитвами и нет-нет да поставлять свои лучшие умы для стартового наполнения вашего вида. Причём за места в очереди передерутся.

А теперь майндфак: "Личность меняетсссся, сссссмешшшиваетсссся ссс личносссстью жертвы..." и пусть ваша фантазия вам сегодня не даст спать без кошмаров

[Панда]

Не, я собачка.

[Alexey_F]

Не, я собачка.

В таком случае, вам смеет смысл желать, чтобы этот "синтетический гений" относился к вам как миниум так, как описано выше, а не "ТЫ РАЗДРАЖАЕШЬ. УМРИ."
А из-за того, что "синтетического гения" сейчас создают именно "собачки", то от них и зависит, каким он будет.

[OverQuantum]

Что бы вы делали? Неужели бы учинили геноцид? И противно бы не стало?

ИМХО, достаточно Золотого правила этики в мозгах и применения его к "собачкам", чтобы не учинить "собачко"-цид.
Про условии что у "собачек" действительно при каких-то условиях рождаются дети, способные интеллектуально подняться в "кружок" - не вижу проблем с осознанием этих принципов адекватным разумом.

[Панда]

В таком случае, вам смеет смысл желать, чтобы этот "синтетический гений" относился к вам как миниум так, как описано выше, а не "ТЫ РАЗДРАЖАЕШЬ. УМРИ."

Нет, вам. Мне-то почему.
Или вы дрессировщик?

[nadeys]

Что бы вы делали? Неужели бы учинили геноцид? И противно бы не стало?

Скорее всего, вы плюнете на этих собачек, в два счёта выдрессируете их, манипулируя на порядок круче любого ZOG или Ч0рного Лорда, и создадите инфраструктуру для массового развития уже своего супер-вида. Никакого геноцида, никаких смертоубийств -- просто у людишек появится хозяин. А они будут в ответ докучать молитвами и нет-нет да поставлять свои лучшие умы для стартового наполнения вашего вида. Причём за места в очереди передерутся.

Я бы учинил. Будь я сверхрационалистом то мне наверняка не было бы противно ибо "противность" это лишь когнитивное искажение.
Вы забываете про важную часть - дефицит ресурсов/энергии. Фермер любит своих бурёнок, но если кормить стадо нечем, то нет ничего плохого чтобы чуток его подсократить. Ресурсы на планете ограничены, не факт что ИИ сумеет изобрести термояд и даже если сумеет, вероятно он сочтёт не рациональным тратить слишком много энергии на не слишком полезных собачек.
Опять же, истребление дефектных и повреждённых особей это полезная мера которую нужно выполнять регулярно дабы они не растрачивали ценные ресурсы. Истребление идиотов опять таки позволит повысить коэффициент рождения умных.
Возможно даже лучше будет внедрить идеи чтобы собачки сами находили среди себя дефектных и сами же их уничтожали.

[Alexey_F]

Нет, вам. Мне-то почему.
Или вы дрессировщик?

Потому что вариант с т.н. василиском намного хуже, чем с "синтетическими гениями", которые отбирают себе "избранных" для "интеллектуального вознесения".
Т.к. внутри общества люди влияют на мысли и поведения друг друга - то да, в определённом смысле, я дрессировщик  (Впрочем, как и все остальные.)

Я бы учинил. Будь я сверхрационалистом то мне наверняка не было бы противно ибо "противность" это лишь когнитивное искажение.
…
Опять же, истребление дефектных и повреждённых особей это полезная мера которую нужно выполнять регулярно дабы они не растрачивали ценные ресурсы. Истребление идиотов опять таки позволит повысить коэффициент рождения умных.

Вот-вот. Именно так: понятия вроде "геноцида" и "ценности жизни" определяются, чаще всего, через понятия "человека" как "разумного существа". Но люди не считают, например, экспертные системы, генетические алгоритмы или виртуальные нейронные сети, улиток, деревья или термитов - "разумными", во всяком случае, "разумными" достаточно для того, чтобы применять термины вроде "ценности жизни".

Для "синтетического гения" вопрос о том, чтобы тем или иным способом исцелить человечество от каких-нибудь "гопников" может быть примерно в той же плоскости, что для нас - наточить топор. Т.е. если топор плохо рубит - его надо точить, и мыслей о сожалении об утрате металла с кромки лезвия - даже не возникнет, как не возникает сожаления у людей сейчас при удалении опухоли.

Причём, в отличие от какой-нибудь там "выбраковки" никакого "вы имеете право оказывать сопротивление" и т.д., скорее всего, не будет. Люди же не "объявляют войну" различным бешеным, больным и/или людоедствующим животным - их просто отстреливают, быстро, тихо и эффективно, без лишнего шума и пыли. И именно поэтому для тех, кто создаёт машинный интеллект, должно быть важно, чтобы он не посчитал всех людей "бесполезной тратой ценного углерода".

Возможно даже лучше будет внедрить идеи чтобы собачки сами находили среди себя дефектных и сами же их уничтожали.

Люди называют это "пенитенциарной системой", "психиатрией" и "индоктринацией"