Инструментальная конвергенция
Инструментальная Конвергениця (также известна как Инструментальная сходимость) - предполагаемая тенденция к совпадению промежуточных целей у сверхинтеллектов с различными конечными целями. Некоторые вещи необходимы для достижения огромного количества финальных целей. Например контроль ресурсов и предотвращение своего уничтожения. Тезис относится как к человеческим сверхинтеллектам, так и к не-человеческим.
Стремления Омохундро
Стивен Малверн Омохундро, создавший понятие инструментальной конвергенции, выделил два набора ценностей, которые весьма вероятно будут сформированы у достаточно продвинутых системах ИИ любого назначения. Первый набор - для саморазвивающихся искусственных интеллектов, а второй - для достаточно развитых, уже достигших Сильного Искусственного Интеллекта систем.
Первый набор
Самосохранение
Эффективность
Аккумуляция ресурсов
Креативность
Второй набор
Самосовершенствование
Сохранение своей функции полезности
Предотвращение фальсификации утилонов
Самосохранение
Аккумуляция ресурсов и их эффективное использование
Связанные понятия
Максимизатор скрепок - пример мысленного эксперимента, связанного с инструментальной конвергенцией. Максимизатор скрепок стремится только к тому, что бы произвести как можно больше скрепок, поэтому причиняет огромное количество сопутствующего ущерба, разрушая человечество ради создания скрепок или устройств для их производства. Максимизатор скрепок имеет общую инструментальную цель со многими другими гипотетическими сверхинтеллеками - захват ресурсов Земли.
Другие материалы по теме
- Инструментальная конвергенция - глава книги Ника Бострома "Искусственный интеллект [Этапы. Угрозы. Стратегии]" об Инструментальной Конвергенции (Сходимости)
- Инструментальная конвергенция - www.alignmentforum.org
