== Стремления Омохундро ==Стивен Малверн Омохундро, создавший понятие инструментальной конвергенции, выделил два набора ценностейстремления, которые весьма вероятно будут сформированы у в достаточно продвинутых системах ИИ любого назначения. Первый набор - для саморазвивающихся искусственных интеллектов, а второй - для достаточно развитых, уже достигших Сильного Искусственного Интеллекта систем.

* '''Первый наборСтремление к самосохранению''' — Любой достаточно продвинутый интеллект, вероятно, будет хорошо справляться с достижением своих целей. Следовательно для большинства функций полезности польза от отключения или уничтожения системы отрицательная. Они приведут к прекращению осуществления пути к цели. То же касается и неизменности функции полезности. Если изменить функцию полезности продвинутого интеллекта, то он скорее всего станет менее эффективно исполнять предыдущую (или вообще прекратит это делать).

* '''СамосохранениеСтремление к эффективности'''

* '''ЭффективностьСтремление к аккумуляции ресурсов'''

* '''Аккумуляция ресурсовСтремление к креативности'''

* '''КреативностьСтремление к самосовершенствованию'''

* '''Второй наборСтремление к [[Рациональность|рациональности]]'''

* '''СамосовершенствованиеСтремление к предотвращению фальсификации [[утилон]]ов'''

'''Этот список является объединенным для двух работ Омохундро: [https://selfawaresystems.files.wordpress.com/2008/01/nature_of_self_improving_ai.pdf The Nature of Self-Improving Artificial Intelligence] и [Рациональность]https://selfawaresystems.files.wordpress.com/2008/01/ai_drives_final.pdf|The Basic AI Drives]'''

'''Сохранение своей == Связанные понятия ==[[Функция полезности|функции полезностиМаксимизатор скрепок]]''' — пример мысленного эксперимента, связанного с инструментальной конвергенцией. Максимизатор скрепок стремится только к тому, что бы произвести как можно больше скрепок, поэтому причиняет огромное количество сопутствующего ущерба, разрушая человечество ради создания скрепок или устройств для их производства. Максимизатор скрепок имеет общую инструментальную цель со многими другими гипотетическими сверхинтеллектами — захват ресурсов Земли.

'''Предотвращение фальсификации [[утилон|утилонов]]''' '''Самосохранение''' '''Аккумуляция ресурсов и их эффективное использование'''   ==Связанные понятия== [[Максимизатор скрепок]] - пример мысленного эксперимента, связанного с инструментальной конвергенцией. Максимизатор скрепок стремится только к тому, что бы произвести как можно больше скрепок, поэтому причиняет огромное количество сопутствующего ущерба, разрушая человечество ради создания скрепок или устройств для их производства. Максимизатор скрепок имеет общую инструментальную цель со многими другими гипотетическими сверхинтеллеками - захват ресурсов Земли. ==Другие материалы по теме== * [https://educ.wikireading.ru/hCl7qYdvhn Инструментальная конвергенция] -  — глава книги Ника Бострома "Искусственный «Искусственный интеллект [Этапы. Угрозы. Стратегии]" » об Инструментальной Конвергенции (Сходимости)* [https://www.alignmentforum.org/tag/instrumental-convergence Инструментальная конвергенцияInstrumental Convergence] -  — www.alignmentforum.org* [https://artsoc.jes.su/s207751800009748-1-1/ Основные драйвы систем искусственного интеллекта] — перевод статьи Стива Омохундро