36
правок
Изменения
м
* '''Стремление к сохранению своей [[Функция полезности|функции полезности]]'''
→Стремления Омохундро
Стивен Малверн Омохундро, создавший понятие инструментальной конвергенции, выделил стремления, которые весьма вероятно будут сформированы у достаточно продвинутых системах ИИ любого назначения.
* '''Стремление к самосохранению''' - Любой достаточно продвинутый интеллект вероятно будет хорошо справляться с достижением своих целей. Следовательно для большинства функций полезности польза от отключения или уничтожения системы отрицательная. Они приведут к прекращению осуществления пути к цели. То же касается и неизменности функции полезности. Если изменить функцию полезности продвинутого интеллекта, то он скорее всего станет менее эффективно исполнять предыдущую (или вообще прекратит это делать).
* '''Стремление к эффективности''' -
* '''Стремление к аккумуляции ресурсов'''
* '''Стремление к [[Рациональность|рациональности]]'''
* '''Стремление к предотвращению фальсификации [[утилон|утилонов]]'''
Этот список является объединенным для двух работ Омохундро: [https://selfawaresystems.files.wordpress.com/2008/01/nature_of_self_improving_ai.pdf The Nature of Self-Improving Artificial Intelligence] и [[Thhttps://selfawaresystems.files.wordpress.com/2008/01/ai_drives_final.pdf|The Basic AI Drives]]