Изменения
→Стремления Омохундро
== Стремления Омохундро ==
Стивен Малверн Омохундро, создавший понятие инструментальной конвергенции, выделил стремления, которые весьма вероятно будут сформированы в достаточно продвинутых системах ИИ любого назначения.
* '''Стремление к самосохранению''' — Любой достаточно продвинутый интеллект, вероятно, будет хорошо справляться с достижением своих целей. Следовательно для большинства функций полезности польза от отключения или уничтожения системы отрицательная. Они приведут к прекращению осуществления пути к цели. То же касается и неизменности функции полезности. Если изменить функцию полезности продвинутого интеллекта, то он скорее всего станет менее эффективно исполнять предыдущую (или вообще прекратит это делать).