25
правок
Изменения
м
→Другие материалы по теме
== Стремления Омохундро ==
Стивен Малверн Омохундро, создавший понятие инструментальной конвергенции, выделил стремления, которые весьма вероятно будут сформированы в достаточно продвинутых системах ИИ любого назначения.
* '''Стремление к самосохранению''' — Любой достаточно продвинутый интеллект, вероятно, будет хорошо справляться с достижением своих целей. Следовательно для большинства функций полезности польза от отключения или уничтожения системы отрицательная. Они приведут к прекращению осуществления пути к цели. То же касается и неизменности функции полезности. Если изменить функцию полезности продвинутого интеллекта, то он скорее всего станет менее эффективно исполнять предыдущую (или вообще прекратит это делать).
== Другие материалы по теме ==
* [https://educ.wikireading.ru/hCl7qYdvhn Инструментальная конвергенция] — глава книги Ника Бострома «Искусственный интеллект [Этапы. Угрозы. Стратегии]» об Инструментальной Конвергенции (Сходимости)
* [https://www.alignmentforum.org/tag/instrumental-convergence Инструментальная конвергенцияInstrumental Convergence] — www.alignmentforum.org* [https://artsoc.jes.su/s207751800009748-1-1/ Основные драйвы систем искусственного интеллекта] — перевод статьи Стива Омохундро