Инструментальная конвергенция — различия между версиями

Материал из Вики LessWrong.ru
Перейти к: навигация, поиск
м
м
Строка 4: Строка 4:
 
'''Инструментальная Конвергениця'''  - предполагаемая тенденция к совпадению промежуточных целей у сверхинтеллектов с различными конечными целями. Некоторые вещи необходимы для достижения огромного количества финальных целей. Например контроль ресурсов и предотвращение своего уничтожения. Тезис относится как к человеческим сверхинтеллектам, так и к не-человеческим.
 
'''Инструментальная Конвергениця'''  - предполагаемая тенденция к совпадению промежуточных целей у сверхинтеллектов с различными конечными целями. Некоторые вещи необходимы для достижения огромного количества финальных целей. Например контроль ресурсов и предотвращение своего уничтожения. Тезис относится как к человеческим сверхинтеллектам, так и к не-человеческим.
  
====
+
==Связанные понятия==
 +
 
 +
[[Максимизатор скрепок]] - пример мысленного эксперимента, связанного с инструментальной конвергенцией. Максимизатор скрепок стремится только к тому, что бы произвести как можно больше скрепок, поэтому причиняет огромное количество сопутствующего ущерба, разрушая человечество ради создания скрепок или устройств для их производства. Максимизатор скрепок имеет общую инструментальную цель со многими другими гипотетическими сверхинтеллеками - захват ресурсов Земли.
  
 
==Другие материалы по теме==
 
==Другие материалы по теме==

Версия 21:52, 3 декабря 2023

На эту тему существует страница в Википедии: Инструментальная конвергенция


Инструментальная Конвергениця - предполагаемая тенденция к совпадению промежуточных целей у сверхинтеллектов с различными конечными целями. Некоторые вещи необходимы для достижения огромного количества финальных целей. Например контроль ресурсов и предотвращение своего уничтожения. Тезис относится как к человеческим сверхинтеллектам, так и к не-человеческим.

Связанные понятия

Максимизатор скрепок - пример мысленного эксперимента, связанного с инструментальной конвергенцией. Максимизатор скрепок стремится только к тому, что бы произвести как можно больше скрепок, поэтому причиняет огромное количество сопутствующего ущерба, разрушая человечество ради создания скрепок или устройств для их производства. Максимизатор скрепок имеет общую инструментальную цель со многими другими гипотетическими сверхинтеллеками - захват ресурсов Земли.

Другие материалы по теме