Тезис ортогональности

Материал из Вики LessWrong.ru
Перейти к: навигация, поиск
На эту тему существует тэг на LessWrong.com: Orthogonality Thesis

Тезис ортогональности — утверждает, что интеллект и финальные цели агента — это отдельные, независимые аспекты и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и функции полезности.

Связанные понятия[править]

Ортогональность термин, означающий, что части системы работают независимо друг от друга, то есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у агентов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.

Инструментальная конвергенция — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.

Другие материалы по теме[править]