Тезис ортогональности
 |
Эта страница является черновым документом. Здесь есть ещё много простора для того, чтобы её улучшить.
Поскольку эту страницу последний раз редактировали больше года назад, похоже что это заброшенный черновик. Если вы знаете, как её улучшить, попробуйте так и сделать. Или, быть может, эту страницу стоит удалить? |
Тезис ортогональности - утверждает, что интеллект и финальные цели агента - это отдельные, независимые аспекты и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и функции полезности.
Связанные понятия
Ортогональность термин из программирования, означающий, что части системы работают независимо друг от друга. То есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны - у агентов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.
Инструментальная Конвергениця - предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.
Другие материалы по теме
- Тезис ортогональности - статья на Arbital.com