Тезис ортогональности — различия между версиями
Alaric (обсуждение | вклад) м (→Связанные понятия: Опечатка, снижение числа больших букв) |
Alaric (обсуждение | вклад) м (Викификация) |
||
| Строка 3: | Строка 3: | ||
{{DraftPage}} | {{DraftPage}} | ||
| − | '''Тезис ортогональности''' | + | '''Тезис ортогональности''' — утверждает, что интеллект и финальные цели [[агент]]а — это отдельные, независимые аспекты и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]]. |
| − | ==Связанные понятия== | + | == Связанные понятия == |
| + | '''Ортогональность''' термин из программирования, означающий, что части системы работают независимо друг от друга. То есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у [[агент]]ов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели. | ||
| − | ''' | + | '''[[Инструментальная конвергенция]]''' — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями. |
| − | + | == Другие материалы по теме == | |
| − | + | * [https://arbital.com/p/orthogonality/ Тезис ортогональности] — статья на Arbital.com | |
| − | ==Другие материалы по теме== | ||
| − | |||
| − | * [https://arbital.com/p/orthogonality/ Тезис ортогональности] | ||
Версия 10:30, 9 декабря 2023
 |
Эта страница является черновым документом. Здесь есть ещё много простора для того, чтобы её улучшить.
Поскольку эту страницу последний раз редактировали больше года назад, похоже что это заброшенный черновик. Если вы знаете, как её улучшить, попробуйте так и сделать. Или, быть может, эту страницу стоит удалить? |
Тезис ортогональности — утверждает, что интеллект и финальные цели агента — это отдельные, независимые аспекты и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и функции полезности.
Связанные понятия
Ортогональность термин из программирования, означающий, что части системы работают независимо друг от друга. То есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у агентов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.
Инструментальная конвергенция — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.
Другие материалы по теме
- Тезис ортогональности — статья на Arbital.com
