Тезис ортогональности - История изменений

Kirdan в 18:40, 13 мая 2024

2024-05-13T18:40:14Z

Kirdan: Формулировка и пример

2024-05-13T18:34:08Z

Формулировка и пример

Kirdan: Интуитивное обоснование

2024-05-13T18:26:24Z

Интуитивное обоснование

Madoka Memika в 11:35, 10 декабря 2023

2023-12-10T11:35:35Z

Alaric: Викификация

2023-12-09T10:30:09Z

Викификация

Alaric: /* Связанные понятия */ Опечатка, снижение числа больших букв

2023-12-09T10:29:32Z

‎Связанные понятия: Опечатка, снижение числа больших букв

Madoka Memika: Новая страница: «
{{LwComWikiLink|Orthogonality Thesis}} {{DraftPage}} '''Тезис ортогональности''' - утверждает, что и…»

2023-12-08T21:20:13Z

Новая страница: «<div style="float: right"> {{LwComWikiLink|Orthogonality Thesis}} {{DraftPage}} '''Тезис ортогональности''' - утверждает, что и…»

Новая страница

<div style="float: right">
{{LwComWikiLink|Orthogonality Thesis}}
{{DraftPage}}

'''Тезис ортогональности''' - утверждает, что интеллект и финальные цели [[Агент|агента]] - это отдельные, независимые аспекты и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]].

==Связанные понятия==

'''Ортогональность''' термин из программирования, означающий, что части системы работают независимо друг от друга. То есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны - у [[Агент|агентов]] с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.

'''[[Инструментальная Конвергениця]]''' - предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.

==Другие материалы по теме==

* [https://arbital.com/p/orthogonality/ Тезис ортогональности] - статья на Arbital.com

@@ Строка 5: / Строка 5: @@
 '''Тезис ортогональности''' утверждает, что интеллект и конечные цели [[агент]]а — это отдельные, независимые аспекты, и их комбинации могут быть почти какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]]. В частности, возможны сверхинтеллекты, преследующие такие "глупые" с точки зрения человечества цели как [[Максимизатор скрепок|максимизация количества скрепок]] во вселенной.
-Более конкретно, строгая форма тезиса ортогональности утверждает, что помимо вычислительной сложности той или иной цели нет каких-либо дополнительных препятствий, которые осложняли бы теоретическую возможность существования агента, преследующего именно такую цель.
+Более конкретно, строгая форма тезиса ортогональности утверждает, что помимо вычислительной осуществимости той или иной цели нет каких-либо дополнительных препятствий, которые осложняли бы теоретическую возможность существования агента, преследующего именно такую цель.
 == Интуитивное обоснование ==
@@ Строка 11: / Строка 11: @@
 Предположим, что какой-то странный инопланетянин прилетел на Землю и убедил нас, что он будет платить нам один миллион долларов каждый раз, когда мы создаем скрепку. У нас не возникло бы никаких особых интеллектуальных трудностей с тем, чтобы научиться делать как можно больше скрепок.
-Тезис ортогональности утверждает, что, поскольку эта задача является вычислительно простой, теоретически возможно существование и такого агента, который будет делать как можно больше скрепок не потому, что ему платят, а потому что он сам этого хочет.
+Тезис ортогональности утверждает, что, поскольку эта задача является вычислительно осуществимой, теоретически возможно существование и такого агента, который будет делать как можно больше скрепок не потому, что ему платят, а потому что он сам этого хочет.
 == Связанные понятия ==

@@ Строка 3: / Строка 3: @@
 {{DraftPage}}
-'''Тезис ортогональности''' утверждает, что интеллект и конечные цели [[агент]]а — это отдельные, независимые аспекты, и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]].
+'''Тезис ортогональности''' утверждает, что интеллект и конечные цели [[агент]]а — это отдельные, независимые аспекты, и их комбинации могут быть почти какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]]. В частности, возможны сверхинтеллекты, преследующие такие "глупые" с точки зрения человечества цели как [[Максимизатор скрепок|максимизация количества скрепок]] во вселенной.
 Более конкретно, строгая форма тезиса ортогональности утверждает, что помимо вычислительной сложности той или иной цели нет каких-либо дополнительных препятствий, которые осложняли бы теоретическую возможность существования агента, преследующего именно такую цель.

@@ Строка 3: / Строка 3: @@
 {{DraftPage}}
-'''Тезис ортогональности''' — утверждает, что интеллект и финальные цели [[агент]]а — это отдельные, независимые аспекты и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]].
+'''Тезис ортогональности''' утверждает, что интеллект и конечные цели [[агент]]а — это отдельные, независимые аспекты, и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]].
 == Связанные понятия ==
 '''Ортогональность''' термин, означающий, что части системы работают независимо друг от друга, то есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у [[агент]]ов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.
 '''[[Инструментальная конвергенция]]''' — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.

@@ Строка 6: / Строка 6: @@
 == Связанные понятия ==
-'''Ортогональность''' термин из программирования, означающий, что части системы работают независимо друг от друга. То есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у [[агент]]ов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.
+'''Ортогональность''' термин, означающий, что части системы работают независимо друг от друга, то есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у [[агент]]ов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.
 '''[[Инструментальная конвергенция]]''' — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.
 == Другие материалы по теме ==
 * [https://arbital.com/p/orthogonality/ Тезис ортогональности] — статья на Arbital.com

@@ Строка 3: / Строка 3: @@
 {{DraftPage}}
-'''Тезис ортогональности''' - утверждает, что интеллект и финальные цели [[Агент|агента]] - это отдельные, независимые аспекты и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]].
+'''Тезис ортогональности''' — утверждает, что интеллект и финальные цели [[агент]]а — это отдельные, независимые аспекты и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]].
-==Связанные понятия==
+== Связанные понятия ==
-'''Ортогональность''' термин из программирования, означающий, что части системы работают независимо друг от друга. То есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны - у [[Агент|агентов]] с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.
+'''[[Инструментальная конвергенция]]''' — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.
-'''[[Инструментальная конвергенция]]''' - предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.
+== Другие материалы по теме ==
+* [https://arbital.com/p/orthogonality/ Тезис ортогональности] — статья на Arbital.com

@@ Строка 9: / Строка 9: @@
 '''Ортогональность''' термин из программирования, означающий, что части системы работают независимо друг от друга. То есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны - у [[Агент|агентов]] с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.
-'''[[Инструментальная Конвергениця]]''' - предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.
+'''[[Инструментальная конвергенция]]''' - предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.
 ==Другие материалы по теме==
 * [https://arbital.com/p/orthogonality/ Тезис ортогональности] - статья на Arbital.com