Вики LessWrong.ru - Вклад участника [ru]

Тезис ортогональности

2024-05-13T18:40:14Z

Kirdan:

<div style="float: right">
{{LwComWikiLink|Orthogonality Thesis}}
{{DraftPage}}

'''Тезис ортогональности''' утверждает, что интеллект и конечные цели [[агент]]а — это отдельные, независимые аспекты, и их комбинации могут быть почти какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]]. В частности, возможны сверхинтеллекты, преследующие такие "глупые" с точки зрения человечества цели как [[Максимизатор скрепок|максимизация количества скрепок]] во вселенной.

Более конкретно, строгая форма тезиса ортогональности утверждает, что помимо вычислительной осуществимости той или иной цели нет каких-либо дополнительных препятствий, которые осложняли бы теоретическую возможность существования агента, преследующего именно такую цель.

== Интуитивное обоснование ==

Предположим, что какой-то странный инопланетянин прилетел на Землю и убедил нас, что он будет платить нам один миллион долларов каждый раз, когда мы создаем скрепку. У нас не возникло бы никаких особых интеллектуальных трудностей с тем, чтобы научиться делать как можно больше скрепок.

Тезис ортогональности утверждает, что, поскольку эта задача является вычислительно осуществимой, теоретически возможно существование и такого агента, который будет делать как можно больше скрепок не потому, что ему платят, а потому что он сам этого хочет.

== Связанные понятия ==

'''Ортогональность''' — термин, означающий, что части системы работают независимо друг от друга, то есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у [[агент]]ов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.

'''[[Инструментальная конвергенция]]''' — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.

== Другие материалы по теме ==
* [https://arbital.com/p/orthogonality/ Тезис ортогональности] — статья на Arbital.com

Тезис ортогональности

2024-05-13T18:34:08Z

Kirdan: Формулировка и пример

<div style="float: right">
{{LwComWikiLink|Orthogonality Thesis}}
{{DraftPage}}

'''Тезис ортогональности''' утверждает, что интеллект и конечные цели [[агент]]а — это отдельные, независимые аспекты, и их комбинации могут быть почти какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]]. В частности, возможны сверхинтеллекты, преследующие такие "глупые" с точки зрения человечества цели как [[Максимизатор скрепок|максимизация количества скрепок]] во вселенной.

Более конкретно, строгая форма тезиса ортогональности утверждает, что помимо вычислительной сложности той или иной цели нет каких-либо дополнительных препятствий, которые осложняли бы теоретическую возможность существования агента, преследующего именно такую цель.

== Интуитивное обоснование ==

Предположим, что какой-то странный инопланетянин прилетел на Землю и убедил нас, что он будет платить нам один миллион долларов каждый раз, когда мы создаем скрепку. У нас не возникло бы никаких особых интеллектуальных трудностей с тем, чтобы научиться делать как можно больше скрепок.

Тезис ортогональности утверждает, что, поскольку эта задача является вычислительно простой, теоретически возможно существование и такого агента, который будет делать как можно больше скрепок не потому, что ему платят, а потому что он сам этого хочет.

== Связанные понятия ==

'''Ортогональность''' — термин, означающий, что части системы работают независимо друг от друга, то есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у [[агент]]ов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.

'''[[Инструментальная конвергенция]]''' — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.

== Другие материалы по теме ==
* [https://arbital.com/p/orthogonality/ Тезис ортогональности] — статья на Arbital.com

Тезис ортогональности

2024-05-13T18:26:24Z

Kirdan: Интуитивное обоснование

<div style="float: right">
{{LwComWikiLink|Orthogonality Thesis}}
{{DraftPage}}

'''Тезис ортогональности''' утверждает, что интеллект и конечные цели [[агент]]а — это отдельные, независимые аспекты, и их комбинации могут быть какими угодно. Это означает, что у разных сверхинтеллектов могут быть принципиально разные цели и [[Функция полезности|функции полезности]].

Более конкретно, строгая форма тезиса ортогональности утверждает, что помимо вычислительной сложности той или иной цели нет каких-либо дополнительных препятствий, которые осложняли бы теоретическую возможность существования агента, преследующего именно такую цель.

== Интуитивное обоснование ==

Предположим, что какой-то странный инопланетянин прилетел на Землю и убедил нас, что он будет платить нам один миллион долларов каждый раз, когда мы создаем скрепку. У нас не возникло бы никаких особых интеллектуальных трудностей с тем, чтобы научиться делать как можно больше скрепок.

Тезис ортогональности утверждает, что, поскольку эта задача является вычислительно простой, теоретически возможно существование и такого агента, который будет делать как можно больше скрепок не потому, что ему платят, а потому что он сам этого хочет.

== Связанные понятия ==

'''Ортогональность''' — термин, означающий, что части системы работают независимо друг от друга, то есть изменения в одной части не затрагивают остальные. В данном контексте цели и уровень интеллекта ортогональны — у [[агент]]ов с разным уровнем интеллекта могут быть похожие цели и у агентов с похожим уровнем интеллекта могут быть разные цели.

'''[[Инструментальная конвергенция]]''' — предполагаемая тенденция к совпадению промежуточных (инструментальных) целей у сверхинтеллектов с различными конечными целями.

== Другие материалы по теме ==
* [https://arbital.com/p/orthogonality/ Тезис ортогональности] — статья на Arbital.com

AIXI

2024-05-13T11:18:18Z

Kirdan: Краткое описание и Механизм работы

[[Категория:Понятия]]
{{DraftPage}}
{{WikipediaEn}}
AIXI — математическая модель искусственного интеллекта, придуманная Маркусом Хаттером. AIXI нереалистична, т. к. предполагает наличие у агента бесконечной вычислительной мощности. Однако, эта модель может быть полезна для обучения: для того, чтобы понять проблемы более реалистичных моделей агентского поведения, может быть проще сначала рассмотреть AIXI. В основе AIXI лежит [[Индукция Соломонова|индукция Соломонова]].

== Механизм работы ==

Среда представляет собой вычислимую функцию, неизвестную агенту. Течение времени дискретно. На каждом шаге агент получает наблюдение (в виде битовой строки / числа) от окружающей среды, а также вознаграждение (еще одно число). Затем агент выводит действие (тоже число). Наблюдение, вознаграждение и действие могут зависеть от всей истории взаимодействия.

Чтобы определить действие, AIXI угадывает распределение вероятностей для своей среды, используя [[Индукция Соломонова|индукцию Соломонова]]. Априорно более простые вычисления считаются описаниями среды с большей вероятностью, чем более сложные. Это распределение вероятностей обновляется по [[Теорема Байеса|формуле Байеса]] с учетом того, насколько хорошо каждая модель соответствует фактическим данным. Затем AIXI вычисляет ожидаемое вознаграждение за каждое действие, которое он может выбрать, взвешивая вероятность возможных сценариев будущего. Наконец, он выбирает наилучшее действие, предполагая, что и в будущем он будет на каждом шаге выбирать лучшее из возможных действий по той же процедуре.

Индукция Соломонова

2024-05-13T11:13:59Z

Kirdan: Краткое описание

[[Категория:Понятия]]
{{DraftPage}}
{{WikipediaEn|Solomonoff's theory of inductive inference}}

Индукция Соломонова — это система вывода, определенная Рэем Соломоновым, которая учится правильно предсказывать любую вычислимую последовательность на основе ограниченных данных, применяя [[Теорема Байеса|формулу Байеса]] для обновления вероятностей. В некотором смысле эта система является идеальным универсальным алгоритмом прогнозирования. Ее можно считать математической формализацией бритвы Оккама в комбинации с принципом множественных объяснений. Индукция Соломонова невычислима, но ее можно аппроксимировать. Она используется в таких теориях искусственного интеллекта как [[AIXI|AIXI]].

Ценности

2024-05-04T00:16:38Z

Kirdan: Ссылки

[[Категория:Понятия]] {{DraftPage}}

Составляющая этической системы, которая формирует конкретные цели в жизни каждого человека. В ЛВ-сообщесте часто можно услышать, что существуют т. н. «терминальные» ценности, которые являются основой и главной мотивации внутренней жизни. Они отличаются от всех прочих тем, что являются ценностями без всякого основания в других ценностях. Например, для многих людей терминальной ценностью является собственный комфорт. А для других терминальной ценностью может быть разнообразие информации в мире, и так далее.

<pre>
Результаты (список возможных результатов)
- [сестра жива; сестра мертва]

Действия (список возможных действий)
- [ввести пенициллин; не вводить пенициллин]

Функция полезности (она связывает каждый результат с полезностью, выражаемой с помощью числа от отрицательной бесконечности до положительной)
- (сестра жива→ 1)
- (сестра мертва→ 0)

Функция условной вероятности (которая связывает действия и результаты посредством распределения вероятностей). Вероятность представлена числом от 1 до 0.
-ввести пенициллин→сестра жива (0,9)
-ввести пенициллин→сестра мертва (0,1)
-не вводить пенициллин→сестра жива (0,3)
-не вводить пенициллин→сестра мертва (0,7)

Ожидаемая полезность действия. Полезность Результата * Вероятность наблюдать результат при выполнении Действия]
- ОП (ввести пенициллин) → 1*0,9=0,9
- ОП (не вводить пенициллин) → 1*0,3=0,3

Выбор действия с максимальной ожидаемой полезностью.
-ввести пенициллин.
</pre>

С точки зрения такой формализации, становится понятней, что «снижение числа преступлений» является терминальной ценностью ([[Функция полезности|функцией полезности]], которую следует максимизировать, то есть выбирать такие действия из всех возможных, которые с большей вероятностью приведут к снижению), а «нагнетание страха перед наказанием», «ресоциализация преступников» — инструментальными (то есть нужно отслеживать, насколько запуганным (действия, которые приведут к нужном состоянию) наказанием должен быть человек, чтобы вероятность совершения им преступлений была минимальной).

== Ссылки ==

* Элиезер Юдковский, [https://lesswrong.ru/w/%D0%A6%D0%B5%D0%BD%D0%BD%D0%BE%D1%81%D1%82%D0%B8_%D1%82%D0%B5%D1%80%D0%BC%D0%B8%D0%BD%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5_%D0%B8_%D0%B8%D0%BD%D1%81%D1%82%D1%80%D1%83%D0%BC%D0%B5%D0%BD%D1%82%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5 Ценности терминальные и инструментальные]
* Элиезер Юдковский, [https://lesswrong.ru/w/%D0%9D%D0%B5_%D1%80%D0%B0%D0%B4%D0%B8_%D0%BE%D0%B4%D0%BD%D0%BE%D0%B3%D0%BE_%D0%BB%D0%B8%D1%88%D1%8C_%D1%81%D1%87%D0%B0%D1%81%D1%82%D1%8C%D1%8F Не ради одного лишь счастья]
* Элиезер Юдковский, [https://lesswrong.ru/w/%D0%98%D1%81%D0%BF%D0%BE%D0%BB%D0%BD%D0%B8%D1%82%D0%B5%D0%BB%D0%B8_%D0%B0%D0%B4%D0%B0%D0%BF%D1%82%D0%B0%D1%86%D0%B8%D0%B9_%D0%B0_%D0%BD%D0%B5_%D0%BC%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B8%D0%B7%D0%B0%D1%82%D0%BE%D1%80%D1%8B_%D0%BF%D1%80%D0%B8%D1%81%D0%BF%D0%BE%D1%81%D0%BE%D0%B1%D0%BB%D0%B5%D0%BD%D0%BD%D0%BE%D1%81%D1%82%D0%B8 Исполнители адаптаций, а не максимизаторы приспособленности]
* Элиезер Юдковский, [https://lesswrong.ru/w/%D0%9F%D0%BE%D1%82%D0%B5%D1%80%D1%8F%D0%BD%D0%BD%D1%8B%D0%B5_%D1%86%D0%B5%D0%BB%D0%B8 Потерянные цели]
* Eliezer Yudkowsky, [http://lesswrong.com/lw/mz/zut_allais/ Zut Allais!]
* Лукас Глор, [https://reducingsuffering.github.io/lukas-gloor-means-and-ends.html Цели и средства]

Деонтология

2024-05-04T00:06:47Z

Kirdan: /* Ссылки */

[[Категория:Понятия]] [[Категория:Этика]]
{{DraftPage}} {{WikiRuLink}}

Теория этики, согласно которой правильность поведения определяется с помощью списка правил, которые нельзя нарушать. Обычно противопоставляется [[консеквенциализм|консеквенциализму]].

===Примеры===

'''Кантианская этика.''' Поступай всегда таким образом, что если все люди будут всегда поступать по тому же принципу, это не приведет к противоречиям. Такое правило называется максимой.
Например, если ты хочешь взять вещь без спроса, то нужно посмотреть, что будет, если все всегда будут брать чужие вещи, воровать. Тогда я буду воровать у тебя, а ты обратно у меня и это все бессмысленно и бесполезно, противоречие.

'''Религиозная деонтология.''' Свод этических правил, данных богом. Например, десять заповедей христианства.

'''Теория естественного закона''' (natural law theory) говорит, что мораль у людей врождённая, от природы, одинаковая для всех.

==Ссылки==

* Stanford Encyclopedia of Philosophy, [https://plato.stanford.edu/entries/ethics-deontological/ Deontological Ethics]
* Стэнфордская энциклопедия философии, [https://brickofknowledge.com/articles/kant Моральная философия И. Канта] (перевод brickofknowledge.com)
* Alicorn, [https://www.lesswrong.com/posts/yppdL4EXLWda5Wthn/deontology-for-consequentialists Deontology for Consequentialists]

Консеквенциализм

2024-05-04T00:00:03Z

Kirdan: /* Ссылки */

[[Категория:Понятия]] [[Категория:Этика]]
{{WikiRuLink}} {{Переписать}}

'''''Консеквенциализм''''' — теория этики, в соответствии с которой людям следует выбирать действия, исходя из ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, [[утилитаризм|утилитаризмом]], следует стремиться к таким последствиям, которые максимизируют благополучие максимального количества людей. А этический эгоизм определяет лучшие последствия, как те, которые максимизируют благополучие самого агента. Консеквенциализм — один из трех основных разновидностей этики наряду с [[Деонтология|деонтологией]] и [[Этика добродетели|этикой добродетели]].
Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь [[Теория ожидаемой полезности|аксиомам фон Неймана-Моргенштерна]] (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил.

Консеквенциализмом можно назвать шаг в обратном направлении от предпочтения будущих последствий к выбору действий в настоящем.
Т.е. вы выберете аэропорт не потому что вам нравятся аэропорты; вы выберете аэропорт потому что это поможет вам, в будущем, оказаться в Лондоне (это может звучать слишком очевидно, но так и было задумано). Кондиционер сконструирован так, не потому что мы любим как металлические запчасти определенной формы соединены определенным образом; он сконструирован так, чтобы в итоге он мог менять температуру воздуха.

Для консеквенциалистского выбора необходимо:
*Способность прогнозировать или угадывать последствия разных действий или процедур.
*Способ выстраивать последствия в иерархию от наименее предпочитаемых к наиболее предпочитаемым.
*Способность искать и находить такие действия, которые приведут к наиболее предпочитаемым последствиям.
*Способность выполнять такие действия.

Можно сказать, что люди эмпирически могущественней мышей потому что мы сильней как консеквенциалисты. Если мы хотим есть, то мы можем вообразить копье, сделать его и метнуть в добычу. Если мы хотим чтобы в комнате было светло в будущем, мы можем вообразить лампы, проводку, панели солнечных батарей.

Множество проблем в области калибровки целей/ценностей [[Искусственный интеллект|ИИ]] и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах.

==Ссылки==
* Стэнфордская энциклопедия философии, [https://brickofknowledge.com/articles/%D1%81onsequentialism Консеквенциализм] (перевод brickofknowledge.com)
* Скотт Александер, [[lwru:ЧаВо о консеквенциализме|ЧаВо о консеквенциализме]]
* Лукас Глор, [[lwru:Критика наивного консеквенциализма|Критика наивного консеквенциализма]]
* Eliezer Yudkowsky, [https://www.lesswrong.com/posts/K9ZaZXDnL3SEmYZqB/ends-don-t-justify-means-among-humans Ends Don't Justify Means (Among Humans)]

Инструментальная конвергенция

2024-05-03T23:41:02Z

Kirdan: /* Другие материалы по теме */

<div style="float: right">
{{WikipediaRu|Инструментальная сходимость}}

{{DraftPage}}

'''Инструментальная конвергенция''' (также известна как Инструментальная сходимость) — предполагаемая тенденция к совпадению промежуточных целей у сверхинтеллектов с различными конечными целями. Некоторые вещи необходимы для достижения огромного количества финальных целей. Например контроль ресурсов и предотвращение своего уничтожения. Тезис относится как к человеческим сверхинтеллектам, так и к не-человеческим.

== Стремления Омохундро ==
Стивен Малверн Омохундро, выделил стремления, которые весьма вероятно будут сформированы в достаточно продвинутых системах ИИ любого назначения.

* '''Стремление к самосохранению''' — Любой достаточно продвинутый интеллект, вероятно, будет хорошо справляться с достижением своих целей. Следовательно для большинства функций полезности польза от отключения или уничтожения системы отрицательная. Они приведут к прекращению осуществления пути к цели. То же касается и неизменности функции полезности. Если изменить функцию полезности продвинутого интеллекта, то он скорее всего станет менее эффективно исполнять предыдущую (или вообще прекратит это делать).

* '''Стремление к эффективности'''

* '''Стремление к аккумуляции ресурсов'''

* '''Стремление к креативности'''

* '''Стремление к самосовершенствованию'''

* '''Стремление к [[Рациональность|рациональности]]'''

* '''Стремление к предотвращению фальсификации [[утилон]]ов'''

Этот список является объединенным для двух работ Омохундро: [https://selfawaresystems.files.wordpress.com/2008/01/nature_of_self_improving_ai.pdf The Nature of Self-Improving Artificial Intelligence] и [https://selfawaresystems.files.wordpress.com/2008/01/ai_drives_final.pdf|The Basic AI Drives]

== Связанные понятия ==
[[Максимизатор скрепок]] — пример мысленного эксперимента, связанного с инструментальной конвергенцией. Максимизатор скрепок стремится только к тому, что бы произвести как можно больше скрепок, поэтому причиняет огромное количество сопутствующего ущерба, разрушая человечество ради создания скрепок или устройств для их производства. Максимизатор скрепок имеет общую инструментальную цель со многими другими гипотетическими сверхинтеллектами — захват ресурсов Земли.

== Другие материалы по теме ==
* [https://educ.wikireading.ru/hCl7qYdvhn Инструментальная конвергенция] — глава книги Ника Бострома «Искусственный интеллект [Этапы. Угрозы. Стратегии]» об Инструментальной Конвергенции (Сходимости)
* [https://www.alignmentforum.org/tag/instrumental-convergence Instrumental Convergence] — www.alignmentforum.org
* [https://artsoc.jes.su/s207751800009748-1-1/ Основные драйвы систем искусственного интеллекта] — перевод статьи Стива Омохундро

Этика

2024-05-03T23:33:16Z

Kirdan: Формулировки, ссылки

[[Категория:Понятия]] [[Категория:Этика]]
{{DraftPage}} {{WikiRuLink}}

'''Этикой''' может называться:

1. Раздел философии, занимающийся принципами должного (морального, правильного) поведения. Обычно делится на три раздела: прикладную этику, нормативную этику, и [[Метаэтика|метаэтику]]. Прикладная этика занимается определением должного поведения в конкретных практических областях. Нормативная этика определяет общие принципы, по которым должны решаться вопросы в прикладной этике. Основные нормативные этические теории: [[Деонтология|деонтология]] (этика долга), [[Консеквенциализм|консеквенциализм]] и [[Этика добродетели|аретология]] (этика добродетели). [[Метаэтика|Метаэтика]] изучает саму природу морали и возможности ее познания.

2. Любая конкретная система принципов должного поведения, личной или общественной морали. Например, можно слышать «твоя этика непоследовательна» или «дыра в твоей этике…», когда речь идет о такой системе принципов в голове конкретного человека.

Контрактуализм

2024-05-03T23:19:50Z

Kirdan: Ссылки

[[Категория:Понятия]] [[Категория:Этика]] [[Категория:Метаэтика]] {{DraftPage}}
Контрактуализм говорит, что не существует заранее заданной этики. Свод этических правил возникает в результате договора всех участников. Договор должен быть таким, что каждому участнику будет лучше в обществе с этим договором, чем вовне.

== Базовые принципы ==

Допустимый отказ (reasonable rejection)
Существует ситуация, когда ты можешь нарушить договор, но не быть неправ. Если твои действия нарушают договор, но ты можешь дать им такое объяснение:
исполнение договора принесет мне слишком много вреда. Например, для исполнения договора мне придется умереть или отрубить себе руку.

Таким образом в договор бесполезно добавлять правило, которое люди будут регулярно отвергать с помощью допустимого отказа.

== Отличия ==

=== Общественный договор ===

Контрактарианизм, как теория общественного договора, имеет корни в теории Хоббса и основывается на взаимовыгодном эгоизме. Положительную этическую оценку получают формы кооперации которые приводят к выгоде всех участников, действующих согласно своим интересам.

В контрактарианизме мне следует максимизировать удовлетворение своих интересов в сделках с другими.
В контрактуализме мне следует удовлетворять свои интересы таким образом, чтобы я смог обосновать свои действия тем, кто обладает отличающимися интересами.

=== Кантианская деонтология ===

=== Утилитаризм ===

== Ссылки ==

* Стэнфордская энциклопедия философии, [https://brickofknowledge.com/articles/contractualism Контрактуализм] (перевод brickofknowledge.com)

Консеквенциализм

2024-05-03T23:14:34Z

Kirdan: Ссылки

Этика добродетели

2024-05-03T23:11:15Z

Kirdan: Ссылки, термины

[[Категория:Понятия]] [[Категория:Этика]]
{{DraftPage}} {{WikiRuLink}}

Этика добродетели (аретология) — это теория этики, согласно которой следует поступать так, как поступают добродетельные люди.

===Личная добродетель===

Добродетельный человек по Аристотелю придерживается золотой середины. Не жадный и не расточительный, а в меру щедрый и в меру бережливый. Не труслив, а в меру храбр, но не беспечен. Любая крайность — это уже не добродетель.

Если вы будете вести себя так же, как добродетельные люди, вы тоже станете добродетельным и для вас станет естественным совершать хорошие поступки.

===Общественная добродетель===

Согласно конфуцианству, мораль определяется ролью в обществе.
Сяо, сыновняя почтительность — то, как сын должен относиться к отцу.
Ти, уважение и любовь младшего брата к старшему.
Регламентировано отношение правителя к подчинённым и подчинённых к правителю, отца к детям и детей к отцу, отношение супругов друг к другу. Хорошо и правильно с точки зрения конфуцианской этики выполнять свой долг согласно своей роли, даже если вторая сторона свой долг не выполняет.

==Ссылки==

Стэнфордская энциклопедия философии, [https://philosophy.ru/ru/virtue_ethics/ Этика добродетели] (перевод philosophy.ru)

Деонтология

2024-05-03T23:07:51Z

Kirdan: Ссылки, форматирование

Метаэтика

2024-05-03T22:10:02Z

Kirdan:

{{LwComWikiLink|Metaethics}}
{{WikiRuLink}}

По часто используемой классификации, метаэтика — это одна из трех разновидностей [[Этика|этики]]; другие две — нормативная и прикладная этика. Метаэтика исследует метафизические, эпистемологические и семантические характеристики моральных идей. Она задается такими вопросами как "Объективны или субъективны моральные высказывания, относительны или абсолютны?", "Существуют ли моральные факты?", "Как мы усваиваем моральные ценности?". (В отличие от вопросов на объектном уровне, вроде "Допустимо ли врать, чтобы спасти друга от смерти?" или "Должен ли я грабить банки, чтобы передавать деньги бедным, которые этого заслуживают?")

== Материалы ==

=== Русский ===

* https://ru.wikipedia.org/wiki/Метаэтика

=== English ===

* https://wiki.lesswrong.com/wiki/Metaethics
* https://arbital.com/p/metaethics/
* https://plato.stanford.edu/entries/metaethics/
* https://en.wikipedia.org/wiki/Meta-ethics
* https://rationalwiki.org/wiki/Morality

[[Категория:Понятия]]
[[Категория:Метаэтика]]
[[Категория:Этика]]

Метаэтика

2024-05-03T22:09:23Z

Kirdan:

{{LwComWikiLink|Metaethics}}
{{WikiRuLink}}

По часто используемой классификации, метаэтика — это одна из трех разновидностей [[этики|Этика]]; другие две — нормативная и прикладная этика. Метаэтика исследует метафизические, эпистемологические и семантические характеристики моральных идей. Она задается такими вопросами как "Объективны или субъективны моральные высказывания, относительны или абсолютны?", "Существуют ли моральные факты?", "Как мы усваиваем моральные ценности?". (В отличие от вопросов на объектном уровне, вроде "Допустимо ли врать, чтобы спасти друга от смерти?" или "Должен ли я грабить банки, чтобы передавать деньги бедным, которые этого заслуживают?")

== Материалы ==

=== Русский ===

* https://ru.wikipedia.org/wiki/Метаэтика

=== English ===

* https://wiki.lesswrong.com/wiki/Metaethics
* https://arbital.com/p/metaethics/
* https://plato.stanford.edu/entries/metaethics/
* https://en.wikipedia.org/wiki/Meta-ethics
* https://rationalwiki.org/wiki/Morality

[[Категория:Понятия]]
[[Категория:Метаэтика]]
[[Категория:Этика]]

Метаэтика

2024-05-03T22:07:12Z

Kirdan: Добавил

{{LwComWikiLink|Metaethics}}
{{WikiRuLink}}

По часто используемой классификации, метаэтика — это одна из трех разновидностей этики; другие две - нормативная и прикладная этика. Метаэтика исследует метафизические, эпистемологические и семантические характеристики моральных идей. Она задается такими вопросами как "Объективны или субъективны моральные высказывания, относительны или абсолютны?", "Существуют ли моральные факты?", "Как мы усваиваем моральные ценности?". (В отличие от вопросов на объектном уровне, вроде "Допустимо ли врать, чтобы спасти друга от смерти?" или "Должен ли я грабить банки, чтобы передавать деньги бедным, которые этого заслуживают?")

== Материалы ==

=== Русский ===

* https://ru.wikipedia.org/wiki/Метаэтика

=== English ===

* https://wiki.lesswrong.com/wiki/Metaethics
* https://arbital.com/p/metaethics/
* https://plato.stanford.edu/entries/metaethics/
* https://en.wikipedia.org/wiki/Meta-ethics
* https://rationalwiki.org/wiki/Morality

[[Категория:Понятия]]
[[Категория:Метаэтика]]
[[Категория:Этика]]

Эффективный альтруизм

2024-05-03T22:05:08Z

Kirdan: Добавил категорию

{{Wikipedia|ru=Эффективный альтруизм|en=Effective altruism}}
'''''Эффективный альтруизм''''' — философия и социальное движение, использующие факты и доказательства для определения наиболее эффективных способов сделать мир лучше, в основном, через благотворительность. В основе эффективного альтруизма лежит представление о том, что многие благотворительные инициативы (особенно те, которые первыми приходят на ум) требуют значительных вложений сил и финансов, но при этом оказывают крайне незначительный эффект; при этом существуют гораздо более простые и дешевые инициативы, способные оказать больший эффект; и именно на поиске и реализации последних стоит сосредоточиться в первую очередь. То же самое справедливо и для выбора глобальных направлений приложения усилий, которые в целом способны принести благо людям и другим живым существам, благополучие которых нас волнует.

== Ссылки ==
=== Ресурсы, посвященные эффективному альтруизму ===
==== На русском ====
* [https://ea-ru.org/ Сайт русскоязычного сообщества]
* [https://t.me/effectivealtruism Телеграм-канал]
* [https://t.me/effective_altruism_chat Чат в Телеграме]
* [https://vk.com/effectivealtruism Группа ВКонтакте]
* [https://80000hours.ru/book/online/ 80.000 часов] - перевод предыдущей редакции книги [[80.000 часов]] на русский язык
==== На английском ====
* [https://forum.effectivealtruism.org/ Effective Altruism Forum] - главный ресурс сообщества
* [https://www.effectivealtruism.org/ Effective Altruism] - оригинальный сайт сообщества
* [https://80000hours.org/ 80.000 Hours] - сайт проекта [[80.000 часов]] по планированию карьеры с учетом целей эффективного альтруизма
* [https://forum.effectivealtruism.org/groups Groups & people] - раздел на EA Forum со списком отдельных групп (подразделы: локальные сообщества по городам/странам; онлайн-сообщества по отдельным темам; участники сообщества на карте)
* [https://forum.effectivealtruism.org/groups/YeW2gwh4gHexYQBjs Effective Altruism Anywhere] - онлайн-группа на EA Forum для тех, у кого поблизости нет локального сообщества, или кто не может участвовать в его встречах
* [https://forum.effectivealtruism.org/handbook EA Handbook] (проект) — сборник классических статей, посвящённых эффективному альтруизму, и объяснение ключевых понятий.
=== Рассылки ===
==== На английском ====
* [https://80000hours.org/newsletter/ Рассылка 80.000 часов]

[[Категория:Понятия]]
[[Категория:Эффективный альтруизм]]
[[Категория:Этика]]

Этика добродетели

2024-05-03T21:41:49Z

Kirdan: Изменение категории, исправление терминологической ошибки

[[Категория:Понятия]] [[Категория:Этика]] {{DraftPage}} {{WikiRuLink}}

Теория этики, согласно которой следует поступать так, как поступают добродетельные люди.

===Личная добродетель===
Добродетельный человек по Аристотелю придерживается золотой середины. Не жадный и не расточительный, а в меру щедрый и в меру бережливый. Не труслив, а в меру храбр, но не беспечен. Любая крайность - это уже не добродетель.

Если вы будете вести себя так же, как добродетельные люди, вы тоже станете добродетельным и для вас станет естественным совершать хорошие поступки.

===Общественная добродетель===
Согласно конфуцианству, мораль определяется ролью в обществе.
Сяо, сыновняя почтительность - то, как сын должен относиться к отцу.
Ти, уважение и любовь младшего брата к старшему.
Регламентировано отношение правителя к подчинённым и подчинённых к правителю, отца к детям и детей к отцу, отношение супругов друг к другу. Хорошо и правильно с точки зрения конфуцианской этики выполнять свой долг согласно своей роли, даже если вторая сторона свой долг не выполняет.

Категория:Метаэтика

2024-05-03T21:40:37Z

Kirdan:

См. [[Метаэтика|основную статью]]

[[Категория:Теория]] [[Категория:Этика]]

Контрактуализм

2024-05-03T21:39:58Z

Kirdan:

[[Категория:Понятия]] [[Категория:Этика]] [[Категория:Метаэтика]] {{DraftPage}}
Контрактуализм говорит, что не существует заранее заданной этики. Свод этических правил возникает в результате договора всех участников. Договор должен быть таким, что каждому участнику будет лучше в обществе с этим договором, чем вовне.

== Базовые принципы ==

Допустимый отказ (reasonable rejection)
Существует ситуация, когда ты можешь нарушить договор, но не быть неправ. Если твои действия нарушают договор, но ты можешь дать им такое объяснение:
исполнение договора принесет мне слишком много вреда. Например, для исполнения договора мне придется умереть или отрубить себе руку.

Таким образом в договор бесполезно добавлять правило, которое люди будут регулярно отвергать с помощью допустимого отказа.

== Отличия ==

=== Общественный договор ===

Контрактарианизм, как теория общественного договора, имеет корни в теории Хоббса и основывается на взаимовыгодном эгоизме. Положительную этическую оценку получают формы кооперации которые приводят к выгоде всех участников, действующих согласно своим интересам.

В контрактарианизме мне следует максимизировать удовлетворение своих интересов в сделках с другими.
В контрактуализме мне следует удовлетворять свои интересы таким образом, чтобы я смог обосновать свои действия тем, кто обладает отличающимися интересами.

=== Кантианская деонтология ===

=== Утилитаризм ===

== Материалы ==

* https://plato.stanford.edu/entries/contractualism/

Консеквенциализм

2024-05-03T21:38:00Z

Kirdan: Изменение категории

{{WikiRuLink}}
{{Переписать}}

'''''Консеквенциализм''''' — теория этики, в соответствии с которой людям следует выбирать действия, исходя из ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, [[утилитаризм|утилитаризмом]], следует стремиться к таким последствиям, которые максимизируют благополучие максимального количества людей. А этический эгоизм определяет лучшие последствия, как те, которые максимизируют благополучие самого агента. Консеквенциализм — один из трех основных разновидностей этики наряду с [[деонтология|деонтологией]] и этикой добродетели.
Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь [[Теория ожидаемой полезности|аксиомам фон Неймана-Моргенштерна]] (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил.

Консеквенциализмом можно назвать шаг в обратном направлении от предпочтения будущих последствий к выбору действий в настоящем.
Т.е. вы выберете аэропорт не потому что вам нравятся аэропорты; вы выберете аэропорт потому что это поможет вам, в будущем, оказаться в Лондоне (это может звучать слишком очевидно, но так и было задумано). Кондиционер сконструирован так, не потому что мы любим как металлические запчасти определенной формы соединены определенным образом; он сконструирован так, чтобы в итоге он мог менять температуру воздуха.

Для консеквенциалистского выбора необходимо:
*Способность прогнозировать или угадывать последствия разных действий или процедур.
*Способ выстраивать последствия в иерархию от наименее предпочитаемых к наиболее предпочитаемым.
*Способность искать и находить такие действия, которые приведут к наиболее предпочитаемым последствиям.
*Способность выполнять такие действия.

Можно сказать, что люди эмпирически могущественней мышей потому что мы сильней как консеквенциалисты. Если мы хотим есть, то мы можем вообразить копье, сделать его и метнуть в добычу. Если мы хотим чтобы в комнате было светло в будущем, мы можем вообразить лампы, проводку, панели солнечных батарей.

Множество проблем в области калибровки целей/ценностей [[Искусственный интеллект|ИИ]] и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах.

==Ссылки==
* [[lwru:ЧаВо о консеквенциализме|ЧаВо о консеквенциализме]]

[[Категория:Понятия]]
[[Категория:Этика]]

Категория:Этика

2024-05-03T21:37:05Z

Kirdan: Создана категория

См. [[Этика|основную статью]]

[[Категория:Теория]]

Деонтология

2024-05-03T21:30:03Z

Kirdan: Исправлена терминологическая ошибка

[[Категория:Понятия]] [[Категория:Этика]] {{DraftPage}} {{WikiRuLink}}

Теория этики, согласно которой правильность поведения определяется с помощью списка правил, которые нельзя нарушать. Обычно противопоставляется [[консеквенциализм|консеквенциализму]].

===Примеры деонтологий===
Кантианская этика. Поступай всегда таким образом, что если все люди будут всегда поступать по тому же принципу, это не приведет к противоречиям. Такое правило называется максимой.
Например, если ты хочешь взять вещь без спроса, то нужно посмотреть, что будет, если все всегда будут брать чужие вещи, воровать. Тогда я буду воровать у тебя, а ты обратно у меня и это все бессмысленно и бесполезно, противоречие.

Религиозная деонтология. Свод этических правил, данных богом. Например, десять заповедей христианства.

Теория естественного закона (natural law theory) говорит, что мораль у людей врождённая, от природы, одинаковая для всех.

Метаэтика

2022-02-18T12:36:41Z

Kirdan: Все до этого написанное было неверно (относилось к нормативной этике, а не метаэтике). Предложенное основано на англоязычном LW.

По часто используемой классификации, метаэтика - это одна из трех разновидностей этики; другие две - нормативная и прикладная этика. Метаэтика исследует метафизические, эпистемологические и семантические характеристики моральных идей. Она задается такими вопросами как "Объективны или субъективны моральные высказывания, относительны или абсолютны?", "Существуют ли моральные факты?", "Как мы усваиваем моральные ценности?". (В отличие от вопросов на объектном уровне, вроде "Допустимо ли врать, чтобы спасти друга от смерти?" или "Должен ли я грабить банки, чтобы передавать деньги бедным, которые этого заслуживают?")

== Материалы ==

=== Русский ===

* https://ru.wikipedia.org/wiki/Метаэтика

=== English ===

* https://wiki.lesswrong.com/wiki/Metaethics
* https://arbital.com/p/metaethics/
* https://plato.stanford.edu/entries/metaethics/
* https://en.wikipedia.org/wiki/Meta-ethics
* https://rationalwiki.org/wiki/Morality

[[Категория:Понятия]]
[[Категория:Метаэтика]]