Консеквенциализм — различия между версиями
Kekdude (обсуждение | вклад) |
Kirdan (обсуждение | вклад) м (→Ссылки) |
||
| (не показано 12 промежуточных версий 7 участников) | |||
| Строка 1: | Строка 1: | ||
| − | {{WikiRuLink}} | + | [[Категория:Понятия]] [[Категория:Этика]] |
| − | '''''Консеквенциализм''''' — | + | {{WikiRuLink}} {{Переписать}} |
| + | |||
| + | '''''Консеквенциализм''''' — теория этики, в соответствии с которой людям следует выбирать действия, исходя из ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, [[утилитаризм|утилитаризмом]], следует стремиться к таким последствиям, которые максимизируют благополучие максимального количества людей. А этический эгоизм определяет лучшие последствия, как те, которые максимизируют благополучие самого агента. Консеквенциализм — один из трех основных разновидностей этики наряду с [[Деонтология|деонтологией]] и [[Этика добродетели|этикой добродетели]]. | ||
| + | Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь [[Теория ожидаемой полезности|аксиомам фон Неймана-Моргенштерна]] (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил. | ||
| + | |||
| + | Консеквенциализмом можно назвать шаг в обратном направлении от предпочтения будущих последствий к выбору действий в настоящем. | ||
| + | Т.е. вы выберете аэропорт не потому что вам нравятся аэропорты; вы выберете аэропорт потому что это поможет вам, в будущем, оказаться в Лондоне (это может звучать слишком очевидно, но так и было задумано). Кондиционер сконструирован так, не потому что мы любим как металлические запчасти определенной формы соединены определенным образом; он сконструирован так, чтобы в итоге он мог менять температуру воздуха. | ||
| + | |||
| + | Для консеквенциалистского выбора необходимо: | ||
| + | *Способность прогнозировать или угадывать последствия разных действий или процедур. | ||
| + | *Способ выстраивать последствия в иерархию от наименее предпочитаемых к наиболее предпочитаемым. | ||
| + | *Способность искать и находить такие действия, которые приведут к наиболее предпочитаемым последствиям. | ||
| + | *Способность выполнять такие действия. | ||
| + | |||
| + | Можно сказать, что люди эмпирически могущественней мышей потому что мы сильней как консеквенциалисты. Если мы хотим есть, то мы можем вообразить копье, сделать его и метнуть в добычу. Если мы хотим чтобы в комнате было светло в будущем, мы можем вообразить лампы, проводку, панели солнечных батарей. | ||
| + | |||
| + | Множество проблем в области калибровки целей/ценностей [[Искусственный интеллект|ИИ]] и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах. | ||
==Ссылки== | ==Ссылки== | ||
| − | * [[lwru:ЧаВо о консеквенциализме|ЧаВо о консеквенциализме]] | + | * Стэнфордская энциклопедия философии, [https://brickofknowledge.com/articles/%D1%81onsequentialism Консеквенциализм] (перевод brickofknowledge.com) |
| − | + | * Скотт Александер, [[lwru:ЧаВо о консеквенциализме|ЧаВо о консеквенциализме]] | |
| − | [[ | + | * Лукас Глор, [[lwru:Критика наивного консеквенциализма|Критика наивного консеквенциализма]] |
| + | * Eliezer Yudkowsky, [https://www.lesswrong.com/posts/K9ZaZXDnL3SEmYZqB/ends-don-t-justify-means-among-humans Ends Don't Justify Means (Among Humans)] | ||
Текущая версия на 00:00, 4 мая 2024
| Эту страницу надо переписать |
Консеквенциализм — теория этики, в соответствии с которой людям следует выбирать действия, исходя из ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, утилитаризмом, следует стремиться к таким последствиям, которые максимизируют благополучие максимального количества людей. А этический эгоизм определяет лучшие последствия, как те, которые максимизируют благополучие самого агента. Консеквенциализм — один из трех основных разновидностей этики наряду с деонтологией и этикой добродетели. Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь аксиомам фон Неймана-Моргенштерна (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил.
Консеквенциализмом можно назвать шаг в обратном направлении от предпочтения будущих последствий к выбору действий в настоящем. Т.е. вы выберете аэропорт не потому что вам нравятся аэропорты; вы выберете аэропорт потому что это поможет вам, в будущем, оказаться в Лондоне (это может звучать слишком очевидно, но так и было задумано). Кондиционер сконструирован так, не потому что мы любим как металлические запчасти определенной формы соединены определенным образом; он сконструирован так, чтобы в итоге он мог менять температуру воздуха.
Для консеквенциалистского выбора необходимо:
- Способность прогнозировать или угадывать последствия разных действий или процедур.
- Способ выстраивать последствия в иерархию от наименее предпочитаемых к наиболее предпочитаемым.
- Способность искать и находить такие действия, которые приведут к наиболее предпочитаемым последствиям.
- Способность выполнять такие действия.
Можно сказать, что люди эмпирически могущественней мышей потому что мы сильней как консеквенциалисты. Если мы хотим есть, то мы можем вообразить копье, сделать его и метнуть в добычу. Если мы хотим чтобы в комнате было светло в будущем, мы можем вообразить лампы, проводку, панели солнечных батарей.
Множество проблем в области калибровки целей/ценностей ИИ и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах.
СсылкиПравить
- Стэнфордская энциклопедия философии, Консеквенциализм (перевод brickofknowledge.com)
- Скотт Александер, ЧаВо о консеквенциализме
- Лукас Глор, Критика наивного консеквенциализма
- Eliezer Yudkowsky, Ends Don't Justify Means (Among Humans)