Консеквенциализм — различия между версиями
Muyyd (обсуждение | вклад) |
Kekdude (обсуждение | вклад) м (ссылки и орфография) |
||
| Строка 2: | Строка 2: | ||
{{Переписать}} | {{Переписать}} | ||
| − | '''''Консеквенциализм''''' — теория этики, в соответствии с которой людям следует выбирать действия исходя ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, утилитаризмом, следует | + | '''''Консеквенциализм''''' — теория этики, в соответствии с которой людям следует выбирать действия исходя ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, [[утилитаризм|утилитаризмом]], следует стремиться к таким последствиям, которые максимизируют благополучие максимального количества людей. А этический эгоизм определяет лучшие последствия, как те, которые максимизируют благополучие самого агента. Консеквенциализм — один из трех основных разновидностей этики наряду с [[деонтология|деонтологией]] и этикой добродетели. |
| − | Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь аксиомам фон Неймана-Моргенштерна (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил. | + | Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь [[Теория ожидаемой полезности|аксиомам фон Неймана-Моргенштерна]] (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил. |
Консеквенциализмом можно назвать шаг в обратном направлении от предпочтения будущих последствий к выбору действий в настоящем. | Консеквенциализмом можно назвать шаг в обратном направлении от предпочтения будущих последствий к выбору действий в настоящем. | ||
| Строка 16: | Строка 16: | ||
Можно сказать, что люди эмпирически могущественней мышей потому что мы сильней как консеквенциалисты. Если мы хотим есть, то мы можем вообразить копье, сделать его и метнуть в добычу. Если мы хотим чтобы в комнате было светло в будущем, мы можем вообразить лампы, проводку, панели солнечных батарей. | Можно сказать, что люди эмпирически могущественней мышей потому что мы сильней как консеквенциалисты. Если мы хотим есть, то мы можем вообразить копье, сделать его и метнуть в добычу. Если мы хотим чтобы в комнате было светло в будущем, мы можем вообразить лампы, проводку, панели солнечных батарей. | ||
| − | Множество проблем в области калибровки целей/ценностей ИИ и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах. | + | Множество проблем в области калибровки целей/ценностей [[Искусственный интеллект|ИИ]] и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах. |
==Ссылки== | ==Ссылки== | ||
Версия 04:26, 9 июля 2017
| Эту страницу надо переписать |
Консеквенциализм — теория этики, в соответствии с которой людям следует выбирать действия исходя ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, утилитаризмом, следует стремиться к таким последствиям, которые максимизируют благополучие максимального количества людей. А этический эгоизм определяет лучшие последствия, как те, которые максимизируют благополучие самого агента. Консеквенциализм — один из трех основных разновидностей этики наряду с деонтологией и этикой добродетели. Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь аксиомам фон Неймана-Моргенштерна (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил.
Консеквенциализмом можно назвать шаг в обратном направлении от предпочтения будущих последствий к выбору действий в настоящем. Т.е. вы выберете аэропорт не потому что вам нравятся аэропорты; вы выберете аэропорт потому что это поможет вам, в будущем, оказаться в Лондоне (это может звучать слишком очевидно, но так и было задумано). Кондиционер сконструирован так, не потому что мы любим как металлические запчасти определенной формы соединены определенным образом; он сконструирован так, чтобы в итоге он мог менять температуру воздуха.
Для консеквенциалистского выбора необходимо:
- Способность прогнозировать или угадывать последствия разных действий или процедур.
- Способ выстраивать последствия в иерархию от наименее предпочитаемых к наиболее предпочитаемым.
- Способность искать и находить такие действия, которые приведут к наиболее предпочитаемым последствиям.
- Способность выполнять такие действия.
Можно сказать, что люди эмпирически могущественней мышей потому что мы сильней как консеквенциалисты. Если мы хотим есть, то мы можем вообразить копье, сделать его и метнуть в добычу. Если мы хотим чтобы в комнате было светло в будущем, мы можем вообразить лампы, проводку, панели солнечных батарей.
Множество проблем в области калибровки целей/ценностей ИИ и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах.
