Консеквенциализм

Материал из Вики LessWrong.ru
Перейти к: навигация, поиск
На эту тему существует страница в Википедии: Консеквенциализм

Консеквенциализм — теория этики, в соответствии с которой людям следует выбирать действия исходя ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, утилитаризмом, следует стремиться к таким последствиям, которые максимизируют благополучие максимального количества людей. А этический эгоизм определяет лучшие последствия, как те, которые максимизируют благополучие самого агента. Консеквенциализм — один из трех основных разновидностей этики наряду с деонтологией и этикой добродетели. Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь аксиомам фон Неймана-Моргенштерна (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил.

Консеквенциализмом можно назвать шаг в обратном направлении от предпочтения будущих последствий к выбору действий в настоящем. Т.е. вы выберете аэропорт не потому что вам нравятся аэропорты; вы выберете аэропорт потому что это поможет вам, в будущем, оказаться в Лондоне (это может звучать слишком очевидно, но так и было задумано). Кондиционер сконструирован так, не потому что мы любим как металлические запчасти определенной формы соединены определенным образом; он сконструирован так, чтобы в итоге он мог менять температуру воздуха.

Для консеквенциалистского выбора необходимо:

  • Способность прогнозировать или угадывать последствия разных действий или процедур.
  • Способ выстраивать последствия в иерархию от наименее предпочитаемых к наиболее предпочитаемым.
  • Способность искать и находить такие действия, которые приведут к наиболее предпочитаемым последствиям.
  • Способность выполнять такие действия.

Можно сказать, что люди эмпирически могущественней мышей потому что мы сильней как консеквенциалисты. Если мы хотим есть, то мы можем вообразить копье, сделать его и метнуть в добычу. Если мы хотим чтобы в комнате было светло в будущем, мы можем вообразить лампы, проводку, панели солнечных батарей.

Множество проблем в области калибровки целей/ценностей ИИ и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах.

Ссылки[править]