'''''Консеквенциализм''''' — теория этики, в соответствии с которой людям следует выбирать действия исходя ожидаемых последствий этих действий. Сам консеквенциализм не определяет способ оценки последствий, но есть множество его видов, которые определяют. В соответствии с, например, [[утилитаризм|утилитаризмом]], следует стремится стремиться к таким последствиям, которые максимизируют благополучие максимального количества людей, а . А этический эгоизм определяет лучшие последствия, как те, которые максимзируют максимизируют благополучие самого агента. Консеквенциализм - — один из трех основных разновидностей этики наряду с [[деонтология|деонтологией ]] и этикой добродетели.Часто консеквенциализм связывают с максимизацией ожидаемой полезности. Однако, есть аргументированная позиция в соответствии с которой можно выбирать действия основываясь на их последствиях, при этом не подчиняясь [[Теория ожидаемой полезности|аксиомам фон Неймана-Моргенштерна ]] (необходимых для обладания функцией полезности). Кроме того, ФП может быть использована для реализации чего-то вроде деонтологических правил.

Множество проблем в области калибровки целей/ценностей [[Искусственный интеллект|ИИ ]] и безопасности продвинутых агентов возникают, когда машинный интеллект начинает быть консеквенциалистом в нескольких важных для нас доменах.