На эту тему существует тэг на LessWrong.com: Utility Function
Функция полезности присваивает количественные значения («утилоны») возможным исходам, таким образом, что исходы с большим количеством полезности оказываются предпочтительнее, чем исходы с меньшим количеством полезности.
Поскольку исходы действий обычно нельзя предсказать наверняка, при совершении выбора рациональные агенты обычно руководствуются ожидаемой полезностью: суммой значений функции полезности для рассматриваемых исходов, взвешенных на вероятности исходов.