Ценности

Материал из Вики LessWrong.ru
Перейти к: навигация, поиск

Составляющая этической системы, которая формирует конкретные цели в жизни каждого человека. В ЛВ-сообщесте часто можно услышать, что существуют т. н. «терминальные» ценности, которые являются основой и главной мотивации внутренней жизни. Они отличаются от всех прочих тем, что являются ценностями без всякого основания в других ценностях. Например, для многих людей терминальной ценностью является собственный комфорт. А для других терминальной ценностью может быть разнообразие информации в мире, и так далее.

Результаты (список возможных результатов)
- [сестра жива; сестра мертва]

Действия (список возможных действий)
- [ввести пенициллин; не вводить пенициллин]

Функция полезности (она связывает каждый результат с полезностью, выражаемой с помощью числа от отрицательной бесконечности до положительной)
- (сестра жива→ 1)
- (сестра мертва→ 0)

Функция условной вероятности (которая связывает действия и результаты посредством распределения вероятностей). Вероятность представлена числом от 1 до 0.
-ввести пенициллин→сестра жива (0,9)
-ввести пенициллин→сестра мертва (0,1)
-не вводить пенициллин→сестра жива (0,3)
-не вводить пенициллин→сестра мертва (0,7)

Ожидаемая полезность действия. Полезность Результата * Вероятность наблюдать результат при выполнении Действия]
- ОП (ввести пенициллин) → 1*0,9=0,9
- ОП (не вводить пенициллин) → 1*0,3=0,3

Выбор действия с максимальной ожидаемой полезностью.
-ввести пенициллин.

С точки зрения такой формализации, становится понятней, что «снижение числа преступлений» является терминальной ценностью (функцией полезности, которую следует максимизировать, то есть выбирать такие действия из всех возможных, которые с большей вероятностью приведут к снижению), а «нагнетание страха перед наказанием», «ресоциализация преступников» — инструментальными (то есть нужно отслеживать, насколько запуганным (действия, которые приведут к нужном состоянию) наказанием должен быть человек, чтобы вероятность совершения им преступлений была минимальной).

См. Terminal Values and Instrumental Values, Adaptation-Executers, not Fitness-Maximizers, Zut Allais!, Lost Purposes.