Ценности — различия между версиями

Материал из Вики LessWrong.ru
Перейти к: навигация, поиск
м (Замена текста — «Категория:Понятие» на «Категория:Понятия»)
м (Ссылки)
Строка 30: Строка 30:
 
С точки зрения такой формализации, становится понятней, что «снижение числа преступлений» является терминальной ценностью ([[Функция полезности|функцией полезности]], которую следует максимизировать, то есть выбирать такие действия из всех возможных, которые с большей вероятностью приведут к снижению), а «нагнетание страха перед наказанием», «ресоциализация преступников» — инструментальными (то есть нужно отслеживать, насколько запуганным (действия, которые приведут к нужном состоянию) наказанием должен быть человек, чтобы вероятность совершения им преступлений была минимальной).
 
С точки зрения такой формализации, становится понятней, что «снижение числа преступлений» является терминальной ценностью ([[Функция полезности|функцией полезности]], которую следует максимизировать, то есть выбирать такие действия из всех возможных, которые с большей вероятностью приведут к снижению), а «нагнетание страха перед наказанием», «ресоциализация преступников» — инструментальными (то есть нужно отслеживать, насколько запуганным (действия, которые приведут к нужном состоянию) наказанием должен быть человек, чтобы вероятность совершения им преступлений была минимальной).
  
−
См. [http://lesswrong.com/lw/l4/terminal_values_and_instrumental_values/ Terminal Values and Instrumental Values], [http://lesswrong.com/lw/l0/adaptationexecuters_not_fitnessmaximizers/ Adaptation-Executers, not Fitness-Maximizers], [http://lesswrong.com/lw/mz/zut_allais/ Zut Allais!], [http://lesswrong.com/lw/le/lost_purposes/ Lost Purposes].
+
== Ссылки ==
 +
 
 +
* Элиезер Юдковский, [https://lesswrong.ru/w/%D0%A6%D0%B5%D0%BD%D0%BD%D0%BE%D1%81%D1%82%D0%B8_%D1%82%D0%B5%D1%80%D0%BC%D0%B8%D0%BD%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5_%D0%B8_%D0%B8%D0%BD%D1%81%D1%82%D1%80%D1%83%D0%BC%D0%B5%D0%BD%D1%82%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5 Ценности терминальные и инструментальные]
 +
* Элиезер Юдковский, [https://lesswrong.ru/w/%D0%9D%D0%B5_%D1%80%D0%B0%D0%B4%D0%B8_%D0%BE%D0%B4%D0%BD%D0%BE%D0%B3%D0%BE_%D0%BB%D0%B8%D1%88%D1%8C_%D1%81%D1%87%D0%B0%D1%81%D1%82%D1%8C%D1%8F Не ради одного лишь счастья]
 +
* Элиезер Юдковский, [https://lesswrong.ru/w/%D0%98%D1%81%D0%BF%D0%BE%D0%BB%D0%BD%D0%B8%D1%82%D0%B5%D0%BB%D0%B8_%D0%B0%D0%B4%D0%B0%D0%BF%D1%82%D0%B0%D1%86%D0%B8%D0%B9_%D0%B0_%D0%BD%D0%B5_%D0%BC%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B8%D0%B7%D0%B0%D1%82%D0%BE%D1%80%D1%8B_%D0%BF%D1%80%D0%B8%D1%81%D0%BF%D0%BE%D1%81%D0%BE%D0%B1%D0%BB%D0%B5%D0%BD%D0%BD%D0%BE%D1%81%D1%82%D0%B8 Исполнители адаптаций, а не максимизаторы приспособленности]
 +
* Элиезер Юдковский, [https://lesswrong.ru/w/%D0%9F%D0%BE%D1%82%D0%B5%D1%80%D1%8F%D0%BD%D0%BD%D1%8B%D0%B5_%D1%86%D0%B5%D0%BB%D0%B8 Потерянные цели]
 +
* Eliezer Yudkowsky, [http://lesswrong.com/lw/mz/zut_allais/ Zut Allais!]
 +
* Лукас Глор, [https://reducingsuffering.github.io/lukas-gloor-means-and-ends.html Цели и средства]

Версия 00:16, 4 мая 2024

Draft.png
 Эта страница является черновым документом. Здесь есть ещё много простора для того, чтобы её улучшить.
Поскольку эту страницу последний раз редактировали больше года назад, похоже что это заброшенный черновик. Если вы знаете, как её улучшить, попробуйте так и сделать. Или, быть может, эту страницу стоит удалить?

Составляющая этической системы, которая формирует конкретные цели в жизни каждого человека. В ЛВ-сообщесте часто можно услышать, что существуют т. н. «терминальные» ценности, которые являются основой и главной мотивации внутренней жизни. Они отличаются от всех прочих тем, что являются ценностями без всякого основания в других ценностях. Например, для многих людей терминальной ценностью является собственный комфорт. А для других терминальной ценностью может быть разнообразие информации в мире, и так далее. 

Результаты (список возможных результатов)
- [сестра жива; сестра мертва]

Действия (список возможных действий)
- [ввести пенициллин; не вводить пенициллин]

Функция полезности (она связывает каждый результат с полезностью, выражаемой с помощью числа от отрицательной бесконечности до положительной)
- (сестра жива→ 1)
- (сестра мертва→ 0)

Функция условной вероятности (которая связывает действия и результаты посредством распределения вероятностей). Вероятность представлена числом от 1 до 0.
-ввести пенициллин→сестра жива (0,9)
-ввести пенициллин→сестра мертва (0,1)
-не вводить пенициллин→сестра жива (0,3)
-не вводить пенициллин→сестра мертва (0,7)

Ожидаемая полезность действия. Полезность Результата * Вероятность наблюдать результат при выполнении Действия]
- ОП (ввести пенициллин) → 1*0,9=0,9
- ОП (не вводить пенициллин) → 1*0,3=0,3

Выбор действия с максимальной ожидаемой полезностью.
-ввести пенициллин.

С точки зрения такой формализации, становится понятней, что «снижение числа преступлений» является терминальной ценностью (функцией полезности, которую следует максимизировать, то есть выбирать такие действия из всех возможных, которые с большей вероятностью приведут к снижению), а «нагнетание страха перед наказанием», «ресоциализация преступников» — инструментальными (то есть нужно отслеживать, насколько запуганным (действия, которые приведут к нужном состоянию) наказанием должен быть человек, чтобы вероятность совершения им преступлений была минимальной).

Ссылки

Источник — «https://lesswrong.ru/wiki/index.php?title=Ценности&oldid=3427»