Ценности — различия между версиями
Kirdan (обсуждение | вклад) м (Ссылки) |
Alaric (обсуждение | вклад) м (→Ссылки: Интервики) |
||
| Строка 32: | Строка 32: | ||
== Ссылки == | == Ссылки == | ||
| − | * Элиезер Юдковский, [ | + | * Элиезер Юдковский, [[lwru:Ценности терминальные и инструментальные|Ценности терминальные и инструментальные]] |
| − | * Элиезер Юдковский, [ | + | * Элиезер Юдковский, [[lwru:Не ради одного лишь счастья|Не ради одного лишь счастья]] |
| − | * Элиезер Юдковский, [ | + | * Элиезер Юдковский, [[lwru:Исполнители адаптаций а не максимизаторы приспособленности|Исполнители адаптаций, а не максимизаторы приспособленности]] |
| − | * Элиезер Юдковский, [ | + | * Элиезер Юдковский, [[lwru:Потерянные цели|Потерянные цели]] |
* Eliezer Yudkowsky, [http://lesswrong.com/lw/mz/zut_allais/ Zut Allais!] | * Eliezer Yudkowsky, [http://lesswrong.com/lw/mz/zut_allais/ Zut Allais!] | ||
* Лукас Глор, [https://reducingsuffering.github.io/lukas-gloor-means-and-ends.html Цели и средства] | * Лукас Глор, [https://reducingsuffering.github.io/lukas-gloor-means-and-ends.html Цели и средства] | ||
Текущая версия на 12:49, 4 мая 2024
 |
Эта страница является черновым документом. Здесь есть ещё много простора для того, чтобы её улучшить.
Поскольку эту страницу последний раз редактировали больше года назад, похоже что это заброшенный черновик. Если вы знаете, как её улучшить, попробуйте так и сделать. Или, быть может, эту страницу стоит удалить? |
Составляющая этической системы, которая формирует конкретные цели в жизни каждого человека. В ЛВ-сообщесте часто можно услышать, что существуют т. н. «терминальные» ценности, которые являются основой и главной мотивации внутренней жизни. Они отличаются от всех прочих тем, что являются ценностями без всякого основания в других ценностях. Например, для многих людей терминальной ценностью является собственный комфорт. А для других терминальной ценностью может быть разнообразие информации в мире, и так далее.
Результаты (список возможных результатов) - [сестра жива; сестра мертва] Действия (список возможных действий) - [ввести пенициллин; не вводить пенициллин] Функция полезности (она связывает каждый результат с полезностью, выражаемой с помощью числа от отрицательной бесконечности до положительной) - (сестра жива→ 1) - (сестра мертва→ 0) Функция условной вероятности (которая связывает действия и результаты посредством распределения вероятностей). Вероятность представлена числом от 1 до 0. -ввести пенициллин→сестра жива (0,9) -ввести пенициллин→сестра мертва (0,1) -не вводить пенициллин→сестра жива (0,3) -не вводить пенициллин→сестра мертва (0,7) Ожидаемая полезность действия. Полезность Результата * Вероятность наблюдать результат при выполнении Действия] - ОП (ввести пенициллин) → 1*0,9=0,9 - ОП (не вводить пенициллин) → 1*0,3=0,3 Выбор действия с максимальной ожидаемой полезностью. -ввести пенициллин.
С точки зрения такой формализации, становится понятней, что «снижение числа преступлений» является терминальной ценностью (функцией полезности, которую следует максимизировать, то есть выбирать такие действия из всех возможных, которые с большей вероятностью приведут к снижению), а «нагнетание страха перед наказанием», «ресоциализация преступников» — инструментальными (то есть нужно отслеживать, насколько запуганным (действия, которые приведут к нужном состоянию) наказанием должен быть человек, чтобы вероятность совершения им преступлений была минимальной).
Ссылки[править]
- Элиезер Юдковский, Ценности терминальные и инструментальные
- Элиезер Юдковский, Не ради одного лишь счастья
- Элиезер Юдковский, Исполнители адаптаций, а не максимизаторы приспособленности
- Элиезер Юдковский, Потерянные цели
- Eliezer Yudkowsky, Zut Allais!
- Лукас Глор, Цели и средства
