Карма/Golden Rule с точки зрения рационалистов

Автор Тема: Карма/Golden Rule с точки зрения рационалистов  (Прочитано 16333 раз)

kuuff

  • Старожил
  • *****
  • Сообщений: 2 133
  • +220/-52
    • Просмотр профиля
Разумеется, не могут - она внутренне противоречива. Не забывайте, что оценка поступка это тоже поступок. Например, в случае, если у нас имеется поступок с негативными результами, но его позитивная оценка приведёт к позитивным результатам, должен ли консеквенциалист последовательно стать мета-консеквенциалистом, отказавшись от идеалогии консеквенциализма или же строго придерживаться формальной стороны вопроса, принимая мета-этику морального абсолютизма? Оценки совершенно нейтральны в той же мере, что и поступки. Положительно могут оцениваться любые поступки. Несложно увидеть, что для поступков с очевидно негативными ожидаемыми результами подобная фраза исключений не делает. :D
Я думаю, что позиция консеквенциализма не внутренне противоречива, но просто имеет ограниченную область применимости, поскольку описывает только часть явления. Если фиксировать функцию полезности, то консеквенциализм вполне себе непротиворечив. Другое дело, что он не подходит на роль финального арбитра при принятии решений реальным человеком в реальных условиях.

Kroid

  • Ветеран
  • ****
  • Сообщений: 779
  • +62/-7
    • Просмотр профиля
Наиболее эффективен тот, кто достигает цель непосредственно, а не тот, кто пытается достичь её как побочную чрез достижение другой.
С чего вы это взяли?

Наиболее эффективным в создании имиджа хорошего человека будет поставивший целью создать имидж хорошего человека непосредственно, а не  поставивший целью быть хорошим человеком и за счёт этого достичь такого имиджа.
Быть и казаться - разные понятия, и одно не есть часть второго. А если вы не это имеете ввиду, так и до абсурда довести можно:

"Наиболее эффективным в создании имиджа хорошего человека будет поставивший целью создать имидж хорошего человека непосредственно, а не  поставивший целью съесть много сладкого и за счёт этого достичь такого имиджа."

outcasty

  • Пользователь
  • **
  • Сообщений: 26
  • +0/-0
    • Просмотр профиля
Наиболее эффективен тот, кто достигает цель непосредственно, а не тот, кто пытается достичь её как побочную чрез достижение другой.
С чего вы это взяли?
Тому, кто достигает цель непосредственно доступны все пути, а достигающему как побочную через достижение другой - только те, при которых выполняются обе цели, притом на цель, по кoторой сравнивают, он тратит меньше усилий.
Неужели надо приводить избитый пример?
Цитировать

    Линде 31 год, она не замужем, за словом в карман не лезет и очень сообразительная. Она училась на факультете философии. Студенткой много размышляла о дискриминации и социальной несправедливости, участвовала в демонстрациях против распространения ядерного оружия.

    Вопрос: что более вероятно?

        Линда – кассир в банке.
        Линда – кассир в банке и активная феминистка.

Наиболее эффективным в создании имиджа хорошего человека будет поставивший целью создать имидж хорошего человека непосредственно, а не  поставивший целью быть хорошим человеком и за счёт этого достичь такого имиджа.
Быть и казаться - разные понятия,
О том и толкую
и одно не есть часть второго.
Некоторые действия для достижения могут совпадать.
А если вы не это имеете ввиду, так и до абсурда довести можно:

"Наиболее эффективным в создании имиджа хорошего человека будет поставивший целью создать имидж хорошего человека непосредственно, а не  поставивший целью съесть много сладкого и за счёт этого достичь такого имиджа."
1. Чем абсурдна эта фраза? Разве она не верна?
2. Точной аналогией была бы:
"Наиболее эффективным в создании имиджа сладкоежки будет поставивший целью создать имидж сладкоежки непосредственно, а не поставивший целью съесть много сладкого и за счёт этого достичь такого имиджа."

Kroid

  • Ветеран
  • ****
  • Сообщений: 779
  • +62/-7
    • Просмотр профиля
Тому, кто достигает цель непосредственно доступны все пути, а достигающему как побочную через достижение другой - только те, при которых выполняются обе цели, притом на цель, по кoторой сравнивают, он тратит меньше усилий.
Именно. Каждым своим действием он достигает нескольких целей разом, разве это не показатель эффективности?

Неужели надо приводить избитый пример?
Неужели надо акцентировать внимание на том, что вероятно и эффективно - разные понятия?

2. Точной аналогией была бы:
"Наиболее эффективным в создании имиджа сладкоежки будет поставивший целью создать имидж сладкоежки непосредственно, а не поставивший целью съесть много сладкого и за счёт этого достичь такого имиджа."
И теперь эта фраза стала неинтересной. Вы убили то, на чем я акцентировал внимание :)


И кстати, вы не заметили, что в этих двух фразах смысл немного разный?
Цитировать
Наиболее эффективен тот, кто достигает цель непосредственно, а не тот, кто пытается достичь её как побочную чрез достижение другой.
Цитировать
Наиболее эффективным в создании имиджа хорошего человека [..]

Scondo

  • Ветеран
  • ****
  • Сообщений: 321
  • +35/-4
    • Просмотр профиля
Тому, кто достигает цель непосредственно доступны все пути, а достигающему как побочную через достижение другой - только те, при которых выполняются обе цели, притом на цель, по кoторой сравнивают, он тратит меньше усилий.
Ну, тут вопрос что понимать под "непосредственно".

Вот я хочу купить квартиру. Для этого мне нужно иметь десять миллионов рублей наличными.
"Непосредственным" точно будет откладывание части зарплаты в ящик шкафа. Насколько "непосредственным" будет накопление на банковском счету? Да, в конце я получу те же десять миллионов(причём даже быстрее), но большую часть времени я буду сосредоточен не на будущих пачках денег, а на цифрах выписки.

Skywrath

  • Ветеран
  • ****
  • Сообщений: 723
  • +71/-9
    • Просмотр профиля
Цитата: outcasty
Мой скудный разум не в силах это понять. Выразитесь попроще, пожалуйста.
Фундаментальная мысль консеквенциализма состоит в том, что бы оперировать результами, а не формальными критериями. Последовательный консеквенциалист не станет оценивать поступок по его результам, так как подобное разделение прямо опирается на формализм. Вместо этого, он будет давать такую оценку поступка, которая приведёт к лучшим последствиям. Грубо говоря, если вы применяете правило, разделяющее поступки на хорошие и плохие, то вы всё ещё мыслите форматом деонтологии, даже если подобное правило и сопоставляет поступки не с десятью заповедями, но с утилитарной функцией. Последовательный консеквенциалист не опирается на то, как необходимо оценивать поступок с точки зрения, каких бы то ни было, правил. Вместо этого, он обязан постоянно спрашивать себя чего он добьётся той или иной оценкой. Интуитивно, должно быть понятно, что подобная линия поведения последовательного консеквенциалиста - непоследовательна. Самое банальное объяснение такому парадоксу в том, что последовательная этика работает с универсальными идеалами, то есть обращёнными в вечность, но консеквенциализм вынужден отталкивается от результов, которые существуют в пределах от настоящего до будущего. Поэтому, он не может быть последовательным в том смысле, в котором бывает последовательной деонтология. На самом базовом уровне, следовать значит обращать своё внимание в прошлое и это сложно сделать, когда ты оперируешь этической системой, которая всегда заглядывает в будущее. Это не означает, что консеквенциализм нельзя формализовать без внутренних противоречий тем или иным образом. Скорее то, что последовательный консеквенциалист, как только та или иная формализация перестанет приносить пользу и достигать результатов, ожидаемо от неё откажется. Конечно, я несколько упрощаю, но смысл в том, что консеквенциализм опирается не на честное следование, механическое исполнение и прочие выбитые в граните принципы.

outcasty

  • Пользователь
  • **
  • Сообщений: 26
  • +0/-0
    • Просмотр профиля
Диалог с Kroid'ом - вот что бывает, когда недостаточно точно формулируешь.
Наиболее эффективен тот, кто достигает цель непосредственно, а не тот, кто пытается достичь её как побочную чрез достижение другой.
Наиболее эффективным в создании имиджа хорошего человека будет поставивший целью создать имидж хорошего человека непосредственно, а не  поставивший целью быть хорошим человеком и за счёт этого достичь такого имиджа.
В первом случае не было выделенного критерия эффективности*, как во втором, при этом первый случай более общий. В нём подразумевалось то же самое, но формально не было прописано, и Kroid это заметил, но пока он не написал явно
И кстати, вы не заметили, что в этих двух фразах смысл немного разный?
у меня это заметить не получалось из-за иллюзии прозрачности.

*а без него встают вопросы как его высчитывать, по какой/каким целям, считать ли количество целей, проценты от их достижения, вводить ли весовые коэффициенты etc.


Поэтому я переформулирую:
Если оценивать достижение цели как пересечение некоей планки набранных очков

Если оценивать эффективность действий множества А с точки достижения цели Х, из случаев
1. Субъект достигает цель Х, все действия предпринятые им в рамках этого зачисляются в множество А.
2. Субъект достигает цель V, и продолжает действия по набиванию на ней очков, пока не достигнется цель Х, все действия, предпринятые им рамках этого (т.е. не только те, которые были реально полезны для Х) зачисляются в множество А.
То если рассматривать с точки зрения достижения цели Х, в сильно доминирующей по наибольшей эффективности стратегии будет выполняться множество А типа 1, если сильно доминирующая стратегия существует. В ином случае будет существовать слабо доминирующая стратегия, где будет выполняться множество А типа 1.

При переформулировании в высказывание о вероятности:
Если рассматривать с точки зрения достижения цели Х, при равных стартовых условиях для всех стратегий (в т.ч. ресурсах), в сильно доминирующей стратегии по наибольшей вероятности стратегии будет выполняться множество А типа 1, если сильно доминирующая стратегия существует. В ином случае будет существовать слабо доминирующая стратегия, где будет выполняться множество А типа 1.

Более точная формулировка, надеюсь, снимает и вопрос Scondo о непосредственности.

2. Точной аналогией была бы:
"Наиболее эффективным в создании имиджа сладкоежки будет поставивший целью создать имидж сладкоежки непосредственно, а не поставивший целью съесть много сладкого и за счёт этого достичь такого имиджа."
И теперь эта фраза стала неинтересной. Вы убили то, на чем я акцентировал внимание :)
Выскажу своё понимание того, на чём вы акцентировали внимание: поедание сладкого никак не связано с достижением имиджа хорошего человека.
Вот похожие примеры из то же серии:
1. Наиболее эффективным в создании имиджа сладкоежки будет поставивший целью создать имидж сладкоежки непосредственно, а не поставивший целью выиграть в лотерею и за счёт этого достичь такого имиджа.
2. Наиболее эффективным в создании имиджа сладкоежки будет поставивший целью создать имидж сладкоежки непосредственно, а не поставивший целью построить дом и за счёт этого достичь такого имиджа.
3. Наиболее эффективным в создании имиджа строителя будет поставивший целью создать имидж строителя непосредственно, а не поставивший целью съесть много сладкого и за счёт этого достичь такого имиджа.
4. Наиболее эффективным в повышении благополучия общества будет поставивший целью повысить благополучие общества непосредственно, а не поставивший целью неуклонно следовать принципам и идеалам либеральной демократии и за счёт этого достичь благополучия общества.
Они все построены по одной схеме, логически совершенно эквиваленты. Чем отличаются 1-3 от 4? Именно тем, на чём, как я понимаю, вы хотели акцентировать внимание.
Многие люди, во-первых, путают высказывания
      ∀s(s∊L→s∊P)
      ∃s(s∊L→s∊P)
      ∀s(s∊L←s∊P)
      ∃s(s∊L←s∊P)
      ∀s(s∊L↔s∊P)
      ∃s(s∊L↔s∊P)
где s – общество, L – множество всех обществ, следующих принципам и идеалам либеральной демократии, P – множество всех обществ, где повышается благополучие
Во-вторых, используют эвристику типичности.
В-третьих, имеют сильную эмоциональную заинтересованность.

Ответ Skywrath'a #50 пока обдумываю.

outcasty(2nd acc)

  • Новичок
  • *
  • Сообщений: 11
  • +2/-0
    • Просмотр профиля
Фундаментальная мысль консеквенциализма состоит в том, что бы оперировать результами, а не формальными критериями.
Фундаментальная мысль консеквенциализма состоит в том, что оценивать поступки следует по их результатам, а не чему-то иному (например, списку правил, как в деонтологии или личности совершившего, как в этике добродетели*). Оценка по результатам, тем не менее, вполне может быть формализована. Функция полезности - это и есть как раз такая формализация.

*Запрашиваю помощь по этике добродетели, потому как понимаю её только в общих чертах.

Последовательный консеквенциалист не станет оценивать поступок по его результам, так как подобное разделение прямо опирается на формализм.
Это ваше положение прямо вытекает из первого. Почему первое с моей т.з. неверно, указано выше. Опять же странно было бы рассуждать о подходящести консеквенциализма для ИИ, если бы консеквенциализм нельзя было формализовать.

Вместо этого, он будет давать такую оценку поступка, которая приведёт к лучшим последствиям. Грубо говоря, если вы применяете правило, разделяющее поступки на хорошие и плохие, то вы всё ещё мыслите форматом деонтологии, даже если подобное правило и сопоставляет поступки не с десятью заповедями, но с утилитарной функцией.
1. Любой алгоритм оценки может быть представлен в виде формальной системы
2. Задача любой этики как таковой - разделять поступки как минимум на хорошие и плохие (а можно ещё на более хорошие и менее хорошие непрерывно и т.п.)
Последовательный консеквенциалист не опирается на то, как необходимо оценивать поступок с точки зрения, каких бы то ни было, правил. Вместо этого, он обязан постоянно спрашивать себя чего он добьётся той или иной оценкой. Интуитивно, должно быть понятно, что подобная линия поведения последовательного консеквенциалиста - непоследовательна.
Какая картина сейчас у меня сложилась:
Есть деонтологист - он руководствуется постоянными правилами поведения вида:
"Следует одеваться только в зелёную одежду"
"Следует заключать брак только с верующими своей религии"
"Следует каждую пятницу сжигать кусок мяса"
 Есть консеквенциалист классический он же непоследовательный консеквенцалист Skywrath'a
Он не руководствуется постоянными взятыми откуда-то правилами. Вместо этого, он оценивает состояние возможных миров по своей функции полезности и генерирует инструментальные ценности, цели и правила.
В идеальном случае он полностью рассчитывает всё каждый раз.
Для экономии времени и вычислительной мощности, консеквенциалист может аппроксимировать функции оценки часто встречающихся или редко меняющихся ситуаций и сохранить их или даже какие-то полученные результаты, став, таким образом, Rule-консеквенцалистом (их подвиды можно различать по настройкам аппроксимации и кеширования).
В предложенном sergeyr'ом вырожденном случае консеквенциалист один раз генерирует правила, а потом только исполняет их как деонтологист.
Есть последовательный консеквенциалист Skywrath'aОн имеет некую функцию полезности 2-го уровня, и по ней генерирует функцию полезности 1-го уровня, далее какое-то время ведя себя как предыдущий тип (в вырожденном случае постоянно).

Теперь в чём моё несогласие:
Преполагается, что последовательный консеквенциалист Skywrath'a умеет делать нечто, что не умеет делать классический - иметь второй уровень ФП и генерировать ФП первого уровня. Но при этом не учитывается, что ценности бывают терминальными и инструментальными. Инструментальные ценности классический консеквенциалист выводить умеет, более того Rule-консеквенцалист может наплодить аппроксимаций для каждого рода деятельности, внутри них - для каждой области и т.д., причём число уровней не ограничено. Поэтому в наличии отдельного выделения дополнительного класса "последовательный консеквенциалист Skywrath'a" нет никакой нужды.
Кроме этого, Skywrath, на мой взгляд, совершил ошибку, начиная считать с нижнего уровня ценностей, а не с верхнего. Вопрос о ценности результатов (в т.ч. и инструментальных ценностей) определяется по каким-то критериям. И с самого начала должны быть какие-то критерии - терминальные ценности.
И здесь мы приходим вот к чему:
Последовательный консеквенциалист не опирается на то, как необходимо оценивать поступок с точки зрения, каких бы то ни было, правил. Вместо этого, он обязан постоянно спрашивать себя чего он добьётся той или иной оценкой.
Если понимать правила в узком смысле, то см. выше про генерацию инструментальных ценностей, если же понимать в широком, то вопрос "чего он добьётся той или иной оценкой" бессмысленен в отсутствии критериев, по которым будет оцениваться "чего он добьётся той или иной оценкой".
Интуитивно, должно быть понятно, что подобная линия поведения последовательного консеквенциалиста - непоследовательна. Самое банальное объяснение такому парадоксу в том, что последовательная этика работает с универсальными идеалами, то есть обращёнными в вечность, но консеквенциализм вынужден отталкивается от результов, которые существуют в пределах от настоящего до будущего. Поэтому, он не может быть последовательным в том смысле, в котором бывает последовательной деонтология.
Деонтология вообще никуда не направлена. Это просто список правил. Идеальный деонтологист - это примитивный бот, не обладающий ни самосознанием, ни сознанием вообще. В него вшит (чем глубже, тем лучше, т.е. в идеале на уровне физических законов) некий неизменный предельно формальный список правил, и он исполняет его, совершенно не интересуясь состоянием окружающего мира и не задумываясь (т.к. это ему не нужно, соответственно частей для таких бесполезных занятий у него не будет).
Последовательность деонтологии может быть только в непротиворечивости конкретных реализаций. А её можно достичь только предельно чётко и формально задав каждое правило, что возможно только у бота. Никакой связи между правилами может не быть, т.к. они сами по себе терминальные, а не созданные для какой-то цели, как у консеквенциалиста.
И насчёт "универсальных идеалов" - если понимать их как терминальные ценности, то они есть и у деонтологиста (набор правил), и у консеквенциалиста (функция полезности). Есть же понимать их как некий объективный нравственный закон, то они существовать не могут, т.к. ценности по самой своей природе субъективны.
На самом базовом уровне, следовать значит обращать своё внимание в прошлое и это сложно сделать, когда ты оперируешь этической системой, которая всегда заглядывает в будущее.

Это не означает, что консеквенциализм нельзя формализовать без внутренних противоречий тем или иным образом. Скорее то, что последовательный консеквенциалист, как только та или иная формализация перестанет приносить пользу и достигать результатов, ожидаемо от неё откажется.
Вот есть ИИ-консеквенциалист. Он может придумать сколько угодно инструментальных ценностей, но как он может отказаться от своей терминальной ФП? Относительно чего он будет оценивать вообще свои терминальные ценности, когда они терминальные (=введённые аксиоматически)?
При этом человеку может быть свойственно желание перепрограммировать свои потребности (статья на тему) из-за несогласованности модулей.
Конечно, я несколько упрощаю, но смысл в том, что консеквенциализм опирается не на честное следование, механическое исполнение и прочие выбитые в граните принципы.
Консеквенциалист не может быть настолько примитивным, как идеальный деонтологист, если вы об этом, т.к. ему надо оценивать состояние реальности и сравнивать результаты.
Но если рассматривать субъектов как автоматы, то любого консеквенциалиста можно разложить на деонтологические блоки, вплоть до элементарных частиц/квантов/etc. Собственно сам механизм, обеспечивающий выполнение физических законов вселенной (ничего, что я так поэтически выражаюсь?), можно представить в виде абсолютного, или даже мультиверсного, деонтологиста.


Scondo

  • Ветеран
  • ****
  • Сообщений: 321
  • +35/-4
    • Просмотр профиля
Если оценивать эффективность действий множества А с точки достижения цели Х, из случаев
1. Субъект достигает цель Х, все действия предпринятые им в рамках этого зачисляются в множество А.
2. Субъект достигает цель V, и продолжает действия по набиванию на ней очков, пока не достигнется цель Х, все действия, предпринятые им рамках этого (т.е. не только те, которые были реально полезны для Х) зачисляются в множество А.
То если рассматривать с точки зрения достижения цели Х, в сильно доминирующей по наибольшей эффективности стратегии будет выполняться множество А типа 1, если сильно доминирующая стратегия существует. В ином случае будет существовать слабо доминирующая стратегия, где будет выполняться множество А типа 1.
С другой стороны, если обе цели X и V являются целью сами по себе (никто из них не является исключительно промежуточной, хотя и может быть в том числе промежуточной), то второй класс решений может быть более эффективен чем сумма решений первого класса для  X и V.


Идеальный деонтологист - это примитивный бот, не обладающий ни самосознанием, ни сознанием вообще. В него вшит (чем глубже, тем лучше, т.е. в идеале на уровне физических законов) некий неизменный предельно формальный список правил, и он исполняет его, совершенно не интересуясь состоянием окружающего мира и не задумываясь (т.к. это ему не нужно, соответственно частей для таких бесполезных занятий у него не будет).
Вообще-то нет: правила деонтологиста вполне могут опираться на состояние окружающего мира как в виде субъектов, так и в целом.
Expemli gratia Женевские конвенции составляют из себя строгий свод правил, но эти правила включают в себя существенную вариативность в зависимости от общего состояния (действует только в конкретных случаях: война, оккупация и т.д.) и от статуса субъекта (солдат/военнопленный/раненый/гражданский...).

С практической стороны я не вижу разницы между деонтологистом и Rule-консеквинциалистом с бесконечным временем кеширования и бесконечным доверием к кешу.

Последовательный консеквенциалист не опирается на то, как необходимо оценивать поступок с точки зрения, каких бы то ни было, правил. Вместо этого, он обязан постоянно спрашивать себя чего он добьётся той или иной оценкой. Интуитивно, должно быть понятно, что подобная линия поведения последовательного консеквенциалиста - непоследовательна.
Пока похоже, что любая этическая система может быть описана как формальная система, где "поступок" соответствует формуле, а "этичность" соответствует истинности.Тогда деонтологические системы будут тривиальными системами из аксиом (википедия говорит, что это называется "полуформальная аксиоматическая теория").
В идеале, конечно, хотелось бы видеть консеквенционализм, как теорию естественного вывода (теорию без аксиом), но судя по тому, что мне известно о теореме Гёделя даже в виде системы с ограниченным количеством аксиом консеквенционализм останется неполным. То есть останутся поступки для которых нельзя будет вывести их этичность или неэтичность.