Консеквенциализм

[desmod]

Консеквенциалисты сталкиваются с множеством проблем субъективной оценки общей утилитарной ценности каждым участником и парадоксами коллективного принятия решений.

Здесь можно провести параллель с экономикой.

Классическая экономика предполагает, что участниками сделок являются рациональные агенты, все решения которых принимаются исходя из четкого понимания ценности товаров и услуг. В результате цены на рынке определяются балансом всего двух факторов - спроса и предложения, а каждый рыночный субъект пытается максимизировать прибыль и оптимизировать свой экономический опыт. Именно благодаря этому обстоятельству "невидимая рука рынка" способна осуществлять регулирующую функцию естественным путем, т.е. без какого-либо внешнего вмешательства.

Однако в реальности все люди подвержены разного рода когнитивным искажениям, что влияет на формирование рыночной цены. Дэн Ариели в своей книге "Предсказуемая иррациональность" приводит массу примеров, каким образом можно манипулировать желанием потребителей выложить ту или иную сумму за конкретный товар, т.е. потребители не в состоянии полностью контролировать собственные предпочтения. Более того, как показывают исследования автора, сами рыночные цены оказывают влияние на готовность покупателей платить. В итоге он приходит к выводу:

Если мы согласимся с тем, что рыночные силы не всегда управляют рынком с максимальной эффективностью, то можно присоединиться к тем, кто верит, что правительство (разумное и вдумчивое) должно играть большую роль в регулировании некоторых областей рынка, даже если это ограничит свободу предпринимательства. Да, свободный рынок, основанный на спросе, предложении и отсутствии напряжения между ними, был бы идеальным решением, но только если бы мы сами были поистине рациональными. Но так как мы иррациональные существа, мы должны принимать этот важнейший фактор во внимание.

Аналогично обстоят дела и с консеквенциализмом. Он был бы идеальной этической системой для общества, состоящего из идеальных рационалистов. Но для иррациональных существ необходима внешняя коррекция их поведения, которая бы ограничивала его иррациональность. В случае экономики эту роль играет государственное регулирование, а в случае этики - единая для всех деонтологическая система ценностей.

Ариели приводит описание интересного эксперимента. Когда участникам теста дали возможность обмануть экспериментаторов, чтобы получить обещанную награду, они немедленно этим воспользовались. Но когда им предварительно предложили вспомнить Десять заповедей, то их результаты совпали с результатами контрольной группы, у которой не было возможности обманывать. По мнению самого Ариели: "честность создавалась не за счет самих заповедей, а вследствие столкновения с определенным моральным эталоном".

[Alaric]

Такими фразами довольно легко разбрасываться, но на практике решение дилеммы заключённого в понятиях деонтологии будет тривиальным. Достаточно просто осуждать предательство.

Так не работает же
Всю человеческую историю люди осуждали предательство, однако, регулярно какое-то предательство случалось.
Собственно, главный вопрос: с каких позиций мы будем осуждать предательство? Даже раньше крайне мало кто ограничивался тем, что просто говорил: "предательство - это плохо", все пытались подвести под это какое-то обоснование. Как правило, обоснование оказывалось религиозным, но, как показывает практика в критический момент любые религиозные обоснования куда-то могут вылететь. В конце концов, человек может запросто разочароваться в любой религии.
Консеквенциализм, фактически, подводит под дилемму заключённого обоснование: ты предашь, и тебе со значимой долей вероятности самому от этого будет хуже, причём не в будущей жизни, а вполне в этой.

Да, естественно, человеческий мозг не в состоянии просчитывать все варианты. Да, люди всё равно будут пользоваться эвристиками. Но смысл в том, чтобы люди стремились оптимизировать свои эвристики. Исходя из последствий.

[desmod]

Всю человеческую историю люди осуждали предательство, однако, регулярно какое-то предательство случалось.

В связи с упомянутыми выше экспериментами Ариели делает два вывода:

Первый наш вывод состоял в том, что при определенных обстоятельствах на обман способны даже честные люди. (...) Второй, достаточно неожиданный вывод оказался еще более впечатляющим: участники, подвергавшиеся искушению, думали о возможности быть пойманными значительно меньше, чем можно было бы предположить. Когда студентам представилась возможность (...) полностью спрятать следы своего маленького преступления, – они не перешагнули новый порог нечестности. Степень мошеннических действий осталась на том же уровне. Это означает, что даже когда у нас нет шансов быть пойманными, мы не становимся абсолютно бесчестными.

Иными словами, даже в тех случаях, когда предательство кажется более выгодным, люди не предают поголовно.
Ариели приводит следующие данные: "в недавнем опросе 36 000 учащихся средних школ в Соединенных Штатах 98 процентов из них заявили, что для них важно быть честным человеком". Да, моральный эталон не является стопроцентной гарантией от предательства. Но методы со стопроцентной гарантией до сих пор неизвестны. Подобно демократии, которая по известному выражению "наихудшая форма правления, если не считать всех остальных", деонтологическая система ценностей при всех своих недостатках на протяжении всей человеческой истории демонстрировала более высокую эффективность, чем прочие методы.

[iren_doroshenko]

 У меня есть непреодолимое желание поделиться найденным знанием, и есть группа, которой это определенно нужно. Группа мамская, охарактеризую ее словами парамедика, это стеб, который сказал, что у него нет шансов в донесении до них правильной медицинской информации, ведь "мамки- это агрессивные професионалы". Проблема основная, так много читать на тему этики, мало кто будет. А нужно, ведь поп статейки на эту тему, в большинстве своем шлак. Итак, где искать более простое изложение информации? Если его нет, могу ли я(законодательно и нормативно) урезать хорошие статьи, или пересказывать? Если да, то где искать цензора на мои выдержки и пересказы?

[fil0sof]

Если выдержки и пересказы будут в письменном виде, т.е. вы свои статьи будете писать своими словами, можете скидывать их сюда, глянем

[iren_doroshenko]

Fil0sof, т. е., более простого, не формального изложения нет? Я боюсь ввести в заблуждение 1700 активных пользователей.

[fil0sof]

Не знаю, что именно вы подразумеваете под более простым и неформальным, поэтому сходу не скажу

[iren_doroshenko]

Подразумеваю изложение теории консеквенциализма в виде "мейнстиримовых" заний, например, если бы обьясние было напечатано в американском vogue, как бы оно выглядело. Может 'сноб' что такое печатал, или кто еще, но не в стиле 'fur-fur' с заявлением, что от чтения Юдковски тошнит?

Добавлено 26 Января 2017, 09:52:

Вот Юдковский считает, что консеквенциализм - это хорошо, и в своих цепочках описывает подробно, почему он так считает. И для многих это оказывается убедительно. Если бы у вас была сила взять и стереть эти цепочки со всех серверов и сделать так, чтобы они не появились заново, воспользовались ли бы вы ею?

Названиями статей можно поинтересоваться. Я к консеквенциализму без указаного автора пришла. Теперь есть стойкое ощещение, что в порывы "делиться знаниями" буду изобретать велосипед.

Решает ли данная теория задачи противоположного порядка? Почему качество своей человечности выявляют только на примере, кого я убью следующим? Задачи с кошками и зубами не очень для меня показательна, ровно как и с лэптопами Юдковски. Хочу условия полные драматизма, но без убийств. Подскажите!

[Pony]

iren_doroshenko, я Вам, как говорится, не скажу за всю Одессу, могу только личным опытом поделиться. ))) Попробуйте просто потусоваться на этом форуме еще месяц-другой, а потом вернитесь к вопросу еще раз. В моем случае пара месяцев  привела к неожиданному эффекту: у меня отсохло желание "нести херню в массы" (с) Дивов) (зачеркнуто) просвещать окружающих без прямого запроса, и вообще интересоваться тем, кто в интернете не прав. Вот Вы характеризуете некое сообщество как "агрессивных профессионалов". То есть, по всей видимости, как группу единомышленников, которые уверены, что "всё лучше знают" и запросто сами научат правде жизни всех, кто не успел вовремя убежать. От них скорее всего не поступало запроса на тему "а расскажите нам", "а просветите нас". И зачем тогда это делать? Чтобы что? Кому надо - тот спросит. Или найдет интересующую информацию. А кому не надо - тот в ответ на попытку просвещения устроит народную интернет-забаву "погнали наши городских". Любое просвещение без запроса в 99% случаев воспринимается как агрессия: я тут такой умный, так что стой там и слушай сюда, ща мудростью оделю со свово плеча. Даже в том случае, если просветитель ничего подобного в виду не имел. Так что, в конечном итоге КПД получается настолько низким, что это становится абсолютно нерациональной тратой ресурсов.

Alaric, что касается морали... А совсем не всегда для нее нужно какое-то обоснование. И в массе случаев люди будут соглашаться, что А - это плохо, а на вопрос "почему именно?" будут отвечать "потому что плохо, это же очевидно". И еще будут злиться, если к ним приставать и выяснять, где же всё-таки живет зверёк обоснуй. То есть, для убеждений (очень прочных, в массе случаев - фиг сломаешь, даже если захочешь) по большому счету достаточно условного тормоза. В сущности, команды "фу". Условный тормоз прикручивается к человеку ничуть не хуже, чем к собаке. Особенно к маленькому человечку модели "ребенок". Не говоря уж о том, что модель поведения, предложенная организму в какой-то новой для него ситуации, усваивается бессознательно и некритически. И вытрясти из головы эти установки сплошь и рядом без посторонней помощи невозможно, даже если захочется. И ладно б там только мораль лежала. А там же вагон мусора с тем же успехом может храниться, под условным тормозом-то. Мусора, от которого никому не лучше, но который врос в личность намертво, и выдирается только с мясом. Ну, вроде того, что "секс - это грязно" или "все богатые - воры". Первое не добавляет конструктива в личную жизнь, второе - не дает человеку зарабатывать деньги. Такого мусора - дофига, никаких обоснований у него обычно нет, да и не нужны они. Ну и мораль запросто может работать на том же движке.

[Alaric]

Pony
Я, кажется, не очень понимаю, на что именно вы мне отвечаете. И я не понимаю, к чему вы это написали. Да, я согласен, так бывает. И да, при общении с людьми это надо учитывать, что такое возможно. Если бы у людей не было таких штук в поведении, то никакой LessWrong был бы не нужен, и, возможно, консеквенциализм был бы всем вообще очевиден

[iren_doroshenko]

Pony, кпд может и низкий, но моему ж мелкому среди этих не просвещенных потом жить. Буквально месяц тому согласилась бы с вашим мненинием, но теперь, когда у меня есть документальное подтверждение, что мысли мои не из ряда вон, и не одна я такая пришибленная/умная, то просто молчать считаю преступным. На себе знаю, просвещение без запроса работает, не так приятно как по запросу, но работает.  Выдуманый пример для наглядности. Идешь та ночью по мостовой, темно холодно, домой пора. Замечаешь на противоположной стороне силует у перил. Почти поравнялся с силуэтом уже, и начинаешь оценивать, перейти тебе дорогу в не предназначенном месте, или нет. Перехода нет, темно, стремно, черт знает что за чувак с той стороны, может ему просто прикольно на перилах сидеть. И всплывает решающее утверждение,  консультация по запросу. Ну раз никто не просит, и вобще не пойми что с противополжной стороны, пойду дальше.
Месяц то я посижу на форуму, вдруг ссылки с простым изложением темы найдуться.

Добавлено 31 Января 2017, 09:17:
Кстати, задачу для темы нашла, реальная из суровой жизни.
Дано скалолазы, мечтающие покорить Эверест, и группа журналистов, мечтающая снять класный репортаж об этом месте. Известно подъем стоит немалых денег, тыщ 50$, а может и больше. Ситуация. Идут журналисты на гору, снимают прикольную картинку. Замечают скалолаза, тот ушибся маленько, лежит идти не может. Журналисты поснимали его, и продолжили восхождение.    История известная, финал писать не буду, вдруг вам задача таки не известна и попытаетесь самостоятельно разрешить ситуацию. А если известна, растолкуйте мне произошедшее с помощью консеквенциализма.

[iren_doroshenko]

В попытках понять что и как натолкнулась на Пола Клейнмана. Кто он, и с чем его есть? В своей книге "Философия, краткий курс" он изрядно критикует рассматриваемую тему. Книга легко гуглится, автор напротив.

[Pony]

Alaric, я про это:

Даже раньше крайне мало кто ограничивался тем, что просто говорил: "предательство - это плохо", все пытались подвести под это какое-то обоснование.

Собственно, я про это. Обоснование - совершенно необязательная штука, да и когда их все-таки привлекали, то особого разнообразия как-то не наблюдалось. В большинстве случаев обоснование сводилось к универсальной формуле "а в глаз?!" Либо от меня лично, либо от нас с группой товарищей, либо от Высших Сил. Причем на вопрос "а почему, собсна?" вместо объяснений обычно прилетало таки в глаз. ))) Право думать, анализировать и искать обоснования никогда (до самого последнего времени) не считалось не то что достоинством, а вообще правом индивида. Право думать еще надо было заслужить, предварительно доказав свою лояльность и готовность думать вдоль линии партии (допустимое отклонение - плюс-минус 2 градуса). Не, ну а что? Воспрещалось же христианам читать библию? Воспрещалось. И регулярно притом. Потому что не надо чего-то там читать, толковать, обдумывать - от этого ереси заводятся. Вот штатные товарищи проповедники сами все прочитают, а до остальных донесут в части, их касающейся. И нечего тут.
И второй вопрос: насколько вообще можно относить такую условнорефлекторную реакцию к категории морали, нравственности, этики или чего-нибудь еще? Когда на предъявление ключевого стимула - бац и рефлекс. Причем с человеком даже говорить, как правило, становится невозможно. Только что нормально общались, словами через рот - и всё. Сработал условный тормоз, запустил генерализованное торможение коры больших полушарий, прибил любую активность, кроме безусловной, и говори там, не говори...
iren_doroshenko, Вы про Дэвида Шарпа, я права? Ну так группа канала "Дискавери" не одна мимо прошла. Там человек сорок мимо прошло. И случай вообще-то не единичный. Фишка в том, что, как правило, помочь невозможно. Что касается журналистов, они помочь не могли точно, потому что сами чайники и балласт в своей группе. Инструктор?.. А он рискует тогда потерять свою группу. С Шарпом говорили, его пытались поднять, делились кислородом - но сделать-то больше ничего не могли. Как его спустить вниз? Он не встает, не может идти. А отнести нереально. Физически нереально поднять человека и понести на такой высоте. Его не утащить. И фишка в том, что выше 7500 даже короткими перебежками, с отдыхом не получится. Потому что на этой высоте организм уже не восстанавливается даже при отдыхе, а только продолжает терять силы. Сильная, слаженная профессиональная группа, без балласта в виде чайников может быть, при везении, смогла бы сволочь Шарпа вниз. Ну вот как Холла сволокли. Но это скорее исключение, чем правило.
Или там кислорода не хватило. Ты можешь отдать свой кислород - но тогда не спустишься ты. Хорошо, если пройдет мимо кто-то, у кого остался запас или достаточная физическая форма, чтобы последние 200-300 метров спуститься без кислорода. А если не пройдет - то только сменять одну жизнь на другую. Но к журналистам в любом случае претензии странны: они не могли сделать ничего, только сесть рядом и помереть за компанию.
Что касается консеквенциализма, то по-моему с этой точки зрения здравый выход один: запретить нафиг подъемы на Эверест, по меньшей мере - коммерческие. Хочешь - вперед, сдавай разрядные нормативы на МСМК и лезь себе, если не передумаешь к тому времени.

[iren_doroshenko]

Pony, да об этом случае, действительно слишком обобщила ситуацию.
Это не просто еденичный случай, а известная практика. 282 погибших, практически все остаются там на склонах и служат ориентирами. Непальские проводники говорят, что многие туристы не хотят помогать, ведь тогда их шанс на восхождение утрачен. Согласна,  комерческое восхождение не имеет место быть, на что мне парировали,- на какие шиши местные проводники будут жить.  Но до 60годов как то жили. Не думаю, что им самимим так охотно туда лезть, 114 погибших соотечествеников на такой не густо населенной теретории не просто цифра.

[a_konst]

Право думать, анализировать и искать обоснования никогда (до самого последнего времени) не считалось не то что достоинством, а вообще правом индивида. Право думать еще надо было заслужить, предварительно доказав свою лояльность и готовность думать вдоль линии партии (допустимое отклонение - плюс-минус 2 градуса).

По-моему, право думать (точнее, высказывать свои мысли вслух) нужно было заслужить, но не доказательством лояльности, а демонстрацией своей силы, независимости, и вообще права высказывать что-то вслух, отличающееся от той самой "линии партии".