Главное > Общение
Консеквенциализм
Alaric:
Ved
--- Цитата: Ved от 06 Июня 2016, 12:12 ---Люди, с подобным нарушением, дают положительный ответ на классический тест на психопатию: столкнете ли вы на рельсы стоящего рядом с вами случайного прохожего, если таким образом можно будет остановить едущий поезд и спасти несколько человек стоящих/привязанных на путях, если вам за это ничего не будет. И так далее.
--- Конец цитаты ---
Вы уверены, что "проблема вагонетки" - это действительно "классический тест на психопатию"? Есть ли у вас какое-то подтверждение этому?
Вообще-то, это явный случай консеквенциалистской этики. Если рассматривать проблему вагонетки в самом классическом варианте (когда нужно выбрать, перевести ли стрелку, чтобы вагонетка задавила одного, а не пять), то ответ "перевести" даст достаточно значимая часть Lesswrong'а. Именно в силу консеквенциалистской этики - предсказуемые последствия в случае перевода стрелки менее ужасны, чем в случае не перевода.
Вопрос о том, является ли задача с толстяком прямым эквивалентом классической "проблемы вагонетки", является дискуссионным, потому что многие усматривают в сталкивании толстяка больше отрицательных последствий, чем в переводе стрелок.
Но мне не очевидно, что консеквенциалистская этика - признак психопата. И что это признак зла. Гарри у Юдковского её тоже разделяет, и сам Юдковский активно пишет о ней и в других местах.
Ved:
--- Цитата: Alaric ---Вы уверены, что "проблема вагонетки" - это действительно "классический тест на психопатию"? Есть ли у вас какое-то подтверждение этому?
Вообще-то, это явный случай консеквенциалистской этики. Если рассматривать проблему вагонетки в самом классическом варианте (когда нужно выбрать, перевести ли стрелку, чтобы вагонетка задавила одного, а не пять), то ответ "перевести" даст достаточно значимая часть Lesswrong'а. Именно в силу консеквенциалистской этики - предсказуемые последствия в случае перевода стрелки менее ужасны, чем в случае не перевода.
Вопрос о том, является ли задача с толстяком прямым эквивалентом классической "проблемы вагонетки", является дискуссионным, потому что многие усматривают в сталкивании толстяка больше отрицательных последствий, чем в переводе стрелок.
Но мне не очевидно, что консеквенциалистская этика - признак психопата. И что это признак зла. Гарри у Юдковского её тоже разделяет, и сам Юдковский активно пишет о ней и в других местах.
--- Конец цитаты ---
Нет, конечно. Но я считаю, что этот пример хорошо поясняет мою мысль, вне зависимости от того, насколько он фактологически верен. Можно поискать более изощренный пример, но мне кажется это излишним, т.к. понимание достигнуто.
Разумеется, все люди со склонностью к рационализаторству часто руководствуются гриндевальдовским общим благом, достаточно вспомнить хотя бы великолепные описания "идеального города-государства" Платона или почитать Доктрину фашизма Беннито Мусолини, но вот воплощать эти вещи в реальность собственными руками могут только психопаты. И тут с моей точки зрения есть две проблемы: негативная коннотация термина "психопат" и его роль в масс культуре и само рационализаторство, основанное на "общем благе", т.к. в большинстве вариантов оно является следствием непонимания целого ряда законов природы вообще, и Теории Игр в частности.
Прошу прощения за легкий оффтопик.
valergrad:
Про вагонетку - я согласен с Alaric. Не считаю ее тестом на психопата.
Правда конкретно с вагонеткой я бы не столкнул, вероятно. Но это лишь из-за того, что я довольно криворукий. У меня нет даже 80% уверенности что я так удачно кину толстяка, что он при этом остановит вагонетку. Есть вероятность и толстяка убить, и других не спасти. И может есть что-то другое что можно кинуть под вагонетку - вместо толстяка? Например ком из наших одежд и обуви? И почему бы не упасть тогда самому? Вероятно, пока я над этим размышлял бы - я бы прозевал вагонетку.
Но если смоделировать действительно абстрактную ситуацию с нажатием двух кнопок и кучей времени на размышление - то опять же возникают вопросы - какой изверг сделал такую ситуацию? Что он заставит меня решать после того как я нажму кнопку так, как он хочет? И т.п.
И немного оффтоп. Тут активно обсуждался Фламель и как он настолько крут что обучал Дамблдора противостоять Гриндевальду и Волдеморту. Можно поинтересоваться - каким образом тогда Риддл убил Фламеля? Да еще и походу не сам, а кого-то отправил?
Ved:
--- Цитировать --- если смоделировать действительно абстрактную ситуацию
--- Конец цитаты ---
Ситуации на вскидку:
1. Выстрелить из снайперской винтовки навылет в заложника, чтобы убить террориста с бомбой. (в случае выстрела заложник умрет, бомба не взорвется).
2. Убить лучшего друга, потому что только его смерть завершит ритуал, не позволяющий пробудиться Древним Богам, которые уничтожат на планете все живое, если проснутся. (фильм Хижина в Лесу ).
3. Тоже самое что в 1, только заложник твой личный знакомый.
4. Убить собственных детей, чтобы они не жили в мире, где все, во что ты верил проиграло. (привет Магде Геббельс).
5. Пристрелить ребенка, пересекающего карантин со смертельно опасным биологическим оружием.
и т.д.
Alaric:
В реальном мире людям надо принимать решения. Причём, чем больше человек может, тем более серьёзные решения ему приходится принимать. И в случае принятия серьёзных решений очень часто бывает так, что кто-то от этих серьёзных решений страдает. Поэтому неизбежен вопрос, насколько это серьёзное решение оправдано.
Решения, принимаемые на эмоциях, - это результат работы эвристик. Либо генетически заложенных в генах, либо впитанных из социальной среды. Очень часто эти эвристики работают удачно (в конце концов, они совершенно не случайно выработались именно такими). Но иногда они сбоят и приводят к неправильным решениям.
Примечание: тут вообще очень тяжело определить критерии "правильности", потому что они очень сильно зависят от того,что мы вообще оптимизируем. Но дело в том, что любую этику, основанную на эмоциях, как мне представляется, очень легко запутать: в смысле, поставить перед ней неразрешимую задачу, в которой оба решения будут казаться плохими. И если человек всё-таки начинает определять, какое из двух решений более плохое, то он уже всё равно начинает формулировать свою функцию полезности, т.е. определять, какой гипотетический исход для него лучше, а какой хуже. Многие, конечно, заявляют, что они отказываются выбирать (это вполне понятная защитная реакция - и да, я сам при столкновении с такими абстрактными вопросами часто так делаю), но тут см. первый абзац.
Примечание 2: массовое распространение информации о том, что в такой-то ситуации человек отказался от общеиспользуемой эвристики и получил "положительный результат", тоже может быть вредно и должно учитываться в отрицательных последствиях.
Но в целом я не вижу никакой проблемы в "рационализаторстве, основанном на "общем благе"". Проблема именно в грамотном понимании, а что есть общее благо, в смысле, определении функции полезности.
Навигация
Перейти к полной версии