Размышления о Молохе

Автор Тема: Размышления о Молохе  (Прочитано 46935 раз)

LswAgnostic

  • Ветеран
  • ****
  • Сообщений: 313
  • +29/-12
    • Просмотр профиля
Re: Размышления о Молохе
« Ответ #45 : 04 Июля 2016, 01:15 »
  • (+)0
  • (−)0
  • Должно ли также у человека быть право пройти мимо тонущего ребенка и не быть за это осуждаемым другими?

    В идеальном мире - да. В идеальном мире - это чей-то закрепленный рабочий участок, а все остальные могут быть расслабленными и заниматься своими делами. В тоже время, при наличии желания есть сформированная процедура - как присоединиться и помочь, не нанеся вреда.


    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Размышления о Молохе
    « Ответ #46 : 04 Июля 2016, 01:34 »
  • (+)0
  • (−)0
  • Лично мне "право не кооперироваться и не быть за это осуждаемым другими" представляется утопией. Если человек видит, что другой человек не кооперируется в дилемме заключённого, ему будет крайне затруднительно избежать мысли, что в той ситуации, когда ему самому понадобится эта кооперация, тот другой тоже откажется кооперироваться. И тут человек может не осуждать публично, конечно, но мысленную галочку наверняка поставит.

    Вообще, насколько я понимаю, наличие "права" не кооперироваться зависит исключительно от количества ресурсов у общества. Понятно, что в обществе, где у каждого водоёма дежурит специальный робот-спасатель, который всё делает безукоризненно, вряд ли кто-то будет осуждать другого, за то, что тот не бросился спасать тонущего ребёнка. Если самой страшной проблемой "третьего мира" будет меньшее количество айфонов на душу населения, чем в первом, агитировать за помощь "страдающим" будет намного меньше народу.

    Цитировать
    Важно, чтобы альтруистический порыв рассматривался как добровольное дело каждого, а не как вмененная обязанность.
    А где вы проведёте границу? В смысле, какие действия можно вменять другим в обязанность, а какие - нет? Этично ли писать, скажем, "если вы не будете распространять рациональность, Гермиона расстроится"?

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #47 : 04 Июля 2016, 01:46 »
  • (+)0
  • (−)0
  • А где вы проведёте границу? В смысле, какие действия можно вменять другим в обязанность, а какие - нет?

    Погибнет ли общество, состоящее из индивидуумов, не делающих Zzz? или не погибнет?
    Если погибнет - то вменять Zzz, если не погибнет - то не вменять.

    ps
    С одной стороны - важно спасать детей.
    С другой стороны - у общества, в котором не спасают тонущих мальчиков больше шансов на выживание, чем общества, которое спасает детей третьего мира, не решив при этом проблемы с контрацепцией, образованностью и цивилизованностью третьего мира.

    desmod

    • Ветеран
    • ****
    • Сообщений: 341
    • +31/-251
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #48 : 04 Июля 2016, 01:52 »
  • (+)0
  • (−)0
  • В идеальном мире - это чей-то закрепленный рабочий участок, а все остальные могут быть расслабленными и заниматься своими делами. В тоже время, при наличии желания есть сформированная процедура - как присоединиться и помочь, не нанеся вреда.
    А вот как обстоят дела в реальном мире:

    "В законодательстве западных стран, в большинстве случаев, криминальным является неоказание помощи только при наличии обязанности (профессиональной или иной, признаваемой законом) её оказывать. Неоказание помощи при отсутствии обязанности её оказывать не является криминальным. Напротив, в некоторых случаях законодательство регулирует правовые отношения между лицом, оказавшим такую помощь, и потерпевшим, дабы защитить оказывающего первую помощь от возможных последующих недобросовестных претензий со стороны пострадавшего (например, «Закон доброго самаритянина» в США)".

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Размышления о Молохе
    « Ответ #49 : 04 Июля 2016, 02:00 »
  • (+)0
  • (−)0
  • Погибнет ли общество, состоящее из индивидуумов не делающее Zzz? или не погибнет?
    Если погибнет - то вменять Zzz, если не погибнет - то не вменять.
    В принципе, я даже готов с этим согласиться.
    Но тут есть важный нюанс. Абсолютно достоверно нам не может быть известно, погибнет общество при таком-то раскладе или нет. В связи с этим возникает вопрос: какой вероятностью гибели общества можно пренебречь?
    Дело в том, что на LW вообще любят рассуждать о глобальных рисках (собственно, как я выше упомянул LW родился из борьбы с одним из глобальных рисков). Соответственно, очень многое "неделание" достаточно несложно описать, как увеличение вероятности того или иного глобального риска.
    И, повторюсь, обсуждаемая статья она как раз об этом. Автор пытается показать, что наше общество погибнет, если мы не будем предпринимать усилия. Полагаю, что Александер тоже согласился бы с утверждением, которое я процитировал в начале этого сообщения, однако же, он более пессимистически относится к вопросу, в какой ситуации общество (а точнее даже человечество) может погибнуть, а в каком - нет.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #50 : 04 Июля 2016, 02:16 »
  • (+)0
  • (−)0
  • В связи с этим возникает вопрос: какой вероятностью гибели общества можно пренебречь?
    Вероятностями гибели общества вообще пренебрегать не стоит.

    Но, имхо, для избегания гибели стоит использовать конструктивный подход, а не вменением обязанностей всем. Каждая вмененная обязанность - это затраты и потери без гарантии результата.

    Конструктивный подход - создается механизм, который с заданным качеством не допускает гибели мира. Есть риск пожара - создается профессиональная пожарная часть. Есть риск болезней - создается профессиональная медицина. Есть риск неграмотности - создается школа. Есть риск отравления водоема - создается профессиональная экологическая служба. Есть риск проиграть ИИ - запускается профессиональный механизм по трансгуманизации человечества.

    desmod

    • Ветеран
    • ****
    • Сообщений: 341
    • +31/-251
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #51 : 04 Июля 2016, 12:26 »
  • (+)0
  • (−)1
  • Возьмем в качестве наглядного примера голосование по Brexit. Причины, по которым большинство британцев проголосовали против ЕС, достаточно очевидны. Простых людей в первую очередь волнуют вопросы личных финансов и безопасности. Как показала реальная практика, членство в ЕС эти вопросы решало из рук вон плохо: Брюссель требовал все больше денег для решения проблем мигрантов, а постоянно прибывающие мигранты все больше усугубляли проблему безопасности.

    Парадокс в том, что безумная миграционная политика Брюсселя прямо вытекала из соображений толерантности и мультикультурализма, которые, в свою очередь, непосредственно основывались на либеральных ценностях западного общества. Причем именно благодаря этим ценностям западная экономика демонстрировала свою высокую эффективность, делая столь привлекательным членство в ЕС. Само создание ЕС можно рассматривать как позитивное решение дилеммы заключенного, когда игроки стремятся получить выгоду, сотрудничая друг с другом.

    Таким образом, минусы системы типа ЕС оказались неразрывно связанными с ее плюсами. И то, и другое суть системные эффекты, которые определяются структурой системы. Поэтому наивно было бы рассчитывать на то, что некий внешний регулятор, изменив структуру, тем самым устранит и недостатки данной системы. Ведь вместе с недостатками исчезнут и ее достоинства. А новые факторы, способствующие объединению, неизбежно будут "отбрасывать тень" в виде факторов, способствующих развалу. Диалектика, туды ее в качель! :)

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Размышления о Молохе
    « Ответ #52 : 04 Июля 2016, 12:58 »
  • (+)0
  • (−)0
  • Конструктивный подход - создается механизм, который с заданным качеством не допускает гибели мира.
    И почему вы считаете, что статьи Юдковского, Александера и прочих не направлены на создание этого механизма? :)
    На всякий случай, я повторюсь - пока они никому никаких обязанностей не вменили. У них такой возможности даже нет.

    desmod

    • Ветеран
    • ****
    • Сообщений: 341
    • +31/-251
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #53 : 04 Июля 2016, 13:14 »
  • (+)0
  • (−)0
  • Да, люди в практически любой сельскохозяйственной общине модели "деревня" (самый распространенный способ проживания людей, если рассматривать человечество в целом), за исключением форс-мажорных моментов, занимались искусством
    Под искусством у Александера однозначно понимается профессиональная деятельность. В сельскохозяйственных общинах, разумеется, практиковались разного рода ремесла. Однако появление в деревнях аналога профессионального искусства - народных художественных промыслов - датируется не ранее середины 19-го века.

    Это скорее ситуация деревни, в которой жители скидываются на новый общинный колодец, а один шибко умный - отказывается, говоря, что будет себе личную скажину на участке бурит
    Пример с деревенской общиной неудачен, поскольку необходимость объединения в данном случае продиктована невозможностью выжить в одиночку, тогда как дилемма заключенного - некооперативная игра.

    Конструктивный подход - создается механизм, который с заданным качеством не допускает гибели мира.
    Как справедливо отмечает тот же Александер, невозможно адекватно оптимизировать систему изнутри. Поэтому он и апеллирует к внешнему по отношению к системе наблюдателю, выступающему в качестве ее регулятора.

    nadeys

    • Старожил
    • *****
    • Сообщений: 1 028
    • +48/-52
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #54 : 04 Июля 2016, 14:26 »
  • (+)0
  • (−)0
  • Цитировать
    Как справедливо отмечает тот же Александер, невозможно адекватно оптимизировать систему изнутри. Поэтому он и апеллирует к внешнему по отношению к системе наблюдателю, выступающему в качестве ее регулятора.
    Невозможно идеально оптимизировать систему изнутри. Но с некоторой степенью погрешности оптимизировать систему изнутри всё же можно.

    С другой стороны любые попытки введения внешнего регулятора неизбежно упираются в то что ему совершенно до лампочки наши потребности. Мы для него ресурс и заботится о нас он исключительно ради повышения нашей производительности труда.

    desmod

    • Ветеран
    • ****
    • Сообщений: 341
    • +31/-251
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #55 : 04 Июля 2016, 17:41 »
  • (+)0
  • (−)0
  • То, как многие читают Скотта, мне напоминает пример, приведенный в начале lesswrong.ru/69
    Ну и как, по-вашему, следует правильно читать Скотта? Может, объясните?

    Невозможно идеально оптимизировать систему изнутри. Но с некоторой степенью погрешности оптимизировать систему изнутри всё же можно.
    Вот только, боюсь, что подобная "оптимизация" будет подчиняться законам Паркинсона. :)
    Кстати, основные мотивы чиновников, действующих по этим законами, полностью соответствуют позитивному решению дилеммы заключенного. Ведь все чиновники заинтересованы в увеличении числа подчиненных, а не соперников, и в создании работы друг другу, оправдывающей их существование.

    С другой стороны любые попытки введения внешнего регулятора неизбежно упираются в то что ему совершенно до лампочки наши потребности. Мы для него ресурс и заботится о нас он исключительно ради повышения нашей производительности труда.
    Если необходимо лишь поддерживать некое "состояние равновесия", то для этого вовсе не требуется ИИ. Подобная модель приводится в романе А. Левина "Этот идеальный день" ("День совершенства"). Она состоит из двух подсистем - управляющей и управляемой. Причем в роли первой (управляющей) подсистемы в ней выступает небольшая группа людей, о существовании которой внутри второй (управляемой) подсистемы ничего не известно. А поскольку первая подсистема комплектуется из "несистемных" элементов второй, то возникает полностью замкнутый цикл, воспроизводящий обе подсистемы.

    a_konst

    • Ветеран
    • ****
    • Сообщений: 399
    • +97/-15
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #56 : 04 Июля 2016, 17:46 »
  • (+)2
  • (−)0
  • А каким образом Скотт Александер пытается ограничивать какого-то Васю? Скотт Александер лишь пишет статьи. Если Скотт Александер умудрится написать очень-очень зажигательные статьи, то, возможно, люди под действием этих статей поменяют законы, и Васю будут ограничивать законодательно, против чего, как я понимаю, вы вовсе не возражаете. В чём проблема-то?

    1. "всего лишь пишет статьи". Маркс тоже всего лишь писал статьи.
    Есть авторы, которые пишут разные (анти)утопии и т.п., и при обсуждении изображенного ими мира как-то не всплывает вопрос "он всего лишь написал книгу, чего вы к нему пристали". Обсуждается изображенный мир, в предположении, что он был бы реальным, обсуждается с реальными последствиями, в том числе теми, которые прошли мимо внимания автора. И с этой статьей Александера так же - то, что он написал, явно интерпретируется как то, что он бы счел гораздо лучшим общество, в котором Лас-Вегас не дали бы построить по тем соображениям, которые он приводит; и обсуждается, что было бы в обществе, в котором принято и нормально из таких соображений запрещать Васе играть в казино. Обсуждать это тем проще, что примеров таких обществ в общем-то навалом, и что происходит в таких традициях, тоже хорошо известно.

    Скотт не пишет сказку-художественное произведение в духе Кафки, скажем, или Свифта. Он ведь пишет с претензией на предложение реальных рецептов к нашему реальному обществу, или хотя бы вариантов, о которых стоит подумать.
    Можно, конечно, подумать, как бы организовать общество, чтоб и казино не было, но и чтоб никто не был уполномочен решать по своему "ревправсознанию", что рационально, а что нет.
    Но вроде он этого вопроса даже не упоминает.

    2. Pony нигде не написала, что любой закон хорош. Она написала, что вмешательство в чужую жизнь и ограничения чужой жизни со стороны общества оправданы там, где действия индивида могут нанести вред, и в качестве примера привела УК и пр. Мне кажется ясным, что это не абсолютизирует автоматом все статьи нашего текущего УК (в том числе недавно принятые, не будем тыкать пальцем), а просто отсылает к базовым вещам типа "не убивай", "не укради", "не бей людей", "не обманывай", и т.п.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Размышления о Молохе
    « Ответ #57 : 04 Июля 2016, 18:10 »
  • (+)1
  • (−)0
  • Надеюсь, Вы это написали сгоряча.
    Почему? :)

    По первому пункту. У меня нет претензий к Марксу. В смысле, я не считаю автора практически каких бы то ни было статей ответственным за действия любых людей, которые якобы реализуют замысел его статей на практике. Исключения: призывы к деструктивным действиям прямым текстом и тексты от представителей власти.

    По второму пункту. Да, Александер считает, что лучше бы Лас-Вегас не был построен по указанным им причинам. По-моему, он ничего не пишет про запрещение Васе играть в казино. Как я уже писал, с моей точки зрения, Александер считает, что в ловушке в первую очередь находятся не "Васи" (в смысле, игроки в казино), а владельцы казино, которые, в целях привлечения "Вась" вбухивают всё больше и больше ресурсов в маркетинг. А "Васи" тут так, сторонние жертвы. Вполне возможно, что проблему можно решить, разрешив казино, но запретив многие виды его рекламы. Примерно как у нас в стране, например, в очень многих местах запрещено рекламировать сигареты и алкоголь.

    По третьему пункту. Да, тут я несколько погорячился. Но по поводу рассуждений о том, что может принести вред, а что не может, я уже высказался выше в диалоге с  LswAgnosticом. Кроме того, на мой взгляд, ограничения на рекламу казино явление абсолютно того же порядка, как и ограничения на рекламу сигарет и алкоголя. Да, совершенно нет надобности запрещать игру в казино на уровне УК. Можно создать нужный рекламный фон, когда Вася с высокой вероятностью даже не задумается о том, чтобы пойти в казино. Можно загнать владельцев казино в "резервации" (как сделано у нас в стране), чтобы среднестатистическому Васе было крайне затруднительно попасть в казино, а после этого ещё с владельцев казино драть серьёзные налоги (причём с выручки, а не с прибыли), направляя деньги на то, что действительно важно для общества. В общем, если надо всерьёз задуматься о благе Васи, можно придумать многое, даже не угрожая применением УК в его адрес, благо, что это действительно далеко не самый действенный метод :)

    Добавлено [time]04 Июль 2016, 18:40[/time]:
    Цитировать
    Можно, конечно, подумать, как бы организовать общество, чтоб и казино не было, но и чтоб никто не был уполномочен решать по своему "ревправсознанию", что рационально, а что нет.
    Но вроде он этого вопроса даже не упоминает.
    Так кто же вам запрещает об этом думать-то? Александер описывает то, что ему кажется опасностью. Если на самом деле опасности нет, всё прекрасно, берём и пишем статьи, мол, у нас всё хорошо, прекрасная маркиза, отставить пораженческие настроения. Если опасность на самом деле есть, то никому никто не мешает придумать какие-то более эффективные способы с ней справиться. Я не вижу, чтобы Александер писал какие-то конкретные требования, мол, пойдите и закройте все казино.

    Добавлено 04 Июля 2016, 18:45:
    И, кстати, забавное наблюдение. Обсуждение другой статьи  Александера на этом форуме началось с утверждения, мол, он ведёт себя так, как будто его убеждения для него и вовсе не важны и находятся примерно на уровне боления за футбольную команду. А здесь его уже чуть ли не с Марксом сравнивают по потенциальным последствиям :)
    « Последнее редактирование: 04 Июля 2016, 18:45 от Alaric »

    nadeys

    • Старожил
    • *****
    • Сообщений: 1 028
    • +48/-52
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #58 : 04 Июля 2016, 21:36 »
  • (+)1
  • (−)0
  • desmod
    Цитировать
    Вот только, боюсь, что подобная "оптимизация" будет подчиняться законам Паркинсона.
    Не соглашусь, хотя бы потому что на уровне государств тоже действует такая замечательная штука как естественный отбор. Сообщества которые не могут себя эффективно оптимизировать гибнут. Государства которые эффективно себя оптимизируют - выживают и распространяют свои способы оптимизации.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #59 : 04 Июля 2016, 22:10 »
  • (+)0
  • (−)1
  • И почему вы считаете, что статьи Юдковского, Александера и прочих не направлены на создание этого механизма? :)
    На всякий случай, я повторюсь - пока они никому никаких обязанностей не вменили. У них такой возможности даже нет.

    Юдковский и Александер много усилий уделяют предсказанию мира. И почти совсем не уделяют внимания принятию оптимальных решений в условиях недостатка информации и построению устойчивых механизмов в неустойчивой(высоковариативной) среде.

    Цитировать
    я повторюсь - пока они никому никаких обязанностей не вменили.

    Обязанности вменены в рамках демонстрируемой модели, описываемом автором.

    ps
    Формально говоря "Капитал", "Майн Кампф" и Библия тоже никому ничего не вменяли.. Просто описывали возможную модель мира.