Размышления о Молохе

Автор Тема: Размышления о Молохе  (Прочитано 29481 раз)

Alaric

  • Старожил
  • *****
  • Сообщений: 1 744
  • +175/-17
    • Просмотр профиля
    • Мой ЖЖ
Размышления о Молохе
« : 27 Июнь 2016, 17:06 »
  • (+)1
  • (−)0
  • В некоторой конкурентной среде, оптимизация в которой идет в пользу некоторого Х, возникает возможность пожертвовать каким-то другим благом для повышения своего X. Те, кто пользуются ей — процветают. Те, кто отказываются — вымирают. В конце концов, все остаются на прежнем уровне относительно друг друга, но общее положение становится хуже, чем прежде. Процесс будет продолжаться до тех пор, пока не останется ничего, чем можно было бы пожертвовать — другими словами, пока человеческая изобретательность не исчерпает все возможные способы сделать все еще хуже.

    Уважаемые энтузиасты-переводчики наконец перевели на русский язык огромную статью Скотта Александера Размышления о Молохе.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #1 : 27 Июнь 2016, 23:21 »
  • (+)1
  • (−)0
  • Не понравилось:
    Статья сгущает краски и эмоционально расставляет акценты. Саму суть жизни - действуй или умри, обозвали Молохом.

    Важное:
    Александер раскрывает основные противоречия функции полезности: выгода в настоящем vs выгода в будущем, выгода индивидуальная vs выгода общая, централизованное принятие решений vs децентрализованное принятие решений.

    Не понравилось:
    Одна часть противоречия противопоставляется другой. Размышления делается в плоскости: какая из крайностей лучше?

    Важное:
    Выход в надсистему предлагает рассмотрение комплексной функции полезности, включающей в себя - и функцию полезности общества как целого, и функции полезности каждого индидуума, выгоду в настоящем и выгоду в будущем.
    Рассмотрение комплексной функции полезности ставит вопросы:
     - какой минимальной набор задач необходимо делегировать централизованному управлению, чтобы каждое децентрализованное решение сделанное для себя обеспечивало выгоду для всех?
     - как стоит сформулировать свойства центрального аппарата, чтобы каждое решение центрального аппарата обеспечивало выгоду всем, а не только центральному аппарату?

    Quilfe

    • Ветеран
    • ****
    • Сообщений: 282
    • +51/-7
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #2 : 27 Июнь 2016, 23:50 »
  • (+)0
  • (−)0
  • Саму суть жизни - действуй или умри, обозвали Молохом.

    А можно как-то пояснить, каким образом подобную фразу можно вывести из текста? А то мне даже в голову не приходит такое прочтение.

    desmod

    • Ветеран
    • ****
    • Сообщений: 341
    • +31/-251
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #3 : 27 Июнь 2016, 23:56 »
  • (+)1
  • (−)1
  • А мне понравилось. Написано довольно неплохо, даже с литературной точки зрения. Автор явно подражает экспрессивному стилю Гинзберга, но при этом четко формулирует свои мысли. Главная из них, на мой взгляд:

    Цитировать
    В определенный момент кто-то должен сказать «Вы знаете, возможно, освобождать Ктулху из его водной тюрьмы – не такая уж и хорошая идея. Может быть, нам лучше этого не делать».

    Для убежденного апологета трансгуманизма, к числу которых относится и автор, это, пожалуй, вообще максимум того, что позволяют трансгуманистические убеждения. А вот финал, к сожалению, полностью слит. Нам предлагают всего лишь слабенькую надежду, что вместо Ктулху пробудится Элуа, бог человеческих ценностей, и сделает все по (человеческим) понятиям.

    Однако проблема в том, что человеческие ценности обусловлены не столько природой с ее порой безжалостными, но едиными для всех законами, сколько человеческой культурой. Между тем какой-то единой для всех людей культуры не существует. Автор сам иронизирует над религиозными сектами, чьей наивысшей ценностью является размножение. И это еще сравнительно безобидный вариант. Человеческая история свидетельствует, что различие между культурами - источник постоянных конфликтов, нередко перерастающих в кровопролитные войны.

    Или же автор под "человеческими ценностями" понимает либеральные "общечеловеческие ценности", типа свободы и толерантности? Но они, подозреваю, куда быстрее поспособствуют пробуждению Ктулху, чем все прочие ценности, вместе взятые. :)

    a_konst

    • Ветеран
    • ****
    • Сообщений: 399
    • +96/-15
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #4 : 28 Июнь 2016, 17:16 »
  • (+)1
  • (−)0
  • Мне не понравились рассуждения о Молохе.
    В большей части примеров Скотт исходит из своей функции полезности всего человечества, а тут все далеко не так просто, как в дилемме заключенного.
    Можно очень сильно и глубоко переживать о том, что человечеству нужнее гаджеты, чем колонизация Марса (цит-по-пам интервью Рея Бредбери), но увы, это так - гаджеты оказались нужнее.
    Если люди построили Лас-Вегас, то это не только потому, что некоторым ушлым дельцам это выгодно, но еще и потому, что многим сотням тысяч людей это в достаточной степени прикольно. Почему удовлетворение эмоций этих людей имеет для Скотта нулевую полезность при оценке эффективности хозяйства всего человечества?

    По-моему, любая ценность - понятие эмоциональное, эстетическое. В законах природы нет ничего о том, что колонизировать Марс лучше, чем производить айфоны, или что бороться с голодом в Африке лучше, чем строить Лас-Вегас. В них вообще нет ничего о том, что лучше, а что хуже, уж извините, что приходится повторять такие банальности. Значит, какие эстетические ценности Скотт неявно (или явно? не все внимательно читал) полагает существенными. Но почему при этом удовольствие игроков в казино стало несущественной ценностью?

    Ладно там, казино и Лас-Вегас. Армии мира существуют потому, что большая доля людей агрессивна и любит решать конфликты силой. Им эти армии нужны. И раз эти люди есть среди нас, остальным эти армии тоже нужны. Можно отказаться от армий, но это состояние неустойчиво не столько потому, что нарушить концессию становится выгодно (это вряд ли - вроде доказано, что современные войны убыточны, причем в разы, даже для победителей), сколько потому, что многие люди не смогут удержаться от попыток решить следующий конфликт силой. Чисто биологически не смогут, а не потому, что им это выгодно (выгоднее почти всегда как раз договориться миром).

    Реально, я считаю, что основной мотив существования армий сейчас - это то, что очень многим людям нравится воевать. (к сожалению, воевать при этом вынуждены далеко не только те, кому это нравится, но так происходит почти во всех аспектах нашей жизни).

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #5 : 28 Июнь 2016, 17:34 »
  • (+)1
  • (−)0
  • современные войны убыточны, причем в разы, даже для победителей

    Выгодны - маленькие победоносные войны. Невыгодны - затяжные.

    До начала войны сложно отличить одну от другой.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Размышления о Молохе
    « Ответ #6 : 28 Июнь 2016, 17:35 »
  • (+)1
  • (−)0
  • Если люди построили Лас-Вегас, то это не только потому, что некоторым ушлым дельцам это выгодно, но еще и потому, что многим сотням тысяч людей это в достаточной степени прикольно. Почему удовлетворение эмоций этих людей имеет для Скотта нулевую полезность при оценке эффективности хозяйства всего человечества?
    Во-первых, даже если оно имеет ненулевую полезность, все эти деньги определённо можно было бы потратить более полезно (на медицину, борьбу с бедностью и так далее). Я думаю, что найдётся достаточно много людей, которые с такой функцией полезности согласятся.
    Во-вторых, вообще возникает вопрос, насколько этично эксплуатировать дофаминовое подкрепление других людей в качестве источника обогащения. Кстати, вопрос об удовольствии: как я понимаю, сейчас всё больше и больше склоняются к тому, что дофамин обеспечивает повторение попыток, но не даёт удовольствия. Как я полагаю, если опрашивать различных игроков в разные моменты, на вопрос "испытываете ли вы удовольствие прямо сейчас" они ответят либо сразу после выигрыша, либо в тот момент, когда уверены в выигрыше, но вряд ли в каких-то иных ситуациях. А вот желание продолжать и продолжать присутствует зачастую и после выигрыша, и после проигрыша. Поэтому вопрос, сколько людей там реально испытывают удовольствия больше, чем страданий, несколько дискуссионен, как минимум.

    Цитировать
    Можно отказаться от армий, но это состояние неустойчиво не столько потому, что нарушить концессию становится выгодно (это вряд ли - вроде доказано, что современные войны убыточны, причем в разы, даже для победителей), сколько потому, что многие люди не смогут удержаться от попыток решить следующий конфликт силой. Чисто биологически не смогут, а не потому, что им это выгодно (выгоднее почти всегда как раз договориться миром).
    У меня складывается впечатление, что чисто биологически может быть стремление дать в морду рядом стоящему (и это не так уж распространено, по-моему), но никак не отдать приказ о бомбардировке чего бы то ни было. Кроме того, в случае резкого сокращения количества вооружений, если кто-то и поддастся на "биологические инстинкты", он сможет наломать меньше дров.

    Цитировать
    Реально, я считаю, что основной мотив существования армий сейчас - это то, что очень многим людям нравится воевать. (к сожалению, воевать при этом вынуждены далеко не только те, кому это нравится, но так происходит почти во всех аспектах нашей жизни).
    По-моему, для решения этой проблемы не обязательно содержание армий - посадим всех желающих воевать за "Танчики" (а потом пересадим в более продвинутую виртуальную реальность, когда она появится) и пусть они удовлетворяют своё желание там :)

    desmod

    • Ветеран
    • ****
    • Сообщений: 341
    • +31/-251
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #7 : 28 Июнь 2016, 19:09 »
  • (+)0
  • (−)1
  • Можно очень сильно и глубоко переживать о том, что человечеству нужнее гаджеты, чем колонизация Марса (цит-по-пам интервью Рея Бредбери), но увы, это так - гаджеты оказались нужнее.
    Скорее автор, будучи рационалистом, переживает из-за нерационального поведения подавляющего большинства людей, которое не позволяет им принимать адекватные решения даже, казалось бы, в очевидных ситуациях. Типичной ситуацией такого рода является дилемма заключенного. А поскольку автор убежденный трансгуманист, то он не придумал ничего умнее, чем повторить (правда, с определенными оговорками) пресловутую мантру: "ИИ придет - порядок наведет".

    Однако весьма любопытна причина, обрекающая, по версии автора, основную массу человечества на нерациональное поведение. Эта причина - неспособность взглянуть на ситуацию со стороны, т.е. занять позицию внешнего наблюдателя. Почему же люди на такое неспособны? Да потому, что они уже изначально находятся "внутри" какой-либо социальной структуры, которая в значительной степени предопределяет их поведение. Ведь человек, как известно, социальное существо и в принципе не может выйти за границы социума: соответствующая прошивка находится у него прямо в подкорке.

    В общем случае это всегда некая Система, с интересами которой отождествляют себя составляющие ее люди-элементы. Автор использует другой термин - Молох, хотя Голем, на мой взгляд, был бы точнее. Можно описать целый класс подобных объектов, но суть их сводится к тому, что под давлением "системных" установок человек может совершать поступки, прямо противоречащие своим этическим установкам.

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #8 : 28 Июнь 2016, 19:44 »
  • (+)1
  • (−)0
  • А можно как-то пояснить, каким образом подобную фразу можно вывести из текста? А то мне даже в голову не приходит такое прочтение.

    Прямая цитата автора, подтверждающая утверждение: автор, говоря Молох, подразумевает "эволюция".

    Цитата: Александер
    По ряду причин эволюция носит не столь ярко выраженный мальтузианский характер по сравнению с идеальной моделью, но она является примером, который можно использовать при рассмотрении других ситуаций, чтобы понять лежащие в основе принципы.

    Пример идеальной жизни от автора:
    Цитата: Александер
    Он полон вкусных растений, и вы живете идиллической жизнью, чередуя праздность с потреблением пищи и созданием великих произведений искусства

    Он же под действием эволюции, изменившийся в вариант, осуждаемый автором:
    Цитата: Александер
    Некоторая группа крыс бросает занятия искусством для того, чтобы посвятить большую часть своей жизни борьбе за выживание. В каждом новом поколении в этой группе умирает немного меньше крыс, чем в основной части популяции, до тех пор, пока через какое-то время искусством не занимается никто, и любая группа крыс, пытающаяся это исправить, вымирает через несколько поколений.

    Подтекст примера: эволюция - это Молох, она мешает жить праздной жизни и заниматься бесполезным времяпровождения.
    В данной примере "высокое искусство" - бесполезно, т.к. в рамках примера не дает конкурентного преимущества. (В реальной жизни возможны другие варианты)

    a_konst

    • Ветеран
    • ****
    • Сообщений: 399
    • +96/-15
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #9 : 28 Июнь 2016, 20:13 »
  • (+)1
  • (−)0
  • Во-первых, даже если оно имеет ненулевую полезность, все эти деньги определённо можно было бы потратить более полезно (на медицину, борьбу с бедностью и так далее). Я думаю, что найдётся достаточно много людей, которые с такой функцией полезности согласятся.
    Фактически строительство Лас-Вегаса оплачено людьми, которые платят деньги за возможность поиграть в казино. Ну, не только это, конечно, и они формально их не платят за возможность поиграть, а проигрывают там, но реально именно так. И, думаю, большинство играющих это понимают.
    Так вот, потратить деньги на это , а не на медицину и т.п. - это ИХ выбор, этих многих людей, клиентов казино. Мы можем сокрушаться или негодовать от их функции полезности, можем им запрещать так тратить деньги (в этом есть некоторый смысл, и много где так делают), но в любом случае, Страшный Молох тут ни при чем. Тут нет ситуации, в которой человек понимает, что глобально полезнее скооперироваться, но он боится рисковать. Тут ситуация, когда человеку его личное желание поиграть весомее каких-то там больных или голодающих.
    Это ужасно, мы можем относиться к таким людям с презрением, но проблема не в мальтузианской ловушке, а в том, что в человеческом роду в каждом поколении появляется некоторая доля таких людей.

    Цитировать
    Во-вторых, вообще возникает вопрос, насколько этично эксплуатировать дофаминовое подкрепление других людей в качестве источника обогащения. Кстати, вопрос об удовольствии: как я понимаю, сейчас всё больше и больше склоняются к тому, что дофамин обеспечивает повторение попыток, но не даёт удовольствия. Как я полагаю, если опрашивать различных игроков в разные моменты, на вопрос "испытываете ли вы удовольствие прямо сейчас" они ответят либо сразу после выигрыша, либо в тот момент, когда уверены в выигрыше, но вряд ли в каких-то иных ситуациях. А вот желание продолжать и продолжать присутствует зачастую и после выигрыша, и после проигрыша. Поэтому вопрос, сколько людей там реально испытывают удовольствия больше, чем страданий, несколько дискуссионен, как минимум.
    Я исхожу из положения, что если люди что-то делают, причем они не вынуждены к этому внешними обстоятельствами, то они хотят это делать, и их функция полезности дает для этого действия локальный максимум.
    Что они ответят на вопрос "испытываете ли вы удовольствие", мне кажется, вторично.
    То, что этот вид бизнеса сам по себе неэтичен и сродни наркоторговле (а также, имхо, производству крепкого алкоголя), я соглашусь, и в моей картине ценностей стоит эти вещи запрещать и с ними бороться.
    Но все-таки я не вижу тут мальтузианской ловушки, о которой пишет Скотт.



    Цитировать
    У меня складывается впечатление, что чисто биологически может быть стремление дать в морду рядом стоящему (и это не так уж распространено, по-моему), но никак не отдать приказ о бомбардировке чего бы то ни было. Кроме того, в случае резкого сокращения количества вооружений, если кто-то и поддастся на "биологические инстинкты", он сможет наломать меньше дров.
    По-моему, для решения этой проблемы не обязательно содержание армий - посадим всех желающих воевать за "Танчики" (а потом пересадим в более продвинутую виртуальную реальность, когда она появится) и пусть они удовлетворяют своё желание там :)
    Насколько я представляю, для большинства среди желающих воевать симуляторы далеко уступают по уровню удовлетворения реальной войнушке
    Стрелков (Гиркин) - далеко не редчайшее исключение, как мне кажется.


    Добавлено 28 Июнь 2016, 20:22:
    Выгодны - маленькие победоносные войны. Невыгодны - затяжные.

    До начала войны сложно отличить одну от другой.

    Вы можете привести пример выгодной И маленькой победоносной войны за последний век, скажем?

    LswAgnostic

    • Ветеран
    • ****
    • Сообщений: 313
    • +29/-12
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #10 : 28 Июнь 2016, 20:44 »
  • (+)1
  • (−)0
  • Вы можете привести пример выгодной И маленькой победоносной войны за последний век, скажем?

    Германия: 1938-1941
    Израиль: шестидневная война, Ливанская война(1982)
    СССР: КВЖД
    СССР + Великобритания: Иранская операция(1941)

    Skywrath

    • Ветеран
    • ****
    • Сообщений: 723
    • +71/-9
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #11 : 28 Июнь 2016, 20:47 »
  • (+)0
  • (−)0
  • Цитата: a_konst
    Симуляторы далеко уступают по уровню удовлетворения реальной войнушке.
    Ну, как сказать. Реальная-то война далека от перекатывания-регенирования за экраном компьютера. Грубо говоря, когда приходиться рисковать жизнью, получается так себе развлечение. Особенно, если учитывать менее героическую сторону, которая есть в любой войне и совершенно не состоит из боевых действий. Так, что я полагаю, что здесь скорее действуют некоторые другие мотивации типа стремления к социальному статусу или, не знаю, фундаментальной ненависти к врагам.

    desmod

    • Ветеран
    • ****
    • Сообщений: 341
    • +31/-251
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #12 : 29 Июнь 2016, 00:25 »
  • (+)0
  • (−)0
  • автор, говоря Молох, подразумевает "эволюция"
    Вот что он говорит:

    Цитировать
    Молох вводится в качестве ответа на вопрос (...) «что за сила совершает это?». Земля могла бы быть прекрасной, а все люди на ней – счастливыми и мудрыми. Но вместо этого у нас тюрьмы, дымовые трубы, психушки. Что за сфинкс из цемента и алюминия раскраивает людям черепа и выедает их мозг и воображение?

    (...)

    В этом ответе скрыт вопрос – если все ненавидят существующий порядок, то кто его поддерживает? И Гинзберг отвечает: «Молох». Эта идея хороша не тем, что она отражает реальность, ведь никто в самом деле не думает, что за всеми бедами мира стоит древний демон Карфагена. Ее сила в том, что попытка представить себе систему в образе агента резко высвечивает, насколько это представление не соответствует действительности.

    Молох - не рациональный агент. Во всяком случае, он не рационален в человеческом смысле, поскольку не является человеком. И хотя люди - его элементная база, благодаря системному эффекту их цели отнюдь не совпадают с его целями. Например, деятельность любой комиссии по борьбе с бюрократией будет подчиняться законам Паркинсона, а вовсе не тому, что указали в названии комиссии организовавшие ее чиновники. Или, как четко формулирует автор по другому поводу: "С точки зрения внешнего наблюдателя, мы можем оптимизировать систему к состоянию «все соглашаются одновременно прекратить это делать», но никто внутри системы не способен осуществить этот переход без огромного риска для собственной жизни".

    Молох, чья элементная база охватывает целую цивилизацию, способен выступать в качестве бога этой цивилизации. Вот только наивно было бы думать, что он окажется "богом людей" только потому, что они являются его носителем.

    "Вселенная – мрачное и зловещее место, со всех сторон окруженное чуждыми нам богами. Ктулху, Азатот, Гнон, Молох, Мамон, Арес – называйте их как хотите".

    Al1

    • Постоялец
    • ***
    • Сообщений: 213
    • +74/-11
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #13 : 29 Июнь 2016, 00:41 »
  • (+)0
  • (−)0
  • https://rg.ru/2016/06/25/uchenye-obiasnili-pochemu-liudi-deliatsia-na-horoshih-i-plohih.html
    Предлагаю скинутся на вирус, избирательно убивающий всех "плохих" ::)
    Альтруистическое поведение сразу станет нормой.
    Освободившееся добро поделим поровну (половину мне, половину остальным)

    Quilfe

    • Ветеран
    • ****
    • Сообщений: 282
    • +51/-7
      • Просмотр профиля
    Re: Размышления о Молохе
    « Ответ #14 : 29 Июнь 2016, 01:05 »
  • (+)0
  • (−)0
  • Кажется, это хорошая иллюстрация возможной опасности AI :)

    См. также Шекли, «Страж-птица».