Размышления о Молохе

[desmod]

Насколько я понял, речь в исследовании идет об альтруистическом/эгоистическом типе поведения. Подобное поведение, действительно, может быть генетически обусловлено. Однако жизнеспособность популяции в целом зависит от конкретных условий, которые и будут определять оптимальное соотношение в ней альтруистов и эгоистов. В каких-то условиях (например, при изобилии жизненно важных ресурсов), не исключено, оптимуму соответствует абсолютное большинство альтруистов. Но где гарантии, что такие условия продлятся сколько-нибудь долго?

[Alaric]

Так вот, потратить деньги на это , а не на медицину и т.п. - это ИХ выбор, этих многих людей, клиентов казино. Мы можем сокрушаться или негодовать от их функции полезности, можем им запрещать так тратить деньги (в этом есть некоторый смысл, и много где так делают), но в любом случае, Страшный Молох тут ни при чем. Тут нет ситуации, в которой человек понимает, что глобально полезнее скооперироваться, но он боится рисковать. Тут ситуация, когда человеку его личное желание поиграть весомее каких-то там больных или голодающих.

Насколько я понимаю, Александер во фрагменте про Лас-Вегас обсуждает не тех, кто там проигрывает деньги, а тех, кто на них зарабатывает деньги.

"Существование Лас-Вегаса не было частью чьего-то плана по гедонистической оптимизации человечества. Лас-Вегас существует благодаря особенностям устройства дофаминергических систем вознаграждения, а также неоднородной микроструктуре среды правового регулирования и принципу «точек Шеллинга». Рациональный проектировщик, взвешивая эти факторы с точки зрения внешнего наблюдателя, мог бы подумать: «Хм, в устройстве дофаминергических систем вознаграждения есть особенности, из-за которых некоторые действия с небольшими отрицательными соотношениями между риском и выгодой приобретают эмоциональную валентность, связанную с небольшими положительными соотношениями между риском и выгодой, следует научить людей быть осторожнее с такими действиями». Люди изнутри системы, следуя стимулам, вызванным этими фактами, думают: «Давайте построим посреди пустыни сорокаэтажный дворец в стиле древнеримской архитектуры, наполненный тиграми-альбиносами, и станем немного богаче тех, кто этого не сделал!»" (выделение моё)

Я полагаю, что смысл тут в том, что если мы в принципе разрешаем казино, то владельцы казино в конкуренции между собой будут жертвовать почти чем угодно, лишь бы привлечь ещё больше клиентов. И уж точно их не будет волновать судьба этих клиентов впоследствии.

[desmod]

Интересно, смотрел ли Гинзберг фильм "Метрополис"? В нем гигантский подземный завод предстает главному герою в образе натурального Молоха - гигантского "сфинкса из цемента и алюминия", который в буквальном смысле питается рабочими ("раскраивает людям черепа" во время аварии, а в остальное время "выедает их мозг и воображение" утомительной работой). Сомневаюсь, что этот фильм смотрел Александер, хотя в нем легко усматривается намек на трансгуманизм, к которому апеллирует автор "Размышления о Молохе" - в фильме фигурирует "совершенный человек будущего - человеко-машина".

В самой же статье Александера можно выделить две основные идеи, причем первую я бы отметил знаком плюс, а вторую - знаком минус.

1. Известное ленинское высказывание насчет того, что нельзя "жить в обществе и быть свободным от общества ", кажется очевидным ровно до тех пор, пока не задумаешься о механизмах обратной связи со стороны общества. Кстати, А. Богданов, один из ленинских соратников, ныне числится в основоположниках системного подхода и теории самоорганизации систем. Благодаря системному подходу, распространенному на человеческое общество, открывается возможность прояснить целый ряд его особенностей, необъяснимых с точки зрения традиционной психологии или социологии. Например, можно получить ответ на вопрос, который в формулировке Александера звучит так: "если все ненавидят существующий порядок, то кто его поддерживает?"

Это и есть первая главная идея "Размышления о Молохе": если люди образуют некую социальную систему, то их деятельность неизбежно будет сопровождаться неустранимыми системными эффектами. Причем повлиять на данные эффекты изнутри системы в принципе невозможно. Сама же система при взгляде извне представляет самостоятельный (информационный) объект, обладающий собственным поведением.

Насколько сложно осознать подобный феномен (ведь все мы находимся внутри тех или иных социосистем), демонстрирует судьба статьи, авторы которой отважно попытались его проанализировать. Достаточно сказать, что статья была написана в далеком 1987 году, а впервые опубликована в 2001 году в журнале "Мир Internet" (по ссылке имеет смысл прочитать редакционное предисловие и - особенно - послесловие): ftp://broadband-188-32-20-248.nationalcablenetworks.ru/WD%20Studio%20II/$RECYCLE.BIN/S-1-5-21-1568299744-3710768039-3365389787-1000/$RBO2CQQ/Журнал Мир Internet.htm
Складывается впечатление, что сама социосистема противится любой рефлексии по поводу своей природы. (Или срабатывают те самые механизмы обратной связи, вытесняющие в подсознание все "нежелательные" смыслы?)

Если же Александер пришел к этой идее самостоятельно, то ему двойной респект. До сих пор исследования в этой области ведутся преимущественно силами энтузиастов и носят маргинальный характер.

2. Как уже отмечалось выше, человек не способен взглянуть на человечество со стороны, поскольку он - неотъемлемый элемент человеческой системы. Здесь требуется другой - не человеческий субъект, причем достаточно умный, чтобы понять устройство последней. Например, искусственный сверхинтеллект. Если уж мы не в силах оптимизировать собственный человеческий мир изнутри, то почему бы не позволить сделать это некоему внешнему, благожелательно настроенному к нам наблюдателю? Такова вторая главная идея статьи Александера.

К сожалению, автор не задумывается о том, что наше конкретное поведение является следствием конкретного устройства нашей человеческой природы. Не говоря уже о том, что свойства элементов определяют, в том числе, и свойства самой системы (в случае других элементов и системные эффекты были бы другие). Следовательно, чтобы устранить нежелательные системные свойства, требуется изменить свойства элементной базы. Если мы хотим построить из глиняных кирпичей многоэтажное здание, то прежде их необходимо обжечь.

В итоге все неизбежно сводится к "переделке человека". Однако у нового существа окажется другой и система ценностей, для сохранения которой, собственно, и затевался весь сыр-бор с оптимизацией человеческого устройства. Если же мы в любом случае приносим жертву Молоху, то стоит ли овчинка выделки?

[LswAgnostic]

2. Как уже отмечалось выше, человек не способен взглянуть на человечество со стороны, поскольку он - неотъемлемый элемент человеческой системы.

Какие есть доказательства этого утверждения?

[desmod]

Чтобы взглянуть на что-либо хоть сколько-нибудь объективно, следует устранить все субъективные отношения, связывающие наблюдателя с объектом наблюдения. В случае человечества сделать это будет крайне затруднительно, поскольку многие наши социальные установки находятся на подсознательном уровне. Человек - социальное существо, он формируется в социальной среде и не может полноценно существовать за ее пределами. Иными словами, чтобы взглянуть на человечество извне, необходимо предварительно найти нечеловеческую среду обитания.

[LswAgnostic]

Чтобы взглянуть на что-либо хоть сколько-нибудь объективно, следует устранить все субъективные отношения, связывающие наблюдателя с объектом наблюдения. В случае человечества сделать это будет крайне затруднительно, поскольку многие наши социальные установки находятся на подсознательном уровне.

Для отхода от подсознательных установок достаточно задачу переформулировать в формальную модель (в символьную алгебру). И в этой алгебре решить задачу.

[desmod]

Речь идет о том, кто будет ее решать. Выкинув из психики человека все, что связывает его с другими людьми, мы получим законченного психопата. Лорд Волдеморт к решению задачи готов!

[LswAgnostic]

Выкинув из психики человека все, что связывает его с другими людьми, мы получим законченного психопата. Лорд Волдеморт к решению задачи готов!

Какие это имеет негативные последствия в ситуации, когда всё общество состоит из таких индивидуумов?

Выкинув из психики человека все, что связывает его с другими людьми, мы получим законченного психопата.

Если выкинуть совсем всё, то начнется рассхождение с реальностью. Другие люди важны хотя бы тем, что человек в одиночку может решать только маленькие задачи.

[desmod]

Какие это имеет негативные последствия в ситуации, когда всё общество состоит из таких индивидуумов?

А какое отношение подобное общество имеет к известному нам человечеству?

Другие люди важны хотя бы тем, что человек в одиночку может решать только маленькие задачи.

Тогда мы возвращаемся к исходному моменту: находясь внутри системы, мы вынуждены следовать ее законам, которые нас не устраивают.

[LswAgnostic]

А какое отношение подобное общество имеет к известному нам человечеству?

Во многом оно уже такое. Психопаты составляют 1-2% общества.

Ряд исследований (например, Кевин Даттон) утверждает, что процент психопатов выше среди успешных людей. В частности психопатов больше в 4-10 раз в следующих профессиях:
1. Руководители крупных компаний
2. Юристы
3. Ведущие радио и телевидения
4. Продажники
5. Хирурги
6. Журналисты
7. Полиция
8. Духовенство
9. Шеф-повара
10. Чиновник/государственный служащий

Ряд исследований утверждает, что среди белых мужчин один из высоких уровней психопатии. Есть гипотезы, что благодаря этому быстро развилась западная цивилизация.

Качества психопата:
* Самоуверен/верит в себя;
* Холодный/расчётливый;
* Любит манипулировать людьми;
* Храбрый/бесстрашный;
* Привлекательный/мёдом намазанный;
* Сохраняет холодный рассудок при критических ситуациях;
* Эгоцентричный/всегда заметный;
* Пофигист/безответственный.

Тогда мы возвращаемся к исходному моменту: находясь внутри системы, мы вынуждены следовать ее законам, которые нас не устраивают.

Необходимость следовать != отсутствует возможность посмотреть со стороны.

Изначально утверждалось: "человек не способен посмотреть на человечество со стороны". Данное утверждение неверно.

Человек способен посмотреть на себя и на человечество со стороны. Для этого достаточно построить различные алгебры человека/человечества(в том числе с законами, отличными от текущих) и найти в них решения: с эмпатией/без эмпании, с этикой/без этики, с альтруизмом/без альтруизма, с дружелюбностью/с агрессивность и т.д.

[desmod]

Во многом оно уже такое. Психопаты составляют 1-2% общества.

Если предположить существование общества, состоящего из одних психопатов, то его вполне можно рассматривать как модель нечеловеческой среды обитания в хорошем приближении. Но любой его обитатель, решив взглянуть на свое общество со стороны, вновь окажется перед необходимостью выхода из системы, частью которой он является.

Необходимость следовать != отсутствует возможность посмотреть со стороны.

У человека отсутствует возможность по своему желанию включать/отключать социальные императивы.

Изначально утверждалось: "человек не способен посмотреть на человечество со стороны". Данное утверждение неверно.

Изначально человек является частью человечества. Чтобы взглянуть на систему со стороны, необходимо перестать быть ее частью, что равносильно разрыву всех связей с ней. Следовательно, чтобы посмотреть на человечество со стороны, человеку необходимо аннулировать все связи с другими людьми. Но возможно ли такое, если на основе социальной среды "отформатировано" само сознание человека? Ведь перестав быть частью человечества, человек автоматически перестанет быть человеком.

Человек способен посмотреть на себя и на человечество со стороны. Для этого достаточно построить различные алгебры человека/человечества(в том числе с законами, отличными от текущих) и найти в них решения: с эмпатией/без эмпании, с этикой/без этики, с альтруизмом/без альтруизма, с дружелюбностью/с агрессивность и т.д.

Допустим существование разума, лишенного "слишком человеческих" атрибутов:

"Само понятие морали абсолютно чуждо Голему, поскольку мораль формируется в обществе, в процессе взаимодействия равнозначимых интеллектов, а Голем – существо принципиально одинокое".

Но мы-то не вне морали! И если решения, принимаемые подобным существом, будут ей противоречить, то почему мы должны их выполнять?

[LswAgnostic]

У человека отсутствует возможность по своему желанию включать/отключать социальные императивы.

Какие доказательства этого утверждения?

ps
Существует ряд техник (начиная с НЛП), которые этому напрямую учат.
Общее в этих техниках - переклассификация ситуации. Например, военных учат переквалифицировать людей в объект, цель, задача, невосполнимые потери и т.д., уходя из своего сострадательного поля.

pps
Мозг - это сложная нейронная сеть, которая при знании техник, перетренировывается под что угодно.

Но мы-то не вне морали! И если решения, принимаемые подобным существом, будут ей противоречить, то почему мы должны их выполнять?

Можно не выполнять. Как этот тезис соотносится с утверждением о невозможности рассмотрения человечества со стороны?
Например, взять каннибализм. Что мешает человеку/человечеству рассмотреть плюсы/минусы этого подхода, отложив в сторону моральные и эмоциональные нюансы?
Что мешает человеку/человечеству выполнить решение полученное без учета морально-эмоциональных аспектов? Стенфордский эксперимент и экспериме́нт Стэ́нли Ми́лгрэма показывают широкую гибкость психики при выполнении произвольных чужих решений.

[desmod]

Например, военных учат переквалифицировать людей в объект, цель, задача, невосполнимые потери и т.д., уходя из своего сострадательного поля.

А потом лечат от поствоенного синдрома.
Почему-то для нормального человека убивать противоестественно.

Можно не выполнять.

Большинство людей за свою жизнь сталкиваются с ситуациями, когда по каким-либо причинам необходимо поступать вопреки собственным представлениям о должном. Чувство вины - самое меньшее, что они испытывают после этого.

В трилогии Уоттса "Рифтеры" описан мир недалекого будущего, в котором научились биохимическим путем "отключать" угрызения совести, превращая нормального человека в психопата. Такие люди получают статус легальных "правонарушителей", а их функция заключается в том, чтобы принимать решения в критических ситуациях, когда невозможно спасти всех. Как известно, нормальный человек пасует даже перед банальной задачей с вагонеткой.

Возможно, что и в реальности люди прибегнут к аналогичному способу. Но тогда напомню проблему, на которую обратил внимание Александер: во многих случаях решения, кажущиеся оптимальными, противоречат человеческим ценностям. Очевидно, под ними автор понимает деонтологические ценности. Последние же, в конечном итоге, конституируются социальной средой, которая формирует самого человека.

Я исхожу из того, что "человеческая природа человека" является системным эффектом. Это же касается и человеческого разума:

"Как и «барьер жизни», «барьер разумности» нельзя преодолеть в одиночку. Подобно тому, что жизнь существует и изначально существовала в форме замкнутых экосистем, разум с момента своего возникновения принимает форму социосистемы. Связано это с рассеянностью информации в физическом пространстве-времени, сложностью обработки и переработки этого ресурса, подразумевающей специализацию и кооперацию, наконец, с конкуренцией со стороны экосистем-гомеостатов в борьбе за органические ресурсы. (...) Преимущества социальной жизни проявляются апостериори: когда социум уже создан, когда в нем так или иначе распределены роли (то есть сформировалась управляющая структура), когда появились и «вышли на проектную мощность» механизмы совместного добывания пищи – возникла система хозяйствования. Плата же за все эти отнесенные в далекое будущее возможности взимается априори – на стадии рождения социума. Сам факт образования новых – социальных – связей означает отказ индивидуума от части своего суверенитета. Причем, насколько можно судить по соотношению сознательных и подсознательных реакций у современного человека, – от очень большой части".

С подобной точки зрения выход за пределы социосистемы означает логическое противоречие: тот, кто сумел выйти, уже по определению не человек.

[Pony]

Если честно, я в этой статье вообще мало что поняла. (((
Почему рыбоводческие хозяйства войдут в непрерывный цикл? Они на этапе "Стива" или в крайнем случае на этапе "Майка" соберутся и начистят репу ренегату.
Почему крысы на острове войдут в непрерывный цикл? Даже у неразумных крыс есть вагон и маленькая тележка механизмов регуляции численности. А если у нас условно-разумные крысы... Во-первых, откуда взялся вывод, что крысы, которые не будут ограничивать рождаемость, выиграют? С той же (а по-моему большей) вероятностью они проиграют. Потому что родительская пара крыс, которые заведут много потомства, потратят вагон ресурса, сильно ухудшат свое качество жизни, и вырастит при этом ведро глупых, больных, недокормленных крысенят. А родительская пара крыс, которая в условиях ограниченного ресурса заведет трех детенышей, получит на выходе сильных, умных и здоровых крысюков. Что перспективнее в плане передачи генов - это большой вопрос. Опять же, если мы говорим про условно-разумных крыс (коль скоро они способны заниматься искусством), стратегии поведения не только (и не столько) генетически детерминированы, сколько являются результатом научения. Так что потомство крыс-размноженцев в большом проценте может решить, что данунафиг так задалбываться, вон, соседка мисс Крысинда пейзажики рисует, а у мамаши от такой жизни хвост отвалимшись. Оно мне надо? А моим крысенятам такое детство как у меня было - надо?
Точно так же неочевидно, что выиграют высокоагрессивные крысы и т.д.
И в примере с плантацией кофе на самом деле неочевидно, что плантатор забьет на экзотических птиц. Умный - не забьет. Умный сговорится с защитниками природы, построит птичий питомник, найдет способ сделать заказник на территории плантации, проведет ребрендинг продукта, втюхает кофе "Райская птица" всем чувствительным домохозяйкам с двадцатипроцентной наценкой, отрекламируется на халяву через все СМИ и расширит целевую аудиторию за счет зоозащитников. А по ходу утопит пару соседей-конкурентов, которые птичек абижали.
И даже заведя роботов, умный плантатор расценит эфиопов не как ненужный мусор, а как освободившийся ресурс.
Ну и там все примеры какие-то такие же, э, спорные.
И чем ему казино не угодили, я тоже не понимаю. Про Лас-Вегас я вообще не говорю, там до кучи всего, кроме игорных салонов. Но ладно, черт с ним. Возьмем казино. Далеко не все, кто играет, являются больными, игроманами и вообще. Ну прикалывает людей. Какая разница, почему? Человек эти деньги не украл, а заработал. Может с ними что хочет делать (в пределах ГК, УК, КоАП и ТБ). За его деньги организуются рабочие места, с его денег платятся налоги, так какого черта? И потом, тут же главное нАчать. Если вообще вообразить, что можно прийти к человеку, залезть в его карман и начать решать, как ему жить и на что содержимое кармана тратить, то почему ограничиваться казинами? А на фиг, например, ему породистая кошка за штуку баксов? Хочется? Ну так перехочется! Какова функция полезности кошки за штуку баксов? Возьми кошку из приюта, всяко дешевле и душеспасительнее. А еще лучше - вообще не бери. Ну какова функция полезности кошки?.. И, кстати, тортик из магазина ты куда понес? А ну положь, там холестерин и трансжиры. Овсянка, сэр, только овсянка! На свете есть очень до черта всего, что можно запросто вычеркнуть как бесполезное, а то и вредное. Нет, ну а что? А кто сказал, что от казино больше вреда, чем от тортиков? В казино играет не так уж много народу, и далеко не все из них проигрываются до трусов. А тортики едят куда больше людей. Лишний вес, холестерин, больные желудки\сосуды\чего-там-еще - и лечи их потом, и КПД у них ниже, болеют патамушт... Или кошки те же. Поназаводят, потом кучу баксов на лечение и кормежку тратят, райветстанции открывать приходится, приюты кошачьи, а какая куча народу занята черт-те чем! Одно производство кошачьих кормов чего стоит. А в Африке дети голодают.
Нет, ну там дальше можно, конечно, и функцию полезности консерваторий обсудить. Куча народу туда не ходит - и ничего, не жужжат. Обходятся как-то, и даже хорошо обходятся, ВВП страны повышают...
То есть, вообще-то можно одеть всех в униформу (теплая, удобная, с ортопедической обувью, целых три смены белья - а зачем больше?), продукты выдавать бесплатно, по карточкам от районного диетолога (полезный сбалансированный рацион), запретить все виды физической активности, кроме ЛФК (норму ГТО только для тех, у кого есть профессиональная необходимость!), ну и так далее.

...если все соберутся в суперорганизм, этот суперорганизм сможет решать проблемы легко и непринужденно. Тогда напряженная конкуренция между агентами сменилась бы садом, в котором есть садовник, способный распределять ресурсы и удалять элементы, которые не вписываются в структуру.

Вот это по-моему и есть Молох, угу. Ну, или военный коммунизм, тоже ничего. Только по-моему тут будет как с муравьями, которые гусеницу тащат. Вот они ее тащат бестолково, дергают во все стороны, а могли бы взяться вместе и тащить в едином порыве в направлении муравейника. До первой сосновой иголки поперек пути, угу. А так получается вроде и не очень эффективно, зато в каждом случае встречи с кочкой или сосновой иголкой обязательно найдется муравей, который дернет в нужную сторону. А единый суперорганизм будет бодро шагать в ногу - до первой же стенки. Или до первого же моста.

[desmod]

Почему рыбоводческие хозяйства войдут в непрерывный цикл? Они на этапе "Стива" или в крайнем случае на этапе "Майка" соберутся и начистят репу ренегату.

Чтобы он потом их засудил и тем самым избавился от конкурентов?
На практике подобная проблема решается иначе, о чем сообщает сам автор: "Я уже отмечал в Анти-Либертарианском FAQ, что государство легко может решить проблему загрязнения на рыбных фермах. Наиболее известным решением Дилеммы заключенного является наличие босса мафии (играющего роль правителя), который угрожал бы расстрелом любому заключенному, сотрудничающему со следствием. Решение проблемы компаний, которые загрязняют окружающую среду и вредят здоровью собственных сотрудников, заключается во введении государственных ограничений".

Почему крысы на острове войдут в непрерывный цикл? Даже у неразумных крыс есть вагон и маленькая тележка механизмов регуляции численности.

А теперь возьмем исходные условия, описанные автором: "Представьте, что вы – одна из первых крыс, заселенных на прежде нетронутый остров. Он полон вкусных растений, и вы живете идиллической жизнью, чередуя праздность с потреблением пищи", и сравним с реальным экспериментом.

И в примере с плантацией кофе на самом деле неочевидно, что плантатор забьет на экзотических птиц. Умный - не забьет.

Умный сначала подсчитает соотношение затрат и вероятной прибыли. На организацию заповедника и его раскрутку потребуется немало денег, которые принесут отдачу отнюдь не сразу (если принесут вообще) и которые надо где-то взять. Кроме того, он хоть и умный, но с заповедниками ранее дел не имел, в отличие от плантации. Зачем ему такой геморрой - начинать новое дело практически с нуля, если у него уже есть свой налаженный бизнес? В качестве реального аналога можно взять весьма распространенную ситуацию в нашей стране - распродажу территории заповедника под коттеджное строительство. Вместо того, чтобы вкладывать деньги в развитие заповедника, его владелец намерен получить деньги прямо сейчас. Ну не идиот ли?

И даже заведя роботов, умный плантатор расценит эфиопов не как ненужный мусор, а как освободившийся ресурс.

Нынешние "плантаторы" в США и ЕС нашли подобных "роботов" - менее требовательных азиатов - и теперь активно переносят свое производство на другой конец света. Никто из них, насколько мне известно, не озаботился судьбой ставших ненужными рабочих.

И чем ему казино не угодили, я тоже не понимаю.

Наверное, он в курсе, что это игра с отрицательной суммой? И его, как рационалиста, напрягает столь откровенный "развод лохов", превратившийся в мощнейшую индустрию?

Ну и там все примеры какие-то такие же, э, спорные.

Но при этом они отнюдь не высосаны из пальца. И во всех них реализованы не просто неоптимальные, но едва ли на самые худшие варианты из возможных. Нет ничего удивительного в том, что рационалист пытается найти объяснение столь иррациональному поведению. И я считаю, что он на верном пути.

Вот с чем я не согласен, так это с предлагаемым им решением (правда, по другой причине).