Вы здесь

Пацифизм губит ухоженные сады

Элиезер Юдковский

Основная причина гибели хороших интернет-сообществ — отказ от самозащиты.

Где-нибудь в необъятных недрах интернета это происходит прямо сейчас. Когда-то на этом месте был чистый ухоженный сад для интеллектуальных бесед, куда приходили образованные и заинтересованные люди, привлечённые высоким уровнем доносящихся оттуда речей. Но вот в сад прибывает глупец и уровень бесед чуточку падает — или даже не на чуточку, если глупец вмешивается в разговоры с упорством, достойным лучшего применения. (Плохо дело, если глупец изъясняется достаточно внятно — тогда завсегдатаи сада считают себя обязанными ответить, рассеять его заблуждения. И с этого момента глупец безраздельно властвует беседой.)

Сад гниёт и теперь присоединение к его участникам доставляет не так много удовольствия. Он всё ещё полон обитателей, когда-то вложивших усилия в становление сада, но новые люди уже не так охотно приходят сюда. Качество вновь прибывших (если таковые и есть) тоже снижается.

Затем приходит ещё один глупец, и два глупца начинают общаться уже друг с другом, после чего часть старожилов — людей самых высоких требований и с самыми радужными перспективами — уходят…

Я успел застать ныне забытый USENET1, хоть я и был тогда очень молод. Тот пре-интернет пал жертвой Вечного Сентября2 в незапамятные времена. В отличие от тех времён, в современном интернете всегда имеется хоть какой-нибудь способ бороться с нежелательным контентом. В первую очередь дело в спаме — преступлении столь тяжком, что у него не найдётся защитников, и столь распространённом, что никто не может его просто игнорировать — везде просто обязан быть банхаммер3.

Однако, когда дело касается вторжения глупцов, то некоторые сообщества не считают себя способными опуститься до использования банхаммера — ведь это цензура(ужас!).

В конце концов, любой воспитанник мира академической науки в курсе, что цензура считается смертным грехом… внутри огороженных неприступной стеной садов, вход в которые стоит огромных денег, где студенты в страхе ждут оценок от своих преподавателей, а заглянувшим в кабинет уборщицам не позволено открывать рта во время идущего семинара.

Как же легко наивно возмущаться ужасами цензуры, уже живя в холёном саду. Точно также легко наивно восхищаться добродетелью безусловного ненасильственного пацифизма, когда на страже границ твоей страны уже стоят вооружённые солдаты, а покой твоего города охраняет полиция. До тех пор, пока полиция делает свою работу, благочестивость не налагает на вас никаких серьёзных обязательств и не стоит практически никаких усилий.

Однако, в интернет-сообществах нельзя рассчитывать, что полиция сможет делать свою работу и игнорировать вас. Добродетельность сообщества обычно оплачивается им самим.

В самом начале, пока сообщество ещё цветёт, цензура кажется ужасающей и надуманной обузой. Дела пока что идут довольно неплохо. Это просто один глупец, и если мы не способны вынести всего лишь одного глупца, то, видимо, терпимость не входит в список наших сильных сторон. Ну и потом, глупцу ведь может надоесть и он сам уйдёт — нет нужды вводить цензуру. И пускай принадлежность к сообществу приносит уже не так много удовольствия — разве какое-то там банальное удовольствие может быть достаточным оправданием для цензуры(ужас!)? Это ведь всё равно что бить людей, чей внешний вид вам чем-то не понравился.

(Стоит учесть, что решение о вступлении в сообщество принимается исключительно добровольно, и если потенциальному новому участнику не понравится «внешний вид» старожилов, то он просто не захочет вступать).

В конце концов, кто будет цензором? Кому вообще можно доверить такую власть?

Скорее всего, если сад ухожен, то довольно многим. Но если сад хоть чуточку разделён внутри, если в нём есть фракции, если в нём найдутся люди, которые продолжают тусоваться в сообществе и при этом не слишком-то доверяют модератору или другому потенциальному владельцу банхаммера…

(в глазах таких людей внутренняя политика часто представляется чем-то намного более важным, чем какое-то там нашествие варваров)

…то тогда попытка защитить сообщество обычно объявляется попыткой захвата власти. Да как он посмел объявить себя судией и палачом? Он что, считает, что владеть сервером — значит владеть людьми? Владеть нашим сообществом? Он думает, что доступ к управлению исходниками сайта делает его богом?

Должен признаться: долгое время я совершенно не понимал, почему самозащита сообществ постоянно проваливается и считал, что причина кроется в наивности. Мне даже не в приходила в голову мысль о том, что это следствие уравнительского инстинкта, предохраняющего племена от концентрации слишком большого количества власти в руках вождя. «Нет среди нас лучших, все мы боеспособные мужчины — есть у меня свои стрелы» — такая поговорка ходила в каком-то из племён охотников-собирателей (в отличие от шимпанзе, у людей есть «уравнители» — оружие. Похоже, что вожди появились лишь ко времени открытия земледелия — в момент, когда пропала возможность просто взять и покинуть племя).

Возможно, всё потому, что я вырос в тех областях интернета, где всегда был управляющий сервером системный оператор, и потому-то мне кажется естественным считать, что владелец сервера несёт определённую ответственность. Возможно, всё потому, что я интуитивно ощущаю: противоположность цензуры — не университетская подсеть, а анонимный двач(да и у того всё равно есть какие-то способы борьбы со спамом). Возможно, я вырос на том просторе, где единственной важной свободой была свобода выбрать ухоженный сад себе по нраву, и которому по нраву придёшься ты — это всё равно, что найти, наконец, страну с хорошими законами. Возможно, я принимал за должное, что если тебе не нравится местный главный волшебник, то правильно будет просто уйти (такое случилось со мной однажды и я действительно просто взял и ушёл).

А, возможно, потому, что владельцем сервера часто был я. Но я последователен и поддерживаю решения модераторов, даже если внутренняя политика развела нас в разные партии. Уж я-то знаю, к чему приводит, когда онлайн-сообщество начинает сомневаться в собственных модераторах. Если речь идёт о списке почтовой рассылки, то ни один из моих политических врагов, чья популярность действительно может представлять опасность, скорее всего не принадлежит к числу тех, кто станет злоупотреблять цензурой ради власти. Когда такой человек надевает шляпу модератора4, то я его вербально поддерживаю: модераторам требуются поощрения, а не ограничения. Воспитанные в университетской среде люди попросту не осознают, насколько велика толщина стен недопущения, удерживающих троллей за пределами их холёного сада с так называемой «свободой слова».

Если у сообщества действительно есть основания для сомнения в модераторах, если его модераторы в самом деле используют свою власть в личных целях — то, наверное, это сообщество не стоит того, чтобы его спасать. Но, насколько мне известно, такое чаще встречается на словах, и почти никогда — на деле.

В любом случае, озарение касательно эгалитаризма (глубинного стремления не допускать сосредоточения власти в руках одного лидера), убивающего интернет-сообщества, пришло ко мне совсем недавно. Если быть точным, то во время чтения какого-то комментария(не помню, какого именно) на LessWrong.

Но я наблюдал, как это происходит — снова и снова, был одним из участников, подталкивал модераторов и поддерживал все их решения, нравились они мне как люди, или нет. И всё равно, модераторы прилагали недостаточно усилий для того, чтобы предотвратить медленное угасание сообщества. Они были слишком скромны и степень их сомнения в себе была на порядок выше, чем моя степень сомнения в них. Дело происходило в прибежище рационалистов, а третье главное искушение рационалистов — грех недоуверенности.

Такова суть интернета: войти может любой. И любой может выйти. И поэтому в пребывании в интернет-сообществе всегда должно быть удовольствие — без этого сообщество погибнет. Если надеяться до последнего, терпеть до тех пор, пока не столкнёшься с абсолютным, неприкрытым, неопровержимым кошмаром (то есть, вести себя, как ведёт полицейский, прежде чем открыть огонь на поражение), потакать своей совести и добродетелям, взращенным внутри полностью защищённой крепости, и начать действовать лишь в момент полной уверенности в собственной правоте и без страха перед вопрошающими взглядами — в этот момент будет уже слишком поздно.

Я видел, как сообщества рационалистов погибали из-за того, что они слишком мало доверяли своим модераторам.

Но это — не то же самое, что и система кармы.

В случае с системой кармы доверять следует себе.

Мне хочется привести небезызвестную цитату: «Ты можешь не верить в себя. Но поверь в то, что я верю в тебя!»5

Потому что я искренне считаю, что, если ты хочешь минусануть комментарий, который кажется тебе низкокачественным — но всё же ты медлишь, боясь, что на самом деле желание минусануть возникло лишь из-за того, что ты не согласен с его выводом или из-за нелюбви к его автору, переживая из-за того, что кто-то может обвинить тебя в конформизме, бездумном поддакивании или в цензуре(ужас!) — то (я готов поставить на это деньги), как минимум в девяти случаях из десяти этот комментарий действительно будет низкокачественным.

Тебе дана минусовалка. Голосуй, или про-USENET-ишь6.

  • 1. Usenet — созданная в 1980 году компьютерная сеть, действующая до сих пор. Формат общения близок к современному формату списков почтовой рассылки(mailing list). См. https://ru.wikipedia.org/wiki/Usenet — Здесь и далее примечания переводчика.
  • 2. Usenet был в основном университетской сетью и новые пользователи, незнакомые с принятым ней этикетом, обычно добавлялись в начале учебного года. Когда в 1993 году Usenet стал доступен для всех пользователей интернета без ограничения, старожили заметили существенное и нескончаемое падение уровня дискуссий — наступил вечный сентябрь. См. https://ru.wikipedia.org/wiki/Вечный_сентябрь
  • 3. Банхаммер — сленговое название инструмента модерации, позволяющее администраторам запрещать пользователю создавать новый контент, т.е., банить его.
  • 4. «Надеть шляпу X» — психологический приём, помогающий сфокусироваться в определённый момент времени на желаемых качествах X при размышлении или разговоре. См. https://ru.wikipedia.org/wiki/Шестьшляпмышления
  • 5. Неточная цитата из аниме Gurren Lagann, см. https://www.cbr.com/gurren-lagann-anime-best-quotes/
  • 6. В оригинале игра слов: «Use it or USENET»

Перевод: 
BT, kmeneusdomi, ildaar
Оцените качество перевода: 
Средняя оценка: 4.2 (52 votes)
  • Короткая ссылка сюда: lesswrong.ru/132