Пацифизм губит ухоженные сады

Элиезер Юдковский

Основная причина гибели хороших интернет-сообществ — отказ от самозащиты.

Где-нибудь в необъятных недрах интернета найдётся место, где это происходит прямо сейчас. Когда-то это был чистый ухоженный сад интеллектуальных бесед, куда приходили образованные и заинтересованные люди, привлечённые высоким уровнем доносящихся оттуда речей. Но в сад прибывает глупец, и уровень бесед чуточку падает — или даже не на чуточку, если глупец вмешивается в разговоры с достойной лучшего плодовитостью. Сад вянет ещё сильнее, если глупец вежлив и слова его понятны; тогда жители сада связаны обязательством ответить, и тогда глупец начинает захватывать беседы.

И сад начинает гнить, и поэтому в нём уже не так весело играть; привыкшие к саду давние гости не покидают его, но новые люди уже не так охотно приходят сюда. Качество же новоприбывших тоже чуточку снижается.

Затем приходит ещё один глупец, и два глупца начинают говорить друг с другом, и после этого некоторые старожилы — люди самих высоких требований и самих радужных перспектив — покидают сад в поисках лучшей доли где-нибудь там, за горизонтом…

Я успел застать ныне забытый USENET, хоть я и был тогда очень молод. Тот первый интернет пал жертвой Вечного Сентября в незапамятные времена; в сегодняшнем же интернете всегда имеется какой-нибудь способ бороться с нежелательными сообщениями или посетителями. Скорее всего, причиной этому служит спам: бедствие столь вопиющее, что никто его не защищает, и столь обширное, что никто не может его просто игнорировать — так что где-то должен быть банхаммер.

Но некоторые сообщества не хотят опускаться до использования банхаммера, если речь идёт о вторжении глупцов. Они слишком добры, чтобы становиться кошмарными цензорами.

В конце концов, любой воспитанник мира университетской науки знает, что цензура — смертный грех. Смертный грех внутри этих огороженных неприступной стеной садов, вход в которые стоит больших денег и значительных усилий, где студентов волнует мнение своих профессоров, и упаси боже, если вахтёр осмелится открыть рот во время конференции.

Легко наивно возмущаться ужасами цензуры, уже живя в холёном саду. Точно также легко наивно восхищаться добродетелью безусловного ненасильственного пацифизма, когда на страже границ твоей страны уже стоят вооружённые солдаты, а покой твоего города охраняет полиция. До тех пор, пока полиция выполняет свою работу, благочестивость не налагает на тебя никаких серьёзных обязательств и не стоит практически никаких усилий.

Особенность интернет-сообществ, однако, состоит в том, что уже нельзя понадеяться на то, что полиция пропустит благородные лозунги мимо ушей и продолжит исполнять свою работу. Сообществу приходится платить за доброту и всепрощение.

В самом начале, когда сообщество ещё цветёт, цензура кажется ужасающей и излишней мерой. Всё ещё довольно неплохо. Это всего лишь один глупец, и если мы не можем вынести одного глупца, то, гм, терпимость и понимание явно не относятся к числу наших сильных сторон. Глупец может уйти и сам по себе, нет нужды паниковать и вводить цензуру. И пусть участвовать в жизни сообщества стало не так весело — разве какое-то банальное веселье может быть внятным оправданием кошмаров цензуры? Это словно считать, что можно избить человека, если тебе не понравилось, как он на тебя посмотрел.

(Это не очень хорошая аналогия: вступление в сообщество — процесс полностью добровольный, и если многообещающего нового участника насторожит то, как на него смотрят, то он просто не будет вступать в сообщество)

И в конце концов, кто будет цензором? Кому в принципе можно доверить такую власть?

Если сад ухожен, то, скорее всего, довольно многим. Но если сад хоть чуточку разделён внутри, если в нём есть фракции, если в нём найдутся люди, не слишком доверяющие потенциальному носителю банхаммера…

(в глазах таких людей внутренняя политика часто представляется чем-то намного более важным, чем какое-то там нашествие варваров)

…то тогда попытка защитить сообщество обычно объявляется попыткой государственного переворота. Как он посмел объявить себя судией и палачом? Он что, думает, что владеть сервером — значит владеть людьми? Владеть нашим сообществом? Он считает, что возможность редактирования исходников делает его богом?

Должен признаться: долгое время я не понимал, почему предложение о защите встречает такой отпор (я считал, что причина — наивность и больше ничего). Мысль о том, что это последствия инстинкта эгалитаризма, не дающего вождям сосредоточить слишком много власти в своих руках. «Среди нас нет лучших, все мы мужчины, способные сражаться; я принесу свой лук и стрелы» — такая поговорка ходила в одном племени охотников-собирателей (в отличие от шимпанзе, у людей есть «уравнители»: оружие, способное убивать быстро и с расстояния. Похоже, что вожди появились лишь ко времени развития земледелия, когда усложнившаяся жизнь уже не позволяла просто взять и покинуть племя).

Возможно, всё потому, что я вырос в тех областях интернета, где всегда был сисоп, и поэтому мне кажется естественным считать, что владелец сервера несёт определённую ответственность. Возможно, всё потому, что я интуитивно ощущаю: противоположность цензуры — не академия, а двач (да и у того всё равно есть какие-то механизмы для борьбы со спамом). Возможно, я вырос на том просторном пустыре, где главной и единственной важной свободой была свобода выбора того ухоженного сада, который был тебе по нраву, и которому по нраву был ты; на пустыре, дышащим мечтой о поиске страны с хорошими законами. Возможно, я принимал за должное то, что если тебе не нравится местный архиволшебник, то правильным решением будет просто уйти (такое случилось со мной однажды; и я действительно просто взял и ушёл).

А, возможно, потому, что владельцем сервера часто был я. Но я играю честно, поддерживая модераторов даже тогда, когда мы расходимся во взглядах касательно внутренней политики. Я знаю, что происходит, когда сообщество начинает сомневаться в своих модераторах. Любой мой политический враг (если его популярность позволяет ему быть опасным), скорее всего не принадлежит к числу людей, могущих злоупотреблять получаемой вместе с титулом модератора властью (по крайней мере, для конкретно этих целей); и когда он надевает костюм модератора, я громогласно его поддерживаю: его нужно подгонять, а не останавливать. Выросшие в академии люди попросту не осознают, насколько велика толщина стен недопущения, удерживающих троллей снаружи их холёного сада так называемой «гласности».

Если у сообщества действительно есть основания для сомнения в модераторах, если его модераторы в самом деле используют свою власть в личных целях — то, наверное, это сообщество не стоит того, чтобы его спасать. Но это, как правило, встречается лишь на словах, и почти никогда — на деле, насколько мне известно.

В любом случае, озарение касательно эгалитаризма (глубинного стремления не допустить, чтобы лидер осуществлял слишком много власти), убивающего интернет-сообщества, пришло ко мне совсем недавно. Во время чтения какого-то комментария на LessWrong’е (я не помню, какого именно), если быть точным.

Но я это наблюдал. Снова и снова, одним из участников этой пьесы был я, подталкивающий модераторов и поддерживающий все их решения, нравились ли они мне как люди, или нет; и всё равно, модераторы боялись сделать то, что могло бы предотвратить медленное разложение. Они были слишком скромны и степень их сомнения в себе была на порядок выше, чем моя степень сомнения в них. Дело происходило в прибежище рационалистов, а третье главное искушение рационалистов — грех недоуверенности (English).

Такова суть интернета: войти может любой. И любой может выйти. И поэтому в интернет-сообществе должно быть весело, ведь иначе оно погибнет. Если ты будешь ждать до последнего, ждать до тех пор, пока не увидишь абсолютный, неоспоримый, вопиющий кошмар — ждать столько, сколько бы ждал полицейский-офицер перед тем, как открыть огонь — потакать своей совести и добродетелям, усвоенным внутри огороженной стеной крепости, и начнёшь действовать лишь тогда, когда ты будешь уверен в своей правоте и не будешь бояться вопрошающих взглядов — то в момент принятия мер будет уже поздно.

Я видел, как сообщества рационалистов умирали из-за того, что они слишком мало доверяли своим модераторам.

Но это — не то же самое, что и система кармы, на самом деле.

Если речь идёт о системе кармы, то доверять нужно себе.

Мне хочется привести небезызвестную цитату: «Ты можешь не верить в себя. Но поверь в меня, того, кто верит в тебя!»

Потому что я действительно и без шуток думаю, что, если ты хочешь минусануть комментарий, который кажется тебе низкокачественным — но всё же ты медлишь, боясь, что на самом деле желание минусануть возникло лишь из-за того, что ты не согласен с заключением или недолюбливаешь автора, нервничая из-за того, что кто-то может обвинить тебя в конформизме, бездумном поддакивании или (о ужас!) в осуществлении цензуры — то, я уверен, как минимум в девяти случаях из десяти этот комментарий действительно будет низкокачественным.

У тебя есть минусовалка. Используй её. Или USENET.

Перевод: 

BT, kmeneusdomi
  • Короткая ссылка сюда: lesswrong.ru/132