Умение объяснять как "режим провала"

[Alaric]

Решил вынести сюда ответ на сообщение в дискуссии про ГМО

Принципы существования корпораций предложенные мною вы отмели по причине того, что вы не видите никаких доступных инструментальных выводов из них. Кстати это очень интересная позиция для троллинга.

С моей точки зрения, очень частый "режим провала" многих участников LеssWrong'а (во всяком случае российского), а также многих людей, считающих (как правило, вполне обосновано) себя интеллектуалами - это умение всё объяснять. Умение грамотно разложить по полочкам, почему всё идёт именно так, как идёт. Ну и облить элегантным презрением всех тех, кто этого не понимает. (На всякий случай скажу, что я не выделяю самого себя из этого же ряда).

"Режимом провала" я это называю потому, что на практике, как правило, пользы от этого никакой нет. Наше умение объяснять, почему всё идёт именно так, как идёт, ничуть не помогает нам предсказать, что будет завтра или через год. И уж тем более оно не даёт нам возможности что-то взять и изменить - более того, мы успешно можем найти огромное количество объяснений, почему мы ничего и никогда не изменим. В итоге мир изменит кто-нибудь другой.

Канеман в своей книге упоминает исследование Филиппа Тетлока, который много лет просил политических экспертов делать прогнозы и в в итоге обнаружил, что даже генератор случайных чисел справился бы с прогнозами лучше. Но они прекрасно могли объяснить, почему они дают такой прогноз, и не менее прекрасно могли объяснить, почему он не сбылся. Возникает вопрос: чем мы лучше тех самых экспертов? Нам, в отличие от них, за умение объяснять даже денег не платят.

Можно, конечно, сказать, что пока мы лишь учимся эпистемологической рациональности, а когда научимся, мы её возьмём, применим и все ещё позавидуют. И вообще, перед тем, как что-то менять, надо сначала понять как. Но возникает естественный вопрос: а когда придёт это понимание? Есть какая-то надежда, что это произойдёт раньше, чем "слишком поздно" или "никогда"?

Собственно, примерно поэтому я последнее время пытался в дискуссиях спрашивать о практической пользе, фальсифицирующих утверждениях и прочих подобных вещах. Но, увы, я сам слишком легко втягиваюсь в режим "в интернете кто-то не прав", поэтому результат... очень мягко говоря, "не очень".

Однако, с моей точки зрения, если мы не научимся делать каких-то практических выводов из наших дискуссий, все эти дискуссии будут совершенно бессмысленны. (И, кстати, я замечаю, что люди, которые что-то делают - переводят тексты, скажем, или организовывают встречи - на форуме пишут всё меньше и меньше. Что тоже наталкивает на печальные мысли.)

[kuuff]

Я понять не могу, как мне на это реагировать. Доказывать, что моё неприятие корпораций имеет практические последствия? Рассказывать о том, что я не пользуюсь вендовсом со времён XP, да и с XP я знаком лишь потому, что был вынужден по работе её использовать десять лет тому назад? Или о том, как я, собравшись что-либо приобрести, выискиваю такие варианты, которые менее всего играют на руку БОЛЬШИМ корпорациям и по возможности работают в пользу мелких предприятий, а ещё лучше в пользу местных -- тех которые с точки зрения административного деления нашей родины как можно ближе ко мне располагаются? Что по-возможности я закупаюсь в мелких магазинчиках, и вообще все услуги стараюсь брать опять же в мелких компаниях, избегая сетевых супермаркетов/магазинов/оптик/парикмахерских/...? Что я сменил провайдера интернета, когда тот, услугами которого я пользовался десять лет, приблизился к статусу монополиста в моём регионе?
Это вас убедит в том, что эпистемиология служит инструментальным целям? Или, поскольку принимаемые мною решения не приводят к заметным экономическим эффектам масштаба страны, то вы сделаете вывод, что моя эпистемиология бессмысленна? А если бессмысленна, то что вы предлагаете? Прекратить обсуждения того, что корпорации зло лишь потому, что мы не можем придумать, что с этим делать?

[Skywrath]

Если мы не научимся делать каких-то практических выводов из наших дискуссий.

Выводы делаются, причём постоянно. Конечно, их никто не фиксирует, но это проблема используемого нами формата и её можно было бы избежать, если бы кто-то действительно хотел её решить. Ценность этих выводов - вопрос субъективный, да и цели участников вовсе не обязаны совпадать. Я бы не стал проходиться по выводам и объяснениям бритвой практичной ценности по той причине, что это лишает обсуждение смысла и отбрасывает полученные в нём результаты. Если вы можете построить фальсифицируемую теорию - это прекрасно направление развитие мысли, но если нет, то это ещё не повод автоматически отбрасывать всё то, к чему пришли участники. С этим тоже можно работать, особенно, когда нет ничего больше.

[Alaric]

kuuff
1. На самом деле, об этом вопросе я размышлял задолго до вчерашнего дня, и просто так получилось, что вчерашняя-позавчерашняя дискуссия стала "последней каплей" для создания этой темы. Не считайте, что стартовое сообщение обращено исключительно лично к вам.
2. Я считаю, что любой человек вправе иметь любые терминальные ценности, в смысле, если кто-то хочет посвятить свою жизнь, в частности, борьбе с корпорациями, это его личное дело. Однако же, никто не обязан разделять чужие терминальные ценности, более того, обнаружение некоторых терминальных ценностей у другого человека вполне может быть поводом относиться к нему... ну, скажем, с осторожностью.
Я признаю, что вы убедили меня, что ваши убеждения по поводу корпораций влияют на ваши действия. И да, я признаю, что это некоторое свидетельство в пользу этих убеждений. Я не буду в рамках этой темы оценивать, насколько сильное это свидетельство.

Skywrath

Выводы делаются, причём постоянно.

Практические? А можно примеров?

[Alaric]

Я, наверное, неправильно выразился.
Меня интересуют примеры "Благодаря тому, что я читал/писал на форуме, я теперь поступаю вот так, а если бы я его не читал, то делал бы по-другому." (Лучше бы, конечно, чтобы читателям было очевидно, что "по-другому" было бы хуже, но в принципе и без того сойдёт.)

Про Slack-чат и любую другую деятельность нынешнего российского LessWrong-сообщества я скажу следующее. Сейчас в российском сообществе что-то делают настолько мало народу, что любое "действие" может стать "стандартом" для сообщества. Вам не нравятся те "стандарты", которые получаются? Делайте сами. Организовывайте других, чтобы они сделали. Нужно сделать ещё очень многое. Да, извините, я понимаю, что это очень грубо. Но других слов у меня про это нет.

Более подробное обсуждение Slack-чата лучше вести в соответствующей теме, но оно будет заведомо бессмысленным. Что-либо изменить сейчас в этом плане можно, лишь создав свой альтернативный чат и организовав там активность привлекательную для критической массы людей.

[a_konst]

Простите, а что такое "режим провала"?
догадываться по контексту не хочется (можно нафантазировать лишнего), а поиск на lesswrong.ru ничего не дал.

[Alaric]

Простите, а что такое "режим провала"?

Скорее всего, в данном контексте, не слишком удачно применённое мной словосочетание
Означает некоторое состояние, в котором человек занимается какой-то деятельностью, но эта деятельность не приводит к достижению каких-либо целей. Да, некорректно "умение" называть "режимом провала", "режим провала" - это эксплуатация этого умения.

[Quilfe]

C другой стороны, у людей вообще (не рационалистов) есть склонность сразу думать, что делать, а не собирать больше информации, редко возникает чувство, что сама модель, как что-то происходит, неполна, и нужно еще провести чисто эпистемическую работу. Возможно, чрезмерное зависание на эпистемическом слое у условных рационалистов - гиперреакция.

[a_konst]

Мне кажется, то, что имел ввиду Alaric как "режим провала" - имитация информационной работы при отсутствии каких-то конструктивных действий и результатов - может иногда объясняться нерешительностью и склонностью сомневаться, откладывая неприятные для себя решения. Об этом думал Гарри, размышляя над фразой как раз "hesitation is easy, rarely useful" (как-то так, по памяти).

[Alaric]

Вопрос о том, кто же виноват в slack-чате и почему, переехал в отдельную тему.

В силу невозможности делить сообщения в соседнюю тему улетело сообщение kuuff'а, в котором он писал следующее:

Я, наверное, неправильно выразился.
Меня интересуют примеры "Благодаря тому, что я читал/писал на форуме, я теперь поступаю вот так, а если бы я его не читал, то делал бы по-другому." (Лучше бы, конечно, чтобы читателям было очевидно, что "по-другому" было бы хуже, но в принципе и без того сойдёт.)

Я изменил своё мнение о ГМО. И теперь я не учитываю критерий ГМО/не-ГМО при выборе товара в магазине. Это сойдёт за пример?

[kuuff]

На самом деле, умение объявлять умение объяснять режимом провала -- это может быть само по себе режим провала.

Я несколько дней наблюдаю топик, в котором был задан вопрос о том, как форум изменил моё поведение. И вижу я там молчание. Вообще молчание, нет даже одной какой-нибудь робкой попытки сказать, что форум что-либо изменил. Почему так происходит? За кого-то ещё я не могу говорить, но за себя -- вполне. И мой ответ на на поставленный в топике вопрос, будет отсутствием ответа: я не могу ответить, поскольку у меня недостаточно данных.

Проблему с поиском ответа я могу продемонстрировать уравнением: пускай мы знаем, что x₁+x₂+...+x_n=3.1456. Вопрос: как повлиял x_k на наблюдаемый результат? А мы не можем ответить, потому что данных недостаточно.

Если я десять лет эпизодически предпринимал попытки бросить курить и, в конечном итоге бросил, причём идея для последней попытки была мною рождена в процессе написания комментария на форуме lesswrong, то (вопрос) повлиял ли форум lesswrong, на то, что я бросил курить? Если бы я не сидел на форуме -- родил бы я эту идею? Или может быть я бросил бы курить и без той идеи? Я не знаю ответа на эти вопросы. Мне кажется, что если рациональность и повлияла на то, что я бросил, то скорее эмоциональным путём, через растущее противоречие: что за хня такая творится, когда имея рациональное решение не курить, я вставляю в зубы сигарету и прикуриваю. Само по себе противоречие решило проблему курения, а не какие-то рациональные техники и, возможно, даже не та идея о том, что и как происходит в моей голове, когда я закуриваю. Хотя тогда -- да, тогда мне казалось, что именно общение на форуме, и именно рациональные рассуждения привели к успеху в отказе от курения. (Кстати я сейчас думаю, и начинаю предполагать, что это может такое когнитивное искажение, которое приводит к тому, что я объясняю изменения своей личности действиями своей личности, а не внешних причин.)

Нам приходится иногда строить объяснительные конструкции, которые непроверяемы эмпирически. При этом формально они могут быть фальсифицируемыми, но реально непроверяемыми. Как, например, моё объяснение тому, как и почему я бросил курить. Как, например, моё решение пойти получать в/о -- я не могу в точности ответить, что и в какой мере повлияло на принятие этого решения. Да, я взвешивал плюсы и минусы, выбирал куда пойти учиться, но всё это было уже после того, как я принял решение. Была вероятность, что я, взвешивая плюсы и минусы, откажусь от решения, но для того, чтобы начать взвешивать, надо было серьёзно озаботиться идеей. Что привело к тому, что я серьёзно озаботился идеей? Моя увлечённость рациональностью и вопросами познания, или общение на форуме, или может то, что мне родители в детстве вколотили в голову, что я просто обязан получить в/о? Я не знаю ответа на этот вопрос.

Моё видение социума, экономики, в том числе и на самом глобальном уровне -- оно тоже непроверяемо. Потому что оно объясняет то, что есть сейчас, оно даёт возможность делать какие-то предсказания, но реально их проверить не удастся.
Во-первых, потому что невозможно поставить эксперимент: мы не можем взять и поварьировать какой-то параметр x, чтобы посмотреть, что будет при x=x₀, а что будет при x=x₁. Для этого, особенно если речь идёт о глобальных политических/экономических процессах, надо уметь создавать альтернативные Вселенные, которые в целом будут клонами нашей, но с небольшими и очень точно дозированными модификациями. А если мы не умеем, то мы можем только наблюдать. А наблюдение, как метод научного познания, ущербно в корне, потому что в лучшем случае оно позволит вскрыть корреляции между параметрами, но причинно-следственную связь -- никогда. Исследователь должен проявлять активность, для того, чтобы выявлять причинно-следственную связь. (Если по-честному, то есть ещё квазиэксперименты, но с ними свои проблемы)
Во-вторых, потому что в мире нет чистых ситуаций. Нет абсолютной монополии. Нет хорошей чистой поэтапной экономики, где сырьё перерабатывается в промежуточный продукт, уходит на следующий этап, где опять как-то перерабатывается, и так этап за этапом, пока не дойдёт до потребителя. То есть та модель, которую я нарисовал где-то в каком-то из топиков (я уже запутался в каком именно), заведомо -- сферический конь в вакууме, мы можем только предполагать, будет ли она работать или нет. Хуже того, у нас не может быть двух одинаковых ситуаций, скажем двух одинаковых групп людей, и как раз поэтому квазиэксперимент тоже не спасает.
В-третьих, даже доминирующие модели экономики/социологии обладают теми же недостатками, что и мои измышления. Но с ними забавнее выходит, потому что будучи доминирующими моделями они влияют на реальность и изменяют её, и таким образом они подстраиваются под реальность, а реальность под них. Но всё настолько забавно, что мы даже не можем проверить, будет ли этот процесс сходиться к какой-то точке или нет.
В-четвёртых, если физические законы стабильны, то законы социума меняются со временем. В смысле не юридические (хотя и они тоже), а общие закономерности развития социума. И не только потому, что более сложные правила возникают, но и потому, что человек становится иным. Содержимое черепа меняется, и изменяются не только знания лежащие там, но и способы видеть мир и думать о нём.

И, конечно же, очень-очень плохо то, что мы не всегда можем построить теорию, которая была бы научным знанием, в смысле удовлетворения всяким разным критериям научности. Потому что задним числом объяснять мы все горазды. Мы можем объяснить всё что угодно, но предсказывать будущее гораздо сложнее. И объяснительные конструкции не очень помогают объяснять будущее в силу своей малой достоверности и в силу того, что как правило они игнорируют множество факторов.

Так вот. Такая ситуация. И у нас есть выбор: либо отказаться от построения такого рода объяснительных конструкций, пойдя наперекор принципам научного познания, либо всё же строить эти конструкции. И я выбираю, как вы вероятно уже догадались, построение этих конструкций. Дело в том, что объяснительные конструкции позволяют видеть. Если у познающего агента нет каких-то априорных ожиданий о том, что он хочет увидеть, то он не увидит ничего. Если у учёного нет теории, которую он хочет подтвердить или опровергнуть, то он не сможет поставить осмысленного эксперимента. А если он поставит хоть какой-нибудь эксперимент, то он не увидит даже самого важного. Тут мне очень нравится пример с исследователями электричества, которые не замечали того, что статическое электричество работает ограниченное время, что бумажки прилипшие к эбонитовой палочке через некоторое время самопроизвольно спадают с неё. Это было ключевым фактом для объяснения статического электричества, но учёные этого не заметили, они не описывали это в отчётах о своих экспериментах. И только когда появилось объяснение...
Очень важно иметь какую-то "теорию", и неверная теория лучше отсутствия теории. Объяснительная конструкция лучше, чем неупорядоченный набор фактов. Потому что некоторые факты не будут существовать, если не будет этой объяснительной конструкции. Теоретически, вообще никакие факты не будут существовать, если не будет объяснительной конструкции, но практически это не совсем так, потому что даже если у нас нет никаких объяснительных конструкций для социума, мы всё же можем коллекционировать факты об отдельных людях. Но для того, чтобы записать факт вооружённого столкновения между двумя группами, нам уже понадобиться термин "вооружённое столкновение", а значит у нас уже должны быть какие-то зачатки теории, стоящей за социумом.

[Alaric]

kuuff

Нам приходится иногда строить объяснительные конструкции, которые непроверяемы эмпирически. При этом формально они могут быть фальсифицируемыми, но реально непроверяемыми.

Моя основная претензия относится к этому фрагменту. Зачем нам строить теорию, которая не проверяема эмпирически? Допустим, мы её построили. Почему нам с ней лучше, чем без неё?
Убеждения должны окупаться предсказаниями. Если теория не позволяет в принципе нам сделать никаких проверяемых предсказаний, зачем она нам?

Как, например, моё объяснение тому, как и почему я бросил курить. Как, например, моё решение пойти получать в/о -- я не могу в точности ответить, что и в какой мере повлияло на принятие этого решения.

А почему это важно? (Дисклеймер: этот вопрос ни в коем случае не попытка заявить, что это не важно. Это вопрос, на который я действительно не вижу ответа.)

Если я десять лет эпизодически предпринимал попытки бросить курить и, в конечном итоге бросил, причём идея для последней попытки была мною рождена в процессе написания комментария на форуме lesswrong, то (вопрос) повлиял ли форум lesswrong, на то, что я бросил курить? Если бы я не сидел на форуме -- родил бы я эту идею? Или может быть я бросил бы курить и без той идеи?

Впрочем, здесь я могу сказать, что если человек десять лет не мог бросить курить, но видит очевидную связь между посещением форума и тем, что он бросил курить, то, как мне представляется, более вероятно, что форум всё-таки повлиял.

(На самом деле, в обозримом будущем можно даже начать проверять подобные гипотезы, включая, например, в опросники LW вопрос о том, курили ли вы до прихода на LW и бросили ли вы курить после? И соответственно, сравнивать процент бросивших со средним по популяции. Дальше рекламировать LW как лучшее средство бросить курить )

Короче говоря, я не против построения теорий. Я против построения теорий, которые непонятно как проверять, и для которых идеи проверки в принципе не приходят в голову. Потому что, на самом деле, построение теорий тоже требует времени и ресурсов. И, возможно, стоит потратить это время эффективней.

[kuuff]

kuuffМоя основная претензия относится к этому фрагменту. Зачем нам строить теорию, которая не проверяема эмпирически? Допустим, мы её построили. Почему нам с ней лучше, чем без неё?
Убеждения должны окупаться предсказаниями. Если теория не позволяет в принципе нам сделать никаких проверяемых предсказаний, зачем она нам?

1. Мы видим через призму теории. Если у нас нет теории, мы не видим.
2. Мы помним то, что логически связано, просто множество фактов запомнить резко сложнее. Теория, даже неверная, служит связкой.

Если у нас нет теории о том, что корпорация -- это зло, то мы будем видеть факты свидетельствующие в пользу того, что корпорации -- это зло, мы будем видеть факты свидетельствующие в пользу того, что корпорации -- это добро, но мы не будем замечать этих фактов. Они будут отсеиваться на ранних этапах обработки как случайный шум. То есть, даже мысли не возникнет о том, что эти факты можно как-то предсказывать. Если же мы имеем теорию о том, что корпорации -- это зло, но получаем свидетельства и тому, и другому, то что происходит? Мы начинаем думать о том, что корпорация оказывается добром в каких-то исключительных случаях, и надо бы обозначить границы этих случаев, а для этого мы начинаем обращать пристальное внимание на все такие случаи. Мы создадим объяснительную конструкцию, которая будет объяснять почему это любая корпорация оказывается плохой, и почему она всё же делает что-то хорошее. Эта объяснительная конструкция породит большее количество наблюдений, большее количество фактов, которые мы выделим из реальности, наблюдая за ней.

И, кстати, это касается и вас тоже: исповедуете ли вы теорию, или не исповедуете, но пройдя через накал спора о полезности корпораций, вы будете замечать все те факты, которые подтверждают вашу точку зрения в споре. Практика прикладной рациональности поможет вам замечать также те факты, которые противоречат вашей точке зрения.

А почему это важно? (Дисклеймер: этот вопрос ни в коем случае не попытка заявить, что это не важно. Это вопрос, на который я действительно не вижу ответа.)

А важно это потому, что... ну, во-первых, вы где-то тут на форуме задали вопрос, зачем посетители форума посещают форум, и изменил ли форум что-нибудь в их жизни. Я честно попытался ответить, и честно признал, что не знаю. Во-вторых, я наблюдаю за собой, и строю теории о себе для того, чтобы иметь возможность лучше управлять собой. И даже если построенные мною теории будут обладать нулевой предсказательной силой, в процессе их построения я проведу множество наблюдений, соберу гору фактов, и обдумаю их со всех сторон. Собирая их то так, то эдак. Когда придёт время принимать какое-либо решение относительно себя, я буду лучше понимать происходящее.

Впрочем, здесь я могу сказать, что если человек десять лет не мог бросить курить, но видит очевидную связь между посещением форума и тем, что он бросил курить, то, как мне представляется, более вероятно, что форум всё-таки повлиял.
(На самом деле, в обозримом будущем можно даже начать проверять подобные гипотезы, включая, например, в опросники LW вопрос о том, курили ли вы до прихода на LW и бросили ли вы курить после? И соответственно, сравнивать процент бросивших со средним по популяции. Дальше рекламировать LW как лучшее средство бросить курить )

Эта связь может быть только во времени. В данной ситуации нельзя говорить о причинно-следственной связи. Во-первых, (в моём случае), потому что единичный случай, во-вторых, потому что даже если бы случаев было много, то это корреляция, а не причинно-следственная связь. Да и я сильно сомневаюсь, что мой случай удастся обобщить. Я вообще склонен скорее разделять точку зрения, что методики избавления от наркотической зависимости не важны, потому что бросит человек или не бросит зависит от того, насколько он сам готов бросить. Сама методика же скорее работает как повод, не было бы её, нашёлся бы другой повод. Во-всяком случае, если я возьму случайного курильщика и изложу ему в подробностях свой опыт бросания, то я буду ожидать не более 5% вероятности успеха в течение года. Но даже это я проверить не могу, потому что я не знаю как взять случайного курильщика и начать ему промывать мозги своим опытом так, чтобы он не воспринял бы это в штыки, как попытку учить его, как ему надо жить.

Короче говоря, я не против построения теорий. Я против построения теорий, которые непонятно как проверять, и для которых идеи проверки в принципе не приходят в голову. Потому что, на самом деле, построение теорий тоже требует времени и ресурсов. И, возможно, стоит потратить это время эффективней.

Построение теорий -- это единственный метод познания. Точнее нет, есть ещё имплицитное научение, когда человеку дают поиграть в простенькую игрушку управления фабрикой, в которой запрятана неочевидная зависимость между количеством работников на фабрике и объёмом произведённой продукции, человек через несколько десятков проб начинает успешно управлять, но сам не знает как у него это получается. И объяснить эту неочевидную зависимость он не может. У него вообще идей нет. Это ведь тоже познание, своего рода, но...

У меня в голове идея о том, что корпорации -- зло, появилась из наблюдений за корпорациями. Но она не висящая в воздухе идея, а часть большой конструкции, которая включает в себя все мои познания о социуме, экономике, политике... Всё что я знаю о том, как функционирует государство, как оно должно функционировать в теории, и как получается на практике -- это всё там. Как функционирует коммерческая организация, как она должна функционировать в теории, и как она функционирует на практике. Как работают системы копирайтов и патентов, в теории и на практике. Как работает "невидимая рука рынка" в теории и на практике. Вся эта конструкция -- часть моего мировоззрения, и в неё укладываются все факты, с которыми я сталкиваюсь. Эта же конструкция позволяет мне видеть факты, вычленять их из информационного шума, и даже целенаправленно искать факты.

И да, вся эта большая конструкция серьёзно порушится, ежели вдруг выяснится, что корпорация -- это хорошо. Порушится не только та часть, которая про корпорации говорит, но вероятно вообще всё. Скажем, если оценивать разнообразные модели управления -- централизованную, иерархическую с делегацией широкого спектра свободы принятия решений на перефирию, децентрализованную -- то у меня есть вполне определённое понимание, когда и для чего лучше применять ту или иную модель. И ежели мы скажем, что корпорация -- это добро, то мне придётся пересматривать все модели управления, с тем чтобы заново сформулировать правила, говорящие о том, что хорошо, а что плохо.
Я боюсь увести разговор в сторону, но я мог бы здесь попытаться сравнить эти разные модели управления, разбирая примеры и выводы из примеров. Суть не в моделях управления, суть в том, что в моей голове любая проблема имеет ещё одну грань: модель управления. Таких граней множество. И эти грани существуют только благодаря тому, что у меня есть в голове какие-то "теории", которые заявляют существование важных закономерностей.
Да, это резко усложняет процесс мышления. Но это повышает точность результата мышления, потому что я могу посмотреть на проблему с большего количества точек зрения. Потому что эти точки зрения созданы в моей голове, а созданы они потому, что у меня была теория, позволявшая коллекционировать факты, которые легли в фундаменты этих точек зрения.

Я искренне верю, что экономическая теория Адама Смита -- туфта. Но и тем не менее я смотрю через неё как через призму на реальность. Я искренне верю, что психологическая теория Фрейда -- туфта, но и тем не менее я смотрю сквозь неё на поведение людей. С корпорациями же -- я не вижу почему бы моей теории не быть истинной. В том смысле, что я не могу показать, что она не верна. Что делает взгляд через неё более значимым, но и только.
То, что рассказывает Юдковский, об окупаемости убеждений, выборе теории -- это хорошо конечно, но это не работает в действительно сложных случаях. Это работает в физике, потому что Вселенная устроена на удивление просто. Но это не работает, когда мы начинаем говорить о психологии, социологии, политологии, экономике и прочих науках, которые исследуют реально сложные явления. Потому что в этой сфере есть выбор: либо жить без теории, либо исповедовать неверную теорию. Хотя есть ещё третья альтернатива: исповедовать много неверных теорий. Проблема в том, что нет ни одной верной теории, про любую теорию либо доказано, что она неверна, либо не доказано, но она нефальсифицируема.

[anagor1]

Возникает вопрос: чем мы лучше тех самых экспертов? Нам, в отличие от них, за умение объяснять даже денег не платят.

Возможно, именно этим и лучше. Наши мотивы разнообразнее.

Я считаю, что любой человек вправе иметь любые терминальные ценности, в смысле, если кто-то хочет посвятить свою жизнь, в частности, борьбе с корпорациями, это его личное дело. Однако же, никто не обязан разделять чужие терминальные ценности, более того, обнаружение некоторых терминальных ценностей у другого человека вполне может быть поводом относиться к нему... ну, скажем, с осторожностью.

У человека - может. Потому что базовые термины влияют на поведение. От человека, искренне желающего "спасти Россию" и точно знающего, как это сделать, лучше держаться подальше. Для виртуального форумного персонажа - нет, потому что всё поведение сводится к производству дискурса, основанного на этих ценностях. Оно не опасно. Наоборот, интересно (и это мощный мотив взамен денег) само выявление этих ценностей. Оно помогает внутреннему (экзистенциальному) пониманию, что "кроме меня есть другие" - и тоже в конечном счете влияет на поведение.

Мне кажется, что вопрос, прозвучавший в данной теме, не следует сводить к некоей конкретной практической пользе типа "заработать больше денег". Способность делать более точные предсказания - не единственная ценность в жизни. Боюсь, никогда нельзя будет установить прямой связи "прочитал форум - пошел и сделал". Но косвенное влияние есть всегда, потому что мои поступки, и даже поступки самого завзятого рационалиста, определяются не только существующими в голове стройно сформулированными теориями, но и всей сложнейшей системой моих отношений к различным феноменам моего бытия, на 99% неосознанных.

Поэтому вопрос "о пользе", во первых, следует развернуть в субъективную плоскость "о пользе для меня", во-вторых, переформулировать примерно так: "А зачем я трачу время, мой самый ценный и возобновляемый ресурс, на чтение и тем более на написание каких-то комментариев?" Ответы будут разные. kuuff, по сути, свой ответ ниже выразил. Попробую кратко объяснить и за себя, поскольку, конечно же, не раз задумывался.
1. Графоманская мотивация. Я люблю писать. Вот люблю, и всё тут. Я получаю эстетическое удовольствие, когда мне удается связно выразить вербально какое-то ощущение. Это любовь необорима и оказывает совершенно явное влияние на мою судьбу.
2. Гносеологическая-1. Надо мной всегда смеялись: "Он думает языком". Полагаю, это не только про меня. Формулируя некую концепция словами - лучше ее понимаешь. Именно для этого, например, нужны бизнес-планы: написав десятки и прочитав сотни которых, я ни разу не видел, чтобы БП был в точности выполнен. Но когда менеджер пишет БП, он лучше осознает, что и зачем он делает, и это повышает его эффективность. Так вот, выражая свое отношение словами, я лучше его осознаю именно в прикладном плане. Безусловно, есть риск выплеснуть вместе с водой неявных ощущений ребенка сути. Но... впрочем, не на рациональном форуме это обосновывать.
3. Психологическая. У человека есть потребность в общении. Даже в таком суррогатном. Она не сводится к новым знаниям, уточнению гипотез и т.п. И не сводится к чесанию ЧСВ (что, конечно, тоже всегда важно). Это трудно объяснить, но если я чувствую тягу к форумному общению, значит, это нужно чему-то внутри меня. Я повышаю свой душевный комфорт, испытываю позитивные эмоции, подавляю хотя бы на время экзистенциальную тоску. Конечно, эта тоска подавляется куда эффективнее, когда есть тот, "с кем не надо напрягать язык, а просто быть рядом и чувствовать, что жив", но не всем ТАК повезло в жизни. Кому повезло - вряд ли сидит на форумах.
Ну, грубо. Кроме чисто смыслового восприятия комментов kuuff, у меня от их чтения появляется чувство вроде "нет, всё же еще не весь мир сошел с ума", ну или "и меня вылечат!" В итоге я постоянно ловлю себя на том, что провоцирую эти комменты...   
4. Гносеологическая-2 Читая форум, осознавая и анализируя реакцию других на твои слова - ты познаешь мир. (См. выше про терминальные ценности.) Может, это иное, эвристическое познание. Но все равно познание. А есть люди, для которых всякое познание - в кайф.

[Alaric]

Раз пошла такая пьянка, я напишу, почему я создаю такие темы.

Некоторое время назад меня всерьёз начал волновать вопрос, не является ли время, потраченное лично мной на этом форуме, потраченным бессмысленно. Новые знания, которые я получаю во время гугленья для дискуссий, для меня, по-моему, достаточно бесполезны. Количество отрицательных эмоций от чтения сообщений некоторых граждан достаточно велико. Есть наблюдение, что те люди, которые, с моей точки зрения, всерьёз занимаются распространением рациональности (что для меня на данный момент важно), с этого форума уходят. На встречах вживую, когда новичкам объясняют, где можно найти рационалистов в рунете, этот форум описывают как "очень странное место", и я осознаю, что мне нечего на это возразить.

Если сравнивать этот форум с другими "рациональными активностями" (slack-чатом и встречами вживую), то, как мне представляется, в тех случаях я могу нащупать гораздо больше хоть какой-то пользы для себя.

Если задать вопрос, почему же я до сих пор не ушёл, то я могу нащупать два ответа:

а) Прокрастинация. Жать кнопочки на форуме проще, чем заниматься чем-то полезным.
б) Беспокойство о том, что какие-нибудь сторонние люди будут судить о рациональности и Lesswrong'е на примере этого форума, и потому для распространения рациональности следует пытаться сделать этот форум лучше. Но здесь я с каждым днём всё больше сомневаюсь и в важности этого фактора, и в своих способностях что-либо с ним сделать.

Поэтому в какой-то степени эти темы и сообщения были написаны в надежде сфальсифицировать свою гипотезу, в смысле, в надежде, что кто-то мне накидает возможной пользы, но то ли у меня работает эффект подтверждения, то ли что-то ещё, в общем, всерьёз они моего мнения пока не поменяли.

 =======
Теперь к вопросу построения теорий.

Я соглашусь, что любая теория либо неверна, либо нефальсифицируема. Однако, на мой взгляд, это "лирика", в смысле, информация, которая нам ничем не помогает. Есть теории, которые помогают решать задачи, и есть теории, которые не помогают. У любого из нас в жизни есть проблемы, которые нам бы хотелось решить. Любая теория, которая якобы помогает решать задачу, вполне фальсифицируема - задача либо в итоге решена, либо нет.

С моей точки зрения, теория, которая всё объясняет, может быть вредна по следующим причинам:
1. Она может прекрасно объяснить, почему твоя задача решения не имеет, и ты будешь в это верить, хотя это не так.
2. Любая теория, в которую ты веришь, вызывает эффект подтверждения. Идеальных рационалистов не существует, мы все этому эффекту подвержены.

Я вообще склонен скорее разделять точку зрения, что методики избавления от наркотической зависимости не важны, потому что бросит человек или не бросит зависит от того, насколько он сам готов бросить.

Поэтому, насколько я представляю, существующие методики как раз работают с настроем человека. Причём это всё фальсифицируемо, можно посчитать процент бросивших людей, которые пользовались методикой и сравнить со средним по популяции или с процентом бросивших среди пользовавшихся другой методикой.
И, по-моему, это иллюстрация п.1.