Борьба с дезинформацией

Автор Тема: Борьба с дезинформацией  (Прочитано 10425 раз)

Horrort

  • Новичок
  • *
  • Сообщений: 3
  • +0/-0
    • Просмотр профиля
    Здравствуйте! Я не часто захожу на этот форум, но считаю себя рационалистом и обожаю творчество Юдковского. Мне кажется, что если и стоит начать обсуждать мою идею, то именно здесь и с вами.
     
     Вы не могли не заметить как в последнее время много дезинформации поступает отовсюду. Медийные личности и даже государственные лица распространяют невежество среди обычных обывателей, не привыкших к критическому мышлению и проверке информации. И это несет колоссальный вред. Люди бунтуют против 5G и жгут вышки мобильной связи, выступают против масок и вакцин. На ютюбе множество видео с теориями заговоров и в комментариях к ним подавляющее большинство одобрений.
     Я знаю, что мне, что вам неприятно ввязываться в это. Нам проще игнорировать подобных людей. Проще сказать что "таких" уже ничем не убедить и уйти. Ученые не станут всерьёз уделять внимание совершенно идиотским высказываниям и публиковать работы по этому случаю (хоть иногда бывает и такое, но это скорее исключения). Тем более что основная масса людей читает жёлтую прессу и смотрит разговорные шоу (или как их назвать) с псевдо-экспертами на ТВ вместо научных журналов. И возможно с этим ничего не поделать, но мне кажется, стоит хотя бы попытаться.
     Из-за подобного невежества умирают люди, по этому я не могу просто игнорировать эту проблему. Возможно переубедить этих людей действительно невозможно, но я думаю, стоит хотя бы попробовать. К тому же я считаю, что всех можно переубедить.
     
     Я предлагаю создать Slack-канал (или может есть хорошие альтернативы, если кто знает, корректируйте меня, я не часто общаюсь с людьми даже в сети, так что я нуб по этой части). Нужно приглашать в этот канал людей из Ютюб каналов и других ресурсов, где основной контент повествует или касается критического мышления. В этом канале предлагать ссылки на видео, сайты, посты, статьи с дезинформативным (псевдонаучным) содержанием. После чего брать в руки (вилы) аргументы и идти убеждать народ. Звучит нелепо, соглашусь. Поэтому если у кого-то есть идеи по-лучше как с этим бороться я весь внимание. Мне не нужно быть лидером, можете взять роль создания канала на себя. Мне лишь нужно хотя бы попытаться что-то сделать, получить обратную связь (работает ли это и насколько хорошо), и сделать выводы улучшив стратегию.
    Важно!!! Почему я считаю, что нужно собрать много критически мыслящих людей и идти воевать в комментарии? Потому что, по моему мнению, один или два комментария под подобными видео просто затеряются. Обыватели слушают тех, кто громче кричит и не стремятся проверить ваши аргументы.
     Важно 2!!!! Нужно соблюдать нормы правильного спора. Нам ни к чему разжигать ненависть, обвинять в чём-то людей, подстрекать и называть идиотами всех, кто не умеет критически мыслить. Цель в том чтобы убедить человека. По этому любые переговоры должны проходить спокойно, без давления и излишних эмоций (хотя иногда демонстрация эмоций или описание "живых" историй и картин может помочь). Любое общение должно состоять из разумных аргументов, при этом порождая сомнения наводящими вопросами. Я попробую поискать литературу о правильной аргументации и ведении споров, но ничего не обещаю.

     Прошу обдумать этот вопрос и обсудить что еще можно предпринять. Я могу заблуждаться или ошибаться в методах, могу фантазировать и грезить что это сработает, по этому прошу в таком случае "опустить меня на землю" и предложить свои варианты и мысли. Нужно начать обдумывать что с этим можно сделать. Игнорирование не помогает. Проблема не только в текущей ситуации с COVID-19. Проблема была до этого и останется после, так что я очень хочу хотя бы попытаться сохранить жизни людей. Даже если не удастся научить людей рациональному мышлению, главное любыми способами переубедить их насчет опасных заблуждений.

     Спасибо что прочли!

onemore

  • Новичок
  • *
  • Сообщений: 1
  • +0/-0
    • Просмотр профиля
Re: Борьба с дезинформацией
« Ответ #1 : 07 Мая 2020, 21:24 »
  • (+)0
  • (−)0
  • Цитировать
    Вы не могли не заметить как в последнее время много дезинформации поступает отовсюду.
    Да, действительно есть такое явление. Что касается "в последнее время", то думаю это сопутствует любым чрезвычайным ситуациям и потрясениям в жизни общества. Люди опасаются, и пытаются найти объяснения, виновных и т.д., и на этой почве отлично расцветают различные теории, которые "все объясняют". Хотя и в относительно спокойное время такие идеи чувствуют себя не плохо. Я уже начинаю относиться к этому как к норме. Видимо такая природа у человека. Аналогично, всегда в обществе будут жулики, мошенники, бандиты, вне зависимости от уровня технического развития человечества.

    Цитировать
    На ютюбе множество видео с теориями заговоров и в комментариях к ним подавляющее большинство одобрений.
    Комментарии в ютуб - клоака та еще. Не припомню, чтобы встречал там хоть раз какую-то толковую дискуссию. Думаю это обусловлено самой "экосистемой" ютуба. Далее рассуждение о среднем зрителе ютуба, тем более если это видео с теорией заговоров:
    Если человек смотрит видео - значит, как правило, он не готов читать что-то длиннее пары предложений, а тем более излагать текстом свои мысли (разве что "автор красава!", "все правильно разложил!"). Поставил лайки топовым комментариям - пошел листать дальше рекомендации.
    Читая текст, человек может остановиться на интересном/сложном моменте, обдумать, перечитать еще раз. С видео это делать сложнее. Зато в видео можно легче задать эмоциональный фон, а так же прикрыть "дыры" в логичности подаваемого материала. Поэтому такие видео собирают соответствующую аудиторию - таким людям важнее подача, а не суть. Если вы им предложите обсудить "суть" - в лучшем случае им это будет просто скучно.
    По этой причине я предпочитаю текстовую подачу материала, однако, иногда фоном могу послушать различные интервью.

    Цитировать
    Тем более что основная масса людей читает жёлтую прессу и смотрит разговорные шоу (или как их назвать)
    ток-шоу (от англ. talk show)

    Цитировать
    с псевдо-экспертами на ТВ вместо научных журналов. И возможно с этим ничего не поделать, но мне кажется, стоит хотя бы попытаться.
    Попытайтесь. Я лично отношусь к такой идее достаточно скептично, т.к. предпринимал несколько раз такие попытки, и в лучшем случае это заканчивалось "каждый остался при своем". Но думаю некоторую пользу из этого тоже можно извлечь. Возможно вы отточите свои полемические навыки, или станете лучше понимать психологию оппонента.

    Цитировать
    Из-за подобного невежества умирают люди, по этому я не могу просто игнорировать эту проблему.
    Да фейки действительно могут вызывать ужасные последствия, как например, это происходит в Индии с проникновением смартфонов и воцап в малообразованные слои населения. И если прикладывать усилия по борьбе с фейками, то нужно выбирать именно такие, а не безобидные (например теория о том, что американцы не были на луне)

    Цитировать
    Я предлагаю создать Slack-канал (или может есть хорошие альтернативы, если кто знает, корректируйте меня, я не часто общаюсь с людьми даже в сети, так что я нуб по этой части). Нужно приглашать в этот канал людей из Ютюб каналов и других ресурсов, где основной контент повествует или касается критического мышления. В этом канале предлагать ссылки на видео, сайты, посты, статьи с дезинформативным (псевдонаучным) содержанием. После чего брать в руки (вилы) аргументы и идти убеждать народ. Звучит нелепо, соглашусь.
    Это занятие "неблагодарное" и мало кто захочет этим заниматься системно за будь здоров. Возможно вам удастся собрать горстку единомышленников с основной идеей "в интернете кто-то не прав", но поддерживать ее в живом состоянии будет сложно. Да и как оценивать эффективность сообщества? В комментариях никто не будет писать "я был не прав, а вы заставили меня поразмыслить критически, спасибо ребята", скорее просто молча уйдут учиться мыслить критически, а вы останетесь с заброшенной веткой комментариев, где "заблудший" последней репликой оставит "да вам мозги промыли, как вы не понимаете, автор вам же все рассказал с пруфами!!!" :)

    Цитировать
    Поэтому если у кого-то есть идеи по-лучше как с этим бороться я весь внимание. Мне не нужно быть лидером, можете взять роль создания канала на себя. Мне лишь нужно хотя бы попытаться что-то сделать, получить обратную связь (работает ли это и насколько хорошо), и сделать выводы улучшив стратегию.
    Как вариант, можно бить не качеством (вступать в дискуссии с отдельными людьми), а количеством. Т.е. брать некоторую тематику (допустим, антивакцинаторство), коротко  описывать почему автор видео не прав, возможно прикреплять ссылку на ресурс с подробностями. И затем постить это под всеми видео, где людей вводят в заблуждение по теме видео. Это достаточно "неблагодарный" вариант, т.к. вы не будете видеть, приносит ли данный подход пользу, не будете получать обратную связь (что очень немаловажно), но кто знает, может своим комментарием вы посеете зерно сомнения в чьем-то неокрепшем уме. Группу единомышленников для этого собирать не обязательно.

    Цитировать
    **Важно!!!** Почему я считаю, что нужно собрать много критически мыслящих людей и идти воевать в комментарии? Потому что, по моему мнению, один или два комментария под подобными видео просто затеряются. Обыватели слушают тех, кто громче кричит и не стремятся проверить ваши аргументы.
    Опять же, в комментариях ютуба своя атмосфера. Мне кажется это как прийти в бар с проповедями о трезвом образе жизни. Аудитория просто не расположена к таким беседам)
    Другой вариант - попробуйте использовать оружие врага против него. Записывайте свое видео, учитывая специфику целевой аудитории (побольше эмоций, и чтобы не скучно было, со смешными вставочками и желтыми заголовками). Распространяйте, увеличивайте популярность канала, заодно поймете, какие люди находятся по ту сторону баррикад)

    Horrort

    • Новичок
    • *
    • Сообщений: 3
    • +0/-0
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #2 : 09 Мая 2020, 17:09 »
  • (+)0
  • (−)0
  •      Спасибо большое за ответ. Мне кажется я не до конца ясно всё расписал.
         Я не призываю людей идти в комментарии и вступать в беседы по типу "Не хотите поговорить о спасителе нашем?". Главное найти слабые точки аргументации автора видео, найти нестыковки, дыры, и писать об этом в комментариях, чтобы обычные люди видели что не всё так гладко. Я видел как на том же ютюбе[1] аудитория одного канала идёт с холиварами на другой (такое частенько бывает с разоблачениями шарлатанов, экстрасенсов и пр...), что иногда выливается даже в удаление канала или хотя бы видео. Но потом автор появляется снова и опять обретает аудиторию веряших на слово простаков, так что здесь я не питаю иллюзий что всё получиться. Однако же это даёт свои плоды и заставляет множество людей задуматься. Может в следующий раз те, кто "попался на крючок" уже не так быстро поверят очередным "откровениям".

         В этом всём нет смысла если не наберётся достаточное количество людей. Однако если (каким-то невероятным образом[2]) подключить аудитории "рациональных" каналов и научпопа, то можно надеяться опустить рейтинг дезинформативных видео и заставить аудиторию увидеть иную точку зрения, показав им нестыковки аргументации. Я признаю, что идеализирую, однако все же есть случаи, когда автор публикует псевдонаучный материал, за что его "уничтожают" в комментариях, по этому мне кажется что хотя бы попытка того стоит.

    1. Я рассматриваю как пример ютюб, потому что в социальных сетях не сижу и не особо знаком с "обстановкой" там, но подозреваю что всё еще хуже.
    2. Привлечь аудитории научпопа кажется мне не такой уж невыполнимой задачей, поскольку они уже достаточно настроены против дезинформации (как и все, кто видит противоречия с тем, во что верит или в чём убеждён). Да это не армия рационалистов. Большинство подобной аудитории только "верит" в науку и верит своим кумирам, но это лучше чем ничего.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #3 : 22 Мая 2020, 17:23 »
  • (+)0
  • (−)0
  • Я тут прочитал книжку Померанцева "Это не пропаганда". Автор излагает довольно депрессивную картину современной информационной среды, которая настолько наполнена попытками манипулировать людьми, что отличить истину от лжи там невозможно. Я не успел переварить книгу полностью, но пока мне кажется, что она даёт мне ещё один нарратив, ещё одну призму через которую можно смотреть на реальность и видеть её немного в другой проекции.

    Не уверен, что эту книжку можно рекомендовать на русскоязычном форуме, потому что книжка написана человеком родившимся в семье советских диссидентов с Украины, он очень много уделяет внимания конфликту на Украине, его мозги промыты украинской "не пропагандой", а возможно ещё всякими другими "не пропагандами" (впрочем, надо отдать ему должное, он явно предпринимал попытки освободить свои мозги от последствий промывки), в то время как мозги подавляющего большинства русских промыты кремлёвской непропагандой (мои в частности), и поэтому довольно сложно читать. Мне во всяком случае было сложно. Но если вы можете отвлечься от непрерывного поиска истины и лжи, и принимать точку зрения другого, не как претензию на истину в последней инстанции, с которой всенепременно надо бороться, а как точку зрения на которую он имеет полное право, и точку зрения понимание которой поможет вам понять этого другого, то тогда может имеет смысл почитать.

    Так вот, в книге был пример украинца с Донбасса, который в процессе возникновения сепаратизма в острой фазе пытался бороться с этим, пуская фейки про что-то типа "к нам едут 200 боевых геев-правосеков, которые вырежут всех сепаратистов". И я задумался вот о чём: как эти фейки повлияли на развитие ситуации? Они усложнили жизнь сепаратистам, или они наоборот сделали их решительнее и сподвигли вылезти из интернета и заняться чем-то конструктивным, чтобы защититься от 200 боевых геев-правосеков?

    И это лишь пример тому, как благими намерениями дорога выстилается в ад. Создать ресурс, разоблачающий фейки, по-моему, тоже не вариант нисколько. Либо этот ресурс будет забытым углом с пятью визитами в месяц, либо если ему удастся раскрутиться, то он сам станет целью для фейков. Всем будет "известно", что он финансируется Ротшильдами, с целью разрушить существующий миропорядок, включая сюда и православную Россию. На каждое опровержение фейка будет выкладываться десяток опровержений опровержений фейка. Придётся столкнутся с тем, что проплаченные тролли будут рваться на ресурс, и сводить любой диалог в срач. И, наконец, люди на этом ресурсе -- тоже люди, они и без внешней помощи смогут скатиться в холивар, а если им помочь... Ах да, и ещё один момент: генерация фейков гораздо проще, чем грамотное их опровержение, и за генерацию фейков платят.

    Ходить везде и спорить с фейками, по-моему, значит играть на руку тем, кто эти фейки распространяет: чем дольше люди спорят, тем больше поляризации в споре. У меня огромный опыт споров в интернете. Мне всегда было интересно как можно переубедить человека, и я скажу, что я не знаю как это сделать. Есть смутные подозрения, что если очень по чуть-чуть действовать, приучать человека к определённым правилам мышления/ведения дискуссии (не обязательно наилучшим и самым правильным правилам, достаточно приучить к каким-нибудь), то со временем можно будет начать указывать на противоречия во взглядах другого человека, и благодаря тому, что он привык рассуждать по правилам, ему не удастся объехать эти противоречия на кривой козе, придётся разрешать как-то, то есть искать какое-то своё ложное убеждение и отказываться от него. И если продолжать так несколько лет, то что-нибудь да получится. Но я не знаю сработает это или нет: я замечал на разных ресурсах, что ежели систематически блистать риторическими достижениями, то со временем появляются подражатели, которые используют мои приёмчики. Причём даже такие положительные приёмчики, типа "понять точку зрения другого". Но, для того, чтобы выйти на этот уровень, мне потребовалось 15 лет опыта участия в холиварах в интернете, психологическое образование, и довольно широкий кругозор. Но даже этот опыт весь -- это опыт холиваров с людьми, которым не платят денег за то, чтобы выставлять меня в негативном свете. И по-моему я не сталкивался со скоординированными атаками.

    То есть вопрос "что делать с этой не пропагандой" -- это очень интересный вопрос. Совершенно непонятно, как ей противостоять. Например, есть сайт news.ycombinator.com, мне очень нравится то, что происходит там в комментах. Выверенные мнения, уважительное общение. У создателей сайта был план, как достичь создания такого сообщества, и у них получилось. Но там политика под запретом. Потому что даже там не удаётся выстраивать вменяемые обсуждения политики, любое обсуждение скатывается во что-то невменяемое.

    Но всё же, первый вопрос, который надо себе задать, это вопрос "зачем". Каких целей мы пытаемся достичь. Получить достоверный источник информации для себя? Нести людям свет, обучая их ориентироваться в этом море дезинформации? Или вычистить интернет от дезинформации? Ни одна из этих целей не может быть достигнута в сколь-нибудь полной мере, хоть что-то и можно сделать, наверное. Но эти разные цели могут предполагать разные средства.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Борьба с дезинформацией
    « Ответ #4 : 25 Мая 2020, 14:51 »
  • (+)0
  • (−)0
  • Могу порекомендовать автору темы обратить внимание на проект/идею Уличная эпистемология. Насколько я понимаю, у авторов проекта примерно те же цели, однако другие средства, которые, возможно, в долгосрочной перспективе более эффективны.

    Если совсем вкратце, уличная эпистемология - это искусство бесконфликтных диалогов с целью подтолкнуть человека (а может и себя) задуматься о том, почему я верю в то, во что я верю. Подробности по ссылке, у ребят достаточно подробный FAQ и прочие материалы.

    Gradient

    • Пользователь
    • **
    • Сообщений: 89
    • +31/-0
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #5 : 15 Июня 2020, 13:40 »
  • (+)0
  • (−)0
  • Возникла мысль на мета-уровне. Если мы как сообщество рационалистов действительно настолько рациональнее большинства, что собираемся это большинство чему-то учить, то по идее, мы должны быть сильно лучше других в "искусстве выигрывания". Если так, то почему не решить вопрос грубой силой - не нанять сами толпу троллей для комментариев? Ну или не заказать кучу роликов, пропагандирующих нашу точку зрения по каким-то особо опасным заблуждениям.
    В смысле, если мы настолько рациональнее большинства, почему мы не настолько богаче и влиятельнее?

    А так - я на сайте Общества Скептиков видел статью, которую теперь не могу найти (вместе с самим сайтом). Статья о том, как аргументы меняют мнение людей. Я оттуда вынес мысль, что на людей таки можно повлиять аргументами, но в основном на тех, кого обсуждаемый вопрос затрагивает напрямую. Это результат не спекуляции, а эксперимента. Например, по вопросу "правильно ли поступил Лукашенко, когда разрешил парад во время эпидемии" вряд ли удастся многих переубедить. А по вопросу "правда ли мне не стоит ездить на автобусе и метро во время эпидемии" переубедить людей будет проще, потому что от ответа на этот вопрос здорово зависит распорядок дня, семейный бюджет и здоровье.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #6 : 16 Июня 2020, 15:10 »
  • (+)1
  • (−)0
  • Возникла мысль на мета-уровне. Если мы как сообщество рационалистов действительно настолько рациональнее большинства, что собираемся это большинство чему-то учить, то по идее, мы должны быть сильно лучше других в "искусстве выигрывания". Если так, то почему не решить вопрос грубой силой - не нанять сами толпу троллей для комментариев? Ну или не заказать кучу роликов, пропагандирующих нашу точку зрения по каким-то особо опасным заблуждениям.
    Подключить троллей и показать всем, что наши тролли лучше других троллей?
    В смысле, если мы настолько рациональнее большинства, почему мы не настолько богаче и влиятельнее?
    Это американская фишка -- интеллект=состояние. Это часть американской культуры, просто культурный код, без каких-либо рациональных обоснований за ним. Его задача не отражать истину, а направлять массы. В смысле, этот культурный код сам себя делает истиной: если достаточно большой процент населения является носителем этого кода, то он хорошо отражает реальность. У нас это работает хуже, потому как в нашей культуре интеллект -- это скорее социально неадаптированный тип, который часто вопреки системе добивается каких-то своих целей, и часто эти цели не включают в себя личное благосостояние или власть.
    А так - я на сайте Общества Скептиков видел статью, которую теперь не могу найти (вместе с самим сайтом). Статья о том, как аргументы меняют мнение людей. Я оттуда вынес мысль, что на людей таки можно повлиять аргументами, но в основном на тех, кого обсуждаемый вопрос затрагивает напрямую. Это результат не спекуляции, а эксперимента. Например, по вопросу "правильно ли поступил Лукашенко, когда разрешил парад во время эпидемии" вряд ли удастся многих переубедить. А по вопросу "правда ли мне не стоит ездить на автобусе и метро во время эпидемии" переубедить людей будет проще, потому что от ответа на этот вопрос здорово зависит распорядок дня, семейный бюджет и здоровье.
    Да, я тоже обращал внимание. Абстрактные вопросы, которые не влекут за собой изменения поведения, совершенно бесполезно обсуждать в интернете. Лишь в избранных уголках интернета это возможно.

    Gradient

    • Пользователь
    • **
    • Сообщений: 89
    • +31/-0
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #7 : 16 Июня 2020, 16:00 »
  • (+)0
  • (−)0
  • Цитировать
    Подключить троллей и показать всем, что наши тролли лучше других троллей?
    - ну, как ведутся информационные войны? Во-первых, можно физически уничтожить того, кто высказывает вредные идеи (это не предложение, просто первая идея, которую высказал бы тот самый парень, который предложил заточить кости пуффендуйцев). Во-вторых, можно задавить чужую идею шумом. В-третьих, можно компрометировать чужую идею... Например, создав и распиарив её "соломенное чучело". В-четвёртых, можно высмеять чужую идею. Много вариантов сделать так, чтобы доминировали "наши" идеи, безотносительно их правильности. Многие игроки станут при распространении своих идей использовать такие приёмы - значит, отказываясь от них, мы отказываемся от преимущества. И в условиях, когда у "наших" и "враждебных" идей примерно поровну грубой силы, начнёт побеждать та идея, которая лучше именно с точки зрения истинности (прогнозирующей способности, логичности и так далее).
    Александр Скотт написал классную статью об этом: https://lesswrong.ru/w/%D0%92%D0%B5%D0%B4%D0%BE%D0%BC%D1%8B%D0%B5_%D0%BA%D1%80%D0%B0%D1%81%D0%BE%D1%82%D0%BE%D0%B9_%D1%81%D0%B2%D0%BE%D0%B8%D1%85_%D0%BE%D1%80%D1%83%D0%B4%D0%B8%D0%B9
    Я не со всем согласен, но основную идею полагаю верной: разумная дискуссия в среднем менее убедительна, чем аппеляция к эмоциям и грубой силе. Поэтому если нет паритета по грубой силе, то люди будут чаще переходить в "лагеря противников", чем в наш.
    Это что касается борьбы к ощутимо вредными идеями, то есть ситуации "цель оправдывает средства". Учить людей рациональности так не получится.

    Цитировать
    Это американская фишка -- интеллект=состояние. Это часть американской культуры, просто культурный код, без каких-либо рациональных обоснований за ним.
    - интеллект - это способность агента направлять реальность в том направлении, куда ему хочется. Меньше интеллекта? Будет могучий носорог, не умеющий в хитрые планы. Больше интеллекта? Будет целая промышленная цепочка, ведущая к появлению ружья, которое этих носорогов убивает, если что (или волчья яма, если надо сделать малыми силами).
    На самом деле это немножко игра в определения. Но... Конкретно сообщество lesswrong, если я ничего не путаю, занимается рациональностью именно в этом смысле - как средством нагибания окружающего мира (инструментальная рациональность) и её основным инструментом - средством изучения мира (эпистемологическая рациональность).

    Цитировать
    в нашей культуре интеллект -- это скорее социально неадаптированный тип, который часто вопреки системе добивается каких-то своих целей, и часто эти цели не включают в себя личное благосостояние или власть
    - я полагаю, это именно стереотип нашего культурного кода. Если человек может считать будущее на 10 ходов глубже окружающих, при прочих равных он всё равно всех сделает, даже если в культурном коде это не прописано. Ему же не обязательно быть социально неадаптированным. Если это будет важно для достижения целей - адаптируется, в чём принципиальная невозможность?

    Может, вы имеете в виду, что в России люди, которые хорошо умеют в эпистемологическую рациональность, одновременно имеют склонность быть аномально слабыми в инструментальной рациональности? Из-за каких-то национальных стереотипов.
    Я что-то подобное вижу и в Росии, и в статьях про зарубежье. Что есть люди, вроде бы умные, вроде бы социально небезразличные, но они не учатся тому, как стать лидерами и решить проблемы руками своих последователей. Почему так? На самом деле социальные задачи им не так важны? Или стереотип, что интеллектуалы не стоят по главе корпораций/армий/культов, настолько силён, что интеллектуалы даже не пробуют себя в областях, дающих увесистую силу?
    В любом случае... Может, я ошибаюсь, но кажется, люди, которые прочитали значительную часть цепочек Юдковского, понимают связь между умением познавать мир и умением им управлять. Хотя бы примитивная идея из теории ИИ: создай максимум возможных планов, а затем оцени, какой ближе всего приведёт к цели. По идее, интеллектуалы уж оценивать эффективность планов должны уметь лучше не-интеллектуалов, иначе непонятно, что это за интеллект у них такой) И мне кажется вероятным, что люди из этого сообщества способны при большой мотивации собрать "армию ботов" и зашумить, а то и подавить те интернет-ресурсы, которые распространяют неугодные им идеи
    « Последнее редактирование: 16 Июня 2020, 16:30 от Gradient »

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #8 : 16 Июня 2020, 16:55 »
  • (+)0
  • (−)0
  • - ну, как ведутся информационные войны? Во-первых, можно физически уничтожить того, кто высказывает вредные идеи (это не предложение, просто первая идея, которую высказал бы тот самый парень, который предложил заточить кости пуффендуйцев). Во-вторых, можно задавить чужую идею шумом. В-третьих, можно компрометировать чужую идею... Например, создав и распиарив её "соломенное чучело". В-четвёртых, можно высмеять чужую идею. Много вариантов сделать так, чтобы доминировали "наши" идеи, безотносительно их правильности. Многие игроки станут при распространении своих идей использовать такие приёмы - значит, отказываясь от них, мы отказываемся от преимущества. И в условиях, когда у "наших" и "враждебных" идей примерно поровну грубой силы, начнёт побеждать та идея, которая лучше именно с точки зрения истинности (прогнозирующей способности, логичности и так далее).
    Нет, если критерии победы не включает в себя истинности, то побеждать будут самые громкие, а не самые истинные. Люди играя в игру подстраиваются под правила, если по правилам не нужно соблюдать внутреннюю непротиворечивость, если факты можно принимать как факты или отвергать как фейки на основании пожеланий левой пятки, если ad hominem считаеть валидным критерием для принятия или отвержения гипотезы, то толку в этом никакого. Всё то, что сейчас называют информационной войной, вовсе не нацелено на то, чтобы убеждать людей, всё это нацелено на то, чтобы создать такое количество информационного шума, чтобы люди не могли бы в нём сориентироваться и были бы вынуждены выбирать чью-то сторону, делегируя критический анализ информации кому-то там.

    Если ты начинаешь прибегать к троллям для отстаивания рациональной позиции, то ты лишь увеличиваешь количество информационного шума. Но дело не только в этом. Выбор методов для ведения конкурентной борьбы -- это очень близко к дилемме заключённого. В смысле, людям в целом выгодна рациональная дискуссия, но людям взятым по отдельности выгодна игра без правил. В ГПиМРМ Квиррелл разбирал схожую ситуацию, когда описывал поведение Гарри в первом его конфликте со Снейпом.
    разумная дискуссия в среднем менее убедительна, чем аппеляция к эмоциям и грубой силе. Поэтому если нет паритета по грубой силе, то люди будут чаще переходить в "лагеря противников", чем в наш.
    Это так, но при множестве неявных допущений, которые я даже перечислить затрудняюсь. Допустим, я дискутирую с тобой, забив на какие-либо правила, но ты имеешь гораздо больший опыт дискуссий, и поэтому несмотря на моё преимущество, оказываешься убедительнее. Или, можно вспомнить бихевиоризм, и _дрессировать_ оппонента на то, чтобы он предпочитал рациональные методы ведения дискуссии -- при должном навыке, можно это делать так, что он не заметит этого (кстати это работает, в не самых запущенных случаях: если в качестве подкрепления использовать высказывание согласия с оппонентом, то оппонент неосознанно начинает использовать те самые методы, которые работают, помимо согласия можно использовать похвалу или всё что угодно ещё, что будет пробуждать в оппоненте позитивные эмоции). Или можно провоцировать оппонента, создавать у него чувство превосходства, и ждать когда его занесёт так, что потом он будет выглядеть последним идиотом. Или можно вообще забить на дискуссии с ними, и, скажем, захватить власть в отдельно взятом государстве, и создать из него государство рационалистов. Хотя с государством может не выйдет... ну, тогда можно попытаться создать корпорацию, успех в которой требует рациональности. Или даже создать ассоциацию компаний, участие в которой требует от организации принятия каких-то там условий на внутреннюю структуру, с тем чтобы только в эту ассоциацию попадали бы только компании рационалистов. Если это продумать так, чтобы состоять в ассоциации было бы выгодно, то можно выйти на ситуацию, когда любой частный бизнес в стране насаживает рациональность среди сотрудников, в надежде попасть в ассоциацию, а это значит что десятки процентов трудоспособного населения оказываются в тренингах на рациональность.

    Это я просто навскидку нафантазировал.
    - интеллект - это способность агента направлять реальность в том направлении, куда ему хочется.
    А в каком ему хочется? Человек -- не рациональный агент. У него есть цели, есть "анти-цели" (то есть то, чего ему хочется избегать), у него есть своя система ценностей, и у разных людей разная. Может интеллекту вообще не хочется менять реальность? Может ему достаточно иметь хороший входящий поток информации, чтобы было чем заняться?

    - я полагаю, это именно стереотип нашего культурного кода. Если человек может считать будущее на 10 ходов глубже окружающих, при прочих равных он всё равно всех сделает, даже если в культурном коде это не прописано. Ему же не обязательно быть социально неадаптированным. Если это будет важно для достижения целей - адаптируется, в чём принципиальная невозможность?
    Ему может не хотеться социально адаптироваться. Или может ему не получается адаптироваться -- может он аутист? Или может трудное детство, травмированная психика, и таким образом социальная адаптация для него оказывается невероятно сложной? А может просто он прошит культурным кодом, и для него социальная адаптация сродни читерству?
    Может, вы имеете в виду, что в России люди, которые хорошо умеют в эпистемологическую рациональность, одновременно имеют склонность быть аномально слабыми в инструментальной рациональности? Из-за каких-то национальных стереотипов.
    Я что-то подобное вижу и в Росии, и в статьях про зарубежье. Что есть люди, вроде бы умные, вроде бы социально небезразличные, но они не учатся тому, как стать лидерами и решить проблемы руками своих последователей. Почему так? На самом деле социальные задачи им не так важны? Или настолько силён стереотип, что интеллектуалы не стоят по главе корпораций/армий/культов?
    Да, я что-то типа того имею в виду. Почему так происходит -- это отдельный вопрос. Мне кажется, что по-крайней мере отчасти, это самовоспроизводящийся процесс: чем больше умных людей, не вписывающихся в общество, тем крепче стереотип, что умный человек не вписывается в общество. Чем крепче стереотип, тем больше умных людей, не вписывающихся в общество.

    В любом случае... Может, я ошибаюсь, но кажется, люди, которые прочитали значительную часть цепочек Юдковского, понимают связь между умением познавать мир и умением им управлять. Хотя бы примитивная идея из теории ИИ: создай максимум возможных планов, а затем оцени, какой ближе всего приведёт к цели. По идее, интеллектуалы уж оценивать эффективность планов должны уметь лучше не-интеллектуалов, иначе непонятно, что это за интеллект у них такой) И мне кажется вероятным, что люди из этого сообщества способны при большой мотивации собрать "армию ботов" и зашумить, а то и подавить те интернет-ресурсы, которые распространяют неугодные им идеи
    Я очень надеюсь, что они не начнут этого делать, потому что уверен, что это приведёт лишь к ухудшению ситуации, а не к улучшению. Нельзя научить людей мыслить рационально силой. Людей вообще очень сложно учить силой.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Борьба с дезинформацией
    « Ответ #9 : 16 Июня 2020, 17:18 »
  • (+)0
  • (−)0
  • Александр Скотт написал классную статью об этом: https://lesswrong.ru/w/%D0%92%D0%B5%D0%B4%D0%BE%D0%BC%D1%8B%D0%B5_%D0%BA%D1%80%D0%B0%D1%81%D0%BE%D1%82%D0%BE%D0%B9_%D1%81%D0%B2%D0%BE%D0%B8%D1%85_%D0%BE%D1%80%D1%83%D0%B4%D0%B8%D0%B9
    Я не со всем согласен, но основную идею полагаю верной: разумная дискуссия в среднем менее убедительна, чем аппеляция к эмоциям и грубой силе. Поэтому если нет паритета по грубой силе, то люди будут чаще переходить в "лагеря противников", чем в наш.
    Я эту статью читаю примерно наоборот. Грубую силу могут применять обе стороны. Сегодня ты применил грубую силу и победил, завтра твои оппоненты лучше оценят твои возможности, наберут ещё больше грубой силы и победят сами. То, что ты прав, практически никак не даст тебе возможности набрать больше грубой силы. И наоборот, если ты активно насаждаешь игру по правилам и поиск истины, у тебя есть шанс заставить противника играть на твоей стороне, потому что на самом деле твой противник почти наверняка тоже считает, что он за истину.

    По поводу "интеллект = состояние" мне очень нравится статья Фальковича: Is Rationalist Self-Improvement Real?

    Если вкратце, там, в частности, рассматривается вопрос: как бы мы заметили, что рациональность влияет на состояние? Чем бы этот мир отличался от мира, где рациональность не влияет на состояние?

    Если мы ожидаем, что рациональность влияет на состояние, то как мы можем это формализовать? То есть, какие именно действия по нашей модели приведут к тому, что у некоего человека, выполняющего эти действия, скажем, доход будет расти на Х% в год?

    Вообще, лично мне сейчас очень важным умением кажется переход от качественных штук к количественным. Если дискуссия крутится вокруг вопроса с ответом "да или нет" (влияет ли рациональность на состояние или нет, нужно нанимать армию ботов или нет), то, возможно, стоит задуматься, быть может, что-то идёт не так.

    И вот я сейчас задумался над одним из этих вопросов и понимаю, что у меня вообще нет никакой модели. Если мы где-то найдём 10 тысяч человеко-часов, чтобы воевать в комментариях, это приведёт к чему? А если миллион человеко-часов? А если не воевать, а вежливо разговаривать? Я вот совершенно не понимаю, даже где можно попробовать поискать ответы на эти вопросы. А вы?

    С другой стороны, если рассуждать об уличной эпистемологии, которую я упоминал выше, то тут у меня тоже практически нет модели, но есть хоть какое-то представление, как её можно начать строить, если она вдруг понадобится. Можно взять и посмотреть на динамику роста сообщества. Можно устраивать опросы внутри сообщества на тему, сколько в нём есть людей, которым УЭ помогла серьёзно поменять взгляды. Можно оценивать, к каким слоям принадлежат участники, чтобы оценить потенциал роста. Ну как-то так.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #10 : 16 Июня 2020, 19:10 »
  • (+)0
  • (−)0
  • Если вкратце, там, в частности, рассматривается вопрос: как бы мы заметили, что рациональность влияет на состояние? Чем бы этот мир отличался от мира, где рациональность не влияет на состояние?

    Если мы ожидаем, что рациональность влияет на состояние, то как мы можем это формализовать? То есть, какие именно действия по нашей модели приведут к тому, что у некоего человека, выполняющего эти действия, скажем, доход будет расти на Х% в год?
    У "некоего человека" может расти, а может и нет. На состояние влияет очень много факторов. Ну, во-первых, рациональность и интеллект -- это вообще-то ортогональные понятия. Если они и коррелируют, то это потому, что умные чаще интересуются рациональностью. Но не все умные интересуются рациональностью, и не все рационалисты интеллектуалы. Затем, можно вспомнить фактор наследственности, и не только генетической, но и культурной и, если так можно выразиться, социальной: связи и возможности родителей очень помогают детям. Есть и чистый рандом -- чтобы добиться успеха надо идти на риски, и иногда эти риски съедают годы. Даже если мы абсолютно рационально принимаем решения, это не гарантирует нам 100% успеха, это лишь максимизирует вероятность успеха.

    Влияние рациональности на успех можно измерить лишь статистически, и то не факт. Чтобы изучить причинно-следственную связь нужен эксперимент, а эксперимент -- это значит контроль над независимой переменной, в данном случае за рациональностью. То есть, грубо говоря, надо набрать выборку нерационалистов, часть (рандомно выбранную) тренировать на рациональность, с другой частью не надо делать ничего, третью часть надо тренировать на что-нибудь другое (можно какими-нибудь медитациями заниматься, восточными единоборствами, шахматами, ..., всё что угодно кроме рациональности), и всё это надо делать несколько лет. Но лонгитюды отличаются тем, что люди начинают вываливаться из исследования, и очень сложно это учесть -- может быть отваливаются самые успешные/неуспешные? Они вываливаются из исследования, вываливаются из статистики, и наша статистика оказывается с bias'ом. Такое может быть, и это надо учитывать. Кроме того, испытуемые могут нарушать условия -- я читал про исследование какого-то лекарства, где людей рандомно поделили на группы, кому-то давали это лекарство, кому-то плацебо, но люди нашли друг-друга через соцсети, перетасовали таблетки, чтобы каждому досталось действующего вещества: они очень хотели излечиться от своей болезни. С рациональностью запросто может быть то же самое -- те кого не тренируют на рациональность, могут начать тренироваться на неё самостоятельно. А, ну и да, те кого тренируют, могут не тренироваться, не прилагать достаточного количества усилий.

    Короче, в таком исследовании будет очень сложно выделить сигнал из шума, а это значит, что и достоверный ответ получить крайне сложно.

    И вот я сейчас задумался над одним из этих вопросов и понимаю, что у меня вообще нет никакой модели.
    Добро пожаловать в социальные науки. :)

    Если мы где-то найдём 10 тысяч человеко-часов, чтобы воевать в комментариях, это приведёт к чему? А если миллион человеко-часов? А если не воевать, а вежливо разговаривать? Я вот совершенно не понимаю, даже где можно попробовать поискать ответы на эти вопросы. А вы?
    Я примерно представляю. Надо пойти учиться в ВУЗ на специальность в районе психологии/социологии. Думаю, можно и экономику взять. Это даст, во-первых, доступ к базам научных статей, которые можно перерывать в поисках всего связанного, и находя похожие статьи, находить группы учёных, занятых этими вопросами. С ними можно связаться, и позадавать вопросов. Во-вторых, можно найти на факультете кого-нибудь, кто в теме, или хотя бы в смежной теме, он(а) поможет.

    Первое, в принципе, наверное можно делать и без доступа к базам: есть всякие google scholar, где можно искать статьи, и есть sci-hub, где их можно скачивать. Но тут всё равно есть проблема понимания статей: статьи бывают разные, надо уметь отфильтровывать гумно; статьи полагаться на какие-то подразумеваемые знания у читателя, как правило они оставляют ссылки, но некоторые вещи надо просто иметь. Надо мыслить определённым образом. Я когда математическое образование получал, на третьем курсе начал чувствовать, что все эти математики загоняют моё мышление в рамки, формуют, придают определённую форму, в некотором смысле промывают мозги. Когда же я получал психологическое образование, я с первого курса в режиме реального времени наблюдал, как изменяется мой процесс мышления о людях. Я читал учебники по экономике, и там тоже явно вбиваются определённые модели мышления о проблемах. Вот эти способы мышления усвоить сложнее всего, по-моему, а без них можно упускать важные вещи в статьях.

    Gradient

    • Пользователь
    • **
    • Сообщений: 89
    • +31/-0
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #11 : 16 Июня 2020, 20:21 »
  • (+)0
  • (−)0
  • Цитировать
    Это так, но при множестве неявных допущений, которые я даже перечислить затрудняюсь. Допустим, я дискутирую с тобой, забив на какие-либо правила, но ты имеешь гораздо больший опыт дискуссий, и поэтому несмотря на моё преимущество, оказываешься убедительнее. Или, можно вспомнить бихевиоризм, и _дрессировать_ оппонента на то, чтобы он предпочитал рациональные методы ведения дискуссии -- при должном навыке, можно это делать так, что он не заметит этого (кстати это работает, в не самых запущенных случаях: если в качестве подкрепления использовать высказывание согласия с оппонентом, то оппонент неосознанно начинает использовать те самые методы, которые работают, помимо согласия можно использовать похвалу или всё что угодно ещё, что будет пробуждать в оппоненте позитивные эмоции). Или можно провоцировать оппонента, создавать у него чувство превосходства, и ждать когда его занесёт так, что потом он будет выглядеть последним идиотом. Или можно вообще забить на дискуссии с ними, и, скажем, захватить власть в отдельно взятом государстве, и создать из него государство рационалистов. Хотя с государством может не выйдет... ну, тогда можно попытаться создать корпорацию, успех в которой требует рациональности
    - это интересные аргументы на тему "почему придерживаться правил спора может быть хорошей идеей даже в явно агрессивной среде".
    Немножко сформулирую мою модель. Есть две разных задачи: первая - переубедить людей, чтобы они отбросили ложные убеждения и не вернулись к ним. Вторая - добиться от людей некоего поведения... Например, мы уверены, что самоизоляция реально сильно помогает от пандемии, и мы хотим, чтобы все люди добросовестно соблюдали хотя бы те требования, которые не вредят им экономически. Или мы уверены, что человек, который сейчас может прийти к власти - это намного хуже альтернатив, и мы хотим это предотвратить даже дорогой ценой.
    Почему я вообще вторую задачу упоминаю? Там ранее по тексту были опасения, что люди верят во что-то неправильное, и из-за этого произойдёт что-то плохое, и потому их надо по-честному переубеждать. Я полагаю, честное переубеждение - это частное решение, и не факт, что всегда наилучшее. Иногда может быть лучше информационная борьба, а то и принуждение. Да, это позиция конфликта, но эскалация конфликта - это не обязательно проигрышный вариант.

    Цитировать
    И вот я сейчас задумался над одним из этих вопросов и понимаю, что у меня вообще нет никакой модели. Если мы где-то найдём 10 тысяч человеко-часов, чтобы воевать в комментариях, это приведёт к чему? А если миллион человеко-часов? А если не воевать, а вежливо разговаривать? Я вот совершенно не понимаю, даже где можно попробовать поискать ответы на эти вопросы. А вы?
    - у меня есть только шаблон модели. Делим все варианты взаимодействия в комментариях на группы. Делим виды интернет-ресурсов на группы. Определям, какой вид поведения в каких обстоятельствах сколько людей убеждает (и насколько надолго). Как это измерить? Ну... Теоретически я бы измерил так: если у меня есть история интернет-сёрфинга этого человека, я бы посмотрел, как он раньше высказывался о данной проблеме, и как стал высказываться теперь. Или какие ресурсы по этому вопросу смотрел раньше, а какие смотрит теперь. Условно. У нас есть вконтантик (обстановка номер 1), есть ютуб (номер 2). Есть два подхода: УЭ (подход 1) и грязные приёмы (подход 2). Есть два варианта позиции: "синие правы" и "зелёные правы". Каждого человека, читавшего эту переписку, мы заносим в одну из групп по его прошлому (за синих, за зелёных, не определился) и по его будущему (аналогично). Проверяем, как каждый метод влияет на позицию людей. Не тех, с кем спорим, а тех, кто это читает.
    Где это найти - сложно сказать, наверняка какие-то исследования проводились. По идее (Скотта Александра), если мы используем УЭ, у нас будет некоторое преимущество, если мы изначально выбрали идею, которая соответствует реальности. Но если мы используем вежливый подход, а собеседник ведёт себя конфликтно/нечестно, то... Тут, наверное, зависит от площадки, я видел и исход "он ведёт себя нечестно, а потому неубедителен", и исход "он сам в своих словах путается, а вот этот альфач куда убедительнее". Где чего больше - надо смотреть статистику.

    Цитировать
    Я эту статью читаю примерно наоборот. Грубую силу могут применять обе стороны. Сегодня ты применил грубую силу и победил, завтра твои оппоненты лучше оценят твои возможности, наберут ещё больше грубой силы и победят сами. То, что ты прав, практически никак не даст тебе возможности набрать больше грубой силы. И наоборот, если ты активно насаждаешь игру по правилам и поиск истины, у тебя есть шанс заставить противника играть на твоей стороне, потому что на самом деле твой противник почти наверняка тоже считает, что он за истину.
    - звучит разумно. Ну и я видел немало случаев, когда подход "давайте вести себя правильно" не работал. Точнее, работал ограниченно... Вот, например: https://vk.com/videos-49014935?z=video-49014935_456239212%2Fclub49014935%2Fpl_-49014935_-2
    Спор на ТВ, одна из спорящих сторон - человек из Общества Скептиков. Когда в аналогичной ситуации оказался Панчин, он, как мне видится, выглядел куда лучше, в основном из-за навыков полемики (говорил не всё, что думает по теме, а то, к чему сложнее прикопаться).

    Цитировать
    Всё то, что сейчас называют информационной войной, вовсе не нацелено на то, чтобы убеждать людей, всё это нацелено на то, чтобы создать такое количество информационного шума, чтобы люди не могли бы в нём сориентироваться и были бы вынуждены выбирать чью-то сторону, делегируя критический анализ информации кому-то там.
    - почему вы так полагаете? В смысле, я ограниченно согласен: да, создание шума - это вполне себе приём. А ещё другой приём - изображать на листовках одну из сторон вурдалаками. Мне кажется, листовки с вурдалаками - это давление на эмоции, оно не направлено на создание шума и множества мнений, в которых легко запутаться.

    Цитировать
    А в каком ему хочется? Человек -- не рациональный агент. У него есть цели, есть "анти-цели" (то есть то, чего ему хочется избегать), у него есть своя система ценностей, и у разных людей разная. Может интеллекту вообще не хочется менять реальность? Может ему достаточно иметь хороший входящий поток информации, чтобы было чем заняться?
    - в теории ИИ есть такая концепция - метрика качества. Это некая формула, которая позволяет любые два состояние мира сравнить на лучше-хуже (или поровну). Это немного шире, чем цели. Если подходить с такой позиции, то если у человека есть хоть какие-то предпочтения (макароны люблю больше, чем кашу!), то у него есть метрика качества. Да, человек не является рациональным агентом, но является целеустремлённым агентом. Зная его предпочтения, можно предсказывать будущее - мир будет необыкновенно часто меняться в ту сторону, куда "хочется" этому агенту. Например, если его особо не трогать, будущая траектория реальности будет проходить через аномально большое число поеданий макаронов этим агентом =)
    "Менять мир" - это не что-то глобальное, это "влиять хоть на что-то".

    Цитировать
    По поводу "интеллект = состояние" мне очень нравится статья Фальковича: Is Rationalist Self-Improvement Real?
    - мне очень понравилась эта статья. И если рациональность так плохо повышает эффективность в краткосрочной перспективе... Тогда да, не стоит ожидать, что реальные рационалисты будут похожи по эффективности на Квиррелла.
    Хотя это выглядит местами довольно неожиданно. Допустим, я решил быть рационалистом, и стал тренировать ровно два навыка: во-первых, калибровку. В наиболее влияющих на жизнь областях: оценка вероятности успеха проекта, оценка длительности проекта, оценка рисков. Во-вторых, генерацию идей. Умение быстро сделать штук десять планов разной степени бредовости. А дальше всякий раз, когда в жизни наступает Судьбоносный Момент и Система-1 спрашивает: "что мне делать, начальник, я не могу выбрать!", можно будет применять эту классную сцепку из генерации идей и калибровки. Причём калибровку можно корректно тестить.
    В общем, интересно, что даже в таком ключе рациональность не играет большой роли

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Re: Борьба с дезинформацией
    « Ответ #12 : 16 Июня 2020, 22:18 »
  • (+)0
  • (−)0
  • Gradient
    Кажется, есть некоторое непонимание. Уличная эпистемология не заточена на дебаты. Основная идея в том, что ты осваиваешь уличную эпистемологию, разговариваешь с людьми об их убеждениях один на один и подталкиваешь их к тому, чтобы они задумывались, почему они верят в то, во что верят. Некоторые из них потом сами увлекаются уличной эпистемологией. Кажется, коэффициент R0 тут больше единицы, хотя вопрос, насколько больше :)

    Дебаты (и вообще публичная полемика) в принципе не слишком хороший инструмент, потому что при публичном споре человек чаще начинает ещё и беспокоиться за свой статус. Что часто приводит к радикализации обеих сторон и это плохо влияет и на убедительную часть тоже.

    - звучит разумно. Ну и я видел немало случаев, когда подход "давайте вести себя правильно" не работал. Точнее, работал ограниченно... Вот, например: https://vk.com/videos-49014935?z=video-49014935_456239212%2Fclub49014935%2Fpl_-49014935_-2
    Спор на ТВ, одна из спорящих сторон - человек из Общества Скептиков. Когда в аналогичной ситуации оказался Панчин, он, как мне видится, выглядел куда лучше, в основном из-за навыков полемики (говорил не всё, что думает по теме, а то, к чему сложнее прикопаться).
    Могу как пример показать видео с одним из организаторов движения УЭ в России на том же телеканале: https://www.youtube.com/watch?v=LLjx3dEO0LE&feature=emb_logo

    Но в целом, конечно, нет подхода, который работал бы всегда и везде, иначе бы давно его кто-нибудь бы нашёл и постоянно использовал бы. Любой подход будет хотя бы иногда давать сбои. Вопрос в том, как часто и насколько серьёзные будут последствия.

    Цитировать
    - мне очень понравилась эта статья. И если рациональность так плохо повышает эффективность в краткосрочной перспективе... Тогда да, не стоит ожидать, что реальные рационалисты будут похожи по эффективности на Квиррелла.
    Хотя это выглядит местами довольно неожиданно. Допустим, я решил быть рационалистом, и стал тренировать ровно два навыка: во-первых, калибровку. В наиболее влияющих на жизнь областях: оценка вероятности успеха проекта, оценка длительности проекта, оценка рисков. Во-вторых, генерацию идей. Умение быстро сделать штук десять планов разной степени бредовости. А дальше всякий раз, когда в жизни наступает Судьбоносный Момент и Система-1 спрашивает: "что мне делать, начальник, я не могу выбрать!", можно будет применять эту классную сцепку из генерации идей и калибровки. Причём калибровку можно корректно тестить.
    Ну, я вижу тут проблему в том, что любую идею, даже самую гениальную, нужно ещё и реализовать. И средства у нас обычно ограничены. И есть штуки, которые мы не в состоянии предвидеть по объективным соображениям.

    Т.е. можно прокачать калибровку до идеала. Можно научиться правильно определять ожидаемую полезность в том или ином выборе. Можно научиться придумывать решения, которые дают ожидаемую полезность выше, чем те, которые приходили в голову раньше. Но ты всё равно сильно зависишь от своего базового уровня. Грубо говоря, даже удваивать своё состояние каждый год - это очень-очень круто (и, кажется, людей, которые так умеют на регулярной основе, в современной истории не зафиксировано). Но если у тебя старт - сотня тысяч, то даже удваивая состояние каждый год, миллиард ты получишь лишь через тринадцать лет.

    Gradient

    • Пользователь
    • **
    • Сообщений: 89
    • +31/-0
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #13 : 17 Июня 2020, 10:07 »
  • (+)0
  • (−)0
  • Цитировать
    Кажется, есть некоторое непонимание. Уличная эпистемология не заточена на дебаты. Основная идея в том, что ты осваиваешь уличную эпистемологию, разговариваешь с людьми об их убеждениях один на один и подталкиваешь их к тому, чтобы они задумывались, почему они верят в то, во что верят. Некоторые из них потом сами увлекаются уличной эпистемологией. Кажется, коэффициент R0 тут больше единицы, хотя вопрос, насколько больше
    - я полагал, что в данной ситуации мы собираемся использовать УЭ по принципу "оно склоняет реальность в ту сторону, где оба собеседника верят в то, что соответствует действительности", ну и уверены сами, что мы-то уж достаточно хорошо разобрались в вопросе, чтобы не ошибиться со стороной. А здесь идея в том, чтобы вызвать "эпидемию" УЭ? Интересно. И, кажется, когда переписка именно в комментариях к чему-то, что нам не нравится... Не очень разумна. Кажется, что УЭ лучше заниматься там, где это сделать легче, но так, чтобы в сумме поучаствовало как можно больше людей.

    Цитировать
    Дебаты (и вообще публичная полемика) в принципе не слишком хороший инструмент, потому что при публичном споре человек чаще начинает ещё и беспокоиться за свой статус. Что часто приводит к радикализации обеих сторон и это плохо влияет и на убедительную часть тоже.
    - насколько я понимаю, публичную полемику люди используют, потому что она позволяет донести аргументы обеих сторон до широкой публике. Для этого же подходит и написание книжки/статьи, но с книгой/статьёй типичная проблема: человек читает аргументы и мысленно говорит "вот редиска, все наши аргументы переврал, чтобы они звучали слабо, свои аргументы привёл, а наши контр-аргументы вообще не упомянул".

    В любом случае, из описанной модели следует, что УЭ - это капитально, но пока она расползётся на всех, пройдёт много времени. А публичная полемика позволяет достаточно быстро донести свои аргументы до широких масс, и ещё и показать, что это не устаревшие аргументы - но ценой снижения убедительности.

    Цитировать
    Но в целом, конечно, нет подхода, который работал бы всегда и везде, иначе бы давно его кто-нибудь бы нашёл и постоянно использовал бы. Любой подход будет хотя бы иногда давать сбои. Вопрос в том, как часто и насколько серьёзные будут последствия.
    - полностью согласен. Видимо, нужно изучать, какой подход какие сильные стороны имеет, и когда они проявляются. Как минимум проверить гипотезу "публичная полемика иногда меняет мнение зрителей", и если она верна, то построить модель изменений.

    Цитировать
    Т.е. можно прокачать калибровку до идеала. Можно научиться правильно определять ожидаемую полезность в том или ином выборе. Можно научиться придумывать решения, которые дают ожидаемую полезность выше, чем те, которые приходили в голову раньше. Но ты всё равно сильно зависишь от своего базового уровня. Грубо говоря, даже удваивать своё состояние каждый год - это очень-очень круто (и, кажется, людей, которые так умеют на регулярной основе, в современной истории не зафиксировано). Но если у тебя старт - сотня тысяч, то даже удваивая состояние каждый год, миллиард ты получишь лишь через тринадцать лет.
    - ну, если у меня калибровка будет прокачана до идеала, то я буду получать лучшие результаты, чем другие люди с тем же стартовым капиталом. Это не позволит стать Рокфеллером, но позволит быть первым парнем на деревне, грубо говоря. Что уже даёт какую-то власть и возможность продавливать свои решения там, где "одноклассники" не могут.

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Борьба с дезинформацией
    « Ответ #14 : 17 Июня 2020, 23:58 »
  • (+)0
  • (−)0
  • - ну, если у меня калибровка будет прокачана до идеала, то я буду получать лучшие результаты, чем другие люди с тем же стартовым капиталом. Это не позволит стать Рокфеллером, но позволит быть первым парнем на деревне, грубо говоря. Что уже даёт какую-то власть и возможность продавливать свои решения там, где "одноклассники" не могут.
    У тебя больше шансов продавливать свои решения, чем у "одноклассников", но есть куча других факторов, в том числе и рандомных, которые влияют. Были исследования, я сейчас не упомню количественно, и ссылок не найду, но уровень дохода человека очень сильно коррелирует с уровнем дохода его предков. Очень важно, откуда ты начинаешь. Но дело в том, что есть ещё и рандом, и чем больше вокруг тебя людей, кто идёт на риск, тем сложнее обогнать 50-перцентиль, не рискуя серьёзно. И под серьёзно, я имею в виду не игру на шансах 1:9, а стоимость проигрыша: если всё что у тебя есть дорогого -- квартира, и ты закладываешь квартиру, чтобы взять кредит, и сыграть в бизнес, при очень выгодных раскладах с точки зрения теории игр, но срабатывает 1% вероятности, которые оставляют тебя без квартиры, то... эмм... ты отброшен назад лет на 10-20. А через 20 лет либо шах помрёт, либо ишак помрёт, и, в общем, следующий шанс стать миллионером будут тянуть уже твои дети. При этом, проблема-то в том, что тебе многократно придётся идти на риск, и хотя бы раз ты проиграешь. А раз так, то, чтобы стабильно двигаться вперёд, тебе придётся диверсицировать, перезакладываться, и двигаться к миллиону очень медленно. Но вокруг есть куча людей, кто идёт на риск, их _очень_ много, и значит будут реализовываться маловероятные исходы, и таким образом, самыми богатыми будут не самые рациональные, а самые везучие.