Последние сообщения

Последние сообщения

Страницы: 1 2 [3] 4 5 ... 10
21
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Alaric 18 Июня 2020, 15:41 »
Были исследования, я сейчас не упомню количественно, и ссылок не найду, но уровень дохода человека очень сильно коррелирует с уровнем дохода его предков.
На этом месте я вспомнил, что я видел упоминание таких исследований у Рея Далио в статье Why and How Capitalism Needs To Be Reformed. Он там ссылается на вот этот огромный доклад: https://www.oecd.org/social/soc/Social-mobility-2018-Overview-MainFindings.pdf

Если вкратце, всё сильно зависит от страны. Утверждается, что в Дании шансы ребёнка, чьи родители относятся к самому низкому квартилю, перейти как в самый верхний, так и остаться в самом нижнем, практически равны. А в США (почему собственно Далио и приводит эти данные), шансы перейти в самый верхний - 8%, остаться в самом нижнем - 40%. И это очень плохие показатели по сравнению со многими. (По России там данных нет.)
22
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Gradient 18 Июня 2020, 08:38 »
Согласен, это серьёзная проблема. И кажется, довольно фундаментальная. То есть, видимо, чтобы быть радикально сильнее "одноклассников" без большого риска убиться по дороге, надо уметь прогнозировать будущее лучше, чем это позволяют данные.

*пошёл обдумывать этот грустный расклад и придумывать, можно ли как-то хитро выкрутиться*
23
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от kuuff 17 Июня 2020, 23:58 »
- ну, если у меня калибровка будет прокачана до идеала, то я буду получать лучшие результаты, чем другие люди с тем же стартовым капиталом. Это не позволит стать Рокфеллером, но позволит быть первым парнем на деревне, грубо говоря. Что уже даёт какую-то власть и возможность продавливать свои решения там, где "одноклассники" не могут.
У тебя больше шансов продавливать свои решения, чем у "одноклассников", но есть куча других факторов, в том числе и рандомных, которые влияют. Были исследования, я сейчас не упомню количественно, и ссылок не найду, но уровень дохода человека очень сильно коррелирует с уровнем дохода его предков. Очень важно, откуда ты начинаешь. Но дело в том, что есть ещё и рандом, и чем больше вокруг тебя людей, кто идёт на риск, тем сложнее обогнать 50-перцентиль, не рискуя серьёзно. И под серьёзно, я имею в виду не игру на шансах 1:9, а стоимость проигрыша: если всё что у тебя есть дорогого -- квартира, и ты закладываешь квартиру, чтобы взять кредит, и сыграть в бизнес, при очень выгодных раскладах с точки зрения теории игр, но срабатывает 1% вероятности, которые оставляют тебя без квартиры, то... эмм... ты отброшен назад лет на 10-20. А через 20 лет либо шах помрёт, либо ишак помрёт, и, в общем, следующий шанс стать миллионером будут тянуть уже твои дети. При этом, проблема-то в том, что тебе многократно придётся идти на риск, и хотя бы раз ты проиграешь. А раз так, то, чтобы стабильно двигаться вперёд, тебе придётся диверсицировать, перезакладываться, и двигаться к миллиону очень медленно. Но вокруг есть куча людей, кто идёт на риск, их _очень_ много, и значит будут реализовываться маловероятные исходы, и таким образом, самыми богатыми будут не самые рациональные, а самые везучие.
24
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Gradient 17 Июня 2020, 10:07 »
Цитировать
Кажется, есть некоторое непонимание. Уличная эпистемология не заточена на дебаты. Основная идея в том, что ты осваиваешь уличную эпистемологию, разговариваешь с людьми об их убеждениях один на один и подталкиваешь их к тому, чтобы они задумывались, почему они верят в то, во что верят. Некоторые из них потом сами увлекаются уличной эпистемологией. Кажется, коэффициент R0 тут больше единицы, хотя вопрос, насколько больше
- я полагал, что в данной ситуации мы собираемся использовать УЭ по принципу "оно склоняет реальность в ту сторону, где оба собеседника верят в то, что соответствует действительности", ну и уверены сами, что мы-то уж достаточно хорошо разобрались в вопросе, чтобы не ошибиться со стороной. А здесь идея в том, чтобы вызвать "эпидемию" УЭ? Интересно. И, кажется, когда переписка именно в комментариях к чему-то, что нам не нравится... Не очень разумна. Кажется, что УЭ лучше заниматься там, где это сделать легче, но так, чтобы в сумме поучаствовало как можно больше людей.

Цитировать
Дебаты (и вообще публичная полемика) в принципе не слишком хороший инструмент, потому что при публичном споре человек чаще начинает ещё и беспокоиться за свой статус. Что часто приводит к радикализации обеих сторон и это плохо влияет и на убедительную часть тоже.
- насколько я понимаю, публичную полемику люди используют, потому что она позволяет донести аргументы обеих сторон до широкой публике. Для этого же подходит и написание книжки/статьи, но с книгой/статьёй типичная проблема: человек читает аргументы и мысленно говорит "вот редиска, все наши аргументы переврал, чтобы они звучали слабо, свои аргументы привёл, а наши контр-аргументы вообще не упомянул".

В любом случае, из описанной модели следует, что УЭ - это капитально, но пока она расползётся на всех, пройдёт много времени. А публичная полемика позволяет достаточно быстро донести свои аргументы до широких масс, и ещё и показать, что это не устаревшие аргументы - но ценой снижения убедительности.

Цитировать
Но в целом, конечно, нет подхода, который работал бы всегда и везде, иначе бы давно его кто-нибудь бы нашёл и постоянно использовал бы. Любой подход будет хотя бы иногда давать сбои. Вопрос в том, как часто и насколько серьёзные будут последствия.
- полностью согласен. Видимо, нужно изучать, какой подход какие сильные стороны имеет, и когда они проявляются. Как минимум проверить гипотезу "публичная полемика иногда меняет мнение зрителей", и если она верна, то построить модель изменений.

Цитировать
Т.е. можно прокачать калибровку до идеала. Можно научиться правильно определять ожидаемую полезность в том или ином выборе. Можно научиться придумывать решения, которые дают ожидаемую полезность выше, чем те, которые приходили в голову раньше. Но ты всё равно сильно зависишь от своего базового уровня. Грубо говоря, даже удваивать своё состояние каждый год - это очень-очень круто (и, кажется, людей, которые так умеют на регулярной основе, в современной истории не зафиксировано). Но если у тебя старт - сотня тысяч, то даже удваивая состояние каждый год, миллиард ты получишь лишь через тринадцать лет.
- ну, если у меня калибровка будет прокачана до идеала, то я буду получать лучшие результаты, чем другие люди с тем же стартовым капиталом. Это не позволит стать Рокфеллером, но позволит быть первым парнем на деревне, грубо говоря. Что уже даёт какую-то власть и возможность продавливать свои решения там, где "одноклассники" не могут.
25
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Alaric 16 Июня 2020, 22:18 »
Gradient
Кажется, есть некоторое непонимание. Уличная эпистемология не заточена на дебаты. Основная идея в том, что ты осваиваешь уличную эпистемологию, разговариваешь с людьми об их убеждениях один на один и подталкиваешь их к тому, чтобы они задумывались, почему они верят в то, во что верят. Некоторые из них потом сами увлекаются уличной эпистемологией. Кажется, коэффициент R0 тут больше единицы, хотя вопрос, насколько больше :)

Дебаты (и вообще публичная полемика) в принципе не слишком хороший инструмент, потому что при публичном споре человек чаще начинает ещё и беспокоиться за свой статус. Что часто приводит к радикализации обеих сторон и это плохо влияет и на убедительную часть тоже.

- звучит разумно. Ну и я видел немало случаев, когда подход "давайте вести себя правильно" не работал. Точнее, работал ограниченно... Вот, например: https://vk.com/videos-49014935?z=video-49014935_456239212%2Fclub49014935%2Fpl_-49014935_-2
Спор на ТВ, одна из спорящих сторон - человек из Общества Скептиков. Когда в аналогичной ситуации оказался Панчин, он, как мне видится, выглядел куда лучше, в основном из-за навыков полемики (говорил не всё, что думает по теме, а то, к чему сложнее прикопаться).
Могу как пример показать видео с одним из организаторов движения УЭ в России на том же телеканале: https://www.youtube.com/watch?v=LLjx3dEO0LE&feature=emb_logo

Но в целом, конечно, нет подхода, который работал бы всегда и везде, иначе бы давно его кто-нибудь бы нашёл и постоянно использовал бы. Любой подход будет хотя бы иногда давать сбои. Вопрос в том, как часто и насколько серьёзные будут последствия.

Цитировать
- мне очень понравилась эта статья. И если рациональность так плохо повышает эффективность в краткосрочной перспективе... Тогда да, не стоит ожидать, что реальные рационалисты будут похожи по эффективности на Квиррелла.
Хотя это выглядит местами довольно неожиданно. Допустим, я решил быть рационалистом, и стал тренировать ровно два навыка: во-первых, калибровку. В наиболее влияющих на жизнь областях: оценка вероятности успеха проекта, оценка длительности проекта, оценка рисков. Во-вторых, генерацию идей. Умение быстро сделать штук десять планов разной степени бредовости. А дальше всякий раз, когда в жизни наступает Судьбоносный Момент и Система-1 спрашивает: "что мне делать, начальник, я не могу выбрать!", можно будет применять эту классную сцепку из генерации идей и калибровки. Причём калибровку можно корректно тестить.
Ну, я вижу тут проблему в том, что любую идею, даже самую гениальную, нужно ещё и реализовать. И средства у нас обычно ограничены. И есть штуки, которые мы не в состоянии предвидеть по объективным соображениям.

Т.е. можно прокачать калибровку до идеала. Можно научиться правильно определять ожидаемую полезность в том или ином выборе. Можно научиться придумывать решения, которые дают ожидаемую полезность выше, чем те, которые приходили в голову раньше. Но ты всё равно сильно зависишь от своего базового уровня. Грубо говоря, даже удваивать своё состояние каждый год - это очень-очень круто (и, кажется, людей, которые так умеют на регулярной основе, в современной истории не зафиксировано). Но если у тебя старт - сотня тысяч, то даже удваивая состояние каждый год, миллиард ты получишь лишь через тринадцать лет.
26
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Gradient 16 Июня 2020, 20:21 »
Цитировать
Это так, но при множестве неявных допущений, которые я даже перечислить затрудняюсь. Допустим, я дискутирую с тобой, забив на какие-либо правила, но ты имеешь гораздо больший опыт дискуссий, и поэтому несмотря на моё преимущество, оказываешься убедительнее. Или, можно вспомнить бихевиоризм, и _дрессировать_ оппонента на то, чтобы он предпочитал рациональные методы ведения дискуссии -- при должном навыке, можно это делать так, что он не заметит этого (кстати это работает, в не самых запущенных случаях: если в качестве подкрепления использовать высказывание согласия с оппонентом, то оппонент неосознанно начинает использовать те самые методы, которые работают, помимо согласия можно использовать похвалу или всё что угодно ещё, что будет пробуждать в оппоненте позитивные эмоции). Или можно провоцировать оппонента, создавать у него чувство превосходства, и ждать когда его занесёт так, что потом он будет выглядеть последним идиотом. Или можно вообще забить на дискуссии с ними, и, скажем, захватить власть в отдельно взятом государстве, и создать из него государство рационалистов. Хотя с государством может не выйдет... ну, тогда можно попытаться создать корпорацию, успех в которой требует рациональности
- это интересные аргументы на тему "почему придерживаться правил спора может быть хорошей идеей даже в явно агрессивной среде".
Немножко сформулирую мою модель. Есть две разных задачи: первая - переубедить людей, чтобы они отбросили ложные убеждения и не вернулись к ним. Вторая - добиться от людей некоего поведения... Например, мы уверены, что самоизоляция реально сильно помогает от пандемии, и мы хотим, чтобы все люди добросовестно соблюдали хотя бы те требования, которые не вредят им экономически. Или мы уверены, что человек, который сейчас может прийти к власти - это намного хуже альтернатив, и мы хотим это предотвратить даже дорогой ценой.
Почему я вообще вторую задачу упоминаю? Там ранее по тексту были опасения, что люди верят во что-то неправильное, и из-за этого произойдёт что-то плохое, и потому их надо по-честному переубеждать. Я полагаю, честное переубеждение - это частное решение, и не факт, что всегда наилучшее. Иногда может быть лучше информационная борьба, а то и принуждение. Да, это позиция конфликта, но эскалация конфликта - это не обязательно проигрышный вариант.

Цитировать
И вот я сейчас задумался над одним из этих вопросов и понимаю, что у меня вообще нет никакой модели. Если мы где-то найдём 10 тысяч человеко-часов, чтобы воевать в комментариях, это приведёт к чему? А если миллион человеко-часов? А если не воевать, а вежливо разговаривать? Я вот совершенно не понимаю, даже где можно попробовать поискать ответы на эти вопросы. А вы?
- у меня есть только шаблон модели. Делим все варианты взаимодействия в комментариях на группы. Делим виды интернет-ресурсов на группы. Определям, какой вид поведения в каких обстоятельствах сколько людей убеждает (и насколько надолго). Как это измерить? Ну... Теоретически я бы измерил так: если у меня есть история интернет-сёрфинга этого человека, я бы посмотрел, как он раньше высказывался о данной проблеме, и как стал высказываться теперь. Или какие ресурсы по этому вопросу смотрел раньше, а какие смотрит теперь. Условно. У нас есть вконтантик (обстановка номер 1), есть ютуб (номер 2). Есть два подхода: УЭ (подход 1) и грязные приёмы (подход 2). Есть два варианта позиции: "синие правы" и "зелёные правы". Каждого человека, читавшего эту переписку, мы заносим в одну из групп по его прошлому (за синих, за зелёных, не определился) и по его будущему (аналогично). Проверяем, как каждый метод влияет на позицию людей. Не тех, с кем спорим, а тех, кто это читает.
Где это найти - сложно сказать, наверняка какие-то исследования проводились. По идее (Скотта Александра), если мы используем УЭ, у нас будет некоторое преимущество, если мы изначально выбрали идею, которая соответствует реальности. Но если мы используем вежливый подход, а собеседник ведёт себя конфликтно/нечестно, то... Тут, наверное, зависит от площадки, я видел и исход "он ведёт себя нечестно, а потому неубедителен", и исход "он сам в своих словах путается, а вот этот альфач куда убедительнее". Где чего больше - надо смотреть статистику.

Цитировать
Я эту статью читаю примерно наоборот. Грубую силу могут применять обе стороны. Сегодня ты применил грубую силу и победил, завтра твои оппоненты лучше оценят твои возможности, наберут ещё больше грубой силы и победят сами. То, что ты прав, практически никак не даст тебе возможности набрать больше грубой силы. И наоборот, если ты активно насаждаешь игру по правилам и поиск истины, у тебя есть шанс заставить противника играть на твоей стороне, потому что на самом деле твой противник почти наверняка тоже считает, что он за истину.
- звучит разумно. Ну и я видел немало случаев, когда подход "давайте вести себя правильно" не работал. Точнее, работал ограниченно... Вот, например: https://vk.com/videos-49014935?z=video-49014935_456239212%2Fclub49014935%2Fpl_-49014935_-2
Спор на ТВ, одна из спорящих сторон - человек из Общества Скептиков. Когда в аналогичной ситуации оказался Панчин, он, как мне видится, выглядел куда лучше, в основном из-за навыков полемики (говорил не всё, что думает по теме, а то, к чему сложнее прикопаться).

Цитировать
Всё то, что сейчас называют информационной войной, вовсе не нацелено на то, чтобы убеждать людей, всё это нацелено на то, чтобы создать такое количество информационного шума, чтобы люди не могли бы в нём сориентироваться и были бы вынуждены выбирать чью-то сторону, делегируя критический анализ информации кому-то там.
- почему вы так полагаете? В смысле, я ограниченно согласен: да, создание шума - это вполне себе приём. А ещё другой приём - изображать на листовках одну из сторон вурдалаками. Мне кажется, листовки с вурдалаками - это давление на эмоции, оно не направлено на создание шума и множества мнений, в которых легко запутаться.

Цитировать
А в каком ему хочется? Человек -- не рациональный агент. У него есть цели, есть "анти-цели" (то есть то, чего ему хочется избегать), у него есть своя система ценностей, и у разных людей разная. Может интеллекту вообще не хочется менять реальность? Может ему достаточно иметь хороший входящий поток информации, чтобы было чем заняться?
- в теории ИИ есть такая концепция - метрика качества. Это некая формула, которая позволяет любые два состояние мира сравнить на лучше-хуже (или поровну). Это немного шире, чем цели. Если подходить с такой позиции, то если у человека есть хоть какие-то предпочтения (макароны люблю больше, чем кашу!), то у него есть метрика качества. Да, человек не является рациональным агентом, но является целеустремлённым агентом. Зная его предпочтения, можно предсказывать будущее - мир будет необыкновенно часто меняться в ту сторону, куда "хочется" этому агенту. Например, если его особо не трогать, будущая траектория реальности будет проходить через аномально большое число поеданий макаронов этим агентом =)
"Менять мир" - это не что-то глобальное, это "влиять хоть на что-то".

Цитировать
По поводу "интеллект = состояние" мне очень нравится статья Фальковича: Is Rationalist Self-Improvement Real?
- мне очень понравилась эта статья. И если рациональность так плохо повышает эффективность в краткосрочной перспективе... Тогда да, не стоит ожидать, что реальные рационалисты будут похожи по эффективности на Квиррелла.
Хотя это выглядит местами довольно неожиданно. Допустим, я решил быть рационалистом, и стал тренировать ровно два навыка: во-первых, калибровку. В наиболее влияющих на жизнь областях: оценка вероятности успеха проекта, оценка длительности проекта, оценка рисков. Во-вторых, генерацию идей. Умение быстро сделать штук десять планов разной степени бредовости. А дальше всякий раз, когда в жизни наступает Судьбоносный Момент и Система-1 спрашивает: "что мне делать, начальник, я не могу выбрать!", можно будет применять эту классную сцепку из генерации идей и калибровки. Причём калибровку можно корректно тестить.
В общем, интересно, что даже в таком ключе рациональность не играет большой роли
27
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от kuuff 16 Июня 2020, 19:10 »
Если вкратце, там, в частности, рассматривается вопрос: как бы мы заметили, что рациональность влияет на состояние? Чем бы этот мир отличался от мира, где рациональность не влияет на состояние?

Если мы ожидаем, что рациональность влияет на состояние, то как мы можем это формализовать? То есть, какие именно действия по нашей модели приведут к тому, что у некоего человека, выполняющего эти действия, скажем, доход будет расти на Х% в год?
У "некоего человека" может расти, а может и нет. На состояние влияет очень много факторов. Ну, во-первых, рациональность и интеллект -- это вообще-то ортогональные понятия. Если они и коррелируют, то это потому, что умные чаще интересуются рациональностью. Но не все умные интересуются рациональностью, и не все рационалисты интеллектуалы. Затем, можно вспомнить фактор наследственности, и не только генетической, но и культурной и, если так можно выразиться, социальной: связи и возможности родителей очень помогают детям. Есть и чистый рандом -- чтобы добиться успеха надо идти на риски, и иногда эти риски съедают годы. Даже если мы абсолютно рационально принимаем решения, это не гарантирует нам 100% успеха, это лишь максимизирует вероятность успеха.

Влияние рациональности на успех можно измерить лишь статистически, и то не факт. Чтобы изучить причинно-следственную связь нужен эксперимент, а эксперимент -- это значит контроль над независимой переменной, в данном случае за рациональностью. То есть, грубо говоря, надо набрать выборку нерационалистов, часть (рандомно выбранную) тренировать на рациональность, с другой частью не надо делать ничего, третью часть надо тренировать на что-нибудь другое (можно какими-нибудь медитациями заниматься, восточными единоборствами, шахматами, ..., всё что угодно кроме рациональности), и всё это надо делать несколько лет. Но лонгитюды отличаются тем, что люди начинают вываливаться из исследования, и очень сложно это учесть -- может быть отваливаются самые успешные/неуспешные? Они вываливаются из исследования, вываливаются из статистики, и наша статистика оказывается с bias'ом. Такое может быть, и это надо учитывать. Кроме того, испытуемые могут нарушать условия -- я читал про исследование какого-то лекарства, где людей рандомно поделили на группы, кому-то давали это лекарство, кому-то плацебо, но люди нашли друг-друга через соцсети, перетасовали таблетки, чтобы каждому досталось действующего вещества: они очень хотели излечиться от своей болезни. С рациональностью запросто может быть то же самое -- те кого не тренируют на рациональность, могут начать тренироваться на неё самостоятельно. А, ну и да, те кого тренируют, могут не тренироваться, не прилагать достаточного количества усилий.

Короче, в таком исследовании будет очень сложно выделить сигнал из шума, а это значит, что и достоверный ответ получить крайне сложно.

И вот я сейчас задумался над одним из этих вопросов и понимаю, что у меня вообще нет никакой модели.
Добро пожаловать в социальные науки. :)

Если мы где-то найдём 10 тысяч человеко-часов, чтобы воевать в комментариях, это приведёт к чему? А если миллион человеко-часов? А если не воевать, а вежливо разговаривать? Я вот совершенно не понимаю, даже где можно попробовать поискать ответы на эти вопросы. А вы?
Я примерно представляю. Надо пойти учиться в ВУЗ на специальность в районе психологии/социологии. Думаю, можно и экономику взять. Это даст, во-первых, доступ к базам научных статей, которые можно перерывать в поисках всего связанного, и находя похожие статьи, находить группы учёных, занятых этими вопросами. С ними можно связаться, и позадавать вопросов. Во-вторых, можно найти на факультете кого-нибудь, кто в теме, или хотя бы в смежной теме, он(а) поможет.

Первое, в принципе, наверное можно делать и без доступа к базам: есть всякие google scholar, где можно искать статьи, и есть sci-hub, где их можно скачивать. Но тут всё равно есть проблема понимания статей: статьи бывают разные, надо уметь отфильтровывать гумно; статьи полагаться на какие-то подразумеваемые знания у читателя, как правило они оставляют ссылки, но некоторые вещи надо просто иметь. Надо мыслить определённым образом. Я когда математическое образование получал, на третьем курсе начал чувствовать, что все эти математики загоняют моё мышление в рамки, формуют, придают определённую форму, в некотором смысле промывают мозги. Когда же я получал психологическое образование, я с первого курса в режиме реального времени наблюдал, как изменяется мой процесс мышления о людях. Я читал учебники по экономике, и там тоже явно вбиваются определённые модели мышления о проблемах. Вот эти способы мышления усвоить сложнее всего, по-моему, а без них можно упускать важные вещи в статьях.
28
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Alaric 16 Июня 2020, 17:18 »
Александр Скотт написал классную статью об этом: https://lesswrong.ru/w/%D0%92%D0%B5%D0%B4%D0%BE%D0%BC%D1%8B%D0%B5_%D0%BA%D1%80%D0%B0%D1%81%D0%BE%D1%82%D0%BE%D0%B9_%D1%81%D0%B2%D0%BE%D0%B8%D1%85_%D0%BE%D1%80%D1%83%D0%B4%D0%B8%D0%B9
Я не со всем согласен, но основную идею полагаю верной: разумная дискуссия в среднем менее убедительна, чем аппеляция к эмоциям и грубой силе. Поэтому если нет паритета по грубой силе, то люди будут чаще переходить в "лагеря противников", чем в наш.
Я эту статью читаю примерно наоборот. Грубую силу могут применять обе стороны. Сегодня ты применил грубую силу и победил, завтра твои оппоненты лучше оценят твои возможности, наберут ещё больше грубой силы и победят сами. То, что ты прав, практически никак не даст тебе возможности набрать больше грубой силы. И наоборот, если ты активно насаждаешь игру по правилам и поиск истины, у тебя есть шанс заставить противника играть на твоей стороне, потому что на самом деле твой противник почти наверняка тоже считает, что он за истину.

По поводу "интеллект = состояние" мне очень нравится статья Фальковича: Is Rationalist Self-Improvement Real?

Если вкратце, там, в частности, рассматривается вопрос: как бы мы заметили, что рациональность влияет на состояние? Чем бы этот мир отличался от мира, где рациональность не влияет на состояние?

Если мы ожидаем, что рациональность влияет на состояние, то как мы можем это формализовать? То есть, какие именно действия по нашей модели приведут к тому, что у некоего человека, выполняющего эти действия, скажем, доход будет расти на Х% в год?

Вообще, лично мне сейчас очень важным умением кажется переход от качественных штук к количественным. Если дискуссия крутится вокруг вопроса с ответом "да или нет" (влияет ли рациональность на состояние или нет, нужно нанимать армию ботов или нет), то, возможно, стоит задуматься, быть может, что-то идёт не так.

И вот я сейчас задумался над одним из этих вопросов и понимаю, что у меня вообще нет никакой модели. Если мы где-то найдём 10 тысяч человеко-часов, чтобы воевать в комментариях, это приведёт к чему? А если миллион человеко-часов? А если не воевать, а вежливо разговаривать? Я вот совершенно не понимаю, даже где можно попробовать поискать ответы на эти вопросы. А вы?

С другой стороны, если рассуждать об уличной эпистемологии, которую я упоминал выше, то тут у меня тоже практически нет модели, но есть хоть какое-то представление, как её можно начать строить, если она вдруг понадобится. Можно взять и посмотреть на динамику роста сообщества. Можно устраивать опросы внутри сообщества на тему, сколько в нём есть людей, которым УЭ помогла серьёзно поменять взгляды. Можно оценивать, к каким слоям принадлежат участники, чтобы оценить потенциал роста. Ну как-то так.
29
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от kuuff 16 Июня 2020, 16:55 »
- ну, как ведутся информационные войны? Во-первых, можно физически уничтожить того, кто высказывает вредные идеи (это не предложение, просто первая идея, которую высказал бы тот самый парень, который предложил заточить кости пуффендуйцев). Во-вторых, можно задавить чужую идею шумом. В-третьих, можно компрометировать чужую идею... Например, создав и распиарив её "соломенное чучело". В-четвёртых, можно высмеять чужую идею. Много вариантов сделать так, чтобы доминировали "наши" идеи, безотносительно их правильности. Многие игроки станут при распространении своих идей использовать такие приёмы - значит, отказываясь от них, мы отказываемся от преимущества. И в условиях, когда у "наших" и "враждебных" идей примерно поровну грубой силы, начнёт побеждать та идея, которая лучше именно с точки зрения истинности (прогнозирующей способности, логичности и так далее).
Нет, если критерии победы не включает в себя истинности, то побеждать будут самые громкие, а не самые истинные. Люди играя в игру подстраиваются под правила, если по правилам не нужно соблюдать внутреннюю непротиворечивость, если факты можно принимать как факты или отвергать как фейки на основании пожеланий левой пятки, если ad hominem считаеть валидным критерием для принятия или отвержения гипотезы, то толку в этом никакого. Всё то, что сейчас называют информационной войной, вовсе не нацелено на то, чтобы убеждать людей, всё это нацелено на то, чтобы создать такое количество информационного шума, чтобы люди не могли бы в нём сориентироваться и были бы вынуждены выбирать чью-то сторону, делегируя критический анализ информации кому-то там.

Если ты начинаешь прибегать к троллям для отстаивания рациональной позиции, то ты лишь увеличиваешь количество информационного шума. Но дело не только в этом. Выбор методов для ведения конкурентной борьбы -- это очень близко к дилемме заключённого. В смысле, людям в целом выгодна рациональная дискуссия, но людям взятым по отдельности выгодна игра без правил. В ГПиМРМ Квиррелл разбирал схожую ситуацию, когда описывал поведение Гарри в первом его конфликте со Снейпом.
разумная дискуссия в среднем менее убедительна, чем аппеляция к эмоциям и грубой силе. Поэтому если нет паритета по грубой силе, то люди будут чаще переходить в "лагеря противников", чем в наш.
Это так, но при множестве неявных допущений, которые я даже перечислить затрудняюсь. Допустим, я дискутирую с тобой, забив на какие-либо правила, но ты имеешь гораздо больший опыт дискуссий, и поэтому несмотря на моё преимущество, оказываешься убедительнее. Или, можно вспомнить бихевиоризм, и _дрессировать_ оппонента на то, чтобы он предпочитал рациональные методы ведения дискуссии -- при должном навыке, можно это делать так, что он не заметит этого (кстати это работает, в не самых запущенных случаях: если в качестве подкрепления использовать высказывание согласия с оппонентом, то оппонент неосознанно начинает использовать те самые методы, которые работают, помимо согласия можно использовать похвалу или всё что угодно ещё, что будет пробуждать в оппоненте позитивные эмоции). Или можно провоцировать оппонента, создавать у него чувство превосходства, и ждать когда его занесёт так, что потом он будет выглядеть последним идиотом. Или можно вообще забить на дискуссии с ними, и, скажем, захватить власть в отдельно взятом государстве, и создать из него государство рационалистов. Хотя с государством может не выйдет... ну, тогда можно попытаться создать корпорацию, успех в которой требует рациональности. Или даже создать ассоциацию компаний, участие в которой требует от организации принятия каких-то там условий на внутреннюю структуру, с тем чтобы только в эту ассоциацию попадали бы только компании рационалистов. Если это продумать так, чтобы состоять в ассоциации было бы выгодно, то можно выйти на ситуацию, когда любой частный бизнес в стране насаживает рациональность среди сотрудников, в надежде попасть в ассоциацию, а это значит что десятки процентов трудоспособного населения оказываются в тренингах на рациональность.

Это я просто навскидку нафантазировал.
- интеллект - это способность агента направлять реальность в том направлении, куда ему хочется.
А в каком ему хочется? Человек -- не рациональный агент. У него есть цели, есть "анти-цели" (то есть то, чего ему хочется избегать), у него есть своя система ценностей, и у разных людей разная. Может интеллекту вообще не хочется менять реальность? Может ему достаточно иметь хороший входящий поток информации, чтобы было чем заняться?

- я полагаю, это именно стереотип нашего культурного кода. Если человек может считать будущее на 10 ходов глубже окружающих, при прочих равных он всё равно всех сделает, даже если в культурном коде это не прописано. Ему же не обязательно быть социально неадаптированным. Если это будет важно для достижения целей - адаптируется, в чём принципиальная невозможность?
Ему может не хотеться социально адаптироваться. Или может ему не получается адаптироваться -- может он аутист? Или может трудное детство, травмированная психика, и таким образом социальная адаптация для него оказывается невероятно сложной? А может просто он прошит культурным кодом, и для него социальная адаптация сродни читерству?
Может, вы имеете в виду, что в России люди, которые хорошо умеют в эпистемологическую рациональность, одновременно имеют склонность быть аномально слабыми в инструментальной рациональности? Из-за каких-то национальных стереотипов.
Я что-то подобное вижу и в Росии, и в статьях про зарубежье. Что есть люди, вроде бы умные, вроде бы социально небезразличные, но они не учатся тому, как стать лидерами и решить проблемы руками своих последователей. Почему так? На самом деле социальные задачи им не так важны? Или настолько силён стереотип, что интеллектуалы не стоят по главе корпораций/армий/культов?
Да, я что-то типа того имею в виду. Почему так происходит -- это отдельный вопрос. Мне кажется, что по-крайней мере отчасти, это самовоспроизводящийся процесс: чем больше умных людей, не вписывающихся в общество, тем крепче стереотип, что умный человек не вписывается в общество. Чем крепче стереотип, тем больше умных людей, не вписывающихся в общество.

В любом случае... Может, я ошибаюсь, но кажется, люди, которые прочитали значительную часть цепочек Юдковского, понимают связь между умением познавать мир и умением им управлять. Хотя бы примитивная идея из теории ИИ: создай максимум возможных планов, а затем оцени, какой ближе всего приведёт к цели. По идее, интеллектуалы уж оценивать эффективность планов должны уметь лучше не-интеллектуалов, иначе непонятно, что это за интеллект у них такой) И мне кажется вероятным, что люди из этого сообщества способны при большой мотивации собрать "армию ботов" и зашумить, а то и подавить те интернет-ресурсы, которые распространяют неугодные им идеи
Я очень надеюсь, что они не начнут этого делать, потому что уверен, что это приведёт лишь к ухудшению ситуации, а не к улучшению. Нельзя научить людей мыслить рационально силой. Людей вообще очень сложно учить силой.
30
Сообщество рационалистов / Re: Борьба с дезинформацией
« Последний ответ от Gradient 16 Июня 2020, 16:00 »
Цитировать
Подключить троллей и показать всем, что наши тролли лучше других троллей?
- ну, как ведутся информационные войны? Во-первых, можно физически уничтожить того, кто высказывает вредные идеи (это не предложение, просто первая идея, которую высказал бы тот самый парень, который предложил заточить кости пуффендуйцев). Во-вторых, можно задавить чужую идею шумом. В-третьих, можно компрометировать чужую идею... Например, создав и распиарив её "соломенное чучело". В-четвёртых, можно высмеять чужую идею. Много вариантов сделать так, чтобы доминировали "наши" идеи, безотносительно их правильности. Многие игроки станут при распространении своих идей использовать такие приёмы - значит, отказываясь от них, мы отказываемся от преимущества. И в условиях, когда у "наших" и "враждебных" идей примерно поровну грубой силы, начнёт побеждать та идея, которая лучше именно с точки зрения истинности (прогнозирующей способности, логичности и так далее).
Александр Скотт написал классную статью об этом: https://lesswrong.ru/w/%D0%92%D0%B5%D0%B4%D0%BE%D0%BC%D1%8B%D0%B5_%D0%BA%D1%80%D0%B0%D1%81%D0%BE%D1%82%D0%BE%D0%B9_%D1%81%D0%B2%D0%BE%D0%B8%D1%85_%D0%BE%D1%80%D1%83%D0%B4%D0%B8%D0%B9
Я не со всем согласен, но основную идею полагаю верной: разумная дискуссия в среднем менее убедительна, чем аппеляция к эмоциям и грубой силе. Поэтому если нет паритета по грубой силе, то люди будут чаще переходить в "лагеря противников", чем в наш.
Это что касается борьбы к ощутимо вредными идеями, то есть ситуации "цель оправдывает средства". Учить людей рациональности так не получится.

Цитировать
Это американская фишка -- интеллект=состояние. Это часть американской культуры, просто культурный код, без каких-либо рациональных обоснований за ним.
- интеллект - это способность агента направлять реальность в том направлении, куда ему хочется. Меньше интеллекта? Будет могучий носорог, не умеющий в хитрые планы. Больше интеллекта? Будет целая промышленная цепочка, ведущая к появлению ружья, которое этих носорогов убивает, если что (или волчья яма, если надо сделать малыми силами).
На самом деле это немножко игра в определения. Но... Конкретно сообщество lesswrong, если я ничего не путаю, занимается рациональностью именно в этом смысле - как средством нагибания окружающего мира (инструментальная рациональность) и её основным инструментом - средством изучения мира (эпистемологическая рациональность).

Цитировать
в нашей культуре интеллект -- это скорее социально неадаптированный тип, который часто вопреки системе добивается каких-то своих целей, и часто эти цели не включают в себя личное благосостояние или власть
- я полагаю, это именно стереотип нашего культурного кода. Если человек может считать будущее на 10 ходов глубже окружающих, при прочих равных он всё равно всех сделает, даже если в культурном коде это не прописано. Ему же не обязательно быть социально неадаптированным. Если это будет важно для достижения целей - адаптируется, в чём принципиальная невозможность?

Может, вы имеете в виду, что в России люди, которые хорошо умеют в эпистемологическую рациональность, одновременно имеют склонность быть аномально слабыми в инструментальной рациональности? Из-за каких-то национальных стереотипов.
Я что-то подобное вижу и в Росии, и в статьях про зарубежье. Что есть люди, вроде бы умные, вроде бы социально небезразличные, но они не учатся тому, как стать лидерами и решить проблемы руками своих последователей. Почему так? На самом деле социальные задачи им не так важны? Или стереотип, что интеллектуалы не стоят по главе корпораций/армий/культов, настолько силён, что интеллектуалы даже не пробуют себя в областях, дающих увесистую силу?
В любом случае... Может, я ошибаюсь, но кажется, люди, которые прочитали значительную часть цепочек Юдковского, понимают связь между умением познавать мир и умением им управлять. Хотя бы примитивная идея из теории ИИ: создай максимум возможных планов, а затем оцени, какой ближе всего приведёт к цели. По идее, интеллектуалы уж оценивать эффективность планов должны уметь лучше не-интеллектуалов, иначе непонятно, что это за интеллект у них такой) И мне кажется вероятным, что люди из этого сообщества способны при большой мотивации собрать "армию ботов" и зашумить, а то и подавить те интернет-ресурсы, которые распространяют неугодные им идеи
Страницы: 1 2 [3] 4 5 ... 10