О пользе любезности, общин и цивилизации

[nadeys]

Но если я найду способ подтасовывая научные данные и фальсифицируя факты сделать миллион людей рационалистами уровня Юдковского, то я этим способом воспользуюсь. А вы?

А как вы это сделаете? О_о

В том смысле что если я найду способ путём изнасилования лечить психические заболевания и восстанавливать девственность у женщин, то я конечно тут же побегу насиловать женщин. Если вы найдёте способ подтасовывая научные данные и фальсифицируя факты сделать миллион людей рационалистами уровня Юдковского, то я конечно поддержу вас.
Но человеческая биология так устроена что изнасилование прямо противоречит психическому здоровью и девственности. И общественная психология так устроена что фальсификации фактов прямо противоречат распространению рационализма.(По крайней мере при текущем уровне науки.)

Так называемые "правила рациональной дискуссии" и рациональность -- это две разные вещи.

А что вы понимаете под рациональностью?
Потому что "рациональность вообще" - это просто обычная холодная логика позволяющая максимизировать выгоду. С этой точки зрения и Путин рационален, и Патриарх Кирилл рационален, и гопник отбирающий мобильник рационален, и те кто сбрасывал бомбу на хиросиму рациональны, даже Ким Чен Ын рационален. Её не нужно распространять, она и так уже повсеместна. Только мы с вами нерациональны, потому что тратим личное время на дискуссии в интернете.

А вот рационализм пропагандируемый Юдковским я воспринимаю(возможно неправильно) именно как попытку запустить самовоспроизводящийся мем. Этот мем представляет из себя набор культурных правил - самоограничений на образ мышления и способы передачи информации. И если вы начинаете обманывать и подтасовывать факты, то вы просто перестаёте быть носителем этого мема.

Вы будете оправдывать себя что обманываете ради передачи знания другим, но вы будете как христиане которые решили что можно нарушать заповеди ради распространения христианства. Христианство в итоге завоевало полмира, но от учения христа там осталось только название.

Если вы будет рассказывать про эксперименты Милгрэма и будете подкреплять эти рассказы фиктивными доказательствами, то люди то вас конечно поймут, но для такого понимания есть специальное название - неправильное понимание.
Неправильно понимающие рационализм люди будут устраивать срачи перемежая мат словами "когнитивный" и "эмпирично".
Неправильно понимающие рационализм депутаты будут в своих предвыборных обещаниях вещать лапшу про байесиански обоснованные оценки обогащения нации.
Неправильно понимающие рационализм учителя будут бездумно заставлять детей писать сочинения "о роли личности омеги в становлении рационализма в парадоксе Ньюкома".

Вы читали рассуждения Юдковского о парадоксе Ньюкомба, и бедолагах традиционных рационалистах, которые вынуждены сознательно идти на проигрыш, ради того, чтобы действовать рационально? То есть, ради того, чтобы называться рационалистами они берут и отказываются от суммы в $990000.

Парадокс Ньюкома на то и парадокс что специально составлен чтобы заводить в тупик.
Мы же говорим о другом.
- если ваша цель номинально победить в споре, то вы должны обманывать и подтасовывать факты.
- если ваша цель быть рационалистом, то вы должны вести дискуссию рационально, вплоть до того чтобы признать неправоту своей позиции если факты на то укажут.

Если на кону стоит миллион долларов и для его приобретения я буду подтасовывать факты, то это будет рациональный поступок с точки зрения личного обогащения, но нерациональный с точки зрения распространения рациональности.

мне плевать, что они думают о моей рациональности

Вам плевать. А вот им не плевать - они смотрят на вас как на источник информации. Они верифицируют передаваемые вами данные и если вы их обманываете, то будут воспринимать данные по другому.

Вот вы читаете книгу "Как избегать обманов и манипуляций", а потом в первой же главе обнаруживаете что автор использует манипулятивный приём чтобы запутать читателя. Что вы подумаете о дальнейшем содержимом книги? Станете ли вы воспринимать эту книгу как действительно полезный гайд по защите от манипуляций?

Или ещё хуже - если вы читаете книгу "Как избегать обманов и манипуляций" и не можете заметить ни единых признаков манипуляций, хотя они там есть. Будет ли такая книга полезным гайдом по защите от манипуляций? Человек прочитавший такую книгу станет более защищённым от манипуляций?

[valergrad]

nadeys, вот я говорю человеку
"читайте HPMOR - это безусловно самая крутая книга которую я прочел в жизни".
Формально я солгал - не самая крутая. Лгать ради манипуляции - как бы запрещенный метод. Но можно предположить что эта ложь приведет к тому, что он ее прочтет, узнает что-то новое, заинтересуется рациональностью и т.д. и т.п.
Честно можно сказать
"рекомендую прочитать hpmor - довольно хороший фанфик по Гарри Поттеру", но боюсь этот честный отзыв приведет к ощутимо меньшей вероятности прочтения.

Конечно, сложно предугадать последствия нашей лжи ( люди все без исключения склонны выдавать здесь желаемое за действительное), но заявлять что "ложь и манипуляции НИКОГДА не могут привести к хорошим последствиям" - выглядит слишком наивно. Как заметил kuuff - достаточно привести хоть один контрпример чтобы это опровергнуть, и уверен что контрпример можно найти и приемлемый для вас. Просто вспомните когда вы последний раз лгали кому-нибудь или предпоследний.

[nadeys]

Просто вспомните когда вы последний раз лгали кому-нибудь или предпоследний.

Я постоянно лгу в вопросах никак не касающихся распространения рационализма.
В вопросах распространения рационализма я строго стараюсь не лгать.

Но даже если бы я лгал в вопросах распространения рационализма, то мне можно потому что я не рационалист и рационализация мира не является моей терминальной целью. Обсуждение всех этих тем для меня не более чем прокрастинационное хобби.

боюсь этот честный отзыв приведет к ощутимо меньшей вероятности прочтения.

Вы лишь чуть изменили эмоциональную окраску отзыва. Вот если бы книга Юдковского была явно плохой, а вы бы посоветовали её людям, то люди сочли бы вас человеком с плохим вкусом. А поскольку вы носитель мема рационализма, то они подумали бы рационализма привлекает людей с плохим вкусом.

[desmod]

вот я говорю человеку
"читайте HPMOR - это безусловно самая крутая книга которую я прочел в жизни".
Формально я солгал - не самая крутая. Лгать ради манипуляции - как бы запрещенный метод. Но можно предположить что эта ложь приведет к тому, что он ее прочтет, узнает что-то новое, заинтересуется рациональностью и т.д. и т.п.

Я говорю: "HPMOR - одна из самых крутых книг, которые я прочел за свою жизнь".
По сути, разница с вашим высказыванием совсем небольшая, но в моем случае это правда. Подозреваю, что это правда и в вашем случае (иначе разве стали бы вы ее рекламировать?).
Но подобный аргумент убедит только тех, для кого ваше мнение авторитетно, т.е. они уже не раз убеждались, что вашим словам можно доверять. Следовательно, даже ваш обман (коль скоро вы к нему прибегли), чтобы сработать, вынужден опираться на правду.

Конечно, сложно предугадать последствия нашей лжи ( люди все без исключения склонны выдавать здесь желаемое за действительное), но заявлять что "ложь и манипуляции НИКОГДА не могут привести к хорошим последствиям" - выглядит слишком наивно.

Очевидно, что манипуляция, смешивающая ложь с правдой, эффективнее манипуляции, основанной на одной лжи. Иногда достаточно простого умолчания - когда, например, от неизлечимо больного утаивают страшный диагноз. Проблема в том, что почти любое социальное взаимодействие включает в себя определенные элементы манипуляции, т.е. все наше общество основано на лжи (у философа А. Секацкого есть даже книга "Онтология лжи", в которой ложь рассматривается как неотъемлемая часть человеческой природы). Но если невозможно полностью исключить ложь из социальной практики, то имеет смысл найти какой-то оптимум, позволяющий хотя бы не лгать "сверх меры". А без соответствующих рациональных методов здесь вряд ли обойтись.

[kuuff]

Вот смотрите, три цитаты:

общественная психология так устроена что фальсификации фактов прямо противоречат распространению рационализма.(По крайней мере при текущем уровне науки.)

А вот рационализм пропагандируемый Юдковским я воспринимаю(возможно неправильно) именно как попытку запустить самовоспроизводящийся мем. Этот мем представляет из себя набор культурных правил - самоограничений на образ мышления и способы передачи информации. И если вы начинаете обманывать и подтасовывать факты, то вы просто перестаёте быть носителем этого мема.

Если на кону стоит миллион долларов и для его приобретения я буду подтасовывать факты, то это будет рациональный поступок с точки зрения личного обогащения, но нерациональный с точки зрения распространения рациональности.

Это три раза когда вы бездоказательно утверждаете, что нарушение каких-то там правил, мешает распространению рациональности. Я подчеркну: бездоказательно. Вы может верить в то, что вы глаголете истину, можете не верить. Вы можете даже верить, и не понимать при этом, что это чистая вера, не подкреплённая ничем. Но в любом случае -- это попытка убедить оппонента посредством многократного повтора утверждения. Это, по-моему, вы же сами должны классифицировать как нечестный приём.

Вы будете оправдывать себя что обманываете ради передачи знания другим, но вы будете как христиане которые решили что можно нарушать заповеди ради распространения христианства. Христианство в итоге завоевало полмира, но от учения христа там осталось только название.

Что вы хотите сказать, проводя эту аналогию? Вы зацепились за эту аналогию меня с РПЦ, теперь перешли к христианам вообще. Зачем? Чтобы тень злодеяний христиан упала на меня?
На всякий случай я отвечу по существу: у меня нет заповедей. Я говорил об этом выше. У меня нет заповедей и, поэтому, нет шансов их нарушить. Поэтому сравнивать меня с нарушающими собственные заповеди христианами совершенно бесполезно.

Но я к чему. Уже пару-тройку раундов я наблюдаю ваши попытки нечестными приёмами что-то мне втолковать. Вы надеетесь, что когда вам это не удастся, вы сможете сказать "смотри!", мол, вот "я использовал нечестные приёмы, мне это не помогло", так что ли? Но, если так, вы подумайте: чему именно не помогло? Не помогло убедить меня? Или не помогло распространению рациональности?

А что вы понимаете под рациональностью?
Потому что "рациональность вообще" - это просто обычная холодная логика позволяющая максимизировать выгоду. С этой точки зрения и Путин рационален, и Патриарх Кирилл рационален, и гопник отбирающий мобильник рационален, и те кто сбрасывал бомбу на хиросиму рациональны, даже Ким Чен Ын рационален.

Вы сейчас опять берёте "выгоду", и сводите её к тактической выгоде. Но я настаиваю на том, что в любой "выгоде", в любом "результате", стратегические последствия неотделимы от тактических.

Парадокс Ньюкома на то и парадокс что специально составлен чтобы заводить в тупик.

Парадокс Ньюкомба выводит из тупика. Welcome to Timeless Decision Theory! Парадокс Ньюкомба разрешим в рамках безвременной теории принятия решений. Кстати, если Юдковский для вас авторитет, то он как раз с большим энтузиазмом рассуждает об этом. Ещё он в ГПиМРМ очень восторженно рисовал причинно-следственные связи из будущего в прошлое и, как я подозреваю, как раз поэтому.

Мы же говорим о другом.
- если ваша цель номинально победить в споре, то вы должны обманывать и подтасовывать факты.
- если ваша цель быть рационалистом, то вы должны вести дискуссию рационально, вплоть до того чтобы признать неправоту своей позиции если факты на то укажут.

Мне как правило плевать на цель "победить в споре". Да, в том числе и в этом.
У меня нет цели быть рационалистом. У меня есть цель -- максимизация эффективности. "Быть рационалистом" -- это неизбежное следствие. Ну, если конечно "рациональность", как набор методов и методик, построена достаточно удачно.

Вам плевать. А вот им не плевать - они смотрят на вас как на источник информации. Они верифицируют передаваемые вами данные и если вы их обманываете, то будут воспринимать данные по другому.

Да, они будут воспринимать по другому. Но это хорошо или плохо?

Вот вы читаете книгу "Как избегать обманов и манипуляций", а потом в первой же главе обнаруживаете что автор использует манипулятивный приём чтобы запутать читателя. Что вы подумаете о дальнейшем содержимом книги? Станете ли вы воспринимать эту книгу как действительно полезный гайд по защите от манипуляций?

Не знаю. Всё зависит от контекста.
1. Я могу счесть автора идиотом, потому что он использовал настолько тупой приём, что я раскусил его влёт.
2. Я могу рассмотреть это как комплимент: я ведь разгадал манипулятивный приём? Значит я отличаюсь умом и сообразительностью?
3. Я могу подумать, что автор намеренно использовал этот приём так, чтобы читатель разгадал этот приём. Чтобы почувствовал на себе. И в таком случае, я вероятно буду относиться положительно к подобной манипуляции.
4. Ну и да, наконец, я могу подумать что автору сказать нечего, и поэтому он пытается создать у меня обманом впечатление, что он сказал что-то полезное. В таком случае я не буду читать книгу дальше.

Или ещё хуже - если вы читаете книгу "Как избегать обманов и манипуляций" и не можете заметить ни единых признаков манипуляций, хотя они там есть. Будет ли такая книга полезным гайдом по защите от манипуляций? Человек прочитавший такую книгу станет более защищённым от манипуляций?

Не знаю. Учебники можно писать очень по разному. Если эти манипуляции приведут к такой модификации паттернов моего поведения, что мною станет сложнее манипулировать, то да, такая книга будет полезным гайдом. Хотя, слово "гайд" может быть, не очень уместно для такого способа воздействия, но всё же...

Я постоянно лгу в вопросах никак не касающихся распространения рационализма.
В вопросах распространения рационализма я строго стараюсь не лгать.

А я равно стараюсь не врать в любом случае. Но я не пытаюсь возвести это в правило. Правило -- это эвристика, а эвристика ошибается.

[nadeys]

Это три раза когда вы бездоказательно утверждаете, что нарушение каких-то там правил, мешает распространению рациональности. Я подчеркну: бездоказательно. Вы может верить в то, что вы глаголете истину, можете не верить. Вы можете даже верить, и не понимать при этом, что это чистая вера, не подкреплённая ничем. Но в любом случае -- это попытка убедить оппонента посредством многократного повтора утверждения. Это, по-моему, вы же сами должны классифицировать как нечестный приём.

Т.е. вам чего? Пример из реальной жизни что ли нужен в качестве доказательства? Так я же для того и привёл пример христианства - как нарушение правил привело к подмене изначального благородного учения на уродливую химеру.
Если вам не нравятся мои примеры, приводите со своей стороны обратные примеры.

Вы сейчас опять берёте "выгоду", и сводите её к тактической выгоде. Но я настаиваю на том, что в любой "выгоде", в любом "результате", стратегические последствия неотделимы от тактических.

Так в том то и прикол что вы можете видеть тактические выгоды, но с лишь очень абстрактно можете видеть выгоды стратегические.
Вот были коммунисты - благородные идеалисты хотели построить общество на принципах научного-материализма, гуманизма, рационализма и представительной демократии. Но по ходу дела сталкиваясь с разными трудностями они делали себе поблажки - они говорили что ради общего блага можно нарушать вышеозначенные принципы. Вот так же как в парадоксе Ньюкома жадные рационалисты жертвуют рационализмом ради денег, так же и коммунисты жертвовали коммунизмом ради тактических выгод, а стратегических последствий они не видели потому что никто не умеет смотреть в завтрашний день.

- Они говорили что распространение коммунизма важнее чем диалектическая точность и пожертвовали рационализмом ради популистского привлечения народных масс.
- Они говорили себе что коммунизм должен обеспечивать победу пролетариата и поскольку вертикально-организованные тоталитарные сообщества лучше воюют, то отказались от представительной демократии в пользу автократии.
- Они говорили что сохранение преданности делу коммунизма важнее чем обеспечение людям достойной жизни и поскольку оппозиция подрывала преданность, то отказались от гуманизма и создали ГУЛаг.
- Они говорили себе что априорно знают как максимизировать эффективность и поскольку их знание противоречило объективным данным, то они просто отказались от принципов научного-материализма, начали делать фальсификации фактов и подтасовывать результаты экспериментов. Они искренне думали что так будет лучше, они с вершины своих знаний и опыта оценивали перспективы научного прогресса и верили что выделение ресурсов на неправильные направления будет транжирством. Но они ошиблись, где-то что-то неправильно рассчитали, где-то обманули самих себя, где-то потворствовали своим эмоциями и в итоге оболгали очень перспективную науку генетику и довели дело до её запрета.

И в какой-то момент так получилось что все благородные идеалисты исчезли, а остались лишь те кто думал, думает и будет думать что коммунизм это обязательно жёсткие косные тоталитарные бюрократические режимы. Они допустили стратегический просчёт - не потому что были глупыми и иррациональными, а потому что просчёт такого масштаба было очень трудно не допустить.

И вот вы рассуждаете про принципы рационализма, но делаете ремарку что рационализм должен побеждать и ради этой победы можно отбрасывать принципы. Так почему вы уверены что не допустите такого же стратегического просчёта что допустили коммунисты?

У меня нет цели быть рационалистом. У меня есть цель -- максимизация эффективности.

Максимизация эффективности чего? Потому что если традиции военной касты какого-нибудь отсталого племени обязательно предполагают ритуальный каннибализм, то для члена этого племени желающего быть солдатом каннибализм вполне рационален. Потому что если система ценностей бабушки включает необходимость спасения души, то отдавание половины пенсии попам на постройку храма вполне рационально. Если нейронные связи алкаша так устроены что выделяют больше всего эндорфина не от социальной жизни, а от употребления алкоголя, то напиваться каждый вечер вполне рационально. Может я чего не так понял, но в статьях Юдковского было что-то совсем другое.

Да, они будут воспринимать по другому. Но это хорошо или плохо?

Если вы смотрели на картофелину, а увидели грушу, то разве тут может быть что-то хорошее?

3. Я могу подумать, что автор намеренно использовал этот приём так, чтобы читатель разгадал этот приём. Чтобы почувствовал на себе. И в таком случае, я вероятно буду относиться положительно к подобной манипуляции.

Так это же ведь не обман.(?) Если учить ребёнка арифметике и с намёком предложить ему поискать что же неправильного в равестве 2*2=5, то очевидно что это не фальсификации фактов, а как его...  Сократовский диалог.

Не знаю. Учебники можно писать очень по разному. Если эти манипуляции приведут к такой модификации паттернов моего поведения, что мною станет сложнее манипулировать, то да, такая книга будет полезным гайдом. Хотя, слово "гайд" может быть, не очень уместно для такого способа воздействия, но всё же...

Масло масляное же))))
С точки зрения известного режиссёра Никиты Михалкова, иностранная пропаганда очень вредит благополучию граждан россии. Будучи успешным деятелем культуры он обладает большой квалификацией в психологии народных масс и экспертно предлагает решение - вести контрпропаганду, скрытно от людей модифицировать их паттерны возвращая россиян к психологии крепостных свято верящих в царя и своего барина и таким образом идеально защищённых от развращающих антироссийских манипуляций. Такая модификация воистину будет полезна, разве вы не согласны?

[kuuff]

Т.е. вам чего? Пример из реальной жизни что ли нужен в качестве доказательства?

Не знаю. Это вам виднее, на самом деле. Вы ведь почему-то считаете то утверждение верным. Почему?

Если вам не нравятся мои примеры, приводите со своей стороны обратные примеры.

Я вам привёл выше десяток примеров. Которые вы начали отметать по разным причинам, и мне совершенно не улыбается сидеть и модифицировать те примеры так, чтобы истощить ваш список формальных причин отметать примеры. Мне это, простите, скучно и неинтересно. При этом, на мой взгляд, я дал достаточно примеров для того, чтобы вы смогли бы фальсифицировать свою точку зрения, если бы вы пытались это сделать. Из чего вытекает следующее рассуждение: вы не фальсифицировали свою точку => вы не пытались это сделать => вас интересует не истина, а "победа в споре". Я может не прав, в своих оценках мотивов вашего наблюдаемого поведения. Я их привожу здесь только для того, чтобы вы могли оценить мотивы моего поведения.

Но давайте так, ответьте мне на вопрос: почему вы верите в то, во что вы верите? Почему вы считаете, что нарушение каких-то там правил с необходимостью отдалит наступление рациональности? Как вы пришли к этому убеждению?
И я напомню, что утверждения типа "нельзя иррациональностью построить рациональность" не выглядят для меня сколь-нибудь убедительными. Сравните: "нельзя сотворить разум, не обладая разумом". Но мы при этом верим, что человек возник в результате неразумной эволюции.
Так же мне совершенно неубедительны примеры. Потому что вы не сможете привести все возможные примеры, а один-два, или даже тысяча -- это гораздо меньше, чем всё пространство возможных нарушений правил ведения дискуссии. Вам надо доказать некое правило, то есть, если заходить строго, вам надо показать, что не существует контрпримера. В математике, если вам поможет это, подобные доказательства проводятся от противного: делается предположение, что контрпример существует, из чего делаются какие-то выводы, приводящие к противоречию.

Так я же для того и привёл пример христианства - как нарушение правил привело к подмене изначального благородного учения на уродливую химеру.

Почему вы думаете что вы лучше чем эти коммунисты?

Почему вы уверены, что нарушение правил христианами привело к подмене учения? Может быть подмена привела к нарушению правил? Или какая-то третья причина привела к появлению этих двух? Вы уверены, например, что авантюра коммунизма была начата именно с целью установить коммунизм, а не с целью захватить власть? Может коммунизм был просто хорошим прикрытием, красивым лозунгом для широких и не очень умных масс?

Тут, в качестве действительно полезного правила я могу предложить такое: каждый раз, когда вы видите корреляцию между двумя событиями, обязательно надо рассмотреть все три возможные гипотезы:
1. A=>B
2. B=>A
3. (C=>A) and (C=>B)
На самом деле, даже всегда когда вы видите причинно-следственную связь между A и B, попробуйте подумать о том, что её может не быть на самом деле, она лишь навязана вам кем-то недостаточно рациональным, и рассмотрите все три гипотезы. А, ещё не забудьте четвёртую возможную гипотезу, о случайном совпадении!

Если же принять ваше видение причинно-следственных связей у коммунистов и христиан, то я скажу следующее: правила функционирования организаций несколько отличаются от правил функционированию отдельных людей. Толерантность к нарушению правил в организации имеет тенденцию ширить эти самые нарушения правил, а поскольку члены организации подчастую имеют цели отличные от целей организации, то нарушение правил распространяется по организации как ментальное заболевание, приводящее с смене мотивации организации в целом. Поэтому организация не должна быть толерантной к правилам. Но это не значит, что я морально обязан эти правила соблюдать. Моя мораль функционирует на другом уровне, там где нет этих правил.

Так в том то и прикол что вы можете видеть тактические выгоды, но с лишь очень абстрактно можете видеть выгоды стратегические.

Я об этом говорил выше, вы проигнорировали:

вы хотите сказать о том, что единственная причина порождает бесконечную ветвящуюся цепь следствий, и таким образом я никак не могу оценить результат. А раз не могу оценить, значит не имею права самостоятельно мыслить о том, что хорошо, а что плохо, и с необходимостью поэтому должен соблюдать десять заповедей, и ваши правила рациональных дискуссий, и исповедоваться раз в месяц, и регулярно жертвовать денег на развитие РПЦ?

Вы понимаете, что подобное рассуждение ущербно? Если мы отказываем себе в праве судить о том, как меняется стратегическая ситуация в результате наших действий, то мы вообще не можем иметь никакого мнения о том, как наши действия повлияют на ситуацию в целом. Этот кошмар могут исправить правила данные Богом, или ещё кем-то, кто может предвидеть будущее. И этот кошмар не могут исправить правила придуманные человеком, типа правил ведения дискуссии. Если человек не может в частном случае сказать как те или иные действия повляют на результат, то как он может вывести общее правило того, как те или иные действия повлияют на результат?
Хотим мы того или нет, но нам придётся выносить суждения в условиях неопределённости. И для этого нам дано байесианство.

[nadeys]

Это три раза когда вы бездоказательно утверждаете, что нарушение каких-то там правил, мешает распространению рациональности. Я подчеркну: бездоказательно

О_о Вот конкретная статья:
Убеждения должны окупаться
Её название прямо сформулировано как правило. Можете ли вы описать ситуацию при которой несоблюдение данного правила будет способствовать распространению идей рационализма в обществе?

вы не фальсифицировали свою точку => вы не пытались это сделать => вас интересует не истина, а "победа в споре"

Я уже привёл пример экспериментов милгрэма - если бы неправильное объяснение этих экспериментов давало бы людям правильное их понимание, то моя точка зрения была бы признана ложной.
Я уже привёл пример с книгой содержащей манипуляции и подтасовки - если бы они способствовал росту осознанности читателем своих мыслей и действий, то я бы признал что обман полезен для рационализации людей.
Я моделировал ваш спор с оппонентами в котором вы используете нечестные методы для достижения формальной победы, если бы по результатам такого спора кто-то из участников начал бы лучше понимать и ценить рациональные методы ведения дискуссий, то я бы согласился что разводить демагогию это хорошо и полезно.
Моя точка зрения была бы неправильной если бы я видел примеры идеологической пропаганды способствующей защите людей от идеологической пропаганды.
Моя точка зрения была бы неправильной если бы я видел примеры того как потворство когнитивным искажениям способствует устранению когнитивных искажений.
Моя точка зрения была бы неправильной если бы предложенный Михалковым способ защиты людей от внешних манипуляций действительно помогал людям быть рациональнее.
Вот если мы сейчас сползём на нечестные методы дискуссии и от этого в мире станет больше рациональности, то тогда вы будете правы.
Какие методы самофальсификации я упустил?

почему вы верите в то, во что вы верите? Почему вы считаете, что нарушение каких-то там правил с необходимостью отдалит наступление рациональности? Как вы пришли к этому убеждению?

Это стандартный интеллектуальный механизм - человек говорит что придерживается точки зрения Х, но оговаривается что "иногда" можно делать Y. Y приятнее чем X, поэтому "иногда" происходит очень часто. В конечном итоге обнаруживается что человек постоянно делает Y - придумывая себе всё новые поводы.

Я пришёл к этому убеждению потому что я часто вижу работу этого механизма в окружающих меня людях и в самом себе.

Почему вы уверены, что нарушение правил христианами привело к подмене учения? Вы уверены, например, что авантюра коммунизма была начата именно с целью установить коммунизм, а не с целью захватить власть?

Вы конечно можете сказать что "они всё врут" или ошибаются, но давайте всё таки не скатываться в непознаваемость бытия и солипсизм, а будем признавать существование коллективного человеческого опыта выражающегося в совокупности учебников истории, социологических монографий, статей, диссертаций и исследований. Если не полениться и хоть чуть чуть ознакомиться с с этой совокупностью(не избегая источников той или иной стороны), то можно составить вполне объективные картины действительности. И эти картины дают вполне ясное понимание что A=>B с вероятностью 90%.

Поэтому организация не должна быть толерантной к правилам. Но это не значит, что я морально обязан эти правила соблюдать. Моя мораль функционирует на другом уровне, там где нет этих правил.

Эмм... нет никаких организаций. Все эти коммунистические партии, христианские секты, вегетарианские движения, рационализм - существуют исключительно на карте. На местности их нет, вместо них отдельные люди которые называют себя коммунистами, вегетарианцами, христианами и рационалистами. И все эти люди либо соблюдают правила соответственно своему самоназванию, либо не соблюдают.

Если мы отказываем себе в праве судить о том, как меняется стратегическая ситуация в результате наших действий, то мы вообще не можем иметь никакого мнения о том, как наши действия повлияют на ситуацию в целом.

Я отказываю своему слабому склонному к недетектируемым когнитивным искажениям человеческому разуму в праве судить о том как меняется стратегическая ситуация в результате моих действий. И именно поэтому я должен со строжайшей лояльностью следовать правилам рационального мышления делая выбор в условиях неопределённости.

Хотим мы того или нет, но нам придётся выносить суждения в условиях неопределённости. И для этого нам дано байесианство.

Вы писали что "Нет никаких правил" (c)
Следовательно если вам в голову ударит какое-то когнитивное искажение, то вы и байесианство отбросите?

[valergrad]

Можно я в этот спор внесу немного математики и теории игр? Ну, уж такой я человек, всегда пытаюсь построить математические модели.
Итак, как я это вижу.
Рассмотрим игру для N игроков p1, p2... pn. У каждого игрока есть множество возможных стратегий - Z.
Обсуждаемый вопрос тогда с моей точки зрения выглядит таким образом:

Существует ли строгое подмножество A множества стратегий Z ( назовем тогда такое множество "моральные" стратегии, "честные", "рациональные" и т.п. ) такое, что для каждого игрока выгодно придерживаться именно этого множества и никогда не использовать стратегии вне множества A?

И соответственно kuuff отстаивает точку зрения что не существует, а nadeys - что существует. Аргумент kuuff если максимально коротко - т.к. A всего лишь подмножество, то сужая множество возможных стратегий мы не можем выиграть, а можем только проиграть. Ведь гипотетический игрок использующий только A никогда не сможет сделать что-то, чего не сможет игрок который использует любые стратегии из Z, а обратное неверно. Аргумент nadeys если максимально коротко - если мы принципиально используем стратегии только из множества Z, и декларируем это как принцип, то в долгосрочной перспективе может получиться что и остальные игроки будут использовать только стратегии из множества Z - глядя на нас - и это приведет к глобальной выгоде.

Что говорит математика об этих рассуждениях? Ну, это зависит от конкретной игры. Предположим наша игра антагонистическая или т.н. с нулевой суммой. Т.е. в ней выигрыш одного ведет к проигрышу другого и наоборот. Тогда можно доказать что для этой игры kuuff прав - сужая подмножество наших стратегий мы не можем выиграть, а можем только проиграть.
Но что если игра кооперативная? Тогда можно показать, что существуют игры в которых прав будет nadeys. Далеко ходить не надо - это та же дилемма заключенного.
Я строго пока не доказывал, но достаточно правдоподобно, что если игрок B знает что игрок A ограничен, к примеру, стратегией "око за око", то его оптимум - т.е. набор набранных очков будет выше, чем если он не знает. Т.е. добровольное сужение множества возможных стратегий парадоксальным образом ведет к выигрышу - как самого игрока, так и остальных.
Назовем игры в которых не существует такого подмножества - квазиантагонистические, в которых существует - квазикооперативные.

Теперь осталось понять к какому классу игр относится наша реальность. К квазиантагонистическим или к квазикооперативным? Здесь математика кончается и начинаются догадки. С одной стороны, количество ресурсов ограничено, возможности для анализа чужих стратегий - тоже, а главным компонентом нашей функции полезности выглядит личная, индивидуальная выгода. Это аргументы в пользу ее квазиантагоничности. Профессор Квиррел безусловно рассматривал ее как полностью антагонистическую. С другой стороны, в каждом из нас заложен определенный процент альтруизма и желания сотрудничать - в ком-то больше, в ком-то меньше. Больше альтруизма по отношению к родным, чуть меньше - к близким, еще меньше - к людям другой национальности, расы, вида и т.п. Почему так очевидно любому читавшему Докинза - это оптимальная функция полезности, но не для человека, а для его генов, а фактически именно они как единицы информации участвуют в эволюции, а многоклеточные организмы - это всего лишь созданные ими контейнеры для победы в этой эволюционной гонке. Насколько это своеобразная функция полезности смещает игру к квазикооперативным - подсчитать, конечно, невозможно, можно лишь бросаться аргументами разной степени весомости и умности в разного качества спорах.

[vkv]

Насколько это своеобразная функция полезности смещает игру к квазикооперативным - подсчитать, конечно, невозможно, можно лишь бросаться аргументами разной степени весомости и умности в разного качества спорах.

Если в генах многих видов закреплен альтруизм, значит он определенно выгоден.
Да что до альтруизма ходить, половое размножение - это явно кооперативная игра, где ни один из партнеров не получает свою копию, и оно гораздо выгоднее бесполого (возможно за исключением случая с неограниченными ресурсами).

[kuuff]

Я отказываю своему слабому склонному к недетектируемым когнитивным искажениям человеческому разуму в праве судить о том как меняется стратегическая ситуация в результате моих действий. И именно поэтому я должен со строжайшей лояльностью следовать правилам рационального мышления делая выбор в условиях неопределённости.
Вы писали что "Нет никаких правил" (c)
Следовательно если вам в голову ударит какое-то когнитивное искажение, то вы и байесианство отбросите?

Да. Какое-то "когнитивное искажение" убедило меня в том, что байесианство лучше, чем "когнитивные искажения". И если это так, то почему я должен прекращать доверять "когнитивным искажениям"?

Это стандартный интеллектуальный механизм - человек говорит что придерживается точки зрения Х, но оговаривается что "иногда" можно делать Y. Y приятнее чем X, поэтому "иногда" происходит очень часто. В конечном итоге обнаруживается что человек постоянно делает Y - придумывая себе всё новые поводы.

Я думаю, что дальнейший разговор бессмысленен. Мне кажется, я начинаю понимать, почему вы так сопротивляетесь идее отсутствия "абсолютных правил". Вы дифференцируете себя как личность, на эволюционно доставшийся вам субстрат, который мыслит очень неправильно и весь погряз в когнитивных искажениях, и байесианскую надстройку, которая в идеале должна выполнять все функции субстрата.
Но, я выделяю в этом ещё третью сущность, которая стоит в иерархии выше этих двух. И это именно она решила, что байесианство точнее субстрата. Именно она решает когда использовать байесианство, а когда полагаться на наивные суждения. Эта третья сущность использует и байесианство, и наивные суждения как инструменты познания. Эта третья сущность использует всякие заповеди как инструменты -- не как истину в последней инстанции, а как инструменты, как полезные эвристики которые упрощают принятие решений в стандартных ситуациях. И, кстати, именно тренировкой этой самой третьей сущности я сейчас и занят -- я хочу чтобы она большее количество ситуаций воспринимала бы как нестандартные, и чтобы она почаще явно бы вмешивалась в процесс мышления и принятия решений.
Так вот, а спор бессмысленен потому, что до тех пор пока вы не почувствуете в себе этой самой третьей сущности, вы будете продолжать тут сеять эту неуверенность, мол, шаг влево, шаг вправо от правил, и сразу беда, потому что мы не можем быть уверены в своих суждениях. Лучше правильно выглядящее правило, чем отсутствие правила. Лучше ошибаться действуя согласно правилу, потому что это позволит снять ответственность за ошибку с себя, и ошибившись говорить "я не виноват", "ошибка была неизбежна". Ну и так далее. Я же считаю, что даже я ошибся следуя правилам, значит вот та "третья сущность" ошиблась, не увидев вовремя, что для успеха было нужно нарушить правила. Та "третья сущность" -- часть меня, то есть ошибся я, и значит мне есть над чем работать в себе, чтобы не совершать таких ошибок вновь.

[kuuff]

Можно я в этот спор внесу немного математики и теории игр? Ну, уж такой я человек, всегда пытаюсь построить математические модели.
Итак, как я это вижу.

Да, круто. Мне понравилось.
Я добавлю сюда лишь то, что человеческие мозги постоянно залипают на каких-то правилах и эвристиках. Это своего рода когнитивное искажение. Которое можно одолевать лишь постоянно выискивая способы нарушить правила и действовать вне эвристик.

[LswAgnostic]

Но что если игра кооперативная? Тогда можно показать, что существуют игры в которых прав будет nadeys. Далеко ходить не надо - это та же дилемма заключенного.

Afaik, игра дилемма заключенного не так однозначна.

Если игрок B знает, что игрок A всегда выбирает стратегию "не сознаваться", то для игрока B оптимальной стратегией является стратегия "сознаваться".

ps
В интернете одно время проводили конкурсы на программы-боты для игры "дилемма заключенного".

Оптимальная стратегия на многократных повторениях: "кооперация" + "око-за-око" + "прощение".
Начинается с кооперации. Выбирается стратетегия "не сознаваться".
Если другой в один из ходов выбирает "сознаваться", то стратегия переключается на "око-за-око": повторение предыдущих ходов оппонента.
По истечении определенного срока оппонент прощается и стратегия переключается на кооперацию.

[valergrad]

Afaik, игра дилемма заключенного не так однозначна.

Если игрок B знает, что игрок A всегда выбирает стратегию "не сознаваться", то для игрока B оптимальной стратегией является стратегия "сознаваться".

Оптимальная стратегия на многократных повторениях: "кооперация" + "око-за-око" + "прощение".

Ненене, чуть внимательней. Стратегия "не сознаваться" конечно же не подходит в качестве декларируемой. Но я ведь писал как раз о стратегии "око за око" ( она совпадает с вашим описанием, да). Я выбрал именно эту стратегию, потому что у нас на форуме как раз разбиралась такая интересная задача от gnomo_sapiens:

http://lesswrong.ru/forum/index.php/topic,783.0.html

Фактически взаимодействие "пророка" и "идиота" в этой задаче - это как раз то что нужно. Т.к. "пророк" знает стратегию "идиота", то можно в нашем контексте перефразировать это как:

"идиот" декларирует свою стратегию ( например, объявляет ее моральной и рациональной ) и обязуется ее соблюдать.

И если почитаете эту тему то увидите что мы решили ее, и оптимум там оказался выше чем если бы "идиот" ничего не декларировал и "пророк" ничего не знал бы о его стратегии. Т.е. сужение множества возможных стратегий для себя ведет ( парадоксальным на первый взгляд образом ) к выигрышу. Та задача вообще стала для меня толчком задуматься, а не упускает ли теория игр кроме равновесия по Нэшу какое-нибудь другое равновесие - скажем, договорное равновесие - которое достигается через декларируемые принципы и протоколы общения, можно ли как-то его проанализировать и развить на этой основе теорию. К сожалению, времени ( а может знаний или трудолюбия) не хватает развить эту тему.

[LswAgnostic]

Да, во многих играх бывают сильные стратегии. Которые невозможно/трудно переиграть, даже когда известно, что противник её придерживается.

В тоже время знание стратегии противника упрощает поиск вектора атаки. Например, стратегия "око-за-око" неустойчива к шуму. На входе противник со стратегией "око-за-око" и его друг, далее подкуп судьи или фабрикация улик, что один сдал другого. На выходе два навечных врага.