Критика ЛВ-рациональности и ЛВ-сообщества

Автор Тема: Критика ЛВ-рациональности и ЛВ-сообщества  (Прочитано 16088 раз)

fpaint

  • Пользователь
  • **
  • Сообщений: 21
  • +7/-2
    • Просмотр профиля
Дмитрий написал постик про определения рациональности, но по непонятным для меня причинам, сделал его закрытым для комментирования. Напрасно, поскольку тема важная и там есть что обсудить.

Я б разделил этот термин не на два, как в цепочках, а на три. И, как мне кажется, употребляя слово "рациональность", люди подразумевают одно из трёх понятий: рациональное мировоззрение, рациональное мышление или рациональное поведение. Рациональное мировоззрение предполагает осознание несовершенства своего восприятия и необходимость критического осмысления того, что кажется очевидным. Рациональное мышление даёт инструменты для этого осмысления - оно позволяет делать более-менее корректные выводы из неполных и противоречивых сведений об окружающем мире и самом себе. Наконец, вершина рациональности, самая важная его часть - рациональное поведение. Лучше всего оно проиллюстрировано в известном эссе "Секретный соус Илона Маска". Это поведение, ведущее к неизбежной реализации намеченных целей. Собственно, в этом и состоит критерий рациональности человека. Если его цели реализуются, значит он ведёт себя рационально, рационально мыслит, рационально воспринимает себя и мир. Если его цели не реализуются, значит он ведёт себя нерационально из-за нерационального мышления и нерационального мировоззрения. Наконец, если у него нет целей вообще, то о его рациональности нельзя утверждать ничего определённого, поскольку она никак себя не проявляет.

Чем мне не нравятся определения из цепочек. Первым делом тем, что там эпистемиология ставится на первое место, неявно закладывая весьма спорный тезис: "если твоя карта точна, то тебя ждёт успех и цели реализуются, а если не точна, то ждёт провал". На первом месте должны стоять цели, из которых следует поведение, из которых следует необходимость уточнения карты. Если нет целей и направленных действий, то даже с абсолютно точной картой результат будет нулевым. Второе - что инструментальная рациональность сильно принижается и сводится к туманному "искусству выбора". Я же считаю, что нет выбора, есть поиск, и не тех действий, которые приведут к результату "наиболее вероятно", а тех, которые приведут к результату с неизбежностью.

Что касается пресловутой "ЛВ-рациональности" - это какое-то странное мышление, которое лично у меня ассоциируется во-первых с "ничего не знаю наверняка, лишь могу предполагать вероятность того или иного", а во-вторых "не имею никаких целей и ничего не хочу делать". Лично я это рациональностью не считаю, ни в каком смысле. Это больше похоже на комфортное пребывание в плену у какого-то внутреннего демона. Увы.
« Последнее редактирование: 14 Март 2017, 18:36 от fil0sof »

fil0sof

  • Главный модератор
  • Ветеран
  • *****
  • Сообщений: 969
  • +55/-3
    • Просмотр профиля
    • VK profile
Re: Критика ЛВ-рациональности
« Ответ #1 : 14 Март 2017, 17:43 »
  • (+)0
  • (−)0
  • Дмитрий написал постик про определения рациональности, но по непонятным для меня причинам, сделал его закрытым для комментирования.

    На вопрос "почему тема закрыта" я ответил в ЛС вполне прямо, так что довольно странно, что это осталось непонятным. На всякий случай повторюсь: это просто определение рациональности в ЛВ-смысле, обсуждать там нечего. Небольшой справочный материал, не более.

    Что касается пресловутой "ЛВ-рациональности" - это какое-то странное мышление которое лично у меня ассоциируется...

    Лично я это рациональностью не считаю, ни в каком смысле.

    Андрей, тебе никто не может запретить иметь какие-либо личные ассоциации, разумеется. Главное — разделять личные ассоциации и определения. Ты можешь считать "рациональностью" всё что угодно, никто не запрещает этого делать. Более того, исходная обсуждаемая тема как раз для того и создана, чтобы разграничить наше определение и какие-либо ещё. Всё очень просто: если в рамках какого-то разговора ты хочешь поговорить о чём-то, что ты понимаешь под "рациональностью", — просто начни пост со своего определения, мы затабуируем его как "fpaint-рациональность", например, и продолжим разговор, уже имея в своём активе два разных термина: ЛВ-рациональность и fpaint-рациональность.

    Примерно так и работает табуирование — помогает избегать контрпродуктивных споров об определениях.



    Добавлено [time]14 Март 2017, 17:46[/time]:
    Чем мне не нравятся определения из цепочек. Первым делом тем, что там эпистемиология ставится на первое место, неявно закладывая весьма спорный тезис: "если твоя карта точна, то тебя ждёт успех и цели реализуются, а если не точна, то ждёт провал". На первом месте должны стоять цели, из которых следует поведение, из которых следует необходимость уточнения карты. Если нет целей и направленных действий, то даже с абсолютно точной картой результат будет нулевым. Второе - что инструментальная рациональность сильно принижается и сводится к туманному "искусству выбора". Я же считаю, что нет выбора, есть поиск, и не тех действий, которые приведут к результату "наиболее вероятно", а тех, которые приведут к результату с неизбежностью.

    Что касается пресловутой "ЛВ-рациональности" - это какое-то странное мышление, которое лично у меня ассоциируется во-первых с "ничего не знаю наверняка, лишь могу предполагать вероятность того или иного", а во-вторых "не имею никаких целей и ничего не хочу делать". Лично я это рациональностью не считаю, ни в каком смысле. Это больше похоже на комфортное пребывание в плену у какого-то внутреннего демона. Увы.

    Давай не будем путать определения с обсуждением чьего бы то ни было отношения к этим определениям.
    Поэтому, если есть желание донести какую-то критику в адрес ЛВ-сообщества или ЛВ-рациональности как таковой, welcome в Общение или Сообщество рационалистов, создавай новые темы и неси свои мысли в массы.

    Но не надо, пожалуйста, превращать это в споры об определениях.

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    Re: Критика ЛВ-рациональности
    « Ответ #2 : 14 Март 2017, 18:21 »
  • (+)0
  • (−)1
  • Цитировать
    Лично я это рациональностью не считаю, ни в каком смысле. Это больше похоже на комфортное пребывание в плену у какого-то внутреннего демона. Увы. 

    fpaint, прочтите  эти статьи, у них тактико-технические характеристики выше чем у "цепочек".
    « Последнее редактирование: 14 Март 2017, 18:31 от fil0sof »

    fil0sof

    • Главный модератор
    • Ветеран
    • *****
    • Сообщений: 969
    • +55/-3
      • Просмотр профиля
      • VK profile
    Re: Критика ЛВ-рациональности
    « Ответ #3 : 14 Март 2017, 18:30 »
  • (+)0
  • (−)0
  • Пожалуй, возражу немного по существу.

    весьма спорный тезис: "если твоя карта точна, то тебя ждёт успех и цели реализуются, а если не точна, то ждёт провал"

    Этот тезис немного гиперболизирован. Я бы скорее сказал "точная карта всегда лучше, чем неточная". С этим ты согласишься или нет? Если нет, то приведи, пожалуйста, примеры, когда неточная карта лучше.

    На первом месте должны стоять цели, из которых следует поведение, из которых следует необходимость уточнения карты. Если нет целей и направленных действий, то даже с абсолютно точной картой результат будет нулевым.

    С этим согласен, без целей мы и вправду никуда. Но, во-первых, на мой взгляд, не "необходимость уточнения карты следует из целей", а, как я уже сказал выше, точная карта всегда лучше неточной. А во-вторых, хоть я и полностью согласен, что без целей и направленных действий результат априори будет нулевым вне зависимости от точности карты, я считаю, что очень важно помнить, что какими бы ни были цели и действия, точная карта только способствует успеху, но уж никак ему не мешает.

    Короче, всё это так или иначе сводится к всё тому же "точная карта всегда лучше неточной", так что лучше начать с согласия или несогласия по этому пункту.

    инструментальная рациональность сильно принижается и сводится к туманному "искусству выбора"

    Это не так. Во-первых, она ни в коем случае не принижается, я бы даже сказал, что инструментальная рациональность считается более важной составляющей, чем эпистемологическая в рамках ЛВ-концепции. Во-вторых, это ни в коем случае не "туманное искусство выбора", а огромное количество разных сложных и интересных вещей: теории принятия решений, теория игр, всё начиная от VNM до теории перспектив, и т.п.
    Инструментальная рациональность — очень сложная штука, в которую въезжать и въезжать. Если сложилось ощущение, что она "принижается и сводится к чему-то туманному", то это самое обычное непонимание. И здесь не могу тебя винить, потому что какое-то время назад мне казалось так же.

    "ничего не знаю наверняка, лишь могу предполагать вероятность того или иного"

    Это, можно сказать, базовое утверждение всей эпистемологической рациональности, тут не поспоришь. Признаться, мне сложно вообразить аргументы против, но у тебя они, видимо есть, так что я в ожидании.

    "не имею никаких целей и ничего не хочу делать"

    Ничего подобного ЛВ-рациональность не пропагандирует и не поощряет. Как раз таки наоборот, инструментальная рациональность — целиком и полностью про достижение целей. Впрочем, я согласен, что постановку целей ЛВ-рациональность почти не затрагивает, но это ни в коем случае не тождественно провозглашению стратегии "не имею целей и ничего не делаю".

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Re: Что такое рациональность.
    « Ответ #4 : 14 Март 2017, 18:36 »
  • (+)1
  • (−)0
  • Это поведение, ведущее к неизбежной реализации намеченных целей. Собственно, в этом и состоит критерий рациональности человека. Если его цели реализуются, значит он ведёт себя рационально, рационально мыслит, рационально воспринимает себя и мир.
    Да, совершенно верно. Об это Юдковский в общем и говорит.

    Наконец, если у него нет целей вообще, то о его рациональности нельзя утверждать ничего определённого, поскольку она никак себя не проявляет.
    А вот тут я не согласен. Очень сложно существовать и при этом не демонстрировать никакого поведения. Поведение же, как вы утверждаете, и соответствие результатов поведения целям являются главным мерилом рациональности. Значит мы можем судить о рациональности камня: камень лежит и никуда не двигается. У него нет целей, поэтому он абсолютно ничего не делает. Камень абсолютно рационален.  То есть можно заявить, что в таком случае возникает ошибка типа деления на ноль, но нам это не очень важно, потому что на самом деле нас не интересует рациональность камня. Мы говорим, скорее всего, о людях, а люди всегда имеют какие-нибудь цели, ценности, мотивы, установки, которые вполне могут быть мерилом их рациональности. Даже если эти цели сводятся к удовлетворению физиологических потребностей. То есть ситуация, когда целей нет вообще это абстрактная ситуация, ситуация оторванная от реальности, не имеющая ни одного реального примера. И вопрос как правильно эту ситуацию классифицировать мне лично просто неинтересен. Думаю, что и вам тоже.

    Чем мне не нравятся определения из цепочек. Первым делом тем, что там эпистемиология ставится на первое место, неявно закладывая весьма спорный тезис: "если твоя карта точна, то тебя ждёт успех и цели реализуются, а если не точна, то ждёт провал".
    Я не обращал внимания на то, что там на первом месте, а что на втором. Мне кажется, это совершенно не важно.

    На первом месте должны стоять цели, из которых следует поведение, из которых следует необходимость уточнения карты. Если нет целей и направленных действий, то даже с абсолютно точной картой результат будет нулевым.
    Что именно Юдковский должен был написать первым пунктом, по вашему мнению? Это не риторический вопрос: я на самом деле хочу услышать конкретную формулировку: я не совсем понимаю вашей претензии к определению, и мне бы помогло, если бы вы раскрыли мысль и довели её до завершённости.

    Второе - что инструментальная рациональность сильно принижается и сводится к туманному "искусству выбора". Я же считаю, что нет выбора, есть поиск, и не тех действий, которые приведут к результату "наиболее вероятно", а тех, которые приведут к результату с неизбежностью.
    Это не работает на практике. Просто потому, что невозможно обладать всей возможной информацией. Иногда потому что нет времени на сбор информации -- решение надо принимать уже сейчас. Иногда потому, что единственный способ получить недостающую информацию -- ввязаться в драку. Как принимать решения в подобных случаях? Отказываться от решения вообще, потому что нет возможности принять решение, которое стопроцентов приведёт к успеху? В психологии такая стратегия поведения называется "избегание неудач" и противопоставляется стратегии "нацеленность на успех".
    « Последнее редактирование: 14 Март 2017, 18:44 от fil0sof »

    Muyyd1

    • Пользователь
    • **
    • Сообщений: 30
    • +8/-6
      • Просмотр профиля
    Re: Что такое рациональность.
    « Ответ #5 : 14 Март 2017, 18:55 »
  • (+)1
  • (−)0
  • Я тоже удивился тому, что тема закрыта была, ведь почувствовал порыв выплеснуть туда накопившуюся мудрость. Но закрыта так закрыта.

    Когда человек начинает выстраивать связи между словом и другими словами (понятиями) он часто приходит к процедуре "общеупотребляемый смысл". Т.е. смотрит, какой смысл вкладывают другие люди в это слово. Но на этом этапе познания есть некоторые "подводные камни". Отраженное в первом комменте определение рациональности очень похоже на то, как я вижу поп-культурное определение рациональности. Т.е. то, что думает про рациональность среднестатистический человек. Когда я смотрю на пример Маска, то вижу, как причинная стрелка направлена назад во времени: от результата к критерию. Добился - действовал рационально. Но непонятно из этого как направить стрелку вперед. Как загодя понять - какие действия наиболее рациональны? Вот если бы у нас была чуть более ясная процедура определения того, какое же действие из тех, от которых мы ожидаем что они приблизят желаемый результат, выбрать так, чтобы в процессе этого выбора избежать чудовищных проигрышей?  Если посмотреть на разницу между популярным определением и тем, которым пользуются люди, пытающиеся что-то делать с тем ЧТО они определяют, то будет заметна огромная разница. Будет ли разница между "эволюцией" биолога и "эволюцией" человека с улицы? Или разница между "логиками". Эта разница так же видна и в случае с "рациональностью". Как определяют рациональность занимающиеся когнитивной наукой люди? А как определяют ее изучающие теорию игр? Так как недавно гуглопереводчик сапдейтился я просто вставлю цитату из книги Становича 2010 года:

    Цитировать
    The student is warned that there are many alternative terms for instrumental and epistemic rationality in the literature (see Audi, 2001; Harman) 1995; Manktelow) 2004; Mele & Rawling) 2004; Nathanson) 1994; Over) 2004). For example) epistemic rationality is sometimes called theoretical rationality or evidential rationality. Instrumental rationality has been variously termed practical, pragmatic, or means/ends rationality in the literature. In the judgment and deciSion-making literature, the terms correspondence competence and coherence competence are sometimes used (Goldstein) 2004; Hammond, 1996, 2007). Correspondence competence concerns the degree to which beliefs map accurately to the environment and thus reflects what is called epistemic rationality in this book. Coherence competence refers to the ability to follow the consistency axioms of expected utility theory to be discussed in chapter 2. It thus relates to what will be called instrumental rationality in this volume.
    Так что мы имеем дело не просто с каким-то "странным выдуманным Юдковским определением рациональности".

    У меня "неизбежность" связана с логической "необходимостью". Как загодя определить, какие из действий приведут с неизбежностью к нужному результату в нашем сложном мире, где большая часть высказываний о нем включает слово "некоторые" (некоторые читавшие МРМ люди читали так же "От ИИ до Зомби"), и лишь малая часть слово "все" (1+1=2 или может быть "все простейшие молекулы водорода состоят из двух атомов водорода")? Именно в случаях с "некоторые" используется аппарат тервера, который позволяет перевести "некоторые" в какое-то число или если нет числа, то "сравнивать" эти "некоторые" величины. Опять же, я предупрежден против преодоления таких расстояний:

    Цитировать
    The one comes to you and loftily says:  "Science doesn't really know anything.  All you have are theories—you can't know for certain that you're right.  You scientists changed your minds about how gravity works—who's to say that tomorrow you won't change your minds about evolution?"

    Behold the abyssal cultural gap.  If you think you can cross it in a few sentences, you are bound to be sorely disappointed.

    In the world of the unenlightened ones, there is authority and un-authority.  What can be trusted, can be trusted; what cannot be trusted, you may as well throw away.  There are good sources of information and bad sources of information.  If scientists have changed their stories ever in their history, then science cannot be a true Authority, and can never again be trusted—like a witness caught in a contradiction, or like an employee found stealing from the till.
    ...
    When someone has lived their life accustomed to certainty, you can't just say to them, "Science is probabilistic, just like all other knowledge."  They will accept the first half of the statement as a confession of guilt; and dismiss the second half as a flailing attempt to accuse everyone else to avoid judgment.

    К сожалению, цепочки не написаны так, чтобы можно было "чуть почитать там" и "чуть почитать тут", и ожидать, что каждый такой кусочек будет независимо от других статей ценен или же между выдранными такими кусочками не будет кажущегося (или может даже настоящего) противоречия. Если прочитать все, то будет видно, что на первом месте стоит "выигрывание", т.е. инструментальная рациональность. Это повторяется неоднократно. Неоднократно. Но так уж вышло, что Юдковский, занимаясь решением интересующих его вопросов "дружелюбного ИИ", получил больше озарений в области эпистемической рациональности (об этом он сам пишет).


    « Последнее редактирование: 15 Март 2017, 03:51 от Muyyd1 »

    Al1

    • Постоялец
    • ***
    • Сообщений: 213
    • +74/-11
      • Просмотр профиля
    Собственно, в этом и состоит критерий рациональности человека. Если его цели реализуются, значит он ведёт себя рационально, рационально мыслит, рационально воспринимает себя и мир. Если его цели не реализуются, значит он ведёт себя нерационально из-за нерационального мышления и нерационального мировоззрения.
    ...
    Чем мне не нравятся определения из цепочек. Первым делом тем, что там эпистемиология ставится на первое место, неявно закладывая весьма спорный тезис: "если твоя карта точна, то тебя ждёт успех и цели реализуются, а если не точна, то ждёт провал".
    Если ставить эпистемологическую рациональность в подчиненное положение к инструментальной, наиболее рациональным решением будет игнорировать факты, придерживаться объективно ложных идей, когда это выгодно. Становится ли рациональным восприятием мира искренняя вера в говорящих змей и сотворение мира шесть тысяч лет назад, если для ваших целей выгоднее разделять взгляды большинства населения?

    Quilfe

    • Ветеран
    • ****
    • Сообщений: 282
    • +51/-7
      • Просмотр профиля
    1) Важнее ли для нас наличие точной карты самой по себе или достижение своих целей (что, вообще-то, скорее ложное противопоставление, потому что карта тоже может быть одной из целей, но я не об этом сейчас)
    2) и как технически устроены наши нормативные модели рассуждений,
    — это вообще-то два разных вопроса. Даже если не задаться точностью карты как одной из терминальных ценностей, разумно всё равно строить эпистемический слой так, чтобы он не зависел от наших ценностей. Точнее, от них может зависеть то, какие именно участки карты мы строим в первую очередь и с какой точностью (у разной информации разная ценность), но не то, что именно мы считаем истиной. Иначе можно попасть в разнообразные ловушки и упрощения, например, исказить свою карту ценами ошибок ради ее работоспособности в чём-то одном и потерять ее возможности в другом, хуже — лишиться возможности заметить, где именно у тебя начинается инструментальное упрощение.

    Поэтому эпистемология важна, даже если карта — не терминальная ценность. Однако у многих рационалистов, подозреваю, одна из терминальных.

    deep_blue_hexagon

    • Пользователь
    • **
    • Сообщений: 69
    • +2/-0
      • Просмотр профиля
    Пример пользы менее точной карты в эссе "культовая контркультовость".
    Хотя тут не тот аспект что затрагивается в обсуждении выше.

    fpaint

    • Пользователь
    • **
    • Сообщений: 21
    • +7/-2
      • Просмотр профиля
    Re: Критика ЛВ-рациональности
    « Ответ #9 : 15 Март 2017, 10:32 »
  • (+)0
  • (−)0
  • На вопрос "почему тема закрыта" я ответил в ЛС вполне прямо, так что довольно странно, что это осталось непонятным. На всякий случай повторюсь: это просто определение рациональности в ЛВ-смысле, обсуждать там нечего. Небольшой справочный материал, не более.

    Да, ты написал, что это "справочный материал", "обсуждать нечего" и "споры об определениях - плохо". Но мне это, наверное, видится иначе. Мне кажется, текст из цепочки с определением рациональности используется лессвронгом не по назначению - для того, чтобы отказываться от размышлений и разговоров о том, кто что понимает под словом "рациональность". Типа, определение дано, вопрос закрыт. А я вот не уверен, что люди там и в самом деле понимают рациональность именно так. Что они честно поразмышляли на эту тему, подумали разные варианты определений, нашли лучшее и оно оказалось таким, как у Юдковского. Скорее они приняли установку - "понимать под рациональностью что-то иное тут запрещено" и с тех пор на вопрос из сабжа бодро цитируют по памяти заветные строчки. Вопроса "что я понимаю под этим ключевым термином на самом деле" они себе не задают.
    Я себе такой вопрос задал, поразмышлял, и написав ответ, стал чётче видеть различия в языке. К примеру, лессвронговцы бесконечно уточняют, задавая вопросы "что ты понимаешь под словом" и "откуда ты знаешь, что это так", потому что считают, что это важно, и злятся не получая ответов. А я задаю им другие вопросы - "какие у вас цели" и "какой у вас план действий", потому что считаю, что важно это. И не получаю ответов. Ну, максимум, что удалось выжать - это "цель чата - общение" и "вот в прошлом году написали обрывок черновика плана на хакпаде и гордо назвали его мастер-планом".

    Я бы скорее сказал "точная карта всегда лучше, чем неточная". С этим ты согласишься или нет? Если нет, то приведи, пожалуйста, примеры, когда неточная карта лучше.

    Разумеется, если точная и неточная карта даются нам по одинаковой цене, лучше брать точную. Но если цена разная - например, на уточнение требуется затратить время, силы и внимание, то может оказаться, что реализация цели с точной картой выйдет дороже, чем с приближённой. Или ещё хуже - если использование точной карты требует бOльших накладных расходов (при том что количество объектов, которые человек может одновременно осмысливать невелико), то может оказаться, что с точной картой цель не реализуется вообще.

    fil0sof

    • Главный модератор
    • Ветеран
    • *****
    • Сообщений: 969
    • +55/-3
      • Просмотр профиля
      • VK profile
    Re: Критика ЛВ-рациональности
    « Ответ #10 : 15 Март 2017, 10:49 »
  • (+)0
  • (−)0
  • лессвронговцы бесконечно уточняют, задавая вопросы "что ты понимаешь под словом" и "откуда ты знаешь, что это так", потому что считают, что это важно, и злятся не получая ответов.

    "Что ты понимаешь под словом" и "почему ты думаешь, что это знаешь" — действительно крайне важные вопросы, без ответа на которые далеко не уедешь. Иначе будет обоюдная иллюзия прозрачности, которая ни к чему хорошему не приведёт. Пример про старый юмористический монолог откуда-то из Аншлага я уже тебе приводил.

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    Re: Критика ЛВ-рациональности
    « Ответ #11 : 15 Март 2017, 11:34 »
  • (+)0
  • (−)0
  • видится иначе. Мне кажется, текст из цепочки с определением рациональности используется лессвронгом не по назначению - для того, чтобы отказываться от размышлений и разговоров о том, кто что понимает под словом "рациональность".

    Можете конкретизировать ваше видение назначения?

    Также меня очень интересует кто и что понимает под словом "рациональность", потому что для меня это интуитивно понятные значения мета-уровня — четкие границы между правильно и ошибочно, которые при словесном рассмотрении у разных людей перетекают в разные стороны.

    fpaint

    • Пользователь
    • **
    • Сообщений: 21
    • +7/-2
      • Просмотр профиля
    Re: Критика ЛВ-рациональности
    « Ответ #12 : 15 Март 2017, 12:29 »
  • (+)0
  • (−)0
  • Можете конкретизировать ваше видение назначения?

    1. Это понимание термина Юдковским, с которым можно согласиться или не согласиться.
    2. Утверждение "я понимаю под этим словом то же, что и Юдковский" накладывает на утверждающего обязательства. К примеру, он уже не может считать рациональным то, что по данному определению не рационально. Не может утверждать, что его поведение рационально, если по данному определению рациональности оно не такое. Утверждая это, человек декларирует контракт, позволяющий другим людям предвидеть его ход мыслей и поступков. И благодаря такому соглашению людям становится комфортнее взаимодействовать друг с другом. Соответственно, если человек утверждает это определение, а потом говорит и делает что-то противоположное, это признак того, что он понимает под словом "рациональность" что-то другое.

    Добавлено [time]15 Март 2017, 12:47[/time]:
    А вот тут я не согласен. Очень сложно существовать и при этом не демонстрировать никакого поведения. Поведение же, как вы утверждаете, и соответствие результатов поведения целям являются главным мерилом рациональности. Значит мы можем судить о рациональности камня: камень лежит и никуда не двигается.

    Нет. Можно существовать и действовать совершенно бесцельно. Камень не умеет целеполагать, потому говорить о его рациональности бессмысленно.

    Я не обращал внимания на то, что там на первом месте, а что на втором. Мне кажется, это совершенно не важно.
    Что именно Юдковский должен был написать первым пунктом, по вашему мнению? Это не риторический вопрос: я на самом деле хочу услышать конкретную формулировку: я не совсем понимаю вашей претензии к определению, и мне бы помогло, если бы вы раскрыли мысль и довели её до завершённости.

    Почитал ещё раз - по моему, главная проблема там во фразе "Если это кажется довольно неплохим определением, вы можете прекратить чтение здесь", идущей сразу за первыми двумя абзацами. Многие воспринимают её всерьёз.

    Это не работает на практике. Просто потому, что невозможно обладать всей возможной информацией.

    Собственно, как раз об этом я и говорю. )

    Добавлено 15 Март 2017, 12:52:
    Становится ли рациональным восприятием мира искренняя вера в говорящих змей и сотворение мира шесть тысяч лет назад, если для ваших целей выгоднее разделять взгляды большинства населения?

    Если цель такова, то да. Если иная, то нет. Что из этого следует? Что человек, стремящийся к эпистемической рациональности, должен также стремиться к независимости от взглядов своего окружения.
    « Последнее редактирование: 15 Март 2017, 12:52 от fpaint »

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    Re: Критика ЛВ-рациональности
    « Ответ #13 : 15 Март 2017, 13:18 »
  • (+)0
  • (−)0
  • По первому пункту, Вы прошлись по ссылке предложенной мной выше?  Кусочек цитирую:
    Цитировать
    Рациональное мышление не является всеобъемлющей идеей и некоторые концепции и понятия не входят в рациональность. Тут приводятся примеры таких понятий.


    2. Утверждение "я понимаю под этим словом то же, что и Юдковский" накладывает на утверждающего обязательства.

    Утверждая это, человек декларирует контракт, позволяющий другим людям предвидеть его ход мыслей и поступков. И благодаря такому соглашению людям становится комфортнее взаимодействовать друг с другом.

    2. Можете указать в каком именно месте прочли о подобном соглашении?
    Совершенно не обязательно рациональному выбору быть легко считуемым для других, и тем более рациональные действия одного совсем не предполагают комфорт других, ввиду естественно разных целей.


    mutsera Lord Dregas Volar

    • Постоялец
    • ***
    • Сообщений: 118
    • +9/-3
      • Просмотр профиля
    Re: Критика ЛВ-рациональности
    « Ответ #14 : 15 Март 2017, 13:22 »
  • (+)0
  • (−)0
  • Я бы скорее сказал "точная карта всегда лучше, чем неточная". С этим ты согласишься или нет? Если нет, то приведи, пожалуйста, примеры, когда неточная карта лучше.
    С вашего позволения попробую дать ответ на этот вопрос.
    Во-первых, необходимо определиться с терминологией, ибо слово "точная" в данном контексте может обозначать как "подробная", так и "достоверная". Надеюсь, пояснять когда менее подробная карта будет лучше более подробной не требуется?
    С достоверностью же не все так однозначно: да, эмпирический опыт подсказывает, что обладание более достоверной информацией даёт преимущества в достижении целей.  Однако, категоричное "всегда лучше", всё же, полагаю, следует скорректировать: "в подавляющем большинстве случаев лучше". В конце концов, искаженная карта полезна хотя бы тем, что её можно подкинуть врагу. Это, конечно же, шутка. Давайте рассмотрим пример:
    Есть рационалист Вася. Одна из его целей (не самая приоритетная, но всё же цель) - оставаться в хорошем настроении и приподнятом состоянии духа. Но происходят в мире события, которые заставляют Васю расстраиваться. Ну, к примеру, в Африке дети голодают. Собственно, эта информация никак для Васи, в общем-то не важна. Но она заставляет его грустить и удаляет от цели. И чем больше он будет читать репортажей на эту тему и смотреть фотографий страдающих детей, тем дальше он будет от своей цели. А ложная же информация о том, что голод побежден поднимет настроение и приблизит к цели. Что в данном случае будет для Васи рациональнее: бороться с искажениями и приближать карту или достигнуть своей цели?

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    Re: Критика ЛВ-рациональности
    « Ответ #15 : 15 Март 2017, 13:52 »
  • (+)0
  • (−)0
  • Во-первых, необходимо определиться с терминологией, ибо слово "точная" в данном контексте может обозначать как "подробная", так и "достоверная". Надеюсь, пояснять когда менее подробная карта будет лучше более подробной не требуется?
    Терминология, по моему, относится к редукционному уровню, а не к деталям и соответствию.  Где цена за информацию о достоверности карты определяет выбор уровня детализации.

    fpaint

    • Пользователь
    • **
    • Сообщений: 21
    • +7/-2
      • Просмотр профиля
    Re: Критика ЛВ-рациональности
    « Ответ #16 : 15 Март 2017, 13:57 »
  • (+)0
  • (−)0
  • С достоверностью же не все так однозначно ... Давайте рассмотрим пример.
    Я сразу вспомнил "Кибериаду" Лема, сказку про демона второго рода. )

    Muyyd1

    • Пользователь
    • **
    • Сообщений: 30
    • +8/-6
      • Просмотр профиля
     Точность уже определена, и исчисляется она в битах
    Цитировать
    When talking about the correspondence between a probability assignment and reality, a better word than "truth" would be "accuracy".  "Accuracy" sounds more quantitative, like an archer shooting an arrow: how close did your probability assignment strike to the center of the target?

    To make a long story short, it turns out that there's a very natural way of scoring the accuracy of a probability assignment, as compared to reality: just take the logarithm of the probability assigned to the real state of affairs.

    So if snow is white, my belief "70%: 'snow is white'" will score -0.51 bits:  Log2(0.7) = -0.51.

    But what if snow is not white, as I have conceded a 30% probability is the case?  If "snow is white" is false, my belief "30% probability: 'snow is not white'" will score -1.73 bits.  Note that -1.73 < -0.51, so I have done worse.

    About how accurate do I think my own beliefs are?  Well, my expectation over the score is 70% * -0.51 + 30% * -1.73 = -0.88 bits.  If snow is white, then my beliefs will be more accurate than I expected; and if snow is not white, my beliefs will be less accurate than I expected; but in neither case will my belief be exactly as accurate as I expected on average.

    Разумеется, можно навыдумывать историй, где по инструментальным причинам стоит пренебречь эпистемической точностью. В итоге Вася начитается и пойдет в красный крест запишется и будет счастлив, помогая остаток своей жизни больным и голодным детям.
    « Последнее редактирование: 15 Март 2017, 14:19 от Muyyd1 »

    mutsera Lord Dregas Volar

    • Постоялец
    • ***
    • Сообщений: 118
    • +9/-3
      • Просмотр профиля
    В итоге Вася начитается и пойдет в красный крест запишется и будет счастлив, помогая остаток своей жизни больным и голодным детям.
    Полная смена целевой функции, да и всей системы ценностей впридачу, в рамках данного примера не рассматривалась. Я же указал, что целей больше одной и быть счастливым - не самая главная.

    Muyyd1

    • Пользователь
    • **
    • Сообщений: 30
    • +8/-6
      • Просмотр профиля
    Я, в таком случае, пока перестану участвовать в обсуждении этого примера, из которого следует предпочтение неточной карты. Потому как рационалист Вася  не будет обманут сообщениями о победе над голодом, но перестанет изучать голодающих в Африке детей и переключится на другую информацию. Но это выдуманный пример со множеством выдуманных (в том числе и подразумеваемых подсознательно) деталей, и, очевидно, тут у нас разница в деталях (а может так же и в процедурах, которые исполняет рационалист Вася).

    mutsera Lord Dregas Volar

    • Постоялец
    • ***
    • Сообщений: 118
    • +9/-3
      • Просмотр профиля
    ... это выдуманный пример со множеством выдуманных (в том числе и подразумеваемых подсознательно) деталей ...
    Позвольте с вами не согласиться. Неужели вам никогда не доводилось слышать в свой адрес в той или иной форме "не желаю слушать"? Вы можете считать этих людей нерациональными только лишь по той причине, что оставаться в зоне комфорта для них важнее, чем та информация, которую вы пытаетесь донести?

    Muyyd1

    • Пользователь
    • **
    • Сообщений: 30
    • +8/-6
      • Просмотр профиля
    Да, эта ситуация (т.е. та, которая возникает в моей голове в ответ на ваше описание) будет провалом этих людей, как рационалистов. И я буду думать "О да, продолжай себя обманывать. Надеюсь, результат, который ты получишь на основе этой неточной информации, так сильно тебя ошарашит, что ты захочешь себе татуху сделать со словами Все что может быть разрушено правдой - должно быть разрушено, а что питается правдой - должно процветать".
    « Последнее редактирование: 15 Март 2017, 15:22 от Muyyd1 »

    fil0sof

    • Главный модератор
    • Ветеран
    • *****
    • Сообщений: 969
    • +55/-3
      • Просмотр профиля
      • VK profile
    Позвольте с вами не согласиться. Неужели вам никогда не доводилось слышать в свой адрес в той или иной форме "не желаю слушать"? Вы можете считать этих людей нерациональными только лишь по той причине, что оставаться в зоне комфорта для них важнее, чем та информация, которую вы пытаетесь донести?

    Именно так. "Нежелание слушать", предложение "согласиться не соглашаться", утверждение, что "у каждого своя правда" и прочие подобные вещи — типичные примеры вопиющей эпистемологической иррациональности.
    Вкратце о том, почему это плохо, я писал вот здесь.

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    Точность карты, разумеется, не может быть универсально адаптивным признаком, т.е. не может быть такого, что точная карта при прочих равных всегда лучше неточной. Контрпримеры очень легко построить: скажем, представьте себе пару существ, одно из которых неизмеримо превосходит второе по физическим и интеллектуальным возможностям, контролирует жизнь этого второго и специально наказывает за проявления наличия точной карты. Недостаток интеллекта (в сравнении с первым существом) не позволяет второму существу скрывать, что его карта точна, а значит - второму рационально более выгодно иметь неточную, плохую карту. Причём это вовсе не искусственный пример - такого рода ситуации часто возникают с детьми, психически больными людьми, домашними животными.

    Т.о., точность карты важна не для всех без исключения случаев. Кроме того, поскольку невсеведущее существо не может с гарантией определить, что оно находится именно в ситуации-исключении, то даже в ситуациях, выглядящих исключениями, приходится действовать с определенной оглядкой на общий принцип.

    Но это общая теория сферических карт в вакууме. А что касается наблюдаемых человеческих когнитивных искажений, то тут всё намного печальней, и пример выше с голодающими детьми это как раз неплохо иллюстрирует. Попробую этот пример обобщить и (по своей дурной привычке) привязать к динамике, к эволюционным процессам.


    Технологические возможности возрастают во всех более-менее благополучных обществах, так же как возрастает (по мере роста длины технологических цепочек) и взаимозависимость людей друг от друга. Нормальные человеческие рефлексы взаимопомощи толкают выделять часть этих всё растущих ресурсов на подстраховку, поддержку и вытягивание "павших" и "падающих". При этом наши врожденные рефлексы и социальные привычки сформированы _прошлым_, в котором ресурсов и взаимозависимости  было _меньше_. Иными словами, в нашем эволюционном прошлом (как в смысле генетической, так и социальной эволюции) окружающая среда сильнее наказывала за собственные ошибки (меньше ресурсов для подстраховки окружающих - чаще возникает событие вида "ошибся - пострадал", меньше взаимозависимостей - чаще страдаешь от своих ошибок сам, а не подставляешь других), и меньше вознаграждала за готовность рисковать (меньше ресурсов - меньше возможностей вознаграждения за риск). Здесь, помимо прочего, нужно учитывать еще и асимметрию наград и наказаний: ценность "единицы" награды падает с увеличением их количества, в то время как отрицательная ценность наказания - напротив, увеличивается (т.к. приближает субъект к смерти - буквальной или фигуральной - и порция наказания, которой не хватает до смерти, становится всё меньше). Т.о., то, что мы отдаляемся от этой "красной черты" - это некое абсолютное (не относительное) и по своей сути совершенно асимметричное явление, от него нельзя отмахнуться по принципу "а, фигня, просто дело привычки / точки отсчета".

    Т.о., еще раз, что у нас получается. "Красная черта" всё дальше, от приближения к ней всё больше страхуют окружающие, т.е. риски становятся всё менее страшными. Потенциальные выигрыши от рискованного поведения, напротив, становятся всё больше - попросту потому, что возрастают накопленные человечеством ресурсы, т.е. те самые потенциальные выигрыши. Первобытный человек почти ни в чём не мог рассчитывать на подстраховку окружающих, в любой момент ошибка могла привести его к смерти (и обычно именно его самого, а не кого-то другого), а выиграть рискованным поведением он почти ничего не мог - ну не было тогда складов долго хранящейся еды, эффективных лекарств и золотишка, за кое всё это можно купить; практически все потенциальные выигрыши проедались или портились очень быстро. Далее наблюдаем вышеописанный процесс - и... Современному человеку в благополучной стране нужно сильно постараться, чтобы его ошибка привела к его смерти. Даже в автомобиле намного проще убить кого-то другого (пешехода, пассажира), чем самого себя - а ведь это с большим отрывом самый крупный фактор риска в индустриальном ландшафте. Современный человек к тому же имеет на виду огромное количество разнообразных значимых потенциальных выигрышей, которые можно накапливать в практическом смысле неограниченно. Современный человек, допустив грубую ошибку, чаще убъет или критически подведет кого-то другого, чем себя (неосторожный водитель собьет пешехода, криворукий оператор задавит кого угодно кроме себя, небрежный химик-технолог убьет рабочих завода или покупателей продукции, и т.п.)
    Т.о., еще раз: цена ошибки (в среднем и для себя самого) резко снизилась, потенциальные выигрыши (в среднем) резко возросли.

    Что это значит для вопроса рациональности точной карты?

    1. Раньше разница между хорошей и плохой картой, грубо говоря, означала разницу между долгой жизнью в почете и быстрой смертью в мучениях. Сейчас это скорее разница между долгой комфортной жизнью и другой долгой комфортной жизнью.
    2. Раньше человек обычно платил за неточность своей карты сам. Сейчас он чаще подводит этим других.

    Иными словами, подытоживая:
    Раньше цена ошибки была настолько "прямобьющей" и сильной, что сохранить жизнь и комфорт не помогали ни обман, ни самообман.
    Сейчас цена ошибки стала настолько "мимобьющей" и слабой, что обман и самообман стали _рациональной стратегией_ для человека с нормальной психикой.

    Совсем коротко и ясно: честность и скурпулезность мышления (построение точной карты) становится уделом психов с маргинальным набором терминальных ценностей.

    Дисклеймер: Я не ставил себе цели подрывать основы гуманизма, лить воду на мельницы социал-дарвинистов и всякое такое. Я хочу понимать и делиться пониманием, а если понимание оказывается страшненьким и тошнотненьким, то что ж тут сделаешь - я с этим предпочитаю мириться, причём решительно отказываюсь из-за этого страха отказываться от каких-то своих терминальных ценностей (в частности - того же самого гуманизма).

    fil0sof

    • Главный модератор
    • Ветеран
    • *****
    • Сообщений: 969
    • +55/-3
      • Просмотр профиля
      • VK profile
    Раньше цена ошибки была настолько "прямобьющей" и сильной, что сохранить жизнь и комфорт не помогали ни обман, ни самообман.
    Сейчас цена ошибки стала настолько "мимобьющей" и слабой, что обман и самообман стали _рациональной стратегией_ для человека с нормальной психикой.

    Совсем коротко и ясно: честность и скурпулезность мышления (построение точной карты) становится уделом психов с маргинальным набором терминальных ценностей.

    Я немного не согласен с категоричностью вывода. От "точная карта не всегда лучше неточной" до "уточнение карты — удел психов" всё-таки довольно далеко.
    Но в целом спасибо за пост, он заставил меня задуматься, мысли интересные.

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    Я немного не согласен с категоричностью вывода. От "точная карта не всегда лучше неточной" до "уточнение карты — психов" всё-таки довольно далеко.
    Тут есть еще тонкая разница между "построение точной карты" и "уточнение карты". Первая формулировка - которую использовал я - подразумевает систематическую, упорную деятельность, "мыслительное строительство". Вторая формулировка такой коннотации не несет, в неё укладывается и систематическая упорная деятельность, и случайная небрежная. Вот это второе - оно, конечно, будет продолжаться во всех областях деятельности, где обратная связь пряма и сильна, т.е. там, где нормального человека что-то всё ещё принуждает уточнять карту, не отказываться от этой необходимости и не сваливать эту задачу на других. Где обратная связь слаба - творится черт знает что, причём в последние десятилетия ситуация ухудшается на глазах.

    mutsera Lord Dregas Volar

    • Постоялец
    • ***
    • Сообщений: 118
    • +9/-3
      • Просмотр профиля
    Все что может быть разрушено правдой - должно быть разрушено, а что питается правдой - должно процветать".
    Я знаю правду, которая вполне себе способна разрушить две дружбы и один брак; пожалуй, я и дальше буду держать её при себе. Прошу прощения за оффтоп, конечно. Просто навеяло формулировкой.
    ... результат, который ты получишь на основе этой неточной информации, так сильно тебя ошарашит ...
    Разумеется речь не идет о ситуациях, связанных с принятием важных и, уж тем более, рискованных решений (хотя в этом случае можно привести более общий контрпример: достаточно заменить вас и несмышлёныша, не желающего внять вашим разумным доводам на вас и несмышлёныша, который задолбал уже своими тупыми доводами). Впрочем, ваша реакция мне понятна, даже, в некотором роде, постфактум очевидна. И если бы мне подумать чуть дольше, скорее всего я бы сформулировал мысль более развернуто, ну да ладно.

    По вопросу приближения карты мне кажется странным вот что: люди достаточно легко готовы согласиться с ложью (ну пусть не ложь, а сокрытие правды) на благо других. Благо в том смысле, что те, другие, будут действовать эффективнее не зная всей правды. Однако, в отношении себя сам факт возможности рациональной установки вида "если я буду это знать - мне это помешает (будет отвлекать, уведет в сторону и т.п.)" вызывает столь яростное отторжение.

    В качестве еще одного примера отказа от точной карты, направленного на достижение цели можно привести персонажа Сайфер из кинофильма "Матрица", который готов променять реальный мир на компьютерную симуляцию, качество жизни в которой будет для него несравнимо лучше. Если не вдаваться в нюансы вопросов "бега от реальности", а рассмотреть ситуацию исключительно с точки зрения рационального подхода, то можно увидеть, что он добивается своей цели максимально эффективным образом.


    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Сейчас цена ошибки стала настолько "мимобьющей" и слабой, что обман и самообман стали _рациональной стратегией_ для человека с нормальной психикой.
    Я согласен с первой частью, но не согласен со второй. Вы отметили, что потенциальные выигрыши в наше время возросли, с этим я тоже согласен. Но почему вы считаете, что человеку, у которого нет привычки уточнять свою карту, проще их получить, чем человеку, у которого эта привычка есть? Если потенциальные выигрыши действительно возросли, то человек, уточняющий свою карту, это понимает, и, если ему действительно нужны эти выигрыши, он может их искать более целенаправленно. И выбирать инструменты под задачу тоже целенаправленно.

    Например, человек, у которого есть привычка уточнять свою карту, может сэкономить большое количество ресурсов. Просто за счёт того, что он делает не так, "как принято", а так, как ему удобно. Это даже в чисто бытовых примерах работает: Человек может освоить системы планирования дел, и сэкономить себе время и нервы на каких-то вопросах. Человек может освоить принципы работы маркетологов и меньше тратить деньги на всякую ерунду. Человек может узнать много полезной информации про поддержание своего здоровья. И даже за счёт таких бытовых вещей можно получить конкурентное преимущество. Если же речь идёт о том, чтобы сподвигнуть других делать то, что тебе надо, то тут уточнение карты тоже даёт достаточное количество методов.

    Да, прямо сейчас крайне сложно доказать, что рациональность работает. Но я полагаю, что через некоторое время исследования CFAR (организации в Калифорнии, которая учит рациональности, и, в частности, пытается измерять, как меняется жизнь выпускников их воркшопов), даже будут показывать наглядную пользу.

    Цитировать
    Совсем коротко и ясно: честность и скурпулезность мышления (построение точной карты) становится уделом психов с маргинальным набором терминальных ценностей.
    Ну вот один из таких "психов" написал "ГП и МРМ" и заразил своими идеями достаточно много людей. Да, понятно, что в мировом масштабе это пока довольно мало, но не стоит забывать, что затраты тоже были довольно невелики. Вот другой пример человека из LW, которая постепенно выходит на всё большую аудиторию. Да, на этом серьёзные примеры из LW у меня кончились, но LW существует не так уж много (и, к тому же, я не так уж хорошо знаю, что там у них в Америке происходит).

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    Вы отметили, что потенциальные выигрыши в наше время возросли, с этим я тоже согласен. Но почему вы считаете, что человеку, у которого нет привычки уточнять свою карту, проще их получить, чем человеку, у которого эта привычка есть?

    Потому что, как выше уже писали, уточнение карты достается не бесплатно. Оно как минимум отнимает время и энергию, а иногда для уточнения карты нужно еще и совершать рискованные действия (для проверки гипотез). Легко видеть, что при росте потенциальных выигрышей и одновременном падении рисков найдется такой момент, когда вкладываться выгодней в попытки добиться результатов при уже имеющейся карте, нежели в уточнение этой карты*. Справедливость этого утверждения легко проверить на предельном случае: если каждая попытка дает максимально возможный результат, а риск всегда нулевой, то карту уточнять не нужно вообще. Это, конечно, вырожденный случай, но также легко видеть, что вполне мыслимы уровни, на которых средние ожидаемые затраты на уточнение карты превышают средний ожидаемый выигрыш.

    (*) Обратите, кстати, внимание - само по себе это вполне правильно! Оно начинает вызывать некий внутренний протест только в социальном контексте, не так ли? При учёте общих рисков, а не только своих.

    Ситуация эта вообще вполне обычна для человеческой деятельности - это просто своего рода частный случай логистического насыщения.

    Например, человек, у которого есть привычка уточнять свою карту, может сэкономить большое количество ресурсов. Просто за счёт того, что он делает не так, "как принято", а так, как ему удобно. Это даже в чисто бытовых примерах работает: Человек может освоить системы планирования дел, и сэкономить себе время и нервы на каких-то вопросах. Человек может освоить принципы работы маркетологов и меньше тратить деньги на всякую ерунду. Человек может узнать много полезной информации про поддержание своего здоровья. И даже за счёт таких бытовых вещей можно получить конкурентное преимущество. Если же речь идёт о том, чтобы сподвигнуть других делать то, что тебе надо, то тут уточнение карты тоже даёт достаточное количество методов.

    Может! Никто ж не спорит с возможностью. Но рациональность стратегии - это не вопрос возможности, это вопрос вероятностей. Человек может повысить свой выигрыш так, как Вы описали, а может повысить его и не делая ничего такого, и еще может попеределывать всё что Вы описали - и обнаружить, что это ему так и не помогло, что он впустую потратил на это последние годы своей молодости. Какова вероятность того и другого, какая больше? Как меняются это соотношение со временем? Вот этот аспект дела у меня и вызывает изрядно тягостное впечатление.

    Да, прямо сейчас крайне сложно доказать, что рациональность работает. Но я полагаю, что через некоторое время исследования CFAR (организации в Калифорнии, которая учит рациональности, и, в частности, пытается измерять, как меняется жизнь выпускников их воркшопов), даже будут показывать наглядную пользу.

    Предвижу очень серьезные проблемы с анализом этой статистики. Как предлагается обеспечить чистый контроль, плацебо-контроль и двустороннюю слепоту этих исследований?
    (Очевидно, что сама методика LW привлекает людей с повышенным интеллектом. Упор на успешность привлекает амбициозно-энергичных людей. Т.е. выборка уже резко перекошена в сравнении с демографической сразу по двум параметрам. Даже если удастся формализовать успешность и получить корреляцию - как отличить прямую каузальную связь от каузальной связи с указанными мной выше особенностями выборки? Как обеспечить объективность формализации и сбора данных? Без строго выдержанной методология исследования на выходе будет мусор, форму которому придадут желания и ожидания участников процесса.)

    Ну вот один из таких "психов" написал "ГП и МРМ" и заразил своими идеями достаточно много людей.

    Этому я только рад, но на мой взгляд Юдковский может внести существенный позитивный вклад в будущее только работой над дружественным ИИ. Потому как это, на мой взгляд, вообще единственное, что может предотвратить будущее, которое я воспринимаю как катастрофу.
    (На всякий случай предупреждаю, что я сам псих, причём с почти клиническим провалом по 2-й и 9-й шкалам MMPI. Т.е. когда я говорю что-то выглядящее как чёрный пессимизм, то это не он, а ровно обратное: как оптимистический, так и пессимистический защитные механизмы у меня почему-то поломаны. Я из-за этого часто даже не могу понять как работают некоторые когнитивные искажения - у меня неполный их комплект, и "взамен" гипетрофированы искажения шизоидной группы, с чем я не всегда могу справиться.)

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Предвижу очень серьезные проблемы с анализом этой статистики. Как предлагается обеспечить чистый контроль, плацебо-контроль и двустороннюю слепоту этих исследований?
    (Очевидно, что сама методика LW привлекает людей с повышенным интеллектом. Упор на успешность привлекает амбициозно-энергичных людей. Т.е. выборка уже резко перекошена в сравнении с демографической сразу по двум параметрам. Даже если удастся формализовать успешность и получить корреляцию - как отличить прямую каузальную связь от каузальной связи с указанными мной выше особенностями выборки? Как обеспечить объективность формализации и сбора данных? Без строго выдержанной методология исследования на выходе будет мусор, форму которому придадут желания и ожидания участников процесса.)
    Тут основная проблема даже не в iq выборки.

    Если человек решил стать успешным, то скорее всего он станет успешнее, чем он был. Вне зависимости от того, посещает ли он CFAR или нет. Если он настолько хочет стать успешным, что готов вкладывать деньги в своё развитие, то это само по себе неплохой предиктор того, что человек станет успешным. Максимум того, что нам могут сказать успехи CFAR -- это то, что успешные люди склонны к изучению рациональности, да и то такой вывод можно будет сделать, если при сравнении этих успешных людей с другими успешными, выяснится что выпускники CFAR заметно превосходят остальных. В таком случае мы (как байесианцы) сможем рассуждать о достоверности того, что CFAR положительно влияет на успешность, но не забывая при этом про достоверности гипотезы о том, что обучение в CFAR и успешность не влияют друг на друга, но являются следствиями какой-то третьей причины. А если мы рассмотрим гипотезу о том, что рациональность помогает быть успешным, то она ещё менее достоверна, чем утверждение о том, что обучение в CFAR положительно влияет на успешность: может быть дело не в рациональности, а в знакомствах, которые люди обрели, обучаясь в CFAR?

    Вот если успешность выпускников CFAR снизится после обучения, то тогда мы сможем сделать осторожный вывод о том, что обучение в CFAR мешает быть успешным, потому что вообще-то мотивация стать успешным должна вести к повышению успешности. Так что CFAR -- это попытка верификации гипотезы, она будет иметь ценность в любом случае, но если верификация удастся, то ценность (в смысле количества бит информации, которое мы получим в результате) будет ниже, чем если верификация провалится.

    Была интересная история, я изложу её без цифр, точнее с придуманными цифрами, поскольку не помню точных, но суть не в точности (но не надо по ним судить о реальной эффективности упомянутых методов, тем более не стоит распространять эти суждения на вообще все применения психотерапии).
    Проблема: публичные выступления. У некоторых студентов с этим возникают проблемы и... А давайте-ка проведём им когнитивную психотерапию, может у них станет лучше? Провели. Сидели и анализировали причины, которые приводили к проблемам в выступлениях. И (допустим) в 60% случаев увидели улучшение, то есть студенты стали выступать увереннее.
    Потом взяли другую группу студентов и провели им тренинг по бихевиоральному типу. Тренировались выступать, отрабатывая выступления поэлементно в модельной ситуации. Увидели 80% улучшений. Но не остановились на этом, набрали плацебо группу, и занимались с ними всякой нерелевантной фигнёй. И эта группа показала 75% улучшения. То есть когнитивная психотерапия не помогала, а мешала студентам осваивать публичные выступления. Бихевиоральная помогала чутка, но не особо.

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    Тут основная проблема даже не в iq выборки.
    Да, скорее всего. Я с интеллекта (не IQ, это немного разные штуки) начал не потому что это самым важным считаю, а просто так последовательность рассуждения сложилась.
    То, что Вы расписали - это вот как раз из "дельты" между чистым контролем и плацебо-контролем. В этой дельте до чёрта всего.
    А какой фактор будет самым важным в данном случае - даже не буду пробовать прикидывать; с моей шизоидной акцентуацией интуиция в отношении людских качеств вообще хромает на оба полушария.

    fil0sof

    • Главный модератор
    • Ветеран
    • *****
    • Сообщений: 969
    • +55/-3
      • Просмотр профиля
      • VK profile
    Проблема: публичные выступления. У некоторых студентов с этим возникают проблемы и... А давайте-ка проведём им когнитивную психотерапию, может у них станет лучше? Провели. Сидели и анализировали причины, которые приводили к проблемам в выступлениях. И (допустим) в 60% случаев увидели улучшение, то есть студенты стали выступать увереннее.
    Потом взяли другую группу студентов и провели им тренинг по бихевиоральному типу. Тренировались выступать, отрабатывая выступления поэлементно в модельной ситуации. Увидели 80% улучшений. Но не остановились на этом, набрали плацебо группу, и занимались с ними всякой нерелевантной фигнёй. И эта группа показала 75% улучшения. То есть когнитивная психотерапия не помогала, а мешала студентам осваивать публичные выступления. Бихевиоральная помогала чутка, но не особо.

    Это из личного опыта? Или где-то читали? Или вообще гипотетические прикидки?

    kuuff

    • Старожил
    • *****
    • Сообщений: 2 133
    • +220/-52
      • Просмотр профиля
    Это из личного опыта? Или где-то читали? Или вообще гипотетические прикидки?
    Нет, это реальная история, происходившая в каком-то из американских вузов, где-то во второй половине XX века, думаю годах эдак в 50-х, 60-х. Я не помню деталей -- слушал это на лекциях по экспериментальной психологии, где нам объясняли, в частности, как надо и как не надо оценивать эффективность психологического вмешательства. Возможно (точнее наверняка) я переврал цифры, подозреваю, что забыл про контрольную группу -- про тех, кто вообще ни в каких тренингах не участвовал, чью успешность в измерениях просто замеряли. Но мне кажется я в правильном порядке расположил группы по эффективности. Увы, я не могу найти в конспекте запись: я помню как я слушал об этом на лекции, а записей нет.
    В истории экспериментальной психологии вообще довольно много всяких баек такого рода. Одна из самых известных -- это Хотторнский эксперимент, в котором искали идеальные условия труда в цеху, но всё что выяснили, что валидность измерений оказалась нулевой. Что сам факт участия в эксперименте повышал производительность труда, даже когда снижали освещённость, и вообще делали условия труда менее способствующими производительности.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    Легко видеть, что при росте потенциальных выигрышей и одновременном падении рисков найдется такой момент, когда вкладываться выгодней в попытки добиться результатов при уже имеющейся карте, нежели в уточнение этой карты*.

    (*) Обратите, кстати, внимание - само по себе это вполне правильно! Оно начинает вызывать некий внутренний протест только в социальном контексте, не так ли? При учёте общих рисков, а не только своих.
    Как вы сами заметили, "само по себе это вполне правильно". И, по-моему, это вообще достаточно важный для рационалиста навык - умение понимать, когда дополнительное уточнение карты уже перестаёт приносить выгоду.

    Насколько я понимаю, вы пишете о случае, когда за уточнение карты человек платит своими ресурсами, а риски при этом перекладывает на других. Но здесь возникает вопрос: насколько долго такая ситуация сможет продолжаться? Если действительно всем будет очевидно, что так делать можно, то общество начнёт массово терять ресурсы (и будет их терять тем сильнее, чем большему количеству людей будет очевидно, что так делать можно). Но, поскольку общество состоит из людей, то ресурсы в итоге будут терять конкретные люди, и, как я полагаю, они будут уже хотеть что-то с этим сделать. Даже в ваших примерах про неосторожных водителей и химиков-технологов плата за неосторожность достаточно велика (в большинстве случаев причинение смерти по неосторожности - это тюремное заключение всё-таки). И кроме того, общество уже изо всех сил старается минимизировать вероятность причинения этой самой смерти по неосторожности. Например, если водитель не нарушает скоростной режим, вероятность смерти для пешехода не слишком высока, и общество изо всех сил навязывает тот самый скоростной режим.

    Я всё это пишу к тому, что всё-таки есть пределы того, насколько риски можно переносить на других, и далеко не очевидно, что эти пределы будут расширяться, а не сужаться.

    Цитировать
    Никто ж не спорит с возможностью. Но рациональность стратегии - это не вопрос возможности, это вопрос вероятностей. Человек может повысить свой выигрыш так, как Вы описали, а может повысить его и не делая ничего такого, и еще может попеределывать всё что Вы описали - и обнаружить, что это ему так и не помогло, что он впустую потратил на это последние годы своей молодости. Какова вероятность того и другого, какая больше? Как меняются это соотношение со временем?
    И как мы можем искать ответы на эти вопросы?
    Я на данный момент не вижу, каким образом освоение рациональных навыков в том виде, в каком я их понимаю (а я под этим понимаю что-то вроде описанного в списке рациональных навыков от CFAR или что-то вроде того, что описывает Джулия Галеф), может привести к тому, что человек обнаружит, что "он впустую потратил на это последние годы своей молодости". Да, я не могу показать картину впечатляющих успехов рационалистов, однако же, картины впечатляющих провалов (под провалом я понимаю осознание человека: "Ах, зачем я тратил время на эту рациональность") мне тоже неизвестны. Возможно, конечно, это тоже вызвано малым временем существования сообщества.

    Вообще, с моей точки зрения, если какая-то стратегия оптимального поведения существует и её принципиально возможно найти, обладая человеческими ресурсами, то "рационалист" её найдёт с большей вероятностью, чем "не-рационалист". Тут, безусловно, есть проблема, что стратегия, выгодная одному индивидууму, может оказаться вредна для всего общества, и мы попадём в ловушку Молоха. Эта проблема, теоретически, может решаться увеличением дальности планирования. Есть, конечно, вероятность, что стратегию оптимального поведения найти невозможно в принципе, но в этом случае мне тоже кажется маловероятным, что именно изучение рациональных навыков всё существенно портит :)

    Цитировать
    Предвижу очень серьезные проблемы с анализом этой статистики. Как предлагается обеспечить чистый контроль, плацебо-контроль и двустороннюю слепоту этих исследований?
    Двойное слепое плацебо-контролируемое исследование по данному вопросу, естественно, практически невозможно. Однако же, если мы отправляем в мусор всё, что не является свидетельством такого уровня, то у нас очень большие проблемы - по огромному количеству вопросов таких свидетельств не получить.
    Я вопрос задам: В Калифорнии есть тренинги по рациональности, стоимость которых 4 тысячи долларов за 4 дня (впрочем, в эту цену входит ещё какое-то количество консультаций после). Какими свидетельствами должен обладать средний представитель американского среднего класса, пошедший на этот тренинг, чтобы вы посчитали его поведение разумным? Т.е. будете ли вы считать его поведение неразумным, если у него нет свидетельств уровня двойного слепого плацебо-контролируемого исследования? (Предположим, что мы отметаем мотивации вроде: он готов потратить 4 тысячи долларов, чтобы пойти просто развлечься.) Если вы считаете, что какие-то дополнительные условия могут делать его поведение разумным, несмотря на недостаточные, с вашей точки зрения, свидетельства, набросайте, пожалуйста, сколько-нибудь примеров.
    (Кстати, ответы других людей на этот вопрос мне тоже интересны.)

    Цитировать
    (Очевидно, что сама методика LW привлекает людей с повышенным интеллектом. Упор на успешность привлекает амбициозно-энергичных людей.)
    Вскользь замечу, что в первую очередь методика LW привлекает большое количество "гиков", что, с интеллектом, возможно, коррелирует, а вот с амбициозно-успешностью, обычно, всё-таки нет :)

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    Как вы сами заметили, "само по себе это вполне правильно". И, по-моему, это вообще достаточно важный для рационалиста навык - умение понимать, когда дополнительное уточнение карты уже перестаёт приносить выгоду.
    Вот. Вот это я в первую очередь хотел напомнить, потому что выше в дискуссии оно как-то выпало.
    И во вторую очередь:

    Насколько я понимаю, вы пишете о случае, когда за уточнение карты человек платит своими ресурсами, а риски при этом перекладывает на других.
    Наоборот - плату и риски кладет на других, а результатами пользуется сам.

    Но здесь возникает вопрос: насколько долго такая ситуация сможет продолжаться? Если действительно всем будет очевидно, что так делать можно, то общество начнёт массово терять ресурсы (и будет их терять тем сильнее, чем большему количеству людей будет очевидно, что так делать можно). Но, поскольку общество состоит из людей, то ресурсы в итоге будут терять конкретные люди, и, как я полагаю, они будут уже хотеть что-то с этим сделать. Даже в ваших примерах про неосторожных водителей и химиков-технологов плата за неосторожность достаточно велика (в большинстве случаев причинение смерти по неосторожности - это тюремное заключение всё-таки). И кроме того, общество уже изо всех сил старается минимизировать вероятность причинения этой самой смерти по неосторожности. Например, если водитель не нарушает скоростной режим, вероятность смерти для пешехода не слишком высока, и общество изо всех сил навязывает тот самый скоростной режим.

    Тут есть три момента:

    1. Какой бы очевидной ни была ситуация и какими бы рациональными ни были индивиды - воронка Трагедии общин никуда от этого не девается. Хуже того, она из-за этой ясности и рациональности становится только неизбежней, именно потому что все ясно понимают свои выгоды. Вывести из Трагедии общин способна только альтруистическая _мотивация_ у значимого количества игроков. Еще раз подчеркну: это не вопрос рациональности, это вопрос мотивации, базового целеполагания, терминальных ценностей.

    2. На деле человечество не действует, как уже полвека выяснено, ни как множество рациональных игроков, ни как множество игроков, ясно понимающих ситуацию. Даже среди интеллектуалов стоит ожидать более-менее ясного понимания того или иного _аспекта_ окружающей реальности, в зависимости от области интересов индивида. От большинства населения стоит ожидать ясного понимания только тех явлений, по которым у данного конкретного индивида есть постоянная сильная обратная связь (грубо говоря: индивид правильно понимает динамику перемещения ложки от тарелки ко рту, потому что стоит ему допустить в этом действии ошибку - и последствия получаются быстрыми и неприятными; вне областей такого рода большинство населения "понимает" что-либо только по принципу сломанных часов, которые могут при некоторых условиях показать правильное время). При этом дело не в недостатке интеллекта (т.е. интеллектуальных возможностей для осознания), а в недостатке мотивации же, _желания_ понимать. В частности именно поэтому я выше настаивал на том, чтобы помнить про пределы полезности уточнения карты. Смотрите: что _дает_ обычному человеку понимание того, что мы сейчас обсуждаем? Что изменится к лучшему в его жизни, если он начнет это понимать? Да ничего. Что-то дать это понимание может только человеку, который: вариант а) просто любит улучшать карту, имеет такую терминальную ценность; или, вариант б) способен вложить в исправление ситуации такую крупную долю общих ресурсов, что ему от улучшения ситуации в общем котле вернется больше, чем он вложил, даже если больше туда никто ничего для решения проблемы не вложит. Остальным понимание таких проблем только увеличит стресс, испортит жизнь опасениями. Рациональное поведение при этом заключается в том, чтобы _не признавать_ проблему (которую всё равно не может разрешить), жить в своё удовольствие в иллюзиях.

    3. И еще раз возвращаюсь к динамике. Вот почему я с нее начинал? Потому что без этого никак. Как только мы от нее, динамики, отошли - так приходится возвращать. Смотрите - Вы говорите сейчас о всяческих правилах техники безопасности, в широчайшем смысле (т.е. от собственно ПТБ в прямом смысле - и до правовых норм, которые есть просто техника безопасности для социального взаимодействия). Вопрос: когда и кем они были созданы? Ответ: в основе своей - давно, людьми совсем другой эпохи, другого склада, воспитанными в совсем другой ситуации - во времена, когда люди всё еще платили за свои ошибки главным образом самостоятельно и страшно, потому что еще не было ресурсов, чтобы всех подстраховывать. А как _меняется_ ситуация? Какие _изменения_ претерпевают _сейчас_ правовые системы? Кто и каким образом меняет сейчас законодательство? Какие изменения вносятся в технологические правила безопасности? То, что вижу я - вызывает оторопь и лёгкое омерзение. Может быть я предвзят, может моё восприятие искажено моей асоциальностью и крушением личных надежд, я допускаю и такое. Но всё-таки не думаю. На мой взгляд, и в социальных взаимодействиях, и в технологических - нормы уже несколько десятилетий как ухудшаются всё возрастающим темпом. И эти наблюдения согласуются с теми умозрительными вроде бы рассуждениями, которые я выше привёл. Инерция мышления некоторое время держала социумы в пристойном состоянии, но сейчас началось активное и ускоряющееся разложение, причём в социумах всех типов господствующих идеологий (т.е. это не какое-то там бредовое "гниение капитализма" или, наоборот, "коммунистическая гниль" - нет, это просто разложение популяции в технологической цивилизации).

    Я всё это пишу к тому, что всё-таки есть пределы того, насколько риски можно переносить на других, и далеко не очевидно, что эти пределы будут расширяться, а не сужаться.
    Это, конечно, не очевидно. Если бы это было очевидно - я бы об этом читал, а не писал. :)

    Сужение же, на мой взгляд, может произойти двумя путями:
    1. Коллапс. Дойдя до некоторой критической точки, технологическая цивилизация просто начинает разрушаться и человечество возвращается - очевидно, навсегда - в раннеиндустриальную эпоху (ограничиваемую по энергетике - темпом роста лесов, по черной металлургии - темпом накопления болотных руд, по численности - уцелевшей пахотной площадью при отсутствии минеральных удобрений). Это совершенно естественное решение парадокса Ферми, поэтому мне этот исход кажется наиболее вероятным.
    2. Централизация контроля. Прежде чем процесс разложения и разрушения становится необратитмым - кто-то или что-то берет большую часть ресурсов под единоличный контроль и прекращает этот разврат насильно. Наилучший вариант - дружественный (и довольно агрессивный) ИИ. Ну да, это фантастика. Но варианты с захватом власти толковым человеком... это уже даже не фантастика, это фэнтези. Ну т.е. я допускаю некую ничтожную вероятность того, что, например, в генералитете США сохранится достаточно компетентных и ответственных людей, чтобы такую попытку предпринять, но у них же традиции требуют противоположного...

    И как мы можем искать ответы на эти вопросы?
    Мы?  :)
    Я не знаю как вы можете это делать. Я не думаю, что существует социальная группа, которая может эту задачу удовлетворительно решить. Единственная моя надежда - на тот же дружественный ИИ, да и то это надежда не столько в отношении когнитивного решения, сколько... эммм... дисциплинарного. Т.е. мне кажется, что даже сильный ИИ не сможет научить людей справляться с когнитивными искажениями - он сможет только растить новых людей, менее склонных к когнитивным искажениям. Обычное дело с нейронными сетями.

    Я на данный момент не вижу, каким образом освоение рациональных навыков в том виде, в каком я их понимаю (а я под этим понимаю что-то вроде описанного в списке рациональных навыков от CFAR или что-то вроде того, что описывает Джулия Галеф), может привести к тому, что человек обнаружит, что "он впустую потратил на это последние годы своей молодости". Да, я не могу показать картину впечатляющих успехов рационалистов, однако же, картины впечатляющих провалов (под провалом я понимаю осознание человека: "Ах, зачем я тратил время на эту рациональность") мне тоже неизвестны. Возможно, конечно, это тоже вызвано малым временем существования сообщества.
    Я ожидаю, что _очень_ малая доля людей даже среди рационалистов будет способна признать бесплодность какой-либо своей увлеченной деятельности.
    Юдковски, мне кажется, способен. Без гарантий, но он определенно небезнадежен. :)
    Из остальных... ну, может 1-2%. И это, конечно, займет у подавляющего большинства очень много времени.

    Это, правда, в моих глазах нисколько не обесценивает всю эту деятельность, поскольку для меня она самоценна - мне _интересно_ разбираться в глюках и исправлять их, это моя страсть, и соответственно, занятие этим - рационально для меня просто как прямое приобретение терминальной ценности, даже если никаких _иных_ результатов это не даст. Мы все умрём, ня, но так хоть умрём с достоинством, насколько это возможно.

    Вообще, с моей точки зрения, если какая-то стратегия оптимального поведения существует и её принципиально возможно найти, обладая человеческими ресурсами, то "рационалист" её найдёт с большей вероятностью, чем "не-рационалист". Тут, безусловно, есть проблема, что стратегия, выгодная одному индивидууму, может оказаться вредна для всего общества, и мы попадём в ловушку Молоха. Эта проблема, теоретически, может решаться увеличением дальности планирования.
    Захватом/передачей контроля она решается без всякого увеличения дальности планирования, а увеличением дальности планирования без снижения числа игроков до минимума - не решается вообще. Просто по математике.

    Однако же, если мы отправляем в мусор всё, что не является свидетельством такого уровня, то у нас очень большие проблемы - по огромному количеству вопросов таких свидетельств не получить.
    Ну, возможна ещё ситуация, когда успехи и их причины настолько мощны и очевидны, что в двойном слепом надобности нет.
    Скажем, никто же (из тех, кто в здравом уме) не ставит под сомнение, что научный метод принёс человечеству колоссальное могущество, хотя никакого слепого контроля не было.
    Аналогично, вполне возможно что начиная с какого-то этапа LW-сообщество начнет демонстрировать такие явные успехи, что отрицать эффективность его методик будет невозможно.
    Ну, чтобы зафиксировать условия для пари: например, мне хватит, если доля лауреатов нобелевских премий среди LWшников вдвое превысит долю LWшников среди докторов наук и публичных деятелей, при условии достаточной мощности статистики (т.е. число нобелевских премий среди LWшников должно дойти до, я бы сказал, 7).

    Я вопрос задам: В Калифорнии есть тренинги по рациональности, стоимость которых 4 тысячи долларов за 4 дня (впрочем, в эту цену входит ещё какое-то количество консультаций после). Какими свидетельствами должен обладать средний представитель американского среднего класса, пошедший на этот тренинг, чтобы вы посчитали его поведение разумным? Т.е. будете ли вы считать его поведение неразумным, если у него нет свидетельств уровня двойного слепого плацебо-контролируемого исследования? (Предположим, что мы отметаем мотивации вроде: он готов потратить 4 тысячи долларов, чтобы пойти просто развлечься.) Если вы считаете, что какие-то дополнительные условия могут делать его поведение разумным, несмотря на недостаточные, с вашей точки зрения, свидетельства, набросайте, пожалуйста, сколько-нибудь примеров.
    Простите, понятия не имею. Мне очень плохо знаком американский средний класс, я едва-едва знаю что предлагают эти тренинги, а всеобщая мода на вот это безлично-универсальное повышение успешности мне вообще кажется типичным гало-эффектом.

    Вскользь замечу, что в первую очередь методика LW привлекает большое количество "гиков", что, с интеллектом, возможно, коррелирует, а вот с амбициозно-успешностью, обычно, всё-таки нет :)
    Совершенно верно - именно поэтому я и разделил утверждения в цитированном Вами фрагменте на две части именно таким образом, что пары "интеллект - LW" и "успешность - амбициозность-энергичность" остались _разделены_. Упомянутые Вами курсы - это объединение этих множеств, но сами факторы друг от друга скорее независимы, именно так.

    Alaric

    • Старожил
    • *****
    • Сообщений: 1 744
    • +175/-17
      • Просмотр профиля
      • Мой ЖЖ
    sergeyr
    Цитировать
    Мы?  :)
    Я не знаю как вы можете это делать.
    Понимаете, последнее время я пытаюсь быть прагматиком, и, в общем-то, раз этот форум посвящён именно LW, периодически призываю остальных к тому же самому. С моей точки зрения, мы либо можем как-то выяснить, помогает ли в жизни рациональность (с какой-то разумной вероятностью), либо не можем. Если не можем, то эта дискуссия бессмысленна, и я тогда из неё выйду. С моей точки зрения, оптимизм или пессимизм имеют смысл, если они подталкивают к каким-нибудь действиям: рациональность осваивать, бункер копать, или наоборот отрываться на всю катушку, если пессимизм вызван уверенностью, что бункер уже не поможет :)

    Мне, конечно, периодически пишут, мол, осваивать рациональность круто как самоцель, но я сам так не умею, и, как по мне, те, кто так считает, прекрасно справятся и без меня.

    Цитировать
    если доля лауреатов нобелевских премий среди LWшников вдвое превысит долю LWшников среди докторов наук и публичных деятелей, при условии достаточной мощности статистики (т.е. число нобелевских премий среди LWшников должно дойти до, я бы сказал, 7).
    Простите, я совершенно не понял сформулированное условие и подозреваю, что в нём какие-то опечатки. Нельзя ли расписать подробнее?

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    sergeyrПонимаете, последнее время я пытаюсь быть прагматиком, и, в общем-то, раз этот форум посвящён именно LW, периодически призываю остальных к тому же самому. С моей точки зрения, мы либо можем как-то выяснить, помогает ли в жизни рациональность (с какой-то разумной вероятностью), либо не можем.
    Тут у меня снова некоторое замечание. Я писал не о рациональности вообще, а о методиках LW.
    Потому что рациональность-то свою полезность доказала очень убедительно - без нее не произошли бы ни НТР, ни даже Промышленная революция, благодаря которым сейчас сотни миллионов людей живут натурально в Золотом Веке, в непредставимом по допромышленным временам комфорте.
    Но вот те методы _дальнейшего_ развития рациональности мышления и деятельности, которые ведет сообщество LW - на их счет у меня никакой уверенности нет. Я не знаю. Это не нерешительность - я просто ясно вижу, твердо осознаю и открыто признаю, что не могу построить сколько-нибудь уверенный прогноз. Я не знаю, вышла ли эта ветвь рациональности на логистическую полку (для человеческого интеллекта) или еще не вышла и там возможно крупное продвижение. Я не вижу пока способа это _быстро_ проверить. Полагаю, я проживу достаточно долго, чтобы положительный ответ (если он будет положительным) мог ясно проявиться просто "силой вещей", но не знаю как этот ответ получить быстрее, прямым экспериментом с небольшой выборкой. Очень уж зашумленные данные.

    С моей точки зрения, оптимизм или пессимизм имеют смысл, если они подталкивают к каким-нибудь действиям: рациональность осваивать, бункер копать, или наоборот отрываться на всю катушку, если пессимизм вызван уверенностью, что бункер уже не поможет :)

    Снова уточню два момента:

    Во-первых, если Вы про меня, то я, судя по всему, вообще почти клинически _не_ склонен к оптимистическим или пессимистическим реакциям - у меня обе эти реакции почти не проявляются (из двух десятков ситуаций, в которых нормальный человек в половине случаев проявляет либо оптимистическую защитную реакцию, либо пессимистическую - я проявляю что-то подобное в 1-2 случаях, да и то психолог оказался не уверен в том, что это защитная реакция, а не отстраненная оценка реальности). Это, кстати, по мнению психологов дезадаптация - человеческая нервная система не приспособлена работать при нарушении этих защитных механизмов и я вынужден в итоге реагировать слишком отстраненно, безучастно. Я не знаю так ли это. Звучит странно, честно говоря, хотя практикой скорее подтверждается.

    Во-вторых, оптимизм и песимизм не есть проявления личной воли, поэтому говорить о том, что они имеют смысл или не имеют смысла - настолько же осмысленно, как говорить о том, имеет ли смысл влюбленность, или коллекционирование, или, напротив, нелюбовь к моркови. Это не то, что можно просто _выбрать_, сформировать своей волей. В определенной степени оптимизм или пессимизм можно волевым усилием несколько расшатать или, напротив, укрепить, но это происходит очень тяжело, медленно и скорее всё же под внешними воздействиями. Это инструменты в эволюционно-нейропсихологическом смысле, но, поскольку они глубоко вшиваются в рефлексы, то выступают как терминальные ценности, а не как сознательно-волевые инструменты.

    Суммируя - нет смысла обсуждать насколько имеет смысл в этой дискуссии оптимизм или пессимизм. Потому что, во-первых, тут скорее всего и нет проявлений какого-то особого пессимизма или оптимизма, и, во-вторых, оптимизм и пессимизм - это вообще не то, что может иметь или не иметь смысла для какого-либо отдельного индивида.

    Можно разве что говорить о том, что в такой-то ситуации возникает конфликт между каким-то из этих механизмов - и какими-то другими терминальными ценностями.

    Простите, я совершенно не понял сформулированное условие и подозреваю, что в нём какие-то опечатки. Нельзя ли расписать подробнее?

    Я решу, что LW-сообщество наработало прагматически-полезные, продуктивные методики, если и когда его представители получат достаточно большое признание со стороны наиболее доказанно-продуктивного современного рационального сообщества, т.е. сообщества научного.

    Поскольку у меня нет возможности оценить такое признание непосредственно, изнутри, то я ставлю на достаточно общепринятый индикатор - Нобелевские премии. Это не идеальный, но общепризнанный в научном сообществе и достаточно всеохватывающий в рамках его (научного сообщества) областей деятельности показатель заслуг.

    Я формально фиксирую для определенности, что этот индикатор покажет достаточно благоприятный для LW-сообщества результат, если и когда будет соблюдаться следующая пара условий:

    1. Простое число Нобелевских премий, полученных членами LW-сообщества, достигнет 7 штук. Это нужно просто для того, чтобы отстроиться от зашумленности данных, с достаточной уверенностью исключить влияние случая. (Я выбрал это число навскидку, без точного анализа степени зашумленности, поскольку точный анализ тут невозможен. Нас еще со школы учили, что в подобных ситуациях 6-7 точек обычно достаточно для формулирования достаточно надежного вывода, и всё мой образование и профессиональный опыт это подтверждали.)

    2. За время получения этого числа Нобелевских премий члены LW-сообщества выставят из своей среды вдвое больший процент Нобелевских лауреатов, чем за это же время выставят из своей среды всё остальное население. Еще раз подчеркну: здесь речь не об абсолютном числе премий, а об относительном, деленном на размер базы. И, конечно, если _первые_ 7 Нобелевских премий, полученных представителями LW-сообщества, будут получены со слишком большим разрывом, и доля представителей LW-сообщества среди Нобелевских лауреатов окажется за этот период недостаточной, то наблюдения нужно будет просто продолжать, сдвигая рамку на диапазон времени, в течение которого представителями LW-сообщества были получены последние 7 Нобелевских премий. Как только в этом диапазоне процент Нобелевских лауреатов, выставленных представителями LW-сообщества, окажется вдвое выше процента Нобелевских лауреатов, выставленных представителями остальной научной и общественной элиты - я признаю, что LW-сообщество наработало прагматически-действенные методики.

    Ну и, конечно, "рамку считывания" нельзя сдвигать бесконечно, поскольку рано или поздно случится ничего не значащая серия совпадений, но от этой "дурной бесконечности" мы достаточно защищены собственной смертностью. :)

    P.S. Любопытно кто и за что Вам накидал минусов за последний ответ в этой ветке. Моей степени несогласия на кидание минусами не хватило!

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    Я решу, что LW-сообщество наработало прагматически-полезные, продуктивные методики, если и когда его представители получат достаточно большое признание со стороны наиболее доказанно-продуктивного современного рационального сообщества, т.е. сообщества научного.

    Вы предполагаете, что данные о формальных успехах могут коррелироваться с одеянием LW? Считаете, статистика  учтет возможность того, что кто нибудь из судей(учредителей) может из принципа не присуждать премию LW-ученым? Или, например, учтет ученых, которые формально не состоят в сообществе, но все равно очень даже "отрационалены" дружественными им особами из LW-соо. 

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    Вы предполагаете, что данные о формальных успехах могут коррелироваться с одеянием LW? Считаете, статистика  учтет возможность того, что кто нибудь из судей(учредителей) может из принципа не присуждать премию LW-ученым? Или, например, учтет ученых, которые формально не состоят в сообществе, но все равно очень даже "отрационалены" дружественными им особами из LW-соо.
    Это часть той зашумленности данных, о которой я выше и писал.
    Именно для отстраивания от таких случайных эффектов и нужно набирать больший массив данных. В частности, если бы я _не_ учитывал субъективный фактор и неточность отнесения к LW-сообществу, то навскидку сказал бы, что рамки под 5 премий может быть уже достаточно для более-менее уверенного суждения.

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    sergeyr, тогда по другому, а почему только статистика о нобелевских лауреатах внушит доверие? Вероятно, этот вопрос все же риторика,  ведь основания вы пояснили выше,  но слишком витиевато, чтобы я могла сложено спросить,  но не вербализированный вопрос остался.


    Добавлено [time]23 Март 2017, 16:23[/time]:
    Какими свидетельствами должен обладать средний представитель американского среднего класса, пошедший на этот тренинг, чтобы вы посчитали его поведение разумным?

    (Предположим, что мы отметаем мотивации вроде: он готов потратить 4 тысячи долларов, чтобы пойти просто развлечься.)

    (Кстати, ответы других людей на этот вопрос мне тоже интересны.)

     Кстати, это самая видимая движимая сила потратить сколько нибудь денег.

     Насколько мне известно, на данный момент динамика рынка товаров в принципе такова— если твой продукт дает опыт и эмоцию, то он покупаем. Инструментальная рациональность вполне самодостаточный продукт, чтобы рассматривать ее как товар. Любая вещь(одежда, мебель, печатная продукция и т.п.) которая не несет смысловой нагрузки никому не будет интересной. Причем, чем более формален по сути, но более концептуален по составу, тем более покупаемым будет продукт .
      "У нас есть формальный рецепт, вы за четыре дня получите супер-навыки и бонусом обнимашечки"— дайте два.

    Иными словами, если рассматривать исключительно мотивы тратить некую сумму(причем 4000$ в контексте приемлемая цена), то получение новых переживаний самый главный движущий фактор.

    Относительно оплаты как таковой, у всего должна быть цена. То что получаешь даром, не оценено сознанием. Не оцененно- значит не стоящее внимания, значит в любой момент можно выбросить и забыть. Ради чего тогда четыре дня оптимизировать чужое мыслеобразование, составлять программу обучения, выверять мета-цель необходимости такой работы?

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    sergeyr, тогда по другому, а почему только статистика о нобелевских лауреатах внушит доверие?
    Не _только_. Можно придумать и другие индикаторы. Но я не могу придумать _более удобный_ индикатор.
    (Более удобный не только в смысле простоты сбора первичных данных, но и по убедительности самого показателя. Считать Нобелевки неидеально, но в целом удовлетворительно. Всё прочее, что я могу придумать, получается от идеала еще дальше, хотя если вдруг Нобелевский комитет прекратит свою деятельность, то можно будет подобрать и иные удоволетворительные индикаторы.)

    Вероятно, этот вопрос все же риторика,  ведь основания вы пояснили выше,  но слишком витиевато, чтобы я могла сложено спросить,  но не вербализированный вопрос остался.
    Простите, не уверен что понял заключительную часть этой фразы.
    Слова Ваши я расшифровываю так: витиеватость моего ответа мешает Вам сформулировать (высказать, вербализовать) уточняющий вопрос.
    Но смысла всё равно не понимаю.
    (По характерным ошибкам предполагаю, что Ваш родной и рабочий язык - украинский, и Вам сложно понимать и формулировать вопрос на значительно хуже знакомом Вам русском. В этом случае Вы можете задать мне уточняющий вопрос в личке на украинском - я им владею свободно.)

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    если вдруг Нобелевский комитет прекратит свою деятельность, то можно будет подобрать и иные удоволетворительные индикаторы.)
    Тогда меня интересуют примеры.
    (Мне мешает не язык, а то что я "думаю смыслами", а не рассуждаю словами :) )

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    Тогда меня интересуют примеры.
    (Мне мешает не язык, а то что я "думаю смыслами", а не рассуждаю словами :) )
    Я тоже думаю не словами - я визуал, мышление у меня сопровождается визуальными образами, и я мысленно проговариваю свои выводы только чтобы делиться этими выводами с другими людьми.

    Примеры Вы имеете в виду - годных индикаторов для оценки результативности представителей LW-сообщества?
    Ну, для работающих в академической науке можно пробовать g-индекс, для работающих в бизнесе - прирост личного капитала по оценкам известных источников.

    iren_doroshenko

    • Постоялец
    • ***
    • Сообщений: 235
    • +24/-67
      • Просмотр профиля
    Ну, для работающих в академической науке можно пробовать g-индекс, для работающих в бизнесе - прирост личного капитала по оценкам известных источников.
    Примерами Вы убедили меня во мнении, что ваша критика не предполагает конструктив. Выше писали, что сомневаетесь в методиках LW.  Можете предположить, или предложить возможные,  улучшения?

    sergeyr

    • Постоялец
    • ***
    • Сообщений: 100
    • +38/-21
      • Просмотр профиля
    Примерами Вы убедили меня во мнении, что ваша критика не предполагает конструктив.
    Прочитав этот комментарий, я остался в глубоком недоумении о возможном ходе Вашей мысли.
    На мой взгляд, между этими примерами и вопросом конструктивности моей критики связи нет ровно никакой.

    Выше писали, что сомневаетесь в методиках LW.  Можете предположить, или предложить возможные,  улучшения?
    Нет, боюсь что я не способен предложить для широкой публики других что-либо дельное в этом вопросе. То, что мне, возможно, удалось нащупать (для себя), явно работает только для определенного типа мышления и темперамента, и делюсь я этим с большой осторожностью, по множеству разных причин.

    fil0sof

    • Главный модератор
    • Ветеран
    • *****
    • Сообщений: 969
    • +55/-3
      • Просмотр профиля
      • VK profile
    Я решил всё-таки отделить обсуждение рациональности как культурного феномена в отдельную тему