Вы здесь

Искажения: введение

Роб Бенсинджер

Это не тайна. Но почему-то это редко всплывает в разговорах и очень немногие спрашивают, что же нам с этим делать. Это шаблон, спрятанный за всеми нашими победами и поражениями, невидимый нашему глазу. Что же это?

Представьте себе урну с 70 белыми и 30 красными шарами; вы вытаскиваете 10 наугад. Возможно, 3 из них будут красными, и вы верно угадаете, сколько всего красных шаров в урне. Или, возможно, у вас будет 4 красных шара, а может быть, другое число. И тогда вы получите неверное общее число.

Эта случайная ошибка — цена за неполное знание, и это в целом неплохо, как и любая ошибка. В среднем наши оценки будут верны, и чем больше мы узнаём — тем меньше мы делаем ошибок.

Но предположим, что белые шары тяжелее и опускаются на дно урны. Тогда ваша выборка может быть нерепрезентативной постоянно.

Такие ошибки называются систематическими. Когда ваш метод познания мира искажён, изучение мира может вводить вас в заблуждение. Накопленные данные могут даже искажать предсказания. Для человека, привыкшего высоко ценить знания и способы их получения, это пугающая перспектива. Если мы хотим быть уверены, что познание помогает, а не делает всё только хуже, нужно узнавать об искажениях в наших данных и исправлять их.

Идея когнитивного искажения в психологии работает похожим образом. Когнитивное искажение — систематическая ошибка нашего мышления (в противоположность случайной ошибке, вызванной простым невежеством). Статистическая погрешность искажает выборку так, что она менее точно отражает положение дел. Когнитивные искажения же портят не выборку, а наши убеждения, и убеждения менее точно отражают факты; такие искажения вмешиваются в процесс принятия решений, и мы достигаем наших целей с меньшей надёжностью.

Возможно, вы оптимист, а красные шары можно использовать как лекарство от редкой тропической болезни, которую подхватил ваш брат. Тогда вы переоцените количество красных шаров в урне, потому что вам хочется, чтобы их было больше. И здесь искажена не выборка, а вы сами.

Тем не менее нужно быть осторожным, говоря про искажения в людях. Обычно мы имеем в виду, что люди нечестны или предвзяты. Но когнитивные искажения — это совершенно другое. Они — неотъемлемая часть человеческого мышления, а не дефект, который можно списать на воспитание или гнилой характер1.

Когнитивное искажение — это проторенная дорожка для ваших внутренних шаблонов мысли, по которой нельзя прийти к истине (или другой потенциально достижимой цели — например, счастью). Как и статистические погрешности, когнитивные искажения могут искривлять наше видение реальности, в большинстве случаев их нельзя исправить, просто собрав побольше данных, и их эффекты со временем суммируются. Но когда неточный инструмент, который нужно откалибровать, это вы сами — избавиться от искажений будет уникальным вызовом.

И тут возникает вполне очевидный вопрос. Если нельзя доверять своему мозгу, то как вообще чему-то можно доверять?

Хорошо бы иметь конкретное название для преодоления когнитивных искажений и вообще ошибок, которыми наши сознания могут себе навредить.

Мы могли бы назвать этот проект как угодно. Я считаю, что на данный момент название «рациональность» прекрасно подходит.

Рациональные чувства

Голливуд считает, что быть «рациональным» — значит суровым и гиперинтеллектуальным. Вспомните Спока из «Звёздного пути» — он «рационально» подавляет эмоции, «рационально» отказывается полагаться на интуицию, но его может легко сбить с толку «иррациональный» оппонент2.

Есть и другое определение «рациональности», которое используют математики, психологи и социологи. Грубо говоря, идея в том, чтобы действовать наилучшим возможным образом. Рациональный человек, даже если он не знаком с темой, формирует максимально близкие к реальности убеждения на основе имеющихся у него свидетельств. Неважно, насколько плохо идут дела у рационального человека — он делает наилучший возможный выбор и таким образом повышает свои шансы на успех.

Реальная рациональность состоит не в том, чтобы игнорировать интуицию и эмоции. Для рационального человека быть рациональным зачастую означает лучше осознать свои чувства и учитывать их при принятии решений.

Рациональность — это и знание о том, когда не нужно слишком долго размышлять. В экспериментах, где нужно было выбрать постер на стену или предсказать исход баскетбольного матча, испытуемые показывали худший результат, если старательно обдумывали своё решение. 3, 4 Есть задачи, решать которые лучше вдумчиво, и есть другие задачи, где лучше принять решение быстро. Психологи, работающие над теорией двух процессов, выделяют процесс «Система 1» (быстрое, неявное, ассоциативное, автоматическое суждение) и процесс «Система 2» (медленное, явное, интеллектуальное, подконтрольное суждение)5. Стереотипный рационалист целиком полагается на Систему 2, игнорируя чувства и импульсы. Если посмотреть не на стереотип, а на того, кто действительно рационален, кто достигает своих целей, кто действительно смягчает урон от когнитивных искажений, можно обнаружить, что он сильно полагается на привычки и интуицию Системы 1, в ситуациях, где на них можно положиться.

К сожалению, Система 1 является плохим помощником, когда надо определить «стоит ли сейчас доверять Системе 1?». Наша нетренированная интуиция не подскажет нам когда мы должны перестать полагаться на нее. Предвзятость и непредвзятость ощущаются одинаково6. С другой стороны, поведенческий экономист Дэн Ариели отмечает: мы предсказуемо иррациональны. Мы запарываемся одними и теми же способами, снова и снова, систематически.

Если мы не можем использовать инстинкт, чтобы понять, когда поддаемся когнитивному искажению, то можно использовать науки о разуме.

Многоликие Ошибки

В процессе эволюции наши мозги для решения задач научились применять когнитивные эвристики — грубые методы, которые позволяют получить ответ быстро. В большинстве случаев этот ответ оказывается правильным, но иногда — нет. Когнитивные искажения возникают в тех случаях, когда эти эвристики достаточно последовательно порождают ярко-выраженные ошибки.

Эвристика репрезентативности, например, является нашей склонностью оценивать феномен, основываясь на том, насколько он характерен по отношению к разным категориям. Это может вести к таким ошибкам, как конъюнктивное заблуждение. Тверский и Канеман обнаружили, что субъекты эксперимента считали менее вероятным, что сильный игрок в теннис «проиграет в первом сете», чем «проиграет в первом сете, но выиграет матч»7. То, что сильный игрок сможет отыграться, кажется более характерным, так что мы переоцениваем вероятность такого сложного-но-так-разумно-звучащего рассказа, по сравнению с вероятностью действительно простого сценария.

Также эвристика репрезентативности может быть частью нечувствительности к априорной вероятности, когда мы основываем наше суждение на том, насколько «нормальна» комбинация атрибутов, пренебрегая тем, насколько распространены атрибуты в популяции в целом8. Стив более вероятно является застенчивым библиотекарем, или застенчивым продавцом? Большинство людей будет думать над этим, анализируя насколько «застенчивость» сочетается с стереотипами этих профессий. Они терпят неудачу в том, чтобы учесть насколько больше продавцов в сравнении с библиотекарями в Соединенных Штатах9.

Среди других примеров искажений есть: игнорирование срока действия (оценка опыта без учета того, как долго он будет переживаться), заблуждение невозвратных затрат (чувство необходимости продолжать заниматься тем, на что уже потрачены силы и время, тогда как следует сжечь мосты и двигаться дальше), и ошибка подтверждения (придавать больше значения подтверждающим наши убеждения свидетельствам)10. Игнорирование вероятности — еще один пример когнитивного искажения. В течение месяцев и лет после атаки 11 сентября, множество людей предпочитали вождение на дальние расстояния полетам. Захват был маловероятен, но теперь чувствовалось, что он был одним из вариантов; всего лишь возможность захвата самолета сильно влияла на решения. Полагаясь на черно-белое мышление (машины и самолеты либо «безопасны» либо «опасны», и точка), люди подвергали себя еще большей опасности. В то время как им следовало взвешивать вероятности умереть в автомобильной аварии против смерти во время перелета через страну — первое гораздо более вероятно; они, вместо этого, полагались на общее чувство беспокойства и тревоги (аффективная эвристика).
Такой же поведенческий шаблон можно наблюдать и у детей, которые, слушая аргументы за и против ремней безопасности, мечутся между мыслями «ремень это хорошо» и «ремень это плохо», вместо взвешивания за и против11. Еще несколько примеров искажений: правило кульминации\завершения (оценка воспоминаний на основе самых интенсивных моментов и того, как они завершились); якорение (принятие решения, основываясь на недавно полученной информации, даже если она не относится к делу)12 и само-якорение (использование самого себя в качестве модели определения вероятных черт, не оценивая внимательно насколько вы атипичны)13; искажение «статус кво» (чрезмерная переоценка пользы нормального и ожидаемого, по сравнению с новым и другим)14.

Знание об искажениях редко может защитить от них. В ходе исследований слепоты по отношению к искажениям, субъекты эксперимента предсказали, что если они будут знать, что оцениваемая картина принадлежит кисти известного художника, им будет сложней нейтрально оценить качества этой картины. И, действительно, субъекты, которым сообщили имя автора картины и попросили оценить ее качество продемонстрировали действие искажения, которого они предсказали, относительно контрольной группы. Когда их опрашивали после, эти же субъекты заявляли, что их оценка картины была объективной и нетронутой искажением — и так во всех группах! 15. По аналогии, Пронин пишет на тему искажения гендерной слепоты:
В одном из исследований, участники оценивали мужские и женские кандидатуры на пост шефа полиции, и потом сравнивали пользу «знания жизни на улице» с «формальным обучением». В результате, участники предпочитали то образование, которое получили мужские кандидаты (т.е. если им было сказано, что он «знает жизнь на улице», то это считали более важным). Участники были слепы по отношению к искажению гендерного восприятия; действительно, чем объективней они себя считали, тем больше признаков искажения демонстрировали16. Даже если мы знаем об искажениях, замечает Пронин, мы остаемся «наивными реалистами», когда речь идет о наших собственных убеждениях. Мы быстро откатываемся на позицию оценки наших убеждений, как свободных от искажений представлений о реальности, такой, какая она на самом деле есть17.

Особенно отвратительна мысль о том, что именно наши убеждения ошибочны. Даже если мы корректно определим ошибки других, для своих у нас есть особое слепое пятно. Как показал опрос, проводившийся в аэропорту среди 76 ожидающих, люди оценивали себя, в среднем, как менее подверженных когнитивным искажениям, чем типичная персона в аэропорту. В частности, люди думали о себе, как о необычайно объективных, когда речь заходила об общественно порицаемых искажениях или искажениях с мало заметными в ближайшем времени последствиями 18. Другое исследование показало, что сильные чувства по отношению к проблеме воспринимались людьми как усиливающие понимание и объективность, если эти чувства испытывали опрашиваемые, если же речь заходила о других, то их, по мнению опрашиваемых, такие чувства делали менее объективными и более предвзятыми. Нам не удается заметить «ошибочно-чувствующиеся мысли», когда мы занимаемся самоанализом, так что мы полагаем себя более объективными, чем все остальные19.

Изучение искажений может сделать вас более уязвимыми для сверхуверенности и ошибки подтверждения, по мере того, как вы будете видеть влияние искажений у окружающих, но не у вас. И слепое пятно, в отличии от остальных искажений, особенно серьезно проявляется среди интеллектуальных, вдумчивых, непредубежденных20, 21.

Это причина для беспокойства.

И все же… Кажется, мы способны на большее. Известно, что мы можем снизить влияние нечувствительности к априорной вероятности, представляя вероятности, как частоты событий. Мы можем минимизировать игнорирование срока действия, уделяя внимание сроку действия и изображая его графически22. Сила проявления различных искажений отличается у разных людей, так что должны существовать способы повлиять на наши заблуждения.

Однако, если мы хотим стать лучше, недостаточно просто создать список когнитивных искажений. Подход к устранению искажений в «Рациональности: от ИИ до Зомби» предполагает системное понимание того, как работает правильное мышление и как мозг отстает от него. Этот подход можно сравнить с описанием Серфаса, который заметил, что «годы работы в финансовом секторе» не влияют на уязвимость к заблуждению невозвратных затрат, тогда как «посещение некоторого количества курсов по бухгалтерскому учету» влияет.

Следовательно, нужно отличать опыт от компетентности, где «компетентность» означает «развитие схематических принципов, включающих концептуальное понимание проблем», и, в свою очередь, позволяет лицу, принимающему решения, распознать конкретное искажение. Однако, использование компетентности в качестве ответной меры требует больше, чем просто быть знакомым с контекстом проблемы или быть экспертом в предметной области. Оно требует полного понимания скрытой подоплеки конкретного искажения, способности заметить его и использовать для его нейтрализации соответствующие инструменты23.

Цель этой книги — заложить фундамент для создания рациональной компетентности. То есть научить глубже понимать структуры очень общих проблем: человеческих ошибок, самообмана, и тысячи способов того, как утонченная мысль может победить сама себя.

Пара слов об этом тексте

«Рациональность: от ИИ до Зомби» родилась в качестве серии эссе Элиезера Юдковского, опубликованных между 2006 и 2009 в экономическом блоге «Overcoming Bias» и его ответвлении, блоге «Less Wrong». Я работал с Юдковским вот уже год в Machine Intelligence Research Institute(MIRI), некоммерческой организации, основанной им в 2000 для исследования теоретических требований к созданию умней-чем-человеческого интеллекта (ИИ).

Читая его посты, я заинтересовался его работой. Он впечатлил меня способностью кратко передать идеи, выработка которых у меня занимала годы изучения аналитической философии. В поиске путей объединения духа науки и скептицизма со строгим и системным подходом к исследованиям, Юдковский старается не только опровергнуть, но и понять ложные шаги и слепые пятна плохой философии (плохой недо-философии). Помогая собрать его эссе в книгу, я надеюсь облегчить погружение в них и понимание их как целого.

Получившийся в результате рациональный букварь полон личных деталей — Юдковский использует свой опыт общения с матерью, ортодоксальной иудейкой (психиатром) и отцом (физиком), разговоров в чате и рассылках. Читатели, знакомые с Юдковским по «Гарри Поттеру и Методам Рационального Мышления», его научно-ориентированной интерпретацией Гарри Поттера Дж. К. Роулинг, узнают элементы непочтительного иконоборчества, и основные концепты.

С точки зрения стилистики, эссе в этой книге представляют гамму от «жизнерадостного учебника» до «сборника вдумчивых виньеток» и «буйного манифеста», контент, соответственно, тоже отличается от эссе к эссе. В книге сотни постов Юдковского из блога собраны в двадцать шесть «цепочек», как бы глав, связанных по смыслу постов. Цепочки же сгруппированы в шесть книг, раскрывающих темы:

Книга 1 - Карта и территория. Что такое убеждение и почему одни убеждения работают лучше других? Эти четыре цепочки объясняют Байесовские понятия рациональности, убеждений и свидетельств. Основная тема: штуки, которые мы называем «объяснениями» и «теориями», не всегда функционируют как карты для навигации по миру. В результате есть риск перепутать наши ментальные карты с другими инструментами.

Книга 2 - Как Действительно Изменить Свое Мнение. Штука, называемая «правдой», похоже полезная. Так почему же мы спешим с выводами, наступаем на те же грабли, повторяя те же ошибки? Почему мы так плохо умеем вырабатывать точные убеждения и как делать это лучше? В этих семи цепочках обсуждаются предвзятые рассуждения и ошибка подтверждения, особый фокус на образцах самообмана, которые трудно заметить, и ловушке «использования аргументов как солдат».

Книга 3 - Машина В Призраке. Почему мы не эволюционировали более рациональными? Даже при условии ограниченных ресурсов, похоже, мы могли бы получать больше эпистемической отдачи от наших свидетельств. Чтобы получить более реалистичную картину того, почему и как наш разум исполняет свои биологические функции, нам нужно залезть под капот и внимательно посмотреть как работает эволюция и наш мозг. Эти три цепочки иллюстрируют, как даже философы и ученые могут заблуждаться, если полагаются на интуитивное, не-техническое понимание эволюционных и психологический идей. Обозначив наши разумы внутри огромной целеполагающей системы, мы можем идентифицировать некоторые основы человеческого рассуждения и понять как эта система может «потерять цель».

Книга 4 - Всего Лишь Реальность. В каком мире мы живем? Каково наше место в нем? Основываясь на примерах работы эволюционных и когнитивных моделей из предыдущих цепочек, в этих шести цепочках мы исследуем природу ума и физического закона. В дополнение к применению и обобщению прошлых уроков о научных тайнах и скупости, эссе этой части поднимают новые вопросы о роли науки в рациональности отдельного индивида.

Книга 5 - Всего Лишь Доброта. Как что-то становится ценным — морально, эстетически или пруденциально? Эти три цепочки задаются вопросами о том, как мы можем оправдать, пересмотреть и принять наши ценности и желания. Цель — понять наши цели, не повредив их достижению. Самая сложная проблема: как понять, когда стоит доверять запутанному, сложному, работающему от случая к случаю импульсивному пониманию «хорошо» и «плохо», а когда заменить его на простые, не ведающие исключений, принципы.

Книга 6 - Становясь Сильней. Как люди и сообщества могут применить все это на практике? Эти три цепочки начинаются с автобиографической истории о самых серьезных философских промахах Юдковского, сочетающейся с советами о том, как другие люди могут избежать подобных. Книга заканчивается рекомендацией по разработке курса обучения прикладной рациональности, основанной (основана рациональность, а не рекомендация (прим. перев.)) на фактических данных. И по формированию групп и институтов для поддержки заинтересованных студентов, педагогов, исследователей и друзей.

Еще цепочки дополнены «интерлюдиями», эссе с личного сайта Юдковского (http://www.yudkowsky.net). Они связаны с разными цепочками, например, «Двенадцать добродетелей рациональности» лирически суммируют множество уроков «Рациональности: от ИИ до Зомби», и часто цитируются в эссе.

Кликнув на звездочку в конце каждого эссе, вы попадете на оригинальную версию с сайта Less Wrong (так можно оставить комментарий) или с сайта Юдковского. Также вы можете обнаружить словарь терминов на http://wiki.lesswrong.com/wiki/RAZ_Glossary.

Карта и территория

Первая книга начинается с цепочки о когнитивных искажениях: «Предсказуемо неправы». Книга не ограничена этой темой: плохие привычки и плохие идеи тоже имеют значение, даже если они становятся следствием содержания нашего разума, а не его структуры. Таким образом, эволюционировавшие и изобретенные будут показаны в цепочках, начиная с дискуссии в «Ложных Убеждениях» о том, как ожидания расходятся с декларированными убеждениями.

Оценка иррациональности была бы неполной без теории, описывающей рациональность, или если «теория» будет состоять из смутных трюизмов, без точного объяснительного механизма. Цепочка «Замечая замешательство» раскрывает вопрос: почему полезно основывать поведение на «рациональных» ожиданиях и как это ощущается изнутри.

Дальше, «Загадочные ответы» ставит вопрос: способна ли наука решить эти проблемы для нас. Ученые основывают свои модели на повторяемых экспериментах, а не на спекуляциях и слухах. Наука также имеет великолепную репутацию в сравнении с историями, религией и… Да в сравнении с чем угодно имеет. Стоит ли волноваться по поводу «ложных» убеждений, ошибки подтверждения, ошибки знания задним числом и им подобных, если мы работаем с сообществом людей, желающих объяснять феномены, а не рассказывать трогательные истории?

За этим следует «Простая Истина», отдельная аллегория о природе знания и убеждений.

Однако именно когнитивные искажения предоставляют наиболее ясное и прямое представление о нашей психологии, виды эвристик и логику наших ограничений. Именно с искажений мы и начнем. Строка в Чжуан-цзы, пре-Даосского философского трактата, гласит: «Ловушка для рыбы существует из-за рыбы, заполучив рыбу, ты можешь позабыть о ловушке» 24.

Приглашаю исследовать эту книгу именно в таком духе. Используйте ее так, как использовали бы ловушку для рыбы, всегда внимательно следя за целью, для которой вы ее используете. Берите то, что можете использовать, то, что будет полезным, остальное — отбросьте. И пусть ваша цель послужит вам верно.

Благодарности

Я чрезвычайно признателен Nate Soares, Elizabeth Tarleton, Paul Crowley, Brienne Strohl, Adam Freese, Helen Toner и десяткам волонтеров, вычитывавших эту книгу.

Отдельно от всей души хочу сказать спасибо Alex Vermeer, который помог довести эту книгу до конца, и Tsvi Benson-Tilsen, который прочел ее от корки до корки, чтобы убедиться в удобочитаемости и связности изложения.

  • 1. Идея персональной ошибки, медиа ошибки, и т.д. похожи на статистическую в том смысле, что это ошибки. По-другому можно обобщить идею искажений, сфокусировавшись на их ассоциации с неслучайностью. В машинном обучении, например, индуктивное искажение— совокупность предположений, которые использует обучающийся для выведения предсказаний на основе имеющихся данных. Т.е. обучающийся предубежден в специфическом направлении, но так как на этом пути может быть правда, не так уж и плохо для агента иметь индуктивное искажение. Оно ценное и необходимое. Это различает индуктивную ошибку от остальных довольно четко.
  • 2. Печальное совпадение: Леонард Нимой, актер, сыгравший Спока, ушел из жизни за несколько дней до выхода этой книги. Несмотря на то, что мы использовали его персонажа как классический пример «Голливудской рациональности», это не значит, что мы не уважаем память о нем.
  • 3. Timothy D. Wilson et al., “Introspecting About Reasons Can Reduce Post-choice Satisfaction,” Personality and Social Psychology Bulletin 19 (1993): 331–331.
  • 4. Jamin Brett Halberstadt and Gary M. Levine, “Effects of Reasons Analysis on the Accuracy of Predicting Basketball Games,” Journal of Applied Social Psychology 29, no. 3 (1999): 517–530.
  • 5. Keith E. Stanovich and Richard F. West, “Individual Differences in Reasoning: Implications for the Rationality Debate?,” Behavioral and Brain Sciences 23, no. 5 (2000): 645–665, http://journals.cambridge.org/abstract_S0140525X00003435.
  • 6. Timothy D. Wilson, David B. Centerbar, and Nancy Brekke, “Mental Contamination and the Debiasing Problem,” in Heuristics and Biases: The Psychology of Intuitive Judgment, ed. Thomas Gilovich, Dale Griffin, and Daniel Kahneman (Cambridge University Press, 2002).
  • 7. Amos Tversky and Daniel Kahneman, “Extensional Versus Intuitive Reasoning: The Conjunction Fallacy in Probability Judgment,” Psychological Review 90, no. 4 (1983): 293–315, doi:10.1037/0033-295X.90.4.293.
  • 8. Richards J. Heuer, Psychology of Intelligence Analysis (Center for the Study of Intelligence, Central Intelligence Agency, 1999).
  • 9. Wayne Weiten, Psychology: Themes and Variations, Briefer Version, Eighth Edition (Cengage Learning, 2010).
  • 10. Raymond S. Nickerson, “Confirmation Bias: A Ubiquitous Phenomenon in Many Guises,” Review of General Psychology 2, no. 2 (1998): 175.
  • 11. Cass R. Sunstein, “Probability Neglect: Emotions, Worst Cases, and Law,” Yale Law Journal (2002): 61–107.
  • 12. Dan Ariely, Predictably Irrational: The Hidden Forces That Shape Our Decisions (HarperCollins, 2008).
  • 13. Boaz Keysar and Dale J. Barr, “Self-Anchoring in Conversation: Why Language Users Do Not Do What They ‘Should,”’ in Heuristics and Biases: The Psychology of Intuitive Judgment: The Psychology of Intuitive Judgment, ed. Griffin Gilovich and Daniel Kahneman (New York: Cambridge University Press, 2002), 150–166, doi:10.2277/0521796792.
  • 14. Scott Eidelman and Christian S. Crandall, “Bias in Favor of the Status Quo,” Social and Personality Psychology Compass 6, no. 3 (2012): 270–281.
  • 15. Katherine Hansen et al., “People Claim Objectivity After Knowingly Using Biased Strategies,” Personality and Social Psychology Bulletin 40, no. 6 (2014): 691–699.
  • 16. Eric Luis Uhlmann and Geoffrey L. Cohen, “‘I think it, therefore it’s true’: Effects of Self-perceived Objectivity on Hiring Discrimination,” Organizational Behavior and Human Decision Processes 104, no. 2 (2007): 207–223.
  • 17. Emily Pronin, “How We See Ourselves and How We See Others,” Science 320 (2008): 1177–1180, http://psych.princeton.edu/psychology/research/pronin/pubs/2008%20Self%2….
  • 18. Emily Pronin, Daniel Y. Lin, and Lee Ross, “The Bias Blind Spot: Perceptions of Bias in Self versus Others,” Personality and Social Psychology Bulletin 28, no. 3 (2002): 369–381.
  • 19. Joyce Ehrlinger, Thomas Gilovich, and Lee Ross, “Peering Into the Bias Blind Spot: People’s Assessments of Bias in Themselves and Others,” Personality and Social Psychology Bulletin 31, no. 5 (2005): 680–692.
  • 20. Richard F. West, Russell J. Meserve, and Keith E. Stanovich, “Cognitive Sophistication Does Not Attenuate the Bias Blind Spot,” Journal of Personality and Social Psychology 103, no. 3 (2012): 506.
  • 21. Не путать с людьми, думающими о себе как о интеллектуальных, из-за эффекта мнимого превосходства.
  • 22. Michael J. Liersch and Craig R. M. McKenzie, “Duration Neglect by Numbers and Its Elimination by Graphs,” Organizational Behavior and Human Decision Processes 108, no. 2 (2009): 303–314.
  • 23. Sebastian Serfas, Cognitive Biases in the Capital Investment Context: Theoretical Considerations and Empirical Experiments on Violations of Normative Rationality (Springer, 2010).
  • 24. Zhuangzi and Burton Watson, The Complete Works of Zhuangzi (Columbia University Press, 1968).

Перевод: 
Muyyd, Remlin
Оцените качество перевода: 
Средняя оценка: 4.7 (23 votes)
  • Короткая ссылка сюда: lesswrong.ru/212