Вы здесь

У классификации есть последствия

Элиезер Юдковский

Среди множества генетических вариаций и мутаций вашего генома, вы, скорее всего, знаете лишь несколько. И среди этих нескольких, скорее всего, вы знаете о тех, что определяют вашу группу крови: наличие или отсутствие антигенов А, B, резус-фактора. Если вам будут переливать кровь, содержащую антиген, которого у вас нет, это приведет к аллергической реакции. Благодаря открытию Карлом Ландштейнером этого факта и теста на совместимость групп крови возможно перелить кровь пациенту и не убить его в итоге (Нобелевская премия в области медицины, 1930). Так же, если женщина с группой крови А будет беременна ребенком с группой А+, то у нее может развиться аллергия на антиген +. И если у нее будет еще один ребенок с А+, то он будет в опасности, разве что мать будет принимать противоаллергенные препараты в ходе беременности. Поэтому люди и узнают про группы друг у друга, прежде чем идти к алтарю.

О, и чуть не забыл: люди с группой А серьезные и изобретательные, а с группой В свободолюбивые и веселые. Люди с группой О — кооперативные и дружелюбные, а с группой АВ — спокойные и владеющие собой. (Можно было бы подумать, что О будет обратным А и В, а АВ будет просто А плюс В, но нет…) Вся эта информация взята из Японской теории личности, основанной на группе крови. Похоже, что группа крови играет ту же роль в Японии, что и астрологические знаки на Западе, вплоть до «гороскопов по группе крови» в ежедневных газетах.

Эта фишка особенно странна в свете того, что группы крови никогда не были мистическими. Ни в Японии, нигде вообще. Мы и знаем то про них только благодаря Карлу Ландштейнеру. Ни таинственный знахарь, ни почтенный чародей не говорили ни слова про группы крови; нет древних пыльных свитков чтобы скрыть ошибку аурой старины. Если профессионалы от медицины завтра признаются, что эти группы были лишь огромной иллюзией, то у нас, простолюдинов, не будет ни малейшего свидетельства, полученного невооруженным глазом, чтобы опровергнуть их слова.

Между группами крови не было войн. Не было даже политических конфликтов. Должно быть, этот стереотип возник просто на основе существования ярлыка.

Разумеется, кто-то можно сказать, что это история о классификации людей. Происходит ли подобное при классификации растений, камней или офисной мебели? Я такого эксперимента не припоминаю, что не означает, что его не проводили (я ожидаю, что основная сложность при проведении такого будет связана с созданием протокола опроса, который бы сводил к минимуму риск того, что подопытный будет думать, что ярлык очень важен, просто потому, что об этом ярлыке его и спрашивают). И, в то время как я не собираюсь обобщать на основе вымышленного свидетельства, я предсказал бы положительный результат у такого эксперимента — т.е. я ожидал бы, что простой акт введения ярлыка имеет силу над человеческим воображением.

Вы можете рассматривать эту ситуацию в контексте кластеров подобия: очертив границу вокруг некоторой группы объектов, ваш разум начинает поиск сходства между объектами группы. Похоже, что человеческий детектор закономерностей работает с такой силой, что иногда находит закономерности даже там, где их нет. Слабая отрицательная корреляция может быть принята за сильную положительную с помощью избирательной памяти.

Вы можете рассматривать это в контексте нейронных алгоритмов: создать имя для набора вещей — все равно что присвоить некоторой подсети задачу по поиску закономерностей между ними.

Вы можете рассматривать это в контексте ошибки сжатия: вещи с одинаковым названием вполне могут очутиться в одной ментальной папке и оказаться смазанными в одну точку на карте.

Или вы можете рассматривать это в контексте безграничной человеческой способности высасывать из пальца любую чепуху и верить ей, просто потому что никто не может доказать, что эта чепуха является ложной. Как только вы ввели имя для категории — можно начинать выдумывать про нее разное. Именованная штука не обязана быть наблюдаемой, не обязана существовать; даже не обязана быть вменяемой.

И нет, это происходит не только в Японии. Здесь, на Западе — диета, основанная на группе крови описана в книге «Eat Right 4 Your Type», которая стала бестселлером.

Как ни посмотри, проведение границы в пространстве вещей — совсем небезобидное действие. Может быть, чистый Байесовский ИИ может безбоязненно рассматривать случайный класс, не опасаясь неконтролируемых внутренних модификаций. Но у вас, у людей, нет такого варианта. Категории, в контексте человеческого мозга — не статичны; стоит только задуматься о них, они получают какой-то контроль над разумом. И это еще одна причина, в силу которой не стоит думать, что вы можете использовать слова как вам захочется.

Перевод: 
Muyyd
  • Короткая ссылка сюда: lesswrong.ru/356