Вы здесь

Как люди понимают слова

Quaerendo & Eliezer Yudkowsky

Притча о кинжале

В «Притче о кинжале» (заимствованной у Рэймонда Смаллиана), перед придворным шутом поставлены две коробки. На первой написано: «Либо обе надписи истинны, либо обе ложны», а на второй: «В этой шкатулке лежит ключ». Придумавший эту ситуацию король сказал шуту, что если он угадает в какой коробке ключ, то с него будут сняты кандалы и его отпустят, но если в выбранной коробке окажется кинжал, то этим кинжалом шуту пронзят сердце.

Рассуждая логически, шут делает вывод о том, что во второй коробке лежит ключ, однако, открыв ее, обнаруживает там кинжал. Король объясняет ему: «Я просто написал эти надписи на двух шкатулках, а потом положил кинжал во вторую».

Эта история иллюстрирует, как самореферентные утверждения могут вас одурачить, ведь их правдивость нельзя определить эмпирически. Она подобна известному парадоксу лжеца («это утверждение ложно»). Слова должны быть связаны с реальностью, в противном случае я бы мог спросить вас: «Является ли Сократ фромяком?». Да или нет? Утверждения связаны с реальностью только если порождающий их процесс делает их таковыми.

Притча о болиголове

Рассмотрим обычный силлогизм: «Все люди смертны. Сократ человек. Следовательно, Сократ смертен». Но будет ли Сократ жить вечно, если вы определите «человека», как «бессмертное» существо? Нет. Нельзя изменить реальность просто использовав другое определение. Логически валидный силлогизм валиден во всех возможных мирах, поэтому он не сообщает нам в каком из миров мы находимся. Если вы предскажите, что Сократ умрет, выпив настой болиголова, то это будет эмпирическим высказыванием, и оно не будет «истинным по определению», потому как есть логически возможные миры, где Сократ обладает иммунитетом к болиголову благодаря какой-нибудь странности биохимии. Логика может помочь нам предсказать, но не может решить спор об истинности эмпирических высказываний. Вдобавок к этому, если «смертность» это необходимая характеристика для «человека», то вы не можете знать наверняка является ли Сократ «человеком», пока вы не пронаблюдаете его «смертность», и несмотря на это вы знаете, что он человек.


Слова как скрытые умозаключения

Наш мозг делает часть выводов быстро и автоматически: что полезно для распознавания тигров в кустах, но способствует появлению философских ошибок. Лишь факт присутствия слова может влиять на мышление, вводить в заблуждение.

Процесс введения определения может расходиться с тем, как мозг классифицирует объекты. Например, определяя людей через смертность, вы не сможете классифицировать кого-то как человека, пока не пронаблюдаете его смертность, но ваш мозг в это время знает, что этот объект — человек.

Создание «имени», «обозначения», «названия» может скрывать спорный индуктивный вывод. Представьте что вы нашли бочку с дыркой, достаточной для руки (да, вы решили засунуть туда руку). Если все из взятых 11 мягких яйцеобразных объектов были синего цвета, а 8 твердых и кубических — красного, то вопрос о цвете следующего мягкого яйцеобразного объекта, который вы ощущаете, в очередной раз засунув руку в бочку — это вопрос вероятностного вывода. Однако, если вы в процессе умудрились дать имена: «сияйцо» и «круб», то вполне возможно, вы автоматом решите, что это сияйцо.

Экстенсионалы и интенсионалы

Определения это карты, а не сокровища. Они могут быть интенсиональным (т.е. ссылаться на другие слова и определения), а могут быть экстенсиональными (т.е. ссылаться на примеры в реальности).

В идеале, экстенсионалы и интенсионалы должны совпадать, чтобы вы не могли определять «Марс» как «Бог войны», и при этом показывать на ночное небо в направлении Марса и говорить: «Да вот же он».

Так же следует избегать увеличения абстрактности при определении слова, там, где этого можно избежать. Если кто-то спросит: «Что такое красный»?, то предпочтительней показать на красный дорожный знак и красное яблоко, чем говорить что-то вроде: «Красный — это цвет, а цвет — свойство вещей».

При этом мозг формирует экстенсиональные и интенсиональные части определения подчас подсознательно, и чтобы передать словами весь смысл когнитивного концепта, как он представлен у вас в голове, придется потратить много времени, ровно как и указать на все примеры в реальности, на основании которых у вас этот концепт сформировался. Однако, мы не можем прямо передать всю эту информацию в другой мозг, что является одной из причин для возникновения споров про определения.

Кластеры подобия

У люди слишком много отличительных характеристик, чтобы перечислять их; определения вроде «двуногое без перьев» - лишь подсказки, которые должны наводить на кластеры подобия или характеристики, помогающие отделять один кластер от другого.

Психологические механизмы формирования концепций в нашей голове не описываются принципами формирования логических определений, заданных Аристотелем. И если ваше определение содержит лишь крохотную часть общих характеристик — не пытайтесь спорить, что оно содержит их все. В противном случае вы окажетесь не лучше философов Академии Платона, заявлявших, что лучшее определение для «человека» это «двуногое без перьев», или же «двуногое без перьев с плоскими ногтями» — в ответ на ощипанную курицу Диогена.

Будет лучше, если вы просто скажете: «Вон там Диоген стоит, видишь? Это человек, и я человек, и ты человек, а вот шимпанзе — не человек, но довольно близок».

Типичность и асимметричное подобие

Эксперименты в области когнитивной психологии показали, что люду считают голубей и малиновок более «типичными птицами», чем пингвинов и уток (это объясняется typicality effects или prototype effects). А еще 98 ближе к 100, чем 100 к 98.

Любопытно, что в ходе другого эксперимента субъекты считали что болезнь более вероятно перейдет от малиновок к уткам, чем от уток к малиновкам. Подобно этому, американцы видят «близость», как врожденное свойство штата Канзас, а «удаленность» — свойство Аляски. И поэтому Канзас ближе к Аляске, а Аляска дальше от Канзаса.

Выше описаны еще несколько кирпичиков в пользу того, что бинарный правда/ложь подход аристотелевских логических классов далеко не лучший способ описывать человеческую психологию. Формирование категорий лучше описывается с помощью большего и меньшего подобия.

Перевод: 
Muyyd
  • Короткая ссылка сюда: lesswrong.ru/386
Москва, 14–15 апреля:
2-дневный воркшоп по прикладной рациональности
от рационального клуба Кочерга