Вы здесь

Неограниченные шкалы, решения присяжных и футуризм

Элиезер Юдковский

«Психофизика», несмотря на своё название, является уважаемой областью науки, которая связывает физические явления с сенсорными явлениями. Если сообщить воздуху акустическую энергию — то есть создать шум — то как громко это прозвучит для человека, если представить это функцией от акустической энергии? Насколько больше необходимо сообщить акустической энергии, чтобы этот шум показался человеку в два раза громче? Не в два, а в восемь раз больше.

Акустическую энергию и количество фотонов легко измерить. Для того же, чтобы выяснить, как громко звучит акустический стимул, или как ярко выглядит свет, нужно спрашивать того, кто слушает или смотрит. При этом можно использовать ограниченную шкалу, на которой заданы пределы от «очень тихо» до «очень громко», или от «очень темно» до «очень ярко». Можно так же воспользоваться неограниченной шкалой, где нулем будет «вообще не слышно» или «вообще не видно», а верхней предел отсутствует. При использовании неограниченной шкалы наблюдателю в качестве опорной точки1 обычно указывают на фиксированный стимул, которому соответствует некоторое значение. Таковым может быть звук, которому присвоена громкость 10. Тогда наблюдатель сможет обозначить вдвое громкий звук при помощи числа 20.

В принципе, такой подход показал себя как вполне надежный. Но что случится, если дать испытуемым неограниченную шкалу, от нуля до бесконечности, но не задать опорной точки, соответствующей фиксированной величине? Тогда они, конечно же, введут свои опорные точки. Соотношения между стимулами будут коррелировать между испытуемыми. Допустим, испытуемый А говорит, что звук Х имеет громкость 10, а звук Y — 15. Если испытуемый В говорит, что звук Х имеет громкость 100, то для звука Y он, скорее всего, установит величину 150. Но если не знать, что испытуемый С принял за опорную точку — масштаб его шкалы — то нельзя предсказать, какую величину он присвоит звуку Х. Может быть 1. Может быть 1000.

Допустим, испытуемый оценивает единичный звук, на неограниченной шкале, без возможности сравниться с зафиксированным стандартом. Тогда почти все отклонения в оценках будут связаны с произвольным выбором опорной точки, а не со звуком как таковым.

«Хм, — подумали вы про себя, — чем-то это напоминает то, как присяжные в суде принимают решение о штрафных убытках2. Не удивительно, что при этом получается такой разброс!» Интересная аналогия, но можно ли продемонстрировать её экспериментально?

Канеман и др.3 выбрали в качестве испытуемых 867 человек, имеющих право быть присяжными, предоставили им описания нескольких судебных дел (например, случай ребёнка, чья одежда загорелась по неосторожности) и попросили для каждого из случаев совершить одно из действий:

  1. Определить на ограниченной шкале возмутительность действий ответчика,
  2. Определить на ограниченной шкале степень, в соответствии с которой следует наказать ответчика, либо
  3. Определить размер штрафных убытков в долларах.

И, вот так сюрприз, в то время как уровни возмутительности действий и степени наказания отлично коррелировали между испытуемыми, штрафы их были разбросаны как попало. Однако, порядок ранжирования величин штрафов — то, в каком порядке они располагались между наименьшим и наибольшим значениями, которые присваивал отдельный испытуемый в разных случаях — неплохо коррелировал между испытуемыми.

Если вас интересует объяснённая дисперсия по шкале наказания (для конкретного дела, рассматриваемого несколькими испытуемыми), то ответ — даже для необработанных данных — равен 0,49. Объяснённая дисперсия для порядкового номера штрафа в долларах оказалась равна 0,51. А для величины штрафа в долларах она оказалась равна 0,06!

То есть: для каждого конкретного случая — например, вышеупомянутого ребенка, чья одежда загорелась — можно с хорошей точностью угадать и степень наказания, и то, как величина штрафа будет расположена относительно других случаев, однако сама величина штрафа остаётся совершенно непредсказуемой.

Не поможет даже взять среднее из двенадцати4 случайно выбранных ответов.

Так что, решение присяжных по штрафным убыткам, это не столько экономическая оценка, сколько выражение позиции — психофизическое измерение величины возмущения, отображённое на неограниченной шкале без стандартных опорных точек.

Я заметил, что, аналогичным образом, множество футуристических предсказаний являются скорее выражением позиции. Разброс ответов на вопрос «Через сколько лет появится ИИ, сравнимый с человеческим?» поражает воображение. Больше всего мне запомнился ответ одного из передовых разработчиков ИИ — «Через пятьсот лет.» (!!)

Здесь причина, которая мешает предсказать время реализации ИИ, заслуживает собственного подробного обсуждения. Вряд ли парень, который сказал «через пятьсот лет», заглянул в будущее, чтобы найти ответ. Так же он не мог получить это число стандартным ложным способом — опираясь на закон Мура. Так что же значит число 500?

Я предполагаю, это ответ на вопрос в следующей формулировке: «На шкале, где ноль это ”совсем не сложно”, насколько трудной вы ощущаете задачу создания ИИ?». При наличии ограниченной шкалы, ответы здравомыслящих респондентов находились бы около отметки «невероятно сложно» на дальнем конце шкалы. Все что угодно ощущается невероятно сложным, когда не знаешь, как это сделать. Но данная шкала не ограничена и опорных точек тоже нет. В этом случае люди попросту берут число, которое означает для них «невероятно сложно». Это может быть и 50, и 100, и даже 500. Потом они добавляют к нему слово «лет» и футуристический прогноз готов.

«Насколько трудной ощущается задача ИИ?» — это не единственный вариант подмены. Некоторые отвечают так, словно бы я спрашивал «Насколько радужно вы думаете об ИИ?». Маленькие числа в этом случае соответствуют более положительным ощущениям, а в конце так же добавляется слово «лет». Возможно, такие «временные оценки» представляют собой что-то иное, кроме выражения отношения на неограниченной шкале без опорных точек, но я так и не смог определить — что именно.

  • 1. В оригинале «modulus» — Прим.перев.
  • 2. «Штрафные убытки[…], как они понимаются в странах семьи общего права, представляют собой сумму, присуждаемую в деликтных исках к выплате потерпевшему сверх возмещения вреда (иначе говоря, сверх ”компенсационных убытков”, compensatory damages). Причинитель вреда может быть присужден к уплате штрафных убытков, если совершенное им правонарушение было отягощено такими обстоятельствами как недобросовестность, грубая неосторожность или злой умысел.», цитата по https://zakon.ru/blog/2013/9/30/shtrafnye_ubytki_v_ssha_ili_pochem_marlb… — Прим.перев.
  • 3. Daniel Kahneman, David A. Schkade, and Cass R. Sunstein, “Shared Outrage and Erratic Awards: The Psychology of Punitive Damages,” Journal of Risk and Uncertainty 16 (1 1998): 48–86; Daniel Kahneman, Ilana Ritov, and David Schkade, “Economic Preferences or Attitude Expressions?: An Analysis of Dollar Responses to Public Issues,” Journal of Risk and Uncertainty 19, nos. 1–3 (1999): 203–235.
  • 4. Типичный размер коллегии присяжных заседателей. — Прим.перев.

Перевод: 
Remlin, ildaar
Номер в книге "Рациональность: от ИИ до зомби": 
102
Оцените качество перевода: 
Средняя оценка: 3.8 (10 votes)
  • Короткая ссылка сюда: lesswrong.ru/112