Вы здесь

Поиск байесовской структуры

Элиезер Юдковский

Штурвалы1 гномов не могут работать. Кажется, сама их конструкция противоречит законам магии. По сути, гномьи штурвалы невозможны. В них встроено множество прибамбасов и наворотов — как и в практически любые творения гномьего разума, — но это не слишком способствует реальной ценности. В работающем гномьем штурвале почти всегда спрятан обычный небольшой штурвал, внешне безобидный и ненужный.

Правила для кампании по миру «Spelljammer»

Мы уже выяснили, что знание подразумевает общую информацию между разумом и его окружением, а также выяснили, что эта общая информация равна негэнтропии (именно в физическом смысле): если вы знаете, где находятся молекулы и с какой скоростью они движутся, то вы можете превратить тепло в работу с помощью демона Максвелла / двигателя Силарда.

Мы выяснили, что формирование истинных убеждений при отсутствии свидетельств невероятно в той же степени, что и превращение стакана горячей воды в кубики льда и электричество. Рациональность требует «работы»: не только в смысле усилия мысли, но и в термодинамическом смысле. Любой разум, не являющийся абсолютно эффективным, должен излучать тепло. Когнитивная работа подчиняется теории вероятностей, частным случаем которой является термодинамика. (Статистическая физика — это подвид статистики.)

Если вы видите машину, которая не подключена к розетке или иному источнику энергии, но которая крутит колесо, вы начнёте искать спрятанную батарейку или иной источник энергии неподалёку. Совершаемая работа должна как-то объясняться без нарушения законов физики.

Поэтому если разум производит истинные убеждения и мы предполагаем, что второй закон термодинамики нигде не нарушается, этот разум обязан производить что-то похожее на байесианские вычисления. Должен присутствовать хотя бы один процесс со структурой, похожей на байесианскую. Иначе разум никак не смог бы работать.

Изначально, в момент Т = 0 у разума нет общей информации с подсистемой S в его окружении. В момент Т = 1 у разума есть 10 бит общей информации с S. Где-то посредине разум должен был столкнуться со свидетельством — причём именно со свидетельством в байесовском понимании, ведь любое байесианское свидетельство — это общая информация, а любая общая информация — байесианское свидетельство, это просто разные названия одного и того же явления. Затем разум должен был обработать это свидетельство хотя бы частично, возможно, неэффективно, и обработать хоть как-то в соответствии с Байесом. Разум обязан был хотя бы немного двигаться согласно Байесу, ведь в противном случае он создал бы общую информацию из ничего и тем самым нарушил бы второй закон термодинамики.

На самом деле на любом этапе когнитивный процесс, который помогает найти истину, должен иметь хоть в какой-то степени байесовскую структуру. В той или иной точке он должен входить в гармонию с Байесом, обязан соответствовать байесовскому потоку, пусть и зашумлённому, пусть со множеством прибамбасов и наворотов. Да, эта байесовская структура может оказаться очевидной лишь в контексте окружающих процессов. Но без неё этот когнитивный процесс окажется бессмысленным.

Сколько философов билось над природой слов! Сколько чернил истрачено на истинные определения слов, на истинное значение определений и на истинное значение значения! Какие нагромождения из колёс и шестерёнок построили философы ради этих объяснений! И всё это было скрытой формой байесовского вывода!

Я был слегка разочарован, что никто из слушателей не подпрыгнул и не сказал: «Да! Точно! Конечно! Всё время это был Байес!»

Однако, возможно, разглядеть хитро спрятанного Байеса, внешне выглядящего совершенно не так как Байес, вовсе не так увлекательно, если: а) вы не распутываете клубок тайны самостоятельно, а лишь читаете о том, как это кто-то сделал (Ньютону изучать матанализ было гораздо веселее, чем современным студентам), и б) вы не понимаете, что поиск скрытой байесовской структуры есть гигантский, сложный, постоянный квест вроде поиска Святого Грааля.

Для каждой грани сознания квест всегда свой, однако Грааль всегда оказывается одним и тем же. Впрочем, это должен быть правильный Грааль и Грааль целиком, без потерянных деталей. Поэтому каждый раз нужно искать весь ответ целиком, какую форму бы он ни принял, а не пытаться искусственно создавать рукомахательные граалеподобные аргументы. Если всё сделано правильно, только тогда в конце вы обнаружите всё тот же Святой Грааль.

Раньше мне пеняли, что я пишу длинные эссе, в которых «не даю ясно понять, к чему я веду», и потому наверняка теряю некоторых читателей…

…но в подобных случаях совсем не просто объяснить людям, к чему я веду.

Практически бесполезно знать, что познание по сути своей байесовское, если вы не понимаете, каким именно образом оно байесовское. Если вы не видите отчётливо поток вероятностей, то вы всего лишь знаете пароль. Ну ладно, на самом деле у вас есть подсказка к ответу, но это далеко ещё не ответ. Именно поэтому нельзя просто воскликнуть «Байес!», а нужно уходить в Великий Поиск Тайной Байесовской Структуры. Структура часто погребена под огромным количеством ширм, скрыта за нагромождением колёс и шестерёнок, спрятана за множеством прибамбасов и наворотов.

Осознать Поиск Святого Байеса непросто. Вы узнаёте о феномене мышления XYZ, который выглядит очень полезным. Множество философов спорили веками о его природе, да и до сих пор спорят. Множество специалистов по ИИ пытаются заставить компьютер его повторить, но они тоже пока не договорились об описании с точки зрения философии…

И… Вот те на! Внешне казалось, что этот феномен мышления не имеет никакого отношения к Байесу. Но какую-то лежащую в его основе структуру можно трактовать на языке Байеса… Погодите, тут всё равно есть какая-то полезная работа, которая на языке Байеса не объясняется… Хотя нет, она тоже байесовская… О, Боже мой, вот этот совершенно иной процесс мышления, который тоже внешне не выглядел байесовским тоже байесовский по своей структуре… Секундочку, а вот эти небайесовские части вообще что-нибудь делают?

  • Да: Ух ты, они тоже байесовские!
  • Нет: О небеса, почему всё устроено так по-дурацки! Я мог бы съесть пригоршню аминокислот и отрыгнуть строение мозга лучше.

После нескольких повторений можно уловить некоторый ритм. Именно о ритме я и говорю.

Но говорить о ритме — это всё равно что танцевать архитектуру.

Отсюда и возникла загвоздка с тем, как объяснить заранее, к чему я веду. По своему опыту я знаю, что произнеси я: «Байес — это тайна Вселенной!», то некоторые люди ответят: «Да! Байес и есть тайна Вселенной!», а другие хмыкнут: «Ну и узколобый же ты! Взгляни на все эти специализированные, но удивительно полезные методы вроде регуляризации линейной регрессии, которыми я пользуюсь

Я надеялся, что если привести конкретный пример «чего-то не байесовского на поверхности, но оказывающегося байесовским в итоге», а заодно объяснить разницу между паролем и знанием, а ещё объяснить разницу между инструментами и законами, то, возможно, я смогу объяснить, как понять этот ритм так, чтобы читателю не пришлось уходить в этот поиск лично.

Разумеется, это далеко не все тайные знания Байесовского Заговора. Однако больше я пока сообщить не могу. Кроме того, секрет целиком известен лишь Совету Байеса, и если бы я его выдал, вас пришлось бы принять.

Уметь заглянуть под сиюминутную поверхность процесса мышления и увидеть под ней байесовскую структуру, воспринимать потоки вероятностей и знать не только о том, что это мышление тоже байесовское, но и понимать, почему, а также почему именно таким оно должно быть, чувствовать Силу, лежащую в основе мышления — именно в этом и заключается Байесовское Видение.

— И королева Кашфы видит оком Змея?

— Не знаю, видит ли она им. Пока она лишь оправляется после операции. Но это интересная мысль. Что она сможет узреть, если будет видеть им?

— Чистые, холодные линии вечности, полагаю. То, что под Тенью.

Роджер Желязны, «Принц Хаоса»2

  • 1. Штурвалом (англ. helm) в фэнтезийном мире Spelljammer называется устройство, позволяющее переводить магическую энергию в движение. Штурвал обычно выглядит в виде трона. — Прим. перев.
  • 2. Автор ссылается на издание Roger Zelazny, «Prince of Chaos» (Thorndike Press, 2001). Использован перевод Е. Р. Волковыского. — Прим.перев.

Перевод: 
sepremento, Alaric
Номер в книге "Рациональность: от ИИ до зомби": 
188
Оцените качество перевода: 
Средняя оценка: 3.9 (8 votes)
  • Короткая ссылка сюда: lesswrong.ru/615