Вы здесь

Вложенная агентность

Абрам Демски, Скотт Гаррабрант

В классических моделях, предполагается, что рациональный агент:

  • отделен от внешнего мира,
  • имеет ограниченный набор стратегий для взаимодействия с внешним миром,
  • строит точные модели внешнего мира,
  • не имеет необходимости размышлять о себе или о том, из каких частей он состоит.

В статье приведен неформальный обзор препятствий, которые мешают формализовать хорошие принципы принятия решений для агентов, находящихся внутри оптимизируемого ими мира,агентов вложенных в мир.Такие агенты должны оптимизировать не какую-то функцию, а состояние мира. Такие агенты должны использовать модели, которые входят в моделируемое пространство. Должны размышлять о себе как о просто ещё одной физической системе, сделанной из тех же составных частей что и остальной мир, частей, которые можно модифицировать и использовать в различных целях.

Содержание:

  1. Введение
  2. Теория принятия решений
  3. Вложенные модели мира
  4. Устойчивое делегирование
  5. Согласование подсистем
  6. Заключительные соображения

Перевод: 
Khakhalin Ivan, Slava Meriton
Оцените качество перевода: 
Средняя оценка: 4 (6 votes)
  • Короткая ссылка сюда: lesswrong.ru/1543