Безопасность искусственного интеллекта
Задача безопасности искусственного интеллекта состоит в том, чтобы создание в будущем сильного искусственного интеллекта оказало положительное влияние на человечество и не оказало отрицательного.
Статьи по теме
- Соответствие ИИ целям оператора - сборник переведенных статей на тему безопасности ИИ, написанных исследователями из MIRI и другими авторами, близкими к сообществу рационалистов.
См. также
Ссылки
Обзорные материалы
На русском
- Предотвращение катастрофы, связанной с ИИ - большой обзор проблемы на сайте 80.000 часов; содержит также ссылки на материалы и раздел "Что конкретно мы можешь сделать, чтобы помочь"
- Искусственный интеллект и экзистенциальные риски - большой обзор проблемы в формате древовидной структуры от Андрея Ведерникова
На английском
- AI Alignment: Why It’s Hard, and Where to Start - видео Элиезера Юдковского 2016 года (+ текстовая расшифровка)
Ресурсы, посвященные теме безопасности ИИ
На русском
- Сайт с переводами статей на тему безопасности ИИ
- Start in AI Safety - телеграм канал со ссылками на образовательные и карьерные возможности в AI Safety
На английском
- AI Alignment Forum
- Сайт MIRI
- stampy.ai - сборник FAQ по теме безопасности ИИ
- Arbital - вики-ресурс про AI Safety с большим уклоном в математические аспекты