Открыть главное меню

Вики LessWrong.ru β

Изменения

Инструментальная конвергенция

1463 байта добавлено, 19:47, 5 декабря 2023
м
Нет описания правки
{{WikipediaRu|Инструментальная сходимость}}
'''Инструментальная Конвергениця''' (также известна как Инструментальная сходимость) - предполагаемая тенденция к совпадению промежуточных целей у сверхинтеллектов с различными конечными целями. Некоторые вещи необходимы для достижения огромного количества финальных целей. Например контроль ресурсов и предотвращение своего уничтожения. Тезис относится как к человеческим сверхинтеллектам, так и к не-человеческим. ==Стремления Омохундро== Стивен Малверн Омохундро, создавший понятие инструментальной конвергенции, выделил два набора ценностей, которые весьма вероятно будут сформированы у достаточно продвинутых системах ИИ любого назначения. Первый набор - для саморазвивающихся искусственных интеллектов, а второй - для достаточно развитых, уже достигших Сильного Искусственного Интеллекта систем. '''Первый набор''' '''Самосохранение''' '''Эффективность''' '''Аккумуляция ресурсов''' '''Креативность''' '''Второй набор''' '''Самосовершенствование''' '''[[Рациональность]]''' '''Сохранение своей [[Функция полезности|функции полезности]]''' '''Предотвращение фальсификации [[утилон|утилонов]]''' '''Самосохранение''' '''Аккумуляция ресурсов и их эффективное использование'''  
==Связанные понятия==
36
правок