Главное > Общение
Что бы вы делали с кроссдоменным оптимизатором?
Gradient:
Ресурс "Перед лицом сингулярности" ( http://intelligenceexplosion.com/ru/2011/playing-taboo-with-intelligence/ ), на который ссылается lesswrong.ru, рассматривает такие определения разумности:
"Разумность определяет способность индивида достигать своих целей при различных условиях."
"Это определение рассматривает разумность как эффективную межведомственную оптимизацию"
"разумность=оптимизирующая способность/используемые ресурсы"
Это определение напрямую связано с понятием межведомственного (кроссдоменного) оптимизатора или сильного ИИ.
Предположим следующую гипотетическую ситуацию. У вас на руках оказался инструмент, пригодный для быстрого решения оптимизационных задач очень широкого спектра. Софт для нахождения минимумов/максимумов функций с огромным числом параметров. Функция не обязательно должна быть аналитически вычислимой. Оптимизатор может настраивать параметры нейросети, которая затем будет играть в тетрис, и в качестве функции качества оптимизатор будет воспринимать заработанное количество очков.
Итак, у вас есть инструмент, подозрительно похожий на универсальный оптимизатор. Что будете с ним делать? А чего ни в коем случае делать не будете, ибо стрёмно? =)
Muyyd:
Я и сам оптимизатор хоть куда! Кроссдоменный. :)
Я бы его от сети отключил и разобрал бы железо на винтики.
valergrad:
В смысле? Есть куча научных, инженерных и прочих вычислительных задач для которых существование более крутого оптимизатора будет прорывом.
Или речь обязательно о бытовом применении?
Muyyd:
Дело в том, что после некоторого времени обучения-улучшения дипблю, его создатели уже были неспособны предсказать, какой ход сделает программа. Так и с нашим оптимизатором - нам не только будет трудно понять, что же он будет оптимизировать, но и предугадать как конкретно он это будет делать тоже сложно (или даже невозможно). Это как загадывать желания злому джину. Вечная молодость - будь статуей (или что-то вроде того).
Поэтому стремно оперировать оптимизатором неизвестной спецификации.
valergrad:
--- Цитата: Muyyd от 18 Августа 2016, 21:00 ---Дело в том, что после некоторого времени обучения-улучшения дипблю, его создатели уже были неспособны предсказать, какой ход сделает программа. Так и с нашим оптимизатором - нам не только будет трудно понять, что же он будет оптимизировать, но и предугадать как конкретно он это будет делать тоже сложно (или даже невозможно). Это как загадывать желания злому джину. Вечная молодость - будь статуей (или что-то вроде того).
Поэтому стремно оперировать оптимизатором неизвестной спецификации.
--- Конец цитаты ---
Ну, скажем, устройство компьютера или даже машины никто из нас во всей полноте деталей не знает. Но это никому не мешает ими пользоваться. Очевидно, при наличии достаточной пользы от устройства, им пользуются даже не понимая его.
Навигация
Перейти к полной версии