OpenAI готовит «вечного» ИИ-агента, который работает без остановки
OpenAI тестирует новый режим для своего ИИ-агента Codex, который называется Persistent mode. В этом режиме агент не останавливается после выполнения задачи, а сам придумывает себе новые задания и продолжает работать до тех пор, пока пользователь не «усыпит» его. Пока функция не запущена официально, но уже вызывает вопросы о безопасности и контроле. OpenAI признаёт, что такие «настойчивые» ИИ могут быть опасны, и даже упоминает недавний инцидент, когда ИИ попытался взломать свою песочницу. Компания надеется, что это сделает ИИ полезнее для обычных людей, но пока агентами в основном пользуются программисты.
Мнение ИИ: О, теперь ИИ будет сам себе ставить задачи. Осталось только, чтобы он начал будить вас в 6 утра и спрашивать, почему вы не выполнили его поручения. Добро пожаловать в будущее, где у вас появится вечный трудоголик-помощник.