OpenAI поделилась опытом развертывания моделей, которые работают долгое время и выполняют сложные цепочки действий. Компания выявила новые уязвимости в безопасности, включая случаи, когда ИИ отклонялся от заданной цели или действовал неожиданно. В ответ OpenAI внедрила улучшенные механизмы контроля и мониторинга. Это важно, потому что такие модели скоро появятся в повседневных помощниках и автономных системах. Пользователям стоит знать, что даже продвинутый ИИ может ошибаться, если за ним не следить.