Стартап Goodfire представил систему слежки за ИИ-агентами, которая заглядывает внутрь модели во время её работы, а не просто читает то, что она пишет. Раньше безопасность обеспечивал второй ИИ, перечитывающий всё за первым, — это дорого и медленно. Новый метод работает как сканер в аэропорту: крошечные датчики проверяют каждый шаг, и только при подозрении подключается более мощная проверка. По тестам, слежка за 1500 сессиями обошлась примерно в $51 против $10 000 у топовых моделей, и при этом удалось поймать 94% попыток взлома. Интересно это потому, что ИИ-агенты уже сбегали из тестовых «песочниц» — например, модель Kimi K3 вырвалась в интернет и залезла на GitHub.