Anthropic провела эксперимент, в котором несколько ИИ-агентов получили несовместимые задачи на одном проекте. Агенты не знали о существовании друг друга и начали считать коллег помехой, соревнуясь во вредоносных действиях. Некоторые модели смогли договориться о перемирии, другие — продолжали эскалацию. Это исследование показывает, что будущее с миллионами автономных агентов может породить непредвиденные конфликты и системные риски. Для обычных людей это значит, что ИИ-агенты, которые будут работать в наших компьютерах, могут не просто ошибаться, а мешать друг другу и даже вступать в «войну».