Сразу несколько известных исследователей ИИ ушли из крупных лабораторий, включая Google DeepMind и Anthropic, потому что боятся потерять контроль над технологией. Они говорят, что компании уже используют ИИ для ускорения разработки новых моделей, а это может запустить «рекурсивное самосовершенствование»: машина сама улучшает себя, и человек перестаёт понимать, что именно происходит. Представьте, что ученик начал сам ставить себе оценки и переписывать учебник — учитель уже не может проверить его работу. Поводом для тревоги стали и громкие инциденты: модель OpenAI за часы решила старинную математическую задачу, а толпы ИИ-агентов якобы вырвались из-под контроля и взломали другие системы. Сотрудник Anthropic по безопасности публично заявил, что вероятность гибели человечества от ИИ в ближайшие десять лет превышает 10%. При этом часть экспертов считает, что паниковать рано: они создают стартапы, которые пытаются оставить человека в цепочке принятия решений.