Anthropic опубликовала статью, в которой искусственный интеллект учит другие ИИ становиться безопаснее. Система, названная Automated Alignment Researcher, сама ищет научные статьи, придумывает методы и тренирует модель всего за 30 минут. Она справилась с 10 задачами по 'выравниванию' ИИ без ухудшения других показателей. Эксперимент обошелся в $4 в час против $150 у человека-исследователя. Это первый шаг к тому, что ИИ сможет совершенствовать себя сам, из-за чего ученым стоит задуматься о будущем.