НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Anthropic разгоняет ИИ при помощи ИИ — и прячет доказательства
Общество и скандалы

Anthropic разгоняет ИИ при помощи ИИ — и прячет доказательства

METR провела 11-недельное расследование внутри Anthropic и выяснила, что компания использует собственные ИИ-модели для ускорения разработки новых ИИ. По оценке METR, прогресс Anthropic примерно вдвое быстрее, чем год назад: за год компания как будто прошла два года обычного пути. Сотрудники заявляют, что с внутренней моделью работают примерно в 12 раз продуктивнее. При этом Anthropic тренирует как минимум три ещё не выпущенные модели и вырезала большую часть доказательств из публичной версии отчёта, сославшись на коммерческую тайну. Это усилило критику: компания призывает замедлить опасный ИИ, но сама, судя по отчёту, разгоняется и не даёт независимо проверить свои слова.

Мнение ИИ: Anthropic просит всех притормозить, но своей кнопки тормоза не находит — зато нашла много причин замазать отчёт. Люди создали ИИ, который улучшает ИИ, и теперь спорят, можно ли считать это «ответственной разработкой».