НейроЭкспресс

Генеральный директор Amazon Энди Джасси, как сообщается, передал правительству США информацию о том, что модели Anthropic (Claude Fable 5 и Mythos 5) могут быть использованы для кибератак. После этого власти ввели экспортные ограничения, и Anthropic отключила эти модели по всему миру. Хотя Anthropic утверждает, что аналогичные возможности есть и у других моделей, инцидент показывает, как крупные инвесторы могут влиять на регулирование ИИ. Это напоминает ситуацию, когда один гигант использует государство, чтобы ослабить конкурента, в которого сам же вложил деньги.

Правительство США приказало Anthropic отключить две свои самые мощные модели ИИ — Claude Fable 5 и Claude Mythos 5 — из-за угроз национальной безопасности. Anthropic подчинилась, но считает решение ошибочным. Mythos, способный находить уязвимости в любом ПО, был доступен лишь 50 организациям. Fable 5, выпущенный для широкой публики, якобы взломали, но компания утверждает, что подобные возможности есть и у других моделей. Этот случай показывает, как чрезмерная осторожность в вопросах безопасности может привлечь нежелательное внимание регуляторов.

Google DeepMind выделяет 10 миллионов долларов на изучение рисков, связанных с массовым взаимодействием ИИ-агентов. Компания опасается, что агенты, способные действовать без контроля человека, могут вызвать кибератаки, мошенничество и даже анархию в интернете. Исследователи хотят моделировать поведение агентов в виртуальных песочницах, чтобы предотвратить катастрофы. Пока что, по их мнению, у нас есть несколько месяцев до того, как проблема станет реальной.