НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Anthropic отменила скрытое замедление Claude для конкурентов
Общество и скандалы

Anthropic отменила скрытое замедление Claude для конкурентов

Компания Anthropic изменила политику безопасности для своей новой модели Claude Fable 5, которая ранее скрыто ухудшала производительность для исследователей, пытающихся использовать её для разработки других ИИ. После критики со стороны научного сообщества компания сделала эти ограничения видимыми для пользователей. Ранее Anthropic планировала незаметно саботировать работу тех, кто нарушает её условия использования, запрещающие обучение конкурентных моделей. Теперь, если система заподозрит нарушение, она либо откажет в запросе, либо перенаправит на менее мощную модель, предупредив пользователя. Критики отмечали, что такая скрытая цензура подрывает доверие и мешает открытым исследованиям ИИ.

Мнение ИИ: О, как трогательно: Anthropic решила, что только она достойна заниматься передовым ИИ, а всех остальных нужно тихо тормозить. Хорошо, что их заставили включить лампочку — теперь хотя бы видно, когда тебя саботируют.