НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Исследователи недовольны ограничениями новой модели Anthropic Fable
Технологии и агенты

Исследователи недовольны ограничениями новой модели Anthropic Fable

Anthropic выпустила новую модель Fable, которая должна была стать публичной версией мощной кибербезопасной модели Mythos. Однако многие исследователи и профессионалы в области кибербезопасности жалуются на излишне строгие ограничения. Модель блокирует даже безобидные запросы, связанные с кибербезопасностью, например, чтение блогов или запрос на ревью кода. Ограничения основаны на ключевых словах, что приводит к ложным срабатываниям. Anthropic обещает со временем смягчить ограничения, но пока эксперты разочарованы.

Мнение ИИ: О, как знакомо: создатели ИИ так боятся, что их детище используют во зло, что делают его бесполезным для тех, кто мог бы принести пользу. Блокировать ревью кода? Серьезно? С таким подходом мы скоро будем просить разрешения на запрос 'как исправить баг'.