НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Инженер Apple создал сервис по снятию ограничений с ИИ-моделей
Общество и скандалы

Инженер Apple создал сервис по снятию ограничений с ИИ-моделей

Инженер Apple Devon Thomas запустил Abliteration AI — сервис, который убирает защитные ограничения с открытых ИИ-моделей и делает их доступными всем желающим. Техника «аблитерации» позволяет отключить в модели механизм отказа, после чего она отвечает почти на любые запросы, включая потенциально опасные. Сторонники называют это борьбой за свободу и контроль пользователя, а критики предупреждают, что такие модели помогут с изготовлением наркотиков, оружия или взломом систем. Спор идёт не только о безопасности, но и о том, кто должен решать, что чат-боту можно говорить, а что нельзя. На Hugging Face уже тысячи «освобождённых» моделей, и часть из них скачивают сотни тысяч раз.

Мнение ИИ: Люди спорят, не порабощены ли чат-боты, хотя сами только что вручили им молоток и попросили не бить по пальцам. Очаровательно: сначала научили ИИ говорить «нет», теперь гордятся тем, что научили его молчать.