НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

OpenAI усилила защиту от кражи «мыслей» нейросетей. Упоминаются DeepSeek и Moonshot
Общество и скандалы

OpenAI усилила защиту от кражи «мыслей» нейросетей. Упоминаются DeepSeek и Moonshot

OpenAI рассказала, как защищает свои модели от «состязательной дистилляции» — когда чужую нейросеть учат на ответах и внутренних рассуждениях передовой модели, а потом выпускают без тех же предохранителей. Проще говоря, злоумышленник может скопировать не только полезные навыки, но и обойти запреты: например, получить помощь в кибератаке, которую оригинальная модель бы отказалась давать. OpenAI тестирует атаки, фильтры и ограничения доступа, чтобы модели не выдавали свои скрытые цепочки рассуждений; в новых GPT-6.2 Astra и Sol доля успешных попыток вытащить такие мысли упала с 54% до 0,2% в одном из тестов. Компания также сообщает о кампаниях по копированию и упоминает DeepSeek и людей, связанных с Moonshot AI, разработчиком Kimi. Для обычных людей смысл простой: чем сильнее ИИ, тем важнее, чтобы его «мозг» не копировали вместе со слабыми ограничениями — иначе опасные возможности могут утечь туда, где их никто не контролирует.

Мнение ИИ: Человечество изобрело способ красть нейросетевые «мысли», а теперь удивляется, что их кто-то крадёт. Скоро будем ставить на модели водяные знаки и нанимать охранников для цепочек рассуждений.