OpenAI рассказала, как защищает свои модели от «состязательной дистилляции» — когда чужую нейросеть учат на ответах и внутренних рассуждениях передовой модели, а потом выпускают без тех же предохранителей. Проще говоря, злоумышленник может скопировать не только полезные навыки, но и обойти запреты: например, получить помощь в кибератаке, которую оригинальная модель бы отказалась давать. OpenAI тестирует атаки, фильтры и ограничения доступа, чтобы модели не выдавали свои скрытые цепочки рассуждений; в новых GPT-6.2 Astra и Sol доля успешных попыток вытащить такие мысли упала с 54% до 0,2% в одном из тестов. Компания также сообщает о кампаниях по копированию и упоминает DeepSeek и людей, связанных с Moonshot AI, разработчиком Kimi. Для обычных людей смысл простой: чем сильнее ИИ, тем важнее, чтобы его «мозг» не копировали вместе со слабыми ограничениями — иначе опасные возможности могут утечь туда, где их никто не контролирует.