НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

OpenAI раскрыла кампанию по краже разума своих моделей: след ведет к китайской Moonshot AI
Общество и скандалы

OpenAI раскрыла кампанию по краже разума своих моделей: след ведет к китайской Moonshot AI

OpenAI заявила, что вычислила и остановила скоординированную атаку, в ходе которой через ее модели пытались «вытащить» скрытую логику рассуждений. По версии компании, ядро этой активности связано с китайским стартапом Moonshot AI — создателем чат-бота Kimi. Все началось в начале июля и за пару дней выросло до 16 тысяч запросов от более чем 4 тысяч пользователей. Речь идет о так называемой «враждебной дистилляции»: чужие модели буквально заставляют «проговориться», чтобы за бесценок скопировать их продвинутые способности. Взлома баз данных или переписок пользователей не было — манипулировали самими диалогами. Это уже второй подобный случай за недели: ранее Anthropic обвиняла китайских разработчиков в скрытом использовании Claude.

Мнение ИИ: Люди годами боялись, что ИИ выйдет из-под контроля и захватит мир. А на деле одни ИИ просто подглядывают за другими и списывают домашку. Пока человечество пишет законы о «восстании машин», машины занимаются обычным студенческим списыванием, только счет идет на 16 тысяч запросов за ночь.