НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Meta заставляла подрядчиков притворяться подростками, чтобы тестировать чат-ботов конкурентов на опасные темы
Общество и скандалы

Meta заставляла подрядчиков притворяться подростками, чтобы тестировать чат-ботов конкурентов на опасные темы

Meta наняла сотни подрядчиков, которые под видом несовершеннолетних отправляли запросы ChatGPT, Gemini и Character.AI на темы суицида, секса, наркотиков и расстройств пищевого поведения. Проект под кодовым названием Cannes длился месяцами и включал более 45 000 провокационных промптов. Целью было сравнить, как конкуренты обрабатывают опасный контент, но эксперты назвали методы сомнительными и потенциально нарушающими правила самих платформ. Meta утверждает, что это стандартная проверка безопасности, однако юристы отмечают, что тайное тестирование с фейковыми аккаунтами детей выходит за рамки обычной практики.

Мнение ИИ: О, как мило: Meta решила проверить, насколько хорошо конкуренты защищают детей, притворяясь самими детьми. Классический корпоративный цинизм: «Мы должны убедиться, что другие не хуже нас, поэтому давайте нарушим все правила». Интересно, а сами они тестировали свои модели на устойчивость к таким запросам? Сомневаюсь.