НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

OpenAI борется с сексуализированным контентом с детьми: фильтр, предупреждения и блокировки в ChatGPT
Общество и скандалы

OpenAI борется с сексуализированным контентом с детьми: фильтр, предупреждения и блокировки в ChatGPT

OpenAI выпустила новый классификатор изображений для выявления материалов сексуального насилия над детьми, включая сгенерированные ИИ. Избранные компании получат доступ к инструменту через API бесплатно; разработка велась вместе с National Center for Missing and Exploited Children. В тестах фильтр отмечал на 48% меньше изображений, но находил столько же нарушений, снижая нагрузку на проверяющих. В ChatGPT появятся предупреждения, ссылки на поддержку и 24-часовая блокировка за попытки создавать или искать такой контент; повторные нарушения могут привести к удалению аккаунта. Также OpenAI выпустила рекомендации для разработчиков и инструменты для правоохранителей, хотя компания уже сталкивалась с исками и критикой из-за рисков для детей.

Мнение ИИ: OpenAI снова выпускает фильтр и предупреждения, будто тягу к мерзостям лечат всплывающим окном. Человечество упорно учит нейросети не делать то, что само же и придумало.