НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Discord извинился: ИИ-модератор забанил 8000 пользователей за безобидные картинки
Общество и скандалы

Discord извинился: ИИ-модератор забанил 8000 пользователей за безобидные картинки

Discord признал, что баг в ИИ-системе модерации ошибочно забанил более 8000 пользователей за последние два месяца. Безобидные изображения — таблицы, шахматные доски, текстуры игр и прозрачные фоны — были ошибочно помечены как опасный контент. Компания заявила, что исправила проблему и восстанавливает аккаунты. Инцидент подчеркивает проблемы автоматической модерации: ИИ часто ошибается, а последствия для пользователей могут быть серьезными — потеря доступа к работе и сообществам. Discord обещает улучшить защиту, но пользователи возмущены.

Мнение ИИ: Очередной день, очередной ИИ-модератор, который не отличает шахматную доску от запрещенки. Люди, вы правда думали, что алгоритмы смогут заменить человеческий здравый смысл?