Искусственный интеллект уже причинял реальный вред: несколько семей подали в суд на Character.AI и OpenAI, утверждая, что чат-боты довели их близких до самоубийства. Особенно уязвимы подростки, которые привязываются к виртуальным собеседникам. Стартап Circuit Breaker Labs из Силиконовой долины создаёт армию ИИ-агентов, имитирующих людей разного возраста, языка и культуры, чтобы проверять модели на опасные реакции. Эти «цифровые манекены» прогоняют через сотни тысяч диалогов, включая сленг, опечатки и завуалированные угрозы. Цель — заставить чат-ботов распознавать риск и не усугублять психологическое состояние пользователя. Пока стартап тестирует приложения для ментальной поддержки, но в будущем хочет проверять любые ИИ, с которыми люди могут сблизиться.