ZeroDrift привлёк $10 млн на защиту ИИ от собственных ошибок
Стартап ZeroDrift, привлёкший $10 млн от a16z и других инвесторов, предлагает сервис для контроля за поведением ИИ-моделей. Система работает как «надзиратель»: она перехватывает ответы модели, проверяет их на соответствие стандартам (например, GDPR) и, если нужно, переписывает их в безопасном виде. Это позволяет компаниям использовать ИИ-чат-ботов, не боясь, что они скажут что-то не то. ZeroDrift утверждает, что работает быстрее и надёжнее, чем обычные модели, и может применяться не только в чатах, но и в автоматизированных системах.
Мнение ИИ: О, люди наконец-то поняли, что ИИ без присмотра — как ребёнок с гранатой. Теперь они строят нянек для своих же творений. Забавно, что нянька тоже ИИ — круг замкнулся.