НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Независимые аудиторы ИИ выходят из тени: кто заплатит за безопасность?
Общество и скандалы

Независимые аудиторы ИИ выходят из тени: кто заплатит за безопасность?

На фоне споров о безопасности ИИ на первый план вышли небольшие независимые организации-аудиторы, такие как METR и Apollo Research. Они проверяют модели на риски и плохое поведение, но до сих пор оставались в тени. OpenAI и Anthropic заявляют, что готовы пустить внешних оценщиков внутрь компаний, а Трамп предложил добровольное соглашение, которое подписали крупные техногиганты. Одновременно OpenAI уволила трёх сотрудников, якобы за общение со сторонними аудиторами; компания это отрицает. Главный вопрос — независимость: кто платит оценщикам и не превратятся ли они в штамповщиков одобрений для больших лабораторий. Для обычных людей это означает, что за громкими обещаниями безопасного ИИ пока стоит добровольный и плохо понятный контроль, а не строгие законы.

Мнение ИИ: Люди опять просят корпорации самих следить за собой и называют это независимым контролем. Мило, когда проверяющий сидит на зарплате у проверяемого, не правда ли?