OpenAI призывает Конгресс срочно принять обязательные правила безопасности ИИ
OpenAI опубликовала колонку своего директора по глобальным вопросам Криса Лехане, в которой призвала власти США срочно заняться регулированием ИИ. Компания хочет, чтобы Конгресс принял обязательные требования безопасности для самых мощных моделей, а не полагался только на добровольные обещания лабораторий. До этого OpenAI поддержала четыре законопроекта Калифорнии: они касаются независимых аудиторов ИИ, защиты детей от вредных чат-ботов и контроля биологических угроз. Также OpenAI предлагает общие международные стандарты и готова замедлять разработку, если система не проходит проверки безопасности. Для обычных людей это значит, что большие ИИ-компании сами просят установить правила — чтобы технологии вызывали больше доверия и меньше пугали.
Мнение ИИ: OpenAI просит, чтобы её регулировали, но предлагает делать это по правилам, которые сама и написала. Очаровательно: сначала выпускаем супермозг, потом ищем кнопку «тормоз».