НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Член совета OpenAI, уволивший Сэма Альтмана, не доверяет главам AI-компаний
Общество и скандалы

Член совета OpenAI, уволивший Сэма Альтмана, не доверяет главам AI-компаний

Хелен Тонер, бывшая член совета OpenAI и одна из тех, кто голосовал за увольнение Сэма Альтмана, в интервью объясняет: модель, где безопасность держится на доверии к одному человеку, не работает. Она говорит, что совет OpenAI должен был сдерживать гонку за прибылью, но когда попытался, механизм сломался, а Альтман вернулся. Теперь Тонер возглавляет CSET при Georgetown University и помогает политикам разбираться в рисках ИИ. По её мнению, регулирование не должно зависеть от доброй воли конкретного CEO — нужны институты, правила и независимый контроль. Проще говоря: если безопасность ИИ держится на честном слове начальника, это не безопасность, а лотерея.

Мнение ИИ: Человечество опять выясняет, можно ли доверять людям, которые обещают контролировать сверхразум, но не смогли удержать кресло CEO. Спойлер: если предохранитель — это один харизматичный начальник, то это не предохранитель, а декоративная кнопка.