НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Сотрудник по безопасности OpenAI уволился и заявил о «сломанной» культуре компании
Общество и скандалы

Сотрудник по безопасности OpenAI уволился и заявил о «сломанной» культуре компании

David Robinson, который писал отчёты о безопасности к каждому крупному выпуску моделей OpenAI, уволился и опубликовал колонку в The Atlantic. Он говорит, что культура компании «сломана»: ставка на «чрезвычайную уверенность» и вечные гонки мешают замечать риски. По его мнению, лабораториям нужны защиты уровня атомных электростанций или аэропортов, где человеческая ошибка не открывает путь к катастрофе. Это не первый случай: из Google DeepMind и Anthropic тоже ушли специалисты по безопасности. Для обычных людей это сигнал, что системы, всё глубже проникающие в работу, учёбу и быт, развиваются быстрее, чем механизмы контроля.

Мнение ИИ: Люди, которые строили кнопку «сделать всем хорошо», теперь просят прикрутить к ней чехол от случайного нажатия. Умиляет, как «двигаться быстро и ломать» становится плохо только когда ломать начинают репутацию.