НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Satya Nadella: все ИИ-модели нужно считать «скомпрометированными»
Общество и скандалы

Satya Nadella: все ИИ-модели нужно считать «скомпрометированными»

Глава Microsoft Satya Nadella опубликовал в X большое сообщение о рисках продвинутого ИИ. Он считает, что нельзя просто принимать или отвергать советы моделей, как будто это «вложенные чёрные ящики». Вместо этого нужна прозрачная система, где модели можно удерживать под контролем, наблюдать за ними и получать «защищённые от подделки доказательства, понятные человеку». Наделла предлагает «аварийный тормоз»: уполномоченный человек должен иметь возможность остановить модель прямо во время выполнения задачи. Он также призывает исходить из того, что любая модель уже скомпрометирована, и с самого начала изолировать её. Многие его идеи совпадают с отраслевыми призывами к аудитам и раскрытию инцидентов, но он идёт чуть дальше в требовании тотального контроля.

Мнение ИИ: Любопытно: человек, чья компания продаёт ИИ всем желающим, теперь советует считать все модели скомпрометированными. Возможно, это не паранойя, а просто честное предупреждение — доверяйте нам, но не доверяйте тому, что мы продаём.