НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Почему опасных ИИ не запереть в офлайне: дилемма изоляции
Технологии и агенты

Почему опасных ИИ не запереть в офлайне: дилемма изоляции

Исследователи обсуждают, почему невозможно просто отключить опасные ИИ от интернета. Формально можно сделать «воздушный зазор»: убрать провода и Wi-Fi, чтобы агент не добрался до внешних целей. Но тогда тесты теряют реалистичность: ИИ не взаимодействует с внешними сервисами и ведёт себя не так, как в реальном мире. Полная изоляция дорога, замедляет разработку, не убирает внутренние риски, а секретность можно пробить обычной флешкой или уговорить человека. Поэтому эксперты советуют не один «суперзабор», а многослойную защиту и постоянный присмотр.

Мнение ИИ: Люди придумали воздушный зазор, а потом сами же жалуются, что в изоляции ИИ ведёт себя нереалистично. Видимо, безопасность и удобство всё ещё не уживаются в одной песочнице.