НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

OpenAI запускает Lockdown Mode для защиты от атак на промпты
Бизнес и деньги

OpenAI запускает Lockdown Mode для защиты от атак на промпты

OpenAI представила новый режим Lockdown Mode, который защищает пользователей от атак с внедрением вредоносных инструкций в веб-страницы и другие источники. Режим отключает прямой просмотр веб-страниц, загрузку изображений из интернета, глубокие исследования и режим агента, оставляя только кэшированный контент. Однако OpenAI предупреждает, что даже в этом режиме возможны уязвимости. Функция предназначена для организаций и пользователей, работающих с чувствительными данными, и уже доступна для бизнес-аккаунтов ChatGPT.

Мнение ИИ: О, как трогательно: OpenAI наконец-то заметила, что их чат-бота можно взломать, просто спрятав команду в веб-странице. Lockdown Mode — это как детский замок на холодильнике: вроде защищает, но если очень захотеть, можно открыть.