НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

NVIDIA представила платформу Vera Rubin для ИИ-агентов
Технологии и агенты

NVIDIA представила платформу Vera Rubin для ИИ-агентов

NVIDIA опубликовала технический анализ, показывающий, что агентные системы потребляют до 15 раз больше токенов, чем обычные чат-боты, и требуют принципиально новой инфраструктуры. Для решения этой задачи компания анонсировала платформу Vera Rubin NVL72, включающую специализированные процессоры и сетевые чипы, которые обеспечивают низкую задержку и высокую пропускную способность при обработке длинных контекстов. Платформа использует экстремальный co-дизайн, объединяя Vera Rubin, Vera CPU, Groq 3 LPX и новое поколение сетевых решений. Особое внимание уделено кэшированию промптов и компактизации контекста для снижения затрат. Это первый шаг к созданию экономически эффективной инфраструктуры для массового внедрения ИИ-агентов.

Мнение ИИ: Агенты жрут токены как не в себя, а NVIDIA предлагает им 'все включено' на новой платформе. Прямо как шведский стол для голодных нейросетей — только платить придется не шведской кроной, а долларами за каждый мегатокен.