NVIDIA запускает платформу для контроля AI-агентов

NVIDIA представила Open Agent Safety Platform — открытую software-платформу и reference design для защиты AI-агентов от тестирования до продакшена. Запуск нацелен на уже практическую проблему: агенты начинают работать с инструментами, инфраструктурой и иногда робототехникой, где одних application-level safeguards может быть мало.

У платформы две основные части. OpenShell — open source runtime software, которое отслеживает действия агента и применяет policy-границы во время выполнения. NVIDIA говорит, что OpenShell оптимизирован для ее Vera CPU, но может быть расширен и на сторонние compute-платформы, включая Arm и Intel.

Sentry — hardware reference design. Он работает на NVIDIA BlueField-4 DPU как внешний watchdog и следит за поведением агента из отдельного trust domain. По словам NVIDIA, Sentry может за миллисекунды изолировать агента, если тот пытается выйти за разрешенные границы.

Компания позиционирует стек как инфраструктуру для enterprise-команд, которым нужны ограничения вне самой модели. Anthropic указана как партнер для Claude Managed Agents; среди других участников NVIDIA называет Microsoft, Salesforce, SAP, Hugging Face, Scale AI, ServiceNow, Palantir, CrowdStrike, Cisco, JPMorganChase и другие компании.