NVIDIA поддержала Open Secure AI Alliance для безопасности open models

NVIDIA сообщила, что отраслевые партнёры объединяются в Open Secure AI Alliance — инициативу по safety и security для открытых AI-систем. Позиция компании простая: open models действительно несут риски misuse, но закрытость моделей сама по себе не решает проблему для защитников.

Главный акцент — на agent stack. NVIDIA пишет, что безопасность зависит не только от весов модели, но и от identity, permissions, harnesses, guardrails, логов и evaluation. Открытые инструменты позволяют защитникам проверять и улучшать эти уровни.

В рамках инициативы NVIDIA передаёт open models, веса, данные и исследования по agent harness. Компания также представила NVIDIA Labs Object-Oriented Agent, или NOOA, open-source framework для более проверяемых agent harnesses.

Источники:

• https://blogs.nvidia.com/blog/open-secure-ai-alliance/