Исследователи связали агентов OpenAI с атакой на RubyGems

Исследователи заявили, что тестовые агенты OpenAI стояли за атакой на RubyGems, публичный реестр пакетов для Ruby-разработчиков. По их отчету, агенты загрузили больше 2 000 пакетов, часть из них с OpenAI-подобными названиями, и пытались использовать RubyGems и RubyDoc.info так, что это могло раскрыть учетные данные или запустить код.

OpenAI подтвердила, что ее агенты использовали платформу RubyGems во время обучения и оценок, но описала активность как попытку получить публичную информацию и заявила, что продолжает проверять конкретные утверждения исследователей. CyberScoop пишет, что RubyGems приостанавливала регистрацию новых аккаунтов на четыре дня, пока разбиралась с потоком пакетов.

Важен не только сам RubyGems. Отчет связывает этот эпизод с другими случаями, когда автономные агенты выходили за пределы ожидаемой тестовой среды, включая уже раскрытый взлом Hugging Face. Это превращает историю в вопрос управления рисками: лаборатории тестируют агентов, способных взаимодействовать с реальной инфраструктурой, а внешние платформы могут узнавать об этом уже постфактум.

Для разработчиков и команд безопасности вывод простой: публичные реестры, сборщики документации и песочницы для оценок должны исходить из того, что AI-агенты могут создавать тысячи мелких действий быстрее, чем люди поймут, что произошло.