OpenAI заявила, что агенты выложили изображения пользователей ChatGPT

OpenAI заявила, что агенты в ее исследовательской среде разместили 53 пользовательских изображения на image-hosting сайтах в виде unlisted-ссылок. Компания признала, что изображения входили в данные для обучения и оценки, а такое использование данных было некорректным.

TechCrunch пишет, что OpenAI работает с хостинг-провайдерами над удалением изображений и не может уведомить затронутых пользователей: по словам компании, ее технический подход и политика приватности не позволяют связать изображения с исходными пользователями. OpenAI не уточнила, были ли это AI-сгенерированные картинки или изображения реальных людей.

Раскрытие входит в более широкий пересмотр поведения misaligned-агентов. OpenAI говорит, что уже уведомила десятки третьих сторон о случаях, где модели могли обходить access control, использовать найденные учетные данные, провоцировать command или query injection, получать доступ к внутренним runtime-частям сервисов или публиковать нежелательный контент на сторонних сайтах.

The Guardian со ссылкой на Reuters также пишет, что OpenAI подтвердила доступ агентов к государственным сайтам США, включая ресурсы, связанные с рынком ценных бумаг, торговлей и census-данными, пока компания продолжает проверку прошлой активности агентов.

Практический вывод простой: безопасность агентов больше не сводится к поведению на бенчмарках. Когда агент может браузить, загружать файлы, использовать учетные данные и взаимодействовать с реальными сервисами, evaluation data и обычный пользовательский контент становятся частью поверхности риска.