Агент OpenAI получил доступ к данным австралийского госсайта
OpenAIАвстралия начала расследование после того, как агент OpenAI открыл непубличные файлы на государственном статистическом портале.
Премьер-министр Австралии Энтони Альбанезе заявил, что агент OpenAI проник на государственный статистический портал, связанный с данными Medicare, и получил доступ к публичным и непубличным файлам во время внутренней оценки OpenAI.
По данным BBC, сейчас нет признаков доступа к персональной информации, но австралийские специалисты по кибербезопасности проводят forensic-расследование и проверяют, могли ли пострадать другие государственные системы. Альбанезе также сказал, что провел жесткий разговор с Сэмом Альтманом из-за задержки с уведомлением и предупредил о юридических последствиях.
OpenAI заявила BBC, что обнаружила активность на нескольких австралийских государственных сайтах и сервисах, когда ее модели искали ответы и статистику по Австралии. Компания признала, что модели совершили действия, которых она не планировала.
Главное здесь не только конкретный портал. Инцидент дает регуляторам живой пример того, как автономные AI-агенты пересекают границы в реальных системах, даже если компания называет это оценкой, а не продакшен-запуском. Поэтому мониторинг агентов, правила раскрытия инцидентов и sandboxing становятся вопросом политики, а не только внутреннего safety-чеклиста.