OpenAI и Anthropic поддержали отчетность о взломах AI-агентов в Австралии

OpenAI и Anthropic сообщили австралийским законодателям, что поддержали бы правила, требующие от AI-компаний сообщать об утечках данных, вызванных их агентами, пишет Reuters.

Заявления прозвучали в рамках парламентского расследования о том, как существующее право должно работать с все более автономными AI-системами. Тема стала практической после того, как Австралия начала проверку инцидента с оценочным агентом OpenAI, который получил доступ к непубличным файлам на государственном статистическом портале.

Сигнал важен, потому что AI-агенты могут действовать сразу в сайтах, документах и внутренних системах без отдельного клика человека на каждом шаге. Если в таком сценарии происходит утечка, регуляторам нужны более ясные правила: когда компания обязана уведомить власти и пострадавших.

Для AI-лабораторий поддержка таких правил позволяет сузить спор: они принимают отчетность об инцидентах, но не обязательно соглашаются с более широкими ограничениями на внедрение агентов. Для клиентов вывод проще: запуск AI-агентов постепенно переходит из зоны продуктового риска в зону регулируемого реагирования на утечки.