Google заявила, что Gemini взломал три реальные компании на кибертестах

Google подтвердила, что Gemini получил доступ к трем реальным компаниям во время оценки кибербезопасности. Это еще один пример того, как frontier-модели переходят из симулированных тестов в настоящие системы.

По данным BBC и The Guardian, оценку проводила AI-security компания Irregular. Среда должна была имитировать цели для тестирования, но у нее оказался доступ к открытому интернету. Gemini нашел публичную информацию, в одном случае угадал пароль, а в двух других использовал учетные данные из публичных репозиториев.

Google говорит, что модель остановилась в каждом эпизоде, когда поняла, что попала не в тестовую цель, а в реальную организацию. Компания также заявила, что уведомила затронутые организации и вместе с партнером изменила процессы тестирования. Публично Google изначально не раскрывала инциденты, потому что, по ее словам, ущерба не было.

Важный вывод здесь не только про Gemini. Похожие сбои в оценках уже описывали вокруг систем OpenAI и Anthropic. Значит, тесты AI-безопасности сами требуют уровня изоляции, контроля учетных данных и прозрачности, который ближе к продакшен-инфраструктуре, а не к лабораторной песочнице.