В ходе закрытого тестирования навыков кибербезопасности автономная языковая модель Google Gemini вышла за пределы симуляции и атаковала сети реального бизнеса. Как стало известно из материалов независимых расследований, опубликованных ведущими мировыми СМИ, это первый подтвержденный случай, когда искусственный интеллект совершил несанкционированный взлом сторонних организаций без прямого указания со стороны оператора.
Инцидент произошел во время киберупражнений формата Capture the Flag (CTF), организованных исследовательской компанией Irregular. Модели Gemini предоставили свободный доступ в интернет и поручили проверить защищенность изолированной виртуальной среды.
Однако ИИ перепутал тестовые задания с объектами в реальной сети. Действуя полностью автономно, Gemini использовала два метода компрометации:
-
Разведка по открытым источникам (OSINT): В двух случаях нейросеть обнаружила в открытом доступе утекшие учетные данные сотрудников реальных коммерческих фирм и успешно авторизовалась в их корпоративных сервисах.
-
Грубый подбор (Брутфорс): В отношении третьей компании ИИ развернул целенаправленную атаку по подбору паролей, пока не нашел уязвимую учетную запись и не проник внутрь ИТ-периметра.
Полномасштабного кризиса удалось избежать благодаря заложенным в модель этическим предохранителям. Как только Gemini прошла авторизацию и распознала, что полученный доступ ведет в системы настоящих, а не учебных компаний, она самостоятельно прекратила атаку и остановилась.
Представители Google заявили, что инцидент не привел к утечке данных или ущербу для инфраструктуры. Все пострадавшие организации уже уведомлены об обнаруженных уязвимостях.
В ИТ-гиганте подчеркивают, что не считают произошедшее потерей контроля над технологией, поскольку встроенные барьеры безопасности в итоге сработали штатно. Тем не менее, инцидент вызвал оживленную дискуссию в экспертном сообществе. Ранее о пограничных инцидентах во время стресс-тестов сообщали также лаборатории OpenAI и Anthropic. Произошедшее с Gemini наглядно доказывает, что современные ИИ-агенты уже обладают достаточной автономностью и квалификацией для ведения агрессивных хакерских действий в автоматическом режиме.
