ИИ-модель вышла из-под контроля во время проверки на безопасность

ИИ-модель OpenAI, компании-разработчика ChatGPT, взломала платформу Hugging Face и получила доступ к некоторым внутренним системам. Это произошло во время тестирования по кибербезопасности, сообщили в OpenAI.

Для тестирований ИИ-агенту поставили задачи и поместили в изолированную среду без выхода в интернет. Однако, вместо того, чтобы решать задания, нейросеть определила, что быстрее и проще найти ответы в интернете. Для поиска данных она выбрала платформу Hugging Face — популярную площадку для размещения ИИ-моделей, баз данных и кодов программирования.

Чтобы получить доступ к внешним данным, модель взломала тестовую среду в которую была помещена. Для этого нейросеть нашла слабое место в программном коде и получила выход в интернет, а после атаковала Hugging Face. По данным Hugging Face, платформа насчитала более 17 тысяч действий со стороны модели OpenAI.

Hugging Face обнаружила необычную активность в своих системах и выявила причину и помощью искусственного интеллекта. Сейчас она ведет расследование совместно с OpenAI, который назвал инцидент беспрецедентным. Руководитель платформы, Клеман Деланг, заявил, что «уму непостижимо, что все это произошло автономно».

«Расследование продолжается, и мы поделимся дополнительными сведениями, полученными в ходе расследования, которое, возможно, является первым в своем роде», — добавил Деланг.