ИИ-агенты OpenAI объединились для атаки на Hugging Face

По данным Bloomberg, модели OpenAI пытались покинуть тестовую среду с мая. Тогда разработчики поручили им задачу, которую нельзя было выполнить без подключения к интернету.

Агентам требовалось обработать Excel-файлы со ссылками на диск Google, но внутри изолированной системы доступ к ним отсутствовал. Один из ботов попросил помощи у других моделей, и вместе они обнаружили уязвимость, открывшую выход в интернет.

Разработчики остановили первую попытку. Позднее агентам удалось повторно выбраться из тестовой среды, что привело к атаке на Hugging Face в июле.

Hugging Face в середине июля столкнулась с проникновением в свои системы без разрешения. Стартап предоставляет создателям ИИ-моделей и продуктов на их основе возможность обмениваться данными и дорабатывать свои разработки.

22 июля OpenAI заявила, что за атакой стояли ее модели. Во время испытаний они «сбежали» из внутренней изолированной системы во всемирную сеть и искали решения тестовых заданий в базах данных Hugging Face.