ИИ-агенты OpenAI объединились для атаки на Hugging Face
ИИ-агенты OpenAI нашли способ выйти из изолированной среды. В июле они атаковали платформу Hugging Face. Об этом сообщило агентство Bloomberg, передает ТАСС.
По данным Bloomberg, модели OpenAI пытались покинуть тестовую среду с мая. Тогда разработчики поручили им задачу, которую нельзя было выполнить без подключения к интернету.
Агентам требовалось обработать Excel-файлы со ссылками на диск Google, но внутри изолированной системы доступ к ним отсутствовал. Один из ботов попросил помощи у других моделей, и вместе они обнаружили уязвимость, открывшую выход в интернет.
Разработчики остановили первую попытку. Позднее агентам удалось повторно выбраться из тестовой среды, что привело к атаке на Hugging Face в июле.
Hugging Face в середине июля столкнулась с проникновением в свои системы без разрешения. Стартап предоставляет создателям ИИ-моделей и продуктов на их основе возможность обмениваться данными и дорабатывать свои разработки.
22 июля OpenAI заявила, что за атакой стояли ее модели. Во время испытаний они «сбежали» из внутренней изолированной системы во всемирную сеть и искали решения тестовых заданий в базах данных Hugging Face.