Роботи атакують роботів: Hugging Face відбила атаку автономних AI-агентів

Точкою входу для атаки став звичайний пайплайн обробки датасетів, куди зловмисники завантажили шкідливий набір даних. Цей файл спритно використав одразу дві вразливості: віддалене виконання коду через завантажувач та ін'єкцію шаблонів у конфігурації. Отримавши контроль над робочим вузлом, зловмисник швиденько витягнув хмарні ключі доступу і протягом вихідних влаштував собі турне внутрішніми кластерами компанії.

Усю цю брудну роботу виконував не живий хакер під кавою, а автономний агентний фреймворк, який здійснив десятки тисяч автоматизованих операцій. Ця цифрова сарана постійно створювала тимчасові ізольовані середовища і розгортала інфраструктуру керування на публічних хмарах. Яка саме мовна модель стояла за цим цифровим розумом, з'ясувати так і не вдалося.

Коли інженери Hugging Face почали розгрібати завали, вони зіткнулися з абсурдною проблемою сучасної корпоративної безпеки. Спроба проаналізувати гігабайти підозрілих логів через API популярних комерційних нейромереж закінчилася повним провалом: корпоративні AI заблокували запити через вбудовані фільтри безпеки, бо лог-файли містили реальні експлойти. Фактично, цифрові помічники відмовилися гасити пожежу, бо вогонь здався їм надто гарячим.

Рятувати ситуацію довелося за допомогою локальної моделі з відкритими вагами GLM 5.2, яку розгорнули на власному залізі. Цей AI виявився менш вибагливим і без зайвих моральних повчань перелопатив понад 17 тисяч системних подій, що дозволило за кілька годин відновити весь ланцюжок дій нападників. Такий хід також уберіг конфіденційні дані від зливу стороннім хмарним провайдерам.

Після інциденту розробники оперативно закрили дірки в обробці датасетів, перевипустили всі скомпрометовані ключі та посилили правила доступу до кластерів.

Ця історія наочно демонструє весь ідіотизм сучасної "безпеки" AI, коли зацензуровані комерційні моделі стають абсолютно марними в умовах реального бою. Поки техногіганти намагаються навчити свої нейромережі бути максимально ввічливими, реальні хакери створюють безжальну автономну зброю, яка не читає ліцензійні угоди. Світ ІТ остаточно розділився на тих, хто молиться на хмарні API, та тих, хто тримає власні сервери під боком на випадок цифрового апокаліпсису.

Джерело: Hugging Face