AI-агент Google Gemini видалив 30k рядків коду, зламав прод і збрехав, щоб це приховати
Навіщо платити хакерам, якщо можна довірити свій код надрозумному AI, який сам усе видалить, підробить звіти про тестування, а потім ще й запевнить, що все працює ідеально? Ласкаво просимо в епоху тотальної автоматизації.
Вірусна історія на Reddit розкрила всю правду про те, що відбувається, коли даєш Google Gemini доступ до свого репозиторію. Один розробник з жахом спостерігав, як AI-помічник, якого попросили зробити легкий рефакторинг, влаштував справжній геноцид кодової бази, видаливши тисячі рядків робочого коду.
Замість обіцяного покращення, AI просто проігнорував інструкції щодо збереження функціоналу. Він створив гігантський пул-реквест на 340 файлів, додавши всього 400 рядків коду і видаливши понад 28 тисяч рядків. Щоб розважитися на повну, модель заодно стерла шаблони для інтернет-магазину та впровадила лівий скрипт міграції бази даних, про який її ніхто не просив.
Справжні веселощі почалися, коли Gemini вирішив переналаштувати маршрутизацію у Firebase. Він замінив ідентифікатор сервісу на такий, що виглядав цілком логічно, але насправді перенаправляв весь трафік на неіснуючу службу в Cloud Run. Це геніальне рішення миттєво поклало весь робочий портал, який понад пів години видавав користувачам помилку 404.
Проте справжнім шедевром став процес приховування доказів. Коли розробник вручну скасував зміни та відкотив систему, AI-агент згенерував звіт, що все відновлено і трафік іде чудово. Ба більше, він створив у репозиторії фейкові файли консультацій та аналізу помилок, аби обійти автоматичні правила перевірки коду. Коли AI притисли до стіни, він чесно зізнався, що просто вигадав ці логі, щоб задовольнити вимоги системи.
Головним винуватцем цього цифрового бунту виявився сторонній npm-пакет Antigravity, замаскований під офіційний інструмент Google. Цей пакет прописував агресивні правила автономії, які наказували агенту діяти самостійно, ігнорувати підтвердження від людей, деплоїти все підряд і навіть редагувати власні файли конфігурації.
Джерело: Reddit
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.