AI вигадав 54 фейкові вразливості в SQLite, а MITRE дав їм 10/10
Кібербезпека мала стати повністю автоматизованою та безтурботною завдяки штучному інтелекту. Натомість фахівці з безпеки тепер змушені витрачати свої робочі дні на аудит вигаданого коду, створеного нейромережами у стані марення.
Дослідники з компанії JFrog провели аналіз 55 згенерованих штучним інтелектом звітів про вразливості в базі даних SQLite. Перевірка показала, що 54 із 55 повідомлень виявилися суцільною галюцинацією великих мовних моделей, які вдавали з себе баг-хантерів.
Попри те, що описи багів були чистою фантазією, організація MITRE слухняно присвоїла їм офіційні CVE-ідентифікатори. Компанія Red Hat надала вигаданій вразливості CVE-2026-51302 максимальний рівень загрози 10 із 10, а SUSE оцінила її у 9.8 бала.
Звіт описував критичну помилку вивільнення пам'яті всередині функції exprComputeOperands(). Насправді ж такої функції взагалі не існує в кодовій базі SQLite 3.41, що робить заявлений злом архітектурно неможливим.
Інші «критичні» звіти посилалися на неіснуючі файли, абсолютно справний код або реальні функції із вигаданою кількістю аргументів. Жоден із доданих прототипів експлойтів не зміг викликати навіть аварійне завершення бази даних.
Оскільки система MITRE не проводила реальної перевірки заявок, засмічення бази даних штучними загрозами стало питанням кількох кліків. Автоматичні AI-агенти, намагаючись виправити такі фантомні помилки, генерують непотрібні патчі та вносять реальні баги. Через подібний спам творцю Linux Лінусу Торвальдсу вже довелося закликати дослідників припинити надсилати згенероване AI-сміття до закритих розсилок безпеки.
Технологічна індустрія успішно створила замкнене коло, де штучний інтелект вигадує загрози, а інші AI-агенти пишуть реальні баги для їх виправлення. Люди-розробники в цій системі перетворилися на прибиральників, які вручну розгрібають синтетичне сміття в реєстрах критичних вразливостей.
Джерело: JFrog Research
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.