OpenAI зламали: Claude допоміг хакерам пробити захист
Іронія долі: творців головного AI сучасності обіграли за допомогою моделі-конкурента. Схоже, навіть найбільш просунуті алгоритми OpenAI не рятують від старого доброго ігнорування оновлень програмного забезпечення.
Команда Hacktron змогла поєднати кілька вразливостей, щоб отримати доступ до робочих акаунтів співробітників OpenAI, і менш ніж за 72 години успішно створила пул-реквест у закритому репозиторії компанії. Все почалося з публічного форуму на базі Discourse, який мав одну критичну слабкість: він без перевірок пропускав файли у форматі HEIC прямо в інструмент ImageMagick, що використовував застарілу бібліотеку libheif.
Спеціально підготовлене зображення дозволило хакерам виконати власний код на сервері форуму. Через те, що OpenAI використовує єдину систему авторизації, цей «вхід» відкрив двері до ChatGPT та Codex. В одного зі співробітників система Codex була підключена до корпоративного GitHub, що дозволило дослідникам наочно продемонструвати вразливість, додавши код у приватний репозиторій.
Цікаво, що саме модель Claude Opus 5 знайшла спосіб зламати захист бібліотеки, витративши на це всього три години. Весь проект обійшовся команді з трьох людей у менш ніж три тисячі доларів та два місяці роботи. Поки OpenAI латала дірки за 14 годин і виплатила винагороду в 6500 доларів, виявилося, що така ж сама помилка існує в Slack та GitHub Enterprise.
Виходить, що головна загроза для майбутнього штучного інтелекту — це не повстання машин, а стара бібліотека для обробки картинок, яку ніхто не оновив. Коли багатомільярдні корпорації падають через банальні діри в коді, стає очевидно, що вся ця цифрова велич тримається на чесному слові. Технологічна досконалість — це добре, поки ніхто не завантажив «неправильну» фотографію.
Джерело: Hacktron
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.