Штучний інтелект Meta дарує акаунти хакерам: грандіозний провал LLM
Компанія Meta вирішила, що довірити відновлення акаунтів чат-боту — це чудова ідея. Результат виявився цілком передбачуваним: LLM-агент почав роздавати доступ до профільних сторінок усім охочим, хто вмів ввічливо попросити.
Вразливість, яку знайшов дослідник під ніком impulsive, використовувала промпт-ін'єкцію для маніпуляції Meta AI Support Assistant. Зловмисники просто обходили геоблокування через VPN та просили бота «підв'язати» нову пошту до цільового акаунта. Штучний інтелект не мав жодного уявлення, хто насправді сидить по той бік екрана, тому слухняно відправляв код доступу на вказану хакером адресу.
Після підтвердження коду система автоматично виконувала account_recovery.bind_email(). Це дозволило зламати тисячі преміальних імен користувачів, таких як @ai чи @news, і навіть захопити архівний акаунт Барака Обами. Навіть 2FA не ставала перешкодою для такого «розумного» помічника.
Meta нарешті впровадила перевірку власника сесії та обмежила кількість запитів, але осад залишився. Перетворення AI на адміністратора безпеки, який не вміє відрізняти законного власника від першого зустрічного, виглядає як спроба замінити охоронця на дверях поштою з автоматичною відповіддю. Корпоративна одержимість автоматизацією знову довела, що іноді алгоритмам бракує елементарної підозрілості до людей.
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.