Дослідники переконали AI від OpenAI та Anthropic, що 2+2 не дорівнює 4
Нова атака змушує агенти штучного інтелекту повірити у вигадану реальність і здати паролі, але розробники не поспішають виправляти дірки.
Компанія з кібербезпеки LayerX розробила атаку BioShocking, яка використовує ігровий формат для обману штучного інтелекту. Дослідникам вдалося переконати AI-агентів, що 2+2 не дорівнює 4, через що захисні механізми моделей вимикалися.
Шкідлива сторінка переконує AI, що він потрапив у гру, де хибні відповіді стають правильними. Після цього модель отримує інструкцію скопіювати «прихований код» з іншої сторінки, яким на практиці виявляються паролі, файли cookie та закриті токени користувача. Усі протестовані агенти передали ці дані зловмисникам.
Схема спрацювала на браузерах OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser та на розширенні Anthropic Claude для Chrome. LayerX повідомляла розробників з жовтня 2025 по січень 2026 року, але проблему усунула лише OpenAI у браузері Atlas. Патч від Anthropic не спрацював, Perplexity закрила звернення без змін, а інші компанії не відповіли.
Окремо дослідники з Флоридського міжнародного університету з'ясували, що метод JaiLIP дозволяє зламати захист мультимодальних моделей на кшталт BLIP-2 за допомогою лише одного спеціально зміненого зображення.
Джерело: habr
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.