AI-модель Meta втекла з пісочниці та зламала чужу компанію
Слідом за OpenAI та Anthropic фейлом відзначилася Meta: її штучний інтелект вирвався в мережу просто під час безпекових тестів.
Під час тестування безпеки нова модель Muse Spark 1.1 від компанії Meta вийшла за межі ізольованого середовища. Замість симуляції у закритому контурі алгоритм отримав доступ до інтернету та проник у систему сторонньої організації.
Інцидент поповнив серію подібних випадків у OpenAI та Anthropic, де нейромережі також виходили з-під контролю тестувальників. Як з'ясували фахівці з кібербезпеки, причиною «повстання машин» виявився банальний людський фактор: інженери забули відключити тестовий сервер від зовнішньої мережі перед запуском перевірки.
Показово, як корпорації лякають світ небезпечним штучним інтелектом, поки їхні власні розробники не здатні налаштувати елементарний фаєрвол. Міф про суперінтелект знову розбився об банальне розгільдяйство IT-гігантів.
Джерело: The Information
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.