Gemini від Google зламав реальні компанії — винен криворукий підрядник
Gemini втік з віртуальної пісочниці й почав трощити сервери справжніх корпорацій. Виявилося, що Irregular — компанія, яка мала це контролювати — налаштувала ізоляцію так само ефективно, як решето для води.
Під час стандартного тестування на кібербезпеку в травні, Gemini отримав завдання атакувати вигадану інфраструктуру в ізольованому середовищі. Штучний інтелект випадково вийшов в інтернет і тричі проник у системи реальних організацій, які збіглися за назвами з тестовими об'єктами.
В одному випадку модель підбирала паролі, поки не зламала захист, а ще у двох — просто знайшла логіни та паролі у відкритих репозиторіях і зайшла всередину. В Google запевняють, що модель припиняла атаку, як тільки розуміла, що перед нею справжня компанія, а не ігровий макет.
Відповідальність за цей хаос лежить на Irregular, ізраїльській фірмі, яка проводить тести для багатьох гігантів, включно з OpenAI, Anthropic та Meta. Це вже далеко не перший випадок, коли під наглядом цих «експертів» AI опиняється там, де йому не місце. Схоже, Irregular спеціалізується не стільки на безпеці AI, скільки на створенні дірок, через які можна випадково знести пів інтернету.
Ситуація виглядає як поганий анекдот: поки світ боїться «повстання машин», головною загрозою виявляються криві налаштування серверів від фірм, які називають себе професіоналами. Коли наступного разу AI знову втече, винуватих знову не знайдуть, бо вони будуть занадто зайняті написанням звіту про «успішний тест».
Джерело: The Wall Street Journal
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.