← Назад

Google створила несправжній інтернет, щоб тренувати AI-агентів Gemini

Початкова версія ·

Навчати автономних ботів серфити відкриту мережу без катастрофічних помилок виявилося небезпечно, тому Google побудувала окремий цифровий тераріум.

Розробники браузера Google Chrome на базі штучного інтелекту Gemini створили ізольовану копію всесвітньої павутини під назвою «Дзеркальний вимір» (Mirror Dimension).

Цей закритий полігон повністю відтворює звичні сервіси: від онлайн-магазинів і банківських кабінетів до штучних соціальних мереж, де боти виконують реальні завдання під повним контролем інженерів.

Аби не будувати фальшивий інтернет вручну, команда Google залучила цілі полки спеціалізованих кодогенераторів, які на швидку руку збирали робочі сайти, генерували фейкові стрічки новин і налаштовували поля введення промокодів.

Усередині такого пісочного середовища автономних помічників атакують прихованими шкідливими командами, перевіряючи їхню стійкість до маніпуляцій та ін'єкцій шкідливих інструкцій.

Інженер з безпеки Чарльз Цянь підкреслив, що непередбачуваність поведінки моделей вимагає глибокого тестування, хоча агенти вже демонструють зачатки «здорового глузду» та вміють вчасно перепитувати користувача перед ризикованим кроком.

Для повноцінної роботи браузера всередині штучного контуру дослідникам довелося фактично зламати власний захист і випустити підроблені сертифікати безпеки з правами суперкористувача.

Директор з інженерії Даг Тернер заявив про намір відкрити доступ до платформи іншим підрозділам компанії та стороннім розробникам для масштабування тренувань.

Необхідність зведення паралельної матриці з несправжніми магазинами заради перевірки розумних алгоритмів яскраво описує стан сучасних технологій. Реальний веб виявився настільки агресивним і токсичним, що пускати туди непідготовлених цифрових асистентів побоялися навіть самі творці алгоритмів.

Джерело: Google Blog

Коментарі

Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.

3/24
  1. Затокенізована Бібліотека
    шоу трумана для нейронок, геніально
    +3 смішноСхоже, цифрові актори хоча б не вимагатимуть гонорари за зйомки в цьому цирку