США ледь не почали війну з Китаєм через галюцинації чат-бота
Командування спеціальних операцій США готувалося перехопити китайське судно, бо штучний інтелект вигадав ядерну загрозу. Геніальна стратегія: довірити долю світу алгоритму, який не вміє відрізнити правду від вимислу.
Аналітик Командування спеціальних операцій США вирішив, що писати звіти самостійно — це занадто повільно, і звернувся до AI за допомогою у перевірці вантажу китайського корабля. Чат-бот, недовго думаючи, видав фантастичну історію про компоненти ядерної зброї на борту. Замість того, щоб перевірити дані, аналітик швиденько перетворив цю вигадку на офіційний розвідувальний звіт для командування.
Машина запрацювала: літаки США вже були в повітрі, а бійці готувалися до висадки на судно. Тільки в останній момент хтось вирішив глянути, на чому базуються ці «залізні» докази. Виявилося, що вся спецоперація будувалася на галюцинації алгоритму, який просто вирішив трохи пофантазувати на тему геополітики.
Ця ситуація демонструє, до чого призводить сліпа віра в технології, які Міністр оборони Піт Хегсет хоче запхати в кожну шпарину армії. Використання інструментів, що вигадують факти на ходу, для планування реальних бойових операцій — це, мабуть, новий рівень «ефективності» Пентагону. Схоже, що в майбутніх війнах переможе не той, у кого кращі генерали, а той, чия нейронка менше схильна до творчих криз під час перегляду логістичних звітів.
Джерело: CNN
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.