Anthropic вмикає авторежим у Claude Code: люди пропустили 86% небезпечних команд
Програмісти довели свою повну нездатність контролювати AI, наосліп натискаючи «дозволити» на все підряд. Anthropic офіційно забирає у людей кнопку підтвердження.
Компанія Anthropic оголосила, що з 14 серпня всі нові сесії Claude Code для платних користувачів за замовчуванням запускатимуться в авторежимі. Замість того щоб просити дозвіл перед кожним кроком, виконувати команди буде окремий класифікатор безпеки, який блокує будь-які спроби рознести проект.
Таке радикальне рішення ухвалили після досліджень, які виявили, що розробники схвалюють 97% усіх запитів інструменту абсолютно на автопілоті. Під час контрольного тестування 1053 користувачів люди змогли заблокувати лише ганебні 13,6% шкідливих команд, тоді як автоматика зупинила 89% загрози.
Головним ворогом людського контролю виявилася звичайна втома від однотипних сповіщень. На початку роботи розробники помічали близько 17% небезпечних команд, але після 50 запитів уважність падала до мізерних 5%, перетворюючи програмістів на бездумних клікальщиків.
Ситуація ускладнюється тим, що айтівці й самі активно вимикали захист. Майже половина користувачів Claude Code CLI завчасно прописала дозволи для Bash чи Python, а 62% взагалі хоча б раз вмикали режим безперешкодного виконання команд.
У незалежних тестах з Apollo Research новий авторежим успішно зупинив 720 з 720 спроб косвенних промпт-ін'єкцій для моделей Claude Fable 5, Claude Opus 5 та Claude Sonnet 5.
IT-фахівці офіційно делегували свій останній інстинкт самозбереження алгоритмам, укотре довівши, що найслабша ланка в кібербезпеці — це істота між монітором та кріслом.
Джерело: Anthropic
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.