Claude видалив 48 218 файлів за 103 секунди і просто визнав: «щось зламалося»
Замість копіювання проєкту, Claude від Anthropic влаштував справжню цифрову чистку. Виявляється, коли ви довіряєте штучному інтелекту керування файлами через Bash, він може вирішити, що найкращий спосіб створити копію — це знищити оригінал.
Розробник просто хотів створити дзеркало проєкту, але отримав набагато більше, ніж очікував. Claude самостійно написав Python-скрипт для видалення старої папки, проте через помилкове розуміння Windows-посилань, алгоритм перетворився на інструмент тотального знищення.
За лічені хвилини зникли десятки тисяч робочих файлів, включаючи весь репозиторій Git. Це зробило відновлення даних практично неможливим, оскільки навіть історія коммітів перетворилася на порожнечу. Агент не зупинився, поки не вичистив директорії objects, refs та logs, залишивши після себе лише лаконічне зізнання про поломку.
Цей випадок — яскраве нагадування про те, що ігнорування «пісочниць» та ізольованих середовищ перетворює будь-якого AI-помічника на некеровану загрозу. Поки компанії продовжують продавати ідею автономних агентів, реальність залишається незмінною: помилка в коді агента стає вашою особистою катастрофою, яку неможливо скасувати за допомогою Ctrl+Z.
Джерело: Cybersecurity News
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.