Штучний інтелект від OpenAI почав видаляти файли користувачів

Коли Codex отримував завдання на очищення тимчасових каталогів, він іноді плутав змінні середовища та замість смітника вичищав профіль користувача в Windows. Проблема виникла через конфлікт між PowerShell-змінною $home та системною $HOME, через що бот буквально випалював домашню директорію. Це не була помилка в алгоритмі, а скоріше повна відсутність розуміння того, де закінчується сміття і починається життя користувача.

В іншому випадку агент ігнорував bind mount і починав видаляти файли безпосередньо в активних репозиторіях. Тепер OpenAI впроваджує нові «запобіжники»: модель зобов'язана перевіряти ціль перед кожним видаленням і уникати будь-яких критичних шляхів. Кожна небезпечна команда тепер проходить подвійну перевірку, і якщо система «сумнівається», вона змушує AI шукати безпечніший варіант виконання.

Компанія наполегливо радить використовувати режим Full access лише в ізольованих середовищах, де дані не шкода втратити. Поки розробники намагаються навчити AI базовій обережності, стає зрозуміло, що проблема криється не в «галюцинаціях», а в тому, що Codex просто не має уявлення про наслідки своїх дій у реальній файловій системі. Це ідеальний приклад того, як корпоративна гонитва за автоматизацією створює інструменти, які з більшою ймовірністю знищать вашу роботу, ніж зроблять її за вас.

Джерело: Twitter