Amazon перевитратила $1,8 млн на AI-бота, якого не помічали п'ять місяців

Згідно з внутрішніми документами компанії, про які повідомило видання Tom's Hardware, рутинний проєкт автоматизації в Amazon перевищив кошторис на 860%. Система витратила зайві $1,8 млн, перш ніж команду сповістили про витрати через п'ять місяців роботи.

Причиною розтрати стала інтеграція моделі Claude Sonnet, яку налаштували для звіряння біографій та імен авторів з описами товарів на маркетплейсі. Процес запустили без жорстких лімітів на споживання API-токенів, тому скрипт генерував безперервні платні запити у фоновому режимі.

Це не єдиний випадок фінансового прорахунку в підрозділах гіганта. Звіти зафіксували $541 000 непередбачених витрат на розробку помічника для фінансового аудиту та ще $134 000, витрачених на генеративну систему для коригування термінів доставки в логістичній мережі.

У внутрішній презентації керівництво запевнило, що це стандартна частина процесу: мовляв, компанія експериментує та вчиться підвищувати рентабельність нових інструментів. Для бізнесу з квартальним виторгом понад $181 млрд сума у два мільйони доларів — це менш як 0,1% прибутку. Проте інцидент виглядає показово для компанії, чий хмарний підрозділ продає корпоративним клієнтам інструменти контролю витрат.

Раніше в AWS уже стикалися з наслідками надмірної довіри до автоматизації: права доступу ботів-кодувальників довелося терміново знизити після серії збоїв у внутрішніх сервісах, оскільки спочатку алгоритмам видали привілеї рівня старших інженерів. Крім того, компанія скасувала внутрішній рейтинг працівників, що вимірював частоту використання генеративних помічників.

Джерело: habr з посиланням на Tom's Hardware