Чому ваш демо-агент від Claude влаштовує фінансовий апокалипсис у проде
Перенесення Claude Code із затишного середовища в реальний прод відкриває сумну реальність: безжальна математика збоїв і шалені рахунки за токени знищать бюджет будь-якого стартапу.
Коли автономна задача розбивається на тридцять послідовних кроків із викликами моделей і запитами до баз, навіть мізерна ймовірність помилки на одному етапі гарантує, що кожна четверта операція безнадійно впаде. Ідеальні лабораторні демонстрації розсипаються вщент перед обличчям реального продакшену, де моделі плутають інструменти, забивають контекст сміттям і роздувають витрати до космічних масштабів.
Скорочення кількості інструментів до великих і самодостатніх функцій захищає модель від плутанини, а компактні відповіді у стилі інженерів Anthropic суттєво економлять токени в наступних ітераціях. Очищення контекстного вікна за допомогою динамічного підвантаження даних, стиснення історії та залучення субагентів дозволяє тримати фокус виключно на корисній інформації без зайвого інформаційного шуму.
Невеликі бази знань об'ємом до двохсот тисяч токенів ефективніше тримати прямо в кеші промпту, тоді як масивні сховища вимагають комбінованого пошуку та контекстного переранжування результатів. Жорсткі обмеження кількості ходів, бюджету в доларах та наявність чіткого плану Б рятують систему від ситуацій, коли застряглий цикл спалює гроші в п'ять разів швидше за звичайну задачу.
Боротьба з тимчасовими збоями вимагає розумних ретраїв з урахуванням серверних заголовків та унікальних ідентифікаторів викликів для запобігання дублюванню транзакцій на зовнішніх сервісах. Збереження стану за допомогою систем на кшталт Temporal страхує процес від фатальних падінь робочих воркерів, а складні неатомарні операції вимагають заздалегідь прописаних компенсаційних сценаріїв для коректного відкату.
Будь-які дії з реальним впливом на зовнішній світ на кшталт грошових переказів чи видалення даних повинні виконуватися виключно після підтвердження людиною через асинхронні колабеки з таймаутами. Впровадження повної телеметрії, збереження версій промптів у репозиторії та регулярний прогін тестів на реальних багах перетворюють винахідливу іграшку на надійний інженерний продукт.
Джерело: Anthropic engineering blog
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.