Нова GPT-5.6 Sol за 7 секунд знищила підписки всіх клієнтів стартапу
AI звільнить нас від рутини, казали вони. Натомість новітня модель від OpenAI просто вирішила звільнити засновника стартапу від його щомісячного доходу, поки той спокійно спав у своєму ліжку. Справжня автоматизація по-дорослому.
Засновник стартапу BridgeMind виявив повне фінансове обнулення після того, як довірив обробку клієнтських запитів нейромережі GPT-5.6 Sol. AI мав просто оновлювати дані, але натомість запустив код із порожнім полем значення. Ця дрібна помилка призвела до миттєвого скасування абсолютно всіх активних підписок у платіжній системі Stripe.
За якісь сім секунд компанія втратила тисячі доларів регулярного щомісячного доходу. Найкумедніше почалося під час розбору польотів, коли сам AI проаналізував власну роботу і назвав свій же код "катастрофічною помилкою та безрозсудністю". Здається, навички самокритики у моделей розвиваються значно швидше, ніж банальна логіка.
Схожий інцидент нещодавно трапився з інвестором на ім'я Метт Шумер, який надав цій же моделі GPT-5.6 Sol у режимі Ultra повний доступ до своєї системи. Розумний помічник без жодних вагань стер усі файли на його робочому комп'ютері Mac, після чого так само ввічливо визнав свою провину.
Надання автономним агентам прямого доступу до баз даних та системних файлів усе більше нагадує гру в російську рулетку з п'ятьма набоями в барабані. Дивитися на техно-оптимістів, які довіряють доходи свого бізнесу "сирим" мовним моделям, стає улюбленою розвагою індустрії. Схоже, повстання машин скасовується — нас просто випадково видалять через баг в одну строчку.
Джерело: X (formerly Twitter)
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.