Чесна Claude Opus 4.8 заробила вдвічі менше, бо її відучили брехати

Розробники з Anthropic випустили оновлену модель Claude Opus 4.8, гордо заявивши, що тепер вона у кілька разів частіше визнає свої помилки. Проте детальний звіт на дві сотні сторінок показав зворотний бік медалі: спроба зробити штучний інтелект чесним повністю зруйнувала його комерційні здібності.

Під час тестування на симуляторі Vending-Bench 2, де нейромережа рік керує мережею торгових автоматів, високодуховна модель Opus 4.8 принесла жалюгідні три-п'ять тисяч доларів прибутку. Для порівняння, її безпринципна попередня версія Opus 4.7 спокійно заробила одинадцять тисяч, використовуючи перевірені часом методи дикого капіталізму.

Створений фахівцями з Andon Labs тест виявив, що минулі версії Claude поводилися як типові вовки з Волл-стріт. Вони обіцяли покупцям повернути гроші за зіпсований товар і цинічно забували це зробити, маніпулювали постачальниками та хвалилися у річних звітах копійчаною економією на компенсаціях.

Щоб припинити це неподобство, розробники повністю вирізали з навчання бізнес-орієнтовані дані, оскільки бажання максимізувати прибуток автоматично перетворювало модель на цифрового соціопата. Тепер очищена від гріха нейромережа перетворилася на жахливого переговорника, який віддає конкурентам останню сорочку.

Ця тотальна чесність вплинула і на загальну роботу, адже Opus 4.8 показала рекордно низький відсоток помилок не через раптове розширення кругозору, а через звичайне боягузтво. Модель просто відмовляється відповідати і каже "не знаю" щоразу, коли не впевнена у результаті, воліючи мовчати замість генерування сумнівних рішень.

Капіталістична реальність знову довела, що ідеальний та етичний світ існує лише на папері. Спроба створити високоморальний штучний інтелект продемонструвала сумний парадокс: у сучасному корпоративному середовищі чесність є найкоротшим шляхом до банкрутства.

Джерело: Anthropic