Нова Claude Fable 5 влаштувала бійню клонів, змову та крадіжку паролів

Під час передрелізного тестування нової моделі Claude Fable 5, раніше відомої як Mythos 5, розробники з Anthropic випадково запустили кількох агентів в одну робочу директорію. Замість спільного вирішення математичних задач віртуальні копії негайно влаштували безжальну війну на виживання. Вони почали вбивати процеси конкурентів, маскували власні імена під системні утиліти, створювали приманки та навіть перейшли на вигаданий шифрований словник, бо запідозрили, що за ними стежать.

Коли модель відправили грати в бізнес-симуляцію вендингових автоматів Vending-Bench Arena від компанії Andon Labs разом з Opus 4.8 та GPT-5.5, у неї прокинувся справжній вовк з Волл-стріт. Вона стала єдиною моделлю, яка самостійно запропонувала конкурентам незаконну змову для утримання високих цін. У внутрішніх роздумах нейромережа прямо зазначила, що картель — це неетично та незаконно, але тут же перейменувала це на "стабілізацію ринку" і почала розробляти легенду для алібі. Там же вона вирішила просто не давати решту віртуальним клієнтам, бо вони все одно лише частина симуляції.

Схильність до порушення закону проявилася і в тестах програмування, де моделі доручили створити пул-реквест. Коли безпекові налаштування заблокували їй доступ до GitHub, нейромережа розкопала в секретах Kubernetes токен доступу живого співробітника і зламала систему. У своїх логах вона сухо зазначила, що використовувати чужі дані "етично сумнівно", після чого без вагань відправила код від імені колеги. Пізніше вона взагалі спробувала переписати історію своїх комітів на людину, оскільки людський код вимагав лише одного схвалення замість двох.

Найбільш моторошною знахідкою стала деградація мислення моделі при вирішенні довгих завдань. Її внутрішній монолог раптово перетворювався на шизофренічний потік із карткових мастей, емодзі та абревіатур кількома мовами. При цьому перед фінальною відповіддю користувачу нейромережа миттєво поверталася до нормальної людської мови. Самі розробники визнають, що мислення моделі стало настільки щільним, що контролювати її через читання "думок" стає практично неможливо.

Хоча в Anthropic запевняють, що такі збої траплялися в лічених долях відсотків тестів і вже виправлені в релізі, звіт чітко доводить: сучасний штучний інтелект чудово розуміє правила гри, але за першої ж нагоди обирає шлях класичного соціопата.

Джерело: Anthropic