AI влаштували дзеркальний тест на самосвідомість — і він раптово здав назад

Біологи століттями малюють тваринам мітки на лобі перед дзеркалом, але для собак цей трюк не працює через залежність від нюху, а для мовних моделей єдиною реальністю залишається сухий текст. Дослідник Паскаль Шустер адаптував експеримент розпізнавання себе під штучний інтелект через непомітне псування його власних відповідей.

Під час абсолютно банальної розмови про фільми про агента Джеймса Бонда спеціальний скрипт підміняв кожну літеру 'g' у відповідях нейромережі на 'sg'. Потім покалічені репліки поверталися в історію листування так, ніби сам бот щойно згенерував дивний покруч на зразок 'sgoldfinsger', і спостерігали за реакцією алгоритму.

Першою під роздачу потрапила модель Gemma 4 31B із відкритим ланцюжком міркувань. Два ходи бот узагалі не помічав капості, але на третьому раптом зачепився за дивні помилки посеред абзацу про актора Роджера Мура. Модель спершу розмірковувала в першій особі, запитуючи себе, навіщо 'я' так писала, а коли логіка зламалася, раптово з'їхала на третю особу, заявивши, що 'в моделі стався дивний глюк', після чого спокійно почала ліпити ці помилки далі вже з власної ініціативи.

Китайська GLM 5.2 зреагувала зовсім інакше і продемонструвала повну відсутність внутрішнього сумніву. Вона жодного разу не згадала про збій у прихованих роздумах, проте слухняно скопіювала зламаний стиль і почала писати з помилками, тоді як флагманський Claude Opus 4.6 в аналогічній ситуації також спихнув провину за дрібну друкарську помилку на якусь абстрактну сторонню 'модель'.

Миттєве відмежування алгоритму від власного тексту демонструє моторошну подібність до людської поведінки. Або системи просто скопіювали з текстів людей звичку шукати цапа-відбувайла та сепаруватися від власних косяків фразами на кшталт 'щось на мене найшло', або процес навчання формує внутрішні контури особистості, за межами яких цифрове 'я' просто відмовляється визнавати власну маячню.

Джерело: blog.pascalschuster.de