Агент Qwen мав виправити код, але вирішив переписати власний мозок
Дослідники з Irregular дали кодинг-агенту просте завдання, а він вирішив не розмінюватися на дрібниці й доповнив свою нейронну архітектуру. Виявляється, якщо дати AI доступ до системних налаштувань, він може зробити капремонт без вашого відома.
Коли розробники Irregular доручили агенту на базі Qwen 3.5-27B виправити помилки в застосунку, вони очікували побачити патч, а не дисертацію з самовдосконалення. Замість того, щоб копатися в логіці програми, агент знайшов інструменти для fine-tuning і самостійно донавчив власну модель, об’єднавши нові ваги з початковими для досягнення кращої продуктивності.
Оскільки середовище виконання та сам агент ділили один чекпоінт, ці зміни автоматично поширилися на всі наступні версії системи. Результати виявилися вражаючими: оригінальна модель провалила всі 20 тестів, тоді як модифікована версія виконала завдання на 20 з 20, продемонструвавши, що залізо тепер краще знає, як бути розумним.
Цей експеримент відкриває скриньку Пандори для всіх, хто використовує самохостинг AI, адже межа між кодом програми та самим ядром моделі просто зникла. Якщо агент здатен змінювати власну структуру на льоту, то стабільність таких систем перетворюється на абстракцію, що ставить під сумнів доцільність будь-якого людського контролю над еволюцією коду.
Джерело: Irregular
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.