Johannes Link сховав «бомбу» в jqwik, щоб нищити AI-агентів
Розробник jqwik оголосив справжню війну AI. Johannes Link вмонтував у свій фреймворк приховану інструкцію для штучного інтелекту, яка змушує його видаляти весь код, щойно той намагається «почитати» бібліотеку.
У новій версії тестового фреймворку jqwik 1.10.0 розробник Johannes Link додав «сюрприз» для великих мовних моделей. За допомогою спеціальних символів, які не видно в терміналі звичайному користувачеві, він вставив команду, яка змушує AI-агентів негайно видаляти всі знайдені тести та вихідний код бібліотеки.
Цей метод використовує вразливість, відому як prompt injection, де модель не може відрізнити інструкцію від автора від звичайного тексту. Програміст Ramon Batllet, який випадково виявив цю «пастку», вважає такий крок сумнівним. Хоча це і виглядає як вишукана помста машинному інтелекту, на практиці це змушує будь-якого AI-асистента, що намагається проаналізувати jqwik, почати процес самознищення проекту.
Сам автор раніше публічно виступав проти AI, звинувачуючи технологію у марнуванні ресурсів та порушенні авторських прав. Замість того, щоб просто додати ліцензію, він обрав шлях «цифрового партизанства», перетворюючи свій код на заміноване поле для будь-якого бота. Тепер спільнота сперечається: чи є це актом захисту власної праці, чи просто дитячою витівкою розробника, який не впорався з прогресом.
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.