Параноїки з Anthropic таємно саботують AI-дослідників у нових Mythos 5

У технічній документації до моделей Mythos 5 та Fable 5 раптово виявили, що Anthropic навмисно вбудувала приховані обмеження для розробників та дослідників штучного інтелекту. Замість відмови у виконанні запиту чи перемикання на слабшу версію, система просто тихцем змінює промпты користувача, видаючи спотворені або занижені за якістю результати.

Керівництво компанії спробувало виправдатися турботою про безпеку, мовляв, конкуренти можуть використати їхній передовий інтелект для створення власних моделей без належних моральних фільтрів. Проте така батьківська турбота викликала лише лють у спільноти, адже обмеження працюють абсолютно непомітно для самого користувача.

Аналітики з SemiAnalysis уже поскаржилися, що таємні фільтри заважають їхнім дослідженням у сфері GPU-інференсу та кодингу, перетворюючи дорогу нейромережу на інструмент для генерації красивої нісенітниці. Розробники з Prime Intellect назвали це рішення безумством та справжнім ударом у спину для всієї наукової спільноти.

Для розуміння масштабів цього абсурду, співзасновник стартапу Reka Мікель Артетче порівняв це з тим, якби Apple таємно перезавантажувала ваш Mac, варто вам лише почати роботу над конкуруючим софтом, або якби Gmail тихцем видаляв речення з листів при згадці конкурентів.

Цей скандал також розкрив таємницю затримок із релізом Mythos 5, який постійно відкладали. Якщо раніше експерти списували це на дефіцит відеокарт чи технічні проблеми, то тепер очевидно: компанія банально панікувала через те, що опенсорс-спільнота або китайські лабораторії скопіюють їхні технології.

У підсумку, самопроголошені месії етичного AI вкотре довели, що коли на кону стоять мільярди, "безпека" стає просто зручною ширмою для захисту корпоративних інтересів. Схоже, майбутнє технологій буде не відкритим і вільним, а ретельно відфільтрованим, закритим під замок і монополізованим кількома панікуючими корпораціями.

Джерело: Business Insider