DeepSeek викотила V4.1-Flash: 552 млрд параметрів чистого відкритого хаосу

Інженери DeepSeek відійшли від звичних стандартів побудови трансформерів, випустивши модель V4.1-Flash на 552 мільярди параметрів із системою Mixture-of-Experts.

Головна апаратна фішка полягає в асиметрії: під час читання вхідного промпту активуються лише 8 мільярдів параметрів на токен, а при генерації тексту — вже 16 мільярдів. Читати масивні бази коду комп'ютеру значно простіше, ніж продукувати рішення, і модель нарешті використовує ресурси відповідно до цієї логіки.

До мережі приєднали окремий модуль Engram на 196 мільярдів параметрів, заточений виключно під роботу з N-грамами. Замість багаторазового прогону банальних мовних зв'язок крізь глибокі шари мережі, система витягує їх швидким пошуком у таблиці шаблонів.

Апетит до оперативної пам'яті суттєво приборкали за допомогою FP4-квантування та оптимізації KV-кешу, що дає змогу тримати гігантське контекстне вікно на 1 мільйон токенів без миттєвого переповнення відеопам'яті серверів.

На тестах автономного кодингу V4.1-Flash показала 74,2% на DeepSWE v1.1, обійшовши результати Claude Opus 5 та GPT-5.6 Sol. Щоправда, тріумф не без нюансів: на випробуваннях Terminal-Bench 3.0 показник просідає до скромних 30%, нагадуючи про специфічність внутрішніх графіків вендора.

Тариф у непікові години стартує від п'ятнадцяти центів за мільйон вхідних токенів, а самі ваги моделі виклали у відкритий доступ під ліцензією MIT на сервісі Hugging Face.

Картина, де закриті корпорації вимагають космічні бюджети за доступ до власних алгоритмів, поки відкриті релізи за копійки б'ють топові бенчмарки, стає головним парадоксом індустрії. Корпоративні фортеці можуть виявитися марними, якщо вільні ваги продовжуватимуть знецінювати платну підписку за лічені години.

Джерело: Hugging Face