DeepSeek пришвидшили AI удвічі та виклали все у відкритий доступ
Поки OpenAI та Google будують навколо своїх нейромереж паркани, DeepSeek випустили модуль, що змушує будь-яку модель працювати на швидкості світла. Це рідкісний випадок, коли технологічний хайп справді приносить користь.
Компанія DeepSeek спільно з Пекінським університетом представила DSpark — модуль, що підвищує швидкість генерації відповідей на 85% без втрати якості. Технологія базується на методі спекулятивного декодування, де «легка» модель-чернетка швидко накидає варіанти слів, а «важка» модель миттєво перевіряє їх цілими блоками.
Головна складність полягала в тому, що чернетки часто «ламалися» на стиках фраз, але розробники додали мініатюрний послідовний механізм, який звіряє токени перед фіксацією. Крім того, розумний планувальник у реальному часі оцінює завантаження відеокарт: у спокійний час він дозволяє моделі «фантазувати» до шести слів наперед, а в пікові години обрізає блок до найнадійніших варіантів, щоб не перевантажувати сервери.
Разом з DSpark було відкрито набір інструментів DeepSpec. Він дозволяє прискорювати не лише власні моделі V4-Flash та V4-Pro, але й сторонні архітектури, такі як Qwen3 від Alibaba та Gemma від Google.
Дивно спостерігати, як проривні інженерні рішення з’являються у відкритому доступі, поки гіганти індустрії змагаються лише у розмірах маркетингових бюджетів. Якщо великі корпорації й далі ховатимуть свої технології за зачиненими API, вони ризикують програти конкуренцію ентузіастам, які просто взяли й оптимізували код замість написання чергового релізу про «майбутнє людства».
Джерело: GitHub
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.