Cerebras розігнала 1-трильйонну Kimi K2.6 до божевільних 1000 токенів на секунду

Виробник суперчипів Cerebras додав величезну відкриту модель Kimi K2.6 на свою платформу для корпоративних клієнтів, тоді як звичайним смертним залишили тестувати простішу GLM-4. Цей гігантський AI наразі вважається королем серед безкоштовних інструментів, оскільки він буквально розриває бенчмарки для програмування та автономних агентів.

У тестах SWE-Bench Pro ця модель набрала 58.6%, обійшовши розпіарену Claude Opus та наздогнавши напівміфічну GPT-5. Розробники використовують її як повноцінну безкоштовну альтернативу закритим системам, довіряючи AI повний цикл розробки: від створення баз даних та автентифікації до виконання складних ланцюжків дій.

Така швидкість стала можливою завдяки двигуну Wafer-Scale Engine у кластерах CS-3 від Cerebras, який оптимізували під роботу з трильйонними масштабами. Модель зберігається в оригінальних 4-бітних вагах, але обчислення відбуваються у 16-бітній точності, що зберігає розумові здібності системи та не забиває пам'ять. Пропускна здатність тутешньої мережі у 200 разів перевищує показники технології NVLink від Nvidia, що повністю усуває затримки при передачі даних між шарами нейромережі.

Завдяки кастомним ядрам та технології спекулятивного декодування, цей гігантський інструмент видає готовий код миттєво, дозволяючи програмістам проводити рефакторинг та виправляти складні баги без нудного очікування генерації.

Коли штучний інтелект генерує складні full-stack додатки швидше, ніж людина встигає зробити ковток кави, професія програміста остаточно перетворюється на роботу оператора нагляду. Схоже, незабаром потреба в джуніорах зникне так само швидко, як ці тисячі токенів пролітають через гігантські чипи.