Cerebras розігнала Google Gemma 4 до 1500 токенів/с і навчила її бачити
Поки ІТ-гіганти вчать нас терпляче чекати, доки чат-бот «думає» над простим запитом, виробники гігантських чипів просто прикрутили до штучного інтелекту реактивний двигун і дали йому очі. Схоже, у нас тут справжня залізна магія без маркетингової мішури.
Кремнієвий монстр Cerebras, відомий своїми процесорами розміром з цілу обідню тарілку, випустив свого звіра на нову модель від Google. Під час приватного тестування платформа інференсу видала таку швидкість на Gemma 4 31B, що текст не просто з'являється, а буквально матеріалізується на екрані. Що ще цікавіше, модель отримала мультимодальність, тобто тепер цей швидкісний демон вміє розпізнавати картинки та скриншоти, а не лише сухий текст.
Зазвичай гігантські чипи компанії почуваються впевнено лише на специфічних розріджених обчисленнях, швиденько перескакуючи через порожні зони. Проте свіжа модель від пошукового гіганта — це щільна монолітна матриця без жодних архітектурних хитрощів на кшталт суміші експертів. Змусити залізо пережовувати такий масив даних на шаленій швидкості — це як змусити вантажівку дрифтувати на засніженому серпантині.
Розробники вже хваляться сценаріями використання, де кожна секунда очікування викликає бажання закрити вкладку. Вони показали миттєвий аналіз заплутаних корпоративних дашбордів, сумаризацію довжелезних звітів за частку секунди та сценарій «скриншот у патч», коли штучний інтелект бачить зламаний інтерфейс сайту разом із помилкою в консолі й одразу видає готовий шматок коду для виправлення. Розрахунок очевидний — переманити розробників зі звичних хмарних платформ на своє залізо.
У порівнянні з популярною моделлю Claude Haiku від Anthropic, тарілкоподібний чип видає у п'ятнадцять разів більшу швидкість. На тестах якості роботи обидва рішення йдуть ніздря в ніздрю, тож користувач отримує той самий результат, але без дратівливої паузи на «роздуми» сервера. Публічний доступ до цього атракціону небаченої швидкості обіцяють відкрити вже до кінця місяця.
Технологічні корпорації роками привчали користувачів до того, що затримки в роботі нейромереж — це норма. Поява гігантського шматка кремнію, який ламає ці стереотипи, доводить, що справжнє вузьке горло прогресу лежить не в алгоритмах, а в банальному небажанні створювати потужніше залізо.
Джерело: Cerebras
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.