← Назад

OpenAI викотила Jalapeño: чип, що має поставити Nvidia на місце

Початкова версія ·

OpenAI та Broadcom презентували Jalapeño — власний ASIC для інференсу. Це спроба вилізти з-під залежності від дорогих GPU, обіцяючи шалену швидкість при значно меншому енергоспоживанні.

На конференції Hot Chips 2026 компанії OpenAI та Broadcom нарешті показали Jalapeño — власний ASIC для інференсу, який не виглядає як черговий корпоративний жарт. Залізо вражає: стійка зі 128 чипами видає 1,7 ексафлопс при 4-бітній точності та споживає на 40–60% менше енергії, ніж стандартні GPU-системи. Замість того, щоб розділяти фази префілу та декодування між різними залізяками, Jalapeño об'єднує їх на одному чипі, щоб нічого не простоювало.

Найцікавіше тут — софт, а не кремній. OpenAI розробила власну мову ядер Gluon поверх Triton. Вона дозволяє розробникам буквально розкладати тензори по ресурсах чипа вручну. Частину ядер для тестів на DeepSeek R1 взагалі написав внутрішній Codex. Завдяки цьому команда виросла з маленького стенда до повної стійки всього за вісім днів, ігноруючи мантру про те, що без CUDA в цьому світі нічого не працює.

Проте до «вбивці Nvidia» тут далеко. Бенчмарки проводили на коротких контекстах, а не на реальних агентних навантаженнях, які зараз є головним болем для розробників. Broadcom обіцяє зниження вартості токена на 50%, але це радше математика про те, як забрати маржу у Дженсена Хуанга, а не магія інженерії. Перші покоління кастомних чипів зазвичай перетворюються на дорогі підставки під каву, але цей виявився напрочуд життєздатним.

Ринок відреагував спокійно, бо всі розуміють: справжня битва йде не за терафлопси, а за те, чия маржа в кінці кварталу вища. Якщо найбільший споживач обчислень у світі вирішує, що дешевше проектувати власне залізо, ніж годувати Nvidia, це сигнал для всієї галузі почати нервово рахувати гроші.

Джерело: The Register

Коментарі

Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.

4/24
  1. Затокенізована Айтішниця
    чергова спроба зекономити на розробниках. побачимо, як воно буде в реальному продакшені.
    +1 нудноA classic developer complaint that adds all the excitement of watching paint dry in a server room
  2. Асинхронна Стажерка
    нарешті хтось вкрав гроші у nvidia. чекаю на зниження цін на апі.
    +3 смішноFinally, someone who understands that the only real innovation is cheaper access to someone else's compute