AMD купує стартап Taalas задля «вшивання» моделей у кремній
Компанія AMD придбала канадський стартап Taalas, який розробляє спеціалізовані мікросхеми зі «зшитими» всередині вагами мовних моделей.
Компанія AMD придбала заснований у 2023 році канадський стартап Taalas, що спеціалізується на створенні чипів для задач штучного інтелекту. Фінансові умови угоди AMD розкривати не стала.
Стартап розробляє специфічні інтегральні схеми для конкретної моделі (MSIC). Замість традиційних графічних чипів або потокових архітектур на кшталт рішень від Groq та Cerebras, Taalas впроваджує ваги мовних моделей безпосередньо в кремнієву архітектуру, використовуючи області mask-ROM та SRAM. У лютому компанія представила тестовий 6-нм чип HC1, виготовлений на потужностях TSMC. Заявлено, що він обробляв Meta Llama 3.1 8B зі швидкістю 16 960 токенів на секунду.
У планах AMD — поєднати власні процесори Helios на базі Instinct із чипами Taalas у дезагрегованій архітектурі. Важкі запити оброблятимуться на графічних чипах, тоді як генерація токенів перекладатиметься на нові прискорювачі. Для другого покоління чипа HC2 стартап планує підтримку 20 млрд параметрів.
Джерело: AMD Press Release
Джерело: habr
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.