AMD покупает Taalas, чтобы ускорить и удешевить AI-инференс
Компания хочет встроить технологию Taalas в свою дорожную карту ускорителей и сочетать ее с Instinct GPU.
AMD достигла окончательного соглашения о покупке Taalas, стартапа из Торонто, который разрабатывает специализированный кремний для AI-инференса. AMD заявляет, что технология Taalas оптимизирует потоки данных при инференсе и уменьшает вычислительные узкие места и ограничения памяти, характерные для универсальных архитектур.
Компания планирует встроить технологию Taalas в свою дорожную карту ускорителей и развивать системные решения вместе с AMD Instinct GPU. Сумма сделки не раскрывается; закрытие еще зависит от обычных условий и регуляторных согласований.
Важна не сама по себе очередная покупка небольшого чип-стартапа. Taalas пытается строить железо вокруг конкретной нагрузки модели, а не считать, что любой инференс одинаково хорошо ложится на один общий стек ускорителей. The Register описывает подход Taalas как специализированный кремний для конкретных моделей: веса модели можно фактически зашить в чип, обменяв гибкость на намного более высокую скорость генерации токенов.
Для AMD это ставка на то, что AI-инфраструктура будет становиться более специализированной по мере роста объема инференса. Nvidia по-прежнему доминирует на рынке, но AMD пытается сделать платформу Instinct сильнее для клиентов, которым важны стоимость токена, задержка и энергоэффективность на масштабе.
Источники
- AMDir.amd.com
- The Registertheregister.com
- CNBCcnbc.com