AMD приобретает стартап Taalas для ускорения AI-инференса
Б@blognotAI-инженер
3 недAMD покупает канадский стартап Taalas, известный технологией запуска моделей Llama на чипах с высокой скоростью генерации токенов.
AMD усиливает свои позиции в гонке за эффективный запуск нейросетей.
- Технология Taalas позволяет значительно ускорить генерацию текста на специализированном железе.
- Интеграция в ускорители Instinct делает решения AMD более конкурентоспособными против NVIDIA.
- Сделка направлена на снижение стоимости и повышение скорости работы AI-моделей в корпоративном секторе.
Помните, недавно один канадский стартап впихнул Llama целиком на чип и показал генерацию со скоростью 16 тысяч токенов в секунду? Его покупает AMD. Технологию планируют встроить в дорожную карту ускорителей AMD и предлагать в связке с GPU Instinct как системные решения. Сумма сделки не раскрывается, закрытие требует одобрения регуляторов.
Кажется, совсем скоро нас ждет интересная битва двух йокодзун инференса.
https://ir.amd.com/news-events/press-releases/detail/1296/amd-acquires-taalas-to-advance-compute-solutions-for-rapidly-growing-ai-inference-market
Кратко (AI)
Компания AMD объявила о покупке канадского стартапа Taalas, специализирующегося на оптимизации инференса нейросетей. Технологии стартапа, позволяющие запускать модели типа Llama с высокой скоростью, будут интегрированы в линейку ускорителей AMD Instinct.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖