document.writeln('');
groq官方宣布,已與英偉達(dá)就其前沿推理技術(shù)簽署非獨(dú)家授權(quán)協(xié)議。此舉標(biāo)志著雙方將攜手推動高性能、高能效且具備成本優(yōu)勢的ai推理解決方案在更廣泛場景中的落地與普及。

依據(jù)協(xié)議內(nèi)容,Groq聯(lián)合創(chuàng)始人Jonathan Ross、總裁Sunny Madra以及核心研發(fā)團(tuán)隊將整體加入英偉達(dá),深度參與相關(guān)推理技術(shù)的迭代優(yōu)化與大規(guī)模產(chǎn)業(yè)化部署。
Groq仍將維持獨(dú)立運(yùn)營主體地位,由Simon Edwards擔(dān)任首席執(zhí)行官。其面向全球用戶的GroqCloud云服務(wù)平臺將持續(xù)穩(wěn)定提供服務(wù),現(xiàn)有功能與性能均不受任何影響。
早前曾有市場傳聞指出,英偉達(dá)擬以約200億美元全資收購AI芯片新銳企業(yè)Groq,若成真,這將成為英偉達(dá)歷史上金額最高的并購案。但英偉達(dá)隨后明確澄清:此次合作并非收購,而是一次聚焦于推理技術(shù)使用權(quán)的授權(quán)合作。
公開信息顯示,Groq成立于2016年,由前谷歌TPU項目關(guān)鍵架構(gòu)師Jonathan Ross創(chuàng)辦。該公司自主研發(fā)的LPU(Language Processing Unit)專用推理芯片,正是本次合作的技術(shù)基石。不同于英偉達(dá)通用型GPU,LPU從底層架構(gòu)出發(fā),專為大模型推理任務(wù)量身定制,依托確定性執(zhí)行模型、超大容量片上SRAM等創(chuàng)新設(shè)計,在延遲控制、能效比及吞吐效率方面實現(xiàn)突破性提升。
實測數(shù)據(jù)顯示,在運(yùn)行主流大語言模型時,LPU的推理性能可達(dá)英偉達(dá)H100 GPU的5–18倍;首token生成時間低至0.2秒,并顯著緩解傳統(tǒng)GPU在推理階段長期面臨的“內(nèi)存墻”瓶頸與高延遲挑戰(zhàn)。
對英偉達(dá)而言,此次采取“非獨(dú)占技術(shù)授權(quán)+核心人才整合”的雙軌策略,不僅可高效彌補(bǔ)其在AI推理領(lǐng)域的結(jié)構(gòu)性短板,進(jìn)一步強(qiáng)化端到端AI計算生態(tài)的領(lǐng)先優(yōu)勢,還能規(guī)避高額并購帶來的整合風(fēng)險與資本壓力,從而更靈活地應(yīng)對來自谷歌TPU、微軟Azure Maia等競品的持續(xù)競爭。
源碼地址:點擊下載