document.writeln('');

在公车被猛烈进入爽文,啊灬轻点大JI巴太粗又长A片,亚洲色欲AV成人无码久久精品 ,国产大片内射1区2区,久久久网址,亚洲一区二区三区免费视频,精品欧美一区二区三区久久久,久久国产精品-久久精品

當(dāng)前位置:首頁 > 云服務(wù)器 > Groq 與英偉達(dá)達(dá)成非獨(dú)家推理技術(shù)授權(quán)協(xié)議

Groq 與英偉達(dá)達(dá)成非獨(dú)家推理技術(shù)授權(quán)協(xié)議

groq官方宣布,已與英偉達(dá)就其前沿推理技術(shù)簽署非獨(dú)家授權(quán)協(xié)議。此舉標(biāo)志著雙方將攜手推動高性能、高能效且具備成本優(yōu)勢的ai推理解決方案在更廣泛場景中的落地與普及。

依據(jù)協(xié)議內(nèi)容,Groq聯(lián)合創(chuàng)始人Jonathan Ross、總裁Sunny Madra以及核心研發(fā)團(tuán)隊將整體加入英偉達(dá),深度參與相關(guān)推理技術(shù)的迭代優(yōu)化與大規(guī)模產(chǎn)業(yè)化部署。

Groq仍將維持獨(dú)立運(yùn)營主體地位,由Simon Edwards擔(dān)任首席執(zhí)行官。其面向全球用戶的GroqCloud云服務(wù)平臺將持續(xù)穩(wěn)定提供服務(wù),現(xiàn)有功能與性能均不受任何影響。

早前曾有市場傳聞指出,英偉達(dá)擬以約200億美元全資收購AI芯片新銳企業(yè)Groq,若成真,這將成為英偉達(dá)歷史上金額最高的并購案。但英偉達(dá)隨后明確澄清:此次合作并非收購,而是一次聚焦于推理技術(shù)使用權(quán)的授權(quán)合作。

公開信息顯示,Groq成立于2016年,由前谷歌TPU項目關(guān)鍵架構(gòu)師Jonathan Ross創(chuàng)辦。該公司自主研發(fā)的LPU(Language Processing Unit)專用推理芯片,正是本次合作的技術(shù)基石。不同于英偉達(dá)通用型GPU,LPU從底層架構(gòu)出發(fā),專為大模型推理任務(wù)量身定制,依托確定性執(zhí)行模型、超大容量片上SRAM等創(chuàng)新設(shè)計,在延遲控制、能效比及吞吐效率方面實現(xiàn)突破性提升。

實測數(shù)據(jù)顯示,在運(yùn)行主流大語言模型時,LPU的推理性能可達(dá)英偉達(dá)H100 GPU的5–18倍;首token生成時間低至0.2秒,并顯著緩解傳統(tǒng)GPU在推理階段長期面臨的“內(nèi)存墻”瓶頸與高延遲挑戰(zhàn)。

對英偉達(dá)而言,此次采取“非獨(dú)占技術(shù)授權(quán)+核心人才整合”的雙軌策略,不僅可高效彌補(bǔ)其在AI推理領(lǐng)域的結(jié)構(gòu)性短板,進(jìn)一步強(qiáng)化端到端AI計算生態(tài)的領(lǐng)先優(yōu)勢,還能規(guī)避高額并購帶來的整合風(fēng)險與資本壓力,從而更靈活地應(yīng)對來自谷歌TPU、微軟Azure Maia等競品的持續(xù)競爭。

源碼地址:點擊下載