document.writeln('');
在最新公布的 semianalysis inferencemax 基準評測中,signal65 對 deepseek-r1 0528 混合專家(moe)模型的推理能力進行了深度評估。結果顯示,英偉達(nvidia)gb200 nvl72 機架級系統在同等規模下,推理性能顯著超越 amd instinct mi355x 集群。
混合專家架構的核心優勢在于按需調用最適配任務的“專家”子模型,從而提升計算效率;但當模型規模持續擴大時,節點間通信延遲與帶寬壓力隨之加劇,極易演變為系統級瓶頸。

英偉達采用“深度協同設計”理念重構 GB200 NVL72 架構:通過超高速互連技術整合 72 顆 GPU 芯片,并集成高達 30TB 的統一內存池,大幅降低跨芯片數據搬運開銷,有效緩解延遲難題。實測數據顯示,在相近配置條件下,該系統單卡吞吐量達 75 tokens / 秒,性能約為 AMD MI355X 的 28 倍。
對頭部云服務商而言,總體擁有成本(TCO)是部署決策的關鍵依據。Signal65 結合 Oracle 云平臺定價信息分析指出,GB200 NVL72 不僅具備頂尖性能,更展現出極強的成本競爭力——其單位 token 成本僅為 AMD 方案的 1/15,同時支持更高頻次的交互響應。
盡管英偉達當前在 MoE 推理場景中占據明顯領先位置,AMD 仍保有差異化優勢。報告特別提到,MI355X 憑借大容量 HBM3e 顯存,在稠密型(Dense)模型推理任務中依然具備扎實的落地能力。
截至目前,AMD 尚未發布可對標 GB200 NVL72 的新一代機架級產品。不過,隨著 AMD Helios 平臺與英偉達 Vera Rubin 平臺之間的競爭日趨升級,雙方在整機架擴展能力、能效比及軟件生態層面的博弈將愈發關鍵。
源碼地址:點擊下載