在 NVIDIA GTC 2026 大會上,晶片雙雄台積電以及三星皆被 NVIDIA 執行長公開點名致謝。黃仁勳在演講中展示了世界首款共封裝光學(CPO)Spectrum X 交換器,這項名為「Coupe」的處理技術,是 NVIDIA 與台積電(TSMC)共同研發並已進入全量產階段的技術突破。
Spectrum X 交換器是全新 Vera Rubin 平台(專為代理式 AI 打造的超級電腦系統)中,負責網路橫向擴充的關鍵基礎設施。這款交換器採用了 NVIDIA 與台積電共同發明、名為「coupe」的革命性製程技術。
這項技術讓光學元件能直接放置於晶片上與矽晶片直接介接,使得電子訊號能直接在晶片上轉換為光子訊號,大幅顛覆了傳統的網路傳輸設計,Spectrum X 也是全球第一款投入全面量產的共封裝光學(Co-packaged optics)交換器,不僅大幅降低了延遲,更在能效表現上有所提升。
黃仁勳指出,「我們與台積電共同發明了這項名為『Coupe』的製程技術。目前 NVIDIA 是全球唯一將此項 CPO 技術投入量產的公司,這是完全革命性的突破。」
而台積電的老對手三星也在此次被黃仁勳公開點名。隨著世界開始進入 AI 推論時代,硬體瓶頸也隨之而現,為解決瓶頸,黃仁勳指出 NVIDIA 利用 Dynamo 將推論的過程「拆解」。 他們將推論拆成兩個部分交給最適合的硬體:
其中,Vera Rubin 負責重勞力與大記憶體:負責處理 Prefill(預填)、儲存海量的 KV Cache,以及負責解碼過程中需要大量數學運算的 Attention(注意力機制)的部分。而 Groq 則負責極速生成,將極需低延遲與高頻寬的「Token 生成」外包給搭載海量 SRAM、專門為此設計的 Groq 晶片來專職負責。
黃仁勳表示,將 Vera Rubin 與專責 Token 生成的 Groq 3 LPX 機架緊密結合後,能在最高價值的推論服務層級上,再次帶來高達 35 倍的每百萬瓦吞吐量(throughput per megawatt)提升。
黃仁勳在此時點名三星,「我要感謝三星,他們為我們代工製造了這顆 Groq LP30 晶片,而且他們正竭盡全力地趕工生產。」他也提到,Groq 晶片已經投入量產,大概會在下半年,約第三季的時間點出貨。
核稿編輯:Mia
加入 INSIDE 會員,獨享 INSIDE 科技趨勢電子報,點擊立刻成為會員!
延伸閱讀:
【NVIDIA GTC 2026】黃仁勳:推論時代來臨,全球對 AI 基礎設施需求將達 1 兆美元
【NVIDIA GTC 2026】推論時代來臨!NVIDIA 正式推出 Vera Rubin、Vera CPU 以及全新「推論加速器」
【NVIDIA GTC 2026】CUDA 20 週年:從智慧交通到電信,NVIDIA 已深入各層面

複製連結X (Twitter)LinkedInFacebook電子郵件
隨著Nvidia的Je,AI相關加密代幣激增
