

記者陳建興∕台北報導
AI晶片大廠輝達新一代架構Vera Rubin進入全面量產。輝達AI與資料中心GPU產品行銷總監納拉辛漢三日表示,市場對AI算力的需求,已遠遠超過目前能提供的運算總量,輝達需要台灣生態系協助將產能擴增到量產階段,以供應全球的AI工廠。
納拉辛漢在GTC Taipei大會指出,台灣生態系從一開始就與輝達並肩同行,是非常棒的夥伴,並促成了許多不可思議的技術,讓輝達能夠擴展現場看到的新系統。
他強調,台灣供應鏈具備非常努力工作與技術極度先進兩大核心優勢,是不可或缺的夥伴。輝達也大幅簡化Vera Rubin平台的設計,過去在Blackwell架構上需要花費二小時的製造步驟,Vera Rubin平台能以二十倍的速度完成,大幅提升生產吞吐量。
納拉辛漢直言,AI技術演進正引發硬體架構的變革,為因應代理式AI的工作負載需求,每次進行推論時都必須去驗證答案。輝達為此在新平台配備搭載八十八個核心的獨立中央處理器(CPU),專門用來處理工具調用與答案驗證,並將回饋即時傳送到繪圖處理器(GPU),形成更高效的算力協同體系。

(中央社)
針對輝達執行長黃仁勳經典名言從三年前的「買越多、省越多」,轉變為如今的「買越多、賺越多」,納拉辛漢也給出自己的解讀。
他分析,這兩句話背後代表的是營收、獲利與降低成本的綜合效益。對當前的AI工廠而言,一方面需要Vera Rubin平台來實現最低的Token(詞元,指AI模型的最小運算單位)成本,另一方面則需要最高的Token吞吐量。