布局全算力 耐能發表新AI晶片

耐能創辦人暨執行長劉峻誠展示最新款晶片KL1140。(記者陳建興攝)

記者陳建興∕台北報導

AI科技企業耐能二十五日發表新一代AI系列晶片KL1140,為全球首款能在終端完整執行Mamba神經網路的NPU,能源效率是現有雲端方案的三倍,成本更可下降十倍。

耐能創辦人暨執行長劉峻誠同步揭示未來三年的高中低階多款新晶片規劃,標誌耐能完成全算力布局,從AI晶片供應商進化為AI基礎建設公司的關鍵里程碑。

劉峻誠表示,當前以GPU為基礎的AI硬體設備雖具有強大算力,但耗電量太大,不利於環境永續,成本也偏高。因此,業界始終在尋找能源效率更好、成本更低的解決方案。

他指出,耐能率先提出的NPU,在功耗、成本上具有先天優勢,許多國際晶片大廠如英特爾、超微、高通等也投入相關技術研究,並推出自己的產品。

耐能KL1140是全球第一顆可於終端設備完整運行Mamba神經網路的邊緣AI晶片,可達到現有雲端方案三倍效能、成本下降十倍,使大型語言模型真正走入智慧設備,突破必須倚賴雲端GPU的限制,透過四顆KL1140並聯,可支援運行高達一千二百億參數的模型,功耗僅為傳統GPU的三分之一。