AI教學大躍進 陽明交大引進高性能AI設備

 

耐能智慧捐贈三臺 KNEO 三百高性能AI設備予陽明交大,共同推動生成式人工智慧、大型語言模型與邊緣智慧運算相關教學與研究。(陽明交大提供)

記者彭新茹/新竹報導

陽明交大與耐能智慧卅日共同宣布,由耐能智慧捐贈三臺 KNEO 三百高性能AI設備,共同推動生成式人工智慧、大型語言模型與邊緣智慧運算相關教學與研究,強化實際部署與系統整合的能力,並共同推動低功耗AI系統於實際場域的落地應用。

陽明交大表示,此次設備導入後,可將AI教學與研究從模型訓練延伸至實際部署與系統整合。學生可在校內進行大型語言模型推論與優化、生成式AI應用開發,以及模型量化、知識蒸餾等關鍵技術實作,並進一步將模型部署至終端設備,驗證即時運算與實際應用情境。

副校長唐震寰表示,此次耐能智慧為校內引入低功耗、可邊緣部署的AI平臺,象徵在既有現有運算基礎上,進一步導入邊緣運算能力,朝向「雲邊協同」的新型AI基礎架構發展。

耐能智慧創辦人暨執行長劉峻誠則指出,未來AI將不再僅存在於雲端,而是逐步進入各類終端與邊緣設備。KNEO 三百用比傳統 GPU更低的功耗,提供可支援大型語言模型與生成式 AI 的實用平臺,並讓學界能更早接觸實際部署環境,培養具備系統整合能力的人才。

電機系方凱田主任表示,設備將導入現有「人工智慧導論」、「大型語言模型」與「生成式人工智慧」課程,讓學生實際參與模型優化與部署流程,培養跨越軟硬體的系統整合能力,成為研究成果從理論走向應用的關鍵基礎。隨著生成式AI應用從雲端走向終端裝置,此次的挹注與合作也被視為學界強化AI落地能力、銜接產業需求的重要一步。