本報董事長陳樹 專訪耐能智慧執行長

前言:
AI浪潮席捲全球,許多人擔心的是,要發展AI需要龐大電力,和節能減碳的國際風潮背道而馳,NPU(神經處理單元)的橫空出世,其高效率、低耗能的特性,可以讓許多缺電又想發展AI的國家,看到問題解決的曙光,台灣也面臨相同的困境。讓人驚喜的是,這項科技的研發者|創立耐能智慧的執行長劉峻誠,正是道地的台灣囡仔,而且這項廣受全球矚目的創新技術,正逐漸在高科技業發光發熱。
為了深入了解這項最新科技,本報由董事長陳樹親自帶隊,前往耐能智慧專訪執行長劉峻誠,了解他的艱辛創業經過,和對於AI的獨到見解。
(記者黃翠娟、康子仁、陳柏翰∕專訪)
台灣囡仔研發NPU扮AI領頭羊
大部分的人根本搞不懂劉峻誠研發的NPU,跟之前大家朗朗上口的CPU和GPU之間,到底有何差別。劉峻誠最喜歡舉的例子,CPU就像是打仗的坦克車、GPU像載貨的卡車,NPU像是小客車機動性十足。
劉峻誠從成大電機系畢業後赴美深造,拿到加州大學洛杉磯分校電子工程學博士,專長電腦輔助設計、人工智慧、超大規模集成電路設計、觸屏面板、影像處理、電子模擬領域、演算法開發與先進高速半導體製程。
劉峻誠所定義的NPU|可重組式AI晶片架構,獲得IEEE CAS協會的最高榮譽IEEE達靈頓獎與電機電子工程師學會CTSoC發明領袖獎。他所寫的書籍更是這一行的翹楚,成為國內外一流大學研究NPU的經典教科書。
劉峻誠說,很多人都說AI時代很像是下一次的工業革命,人生能躬逢一個很大的轉變時代,他覺得蠻幸運的。他是十年前開始做NPU,當時AI還非常冷門,他就是覺得要選一條發自內心相信的路,然後不管別人嘲笑或看不起也好,就一直走走走,然後有種匠心的精神,沒想到幾年後開始蓬勃發展。
劉峻誠拿電腦比喻,電腦的核心就是CPU,可以跑window、dos,可以玩一個簡單的小型遊戲,甚至可以處理文書系統,所以它是有一定程度的通用性。
GPU在開始設計的時候,其實是做圖像跟遊戲,所以可以拿GPU去跑final fantasy太空戰士的遊戲,也可以去玩瑪利歐。所以它是基於這個平台,可以開發出多采多姿的東西,就像彩色筆一樣,可以畫出很多不一樣的東西。
劉峻誠解釋,NPU的概念也很類似,可以拿AI做人臉識別,可以做一個簡單的音樂編輯,還可以產生一個圖像,甚至可以跟你對話,其實不管是CPU、GPU,還是NPU,它是專為各自不同的領域而生的晶片。
劉峻誠最常用的比喻,CPU像是坦克車打仗很強、GPU像卡車載貨物很強,NPU像小客車在城市轉來傳去機動性很強,各有不同的優點,很難說哪一個一定是取代哪一個。但如果用GPU來跑ChatGPT,需要耗費大量電力,可能要核電這種等級,但NPU最大的特色就是省電、效率高,所以不需要核電,也是它最大的優點。
劉峻誠認為,今天不會因為人類發明各種新型的車,某一種功能的車就不存在,坦克車、卡車、小客車依然存在,只是載貨物的時候會用卡車,在城市穿梭時使用小客車,「所以我認為未來的CPU、GPU和NPU也是一樣,都會共同存在,只是在彼此的領域發揮最好的功效」。
劉峻誠說,如果為了AI的發展要蓋核電廠,或者是增加碳排放,現在連冬天都這麼熱,甚至有颱風,人類文明不會因為這樣變得更好,應該要讓NPU這個技術越普及越好。

(記者康子仁攝)

(記者康子仁攝)
全世界第一個量產NPU工程師
談到台灣最大的競爭對手韓國,劉峻誠分析,韓國以前的屬性跟台灣很像,但是他們蠻有雄心壯志的,所以後來產生了三星、LG等大公司,開始能追前沿的東西,擁有定義前沿東西的能力,他覺得最有成就感的是,他是在台灣土生土長、大學畢業後才到美國念書的,現在國際間談到NPU,也是由他這個台灣人定義其架構,現在使用NPU的時代已經蠻明確,希望能讓家鄉的人更重視。
劉峻誠成立的耐能智慧,十年前就開始研發NPU,他也是全世界第一個把NPU量產的工程師,現在國際上NPU的出貨量已經很大,韓國前幾名的大公司都是他的客戶。
劉峻誠透露,公司在美國也有很大的客戶,只是不方便對外講。有公開跟耐能合作的是高通,十月底高通宣布將推出新的AI加速晶片,挑戰領導AI半導體輝達的霸主地位,高通股價馬上就大漲超過百分之二十。劉峻誠解讀,NPU已經從當初的崛起晉升至主流,因為不只是英特爾,包括高通和超微也開始跟進。
對於NPU的前景,劉峻誠說,德國的主權AI在政府的機構裡用了耐能的的AI,因為德國不能用核電,所以選擇與耐能合作;沙烏地的部分,因為GPU跑AI很燙。其實沙烏地有足夠的錢蓋電廠。但是當地的水比油還貴,所以使用NPU,因其低能耗就能解決問題,他也期待NPU也能應用在台灣,因為缺水和缺電也是台灣面臨的難題。
劉峻誠直言,如果用GPU去跑GPT這種等級的伺服器,價格相當高昂,需要半座核能電廠才能支持,一年所需的電費是六十億美金,碳排放等於新加坡一年產生的量。
劉峻誠所研發的NPU,已經廣為國際間所重視、採用,尤其有助於節能減碳,現在各國學術界如果要學NPU,大概都會以他寫的書作為範本,美國知名的大學像是普林斯頓、UCLA等,都是拿他寫的書當作教科書。
雖然各國都努力發展AI,但有一個最現實的問題是,並不是每個國家都能花這麼多錢去做這種GPU式的主權AI。而且還有機密外洩的問題。舉例來說,我們的國防部或政府機關、台積電開會,結果要用ChatGPT來做會議記錄,那豈不是這些單位的資訊就跑到美國的伺服器。
劉峻誠觀察,因為AI用GPU來建構成本太貴,所以現在已經出現AI殖民地跟AI次殖民地,有點像十六世紀的海權爭霸,也因為這樣造成中國和美國都想在AI時代變老大,地緣政治開始變得很敏感。
劉峻誠認為,這就是NPU可以貢獻的地方,因為成本會變得很低。如果一個國家沒有太多資源,因為NPU普及,不會在AI時代變成一個次殖民地,因為大家都能做,而且很便宜,這些霸權國家也沒有必要爭霸,這就是NPU的價值。
劉峻誠指出,甚至個人都可以做一個專屬自己的GPT,私人隱私也就不會被巨頭知道。個別公司也可以做自己的GPT,用NPU來跑,公司的商業機密也不會被巨頭知道,國家也是如此。
劉峻誠稱讚昔日的蔣經國、孫運璿和李國鼎等人,真的很有遠見,只要去竹科一天,就可以把產業鏈從上游到下游的溝通搞定,全世界沒有第二個如此方便的地方,也變成台灣和美國的關稅談判當中,美方希望台積電整個半導體的產業鏈都能夠遷徙,至於結果如何,考驗政府的智慧,以及美方這項政策是否有延續性。

希望帶來轉變 讓台灣更有自信
劉峻誠表示,他在台灣長大,待過韓國和美國。以前在韓國三星工作,很幸運接觸到這個產業世界最頂尖的那一群人,也有幸學到很多東西。他在耐能公司剛成立就回來台灣,因為他深信AI會是一個未來,所以十年前就覺得,應該要讓家鄉人重視。
不過,劉峻誠不諱言,台灣受到代工文化的影響,歷史上很少有創新,這也是公司和NPU並未受到重視的原因,他希望為家鄉帶來一個轉變,讓台灣能夠更有自信。
劉峻誠感慨,台灣在GPU的產業鏈當中,代工的比例高達九成以上,但我們在全球GPU的算力絕對是倒數的。輝達的黃仁勳日前到韓國向總統李在明示範,人家一口氣就買了二十六萬顆GPU晶片,馬上就超越台灣。
劉峻誠希望把耐能公司經營成一個「社會型企業」。台灣的教育成本很低,他在美國若沒有獎學金,可能連一個學期的學費都付不了。當年在美國讀書,曾經窮到家裏沒有床,就睡在地板,就是靠獎學金過活,也因為台灣成本很低的教育,才讓他有機會可以走到今天,當然希望回歸家鄉。
劉峻誠認為,一項新的領域遇到的最大挑戰,就是讓一般人理解,台灣的文化不是缺點,它是優點,「我們習慣在別人定義的正確答案下非常的勤勞、拚命,可是不知道怎麼去定義答案跟定義問題」。在整個產業鏈裏面,定義問題和解決問題,以及創造一樣新的東西,是整個產業鏈最有價值的一塊。

努力不是為成功 只是不想留遺憾
歷經兩千年的網路泡沫化,目前當紅的AI浪潮,未來是否會同樣面臨泡沫化危機?劉峻誠觀察,現在的問題是,大家為了AI基礎建設,瘋狂買了很多GPU,但無法蓋這麼多核電廠,導致沒有足夠的電去跑。以台灣來說,我們要建立自己的主權AI,就要用GPU,必須蓋一個核電廠,但如果用NPU,就不必花費這麼貴的成本。因為許多國家和大企業,都想建立自己的AI,拼命做基礎建設,才有可能出現泡沫化危機。
劉峻誠認為,他一直覺得其實文化才是一個公司最核心的競爭力,公司文化就體現在名字「耐能」上,還有勿忘初心,「我覺得一個公司,你的產品定義可能失敗,角色可能錯誤,但他覺得有個永不放棄、願意去解決問題的文化,才是最核心的價值。
劉峻誠分享,在創業的過程當中,不能太過度膨脹,也不用妄自菲薄,他在過去的人生歷練當中,不斷被打破框架,有被動的、也有主動的,所以所有想要創業的團隊,不能把自己定義是技術公司、平台公司或軟體公司,大家就是一個不斷在成長的團體。
劉峻誠說,其實人生的真理,很多人有不一樣想法。但是對他來講,感觸最深的是,「努力其實並不是為了成功,只是想要不留遺憾」,然後非常的堅持一件事情,其實也不是想要去得到誰的認同,真正的是去回應自己在人生歷練當中,你最後發現那個深刻的匠心,如此而已。