商業 Business > 經營策略
feature picture
蔡仁譯攝影

晶片超越輝達,台積電也看好!創鑫智慧 50 人小團隊如何只用 4 年,變身 AI 市場大黑馬?

2023-05-25 數位時代 邱品蓉
分享
收藏
已完成
已取消

AI(人工智慧)浪潮正熱,GPU 大廠輝達(NVIDIA)成為全球焦點。然而,來自台灣的晶片小廠創鑫智慧,卻在 AI 晶片產業測試基準的工程聯盟(MLCommons)近期公布的資料中,在每瓦的資料中心伺服器的查詢次數上,擊敗輝達。

資料顯示,在每瓦 1,060 次查詢(queries)上,創鑫智慧擊敗輝達,以能效為 H100 的 1.7 倍的成績,位居第一 。這意味著創鑫智慧的晶片,能讓如臉書(Meta)、谷歌(Google)這樣的科技巨頭,達到更好的查詢效率,兼具省電目的。

延伸閱讀:ChatGPT 爆紅的啟示:AI 取代人力的那一天,終於不遠了?
創鑫智慧
創鑫智慧近期在人工智慧晶片產業測試基準的工程聯盟(MLCommons)公布的資料中,在每瓦的資料中心伺服器的查詢次數上,擊敗輝達。
創鑫智慧官網

這間員工數才 50 人的 IC 設計商,是如何在短短的 4 年內找到 AI 市場,以黑馬之姿走入國際視野?

創鑫智慧擊敗輝達、能效為 H100 的 1.7 倍!他們如何找到屬於自己的 AI 路?

這並非創辦人林永隆的第一次創業,25 年前,林永隆就曾與石克強等業界先進一同創辦了創意電子。創鑫智慧是他從清華大學資工系教授身份退下後的二次創業,而選擇的題材,則是當紅的 AI 晶片。

延伸閱讀:Google 推出號稱速度更快、更省電 AI 超級電腦,輝達為何沒在怕?

放眼全球,輝達無疑是當今 AI 晶片龍頭。在這樣的局勢下,創鑫智慧則在廣大的 AI 商機中,找到了一條與輝達不同的道路。林永隆肯定地說:「我們跟輝達,是在打不同的東西。」

他解釋,輝達生產的是通用 GPU,意味著需要照顧的範圍相當廣闊,從工程、氣象模擬再到遊戲等都要能夠適用。然而,對企業主來說,若使用 GPU 的目的簡單不複雜,這樣高規格的 GPU 採買不見得符合企業的成本效益。

「這就很像以前的 DVD(數位光碟播放器)。」林永隆說舉例,過去 DVD 剛興起時,人們會買動輒 3、5 萬的筆記型電腦來看 DVD。雖然電腦用途多,是通用機器,但若只為觀看 DVD,實際上並不划算,猶如用大砲打小鳥,手段與目的並不相符。

「後來就出現像是 3,000 塊這種價錢的 DVD Player。」林永隆認為,雖然 DVD Player 只能做好一件事,但對使用者說已經足夠,「挖礦也是同樣概念,用 GPU 挖礦耗電量實在太大了。」林永隆指出,這就是為何像比特大陸這樣的企業,會生產 ASIC(特殊應用晶片)特定用途晶片,就是希望能達到省電。

創鑫智慧
創鑫智慧瞄準特殊應用晶片,走出與輝達不同的AI路。
創鑫智慧官網

這意味著,創鑫智慧找到的戰場,並不是在晶片效能表現(performance)上與如輝達、超微(AMD)這樣的大廠競爭, 而是針對特定用途、在專精的領域上,加快 AI 的運算,藉此取得客戶青睞 。而如何做到省電又兼顧成本,則是創鑫智慧在晶片設計上著墨的重點。

美國科技媒體《VentureBeat》日前就披露,GPT-3 有 1,750 億參數,訓練成本高達 1,200 萬美元,是同類中參數數量最多、最昂貴的模型之ㄧ。「像 Google 如果要把 AI 加到他的搜尋中,不會賺錢反而會虧錢。」林永隆說。

特殊 AI 晶片拿下美系客戶!創鑫智慧:社群演算法終會公開,是 AI 好機會

有了確切戰略方向,創鑫智慧首先瞄準的領域,便是需要大量推薦系統的社群軟體。林永隆預言:「以後社群的演算法,一定都會被要求公開。」

他指出,當前演算法大多不透明,帶有特定目的、偏見或錯誤的推薦系統議題也被越來越多人討論,公開演算法的聲量正在加劇。林永隆指出,「比如為解決偏見問題,有些會設幾個 key word(關鍵字)就擋掉了,但公開演算法後不能這樣做。」

日前推特(Twitter)擁有者伊隆.馬斯克(Elon Musk)便已開出第一槍,公開推特演算法。他表示,推特演算法不盡完善,但起碼能有更透明資訊,了解自己是否被操縱。

馬斯克.png
林永隆大膽預言,未來社群媒體演算法肯定會公開,屆時就是特殊應用AI晶片大顯身手之時。圖為推特CEO馬斯克。
Getty Images

然而公開演算法,並不會讓精準推薦需求消失。企業將被要求透過其他方式,建立更完善的推薦機制,在精準推薦的同時又能兼顧科技倫理。在這樣的情況下,企業將不可能僅透過人為設置關鍵字的方式處理,而是會加入更多運算,「所以推薦模型(model)會越來越複雜。」意味著將來應用於推薦系統的算力必須更強、更快。

創鑫智慧透露,預計第一批客戶為美系企業,雙方正在交涉中,產品也還在工程階段,同時也正與電商及零售客戶洽談,預期在社群之後,還會跨足虛實整合應用,並推展亞洲市場。

台積電也肯定,除了聯發科就是它!這家 IC 設計小廠為何投片 7 奈米?

創鑫智慧解鎖的另一項成就,就是成為繼聯發科後,國內第二家投片台積電 7 奈米的 IC 設計商。一位半導體基金經理人指出,台積電向來在接單前都會先評估新客戶的成長性。換句話說,能夠投片台積電 7 奈米,即代表是對創鑫智慧的一種肯定。

問起為何從 7 奈米開始時,林永隆表示,當初是先以想達到怎樣的表現、需要多少算力作為思考起點,再去評估不同製程節點的優劣,包含價格、能耗等等。林永隆補充:「你還要思考,不同製程的 IP 成熟度,以及是否有已經過市場驗證過的產品。」

創鑫智慧董事長林永隆
經過各方考量,創鑫智慧決定投片7奈米,成為繼聯發科之後,國內第二間投片台積電7奈米的廠商。
蔡仁譯攝影

恰好在創鑫智慧投片的 2021 年,7 奈米的相關 IP 都已成熟。未來創鑫智慧也不排除朝更成熟的製程進行投片,全依未來的客戶需求。

走過創意電子的創業,回歸校園後再次出山,創鑫智慧的專利掛滿大門牆面。林永隆表示,台灣是以世界一流的水準來培養人才,而 AI 是一個大舞台,足以讓人才發揮長才。他開玩笑地說:「你怎麼知道我 80 歲的時候,會不會再創業?」

(本文出自數位時代

繼續閱讀 台積電 AI
相關文章
會員專區

使用會員功能前,請先登入

  • 台灣首款對話式 AI 職場教練,一次提升領導力
  • 會員專享每日運勢、名人金句抽籤
  • 收藏文章、追蹤作者,享受個人化學習頁面
  • 定向學習!20 大關鍵字,開放自選、訂閱
  • 解鎖下載專區!10+ 會員專刊一次載
追蹤我們