將DeepSeek融進客製化邊緣AI:台灣未來10年新戰場

將DeepSeek融進客製化邊緣AI:台灣未來10年新戰場
陳良基指出,算力只是手段,台灣應把握客製化AI領域的發展機會。圖片來源:未來城市
2025-05-06
整理・陳芳毓
9593
「台灣在AI浪潮中的機會在哪裡?」前科技部長、台大電機系名譽教授陳良基觀察,AI產業正從追求純粹算力,轉向更細緻的場景應用。

這個轉變可能為台灣帶來新的戰略機遇。

陳良基曾主導台灣杉二號超級電腦的建置,多年來持續關注AI產業發展。他《天下雜誌》與「未來城市@天下」主辦的「2025AI趨勢論壇」指出,隨著AI開放模型的釋出,用於特殊用途的邊緣運算將成為AI發展新方向。

以下為陳良基的演講精華:

科技的改變是長期的,今天我帶大家看一些趨勢線索。也許五年後再回頭看,更知道今天該怎麼做決策。

過年時,DeepSeek成為全球大新聞,它最大的影響,是撬開了邊緣AI的競賽。

我們的AI環境正在改變。我從兩年多前就在問:AI時代來臨後,台灣的機會在哪裡?我們有沒有辦法成為全球AI產業供應鏈的關鍵供應商?

當時我認為,台灣應盡快與全球開放模型提供者結合,成為客製化AI的重要供應商。DeepSeek的出現,給了我們一個機會。

AI應用流程分為兩個階段:基礎訓練階段由AI公司完成,就像大學培養學生;不同的基礎模型就像不同大學的畢業生,各具特色。

而應用調整階段則在企業內進行,如同職場培訓。企業可透過微調(fine tuning)與RAG等技術,讓AI更符合實際需求。

但目前企業多採一條龍服務,將所有環節交給AI公司處理,形成封閉系統,就像把員工送回大學做職業訓練。

而台灣應該是將這個流程「撬開」:讓企業透過客製化AI,建立自主調整的能力,形成開放系統,不必再依賴AI公司進行所有調整。

陳良基-邊緣AI-客製化-開放模型-DeepSeek-台灣杉-算力-能源-場景應用-ASIC-RAG-軟硬整合-台灣-人工智慧陳良基認為,台灣AI產業能以客製化AI滿足各種使用場景,將成一大優勢。圖片來源:未來城市

目前產業普遍採用「一條龍」服務模式,將所有微調交給AI公司,這種依賴可能面臨資源瓶頸。

很多人說「得算力者得天下,有算力就能得AI」。但真的如此嗎?2017年,我跟立法院爭取新台幣50億元,要做全世界第一個AI主機;當時,整個「台灣杉二號」的算力大約是9到16 Petaflow(每秒一千萬億次浮點運算)。

但GPT-3約有1,750億個參數,用當時台灣杉二號的算力訓練一個類似規模的語言模型,約需要365天。AI模型的規模與複雜度快速攀升,遠超過算力成長的速度。

此外,黃仁勳預測,到2028年,一個資料中心的電力功耗可能會達到千兆瓦級別,這是一個天文數字,甚至遠遠超過台積電一座12吋晶圓廠的耗電量。我們是否能夠長期負擔這樣的能源需求,是一個需要嚴肅思考的問題。

可以說,算力只是手段,「最佳化的AI能力」才是客戶的目的;輕薄短小、客製化的AI才最符合人性——這正是台灣的強項:提供一個客製化的場景應用的解決方案。

AI產業將朝向場景特化發展,為台灣帶來新機遇。雖然在通用AI模型開發上機會有限,但台灣憑藉軟硬整合的優勢,可在未來五到十年內,透過特定應用積體電路(ASIC)的客製化解決方案,在邊緣AI市場佔有重要地位。

★了解更多|2025 AI Forecast趨勢論壇:科技新秩序,產業新賽局

你也會有興趣:如何把握在AI時代的台灣優勢?

其他人也在看

你可能有興趣

已成功複製連結