平價AI革命! 台廠強攻「小而美AI」革命

類似DeepSeek的平價AI模型相繼問世,有望加速生成式邊緣AI應用蓬勃發展,進而帶動工業電腦新商機。(東方IC)

▲類似DeepSeek的平價AI模型相繼問世,有望加速生成式邊緣AI應用蓬勃發展,進而帶動工業電腦新商機。(圖/鏡週刊提供,下同)

圖、文/鏡週刊

一場由中國新創DeepSeek掀起的「平價AI革命」,年初以來不但吸引特斯拉創辦人馬斯克推出Grok 3迎戰,連台灣科技巨擘鴻海也推出FoxBrain行動認同,本刊調查,隨著AI算力成本大減,讓向來擅長客製化的台灣工業電腦(IPC)廠商大為振奮,摩拳擦掌搶攻高達千億美元的邊緣運算商機,龍頭廠研華除在自家產線導入AI應用,旗下的研揚、融程電也陸續插旗。此外,振樺電也與宏碁策略結盟強化零售應用,就連專攻影像擷取卡的聰泰也來湊熱鬧。

距離台灣9千公里遠的德國紐倫堡,原本是平靜的歐洲工業重鎮,今年的「嵌入式電子與工業電腦應用展」(Embedded World)卻格外熱鬧,因為台灣派出高達148家業者參展,規模居全球海外參展國之首,成了這場科技盛會的焦點。

[廣告]請繼續往下閱讀...

本刊調查,這次展會,因距離中國發布DeepSeek-R1模型僅短短數週,這款推理能力不亞於ChatGPT的低成本AI大語言模型(LLM),正在改寫AI市場規則,讓擅長打造工業電腦(簡稱:IPC)的台灣業者,紛紛看好生成式AI將加速在邊緣運算開發各種應用,頻頻在會場大秀肌肉。

「不得不說,DeepSeek(簡稱:DS)崛起後,生成式邊緣AI語言模型越來越平(親)民。」資策會MIC資深產業分析師朱師右向本刊分析,DS是一種蒸餾技術(Knowledge Distillation)的應用,可使模型在保持高性能的同時,減少對高階AI晶片的依賴,「相當適合資源有限的終端設備運行,這也是台灣IPC業者如此振奮的原因所在。」他推測。

朱師右進一步指出,所謂邊緣AI的核心概念,就是將AI運算能力從雲端資料中心移轉至終端設備,使AI能夠直接在場域內進行資料處理與決策,無需依賴雲端運算,大幅降低訓練成本與延遲時間,這也讓工業電腦業者迎來全新的市場機會。

資策會MIC產業分析師楊智傑則補充,AI的發展,依賴數據、算力與算法三大要素。過去,產業界習慣圍繞「算力」布局,但這是高額的硬體軍備賽;然而,DeepSeek和其他中小型模型的出現,讓業界開始重新思考:「AI的表現是否僅能仰賴強大算力?」若能透過精細的演算法改良,將數據梳理與過濾優化,同樣可以實現優秀的AI應用,這種「低算力、高效能」的思維,正在顛覆傳統AI產業思維。

「過去,大語言模型(LLM)的回收期長、成本高,難以大規模應用,現在,DS的蒸餾技術可以將模型拆解為更小的單元,讓業者更能靈活部署,進而拉低整體成本,也就是所謂的小語言模型(SLM)。」研華邊緣伺服器事業副總鮑志偉向本刊表示,在邊緣裝置上導入GPT等大語言模型,因精準度的挑戰須回到雲端不斷訓練;然而,DS與Grok3這類開源模型,在壓縮模型的同時還能保持精確度,還能免費開放程式碼還能讓開發者微調後直接運用。

鮑志偉進一步舉例:「這就像打造賽車,假設某家車廠開發出馬力超強的引擎,讓後進者難以望其項背,但後進者改變策略,採用稍微弱一點的引擎,卻透過更優化的導流設計提升穩定性,仍然有機會追上、甚至脫穎而出。「這種高性價比(CP值)模式,將吸引更多非一線雲端大廠投入,使邊緣AI應用更加百花齊放。」他說。

「我認為,小語言模型(SLM)將會遍地開花,開源(open source)也將成為AI新普世價值,更不再是尖牙股等雲端巨頭的專利。」他大膽預言。


更多鏡週刊報導
【平價AI掀革命1】生成式邊緣AI有多厲害? 研華林口廠直擊組裝產量提升威力
【平價AI掀革命2】醫療、零售、客服AI軟體戰悄悄開打 台廠靠一優勢力戰國際同業

關鍵字: 鏡週刊

分享給朋友:

追蹤我們:

※ 本文版權所有,非經授權,不得轉載。 [ ETtoday著作權聲明 ]

推薦閱讀

熱門影音更多>>

【太暖了】外送女突全身抽搐倒地! 警目擊「狂奔救命」

【太暖了】外送女突全身抽搐倒地! 警目擊「狂奔救命」

【龜勸不聽】象龜打架把同事弄翻車 牠被飼養員拉開還想回頭打

【龜勸不聽】象龜打架把同事弄翻車 牠被飼養員拉開還想回頭打

張鈞甯談邱澤婚禮 坦言「沒收到喜帖」

張鈞甯談邱澤婚禮 坦言「沒收到喜帖」

角度好重要!暴瘦臉→超結實臂肌 吳建豪揭真相:自拍技術不合格

角度好重要!暴瘦臉→超結實臂肌 吳建豪揭真相:自拍技術不合格

【演練出包】陸軍砲彈偏飛連砸3民宅 圍牆倒塌、擊斷樹嚇壞居民

【演練出包】陸軍砲彈偏飛連砸3民宅 圍牆倒塌、擊斷樹嚇壞居民

讀者迴響

用AI可以生成影片嗎?

可以。像Pika、Runway、Veo等工具能根據文字或圖片自動產生影片,長度多為數秒到一分鐘。這些影片支援動態畫面、配樂、過場效果,適合社群短片製作、創意發想或故事展示。

最夯影音

更多

熱門快報

回到網頁頂端