▲Andrej Karpathy近日出席「AI Startup School」系列演講。（圖／YouTube@@ycombinator）
記者吳立言／綜合報導
在AI Startup School的技術演講中，OpenAI前研究主管Andrej Karpathy提出，大型語言模型（LLM）正逐步演化為當代最關鍵的基礎設施，不僅重新定義「軟體」的邏輯，甚至具備如電網、晶圓廠與作業系統般的社會角色。
[廣告] 請繼續往下閱讀.
Karpathy表示，生成式AI所代表的不是單一工具或模型，而是一種全新形態的電腦運算平台。他認為，LLM的特性無法用單一框架理解，因此提出三種交錯類比：
＊像公用事業（Utilities）
LLM訓練需巨額資本與基礎設備，像極了建設發電廠。模型部署後，透過API按使用量收費，就如同用戶按度數付電費。
Karpathy更指出，若主流LLM停擺，全球將出現智慧運算短缺的「智能限電（intelligence brownout）」，形成如電力中斷般的科技災害。
[廣告] 請繼續往下閱讀..
＊像晶圓廠（Fabs）
頂尖LLM的訓練流程涉及龐大研發資源、演算法堆疊與硬體基礎，與台積電等晶圓廠相似，具備極高的技術門檻與資本防禦力。不過Karpathy也提醒，軟體雖然集中，但可複製性高，相對防禦性其實比硬體產業低。
＊更像作業系統（Operating Systems）
這是他認為最貼切的比喻。Karpathy表示，LLM不只是資料查詢工具，而是具有記憶體、上下文、指令解析與應用協調功能的「新作業系統」。
他指出，LLM負責「協調記憶與推論資源」，上下文視窗如同RAM，模型如CPU，一起構成運算核心。如今使用者透過自然語言與LLM互動，如同透過終端機與1960年代的大型電腦對話。
[廣告] 請繼續往下閱讀...
Karpathy強調，目前的AI模型仍集中運算、價格高昂，彷彿早期計算機只能透過分時系統使用，還未進入個人運算革命。他認為，未來若出現AI的「個人電腦時刻」，將徹底改變人機互動與軟體產業結構。
這些比喻不僅說明LLM的技術複雜性，也揭示其在社會與經濟系統中的關鍵地位。AI不再只是工具，而是正逐步成為與電網、晶圓廠、作業系統並列的「智慧基礎建設」。