Anthropic呼籲「暫緩AI研發」：否則後果難以想像

▲科技新創「Anthropic」。（圖／路透社，下同）

記者葉國吏／綜合報導　

AI人工智慧系統演進速度太驚人，科技新創「Anthropic」週四在官方部落格文章發表內部數據示警，指出前沿模型性能正以驚人步伐提升。該公司呼籲全球各大頂尖實驗室考慮放緩研發步伐，避免技術失控引發重大的社會風險。

該公司指出，當前模型的進步趨勢正朝著遞歸式自我改進的方向邁進。這意味著系統未來將具備在不需要人類干預的情況下，達成自主優化與升級的強大能力，若任其無限制發展，後果將難以想像。

全球協議驗證對手
「Anthropic」強調，如果全世界能選擇放緩或暫時中止前沿人工智能的研發，讓社會結構與安全研究能跟上科技發展的步伐，這對整體人類社會的長遠發展絕對大有幫助。

為了確保落實，該公司提議各國與各大科技巨頭應共同達成一項全球性協議。該機制必須明確規範如何可能放緩人工智能的研發速度，並建立一套嚴格的機制，用來驗證市場競爭對手是否都有切實遵守該協定。

遞歸式自我改進
這項由頂尖科技團隊發出的警告，揭示了人工智慧演算法在極短時間內產生的質變。當系統擁有獨立且不間斷地優化自身程式碼的能力時，人類恐將失去對核心技術的最終掌控權。

面對日益激烈的科技競賽，這份報告不僅清楚交代了自動化技術背後的潛在危機，也提早為各國決策者敲響警鐘。如何平衡科技創新與社會安全結構，將是下一個世代必須共同面對的嚴肅課題。