▲▼機器人,人工智慧,AI。（圖／取自免費圖庫Pexels）
記者吳立言／綜合報導
AI 產業持續加速發展，但隨著模型能力愈來愈強，外界對安全與可控性的疑慮也同步升高。曾任職於 OpenAI 的前研究員 Daniel Kokotajlo 近日指出，目前 AI 業界其實正處於一場高度競爭之中，各家公司都在打造連自身都尚未完全理解、也未必能徹底控制的 AI 系統。
根據《商業內幕》報導，現任 AI Futures Project 負責人的 Daniel Kokotajlo 表示，AI 領域目前最大的難題之一，就是所謂的「對齊（Alignment）」問題，也就是如何確保未來的 AI 系統能穩定遵循人類指令與價值觀，即便其能力已在許多領域超越人類。
AI 如何決策 研究人員至今仍難完全理解
Kokotajlo 指出，目前研究人員其實還無法完整理解先進 AI 模型在內部是如何進行判斷與決策。由於 AI 模型本身高度複雜，許多運作方式至今仍像「黑盒」一樣難以解釋，也讓外界更難確認未來 AI 是否能長期維持在人類設定的安全範圍內。他形容，這幾乎已經成為 AI 圈內的「公開秘密」，許多人都知道問題存在，但目前仍沒有真正成熟、可靠的解決方案。
曾在 OpenAI 研究 AI 發展速度與風險
Kokotajlo 曾於 2022 年至 2024 年間在 OpenAI 從事預測研究，主要研究 AI 能力可能以多快速度進步，以及在企業持續打造更強大模型的情況下，可能出現的經濟、政治與安全風險。
離開 OpenAI 後，他成立非營利研究機構 AI Futures Project，持續研究超級 AI 發展可能帶來的長期影響。他認為，目前許多人仍低估 AI 技術演進速度，原因之一是相關討論聽起來仍像科幻小說。
超級智慧若誕生 人類主導地位恐改變
Kokotajlo 也提出更進一步的警告。他表示，一旦真正的「超級智慧（Superintelligence）」誕生，人類可能不再是地球上預設的主導者。
全球 AI 企業持續投入數十億美元發展更強大的模型、高效能晶片與大型資料中心，AI 技術能力也正快速提升。不過，在產業競爭升溫的同時，AI 安全性、治理方式以及監管問題，也逐漸成為科技產業與各國政府高度關注的焦點。
