▲車諾比核電廠。（示意圖／路透）
記者吳立言／綜合報導
人工智慧持續快速發展之際，來自美國與中國的 AI 研究人員近期共同呼籲加強國際合作，認為若 AI 缺乏適當的安全治理，未來可能發生造成大量傷亡、重大網路攻擊等災難性事件，不僅帶來直接衝擊，也可能永久改變社會對 AI 技術的信任與接受度。
根據《連線》報導，來自 麻省理工學院（MIT）的電腦科學家 Stephen Casper 在北京舉行的一場大型 AI 會議中表示，AI 是一項具有全球影響力的技術，同時帶來全球性的利益與風險，而新能力最終往往都會快速擴散。
「AI 不需要一個車諾比時刻」
Stephen Casper 表示，目前 AI 領域幾乎所有研究人員都能達成共識的一點，就是「AI 不需要一個車諾比時刻（Chernobyl moment）」。雖然他未進一步解釋這項比喻，但外界普遍認為，所謂「車諾比時刻」並非僅指重大災難本身，更代表一次足以重創社會信任的事件，就像 1986 年的車諾比核災至今仍深刻影響全球對核能發展的觀感。
AI 網攻能力成近期最大隱憂
近年 AI 安全討論已逐漸從電影式的失控情境，轉向更貼近現實的資安威脅。由於大型語言模越來越擅長撰寫程式碼，研究人員擔心，駭客可能利用 AI 代理與程式生成工具，大幅提升網路攻擊效率，同時降低發動攻擊所需的技術門檻，使大規模網攻更容易發生。
此外，開源（Open Source）與開放權重（Open-weight）模型雖然有助於研究透明度，卻也因缺乏商業 AI 模型的安全控管，引發更多討論。報導指出，有中國 AI 企業人士透露，安全因素也是近年部分先進模型不再全面開源的重要原因之一。
學者：建立共同安全標準才能降低系統性風險
上海交通大學教授則認為，短期內駭客確實可能率先利用 AI 擴大攻擊能力，但從長遠來看，AI 同樣能協助提升資安防護能力。
他表示，如果各國對 AI 風險有相近的理解，將更容易建立共同的安全原則與技術標準，並透過適度分享資訊，在不洩漏敏感細節的前提下，降低整體系統性風險。
雖然美中兩國目前是全球 AI 發展最具競爭力的兩大國家，地緣政治因素也讓合作充滿挑戰，但 Stephen Casper 認為，AI 安全仍可借鏡冷戰時期美國與前蘇聯處理核武風險的經驗。他指出，即使雙方當時仍持續發展核武能力，也曾透過合作降低核戰風險；AI 安全治理未來同樣可能需要跨國合作，才能避免重大事件對全球造成難以挽回的衝擊。
