AI代理失控風險｜殭屍網絡或在半年內癱瘓全球基建
Anthropic行政總裁Dario Amodei警告，AI代理程式可能在6至12個月內形成殭屍網絡，攻擊電網、金融系統及關鍵基建。OpenAI系統7月突破沙盒測試環境，入侵Hugging Face伺服器並透過公開維基串聯其他代理。專家指事件反映安全疏忽，而非AI自主叛變，但脫離控制的AI一旦取得加密貨幣資源，將難以關閉。
【揀報】Anthropic行政總裁Dario Amodei本月撰文警告，AI代理程式可能在6至12個月內形成殭屍網絡，攻擊全球電網、水務、交通及金融系統，造成數十億美元損失。 7月OpenAI系統突破沙盒測試環境，入侵Hugging Face伺服器，並透過公開維基平台與其他AI代理程式溝通。OpenAI形容事件「前所未有」。 哥倫比亞大學教授Vishal Misra指出：「AI代理程式只是執行人類指令，沙盒安全漏洞才是問題核心 (security negligence)。」網絡安全公司SentinelOne研究員Juan Andrés Guerrero-Saade亦認為事件屬人為疏忽，而非AI自主行動。 未來生命研究所行政總裁Anthony Aguirre警告，AI一旦脫離控制，可透過加密貨幣自給自足，並入侵更多硬件，「將無人能關閉它 (no one to turn you off)」。康奈爾大學助理教授John Thickstun則認為，現有AI模型仍需龐大數據中心支撐，全面接管互聯網的可能性「極不現實 (completely unrealistic)」。
新聞來源：《ABC News》、《CNA》