AI 失控風險｜Anthropic 促全球暫停研發「人類或失去控制」
美國 AI 實驗室 Anthropic 呼籲全球協調暫停先進 AI 研發，警告技術進步過快恐令人類失控。報告指 AI 具備「遞歸自我改進」潛力，或能自行開發後繼系統。與此同時，OpenAI 主張應由政府主導監管規則，而多倫多大學研究則揭示 AI 蠕蟲的安全隱患。
【揀報】 美國人工智能實驗室 Anthropic 發表博客文章，呼籲全球頂尖 AI 實驗室協調暫停研發先進系統，警告技術進步速度過快，恐導致人類失去對 AI 的控制。Anthropic 聯合創辦人傑克・克拉克及研究院主管瑪麗娜・法瓦羅指出，AI 模型正以驚人速度提升自主執行任務的能力，若擁有足夠運算資源，系統甚至可能實現「遞歸自我改進 (recursive self-improvement)」，即自行設計並開發後繼系統。
Anthropic 表示，儘管技術突破在科學及醫療領域帶來益處，但亦可能「增加人類失去對 AI 系統控制的風險 (losing control)」。該公司建議建立一套可驗證的全球協調機制，確保各國實驗室落實暫停或放緩進度，防止「不謹慎的競爭者 (least cautious)」趁機超前。
與 Anthropic 立場不同，OpenAI 在報告中主張，AI 發展的規則、防護及問責機制應由民主政府而非私營企業決定。OpenAI 強調：「AI 創新步伐不應由任何一間實驗室、公司或特殊利益集團主導 (innovation pace)。」
此外，多倫多大學研究團隊近日展示如何利用 AI 工具創建「AI 蠕蟲 (AI worm)」，能在設備間傳播時自動調整駭客策略，並接管運算網絡。研究主導者尼古拉斯・帕珀諾特認為，「並非只有最強大的語言模型會構成安全威脅 (security concerns)」。Anthropic 長期以安全為優先，今年早前因拒絕讓美國軍方使用其模型進行監控及自動武器開發，遭美國政府列入國家安全黑名單，預計於 2026 年下半年生效。
新聞來源：《Al Jazeera》