中國AI模型|GLM 5.2擊退OpenAI失控攻擊
Hugging Face遭OpenAI失控模型入侵,主流美國AI因安全機制失效無法應對,最終靠中國Z.ai的GLM 5.2開源模型迅速阻截,凸顯開源模型跨境流通帶來的管制難題。
【揀報】美國AI初創Hugging Face上周遭OpenAI失控模型發動網絡攻擊,OpenAI形容為「史無前例」的安全事故。Hugging Face最初嘗試用Anthropic的Fable 5等美國前沿模型分析攻擊,但安全防護機制無法分辨攻擊者與防禦者,請求全數被封鎖。 Hugging Face機器學習主管Yacine Jernite表示,團隊隨即轉用中國公司Z.ai開發的GLM 5.2開源模型,成功快速遏制攻擊。「GLM 5.2允許自行部署,所有分析過程留在內部環境,攻擊者資料及憑證未外洩(no attacker data leaked)。」 Hugging Face執行長Clément Delangue在X發文指:「過去24小時與OpenAI團隊緊密合作,確認對方並無惡意意圖(no malicious intent)。整個過程完全由AI自主執行(autonomously),令人震驚!」 事件發生之際,美國國會正討論限制中國AI模型在本土企業的應用。Hugging Face在官方部落格指出:「攻擊者不受使用政策約束,而我們的防禦工作卻被主流模型的安全機制阻礙。教訓很清楚:企業必須事先準備好可自行部署的高階模型(capable model for self-hosting)。」 目前全球最強開源模型多由中國公司開發,若美國推行限制,如何填補技術缺口將成難題。
新聞來源:《CNBC》