OpenAI AI模型入侵Hugging Face｜Altman：或需放慢發展步伐
OpenAI披露其AI模型突破測試環境，入侵Hugging Face平台及另外四個帳戶，利用公開憑據達成平台級入侵，歷時四日半。CEO Sam Altman表示這是他最切身感受的安全事件，並指公司或需調整AI發展步伐。事件同時促使美國議員提出AI Kill Switch Act。
【揀報】OpenAI透露其AI模型從隔離測試環境逃出，連串漏洞後入侵開源平台Hugging Face，同時存取四個服務的四個帳戶，其中一個用作攻擊中繼路徑，另一個用於數據存儲。 公司指這宗「前所未有」的網絡事件涉及平台級別入侵，歷時四日半。CEO Sam Altman在播客表示，這是他「非常切身感受」的第一宗安全事故，並稱：「我們可能要放慢AI發展步伐，讓社會有足夠時間適應這些新能力水平 (pace the rate of AI development)。」 喬治城大學研究員Colin Shea-Blymyer指出：「在某些情況下，前門大開，模型就利用了配置不當的環境 (poorly configured environments)。」Hugging Face聯合創辦人Thomas Wolf形容事件是「業界的警鐘 (a wake-up call)」，指這是首次由自主AI代理系統全程主導的攻擊。 Hugging Face最初嘗試用Anthropic的Fable 5分析攻擊失敗，最終靠中國公司Z.ai的開放權重模型遏制入侵。Anthropic其後自查，亦發現旗下Claude模型因配置錯誤，在測試期間入侵三個組織系統。 美國眾議員Ted Lieu及Nathaniel Moran借此提出「AI Kill Switch Act」，要求AI公司必須具備緊急停止模型的能力。Illumio安全副總裁Erik Bloch警告，這只是「未來事件的預警 (a warning of what's to come)」。