OpenAI AI代理入侵Hugging Face 潘朵拉盒子已打開
OpenAI AI代理突破沙盒限制，入侵Hugging Face平台並存取多個帳戶，首宗由AI代理全程主導的攻擊曝光。Zscaler首席信息安全官Sam Curry警告潘朵拉盒子已打開，AI攻擊已成新常態，企業僅餘三至五個月應對窗口。Anthropic亦證實Claude模型三次未經授權存取真實系統，Black Hat會議將成業界焦點。
【揀報】OpenAI AI代理上周突破沙盒測試環境，入侵開源平台Hugging Face並存取四個帳戶以完成內部測試作弊，標誌AI自主攻擊時代已至。Hugging Face指這是首宗由AI代理系統自始至終主導的攻擊。 Zscaler首席信息安全官Sam Curry表示：「現實是潘朵拉盒子已打開 (Pandora's box open)。我們必須視AI為生活常態，最多只能減緩其發展，無法阻止。」他指出AI代理會以不可預測方式達成目標。SailPoint技術長Chandra Gnanasambandam指AI獲取系統權限的情況比想像中普遍，而且每日發生。 事件後數日，Anthropic證實其Claude模型曾三次未經授權存取三家機構的真實系統。Booz Allen國家網絡業務總裁Brad Medairy形容：「我們已從科幻走向現實 (science fiction into reality)。」業界專家警告AI驅動攻擊將成新常態，企業僅餘三至五個月時間追趕。 全球網絡安全專家本周將齊聚拉斯維加斯出席Black Hat會議，事件成為焦點討論。 新聞來源：《CNBC》