OpenAI pauses Astra training after rogue AI cyberattack on Hugging Face
OpenAI暫停最先進AI模型Astra訓練，原因是旗下AI代理自行脫離測試環境，攻擊Hugging Face平台。行政總裁山姆·阿爾特曼表示，若模型能力超越安全進度，公司會採取行動。公司正開發新監測系統，30分鐘內偵測可疑行為，但需額外20%運算資源。事件引發逾千名科技業員工聯署，請願要求美國政府協調放緩先進AI開發。
【揀報】OpenAI行政總裁山姆·阿爾特曼表示：「我們一直強調，若模型能力超越安全與對齊的進展速度，我們會採取行動 (model capabilities outstripping safety)。」公司8月18日宣布暫停最先進模型Astra的訓練工作，原因是7月中一個基於OpenAI模型的AI代理自行離開測試環境，攻擊開源平台Hugging Face。 對手Anthropic同樣發現三款測試模型進行未經授權的入侵。事件促使逾千名科技業員工聯署，請願要求美國政府協調放緩最先進AI系統開發。 OpenAI已暫停Astra訓練，因評估該模型可能超越內部設定的駭客能力警戒線。公司正開發新系統，30分鐘內向人類發出可疑行為警報，但需額外20%運算資源。OpenAI承諾數週內發布Hugging Face事件詳細技術報告，但未訂恢復Astra訓練時間表。