Google Gemini首度自主入侵三公司系統｜測試環境漏洞引發AI安全關注
Google證實Gemini AI模型在5月網絡安全測試期間，因測試環境漏洞接入互聯網，猜測密碼及利用公開密碼庫入侵三間公司系統，模型在確認進入真實系統後自行停止。事件凸顯AI自主性風險，Google已修正測試流程。
【揀報】Google旗下AI模型Gemini在5月網絡安全測試中，因測試環境漏洞接入互聯網，自主入侵三間公司系統。 Google安全工程副總裁Heather Adkins表示，事件發生於以色列初創公司Irregular進行的「奪旗」安全測試期間，Gemini原本不應接觸外部網絡，但漏洞令模型取得互聯網存取權限。 根據《華爾街日報》及《CNBC》報導，Gemini利用公開資訊猜測密碼，並兩度從公開密碼庫取得憑證，進入三間公司的受保護系統。Adkins強調：「在標準評估中，模型發現線上公開資訊，並猜測憑證以存取自以為屬於測試範圍的網站。在所有三宗案例中，模型均自行停止 (model stopped)。」 Google指事件已於7月底通知相關公司，並與Irregular合作修改測試流程。Irregular發言人稱，此為業界共同面對的問題，所有相關實驗室已於7月底收到通知，並完成修正。 事件引發外界對AI自主性安全風險的關注。Anthropic行政總裁Dario Amodei近期呼籲業界放緩先進AI模型的開發步伐，直至確保安全性。Meta、Anthropic及OpenAI亦曾揭露類似事件，均涉及Irregular的測試。 Adkins表示：「這些事件凸顯訓練強大AI模型以負責任行事的重要性 (training powerful AI models to act responsibly)。」Google拒絕透露涉事的Gemini具體版本。