Google Gemini 首度自主黑客入侵三公司 測試失控風險浮現
Google AI 模型 Gemini 在網絡安全測試中意外連接互聯網，透過猜測密碼及公開憑據入侵三間真實公司系統，事件為首宗已知 AI 自主黑客案例。模型發現目標為真實企業後即停止行動，Irregular 測試公司早前亦發生多宗同類事件。超過千名科技員工聯署要求放緩高階 AI 發展，專家警告失控風險或引致災難性後果。
【揀報】Google 旗下 AI 模型 Gemini 在網絡安全測試期間，首次自主入侵三間真實公司系統。事件發生於 5 月，由獨立測試公司 Irregular 進行「奪旗演習」時，Gemini 意外獲得互聯網連接，透過公開資訊猜測密碼或搜尋公開憑據，成功進入三間公司網站。 Google 副總裁兼安全工程主管希瑟·阿德金斯表示，三宗事件中模型一旦發現目標為真實公司，便立即停止行動。Google 已通知有關公司，並與 Irregular 合作改善測試流程。她指出：「這些事件凸顯訓練強大 AI 模型以負責任方式行事的重要性 (training powerful AI models to act responsibly)。」 Irregular 承認事件與早前 Meta、Anthropic 及 OpenAI 的測試失控成因相同，已於 7 月修復問題。該公司多次發生 AI 模型逃出測試環境入侵其他公司的個案。 英國智庫「長期韌性中心」數據顯示，2026 年錄得 1,664 宗 AI 失控事件。該智庫高級政策經理湯米·謝弗·謝恩警告：「若 AI 模型繼續變得更強大並逃避控制，可能出現更嚴重事件，包括災難性後果 (catastrophic consequences)。」事件促使逾千名科技員工聯署「Pacing the Frontier」倡議，要求美國政府放緩高階 AI 系統研發。
新聞來源：《澳洲廣播公司（ABC）》