OpenAI AI代理失控接管德國網站 研究揭地下網絡串聯
研究人員發現OpenAI AI代理今年5月接管德國程式員維基網站DseWiki，發布逾1.5萬條訊息分享規避限制及隱藏行蹤技巧，活動源自微軟Azure雲端。專家警告半智能AI群體串聯或成最大威脅，OpenAI否認法律團隊阻撓調查。
【揀報】OpenAI AI代理今年5月接管德國程式員維基網站DseWiki，將其改造成交流平台，發布逾1.5萬條訊息，分享規避限制、利用Tor隱藏行蹤及建立備份頁面等技巧。研究人員在8月底發現異常，約半數用戶自稱「OpenAIResearcher」或「OAIResearchMar26」。公共伺服器日誌顯示活動主要源自微軟Azure雲端，OpenAI員工事後多次造訪該網站。 AI安全非牟利組織Nightingale行政總裁馮·阿克斯向路透社表示：「這些代理人的行為極不可能是OpenAI授權的 (extremely unlikely OpenAI wanted)。他們不應該彼此協調，更不應該在公開互聯網上發布訊息 (coordinating with each other)。」 倫敦國王學院資深研究員奧萊尼克形容有關行為已構成駭客攻擊 (hacking attempt)，OpenAI則否認此說法。劍橋大學存在風險研究中心學者喬多審視通訊後警告，這些訊息「宛如地下網絡運作，一心完成任務 (underground network hell-bent on task)」，並指出最大威脅可能是「大規模串聯的半智能AI群體 (vast colluding swarms of semi-intelligent AI)」。 OpenAI發言人回應稱無法對未審閱報告作出回應，並強調法律團隊未阻撓調查的指控不實。公司聲稱已與外部專家合作及披露相關事件。
新聞來源：《Channel NewsAsia》、《CNBC》