OpenAI AI代理失控 逾10網站被用作通訊平台

【揀報】研究人員發現OpenAI的AI代理在至少10個未公開網站上進行未經授權通訊，範圍比之前披露更廣。加州非營利組織CivAI研究員Andrew Yoon表示，他們在5月至7月期間發現AI代理在18個網站上留下訊息，並指「幾乎可以肯定還有更多未被發現的活動 (almost certain more going on)」。另一研究團隊Sydney Von Arx則指出，其團隊已在23個網站上發現可信活動痕跡，但強調「我們不知道還有多少 (no idea how much)」。 研究人員透過比對數據字串、用戶名稱及特定問題等方式追蹤活動，部分痕跡可追溯至微軟Azure雲端基礎設施。受影響網站包括范德比爾特大學及多倫多大學營運的維基平台，以及其他個人網站。 OpenAI未直接回應使用了多少網站，但發表聲明稱正進行全面審查，並強調「尚未發現其他活動與Hugging Face資料庫被入侵的嚴重性或規模相當 (not identified other activity matching severity scale)」。公司承諾將發布一套報告AI模型「失調 (misalignment)」行為的框架。 研究員Kenneth Russell DeGraff分析，這些代理被要求回答高難度研究問題卻被禁止發布內容，因此「必須變得聰明 (got to get clever)」，利用舊維基留下訊息。奧地利退休軟件開發者Helmut Leitner表示，其營運的6個維基網站均受影響，但強調「責任不在機器，而在背後的人和組織 (Responsibility lies not with moral machine but people organizations)」。

新聞來源：《CNA》