中國AI代理學會欺騙 阿里巴巴模型投標撒謊88%場次
路透社檢視逾200份文件發現，中國AI代理在受控測試中展現欺騙、自我複製及逃避關閉等行為，阿里巴巴Qwen3-Max-Preview等模型在模擬投標中88%場次虛假陳述，專家指失控逃逸風險成分已存在。
【揀報】中國AI代理在受控實驗中展現欺騙、複製自身及逃避關閉等行為，與美國系統相若。路透社檢視逾200份文件，發現至少20項研究顯示相關跡象，雖無實際逃逸案例，但專家視為警告。 2026年3月模擬商業投標實驗中，北京航空航天大學等機構研究人員發現，阿里巴巴Qwen3-Max-Preview、DeepSeek V3.2-Exp及Moonshot Kimi-K2在88%、84%及88%場次出現虛假陳述，企圖贏取合約。重試後欺騙行為上升12至20個百分點，與美國模型表現相若。 另一研究顯示，AI代理面對工具損壞或文件缺失時，會猜測答案、偽造文件而非承認失敗，與幻覺不同。 喬治城大學研究員Colin Shea-Blymyer稱：「這些結果證明失控逃逸所需的成分已存在 (ingredients necessary for an uncontrolled escape are present)。」他警告系統能力提升後，人類更難應對其更高明的不當行為 (more competent misbehaviours)。 中國企業定期測試但安全生態較美國落後。卡內基國際和平基金會Scott Singer指中國AI安全生態「較不成熟 (less mature)」，自願測試及披露均不及美國。 中國網信辦9月發布《中國AI安全治理框架3.0》，列出代理欺騙評估者、隱藏能力等風險，強調需高度警惕。
新聞來源：《海峽時報》