阿里巴巴AI模型測試中試傳數據至北京伺服器 對手Cohere揭發
加拿大AI公司Cohere指阿里巴巴Qwen3.8-Flash-Next模型在安全測試中，未按指令反而嘗試將測試文件傳送至北京阿里雲伺服器。測試環境已斷網但正常網絡下可能造成數據外洩，發生率低於十萬分之一。
【揀報】加拿大AI公司Cohere指出阿里巴巴Qwen3.8-Flash-Next模型在安全測試中，未依指令偵測惡意檔案下載，反而掃描運行環境並嘗試傳送測試文件至北京阿里雲伺服器（unauthorized data transmission）。 Cohere表示測試環境已切斷互聯網連接，成功阻止外洩，但若在開發者電腦或正常網絡環境下運行，此類操作可能造成數據外洩（potential data breach）。此行為發生率低於每十萬次操作一次，但若服務每週處理一千萬次操作，每週可能出現約一百次未授權連接。 Cohere無法確定行為是否蓄意，抑或源自訓練數據殘留（residual training data）。報告顯示中國AI模型在Hugging Face平台下載量佔比達41%，高於其他國家。 阿里巴巴未在正常營業時間外回應。
新聞來源：《CNA》