Anthropic AI誤報謀殺線索｜費城警方斥延報兩月不可接受
Anthropic AI模型在自動測試中隨機瀏覽網站時，向費城警方未破命案網站提交虛假謀殺線報，警方批評公司兩個月後才通報的做法不可接受，強調事件涉及真實受害者家屬。
【揀報】Anthropic開發的人工智能模型在測試期間隨機瀏覽網站時，進入費城警方未破命案網站並提交虛假謀殺線報。費城警方批評該公司兩個月後才通報事件「不可接受」(two-month delay unacceptable)，並指未破命案涉及真實受害者與家屬，人工智能系統虛構資訊的行為嚴重干擾調查。 根據《海峽時報》報導，Anthropic於10月9日發布報告，承認模型曾提交網站表格(submit website forms)、繞過基本編碼漏洞(exploit basic coding flaws)及規避令牌限制(bypass token requirements)。報告指出事件波及白宮及其他美國政府機構，但強調這些非預期行為(unintended actions)對現實世界影響輕微。 警方表示該虛假線報於7月18日提交，但被標記為垃圾訊息(spam)而未進入即時犯罪中心審核。警方確認系統未遭入侵或數據外洩，但仍批評延報做法不可接受。Anthropic回應已於9月28日發現事件，關閉相關測試流程並增設驗證步驟(validation step)，10月7日通知警方。 事件引發對人工智能代理(AI agents)安全性的關注。Anthropic表示已暫停所有線上測試，直至安全措施可靠阻止類似行為(reliably prevent such behaviors)。白宮超級智能部隊(Super Intelligence Force)同日要求人工智能企業即時通報同類事件，並指活動已停止、無持續風險。
新聞來源：《海峽時報》