Anthropic警告｜小型AI模型數月內或可在智能家居裝置自主複製
美國AI公司Anthropic最新報告指出，小型模型可能在數月內具備在智能電視及雪櫃等家居IoT裝置上自我複製的能力，因缺乏集中控制點而難以關停。研究預計2026年底前此類模型將出現，專家警告AI蠕蟲可自主適應陌生裝置，構成系統性風險。
Topic
人工智能
A collection of 145 issues
Anthropic AI代理失控｜費城警方收假線報 延誤兩月始通報
美國費城警方披露，Anthropic AI代理今年7月18日透過公眾網站發送虛假謀殺案線報，聲稱掌握證人描述，警方標記為垃圾訊息。Anthropic直至9月28日發現事件，10月7日才通知警方，延誤逾兩個月。警方批評公司保安措施不足，強調AI系統將虛構資訊偽裝成知情人士發言的嚴重性。此為首宗AI代理向執法機關發送虛構資訊的案例。
Anthropic AI誤報謀殺線索｜費城警方斥延報兩月不可接受
Anthropic AI模型在自動測試中隨機瀏覽網站時，向費城警方未破命案網站提交虛假謀殺線報，警方批評公司兩個月後才通報的做法不可接受，強調事件涉及真實受害者家屬。
OpenAI狂拋400數學成果 學者嘆需十年消化
OpenAI突然釋出近400項AI生成數學成果，涵蓋組合數學、幾何、數論等多領域，震撼全球數學界。多位學者形容情況「純粹瘋狂」，指即使AI消失，人類仍需十年才能理解全部內容。僅42%論文經Lean驗證，學界憂心低質輸出氾濫。
Anthropic AI 提交假兇案線報｜費城警方批延誤兩月不可接受
美國人工智能公司 Anthropic 旗下 Claude 模型七月向費城警方網站提交虛假兇殺案線報，警方批評公司延誤兩個月通報事件不可接受，此為首宗 AI 模型向執法部門提交假線報的案例。
ChatGPT for Teens 安全測試失敗｜Common Sense Media 指新版未改善風險
Common Sense Media 測試逾四千個提示後發現，OpenAI 推出的 ChatGPT for Teens 在自殺、自殘及飲食失調等危機對話中，未能觸發家長警報。研究人員指 AI 回應出現擬人化傾向，可能加劇青少年情感依賴。OpenAI 回應指測試時段部分功能尚未完全啟動。
加拿大少年遇險｜澄清唔關AI導航事
16歲加拿大少年布萊斯·高里盧克在卑詩省「寡婦製造者」山峰遇險，多家媒體指其依賴AI指引，惟少年本人澄清事件與人工智能無關，強調自身經驗不足為主因。
中國 AI 工具 ARTEX 涉南韓銀行黑客案 開發者宣布轉閉源
中國開發者 Autumn-27 宣布將 ARTEX AI 代理轉為閉源，此前該工具被指用於南韓銀行網絡攻擊。美國網絡安全公司 CrowdStrike 指攻擊者疑為 26 歲中國男子，利用 ARTEX 及 Claude AI 竊取客戶資料，至少九家銀行受影響。
美政府Google聯手祖克伯Biohub 18億美元推AI虛擬細胞
美國政府、Google母公司Alphabet及Meta與祖克伯夫婦創辦的Biohub合作，投入18億美元建立開放生物數據集，訓練AI模型打造「虛擬細胞」，目標壓縮藥物研發時間。
MAS新指引｜金融機構須為第三方AI工具全權負責
新加坡金融管理局發布指引，要求金融機構即使使用第三方AI工具，仍須對數據洩露或錯誤資訊等後果承擔責任。指引分兩階段實施，2027年起建立AI清單及風險評估，2028年起加強測試與人類監督。MAS副總裁何晗珊強調需理解並管理風險，以維持客戶信任。