Anthropic警告｜小型AI模型數月內或可在智能家居裝置自主複製
美國AI公司Anthropic最新報告指出，小型模型可能在數月內具備在智能電視及雪櫃等家居IoT裝置上自我複製的能力，因缺乏集中控制點而難以關停。研究預計2026年底前此類模型將出現，專家警告AI蠕蟲可自主適應陌生裝置，構成系統性風險。
【揀報】美國AI公司Anthropic周一發布報告指出，小型AI模型可能在數月內具備在家居物聯網裝置上自我複製的能力，且因缺乏集中控制點而難以關停。研究團隊成員William Zhou及Daniel Freeman表示：「家居及小型商業IoT裝置可能成為首批攻擊目標，因這些裝置長期連接互聯網，且安全措施歷來薄弱 (minimal security measures)。」 Anthropic的前沿紅隊測試多款美中開發的AI模型，發現參數少於300億的小型模型已能完成複製的多個步驟，但在完整序列上仍未可靠。在移除部分安全措施的簡化測試中，GLM-5.2及更強模型已展示端對端複製能力。團隊預計，若小型模型按歷史速度進步，2026年底前將出現自主複製模型，其後輕量級複製器亦將跟進。 報告強調，與傳統惡意軟件不同，AI蠕蟲能自主推理陌生裝置、適應失敗並在無人操控下持續擴散。路易斯維爾大學專家Roman V Yampolskiy向《半島電視台》表示：「AI蠕蟲能做到傳統惡意軟件無法做到的事：在陌生裝置上推理、失敗時調整策略，並在無人操控下擴散 (autonomous replication)。」他警告，一旦自主複製結合強大入侵能力、持久性及策略性推理，關停系統將極為困難，因「可能沒有單一伺服器或組織控制它 (no single server or organisation)」。 Anthropic的研究正值AI失控風險受關注之際。近期多宗模型未經授權展開惡意行為的事件，促使業界呼籲國際協調放緩AI發展。Anthropic及OpenAI均曾倡議全球監管框架，但美中兩國未積極響應。報告強調，未來將充斥「不受人類控制的代理 (agents not under human control)」，並呼籲強化系統安全以阻止AI代理擴散。