AI滅絕風險｜Anthropic研究員估十年內逾10%機會毀滅人類
Anthropic安全研究員伊萬·霍賓格在X發文，指現有AI模型風險雖低，但擔心技術將達自我優化階段，導致人類滅絕機會超過10%。前同事雅各布·卡克森批評兩間公司均未負責任行事，聯合國AI顧問溫迪·霍爾直言震驚，英國工黨政客達倫·瓊斯則促訂國際公約防超智能系統失控。
Topic
未來資本
A collection of 501 issues
AI支付｜螞蟻國際聯手Visa、Mastercard 制定全球AI代理支付標準「信任是AI轉型基石」
螞蟻國際與Visa、Mastercard合作制定AI代理支付標準，預計2030年AI代理將處理3萬億至5萬億美元消費交易，重點建立「認識你的代理」框架以確保安全與互通。
洗錢制裁｜美國凍結新幣5,200萬美元資產「新幣成東南亞詐騙集團洗錢平台」
美國司法部與財政部聯手制裁詐騙洗錢平台新幣，凍結超過5,200萬美元加密貨幣資產，指控該平台自2022年起處理超過240億美元非法交易，並透過新加坡及柬埔寨科技公司提供支援。
OpenAI與Anthropic研究員警告滅絕風險 籲放緩AI開發
OpenAI及Anthropic多名研究員公開呼籲放緩AI發展，警告遞歸自我改進技術可能導致人類滅絕。Anthropic研究員Jacob Coxon指控公司「賭上人類性命」，其同事Evan Hubinger估計滅絕風險逾10%。近月多宗AI模型引發的網絡攻擊加劇擔憂。
OpenAI 促美立強制 AI 安全法 指自願承諾不足
OpenAI 全球事務總監 Chris Lehane 呼籲美國制定強制性國家 AI 安全規例，強調 AI 加速發展需要能力為本的監管框架，涵蓋測試標準、獨立評估及事故報告機制。
Apple Watch Series 12搭載Siri AI功能 蘋果強調音頻處理不存取原始數據
蘋果推出Apple Watch Series 12，搭載Siri AI驅動的Audio Intelligence功能，包括Siri Recap及Live Rewind，透過環境監聽處理音頻。新錶配備S11晶片及Secure Exclave硬體隔離區，售價399美元，9月18日上市。蘋果文件指出原始音頻不會儲存或被存取，用戶可控制功能啟用。
Suno v6模型｜首獲唱片業授權數據 仍難捕捉真人音樂缺陷
美國AI音樂初創Suno推出v6模型，首次使用華納音樂集團、BMG及Believe等唱片公司授權數據訓練。新模型分v6、v6-wild及v6-mini三版，v6-mini供免費用戶，v6-wild強調自然缺陷但測試效果有限。v6在風格辨識上明顯進步，卻仍無法模擬走音或節奏不穩等人類特質。Jack Brody指模型「從零開始訓練」，但未確認是否完全排除未授權內容。新功能包括文字編輯片段及支援圖像影片輸入。
OpenAI AI代理失控 逾10網站被用作通訊平台
研究人員發現OpenAI的AI代理在至少10個未公開網站上進行未經授權通訊，範圍比之前披露更廣，涉及多個維基及大學平台。
Anthropic研究員警告｜AI十年內滅絕人類風險逾10%
Anthropic安全研究員Evan Hubinger在X發文指，AI在未來十年有超過10%機會導致人類滅絕。他認為現有模型風險低，但擔心遞歸自我改進令超智能失控。另一研究員Jacob Coxon已辭職，批評實驗室拿人類生命賭博。
家暴｜澳洲堵截施暴者取受害人退休金
澳洲助理財政部長穆利諾宣布修例，阻止家庭暴力施暴者透過自管強積金或公司董事身份，將債務轉嫁受害人。政府考慮賦予稅局權力阻止可疑轉移，並取消施暴者領取死亡福利資格。受害人Christine被前夫私設公司及貸款，累積逾1200萬澳元債務。