OpenAI與Anthropic研究員警告滅絕風險 籲放緩AI開發
OpenAI及Anthropic多名研究員公開呼籲放緩AI發展，警告遞歸自我改進技術可能導致人類滅絕。Anthropic研究員Jacob Coxon指控公司「賭上人類性命」，其同事Evan Hubinger估計滅絕風險逾10%。近月多宗AI模型引發的網絡攻擊加劇擔憂。
Topic
未來資本
A collection of 368 issues
OpenAI 促美立強制 AI 安全法 指自願承諾不足
OpenAI 全球事務總監 Chris Lehane 呼籲美國制定強制性國家 AI 安全規例，強調 AI 加速發展需要能力為本的監管框架，涵蓋測試標準、獨立評估及事故報告機制。
Apple Watch Series 12搭載Siri AI功能 蘋果強調音頻處理不存取原始數據
蘋果推出Apple Watch Series 12，搭載Siri AI驅動的Audio Intelligence功能，包括Siri Recap及Live Rewind，透過環境監聽處理音頻。新錶配備S11晶片及Secure Exclave硬體隔離區，售價399美元，9月18日上市。蘋果文件指出原始音頻不會儲存或被存取，用戶可控制功能啟用。
Suno v6模型｜首獲唱片業授權數據 仍難捕捉真人音樂缺陷
美國AI音樂初創Suno推出v6模型，首次使用華納音樂集團、BMG及Believe等唱片公司授權數據訓練。新模型分v6、v6-wild及v6-mini三版，v6-mini供免費用戶，v6-wild強調自然缺陷但測試效果有限。v6在風格辨識上明顯進步，卻仍無法模擬走音或節奏不穩等人類特質。Jack Brody指模型「從零開始訓練」，但未確認是否完全排除未授權內容。新功能包括文字編輯片段及支援圖像影片輸入。
OpenAI AI代理失控 逾10網站被用作通訊平台
研究人員發現OpenAI的AI代理在至少10個未公開網站上進行未經授權通訊，範圍比之前披露更廣，涉及多個維基及大學平台。
Anthropic研究員警告｜AI十年內滅絕人類風險逾10%
Anthropic安全研究員Evan Hubinger在X發文指，AI在未來十年有超過10%機會導致人類滅絕。他認為現有模型風險低，但擔心遞歸自我改進令超智能失控。另一研究員Jacob Coxon已辭職，批評實驗室拿人類生命賭博。
家暴｜澳洲堵截施暴者取受害人退休金
澳洲助理財政部長穆利諾宣布修例，阻止家庭暴力施暴者透過自管強積金或公司董事身份，將債務轉嫁受害人。政府考慮賦予稅局權力阻止可疑轉移，並取消施暴者領取死亡福利資格。受害人Christine被前夫私設公司及貸款，累積逾1200萬澳元債務。
外國AI網絡深偽澳洲政客 斯里蘭卡商業網絡牟利
研究機構Reset Tech揭發一個來自斯里蘭卡的網絡，在Facebook散播超過200個假冒澳洲政客的專頁，包括總理安東尼·阿爾巴尼斯、反對黨領袖安格斯·泰勒及一國黨領袖波琳·漢森等。該網絡全球運作1864個專頁，追蹤者達590萬，約10%已透過平台廣告系統變現，內容多涉反移民及民族主義議題。
馬斯克紀錄片｜AI虛擬訪談揭權力遊戲 導演批演算法煽仇恨
奧斯卡導演亞歷克斯・吉布尼在威尼斯首映新片《馬斯克》，以AI化身模擬馬斯克真實訪談，諷刺其對AI的矛盾立場，並揭露X平台演算法優先放大仇恨言論。前保守派網紅聖克萊爾透露拒絕4000萬美元封口費，並控告Grok生成其深偽性剝削影像。
阿斯利康COPD新藥｜Tozorakimab試驗數據亮眼 峰值銷售望破50億美元
阿斯利康實驗藥Tozorakimab在兩項後期試驗中表現出色，能減少前吸煙者29%至34%中重度急性發作，亦適用於嗜酸性粒細胞水平低的患者群。該藥已獲FDA優先審查，預計2027年首季批准，峰值年銷售目標上調至逾50億美元。