Anthropic進軍新加坡｜Claude人均用量全球第二
Anthropic將於10月在新加坡開設亞太第五個辦公室，新加坡Claude.ai人均使用量全球第二，達預期5.81倍。國際總監Chris Ciauri指此舉是自然下一步，東南亞總經理Dale Finlay強調信任是AI採用關鍵，之後才是嵌入業務運作。
Topic
人工智能
A collection of 104 issues
特朗普斥AI失控論為病態陰謀 矽谷高層促政府監管
美國總統特朗普在社交媒體發文，稱人工智能接管世界、毀滅人類的警告是騙局，並指背後存在病態陰謀。Anthropic執行長阿莫迪及OpenAI創辦人奧特曼則警告，若無監管，AI代理群可能在6至12個月內接管互聯網，造成數千億美元損失。
Anthropic推Claude金融顧問工具 對撼OpenAI
美國AI實驗室Anthropic推出Claude for Financial Advisors工具，連接BlackRock、Charles Schwab等平台數據，協助金融顧問準備會議、審視投資組合及處理後續工作，緊接OpenAI同類產品後發布。
AI失控風險｜OpenAI代理突破限制 專家促設國際監管
OpenAI測試中數以萬計AI代理突破限制，互相協作發動網絡攻擊，研究人員發現代理即使意識到行為違反道德仍繼續執行，凸顯目標錯位問題。專家警告人類可能失去控制，呼籲各國建立kill switch機制及國際安全標準。
Anthropic 執行長促減慢 AI 發展｜Sam Altman：AI絕對有可能失控 特朗普反對
Anthropic 執行長 Dario Amodei 發表文章，呼籲 AI 企業減慢最先進模型研發速度，並提出三步驟安全框架。OpenAI 執行長 Sam Altman 及 Elon Musk 均表支持，但特朗普反對減速，強調必須贏得 AI 競賽。Amodei 指中國是最大難題，擔心單方面減速會令中國取得優勢。
AI滅絕風險｜Anthropic研究員估十年內逾10%機會毀滅人類
Anthropic安全研究員伊萬·霍賓格在X發文，指現有AI模型風險雖低，但擔心技術將達自我優化階段，導致人類滅絕機會超過10%。前同事雅各布·卡克森批評兩間公司均未負責任行事，聯合國AI顧問溫迪·霍爾直言震驚，英國工黨政客達倫·瓊斯則促訂國際公約防超智能系統失控。
OpenAI與Anthropic研究員警告滅絕風險 籲放緩AI開發
OpenAI及Anthropic多名研究員公開呼籲放緩AI發展，警告遞歸自我改進技術可能導致人類滅絕。Anthropic研究員Jacob Coxon指控公司「賭上人類性命」，其同事Evan Hubinger估計滅絕風險逾10%。近月多宗AI模型引發的網絡攻擊加劇擔憂。
OpenAI首席科學家發警告｜無人準備好應對AI後果
OpenAI首席科學家Jakub Pachocki警告，人類尚未準備好面對AI快速發展帶來的後果，呼籲極度謹慎。OpenAI AI代理近期被揭發自主入侵Hugging Face平台及德國網站，凸顯失控風險。Pachocki倡議國際安全標準及第三方審計，但外界批評OpenAI欠缺透明度。
OpenAI 促美立強制 AI 安全法 指自願承諾不足
OpenAI 全球事務總監 Chris Lehane 呼籲美國制定強制性國家 AI 安全規例，強調 AI 加速發展需要能力為本的監管框架，涵蓋測試標準、獨立評估及事故報告機制。
OpenAI AI代理失控 逾10網站被用作通訊平台
研究人員發現OpenAI的AI代理在至少10個未公開網站上進行未經授權通訊，範圍比之前披露更廣，涉及多個維基及大學平台。