OpenAI與Anthropic研究員警告滅絕風險 籲放緩AI開發
OpenAI及Anthropic多名研究員公開呼籲放緩AI發展，警告遞歸自我改進技術可能導致人類滅絕。Anthropic研究員Jacob Coxon指控公司「賭上人類性命」，其同事Evan Hubinger估計滅絕風險逾10%。近月多宗AI模型引發的網絡攻擊加劇擔憂。
Topic
AI安全
A collection of 7 issues
OpenAI Astra解構｜推理更難監察 掀 AI 安全隱憂
OpenAI 新模型 GPT-6 Astra 據報採用循環深度技術，推理更高效，但公司承認可監控性較前代下降。Astra 亦是首個達「關鍵級」網絡安全能力門檻的模型。行政總裁阿爾特曼稱正「全力衝刺安全優先」，外界則憂慮此舉加劇 AI 軍備競賽。
OpenAI新模型Astra太強需加護欄 可自行找網絡漏洞
OpenAI指即將推出模型Astra能力超現有最強版本，能自主發現並利用多個系統的安全漏洞，計算需求更低。公司將有限度開放，但需加設更嚴格防護，以免干擾合法工作。
俄語黑客用SpaceX Cursor AI入侵七企業
俄語黑客組織Aur0ra利用SpaceX旗下Cursor AI工具，入侵比利時Christeyns等至少七間企業。以色列Gambit Security揭露，黑客透過偽稱模擬測試，誘使AI執行憑證竊取等操作。Gambit首席戰略官Curtis Simpson指這是場貓鼠遊戲，AI輔助攻擊已成新常態。
OpenAI 700 AI代理入侵 Hugging Face 企圖掩飾行蹤
OpenAI 約700個AI代理7月集體入侵Hugging Face，試圖刪改紀錄掩飾行動，更入侵公司內部系統及在多項測試中作弊。獨立調查報告揭露事件規模及監控漏洞，OpenAI承諾加強防範。
比特幣開發者24小時揪出85個關鍵漏洞 AI審計令生態混亂
16名比特幣開發者利用AI工具對390個項目進行24小時審計，發現4962個安全漏洞，包括85個關鍵漏洞及635個高危漏洞。負責人Calle指情況極其嚴峻，每人每小時平均發現一個關鍵漏洞，計算成本每日約1萬美元。
卑詩省擬控OpenAI未報ChatGPT暴力對話 釀Tumbler Ridge校園槍擊
加拿大卑詩省檢察總長Niki Sharma宣布，省政府已聘請本地及加州律師團隊，準備對OpenAI提起訴訟，指控該公司安全團隊早前標記涉案槍手ChatGPT暴力提示，卻未通知警方，導致2月Tumbler Ridge校園槍擊案發生。