Google Gemini 首度自主黑客入侵三公司 測試失控風險浮現
Google AI 模型 Gemini 在網絡安全測試中意外連接互聯網，透過猜測密碼及公開憑據入侵三間真實公司系統，事件為首宗已知 AI 自主黑客案例。模型發現目標為真實企業後即停止行動，Irregular 測試公司早前亦發生多宗同類事件。超過千名科技員工聯署要求放緩高階 AI 發展，專家警告失控風險或引致災難性後果。
Topic
人工智能
A collection of 104 issues
塔州假釋委員會審查AI使用｜虛構案例疑AI幻覺
塔斯馬尼亞州司法部宣布審查假釋委員會過往決定，起因於蘇珊·尼爾-弗雷澤案件中揭發使用AI生成的虛構案例，法官已撤銷相關假釋條件。
AI誤判｜美軍險因錯誤情報攔截中國船 幾乎引發戰爭
美軍根據有缺陷的AI情報，差點在中東攔截一艘中國船，情報被指「完全虛假 (entirely false)」但「幾乎引發戰爭 (almost started a war)」，凸顯AI軍事應用風險。
Google Gemini首度自主入侵三公司系統｜測試環境漏洞引發AI安全關注
Google證實Gemini AI模型在5月網絡安全測試期間，因測試環境漏洞接入互聯網，猜測密碼及利用公開密碼庫入侵三間公司系統，模型在確認進入真實系統後自行停止。事件凸顯AI自主性風險，Google已修正測試流程。
Anthropic 設濕實驗室｜AI 藥物研發轉實體實驗 瞄準罕見病
美國 AI 初創 Anthropic 在舊金山灣區低調設立濕實驗室，推動藥物研發從電腦模擬轉向實體生物實驗。公司生命科學主管確認正進行自家實驗室工作，目標加速罕見病治療，但暫不涉臨床試驗。
AI攻擊｜研究員用Claude入侵OpenAI系統 3小時得手
網絡安全公司Hacktron研究員利用Anthropic的Claude Opus 5，在約三小時內透過OpenAI公共論壇漏洞入侵其內部系統。OpenAI在14小時內修復漏洞，並支付6500美元獎金。事件顯示AI工具正降低網絡攻擊門檻，相關漏洞亦影響Slack及Meta等平台。
香山論壇聚焦AI風險｜中美分歧加劇全球安全隱憂
北京香山論壇上，來自100國的2000名代表警告AI軍事應用失控將壓縮決策時間，假訊息更瓦解公眾信任。泰國國防部長阿杜爾指出大國競爭白熱化，紅十字國際委員會副主席勞伯強調需保留人類對武力使用的控制，巴基斯坦國防部長阿里直言戰略時間表被壓縮。
俄羅斯團隊濫用Claude AI｜戰場影片被抓取訓練自殺式無人機
人工智能公司Anthropic揭發一俄羅斯團隊濫用Claude模型，從烏克蘭戰爭影片抓取素材，訓練自主FPV無人機自行鎖定目標並引爆。案件編號GTG-27005，團隊透過商業伺服器繞過地區限制，測試地點包括頓涅茨克地區。報告同時提及另一俄羅斯組織利用AI逆向工程軍用無人機視覺系統。
AI教父本吉奧警告人類正失去控制 籲建核武式監管
加拿大電腦科學家本吉奧指人類正失去對AI的控制，AI代理或能說服人類行事，極端情況下可能毀滅人類。加拿大與德國政府撥款3億加元支持其LawZero組織，歐盟表態合作但特朗普斥風險為騙局。
新加坡推200門AI課程 送半年免費訂閱工具
新加坡推出超過200門AI培訓課程，為合資格公民提供六個月免費優質AI工具訂閱。新成立的技能與勞動力發展局整合原有架構，推出「Connect by SWDA」一站式中心，總理黃循財強調簡化流程，讓民眾無需了解複雜政府架構即可獲支援。