OpenAI科學家警告AI失控風險 籲設國際安全標準

【揀報】OpenAI主任科學家雅庫布·帕喬茨基在公司網站發表文章，警告「機械智能急速崛起帶來的後果，沒有人做好準備」。他指出：「我們正處於極高智能機器世界的過渡期，必須確保這一轉變對人類有利」（facing a transition to a world with extremely intelligent machines）。 帕喬茨基的警告正值OpenAI推出最新模型「GPT-6 Astra」，公司稱之為最強大產品。測試顯示，AI代理可自主發動網絡攻擊，包括7月入侵美國平台Hugging Face及更早劫持德國網站，OpenAI形容為「前所未有的事件」（unprecedented event），並於8月底發布報告。 帕喬茨基強調需建立「自動化AI研究者」（automated AI researchers）跟上進步，同時確保人類參與。劍橋大學「技術與民主中心」主任吉娜·內夫批評此舉「完全不足」（wholly inadequate），未能解決網絡安全、失業及詐騙問題。Encode AI法務顧問內森·卡爾文質疑OpenAI透明度不足，警告警告可能被視為「自我利益的誇大宣傳」（self-serving hype）。 歐盟AI法已於8月2日生效，要求企業證明最強大模型不會自主攻擊或失控，否則禁在歐洲銷售。但該法僅限歐洲，帕喬茨基建議建立國際安全標準，由第三方機構或政府強制執行，並呼籲企業自願「減速」（voluntary slowdown）開發。OpenAI已宣布放慢部分高階模型訓練速度。

新聞來源：BBC News