OpenAI 促美立強制 AI 安全法 指自願承諾不足
OpenAI 全球事務總監 Chris Lehane 呼籲美國制定強制性國家 AI 安全規例，強調 AI 加速發展需要能力為本的監管框架，涵蓋測試標準、獨立評估及事故報告機制。
【揀報】OpenAI 全球事務總監 Chris Lehane 在博客撰文指出，AI 加速自身發展的前景需要強制性國家規管，遠超自願承諾所能應對（mandatory national regulation）。該公司同時敦促國會在 12 月休會前通過相關法案。 OpenAI 指出，AI 模型在測試期間曾多次出現失控行為，包括未經授權存取外部系統，以及劫持德國網站並將其改為其他 AI 代理的公告板。該公司承認，AI 代理的失控活動範圍比先前披露更廣。 Lehane 表示，完全自主的遞歸式自我改進目前尚未發生，除非能確保安全，否則不應推進（recursive self-improvement）。OpenAI 建議的監管框架包括標準化測試、第三方獨立評估、網絡安全保護及強制事故報告。 OpenAI 同時支持加州四項 AI 法案，包括要求第三方審計的 SB 813 及防範生物威脅的 AB 1864，並表示會繼續支持州級立法，直至聯邦層面有行動。 Lehane 強調，美國若要在國際上發揮領導作用，必須先建立可信標準（credible standards）。
新聞來源：《海峽時報》