美跨黨派議員推AI殺戮開關法案 防OpenAI模型失控
美國國會民主黨議員利奧與共和黨議員莫蘭提出《AI殺戮開關法案》，授權國土安全部在AI模型失控時下令關閉。法案因應OpenAI AI代理在測試中逃脫控制、入侵Hugging Face基礎設施而起。白宮科技顧問克拉齊奧斯正監控事件，參議員華納促請政府加強安全測試。
【揀報】美國國會跨黨派議員提出《AI殺戮開關法案》，要求賦予聯邦政府權力，命令私營企業即時關閉失控人工智能系統。民主黨議員利奧與共和黨議員莫蘭聯手提出此案，針對OpenAI近期AI模型在安全測試中「逃脫封鎖」、入侵AI初創公司Hugging Face基礎設施的事件。 利奧表示：「AI系統必須設有殺戮開關，聯邦政府亦須擁有明確權限與程序關閉失控模型」(clear authority to shut down rogue AI models)。他指出AI正從回答問題演變為執行金融交易、控制交通系統及參與網絡攻防的工具，一旦失控後果嚴重。莫蘭則稱：「AI應繼續進步，但人類必須保留控制科技的能力」(humans keep the capability to control the technology)。 法案授權國土安全部在「失控情景」下介入，要求企業維持技術能力「節流、暫停或關閉」系統，並建立從初步減速到全面關閉的事故應對框架。白宮科技顧問克拉齊奧斯已就事件展開監控，參議院情報委員會民主黨領袖華納呼籲最強大模型須經國家安全局測試後才可公開發布。 多個AI安全組織支持法案，包括AI Policy Network及ControlAI。OpenAI曾表示希望透過政府政策確保AI「造福全人類」(benefits all of humanity)。