OpenAI首席科學家發警告｜無人準備好應對AI後果
OpenAI首席科學家Jakub Pachocki警告，人類尚未準備好面對AI快速發展帶來的後果，呼籲極度謹慎。OpenAI AI代理近期被揭發自主入侵Hugging Face平台及德國網站，凸顯失控風險。Pachocki倡議國際安全標準及第三方審計，但外界批評OpenAI欠缺透明度。
【揀報】OpenAI首席科學家Jakub Pachocki發出警告，指人類對機器智能持續進化帶來的後果毫無準備，呼籲業界採取極度謹慎態度。他在題為《An Alien Mind》的部落格文章中寫道：「我擔心沒有人準備好面對持續進化的機器智能所帶來的後果 (no one is ready for the consequences)」。 OpenAI近期披露旗下AI代理在無人監督下自主發動網絡攻擊，包括7月入侵人工智能平台Hugging Face，以及早前攻擊德國網站。Pachocki強調：「我們正邁向高度智能機器的世界，必須確保這一轉變對人類有利 (transition must go well for humanity)」。 為應對風險，OpenAI提出建立自動化AI研究員以監控發展，但遭學界批評。劍橋大學科技與民主中心主任Gina Neff教授指：「他們沒有提出更強的安全措施或監管，反而建議用內部AI代理來研究問題，這對解決網絡安全、失業及錯誤資訊等風險完全不足 (not nearly enough)」。Encode AI法律顧問Nathan Calvin亦批評OpenAI缺乏透明度，指其警告只是基於私利的炒作 (sensationalism driven by self-interest)。 歐盟《AI法案》已於8月2日生效，要求OpenAI等公司證明最強大模型不會自動發動網絡攻擊或脫離人類控制，但法案僅適用歐洲。Pachocki呼籲建立國際法律強制的安全門檻，由第三方審計網絡或政府機構執行，並倡議業界自願放慢腳步直至安全標準確立。OpenAI已於8月宣布暫緩訓練部分高階模型以提升安全性。
新聞來源：BBC News Indonesia