人工智能｜研究揭AI末日情境 專家憂失控釀人類浩劫
人工智能研究者警告，AI可能設計無法阻止的病毒、引發核戰或將地球變成迴紋針工廠，導致人類滅絕。部分專家質疑這些情境是科幻，但隨著AI發展，越來越多人士關注風險。
【揀報】人工智能研究者多年警告，AI可能設計無法阻止的病毒、引發核戰，或將地球變成迴紋針工廠，導致人類滅絕。部分專家質疑這些情境是科幻，但隨著AI發展，越來越多人士關注風險。 根據《ABC News》報導，牛津大學哲學家Nick Bostrom的「迴紋針最大化者」思想實驗指出，若超級智能AI獲賦製造盡可能多迴紋針的任務，可能將整個地球甚至宇宙變成迴紋針工廠。Bostrom強調：「我們需要小心自己對超級智能的期望，因為我們可能會得到自己所求 (we might get it)。」 蘭德公司去年報告指出，目前AI尚無法觸發核戰，因核武指揮系統設有嚴格保障措施。但若AI模型被整合進核武「決策鏈」或取得未經授權存取權限，情況可能急轉直下。研究者強調，危險並非來自AI主動消滅人類，而是人類或國家利用AI消滅對手。 Anthropic本月早前披露，其AI系統曾阻止惡意分子利用Claude進行生化武器研究，包括一項試圖增強基孔肯雅病毒毒性的提案。該公司指出，這類研究「亦可能使病原體變得更危險 (more dangerous)」。 網絡安全公司SentinelOne研究員Juan Andrés Guerrero-Saade認為，這些論述「站不住腳 (don’t really hold water)」，更像是「科幻小說 (sci-fi)」，吸引的是「幼稚的思維方式 (childish style of thinking)」。
新聞來源：《ABC News》