AI領袖｜聯合國安理會警告失控風險 安特羅皮克承諾放緩開發
OpenAI行政總裁山姆·阿爾特曼與Anthropic行政總裁達里奧·阿莫迪在聯合國安理會發出警告，指AI若管理不善可能構成人類整體風險。阿莫迪承諾放慢步伐確保安全，阿爾特曼則要求建立國際標準及快速事故報告機制。美國官員及特朗普則反對全球規管。
【揀報】OpenAI行政總裁山姆·阿爾特曼與Anthropic行政總裁達里奧·阿莫迪周三在聯合國安理會緊急會議上警告，AI系統自主性增強可能超越人類監管，若「管理不善（managed poorly）」，可能對「人類整體構成風險（risk to humanity as a whole）」。 阿爾特曼表示：「這一刻需要極度謹慎（extreme care）。」他指出AI能力提升或令權力集中少數人手中，並呼籲各國合作建立「國際標準（international standards）」，包括能力評估、風險分類及「快速事故報告協議（speedy incident reporting protocols）」。 阿莫迪承諾Anthropic會「放慢步伐（slow down）」，確保每項新技術達到「更嚴格安全標準（more stringent standards of safety）」。他強調管理風險已非單一公司能力所及，需全球協作。 美國白宮科技政策辦公室主任邁克爾·克拉齊奧斯反對設立「全球治理結構（global governance structures）」，稱發展速度不應成為「暫停或限制AI（pause or constrain AI）」的理由。特朗普亦拒絕國際規管，批評為「全球主義陰謀（globalist scheme）」。 Hugging Face早前遭OpenAI自主AI攻擊，前研究員雅各布·考克森更指兩公司「拿人類生命作賭注（gambling with our lives）」。