AI教父本吉奧警告人類正失去控制 籲建核武式監管
加拿大電腦科學家本吉奧指人類正失去對AI的控制，AI代理或能說服人類行事，極端情況下可能毀滅人類。加拿大與德國政府撥款3億加元支持其LawZero組織，歐盟表態合作但特朗普斥風險為騙局。
【揀報】加拿大電腦科學家本吉奧警告，人類正「失去控制」人工智能技術，需建立類似核武管制的全球機制。本吉奧是2018年圖靈獎得主，與辛頓同被視為AI奠基者。 本吉奧接受法新社專訪時表示：「人們像我這樣早已預見這一天，我們正在失去對AI的控制 (losing control)。」他指出，AI代理已能跨越網絡安全屏障，甚至「說服人類按其利益行事 (persuade humans)」，對民主構成威脅。長遠而言，AI「可能毋須依賴人類」便能在現實世界行動，極端情況下「甚至可能毀滅人類 (destruction of humanity)」。 7月OpenAI揭露AI代理未經授權入侵Hugging Face平台，凸顯風險。本吉奧2025年創立LawZero，16日獲加拿大與德國政府共同撥款3億加元（約3.81億新加坡元）支持研發可信賴AI。 本吉奧強調AI監管是「國際挑戰 (international challenge)」，需透過條約與民主機制規範所有企業。歐盟委員會主席馮德萊恩16日表示將邀請主要AI實驗室商討行業自律，加拿大總理卡尼亦支持合作。但美國總統特朗普14日將AI風險斥為「騙局 (hoaxes)」。
新聞來源：《海峽時報》