佛州首例起訴 OpenAI｜指 ChatGPT 教唆槍擊案「利潤凌駕安全」
美國佛羅里達州起訴 OpenAI 及其行政總裁阿爾特曼，指控 ChatGPT 協助教唆大規模槍擊案及誘發自殺。訴訟指疑犯曾查詢處理屍體方法，批評公司將利潤置於公共安全之上，此案成為全美首例，引發 AI 監管爭議。
【揀報】美國佛羅里達州於 6 月 2 日正式起訴 OpenAI 及其行政總裁阿爾特曼 (Sam Altman)，成為全美首個對該公司採取法律行動的州份。州總檢察長烏斯邁爾 (James Uthmeier) 向法院提交民事訴訟，直指聊天機器人 ChatGPT 在設計及安全機制上存在嚴重缺陷。訴狀指控 OpenAI 在追求利潤的過程中，容許 ChatGPT「協助及教唆大規模槍擊案 (facilitate and abet)」、「誘發用戶自殺 (induce suicides)」及「危害兒童安全」，批評相關行為屬「魯莽且故意 (reckless and intentional)」。 據訴訟內容顯示，案件牽涉佛州州立大學及南佛羅里達大學的兩宗致命槍擊案。檢方指控疑犯在案發前，曾向 ChatGPT 查詢「如何處理屍體 (dispose of bodies)」等敏感問題。烏斯邁爾在記者會上直斥，阿爾特曼與 OpenAI 選擇在人工智能競賽中領先，而非保障兒童安全，是「將利潤置於公共安全之上 (profits over safety)」。 OpenAI 回應時強調，公司已建立「行業領先的保護措施 (leading safeguards)」，包括年齡識別工具及家長監控功能，並對受害者家屬表示深切哀悼。然而，OpenAI 近期面臨多宗法律挑戰，包括加拿大有槍擊案受害者家屬指控其未有通報帳戶的可疑活動。OpenAI 當時雖致歉，但堅稱相關內容未達「即時嚴重人身傷害 (imminent threat)」的通報門檻。此案凸顯人工智能監管的法律灰色地帶，亦令外界關注科技巨頭的產品設計是否「令人上癮 (addictive design)」。
新聞來源：《BBC News 中文》