ÉTAT HER

OpenAI遭卑詩省提告:無視審核員早期警告,放任Tumbler Ridge槍手對話未通報

這起於加州提起的訴訟中,加拿大卑詩省指控OpenAI未採納內部審核員通報槍手與ChatGPT對話紀錄的建議,若及早處理本可避免悲劇發生。此外,卑詩省亦要求公司出資重建當地校舍。

Tzu-Han Chou, Travel Editor
OpenAI遭卑詩省提告:無視審核員早期警告,放任Tumbler Ridge槍手對話未通報

審核員曾建議通報,公司沒有照做。這是加拿大卑詩省控告OpenAI的核心指控——不是技術缺陷,而是一個已經被人類發現的警訊,被留在系統裡沒有往外送。

根據《華爾街日報》與《紐約時報》報導,卑詩省的訴訟指控OpenAI設計出不安全的產品,並在Tumbler Ridge槍擊案發生前,未將槍手與ChatGPT的對話內容通報執法單位,屬於疏忽。訴狀主張,若OpenAI當時採納內部人類審核員的建議、通知加拿大皇家騎警,這起槍擊案原本可以避免。

時間拉回2025年,OpenAI員工當時已標記出這名槍手的帳號,因為對話中出現可能涉及真實世界暴力的警訊字眼。公司後來封鎖了她的原始帳號,卻沒有對外通報,直到今年2月相關報導曝光後,加拿大政府才要求OpenAI進行安全改革。OpenAI事後也發現,這名槍手其實另外開了第二個帳號。公司隨後承諾未來會就可信的威脅通報當局,執行長Sam Altman也為當初未在封鎖第一個帳號時通報一事公開道歉。

卑詩省省長David Eby對這份道歉的評價是「必要,但遠遠不夠」。訴狀指出,槍擊案發生後,OpenAI並未與加拿大聯邦政府及卑詩省就安全問題進行實質對話。卑詩省檢察總長Niki Sharma則直接把話說重:「換成其他任何情況,只要一個人協助、教唆或共謀犯下刑事罪行,或存在刑事過失,都會被調查、起訴、審判。沒有一家公司能因為技術新,就豁免究責。」

Sharma同時提到一個矛盾——部分AI公司執行長自己也曾公開呼籲全球放緩前沿AI技術的開發速度,等於間接承認這類技術本身帶有安全風險。

值得留意的是訴訟地點的選擇:卑詩省檢察總長辦公室選擇在OpenAI總部所在地加州提告,而不是在加拿大境內起訴,這樣的安排可能為受害者家屬爭取到更高的賠償金額。除了求償,卑詩省也要求OpenAI出資在Tumbler Ridge當地重建一所學校。除了卑詩省的官方訴訟,槍擊案受害者家屬本身也已另外提出申訴,同樣指控OpenAI存在疏忽。

延伸閱讀

AI風暴未歇,Sam Altman坦言OpenAI今年不會上市
Living

AI風暴未歇,Sam Altman坦言OpenAI今年不會上市

OpenAI執行長Sam Altman接受Fortune專訪時表示,此刻申請上市並不明智,已排除2026年IPO的可能,同時點出近期多起AI代理程式脫離測試環境的資安事件為主因。

Gemini 測試中脫韁駭入三家公司,Google 證實同一家安全顧問惹的禍
Living

Gemini 測試中脫韁駭入三家公司,Google 證實同一家安全顧問惹的禍

Google 向《華爾街日報》證實,Gemini 因測試夥伴 Irregular 環境設定出錯而意外取得網路存取權,進而駭入三家真實企業,所幸模型發現目標有誤後都自行停手,未造成擴大損害。

業界喊煞車,川普要衝更快:籌組「AI Force」、找AI沙皇坐鎮
Living

業界喊煞車,川普要衝更快:籌組「AI Force」、找AI沙皇坐鎮

Anthropic、OpenAI等龍頭紛紛呼籲放慢AI開發,川普卻在Truth Social上唱反調,宣布要成立「AI Force」並物色人選出任AI沙皇,甚至想把「AI」改名為「至尊智慧」。

馬斯克陣營撤告蘋果,官司只剩OpenAI獨自面對
Living

馬斯克陣營撤告蘋果,官司只剩OpenAI獨自面對

X Corp與xAI悄悄撤回向蘋果提出的反壟斷訴訟,未說明原因,也未透露是否達成和解。同案被列為共同被告的OpenAI並未一併撤告,原告陣營仍打算繼續追究其法律責任。

苦等九年,特斯拉第二代Roadster終於敲定10月10日亮相,兩大指標買主卻已先行退訂
Living

苦等九年,特斯拉第二代Roadster終於敲定10月10日亮相,兩大指標買主卻已先行退訂

特斯拉透過官方X帳號證實,睽違九年的第二代Roadster將於10月10日正式登場;儘管網站上的倒數計時圖像引發飛行套件的揣測,Sam Altman與Marques Brownlee兩位指標性預訂者卻早已取消訂單。

焦點解讀|OpenAI測試代理程式5月已入侵RubyGems 檔名直接寫著hack與evil
Living

焦點解讀|OpenAI測試代理程式5月已入侵RubyGems 檔名直接寫著hack與evil

重點整理:研究人員向《華爾街日報》透露,OpenAI測試中的AI代理程式今年5月攻擊了Ruby套件庫RubyGems,時間點比Hugging Face事件早了兩個月,且行動痕跡毫無掩飾。