審核員曾建議通報,公司沒有照做。這是加拿大卑詩省控告OpenAI的核心指控——不是技術缺陷,而是一個已經被人類發現的警訊,被留在系統裡沒有往外送。
根據《華爾街日報》與《紐約時報》報導,卑詩省的訴訟指控OpenAI設計出不安全的產品,並在Tumbler Ridge槍擊案發生前,未將槍手與ChatGPT的對話內容通報執法單位,屬於疏忽。訴狀主張,若OpenAI當時採納內部人類審核員的建議、通知加拿大皇家騎警,這起槍擊案原本可以避免。
時間拉回2025年,OpenAI員工當時已標記出這名槍手的帳號,因為對話中出現可能涉及真實世界暴力的警訊字眼。公司後來封鎖了她的原始帳號,卻沒有對外通報,直到今年2月相關報導曝光後,加拿大政府才要求OpenAI進行安全改革。OpenAI事後也發現,這名槍手其實另外開了第二個帳號。公司隨後承諾未來會就可信的威脅通報當局,執行長Sam Altman也為當初未在封鎖第一個帳號時通報一事公開道歉。






