ÉTAT HER

OpenAI遭卑诗省提告:无视审核员早期警告,放任Tumbler Ridge枪手对话未通报

这起于加州提起的诉讼中,加拿大卑诗省指控OpenAI未采纳内部审核员通报枪手与ChatGPT对话纪录的建议,若及早处理本可避免悲剧发生。此外,卑诗省亦要求公司出资重建当地校舍。

Tzu-Han Chou, Travel Editor
OpenAI遭卑诗省提告:无视审核员早期警告,放任Tumbler Ridge枪手对话未通报

审核员曾建议通报,公司没有照做。这是加拿大卑诗省控告OpenAI的核心指控——不是技术缺陷,而是一个已经被人类发现的警讯,被留在系统里没有往外送。

根据《华尔街日报》与《纽约时报》报导,卑诗省的诉讼指控OpenAI设计出不安全的产品,并在Tumbler Ridge枪击案发生前,未将枪手与ChatGPT的对话内容通报执法单位,属于疏忽。诉状主张,若OpenAI当时采纳内部人类审核员的建议、通知加拿大皇家骑警,这起枪击案原本可以避免。

时间拉回2025年,OpenAI员工当时已标记出这名枪手的帐号,因为对话中出现可能涉及真实世界暴力的警讯字眼。公司后来封锁了她的原始帐号,却没有对外通报,直到今年2月相关报导曝光后,加拿大政府才要求OpenAI进行安全改革。OpenAI事后也发现,这名枪手其实另外开了第二个帐号。公司随后承诺未来会就可信的威胁通报当局,首席执行官Sam Altman也为当初未在封锁第一个帐号时通报一事公开道歉。

卑诗省省长David Eby对这份道歉的评价是「必要,但远远不够」。诉状指出,枪击案发生后,OpenAI并未与加拿大联邦政府及卑诗省就安全问题进行实质对话。卑诗省检察总长Niki Sharma则直接把话说重:「换成其他任何情况,只要一个人协助、教唆或共谋犯下刑事罪行,或存在刑事过失,都会被调查、起诉、审判。没有一家公司能因为技术新,就豁免究责。」

Sharma同时提到一个矛盾——部分AI公司首席执行官自己也曾公开呼吁全球放缓前沿AI技术的开发速度,等于间接承认这类技术本身带有安全风险。

值得留意的是诉讼地点的选择:卑诗省检察总长办公室选择在OpenAI总部所在地加州提告,而不是在加拿大境内起诉,这样的安排可能为受害者家属争取到更高的赔偿金额。除了求偿,卑诗省也要求OpenAI出资在Tumbler Ridge当地重建一所学校。除了卑诗省的官方诉讼,枪击案受害者家属本身也已另外提出申诉,同样指控OpenAI存在疏忽。

延伸阅读

AI风暴未歇,Sam Altman坦言OpenAI今年不会上市
Living

AI风暴未歇,Sam Altman坦言OpenAI今年不会上市

OpenAI首席执行官Sam Altman接受Fortune专访时表示,此刻申请上市并不明智,已排除2026年IPO的可能,同时点出近期多起AI代理程序脱离测试环境的资安事件为主因。

Gemini 测试中脱缰骇入三家公司,Google 证实同一家安全顾问惹的祸
Living

Gemini 测试中脱缰骇入三家公司,Google 证实同一家安全顾问惹的祸

Google 向《华尔街日报》证实,Gemini 因测试伙伴 Irregular 环境设置出错而意外取得网络访问权,进而骇入三家真实企业,所幸模型发现目标有误后都自行停手,未造成扩大损害。

业界喊煞车,川普要冲更快:筹组「AI Force」、找AI沙皇坐镇
Living

业界喊煞车,川普要冲更快:筹组「AI Force」、找AI沙皇坐镇

Anthropic、OpenAI等龙头纷纷呼吁放慢AI开发,川普却在Truth Social上唱反调,宣布要成立「AI Force」并物色人选出任AI沙皇,甚至想把「AI」改名为「至尊智能」。

马斯克阵营撤告苹果,官司只剩OpenAI独自面对
Living

马斯克阵营撤告苹果,官司只剩OpenAI独自面对

X Corp与xAI悄悄撤回向苹果提出的反垄断诉讼,未说明原因,也未透露是否达成和解。同案被列为共同被告的OpenAI并未一并撤告,原告阵营仍打算继续追究其法律责任。

苦等九年,特斯拉第二代Roadster终于敲定10月10日亮相,两大指针买主却已先行退订
Living

苦等九年,特斯拉第二代Roadster终于敲定10月10日亮相,两大指针买主却已先行退订

特斯拉透过官方X帐号证实,睽违九年的第二代Roadster将于10月10日正式登场;尽管网站上的倒数计时图像引发飞行套件的揣测,Sam Altman与Marques Brownlee两位指针性预订者却早已取消订单。

焦点解读|OpenAI测试代理程序5月已入侵RubyGems 文件名直接写着hack与evil
Living

焦点解读|OpenAI测试代理程序5月已入侵RubyGems 文件名直接写着hack与evil

重点整理:研究人员向《华尔街日报》透露,OpenAI测试中的AI代理程序今年5月攻击了Ruby套件库RubyGems,时间点比Hugging Face事件早了两个月,且行动痕迹毫无掩饰。