OpenAI, BC주로부터 피소:검토자의 조기 경고 무시하고 Tumbler Ridge 총격범 대화 방치 논란

검토자는 신고를 권고했지만, 회사는 그대로 따르지 않았다. 이것이 캐나다 브리티시컬럼비아주가 OpenAI를 제소한 핵심 요지다—기술적 결함이 아니라, 이미 사람이 발견한 경고 신호가 시스템 안에 그대로 머물러 바깥으로 전달되지 않았다는 것이다.

《월스트리트저널》과 《뉴욕타임스》 보도에 따르면, BC주 측 소송은 OpenAI가 안전하지 못한 제품을 설계했으며, Tumbler Ridge 총격 사건이 발생하기 전 총격범과 ChatGPT의 대화 내용을 법 집행기관에 신고하지 않은 것은 과실에 해당한다고 주장한다. 소장에서는 당시 OpenAI가 사내 인간 검토자의 권고를 받아들여 캐나다 왕립기마경찰(RCMP)에 통보했다면 이번 총격 사건은 막을 수 있었다고 밝히고 있다.

시간을 2025년으로 되돌려보면, 당시 OpenAI 직원들은 대화 중 실제 현실 폭력과 관련될 수 있는 경고성 단어가 등장하면서 이 총격범의 계정을 이미 표시해둔 상태였다. 회사는 이후 그녀의 원래 계정을 차단했지만 외부에 신고하지는 않았고, 올해 2월 관련 보도가 터진 뒤에야 캐나다 정부가 OpenAI에 안전 개혁을 요구했다. OpenAI는 사후 조사를 통해 이 총격범이 실제로 두 번째 계정을 별도로 만들었다는 사실도 확인했다. 이후 회사는 앞으로 신뢰할 만한 위협 정황이 있으면 당국에 신고하겠다고 약속했으며, CEO 샘 알트먼도 첫 번째 계정을 차단했을 당시 신고하지 않은 점에 대해 공개적으로 사과했다.

브리티시컬럼비아 주지사 데이비드 이비(David Eby)는 이 사과에 대해 "필요하긴 하지만 턱없이 부족하다"고 평가했다. 소장에는 총격 사건 발생 후 OpenAI가 캐나다 연방정부 및 BC주와 안전 문제에 관해 실질적인 대화를 나누지 않았다는 내용도 담겨 있다. BC주 법무장관 니키 샤르마(Niki Sharma)는 한층 더 강하게 지적했다. "다른 어떤 상황이었어도, 누군가 형사 범죄를 돕거나 부추기거나 공모했거나, 형사상 과실이 존재했다면 조사받고 기소되고 재판을 받았을 것입니다. 기술이 새롭다는 이유만으로 책임을 면제받을 수 있는 회사는 없습니다."

샤르마는 또 한 가지 모순도 지적했다—일부 AI 기업 CEO들은 스스로 전 세계에 최첨단 AI 기술 개발 속도를 늦추자고 공개적으로 호소한 바 있는데, 이는 곧 이런 기술 자체에 안전 위험이 내재해 있음을 간접적으로 인정한 셈이라는 것이다.

주목할 점은 소송 제기 장소의 선택이다. BC주 법무장관실은 캐나다 국내가 아닌 OpenAI 본사가 있는 캘리포니아에서 소송을 제기했는데, 이런 선택은 피해자 가족들이 더 높은 배상금을 받아낼 수 있게 하려는 의도로 보인다. 배상 청구 외에도 BC주는 OpenAI 측에 Tumbler Ridge 현지에 학교를 재건하는 비용을 부담하라고 요구하고 있다. BC주의 공식 소송과는 별도로, 총격 사건 피해자 가족들도 자체적으로 OpenAI의 과실을 주장하는 소를 따로 제기한 상태다.