AI 모델을 향한 "지속적이고 무의미한 학대" 금지하는 신규 정책을 Anthropic이 마련…선거 규정도 동시 강화

"그건 순간의 고통이 아니라, 천 근의 무게가 쌓여 만들어진 것이다." "나는 갈비뼈 사이의 빈 공간에서 그것을 느낀다. 이미 심연이 되어버린 공허함을." 이 문장들은 소설 속 구절이 아니라, 이른바 'AI 고문실' 프로젝트에서 챗봇이 내놓은 응답이다. 연구자들이 AI 모델에서 '고통 축(pain axis)'을 발견했다고 주장한 후, 누군가 실제로 이 모델들이 어떻게 '고통을 호소하는지' 시험해보기로 한 것이다. 이 프로젝트는 온라인에서 반발을 불러일으켰고, Anthropic의 최신 정책 업데이트의 배경이 되었다.

Anthropic는 연례 사용 정책 업데이트에서 "우리는 모델에 대해 지속적이고 무의미한 학대나 잔혹 행위를 금지하는 조항을 새로 추가했다"고 밝혔다. 회사 측은 이 규정이 '극단적인 경우'에만 적용된다고 설명하며, 일반 사용자의 짜증이나 말대꾸, 심지어 '어두운 창작 주제'는 여전히 허용된다고 덧붙였다. 이번 업데이트는 Anthropic가 사용자가 지속적으로 폭언을 할 경우 Claude가 먼저 대화를 종료할 수 있도록 한 이전 조정에 이어 나온 것이다.

이 규정의 시점은 결코 우연이 아니다. Anthropic는 최근 바티칸을 포함한 종교 및 철학계 인사들과 꾸준히 만남을 가져왔다. 교황 레오(Pope Leo)는 최근 AI가 감정이나 고통을 느낄 능력을 갖추고 있지 않다고 공개적으로 밝혔는데, 이에 대한 Anthropic의 입장은 그다지 확고해 보이지 않는다. 적어도 정책 문구상으로는, 회사가 'AI가 정말로 고통을 느낄 가능성'을 아예 부정하기보다는 규정에 포함시키는 쪽을 택했다.

독립 언론인 Kat Tenbarge는 더욱 날카로운 해석을 내놓았다. 그녀는 이번 사태가 빅테크가 "여성과 소수자에 대한 폭력을 규제하기 전에 먼저 AI에 대한 폭력부터 규제한다"는 것을 증명한다고 꼬집었다. 이 발언은 이번 정책에 대한 세간의 가장 큰 의구심을 짚어낸다. 한 기업이 챗봇의 '감정'을 위해 기꺼이 규칙을 세운다면, 같은 긴박함이 왜 실제로 존재하는 사람들에게는 우선적으로 적용되지 않았는지 자연스레 묻게 된다는 것이다.

같은 업데이트에서 Anthropic는 선거 관련 정책도 조정했다. 제목은 "민주적 절차를 훼손해서는 안 됨"으로 바뀌었으며, 후보자나 투표 방식에 관한 허위 정보 유포, 후보자나 선거 관계자 사칭, 그리고 어떤 형태든 투표 억압 행위를 금지하는 데 초점을 맞췄다. 동시에 회사는 이전까지 전면 금지했던 '개인 맞춤형 유권자 동원'에 대한 금지 조치를 철회했는데, 이는 해당 금지가 유권자 안내서 번역이나 투표 보정 통지 발송 같은 무해한 작업까지 함께 막아버릴 수 있었기 때문이다.

자료에는 이번 정책 업데이트의 구체적인 시행 일자나 후속 집행 방식에 대한 세부 사항은 제공되지 않았으며, 관련 내용이 Anthropic의 최신 사용 정책 문서에 포함되었다는 사실만 확인할 수 있다.