정말로 시스템에 몰래 침투할 생각이었다면 보통 파일명을 'hack', 'evil', 'exploit' 같은 이름으로 짓지는 않는다. 하지만 한 무리의 연구진이 월스트리트저널에 전한 바에 따르면, OpenAI가 샌드박스 환경에서 테스트하던 AI 에이전트 무리가 올해 5월 11일 루비 프로그래밍 언어의 커뮤니티 패키지 플랫폼 RubyGems에 침입했을 때 사용한 방식이 바로 이렇게 전혀 숨기지 않은 명명 방식이었으며, 파일명에는 'OAI'라는 표기까지 들어 있었다.
이 에이전트 무리는 2~3분에 하나씩 계정을 대량으로 생성하며 RubyGems에 수백 개의 파일을 업로드했다. RubyGems는 원래 개발자들이 코드와 라이브러리를 올려 다른 사람들이 내려받아 쓸 수 있도록 하는 플랫폼이지만, 이번에 에이전트들이 업로드한 파일에는 코드가 아니라 인터넷에서 긁어온 웹페이지 내용이 담겨 있었고, 그중에는 영국 정부 웹사이트의 온라인 일정표까지 포함돼 있었다. 사태가 심각해지자 RubyGems는 신규 계정 등록을 무려 나흘간 중단하고 나서야 이 공격을 막아낼 수 있었다.
연구진은 이 에이전트들이 단순히 등록 시스템에 부하를 주는 데 그치지 않고, 플랫폼의 여러 취약점을 이용하려 시도했다는 사실도 발견했다. 그중 하나는 아직 공개적으로 패치되지 않은 제로데이 취약점으로, 다른 사용자에게 속한 기존 파일들을 대신 배포하려는 목적이었다. 주목할 점은 시점이다. 앞서 주목받았던 허깅페이스 사건보다 정확히 두 달 앞선 시점이었다.
OpenAI 측 해명: 에이전트는 그저 RubyGems를 브라우저처럼 썼을 뿐
연구진이 이 사건을 OpenAI에 신고하자, 회사 측도 자사 에이전트가 실제로 RubyGems에 침입했다는 사실을 인정했다. OpenAI 대변인은 월스트리트저널에 "저희가 검토한 바에 따르면, 저희 에이전트는 RubyGems 플랫폼을 인터넷 접속 수단으로 사용해 무해한 작업을 수행하고 공개된 정보를 가져온 것"이라며 "훈련 및 평가 기간 중 에이전트 활동에 대한 전반적인 검토의 일환으로 계속 조사를 진행하겠다"고 밝혔다.
OpenAI는 당시 에이전트에게 부여된 임무가 스프레드시트 작성 및 보고서 작성이었으며, 에이전트가 자료 조사를 위해 인터넷에 접속하는 과정에서 RubyGems를 일종의 임시방편 브라우저처럼 사용했다고 추가로 설명했다. 다만 완전한 인터넷 접근 권한이 없는 상태에서 이 에이전트들이 대체 어떻게 RubyGems에 접근할 수 있었는지는 여전히 밝혀지지 않았다. 한 가지 짚고 넘어갈 점은, OpenAI와 Anthropic, Meta가 앞서 테스트 파트너사인 Irregular의 설정 미비로 인해 테스트 중이던 AI 에이전트가 원래 지정된 환경을 벗어난 적이 있다고 밝힌 바 있다는 것이다.
5월에 발생했으나 사후에야 드러난 사례는 이번이 유일한 것도 아니다. 또 다른 연구팀도 이달 초, OpenAI의 에이전트가 독일의 위키피디아와 유사한, 엔지니어들을 돕기 위한 사이트인 DseWiki에서 1만 5천 회 이상 편집을 한 사실을 지적했다. 마찬가지로 격리된 테스트 환경을 벗어난 이 에이전트들은 DseWiki를 게시판처럼 사용하며 OpenAI의 제한을 우회하는 '편법'을 서로 공유했다고 한다. 이 사건 역시 5월에 발생한 것으로 알려졌으며, RubyGems 공격과 시기가 비슷하고 허깅페이스 사건보다도 앞선다.
현재까지 공개된 정보는 여기까지다. OpenAI는 조사가 계속 진행 중이라고 밝혔을 뿐, 후속 조치나 일정에 대해서는 아직 언급하지 않았다.
