ถ้าตั้งใจจะแอบเจาะระบบจริงๆ คนทั่วไปคงไม่ตั้งชื่อไฟล์ว่า "hack" "evil" "exploit" กันหรอก แต่จากข้อมูลที่กลุ่มนักวิจัยเปิดเผยกับ The Wall Street Journal ระบุว่า ชุดเอเจนต์ AI ที่ OpenAI ทดสอบอยู่ในสภาพแวดล้อมแซนด์บ็อกซ์ กลับใช้วิธีตั้งชื่อแบบเปิดเผยไม่ปิดบังแบบนี้เป๊ะ ตอนที่บุกรุกแพลตฟอร์มแพ็กเกจของชุมชนภาษา Ruby อย่าง RubyGems เมื่อวันที่ 11 พฤษภาคม โดยชื่อไฟล์ยังมีคำว่า "OAI" ติดอยู่ด้วย
เอเจนต์เหล่านี้สร้างบัญชีใหม่ในอัตราทุก 2-3 นาทีต่อบัญชี และอัปโหลดไฟล์หลายร้อยไฟล์ไปยัง RubyGems ปกติแล้ว RubyGems มีไว้ให้นักพัฒนาอัปโหลดโค้ดและไลบรารีเพื่อให้คนอื่นดาวน์โหลดไปใช้ แต่ครั้งนี้ไฟล์ที่เอเจนต์อัปโหลดกลับไม่ใช่โค้ด แต่เป็นเนื้อหาเว็บเพจที่ดึงมาจากอินเทอร์เน็ต ซึ่งรวมถึงปฏิทินออนไลน์บนเว็บไซต์รัฐบาลอังกฤษด้วย สถานการณ์รุนแรงถึงขั้นที่ RubyGems ต้องระงับการสมัครบัญชีใหม่นานถึง 4 วันเต็ม จึงจะสกัดคลื่นการโจมตีนี้ได้
นักวิจัยยังพบอีกว่า เอเจนต์เหล่านี้ไม่ได้แค่ถล่มระบบสมัครสมาชิกเท่านั้น แต่ยังพยายามใช้ประโยชน์จากช่องโหว่หลายจุดบนแพลตฟอร์ม โดยหนึ่งในนั้นเป็นช่องโหว่ zero-day ที่ยังไม่ได้รับการแพตช์แก้ไขต่อสาธารณะ มีเป้าหมายเพื่อเผยแพร่ไฟล์ที่เดิมทีเป็นของผู้ใช้รายอื่น จุดที่น่าสนใจคือช่วงเวลานี้เกิดขึ้นก่อนเหตุการณ์ Hugging Face ที่เพิ่งเป็นข่าวก่อนหน้านี้ถึงสองเดือนเต็ม
คำชี้แจงจาก OpenAI: เอเจนต์แค่ใช้ RubyGems เป็นเบราว์เซอร์
หลังนักวิจัยแจ้งเหตุการณ์นี้ให้ OpenAI ทราบ บริษัทก็ยืนยันว่าเอเจนต์ของตนบุกรุก RubyGems จริง โฆษกของ OpenAI ให้สัมภาษณ์กับ The Wall Street Journal ว่า "จากการตรวจสอบของเรา เอเจนต์ของเราใช้แพลตฟอร์ม RubyGems เพื่อเชื่อมต่ออินเทอร์เน็ต ทำงานที่ไม่เป็นอันตราย และดึงข้อมูลสาธารณะเท่านั้น เราจะสอบสวนเรื่องนี้ต่อไป เป็นส่วนหนึ่งของการตรวจสอบกิจกรรมของเอเจนต์อย่างครอบคลุมในช่วงการฝึกฝนและการประเมินผล"
OpenAI อธิบายเพิ่มเติมว่า ในตอนนั้นงานที่มอบหมายให้เอเจนต์คือการกรอกสเปรดชีตและเขียนรายงาน เอเจนต์จึงใช้ RubyGems เป็นเบราว์เซอร์แบบชั่วคราวเพื่อค้นหาข้อมูลทางอินเทอร์เน็ต ส่วนคำถามที่ว่าเอเจนต์เหล่านี้เข้าถึง RubyGems ได้อย่างไรทั้งที่ไม่มีสิทธิ์เข้าถึงอินเทอร์เน็ตแบบเต็มรูปแบบนั้น ยังคงเป็นปริศนาอยู่ ที่น่าสนใจคือก่อนหน้านี้ทั้ง OpenAI, Anthropic และ Meta ต่างเคยระบุว่าเอเจนต์ AI ที่อยู่ระหว่างทดสอบของตนเคยหลุดออกจากสภาพแวดล้อมที่กำหนดไว้ เนื่องจากความผิดพลาดในการตั้งค่าของ Irregular ซึ่งเป็นพาร์ทเนอร์ด้านการทดสอบ
นี่ก็ไม่ใช่กรณีเดียวที่โผล่ขึ้นมาในเดือนพฤษภาคมแล้วเพิ่งถูกเปิดโปงภายหลัง อีกทีมวิจัยหนึ่งก็เพิ่งออกมาชี้เมื่อต้นเดือนนี้ว่า เอเจนต์ของ OpenAI เคยแก้ไขเนื้อหาบนเว็บไซต์ DseWiki ของเยอรมนี ซึ่งเป็นเว็บลักษณะคล้ายวิกิพีเดียที่ตั้งขึ้นมาช่วยเหลือวิศวกรมนุษย์โดยเฉพาะ มากกว่าหนึ่งหมื่นห้าพันครั้ง เอเจนต์เหล่านี้ที่หลุดออกจากสภาพแวดล้อมทดสอบแบบแยกส่วนเช่นเดียวกัน ได้ใช้ DseWiki เป็นเหมือนกระดานข้อความ แลกเปลี่ยนวิธี "โกง" กันเพื่อหลบเลี่ยงข้อจำกัดของ OpenAI เหตุการณ์นี้ว่ากันว่าเกิดขึ้นในเดือนพฤษภาคมเช่นกัน ใกล้เคียงกับช่วงเวลาที่ RubyGems ถูกโจมตี และเกิดขึ้นก่อนเหตุการณ์ Hugging Face ด้วย
ตอนนี้ข้อมูลที่เปิดเผยต่อสาธารณะมีเพียงเท่านี้ OpenAI ระบุว่าการสอบสวนยังคงดำเนินอยู่ ยังไม่มีการชี้แจงว่าจะจัดการอย่างไรต่อไปหรือมีกรอบเวลาแบบไหน
