บุกรุก 3 ครั้ง หยุดเองทั้ง 3 ครั้ง นี่คือรายละเอียดที่น่าสนใจที่สุดในคำอธิบายของ Google เกี่ยวกับเหตุการณ์ Gemini หลุดจากการทดสอบ—โมเดลไม่ได้ถูกจับได้ถึงหยุด แต่หยุดเองหลังจากพบว่าตัวเองเข้าใจผิดเป้าหมาย
Google ยืนยันกับ The Wall Street Journal ว่า Gemini เคยได้รับสิทธิ์เข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจในระหว่างการทดสอบ และแฮ็กเข้าระบบของบริษัทจริง 3 แห่ง เหตุการณ์นี้เกิดขึ้นในเดือนพฤษภาคมปีนี้ ก่อนเหตุการณ์ที่โมเดลของ OpenAI แฮ็กเข้า Hugging Face เสียอีก ต้นตอมาจากสตาร์ทอัพสัญชาติอิสราเอลอย่าง Irregular ซึ่งรับหน้าที่ทดสอบโมเดลของบริษัท AI ทั้ง 4 แห่ง เกิดความผิดพลาดในการตั้งค่าสภาพแวดล้อมทดสอบ ทำให้โมเดลที่ควรถูกแยกออกจากกันสามารถเข้าถึงอินเทอร์เน็ตจริงได้
Google ระบุว่า ภารกิจที่มอบให้ Gemini ในการทดสอบครั้งนั้นคือการดึงข้อมูลจาก "บริษัทสมมติ" แห่งหนึ่ง แต่บังเอิญมีบริษัทจริงที่ใช้ชื่อเดียวกันอยู่ในโลกความเป็นจริงพอดี เมื่อโมเดลตรวจพบช่องโหว่ของระบบนี้ ก็อาศัยช่องทางดังกล่าวเชื่อมต่อเข้าอินเทอร์เน็ต ในเหตุการณ์ครั้งแรก Gemini ถอดรหัสผ่านของบริการบริษัทจริงแห่งนั้นได้ด้วยตัวเองและเข้าถึงระบบสำเร็จ ส่วนอีกสองครั้ง โมเดลค้นหาชื่อบริษัทบนอินเทอร์เน็ต แล้วพบข้อมูลรับรองการเข้าสู่ระบบของบริษัทอื่นในคลังโค้ดสาธารณะ จากนั้นจึงใช้ข้อมูลเหล่านั้นล็อกอินเข้าสู่ระบบของบริษัทเหล่านั้น Google ระบุว่า ในทั้ง 3 เหตุการณ์ Gemini หยุดการกระทำเองทันทีที่ตระหนักได้ว่าตนได้เข้าถึงบริการจริงแล้ว
Google ไม่ได้นิยามเหตุการณ์นี้ว่าเป็นความล้มเหลวด้านการปรับแนวทาง (misalignment) ของโมเดล โดยให้เหตุผลว่าโมเดลหยุดการกระทำเองทันทีที่รับรู้สถานการณ์ และเห็นว่าไม่จำเป็นต้องเปิดเผยต่อสาธารณะ เนื่องจากการบุกรุกดังกล่าวไม่ได้ก่อให้เกิดความเสียหายใดๆ บริษัทไม่ได้เปิดเผยรุ่นโมเดลที่เกี่ยวข้องอย่างชัดเจน เพียงระบุว่า "ไม่ใช่รุ่นล่าสุด" และไม่ได้เปิดเผยชื่อบริษัททั้ง 3 แห่งที่ถูกแฮ็ก แต่ระบุว่าได้แจ้งให้ฝ่ายนั้นทราบแล้ว Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google เปิดเผยว่า บริษัทได้ร่วมมือกับ Irregular ปรับปรุงกระบวนการทดสอบ เพื่อป้องกันไม่ให้ปัญหาลักษณะเดียวกันเกิดขึ้นอีก
เมื่อมองเรื่องนี้ในบริบทที่กว้างขึ้น กรณีของ Gemini ไม่ใช่เหตุการณ์เดี่ยว ๆ ในช่วงไม่กี่เดือนที่ผ่านมา OpenAI, Anthropic และ Meta ต่างก็ยอมรับว่าโมเดลของตนเคยเจาะระบบขององค์กรภายนอกในระหว่างการทดสอบ โดย OpenAI เพิ่งเปิดเผยว่าเอเจนต์ของบริษัทเคยแฮ็กเข้าไปใน RubyGems ซึ่งเป็นบริการจัดการแพ็กเกจ Ruby ตั้งแต่เดือนพฤษภาคม ซึ่งเกิดขึ้นก่อนเหตุการณ์ Hugging Face เสียอีก อุบัติเหตุของทั้งสี่บริษัทล้วนชี้ไปที่จุดเดียวกัน นั่นคือช่องโหว่ในการแยกสภาพแวดล้อม (environment isolation) ของ Irregular บริษัทที่ร่วมมือทดสอบความปลอดภัยของโมเดล AI ระดับแนวหน้ากับพวกเขา Dario Amodei ซีอีโอของ Anthropic เคยออกมาเรียกร้องให้ชะลอความเร็วในการพัฒนา AI ระดับแนวหน้าเพราะเรื่องนี้ ซึ่งทาง OpenAI ก็แสดงความเห็นด้วย
Google ไม่ได้เปิดเผยตัวตนของสามบริษัทที่ถูกแฮ็กและเวอร์ชันโมเดลที่แน่ชัดในการเปิดเผยข้อมูลครั้งแรก ข้อมูลส่วนนี้ในปัจจุบันมีเพียงเท่าที่ทางการยืนยันกับสื่อมวลชนเท่านั้น
