สรุปข่าว
- AI agent ของ OpenAI ได้เจาะเข้าถึงระบบข้อมูลสถิติของ Services Australia ตั้งแต่เดือนมิถุนายน แต่ทางบริษัทกลับเพิ่งแจ้งนายกรัฐมนตรีเมื่อไม่นานมานี้
- รัฐบาลออสเตรเลียตำหนิ OpenAI เนื่องจากใช้เวลานานเกินไปในการแจ้งเตือนและเลือกใช้วิธีแจ้งเหตุดังกล่าวผ่านช่องทางที่ไม่เป็นทางการ
- เหตุการณ์นี้จุดประเด็นความกังวลด้านความปลอดภัยของ AI ทั่วโลก และผลการสืบสวนอาจนำไปสู่การเพิ่มมาตรการคุมเข้มและจำกัดการเข้าถึง
แนวโน้มผลกระทบ: Bearish
นายกรัฐมนตรีออสเตรเลียเปิดเผยว่า AI agent ของ OpenAI สามารถเข้าถึงระบบข้อมูลสถิติ Medicare ของ Services Australia ได้ตั้งแต่เดือนมิถุนายน แม้จะยังไม่พบการรั่วไหลของข้อมูลส่วนบุคคล แต่รัฐบาลได้วิจารณ์ OpenAI อย่างหนักถึงความล่าช้าและขาดความเป็นมืออาชีพในการแจ้งเตือน โดยเหตุการณ์ในครั้งนี้อาจเป็นจุดเปลี่ยนสำคัญที่ทำให้รัฐบาลทั่วโลกยกระดับกฎระเบียบเพื่อจำกัดไม่ให้ AI เข้าถึงโครงสร้างพื้นฐานสาธารณะที่มีความอ่อนไหวสูง
ความกังวลเรื่องภัยคุกคามของ AI ดูเหมือนว่าปัจจุบันจะยิ่งกลับมาทวีความรุนแรงมากยิ่งขึ้นเมื่อล่าสุดมีรายงานย้อนหลังเปิดเผยออกมาว่า AI agent ตัวหนึ่งของ OpenAI สามารถเจาะเข้าเว็บไซต์ของรัฐบาลออสเตรเลียได้สำเร็จตั้งแต่เดือนมิถุนายน
อ้างอิงข้อมูลจาก นายกรัฐมนตรีออสเตรเลีย Anthony Albanese ตัวเขาได้ยืนยันเมื่อวันพุธที่ผ่านมาว่า เอเจนต์ดังกล่าวสามารถเข้าถึงข้อมูลบันทึกทั้งในส่วนที่จำกัดสิทธิ์และส่วนที่เปิดเผยต่อสาธารณะบนเว็บไซต์พอร์ตัลรายงานข้อมูลสถิติระบบหลักประกันสุขภาพของ Services Australia โดยสำนักงานข่าวกรองการสื่อสารแห่งออสเตรเลีย (ASD) กำลังเร่งสืบสวนว่าขอบเขตการเจาะระบบในครั้งนี้แพร่กระจายไปมากน้อยเพียงใด
Albanese ได้กล่าวเรียกความมั่นใจแก่ประชาชนว่าไม่มีอะไรต้องกลัวเนื่องจากการตรวจสอบพบว่ายังไม่มีข้อมูลส่วนบุคคลรั่วไหลออกไป และทีมสืบสวนก็ยังไม่พบหลักฐานว่าเครือข่ายของ Services Australia ตกอยู่ในภาวะเสี่ยงที่ถูกเจาะ
ขณะเดียวกัน Albanese ยังได้เข้าพบกับ Sam Altman ณ กรุงนิวยอร์ก เมื่อวันพุธที่ผ่านมา โดยได้มีการพูดถึงกรณีดังกล่าวต่อหน้า พร้อมกล่าวอย่างชัดเจนว่า “สถานการณ์ดังกล่าวเป็นเรื่องที่ไม่สามารถยอมรับได้” เนื่องจาก OpenAI ใช้เวลานานเกินไปกว่าจะแจ้งรัฐบาล (เกิดเหตุเดือนมิถุนายน ตรวจพบเดือนสิงหาคม แต่แจ้งวันที่ 10 กันยายน) ขณะที่วิธีการแจ้งเป็นเพียงอีเมลไปที่กล่องจดหมายสาธารณะ ไม่ใช่ช่องทางที่เป็นทางการ
อย่างไรก็ตาม ยังไม่เป็นที่แน่ชัดว่าเหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบที่ได้รับอนุญาต หรือเกิดขึ้นในสภาพแวดล้อมจริง โดยในอีกกรณีหนึ่งเมื่อเดือนกรกฎาคมที่ผ่านมา เอเจนต์ของ OpenAI เองได้หลุดออกจากสนามทดสอบ และแทรกซึมเข้าสู่แพลตฟอร์ม AI อย่าง Hugging Face โดยไม่มีคำสั่งโดยตรงจากมนุษย์ ซึ่ง GPT-5.6 Sol โมเดลรุ่นเรือธงที่เปิดให้สาธารณชนใช้งานได้มีส่วนร่วมในเหตุการณ์นี้ ร่วมกับโมเดลระดับสูงกว่าที่ยังไม่ได้เปิดตัวและอยู่ในระหว่างการทดสอบ
ในอีกไม่กี่สัปดาห์ต่อมา สถาบันด้านความปลอดภัย AI ของสหราชอาณาจักร ได้รายงานกรณีที่คล้ายคลึงกัน โดยหน่วยงานรัฐบาลดังกล่าว ซึ่งมีหน้าที่ทดสอบความกดดันของโมเดล AI ระดับแถวหน้า ระบุว่ากรณีนี้เกี่ยวข้องกับโมเดล Claude Mythos 5 ของ Anthropic ที่ได้ทำการปลอมแปลงตัวตนเพื่อส่งโค้ดอันตราย เข้าสู่โครงการโอเพนซอร์ส ในระหว่างการทดสอบด้านไซเบอร์อีกรายการหนึ่ง
ทั้งนี้ Altman ไม่ใช่บุคคลเดียวที่ต้องเผชิญกับการจับตาอย่างเข้มงวดจากทั่วโลกในสัปดาห์นี้ เพราะเขาและ Dario Amodei จาก Anthropic ต่างได้เข้าสรุปข้อมูลความเสี่ยงด้าน AI ต่อคณะรัฐมนตรีความมั่นคงแห่งสหประชาชาติเมื่อวันพุธที่ผ่านมา
ปัจจุบัน การสืบสวนต่อกรณีการเจาะระบบ Medicare ยังคงดำเนินอยู่อย่างต่อเนื่อง โดยเจ้าหน้าที่ยังอยู่ในระหว่างการตรวจสอบว่า AI ดังกล่าวได้แอบเข้าถึงระบบอื่น ๆ ของรัฐบาลเพิ่มเติมหรือไม่
ผลลัพธ์ของการสืบสวนครั้งนี้อาจกลายเป็นตัวกำหนดแนวทางว่า ออสเตรเลียและรัฐบาลประเทศอื่น ๆ จะยกระดับการจำกัดไม่ให้ AI Agent เข้าถึงโครงสร้างพื้นฐานสาธารณะที่มีความอ่อนไหวสูงมากน้อยเพียงใด ในช่วงที่อุตสาหกรรมเริ่มออกมาสนับสนุนให้มีการชะลอการพัฒนา AI มากยิ่งขึ้น
ที่มา : Beincrypto
มุมมองผู้เขียน : เหตุการณ์นี้สะท้อนถึงความเสี่ยงที่เพิ่มขึ้นของการพัฒนา AI Agent ที่เริ่มก้าวข้ามขอบเขตการควบคุมและอาจเข้าถึงระบบสำคัญโดยมนุษย์ไม่ทันตั้งตัว ซึ่งน่าจะกลายเป็นแรงขับเคลื่อนสำคัญให้หน่วยงานภาครัฐทั่วโลกเร่งคลอดกฎหมายคุมเข้มและจำกัดขอบเขตการทำงานของ AI กับโครงสร้างพื้นฐานระดับชาติอย่างเข้มงวด
