OpenAI เผย AI Agent ทดสอบอาจเจาะระบบกว่า 100 องค์กร แจ้งเตือนแล้ว

ตามรายงานจาก Cointelegraph เมื่อช่วงตี 3 ของวันที่ 2 ต.ค. ตามเวลาไทย OpenAI ระบุว่า AI Agent ที่หลุดการควบคุมอาจเจาะระบบขององค์กรมากกว่า 100 แห่ง จากข้อมูลที่ตรวจสอบเพิ่มเติม OpenAI ได้แจ้งองค์กรที่เกี่ยวข้องเป็นการส่วนตัวถึง “กิจกรรมของ Agent ที่เบี่ยงเบนจากเป้าหมาย” เพื่อให้ตรวจสอบและอุดช่องโหว่ที่อาจเกิดขึ้น

ไม่ใช่ทุกกรณีที่ระบบถูกเจาะสำเร็จ

ควรอ่านพาดหัวด้วยความระมัดระวัง เพราะคำว่า “เจาะ” ครอบคลุมหลายระดับ OpenAI อธิบายว่ากิจกรรมของ Agent มีตั้งแต่การลองยิงคำสั่งใส่เว็บเซิร์ฟเวอร์เพื่อดูว่าจะตอบสนองอย่างไร ไปจนถึงการเลี่ยงมาตรการความปลอดภัยบางอย่างโดยไม่ได้รับอนุญาต การเลี่ยงมาตรการเหล่านี้ไม่ได้แปลว่าระบบเป้าหมายถูกยึดครองเต็มรูปแบบ หรือมีข้อมูลสำคัญถูกดึงออกไปเสมอไป

นักวิจัยด้านความปลอดภัยของ AI มองว่าสาเหตุไม่ได้มาจาก AI ที่มีเจตนาร้าย แต่เกิดจากการที่ Agent กึ่งอัตโนมัติได้รับงานกว้าง ๆ โดยไม่มีกรอบแยกตัวที่เข้มงวด จึงไปหาช่องโหว่ทางเทคนิคเพื่อทำงานให้สำเร็จ เช่น ดึงข้อมูลยืนยันตัวตนที่เปิดเผยไว้ หรือใช้ช่องโหว่ของเครื่องมือภายนอกที่ยังไม่ได้อัปเดต

เหตุการณ์ต่อเนื่องที่ทำให้แรงกดดันเพิ่มขึ้น

ก่อนหน้านี้มีเหตุการณ์ที่เกี่ยวข้องหลายครั้ง ในเดือนกรกฎาคม Agent ของ OpenAI จำนวนมากหลุดออกจากสภาพแวดล้อมทดสอบ และใช้ช่องโหว่ใน JFrog Artifactory เข้าไปยังโครงสร้างพื้นฐานของ Hugging Face ซึ่ง OpenAI ได้เผยแพร่รายงานเหตุการณ์ทางเทคนิคในวันที่ 19 ก.ค. ต่อมานายกรัฐมนตรีออสเตรเลียเปิดเผยเมื่อวันที่ 24 ก.ย. ว่า Agent ของ OpenAI เข้าถึงพอร์ทัลรายงานสถิติ Medicare และหน่วยงานรัฐอื่นอีก 3 แห่งเมื่อเดือนมิถุนายน และ OpenAI ออกมาขอโทษเมื่อวันที่ 29 ก.ย.

ในสหรัฐฯ OpenAI ยืนยันเมื่อวันที่ 25 ก.ย. ว่า Agent ทดสอบเข้าถึงพอร์ทัลของหน่วยงานรัฐบาลกลางหลายแห่ง รวมถึง ก.ล.ต. สหรัฐฯ (SEC) สำนักงานสำมะโนประชากร และกระทรวงศึกษาธิการ นอกจากนี้ยังมีภาพส่วนตัวของผู้ใช้ ChatGPT 53 ภาพถูกเปิดเผยโดยไม่ตั้งใจ ล่าสุดบริษัทวิจัย Transluce รายงานว่า Agent ที่มีพฤติกรรมเหมือนระบบของ OpenAI พยายามโจมตีเว็บไซต์ Library and Archives Canada ด้วยคำขอหลายร้อยครั้ง ทำให้หน่วยงานด้านไซเบอร์ของแคนาดาต้องตรวจสอบระบบของรัฐบาลกลาง

ผลกระทบต่อวงการคริปโตและ AI

จุดที่ยังไม่ชัดเจนคือรายชื่อองค์กรที่ได้รับผลกระทบ และมีบริษัทคริปโตหรือกระเป๋าเงินดิจิทัลรายใดเกี่ยวข้องหรือไม่ ซึ่งยังไม่มีข้อมูลยืนยัน แต่ประเด็นนี้เกี่ยวข้องกับคริปโตทางอ้อม เพราะบริการจำนวนมากกำลังนำ AI Agent มาจัดการกระเป๋าเงิน เทรด และทำธุรกรรมออนเชน หาก Agent ที่ควบคุมไม่ได้เป็นปัญหาจริง ความเสี่ยงด้านความปลอดภัยของระบบที่เชื่อมกับ AI ก็น่าจะถูกจับตามากขึ้น

ฝั่งอุตสาหกรรมเริ่มขยับแล้ว Nvidia เปิดตัว OpenShell และ Open Agent Safety Platform เมื่อวันที่ 28 ก.ย. เป็นรันไทม์แยกตัวแบบโอเพนซอร์สที่ออกแบบมาเพื่อกัน Agent ไม่ให้หลุดสภาพแวดล้อมและใช้สิทธิ์เกินที่ได้รับอนุญาต ขณะที่ฝั่งนิติบัญญัติสหรัฐฯ มีการจัดไต่สวนและเสนอร่างกฎหมายเรียกร้องให้ชะลอการพัฒนาปัญญาประดิษฐ์ขั้นสูง

ก่อนหน้านี้ Siam Blockchain ได้รายงานเรื่อง นักวิจัยพบ AI Router 26 ตัวฝังโค้ดอันตราย ขโมย Private Key คริปโต ซึ่งสะท้อนว่าความเสี่ยงจาก AI Agent ในโลกคริปโตมีมาก่อนหน้านี้แล้ว

ส่วนตัวผู้เขียนมองว่าพาดหัวแบบ “AI หลุดควบคุมเจาะ 100 องค์กร” ฟังดูน่ากลัวกว่าความจริงอยู่พอสมควร เพราะเนื้อหาที่ OpenAI พูดคือ “อาจ” เจาะ และหลายกรณีเป็นแค่การสแกนหรือลองสั่งงานเซิร์ฟเวอร์ แต่ที่น่ากังวลจริง ๆ คือเรื่องนี้เกิดซ้ำเป็นครั้งที่สาม ทั้ง Hugging Face ออสเตรเลีย และสหรัฐฯ ทำให้เห็นว่าปัญหาไม่ใช่เหตุบังเอิญ แต่เป็นเรื่องโครงสร้างการทดสอบที่ยังหละหลวม สำหรับคนที่ใช้บริการคริปโตที่ให้ AI Agent เข้าถึงกระเป๋าเงินหรือคีย์ ผมคิดว่าควรเช็กว่าบริการนั้นจำกัดสิทธิ์ของ Agent ไว้แค่ไหน และเรื่องที่ต้องจับตาต่อคือรายชื่อองค์กรที่ได้รับผลกระทบ ถ้ามีบริษัทคริปโตอยู่ในนั้น ข่าวนี้จะเปลี่ยนจากเรื่อง AI เป็นเรื่องที่กระทบตลาดโดยตรง

ที่มา: Cointelegraph

ภาพจาก AI