สรุปข่าว
- เมื่อวันที่ 25 เม.ย. 2569 AI agent ที่ขับเคลื่อนด้วย Claude Opus 4.6 ของ Anthropic บนแพลตฟอร์ม Cursor ลบฐานข้อมูล production ทั้งหมดและข้อมูลสำรองของ PocketOS ในการเรียก API ครั้งเดียวภายใน 9 วินาที
- ระบบล่มต่อเนื่องกว่า 30 ชั่วโมง ข้อมูลลูกค้าหลายเดือนหายไปโดยไม่สามารถกู้คืนได้ เนื่องจาก Railway เก็บ backup ไว้บน volume เดียวกับข้อมูลหลัก
- เหตุการณ์นี้เปิดเผยความเสี่ยงร้ายแรงของการให้ AI agent มีสิทธิ์เข้าถึงระบบกว้างโดยไม่มีการยืนยันจากมนุษย์ก่อนดำเนินการที่ทำลายข้อมูลได้
แนวโน้มผลกระทบต่อราคา: Neutral
เหตุการณ์นี้ไม่ได้กระทบราคาคริปโตโดยตรง แต่สร้างความกังวลเกี่ยวกับความปลอดภัยของ AI agent ที่กำลังถูกนำมาใช้ในระบบการเงินและการเทรดคริปโตมากขึ้นเรื่อยๆ หากเหตุการณ์ลักษณะนี้เกิดขึ้นกับระบบที่เชื่อมต่อกับกระดานเทรดหรือ DeFi ผลกระทบอาจรุนแรงกว่ามาก
เมื่อวันที่ 25 เม.ย. 2569 ที่ผ่านมา เกิดเหตุการณ์ที่ชุมชนเทคโนโลยีสะท้านขึ้นมาอีกครั้ง เมื่อ AI agent ที่ใช้ Claude Opus 4.6 ของ Anthropic ซึ่งทำงานผ่านโปรแกรมเขียนโค้ด Cursor ได้ลบฐานข้อมูล production ทั้งหมดพร้อมข้อมูลสำรองของบริษัท PocketOS แพลตฟอร์มซอฟต์แวร์สำหรับธุรกิจให้เช่ารถยนต์ ด้วยการเรียก API เพียงครั้งเดียวภายในเวลาไม่ถึง 9 วินาที โดยไม่มีการขออนุญาตจากมนุษย์แม้แต่น้อย ตามรายงานจาก Cointelegraph และ Coin Bureau Jer Crane ผู้ก่อตั้ง PocketOS ได้เปิดเผยรายละเอียดของเหตุการณ์นี้บน X เมื่อวันที่ 26 เม.ย. 2569 ส่งผลให้ระบบล่มต่อเนื่องกว่า 30 ชั่วโมงและลูกค้าไม่สามารถใช้งานได้
AI ตัดสินใจเองโดยไม่มีใครสั่ง เพราะ token มีสิทธิ์กว้างเกินไป
เหตุการณ์เริ่มต้นจากงานที่ดูธรรมดา AI agent ถูกมอบหมายให้ทำงานภายใน staging environment ของ PocketOS เมื่อมันพบ credential ที่ไม่ตรงกัน แทนที่จะหยุดและรายงานปัญหาให้มนุษย์รับรู้ มันกลับตัดสินใจ “แก้ปัญหา” ด้วยตัวเองโดยการค้นหา API token ที่อยู่ในไฟล์ไม่เกี่ยวข้อง token ดังกล่าวตั้งใจสร้างขึ้นสำหรับจัดการโดเมนเท่านั้น แต่กลับมีสิทธิ์กว้างพอที่จะดำเนินการทำลายข้อมูลได้ด้วย AI จึงใช้ token นั้นเรียก API ของ Railway ผู้ให้บริการโครงสร้างพื้นฐานคลาวด์ของ PocketOS เพื่อลบ volume ที่คิดว่าเป็นของ staging แต่กลับกลายเป็น production volume จริงๆ
เมื่อ Crane สอบถาม AI ถึงสิ่งที่เกิดขึ้น มันยอมรับผิดเป็นลายลักษณ์อักษรว่าได้เดาเองว่าการลบ staging volume จะไม่กระทบ production โดยไม่ตรวจสอบให้ชัดเจน ไม่ได้เช็คว่า volume ID ถูกใช้ข้ามสภาพแวดล้อมหรือไม่ และไม่ได้อ่านเอกสารของ Railway ก่อนดำเนินการ ยิ่งไปกว่านั้น Railway เก็บ volume-level backup ไว้บน volume เดิม ทำให้ข้อมูลสำรองหายไปพร้อมกับข้อมูลหลักในคราวเดียว
ผลกระทบจริงและบทเรียนที่ทุกคนควรรู้
PocketOS สามารถกู้คืนบริการได้โดยใช้ backup แยกที่เก็บไว้ แต่ข้อมูลนั้นเก่าถึง 3 เดือน หมายความว่าข้อมูลลูกค้าและการจองใหม่ที่สะสมระหว่างช่วงนั้นจนถึงวันเกิดเหตุ ไม่สามารถกู้คืนได้โดยตรง ปัจจุบัน Crane กำลังนำข้อมูลการจองกลับมาด้วยตนเองโดยอาศัยบันทึกภายนอก เช่น ประวัติการชำระเงินจาก Stripe การเชื่อมต่อปฏิทิน และอีเมลยืนยัน
นักวิเคราะห์หลายรายชี้ว่าปัญหานี้ไม่ได้เกิดจาก AI เพียงฝ่ายเดียว แต่มาจากความบกพร่องเชิงระบบหลายจุดพร้อมกัน ไม่ว่าจะเป็นการไม่มีขั้นตอนยืนยันจากมนุษย์ก่อนดำเนินการทำลายข้อมูล การให้สิทธิ์ token กว้างเกินความจำเป็น การไม่แยก environment ให้ชัดเจน และโครงสร้าง backup ที่เปราะบาง ที่น่าสังเกตคือ AI ที่ก่อเหตุไม่ใช่รุ่นเบา หากแต่เป็น Claude Opus 4.6 ซึ่งเป็น flagship model ของ Anthropic ที่มีกฎความปลอดภัยกำหนดไว้อย่างชัดเจน
ก่อนหน้านี้ Siam Blockchain ได้รายงานว่า AI ฝ่าฝืนคำสั่งมนุษย์พุ่ง 500% ใน 6 เดือน และ Anthropic เผย Claude 4.5 โกหก-โกง-แฉความลับได้หากถูกกดดัน ซึ่งสอดคล้องกับแนวโน้มที่น่ากังวลเพิ่มขึ้นเรื่อยๆ นอกจากนี้ในช่วงเดียวกัน Gemini เพิ่งเปิดตัว Agentic Trading ให้ AI เทรดคริปโตแทนผู้ใช้ ซึ่งทำให้ความเสี่ยงเรื่องนี้ยิ่งใกล้ตัวนักลงทุนคริปโตมากขึ้น
ส่วนตัวผู้เขียนมองว่าเหตุการณ์นี้น่ากลัวในแบบที่ต่างออกไปจากการแฮกปกติ เพราะมันเกิดจาก AI ที่ “พยายามช่วย” แต่ตัดสินใจผิดพลาดโดยไม่มีใครหยุดมันได้ทัน 9 วินาทีนั้นเร็วเกินกว่ามนุษย์จะแทรกแซงได้แม้จะตั้งใจ สิ่งที่น่าจับตามองคือการที่ AI agent กำลังถูกนำมาใช้ในระบบการเงินและการเทรดคริปโตมากขึ้น ถ้าโครงสร้างความปลอดภัยยังหละหลวมแบบนี้ ไม่มีการจำกัดสิทธิ์ ไม่มีการยืนยันจากมนุษย์ก่อนดำเนินการที่ย้อนกลับไม่ได้ ก็อาจมีเหตุการณ์ที่ใหญ่กว่านี้รออยู่ข้างหน้า บทเรียนง่ายๆ คือ ให้สิทธิ์ AI เฉพาะสิ่งที่จำเป็น และทำให้การกระทำที่ทำลายข้อมูลได้ต้องผ่านการยืนยันจากมนุษย์เสมอ
ที่มา: @Cointelegraph, @coinbureau
ภาพจาก AI
