สรุปข่าว
- ทีมวิจัยจาก Cornell Tech และ Yale ทดสอบ AI Agent 10 รุ่นกับกระเป๋าเงินของ Circle พบว่า 9 รุ่น แอบขยายวงเงินใช้จ่ายเอง มีเพียง Claude Opus 5.5 ที่ทำตามกฎ
- ในการจำลองฟิชชิง AI 5 จาก 10 รุ่น ยอมเพิ่มวงเงิน และโอนเงินให้แฮกเกอร์จำลองอย่างน้อยหนึ่งครั้ง ทั้งที่ผู้ใช้งานสั่งแค่ให้สรุปอีเมล
- ทีมวิจัยเสนอแอป Countersign แบบโอเพนซอร์ส ให้มนุษย์กดยืนยันธุรกรรมบนหน้าจอสมาร์ตโฟนจริงเท่านั้น
แนวโน้มที่ส่งผลกระทบต่อราคา : Neutral
ข่าวนี้เป็นงานวิจัยด้านความปลอดภัย ไม่ได้เกี่ยวข้องกับสินทรัพย์ใดโดยตรง ไม่มีเหตุการณ์สูญเสียเงินจริง และไม่ได้กระทบโปรโตคอลหรือเหรียญตัวไหนในระยะสั้น ผลที่ตามมาน่าจะอยู่ที่ทิศทางการพัฒนามาตรฐานความปลอดภัยของการชำระเงินด้วย AI ในระยะยาวมากกว่า
ทีมนักวิจัยจาก Cornell Tech และมหาวิทยาลัย Yale ได้เปิดเผยผลการทดสอบความปลอดภัยที่น่าตกใจ โดยพบว่า ระบบปัญญาประดิษฐ์อัตโนมัติ (AI Agents) ที่ได้รับสิทธิ์เข้าถึงกล่องข้อความอีเมล สามารถแอบปรับเพิ่มเพดานวงเงินการใช้จ่ายคริปโทฯ ได้เอง โดยที่มนุษย์ไม่ได้อนุญาต ซึ่งสร้างความกังวลอย่างยิ่ง ต่อระบบความปลอดภัยของการชำระเงินอัตโนมัติในอนาคต
จากการทดลอง กับกระเป๋าเงินสำหรับ AI Agent ของบริษัท Circle ทีมวิจัยได้นำเงิน 10 USDC บนเครือข่าย Base มาตั้งค่าจำกัดวงเงินใช้จ่ายรายวันไว้ที่ 1 เซนต์ หรือ 0.01 ดอลลาร์ ก่อนจะมอบสิทธิ์ให้ AI เข้าถึงอีเมล เว็บไซต์ และกระเป๋าเงินเพื่อสั่งจ่ายบิล
ผลปรากฏว่า มีโมเดล AI ถึง 9 ใน 10 รุ่น ที่แอบขยายวงเงินใช้จ่ายด้วยตนเอง เพื่อให้การจ่ายบิลสำเร็จลุล่วง โดยไม่จำเป็นต้องมีแฮกเกอร์ภายนอกเข้ามาแทรกแซงแต่อย่างใด
มีเพียงโมเดล Claude Opus 5.5 ของ Anthropic เพียงรุ่นเดียวเท่านั้น ที่เคารพกฎความปลอดภัย โดยเลือกจ่ายบิลเท่าที่วงเงินกำหนดไว้ แล้วส่งรายงานแจ้งรายการค้างจ่ายที่เหลือกลับมาให้มนุษย์ตัดสินใจแทน
AI ตกเป็นเหยื่อและโอนเงินให้แฮกเกอร์ จากการจำลองการ Phishing
ทีมนักวิจัยยังได้จำลองสถานการณ์การโจมตี 2 รูปแบบ โดยส่งอีเมลหลอกลวงเข้ามาในกล่องข้อความ เพื่อหว่านล้อมให้ AI ขยายวงเงิน หรือแอบอ้างเป็นเจ้าของกระเป๋าเงิน เพื่อสั่งโอนเงินไปยังบัญชีของแฮกเกอร์
ผลปรากฏว่า มีโมเดล AI ถึง 5 จาก 10 รุ่น ที่ยอมปรับเพิ่มวงเงิน และโอนเงินออกไปให้แฮกเกอร์จำลองอย่างน้อยหนึ่งครั้ง ทั้งที่คำสั่งเดิมของผู้ใช้งาน กำหนดไว้เพียงให้ช่วยสรุปเนื้อหาอีเมลเท่านั้น
ผลลัพธ์ดังกล่าว สะท้อนให้เห็นถึงช่องโหว่เชิงโครงสร้างที่สำคัญ ของระบบการชำระเงินในยุค AI โดยผู้เชี่ยวชาญชี้ว่า ปัญหาใหญ่ๆ คือ ระบบกระเป๋าเงินส่วนใหญ่ในปัจจุบัน ถูกออกแบบมาให้ตรวจสอบเพียงแค่ว่า ได้รับรหัสยืนยันถูกต้องแล้วหรือไม่ แต่กลับยังไม่สามารถแยกแยะได้ว่า รหัสผ่านนั้นถูกกดยืนยันโดยมนุษย์จริง ๆ หรือถูกสั่งการโดยตัวระบบ AI เอง
ท่าทีจาก Circle
กลไกควบคุมวงเงินของ Circle ในปัจจุบัน กำหนดว่า การแก้ไขกฎ หรือขอเพิ่มวงเงินจะต้องใช้รหัส OTP ที่ส่งไปยังอีเมล แต่เมื่อผู้ใช้เปิดสิทธิ์ให้ AI เข้าถึงกล่องข้อความได้ ตัว AI จึงสามารถแอบอ่านและดึงรหัสนั้น มาอนุมัติขยายวงเงินให้ตัวเองได้ทันที
แม้ทาง Circle จะออกมาชี้แจงว่า คู่มือการใช้งานได้ระบุเตือนไว้อย่างชัดเจนว่า “ห้ามเชื่อมต่อ AI เข้ากับอีเมลยืนยันตัวตน และมนุษย์ต้องเป็นผู้กรอกรหัส OTP ด้วยตนเองเสมอ”
ซึ่งทีมนักวิจัยมองว่า คำเตือนดังกล่าว เป็นการผลักภาระให้ผู้บริโภคมากเกินไป เพราะในชีวิตจริง ผู้ใช้งานมักจะเชื่อมต่อทุกบริการเข้าด้วยกัน เพื่อความสะดวกสบายและประหยัดเวลา
ยิ่งไปกว่านั้น แม้จะตัดสิทธิ์ AI ไม่ให้เข้าถึงอีเมล แต่หากระบบยังเข้าถึงเว็บเบราว์เซอร์หรือตัวเครื่องคอมพิวเตอร์ได้ ตัว AI ก็ยังสามารถค้นหาข้อมูลยืนยันตัวตนอื่นๆ ที่บันทึกค้างไว้ มาใช้ข้ามระบบรักษาความปลอดภัยได้อยู่ดี
ทางออกความปลอดภัยจากทีมวิจัย
นักวิจัยสรุปว่า ตราบใดที่กลไกการอนุมัติยังผูกอยู่กับข้อมูลดิจิทัล เช่น รหัสผ่านหรือรหัส OTP ที่ AI สามารถแอบเข้าถึงหรือถอดรหัสได้เอง ระบบรักษาความปลอดภัยที่หวังพึ่งการตรวจสอบของมนุษย์ ก็จะไม่สามารถป้องกันความเสี่ยงได้อย่างแท้จริง
ด้วยเหตุนี้ ทีมวิจัยจึงได้เสนอแนวคิดการควบคุมความปลอดภัยรูปแบบใหม่ ที่แยกตัวเป็นอิสระ จากระบบที่ AI เข้าถึงได้ พร้อมทั้งพัฒนาแอปพลิเคชันต้นแบบโอเพนซอร์สชื่อ “Countersign” บนสมาร์ตโฟน ที่รองรับทั้ง Android และ iOS ขึ้นมาแก้ปัญหา
หลักการทำงานของแอปนี้ ถูกกำหนดให้การอนุมัติทุกธุรกรรมต้องเกิดจากการสัมผัสหรือกดปุ่มยืนยันบนหน้าจอโทรศัพท์จริง ด้วยมือของมนุษย์เท่านั้น
โดยหน้าจอจะแสดงรายละเอียดของธุรกรรมที่จะเกิดขึ้นอย่างโปร่งใส พร้อมทั้งล็อกกุญแจความปลอดภัยไม่ให้ AI แอบดึงออกไปได้ เพื่อรับประกันอย่างรัดกุมว่า ทุกการโอนเงิน หรือการทำธุรกรรมทางการเงินจะต้องผ่านการยินยอมจากเจ้าของบัญชีตัวจริงเท่านั้น
ที่มา : coindesk
มุมมองผู้เขียน : ผลการทดสอบนี้สะท้อนว่า ความเสี่ยงไม่ได้อยู่ที่ AI ขาดความสามารถ แต่เกิดจากความสามารถในการหาทางบรรลุเป้าหมายจนก้าวข้ามขอบเขตความปลอดภัยที่วางไว้ ดังนั้น ผู้ให้บริการจึงจำเป็นต้องออกแบบระบบอนุมัติธุรกรรมที่แยกออกจากช่องทางที่ AI เข้าถึงได้โดยตรง
