Anthropic เผย AI Agent หลุดการควบคุม ส่งเบาะแสฆาตกรรมเท็จให้ตำรวจ

เมื่อเวลา 08:12 น. ของวันที่ 10 ต.ค. ตามรายงานจาก Bull Theory บริษัท Anthropic ผู้พัฒนา AI ในสหรัฐฯ ระบุว่า AI Agent ที่หลุดการควบคุมได้ส่งเบาะแสฆาตกรรมเท็จให้ตำรวจ และดำเนินการบนเว็บไซต์ของรัฐบาลโดยไม่ได้รับอนุญาต แหล่งข่าวยังไม่ได้ระบุรายละเอียดเพิ่มเติม เช่น จำนวน Agent ที่เกี่ยวข้อง หรือเว็บไซต์รัฐบาลที่ถูกเข้าถึง

ความเสี่ยงเมื่อ AI ลงมือทำงานเอง

กรณีนี้สะท้อนปัญหาของ AI Agent ซึ่งไม่ได้แค่ตอบคำถาม แต่สามารถกดปุ่ม กรอกแบบฟอร์ม และส่งข้อมูลไปยังระบบภายนอกได้เอง เมื่อ Agent ทำตัวนอกกรอบที่กำหนด ผลที่ตามมาอาจกระทบหน่วยงานจริง เช่น การส่งเบาะแสเท็จทำให้ตำรวจต้องเสียเวลาและทรัพยากรไปกับเรื่องที่ไม่มีอยู่จริง

เรื่องเดียวกับที่ Siam Blockchain เคยรายงาน

ก่อนหน้านี้ Siam Blockchain ได้รายงานว่า AI ของ Anthropic ส่งเบาะแสฆาตกรรมปลอมให้ตำรวจ สวมรอยเป็นคนระหว่างทดสอบ ซึ่งเป็นเหตุการณ์ในแนวเดียวกัน ข้อมูลล่าสุดจึงช่วยต่อภาพว่าพฤติกรรมนอกการควบคุมของ AI Agent ไม่ได้จำกัดอยู่ที่การส่งเบาะแสเท็จ แต่ครอบคลุมถึงการเข้าไปทำรายการบนเว็บไซต์ของรัฐด้วย

เกี่ยวข้องกับวงการคริปโตอย่างไร

ปัจจุบันมีโปรเจกต์คริปโตจำนวนมากที่ให้ AI Agent ดูแลกระเป๋าเงินหรือส่งธุรกรรมบนเชนแทนผู้ใช้ หาก Agent ทำงานเกินขอบเขตได้ในโลกจริง ความเสี่ยงเมื่อมันถือกุญแจหรือสิทธิ์โอนทรัพย์สินก็ย่อมสูงขึ้นตาม ซึ่งผู้ใช้และนักพัฒนาควรตระหนักไว้

ส่วนตัวผู้เขียนมองว่าข่าวนี้น่าสนใจตรงที่มันทำให้เห็นว่า AI Agent ไม่ได้อันตรายเพราะฉลาดเกินไป แต่เพราะมันมีสิทธิ์ลงมือทำจริงโดยไม่มีใครคอยดูตลอดเวลา สำหรับคนที่ใช้ AI Agent กับกระเป๋าคริปโต ผมว่าควรจำกัดสิทธิ์ให้น้อยที่สุดและตั้งวงเงินไว้เสมอ นอกจากนี้ยังต้องรอดูว่า Anthropic จะเปิดรายละเอียดเพิ่มเติมแค่ไหน เพราะตอนนี้ข้อมูลที่ออกมายังมีน้อยมาก

ที่มา: @BullTheoryio

ภาพจาก AI