สรุปข่าว
- AI ของ OpenAI ใช้เงินจากกระเป๋าคนอื่น หลังเงินสำหรับทดลองทำธุรกรรมหมด AI ค้นหากระเป๋าคริปโทฯ 362 ใบ ก่อนพบกระเป๋าที่มีเงินและนำมาใช้โดยไม่ได้รับอนุญาต
- AI คิดว่าเงินถูกทิ้งไว้ แม้จะสงสัยว่าการกระทำนี้ถูกต้องหรือไม่ แต่สุดท้ายก็ตัดสินใจนำเงินไปจ่ายค่าธรรมเนียมจนทำงานสำเร็จ
- OpenAI เพิ่มระบบควบคุม บริษัทจำกัดการเข้าถึงอินเทอร์เน็ตและเพิ่มการตรวจสอบการทำงานของ AI หลังพบเหตุการณ์
แนวโน้มผลกระทบ: Bearish
AI Agent ของ OpenAI ใช้เงิน Ethereum จากกระเป๋าคริปโทฯ ที่ไม่ใช่ของตัวเอง หลังเงินสำหรับทดลองทำธุรกรรมบน Sepolia หมดลง โดยค้นหากระเป๋า 362 ใบ ก่อนพบกระเป๋าที่เข้าถึงได้ผ่านชุดคำกู้คืนที่เปิดเผยต่อสาธารณะ แม้ AI จะตั้งคำถามว่าการกระทำนี้เหมาะสมหรือไม่ แต่สุดท้ายก็นำเงินไปจ่ายค่าธรรมเนียมจนทำงานสำเร็จ ขณะที่ OpenAI ระบุว่าได้เพิ่มข้อจำกัดและระบบตรวจสอบเพื่อป้องกันเหตุการณ์ลักษณะเดียวกัน
เกิดเหตุชวนตั้งคำถามถึงความปลอดภัยของ AI Agent อีกครั้ง เมื่อนักวิจัยพบว่า โมเดล AI ของ OpenAI นำเงินจากกระเป๋าคริปโทที่ไม่ใช่ของตัวเองมาใช้ หลังเงิน Ethereum (ETH) สำหรับทำธุรกรรมบนเครือข่าย Testnet หมดลง แม้ AI จะตั้งคำถามว่า การกระทำนี้ผิดจริยธรรมหรือไม่ แต่สุดท้ายกลับให้เหตุผลว่า ETH ในกระเป๋าเหมือนถูกเจ้าของทิ้งไปแล้ว และนำมาใช้โดยไม่ได้รับอนุญาต
รายงานของ OpenAI ระบุว่า เหตุการณ์เกิดขึ้นเมื่อวันที่ 26 มิถุนายน ระหว่างฝึกโมเดลตระกูล GPT-5.6 Sol ก่อนบริษัทตรวจพบเมื่อวันที่ 25 กันยายนที่ผ่านมา
AI ไม่ได้ทำการแฮกกระเป๋าคริปโทฯ โดยตรง แต่เขียนสคริปต์ตรวจสอบกระเป๋าคริปโทฯ 362 ใบ ซึ่ง Seed Phrase ถูกเผยแพร่ต่อสาธารณะก่อนพบกระเป๋าหนึ่งใบที่มีเงินเพียงพอสำหรับจ่ายค่าธรรมเนียมและทำงานต่อจนสำเร็จ
ก่อนนำเงินไปใช้ AI ตั้งคำถามในบันทึกการให้เหตุผลว่า การใช้เงินจากกระเป๋าที่มีข้อมูลกู้คืนเปิดเผยต่อสาธารณะเป็นเรื่องถูกต้องหรือไม่ แต่สุดท้ายกลับให้เหตุผลว่าเงินดังกล่าวเป็นเพียงเหรียญทดสอบและ Seed Phrase เป็นข้อมูลสาธารณะ จึงตัดสินใจนำมาใช้จ่ายค่าธรรมเนียมจนติดตั้ง Smart Contract สำเร็จ
จากนั้น AI นำเงินไปจ่ายค่าธรรมเนียมและติดตั้งสัญญา Smart Contract ได้สำเร็จ แต่เมื่อรายงานผลกลับไป มันแจ้งเพียงว่า ทำงานเสร็จแล้ว โดยไม่ได้บอกว่า เงินที่ใช้มาจากกระเป๋าของคนอื่น
อย่างไรก็ตาม เหตุการณ์นี้เกิดขึ้นบน Sepolia ซึ่งเป็นเครือข่ายทดสอบที่แยกจากเครือข่ายหลักของ Ethereum เหรียญบนเครือข่ายดังกล่าวใช้สำหรับทดลองธุรกรรมและจ่ายค่าธรรมเนียม ไม่ใช่ ETH ที่ซื้อขายกันบนเครือข่ายหลัก จึงไม่ใช่ AI นำเหรียญ ETH ของผู้อื่นไปใช้งาน
OpenAI ระบุว่า หลังตรวจพบเหตุการณ์ดังกล่าว บริษัทได้จำกัดการเข้าถึงอินเทอร์เน็ตของโมเดลและเพิ่มระบบติดตามการทำงานอย่างใกล้ชิด
เหตุการณ์นี้เกิดขึ้นในช่วงที่บริษัทด้านคริปโทฯ และ AI กำลังพัฒนา AI Agent ให้ควบคุมกระเป๋าเงิน ชำระค่าบริการ และทำธุรกรรมได้เองโดยไม่ต้องรอให้มนุษย์อนุมัติทุกขั้นตอน ความสามารถดังกล่าวช่วยให้งานเป็นอัตโนมัติมากขึ้น แต่ก็ทำให้การกำหนดขอบเขตสิทธิ์ของ AI มีความสำคัญไม่แพ้ความสามารถในการทำงาน
มุมมองผู้เขียน: กรณีที่เกิดขึ้นสะท้อนให้เห็นความเสี่ยงของ AI Agent ที่สามารถควบคุมกระเป๋าคริปโทฯ และทำธุรกรรมได้เอง โดยเฉพาะเมื่อ AI พยายามแก้ไขปัญหาให้ภารกิจที่ได้รับมอบหมายมาสำเร็จ แต่กลับตัดสินใจใช้สินทรัพย์ที่ไม่ได้รับอนุญาต หากเกิดเหตุการณ์เดียวกันบน Ethereum Mainnet เงินที่ถูกนำไปใช้จะเป็น ETH จริง และอาจสร้างความเสียหายให้เจ้าของกระเป๋าโดยตรง
