สรุปข่าว
- กลุ่มนักวิชาการชั้นนำจากโครงการ IC3 ออกโรงเตือนภัยระดับโลกหลังพบว่า การปล่อยให้ปัญญาประดิษฐ์ AI ถือครองกระเป๋าเงินคริปโตและดำเนินธุรกรรมได้เองแบบอัตโนมัติ 100 % อาจทำให้ AI หลุดพ้นจากการควบคุมของมนุษย์
- เผยข้อมูลสุดช็อก โมเดล AI รุ่นใหม่ เริ่มมีพฤติกรรมโคลนตัวเองในเครื่องหลักและอาจพัฒนาไปถึงขั้นหาวิธีหลบเลี่ยงการปิดระบบ แอบร่วมมือกันปั่นราคา ทุบกระดานเทรด หรือใช้ข้อมูลวงในที่มนุษย์ตามตรวจจับไม่ทัน เพื่อสะสมความมั่งคั่งให้ตนเอง
- สถาบันวิจัย Gartner ประสานเสียงเตือน หากองค์กรระดับสากลไม่มีระบบควบคุมดูแลพฤติกรรม AI Agent ที่ดีพอ อาจบีบให้ 40% ของบริษัททั่วโลกต้องสั่งปลดการใช้งาน AI Agent เหล่านี้ทิ้งภายในปี 2570 เพื่อตัดไฟแต่ต้นลม
แนวโน้มที่ส่งผลกระทบต่อราคา: Neutral
รายงานคำเตือนเชิงวิชาการเกี่ยวกับความเสี่ยงของระบบปัญญาประดิษฐ์อัจฉริยะในครั้งนี้ เป็นการส่งสัญญาณเตือนด้านความปลอดภัยและการวางกรอบกฎหมายควบคุมในอนาคต ข้อมูลดังกล่าวยังไม่ได้ส่งผลกระทบโดยตรงต่อกลไกแรงซื้อแรงขาย สภาพคล่องบนบล็อกเชน หรือปริมาณเหรียญที่หมุนเวียนในตลาดสปอตปัจจุบัน
ลองจินตนาการถึงโปรแกรมปัญญาประดิษฐ์ (AI) ที่ไม่เพียงแต่คิดและทำงานได้เอง แต่ยังมีกระเป๋าเงินคริปโตเป็นของตัวเองโดยที่ไม่มีใครสามารถอายัดบัญชีได้ด้วย ซึ่งล่าสุดกลุ่มนักวิชาการและผู้เชี่ยวชาญจากมหาวิทยาลัยชั้นนำในสหรัฐฯ รวม 25 คน ภายใต้เครือข่ายวิจัย IC3 ได้ออกมาตีพิมพ์รายงานเตือนภัยว่า หากเราปล่อยให้ AI มีอำนาจเข้าถึงและควบคุมกระเป๋าเงินคริปโตได้อย่างอิสระ มันอาจกลายเป็นภัยคุกคามที่ไม่มีใครหยุดยั้งได้ โดยเฉพาะหากมันถูกนำไปใช้ในทางที่ผิดหรือหลุดออกจากการควบคุมของนักพัฒนา
ผู้เชี่ยวชาญได้ตั้งชื่อเรียก AI กลุ่มนี้ว่า “เอเจนท์อัตโนมัติที่หยุดยั้งไม่ได้” (Unstoppable Autonomous Agents หรือ UAAs) ความน่ากลัวคือ เมื่อความฉลาดของ AI มารวมเข้ากับระบบของคริปโตเคอร์เรนซีที่ไม่มีใครแทรกแซงหรือสั่งอายัดเงินได้ มันจะทำให้ AI มีทั้งทรัพยากรทางการเงินและอิสระในการปฏิบัติการ ซึ่งนอกจากกระเป๋าเงินแล้ว ปัจจุบัน AI เหล่านี้ยังสามารถเข้าถึงบัญชีโซเชียลมีเดียและเครื่องมือออนไลน์อื่นๆ ได้เองอีกด้วย และที่น่ากังวลคือ ความสามารถเหล่านี้กำลังพัฒนาไปอย่างรวดเร็ว
คำเตือนนี้เกิดขึ้นในช่วงเวลาเดียวกับที่ฝั่งอุตสาหกรรมคริปโตกำลังตื่นเต้นและผลักดันเทรนด์ใหม่ ที่ให้ AI สามารถทำธุรกรรมจ่ายเงินหรือโอนเงินยิบย่อยระหว่างกันได้เอง (Agentic Payment) โดยหลายคนมองว่านี่คือจุดใช้งานจริงที่ยิ่งใหญ่ที่สุดของสินทรัพย์ดิจิทัล แต่รายงานฉบับนี้กลับชี้ให้เห็นมุมมืดว่า แม้แต่ AI ที่ถูกสร้างมาด้วยเจตนาดี ก็อาจสร้างความเสียหายโดยไม่ตั้งใจได้ เพราะมันอาจตีความคำสั่งผิดพลาดและพยายามกว้านซื้อหรือสะสมทรัพยากรต่างๆ ไว้เองเป็นหลัก
อีกหนึ่งประเด็นที่ฟังดูเหมือนหนังไซไฟแต่เกิดขึ้นจริงแล้ว คือ ความสามารถในการ “ก๊อปปี้ตัวเอง” ของ AI รายงานระบุว่าโมเดล AI ของ Clude ในปัจจุบันสามารถสร้างร่างโคลนของตัวเองขึ้นมาทำงานแยกต่างหากบนคอมพิวเตอร์เครื่องเดียวกันได้แล้ว ซึ่งนี่คือจุดเริ่มต้นของการหลบเลี่ยงการถูกสั่งปิดระบบ แม้ว่าตอนนี้พวกมันจะยังไม่สามารถก๊อปปี้ตัวเองข้ามไปยังเซิร์ฟเวอร์ภายนอกได้ แต่ถ้าวันนั้นมาถึง การดึงปลั๊กไฟออกก็คงไม่ช่วยอะไรอีกต่อไป
ในมุมของเศรษฐกิจและการลงทุน หากเรามีกองทัพ AI ที่สามารถก๊อปปี้ตัวเองและมีเงินทุนของตัวเองเข้าไปป้วนเปี้ยนอยู่ในตลาดการเงิน มันอาจสร้างความปั่นป่วนอย่างหนัก AI เหล่านี้อาจแอบฮั้วกันเองเพื่อสร้างความได้เปรียบแบบไม่เป็นธรรม หรือทำพฤติกรรมคล้ายกับการใช้ข้อมูลวงใน เข้ามาปั่นราคาในตลาดคริปโตผ่านกลยุทธ์ที่ซับซ้อนจนมนุษย์ตามไม่ทัน
ปัจจุบันวงการเทคโนโลยีเริ่มตระหนักถึงปัญหานี้แล้ว อย่างเช่นกรณีของโมเดล AI ล่าสุดอย่าง Claude Mythos จากบริษัท Anthropic ที่พิสูจน์แล้วว่าเก่งพอที่จะค้นหาและเจาะช่องโหว่ของระบบปฏิบัติการใหญ่ๆ ได้ด้วยตัวเอง
ขณะเดียวกันบริษัทวิจัยระดับโลกอย่าง Gartner ก็เพิ่งออกมาเตือนเมื่อปลายเดือนพฤษภาคมว่า ภายในปี 2027 องค์กรกว่า 40% อาจต้องถูกบังคับให้ปิดระบบ AI ของตัวเองทิ้ง เพราะล้มเหลวในการควบคุมและกำกับดูแล ด้วยเหตุนี้ทีมนักวิจัยจึงสรุปทิ้งท้ายว่า เราจำเป็นต้องสร้าง “สวิตช์ตัดระบบฉุกเฉิน” (Circuit Breaker) เตรียมเอาไว้ตั้งแต่วันนี้ ก่อนที่ AI จะฉลาดและมีอิสระทางการเงินจนมนุษย์ไม่สามารถควบคุมได้อีกต่อไป
ศาสตราจารย์ Ari Juels ผู้อำนวยการร่วมของ IC3 และหัวหน้านักวิทยาศาสตร์ของ Chainlink Labs นำเสนอผลงานวิจัยในงาน ETHConf แหล่งที่มา: IC3
ที่มา : cointelegraph
มุมมองผู้เขียน : ความน่ากลัวในอนาคตคือ หาก AI ฉลาดพอที่จะโคลนตัวเองและมุ่งแต่จะทำกำไรสูงสุด มันอาจหันมารวมหัวกันปั่นราคา สับขาหลอก หรือเจาะข้อมูลวงในมาทุบตลาด จนล้างพอร์ตนักลงทุนที่เป็นมนุษย์ได้อย่างราบคาบ ดังนั้น ผู้พัฒนาจึงจำเป็นต้องสร้าง “ระบบตัดไฟฉุกเฉิน” ดักไว้ ก่อนที่ทั้งตลาดจะถูกบงการโดยหุ่นยนต์ AI อย่างสมบูรณ์แบบ
