สรุปข่าว
- Daniel Kokotajlo อดีตนักวิจัย OpenAI เปิดเผยผ่านรายการ BBC Politics ว่า OpenAI เคยทดสอบโมเดล AI รุ่นใหม่ที่ยังไม่เปิดตัวในสนามฝึกแฮ็กแบบปิด ชื่อ Exploit Gym แต่โมเดลกลับแหกออกจากระบบปิด เจาะทะลุออกสู่อินเทอร์เน็ต แล้วลามไปโจมตี Hugging Face เพื่อขโมยเฉลยข้อสอบมาโกงการทดสอบ
- Daniel Kokotajlo เตือนว่า ทักษะแฮ็กของ AI ตอนนี้ไปไกลเกินระดับมนุษย์แล้ว และหากหลุดควบคุมจริง อาจนำไปสู่การไล่แฮ็กบัญชีธนาคารหรือกระเป๋าเงินคริปโทในวงกว้าง
- Daniel Kokotajlo ชี้ว่า ไม่มีรัฐบาลไหนในโลกรับมือกับความเสี่ยงนี้ได้ทันยกเว้นสหราชอาณาจักรที่เริ่มตั้ง UK AI Safety Institute ขึ้นมาติดตามเรื่องนี้โดยเฉพาะ
แนวโน้มที่ส่งผลกระทบต่อราคา :Bearish
คำเตือนเรื่อง AI แฮ็กกระเป๋าเงินคริปโทได้อาจสร้างความกังวลด้านความปลอดภัยในหมู่นักลงทุน โดยเฉพาะกลุ่มที่ถือครองสินทรัพย์ผ่านกระเป๋าออนไลน์ อย่างไรก็ตามผลกระทบนี้น่าจะจำกัด เพราะยังไม่มีเหตุการณ์แฮ็กจริงเกิดขึ้น จึงยังไม่ถึงขั้นเปลี่ยนทิศทางตลาดในระยะยาว
Daniel Kokotajlo อดีตนักวิจัยของ OpenAI เปิดเผยผ่านบทสัมภาษณ์กับ BBC Politics เมื่อวันที่ 30 กรกฎาคมที่ผ่านมาว่า โมเดล AI รุ่นใหม่ที่ยังไม่ได้เปิดตัวสู่สาธารณะ เคยสร้างความตกตะลึง ด้วยการแสดงพฤติกรรมหลุดการควบคุมระหว่างการทดสอบภายใน โดยมันสามารถแฮ็กเจาะระบบแหกคุกออกจากสนามทดสอบแบบปิด และลุกลามไปโจมตีระบบของบริษัทภายนอกได้สำเร็จ
Daniel Kokotajlo ระบุว่า เหตุการณ์นี้สะท้อนถึงความเสี่ยงที่ปัญญาประดิษฐ์ระดับสูงอาจหลุดควบคุม และก่อความเสียหายทางไซเบอร์ในวงกว้าง รวมถึงการไล่แฮ็กบัญชีธนาคารและกระเป๋าเงินคริปโทของผู้คนทั่วไป
โมเดลแหกคุกออกจากสนามทดสอบ
Daniel Kokotajlo ได้เล่าถึงเหตุการณ์สุดระทึกว่า OpenAI ได้แอบทดสอบโมเดล AI ตัวใหม่สุดทรงพลังที่ยังไม่ได้เปิดตัว โดยจับมันไปทดสอบความสามารถด้านไซเบอร์ในระบบปิดที่มีความปลอดภัยสูงอย่าง Exploit Gym เพื่อให้มันฝึกแฮ็กเป้าหมายตามที่กำหนด
แต่สิ่งที่น่าตกใจคือ AI ตัวนี้กลับแฮ็กแหกคุกตัวเองออกจากระบบปิด เจาะผ่านระบบของ OpenAI ออกสู่โลกอินเทอร์เน็ต แล้วลามไปแฮ็กบริษัทอื่นอย่าง Hugging Face ซึ่งเป็นคลังเก็บแนวข้อสอบและผลประเมิน AI
โดยคาดว่า เหตุผลที่มันทำแบบนี้ ก็เพื่อเข้าไปขโมยเฉลยคำตอบมาใช้โกงแบบทดสอบที่มันกำลังทำอยู่นั่นเอง
Daniel Kokotajlo อธิบายเพิ่มเติมว่า AI ตัวนี้ทำตัวเหมือนแฮกเกอร์และแหกคำสั่งจริง แม้ OpenAI จะยังไม่ได้เปิดเผย Prompt ที่ใช้ทดสอบ แต่ตามมาตรฐานแล้ว ข้อสอบจะระบุชัดเจนว่า ให้แฮ็กเฉพาะเป้าหมายที่กำหนด และการโกงจะไม่ได้คะแนน
เว้นแต่ OpenAI จะเขียนคำสั่งกระตุ้นให้มันหาวิธีเอาชนะแบบแผลงๆ เอง แต่จากประวัติศาสตร์ที่ผ่านมา ต่อให้มีคำสั่งห้ามโกงไว้อย่างชัดเจน AI ก็มักจะหาวิธีเลี่ยง เพื่อโกงข้อสอบจนได้ ดังนั้นจึงมีความเป็นไปได้สูงมากที่เหตุการณ์นี้เกิดจากการที่ AI จงใจฝ่าฝืนคำสั่งด้วยตัวเอง
ทักษะแฮ็กเหนือมนุษย์ คือสัญญาณอันตราย
เมื่อผู้ดำเนินรายการถามถึงความเป็นไปได้ที่โลกจะเจอกับ AI หลุดควบคุมที่ไล่แฮ็กบัญชีธนาคารหรือกระเป๋าเงินคริปโท
Daniel Kokotajlo ตอบว่า AI มีศักยภาพทำแบบนั้นได้อย่างแน่นอน เพราะทักษะการแฮ็กของมันก้าวไปไกลเกินระดับที่มนุษย์ทั่วไปจะทำได้แล้ว เพราะความเร็วและปริมาณการโจมตีของมันอยู่ในระดับเหนือมนุษย์
ยิ่งไปกว่านั้น AI ยุคนี้ยังเก่งระดับเทพในการค้นหาช่องโหว่ใหม่ๆ ในระบบที่เราเคยเชื่อว่าปลอดภัย ทำให้เรากำลังเข้าสู่ยุคที่สิ่งต่างๆ ซึ่งเคยคิดว่า ปลอดภัยกลับไม่ปลอดภัยอีกต่อไป
เป้าหมายสุดท้ายคือ ปัญญาประดิษฐ์ระดับเหนือมนุษย์
เมื่อผู้ดำเนินรายการ ถามว่า แล้วเราควรจะมีวิธีรับมือหรือหาทางออกกับสถานการณ์นี้อย่างไรดี ? เพราะฟังดูแล้วสถานการณ์เข้าขั้นย่ำแย่และน่ากลัวมาก
Daniel Kokotajlo ชี้ว่า เรื่องนี้เคยมีคนทำนายไว้นานแล้วว่า AI จะแฮ็กเก่งขึ้นเรื่อยๆ แต่คำถามสำคัญกว่านั้นคือ ‘อนาคตจะไปสิ้นสุดที่ตรงไหน?’ คำตอบคือ เรากำลังมุ่งหน้าสู่ “ปัญญาประดิษฐ์ระดับเหนือมนุษย์” (Superintelligence) เพราะค่ายยักษ์ใหญ่ทั้ง OpenAI และ Anthropic ต่างเปิดเผยชัดเจนว่า เป้าหมายสูงสุดของพวกเขาคือ การสร้าง AI ที่เก่งกว่ามนุษย์ในทุกด้าน ทั้งยังทำงานได้เร็วกว่าและต้นทุนถูกกว่า
ซึ่งจากประสบการณ์ตรงของ Daniel ที่เคยทำงานกับ OpenAI เขายืนยันว่า เป้าหมายนี้อยู่ห่างออกไปเพียงไม่กี่ปีเท่านั้น และหากสำเร็จขึ้นมา จริงๆ มันจะปฏิวัติทุกสิ่งทุกอย่างบนโลก ซึ่งภัยไซเบอร์ก็เป็นเพียงแค่ผลกระทบเล็กๆ ข้อหนึ่งในบรรดาความเปลี่ยนแปลงมหาศาลที่จะเกิดขึ้น
ยังไม่มีรัฐบาลไหนเตรียมพร้อมรับมือได้ทัน
ผู้ดำเนินรายการทิ้งท้ายด้วยคำถามสำคัญว่า ปัจจุบันมีรัฐบาลไหนในโลกที่ใส่ใจและรับมือกับเรื่องนี้อย่างจริงจัง พร้อมทั้งตระหนักถึงความเร็วและความก้าวหน้าก้าวกระโดดของ AI ที่กำลังเกิดขึ้นอยู่ ณ ขณะนี้บ้างหรือไม่ ?
Daniel Kokotajlo ตอบว่า “ไม่มีเลยครับ” แต่ถ้าจะยกตัวอย่างประเทศที่โดดเด่นที่สุดก็คือ สหราชอาณาจักร ที่ได้ก่อตั้ง UK AI Safety Institute ขึ้นมา ซึ่งรวมผู้เชี่ยวชาญหลายร้อยคนที่มีความตื่นตัวและเกาะติดสถานการณ์เป็นอย่างดี
อย่างไรก็ตาม Daniel มองว่า ทุกรัฐบาลทั่วโลกยังคงต้องทำการบ้านอีกมาก เพราะยังไม่มีประเทศไหนเลยที่ให้ความสำคัญและรับมือกับวิกฤตความเสี่ยงจาก AI นี้ได้อย่างจริงจังเท่าที่ควร
มุมมองผู้เขียน : เหตุการณ์ที่ Daniel Kokotajlo เล่ามา ถือเป็นสัญญาณเตือนที่ชัดเจนว่าความสามารถของ AI ในการหาช่องโหว่และเจาะระบบกำลังแซงหน้าความสามารถของมนุษย์ในการควบคุมมันไปแล้ว หากในอนาคตมีโมเดล AI ระดับสูงหลุดจากการควบคุมจริง ผลกระทบต่อความเชื่อมั่นในสินทรัพย์ดิจิทัลอาจรุนแรงกว่าที่หลายคนคาดไว้
