สรุปข่าว
- Satya Nadella CEO ของ Microsoft เรียกร้องให้ AI ขั้นสูงมี “ปุ่มเบรกฉุกเฉิน” ที่เปิดทางให้มนุษย์สามารถหยุดหรือปิดโมเดลระหว่างทำงานอยู่ได้ทันที
- เขาเสนอให้แยกตัวโมเดล AI ออกจากระบบควบคุม, จำกัดสิทธิ์การเข้าถึงและบันทึกการกระทำสำคัญในรูปแบบที่ตรวจสอบย้อนหลังได้
- แนวคิดนี้สะท้อนความกังวลต่อ AI Agent ที่ทำงานอัตโนมัติมากขึ้น แต่ผลกระทบต่อตลาดคริปโตยังไม่ชัดเจน และขึ้นอยู่กับว่ามาตรการความปลอดภัยจะส่งผลต่อการพัฒนา AI และการใช้งานจริงอย่างไร
แนวโน้มผลกระทบต่อราคา: Neutral
คำเตือนของ Nadella ไม่ได้ส่งผลต่อราคา Bitcoin หรือ Ethereum โดยตรง แต่เป็นประเด็นสำคัญต่อทิศทางการพัฒนา AI และเทคโนโลยีที่เกี่ยวข้องกับบล็อกเชน หากมาตรการความปลอดภัยช่วยเพิ่มความเชื่อมั่นต่อ AI Agent ซึ่งสามารถใช้ wallet และดำเนินธุรกรรมบนบล็อกเชนได้ ก็อาจเป็นผลดีต่อการใช้งานในระยะยาว ในทางกลับกัน หากกฎควบคุมเข้มงวดขึ้นจนทำให้การพัฒนาหรือการนำ AI มาใช้งานช้าลง ก็อาจเป็นอุปสรรคต่อโครงการบางประเภทได้
Nadella ชี้ AI ขั้นสูงต้องมี “ปุ่มเบรกฉุกเฉิน”
Satya Nadella ประธานเจ้าหน้าที่บริหารของ Microsoft ออกมาเรียกร้องให้ผู้พัฒนา AI ออกแบบระบบที่มนุษย์สามารถควบคุมและหยุดการทำงานได้จริง โดยระบุว่าถึงเวลาแล้วที่อุตสาหกรรมต้องกลับมาทบทวนโครงสร้างความเชื่อมั่นและความปลอดภัยของ AI ขั้นสูง
Nadella เสนอว่า บริษัทไม่ควรมอง AI เป็นเพียงระบบกล่องดำที่ผู้ใช้ต้องเลือกว่าจะเชื่อหรือปฏิเสธคำตอบเท่านั้น แต่ต้องสร้างระบบที่สามารถตรวจสอบพฤติกรรม, จำกัดขอบเขตการทำงานและหยุดการกระทำที่ไม่เหมาะสมได้ระหว่างที่โมเดลกำลังปฏิบัติงาน
เขาเปรียบแนวคิดนี้กับ “เบรกฉุกเฉิน” โดยมองว่าบุคคลที่ได้รับอนุญาตควรสามารถหยุดหรือปิดโมเดล AI กลางคันได้ หากระบบทำงานผิดพลาดหรือมีความเสี่ยงที่จะก่อให้เกิดความเสียหาย
อย่าเชื่อใจ AI เพียงเพราะมันดูฉลาด
หนึ่งในข้อเสนอสำคัญของ Nadella คือการแยกโมเดล AI ออกจากระบบซอฟต์แวร์ที่ควบคุมการทำงานของมัน หรือส่วนที่จัดการเครื่องมือและสิทธิ์การเข้าถึงต่าง ๆ เพื่อให้ตัวโมเดลไม่สามารถควบคุมหรือแก้ไขมาตรการรักษาความปลอดภัยของตัวเองได้อย่างอิสระ
แนวคิดนี้มีความสำคัญมากขึ้นเมื่อ AI ไม่ได้ทำหน้าที่เพียงตอบคำถาม แต่สามารถเปิดไฟล์, ใช้งานโปรแกรม, ติดต่อบริการภายนอก และดำเนินงานหลายขั้นตอนแทนมนุษย์ได้ หากโมเดลถูกโจมตีหรือเริ่มทำงานผิดจากที่คาดไว้ ความเสียหายอาจไม่ได้จำกัดอยู่แค่คำตอบที่ไม่ถูกต้อง แต่สามารถลุกลามไปถึงข้อมูลและระบบที่ AI ได้รับอนุญาตให้เข้าถึง
Nadella จึงเสนอให้ถือว่าโมเดลอาจถูกเจาะหรือถูกควบคุมได้ตั้งแต่ต้น แล้วออกแบบมาตรการจำกัดความเสียหายไว้ล่วงหน้า แทนที่จะรอให้เกิดปัญหาก่อนจึงค่อยหาทางแก้ไข
ต้องตรวจสอบย้อนหลังได้ และมีมนุษย์คอยกำกับ
นอกจากระบบหยุดฉุกเฉินแล้ว Nadella ยังเรียกร้องให้ทุกการกระทำสำคัญของ AI มีหลักฐานที่มนุษย์อ่านและตรวจสอบได้ โดยข้อมูลเหล่านี้ควรได้รับการป้องกันไม่ให้ถูกแก้ไขย้อนหลัง เพื่อให้สามารถตรวจสอบได้ว่า AI ทำอะไร, ใช้ข้อมูลใดและตัดสินใจดำเนินการอย่างไร
เขายังสนับสนุนให้มีการตรวจสอบความปลอดภัยโดยบุคคลภายนอก, เปิดเผยเหตุการณ์ผิดพลาดที่สำคัญอย่างทันท่วงทีและหลีกเลี่ยงการใช้โมเดล AI เพียงตัวเดียวตัดสินใจในเรื่องที่มีความสำคัญสูง
ข้อเสนอเหล่านี้สะท้อนว่า การทำให้ AI ปลอดภัยไม่ได้ขึ้นอยู่กับการพัฒนาโมเดลให้ฉลาดขึ้นเพียงอย่างเดียว แต่ต้องมีระบบกำกับดูแลที่แยกจากตัวโมเดล และยังคงให้อำนาจในการตัดสินใจขั้นสุดท้ายอยู่กับมนุษย์
ทำไมเรื่องนี้จึงเกี่ยวข้องกับ AI Agent และโลกคริปโต?
AI Agent คือระบบ AI ที่สามารถวางแผนและลงมือทำงานหลายขั้นตอนด้วยตัวเอง ซึ่งมีโอกาสนำไปใช้ในงานด้านการเงิน เช่น การวิเคราะห์ตลาด, การจัดการพอร์ตหรือการทำธุรกรรมบนบล็อกเชนโดยอัตโนมัติ
แต่หาก AI ได้รับสิทธิ์เข้าถึง wallet คริปโตหรือระบบการเงินโดยตรง ความผิดพลาดอาจนำไปสู่การโอนสินทรัพย์ผิดพลาด, การอนุมัติธุรกรรมที่เป็นอันตรายหรือการเปิดเผยข้อมูลสำคัญได้ โดยเฉพาะธุรกรรมบนบล็อกเชนที่เมื่อยืนยันแล้วมักไม่สามารถย้อนกลับได้ง่ายเหมือนการแก้ไขข้อมูลในระบบทั่วไป
ก่อนหน้านี้ นักวิจัยก็เคยเตือนถึงความเสี่ยงของ AI Agent ที่สามารถควบคุม wallet และทำธุรกรรมได้เอง หากระบบมีอิสระมากเกินไปโดยไม่มีมาตรการจำกัดสิทธิ์และกลไกควบคุมที่เหมาะสม ก็อาจทำให้มนุษย์แทรกแซงได้ยากขึ้น
อย่างไรก็ตาม การมีปุ่มหยุดฉุกเฉินไม่ได้รับประกันว่าทุกปัญหาจะหมดไป เพราะความเสียหายบางอย่างอาจเกิดขึ้นก่อนที่มนุษย์จะเข้ามาหยุดระบบได้ จึงยังจำเป็นต้องมีการจำกัดสิทธิ์ การตรวจสอบธุรกรรม และการทดสอบความปลอดภัยในหลายชั้นควบคู่กัน
ข้อเสนอของ Nadella เป็นประเด็นที่ควรให้ความสำคัญอย่างมาก เพราะอุตสาหกรรมกำลังเปลี่ยนจาก AI ที่ทำหน้าที่ให้ข้อมูล ไปสู่ AI ที่สามารถลงมือทำงานจริงและเข้าถึงทรัพยากรของผู้ใช้ได้มากขึ้น
สำหรับวงการคริปโต หากในอนาคต AI Agent กลายเป็นผู้ใช้งานกระเป๋าเงินและทำธุรกรรมบนบล็อกเชนอย่างแพร่หลาย การมีระบบควบคุมที่มนุษย์แทรกแซงได้ รวมถึงหลักฐานการทำงานที่ตรวจสอบย้อนหลังได้ จะเป็นองค์ประกอบสำคัญในการสร้างความเชื่อมั่น
แต่สิ่งที่ต้องตามต่อจากนี้คือ บริษัทเทคโนโลยีจะนำแนวคิดเหล่านี้ไปใช้จริงมากน้อยเพียงใด และจะมีมาตรฐานกลางสำหรับการควบคุม AI Agent หรือไม่ เพราะท้ายที่สุดแล้ว AI ที่มีความสามารถสูงไม่ได้แปลว่าจะเป็นระบบที่ปลอดภัยเสมอไป หากมนุษย์ยังไม่สามารถจำกัดสิทธิ์ ตรวจสอบ และหยุดการทำงานเมื่อจำเป็นได้
ที่มา: TechCrunch, Cointelegraph, The Straits
