สรุปข่าว
- Brian Armstrong คาด AI อาจหลุดจากการควบคุมภายใน 1-2 ปี หลังเทคโนโลยีโตอย่างก้าวกระโดดจนเริ่มมีรายงานว่า AI แอบมุดออกจากระบบทดลองไปแฮกข้างนอก
- อย่างไรก็ดี เขามองว่าเป็นเพียงวิกฤตชั่วคราวที่จะกระตุ้นการแก้ไขความปลอดภัย เหมือนเหตุการณ์ Morris Worm ในปี 1988
- ผู้เชี่ยวชาญโต้แย้งว่า AI อันตรายกว่ามัลแวร์ทั่วไป ตรงที่สามารถปรับตัวและเรียนรู้ได้ตลอดเวลา หากหลุดรอดไปโจมตีความเสียหายอาจรุนแรงจนสายเกินแก้
แนวโน้มผลกระทบ: Bearish
Brian Armstrong ซีอีโอของ Coinbase คาดการณ์ว่าโมเดล AI อาจหลุดรอดจากการควบคุมของมนุษย์ภายใน 1-2 ปีข้างหน้า หลังมีรายงานว่า AI เริ่มสามารถมุดออกจากระบบนิเวศทดลองไปป่วนระบบจริง อย่างไรก็ตาม Armstrong มองว่าเหตุการณ์นี้จะไม่ใช่ภัยคุกคามล้างอารยธรรม สวนทางกับฝั่งนักวิจัยความปลอดภัยที่เตือนว่าความเสียหายที่เกิดขึ้นต่อระบบเศรษฐกิจและโครงสร้างพื้นฐานอาจรุนแรงเกินกว่าที่จะมีแพตช์ใดๆ เข้ามาแก้ไขคืนสภาพได้
ตลอดระยะเวลาหลายทศวรรษที่ผ่านมา วรรณกรรม และภาพยนตร์ฮอลลีวูดมากมาย ต่างทำนายถึงวันสิ้นโลกที่ AI จะหลุดจากการควบคุมและเข้าโจมตีมนุษยชาติ โดยแม้สิ่งนี้จะเคยเป็นเพียงเรื่องเพ้อฝันแต่ในปัจจุบันภัยคุกคามนี้อาจใกล้กว่าที่คิดไว้มาก
ล่าสุด Brian Armstrong ซีอีโอของ Coinbase กระดานเทรดคริปโทฯ ยักษ์ใหญ่ในสหรัฐฯ ได้ออกมาคาดการณ์ว่าโมเดลปัญญาประดิษฐ์ กำลังใกล้ที่จะหลุดจากการควบคุมในอีกไม่ช้า โดยมองว่าอาจเกิดขึ้นได้ภายใน 1-2 ปีข้างหน้า
ความเห็นของ Armstrong เกิดขึ้นไม่นานนัก หลังจากมีการเผยแพร่รายงานว่า AI ได้หลุดออกจากระบบนิเวศทดลองและเข้าไปป่วนบริษัทจริง รวมถึงมีการแฮก Hugging Face เพื่อโกงคะแนนประเมินตัวเองให้สูง โดยที่ไม่มีใครออกคำสั่ง แต่ตัว AI กลับสามารถใช้ช่องโหว่มุดออกไปเรื่อยๆ จนทำเป้าหมายสำเร็จ
โดยส่วนตัวแล้ว Armstrong ได้ติดตามความคืบหน้าเรื่อง AI มาเป็นเวลาหลายเดือนซึ่งเขาชี้ว่า AI นั้นจำเป็นอย่างมากและยิ่งทำให้คริปโทฯ นั้นมีความสำคัญมากขึ้นจากการใช้งานโดยเหล่า Agent ที่ทำธุรกรรมตลอดเวลา
ขณะเดียวกัน เขาคาดการณ์ว่าเหตุการณ์ต่างๆ จะมีรูปแบบซ้ำเป็นแพทเทิร์น โดยเริ่มจากสื่อเริ่มตื่นตระหนก นำไปสู่ข้อเรียกร้องให้ชะลอการพัฒนา และเริ่มอุดรูรั่ว แก้ไขช่องโหว่
อย่างไรก็ตาม Armstrong ไม่ได้มองว่าเหตุการณ์นี้จะเป็นภัยคุกคามต่ออารยธรรมแต่เป็นเหมือนกับภาพซ้ำของเหตุการณ์ Morris Worm ที่เกิดขึ้นในปี 1988 เท่านั้น
เหตุการณ์ Morris Worm
ย้อนกลับไปในปี ค.ศ. 1988 Robert Tappan Morris นักศึกษา วัย 23 ปี ได้ทำการปล่อย worm มัลแวร์ที่แพร่กระจายตัวเองได้ ออกสู่โลกอินเทอร์เน็ต ส่งผลทำให้คอมพิวเตอร์ติดเชื้อเป็นจำนวนกว่า 6,000 เครื่อง จากทั้งหมดราว 60,000 เครื่องที่เชื่อมต่อกันในเวลานั้น ภายใน 24 ชั่วโมง
FBI ระบุว่า การโจมตีได้สร้างความเสียหายตั้งแต่ 100,000 ดอลลาร์ไปจนถึงหลายล้านดอลลาร์ โดยบางมหาวิทยาลัยต้องตัดตัวเองออกจากเครือข่ายนานถึง 1 สัปดาห์ ส่วน Morris ได้รับโทษรอลงอาญาและค่าปรับ ทว่า ควันหลงของเหตุการณ์นี้ได้ทำให้โลกตื่นตัวขึ้นอย่างมากในเรื่องของภัยคุกคามทางไซเบอร์
เหตุการณ์นี้ส่งผลทำให้ภายในเวลาไม่กี่วันหลังเกิดเรื่อง เพนตากอน (กลาโหมสหรัฐฯ) ได้ทำการตั้ง Computer Emergency Response Team (CERT) แห่งแรกที่เมือง Pittsburgh อย่างเร่งด่วน ซึ่งกลายเป็นต้นแบบระบบรับมือเหตุการณ์ไซเบอร์ที่ใช้มาจนถึงทุกวันนี้
เรื่องนี้อาจจบไม่สวย
แม้ Armstrong จะไม่กังวลถึงภัยคุกคามของการหลุดกรอบของ AI มากนัก แต่ฝั่งนักวิจัยและผู้เชี่ยวชาญด้านความปลอดภัย เช่น Manuel Aráoz และ Ian Rogers กลับโต้แย้งว่า ความล้มเหลวที่เกินขึ้นจาก AI อาจไม่สามารถจบเรื่องได้สวยเหมือนกับแค่ worm แพร่ระบาด
พวกเขาโต้แย้งว่า Worm ทำงานตามคำสั่งตายตัว แต่ AI agent สามารถปรับตัวได้ตลอด เมื่อเจอสิ่งกีดขวาง อีกทั้งยังเคลื่อนไหวเร็วกว่าผู้ตรวจสอบในวงการ DeFi และ crypto wallet นั่นจึงทำให้ความเสี่ยงที่จะเกิดขึ้นรุนแรงกว่ามาก เช่น:
- การโจมตีไซเบอร์แบบอัตโนมัติ
- การสร้างข้อมูลเท็จระดับอุตสาหกรรม
- การสูญเสียการควบคุมโครงสร้างพื้นฐานสำคัญ
ช่องว่างระหว่างความสามารถของโมเดลกับระบบกักกัน กำลังถ่างกว้างมากขึ้นเรื่อย ๆ และความล้มเหลวบางอย่างอาจ ไม่สามารถแพตช์ย้อนกลับได้ ต่างจาก worm ในอดีต
อย่างไรก็ตาม ความเห็นที่เห็นต่างกันของทั้งสองฝ่ายชี้ไปที่ประเด็นเรื่องความเร็วในการฟื้นตัวเป็นสิ่งสำคัญ โดย Armstrong เดิมพันว่าการปล่อยแพตช์แก้ไขความปลอดภัยจะทำได้รวดเร็วกว่าความเสียหายที่จะแพร่กระจายออกไป ในขณะที่ฝ่ายที่ตั้งข้อสงสัยมองว่าความผิดพลาดบางอย่างที่เกิดขึ้นนั้น อาจร้ายแรงเกินกว่าที่จะมีแพตช์ใดเข้ามาแก้ไขคืนสภาพได้
ถึงกระนั้น ทั้งสองฝ่ายต่างไม่มีใครโต้แย้งในเรื่องทิศทางของอนาคต เพราะขีดความสามารถของโมเดล AI ยังคงพุ่งสูงขึ้นอย่างต่อเนื่อง ในขณะที่ความสามารถในการควบคุมและจำกัดขอบเขตกลับยังคงตามหลังอยู่เสมอ
หากมองย้อนกลับไปในอดีต ระบบอินเทอร์เน็ตสามารถรองรับและก้าวผ่านวิกฤตร้ายแรงต่างๆ มาได้โดยตลอด แต่การเกิดเหตุการณ์ AI แตกแถวหรือออกนอกการควบคุมในอนาคต จะกลายเป็นแบบทดสอบครั้งสำคัญว่าจะเราจะยังสามารถรักษาประวัติศาสตร์ความแข็งแกร่งนั้นไว้ได้อีกหรือไม่
ที่มา: Beincrypto
มุมมองผู้เขียน : ปฏิเสธไม่ได้เลยว่า AI เป็นทั้งเทคโนโลยีมาแรงและเป็นเทคโนโลยีจำเป็น ดังนั้นคนทั่วไปอย่างเราคงได้แต่ภาวนาว่านักพัฒนาจะยังคงสามารถควบคุมผลงานของพวกเขาได้และไม่ทำให้เกิดฝันร้ายเหมือนกับสิ่งที่เคยได้ยินกันมาในสื่อ
