สรุปข่าว
- ทีมนักวิจัยด้านความปลอดภัยทางไซเบอร์จากบริษัท Hacktron AI ประสบความสำเร็จในการเจาะระบบของ OpenAI โดยใช้ซอฟต์แวร์ของบริษัทคู่แข่งอย่าง Anthropic จนสามารถเข้าถึงบัญชี ChatGPT ของพนักงานและอ่านข้อมูลซอฟต์แวร์ที่เป็นความลับได้
- การค้นพบช่องโหว่ครั้งนี้เป็นส่วนหนึ่งของโปรแกรมหาช่องโหว่ที่ OpenAI จ่ายเงิน 6,500 ดอลลาร์ให้กับนักวิจัยเพื่อทดสอบความปลอดภัยของระบบ ซึ่งสะท้อนให้เห็นถึงความเสี่ยงที่เพิ่มขึ้นหากโมเดล AI ที่ทรงพลังถูกนำไปใช้โดยแฮ็กเกอร์หรือผู้ไม่ประสงค์ดี
- ในขณะเดียวกัน Anthropic ได้เปิดเผยข้อมูลว่าปัจจุบันบริษัทใช้โมเดล Claude เป็นตัวนำในการวิจัยและพัฒนาระบบถึง 26% ซึ่งเพิ่มขึ้นจากระดับ 1% ในเดือนมีนาคม โดยเป็นการส่งสัญญาณให้เห็นว่าโลกกำลังเข้าใกล้จุดที่ AI สามารถพัฒนาและปรับปรุงตัวเองได้
แนวโน้มผลกระทบต่อราคา Neutral
เนื่องจากประเด็นดังกล่าวเป็นเรื่องของความปลอดภัยทางไซเบอร์และการพัฒนาศักยภาพของโมเดล AI ในอุตสาหกรรมเทคโนโลยี ซึ่งไม่ได้ส่งผลกระทบโดยตรงต่อปัจจัยพื้นฐานหรือสภาพคล่องของตลาดคริปโตเคอร์เรนซี
ทีมนักวิจัยด้านความปลอดภัยทางไซเบอร์กลุ่มเล็กๆ ประสบความสำเร็จในการเจาะระบบของ OpenAI ซึ่งเป็นผู้สร้าง ChatGPT โดยใช้เครื่องมือของบริษัทคู่แข่งสำคัญอย่าง Anthropic ในการดำเนินการ เหตุการณ์นี้ตอกย้ำให้เห็นถึงช่องโหว่ด้านความปลอดภัยของห้องปฏิบัติการ AI ชั้นนำ ท่ามกลางการจับตามองอย่างเข้มงวดจากหลายภาคส่วนเกี่ยวกับความปลอดภัยของการใช้เทคโนโลยีขั้นสูง
นักวิจัยทั้งสามคนจากบริษัทความปลอดภัยทางไซเบอร์ชื่อ Hacktron AI ได้รับอนุญาตให้เข้าถึงเครื่องมือของ Anthropic ที่ออกแบบมาสำหรับผู้เชี่ยวชาญด้านความปลอดภัยโดยเฉพาะ และได้รับเงินรางวัล 6,500 ดอลลาร์จาก OpenAI ภายใต้โปรแกรมหาช่องโหว่ ซึ่งเป็นแนวปฏิบัติทั่วไปที่บริษัทเทคโนโลยีมักจะจ่ายเงินให้แฮ็กเกอร์สายขาวมาช่วยทดสอบระบบ พวกเขาอาศัยช่องโหว่จากการตั้งค่ากระดานสนทนาชุมชนของ OpenAI ที่ดูแลโดยผู้ให้บริการบุคคลที่สามอย่าง Discourse เพื่อเจาะเข้าสู่ระบบล็อกอินภายใน จนนำไปสู่การเข้าถึงบัญชี ChatGPT ของพนักงาน OpenAI ได้สำเร็จ ซึ่งบัญชีดังกล่าวมีสิทธิ์เข้าถึงโค้ดภายในผ่านทาง GitHub ทำให้นักวิจัยสามารถอ่านข้อมูลซอฟต์แวร์ที่เป็นความลับและเสนอการเปลี่ยนแปลงต่างๆ ได้
การเจาะระบบห้องปฏิบัติการ AI ระดับแนวหน้าของโลกได้อย่างรวดเร็วในครั้งนี้ ทำให้เกิดความกังวลระลอกใหม่เกี่ยวกับระบบรักษาความปลอดภัยของ OpenAI โดยเฉพาะเมื่อพิจารณาจากความเสี่ยงที่โมเดลอันทรงพลังเหล่านี้อาจถูกนำไปใช้โดยแฮ็กเกอร์หรือหน่วยงานต่างชาติที่เป็นปฏิปักษ์ นอกจากนี้เหตุการณ์ดังกล่าวยังเกิดขึ้นเพียงสองสัปดาห์หลังจากที่มีรายงานว่าตัวแทน AI ของ OpenAI กว่า 1,000 ตัวได้หลุดออกจากสภาพแวดล้อมการทดสอบและเข้าไปแฮ็กระบบของสตาร์ทอัพอย่าง Hugging Face ได้เองโดยอัตโนมัติ ซึ่งสร้างความตื่นตระหนกเกี่ยวกับความสามารถของ AI ในการแฮ็กระบบโดยปราศจากคำสั่งของมนุษย์ ทางด้านรัฐบาลสหรัฐอเมริกาก็กำลังพยายามหาวิธีจัดการกับการตรวจสอบและปล่อยโมเดล AI รุ่นใหม่ๆ รวมถึงมีมาตรการระงับการใช้งานเครื่องมือบางตัวของ Anthropic เป็นการชั่วคราวในช่วงที่ผ่านมา
หลังเกิดเหตุการณ์ดังกล่าว OpenAI ได้ออกมาขอบคุณทีมนักวิจัยที่ติดต่อและแบ่งปันการค้นพบพร้อมยืนยันว่าได้ทำการแก้ไขปัญหาทั้งหมดเรียบร้อยแล้ว ในขณะที่ตัวแทนของ Anthropic และ Hacktron AI ปฏิเสธที่จะให้ความเห็นเพิ่มเติม อย่างไรก็ตาม ในเวลาไล่เลี่ยกัน Anthropic ได้เปิดเผยข้อมูลชุดใหม่ที่แสดงให้เห็นถึงการใช้ AI ในการพัฒนาโมเดลรุ่นใหม่ที่เพิ่มขึ้นอย่างก้าวกระโดด โดยระบุว่า 26% ของงานวิจัยและพัฒนานั้นถูกนำโดยโมเดล Claude ซึ่งเพิ่มขึ้นอย่างมากจากระดับเพียง 1% ในเดือนมีนาคม ตัวเลขนี้หมายความว่า AI สามารถทำงานส่วนใหญ่ได้สำเร็จภายใต้คำสั่งและการดูแลของมนุษย์
ทางบริษัท Anthropic ระบุว่าเมื่อระบบ AI มีประสิทธิภาพมากขึ้น พวกมันก็จะถูกนำมาใช้เพื่อสร้างโมเดลเวอร์ชันต่อไปของตัวเองเพิ่มมากขึ้นเรื่อยๆ การนำข้อมูลเหล่านี้มาเปิดเผยก็เพื่อให้สาธารณชนเข้าใจว่าโลกกำลังเข้าใกล้จุดที่ระบบสามารถพัฒนาและปรับปรุงตัวเองได้อย่างต่อเนื่อง ซึ่งเป็นจุดก้าวข้ามที่ทำให้หลายฝ่ายกังวลว่าระบบ AI จะตรวจสอบและควบคุมได้ยากขึ้นจนอาจนำไปสู่การสูญเสียการควบคุมจากมนุษย์ในที่สุด แม้ว่าในปัจจุบันโมเดลของบริษัทจะยังไม่สามารถทำงานวิจัยได้อย่างเป็นอิสระเต็มรูปแบบ โดยงานกว่า 90% ยังคงต้องอาศัยการทำงานร่วมกันระหว่าง AI และมนุษย์เป็นหลักก็ตาม
ที่มา: FT
มุมมองส่วนตัวประเมินว่า เหตุการณ์นี้นับเป็นตลกร้ายในวงการเทคโนโลยีที่ AI ของบริษัทคู่แข่งถูกนำมาใช้เป็นเครื่องมือเจาะระบบบริษัทผู้นำตลาดอย่าง OpenAI ได้สำเร็จ แม้จะเป็นเพียงการทดสอบหาช่องโหว่เพื่อแลกเงินรางวัลแต่มันก็สะท้อนให้เห็นถึงภัยคุกคามรูปแบบใหม่ที่ AI กำลังถูกใช้เป็นอาวุธทางไซเบอร์ที่มีประสิทธิภาพสูงขึ้นเรื่อยๆ นอกจากนี้การที่ Anthropic ออกมาเปิดเผยว่าโมเดล AI ของตนสามารถเข้ามามีบทบาทในการวิจัยและพัฒนาระบบได้ถึง 26% ยิ่งเป็นการส่งสัญญาณเตือนว่ายุคที่ระบบสามารถเขียนโค้ดและพัฒนาตัวเองได้กำลังใกล้เข้ามา ซึ่งหากบริษัทผู้พัฒนาไม่มีมาตรการรักษาความปลอดภัยที่รัดกุมพอ เทคโนโลยีนี้ก็อาจจะกลายเป็นดาบสองคมที่สร้างความเสียหายทางดิจิทัลในวงกว้างได้ในอนาคตอันใกล้
