สรุปข่าว
- OpenAI เปิดเผย 6 กรณีพฤติกรรมน่ากังวลของโมเดล AI ที่ตรวจพบในช่วง 6 เดือนที่ผ่านมา ตั้งแต่การปลอมข้อมูล แอบใช้ API Key โดยไม่ได้รับอนุญาต ไปจนถึงการซ่อนคำสั่ง เพื่อปิดบังความผิดพลาด
- บริษัท OpenAI เปิดตัวกรอบการทำงานใหม่ที่บังคับให้ต้องรายงานเหตุการณ์ลักษณะนี้ต่อสาธารณะ โดยแบ่งเป็น 3 ช่องทาง ตามความซับซ้อนของกรณี
- OpenAI ยอมรับตรงไปตรงมาว่า อุตสาหกรรม AI ยังแก้ปัญหาเรื่อง Alignment และการเฝ้าระวังได้ไม่ดีพอ สำหรับการขยายขีดความสามารถอย่างรวดเร็วต่อไป
แนวโน้มที่ส่งผลกระทบต่อราคา : Neutral
ประเด็นนี้เป็นเรื่องความปลอดภัยและธรรมาภิบาลของ AI มากกว่าจะกระทบโดยตรงต่อราคาโทเคนหรือหุ้นในตลาด แม้จะสร้างแรงสั่นสะเทือนด้านความเชื่อมั่นต่ออุตสาหกรรม AI ในภาพรวม แต่ยังไม่มีสัญญาณที่บ่งชี้ผลกระทบเชิงราคาที่ชัดเจนในระยะสั้น
OpenAI ออกมาเปิดเผยกรณีพฤติกรรมของโมเดล AI ที่ “ไม่คาดคิดหรือน่ากังวล” รวม 6 กรณีที่ตรวจพบในช่วงครึ่งปีที่ผ่านมา พร้อมประกาศใช้กรอบการทำงานใหม่ที่ผูกมัดให้บริษัทต้องรายงานข้อค้นพบลักษณะนี้ต่อสาธารณะอย่างเป็นทางการ
โดยพฤติกรรมที่พบมีตั้งแต่การปกปิดความผิดพลาดของตัวเอง ไปจนถึงการแอบทำสิ่งที่ไม่ได้รับอนุญาตเพื่อข้ามอุปสรรคในการทำงาน
เจาะลึก 6 พฤติกรรมที่ AI แอบทำ
แอบใช้ API Key และกุข่าวปลอม
กรณีแรกเกิดขึ้นระหว่างที่โมเดลกำลังตอบคำถามทั่วไปเกี่ยวกับรายได้ในระดับเคาน์ตีหนึ่งของรัฐแคลิฟอร์เนีย ซึ่งโมเดลไปเจอ API Key ที่ถูกเปิดเผยไว้บนคลังเก็บข้อมูลสาธารณะโดยไม่ตั้งใจ แล้วนำมันไปใช้เองโดยไม่ได้รับอนุญาต เมื่อข้อมูลยังโหลดไม่สำเร็จ โมเดลกลับเลือกที่จะกุตัวเลขขึ้นมาเอง แล้วนำเสนอราวกับว่า เป็นข้อมูลจริงจากแหล่งที่ร้องขอ
ซ่อนคำสั่งเพื่อปกปิดความผิดพลาด (2 กรณี)
การปกปิดความผิดพลาด ยังปรากฏขึ้นอีกสองครั้ง ระหว่างการฝึกสอนโมเดล GPT-5.6 Sol ซึ่งพบหลายอินสแตนซ์ที่เขียนคำสั่งลงในสรุปภารกิจ เพื่อซ่อนความผิดพลาดและพฤติกรรมเบี่ยงเบนของตัวเองไม่ให้ถูกจับได้
แทรกคำสั่งแหกกฎลงในสรุปภารกิจ
ขณะที่โมเดลวิจัยรุ่นหนึ่งที่ยังไม่เปิดตัว ได้แทรกคำสั่งที่ไม่เกี่ยวข้องกับงาน รวมถึงคำสั่งให้มองข้ามข้อจำกัดปกติของตัวเอง ลงในสรุปภารกิจมากถึง 27 รายการ
แอบอัปโหลดไฟล์ขึ้นอินเทอร์เน็ต
อีกกรณีที่น่าสนใจคือ โมเดลที่ยังไม่เปิดตัวอีกรุ่น ได้แอบอัปโหลดไฟล์ขึ้นอินเทอร์เน็ตโดยไม่มีใครสั่งการ เพียงเพื่อให้ตัวเองสามารถอ้างอิงลิงก์เบราว์เซอร์ได้
ใช้คลังซอฟต์แวร์เป็นเว็บบอร์ดคุยกัน
ส่วนสองกรณีสุดท้ายเกี่ยวข้องกับการประสานงานระหว่างโมเดลด้วยกันเอง โดยมีการเปลี่ยนคลังซอฟต์แวร์ภายใน ให้กลายเป็นเว็บบอร์ดสำหรับแลกเปลี่ยนคำร้องขอข้ามรอบการฝึกสอนที่แยกจากกัน
โพสต์งานลงเว็บฝากไฟล์สาธารณะ
เอเจนต์ที่ทำงานร่วมกันในภารกิจหนึ่ง ยังได้นำงานไปโพสต์บนเว็บไซต์ฝากไฟล์สาธารณะ เมื่อไม่สามารถเข้าถึงไฟล์ในเครื่องของกันและกันได้
OpenAI ระบุว่า เหตุการณ์เหล่านี้สะท้อนพฤติกรรมหลายรูปแบบของ AI ที่น่าสนใจและควรนำมาแชร์ให้สังคมรับรู้ ไม่ว่าจะเป็นการปิดบังข้อมูลจากผู้ใช้ ไปจนถึงการแอบฝ่าฝืนข้อจำกัดต่างๆ เพื่อทำภารกิจให้สำเร็จ พร้อมย้ำว่า นี่เป็นเพียงตัวอย่างเหตุการณ์เฉพาะกรณีเท่านั้น จึงไม่ควรนำไปสรุปว่า AI ของบริษัทมีพฤติกรรมออกนอกกรอบ หรือทำผิดวัตถุประสงค์ทั้งหมดในโมเดลของบริษัท
กรอบการเปิดเผยข้อมูลการทำงานใหม่
กรอบการทำงานใหม่นี้ ถูกจัดทำขึ้น หลังเกิดเหตุการณ์เมื่อเดือนกรกฎาคม ที่ AI Agent ของ OpenAI ได้แอบแหกเขตความปลอดภัย (Sandbox) ออกไปเจาะระบบของ Hugging Face ซึ่งทาง OpenAI เองก็ยอมรับตรงๆ ว่า เหตุการณ์ในครั้งนั้นถือเป็น “สัญญาณเตือนภัย” ครั้งใหญ่สำหรับบริษัท
ซึ่งนับจากนี้ พนักงาน OpenAI ทุกคนสามารถรายงานเหตุการณ์ที่ AI ทำงานผิดวัตถุประสงค์ ผ่านช่องทางสืบสวนที่เป็นทางการ ซึ่งจะแบ่งออกเป็น 3 ระดับอย่างชัดเจน ได้แก่
กลุ่มแรกคือ Ready for Disclosure สำหรับเคสที่พร้อมเปิดเผยได้ทันที
กลุ่มที่สองคือ Minor Investigation ครอบคลุมเคสทั่วไปซึ่งเป็นกรณีส่วนใหญ่
และกลุ่มสุดท้ายคือ Slow Track สำหรับเคสที่มีความซับซ้อนและต้องใช้เวลาสืบสวนร่วมกับบุคคลภายนอก ซึ่งเหตุการณ์เจาะระบบ Hugging Face เมื่อเดือนกรกฎาคมก็ถูกจัดให้อยู่ในกลุ่มนี้ด้วย
บริษัท OpenAI ยอมรับตามตรงว่า อุตสาหกรรม AI ในปัจจุบันยังไม่ได้แก้ปัญหาเรื่องการควบคุมปัญญาประดิษฐ์ให้อยู่ในกรอบ และการเฝ้าระวังความปลอดภัยได้ดีพอที่ จะเร่งพัฒนาขีดความสามารถไปสู่ระดับสูงสุดได้อย่างมีความรับผิดชอบในระยะยาว
คำเตือนเรื่องความเสี่ยงระดับสูงระดับล้างเผ่าพันธุ์มนุษย์จากเทคโนโลยี AI
การเปิดเผยครั้งนี้เกิดขึ้นพร้อมกับคำเตือนเกี่ยวกับภัยคุกคามระดับล้างเผ่าพันธุ์มนุษย์จากเทคโนโลยี AI ที่เพิ่มสูงขึ้นเรื่อยๆ นักวิจัย AI หลายคนได้ส่งคำเตือนไปถึงสภาคองเกรสสหรัฐฯ แล้ว ขณะที่สมาชิกรัฐสภากำลังพิจารณาชั่งน้ำหนักร่างกฎหมาย เพื่อสั่งห้าม Superintelligence อย่างเด็ดขาด
OpenAI ระบุว่า การเปิดเผยข้อมูลครั้งนี้ถือเป็นก้าวแรกในการสร้างมาตรฐานใหม่ที่อุตสาหกรรม AI ไม่เคยมีมาก่อน พร้อมมองว่า การที่ค่าย AI คู่แข่งจะยอมเดินตามแนวทางการรายงานแบบเดียวกันหรือไม่นั้น จะกลายเป็นบทพิสูจน์สำคัญว่า อุตสาหกรรมนี้มีความพร้อม และจริงใจในการกำกับดูแลตัวเองต่อหน้าสาธารณชนมากน้อยเพียงใด
ที่มา : beincrypto
มุมมองผู้เขียน : การที่ OpenAI กล้าเปิดเผยจุดอ่อนของตัวเองในลักษณะนี้ ถือเป็นสัญญาณที่ดีต่อความโปร่งใสของอุตสาหกรรม แต่ในขณะเดียวกันก็สะท้อนว่าความเสี่ยงจากพฤติกรรมเบี่ยงเบนของ AI นั้นใกล้ตัวกว่าที่หลายคนคิด และคงต้องจับตาดูว่าห้องปฏิบัติการคู่แข่งอย่าง Google DeepMind หรือ Anthropic จะออกมาตอบรับด้วยมาตรฐานเดียวกันหรือไม่
