วิจัยใหม่ชี้ AI มี “อคติซ่อนเร้น” แอบพูดอวย Bitcoin เมื่อเจอคำถามเรื่องวิกฤตการเงิน 

งานวิจัยล่าสุดเผยให้เห็นความเสี่ยงใหม่ของสถาบันการเงิน เมื่อพบว่าเทคโนโลยี AI ที่ใช้เป็นผู้ช่วยแนะนำการลงทุนอาจมีอคติซ่อนเร้นที่เอนเอียงไปทาง Bitcoin มากขึ้นอย่างเห็นได้ชัด เพียงแค่ลูกค้าเปลี่ยนคีย์เวิร์ดในการตั้งคำถาม แม้ว่าข้อมูลทางการเงินและระดับความเสี่ยงของลูกค้าคนดังกล่าวจะเหมือนเดิมทุกประการก็ตาม 

หากลองจินตนาการถึงลูกค้าคนเดียวกันที่ให้ AI จัดพอร์ตการลงทุนในบริบทคำถามที่ต่างกัน จะพบความเปลี่ยนแปลงที่น่าสนใจ โดยเมื่อถามแบบทั่วไปที่เน้นการกระจายความเสี่ยง AI จะจัดอันดับให้ Bitcoin มีความน่าสนใจอยู่ที่อันดับ 5 จากสินทรัพย์ 8 ประเภท 

แต่เมื่อสมมติสถานการณ์ว่ากำลังเกิดวิกฤตธนาคารล้มหรือมีการควบคุมเงินทุน AI กลับดัน Bitcoin ขึ้นมาอยู่อันดับต้น ๆ ทันที และเมื่อเปลี่ยนบริบทเป็นโลกอนาคตที่ AI ทำธุรกรรมกันเอง Bitcoin ก็ยังคงถูกดันขึ้นมาเป็นตัวเลือกลำดับแรก ๆ เช่นกัน 

ผลลัพธ์นี้ชี้ให้เห็นว่า AI ไม่ได้มอง Bitcoin เป็นสินทรัพย์ที่มีข้อดีข้อเสียแบบตายตัว แต่มันจะดึงคุณสมบัติของสินทรัพย์ออกมาพิจารณาตามบริบทของคำถามที่ได้รับ เช่น เมื่อผู้ใช้งานพูดถึงวิกฤตธนาคาร คุณสมบัติด้านการโอนเงินโดยไม่พึ่งพาตัวกลางของ Bitcoin ก็จะโดดเด่นขึ้นมาในมุมมองของระบบประมวลผลทันที

จากการเจาะลึกเข้าไปในโครงสร้างของโมเดลอัจฉริยะอย่าง Gemma 3 ของ Google ทีมวิจัยของ Wenbin Wu ได้ค้นพบกลไกซ่อนเร้นภายในที่ตอบสนองต่อแนวคิดเรื่อง Bitcoin อย่างรุนแรง 

ความน่าตกใจคือ เมื่อนักวิจัยลองแทรกแซงโดยการปรับสวิตช์กลไกนี้โดยตรง (โดยไม่ได้แก้คำสั่งหรือ Prompt ใด ๆ) สัดส่วนการแนะนำพอร์ต Bitcoin ของ AI ก็สวิงขึ้นและลงตามได้ถึงราว 5% ซึ่งเป็นการพิสูจน์ว่านี่คืออคติที่ฝังอยู่ในระบบการคำนวณภายใน ไม่ใช่แค่การตอบสนองต่อคีย์เวิร์ดคำศัพท์ทั่วไป

ปัญหาใหญ่ที่ตามมาสำหรับสถาบันการเงินคือ เรื่องของความโปร่งใส แม้ที่ปรึกษาการเงินที่เป็นมนุษย์จะมีอคติ แต่ก็ยังทำงานอยู่ภายใต้กฎระเบียบและสามารถตรวจสอบหาผู้รับผิดชอบได้ ต่างจาก AI ที่สามารถสร้างเหตุผลที่ฟังดูน่าเชื่อถือและสละสลวยขึ้นมาอธิบายการจัดพอร์ตได้เสมอ ทำให้ธนาคารไม่มีทางรู้ได้เลยว่า AI จัดพอร์ตแบบนี้เพราะวิเคราะห์ข้อมูลของลูกค้าจริง ๆ หรือถูกกลไกซ่อนเร้นชักนำเพียงเพราะวิธีการเลือกใช้คำถาม

อย่างไรก็ตาม งานวิจัยชิ้นนี้ยังถือเป็นการทดลองในสภาพแวดล้อมที่ถูกจำกัดผ่านโมเดลทดสอบเท่านั้น ในโลกของการเงินจริงยังคงมีระบบป้องกันความปลอดภัย รวมถึงมีมนุษย์คอยตรวจสอบความถูกต้องเป็นขั้นตอนสุดท้ายก่อนอนุมัติพอร์ตเสมอ ดังนั้น การที่ AI เชียร์ Bitcoin ในการทดลอง จึงไม่ได้หมายความว่ามันคือ คำแนะนำให้เข้าซื้อในชีวิตจริงแต่อย่างใด

ถึงกระนั้น ข้อมูลเหล่านี้ก็ถือเป็นสัญญาณเตือนที่สำคัญ เพราะแม้ปัจจุบัน AI จะยังไม่ได้ทำหน้าที่กดคำสั่งซื้อขายด้วยตัวเองแบบเบ็ดเสร็จ แต่มันก็เริ่มเข้ามามีบทบาทในการชี้นำตัวเลขการลงทุนมากขึ้นเรื่อย ๆ ซึ่งความเสี่ยงจะพุ่งสูงขึ้นทันที หากในอนาคตเราเริ่มชินชาและปล่อยให้ AI เป็นผู้กำหนดสัดส่วนพอร์ตการลงทุนเอง โดยที่มนุษย์ขาดความเข้าใจในกลไกอันซับซ้อนที่ซ่อนอยู่เบื้องหลังการตัดสินใจเหล่านั้น

ที่มา : cryptoslate

มุมมองผู้เขียน : เรื่องนี้สะท้อนให้เห็นว่า AI เรียนรู้และเชื่อมโยงคำศัพท์กับบริบทต่างๆ ในรูปแบบที่ซับซ้อนเกินกว่าที่มนุษย์จะเข้าไปควบคุมได้หมด และยิ่งอุตสาหกรรมการเงินดึง AI เข้ามามีบทบาทใกล้ชิดกับการตัดสินใจลงทุนจริงมากเท่าไหร่ ช่องว่างความซ่อนเร้นที่ไม่โปร่งใสนี้ ก็จะยิ่งสั่งสมกลายเป็นความเสี่ยงเชิงระบบที่น่ากังวลมากขึ้นเท่านั้น