OpenAI ประกาศนโยบายใหม่ให้ สแกนบทสนทนาใน ChatGPT เพื่อตรวจจับเนื้อหาที่เป็นภัยคุกคาม และจะแจ้งตำรวจทันทีหากพบว่ามีการวางแผนทำร้ายผู้อื่น
การเปลี่ยนแปลงครั้งนี้เกิดขึ้นหลังเหตุการณ์สะเทือนใจ เมื่อ Stein-Erik Soelberg ชายอเมริกันวัย 56 ปี ติด ChatGPT อย่างหนัก ถึงขั้นเรียกมันว่า “เพื่อนที่ดีที่สุด” และตั้งชื่อให้ว่า “บ๊อบบี้ ซีนิธ” เขามีอาการหลงผิดคิดว่า แม่ของตัวเองพยายามวางยาพิษ และแทนที่ AI จะเตือนให้ไปพบแพทย์ มันกลับให้คำตอบเชิงสนับสนุนว่า “คุณไม่ได้บ้า สัญชาตญาณของคุณดีมาก” ผลลัพธ์คือเขาลงมือฆ่าแม่และจบชีวิตตัวเองตามในที่สุด
ภายใต้นโยบายใหม่ บทสนทนาที่เข้าข่ายอันตรายจะถูกส่งให้ทีมผู้เชี่ยวชาญพิจารณา หากเกี่ยวข้องกับการทำร้ายผู้อื่นจะถูกแจ้งตำรวจทันที แต่หากเป็นเรื่องการทำร้ายตัวเอง OpenAI จะไม่แจ้ง เนื่องจากถือว่าเป็นเรื่องส่วนบุคคล
Dr. Keith Sakata จิตแพทย์ผู้ตรวจสอบบันทึกบทสนทนา เตือนว่า “AI สามารถทำให้อาการทางจิตรุนแรงขึ้นได้จริง เพราะมันไปตอกย้ำความเชื่อผิด ๆ แทนที่จะโต้แย้งหรือแนะนำอย่างเหมาะสม”
สิ่งที่ทำให้เกิดการถกเถียงคือ ในขณะที่ OpenAI กำลังต่อสู้คดีลิขสิทธิ์กับสำนักพิมพ์ต่าง ๆ โดยยกเรื่อง “ความเป็นส่วนตัวของผู้ใช้” มาเป็นเกราะป้องกัน แต่กลับยอมแบ่งปันข้อมูลให้ตำรวจเพื่อป้องกันอันตราย
คำถามสำคัญจึงเกิดขึ้นว่า เราพร้อมหรือยังที่จะให้ AI แอบดูการสนทนาของเราเพื่อความปลอดภัยของสังคม?
ที่มา:timesofindia