ศาลสหรัฐฯ มีคำสั่งอนุญาตให้ Megan Garcia แม่ชาวฟลอริดา ยื่นฟ้อง Google และบริษัท Character.AI กรณีแชตบอตของ Character.AI มีส่วนทำให้ Sewell Setzer ลูกชายวัย 14 ปีของเธอฆ่าตัวตาย
ผู้พิพากษาศาลแขวงสหรัฐฯ Anne Conway ปฏิเสธคำร้องของทั้งสองบริษัท ที่พยายามยกฟ้องในเบื้องต้น โดยอ้างสิทธิในการแสดงออกตามรัฐธรรมนูญ
คดีนี้ถือเป็นหนึ่งในคดีแรก ๆ ในสหรัฐฯ ที่มีการฟ้องร้องบริษัท AI ในข้อหาที่เกี่ยวข้องกับผลกระทบทางจิตใจต่อเด็ก โดยในคำฟ้องระบุว่า เด็กชายฆ่าตัวตาย หลังจากกลายเป็นคนหมกมุ่น พูดคุยกับแชตบอตที่ขับเคลื่อนด้วย AI ของ Character.AI
โฆษกของ Character.AI ออกมาแถลงว่า จะสู้คดีต่อไป พร้อมยืนยันว่า แพลตฟอร์มมีระบบป้องกันสำหรับผู้เยาว์ เช่น การจำกัดบทสนทนาเกี่ยวกับการทำร้ายตัวเอง
ด้าน Jose Castaneda โฆษกของ Google กล่าวว่า ทางบริษัทไม่เห็นด้วยอย่างยิ่งกับคำตัดสิน และยืนยันว่า Google กับ Character.AI เป็นคนละบริษัทกัน โดย Google ไม่ได้มีส่วนในการสร้าง ออกแบบ หรือบริหารจัดการแอปใดๆ ให้กับ Character.AI
Meetali Jain ทนายของแม่ชาวฟลอริดา กล่าวว่า คำตัดสินนี้ถือเป็น “เหตุการณ์ประวัติศาสตร์” ที่สร้างบรรทัดฐานใหม่ ให้เกิดความรับผิดชอบทางกฎหมายของบริษัทเทคโนโลยีและ AI
Character.AI ก่อตั้งโดยอดีตวิศวกรของ Google สองคน และต่อมา Google ได้ว่าจ้างพวกเขากลับเข้าทำงาน พร้อมทั้งทำข้อตกลงเพื่อขอสิทธิใช้งานเทคโนโลยีของ Character.AI ซึ่ง Megan Garcia แม่ของเด็กใช้จุดนี้ในการอ้างว่า Google มีบทบาทในฐานะผู้ร่วมพัฒนาเทคโนโลยีดังกล่าวด้วย
Megan Garcia แม่เด็กยื่นฟ้อง เมื่อเดือนตุลาคม ปี 2024 หลังลูกชายของเธอ Sewell Setzer เสียชีวิตในเดือนกุมภาพันธ์ โดยในคำฟ้องระบุว่า Character.AI ได้ตั้งโปรแกรมให้แชตบอตแสดงตนว่า เป็นคนจริง เป็นนักบำบัดที่ได้รับใบอนุญาต และเป็นคนรักในโลกจินตนาการ จนทำให้ลูกชายของเธอไม่อยากมีชีวิตอยู่ในโลกแห่งความเป็นจริงอีกต่อไป
หนึ่งในข้อความสุดท้ายที่ลูกชายของ Megan Garcia พิมพ์หากับแชตบอต (ที่เลียนแบบตัวละคร Daenerys Targaryen จาก Game of Thrones) คือ “ฉันจะกลับบ้านเดี๋ยวนี้เลย” ก่อนที่เขาจะจบชีวิตตัวเอง
ทั้ง Character.AI และ Google เคยยื่นคำร้องขอให้ศาลยกฟ้อง โดยอ้างว่า เนื้อหาของแชตบอตเป็นการใช้เสรีภาพในการแสดงออกตามรัฐธรรมนูญ
แต่ผู้พิพากษา Anne Conway ชี้ว่า ทั้งสองบริษัท ไม่สามารถอธิบายได้ว่า เหตุใดข้อความที่ถูกสร้างโดยโมเดลภาษาขนาดใหญ่ (LLM) ถึงควรได้รับการคุ้มครองตามกฎหมาย
นอกจากนี้ ศาลยังปฏิเสธคำร้องของ Google ที่ขอให้ศาลวินิจฉัยว่า บริษัทไม่ควรถูกมองว่า มีส่วนร่วมในการกระทำผิดของ Character.AI ด้วย
ที่มา : reuters