อัยการเมืองซานฟรานซิสโกกำลังดำเนินคดีกับเว็บไซต์และแอปพลิเคชัน 18 แห่งที่ทำการ “ล่วงละเมิดทางเพศ” ผ่านการใช้งาน AI deepfake ในการสร้างภาพเปลือยของเหยื่อโดยไม่ได้รับความยินยอม
สำหรับเทคโนโลยี Deep Fake นั้นจะเป็นการนำ AI เข้ามาใช้งานเพื่อสร้างหรือแก้ไขภาพและวิดีโอที่สมจริง แต่ไม่ใช่ของจริง โดยสามารถทำให้บุคคลพูดหรือทำสิ่งที่ไม่เคยทำมาก่อน ซึ่งในกรณีนี้คือการนำภาพหรือวิดีโอของเหยื่อมาทำ สื่อลามกอนาจาร ซึ่งเว็บไซต์เหล่านี้มีคนเข้าชมมากถึง 200 ล้านครั้งในช่วงครึ่งปีแรกของ 2024
David Chiu อัยการของเมือง ได้กล่าวว่า Generative AI นั้นมีประโยชน์มากมายมหาศาลก็จริง แต่เหรียญมักจะมีสองด้าน โดยเหล่าอาชญากรก็พยายามที่จะแสวงหาผลประโยชน์จากเทคโนโลยีเหล่านี้ ซึ่งเหล่าสตรีที่ถูกใช้งานเป็นเครื่องมือต้องเผชิญหน้ากับสถานการณ์อันสุดแสนจะโหดร้ายเพียงลำพัง
เขายังได้ระบุอีกด้วยว่าแม้ดาราดัง เช่น Taylor Swift จะตกเป็นเหยื่อในรูปแบบนี้มากกว่า แต่ตลอดระยะเวลาที่ผ่านมาจะพบว่ามีนักเรียนระดับมัธยมจำนวนมากตกเป็นเหยื่อของเครื่องมือนี้ และสื่อเหล่านั้นสามารถนำมาใช้ในการกลั่นแกล้ง, ข่มขู่, ทำให้อับอาย ซึ่งอาจนำไปสู่เหตุการณ์ที่เลวร้ายกว่านี้ได้
ทั้งนี้เหล่าผู้เสียหายแทบจะไม่สามารถหาทางลบสื่อดังกล่าวออกไปได้เลยหากมันถูกเผยแพร่ออกไปแล้วในช่องทางออนไลน์ ทำให้พวกเธอเหล่านั้นต้องประสบกับปัญหาทั้งด้านจิตใจ,อารมณ์,สถานะทางสังคม รวมไปถึงสภาพคล่องทางการเงิน ซึ่งเป็นปัญหาที่ใหญ่มาก ๆ และควรเร่งหาทางรับมือและแก้ไข
อย่างไรก็ตามเหล่าบริษัทเทคยักษ์ใหญ่ต่างเคยได้ให้สัญญาว่าจะให้ความสำคัญกับความปลอดภัยของเด็กและเยาวชนเป็นหลักขณะที่ทำการสร้างเครื่องมือ AI แต่อย่างไรก็ตามเหล่าผู้ไม่ประสงค์ดีก็สามารถหาช่องโหว่ได้อยู่ดีในปัจจุบัน