เว็บไซต์มาร์เก็ตวอชรายงานว่า เครื่องมือปัญญาประดิษฐ์เชิงรู้สร้าง (Generative AI) รุ่นใหม่ได้เอื้ออำนวยต่อการสร้างคลิปวิดีโอปลอมผ่านการตัดต่อ หรือดีปเฟก (Deepfake) โดยเฉพาะอย่างยิ่งการสร้างดีปเฟกที่ส่อในทางเพศ และได้แชร์ภาพที่สมจริงเหล่านั้นผ่านห้องสนทนาหรือโซเชียลมีเดีย โดยที่เหยื่อ ไม่ว่าจะเป็นบรรดาคนดังหรือเด็ก ๆ แทบจะไม่สามารถหยุดยั้งดีปเฟกเหล่านี้ได้
นางอาราตี ปราบาการ์ หัวหน้าที่ปรึกษาด้านวิทยาศาสตร์ของประธานาธิบดี โจไบเดน และผู้อำนวยการสำนักงานนโยบายวิทยาศาสตร์และเทคโนโลยีของทำเนียบขาวได้ขอให้บรรดาบริษัทเทคโนโลยีให้ความร่วมมือโดยไม่ต้องรอกฎหมายของรัฐบาลกลาง โดยเรียกร้องให้บริษัทเหล่านี้ปฎิบัติตามกฎเกณฑ์เพื่อยับยั้งการสร้าง การแชร์ หรือขายภาพ AI ที่ไม่ได้รับความยินยอม โดยเฉพาะภาพที่เกี่ยวข้องกับเด็ก
"เมื่อ Generative AI อุบัติขึ้น ทุกคนต่างคาดคาดการณ์ว่ามันจะสร้างความเสียหายด้านใดบ้าง และตอนนี้ฉันเชื่อว่าเรามีคำตอบแล้ว" นางปราบาการ์ให้สัมภาษณ์กับสำนักข่าวเอพี
ทั้งนี้ นางปราบาการ์กล่าวว่า ภาพที่ไม่ได้รับความยินยอมนั้นเพิ่มขึ้นอย่างรวดเร็ว อันเนื่องมาจากเครื่องมือ AI โดยส่วนใหญ่มุ่งเป้าไปที่ผู้หญิงและเด็กผู้หญิง ซึ่งอาจส่งผลร้ายแรงต่อชีวิตของพวกเขา
"เด็กวัยรุ่นโดยเฉพาะเด็กผู้หญิงกำลังเผชิญกับปัญหาเหล่านี้ เราได้เห็นการเพิ่มขึ้นอย่างรวดเร็วอันเนื่องมาจาก Generative AI และสิ่งที่ควรจะเกิดขึ้นอย่างเร็วที่สุดในเวลานี้คือการที่บริษัทต่าง ๆ ออกมาร่วมกันรับผิดชอบ นอกจากนี้ ภาคเอกชนควรเข้ามาร่วมกันจัดการเพื่อหยุดยั้งการสร้างรายได้จากการล่วงละเมิดทางเพศ และยับยั้งธุรกรรมการชำระเงิน โดยเฉพาะเว็บไซต์ที่ส่งเสริมรูปภาพที่ไม่เหมาะสมของเยาวชน" นางปราบาการ์กล่าว