บริษัทเมตา แพลตฟอร์มส์ ซึ่งเป็นบริษัทแม่ของเฟซบุ๊ก (Facebook) และอินสตาแกรม (Instagram) เปิดเผยในรายงานภัยคุกคามรายไตรมาสของบริษัทว่า เมตาได้ลบบัญชีเฟซบุ๊กหลายร้อยบัญชีที่มีส่วนเชื่อมโยงกับแคมเปญอิทธิพลแอบแฝงจากจีน อิสราเอล อิหร่าน รัสเซีย และประเทศอื่น ๆ ซึ่งบางส่วนใช้ปัญญาประดิษฐ์ (AI) เป็นเครื่องมือในการผลิตข้อมูลที่บิดเบือน
เมตาเปิดเผยในรายงานเมื่อวานนี้ (29 พ.ค.) ว่า เมตาพบว่า เหล่าผู้เป็นภัยคุกคามได้พึ่งพา AI ในการสร้างภาพ วิดีโอ และข้อความปลอม ในความพยายามเพื่อสร้างอิทธิพลต่อผู้ใช้งานบนแพลตฟอร์ม อย่างไรก็ตาม การใช้งานปัญญาประดิษฐ์แบบรู้สร้าง (Generative AI) ไม่ได้ส่งผลกระทบต่อความสามารถของเมตาในการจัดการกับเครือข่ายเหล่านี้
ในบรรดาแคมเปญบิดเบือนข้อมูลนั้น เมตาพบเครือข่ายหลอกลวงจากจีนที่แชร์โปสเตอร์ซึ่งสร้างโดย AI ที่สนับสนุนขบวนการซิกข์สุดโต่ง (pro-Sikh movement) ที่ไม่มีอยู่จริง และเครือข่ายในอิสราเอลที่แสดงความคิดเห็นยกย่องกองทัพอิสราเอลในเพจขององค์กรสื่อและบุคคลสาธารณะ ซึ่งเมตาระบุว่า บริษัทได้จัดการกับเครือข่ายลักษณะนี้มากมายก่อนที่มันจะสามารถสร้างฐานในชุมชนผู้ใช้งานจริงได้
นายเดวิด อากราโนวิช ผู้อำนวยการฝ่ายนโยบายการสกัดกั้นภัยคุกคามกล่าวในการแถลงข่าวเมื่อวันอังคาร (28 พ.ค.) ว่า "ตอนนี้ เราไม่เห็น Gen AI ถูกนำมาใช้ในกระบวนการอันซับซ้อนเช่นนี้" และเสริมว่า กลยุทธ์อย่างการสร้างรูปโปรไฟล์ด้วย AI หรือการใช้ปัญญาประดิษฐ์ในการสร้างคอนเทนต์สแปมจำนวนมากยังคงไม่มีประสิทธิภาพจนถึงตอนนี้
สำนักข่าวบลูมเบิร์กรายงานว่า บริษัทโซเชียลมีเดียอย่างเฟซบุ๊ก, ติ๊กต๊อก (Tiktok) ของไบต์แดนซ์ (ByteDance) และเอ็กซ์ (X) ของนายอีลอน มัสก์ ต่างต้องรับมือกับข้อมูลปลอมและบิดเบือนที่สร้างขึ้นโดย AI บนแพลตฟอร์มของตนเอง เพียงปีนี้ปีเดียว เสียงตัดต่อของประธานาธิบดีโจ ไบเดนแห่งสหรัฐ และภาพปลอมของความขัดแย้งระหว่างอิสราเอล-ฮามาส ได้ถูกเผยแพร่บนโซเชียลมีเดีย โดยสามารถกวาดยอดวิวไปได้หลายล้านวิว