โอเพนเอไอ (OpenAI) ผู้สร้างแชตจีพีที (ChatGPT) เปิดเผยในวันศุกร์ (21 ก.พ.) ว่า บริษัทได้ทำการลบบัญชีผู้ใช้จากประเทศจีนและเกาหลีเหนือที่เชื่อว่ากำลังใช้เทคโนโลยีของบริษัทเพื่อจุดประสงค์ที่ไม่ดี รวมถึงการสอดแนมและการดำเนินการเพื่อชักจูงความคิดเห็น
สำนักข่าวรอยเตอร์รายงานว่า OpenAI ระบุในรายงานว่า กิจกรรมเหล่านี้เป็นวิธีที่รัฐบาลเผด็จการอาจพยายามใช้ปัญญาประดิษฐ์ (AI) เพื่อต่อต้านสหรัฐฯ รวมถึงประชาชนของพวกเขาเอง พร้อมทั้งกล่าวว่า บริษัทได้ใช้เครื่องมือ AI ในการตรวจจับการดำเนินการเหล่านี้
ทั้งนี้ OpenAI ไม่ได้ระบุจำนวนบัญชีที่ถูกแบนหรือช่วงเวลาที่การกระทำดังกล่าวเกิดขึ้น
ในกรณีหนึ่งนั้น ผู้ใช้งานขอให้ ChatGPT สร้างบทความข่าวเป็นภาษาสเปนที่วิพากษ์วิจารณ์สหรัฐฯ โดยบทความเหล่านี้ถูกเผยแพร่โดยสำนักข่าวดังในลาตินอเมริกาภายใต้ชื่อของบริษัทจีน
ในอีกกรณีนั้น ผู้ใช้งานที่อาจเกี่ยวข้องกับเกาหลีเหนือได้ใช้ AI สร้างประวัติย่อและโปรไฟล์ออนไลน์สำหรับผู้สมัครงานที่ไม่มีตัวตน โดยมีเป้าหมายในการหลอกลวงเพื่อให้ได้งานในบริษัทของชาติตะวันตก
นอกจากนี้ ยังมีบัญชี ChatGPT ที่ดูเหมือนจะเกี่ยวข้องกับการฉ้อโกงทางการเงินที่มีฐานอยู่ในประเทศกัมพูชาได้ใช้เทคโนโลยีของ OpenAI เพื่อแปลและสร้างความคิดเห็นในแพลตฟอร์มโซเชียลมีเดียและการสื่อสารต่าง ๆ รวมถึงเอ็กซ์ (X) และ เฟซบุ๊ก (Facebook)