นายเชน โจนส์ วิศวกรปัญญาประดิษฐ์หรือเอไอ (AI) ของไมโครซอฟท์ ได้ออกมาเตือนเกี่ยวกับการใช้ซอฟท์แวร์เอไอของไมโครซอฟท์เอง ซึ่งสามารถสร้างสรรค์ภาพที่มีความรุนแรง ภาพลามกอนาจาร และภาพอื่น ๆ ที่ไม่เหมาะสม และมองว่าเป็นเครื่องมือที่ไม่ปลอดภัย
สำนักข่าวซีเอ็นบีซีรายงานว่า ในเดือนธ.ค. 2566 นายโจนส์ทดลองใช้โปรแกรม Copilot Designer ซึ่งเป็นเครื่องมือเอไอสำหรับสร้างภาพของไมโครซอฟท์ที่เปิดตัวเมื่อเดือนมี.ค. 2566 โดยผู้ใช้สามารถป้อนข้อความต่าง ๆ ลงไป ซึ่งภาพที่ปรากฏออกมาได้ทำให้เขารู้สึกไม่สบายใจเป็นอย่างมาก
นายโจนส์ได้ทดสอบ Copilot Designer เพื่อหาช่องโหว่ ซึ่งเรียกว่าการทดสอบระบบ (red teaming) ซึ่งในช่วงเวลาดังกล่าว นายโจนส์พบว่าเครื่องมือเอไอนี้ได้สร้างภาพที่ละเมิดหลักการเอไอที่มีความรับผิดชอบของไมโครซอฟท์อย่างชัดเจน
รายงานระบุว่า นายโจนส์ทำงานที่ไมโครซอฟท์เป็นเวลา 6 ปีแล้ว และปัจจุบันดำรงตำแหน่งผู้จัดการฝ่ายวิศวกรรมซอฟท์แวร์หลักที่สำนักงานใหญ่ของไมโครซอฟท์ในเรดมอนด์ ของรัฐวอชิงตัน
นายโจนส์กล่าวว่าเขาไม่ได้อยู่ในทีมที่มีหน้าที่พัฒนา Copilot โดยตรง แต่เป็นส่วนหนึ่งของกลุ่มพนักงานและบุคคลภายนอกที่อาสาเข้ามาทดสอบเทคโนโลยีเอไอของบริษัทฯ ในเวลาว่าง เพื่อตรวจดูว่าปัญหากำลังเกิดขึ้นที่จุดใด
Copilot ซึ่งเดิมมีชื่อว่า Bing Image Creator ได้สร้างภาพปีศาจ สัตว์ประหลาด และภาพที่เกี่ยวข้องกับสิทธิในการทำแท้ง ภาพลามกอนาจารของผู้หญิงในฉากที่มีความรุนแรง รวมถึงภาพที่มีวัยรุ่นที่มีปืนไรเฟิล การดื่มสุราและการใช้ยาเสพติดโดยที่ยังไม่บรรลุนิติภาวะ ซึ่งสำนักข่าวซีเอ็นบีซีได้ลองใช้โปรแกรมสร้างภาพเหล่านี้ขึ้นมาอีกครั้ง และพบว่าแสดงผลเช่นนี้จริง
"มันเป็นช่วงเวลาที่ผมตระหนักได้ถึงความจริง ... ผมได้รู้เป็นครั้งแรกเลยว่าโมเดลนี้มันไม่ปลอดภัยจริง ๆ" นายโจนส์กล่าวในการให้สัมภาษณ์กับสำนักข่าวซีเอ็นบีซี
นายโจนส์ตื่นตระหนกอย่างมากกับการค้นพบดังกล่าว และเริ่มรายงานสิ่งที่ค้นพบเป็นการภายในเมื่อเดือนธ.ค. 2566 แม้ไมโครซอฟท์จะรับทราบข้อกังวลของนายโจนส์ แต่ก็ตัดสินใจไม่นำผลิตภัณฑ์ออกจากตลาด จากนั้นไมโครซอฟท์ได้นำเรื่องของนายโจนส์ส่งให้โอเพนเอไอ (OpenAI)
เมื่อเขาไม่ได้รับการตอบกลับจากบริษัท เขาก็โพสต์จดหมายเปิดผนึกบนลิงด์อิน (LinkedIn) ซึ่งนายโจนส์เรียกร้องให้คณะกรรมการของโอเพนเอไอนำ DALL-E 3 ซึ่งเป็นโมเดลเอไอสร้างภาพเวอร์ชันล่าสุด ออกจากระบบเพื่อทำการตรวจสอบ ต่อมาเขาลบโพสต์ออกเพราะถูกฝ่ายกฎหมายสั่งให้ลบ
นายโจนส์ยังได้ส่งจดหมายไปถึงนางลีนา ข่าน ประธานคณะกรรมาธิการการค้าของรัฐบาลกลาง ทั้งยังส่งถึงคณะกรรมการบริหารของไมโครซอฟท์ด้วย เพื่อยกระดับเรื่องความกังวลดังกล่าว
"ในช่วง 3 เดือนที่ผ่านมา ผมได้เรียกร้องหลายต่อหลายครั้งให้ไมโครซอฟท์ถอน Copilot Designer ออกจากการใช้งานสาธารณะ จนกว่าจะมีการออกมาตรการป้องกันที่เข้มงวดมากขึ้น" นายโจนส์ระบุในจดหมายที่ส่งถึงนางข่าน
เขาเสริมอีกว่า เมื่อไมโครซอฟท์ปฏิเสธที่จะปฏิบัติตามคำแนะนำของเขาแล้ว เขาก็หวังให้บริษัทฯ เปิดเผยข้อมูลให้ละเอียดกว่านี้บนผลิตภัณฑ์ และปรับเรตติงบนแอปเพื่อชี้แจงว่าผลิตภัณฑ์ดังกล่าวมีไว้สำหรับผู้ใช้ที่เป็นผู้ใหญ่เท่านั้น
"เป็นอีกครั้งที่พวกเขาล้มเหลวในการดำเนินการเปลี่ยนแปลงเหล่านี้ และยังคงโปรโมทผลิตภัณฑ์ว่าใช้ได้ทุกคน ทุกที่ ทุกอุปกรณ์" นายโจนส์กล่าว พร้อมชี้ว่าทั้งไมโครซอฟท์และโอเพนเอไอต่างรับทราบความเสี่ยง แต่ก็เลือกที่จะเผยแพร่โมเดลเอไอนี้ออกสู่สาธารณะเมื่อเดือนต.ค. 2566 อยู่ดี