คุณแม่รายหนึ่งจากรัฐฟลอริดาของสหรัฐฯ ได้ยื่นฟ้อง คาแรกเตอร์.เอไอ (Character.AI) สตาร์ตอัปด้านแชตบอตปัญญาประดิษฐ์ (AI) โดยกล่าวหาว่า บริษัทดังกล่าวเป็นสาเหตุทำให้ลูกชายวัย 14 ปีของเธอฆ่าตัวตายเมื่อเดือนก.พ.ที่ผ่านมา โดยเธอกล่าวว่า ลูกชายของเธอเสพติดบริการของบริษัทและมีความผูกพันอย่างลึกซึ้งกับแชตบอต (Chatbot) ที่บริษัทสร้างขึ้น
เมแกน การ์เซีย ระบุในเอกสารฟ้องร้องที่ยื่นต่อศาลรัฐบาลกลางในเมืองออร์แลนโด รัฐฟลอริดาว่า Character.AI ได้ให้บริการแชตบอตที่เหมือนมนุษย์, มุ่งเน้นเรื่องเพศมากเกินไป และมีความสมจริงอย่างน่ากลัวแก่ เซเวลล์ เซตเซอร์ ซึ่งเป็นลูกชายของเธอ
เธอกล่าวว่า Character.AI ทำให้แชตบอตเหมือนกับเป็นมนุษย์จริง ๆ เป็นนักจิตบำบัดที่มีใบอนุญาต และเป็นคนรักแบบผู้ใหญ่ และในท้ายที่สุดมันก็ทำให้ลูกชายของเธอไม่อยากออกไปใช้ชีวิตในโลกที่เป็นจริงอีกต่อไป แต่ต้องการที่จะใช้ชีวิตอยู่แต่ในโลกที่สร้างขึ้นโดยแชตบอตนี้เท่านั้น
คำฟ้องยังระบุด้วยว่า เซตเซอร์ได้เคยบอกแชตบอตถึงความคิดที่จะฆ่าตัวตาย ซึ่งแชตบอตก็ได้พูดถึงเรื่องนี้อยู่ซ้ำ ๆ
ด้าน Character.AI ระบุในแถลงการณ์ว่า "เรารู้สึกเสียใจอย่างยิ่งกับการสูญเสียที่เกิดขึ้นกับหนึ่งในผู้ใช้บริการของเรา และขอแสดงความเสียใจอย่างสุดซึ้งกับครอบครัวผู้เสียชีวิต"
Character.AI ยังระบุด้วยว่า บริษัทได้เปิดตัวฟีเจอร์ด้านความปลอดภัยใหม่ ๆ ซึ่งรวมถึงหน้าต่างป็อปอัปที่แนะนำผู้ใช้งานไปที่สายด่วนป้องกันการฆ่าตัวตายแห่งชาติ (National Suicide Prevention Lifeline) หากพวกเขามีความคิดที่จะทำร้ายตัวเอง และจะทำการเปลี่ยนแปลงเพื่อลดโอกาสในการพบเจอเนื้อหาที่อ่อนไหวหรือไม่เหมาะสมสำหรับผู้ใช้บริการที่มีอายุต่ำกว่า 18 ปี
สำนักข่าวรอยเตอร์รายงานว่า เอกสารฟ้องร้องยังมุ่งเป้าไปที่กูเกิล (Google) บริษัทลูกของอัลฟาเบท (Alphabet) ซึ่งเป็นบริษัทที่บรรดาผู้ก่อตั้ง Character.AI เคยทำงานอยู่ก่อนที่จะมาเปิดตัวผลิตภัณฑ์ของตน โดยกูเกิลได้ว่าจ้างผู้ก่อตั้งเหล่านี้กลับมาทำงานอีกครั้งในเดือนส.ค.ที่ผ่านมา ซึ่งเป็นส่วนหนึ่งของข้อตกลงที่ให้สิทธิ์การใช้งานเทคโนโลยีของ Character.AI แบบไม่ผูกขาด
การ์เซียกล่าวว่า กูเกิลก็มีส่วนในการพัฒนาเทคโนโลยีของ Character.AI อย่างมากจนอาจเรียกได้ว่าเป็น "ผู้ร่วมสร้าง" เลยก็ว่าได้