โอเพนเอไอ (OpenAI) สตาร์ตอัปด้าน AI ภายใต้การสนับสนุนของไมโครซอฟท์ (Microsoft) ประกาศเมื่อวานนี้ (8 ส.ค.) ว่าได้แต่งตั้งศาสตราจารย์ซิโก้ โคลเตอร์ ผู้อำนวยการภาควิชาแมชชีนเลิร์นนิง (machine learning) จากมหาวิทยาลัยคาร์เนกีเมลลอน เข้าร่วมเป็นหนึ่งในคณะกรรมการบริหารของบริษัท
สำนักข่าวรอยเตอร์รายงานว่า โอเพนเอไอ ผู้พัฒนาแชตจีพีที (ChatGPT) ได้มีการปรับเปลี่ยนคณะกรรมการบริหารหลายครั้งในช่วงที่ผ่านมา ท่ามกลางความกังวลเกี่ยวกับความปลอดภัยของเจเนอเรทีฟเอไอ (genAI) ในขณะที่ธุรกิจต่าง ๆ เร่งนำเทคโนโลยีที่กำลังบูมนี้มาใช้งานอย่างแพร่หลาย
ศ.จ.โคลเตอร์ ซึ่งมีผลงานโดดเด่นในด้านความปลอดภัยของ AI จะเข้าร่วมเป็นกรรมการในคณะกรรมการความปลอดภัยและความมั่นคงของโอเพนเอไอ ร่วมกับนายแซม อัลท์แมน ซีอีโอของบริษัท และกรรมการคนอื่น ๆ ได้แก่ นายเบรต เทย์เลอร์, นายอาดัม ดีแองเจโล, นายพอล นากาโซเน และนางนิโคล เซลิกแมน
ทั้งนี้ ศ.จ.โคลเตอร์เคยดำรงตำแหน่งหัวหน้านักวิทยาศาสตร์ข้อมูลของบริษัท C3.ai ปัจจุบันทำงานเป็นหัวหน้าผู้เชี่ยวชาญของบริษัทบ๊อช (Bosch) และหัวหน้าที่ปรึกษาด้านเทคนิคของเกรย์สวอน (Gray Swan) สตาร์ตอัปด้านความปลอดภัยของ AI
บล็อกโพสต์ของโอเพนเอไอระบุว่า ในปี 2566 ศ.จ.โคลเตอร์มีส่วนร่วมในการพัฒนาวิธีการประเมินความปลอดภัยของโมเดลภาษาขนาดใหญ่โดยอัตโนมัติ การพัฒนานี้แสดงให้เห็นถึงช่องโหว่ในการหลบเลี่ยงระบบรักษาความปลอดภัยที่มีอยู่ในโมเดลปัจจุบัน
อนึ่ง คณะกรรมการความปลอดภัย ซึ่งจัดตั้งขึ้นเมื่อเดือนพ.ค.ที่ผ่านมา มีหน้าที่ให้คำแนะนำเกี่ยวกับการตัดสินใจด้านความปลอดภัยและความมั่นคงสำหรับโครงการทั้งหมดของโอเพนเอไอ
แชตบอตของโอเพนเอไอที่มีความสามารถด้าน genAI เช่น สามารถสนทนาโต้ตอบได้เสมือนมนุษย์และสร้างรูปภาพตามคำสั่งข้อความ ได้สร้างความกังวลด้านความปลอดภัย เนื่องจากโมเดล AI เหล่านี้ทรงพลังมากขึ้นเรื่อย ๆ
เมื่อเดือนก.ค.ที่ผ่านมา ไมโครซอฟท์ได้สละตำแหน่งผู้สังเกตการณ์ในคณะกรรมการบริหารของโอเพนเอไอ โดยมีเป้าหมายเพื่อลดความกังวลของหน่วยงานกำกับดูแลด้านการต่อต้านการผูกขาดในสหรัฐและสหราชอาณาจักรเกี่ยวกับระดับอำนาจการควบคุมของไมโครซอฟท์ที่มีต่อโอเพนเอไอ ท่ามกลางกระแสการนำ GenAI ไปใช้งานอย่างแพร่หลาย