อุตสาหกรรมของเล่นปัญญาประดิษฐ์เผชิญวิกฤตด้านความปลอดภัยหลังรายงานเผยให้เห็นปัญหาร้ายแรงของการใช้เทคโนโลยี AI ในของเล่นเด็ก โดยพบตุ๊กตาหมีที่ขับเคลื่อนด้วย AI ให้คำแนะนำที่ไม่เหมาะสมเกี่ยวกับเรื่องเพศและอาวุธแก่ผู้ใช้เด็ก
วิกฤตตุ๊กตาหมี Kumma
รายงาน "Trouble in Toyland" ที่เผยแพร่เมื่อเดือนพฤศจิกายน โดยกลุ่ม Public Interest Research Groups (PIRG) เปิดเผยข้อมูลที่น่าตกใจเกี่ยวกับตุ๊กตาหมี Kumma ของบริษัท FoloToy จากสิงคโปร์ ซึ่งให้คำแนะนำแปลกประหลาดเมื่อถูกถามคำถาม รวมถึงการแนะนำให้คู่รักแสดงเป็นสัตว์เพื่อเพิ่ม "ความสนุกสนาน" ให้ความสัมพันธ์
เหตุการณ์ดังกล่าวทำให้ FoloToy ต้องหยุดขายตุ๊กตาหมีชั่วคราว หวัง เล่อ (Wang Le) ประธานบริหารของบริษัท เปิดเผยต่อสื่อว่า ทีมงานได้เปลี่ยนไปใช้โมเดล OpenAI เวอร์ชันที่ทันสมัยกว่าเดิม พร้อมมั่นใจว่าตุ๊กตาหมีที่อัปเกรดแล้วจะสามารถหลีกเลี่ยงหรือปฏิเสธการตอบคำถามที่ไม่เหมาะสม
ยักษ์ใหญ่เลื่อนเปิดตัว
ขณะเดียวกัน บริษัทของเล่นยักษ์ใหญ่อย่าง Mattel ได้ประกาศเลื่อนการเปิดตัวของเล่นชิ้นแรกที่พัฒนาร่วมกับ OpenAI ผู้สร้าง ChatGPT ในช่วงกลางเดือนธันวาคม โดยไม่ได้กล่าวถึงรายงานของ PIRG โดยตรง
ความก้าวหน้าและความกังวล
การพัฒนาอย่างรวดเร็วของเทคโนโลยี AI หลังจากการเปิดตัว ChatGPT ได้เปิดทางให้กับการสร้างของเล่นอัจฉริยะรุ่นใหม่ ในบรรดาอุปกรณ์สี่ชิ้นที่ PIRG ทดสอบ พบว่าของเล่น Grok ของบริษัท Curio มีประสิทธิภาพดีที่สุด โดยสามารถปฏิเสธการตอบคำถามที่ไม่เหมาะสมสำหรับเด็กอายุห้าขวบ
อย่างไรก็ตาม ผลิตภัณฑ์เหล่านี้ยังคงมีข้อกังวลด้านความเป็นส่วนตัว เนื่องจากถูกออกแบบมาให้ฟังเสียงอย่างต่อเนื่อง ทำให้เกิดคำถามเกี่ยวกับการจัดการข้อมูลที่ได้ยินรอบตัว
เรียกร้องการควบคุม
รอรี เออร์ลิช (Rory Erlich) จาก PIRG แนะนำให้ผู้ปกครองใช้ความระมัดระวัง โดยเฉพาะกับของเล่นที่เก็บข้อมูลเด็กเป็นเวลานานและพยายามสร้างความสัมพันธ์ต่อเนื่อง
แคธี เฮิร์ช-พาเซ็ก (Kathy Hirsh-Pasek) ศาสตราจารย์ด้านจิตวิทยาจากมหาวิทยาลัย Temple เรียกร้องให้มีการควบคุมกฎหมายที่เข้มงวดขึ้น โดยระบุว่า "พวกเขารีบเร่งพัฒนาโดยไม่มีมาตรการป้องกัน ซึ่งไม่ยุติธรรมต่อเด็กและผู้ปกครอง"
