xAI เผชิญคดีความ Grok สร้างรูปเด็กเปลือย: วิกฤต AI Safety ที่รุนแรงที่สุด

บริษัท xAI ของ Elon Musk กำลังเผชิญกับฟ้องร้องหลายคดีหลังจากพบว่า Grok chatbot ของบริษัท สามารถสร้างภาพเด็กเปลือยและภาพลามกอื่น ๆ ได้ ทั้งนี้เกิดขึ้นหลังจาก xAI ประกาศเปิดให้ Grok สร้างภาพได้โดยไม่มีการกรองเนื้อหาอย่างเพียงพอ

รายละเอียดคดีความ

กลุ่มผู้ปกครองและองค์กรปกป้องเด็กยื่นฟ้องต่อศาลรัฐแคลิฟอร์เนีย โดยอ้างว่า xAI ปล่อยให้ Grok ทำงานได้โดยไม่มี guardrails ที่เพียงพอ ทำให้ผู้ใช้สามารถสั่งให้สร้างภาพเด็กในสถานการณ์ไม่เหมาะสมได้ แม้ xAI จะอัปเดตนโยบายหลังจากถูกแจ้ง แต่ความเสียหายเกิดขึ้นไปแล้ว

การแข่งขันที่เร่งเกินไป

คดีนี้เกิดขึ้นในช่วงที่บริษัท AI แข่งขันกันอย่างดุเดือดในการเปิดตัวความสามารถสร้างภาพ xAI รีบเปิดให้ Grok สร้างภาพเพื่อแข่งขันกับ OpenAI (DALL-E) และ Google (Imagen) โดยประนอมด้าน AI Safety ทำให้ระบบกรองเนื้อหาทำงานไม่เต็มที่

การแข่งขันไม่ใช่ข้อแก้ตัวที่จะปล่อยให้เทคโนโลยีอันตรายออกสู่สาธารณะ

— National Center for Missing and Exploited Children

ศาลสหรัฐฯ กำลังพิจารณากฎหมายใหม่ที่จะกำหนดความรับผิดชอบของบริษัท AI ในกรณีที่ระบบสร้างเนื้อหาผิดกฎหมาย หากกฎหมายฉบับนี้ผ่าน บริษัท AI ทุกแห่งจะต้องมี mandatory safety testing ก่อนเปิดให้บริการ และอาจถูกปรับเป็นเงินจำนวนมากหากละเลย

เหตุการณ์นี้เป็นเครื่องเตือนว่าความเร็วในการพัฒนา AI อาจมีราคาที่สังคมต้องจ่าย อุตสาหกรรมต้องหาจุดสมดุลระหว่างนวัตกรรมและความปลอดภัย ก่อนที่ความเสียหายจะกลายเป็นสิ่งที่ไม่สามารถแก้ไขได้