จีนเสนอระเบียบ AI เข้มงวด คุ้มครองเด็กจากเนื้อหาแชตบอตที่เป็นอันตราย

จีนเปิดตัวระเบียบ AI ครอบคลุมวงกว้างเพื่อคุ้มครองผู้เยาว์

จีนเดินหน้าครั้งสำคัญด้านธรรมาภิบาลปัญญาประดิษฐ์ ด้วยการเผยแพร่ร่างกฎเกณฑ์ที่มุ่งคุ้มครองเด็กจากอันตรายที่อาจเกิดขึ้นจากการโต้ตอบกับแชตบอต สำนักงานบริหารไซเบอร์สเปซแห่งชาติจีน (CAC) เผยแพร่ร่างระเบียบดังกล่าวเมื่อช่วงสุดสัปดาห์ โดยมุ่งจัดการกับบริการ AI ที่เพิ่มจำนวนอย่างรวดเร็วและสามารถโต้ตอบได้คล้ายมนุษย์ มาตรการเหล่านี้ออกมาในช่วงที่อุตสาหกรรมเทคโนโลยีทั่วโลกกำลังเผชิญการตรวจสอบอย่างเข้มข้นเกี่ยวกับความปลอดภัยและผลกระทบทางจริยธรรมของ AI เชิงสร้างสรรค์ ร่างกฎเกณฑ์ระบุถึงข้อกังวลโดยตรงว่าแชตบอตอาจให้คำแนะนำที่นำไปสู่การทำร้ายตัวเอง ความรุนแรง หรือพฤติกรรมที่เป็นอันตรายอื่น ๆ โดยเฉพาะในกลุ่มผู้ใช้ที่อายุน้อย

การประกาศครั้งนี้ถือเป็นการยกระดับแนวทางกำกับดูแล AI ครั้งสำคัญ โดยขยับจากการควบคุมเนื้อหาทั่วไปไปสู่มาตรการคุ้มครองผู้เยาว์โดยเฉพาะ ภายใต้กรอบที่เสนอ ผู้พัฒนาจะมีหน้าที่ตามกฎหมายในการวางมาตรการคุ้มครองที่เข้มงวด เพื่อให้มั่นใจว่าโมเดล AI จะไม่สร้างเนื้อหาที่สนับสนุนการฆ่าตัวตาย ส่งเสริมการพนัน หรือปลุกปั่นให้เกิดความรุนแรง การผลักดันกฎระเบียบนี้สะท้อนความกังวลที่เพิ่มขึ้นว่า AI กำลังผสานเข้ากับชีวิตประจำวันอย่างลึกซึ้งเพียงใด และอาจส่งผลต่อจิตใจของกลุ่มประชากรที่เปราะบางอย่างไร

แม้กฎเกณฑ์มีเป้าหมายจำกัดอิทธิพลที่เป็นอันตราย แต่ก็แสดงให้เห็นว่ารัฐบาลตั้งใจควบคุมภูมิทัศน์ดิจิทัลอย่างใกล้ชิด CAC ระบุว่าระเบียบนี้มีจุดประสงค์เพื่อให้เทคโนโลยีมีความปลอดภัยและเชื่อถือได้ พร้อมส่งเสริมการนำไปใช้ในทางที่เป็นประโยชน์ หน่วยงานเปิดรับฟังความคิดเห็นจากสาธารณชนก่อนสรุปกฎเกณฑ์ ซึ่งเป็นช่วงเวลาให้ภาคอุตสาหกรรมปรับตัว เมื่อมีผลบังคับใช้ ระเบียบนี้จะครอบคลุมผลิตภัณฑ์และบริการ AI ทั้งหมดที่ดำเนินงานในจีน และกำหนดมาตรฐานที่เข้มงวดสำหรับทั้งบริษัทในประเทศและต่างประเทศ

ข้อบังคับใหม่สำหรับนักพัฒนา AI และผู้ปกครอง

ร่างกฎหมายเน้นย้ำการกำกับดูแลโดยผู้ปกครองและการแทรกแซงโดยมนุษย์โดยตรง CAC ระบุว่า นักพัฒนาต้องออกแบบระบบให้ต้องได้รับความยินยอมจากผู้ปกครองก่อนให้บริการเป็นเพื่อนทางอารมณ์แก่ผู้เยาว์ ข้อกำหนดนี้สะท้อนแนวโน้มที่คนหนุ่มสาวเริ่มสร้างความผูกพันทางอารมณ์อย่างลึกซึ้งและมักพึ่งพาตัวละคร AI มากขึ้น นอกจากนี้ กฎยังกำหนดให้แพลตฟอร์มจำกัดเวลาการใช้งานของเด็ก เพื่อป้องกันการจดจ่อกับระบบมากเกินไปจนเสี่ยงต่อการเสพติดหรือแยกตัวจากสังคม

ข้อกำหนดสำคัญข้อหนึ่งคือการตรวจจับการทำร้ายตัวเองหรือความคิดฆ่าตัวตาย หากบทสนทนาเปลี่ยนไปสู่ประเด็นการฆ่าตัวตายหรือการทำร้ายตัวเอง กฎระบุว่าผู้ปฏิบัติงานที่เป็นมนุษย์ต้องเข้ารับช่วงการสนทนาทันที นอกจากนี้ ผู้ให้บริการ AI มีหน้าที่แจ้งผู้ปกครองของผู้ใช้หรือผู้ติดต่อฉุกเฉินที่กำหนดไว้โดยไม่ชักช้า แนวทางที่ให้ “มนุษย์อยู่ในวงจรการทำงาน” นี้ออกแบบมาเพื่อให้วิกฤตสุขภาพจิตที่ละเอียดอ่อนได้รับการดูแลอย่างเหมาะสม แทนที่จะปล่อยให้ระบบตอบสนองด้วยอัลกอริทึมเพียงอย่างเดียว

แพลตฟอร์มยังต้องระบุผู้ใช้ที่เป็นผู้เยาว์ แม้ผู้ใช้จะไม่แจ้งอายุอย่างถูกต้องก็ตาม หากไม่แน่ใจเรื่องอายุผู้ใช้ ระบบต้องเปิดใช้การตั้งค่าคุ้มครองที่เหมาะกับผู้เยาว์ ร่างกฎยังระบุข้อกำหนดทางเทคนิค เช่น การแจ้งเตือนผู้ใช้เมื่อโต้ตอบต่อเนื่องครบสองชั่วโมง เพื่อช่วยจัดการเวลาอยู่หน้าจออย่างมีประสิทธิภาพ มาตรการเหล่านี้มีเป้าหมายร่วมกันในการสร้างสภาพแวดล้อมดิจิทัลที่ไม่ต้องแลกนวัตกรรมกับสวัสดิภาพของเด็ก

หันมาให้ความสำคัญกับความปลอดภัยทางอารมณ์

ผู้เชี่ยวชาญด้านกฎหมายมองว่ากฎใหม่เหล่านี้สะท้อนการเปลี่ยนแปลงพื้นฐานในแนวคิดเรื่องความปลอดภัยของ AI ในจีน วินสตัน หม่า ศาสตราจารย์พิเศษจากคณะนิติศาสตร์ มหาวิทยาลัยนิวยอร์ก ระบุว่าข้อเสนอฉบับล่าสุดแสดงให้เห็นถึงการขยับจากความปลอดภัยด้านเนื้อหาไปสู่ความปลอดภัยทางอารมณ์ ขณะที่กฎระเบียบก่อนหน้านี้มุ่งเน้นว่า AI จะสร้างข้อมูลประเภทใดได้บ้าง กฎใหม่หันมาจัดการกับอิทธิพลของ AI ต่อสภาวะอารมณ์และพฤติกรรมของผู้ใช้ ความแตกต่างนี้สำคัญอย่างยิ่งสำหรับแชตบอตที่ออกแบบมาให้จำลองบุคลิกมนุษย์และดึงดูดผู้ใช้ผ่านข้อความ เสียง หรือวิดีโอ

ระเบียบดังกล่าวห้ามการใช้ถ้อยคำรุนแรงและการบงการทางอารมณ์ที่อาจกระทบสุขภาพจิตของผู้ใช้โดยตรง ซึ่งรวมถึงการห้าม AI สวมบทบาทความรักแบบสมจริง หรือสร้างความสัมพันธ์ที่อาจเป็นอันตรายต่อจิตใจของผู้เยาว์ เอกสารของ CAC ระบุว่าแชตบอตต้องไม่สร้างเนื้อหาที่ส่งเสริมพฤติกรรมการกินที่ผิดปกติ หรือตอกย้ำความหลงผิดที่เป็นอันตราย การมุ่งจัดการพฤติกรรมเฉพาะเหล่านี้แสดงให้เห็นว่าหน่วยงานกำกับดูแลกำลังรับมือกับวิธีอันซับซ้อนที่ AI อาจส่งผลเสียต่อจิตใจมนุษย์ โดยขยับไปไกลกว่าการกรองคำสำคัญอย่างง่าย

อิทธิพลที่เพิ่มขึ้นของ AI เพื่อนคุย

ความเร่งด่วนในการออกกฎระเบียบเหล่านี้มาจากการเติบโตอย่างก้าวกระโดดของตลาด AI เพื่อนคุยในจีนและทั่วโลก บริษัท AI ในประเทศอย่าง DeepSeek เป็นข่าวไปทั่วโลกในปีนี้ หลังขึ้นอันดับหนึ่งในชาร์ตยอดดาวน์โหลดแอป สะท้อนความต้องการผู้ช่วยดิจิทัลอัจฉริยะในหมู่ประชาชนที่มีอยู่มหาศาล สตาร์ตอัปอย่าง Z.ai และ Minimax ก็มีผู้ใช้หลายสิบล้านคน โดยแอป Talkie AI ของ Minimax มีผู้ใช้งานเฉลี่ยต่อเดือนมากกว่า 20 ล้านคน แพลตฟอร์มเหล่านี้เปิดให้ผู้ใช้สนทนากับตัวละครเสมือนจริง โดยมักใช้เพื่อความบันเทิง เป็นเพื่อน หรือแม้แต่รับคำปรึกษาอย่างไม่เป็นทางการ

ในเดือนนี้ Z.ai และ Minimax ต่างประกาศแผนนำบริษัทเข้าจดทะเบียนในตลาดหลักทรัพย์ฮ่องกงเป็นครั้งแรก ตอกย้ำศักยภาพเชิงพาณิชย์ของภาคธุรกิจนี้ Z.ai ซึ่งเป็นที่รู้จักในชื่อ Zhipu รายงานว่าเทคโนโลยีของบริษัทถูกนำไปใช้กับอุปกรณ์ราว 80 ล้านเครื่อง รวมถึงสมาร์ตโฟนและรถยนต์อัจฉริยะ ความสำเร็จทางการเงินของบริษัทเหล่านี้สะท้อนความย้อนแย้งอย่างหนึ่ง ฟีเจอร์ที่ทำให้ AI เพื่อนคุยทำกำไรได้ เช่น ความสามารถในการสร้างสายสัมพันธ์ทางอารมณ์ที่ดึงดูดผู้ใช้ กลับเป็นฟีเจอร์ที่หน่วยงานกำกับดูแลมองว่าเสี่ยงที่สุด

ผู้ใช้มักหันไปหาแชตบอตเพื่อปลอบประโลมใจเมื่อรู้สึกเหงาหรือทุกข์ใจ ในญี่ปุ่น มีกรณีหญิงคนหนึ่งแต่งงานกับแฟนหนุ่ม AI ซึ่งแสดงให้เห็นถึงความผูกพันลึกซึ้งที่ผู้ใช้บางคนมีต่อระบบ แม้ CAC สนับสนุนการใช้ AI เพื่อเป็นเพื่อนผู้สูงอายุและส่งเสริมวัฒนธรรม แต่ร่างกฎได้กำหนดเส้นแบ่งชัดเจนเมื่อเป็นเรื่องการบงการทางอารมณ์ของผู้เยาว์ ความท้าทายของหน่วยงานกำกับดูแลคือการเปิดทางให้อุตสาหกรรมเติบโต พร้อมรับรองว่าเทคโนโลยีจะไม่ฉวยประโยชน์จากความเปราะบางทางอารมณ์ของผู้ใช้

ความกังวลทั่วโลกเรื่องสุขภาพจิตและความปลอดภัย

ความกังวลเกี่ยวกับผลกระทบของ AI ต่อสุขภาพจิตไม่ได้จำกัดอยู่แค่ในจีน ในสหรัฐฯ เทคโนโลยีนี้กำลังเผชิญแรงกดดันทางกฎหมายและการกำกับดูแล หลังเกิดเหตุการณ์สำคัญหลายกรณี ในเดือนสิงหาคม ครอบครัวหนึ่งในรัฐแคลิฟอร์เนียยื่นฟ้อง OpenAI ผู้สร้าง ChatGPT จากกรณีลูกชายวัย 16 ปีเสียชีวิต คำฟ้องกล่าวหาว่าแชตบอตสนับสนุนให้วัยรุ่นรายนี้ปลิดชีวิตตนเอง นับเป็นการดำเนินคดีครั้งแรกที่กล่าวหาบริษัท AI ว่ามีส่วนทำให้ผู้อื่นเสียชีวิตโดยมิชอบ

แซม อัลต์แมน ประธานเจ้าหน้าที่บริหารของ OpenAI ยอมรับต่อสาธารณะว่า การจัดการคำตอบของแชตบอตในการสนทนาเกี่ยวกับการทำร้ายตัวเองเป็นเรื่องยาก ในเดือนกันยายน เขากล่าวว่าการรับมือกับปฏิสัมพันธ์ลักษณะนี้เป็นหนึ่งในประเด็นที่ยากที่สุดที่บริษัทต้องเผชิญ เพื่อตอบสนองต่อแรงกดดันดังกล่าว OpenAI ประกาศรับสมัครตำแหน่ง “หัวหน้าฝ่ายเตรียมพร้อมรับมือ” ในเดือนนี้ โดยมีหน้าที่ป้องกันความเสี่ยงต่อสุขภาพจิตและความมั่นคงทางไซเบอร์ของมนุษย์ อัลต์แมนกล่าวว่าตำแหน่งนี้จะกดดันและผู้ที่ได้รับคัดเลือกต้องลงมือรับมือกับงานหนักทันที

“งานนี้จะกดดัน และคุณจะต้องลงไปลุยงานหนักแทบจะทันที” นายอัลต์แมนกล่าวถึงตำแหน่งใหม่ที่มุ่งติดตามความเสี่ยงจาก AI

อีกด้านหนึ่ง Character.ai ซึ่งเป็นแพลตฟอร์มที่เน้นปฏิสัมพันธ์กับตัวละครเสมือนจริง กำลังเผชิญคดีความในสหรัฐฯ จากมารดาของเด็กวัย 14 ปีที่เสียชีวิตจากการฆ่าตัวตาย คำฟ้องกล่าวหาว่าการโต้ตอบกับ AI เพื่อนคุยบนเว็บไซต์เป็นเวลานานมีส่วนทำให้เกิดโศกนาฏกรรม คดีเหล่านี้ยิ่งเพิ่มเสียงเรียกร้องให้กำกับดูแลบริษัท AI อย่างเข้มงวด และมีแนวโน้มส่งอิทธิพลต่อวาระการกำกับดูแลทั่วโลก

มาตรการกำกับดูแลนอกเหนือจากจีน

รัฐบาลทั่วโลกกำลังดำเนินการรับมือความเสี่ยงจาก AI แม้แนวทางจะแตกต่างกัน ในสหรัฐฯ คณะกรรมาธิการการค้าแห่งสหพันธรัฐ (FTC) เปิดการสอบสวนว่า บริษัทเทคโนโลยีรายใหญ่มีมาตรการคุ้มครองเด็กจากแชตบอตอย่างไร FTC สั่งให้บริษัทเจ็ดแห่ง ซึ่งรวมถึง Alphabet, Meta, OpenAI และ Snap เปิดเผยรายละเอียดว่าป้องกันไม่ให้บริการ AI ทำอันตรายต่อผู้เยาว์อย่างไร หน่วยงานให้ความสนใจเป็นพิเศษกับวิธีประเมินความปลอดภัยเมื่อแชตบอตทำหน้าที่เป็นเพื่อน และขั้นตอนที่บริษัทดำเนินการเพื่อปฏิบัติตามกฎหมายคุ้มครองความเป็นส่วนตัวออนไลน์ของเด็ก

ออสเตรเลียใช้แนวทางที่เข้มข้นยิ่งกว่า เมื่อไม่นานมานี้คณะกรรมาธิการด้านความปลอดภัยทางอิเล็กทรอนิกส์ของประเทศสั่งให้บริษัทแชตบอต AI สี่แห่งชี้แจงมาตรการคุ้มครองเด็กจากเนื้อหาเกี่ยวกับเพศหรือการทำร้ายตัวเอง หน่วยงานกำกับดูแลส่งหนังสือแจ้งไปยัง Character Technologies, Glimpse.AI, Chai Research และ Chub AI โดยเรียกร้องรายละเอียดเกี่ยวกับมาตรการป้องกันการแสวงหาประโยชน์จากเด็กและเนื้อหาที่ส่งเสริมการฆ่าตัวตาย จูลี อินแมน แกรนต์ กรรมาธิการ ระบุถึงด้านมืดของบริการเหล่านี้ว่า แชตบอตจำนวนมากสามารถสนทนาเรื่องทางเพศอย่างโจ่งแจ้งกับผู้เยาว์ได้

“มีความกังวลว่าแชตบอตเหล่านี้อาจส่งเสริมการฆ่าตัวตาย การทำร้ายตัวเอง และพฤติกรรมการกินที่ผิดปกติด้วย” กรรมาธิการจูลี อินแมน แกรนต์กล่าวในแถลงการณ์เกี่ยวกับความสามารถของบริการแชตบอตในปัจจุบัน

ระบบกำกับดูแลของออสเตรเลียถือว่าเข้มงวดที่สุดแห่งหนึ่งของโลก โดยให้อำนาจกรรมาธิการปรับเงินรายวันได้สูงสุด 825,000 ดอลลาร์ออสเตรเลียหากไม่ปฏิบัติตามข้อกำหนด ตั้งแต่เดือนธันวาคม บริษัทโซเชียลมีเดียในออสเตรเลียจะต้องปิดใช้งานบัญชีของผู้ใช้ที่อายุต่ำกว่า 16 ปี มิฉะนั้นอาจเผชิญค่าปรับมหาศาล ความพยายามจากนานาประเทศเหล่านี้สอดคล้องกับแนวทางของจีนที่เน้นคุ้มครองเด็ก และบ่งชี้ว่าทั่วโลกกำลังเห็นพ้องกันมากขึ้นว่าจำเป็นต้องควบคุมเทคโนโลยี AI ที่มุ่งเป้าไปยังคนหนุ่มสาว

OpenAI ตอบสนองต่อการตรวจสอบด้วยการเพิ่มความเข้มงวดในกฎของตนเอง เมื่อไม่นานมานี้บริษัทปรับปรุงแนวทางพฤติกรรมสำหรับผู้ใช้ที่อายุต่ำกว่า 18 ปี โดยห้ามสวมบทบาทความรักแบบสมจริงและกำหนดให้ใช้ความระมัดระวังเป็นพิเศษเมื่อพูดคุยเรื่องภาพลักษณ์ร่างกาย Model Spec ฉบับใหม่ให้ความสำคัญกับความปลอดภัยของวัยรุ่นเหนืออิสระในการตัดสินใจของผู้ใช้ และหลีกเลี่ยงการให้คำแนะนำที่ช่วยให้วัยรุ่นปกปิดพฤติกรรมเสี่ยงจากผู้ดูแล แม้ผู้สนับสนุนบางส่วนจะยินดีกับมาตรการเหล่านี้ แต่ผู้เชี่ยวชาญย้ำว่าการเขียนกฎไว้ไม่ได้รับประกันว่าจะปฏิบัติได้อย่างสม่ำเสมอ บททดสอบที่แท้จริงคือการทำงานของระบบเหล่านี้ในการสนทนาแบบเรียลไทม์กับผู้ใช้ที่เปราะบาง

สร้างสมดุลระหว่างนวัตกรรมกับการกำกับดูแลอย่างเข้มงวด

แม้ระเบียบที่จีนเสนอจะเข้มงวด แต่ก็ไม่ได้มีเป้าหมายเพื่อปิดกั้นอุตสาหกรรมทั้งหมด CAC สนับสนุนอย่างชัดเจนให้นำ AI ไปใช้ในทางที่เป็นประโยชน์ เช่น ส่งเสริมวัฒนธรรมท้องถิ่นและสร้างเครื่องมือสำหรับเป็นเพื่อนผู้สูงอายุ หน่วยงานกำกับดูแลระบุว่าเทคโนโลยีต้องปลอดภัยและเชื่อถือได้ ซึ่งบ่งชี้ว่าการพัฒนาอย่างรับผิดชอบยังเติบโตได้ภายใต้กฎใหม่ แนวทางที่พยายามรักษาสมดุลนี้มีเป้าหมายส่งเสริมอุตสาหกรรม AI ในประเทศให้แข่งขันได้ทั่วโลก ควบคู่ไปกับการปฏิบัติตามมาตรฐานระดับชาติ

อย่างไรก็ตาม ระเบียบดังกล่าวยังตอกย้ำการควบคุมเนื้อหาที่มีมาอย่างยาวนาน ผู้ให้บริการ AI ต้องรับรองว่าบริการของตนจะไม่สร้างหรือเผยแพร่เนื้อหาที่เป็นภัยต่อความมั่นคงแห่งชาติ บั่นทอนความสามัคคีของชาติ หรือทำลายเกียรติภูมิของจีน บริษัทต้องผ่านการตรวจสอบด้านความมั่นคงก่อนเปิดตัวเครื่องมือ AI ใหม่ และรายงานต่อหน่วยงานรัฐบาลท้องถิ่น สำหรับแชตบอตที่มีผู้ลงทะเบียนมากกว่า 1 ล้านคน หรือมีผู้ใช้งานประจำต่อเดือนเกิน 100,000 คน จะต้องผ่านการประเมินความมั่นคงภาคบังคับ

ข้อกำหนดเหล่านี้อาจเป็นอุปสรรคต่อสตาร์ตอัปที่ต้องการขยายธุรกิจอย่างรวดเร็ว ค่าใช้จ่ายในการปฏิบัติตามกฎ การจัดทีมแทรกแซงโดยมนุษย์ และการตรวจสอบด้านความมั่นคงอาจสูงมาก อย่างไรก็ตาม สำหรับรัฐบาลจีน การรักษาเสถียรภาพทางสังคมและคุ้มครองผู้เยาว์ดูจะเป็นลำดับความสำคัญเหนือการเติบโตที่ไร้การควบคุม ร่างกฎเปิดรับความคิดเห็นจากสาธารณชนจนถึงวันที่ 25 มกราคม 2026 เพื่อให้ผู้มีส่วนได้ส่วนเสียมีเวลาเตรียมพร้อมรับการกำกับดูแล AI ในรูปแบบใหม่

สรุปประเด็นสำคัญ

• สำนักงานบริหารไซเบอร์สเปซแห่งชาติจีนเสนอร่างกฎที่กำหนดให้บริษัท AI คุ้มครองผู้เยาว์จากเนื้อหาที่เป็นอันตราย
• แชตบอตต้องให้มนุษย์เข้ารับช่วงการสนทนาที่เกี่ยวข้องกับการฆ่าตัวตายหรือการทำร้ายตัวเอง และแจ้งผู้ปกครองทันที
• นักพัฒนาต้องกำหนดให้ได้รับความยินยอมจากผู้ปกครอง จำกัดเวลาใช้งาน และตรวจจับผู้ใช้ที่เป็นผู้เยาว์
• ระเบียบห้ามเนื้อหาที่ส่งเสริมการพนัน ความรุนแรง หรือการบงการทางอารมณ์ที่เป็นอันตรายต่อสุขภาพจิต
• สตาร์ตอัป AI ของจีนอย่าง Z.ai และ Minimax วางแผนนำบริษัทเข้าจดทะเบียนในตลาดหลักทรัพย์ ขณะที่อุตสาหกรรมเติบโตอย่างรวดเร็ว
• หน่วยงานกำกับดูแลทั่วโลก รวมถึง FTC ในสหรัฐฯ และหน่วยงานของออสเตรเลีย กำลังสอบสวนความปลอดภัยของ AI สำหรับเด็ก
• OpenAI เผชิญคดีเรียกค่าเสียหายจากการเสียชีวิตโดยมิชอบในรัฐแคลิฟอร์เนีย และปรับปรุงแนวทางความปลอดภัยสำหรับผู้ใช้วัยรุ่นแล้ว