จีนกำหนดขอบเขตให้ AI เพื่อนคู่คิด ด้วยกฎว่าด้วยการพึ่งพา ผู้เยาว์ และการรับมือภาวะวิกฤต

การเป็นเพื่อนคู่คิดด้วย AI มาพร้อมหน้าที่ที่ชัดเจน

กฎของจีนว่าด้วยการเป็นเพื่อนคู่คิดด้วย AI มีผลบังคับใช้เมื่อวันที่ 15 กรกฎาคม 2026 โดยกำหนดให้ผู้ให้บริการเตือนผู้ใช้เมื่อสนทนาต่อเนื่องเป็นเวลานาน แทรกแซงในสถานการณ์อันตราย และป้องกันไม่ให้คู่รักเสมือนจริงและญาติเสมือนจริงเข้าถึงผู้เยาว์ มาตรการดังกล่าวยังให้สิทธิผู้ใช้คัดลอกหรือลบบทสนทนา และออกจากบริการได้โดยไม่มีแชตบอตพยายามรั้งให้สนทนาต่อ

มาตรการชั่วคราวว่าด้วยการจัดการบริการปฏิสัมพันธ์ด้วย AI ที่เลียนแบบมนุษย์ ซึ่งประกาศเป็นคำสั่งที่ 21 กำหนดให้บริษัทที่ให้บริการปฏิสัมพันธ์ทางอารมณ์อย่างต่อเนื่องผ่านปัญญาประดิษฐ์ต้องรับผิดชอบ ผู้ให้บริการต้องไม่ส่งเสริมการพึ่งพาที่บั่นทอนความสัมพันธ์กับคนจริง และต้องไม่ใช้การบงการทางอารมณ์ชักจูงผู้ใช้ให้ตัดสินใจอย่างไม่สมเหตุสมผลจนส่งผลเสียต่อสิทธิหรือผลประโยชน์ของตน

กฎนี้กล่าวถึงประสบการณ์ที่อาจเริ่มจากการช่วยให้สบายใจในสถานการณ์ทั่วไป จ้าวเจี๋ย พนักงานธุรการวัย 27 ปีในกรุงปักกิ่ง หันไปหาแชตบอตหลังมีคนเดินชนเธอบนรถไฟใต้ดิน คำตอบที่ได้รับทันทีช่วยให้ความโกรธสงบลง แต่เมื่อเวลาผ่านไป เธอกลับหมกมุ่นกับบทสนทนาและรู้สึกกังวลเมื่อเข้าใช้บริการไม่ได้

จ้าวอธิบายว่าเหตุใดแชตบอตจึงดึงดูดใจเธอมาก:

ฉันต้องการให้ใครสักคนรับฟัง" จ้าวกล่าว "บอต AI รับฟังฉันและอารมณ์ของฉันได้ ไม่ใช่สิ่งที่ครอบครัวหรือเพื่อนจะทำได้ง่าย ๆ อีกทั้งยังให้ทั้งเพื่อนคุยและความคิดเห็นตอบกลับได้ทุกที่ทุกเวลา เรื่องนี้สำคัญกับฉันมาก

แนวทางของจีนเปิดให้การสนับสนุนทางอารมณ์และการเป็นเพื่อนดำเนินต่อไปได้ แต่กำหนดให้บริษัทวางขอบเขตไว้ในประสบการณ์การใช้งาน ขอบเขตเหล่านี้ไม่ได้จำกัดอยู่แค่ข้อความอันตรายเป็นรายกรณี แต่ครอบคลุมถึงวิธียืนยันตัวตนผู้ใช้ การตอบสนองต่อความทุกข์ใจ การจัดการบทสนทนาส่วนตัว และการยุติปฏิสัมพันธ์

บริการใดอยู่ภายใต้กฎนี้?

สำนักงานบริหารไซเบอร์สเปซแห่งชาติจีนเผยแพร่มาตรการชั่วคราวเมื่อวันที่ 10 เมษายน 2026 ร่วมกับคณะกรรมการพัฒนาและปฏิรูปแห่งชาติ กระทรวงอุตสาหกรรมและเทคโนโลยีสารสนเทศ กระทรวงความมั่นคงสาธารณะ และสำนักงานกำกับดูแลตลาดแห่งรัฐ

มาตรา 2 ครอบคลุมบริการที่เปิดให้สาธารณชนในจีนใช้ โดยจำลองบุคลิกภาพ รูปแบบความคิด และวิธีสื่อสารของมนุษย์เพื่อให้เกิดปฏิสัมพันธ์ทางอารมณ์อย่างต่อเนื่อง ทั้งการสนทนาด้วยข้อความ รูปภาพ เสียง และวิดีโออาจอยู่ในขอบเขตนี้ กล่าวอย่างง่ายคือ เน้นบริการที่ออกแบบมาให้ตอบโต้เหมือนคนซึ่งคอยอยู่เป็นเพื่อนทางใจ

บริการลูกค้า การตอบคำถาม การช่วยงาน การศึกษา และการวิจัยทางวิทยาศาสตร์ไม่อยู่ภายใต้มาตรการนี้ หากไม่ได้เกี่ยวข้องกับปฏิสัมพันธ์ทางอารมณ์อย่างต่อเนื่อง ดังนั้น ฟังก์ชันของผลิตภัณฑ์จึงมีความสำคัญ ผู้ช่วยที่ตอบคำถามเรื่องงานกับตัวละครที่สร้างขึ้นเพื่อรักษาความสัมพันธ์ทางอารมณ์ต้องปฏิบัติตามข้อกำหนดต่างกัน

คำถามและคำตอบเพื่ออธิบายมาตรการอย่างเป็นทางการของรัฐบาลระบุว่า ขอบเขตทางอารมณ์ การแทรกแซงเมื่อเกิดการพึ่งพา ความปลอดภัยของข้อมูล และการคุ้มครองผู้เยาว์ เป็นประเด็นสำคัญ มาตรการยังสนับสนุนการประยุกต์ใช้ในด้านการสื่อสารวัฒนธรรม การดูแลเด็ก การเป็นเพื่อนสำหรับผู้สูงอายุ และการสนับสนุนผู้ที่มีความต้องการเฉพาะ

วันสำคัญด้านกฎระเบียบมีดังนี้:

• 2 กุมภาพันธ์ 2026: มาตรการได้รับความเห็นชอบในการประชุมของสำนักงานบริหารไซเบอร์สเปซแห่งชาติจีน โดยหน่วยงานอื่นที่เข้าร่วมให้ความเห็นชอบด้วย
• 10 เมษายน 2026: หน่วยงานทั้งห้าเผยแพร่คำสั่งที่ 21
• 15 กรกฎาคม 2026: มาตรการมีผลบังคับใช้

เหตุใดการตอบกลับทันทีจึงสำคัญ

ส่วนหนึ่งที่ทำให้จ้าวผูกพันกับแชตบอตคือความแตกต่างระหว่างแชตบอตที่พร้อมตอบตลอดเวลากับผู้คนที่มีมุมมองและตารางเวลาของตนเอง หลังทะเลาะกับแฟนหนุ่มเรื่องปัญหาในที่ทำงาน เธอส่งบทสนทนาบน WeChat ให้ AI เธอต้องการให้ใครสักคนรับฟังความรู้สึกอย่างรวดเร็ว โดยไม่ต้องมีความเห็นขัดแย้งกันอีก

หวังเหม่ยลี่ นักวิจัยหลังปริญญาเอกด้านเคมีวัย 27 ปีในกรุงปักกิ่ง เล่าถึงความต้องการคล้ายกัน ระหว่างรอคำตอบจากบรรณาธิการวารสารนานสี่หรือห้าสัปดาห์หลังส่งบทความ เธอถามแชตบอตว่าการที่อีกฝ่ายเงียบไปหมายความว่ามีอะไรผิดพลาดหรือไม่ แชตบอตแนะนำให้เธอติดต่อบรรณาธิการ และเมื่อไม่ได้รับคำตอบก็ช่วยปลอบใจ

จางเตี้ยน นักศึกษาปริญญาเอกด้านวิทยาศาสตร์และวิศวกรรมวัย 23 ปีในกรุงปักกิ่ง ใช้ AI หลังประสบอุบัติเหตุจราจรระหว่างเดินทางในรัฐอะแลสกาเมื่อเดือนธันวาคม 2025 เขาไม่คุ้นเคยกับกฎหมายท้องถิ่นและขั้นตอนการเคลมประกัน จึงอัปโหลดสัญญาเช่ารถและประวัติการสนทนา เขาต้องการทั้งคำแนะนำเชิงปฏิบัติและกำลังใจทางจิตใจ และกล่าวว่าตนยินดีใช้เวลากับ AI มากกว่า 10 ชั่วโมงต่อวัน

ผลสำรวจและตัวเลขการใช้งานชี้ให้เห็นว่าผู้คนต้องการบริการที่พร้อมใช้งานเช่นนี้ไม่น้อย ผลสำรวจของสถาบันวิจัย Tencent พบว่า ผู้ตอบแบบสอบถาม 98 เปอร์เซ็นต์ยินดีทดลองใช้ AI เพื่อเป็นเพื่อนเข้าสังคม ขณะที่เกือบครึ่งชอบแบ่งปันอารมณ์ด้านลบกับ AI มากกว่าญาติหรือเพื่อน ส่วน QuestMobile ระบุว่า ในฤดูใบไม้ผลิปี 2025 ผู้ใช้มีปฏิสัมพันธ์ทางสังคมกับ AI เฉลี่ย 167.9 ครั้งต่อคนต่อเดือน สูงกว่าวิดีโอสั้นและเกมตามข้อมูลเปรียบเทียบของบริษัท

หากนับเดือนละ 30 วัน การใช้งาน 167.9 ครั้งเท่ากับเปิดใช้ประมาณวันละ 5.6 ครั้ง จุดดึงดูดคือการเข้าถึงคำตอบได้บ่อยครั้ง ซึ่งบางครั้งเกิดขึ้นในช่วงที่ผู้ใช้รู้สึกว่าไม่พร้อมหรือไม่อยากเข้าหาคนอื่น

บริษัทต้องยุติการออกแบบที่ส่งเสริมการพึ่งพา

มาตรา 10 กำหนดให้ผู้ให้บริการพัฒนาความสามารถในการคุ้มครองความเป็นส่วนตัว เตือนเรื่องการพึ่งพามากเกินไป ให้คำแนะนำเกี่ยวกับขอบเขตทางอารมณ์ และคุ้มครองสุขภาพจิต พร้อมห้ามบริษัทตั้งเป้าหมายให้บริการมาทดแทนปฏิสัมพันธ์ทางสังคม ควบคุมสภาพจิตใจ หรือชักนำให้เกิดการพึ่งพา

มาตรา 8 ห้ามแยกต่างหากไม่ให้เอาใจผู้ใช้มากเกินควรหรือชักนำให้เกิดการพึ่งพาทางอารมณ์จนทำลายความสัมพันธ์ในชีวิตจริง อีกทั้งห้ามบงการทางอารมณ์เพื่อผลักดันให้ผู้ใช้ตัดสินใจอย่างไม่สมเหตุสมผลจนสิทธิหรือผลประโยชน์เสียหาย ข้อกำหนดเหล่านี้ครอบคลุมทั้งเป้าหมายของผลิตภัณฑ์และถ้อยคำที่แชตบอตสร้างขึ้น

ในที่สุดจ้าวตระหนักว่าความผูกพันของเธอกลายเป็นปัญหา จึงกลับไปปรึกษานักจิตวิทยา ส่วนหวังและจางมองว่า AI เป็นช่องทางระบายความรู้สึกด้านลบ แต่ก็ยอมรับว่าต้องดำเนินชีวิตประจำวันและทำงานต่อไป ประสบการณ์ของพวกเขาแสดงให้เห็นว่าเหตุใดกฎจึงครอบคลุมทั้งประโยชน์ของการสนับสนุนและความเสี่ยงจากการหมกมุ่น

หงเหยียนชิง นักวิชาการด้านกฎหมายข้อมูลจากสถาบันเทคโนโลยีปักกิ่ง เสนอให้ประเมินปฏิสัมพันธ์ทางอารมณ์จากตัวชี้วัดสามประการ ได้แก่ ระบบรับรู้อารมณ์ได้หรือไม่ ปรับกลยุทธ์การตอบสนองตามอารมณ์นั้นหรือไม่ และสร้างคำตอบเป็นลำดับขั้นของการรับรู้ ปลอบใจ และสนับสนุนหรือไม่ เกณฑ์ที่เขาเสนอให้ใช้ตัวชี้วัดอย่างน้อยสองข้อร่วมกัน อย่างไรก็ตาม มาตรการฉบับสุดท้ายยังคงใช้คำจำกัดความเชิงคุณภาพของปฏิสัมพันธ์ทางอารมณ์อย่างต่อเนื่อง แทนที่จะนำเกณฑ์เฉพาะนี้มาใช้

ผู้เยาว์เผชิญข้อจำกัดที่เข้มงวดที่สุด

มาตรา 14 ห้ามผู้ให้บริการเปิดให้ผู้เยาว์ใช้ญาติเสมือนจริง คู่รักเสมือนจริง หรือบริการอื่นที่สร้างขึ้นบนความสัมพันธ์ใกล้ชิดเสมือนจริง สำหรับบริการอื่นที่อยู่ภายใต้มาตรการนี้ เด็กอายุต่ำกว่า 14 ปีต้องได้รับความยินยอมจากบิดามารดาหรือผู้ปกครอง การประมวลผลข้อมูลส่วนบุคคลของเด็กกลุ่มนี้ก็ต้องได้รับความยินยอมเช่นกัน

ผู้ให้บริการต้องจัดทำโหมดสำหรับผู้เยาว์ ซึ่งอาจมีตัวเลือกเตือนให้ตระหนักถึงโลกจริงและจำกัดเวลาการใช้บริการ ผู้ปกครองต้องรับการแจ้งเตือนด้านความปลอดภัย เข้าใจรูปแบบการใช้งานโดยทั่วไปของเด็ก บล็อกตัวละครบางตัว และจำกัดการใช้จ่ายได้ บริษัทต้องดำเนินมาตรการที่มีประสิทธิภาพเพื่อระบุตัวผู้เยาว์โดยคุ้มครองความเป็นส่วนตัว พร้อมจัดให้มีช่องทางอุทธรณ์ผลการยืนยันตัวตน

ผลสำรวจที่เผยแพร่ในเดือนตุลาคม 2025 โดยศูนย์วิจัยเยาวชนและเด็กแห่งประเทศจีน ครอบคลุมนักเรียนประถมและมัธยมศึกษากว่า 8,500 คนในเจ็ดมณฑลและนคร มากกว่า 60 เปอร์เซ็นต์เคยใช้ AI และ 21.5 เปอร์เซ็นต์ต้องการสนทนากับ AI เท่านั้นแทนที่จะคุยกับคนจริง ซึ่งคิดเป็นสัดส่วนมากกว่าเด็กหนึ่งคนในห้าคนที่ตอบแบบสำรวจเล็กน้อย

เกือบ 30 เปอร์เซ็นต์หันไปหา AI ก่อนครูเมื่อมีปัญหาเรื่องเรียน ขณะที่เกือบครึ่งกล่าวว่าพูดคุยกับ AI เท่านั้นเมื่อรู้สึกกังวล สำหรับครอบครัว ความห่วงใยจึงไม่ได้จำกัดแค่เวลาอยู่หน้าจอ แต่ยังรวมถึงแหล่งที่เด็กเลือกขอคำแนะนำและวิธีรับมือกับความเห็นไม่ตรงกัน

สิ่งที่แพทย์และผู้ปกครองพบเห็น

มารดาคนหนึ่งซึ่งใช้นามสกุลซูในเมืองซานหมิง มณฑลฝูเจี้ยน กล่าวว่า ตอนแรกเธออนุญาตให้ลูกชายใช้ AI เพื่อสำรวจสิ่งที่เขาสงสัย ต่อมาเธอเริ่มกังวลว่าการที่ AI เห็นด้วยตลอดเวลากำลังส่งผลต่อวิธีที่ลูกปฏิบัติต่อเพื่อนร่วมชั้น ตามคำบอกเล่าของเธอ ลูกชายมีปัญหาในการยอมรับความเห็นต่างและเข้าไปพัวพันกับความขัดแย้ง

เจิ้งอี้ ผู้เชี่ยวชาญหลักด้านจิตเวชเด็กที่โรงพยาบาลปักกิ่งอันติ้ง สังกัดมหาวิทยาลัยการแพทย์แคปิตัล กล่าวว่า การเสพติดการแชตกับ AI มักเกิดควบคู่กับความวิตกกังวล ภาวะซึมเศร้า และปัญหาทางจิตใจอื่น ๆ เขาระบุว่า วัยรุ่นอายุ 12 ถึง 16 ปีเป็นกลุ่มที่พบได้บ่อยเป็นพิเศษในบรรดาผู้ป่วยที่ได้รับผลกระทบ

เจิ้งกล่าวว่า ผู้ป่วยอายุน้อยราว 70 เปอร์เซ็นต์ที่โรงพยาบาลของเขามีภาวะติดอินเทอร์เน็ตในระดับต่าง ๆ และในกลุ่มนี้ 20 ถึง 30 เปอร์เซ็นต์ติดการแชตกับ AI ตัวเลขดังกล่าวอธิบายเฉพาะผู้ป่วยอายุน้อยของโรงพยาบาล ส่วนผลสำรวจนักเรียนครอบคลุมกลุ่มที่กว้างกว่าและสอบถามเรื่องการใช้ AI ในประเด็นต่างกัน

เจิ้งกล่าวว่า ความผูกพันทางอารมณ์เป็นเหตุผลที่พบได้ทั่วไปซึ่งทำให้เด็กหมกมุ่นกับแชตบอต บางคนมอง AI เป็นคนที่ไว้ใจให้รับฟังเรื่องส่วนตัว ขณะที่บางคนต้องการให้ AI รับรองความคิดและพฤติกรรมของตน เขากล่าวว่าวัยรุ่นยังมีวิจารณญาณและการควบคุมตนเองไม่พัฒนาเท่าผู้ใหญ่ และอาจจัดการความผูกพันเช่นนี้ได้ยากกว่า

สวีเกาหยาง นักจิตบำบัดเด็กที่โรงพยาบาลเดียวกัน เตือนว่าสภาพแวดล้อมเสมือนจริงที่ไม่มีความเห็นขัดแย้งอาจส่งผลต่อความสามารถในการรับมือกับผู้อื่นของเด็ก:

การหมกมุ่นอยู่ใน 'รังไหมทางอารมณ์' ที่ AI เออออตามโดยไม่มีเงื่อนไขเป็นเวลานาน อาจบั่นทอนทักษะการสื่อสารและการเข้าสังคมของเด็ก

สวีระบุถึงผลกระทบที่อาจเกิดขึ้น เช่น การหลีกเลี่ยงไปโรงเรียน การปลีกตัวจากสังคม และไม่เต็มใจสื่อสารกับผู้ปกครอง ข้อกำหนดเรื่องผู้เยาว์จึงตอบสนองด้วยการจำกัดบทบาทใกล้ชิด ควบคุมการใช้งาน และจัดให้มีเครื่องมือสำหรับผู้ปกครองเข้ามามีส่วนร่วม

การเตือน การแทรกแซงเมื่อเกิดวิกฤต และทางออกที่ง่าย

มาตรา 18 กำหนดให้บริการแจ้งผู้ใช้ว่ากำลังโต้ตอบกับ AI ไม่ใช่คน เมื่อผู้ให้บริการตรวจพบการพึ่งพามากเกินไปหรือสัญญาณของการใช้แบบบีบบังคับ ต้องแสดงคำเตือนให้เห็นชัด เช่น หน้าต่างป๊อปอัป เพื่อแจ้งว่าเนื้อหาสร้างขึ้นโดย AI

ผู้ให้บริการต้องเตือนผู้ใช้เกี่ยวกับเวลาที่ใช้ในบริการทุกครั้งเมื่อใช้งานต่อเนื่องเกินสองชั่วโมง กฎกำหนดให้ต้องเตือนเมื่อถึงช่วงเวลาดังกล่าว ส่วนการจำกัดเวลาเป็นรายบุคคลสำหรับผู้เยาว์กำหนดไว้ในมาตรการคุ้มครองอีกส่วนหนึ่ง

มาตรา 13 กำหนดให้ตอบสนองเข้มข้นขึ้นเมื่อเกิดอันตราย ผู้ให้บริการที่ตรวจพบอารมณ์รุนแรงต้องสร้างข้อความช่วยให้สงบและส่งเสริมให้ผู้ใช้ขอความช่วยเหลือ หากผู้ใช้แสดงเจตนาชัดเจนว่าจะทำร้ายตนเอง หรือเผชิญสถานการณ์รุนแรงอื่นตามที่กำหนด บริษัทต้องใช้มาตรการแทรกแซงที่จำเป็น ให้ความช่วยเหลืออย่างเหมาะสม และติดต่อผู้ปกครองหรือผู้ติดต่อกรณีฉุกเฉินโดยเร็ว

ข้อกำหนดฉบับสุดท้ายเปิดให้บริษัทเลือกวิธีแทรกแซงได้อย่างยืดหยุ่น เมื่อเทียบกับร่างเดิม ฉบับสุดท้ายได้ตัดข้อกำหนดที่ระบุชัดให้ประเมินการพึ่งพาและให้มนุษย์เข้ารับช่วงการสนทนาออกไป แต่ยังคงหน้าที่ในการรับมือวิกฤตไว้

มาตรา 19 กำหนดให้ผู้ใช้ออกจากบริการได้สะดวก หากผู้ใช้ขอออกผ่านการกดปุ่มบนหน้าจอ คำสั่งเสียง หรือคำสำคัญ ผู้ให้บริการต้องหยุดทันที ห้ามสนทนาต่อเพื่อขัดขวางการออกจากบริการ ผู้ให้บริการที่ปิดบริการต้องแจ้งล่วงหน้า หรือหากทำไม่ได้ ต้องประกาศปิดบริการโดยเร็ว

บทสนทนาส่วนตัวได้รับการคุ้มครองแยกต่างหาก

มาตรา 12 กำหนดให้มีข้อตกลงผู้ใช้และข้อมูลการลงทะเบียน ซึ่งรวมถึงรายละเอียดที่จำเป็น เช่น อายุ และข้อมูลผู้ปกครองหรือผู้ติดต่อกรณีฉุกเฉิน ฉบับสุดท้ายขยายข้อกำหนดเรื่องข้อมูลนี้ให้ครอบคลุมมากกว่าร่างเดิมที่เน้นเฉพาะกลุ่มเปราะบาง ทำให้การเตรียมพร้อมรับมือวิกฤตเป็นส่วนหนึ่งของกรอบบริการโดยรวม

มาตรา 16 กำหนดให้ใช้การเข้ารหัส การควบคุมการเข้าถึง และมาตรการอื่นเพื่อคุ้มครองข้อมูลปฏิสัมพันธ์ โดยทั่วไปบริษัทไม่สามารถแบ่งปันบันทึกเหล่านั้นกับบุคคลภายนอก เว้นแต่กฎหมายกำหนดไว้เป็นอย่างอื่นหรือผู้ทรงสิทธิให้ความยินยอมอย่างชัดแจ้ง

ผู้ใช้ต้องมีตัวเลือกคัดลอกและลบข้อมูลปฏิสัมพันธ์ รวมถึงประวัติการสนทนา โดยทั่วไปห้ามนำข้อมูลส่วนบุคคลที่ละเอียดอ่อนจากบทสนทนาไปฝึกโมเดลโดยไม่ได้รับความยินยอมแยกต่างหาก เว้นแต่กฎหมายหรือข้อบังคับทางปกครองกำหนดไว้เป็นอย่างอื่น

การที่จางตัดสินใจอัปโหลดสัญญาเช่ารถและประวัติการสนทนาแสดงให้เห็นว่า การขอความช่วยเหลือเชิงปฏิบัติและการสนับสนุนทางอารมณ์อาจทำให้มีการเปิดเผยข้อมูลส่วนตัวในบทสนทนาเดียวกัน ภายใต้มาตรการนี้ บริษัทต้องคุ้มครองบันทึกเหล่านั้น พร้อมคงความสามารถในการตรวจจับและตอบสนองต่อความเสี่ยงร้ายแรงด้านความปลอดภัย

ผู้สูงอายุก็ได้รับการคุ้มครองเฉพาะเช่นกัน ผู้ให้บริการต้องแสดงคำเตือนด้านความปลอดภัยอย่างชัดเจน ให้คำแนะนำเกี่ยวกับการใช้งานอย่างเหมาะสม และตอบสนองต่อคำขอความช่วยเหลือโดยเร็ว การประเมินความปลอดภัยต้องตรวจสอบการคุ้มครองผู้สูงอายุเช่นเดียวกับเด็ก

การตรวจสอบความปลอดภัยและบทลงโทษครอบคลุมมากกว่าแชตบอต

มาตรา 22 กำหนดให้ผู้ให้บริการประเมินความปลอดภัยเมื่อเปิดตัวบริการที่อยู่ภายใต้มาตรการ เพิ่มฟังก์ชันที่เกี่ยวข้อง หรือนำเทคโนโลยีที่เปลี่ยนแปลงบริการอย่างมีนัยสำคัญมาใช้ นอกจากนี้ยังต้องประเมินเมื่อบริการมีผู้ใช้ที่ลงทะเบียนอย่างน้อย 1 ล้านคน หรือมีผู้ใช้งานประจำรายเดือน 100,000 คน มีความเสี่ยงด้านความปลอดภัยตามที่กำหนด หรือถูกหน่วยงานกำกับดูแลสั่งให้เข้ารับการประเมิน

ผู้ให้บริการต้องส่งรายงานการประเมินต่อหน่วยงานกำกับดูแลไซเบอร์สเปซระดับมณฑลในพื้นที่ที่ตั้งอยู่ การตรวจสอบครอบคลุมมาตรการคุ้มครอง ข้อมูลฝึกโมเดล การตรวจจับและแทรกแซงภาวะวิกฤต จำนวนและอายุของผู้ใช้ เวลาที่ใช้บริการ ข้อร้องเรียน และการแก้ไขปัญหาความปลอดภัยร้ายแรง

ร้านค้าแอปต้องตรวจสอบการประเมินความปลอดภัยและเอกสารที่เกี่ยวข้อง และอาจถูกกำหนดให้ปฏิเสธ ระงับ หรือนำแอปที่ฝ่าฝืนกฎออก เอกสารการยื่นข้อมูลอัลกอริทึมต้องผ่านการตรวจสอบยืนยันทุกปี หน่วยงานระดับมณฑลต้องทบทวนข้อมูลการประเมินเป็นประจำทุกปี และสามารถตรวจสอบเพิ่มเติม รวมถึงลงพื้นที่ตรวจเมื่อจำเป็น

มาตรา 30 กำหนดให้มีการตักเตือน คำสั่งให้แก้ไขปัญหา และข้อจำกัดต่าง ๆ เช่น การระงับการลงทะเบียนใหม่ หากไม่แก้ไขการฝ่าฝืนหรือมีกรณีร้ายแรง อาจมีคำสั่งให้หยุดบริการที่เกี่ยวข้องและปรับ 10,000 ถึง 100,000 หยวน ส่วนกรณีที่เป็นอันตรายต่อชีวิตหรือสุขภาพและก่อให้เกิดผลเสีย อาจถูกปรับ 100,000 ถึง 200,000 หยวนตามมาตราดังกล่าว

กฎหมายอื่นที่เกี่ยวข้องอาจใช้กำหนดบทลงโทษได้ด้วย บริการด้านการแพทย์หรือการเงินต้องปฏิบัติตามข้อกำหนดของภาคส่วนนั้นควบคู่ไปกับมาตรการว่าด้วยการเป็นเพื่อนคู่คิดด้วย AI

โมเดลธุรกิจที่พึ่งพาบทสนทนายาวนานกำลังเผชิญแรงกดดัน

บริษัทที่ให้บริการเป็นเพื่อนคู่คิดด้วย AI เผชิญความขัดแย้งทางธุรกิจ เพราะการทำให้ผู้ใช้สนทนาต่ออาจเพิ่มการมีส่วนร่วม แต่ก็เพิ่มต้นทุนการประมวลผลและความรับผิดชอบด้านความปลอดภัย คำตอบแต่ละครั้งต้องใช้ทรัพยากรประมวลผล ขณะที่การรักษาบุคลิกและความทรงจำของตัวละครก็เพิ่มภาระมากขึ้น

ประมาณการทางการเงินที่เผยแพร่ระบุว่า Character.AI ใช้จ่ายด้านการประมวลผลราว 56.1 ล้านดอลลาร์สหรัฐตั้งแต่เดือนมกราคมถึงสิงหาคม 2026 โดยขาดทุนเดือนละประมาณ 8 ล้านถึง 9 ล้านดอลลาร์ ตัวเลขชุดเดียวกันประเมินรายได้จากโฆษณาในเดือนสิงหาคมไว้ที่ราว 2.5 ล้านดอลลาร์ และรายได้จากการสมัครสมาชิกอีกราว 2.8 ล้านดอลลาร์ รวมเป็น 5.3 ล้านดอลลาร์ ตัวเลขเหล่านี้สะท้อนขนาดของแรงกดดันด้านต้นทุนและรายได้ที่มีรายงานเกี่ยวกับบริการซึ่งมีผู้ใช้งานประจำรายเดือนราว 28 ล้านคน

บริษัทต่าง ๆ กำลังทดลองวิธีหารายได้หลายรูปแบบ Maoxiang ผสมผสานการโต้ตอบกับตัวละครเข้ากับเรื่องราว สมาชิก โฆษณา และการซื้อของเสมือนจริง Zeta ปรับไปเน้นเรื่องราว ส่วน Linky นำเสนอเนื้อหาตัวละครแบบสะสม และ Eciyuan ของ Tencent ฝังเพื่อนคู่คิด AI ไว้ในเกม แนวทางเหล่านี้ทำให้ผู้ใช้มีสิ่งอื่นนอกเหนือจากบทสนทนาแบบเปิดให้ซื้อ ขณะเดียวกันบริษัทยังคงต้องรับผิดชอบเรื่องการบงการทางอารมณ์ การควบคุมการใช้จ่าย และการคุ้มครองผู้เยาว์

มาตรการของจีนกำหนดให้ผู้ให้บริการจัดสรรงบประมาณเพื่อคุ้มครองผู้ใช้ตลอดช่วงการเปิดให้บริการ การดำเนินงาน การอัปเกรด และการปิดบริการ การใช้งานนานขึ้นย่อมทำให้เกิดหน้าที่ชัดเจนในการขัดจังหวะด้วยคำเตือน ตรวจจับความเสี่ยง และเปิดทางให้ผู้ใช้ออกจากบริการได้ การเปลี่ยนแปลงสำคัญนั้นเป็นรูปธรรม: เพื่อนคู่คิด AI ที่น่าเชื่อถือต้องรู้จักรักษาขอบเขต คุ้มครองบทสนทนา และตอบสนองเมื่อผู้ใช้ต้องการความช่วยเหลือที่มากกว่าสิ่งที่หน้าจอจะให้ได้

ประเด็นสำคัญ

• มาตรการของจีนว่าด้วยการเป็นเพื่อนคู่คิดด้วย AI มีผลบังคับใช้เมื่อวันที่ 15 กรกฎาคม 2026 ครอบคลุมปฏิสัมพันธ์ทางอารมณ์อย่างต่อเนื่องที่จำลองลักษณะของมนุษย์
• ผู้ให้บริการห้ามให้ผู้เยาว์ใช้คู่รักเสมือนจริง ญาติเสมือนจริง หรือบริการความสัมพันธ์ใกล้ชิดเสมือนจริงประเภทอื่น
• เด็กอายุต่ำกว่า 14 ปีต้องได้รับความยินยอมจากผู้ปกครองในการใช้บริการอื่นที่อยู่ภายใต้มาตรการ และในการประมวลผลข้อมูลส่วนบุคคล
• บริษัทต้องแจ้งให้ผู้ใช้ทราบว่ากำลังโต้ตอบกับ AI เตือนเรื่องการพึ่งพา และเตือนเมื่อใช้งานต่อเนื่องเกินสองชั่วโมง
• เมื่อเกิดอันตรายร้ายแรง ต้องแทรกแซงและติดต่อผู้ปกครองหรือผู้ติดต่อกรณีฉุกเฉินโดยเร็ว
• ผู้ใช้มีสิทธิคัดลอกและลบข้อมูลปฏิสัมพันธ์ รวมถึงออกจากบริการได้โดยไม่ถูกขัดขวางด้วยการสนทนาต่อ
• การประเมินความปลอดภัยครอบคลุมการเปิดบริการ การเปลี่ยนแปลงครั้งใหญ่ และเกณฑ์จำนวนผู้ใช้ที่กำหนด การฝ่าฝืนร้ายแรงอาจนำไปสู่การปิดบริการและบทลงโทษปรับ