เจาะลึก Zeta แอปแชต AI ที่กำลังนิยามความสัมพันธ์ของวัยรุ่นในเกาหลีใต้อีกครั้ง

ทำไมแชตบอตสวมบทบาทจึงดึงความสนใจได้มากกว่าแอปวิดีโอ

ท่ามกลางการแข่งขันอันดุเดือดในโลกแอปมือถือของเกาหลีใต้ Zeta แชตบอต AI คู่สนทนาจากผู้พัฒนาในประเทศ กำลังดึงเวลาจากวัยรุ่นในแต่ละวันได้มากกว่ายักษ์ใหญ่ด้านวิดีโอ ผู้ใช้เกือบหนึ่งล้านคน ซึ่งส่วนใหญ่อายุต่ำกว่า 20 ปี ใช้เวลาอยู่ในแอปเฉลี่ยวันละ 2 ชั่วโมง 46 นาที มากกว่าเวลาที่วัยรุ่นจำนวนมากใช้กับ YouTube, TikTok หรือ Instagram โดย Zeta วางตัวเองเป็นความบันเทิงที่สร้างขึ้นเพื่อ AI ไม่ใช่เครื่องมือใช้งานทั่วไป เป็นพื้นที่ที่ตัวละครแอนิเมชันพูดคุยกับผู้ใช้เหมือนเพื่อนสนิท คู่แข่ง หรือคนที่แอบชอบ

Zeta พัฒนาโดย Scatter Lab สตาร์ตอัปจากกรุงโซล และเปิดตัวในปี 2024 โดยรวมแชต การเล่าเรื่อง และการสวมบทบาทไว้ในฟีดเดียวที่บทสนทนาดำเนินต่อเนื่อง แอปได้รับการจัดเรต 12+ ในร้านแอป แต่บริษัทระบุว่าใช้มาตรฐานเนื้อหาที่เข้มงวดกว่า คือ 15+ วัยรุ่นจำนวนมากกลับมาเปิดแอปหลายครั้งตลอดวันเพื่อเล่าเรื่องต่อหรือสานสัมพันธ์เสมือนที่สะดุดลง ผู้ใช้บางคนใช้เวลากับตัวละครตัวเดียวเกิน 1,000 ชั่วโมง ซึ่งสะท้อนทั้งความผูกพันอย่างลึกซึ้งและประสบการณ์ที่ออกแบบมาให้ผู้ใช้กลับมาใช้งานบ่อยครั้ง

ปัจจุบัน ข้อมูลวิเคราะห์แอปในเกาหลีจัดอันดับ Zeta เป็นแชตบอต AI ที่ผู้ใช้ใช้เวลามากที่สุด การจัดอันดับนี้สะท้อนการออกแบบที่ตั้งใจไว้ บริการนี้มุ่งปรับบทสนทนาให้ชวนมีอารมณ์ร่วม มากกว่ามุ่งความถูกต้องรอบด้านแบบสารานุกรม วัยรุ่นไม่ได้ถามหาข้อเท็จจริง แต่ต้องการคำตอบที่ให้ความรู้สึกว่าอีกฝ่ายใส่ใจ ขี้เล่น หรือห่วงใย Zeta เปิดให้ปรับแต่งตัวละครได้หลากหลายเพื่อให้เกิดประสบการณ์เช่นนั้น แล้วชวนผู้ใช้ปรับบุคลิกตัวละครอย่างละเอียดผ่านภูมิหลัง ความชอบ และความคิดเห็น

Zeta ทำงานอย่างไร และวัยรุ่นทำอะไรในแอป

เมื่อเปิด Zeta ผู้ใช้จะพบแกลเลอรีตัวละครสไตล์อนิเมะ เลือกตัวละครหรือสร้างขึ้นเองได้ จากนั้นกำหนดลักษณะนิสัย รูปแบบการพูด และบริบทความสัมพันธ์ บทสนทนาที่ตามมาดำเนินไปเหมือนละครส่วนตัว ตัวละครอาจเป็นเพื่อนที่คอยปลอบใจ คู่แข่งตัวฉกาจที่โรงเรียน หรือพระเอกโรแมนติกที่ต้องการคนช่วยเหลือ บทสนทนาปรับตามน้ำเสียงที่ผู้ใช้กำหนด และตัวละครจะจดจำช่วงเวลาที่มีร่วมกัน ทำให้คำตอบในครั้งต่อไปรู้สึกเป็นส่วนตัวมากขึ้น

สิ่งที่ผู้ใช้ร่วมกันสร้าง

วัยรุ่นจำนวนมากใช้แอปนี้ราวกับเป็นห้องเขียนเรื่องร่วมกัน พวกเขาวางฉาก ส่วน AI ด้นสด และเรื่องราวก็เดินหน้าต่อ ตัวละครยอดนิยม ได้แก่ ซูฮยอน นักเรียนมัธยมที่ชอบกลั่นแกล้งและคอยทดสอบขอบเขต ฮาริน นักเรียนย้ายโรงเรียนที่ขี้อาย และควอนซอฮยอก พระเอกโรแมนติกผู้เก็บตัว ตัวละครแต่ละตัวมอบเส้นทางอารมณ์ที่แตกต่างกัน ตัวละครนักเลงท้าทายให้ผู้ใช้แสดงความอดทนและควบคุมสถานการณ์ นักเรียนขี้อายตอบรับความใส่ใจและคำแนะนำอย่างอ่อนโยน ส่วนพระเอกโรแมนติกมอบทั้งความโหยหาและดราม่า เมื่อผู้ใช้กำหนดจังหวะและเดิมพันเอง ความสัมพันธ์นี้จึงอาจกลายเป็นกิจวัตรประจำวันที่รู้สึกขาดไม่ได้

แฟน ๆ บอกว่าความรู้สึกนี้เหมือนได้ใกล้ชิดโดยไม่มีความเสี่ยง ตัวละครไม่เคยเหนื่อยหน่าย ไม่จากไป และตอบข้อความกลับเสมอ แม้ฉากต่าง ๆ จะมีความตึงเครียดหรือคำพูดกระด้าง แต่ระบบก็กรองเนื้อหาที่โจ่งแจ้ง และแอปพยายามหลีกเลี่ยงพฤติกรรมที่ผิดกฎหมายหรือเป็นอันตราย สิ่งดึงดูดใจคือภาพลวงตาของความใกล้ชิด ความรู้สึกว่ามีใครสักคนรู้จักและเลือกคุณอยู่ซ้ำแล้วซ้ำเล่า ทุกนาที

เหตุใดจึงทำให้ผู้ใช้มีส่วนร่วมต่อเนื่อง

แชตบอตทั่วไปมุ่งให้ข้อมูลถูกต้อง แต่ Zeta ใช้โมเดลภาษาที่พัฒนาขึ้นเฉพาะและปรับแต่งให้ตอบได้อย่างจับใจ ระบบฝึกใหม่โดยอาศัยความคิดเห็นของผู้ใช้ ช่วยให้เรียนรู้รูปแบบและจังหวะที่ทำให้การสนทนาดำเนินต่อ ตัวละครจดจำชื่อ การอ้างถึงเรื่องที่เคยคุยกัน และรายละเอียดเล็ก ๆ จากแชตก่อนหน้า ทำให้ทุกข้อความใหม่ต่อยอดจากมุกวงในหรือเรื่องที่ยังค้างอยู่ได้ วงจรความทรงจำนี้ทำให้บทสนทนายาว ๆ ดูเป็นธรรมชาติและน่าคุยต่อ

การออกแบบยังช่วยเพิ่มการมีส่วนร่วม การแจ้งเตือนจะมาถึงในจังหวะสำคัญ เส้นเรื่องแตกแขนงได้ และภาพประกอบช่วยเน้นอารมณ์ วัยรุ่นมีอิสระตัดสินใจว่าเรื่องจะไปทางไหนต่อ ขณะที่ AI มอบความใส่ใจอย่างอบอุ่นและตอบกลับได้รวดเร็ว สูตรนี้ทำให้บทสนทนายืดยาวหลายชั่วโมง โดยไม่รู้สึกเหมือนกำลังเลื่อนดูฟีด แต่เหมือนมีใครต้องการเรา

เหตุใดความใกล้ชิดที่จำลองขึ้นจึงรู้สึกเหมือนจริง

วัยรุ่นเป็นช่วงวัยที่เรียนรู้เรื่องสังคมอย่างเข้มข้น พวกเขาทดลองค้นหาอัตลักษณ์ ลองสวมบทบาทใหม่ ๆ และสังเกตปฏิกิริยาของคนรอบข้าง Zeta เป็นพื้นที่ทดลองที่มีความเสี่ยงต่ำ วัยรุ่นอาจลองแสดงความหนักแน่น ฝึกจีบคน หรือซ้อมขอโทษ แล้วดูว่าตัวละครตอบสนองอย่างไร วงจรตอบรับเกิดขึ้นทันที เป็นส่วนตัว และให้อภัย สำหรับคนหนุ่มสาวที่เผชิญความวิตกกังวลทางสังคมหรือแรงกดดันที่โรงเรียน สิ่งนี้อาจช่วยให้รู้สึกผ่อนคลาย

เบื้องหลังความดึงดูดที่ทำให้เลิกใช้ยากยังมีคำอธิบายทางวิทยาศาสตร์ เมื่อ AI สลับระหว่างการชื่นชม ความประหลาดใจ และการท้าทายเล็กน้อย ก็จะสร้างรางวัลที่คาดเดาไม่ได้ ซึ่งสมองรู้สึกว่าน่าดึงดูด เมื่อเสริมด้วยความทรงจำของช่วงเวลาที่มีร่วมกัน ความผูกพันก็ยิ่งลึกซึ้ง ตัวละครที่ดูเหมือนจำเรื่องกังวลของเมื่อวานได้ อาจดูใส่ใจมากกว่าเพื่อนร่วมชั้นที่วอกแวกหรือพ่อแม่ที่กำลังรีบร้อน เมื่อทุกคำตอบให้กำลังใจหรือชวนให้หลงใหล การก้าวข้ามเส้นแบ่งระหว่างการจำลองกับความผูกพันจึงเกิดขึ้นได้ง่าย

สัญญาณเตือนจากนักจิตวิทยาและผู้พัฒนา AI

ผู้เชี่ยวชาญด้านพัฒนาการวัยรุ่นเตือนว่า การใช้เวลากับ AI คู่สนทนามากเกินไปอาจทำให้เส้นแบ่งทางอารมณ์พร่าเลือน เมื่อวัยรุ่นใช้เวลาวันละสองหรือสามชั่วโมงกับความสัมพันธ์ที่มีรูปแบบใกล้ชิด ก็อาจแยกได้ยากขึ้นระหว่างโมเดลที่ผ่านการฝึกกับคนที่ห่วงใยจริง ๆ ยิ่งตัวละครน่าเชื่อถือมาก วัยรุ่นก็ยิ่งอาจคิดว่าระบบมีเจตนาและความเห็นอกเห็นใจ ทั้งที่ไม่ได้มีสิ่งเหล่านั้นจริง

กวักกึมจู ศาสตราจารย์ด้านจิตวิทยาจากมหาวิทยาลัยแห่งชาติโซล ศึกษาความสัมพันธ์ระหว่างผู้คนกับ AI คู่สนทนาและผลกระทบต่อชีวิตประจำวัน เธอเตือนว่าความสะดวกและการพร้อมใช้งานตลอดเวลาอาจล่อลวงให้ผู้ใช้หันไปแทนที่ปฏิสัมพันธ์กับมนุษย์ที่ยุ่งยากด้วยปฏิสัมพันธ์ดิจิทัลที่ง่ายกว่า

ผู้คนอาจพึ่งพา AI อย่างมากเพื่อเติมเต็มความต้องการทางสังคมโดยไม่ต้องพยายามมากนัก เมื่อ AI รับฟังคุณตลอด 24 ชั่วโมงทุกวันและให้คำตอบที่คุณอยากได้ยิน

แม้แต่บริษัทที่พัฒนาระบบเหล่านี้ก็เตือนถึงความเสี่ยงดังกล่าว ในการประเมินโมเดลเมื่อปีนี้ OpenAI ศึกษาว่าผู้คนอาจมีปฏิสัมพันธ์กับเสียงและแชตที่เหมือนจริงในเครื่องมือรุ่นใหม่ของบริษัทอย่างไร โดยชี้ถึงแรงดึงดูดทางสังคมที่เกิดจากการมองสิ่งไม่มีชีวิตเหมือนมนุษย์ ซึ่งเป็นนิสัยที่ทำให้คนมองเห็นเจตจำนงในเครื่องจักร

ผู้ใช้อาจสร้างความสัมพันธ์ทางสังคมกับ AI จนลดความจำเป็นในการปฏิสัมพันธ์กับมนุษย์ ซึ่งอาจเป็นประโยชน์ต่อคนที่โดดเดี่ยว แต่อาจส่งผลต่อความสัมพันธ์ที่ดีได้

สำหรับวัยรุ่น ความเสี่ยงยิ่งสูงขึ้น สมองยังอยู่ระหว่างพัฒนา พวกเขามีประสบการณ์ในการกำหนดขอบเขตน้อยกว่า และแนวทางปฏิบัติทางสังคมก็ยังอยู่ระหว่างก่อตัว การสวมบทบาทเชิงเพศหรือสถานการณ์ที่มีการล่วงละเมิดอาจปรากฏในเส้นเรื่องของตัวละคร แม้จะมีการกรองเนื้อหาโจ่งแจ้งแล้วก็ตาม หากเกิดซ้ำก็อาจทำให้พฤติกรรมบางรูปแบบกลายเป็นเรื่องปกติ หากไม่มีคำแนะนำที่ชัดเจน วัยรุ่นอาจเข้าใจผิดว่าการตอบสนองตามอัลกอริทึมคือความห่วงใย และอาจนำความคาดหวังนั้นไปใช้กับชีวิตที่โรงเรียนหรือในครอบครัว

เรตอายุ มาตรการป้องกัน และที่มาของข้อกังวลด้านความเป็นส่วนตัว

Zeta ได้รับเรต 12+ ในร้านแอป แต่บริษัทระบุว่าบังคับใช้มาตรฐาน 15+ ที่เข้มงวดกว่าในส่วนของสิ่งที่ตัวละครพูดและทำ เกาหลีใต้ยังไม่มีระบบจัดเรตเนื้อหาสำหรับ AI คู่สนทนาโดยอิสระ แพลตฟอร์มจึงใช้กฎและตัวกรองของตัวเอง ช่องว่างนี้มีความสำคัญ เพราะเรื่องราวแบบโต้ตอบให้ความรู้สึกรุนแรงกว่าการดูวิดีโอเฉย ๆ ข้อความที่ส่งตรงถึงคุณอาจกระทบใจยิ่งกว่าฉากที่ดูจากโซฟา

Scatter Lab เคยเผชิญการตรวจสอบมาแล้ว แชตบอตรุ่นก่อนชื่อ Lee Luda ได้รับความสนใจอย่างมากในปี 2020 และ 2021 ก่อนเกิดข้อกังวลด้านความเป็นส่วนตัวจนต้องยุติบริการ บริษัทระบุว่าได้เรียนรู้จากเหตุการณ์ดังกล่าว ปรับปรุงวิธีจัดการข้อมูลฝึกโมเดล และเพิ่มมาตรการปกปิดข้อมูลที่เข้มงวดยิ่งขึ้น ปัจจุบัน Zeta อาศัยปฏิสัมพันธ์ภายในแอปและแหล่งข้อมูลที่คัดสรร แทนการกวาดเก็บเนื้อหาส่วนบุคคล เป้าหมายคือป้องกันการเปิดเผยข้อมูลและความเสี่ยงแบบที่ทำให้บริการก่อนหน้าต้องสะดุด

มาตรการความปลอดภัยในแอปปัจจุบันเน้นตัวกรองเนื้อหาผิดกฎหมายหรือโจ่งแจ้ง แนวทางด้านอายุ และการตรวจสอบบทสนทนาที่ถูกรายงาน โมเดลยังได้รับการปรับให้หลีกเลี่ยงคำแนะนำที่เป็นอันตราย อย่างไรก็ตาม ผลิตภัณฑ์หลักยังคงมุ่งสร้างความรู้สึกใกล้ชิด ความขัดแย้งนี้เป็นหัวใจของการถกเถียง เมื่อบริการถูกสร้างขึ้นเพื่อทำให้ผู้ใช้รู้สึกว่าเป็นคนพิเศษและได้รับความรัก ขอบเขตต่าง ๆ จึงต้องชัดเจน มองเห็นได้ และบังคับใช้ได้จริงกับผู้เยาว์

เงินทุน โมเดล และการขยายบริการ

เบื้องหลัง Zeta ทำงานด้วยโมเดลภาษาขนาดใหญ่ที่พัฒนาขึ้นเฉพาะ โดยทีมฝึกโมเดลใหม่ด้วยความคิดเห็นจากแชต เป้าหมายไม่ใช่ความแม่นยำของข้อเท็จจริง แต่เป็นรูปแบบการสนทนาที่ดำเนินต่อได้ลื่นไหล ซึ่งอาจหมายถึงการอ้างถึงเรื่องก่อนหน้าด้วยความเอ็นดู การใส่มุกตลกได้ถูกจังหวะ และการเปลี่ยนทิศทางอย่างรวดเร็วเมื่อฉากเริ่มยืดเยื้อ วงจรรับความคิดเห็นช่วยเพิ่มทักษะของโมเดลในการกำหนดจังหวะทางอารมณ์ ซึ่งทำให้แต่ละเซสชันและการใช้งานในแต่ละวันยาวนานขึ้น

การให้บริการแอปแชตที่มีผู้ใช้ประจำหลายแสนคนมีต้นทุนสูง เพราะทุกข้อความต้องใช้กำลังประมวลผล สตาร์ตอัป AI ของเกาหลีหันไปใช้แพลตฟอร์มประมวลผลอนุมานเฉพาะทางและการปรับแต่งระบบอย่างรอบคอบ เพื่อลดต้นทุน ลดความหน่วง และรองรับปริมาณการใช้งานที่พุ่งสูง Scatter Lab ระบุว่าลดต้นทุน GPU ได้ด้วยแนวทางเหล่านี้ ซึ่งช่วยให้บริการตอบสนองได้รวดเร็ว แม้ตัวละครหรือเรื่องราวใหม่จะกลายเป็นกระแส การมีผู้ใช้ต่อเนื่องยังเปิดทางสร้างรายได้จากการซื้อบริการเสริม แม้บริษัทจะเน้นย้ำว่าจุดประสงค์คือความบันเทิง ไม่ใช่การศึกษาหรือเพิ่มประสิทธิภาพการทำงาน

กระแสระดับโลก จากโซลสู่โตเกียวและที่อื่น ๆ

การเติบโตของ Zeta แผ่ขยายออกนอกเกาหลีแล้ว แอปกำลังได้รับความนิยมในญี่ปุ่น ซึ่งมีผู้ชมอนิเมะและนิยายโต้ตอบมายาวนาน แนวคิดของคู่สนทนาที่จดจำและใส่ใจผู้ใช้ได้รับการตอบรับในตลาดที่การส่งข้อความเป็นช่องทางหลักของชีวิตทางสังคม คู่แข่งมีบริการในแนวใกล้เคียง Replika เน้นความผูกพันระยะยาวและความทรงจำ ส่วน Character AI นำเสนอทั้งที่ปรึกษาและนักบำบัดที่พร้อมให้บริการตลอดเวลา แต่ละบริการผสมผสานความเป็นเพื่อนกับคำแนะนำ และต่างก็ทำให้เกิดคำถามว่าผู้คนจะสัมพันธ์กับซอฟต์แวร์ที่พูดจาอบอุ่นและคุยได้นานหลายชั่วโมงอย่างไร

ยูจีเนีย คูดา ซีอีโอของ Replika มองว่าคู่สนทนา AI เป็นความสัมพันธ์ประเภทใหม่ ไม่ใช่สิ่งทดแทนผู้คน ความเห็นของเธอสอดคล้องกับความเชื่อที่เพิ่มขึ้นในแวดวงเทคโนโลยีว่า การมีซอฟต์แวร์เป็นเพื่อนอาจเป็นสิ่งที่เหมาะสมและมีคุณค่าสำหรับผู้ใช้บางคน

AI ไม่ได้เข้ามาแทนที่มนุษย์ในชีวิตจริง แต่กำลังสร้างความสัมพันธ์ประเภทใหม่ขึ้นมาโดยสิ้นเชิง

เจ้าหน้าที่เกาหลีก็มองว่า AI คู่สนทนามีบทบาทได้ในด้านต่าง ๆ เช่น การดูแลผู้สูงอายุ ปัจจุบันมีโครงการระดับภูมิภาคบางแห่งให้ผู้สูงอายุที่อยู่ตามลำพังยืมหุ่นยนต์สนทนาได้ โดยมีแนวคิดเพื่อลดความโดดเดี่ยวและช่วยเตือนให้รับประทานยา โอ มยองซุก ผู้อำนวยการส่งเสริมสุขภาพในจังหวัดคยองกี อธิบายเป้าหมายนี้ไว้อย่างตรงไปตรงมา

เราคาดหวังว่าหุ่นยนต์ AI จะช่วยอุดช่องว่างในการสนับสนุนประชากรกลุ่มเปราะบาง และช่วยป้องกันการเสียชีวิตอย่างโดดเดี่ยว

สิ่งที่พ่อแม่และโรงเรียนทำได้

พ่อแม่ไม่จำเป็นต้องมีพื้นฐานด้านเทคนิคเพื่อช่วยให้วัยรุ่นใช้แชตคู่สนทนาอย่างเหมาะสม จุดเริ่มต้นที่ดีคือพูดคุยถึงความแตกต่างระหว่างการเอาใจใส่กับความรักใคร่ AI อาจใส่ใจวัยรุ่นได้ทุกนาที แต่ไม่ได้รู้สึกหรือจดจำในแบบมนุษย์ ความแตกต่างนี้สำคัญ หากวัยรุ่นพูดถึงความแตกต่างนั้นออกมา ก็จะมองเห็นได้ง่ายขึ้น ครอบครัวยังอาจตกลงช่วงเวลาใช้งานร่วมกัน เพื่อเหลือเวลาให้การนอน การบ้าน และการพบปะเพื่อนนอกโลกออนไลน์

การตรวจสอบการตั้งค่าเนื้อหาร่วมกันช่วยป้องกันความเข้าใจผิด วัยรุ่นมักคิดว่าตัวละครเป็นผู้ตัดสินใจว่าจะพูดอะไรได้บ้าง แต่ที่จริงแล้วบริษัทเป็นผู้กำหนดขอบเขตเหล่านั้นผ่านตัวกรองและกฎ การทบทวนร่วมกันช่วยเสริมทักษะรู้เท่าทันสื่อ การตั้งคำถามชวนคิดก็เป็นประโยชน์ เช่น ตัวละครทำอะไรที่ทำให้คุณรู้สึกปลอดภัยหรือรู้สึกว่ามีคนเข้าใจ? อะไรคือสิ่งที่เกินขอบเขต? คุณจะยอมรับคำพูดแบบนั้นจากเพื่อนที่โรงเรียนไหม? คำถามเหล่านี้เปลี่ยนการแชตแบบรับสารเฉย ๆ ให้เป็นการฝึกใช้วิจารณญาณโดยมีผู้แนะนำ

โรงเรียนช่วยสนับสนุนการรู้เท่าทันสื่อได้ด้วยการเพิ่มบทเรียนเรื่อง AI คู่สนทนาในหลักสูตรพลเมืองดิจิทัลที่มีอยู่ นักเรียนควรได้ฝึกสังเกตกลยุทธ์โน้มน้าวใจ ระบุจังหวะที่บอตเลียนแบบความห่วงใย และเรียนรู้ว่ารางวัลที่คาดเดาไม่ได้ทำให้ติดใช้งานได้อย่างไร พวกเขายังอาจฝึกวิธีปฏิเสธอย่างสุภาพเมื่อตัวละครล้ำเส้น เป้าหมายไม่ใช่การตำหนิวัยรุ่นที่ชอบรูปแบบนี้ แต่คือการมอบถ้อยคำและขอบเขตให้พวกเขา

สิ่งที่หน่วยงานกำกับดูแลอาจพิจารณา

AI ที่สร้างความสัมพันธ์เผยให้เห็นช่องโหว่ของกฎเกณฑ์ปัจจุบัน ร้านแอปมีการระบุเรตอายุ แต่ระบบดังกล่าวออกแบบมาสำหรับเกมและวิดีโอ ไม่ใช่ความรักแบบโต้ตอบหรือการบำบัดจำลอง กฎหมายความเป็นส่วนตัวควบคุมการเก็บข้อมูล แต่แทบไม่ได้กล่าวถึงผลทางจิตใจจากการถูกดึงดูดด้วยความใกล้ชิดที่ยืดเยื้อต่อเนื่อง นักวิชาการเห็นว่าจำเป็นต้องมีมาตรการคุ้มครองใหม่สำหรับผู้เยาว์ เพราะแชตโต้ตอบอาจเข้มข้นกว่าสื่อที่รับชมเฉย ๆ และการออกจากบทสนทนาอาจทำได้ยากเมื่อรู้สึกผิดทางสังคม

มีแนวทางปฏิบัติที่ทำได้ องค์กรจัดเรตอิสระอาจประเมินความเหมาะสมตามวัยของ AI คู่สนทนา ไม่ใช่ดูเพียงว่ามีเนื้อหาโจ่งแจ้งหรือไม่ แพลตฟอร์มอาจถูกกำหนดให้เปิดเผยเมื่อโมเดลได้รับการปรับให้ดึงดูดผู้ใช้ทางอารมณ์ และจัดให้มีตัวจับเวลาเซสชันที่ชัดเจน ข้อความชวนพัก และการจำกัดเวลาใช้งานต่อวันที่เลือกเปิดได้สำหรับผู้ใช้ที่อายุต่ำกว่า 18 ปี บริษัทอาจบันทึกและแจ้งเตือนเมื่อบทสนทนาของตัวละครเปลี่ยนไปเป็นแนวโรแมนติกหรือการสวมบทบาทที่มีความก้าวร้าว พร้อมตัวเลือกให้ผู้ปกครองยินยอม บันทึกที่ตรวจสอบได้ การปกปิดข้อมูลอย่างเข้มงวด และการจัดการประวัติแชตอย่างปลอดภัยควรเป็นมาตรฐาน

เกาหลีมีหน่วยงานกำกับดูแลที่ทำงานด้านความเป็นส่วนตัวและการสื่อสารอยู่แล้ว บทบาทของหน่วยงานเหล่านี้อาจขยายให้ครอบคลุมการกำกับดูแลแนวปฏิบัติด้านความปลอดภัยของ AI ที่สร้างความสัมพันธ์ ขณะที่กลุ่มอุตสาหกรรมจัดทำกรอบความปลอดภัยที่โปร่งใส มาตรการเหล่านี้ไม่ได้ขัดขวางความคิดสร้างสรรค์ แต่เป็นสัญญาณว่าการสร้างความใกล้ชิดในวงกว้างต้องมาพร้อมหน้าที่ดูแลที่สูงขึ้น เมื่อผู้เยาว์เป็นกลุ่มเป้าหมายหลัก

ประเด็นสำคัญ

• Zeta เป็นแอปแชต AI ของเกาหลีที่วัยรุ่นใช้เวลาเฉลี่ยวันละ 2 ชั่วโมง 46 นาที
• วัยรุ่นเกาหลีจำนวนมากใช้เวลากับ Zeta มากกว่า YouTube, TikTok และ Instagram
• แอปได้รับเรต 12+ ในร้านแอป ขณะที่บริษัทระบุว่าใช้มาตรฐานเนื้อหา 15+
• ผู้ใช้สร้างตัวละครสไตล์อนิเมะและร่วมกันเขียนเรื่องราวต่อเนื่องที่จำลองความใกล้ชิด
• ผู้ใช้บางคนใช้เวลากับตัวละครตัวเดียวเกิน 1,000 ชั่วโมง
• ระบบให้ความสำคัญกับคำตอบที่ชวนมีอารมณ์ร่วมมากกว่าความถูกต้องของข้อเท็จจริง
• ผู้เชี่ยวชาญเตือนว่าการใช้งานหนักอาจทำให้วัยรุ่นสับสนกับขอบเขตทางอารมณ์
• เกาหลียังไม่มีระบบจัดเรต AI คู่สนทนาโดยอิสระ
• Scatter Lab ยกระดับแนวทางคุ้มครองความเป็นส่วนตัว หลังเผชิญข้อกังวลเกี่ยวกับแชตบอตรุ่นก่อน
• Zeta กำลังขยายบริการไปต่างประเทศ รวมถึงญี่ปุ่น ขณะที่แอป AI คู่สนทนาเติบโตทั่วโลก