การใช้ดีปเฟก AI ล่วงละเมิดเด็กในญี่ปุ่น จุดชนวนการสอบสวนของตำรวจและข้อถกเถียงทางกฎหมาย

วิกฤตที่ทวีความรุนแรงในโรงเรียนญี่ปุ่น

ตำรวจทั่วญี่ปุ่นได้รับแจ้งเหตุเพิ่มขึ้นเกี่ยวกับนักเรียนที่ใช้ปัญญาประดิษฐ์สร้างภาพดีปเฟกเชิงลามกอนาจารของผู้เยาว์ โดยมักนำภาพจากกิจกรรมโรงเรียน อัลบั้มรับปริญญา และแชตกลุ่มส่วนตัวมาใช้ ผู้เสียหายส่วนใหญ่เป็นนักเรียนมัธยมต้นและมัธยมปลาย แม้แต่นักเรียนประถมก็ตกเป็นเป้าหมายเช่นกัน หลายกรณีผู้ก่อเหตุเป็นผู้เยาว์ด้วยกันเอง ซึ่งเข้าเว็บไซต์สร้างภาพหรือใช้แอปสมาร์ตโฟนแบบง่าย ๆ สร้างภาพปลอมโจ่งแจ้งที่ดูสมจริง แล้วส่งต่อกันในกลุ่มเพื่อน

เจ้าหน้าที่ระบุว่า ในปีที่ผ่านมา มีการบันทึกเรื่องขอคำปรึกษาและแจ้งเหตุเกี่ยวกับภาพลามกอนาจารปลอมของผู้เยาว์มากกว่า 100 ราย ในจำนวนคดีที่ทราบ มี 17 คดีเกี่ยวข้องกับภาพที่นำมาจากกิจกรรมโรงเรียนหรือภาพในหนังสือรุ่น ผู้เสียหายมักสงสัยว่าผู้ก่อเหตุเป็นคนรู้จัก ตำรวจยังพบการกลั่นแกล้งเพื่อนเพศเดียวกัน โดยมีเป้าหมายเพื่อรังแกหรือทำให้อับอาย ไม่ใช่เพื่อความพึงพอใจทางเพศ ในกรณีหนึ่งในภูมิภาคโทไกทางตอนกลางของญี่ปุ่น นักเรียนชายมัธยมต้นถูกส่งเรื่องให้อัยการพิจารณาดำเนินคดีในข้อหาหมิ่นประมาท หลังสร้างภาพเปลือยปลอมของเพื่อนร่วมชั้นหญิงและส่งต่อให้เพื่อน ๆ

เหตุการณ์ที่เพิ่มขึ้นนี้เป็นส่วนหนึ่งของแนวโน้มทั่วโลกที่กว้างกว่า บริษัทด้านความปลอดภัยของสหรัฐฯ แห่งหนึ่งติดตามพบวิดีโอดีปเฟกบนอินเทอร์เน็ตอย่างน้อย 95,820 รายการในปี 2023 และรายงานว่า 98 เปอร์เซ็นต์เป็นเนื้อหาลามกอนาจาร ปัจจุบันเครื่องมือที่ใช้งานง่ายเปิดทางให้ผู้ใช้พิมพ์คำสั่ง อัปโหลดใบหน้า หรือพยายามลบเสื้อผ้าออกจากภาพด้วยการแตะเพียงครั้งเดียว การเข้าถึงที่ง่ายเช่นนี้กำลังปะทะกับพลวัตทางสังคมในโรงเรียนและปริมาณภาพส่วนตัวมหาศาลที่เด็ก ๆ โพสต์หรือส่งต่อ โดยมักไม่ตระหนักว่าภาพเหล่านั้นอาจถูกนำไปใช้เป็นอาวุธได้อย่างไร

วัยรุ่นสร้างดีปเฟกจากภาพทั่วไปได้อย่างไร

เครื่องมือในปัจจุบันแบ่งได้เป็นไม่กี่ประเภท แอปบางชนิดพยายามสร้างภาพเปลือยโดยปลอมร่างกายที่อยู่ใต้เสื้อผ้า ขณะที่บางชนิดสลับใบหน้าจากภาพโรงเรียนไปใส่บนร่างนักแสดงผู้ใหญ่ เว็บไซต์สร้างภาพด้วย AI ยังสามารถสร้างภาพโจ่งแจ้งจากข้อความคำสั่งเพียงอย่างเดียว แล้วปรับให้คล้ายบุคคลเฉพาะได้ด้วยภาพอ้างอิงเพียงไม่กี่ภาพ ระบบเหล่านี้ออกแบบมาเพื่อสังเคราะห์ภาพใหม่จากรูปแบบที่เรียนรู้จากชุดข้อมูลขนาดใหญ่ และสามารถทำงานบนอุปกรณ์ผู้บริโภคทั่วไปได้ ทำให้การนำไปใช้ในทางที่ผิดมีอุปสรรคน้อยลง และโรงเรียน ครอบครัว และหน่วยงานบังคับใช้กฎหมายตรวจจับได้ยากขึ้น

เหตุใดการดำเนินคดีจึงทำได้ยาก

กฎหมายหลักของญี่ปุ่นที่เกี่ยวกับภาพลามกอนาจารของเด็ก คือกฎหมายว่าด้วยการควบคุมและลงโทษการกระทำที่เกี่ยวข้องกับการค้าประเวณีเด็กและภาพลามกอนาจารของเด็ก ซึ่งร่างขึ้นเพื่อคุ้มครองเด็กจริงที่ปรากฏอยู่ในภาพจริง จึงเกิดพื้นที่สีเทาสำหรับภาพปลอมที่สร้างด้วย AI เมื่อภาพถูกสังเคราะห์ขึ้น แม้จะใช้ใบหน้าหรือรูปลักษณ์ของเด็กจริง แนวทางทางกฎหมายก็ยังไม่ชัดเจนนัก ตำรวจจึงปรับวิธีโดยอาศัยกฎหมายอื่น เช่น กฎหมายหมิ่นประมาทและข้อบัญญัติท้องถิ่นบางฉบับ เพื่อดำเนินคดีเมื่อทำได้ แนวทางนี้เป็นการแก้ปัญหาแบบแยกส่วน และสร้างภาระให้ผู้เสียหายกับครอบครัวต้องตรวจพบการละเมิดและร้องเรียนโดยเร็ว

ตำรวจดำเนินการอย่างไรในขณะนี้

สำนักงานตำรวจแห่งชาติเริ่มตรวจสอบเว็บไซต์และแอปสร้างภาพราว 10 แห่ง ซึ่งได้รับความนิยมเป็นพิเศษในหมู่นักเรียนมัธยมต้นและมัธยมปลาย พนักงานสอบสวนวางแผนนำผลการตรวจสอบไปสนับสนุนการสอบสวนคดีอาญา และพัฒนาโครงการให้ความรู้แก่เยาวชน รวมถึงชั้นเรียนป้องกันการกระทำผิดที่อธิบายว่าเหตุใดการสร้างหรือส่งต่อภาพลักษณะนี้จึงอาจเป็นอาชญากรรมและสร้างความเสียหายร้ายแรงแก่เพื่อนร่วมชั้น

เจ้าหน้าที่ระดับสูงเตือนว่าขอบเขตการละเมิดจริงมีขนาดใหญ่กว่าที่จำนวนคดีที่แจ้งไว้บ่งชี้ หลังทบทวนข้อร้องเรียนเมื่อไม่นานมานี้ เจ้าหน้าที่ตำรวจอาวุโสรายหนึ่งกล่าวว่า เหตุการณ์ที่ทราบกันน่าจะเป็นเพียงส่วนน้อยของสิ่งที่เกิดขึ้นจริง เนื่องจากผู้เสียหายจำนวนมากไม่กล้าออกมาเปิดเผยเรื่อง

พื้นที่สีเทาทางกฎหมายในญี่ปุ่น

นักวิชาการด้านกฎหมายในญี่ปุ่นระบุว่ากรอบกฎหมายของประเทศตามไม่ทันการพัฒนาของ AI สร้างสรรค์ ภายใต้กฎปัจจุบัน หากอัยการพิสูจน์ไม่ได้ว่ามีเด็กจริงปรากฏอยู่ในภาพ หรือไม่สามารถระบุตัวเด็กจริงได้อย่างชัดเจน ภาพดีปเฟกอาจอยู่นอกขอบเขตของกฎหมายระดับชาติว่าด้วยสื่อการล่วงละเมิดทางเพศเด็ก ช่องว่างดังกล่าวสวนทางกับความเสียหายจริงที่ผู้เสียหายได้รับ เมื่อใบหน้าหรือชื่อของพวกเขาถูกนำไปผูกกับภาพโจ่งแจ้งที่ถูกปลอมขึ้นและแพร่กระจายในแชตกลุ่มหรือบนโซเชียลมีเดีย

ทาคาชิ นางาเสะ ทนายความและศาสตราจารย์จากมหาวิทยาลัยคานาซาวะ ซึ่งให้คำปรึกษาด้านนโยบายอินเทอร์เน็ต เห็นว่าการแบ่งแยกระหว่างภาพจริงกับภาพสังเคราะห์ไม่สอดคล้องกับวิธีใช้เทคโนโลยีนี้อีกต่อไป

กฎหมายปัจจุบันออกแบบมาเพื่อคุ้มครองเด็กจริง แต่ AI สร้างสรรค์ทำให้เส้นแบ่งระหว่างของจริงกับของปลอมพร่าเลือน

รัฐบาลท้องถิ่นบางแห่งเริ่มดำเนินการแล้ว จังหวัดทตโตริแก้ไขข้อบัญญัติในปี 2024 เพื่อห้ามสร้างภาพปลอมเชิงลามกอนาจารโดยใช้ภาพถ่ายของเด็กอย่างชัดเจน ผู้สนับสนุนยินดีกับมาตรการระดับท้องถิ่น แต่ระบุว่าจำเป็นต้องมีกฎหมายระดับชาติเพื่อให้การบังคับใช้ไม่แตกต่างกันไปตามเขตอำนาจ และไม่สะดุดเมื่อภาพถูกเก็บไว้บนเซิร์ฟเวอร์ต่างประเทศหรือเผยแพร่โดยไม่ระบุตัวตน คณะทำงานของรัฐบาลกลางได้หารือเรื่องการใช้อินเทอร์เน็ตของเยาวชนและมาตรการที่อาจใช้รับมือการละเมิดด้วย AI แต่ความคืบหน้ายังล่าช้า

มาซากิ อุเอดะ รองศาสตราจารย์ด้านกฎหมายอาญาที่มหาวิทยาลัยคานางาวะ ซึ่งศึกษากฎระเบียบเกี่ยวกับสื่อลามกอนาจาร ระบุว่ากรอบกฎหมายควรสะท้อนความเสียหายต่อความเป็นส่วนตัวและสภาพจิตใจที่เด็กได้รับจริง เมื่อมีการนำรูปลักษณ์ของพวกเขาไปใช้ในทางที่ผิด

หากภาพปลอมที่ซับซ้อนแพร่กระจายทางออนไลน์ ก็ถือเป็นการละเมิดความเป็นส่วนตัวของเด็กที่ถูกนำภาพไปใช้ แม้ภาพนั้นจะเป็นของปลอม ภาระทางจิตใจนั้นรุนแรง จึงควรปฏิบัติต่อภาพดีปเฟกในลักษณะเดียวกับภาพลามกอนาจารเด็ก และควรพิจารณากำหนดกฎระเบียบทางกฎหมาย

เทคโนโลยีที่ขับเคลื่อนการละเมิด

ดีปเฟกสร้างขึ้นด้วยโมเดลการเรียนรู้ของเครื่องที่ฝึกให้สังเคราะห์ภาพเสมือนจริง เครื่องมือหลักมีอยู่สองกลุ่ม วิธีสลับใบหน้าจะจัดตำแหน่งและผสานใบหน้าเป้าหมายเข้ากับวิดีโอหรือภาพถ่ายที่มีอยู่ ส่วนระบบแปลงข้อความเป็นภาพ ซึ่งมักเรียกว่าโมเดลดิฟฟิวชัน จะสร้างภาพทั้งภาพขึ้นใหม่จากคำสั่งที่เขียนไว้ และอาจใช้ใบหน้าอ้างอิงจำนวนเล็กน้อยประกอบ ผู้กระทำผิดบางรายปรับแต่งโมเดลที่ทำงานในเครื่องด้วยภาพจำนวนหนึ่งที่คัดลอกจากโปรไฟล์โซเชียลมีเดียของเป้าหมายหรือนำมาจากอัลบั้มโรงเรียน ทำให้ภาพที่สร้างขึ้นดูคล้ายเด็กคนนั้นอย่างน่าขนลุก

ความก้าวหน้าเหล่านี้ทำให้การตรวจจับและการตอบสนองซับซ้อนขึ้น หากภาพถูกสังเคราะห์ขึ้นทั้งหมด ก็ไม่มีภาพถ่ายต้นฉบับให้เปรียบเทียบ แม้จะมีลายน้ำและตัวกรองตรวจจับ AI แต่ก็ทำงานไม่สม่ำเสมอและลบออกได้ มูลนิธิ Internet Watch Foundation รายงานว่า ในช่วงหนึ่งเดือนของปี 2023 มีการโพสต์ภาพที่สร้างด้วย AI มากกว่า 20,000 ภาพในฟอรัมดาร์กเว็บแห่งหนึ่ง โดยหลายพันภาพละเมิดกฎหมายสหราชอาณาจักร รายงานฉบับปรับปรุงในเวลาต่อมาเตือนว่าเนื้อหาประเภทนี้กำลังแพร่เข้าสู่เว็บทั่วไปมากขึ้น ซึ่งผู้ใช้ที่ไม่รู้ตัวและผู้เสียหายอาจพบเนื้อหาดังกล่าวในฟอรัมสาธารณะและแกลเลอรีภาพ ตามข้อมูลของ IWF เนื้อหาบางส่วนที่ดูสมจริงที่สุดแทบแยกไม่ออกจากการล่วงละเมิดจริง ซึ่งเพิ่มความเสี่ยงที่ผู้เสียหายจะถูกทำร้ายซ้ำ และทำให้ผู้ดูแลแพลตฟอร์มกับตำรวจรับมือไม่ไหว IWF เผยแพร่งานวิจัยเกี่ยวกับการนำ AI ไปใช้ในทางที่ผิดเพื่อสร้างภาพการล่วงละเมิดทางเพศเด็ก พร้อมเรียกร้องให้เร่งใช้มาตรการตอบโต้ทางกฎหมายและเทคนิค รายงานขององค์กรดูได้ที่ งานวิจัยของ IWF

ผลกระทบต่อผู้เสียหายและโรงเรียน

สำหรับเด็ก การเห็นใบหน้าของตนถูกนำไปแปะบนภาพทางเพศอาจทำให้เกิดความกลัว ความอับอาย และความรู้สึกว่าสูญเสียการควบคุม แม้เพื่อนร่วมชั้นจะรู้ว่าภาพถูกปลอมขึ้น แต่ความเสียหายต่อชื่อเสียงและสุขภาพจิตก็อาจรุนแรง ชุมชนโรงเรียนต้องรับมือกับผลกระทบต่อเนื่องเมื่อข่าวลือแพร่กระจาย การกลั่นแกล้งทวีความรุนแรง และครูต้องเร่งรับมือกับผู้ปกครอง ความปลอดภัยของนักเรียน และหน่วยงานบังคับใช้กฎหมาย

เด็กผู้หญิงโดยเฉพาะเล่าว่าพวกเธอเปลี่ยนวิธีใช้งานออนไลน์ ในอังกฤษ คณะกรรมาธิการด้านเด็กเปิดเผยว่าวัยรุ่นบางคนหยุดโพสต์ภาพถ่าย เพราะกังวลว่าเครื่องมือเปลื้องผ้าด้วย AI จะถูกนำภาพเหล่านั้นไปใช้เป็นอาวุธ เดม เรเชล เดอ ซูซา คณะกรรมาธิการด้านเด็กของอังกฤษ เรียกร้องให้สมาชิกสภาออกกฎหมายห้ามแอปที่สร้างภาพดีปเฟกโจ่งแจ้งของเด็ก โดยระบุถึงความทุกข์ใจที่เพิ่มขึ้นในหมู่เด็กสาววัยรุ่น

เครื่องมือที่ใช้เทคโนโลยีดีปเฟกสร้างภาพเปลือยของเด็กไม่ควรถูกกฎหมาย และฉันขอเรียกร้องให้รัฐบาลดำเนินการอย่างเด็ดขาดเพื่อแบนเครื่องมือเหล่านี้ ไม่มีที่ทางให้เครื่องมือเหล่านี้ในสังคมของเรา

ในญี่ปุ่น ทนายความระบุว่าพบคดีเพิ่มขึ้นที่มีการสอบสวนเด็กชายวัยรุ่นในข้อหาความผิดทางเพศซึ่งเกี่ยวข้องกับการใช้ดีปเฟกหรือการส่งต่อเนื้อหาโจ่งแจ้งในแชตกลุ่ม ผู้เชี่ยวชาญเตือนว่าวัยรุ่นจำนวนมากไม่เข้าใจผลทางกฎหมายหรือความเสียหายที่เกิดกับเพื่อน จนกว่าจะมีตำรวจมาพบหรือโรงเรียนเริ่มกระบวนการทางวินัย ช่องว่างดังกล่าวชี้ให้เห็นถึงความจำเป็นของกฎที่ชัดเจน การให้ความรู้ในโรงเรียน และมาตรการคุ้มครองที่เข้มแข็งจากแพลตฟอร์ม

มาตรการทั่วโลกและบทเรียนสำหรับญี่ปุ่น

ประเทศอื่น ๆ เริ่มอุดช่องโหว่ทางกฎหมายแล้ว เกาหลีใต้ผ่านร่างกฎหมายในเดือนกันยายน 2024 ซึ่งกำหนดให้การสร้างภาพลามกอนาจารดีปเฟกของผู้เยาว์เป็นความผิด และยังครอบคลุมถึงการรับชมหรือครอบครองภาพเหล่านั้นด้วย ในสหรัฐฯ กฎหมายระดับรัฐบาลกลางที่ประกาศใช้ในเดือนพฤษภาคม 2025 ทำให้การเผยแพร่ภาพหรือวิดีโอโจ่งแจ้งทางเพศโดยไม่ได้รับความยินยอมจากบุคคลในภาพเป็นสิ่งผิดกฎหมาย และกำหนดให้แพลตฟอร์มลบเนื้อหาดังกล่าวภายใน 48 ชั่วโมงหลังผู้เสียหายร้องขอ หลายรัฐของสหรัฐฯ ยังปรับปรุงกฎหมายให้ภาพผู้เยาว์ที่ถูกดัดแปลงหรือสร้างด้วย AI ในบริบททางเพศเข้าข่ายสื่อการล่วงละเมิดทางเพศเด็กที่ผิดกฎหมาย แม้ไม่มีเด็กจริงอยู่ในเหตุการณ์ที่ปรากฏในภาพ การดำเนินการระดับรัฐเหล่านี้ตอบสนองต่อคำวินิจฉัยของศาลสหรัฐฯ ในช่วงก่อนหน้า ซึ่งแยกเนื้อหาเสมือนที่สร้างขึ้นล้วน ๆ ออกจากภาพที่สร้างจากเด็กจริง

ในยุโรป หน่วยงานบังคับใช้กฎหมายร่วมมือกันข้ามพรมแดน Europol ประสานปฏิบัติการ Cumberland ซึ่งเป็นหนึ่งในปฏิบัติการปราบปรามทั่วโลกครั้งแรก ๆ ที่เกี่ยวข้องกับสื่อการล่วงละเมิดทางเพศเด็กซึ่งสร้างด้วย AI โดยได้รับการสนับสนุนจาก 19 ประเทศ ตำรวจระบุตัวผู้ต้องสงสัยได้หลายร้อยคน จับกุมหลายสิบราย และตรวจค้นบ้านเพื่อขัดขวางแพลตฟอร์มที่เผยแพร่ภาพผู้เยาว์ซึ่งสร้างขึ้นทั้งหมดด้วยระบบอัตโนมัติ พนักงานสอบสวนระบุว่า AI ช่วยให้บุคคลที่มีทักษะจำกัดผลิตเนื้อหาการล่วงละเมิดได้ปริมาณมหาศาล และเตือนว่าวิธีการดั้งเดิมในการระบุตัวผู้เสียหายหรือติดตามแหล่งที่มาของภาพมักใช้ไม่ได้เมื่อภาพถูกสังเคราะห์ขึ้น แคเธอรีน เดอ โบลล์ ผู้อำนวยการบริหารของ Europol ย้ำถึงความจำเป็นของวิธีการสอบสวนแบบใหม่ที่เหมาะกับเนื้อหาซึ่งผลิตด้วย AI

บุคคลที่มีเจตนาก่ออาชญากรรมสามารถสร้างภาพด้วย AI ได้อย่างง่ายดาย ทำให้ปริมาณสื่อการล่วงละเมิดเพิ่มขึ้น และระบุตัวผู้กระทำผิดหรือผู้เสียหายได้ยากขึ้น

ภายในญี่ปุ่น ตำรวจเพิ่งจับกุมผู้ต้องสงสัยเป็นครั้งแรกในคดีที่เกี่ยวข้องกับการขายโปสเตอร์ลามกอนาจารที่สร้างด้วย AI ซึ่งเป็นภาพหญิงวัยผู้ใหญ่สมมติผ่านการประมูลออนไลน์ สะท้อนว่ากฎหมายลามกอนาจารที่มีอยู่สามารถใช้จัดการการละเมิดด้วย AI ได้บางกรณี มีรายงานว่าผู้ต้องสงสัยรายหนึ่งมีรายได้ราว 10 ล้านเยนในช่วงหนึ่งปี คดีที่เกี่ยวกับเด็กมีอุปสรรคเพิ่มเติม จึงเป็นเหตุให้นักวิชาการและกลุ่มคุ้มครองเด็กเรียกร้องให้มีกฎระดับชาติที่ระบุชัดเจนครอบคลุมภาพผู้เยาว์ในบริบททางเพศที่สร้างด้วย AI ไม่ว่าจะอิงจากภาพถ่ายจริงหรือสร้างขึ้นทั้งหมด

สิ่งที่ครอบครัว โรงเรียน และแพลตฟอร์มทำได้ในขณะนี้

ระหว่างที่ผู้กำหนดนโยบายถกเถียงเรื่องการปฏิรูป ยังมีวิธีปฏิบัติที่ช่วยลดความเสี่ยงและตอบสนองได้เร็วขึ้นเมื่อเกิดการละเมิด มาตรการเหล่านี้มุ่งเน้นเรื่องความยินยอม การเข้าถึงภาพถ่าย ช่องทางแจ้งเหตุ และการสนับสนุนสุขภาพจิต

• จำกัดการเผยแพร่ภาพนักเรียน โรงเรียนสามารถจำกัดการแชร์อัลบั้มชั้นเรียนและแกลเลอรีกิจกรรมให้เฉพาะผู้ปกครองที่ยืนยันตัวตน ใช้ลิงก์ที่หมดอายุ และใส่ลายน้ำในภาพที่เผยแพร่ออกนอกช่องทางทางการ
• สอนเรื่องความยินยอมและจริยธรรมดิจิทัลตั้งแต่เนิ่น ๆ บูรณาการความรู้ด้าน AI และสื่อเข้ากับชั่วโมงโฮมรูมหรือวิชาเทคโนโลยี รวมถึงพูดคุยอย่างตรงไปตรงมาเรื่องดีปเฟก ความเป็นส่วนตัว และความเสียหายที่ภาพเหล่านี้ก่อขึ้น
• กำหนดกฎแชตกลุ่มให้ชัดเจน ชมรมและชั้นเรียนของนักเรียนควรกำหนดแนวปฏิบัติสำหรับแอปส่งข้อความ พร้อมระบุผลที่จะตามมาหากส่งต่อเนื้อหาโจ่งแจ้งหรือเนื้อหาที่ใช้กลั่นแกล้ง
• เปิดทางให้นักเรียนแจ้งเหตุได้ทันที ทำให้การแจ้งผู้ใหญ่ที่ไว้ใจ โรงเรียน และแพลตฟอร์มเมื่อพบภาพที่ใช้ละเมิดเป็นเรื่องง่าย การแจ้งอย่างรวดเร็วช่วยจำกัดช่วงเวลาที่ภาพจะแพร่กระจาย
• ประสานงานกับหน่วยงานบังคับใช้กฎหมาย แม้แนวทางทางกฎหมายจะยังไม่ชัดเจน ก็ควรส่งหลักฐานให้ตำรวจเพื่อขอคำแนะนำเรื่องกฎหมายหมิ่นประมาท ความเป็นส่วนตัว หรือข้อบัญญัติท้องถิ่นที่อาจใช้ได้
• ติดต่อแพลตฟอร์ม ใช้เครื่องมือในระบบเพื่อรายงานภาพทางเพศที่เผยแพร่โดยไม่ได้รับความยินยอมและขอให้ลบเนื้อหา เก็บบันทึกลิงก์ เวลา และชื่อผู้ใช้ไว้
• สนับสนุนสุขภาพจิตของผู้เสียหาย จัดบริการให้คำปรึกษาแบบรักษาความลับและแจ้งผู้ปกครองโดยเร็ว อย่าบังคับให้ผู้เสียหายเผชิญหน้ากับเพื่อนเพื่อพิสูจน์ว่าภาพเป็นของปลอม
• ลดร่องรอยข้อมูลส่วนบุคคล สนับสนุนให้นักเรียนตั้งค่าบัญชีเป็นส่วนตัว ลบโพสต์เก่า ๆ ที่ไม่จำเป็น และหลีกเลี่ยงการโพสต์ภาพใบหน้าความละเอียดสูงที่เชื่อมโยงกับข้อมูลโรงเรียนหรือสถานที่
• ใช้แนวปฏิบัติที่ปลอดภัยกว่าในการถ่ายภาพ เมื่อแชร์ภาพทีมกีฬาหรือภาพชั้นเรียน ควรพิจารณาถ่ายภาพมุมกว้าง ลดภาพระยะใกล้ของใบหน้า และจำกัดสิทธิ์การนำภาพไปเผยแพร่ต่อ

สำหรับบริษัทเทคโนโลยี มาตรการคุ้มครองรวมถึงตัวกรองที่มีประสิทธิภาพสำหรับคำสั่งและการอัปโหลด การปิดฟังก์ชันเปลื้องผ้าเป็นค่าเริ่มต้น การตรวจสอบอายุที่เข้มงวด และช่องทางลบเนื้อหาอย่างรวดเร็วที่ใช้ได้กับผลิตภัณฑ์ต่าง ๆ การเปิดเผยข้อบกพร่องที่พบและวิธีแก้ไขที่มีหลักฐานชัดเจนช่วยสร้างความเชื่อมั่นกลับคืนมา กรณีถกเถียงล่าสุดเกี่ยวกับแชตบอตกระแสหลักที่สร้างภาพเชิงเพศของคนดังวัย 16 ปี แสดงให้เห็นว่าช่องโหว่ในการออกแบบเพียงจุดเดียวอาจลุกลามอย่างรวดเร็ว จนเกิดคำเตือนจากหน่วยงานกำกับดูแลและกระแสต่อต้านจากสาธารณชน

ประเด็นสำคัญ

• ตำรวจญี่ปุ่นได้รับแจ้งเหตุเพิ่มขึ้นเกี่ยวกับผู้เยาว์ที่สร้างและส่งต่อภาพดีปเฟกทางเพศของเพื่อนร่วมชั้นด้วย AI โดยใช้ภาพจากโรงเรียนและแชตกลุ่ม
• ในปีที่ผ่านมา มีการยื่นเรื่องขอคำปรึกษาและแจ้งเหตุมากกว่า 100 รายทั่วประเทศ โดยอย่างน้อย 17 คดีเกี่ยวข้องกับกิจกรรมโรงเรียนและอัลบั้มรับปริญญา
• การดำเนินคดีดีปเฟกทำได้ยากภายใต้กฎหมายระดับชาติปัจจุบัน ซึ่งมุ่งเน้นภาพเด็กจริง ตำรวจมักใช้กฎหมายอื่น เช่น กฎหมายหมิ่นประมาท
• สำนักงานตำรวจแห่งชาติกำลังตรวจสอบเว็บไซต์และแอปสร้างภาพยอดนิยมราว 10 แห่ง และวางแผนนำผลการตรวจสอบไปใช้ทั้งในการสอบสวนคดีอาญาและให้ความรู้แก่เยาวชน
• ผู้เชี่ยวชาญระบุว่าระบบกฎหมายตามไม่ทันการพัฒนา นักวิชาการเรียกร้องให้มีกฎระดับชาติที่ระบุชัดเจนว่าให้ปฏิบัติต่อภาพดีปเฟกทางเพศของผู้เยาว์ในลักษณะเดียวกับสื่อการล่วงละเมิดทางเพศเด็กที่ผิดกฎหมาย
• ในระดับนานาชาติ เกาหลีใต้ สหรัฐอเมริกา สหราชอาณาจักร และออสเตรเลียเริ่มออกกฎควบคุมภาพทางเพศที่สร้างด้วย AI รวมถึงหน้าที่ลบเนื้อหาอย่างรวดเร็วและการกำหนดความผิดใหม่
• ปฏิบัติการ Cumberland ของ Europol มุ่งเป้าเครือข่ายที่เผยแพร่เนื้อหาการล่วงละเมิดเด็กซึ่งสร้างด้วย AI ทั้งหมด และชี้ให้เห็นความท้าทายในการสอบสวนเมื่อไม่มีเด็กจริงปรากฏในภาพ
• โรงเรียน ครอบครัว และแพลตฟอร์มลดความเสียหายได้ด้วยการจำกัดการเข้าถึงภาพ สอนความรู้ด้าน AI บังคับใช้กฎแชต ทำให้การแจ้งเหตุสะดวกขึ้น และจัดบริการให้คำปรึกษาแก่ผู้เสียหาย