อินเดียพิจารณายกเลิกความคุ้มครองทางกฎหมายแก่โซเชียลมีเดีย ท่ามกลางการตรวจสอบอัลกอริทึม

ความคุ้มครองทางกฎหมายของ Facebook, YouTube และ X อาจถูกทบทวน

กระทรวงอิเล็กทรอนิกส์และเทคโนโลยีสารสนเทศของอินเดียกำลังพิจารณาว่า Facebook, Instagram, YouTube และ X ควรสูญเสียความคุ้มครองที่โดยทั่วไปช่วยให้แพลตฟอร์มพ้นจากความรับผิดทางกฎหมายต่อเนื้อหาที่ผู้ใช้โพสต์หรือไม่ การหารือมุ่งไปที่มาตรา 79 แห่งกฎหมายเทคโนโลยีสารสนเทศ พ.ศ. 2543 และประเด็นว่าบริษัทที่เลือกโพสต์มาแนะนำควรได้รับความคุ้มครองเช่นเดียวกับบริการที่เพียงส่งผ่านข้อมูลหรือไม่

ข้อเสนอนี้ยังอยู่ในขั้นสำรวจ เจ้าหน้าที่กำลังทบทวนข้อเสนอและความเห็นทางกฎหมาย พร้อมวางแผนหารือกับผู้มีส่วนได้ส่วนเสีย ยังไม่มีการประกาศข้อยุติหรือกรอบเวลา การยกเลิกความคุ้มครองในวงกว้างสำหรับแพลตฟอร์มโซเชียลมีเดียน่าจะต้องแก้ไขกฎหมายไอทีและได้รับความเห็นชอบจากรัฐสภา

แนวทางที่รัฐบาลกำลังพิจารณาอาจยังคงให้ความคุ้มครองแก่ผู้ให้บริการอินเทอร์เน็ต บริการโทรคมนาคม และบริการส่งข้อความ ซึ่งส่งการสื่อสารระหว่างผู้ใช้โดยไม่แทรกแซงเนื้อหา ส่วนแพลตฟอร์มที่จัดอันดับ โปรโมต หรือกดการมองเห็นโพสต์ด้วยอัลกอริทึม อาจต้องอยู่ภายใต้มาตรฐานทางกฎหมายที่ต่างออกไป

ผลกระทบต่อผู้ใช้หลายล้านคนอาจไม่จำกัดอยู่แค่ค่าใช้จ่ายทางกฎหมายของบริษัท ความรับผิดที่เพิ่มขึ้นอาจเปลี่ยนแปลงว่าวิดีโอใดปรากฏในฟีดแนะนำ โพสต์ที่มีข้อโต้แย้งจะถูกนำออกเร็วเพียงใด และแพลตฟอร์มจัดการข้อร้องเรียนเกี่ยวกับดีปเฟกหรือภาพส่วนตัวที่เผยแพร่โดยไม่ได้รับความยินยอมอย่างไร ผู้สร้างเนื้อหาและสำนักข่าวก็อาจเห็นการเปลี่ยนแปลงในระบบที่ช่วยเผยแพร่ผลงานไปยังผู้ชมเช่นกัน

มาตรา 79 คุ้มครองอะไรในปัจจุบัน

กฎหมายเทคโนโลยีสารสนเทศที่รัฐบาลเผยแพร่ระบุว่า มาตรา 79 เป็นข้อยกเว้นความรับผิดของตัวกลางในบางกรณี กล่าวโดยง่ายคือ แยกผู้โพสต์เนื้อหาออกจากบริการที่เป็นผู้จัดเก็บหรือส่งผ่านเนื้อหานั้น พร้อมกำหนดเงื่อนไขที่บริการดังกล่าวต้องปฏิบัติตามจึงจะได้รับความคุ้มครอง

มาตรา 2(w) ให้นิยามตัวกลางไว้อย่างกว้าง ตัวอย่างเช่น ผู้ให้บริการโทรคมนาคม ผู้ให้บริการอินเทอร์เน็ต บริการเว็บโฮสติง เสิร์ชเอนจิน เว็บไซต์ชำระเงินออนไลน์ เว็บไซต์ประมูล และตลาดออนไลน์ ดังนั้น กฎหมายจึงครอบคลุมกลุ่มบริการที่กว้างกว่าบริษัทโซเชียลมีเดียเพียงอย่างเดียวมาก

มาตรา 79(2) ระบุลักษณะการให้บริการที่เข้าหลักเกณฑ์ ซึ่งรวมถึงการให้เข้าถึงระบบสื่อสารที่ใช้ส่ง จัดเก็บชั่วคราว หรือโฮสต์ข้อมูลของบุคคลอื่น นอกจากนี้ยังกำหนดเงื่อนไขเกี่ยวกับการที่ตัวกลางเป็นผู้เริ่มการส่งข้อมูล เลือกผู้รับ หรือเลือกหรือแก้ไขข้อมูลที่ส่ง ตัวกลางต้องปฏิบัติตามหน้าที่ตรวจสอบอย่างรอบคอบและแนวทางของรัฐบาล

มาตรา 79(3) ยกเว้นความคุ้มครองในกรณีที่ตัวกลางสมคบ ช่วยเหลือ หรือชักจูงให้เกิดการกระทำที่ผิดกฎหมาย อีกทั้งยังครอบคลุมกรณีไม่รีบนำเนื้อหาผิดกฎหมายออกหรือระงับการเข้าถึง หลังได้รับทราบตามหลักเกณฑ์หรือได้รับแจ้งจากรัฐบาล โดยต้องเก็บรักษาพยานหลักฐานไว้ คำวินิจฉัยของศาลมีส่วนกำหนดแนวทางการใช้ข้อกำหนดเรื่องการแจ้งดังกล่าว

บริษัทต่าง ๆ มีหน้าที่นอกเหนือจากการนำโพสต์ออกอยู่แล้ว มาตรา 67C กำหนดให้ตัวกลางเก็บรักษาข้อมูลตามที่กำหนด ตลอดระยะเวลาและในรูปแบบที่รัฐบาลระบุ การฝ่าฝืนโดยเจตนาหรือโดยรู้เท่าทันอาจมีโทษจำคุกสูงสุดสามปีและปรับ

เหตุใดระบบแนะนำเนื้อหาจึงเป็นประเด็นสำคัญ

เจ้าหน้าที่รัฐบาลกำลังตรวจสอบว่าวิธีที่บริษัทโซเชียลมีเดียเผยแพร่เนื้อหาเข้าข่ายควบคุมเชิงบรรณาธิการหรือไม่ Facebook, Instagram, YouTube และ X โฮสต์เนื้อหาที่ผู้ใช้สร้างขึ้น แต่ระบบอัตโนมัติของแพลตฟอร์มยังเป็นผู้ตัดสินด้วยว่าโพสต์ใดจะปรากฏเด่นชัด และโพสต์ใดจะได้รับความสนใจเพียงเล็กน้อย

อัลกอริทึมคือชุดคำสั่งที่ซอฟต์แวร์ใช้ ในฟีดแนะนำ ระบบอาจประเมินพฤติกรรมการรับชม การมีส่วนร่วม และคุณลักษณะของโพสต์ เพื่อคาดการณ์ว่าผู้ใช้อาจรับชมหรือตอบสนองต่ออะไร วิดีโอหนึ่งจึงอาจเข้าถึงผู้คนจำนวนมากที่ไม่เคยติดตามผู้สร้างวิดีโอนั้น

รัฐบาลให้เหตุผลว่า การจัดอันดับ การจัดวาง การโปรโมต และการลดการมองเห็น ทำให้แพลตฟอร์มมีบทบาทอย่างแข็งขันในการกำหนดชะตาของโพสต์ เจ้าหน้าที่ยังตรวจสอบด้วยว่าบริษัทบังคับใช้แนวทางชุมชนของตนเองอย่างไร ซึ่งอาจแตกต่างจากข้อกำหนดตามกฎหมายอินเดีย

หากมีการเปลี่ยนแปลงกฎหมายโดยยึดระบบแนะนำเนื้อหาเป็นหลัก วิธีจัดจำหน่ายเนื้อหาจะมีความสำคัญต่อการพิจารณาทางกฎหมายเป็นพิเศษ รัฐบาลจะต้องกำหนดว่ากิจกรรมใดทำให้เกิดความรับผิดเพิ่มเติม และความรับผิดดังกล่าวใช้กับเนื้อหาผิดกฎหมายอย่างไร ขณะเดียวกัน แพลตฟอร์มอาจทบทวนทั้งเนื้อหาที่ตนโฮสต์และเนื้อหาที่แนะนำให้ผู้ชมในวงกว้าง

ความปลอดภัยของเด็กเพิ่มแรงกดดันต่อระบบปัจจุบัน

คำสั่งศาลสูงสุดเมื่อวันที่ 15 ตุลาคมในคดี Just Rights for Children Alliance vs S Harish กลายเป็นส่วนสำคัญของการถกเถียง ศาลเรียกร้องให้จัดทำกรอบบทลงโทษที่ได้สัดส่วนแยกต่างหาก รวมถึงค่าปรับ เพื่อรับมือกับการเผยแพร่สื่อแสวงหาประโยชน์และล่วงละเมิดทางเพศเด็ก

ศาลชี้ให้เห็นปัญหาของการพึ่งพาการเพิกถอนความคุ้มครองจากความรับผิดของตัวกลางเป็นหลัก กล่าวคือ มาตรการนี้อาจรุนแรงเกินไปสำหรับความบกพร่องทั่วไป แต่กลับไม่สามารถยับยั้งการฝ่าฝืนต่อเนื่องได้อย่างเพียงพอ แนวทางที่ศาลเสนอจะสงวนการเพิกถอนความคุ้มครองไว้สำหรับการฝ่าฝืนร้ายแรง และใช้บทลงโทษอื่นกับความบกพร่องที่เบากว่า

การหารือในวงกว้างของกระทรวงกับโครงสร้างบทลงโทษที่ศาลเสนอจึงเกี่ยวข้องกับทางเลือกด้านกฎระเบียบคนละเรื่อง ประเด็นหนึ่งมุ่งพิจารณาว่าบริการใดควรได้รับความคุ้มครอง อีกประเด็นเกี่ยวกับวิธีลงโทษการละเลยหน้าที่โดยไม่ใช้มาตรการรุนแรงที่สุดในทุกกรณี

ศาลสูงสุดยังขอคำชี้แจงจากรัฐบาลกลางและ Meta ต่อคำร้องเพื่อประโยชน์สาธารณะที่ Sreerupa Chowdhury ยื่นเกี่ยวกับการเสพติดอัลกอริทึมและอันตรายออนไลน์ต่อเด็ก คำร้องแสดงความกังวลเรื่องการเลื่อนดูเนื้อหาได้ไม่สิ้นสุด วิดีโอเล่นอัตโนมัติ การแจ้งเตือนแบบพุช การตรวจสอบอายุที่ไม่รัดกุม การล่อลวงเด็กทางออนไลน์ และสื่อการล่วงละเมิดทางเพศเด็ก

ข้อกล่าวหาดังกล่าวทำให้การออกแบบผลิตภัณฑ์เข้ามาเป็นส่วนหนึ่งของการหารือ การเลื่อนดูเนื้อหาได้ไม่สิ้นสุดทำให้มีโพสต์ใหม่ปรากฏต่อเนื่อง ขณะที่วิดีโอเล่นอัตโนมัติจะเริ่มคลิปถัดไปโดยผู้ชมไม่ต้องเลือกใหม่ คำร้องขอให้ศาลพิจารณามาตรการป้องกันอันตรายที่เกี่ยวข้องกับคุณสมบัติเหล่านี้ ควบคู่ไปกับการคุ้มครองจากเนื้อหาผิดกฎหมาย

ข้อขัดแย้งทางการเมืองทำให้การเผชิญหน้ารุนแรงขึ้น

ความสัมพันธ์ระหว่างรัฐบาลกับ Meta ย่ำแย่ลง หลัง Facebook ระงับวิดีโอที่นายกรัฐมนตรีนเรนทรา โมดีอัปโหลดชั่วคราว ระหว่างการประท้วงของนักศึกษาในเดือนกรกฎาคม กระทรวงไอทีเรียกผู้บริหารฝ่ายนโยบายระดับโลกของ Meta เข้าพบ พร้อมแสดงความกังวลเรื่องการปฏิบัติตามกฎหมายอินเดียและดีปเฟก

บทบาทของ Instagram ในการระดมการสนับสนุนระหว่างการประท้วงดังกล่าวยังทำให้รัฐบาลตรวจสอบระบบแนะนำเนื้อหาเข้มงวดขึ้น เจ้าหน้าที่แสดงความกังวลว่า บางครั้งเรื่องเล่าของฝ่ายค้านหรือกลุ่มต่อต้านรัฐบาลได้รับการมองเห็นมากกว่าการสื่อสารของรัฐบาล

ในเดือนสิงหาคม Nishikant Dubey ส.ส. พรรค BJP ซึ่งเป็นประธานคณะกรรมาธิการประจำรัฐสภาด้านการสื่อสารและเทคโนโลยีสารสนเทศ เตือนว่า Meta อาจสูญเสียความคุ้มครองจากความรับผิด เขากล่าวว่าคณะกรรมาธิการแนะนำให้เพิกถอนความคุ้มครองจากแพลตฟอร์มที่ไม่ปฏิบัติตามกฎหมายอินเดีย

การตรวจสอบยังดำเนินต่อในเดือนตุลาคม เมื่อกระทรวงขอให้ Meta เพิ่มความหลากหลายของเรื่องราวที่ปรากฏบน Facebook และ Instagram ท่ามกลางการประท้วงต่อต้าน Gyanesh Kumar ประธานคณะกรรมการการเลือกตั้ง นอกจากนี้ คำแนะนำเมื่อวันที่ 8 ตุลาคมยังขอให้แพลตฟอร์มให้ความสำคัญกับข้อร้องเรียนของรัฐบาลที่เกี่ยวกับความสงบเรียบร้อยของประชาชน และติดป้ายกำกับเนื้อหาที่ทำให้เข้าใจผิด

ในเดือนพฤศจิกายน ศูนย์กฎหมายเสรีภาพซอฟต์แวร์และผู้สร้างเนื้อหากล่าวหาว่า Meta จำกัดเนื้อหาเกี่ยวกับการประท้วงต่อต้าน Gyanesh Kumar ด้วยคีย์เวิร์ดหรือแฮชแท็กตามคำขอของรัฐบาล บัญชีนักข่าวและโพสต์เกี่ยวกับการประท้วงก็ถูกจำกัดเช่นกัน โดยหนังสือแจ้งมักให้รายละเอียดเพียงเล็กน้อยเกี่ยวกับหน่วยงานหรือคำสั่งทางกฎหมายที่เกี่ยวข้อง เหตุการณ์เหล่านี้ทำให้ความโปร่งใสเกี่ยวกับการจำกัดเนื้อหาเป็นประเด็นสำคัญในทางปฏิบัติสำหรับผู้เผยแพร่ความเห็นทางการเมือง

การท้าทายคำสั่งศาลของ X แสดงให้เห็นผลกระทบของหนังสือแจ้งให้นำเนื้อหาออก

X ยื่นคัดค้านกรอบการบล็อกและนำเนื้อหาออกของรัฐบาลกลางแยกต่างหาก ซึ่งรวมถึงการใช้พอร์ทัล Sahyog เพื่อออกหนังสือแจ้ง ในเดือนกันยายน พ.ศ. 2568 ศาลสูงกรณาฏกะยกคำร้องคัดค้านของบริษัท และ X ได้ยื่นอุทธรณ์

ข้อพิพาทนี้เกี่ยวข้องกับวิธีที่คำสั่งของรัฐบาลส่งถึงแพลตฟอร์ม และอำนาจที่ใช้บังคับให้แพลตฟอร์มดำเนินการ ความคุ้มครองจากความรับผิดเป็นอีกประเด็นหนึ่ง การตอบสนองของแพลตฟอร์มต่อหนังสือแจ้งให้นำเนื้อหาออกที่ถูกต้องอาจส่งผลต่อการคงความคุ้มครองจากความรับผิดสำหรับเนื้อหานั้น

พัฒนาการสำคัญมีขึ้นตลอดหลายเดือน ดังนี้:

• กรกฎาคม: กระทรวงไอทีเรียกผู้บริหาร Meta เข้าพบ หลัง Facebook ระงับวิดีโอของโมดีชั่วคราวระหว่างการประท้วงของนักศึกษา กระทรวงยังสั่งให้ WhatsApp ระงับแผนเปิดใช้ฟีเจอร์ชื่อผู้ใช้ไว้ก่อนจนกว่าจะมีการหารือ
• สิงหาคม: Nishikant Dubey ประธานคณะกรรมาธิการรัฐสภาเตือนว่า Meta อาจสูญเสียความคุ้มครองจากความรับผิด
• กันยายน พ.ศ. 2568: ศาลสูงกรณาฏกะยกคำร้องคัดค้านกลไกการนำเนื้อหาออกของรัฐบาล X ยื่นอุทธรณ์
• 8 ตุลาคม: กระทรวงออกคำแนะนำเกี่ยวกับข้อร้องเรียนด้านความสงบเรียบร้อยของประชาชนและการติดป้ายกำกับเนื้อหาที่ทำให้เข้าใจผิด
• 15 ตุลาคม: ศาลสูงสุดเรียกร้องให้ใช้บทลงโทษที่ได้สัดส่วนในคดีคุ้มครองเด็ก
• พฤศจิกายน: ศูนย์กฎหมายเสรีภาพซอฟต์แวร์และผู้สร้างเนื้อหากล่าวหาว่ามีการจำกัดเนื้อหาเกี่ยวกับการประท้วงต่อต้าน Gyanesh Kumar

แผนใช้ชื่อผู้ใช้ของ WhatsApp เป็นประเด็นอีกด้าน

ฟีเจอร์ชื่อผู้ใช้ที่ WhatsApp เสนอจะช่วยให้ผู้คนติดต่อกันได้โดยไม่ต้องเปิดเผยหมายเลขโทรศัพท์ ในเดือนกรกฎาคม กระทรวงไอทีสั่งให้บริษัทระงับการเปิดใช้ฟีเจอร์ไว้ก่อนจนกว่าจะมีการหารือ โดยอ้างความกังวลเรื่องการแอบอ้างตัวตน ฟิชชิง และการฉ้อโกงทางการเงิน

ฟิชชิงคือการหลอกให้บุคคลเปิดเผยข้อมูลสำคัญหรือส่งเงิน โดยมักแอบอ้างเป็นบุคคลหรือองค์กรที่น่าเชื่อถือ การใช้ชื่อผู้ใช้อาจลดความจำเป็นในการเปิดเผยหมายเลขโทรศัพท์ แต่ก็เปลี่ยนวิธีที่ผู้คนใช้จดจำและตรวจสอบตัวตนของผู้ติดต่อด้วย

รัฐบาลกำลังพิจารณากำหนดให้บริการโซเชียลมีเดียและบริการส่งข้อความต้องแจ้งหน่วยงานก่อนเปิดตัวการเปลี่ยนแปลงผลิตภัณฑ์ครั้งใหญ่ที่อาจกระทบความปลอดภัยของผู้ใช้ กลไกดังกล่าวจะเปิดโอกาสให้เจ้าหน้าที่ตรวจสอบความเสี่ยงก่อนฟีเจอร์จะถึงมือผู้ใช้

ดังนั้น บริการส่งข้อความจึงมีสถานะสองด้านในการหารือ บริการที่เพียงส่งข้อความอาจยังได้รับความคุ้มครองจากความรับผิดภายใต้แนวทางที่เสนอ แต่ยังคงถูกตรวจสอบฟีเจอร์ใหม่และผลกระทบต่อความปลอดภัยได้

ช่องทางร้องเรียนที่รวดเร็วขึ้นสำหรับผู้ตกเป็นเป้าของดีปเฟก

กระทรวงกำลังพิจารณาวิธีที่เข้มแข็งขึ้นเพื่อให้บุคคลร้องขอให้นำดีปเฟก เนื้อหาทางเพศโจ่งแจ้งที่เผยแพร่โดยไม่ได้รับความยินยอม และภาพหรือวิดีโออื่นที่นำอัตลักษณ์ของตนไปใช้ในทางมิชอบออกจากระบบ ดีปเฟกคือสื่อสังเคราะห์หรือดัดแปลงที่ทำให้ดูเหมือนมีผู้พูดหรือทำสิ่งที่ตนไม่ได้พูดหรือทำจริง

กลไกที่เสนอจะเปิดทางให้ผู้ได้รับผลกระทบติดต่อแพลตฟอร์มโดยตรงเพื่อขอให้ดำเนินการเร็วขึ้น เจ้าหน้าที่ต้องการให้ข้อร้องเรียนจากบุคคลที่ปรากฏในเนื้อหามีน้ำหนักมากขึ้น แทนที่จะปล่อยให้การตอบสนองขึ้นอยู่กับการตัดสินใจกลั่นกรองภายในของบริษัทเป็นหลัก หรือบังคับให้บุคคลนั้นต้องเข้าสู่กระบวนการทางกฎหมาย

สำหรับผู้ที่ภาพส่วนตัวกำลังถูกเผยแพร่โดยไม่ได้รับความยินยอม ความรวดเร็วเป็นเรื่องสำคัญ เพราะสำเนาอาจแพร่กระจายระหว่างที่กำลังดำเนินการข้อร้องเรียน ประเด็นในทางปฏิบัติคือผู้เสียหายจะระบุเนื้อหา ติดต่อทีมที่รับผิดชอบ และได้รับคำวินิจฉัยอย่างทันท่วงทีได้หรือไม่

กฎเทคโนโลยีสารสนเทศ (แนวทางสำหรับตัวกลางและจรรยาบรรณสื่อดิจิทัล) ของอินเดีย ซึ่งประกาศใช้เมื่อวันที่ 25 กุมภาพันธ์ 2564 ได้ขยายข้อกำหนดด้านการตรวจสอบอย่างรอบคอบไว้แล้ว โดยครอบคลุมการจัดการข้อร้องเรียน การเก็บรักษาข้อมูล การให้ความช่วยเหลือแก่หน่วยงานรัฐ และการนำเนื้อหาลามกอนาจารออก การหารือในขณะนี้มุ่งเพิ่มความเข้มแข็งให้มาตรการที่ผู้ได้รับผลกระทบเข้าถึงได้ภายใต้กรอบดังกล่าว

ศาลอินเดียเคยพิจารณาบทบาทเชิงรุกมาแล้ว

Safir Anand หุ้นส่วนอาวุโสของสำนักงานกฎหมาย Anand and Anand กล่าวถึงการสร้างสมดุลระหว่างความคุ้มครองกับความรับผิดในบทวิเคราะห์ความรับผิดของตัวกลางของสำนักงาน เขาย้อนดูบทบาทของคำวินิจฉัยในคดี Shreya Singhal v. Union of India เมื่อปี 2558 และ Myspace v. Super Cassettes เมื่อปี 2560 ซึ่งมีส่วนกำหนดแนวทางพิจารณาการรับรู้จริงและหน้าที่นำเนื้อหาออก

Anand ให้เหตุผลว่า กฎระเบียบควรเปิดพื้นที่ให้การแสดงออกที่ชอบด้วยกฎหมาย พร้อมกำหนดให้ตัวกลางปฏิบัติตามหน้าที่ เขาเขียนว่า:

ในบริบทนี้ จำเป็นต้องสร้างสมดุลระหว่างการให้ข้อยกเว้นกับการกำหนดความรับผิด

บทวิเคราะห์ของสำนักงานยังพิจารณาคดี Christian Louboutin v. Nakul Bajaj เมื่อปี 2561 ซึ่งศาลสูงเดลีพิจารณาความแตกต่างระหว่างตัวกลางกับผู้ดำเนินการเชิงรุกในการขายออนไลน์ กิจกรรมที่เกี่ยวข้องรวมถึงการโปรโมต การเก็บเงิน การรับประกันคุณภาพ และการรับรองความแท้

อีกคดีหนึ่งที่กล่าวถึงในบทวิเคราะห์คือ Amazon Seller Services v. Modicare ซึ่งรับรองว่าการให้บริการนอกเหนือจากการโฮสต์ขั้นพื้นฐานไม่ได้ทำให้ตลาดออนไลน์สูญเสียความคุ้มครองโดยอัตโนมัติ สำหรับข้อถกเถียงเรื่องโซเชียลมีเดีย คดีเหล่านี้แสดงให้เห็นว่าเหตุใดกิจกรรมที่เกี่ยวข้องและถ้อยคำในหลักเกณฑ์ทางกฎหมายใหม่จึงมีความสำคัญ

ประเทศอื่นมีทางเลือกด้านกฎระเบียบแตกต่างกัน

ในปี 2566 ศาลสูงสุดสหรัฐฯ พิจารณาข้อพิพาทเกี่ยวกับการแนะนำวิดีโอของ YouTube ครอบครัวของหญิงที่เสียชีวิตจากเหตุโจมตีก่อการร้ายในปารีสเมื่อปี 2558 โต้แย้งว่าระบบแนะนำช่วยให้กลุ่มรัฐอิสลามเผยแพร่โฆษณาชวนเชื่อและรับสมัครผู้สนับสนุน พร้อมคัดค้านการที่ Google ได้รับความคุ้มครองตามมาตรา 230 แห่งกฎหมาย Communications Decency Act

ศาลส่งคดีกลับไปพิจารณาใหม่ภายหลังมีคำวินิจฉัยในคดีที่เกี่ยวข้องกับการช่วยเหลือการก่อการร้าย และไม่ได้ชี้ขาดประเด็นที่กว้างกว่าว่าการแนะนำเนื้อหาด้วยอัลกอริทึมอยู่นอกความคุ้มครองตามมาตรา 230 หรือไม่

กฎหมายบริการดิจิทัลของสหภาพยุโรปใช้แนวทางที่กำหนดหน้าที่เกี่ยวกับระบบแนะนำเนื้อหา โดยกำหนดให้เปิดเผยข้อมูลเกี่ยวกับวิธีทำงานของระบบและทางเลือกของผู้ใช้ รวมถึงต้องมีตัวเลือกการแนะนำที่ไม่อาศัยการทำโปรไฟล์สำหรับแพลตฟอร์มขนาดใหญ่มาก และยังกำหนดให้ประเมินความเสี่ยง

คำวินิจฉัยของศาลยุติธรรมแห่งสหภาพยุโรปเมื่อปี 2564 ระบุว่า การจัดทำดัชนี ฟังก์ชันค้นหา และการแนะนำวิดีโอเพียงอย่างเดียว ยังไม่เพียงพอที่จะยืนยันว่ามีบทบาทเชิงรุกซึ่งทำให้แพลตฟอร์มรับรู้หรือควบคุมเนื้อหาผิดกฎหมาย การพิจารณาของอินเดียจึงเป็นส่วนหนึ่งของการถกเถียงในวงกว้างเกี่ยวกับการกำหนดความรับผิดชอบต่อการเผยแพร่เนื้อหาอัตโนมัติ

สำหรับผู้ใช้อินเดีย ประเด็นสำคัญเป็นเรื่องที่จับต้องได้ ได้แก่ จะนำเนื้อหาที่เป็นอันตรายออกได้เร็วขึ้นหรือไม่ แพลตฟอร์มจะอธิบายการจำกัดเนื้อหาหรือไม่ และคำพูดที่ชอบด้วยกฎหมายจะถูกลดการมองเห็นเพราะบริษัทกลัวความเสี่ยงทางกฎหมายหรือไม่ ขอบเขตของการแก้ไขกฎหมาย บทลงโทษที่เสนอ และกระบวนการร้องเรียน จะเป็นตัวกำหนดวิธีจัดการกับข้อกังวลที่ขัดแย้งกันเหล่านี้

ประเด็นสำคัญ

• อินเดียกำลังพิจารณาจำกัดความคุ้มครองตามมาตรา 79 สำหรับแพลตฟอร์มโซเชียลมีเดียที่ใช้อัลกอริทึมกำหนดการมองเห็นเนื้อหา
• การหารือยังอยู่ในขั้นต้น การเปลี่ยนแปลงในวงกว้างน่าจะต้องให้รัฐสภาแก้ไขกฎหมายไอที
• บริการที่เพียงส่งผ่านข้อมูล รวมถึงบริการส่งข้อความที่เข้าเกณฑ์ อาจยังได้รับความคุ้มครอง
• ศาลสูงสุดเรียกร้องให้ใช้บทลงโทษที่ได้สัดส่วน รวมถึงค่าปรับ และสงวนการเพิกถอนความคุ้มครองไว้สำหรับการฝ่าฝืนร้ายแรง
• ข้อเสนอแยกต่างหากเกี่ยวข้องกับการแจ้งล่วงหน้าเมื่อมีการเปลี่ยนแปลงผลิตภัณฑ์ครั้งใหญ่ และช่องทางร้องเรียนที่รวดเร็วขึ้นกรณีดีปเฟกและภาพส่วนตัวที่เผยแพร่โดยไม่ได้รับความยินยอม
• ข้อพิพาทเรื่องเนื้อหาทางการเมืองและการคัดค้านกลไกการนำเนื้อหาออกของ X ทำให้การถกเถียงเรื่องความรับผิดและเสรีภาพในการแสดงออกออนไลน์เข้มข้นขึ้น