มหาวิทยาลัยเจ้อเจียงเสนอร่างกฎหมาย AI ที่กำหนดให้ระบบเหมาะสมกับงานที่ได้รับมอบหมาย

ข้อเสนอ 99 มาตราว่าด้วยการกำหนดขอบเขตการทำงานของ AI

นักวิจัยจากมหาวิทยาลัยเจ้อเจียงเผยแพร่ข้อเสนอร่างกฎหมายปัญญาประดิษฐ์สำหรับผู้เชี่ยวชาญ ซึ่งประกอบด้วย 8 หมวด 99 มาตรา โดยมีแนวคิดหลักว่า อำนาจที่มอบให้ระบบ AI ควรสอดคล้องกับความน่าเชื่อถือของระบบและผลกระทบจากงานที่ระบบทำ

ข้อเสนอฉบับมหาวิทยาลัยเจ้อเจียง เวอร์ชัน 1.0 เปิดตัวในงานเมื่อวันที่ 24 กันยายน ประกาศอย่างเป็นทางการของมหาวิทยาลัยระบุว่าจัดงานในวันที่ 24 กันยายน 2026 เวลา 14.00-17.30 น. ที่วิทยาเขตจื่อจินกัง วาระของงานครอบคลุมทั้งการพัฒนาอุตสาหกรรม การคุ้มครองสิทธิ และความรับผิด ซึ่งสะท้อนโจทย์สองด้านที่ข้อเสนอนี้มุ่งตอบ

สำหรับผู้ที่ได้รับผลกระทบจาก AI ข้อกังวลในทางปฏิบัติเกิดขึ้นทันที ผู้พัฒนาโมเดลนำผลงานของนักวาดภาพประกอบไปใช้ฝึกระบบโดยไม่ได้รับอนุญาตได้หรือไม่? ใครต้องรับผิดชอบเมื่อโมเดลภาษาตอบผิดและก่อให้เกิดอันตราย? ผู้คนจะเก็บหลักฐานและเรียกร้องการเยียวยาได้อย่างไร เมื่อวิดีโอที่ใช้ใบหน้าของตนโดยไม่ได้รับอนุญาตแพร่กระจายทางออนไลน์?

ธุรกิจเผชิญข้อกังวลอีกชุดหนึ่ง ได้แก่ ข้อกำหนดด้านการปฏิบัติตามกฎระเบียบที่ทับซ้อนกัน ขั้นตอนที่ยุ่งยากก่อนนำผลิตภัณฑ์ไปใช้ และต้นทุนที่บริษัทขนาดเล็กอาจรับมือได้ยาก นักวิจัยระบุว่าแนวทางของพวกเขามุ่งคุ้มครองสิทธิไปพร้อมกับตอบสนองต่อแรงกดดันเหล่านี้

เอกสารนี้เป็นข้อเสนอทางวิชาการเพื่อการอภิปรายและปรับปรุงเพิ่มเติม แนวคิดที่พัฒนาไว้ชัดเจนที่สุดคือวิธีประเมิน AI ในบริบทเฉพาะ โดยเชื่อมโยงความสามารถของระบบ ความน่าเชื่อถือในการทำงาน และผลได้ผลเสียที่เกิดกับผู้ได้รับผลกระทบ

ที่มาของร่างข้อเสนอ

คณะผู้ร่างใช้เวลาเกือบ 6 เดือนจัดทำข้อเสนอ และปรับแก้เข้มข้น 5 รอบ จากร่างเบื้องต้น 174 มาตราเหลือ 99 มาตรา ลดลง 75 มาตรา หรือประมาณ 43% แสดงให้เห็นว่ามีการย่อเนื้อหาอย่างมากระหว่างการจัดทำ แม้จำนวนมาตราเพียงอย่างเดียวจะบอกได้ไม่มากว่าข้อกำหนดแต่ละข้อจะสร้างภาระให้ผู้ใช้หรือบริษัทเพียงใด

นักวิจัยลงพื้นที่เยี่ยมชมธุรกิจ AI ในหางโจวมากกว่า 20 แห่ง รวมถึงบริษัทอินเทอร์เน็ตชั้นนำ งานของพวกเขายังอาศัยการหารือในเวทีนิติบัญญัติจื้อเจียง การแลกเปลี่ยนความเห็นกับกระทรวงและคณะกรรมาธิการที่เกี่ยวข้อง ตลอดจนการทบทวนโดยผู้เชี่ยวชาญหลายรอบ การวิจัยดำเนินควบคู่กับการจัดทำร่างข้อบัญญัติท้องถิ่นสองฉบับ ว่าด้วยอุตสาหกรรม AI ของหางโจวและการพัฒนาเมืองให้เป็นเมืองแห่งนวัตกรรม

ผู้จัดงานประกอบด้วยคณะนิติศาสตร์กวงหัว มหาวิทยาลัยเจ้อเจียง สถาบันวิจัยกฎหมายและธรรมาภิบาลดิจิทัลของมหาวิทยาลัย สถาบันวิจัยนิติบัญญัติเจ้อเจียง และสถาบันวิจัยนิติบัญญัติมหาวิทยาลัยเจ้อเจียง วาระอย่างเป็นทางการระบุให้หลี่ เหวินหลง นักวิจัยจากคณะนิติศาสตร์กวงหัว เป็นผู้เผยแพร่และแนะนำข้อเสนอ

ลำดับการจัดทำและเปิดตัวมีดังนี้:

• ตลอดเกือบ 6 เดือน คณะทำงานลงพื้นที่หารือกับธุรกิจ รับฟังความเห็น และปรับแก้ 5 รอบ
• วันที่ 24 กันยายน มีการนำเสนอข้อเสนอที่มหาวิทยาลัยเจ้อเจียง โดยประกาศอย่างเป็นทางการระบุว่าจัดงานในปี 2026
• หลังการประชุม คณะทำงานวางแผนรวบรวมข้อเสนอแนะและจัดทำฉบับต่อไป

สามคำถามเบื้องหลังข้อเสนอ

ซุน เซี่ยวเสีย ผู้อำนวยการสถาบันวิจัยกฎหมายและธรรมาภิบาลดิจิทัลของมหาวิทยาลัยเจ้อเจียง อธิบายกรอบนี้ผ่านองค์ประกอบสามประการที่เชื่อมโยงกัน ได้แก่ ความสามารถในการปฏิบัติงาน วุฒิภาวะด้านการรับรู้ และลักษณะกับผลกระทบของงาน กล่าวอย่างง่ายคือ ระบบ AI ทำอะไรได้ เชื่อถือได้เพียงใด และการตัดสินใจของระบบมีความสำคัญมากแค่ไหน

ซุนอธิบายมุมมองของเขาเกี่ยวกับที่มาของความเสี่ยงจาก AI เป็นภาษาจีนว่า:

เราเชื่อว่าความเสี่ยงของปัญญาประดิษฐ์ไม่ได้เกิดจากเครื่องจักรทรงพลังเพียงใด แต่เกิดจากความไม่สอดคล้องกันระหว่างความสามารถ การรับรู้ และงาน

ระบบหนึ่งอาจทำงานต่อเนื่องเป็นขั้นตอนยาวนานได้โดยไม่มีคนเข้ามาแทรกแซง แต่กลับรับมือกับสถานการณ์ผิดปกติได้ไม่ดี การมอบหมายงานที่เกี่ยวข้องกับความปลอดภัยส่วนบุคคลให้ระบบดังกล่าวย่อมสร้างช่องว่างอันตรายระหว่างอิสระในการดำเนินการกับความสามารถในการตัดสินว่าเกิดข้อผิดพลาดขึ้นหรือไม่

ข้อเสนอจึงไม่ได้พิจารณาเพียงป้ายกำกับเดียวที่ใช้กับเทคโนโลยี หน่วยงานกำกับดูแลจะพิจารณาระบบแต่ละเวอร์ชัน วัตถุประสงค์การใช้งาน และสภาพแวดล้อมที่ระบบทำงาน เทคโนโลยีพื้นฐานเดียวกันอาจต้องอยู่ภายใต้มาตรการควบคุมต่างกัน เมื่อใช้กับงานคนละประเภท

ประเมินความสามารถและความน่าเชื่อถือแยกจากกัน

ระดับความสามารถตามข้อเสนอแบ่งเป็น 4 ระดับ ได้แก่ การช่วยเหลือ ระบบอัตโนมัติแบบจำกัด ระบบอัตโนมัติระดับสูง และการปฏิบัติงานโดยอัตโนมัติ การประเมินจะพิจารณาว่าระบบทำงานได้อย่างอิสระเพียงใด การตัดสินใจส่งผลกว้างขวางแค่ไหน เข้าถึงเครื่องมือใดได้บ้าง ทำงานต่อเนื่องได้นานเพียงใด และเปลี่ยนแปลงสภาพแวดล้อมดิจิทัลหรือทางกายภาพได้หรือไม่

การเข้าถึงเครื่องมือมีความสำคัญ เพราะระบบ AI ที่เพียงแนะนำให้ทำบางอย่างย่อมมีขอบเขตอำนาจต่างจากระบบที่ได้รับอนุญาตให้ลงมือทำเอง การอนุญาตให้ควบคุมซอฟต์แวร์หรืออุปกรณ์อื่นอาจทำให้คำตอบที่ผิดพลาดนำไปสู่การกระทำจริงต่อเนื่องเป็นลำดับ

วุฒิภาวะด้านการรับรู้ก็แบ่งเป็น 4 ระดับ ได้แก่ ขั้นพื้นฐาน ทั่วไป ระดับสูง และระดับควบคุมสูง การประเมินจะพิจารณาความแม่นยำ ความสม่ำเสมอ ความสามารถในการรับรู้ข้อมูลนำเข้าที่ผิดปกติและแก้ไขข้อผิดพลาด ความมั่นคงปลอดภัยทางไซเบอร์ การตรวจสอบย้อนกลับ และเงื่อนไขที่บุคคลจะเข้าควบคุมระบบได้

อีกปัจจัยหนึ่งคือการประเมินความสอดคล้องของระดับความมั่นใจ กล่าวง่าย ๆ คือ ตรวจสอบว่าความมั่นใจที่ระบบแสดงออกมาตรงกับความถี่ที่ระบบตอบถูกหรือไม่ ระบบที่แสดงความมั่นใจทั้งที่มักตอบผิดอาจทำให้ผู้ใช้กำกับดูแลได้ยากเป็นพิเศษ

กรอบนี้จะพิจารณาด้วยว่าสามารถอธิบายผลลัพธ์สำคัญได้หรือไม่ และระบบสามารถทำงานอยู่ภายในขอบเขตที่กำหนดได้หรือไม่ การแยกความสามารถออกจากความน่าเชื่อถือช่วยให้หน่วยงานกำกับดูแลระบุได้ว่าระบบใดมีพลังมากพอจะทำงานได้อย่างอิสระ แต่ยังไม่น่าเชื่อถือเพียงพอสำหรับงานที่มีความอ่อนไหว

งานประเภทใดจะถูกตรวจสอบเข้มงวดขึ้น?

ข้อเสนอแบ่งงานตามระดับผลกระทบเป็น 3 ระดับ ได้แก่ ต่ำ ทั่วไป และสูง การประเมินจะพิจารณาความสำคัญของสิทธิที่ได้รับผลกระทบ โอกาสเกิดอันตรายและความรุนแรง จำนวนผู้ได้รับผลกระทบ ระยะเวลาที่ผลกระทบคงอยู่ การย้อนคืนผลลัพธ์ และความสามารถของผู้ได้รับผลกระทบในการขอรับการเยียวยา

ความเปราะบางก็เป็นปัจจัยสำคัญเช่นกัน การตัดสินใจที่ส่งผลต่อผู้ซึ่งมีข้อจำกัดในการคัดค้านอาจต้องได้รับการตรวจสอบใกล้ชิดกว่าการตัดสินใจลักษณะเดียวกันที่ส่งผลต่อผู้ซึ่งเข้าถึงความช่วยเหลือได้สะดวก

งานที่เกี่ยวข้องกับชีวิตและสุขภาพ เสรีภาพส่วนบุคคล ศักดิ์ศรีความเป็นมนุษย์ โอกาสที่เท่าเทียม ผลประโยชน์ด้านทรัพย์สินที่สำคัญ การศึกษา การจ้างงาน หลักประกันทางสังคม กระบวนการยุติธรรม การบังคับใช้กฎหมายปกครอง หรือความปลอดภัยสาธารณะ จะถูกสันนิษฐานว่ามีผลกระทบสูง งานที่อาจส่งผลกระทบอย่างมีนัยสำคัญต่อคนจำนวนมากก็จะถูกจัดอยู่ในเกณฑ์เดียวกัน

ข้อเสนอยังระบุว่าห้ามพัฒนา นำไปใช้ หรือใช้งานแอปพลิเคชัน AI ที่ถูกห้าม ไม่ว่าการใช้งานนั้นจะถูกจัดอยู่ในระดับผลกระทบใดก็ตาม รายละเอียดที่เผยแพร่พร้อมข้อเสนอไม่ได้ระบุรายชื่อแอปพลิเคชันต้องห้ามอย่างชัดเจน หรือคำตอบทางกฎหมายที่แน่นอนต่อข้อพิพาทเรื่องลิขสิทธิ์ คำตอบที่ผิดพลาด และการนำใบหน้าผู้อื่นไปใช้ ซึ่งยกขึ้นมาตั้งแต่ต้น

ตัวอย่างทางการแพทย์อธิบายหลักการจับคู่งาน

ซุนยกตัวอย่างการวิเคราะห์ภาพทางการแพทย์และพยาธิวิทยา เพื่อชี้ให้เห็นว่า งานที่มอบหมายให้ระบบมีความสำคัญไม่น้อยไปกว่าความสามารถทางเทคนิค AI ประมวลผลภาพและข้อมูลทางการแพทย์ปริมาณมากได้อย่างรวดเร็ว แต่ความสามารถในการใช้เหตุผลอาจยังมีข้อจำกัดเมื่อต้องเผชิญกรณียากหรือผิดปกติ

การมอบหมายงานที่เหมาะสมต้องคำนึงถึงคุณสมบัติทั้งสองด้าน การมอบความรับผิดชอบทั้งหมดในการวินิจฉัยกรณียากให้ระบบ พร้อมกับเชื่อมั่นในการตัดสินใจของระบบมากเกินไป จะทำให้เกิดความไม่สอดคล้องกันซึ่งกรอบนี้มุ่งแก้ไข

ซุนอธิบายเป้าหมายเป็นภาษาจีนว่า:

การกำหนดให้เกิดความสอดคล้องกันแตกต่างจากการกำหนดข้อจำกัดเพียงอย่างเดียว แต่เป็นการแสวงหาความสอดคล้องที่ดีที่สุดระหว่างความสามารถ การรับรู้ และงาน

ในมุมมองของเขา ระบบที่ทำงานได้ไม่ดีเมื่อต้องรับงานซับซ้อนอาจถูกมอบหมายให้ทำงานที่ซับซ้อนน้อยลง แทนที่จะถูกยกเลิกใช้งาน ดังนั้น ทางเลือกในทางปฏิบัติจึงมีมากกว่าการอนุญาตให้ใช้อย่างไร้ข้อจำกัดหรือห้ามใช้โดยสิ้นเชิง หน่วยงานและผู้ปฏิบัติงานอาจปรับเปลี่ยนงาน สิทธิที่ระบบได้รับ หรือระดับการมีส่วนร่วมของมนุษย์ได้

สำหรับโรงพยาบาล แนวทางนี้จะมุ่งให้ความสำคัญกับงานที่มอบหมายให้ AI โดยเฉพาะและมาตรการคุ้มครองที่รองรับ ส่วนผู้ป่วยจะให้ความสำคัญกับคำถามว่าบทบาทของระบบเหมาะสมกับความร้ายแรงของการตัดสินใจหรือไม่

การอนุมัติต้องปรับเปลี่ยนตามพัฒนาการของ AI

กระบวนการกำกับดูแลตามข้อเสนอครอบคลุม 6 ขั้นตอน ได้แก่ การวิจัยและพัฒนา การทดสอบ การนำไปใช้ การดำเนินงาน การปรับปรุง และการถอนระบบออกจากการใช้งาน การจัดประเภทจะดำเนินต่อเนื่องตลอดทุกขั้นตอน เพราะความสามารถและสภาพแวดล้อมของระบบอาจเปลี่ยนแปลงหลังเริ่มใช้งาน

การปรับปรุงโมเดลอาจเพิ่มขอบเขตการกระทำที่ระบบทำได้ การขยายไปยังสภาพแวดล้อมใหม่อาจทำให้ผู้คนจำนวนมากขึ้นหรือผลประโยชน์ที่อ่อนไหวขึ้นได้รับผลจากการตัดสินใจของระบบ ข้อมูลใหม่ยังอาจเปลี่ยนพฤติกรรมของโมเดล รวมถึงลดความน่าเชื่อถือในแบบที่ไม่ปรากฏให้เห็นระหว่างการทดสอบก่อนหน้า

ข้อเสนอเรียกร้องให้ประเมินใหม่เมื่อระบบหรืองานเปลี่ยนแปลง การประเมินจะผูกกับเวอร์ชัน วัตถุประสงค์ และสภาพแวดล้อมการทำงานที่เป็นรูปธรรม ทำให้ผู้ปฏิบัติงานมีเหตุให้ทบทวนหน้าที่ของตนเมื่อองค์ประกอบใดองค์ประกอบหนึ่งเปลี่ยนไป

ซุนระบุว่า หลักการจับคู่อาจใช้กำหนดกฎเกณฑ์ทางกฎหมายได้ 8 ด้าน ได้แก่ การจัดประเภท การกำหนดหน้าที่ การประเมิน การระบุการใช้งานที่มีผลกระทบสูง ระดับความเข้มข้นของการกำกับดูแล มาตรการควบคุมความเสี่ยง ความรับผิดทางกฎหมาย และการปรับเปลี่ยนตามเวลา การเชื่อมโยงการตัดสินใจเหล่านี้เข้าด้วยกันด้วยกรอบเดียวคือความพยายามหลักของข้อเสนอในการทำให้การกำกับดูแล AI มีความเป็นระบบมากขึ้น

การคุ้มครองสิทธิและหน้าที่ของธุรกิจต้องพิจารณารายละเอียด

คำถามเกี่ยวกับนักวาดภาพประกอบ คำตอบที่ผิดพลาด และวิดีโอปลอมแสดงให้เห็นว่าเหตุใดความรับผิดจึงมีความสำคัญนอกเหนือจากการทดสอบทางเทคนิค ผู้ที่ต้องการเรียกค่าชดเชยหรือขอให้นำเนื้อหาที่ก่ออันตรายออกจำเป็นต้องมีช่องทางที่ใช้ได้จริง เพื่อเชื่อมโยงความเสียหายที่เกิดขึ้นกับผู้ที่ต้องรับผิดชอบ

ข้อเสนอวางความรับผิดทางกฎหมายไว้ในกรอบการจับคู่ดังกล่าว ทำให้ความเหมาะสมของระบบกับงานที่ได้รับมอบหมายเป็นปัจจัยประกอบการพิจารณาหน้าที่และความรับผิด อย่างไรก็ตาม ความเชื่อมโยงระหว่างผลการประเมินกับกฎว่าด้วยความรับผิดทางแพ่งที่มีอยู่ เป็นหนึ่งในประเด็นที่ซุนระบุว่ายังต้องศึกษาอย่างละเอียดเพิ่มเติม

นักวิจัยยังต้องกำหนดวิธีทดสอบวุฒิภาวะด้านการรับรู้ และกำหนดว่าช่องว่างระหว่างความสามารถ ความน่าเชื่อถือ และข้อเรียกร้องของงานต้องมากเพียงใดจึงจะถือว่าไม่สอดคล้องกัน การตัดสินใจเหล่านี้จะเป็นตัวกำหนดว่าบริษัทจะนำกรอบไปใช้ได้อย่างสม่ำเสมอเพียงใด และหน่วยงานกำกับดูแลจะตรวจสอบการประเมินได้อย่างมีประสิทธิภาพแค่ไหน

วาระเปิดตัวนำความต้องการเชิงปฏิบัติที่แตกต่างกันเหล่านี้มารวมไว้ในกำหนดการเดียว ช่วงเสวนาเรื่องอุตสาหกรรมระบุชื่อผู้เชี่ยวชาญกฎหมายจาก Meituan และ Douyin ร่วมกับผู้เข้าร่วมจากแวดวงวิชาการและเทคนิค ส่วนช่วงว่าด้วยสิทธิและความรับผิดระบุชื่อผู้อำนวยการด้านการปฏิบัติตามกฎระเบียบของ Alibaba ทนายความ และนักวิชาการมหาวิทยาลัย การเชิญบุคคลเหล่านี้สะท้อนมุมมองที่ผู้จัดต้องการให้เข้าร่วมการอภิปราย แต่กำหนดการไม่ได้เป็นหลักฐานว่าผู้เข้าร่วมมีจุดยืนร่วมกันต่อร่างข้อเสนอ

สำหรับธุรกิจขนาดเล็ก ประเด็นสำคัญในทางปฏิบัติคือจำนวนการประเมินที่ต้องทำ หลักฐานที่ต้องจัดเตรียม และวิธีเปลี่ยนแปลงข้อผูกพันเมื่อผลิตภัณฑ์พัฒนาขึ้น สำหรับผู้ได้รับผลกระทบจาก AI ประเด็นสำคัญคือข้อผูกพันเหล่านี้ช่วยป้องกันความเสียหายและสนับสนุนการเยียวยาที่ใช้ได้จริงเมื่อเกิดปัญหาหรือไม่

คณะวิจัยวางแผนปรับปรุงข้อเสนอโดยใช้ข้อเสนอแนะจากการประชุม งานสำคัญในขณะนี้คือการแปลงหลักการจับคู่ให้เป็นการทดสอบ เกณฑ์ และกฎความรับผิดที่ผู้คนสามารถนำไปใช้กับข้อพิพาทจริงและการตัดสินใจเกี่ยวกับผลิตภัณฑ์ได้

ประเด็นสำคัญ

• ข้อเสนอร่างกฎหมาย AI สำหรับผู้เชี่ยวชาญของมหาวิทยาลัยเจ้อเจียงประกอบด้วย 8 หมวด 99 มาตรา ปรับลดจากร่างแรก 174 มาตรา
• กรอบนี้เชื่อมโยงความสามารถในการปฏิบัติงาน ความน่าเชื่อถือด้านการรับรู้ และงานที่ได้รับมอบหมายให้ระบบ
• งานที่เกี่ยวข้องกับสุขภาพ เสรีภาพ การจ้างงาน การศึกษา และประเด็นอ่อนไหวอื่น ๆ จะถูกสันนิษฐานว่ามีผลกระทบสูง
• การประเมินจะครอบคลุมวงจรการพัฒนาและการใช้งานทั้งหมด และเปลี่ยนแปลงเมื่อระบบหรืองานที่ทำเปลี่ยนไป
• ข้อเสนอทางวิชาการจะได้รับการปรับปรุงเพิ่มเติม โดยยังต้องพัฒนารายละเอียดด้านวิธีทดสอบ เกณฑ์ และกฎความรับผิด