เกาหลีใต้ประกาศใช้กฎหมาย AI ฉบับครอบคลุมฉบับแรกของโลก มุ่งสร้างสมดุลระหว่างนวัตกรรมกับความปลอดภัย

เกาหลีใต้ก้าวขึ้นนำโลกด้วยกฎหมายพื้นฐานด้าน AI

เกาหลีใต้ประกาศใช้กฎหมายชุดแรกของโลกที่ครอบคลุมการกำกับดูแลปัญญาประดิษฐ์อย่างเป็นทางการ ตามที่รัฐบาลระบุ กฎหมายพื้นฐานด้าน AI (AI Basic Act) ซึ่งมี 6 หมวด 43 มาตรา มีผลบังคับใช้เมื่อวันพฤหัสบดี โดยวางกรอบกำกับดูแลที่ครอบคลุมกิจกรรมและผู้มีส่วนเกี่ยวข้องด้าน AI ในวงกว้างเป็นพิเศษ กฎหมายฉบับนี้มุ่งคุ้มครองประชาชน พร้อมวางสิ่งที่เจ้าหน้าที่เรียกว่า “รากฐานแห่งความไว้วางใจ” ในสังคมที่ขับเคลื่อนด้วย AI มากขึ้นเรื่อย ๆ

ความเคลื่อนไหวครั้งสำคัญนี้ทำให้เกาหลีใต้นำหน้าเศรษฐกิจขนาดใหญ่อื่น ๆ ในการสร้างแนวทางกำกับดูแล AI ที่เป็นเอกภาพ แม้สหภาพยุโรปเริ่มบังคับใช้กฎระเบียบที่เกี่ยวข้องกับ AI บางส่วนเมื่อปีที่แล้ว แต่สาระหลักของกฎหมาย AI จะทยอยมีผลตั้งแต่เดือนสิงหาคม ส่วนสหรัฐฯ ยังไม่มีกฎหมาย AI ระดับรัฐบาลกลาง แม้ทำเนียบขาวออกคำสั่งฝ่ายบริหารเมื่อเดือนที่แล้ว เพื่อคัดค้านกฎหมายระดับรัฐที่ “สร้างภาระเกินควร” และถูกมองว่าขัดขวางนวัตกรรม AI ขณะที่จีนใช้แนวทางต่างออกไป โดยเพิ่มข้อกำหนดบางประการเกี่ยวกับจริยธรรมหรือการติดตามความเสี่ยงไว้ในกฎหมายความมั่นคงปลอดภัยไซเบอร์ที่มีอยู่แล้ว

กฎหมายพื้นฐานด้าน AI ของเกาหลีใต้ถือเป็นก้าวสำคัญในความพยายามระดับโลกที่จะกำกับดูแลเทคโนโลยีปัญญาประดิษฐ์ กฎหมายนี้ออกแบบมาเพื่อบรรลุเป้าหมายสองประการที่เกื้อหนุนกัน ได้แก่ ส่งเสริมการเติบโตของอุตสาหกรรม AI ของเกาหลีใต้ พร้อมวางมาตรการคุ้มครองที่จำเป็นเพื่อปกป้องประชาชนจากความเสี่ยงที่อาจเกิดขึ้นจากการนำ AI ไปใช้งาน

เรากำลังเริ่มจากพื้นฐานที่ทั่วโลกเห็นพ้องกันมากที่สุด เป้าหมายไม่ใช่การหยุดยั้งการพัฒนา AI ด้วยกฎระเบียบ แต่เพื่อให้ผู้คนใช้งาน AI ได้อย่างไว้วางใจ

คำกล่าวของคิม คยองมัน รัฐมนตรีช่วยว่าการสำนักงานนโยบาย AI ในกระทรวง ICT สะท้อนเจตนารมณ์ของเกาหลีใต้ในการสร้างกรอบที่สมดุล ไม่ขัดขวางความก้าวหน้าทางเทคโนโลยี ขณะเดียวกันก็ตอบสนองข้อกังวลของสาธารณชนเกี่ยวกับความปลอดภัยและความน่าเชื่อถือ

นิยามระบบ AI ที่มีผลกระทบสูง

หัวใจสำคัญประการหนึ่งของกฎหมายฉบับใหม่คือการให้ความสำคัญกับ “AI ที่มีผลกระทบสูง” ซึ่งหมายถึงระบบที่อาจส่งผลอย่างมีนัยสำคัญต่อชีวิต ความปลอดภัย หรือสิทธิขั้นพื้นฐานของมนุษย์ กฎหมายระบุ 11 ด้านสำคัญที่ระบบ AI ต้องอยู่ภายใต้การกำกับดูแลและมาตรการความโปร่งใสที่เข้มงวดยิ่งขึ้น ได้แก่

• ระบบจัดหาพลังงาน
• กระบวนการผลิตน้ำดื่ม
• ระบบบริการด้านสุขภาพ
• การพัฒนาและการใช้อุปกรณ์การแพทย์
• การจัดการวัสดุและสถานประกอบการนิวเคลียร์
• การวิเคราะห์ข้อมูลชีวมิติในการสอบสวนคดีอาญา
• การประเมินด้านการจ้างงานและสินเชื่อ
• ระบบและการจัดการด้านการขนส่ง
• การตัดสินใจของรัฐบาลที่มีผลต่อบริการสาธารณะ
• การประเมินนักเรียนในการศึกษา
• ด้านอื่น ๆ ที่ส่งผลอย่างมีนัยสำคัญต่อชีวิต ความปลอดภัย และสิทธิของมนุษย์

บริษัทที่ใช้ AI ในด้านเหล่านี้ต้องวางมาตรการคุ้มครองสำคัญหลายประการ โดยต้องอธิบายตรรกะการตัดสินใจของระบบ AI ได้เมื่อมีการร้องขอ ต้องเปิดทางให้มนุษย์เข้าแทรกแซงได้เมื่อจำเป็น และต้องแจ้งผู้ใช้อย่างชัดเจนว่ากำลังใช้บริการที่ขับเคลื่อนด้วย AI ข้อกำหนดนี้ครอบคลุมสถานการณ์ เช่น การใช้ระบบคัดกรองผู้ขอกู้เงินหรือผู้สมัครงาน

กฎหมายแยกความแตกต่างสำคัญระหว่าง “AI ที่มีผลกระทบสูง” กับสิ่งที่เกาหลีใต้เรียกว่า “AI สมรรถนะสูง” ขณะที่สหภาพยุโรปมุ่งเน้นความเสี่ยงตามลักษณะการใช้งานเป็นหลัก เกาหลีใต้เลือกใช้เกณฑ์ทางเทคนิคเพื่อพิจารณาว่าระบบใดต้องอยู่ภายใต้การกำกับดูแล เกณฑ์เหล่านี้รวมถึงตัวชี้วัดอย่างปริมาณการประมวลผลสะสมที่ใช้ฝึกระบบ หมายความว่าจะมีโมเดลขั้นสูงเพียงจำนวนน้อยมากที่ต้องปฏิบัติตามข้อกำหนดด้านความปลอดภัยที่เข้มงวดที่สุด

รัฐบาลเกาหลีใต้ระบุว่า ขณะนี้ยังไม่มีโมเดล AI ที่ใช้อยู่ ไม่ว่าจะพัฒนาในประเทศหรือต่างประเทศ ที่เข้าเกณฑ์กำกับดูแลตามข้อกำหนดเรื่อง AI สมรรถนะสูงนี้ ในทำนองเดียวกัน เจ้าหน้าที่ระบุว่าปัจจุบันยังไม่มีบริการในประเทศใดเข้าข่าย “AI ที่มีผลกระทบสูง” แม้รถยนต์ไร้คนขับระดับ 4 ขึ้นไปอาจเข้าเกณฑ์นี้ได้ในอนาคต

ข้อกำหนดด้านความโปร่งใสและการติดป้าย AI

หนึ่งในประเด็นที่เห็นได้ชัดที่สุดของกฎระเบียบ AI ในเกาหลีใต้คือข้อกำหนดด้านความโปร่งใสสำหรับเนื้อหาที่สร้างโดย AI ภายใต้กฎหมายใหม่ บริษัทต้องติดป้ายกำกับที่เห็นได้ชัดหรือได้ยินได้ เช่น ลายน้ำ บนเนื้อหาที่สร้างโดย AI ซึ่งอาจทำให้เข้าใจผิดว่าเป็นเหตุการณ์จริง ข้อกำหนดนี้มุ่งเป้าไปที่เนื้อหาดีพเฟกและผลงานจาก AI ประเภทอื่นที่เสี่ยงต่อการบิดเบือนข้อมูลหรือหลอกลวง

แนวทางการติดป้ายกำกับจะแตกต่างกันไปตามประเภทเนื้อหา หากจำเป็นต้องแยกแยะระหว่างของจริงกับเนื้อหาที่สร้างโดย AI เพื่อความปลอดภัยหรือยืนยันความแท้จริง จะต้องติดป้ายให้เห็นได้ชัด อย่างไรก็ตาม สำหรับเนื้อหาสร้างสรรค์ที่ใช้ AI เช่น เกม แอนิเมชัน หรือเว็บตูน กฎหมายอนุญาตให้เปิดเผยด้วยวิธีที่ไม่รบกวนสายตาเท่าเดิม รวมถึงการใส่ป้ายกำกับไว้ในข้อมูลเมตาที่ผู้ใช้ปลายทางอาจไม่เห็นในทันที

แนวทางที่แยกตามประเภทเช่นนี้ทำให้เกิดคำถามในอุตสาหกรรมอย่างการสร้างเว็บตูน โดยแพลตฟอร์มและผู้สร้างยังไม่แน่ใจว่าคำว่าเนื้อหา “สร้างโดย AI” จะมีขอบเขตครอบคลุมกว้างเพียงใด ยังคงมีข้อกังวลว่าการใช้ AI เพียงบางส่วน เช่น สร้างฉากหลัง ลงสี หรือปรับแต่งงาน จะทำให้ต้องเปิดเผยข้อมูลหรือไม่ กฎหมายไม่ได้กำกับผู้ใช้ทั่วไปที่ใช้เครื่องมือ AI แต่ครอบคลุมแพลตฟอร์มและบริษัทที่ให้บริการเครื่องมือสร้างสรรค์ที่ขับเคลื่อนด้วย AI หรือเผยแพร่ผลงานที่สร้างโดย AI

การติดลายน้ำบนเนื้อหาที่สร้างโดย AI เป็นมาตรการคุ้มครองขั้นต่ำเพื่อป้องกันผลกระทบจากการใช้เทคโนโลยี AI ในทางที่ผิด เช่น การสร้างเนื้อหาดีพเฟก

คำกล่าวของเจ้าหน้าที่กระทรวงรายนี้เน้นย้ำว่ารัฐบาลมองการติดป้ายกำกับเป็นมาตรการคุ้มครองพื้นฐานเพื่อป้องกันการใช้ AI ในทางที่ผิด ข้อกำหนดด้านความโปร่งใสไม่ได้จำกัดอยู่แค่การติดป้ายเนื้อหา แต่ยังรวมถึงการแจ้งผู้ใช้เมื่อมีการโต้ตอบกับบริการที่ขับเคลื่อนด้วย AI บริษัทต้องแจ้งล่วงหน้าเมื่อให้บริการผลิตภัณฑ์หรือบริการที่ใช้ AI ที่มีผลกระทบสูงหรือ AI เชิงสร้างสรรค์ โดยทั่วไปอาจแจ้งผ่านข้อความป๊อปอัปหรือประกาศที่เห็นได้ชัด

โครงสร้างการกำกับดูแลและการสนับสนุนอุตสาหกรรม

กฎหมายพื้นฐานด้าน AI วางโครงสร้างการกำกับดูแลนโยบาย AI ของเกาหลีใต้อย่างครอบคลุม กระทรวงวิทยาศาสตร์และ ICT เป็นหน่วยงานหลักที่รับผิดชอบการนำนโยบาย AI ไปปฏิบัติ ขณะที่คณะกรรมการ AI แห่งชาติซึ่งอยู่ภายใต้ประธานาธิบดีจะพิจารณาและกำหนดทิศทางนโยบาย AI ในภาพรวม กฎหมายยังจัดตั้งศูนย์นโยบาย AI และสถาบันความปลอดภัย AI เพื่อสนับสนุนการดำเนินนโยบายและรับมือข้อกังวลด้านความปลอดภัย

นอกเหนือจากมาตรการกำกับดูแลแล้ว กฎหมายยังมีข้อกำหนดหลายประการเพื่อสนับสนุนการพัฒนาและการเติบโตของ AI ในเกาหลีใต้ มาตรการส่งเสริมเหล่านี้รวมถึงการสนับสนุนการวิจัยและพัฒนา AI การกำหนดมาตรฐานเทคโนโลยี AI การพัฒนาข้อมูลสำหรับฝึก AI และโครงการช่วยบริษัทนำเทคโนโลยี AI มาใช้และประยุกต์ใช้งาน โดยให้ความสำคัญเป็นพิเศษกับการสนับสนุนวิสาหกิจขนาดกลางและขนาดย่อม สตาร์ตอัป และการพัฒนาบุคลากรในสาขา AI

กฎหมายยังวางรากฐานทางกฎหมายสำหรับการจัดทำ “แผนพื้นฐานด้าน AI” ซึ่งจะเป็นแผนที่นำนโยบายในการพัฒนาเทคโนโลยี AI ของเกาหลีใต้ แนวทางที่ครอบคลุมนี้ยอมรับว่าการกำกับดูแล AI ให้ประสบความสำเร็จไม่ได้อาศัยเพียงข้อจำกัดเท่านั้น แต่ต้องสนับสนุนนวัตกรรมและความสามารถในการแข่งขันในภูมิทัศน์ AI ระดับโลกอย่างจริงจังด้วย

เพื่อลดภาระเริ่มต้นของภาคธุรกิจ รัฐบาลเกาหลีใต้กำหนดช่วงผ่อนผันอย่างน้อยหนึ่งปี ในช่วงเวลาดังกล่าว เจ้าหน้าที่จะไม่ดำเนินการสอบสวนข้อเท็จจริงหรือใช้มาตรการลงโทษทางปกครอง แต่จะมุ่งเน้นการให้คำปรึกษาและความรู้แทน นอกจากนี้ยังจัดตั้งศูนย์ช่วยเหลือเฉพาะด้านกฎหมาย AI เพื่อช่วยบริษัทตรวจสอบว่าระบบของตนอยู่ในขอบเขตของกฎหมายหรือไม่ และควรดำเนินการอย่างไร

ศูนย์ช่วยเหลือด้านกฎหมายกรอบ AI ซึ่งมีผู้เชี่ยวชาญจากองค์กรต่าง ๆ รวมถึงสถาบันความปลอดภัย AI และสำนักงานส่งเสริมสังคมสารสนเทศแห่งชาติ ให้คำปรึกษาและคำแนะนำแบบเป็นความลับแก่ผู้พัฒนา ผู้ประกอบธุรกิจ หรือผู้ใช้เครื่องมือปัญญาประดิษฐ์ เพื่อให้ปฏิบัติตามกฎระเบียบใหม่

ข้อกำหนดการปฏิบัติตามกฎหมายและบทลงโทษ

บริษัทที่ดำเนินงานในเกาหลีใต้หรือให้บริการแก่ผู้ใช้ชาวเกาหลีต้องปฏิบัติตามข้อกำหนดเฉพาะภายใต้กฎหมายใหม่ บริษัท AI ต่างชาติที่เข้าเกณฑ์บางประการ เช่น มีรายได้ต่อปีทั่วโลกตั้งแต่ 1 ล้านล้านวอน (681 ล้านดอลลาร์) ขึ้นไป มียอดขายในประเทศตั้งแต่ 10,000 ล้านวอนขึ้นไป หรือมีผู้ใช้รายวันในประเทศอย่างน้อย 1 ล้านคน ต้องแต่งตั้งผู้แทนในประเทศเพื่อประสานงานกับเจ้าหน้าที่ ปัจจุบันบริษัทขนาดใหญ่อย่าง OpenAI และ Google อยู่ภายใต้ข้อกำหนดนี้

ผู้ประกอบการด้าน AI แบ่งเป็นสองประเภท ได้แก่ ผู้ประกอบการพัฒนา AI ซึ่งพัฒนาและให้บริการ AI และผู้ประกอบการใช้ประโยชน์จาก AI ซึ่งให้บริการผลิตภัณฑ์หรือบริการ AI โดยใช้ AI ที่นักพัฒนาจัดหาให้ ทั้งสองประเภทมีหน้าที่ด้านความโปร่งใส แต่การกำกับดูแลยังมุ่งเน้นระบบ AI ที่มีผลกระทบสูงและ AI เชิงสร้างสรรค์เป็นหลัก

แนวทางบังคับใช้กฎหมายของเกาหลีใต้ตั้งใจให้เบากว่าเขตอำนาจอื่น โดยไม่มีบทลงโทษทางอาญา แต่ให้ความสำคัญกับคำสั่งให้แก้ไขเมื่อไม่ปฏิบัติตามกฎหมาย และจะเรียกเก็บค่าปรับไม่เกิน 30 ล้านวอน (26,200 ดอลลาร์) เฉพาะกรณีที่ไม่ทำตามคำสั่ง แนวทางนี้มุ่งให้เกิดการปฏิบัติตามกฎ มากกว่าการลงโทษ ดังที่เจ้าหน้าที่รัฐบาลเน้นย้ำ

เมื่อเปรียบเทียบกัน กรอบกำกับดูแลของสหภาพยุโรปกำหนดบทลงโทษที่เข้มงวดกว่ามาก โดยมีค่าปรับทางปกครองหลายระดับตามประเภทการละเมิด ซึ่งอาจสูงถึง 7% ของรายได้ต่อปีทั่วโลก ความแตกต่างอย่างมากของระดับบทลงโทษนี้สะท้อนเจตนารมณ์ที่เกาหลีใต้ประกาศไว้ว่า ต้องการคงกฎระเบียบให้น้อยที่สุด แต่ยังจัดทำกรอบความปลอดภัยขั้นพื้นฐาน

การละเมิดสามกรณีที่อาจถูกปรับตามกฎหมายเกาหลีใต้ ได้แก่ ไม่แจ้งเจ้าหน้าที่เกี่ยวกับการดำเนินงานที่ใช้ AI เมื่อให้บริการผลิตภัณฑ์หรือบริการที่ใช้ AI ซึ่งมีผลกระทบสูงหรือ AI เชิงสร้างสรรค์ ไม่แต่งตั้งผู้แทนในประเทศเมื่อมีข้อกำหนดให้ทำ และไม่ปฏิบัติตามคำสั่งระงับหรือคำสั่งแก้ไขที่รัฐมนตรีว่าการกระทรวงวิทยาศาสตร์และ ICT ออก

เสียงตอบรับจากอุตสาหกรรมและข้อกังวลของสตาร์ตอัป

แม้รัฐบาลมองว่ากฎหมายพื้นฐานด้าน AI เป็นแนวทางที่สมดุลระหว่างการสนับสนุนนวัตกรรมกับการรับประกันความปลอดภัย แต่คนในอุตสาหกรรมเทคโนโลยีไม่ได้เห็นด้วยทั้งหมด สตาร์ตอัปเกาหลีใต้แสดงความกังวลเกี่ยวกับภาระการปฏิบัติตามกฎระเบียบใหม่ โดยเฉพาะเมื่อกฎหมายมีผลเร็วกว่ากรอบในประเทศอื่นที่มีลักษณะคล้ายกัน

ผลสำรวจของ Startup Alliance พบว่า สตาร์ตอัปด้าน AI เพียง 2% ระบุว่ามีแผนปฏิบัติตามกฎหมายอย่างเป็นทางการ ขณะที่ประมาณครึ่งหนึ่งยอมรับว่ายังไม่เข้าใจข้อกำหนดของกฎหมายใหม่อย่างถ่องแท้ การขาดความชัดเจนนี้สร้างความวิตกให้ผู้ก่อตั้ง ซึ่งกังวลว่าถ้อยคำคลุมเครือในกฎหมายอาจบีบให้ต้องใช้แนวทางพัฒนาที่ระมัดระวังเกินไปเพื่อหลีกเลี่ยงความเสี่ยงด้านกฎระเบียบ

ก็มีความไม่พอใจอยู่บ้างว่า ทำไมเราต้องเป็นประเทศแรกที่ทำเรื่องนี้

คำกล่าวของอิม จองอุก ผู้ร่วมบริหาร Startup Alliance ของเกาหลีใต้ สะท้อนความไม่พอใจของผู้ประกอบการบางส่วนที่ต้องอยู่ภายใต้กฎระเบียบ AI ที่ครอบคลุมก่อนคู่แข่งในระดับโลก ผู้ก่อตั้งจำนวนมากตั้งคำถามว่าการเป็นประเทศแรกที่กำกับดูแล AI จะช่วยให้เกาหลีใต้ได้เปรียบ หรือกลับทำให้บริษัทในประเทศเสียเปรียบในเวทีระหว่างประเทศ

ประธานาธิบดีอี แจมยองรับทราบข้อกังวลเหล่านี้ โดยเรียกร้องให้ผู้กำหนดนโยบายรับฟังเสียงจากอุตสาหกรรม และดูแลให้บริษัทเวนเจอร์และสตาร์ตอัปได้รับการสนับสนุนอย่างเพียงพอ ในการประชุมกับผู้ช่วยเมื่อไม่นานมานี้ อีเน้นย้ำถึงความสำคัญของการใช้ศักยภาพของอุตสาหกรรมให้เกิดประโยชน์สูงสุดผ่านการสนับสนุนเชิงสถาบัน พร้อมจัดการผลกระทบที่คาดว่าจะเกิดขึ้นล่วงหน้า

กระทรวงวิทยาศาสตร์และ ICT ตอบสนองต่อข้อกังวลเหล่านี้ด้วยการวางแผนจัดทำแพลตฟอร์มแนวทางปฏิบัติและศูนย์สนับสนุนเฉพาะสำหรับบริษัทในช่วงผ่อนผัน โฆษกกระทรวงระบุว่ารัฐบาลยังคงทบทวนมาตรการเพื่อลดภาระของภาคอุตสาหกรรมให้น้อยที่สุด และกำลังพิจารณาขยายช่วงผ่อนผัน หากสถานการณ์ของอุตสาหกรรมทั้งในประเทศและต่างประเทศเอื้อให้ดำเนินการดังกล่าว

เปรียบเทียบแนวทางกับต่างประเทศ

กฎหมายพื้นฐานด้าน AI ของเกาหลีใต้สะท้อนแนวคิดด้านกฎระเบียบที่แตกต่างจากแนวทางของเศรษฐกิจขนาดใหญ่อื่น ๆ กฎหมายอ้างอิงทั้งรูปแบบของสหรัฐฯ ซึ่งเน้นความเป็นอิสระของภาคเอกชน และรูปแบบของสหภาพยุโรปที่ให้ความสำคัญกับความปลอดภัยและความน่าเชื่อถือ ท้ายที่สุดเกาหลีใต้เลือกแนวทางเฉพาะของตนเอง โดยพยายามผสานการกำกับดูแลให้น้อยที่สุดเข้ากับการส่งเสริม AI เพื่อบรรลุเป้าหมายการเป็นประเทศชั้นนำด้านความสามารถในการแข่งขัน AI ระดับโลก

เช่นเดียวกับกฎหมาย AI ของสหภาพยุโรป กรอบของเกาหลีใต้ให้นิยามระบบ AI และกำหนดหน้าที่ต่าง ๆ ที่เกี่ยวข้องกับ AI ซึ่งมีผลกระทบสูง รวมถึงการประเมินผลกระทบต่อสิทธิขั้นพื้นฐาน (FRIAs) อย่างไรก็ตาม ระดับการกำกับดูแลที่เฉพาะเจาะจงอาจเปลี่ยนแปลงตามกฎหมายลำดับรองในอนาคต ซึ่งคาดว่าจะประกาศในช่วงครึ่งแรกของปี 2025

ความแตกต่างสำคัญระหว่างแนวทางของเกาหลีใต้กับสหภาพยุโรปอยู่ที่การกำหนดหน้าที่ กฎหมาย AI ของสหภาพยุโรประบุหน้าที่แตกต่างกันตามประเภทของผู้มีส่วนร่วมในห่วงโซ่คุณค่าของ AI ขณะที่กฎหมายกรอบ AI ของเกาหลีใต้กำหนดหน้าที่ไว้อย่างครอบคลุมโดยไม่แยกผู้มีส่วนร่วมแต่ละประเภท แนวทางที่เรียบง่ายกว่าอาจลดความซับซ้อน แต่ก็อาจทำให้การกำกับดูแลอย่างเหมาะสมในระบบนิเวศ AI ที่หลากหลายเป็นเรื่องท้าทาย

แนวทางนิยาม AI ที่มีผลกระทบสูงของเกาหลีใต้ยังต่างจากวิธีการของสหภาพยุโรปด้วย สหภาพยุโรปมุ่งเน้นความเสี่ยงตามลักษณะการใช้งาน โดยกำกับ AI ในด้านต่าง ๆ เช่น สุขภาพ การสรรหาบุคลากร และการบังคับใช้กฎหมาย ส่วนเกาหลีใต้ใช้เกณฑ์ทางเทคนิคเพื่อกำหนดว่าระบบใดต้องอยู่ภายใต้การกำกับดูแล เกณฑ์เหล่านี้รวมถึงตัวชี้วัดอย่างปริมาณการประมวลผลสะสมที่ใช้ฝึกระบบ จึงอาจทำให้จำนวนระบบที่ถูกกำกับดูแลมีน้อยกว่ามากภายใต้ขีดความสามารถทางเทคโนโลยีในปัจจุบัน

ความแตกต่างทางแนวคิดด้านกฎระเบียบยังเห็นได้จากบทลงโทษสำหรับการละเมิด สหภาพยุโรปกำหนดบทลงโทษอย่างเข้มงวด โดยค่าปรับอาจสูงถึง 7% ของรายได้ต่อปีทั่วโลก ขณะที่กรอบของเกาหลีใต้กำหนดค่าปรับทางปกครองไว้ไม่เกิน 30 ล้านวอน (ประมาณ 26,200 ดอลลาร์) ความแตกต่างอย่างมากนี้สะท้อนการให้ความสำคัญกับการปฏิบัติตามกฎและการแก้ไข มากกว่าการลงโทษ

ผลกระทบระดับโลกและแนวโน้มในอนาคต

การประกาศใช้กฎหมาย AI ที่ครอบคลุมของเกาหลีใต้มีนัยสำคัญต่อภูมิทัศน์ AI ระดับโลก ในฐานะประเทศที่สองรองจากสหภาพยุโรปที่นำกรอบกำกับดูแล AI แบบครอบคลุมมาใช้ เกาหลีใต้ได้สร้างตัวอย่างทางกฎหมายใหม่ที่ประเทศอื่นอาจนำไปพิจารณาในการจัดทำแนวทางกำกับดูแล AI ของตนเอง

การผ่านกฎหมายฉบับนี้แม้เกิดความวุ่นวายทางการเมืองจากการประกาศกฎอัยการศึกของประธานาธิบดียุน ซอกยอล และการถูกถอดถอนในเวลาต่อมา แสดงให้เห็นฉันทามติข้ามพรรคเกี่ยวกับความสำคัญของการกำกับดูแล AI ร่างกฎหมายผ่านการพิจารณาในที่ประชุมใหญ่ของรัฐสภาเมื่อวันที่ 26 ธันวาคม 2024 ด้วยเสียงสนับสนุนอย่างท่วมท้นจากทั้งสองพรรค สะท้อนฉันทามติทางการเมืองในวงกว้างต่อการรับมือกับความท้าทายด้าน AI

เจ้าหน้าที่เกาหลีใต้ยอมรับว่า กฎหมายฉบับปัจจุบันเป็นเพียงจุดเริ่มต้น ไม่ใช่ผลงานที่เสร็จสมบูรณ์ การดำเนินการตามข้อกำหนดหลายประการอย่างละเอียดจะขึ้นอยู่กับกฎหมายลำดับรองและแนวทางเฉพาะรายสาขา ซึ่งจะจัดทำให้แล้วเสร็จในช่วงเตรียมการหนึ่งปีก่อนกฎหมายมีผลบังคับใช้อย่างเต็มรูปแบบในเดือนมกราคม 2026

บทบาทประสานงานของคณะกรรมการ AI แห่งชาติจะมีความสำคัญอย่างยิ่ง ขณะที่เกาหลีใต้พยายามผสานความเชี่ยวชาญของกระทรวงที่เกี่ยวข้อง โดยคำนึงถึงลักษณะของเป้าหมายการกำกับดูแลหรือแต่ละภาคส่วน เมื่อเทคโนโลยี AI แพร่กระจายไปทุกด้าน ตั้งแต่ข้อมูลส่วนบุคคลและลิขสิทธิ์ ไปจนถึงสุขภาพและกลาโหม การกำกับดูแลที่มีประสิทธิภาพจะต้องอาศัยการประสานงานอย่างรอบคอบระหว่างหน่วยงานรัฐบาลต่าง ๆ

เมื่อบรรทัดฐานระดับโลกและการหารือเรื่องการกำกับดูแล AI เข้มข้นขึ้น ความจำเป็นในการทำให้กฎระเบียบระหว่างประเทศทำงานร่วมกันได้และการสร้างความร่วมมือเพื่อรับประกันความน่าเชื่อถือของ AI ก็ยิ่งเพิ่มขึ้น แนวทางของเกาหลีใต้อาจส่งอิทธิพลต่อการหารือระหว่างประเทศเหล่านี้ โดยเฉพาะเรื่องการสร้างสมดุลระหว่างนวัตกรรมกับข้อกังวลด้านความปลอดภัยในการกำกับดูแล AI

สรุปประเด็นสำคัญ

• เกาหลีใต้ประกาศใช้กฎหมาย AI แบบครอบคลุมฉบับแรกของโลก คือกฎหมายพื้นฐานด้าน AI ซึ่งครอบคลุมการพัฒนา การนำไปใช้ และการใช้งานปัญญาประดิษฐ์
• กฎหมายกำหนดนิยาม “AI ที่มีผลกระทบสูง” ใน 11 ภาคส่วนสำคัญ รวมถึงสุขภาพ การเงิน การขนส่ง และบริการภาครัฐ โดยกำหนดให้มีการกำกับดูแลเข้มงวดขึ้นและเปิดทางให้มนุษย์เข้าแทรกแซงได้
• เนื้อหาที่สร้างโดย AI ต้องติดป้ายกำกับ โดยต้องมีลายน้ำที่เห็นได้ชัดสำหรับเนื้อหาที่อาจถูกเข้าใจว่าเป็นเรื่องจริง และใช้วิธีติดป้ายที่ไม่รบกวนสายตาเท่าเดิมกับงานสร้างสรรค์ เช่น เว็บตูนและแอนิเมชัน
• บริษัท AI ต่างชาติที่มีรายได้หรือจำนวนผู้ใช้ถึงเกณฑ์ต้องแต่งตั้งผู้แทนในเกาหลีใต้
• ค่าปรับสำหรับการไม่ปฏิบัติตามกฎหมายกำหนดเพดานไว้ที่ 30 ล้านวอน (26,200 ดอลลาร์) ซึ่งต่ำกว่าค่าปรับของสหภาพยุโรปอย่างมาก โดยค่าปรับของสหภาพยุโรปอาจสูงถึง 7% ของรายได้ต่อปีทั่วโลก
• กฎหมายกำหนดช่วงผ่อนผันหนึ่งปี โดยเน้นการให้คำแนะนำมากกว่าการลงโทษ พร้อมจัดตั้งศูนย์ช่วยเหลือเฉพาะสำหรับบริษัทที่ต้องการความช่วยเหลือด้านการปฏิบัติตามกฎหมาย
• สตาร์ตอัปแสดงความกังวลเกี่ยวกับภาระการปฏิบัติตามกฎหมายและถ้อยคำที่คลุมเครือ โดยมีเพียง 2% ที่ระบุว่ามีแผนปฏิบัติตามกฎหมายอย่างเป็นทางการ
• กฎหมายมุ่งผลักดันให้เกาหลีใต้เป็นหนึ่งในสามประเทศผู้นำด้าน AI ของโลก พร้อมวางรากฐานความไว้วางใจในเทคโนโลยี AI
• แนวทางของเกาหลีใต้ต่างจากสหภาพยุโรป โดยใช้เกณฑ์ทางเทคนิคแทนความเสี่ยงตามลักษณะการใช้งานในการกำกับดูแลระบบ AI ขั้นสูง
• การบังคับใช้เต็มรูปแบบจะเริ่มในเดือนมกราคม 2026 หลังช่วงเตรียมการหนึ่งปีสำหรับการจัดทำกฎหมายลำดับรองและแนวทางปฏิบัติโดยละเอียด