ไต้หวันเปิดรับฟังความเห็นเรื่องความปลอดภัยของเอไอเอเจนต์ ก่อนนำมาใช้กับระบบการเงินจริง

เปิดเวลา 30 วันถกมาตรการคุ้มครองเอไอที่ลงมือปฏิบัติได้

คณะกรรมการกำกับดูแลการเงินของไต้หวัน (FSC) เปิดรับฟังความคิดเห็นสาธารณะเป็นเวลา 30 วัน เมื่อวันที่ 13 ตุลาคม 2026 โดยเสนอให้มีมาตรการคุ้มครองความปลอดภัยสำหรับเอเจนต์ปัญญาประดิษฐ์ที่เชื่อมต่อกับระบบปฏิบัติการของสถาบันการเงิน ดำเนินงานในระบบดังกล่าว หรือสั่งให้ระบบทำงานได้ ข้อเสนอกำหนดระดับความเสี่ยงไว้ 4 ระดับ ตั้งแต่ L1 ถึง L4 และระบุว่าการดำเนินการที่มีความเสี่ยงสูงสุดต้องมีการอนุมัติ การตรวจสอบ หรือกลไกป้องกันไม่ให้ดำเนินการโดยไม่ได้รับอนุญาต

เอกสารที่มีชื่อว่า Consultation Document on the Safe Use of Agentic AI in the Financial Sector จัดทำขึ้นก่อนที่จะมีการนำเทคโนโลยีนี้ไปใช้อย่างแพร่หลาย หลิน อวี่ไท่ ผู้อำนวยการฝ่ายบริหารจัดการสารสนเทศของคณะกรรมการฯ กล่าวว่า สถาบันการเงินส่วนใหญ่ยังอยู่ในขั้นทดลองหรือทดสอบขนาดเล็กในสภาพแวดล้อมที่ควบคุมได้ เขากล่าวว่ายังไม่ทราบว่ามีสถาบันใดนำเอเจนต์เหล่านี้ไปใช้ในงานธุรกิจจริงแล้ว

ข้อกังวลหลักของคณะกรรมการฯ คือการเปลี่ยนผ่านจากเอไอที่ให้ข้อมูล ไปสู่เอไอที่ลงมือดำเนินการ ผู้ช่วยที่สรุปข้อร้องเรียนของลูกค้ามีประเด็นด้านความปลอดภัยต่างจากเอไอที่ค้นดูข้อมูลลับ เปลี่ยนแปลงข้อมูลในระบบ หรือตอบกลับลูกค้าได้โดยตรง

ดังนั้น การรับฟังความคิดเห็นจึงมุ่งเน้นเรื่องสิทธิ์การเข้าถึงและความรับผิดชอบ มากกว่าความแม่นยำของโมเดลเพียงอย่างเดียว สถาบันต่าง ๆ จะต้องกำหนดว่าเอเจนต์เข้าถึงข้อมูลใดได้บ้าง ใช้เครื่องมือใดได้ ทำอะไรได้ และพนักงานจะหยุดการทำงานหรือเข้าควบคุมได้อย่างไรเมื่อเกิดข้อผิดพลาด

เอกสารนี้ไม่ใช่กฎระเบียบใหม่หรือแนวทางอย่างเป็นทางการ และไม่ได้ใช้แทนกฎหมาย ข้อกำหนดด้านการกำกับดูแล กฎการจ้างบริการภายนอก หรือมาตรการควบคุมภายในที่มีอยู่ คณะกรรมการฯ หวังว่าการรับฟังความคิดเห็นจะช่วยสนับสนุนการจัดทำแนวทางในภายหลัง แต่ยังไม่ได้กำหนดกรอบเวลาสำหรับขั้นตอนดังกล่าว

เหตุใดการเข้าถึงระบบปฏิบัติการจึงเพิ่มความเสี่ยง

เอไอเอเจนต์สามารถวางแผนขั้นตอน เรียกใช้เครื่องมือซอฟต์แวร์ และค้นข้อมูลจากหลายระบบเพื่อทำงานให้สำเร็จ คุณสมบัตินี้ทำให้แตกต่างจากแอปสนทนาที่มีหน้าที่หลักในการสร้างคำตอบให้คนพิจารณา ประเด็นความปลอดภัยจะเร่งด่วนขึ้นเมื่อคำตอบที่ผิดพลาดสามารถกลายเป็นการดำเนินงานจริงได้โดยตรง

หลินระบุความเสี่ยงหลัก 4 ประการ ได้แก่ เอเจนต์เบี่ยงเบนจากเป้าหมายที่กำหนด ใช้เครื่องมือผิดวัตถุประสงค์หรือเกินสิทธิ์ที่ได้รับ เปิดเผยข้อมูลอ่อนไหว และทำให้ข้อผิดพลาดแพร่กระจายต่อเนื่องไปตามลำดับการดำเนินการ ความเสี่ยงเหล่านี้อาจเกิดขึ้นพร้อมกัน เช่น เอเจนต์อาจค้นข้อมูลที่ไม่ควรนำไปใช้ ใส่ข้อมูลนั้นไว้ในข้อความ แล้วส่งข้อความออกไปนอกสถาบัน

ภาพหลอนของเอไอ ซึ่งหมายถึงผลลัพธ์ที่ฟังดูน่าเชื่อถือแต่ไม่ถูกต้อง ยังคงเป็นข้อกังวล หลินยกตัวอย่างสถานการณ์ที่เอเจนต์ใส่ข้อมูลส่วนบุคคลลงในอีเมลภายนอกทั้งที่ไม่ควรมี นี่เป็นเพียงตัวอย่างความผิดพลาดที่อาจเกิดขึ้น ไม่ใช่เหตุการณ์ที่เปิดเผยว่าเกิดขึ้นจริงในสถาบันการเงิน

ความเร็วก็เปลี่ยนขนาดของผลกระทบที่อาจเกิดขึ้นด้วย หลินเปรียบเทียบว่าคนคนหนึ่งอาจจัดการได้ราวหนึ่งกรณีต่อชั่วโมง ขณะที่เอเจนต์อาจจัดการได้ 100 กรณี ตัวอย่างนี้ชี้ถึงปริมาณงานที่ต่างกันร้อยเท่า ไม่ใช่ผลการวัดประสิทธิภาพการทำงาน เขาต้องการชี้ให้เห็นว่าความผิดพลาดจากระบบอัตโนมัติอาจกระจายไปยังหลายกรณีก่อนที่พนักงานจะเข้ามาแทรกแซง

จัดการตามลักษณะงาน ไม่ใช่แค่เทคโนโลยี

ข้อเสนอในการรับฟังความคิดเห็นแบ่งออกเป็น 3 ด้าน ได้แก่ การกำกับดูแลความปลอดภัย การจัดระดับความเสี่ยง และมาตรการควบคุมความปลอดภัย โดยเสนอให้ใช้สถานการณ์การใช้งานเป็นหน่วยหลักในการจัดการ หมายถึงงานเฉพาะที่สถาบันต้องการให้เอเจนต์ทำ แทนที่จะพิจารณาผลิตภัณฑ์เอไอแยกจากบริบทการใช้งาน

สำหรับแต่ละสถานการณ์ สถาบันควรกำหนดวัตถุประสงค์ทางธุรกิจ ผู้รับผิดชอบ ข้อมูลที่อนุญาตให้ใช้ เครื่องมือที่เรียกใช้ได้ และการดำเนินการที่อนุญาต นอกจากนี้ควรระบุด้วยว่าอาจส่งหรือบันทึกผลลัพธ์ไว้ที่ใด และจะทำอย่างไรหากเอเจนต์ทำงานผิดปกติ

แนวทางนี้ทำให้ซอฟต์แวร์ตัวเดียวกันต้องอยู่ภายใต้มาตรการควบคุมต่างกันตามบทบาท เอเจนต์ที่วิเคราะห์ข้อมูลด้านความปลอดภัยโดยไม่ลงมือดำเนินการ ย่อมต่างจากเอเจนต์ที่ได้รับอนุญาตให้แก้ไขระบบปฏิบัติการ การเปลี่ยนสิทธิ์การเข้าถึงจึงอาจสำคัญพอ ๆ กับการเปลี่ยนโมเดลที่อยู่เบื้องหลัง

การกำกับดูแลจะไม่สิ้นสุดเพียงการอนุมัติครั้งแรก ข้อเสนอเรียกร้องให้มีการตรวจสอบ ติดตาม เฝ้าระวัง ลดขีดความสามารถ ระงับการทำงาน และกลไกกู้คืนให้เหมาะกับระดับความเสี่ยง การจัดระดับควรใช้ประกอบการกำหนดเกณฑ์อนุมัติ เงื่อนไขการทดลอง การตัดสินใจนำไปใช้งาน และการกำกับดูแลในระยะต่อมา พร้อมประเมินใหม่เมื่อมีการเปลี่ยนแปลงรูปแบบการใช้งาน

ความเสี่ยง 4 ระดับ ประเมินจาก 3 ด้าน

การจัดระดับที่เสนอไว้ตั้งแต่ L1 ถึง L4 พิจารณาจาก 3 ด้าน ได้แก่ ความอ่อนไหวของข้อมูล ผลกระทบจากการดำเนินการ และขอบเขตความสามารถหรือโอกาสที่ผลกระทบจะแพร่กระจาย การประเมินจะยึดผลความเสี่ยงที่สูงกว่า โดยไม่ให้องค์ประกอบที่เสี่ยงต่ำกว่ามาหักล้างองค์ประกอบที่อันตรายกว่า

ความอ่อนไหวของข้อมูลพิจารณาจากสิ่งที่เอเจนต์มองเห็นได้ การเข้าถึงข้อมูลสาธารณะแตกต่างจากการเข้าถึงประวัติส่วนบุคคลหรือความลับทางธุรกิจ ส่วนผลกระทบจากการดำเนินการพิจารณาว่าเอเจนต์ทำอะไรกับข้อมูลนั้นได้บ้าง ตั้งแต่การอ่านข้อมูลไปจนถึงการแก้ไขบันทึกหรือสื่อสารออกไปนอกสถาบัน

ด้านที่สามพิจารณาขอบเขตและระยะของการทำงาน เอเจนต์ที่จำกัดอยู่กับงานเดียวต่างจากเอเจนต์ที่ประมวลผลเป็นชุด ทำงานต่อเนื่องตลอดเวลา หรือดำเนินงานตามขั้นตอนที่เชื่อมโยงกันหลายขั้น ประเด็นนี้เป็นจุดที่นำโอกาสที่ข้อผิดพลาดเล็กน้อยจะกลายเป็นปัญหาใหญ่ในการดำเนินงานเข้ามาประเมิน

สำหรับการใช้งานระดับ L4 ข้อเสนอจะป้องกันไม่ให้การดำเนินการที่มีความเสี่ยงสูงเกิดขึ้นโดยอัตโนมัติ หากไม่มีการอนุมัติ การตรวจสอบ หรือกลไกสกัดกั้นที่จำเป็น ส่วนการใช้งานที่มีความเสี่ยงต่ำกว่าจะยังมีพื้นที่ให้ทดลองได้ คณะกรรมการฯ ระบุว่าแนวทางนี้ตั้งอยู่บนหลักการประเมินตามความเสี่ยง ความได้สัดส่วน และความเป็นกลางต่อเทคโนโลยีเฉพาะ โดยอ้างอิงกรอบความปลอดภัยสากล

งานบริการลูกค้าแสดงให้เห็นว่าสิทธิ์เข้าถึงสำคัญอย่างไร

ตัวอย่างงานบริการลูกค้าของหลินช่วยให้เห็นความแตกต่างในทางปฏิบัติ เอเจนต์ที่รวบรวมข้อร้องเรียนและจัดทำสรุปอยู่ในช่วงความเสี่ยงต่ำถึงปานกลาง หากเอเจนต์ส่งคำตอบถึงลูกค้าได้ด้วย หลินจัดว่าอยู่ในช่วงความเสี่ยงปานกลางถึงสูงกว่า เพราะสามารถดำเนินการสื่อสารออกไปนอกสถาบันได้

ความแตกต่างไม่ได้อยู่แค่การที่ทั้งสองกรณีใช้เอไอหรือไม่ ในกรณีแรก พนักงานสามารถตรวจสอบสรุปก่อนที่จะส่งผลต่อลูกค้าได้ แต่ในกรณีที่สอง เอเจนต์สามารถเปลี่ยนการตีความของตนให้เป็นข้อความสื่อสารกับบุคคลภายนอกได้ การอนุญาตให้ส่งข้อความจึงเปลี่ยนผลที่ตามมาจากความผิดพลาด

การอนุญาตให้เขียนข้อมูลก็เป็นเส้นแบ่งอีกประการหนึ่ง เอเจนต์ที่มีสิทธิ์อ่านอย่างเดียวไม่สามารถแก้ไขข้อมูลต้นฉบับด้วยสิทธิ์ดังกล่าวได้ แต่เมื่ออนุญาตให้เขียนข้อมูล ความผิดพลาดก็อาจทำให้ข้อมูลเปลี่ยนแปลงหรือถูกลบ มาตรการควบคุมจึงต้องคำนึงทั้งคุณภาพของผลลัพธ์และความถูกต้องสมบูรณ์ของระบบที่เอเจนต์เข้าไปใช้งาน

ตัวอย่างนี้ยังแสดงให้เห็นว่าเหตุใดการกำหนดป้ายความเสี่ยงเดียวให้โครงการเอไอทั้งหมดของสถาบันจึงไม่เพียงพอ การใช้งานเอเจนต์ตัวเดียวกันสองรูปแบบอาจต้องมีเงื่อนไขการอนุมัติ การติดตาม และการกู้คืนที่ต่างกัน เพราะการเข้าถึงข้อมูลและการดำเนินการที่ได้รับอนุญาตไม่เหมือนกัน

พนักงานดิจิทัลยังต้องมีผู้กำกับดูแลที่เป็นมนุษย์

หลินเรียกเอไอเอเจนต์ว่าเป็นพนักงานดิจิทัล เพราะสามารถขับเคลื่อนงานให้คืบหน้าได้อย่างกระตือรือร้น การเปรียบเทียบนี้ไม่ได้หมายถึงแค่การมอบหมายบทบาทเท่านั้น สถาบันต้องตัดสินใจด้วยว่าเอเจนต์ทำอะไรได้บ้าง ทดสอบก่อนนำไปใช้งาน กำกับดูแลการทำงาน และมีขั้นตอนหยุดการทำงานอย่างไร

เมื่อกล่าวถึงความรับผิดชอบในการนำไปใช้งาน หลินย้ำว่าการมอบหมายงานให้เอเจนต์ไม่ได้ทำให้ความรับผิดชอบของมนุษย์หมดไป คำพูดของเขาในการแปลเป็นภาษาอังกฤษระบุว่า:

เอไอเป็นได้เพียงผู้ช่วย มนุษย์คือผู้กำกับดูแลขั้นสุดท้าย

หลักการนี้กำหนดให้บุคลากรต้องรับผิดชอบในการระบุอำนาจของเอเจนต์และรับมือเมื่อเกิดข้อผิดพลาด ไม่สามารถละเว้นมาตรการควบคุมความปลอดภัยที่มีอยู่เพียงเพราะมีเอไอเอเจนต์เข้ามาเกี่ยวข้อง สถาบันจำเป็นต้องมีทั้งผู้ตัดสินใจที่เป็นมนุษย์และวิธีการทางเทคนิคในการบังคับใช้ข้อจำกัดที่บุคคลนั้นอนุมัติ

ขอบเขตที่คณะกรรมการฯ ให้ความสำคัญนั้นแคบกว่าการใช้เอไอของพนักงานทั้งหมด ผู้ช่วยส่วนบุคคลที่ทำงานภายในอำนาจหน้าที่เดิมของผู้ใช้สามารถจัดการได้ผ่านมาตรการควบคุมภายในและการจัดการความปลอดภัยที่มีอยู่ แต่การเชื่อมต่อเอเจนต์เข้ากับระบบปฏิบัติการของสถาบันการเงินต้องประเมินความเสี่ยงและความปลอดภัยของข้อมูลใหม่

การควบคุมตัวตนและสิทธิ์เข้าถึงต้องครอบคลุมเอเจนต์ด้วย

ข้อเสนอด้านความปลอดภัยมองเอเจนต์เป็นทั้งตัวตนที่ไม่ใช่มนุษย์และภาระงานของซอฟต์แวร์ ในทางปฏิบัติ สถาบันต้องทราบว่าเอเจนต์ใดกำลังทำงานและมีสิทธิ์ใดบ้าง กิจกรรมของเอเจนต์ไม่ควรแยกไม่ออกจากผู้ใช้รายอื่นหรือกระบวนการอัตโนมัติอื่น ๆ

แนวทางนี้อาศัยหลักการซีโรทรัสต์ โดยไม่ถือว่าการเข้าถึงปลอดภัยเพียงเพราะระบบอยู่ภายในองค์กร ต้องตรวจสอบตัวตนและสิทธิ์ จำกัดการเข้าถึงให้เหลือเท่าที่งานจำเป็นต้องใช้ และทำให้สามารถตรวจสอบย้อนกลับการดำเนินการได้

มาตรการควบคุมครอบคลุมตัวตน อุปกรณ์และสภาพแวดล้อมการทำงาน เครือข่าย แอปพลิเคชันและภาระงาน ตลอดจนการคุ้มครองข้อมูล ข้อเสนอยังกำหนดทั้งข้อกำหนดและวัตถุประสงค์การควบคุมด้านความปลอดภัยขั้นพื้นฐานและขั้นสูง โดยมีการควบคุมพฤติกรรม การมองเห็นกิจกรรม และการวิเคราะห์เป็นส่วนหนึ่งของแนวทางด้วย

หลินยกตัวอย่างมาตรการที่เป็นรูปธรรมหลายข้อ เอเจนต์ควรทำงานในสภาพแวดล้อมที่แยกออกจากระบบอื่นอย่างเหมาะสม จำกัดการเชื่อมต่อเครือข่ายตามลักษณะงาน และจำกัดเครื่องมือให้ใช้ได้เฉพาะรายการที่อนุมัติ การเข้าถึงข้อมูลควรเป็นไปตามหลักการใช้เท่าที่จำเป็น มาตรการเหล่านี้รับมือกับช่องทางต่าง ๆ ที่เอเจนต์อาจทำเกินบทบาทที่กำหนด แทนที่จะพึ่งเพียงคำสั่งที่ป้อนให้โมเดล

การทดสอบต้องครอบคลุมความผิดพลาดตลอดทั้งขั้นตอนงาน

สำหรับการใช้งานที่สามารถขับเคลื่อนงานไปตามขั้นตอนต่าง ๆ ได้ เอกสารรับฟังความคิดเห็นเรียกร้องให้ทดสอบก่อนนำไปใช้งาน โดยครอบคลุมการโจมตีด้วยพรอมป์ต์อินเจ็กชัน การใช้เครื่องมือผิดวัตถุประสงค์ สิทธิ์ที่รับช่วงต่อมา และการปนเปื้อนของหน่วยความจำ การทดสอบเหล่านี้ตรวจสอบพฤติกรรมของเอเจนต์เมื่อข้อมูล เครื่องมือ หรืออำนาจที่พบทำให้เบี่ยงเบนจากงานที่ได้รับอนุมัติ

พรอมป์ต์อินเจ็กชันเกิดขึ้นเมื่อคำสั่งที่ซ่อนอยู่ในเนื้อหาซึ่งเอเจนต์อ่าน พยายามเปลี่ยนทิศทางการทำงาน การใช้เครื่องมือผิดวัตถุประสงค์หมายถึงการใช้ซอฟต์แวร์ที่เชื่อมต่ออยู่อย่างไม่เหมาะสม ส่วนสิทธิ์ที่รับช่วงต่อมาอาจทำให้เอเจนต์เข้าถึงสิทธิ์จากบัญชีหรือกระบวนการอื่น ขณะที่การปนเปื้อนของหน่วยความจำหมายถึงข้อมูลที่จัดเก็บไว้ส่งอิทธิพลต่อการทำงานภายหลังโดยไม่ตั้งใจ

เป้าหมายด้านการปฏิบัติงานไม่ได้มีแค่การป้องกันความผิดพลาด ระบบควรตรวจสอบสถานะได้ จำกัดหรือหยุดการทำงานได้ กู้คืนได้ และตรวจสอบย้อนหลังได้ พนักงานต้องมองเห็นว่าเอเจนต์กำลังทำอะไร ขัดจังหวะการทำงานที่เป็นอันตราย และกู้คืนการดำเนินงานที่ได้รับผลกระทบเมื่อทำได้

บันทึกกิจกรรมของเอเจนต์ควรช่วยสนับสนุนการตรวจสอบและการตรวจประเมิน การหยุดเอเจนต์เพียงอย่างเดียวอาจไม่เพียงพอ หากเอเจนต์บันทึกข้อมูลที่ผิดพลาดลงระบบหรือกระตุ้นให้เกิดการดำเนินการต่อเนื่องไปแล้ว ข้อเสนอจึงเชื่อมโยงการหยุดการทำงานเข้ากับการกู้คืนและการบันทึกสิ่งที่เกิดขึ้น

การรับฟังความคิดเห็น ไม่ใช่กฎการนำไปใช้งานขั้นสุดท้าย

คณะกรรมการฯ เผยแพร่เอกสารในส่วนการอภิปรายสาธารณะของแพลตฟอร์มการมีส่วนร่วมด้านนโยบายสาธารณะของไต้หวัน ระบุว่าการรับฟังความคิดเห็นจะช่วยนำประสบการณ์จริงมาประกอบการจัดทำกรอบแนวทาง และเป็นพื้นฐานสำหรับการกำหนดนโยบาย แนวทางที่อาจจัดทำขึ้น และการหารือด้านการกำกับดูแล

หลินกล่าวว่าการเปลี่ยนแปลงอย่างรวดเร็วของเทคโนโลยีเป็นเหตุผลหนึ่งที่ยังไม่ออกแนวทางตายตัวในทันที อีกทั้งคณะกรรมการฯ ก็ไม่อาจสันนิษฐานได้ว่าได้ระบุความเสี่ยงที่เกี่ยวข้องทั้งหมดแล้ว ความตั้งใจที่จะจัดทำแนวทางจึงขึ้นอยู่กับข้อเสนอแนะและพัฒนาการเพิ่มเติม ไม่ใช่คำมั่นว่าจะเผยแพร่เอกสารฉบับสมบูรณ์ภายในวันที่กำหนด

ลำดับการดำเนินงานที่คณะกรรมการฯ ระบุมีดังนี้:

• กรกฎาคม 2026: FSC เสนอกลยุทธ์รับมือการโจมตีด้วยเอไอ ซึ่งหลินระบุว่าเป็นงานตั้งต้นของการดำเนินการในปัจจุบัน
• 13 ตุลาคม 2026: FSC เผยแพร่เอกสารรับฟังความคิดเห็นเรื่องความปลอดภัยของเอไอเอเจนต์
• หลังเผยแพร่เอกสาร: เปิดรับฟังความคิดเห็นสาธารณะเป็นเวลา 30 วัน เพื่อรวบรวมข้อเสนอแนะต่อแนวทางที่เสนอ
• หลังการรับฟังความคิดเห็น: การจัดทำแนวทางอย่างเป็นทางการอาจขึ้นอยู่กับข้อเสนอแนะและพัฒนาการด้านเทคโนโลยี โดยยังไม่มีการประกาศกำหนดเวลาเผยแพร่

การทดลองที่ดำเนินอยู่ช่วยอธิบายเหตุผลของช่วงเวลาดังกล่าว หลินกล่าวว่าการทดลองจำนวนมากเกี่ยวข้องกับความมั่นคงปลอดภัยทางไซเบอร์ เช่น การวิเคราะห์ข่าวกรองด้านความปลอดภัยโดยไม่ลงมือดำเนินการในระบบจริงโดยตรง คณะกรรมการฯ ต้องการให้มีมาตรการคุ้มครองพร้อมก่อนที่เอเจนต์จะถูกนำไปใช้ในกระบวนการบริหารและธุรกิจมากขึ้น ขั้นตอนที่เป็นรูปธรรมต่อไปคือการรับฟังความคิดเห็น ส่วนถ้อยคำและสถานะของแนวทางที่จะจัดทำในอนาคตยังไม่ได้ข้อสรุป

ประเด็นสำคัญ

• FSC ของไต้หวันเปิดรับฟังความคิดเห็นเป็นเวลา 30 วัน เมื่อวันที่ 13 ตุลาคม 2026 ว่าด้วยการใช้เอไอเอเจนต์ในภาคการเงินอย่างปลอดภัย
• เน้นเอเจนต์ที่เชื่อมต่อกับระบบปฏิบัติการของสถาบันการเงิน ดำเนินงานในระบบดังกล่าว หรือสั่งให้ระบบทำงานได้
• ข้อเสนอแบ่งความเสี่ยงเป็น 4 ระดับ โดยประเมินจากความอ่อนไหวของข้อมูล ผลกระทบจากการดำเนินการ และขอบเขตความสามารถ
• การดำเนินการที่มีความเสี่ยงสูงสุดต้องมีการอนุมัติ การตรวจสอบ หรือกลไกป้องกันไม่ให้ดำเนินการ
• สถาบันควรจำกัดสิทธิ์ บันทึกกิจกรรม และสามารถหยุดเอเจนต์พร้อมกู้คืนจากความผิดพลาดได้
• มนุษย์ยังคงต้องรับผิดชอบ แม้เอไอเอเจนต์จะเป็นผู้ปฏิบัติงาน
• การใช้งานส่วนใหญ่ยังอยู่ในขั้นทดลอง เอกสารนี้ไม่ใช่แนวทางอย่างเป็นทางการ และยังไม่ได้กำหนดกรอบเวลาจัดทำแนวทางดังกล่าว