แฮกเกอร์เกาหลีเหนือใช้ AI ในการโจมตีแบบฟิชชิงต่อกองทัพเกาหลีใต้

ใช้เวลาอ่าน 11 นาที
Kimsuky Leverages BlueKeep RDP Flaw t…

ลูกเล่น AI ในแผนการโจมตีแบบเดิมของกลุ่มคิมซูกี

กลุ่มคิมซูกีของเกาหลีเหนือใช้ปัญญาประดิษฐ์สร้างภาพบัตรประจำตัวพนักงานทหารเกาหลีใต้ที่ดูน่าเชื่อถือ เพื่อตกแต่งแคมเปญฟิชชิง ตามบทวิเคราะห์โดยละเอียดของบริษัทความมั่นคงไซเบอร์แห่งหนึ่งในเกาหลีใต้ สิ่งล่อใจขอให้ผู้รับช่วยตรวจแบบตัวอย่างบัตรประจำตัวสำหรับเจ้าหน้าที่พลเรือน ซึ่งเป็นคำขอที่ดูเป็นเรื่องปกติในระบบราชการด้านกลาโหม ภาพที่แนบมาดูเหมือนบัตรจริง แต่ผู้ตรวจสอบระบุว่ากราฟิกเหล่านี้สร้างด้วยโมเดล AI เชิงสร้างสรรค์ และส่งมาพร้อมมัลแวร์ที่สามารถเข้าควบคุมคอมพิวเตอร์ของเหยื่อได้

สารบัญ
  1. ลูกเล่น AI ในแผนการโจมตีแบบเดิมของกลุ่มคิมซูกี
  2. แผนฟิชชิงทำงานอย่างไร
  3. หลบเลี่ยงมาตรการป้องกัน AI ด้วยการแทรกคำสั่ง
  4. การส่งมัลแวร์และห่วงโซ่การเจาะระบบ
  5. กลุ่มคิมซูกีมุ่งเป้าใคร และเพราะเหตุใด
  6. รูปแบบการใช้ AI ในทางที่ผิดของผู้ปฏิบัติการเกาหลีเหนือที่ขยายวงกว้างขึ้น
  7. เหตุใด AI จึงทำให้วิศวกรรมสังคมน่าเชื่อถือยิ่งขึ้น
  8. การป้องกัน การตรวจจับ และการตอบสนองเชิงนโยบาย
  9. หลักป้องกันทางกฎหมายและจริยธรรมสำหรับ AI
  10. สิ่งที่ควรรู้

อีเมลแอบอ้างเป็นหน่วยงานที่เกี่ยวข้องกับกลาโหมและมีหน้าที่ออกบัตรประจำตัว ผู้โจมตีพยายามสร้างความมั่นใจให้ผู้รับด้วยการแนบภาพ PNG ที่ดูคล้ายแบบร่างบัตรประจำตัว ในห่วงโซ่การส่งเดียวกันยังมีไฟล์ที่เปิดใช้แบ็กดอร์เมื่อเป้าหมายโต้ตอบกับเนื้อหา ภาพเหล่านี้น่าจะสร้างขึ้นโดยป้อนคำสั่งให้ระบบ AI เชิงพาณิชย์ทำภาพจำลองเพื่อใช้ทดสอบ แทนที่จะสร้างเอกสารรับรองตัวตนจริง ซึ่งเป็นเทคนิคที่อาจหลอกระบบป้องกันอัตโนมัติได้

ที่อยู่ผู้ส่งยังเลียนแบบโดเมนทางทหารที่น่าเชื่อถือด้วย ผู้ตรวจสอบพบโดเมนปลอม เช่น .mli.kr ซึ่งคล้ายกับส่วนต่อท้ายโดเมนกลาโหมอย่างเป็นทางการของเกาหลีใต้คือ .mil.kr เพื่อหลอกผู้รับที่กำลังมองหาสัญญาณคุ้นตา การเปลี่ยนแปลงเล็กน้อยเช่นนี้เป็นกลยุทธ์วิศวกรรมสังคมที่พบได้ทั่วไป และสังเกตได้ยากเมื่อผู้ใช้กวาดตาดูกล่องจดหมายที่มีข้อความจำนวนมาก

แคมเปญนี้ตรวจพบครั้งแรกในช่วงกลางเดือนกรกฎาคม หลังจากก่อนหน้านั้นกลุ่มเดียวกันเคยใช้สิ่งล่อใจแบบ ClickFix และส่งมัลแวร์ตระกูลเดียวกัน ความรู้ที่ได้จากปฏิบัติการครั้งก่อนดูเหมือนถูกนำกลับมาใช้ โดยคราวนี้จับคู่กับกราฟิกที่สร้างด้วย AI เพื่อทำให้เรื่องราวน่าเชื่อถือยิ่งขึ้น เป้าหมายมีทั้งองค์กรที่เกี่ยวข้องกับกองทัพ ตลอดจนนักวิจัย นักข่าว และนักกิจกรรมที่ให้ความสำคัญกับเกาหลีเหนือ

แผนฟิชชิงทำงานอย่างไร

เหยื่อล่อเรียบง่าย ผู้รับได้รับข้อความขอให้ช่วยตรวจแบบตัวอย่างบัตรประจำตัวอย่างรวดเร็ว ไฟล์ ZIP หรือลิงก์ดาวน์โหลดจะส่งภาพและสคริปต์อย่างน้อยหนึ่งไฟล์ เมื่อเปิดไฟล์แล้ว ห่วงโซ่การโจมตีจะเรียกใช้โค้ดที่เชื่อมต่อคอมพิวเตอร์กับโครงสร้างพื้นฐานของผู้โจมตี ดาวน์โหลดองค์ประกอบเพิ่มเติม และตั้งค่าการควบคุมจากระยะไกล ภาพช่วยให้เรื่องราวเรื่องการตรวจแบบดูเหมือนไม่มีพิษภัยน่าเชื่อขึ้น

หลบเลี่ยงมาตรการป้องกัน AI ด้วยการแทรกคำสั่ง

เครื่องมือ AI กระแสหลักส่วนใหญ่ปฏิเสธการสร้างบัตรประจำตัวที่รัฐบาลออกให้ เนื่องจากการคัดลอกเอกสารดังกล่าวเป็นสิ่งผิดกฎหมายและเอื้อต่อการฉ้อโกง ในกรณีนี้ ผู้โจมตีดูเหมือนจะเขียนคำสั่งโดยอ้างว่าเป็นตัวอย่างการออกแบบสำหรับภาพจำลองภายใน วิธีนี้อาจทำให้โมเดลตีความคำขอว่าไม่มีอันตราย นี่เป็นรูปแบบหนึ่งของการแทรกคำสั่งหรือการเจลเบรก ซึ่งผู้ใช้ชักนำโมเดลให้หลีกเลี่ยงกฎด้วยการเลือกถ้อยคำที่ปรับกรอบเจตนาเสียใหม่

นักวิเคราะห์ที่ตรวจสอบภาพปลอมภาพหนึ่งรายงานว่า เครื่องมือตรวจจับดีปเฟกประเมินว่ามีความเป็นไปได้ 98 เปอร์เซ็นต์ที่ภาพดังกล่าวสร้างด้วย AI ในตัวอย่างอย่างน้อยหนึ่งภาพ ข้อมูลเมตาของภาพอ้างถึง GPT 4o และ ChatGPT ซึ่งบ่งชี้ว่าอาจใช้กระบวนการสร้างภาพของ OpenAI ในขั้นทดสอบหรือผลิต ยิ่งภาพดูเหมือนแบบร่างบัตรทั่วไปมากเท่าไร เจ้าหน้าที่ที่กำลังรีบก็ยิ่งมีแนวโน้มมองว่าคำขอนั้นถูกต้องมากขึ้นเท่านั้น

การส่งมัลแวร์และห่วงโซ่การเจาะระบบ

แพ็กเกจที่ใช้ส่งไฟล์มีหลายรูปแบบ ในกรณีหนึ่งที่พบ ไฟล์ ZIP มีไฟล์ทางลัดที่ปลอมให้ดูเหมือนเอกสารทั่วไป เมื่อเปิดไฟล์ จะเรียกใช้คำสั่ง PowerShell ที่เชื่อมต่อไปยังเซิร์ฟเวอร์ระยะไกล ดึงแบ็กดอร์มา และดาวน์โหลดภาพ PNG ลวงที่เป็นรูปบัตรประจำตัว อีกกรณีหนึ่ง ไฟล์แบตช์ชื่อ LhUdPC3G.bat ทำงานพร้อมกับภาพและเริ่มกิจกรรมที่เป็นอันตราย รวมถึงการทำให้มัลแวร์คงอยู่ในระบบ และเปิดทางให้ขโมยข้อมูลกับควบคุมเครื่องจากระยะไกล

อีเมลเหล่านี้เป็นการฟิชชิงแบบเจาะจงเป้าหมาย และผู้ปฏิบัติการใส่ใจในรายละเอียด ไฟล์บีบอัดบางชุดปรับแต่งโดยใช้ชื่อจริงของผู้รับที่ปิดบังไว้บางส่วน เพื่อเพิ่มความน่าเชื่อถือและกระตุ้นให้เป้าหมายเปิดไฟล์แนบ ภาพบัตรปลอม ลักษณะคำขอที่คุ้นเคย และโดเมนผู้ส่งที่เกือบเหมือนของจริง ล้วนร่วมกันผลักให้ผู้รับลดความระแวดระวังลง

โฆษณา

กลุ่มคิมซูกีมุ่งเป้าใคร และเพราะเหตุใด

หน่วยงานรัฐและนักวิจัยเอกชนติดตามกลุ่มคิมซูกีมาหลายปี โดยระบุว่าเป็นหน่วยข่าวกรองของเกาหลีเหนือที่ทำหน้าที่รวบรวมข้อมูล กลุ่มนี้ถูกประเมินว่ารวบรวมข้อมูลด้านนโยบาย การทหาร และเทคโนโลยีที่สอดคล้องกับลำดับความสำคัญของรัฐ ผู้ที่ตกเป็นเป้าหมายมักประกอบด้วยหน่วยงานรัฐบาล สถาบันที่เกี่ยวข้องกับกลาโหม ศูนย์วิจัย นักวิชาการ นักข่าว และองค์กรสิทธิมนุษยชนที่ให้ความสำคัญกับเกาหลีเหนือ

ในเดือนมิถุนายน นักวิจัยบันทึกอีเมลธีม ClickFix ที่ชักชวนให้ผู้ใช้กดปุ่มเพื่อแก้ปัญหาที่อ้างว่ามีอยู่ แคมเปญเดือนกรกฎาคมนำมัลแวร์ตัวเดิมและเทคนิคหลายอย่างกลับมาใช้ ก่อนเพิ่มภาพตัวอย่างการออกแบบที่สร้างด้วย AI เพื่อเสริมความน่าเชื่อถือให้สิ่งล่อใจ นี่ไม่ใช่การส่งข้อความโจมตีวงกว้าง แต่เป็นปฏิบัติการที่วางแผนอย่างรอบคอบและเจาะจง เพื่อเข้าถึงเครือข่ายและกล่องจดหมายบางแห่ง

การระบุแหล่งที่มาพิจารณาจากหลักฐานทางเทคนิคและบริบทหลายด้าน รวมถึงโค้ดมัลแวร์ที่ใช้ร่วมกัน การนำโครงสร้างพื้นฐานกลับมาใช้ รูปแบบภาษา และการเลือกเป้าหมาย ตัวบ่งชี้เหล่านี้สอดคล้องกับกิจกรรมที่เคยเชื่อมโยงกับกลุ่มคิมซูกี วิธีการนี้เป็นไปตามภารกิจที่ดำเนินมายาวนานในการแทรกซึมเข้าไปในแวดวงนโยบาย รวบรวมข้อมูล และรักษาฐานที่มั่นในสถาบันซึ่งติดตามเกาหลีเหนืออย่างใกล้ชิด

การแอบอ้างเป็นหน่วยงานที่ออกบัตรประจำตัวใช้ประโยชน์จากกระบวนการทำงานที่คนคุ้นเคย เอกสารยืนยันตัวตนมักต้องผ่านการตรวจร่วมกัน มีการหารือไปมาทั้งเรื่องแบบอักษร ภาพถ่าย และการจัดวาง อีกทั้งยังมีภาพลักษณ์ของความน่าเชื่อถือทางการแฝงอยู่ จึงทำให้คำขอให้ตรวจตัวอย่างดูเป็นเรื่องปกติ

โฆษณา

รูปแบบการใช้ AI ในทางที่ผิดของผู้ปฏิบัติการเกาหลีเหนือที่ขยายวงกว้างขึ้น

ปฏิบัติการฟิชชิงนี้สอดคล้องกับรูปแบบที่กว้างกว่า ในเดือนสิงหาคม ผู้พัฒนา AI รายใหญ่รายหนึ่งเปิดเผยว่าได้ขัดขวางผู้ปฏิบัติการเกาหลีเหนือที่ใช้โมเดลของบริษัทสร้างตัวตนปลอม สมัครงานทางไกลกับบริษัทเทคโนโลยีในสหรัฐฯ และแม้กระทั่งทำงานด้านเทคนิคหลังได้รับการจ้างงาน รายงานฉบับเดียวกันยังระบุว่าบัญชีที่เกี่ยวข้องกับกิจกรรมนี้ถูกระงับ และบริษัทได้ปรับปรุงระบบตรวจจับการใช้งานที่เป็นอันตราย

การบรรยายสรุปด้านความมั่นคงในเกาหลีใต้และสหรัฐฯ เตือนว่า ผู้ปฏิบัติการเกาหลีเหนือใช้เครื่องมือ AI เขียนอีเมลได้อย่างลื่นไหล จัดทำประวัติย่อและจดหมายสมัครงาน เขียนโค้ด และสร้างตัวตนพร้อมภาพโปรไฟล์ที่ดูเป็นมืออาชีพ ความสามารถเหล่านี้ทำให้ผู้ปฏิบัติการเพียงไม่กี่คนทำงานได้อย่างประณีตเหมือนทีมขนาดใหญ่ อุปสรรคในการเริ่มต้นลดลงแล้ว ผู้ที่มีทักษะทางเทคนิคไม่มากสามารถใช้ AI ขอคำแนะนำ ร่างโมดูลมัลแวร์ได้เร็วขึ้น แปลเนื้อหาเป็นภาษาเกาหลีหรืออังกฤษที่มีคุณภาพเหมือนเจ้าของภาษา และสร้างภาพที่ผ่านการกวาดตามองอย่างรวดเร็วได้

นักวิเคราะห์ความขัดแย้งทางดิจิทัลบนคาบสมุทรเกาหลีระบุว่า การโจมตีสถาบันในเกาหลีใต้เพิ่มสูงขึ้น แหล่งข้อมูลสาธารณะในปี 2023 ระบุว่ามีความพยายามโจมตีระบบรัฐบาลหลายล้านครั้งต่อวัน โดยหลายกรณีสืบโยงไปถึงกิจกรรมของเกาหลีเหนือ รายงานขององค์การสหประชาชาติและงานวิจัยในอุตสาหกรรมอีกหลายชิ้นเชื่อมโยงหน่วยงานเกาหลีเหนือกับการขโมยคริปโทเคอร์เรนซีมูลค่าสูง ซึ่งนำไปใช้สนับสนุนโครงการเชิงยุทธศาสตร์ เหตุฟิชชิงแบบเจาะจงเป้าหมาย การฉ้อโกงสมัครงานด้วย AI และการขโมยเงิน ล้วนเป็นส่วนหนึ่งของยุทธศาสตร์เดียวกันเพื่อรวบรวมข่าวกรองและสร้างรายได้แม้เผชิญมาตรการคว่ำบาตร

แม้ผู้ปฏิบัติการที่มีฐานอยู่ในจีนและกลุ่มอื่นที่เชื่อมโยงกับรัฐกำลังทดลองใช้ AI เชิงสร้างสรรค์เช่นกัน แต่ประเด็นที่กล่าวถึงในที่นี้คือการนำไปใช้ที่รวดเร็วของหน่วยงานเกาหลีเหนือ ทั้งเพื่อการจารกรรมและการเงินผิดกฎหมาย เส้นแบ่งระหว่างชุดเครื่องมือฟิชชิงกับสตูดิโอผลิตเนื้อหาที่ใช้ AI ช่วยนั้นเลือนรางลง สิ่งที่เคยต้องใช้ทีมนักออกแบบ นักแปล และนักพัฒนา บัดนี้ประกอบขึ้นได้ด้วยคำสั่งไม่กี่ชุดและเครื่องมือโอเพนซอร์สจำนวนหนึ่ง

โฆษณา

เหตุใด AI จึงทำให้วิศวกรรมสังคมน่าเชื่อถือยิ่งขึ้น

AI เชิงสร้างสรรค์ทำได้ดีในการผลิตเนื้อหาที่ประณีตได้ตามต้องการ ในบริบทของฟิชชิง นั่นหมายถึงภาพ ข้อความ และโค้ดที่ปรับให้เหมาะกับกลุ่มเป้าหมายได้โดยใช้ความพยายามเพียงเล็กน้อย ภาพจำลองบัตรที่น่าเชื่อถือหรือหัวจดหมายที่มีตราสินค้าช่วยลดความระแวดระวังของผู้อ่าน โมเดลที่เขียนภาษาเกาหลีแบบราชการได้ ใส่คำย่อที่เหมาะสม และรักษาน้ำเสียงสุภาพให้สม่ำเสมอ สามารถสร้างข้อความที่ดูและให้ความรู้สึกเหมือนของจริง

โมเดลภาษายังทำหน้าที่เป็นผู้ช่วยเขียนที่ไม่รู้จักเหน็ดเหนื่อย ช่วยแก้ไวยากรณ์ เลียนแบบรูปแบบการเขียนของสถาบัน และรักษาน้ำเสียงให้สม่ำเสมอในอีเมลหลายฉบับ ผู้โจมตีสามารถขอข้อความแบบเดียวกันในหลายรูปแบบสำหรับบทบาทต่างกัน โมเดลอาจร่างข้อความหนึ่งให้ดูเหมือนประกาศทั่วไปสำหรับผู้จัดการฝ่ายทรัพยากรบุคคล และอีกร่างหนึ่งให้อ่านคล้ายบันทึกทางเทคนิคสำหรับหัวหน้าฝ่ายไอที

ในด้านเทคนิค ผู้ช่วยเขียนโค้ดช่วยให้ผู้ปฏิบัติการที่มีประสบการณ์น้อยนำสคริปต์และเพย์โหลดมาประกอบเข้าด้วยกัน โมเดลอธิบายข้อผิดพลาด เสนอวิธีแก้ และสร้างตัวอย่างที่ใช้งานได้ หากนำไปใช้ในทางที่ผิด ก็จะช่วยเพิ่มความเร็วและลดระยะเวลาเรียนรู้ในการพัฒนามัลแวร์ เมื่อจับคู่กับการสร้างและแปลข้อความ ผู้ปฏิบัติการเพียงคนเดียวก็สามารถดำเนินแคมเปญหลายภาษาได้ ซึ่งเมื่อไม่กี่ปีก่อนจำเป็นต้องใช้ทั้งทีม

การสร้างตัวตนเป็นอีกเสาหลักหนึ่ง โมเดลช่วยแต่งประวัติการทำงาน จัดทำประวัติย่อในรูปแบบมาตรฐาน และร่างจดหมายสมัครงานให้ตรงกับประกาศรับสมัครงานได้ เครื่องมือสร้างภาพทำภาพโปรไฟล์ที่ผ่านการตรวจดูอย่างรวดเร็วได้ เมื่อนำความสามารถเหล่านี้มารวมกัน การฉ้อโกงทางอีเมลธุรกิจและการแทรกซึมระยะยาวก็ทำได้ง่ายขึ้น อย่างน้อยก็จนกว่ามาตรการป้องกันของมนุษย์และระบบเทคนิคจะตามทัน

การป้องกัน การตรวจจับ และการตอบสนองเชิงนโยบาย

เกาหลีใต้ปรับปรุงยุทธศาสตร์ความมั่นคงไซเบอร์แห่งชาติ โดยเน้นความร่วมมือระหว่างประเทศ การนำเทคโนโลยีขั้นสูงมาใช้ และการเสริมความแข็งแกร่งในการป้องกัน แผนดังกล่าวให้ความสำคัญกับการตรวจจับด้วย AI เพื่อเฝ้าระวังแบบเรียลไทม์ การแลกเปลี่ยนข้อมูลกับพันธมิตรให้ลึกซึ้งยิ่งขึ้น และการเพิ่มความยืดหยุ่นของโครงสร้างพื้นฐานสำคัญ กรุงโซลยังผลักดันการประสานงานที่ใกล้ชิดกับสหรัฐฯ และญี่ปุ่น เพื่อให้แนวนโยบายสอดคล้องกันและจัดการฝึกร่วมที่มุ่งเน้นการรับมือเหตุการณ์

องค์กรต่าง ๆ สามารถลดผลกระทบจากการโจมตีที่ใช้โดเมนเลียนแบบและภาพดีปเฟกได้ด้วยการผสมผสานกระบวนการ การฝึกอบรม และเทคโนโลยี จุดเริ่มต้นของกระบวนการคือการตรวจสอบยืนยัน คำขอที่เกี่ยวข้องกับข้อมูลรับรองหรือเอกสารยืนยันตัวตนควรทำตามขั้นตอนที่บันทึกไว้อย่างชัดเจน รวมถึงติดต่อเจ้าหน้าที่ที่รู้จักผ่านช่องทางสำรอง ควรฝึกให้พนักงานตรวจโดเมนทีละตัวอักษร และเลื่อนตัวชี้ไปวางเหนือลิงก์ก่อนคลิก

มาตรการควบคุมทางเทคนิคช่วยป้องกันการเรียกใช้ไฟล์ได้ เกตเวย์อีเมลควรกักกันข้อความที่มีไฟล์บีบอัดซ้อนกัน และบล็อกไฟล์แนบเสี่ยง เช่น ไฟล์ทางลัด อิมเมจ ISO และสคริปต์ ปิดหรือจำกัดการใช้ PowerShell หากทำได้ และใช้รายการอนุญาตแอปพลิเคชันเพื่อป้องกันไฟล์ปฏิบัติการที่ไม่ได้รับอนุมัติ ระบบตรวจจับและตอบสนองที่ปลายทางสามารถตรวจจับการเรียกใช้ PowerShell ที่เป็นอันตรายและการเชื่อมต่อขาออกที่ผิดปกติได้ ส่วนระบบเฝ้าระวังเครือข่ายสามารถแจ้งเตือนเมื่อมีการเชื่อมต่อใหม่ไปยังโดเมนที่ไม่รู้จักหลังจากมีการโต้ตอบกับอีเมลไม่นาน

การตรวจสอบผู้สมัครงานและผู้ขายเป็นองค์ประกอบที่มีความสำคัญมากขึ้นในการป้องกันทางไซเบอร์ กระบวนการจ้างงานทางไกลควรมีการตรวจสอบตัวตนอย่างเข้มงวดด้วยวิดีโอสด การยืนยันผ่านบุคคลที่สามที่เชื่อถือได้ และการตรวจสอบบุคคลอ้างอิงอย่างเป็นอิสระ ระบบที่จัดการข้อมูลอ่อนไหวควรบังคับใช้สิทธิ์เข้าถึงเท่าที่จำเป็นและการตรวจสอบอย่างต่อเนื่อง การตรวจสอบตามปกติช่วยจับความผิดปกติ เช่น ตำแหน่งล็อกอินที่ไม่คุ้นเคยและกิจกรรมนอกเวลาที่คาดหมาย

โฆษณา

หลักป้องกันทางกฎหมายและจริยธรรมสำหรับ AI

เหตุการณ์นี้สะท้อนความตึงเครียดในการนำ AI มาใช้ ธุรกิจได้ประโยชน์เมื่อพนักงานใช้ AI ร่างเอกสาร เขียนโค้ด และประมวลผลภาพ แต่การเข้าถึงที่ง่ายเช่นเดียวกันก็อาจถูกฝ่ายตรงข้ามนำไปใช้ในทางที่ผิดได้ ผู้พัฒนา AI ได้นำระบบความปลอดภัยมาใช้เพื่อปฏิเสธเนื้อหาที่เป็นอันตรายและเฝ้าระวังการใช้ในทางที่ผิด แต่ผู้โจมตีก็พยายามหลบเลี่ยงมาตรการเหล่านั้นด้วยคำสั่งที่ซับซ้อน ชุมชนด้านการป้องกันตอบสนองด้วยการแบ่งปันตัวบ่งชี้การใช้ในทางที่ผิด ระงับบัญชีที่กระทำผิด และปรับปรุงพฤติกรรมของโมเดลให้ต้านทานการชักจูงได้ดีขึ้น

การเลือกนโยบายและการจัดซื้อจัดจ้างมีความสำคัญ หน่วยงานและผู้รับเหมาควรกำหนดให้ผู้จัดหาระบบ AI มีบันทึกการตรวจสอบ ช่องทางแจ้งการใช้ในทางที่ผิด และการอัปเดตเพื่อเสริมความแข็งแกร่งของโมเดล กฎการใช้ AI ที่ชัดเจนในองค์กรช่วยป้องกันการสร้างเนื้อหาเสี่ยงโดยไม่ตั้งใจ ทีมความมั่นคงควรทดสอบโมเดลด้วยคำสั่งเจลเบรกที่พบบ่อย และเสนอทางเลือกที่ปลอดภัยกับขั้นตอนทำงานที่อนุมัติล่วงหน้าสำหรับความต้องการทางธุรกิจ เช่น การออกแบบเอกสารหรือการตรวจทานโค้ด

สิ่งที่ควรรู้

  • กลุ่มคิมซูกีใช้ภาพบัตรประจำตัวทหารเกาหลีใต้ที่สร้างด้วย AI เป็นสิ่งล่อใจในแคมเปญฟิชชิงแบบเจาะจงเป้าหมายเมื่อเดือนกรกฎาคม
  • อีเมลขอให้ผู้รับตรวจแบบตัวอย่างบัตรประจำตัว และส่งมาจากโดเมน .mli.kr ที่เลียนแบบส่วนต่อท้ายโดเมนทางการ .mil.kr
  • ผู้ตรวจสอบพบข้อมูลเมตาที่อ้างถึง GPT 4o และ ChatGPT ในภาพอย่างน้อยหนึ่งภาพ และเครื่องมือตรวจจับประเมินว่าภาพปลอมภาพหนึ่งมีความเป็นไปได้ 98 เปอร์เซ็นต์ที่สร้างด้วย AI
  • ห่วงโซ่การส่งไฟล์ประกอบด้วยไฟล์ ZIP และสคริปต์ที่เรียกใช้คำสั่ง PowerShell ติดตั้งแบ็กดอร์ และดาวน์โหลดภาพ PNG ลวง
  • เป้าหมายมีทั้งองค์กรที่เกี่ยวข้องกับกองทัพ นักวิจัย นักข่าว และนักกิจกรรมด้านสิทธิมนุษยชนที่ให้ความสำคัญกับเกาหลีเหนือ
  • แคมเปญนำมัลแวร์ที่พบในกิจกรรมธีม ClickFix เมื่อเดือนมิถุนายน ซึ่งระบุว่าเป็นฝีมือกลุ่มเดียวกันกลับมาใช้
  • ผู้ปฏิบัติการเกาหลีเหนือยังใช้เครื่องมือ AI สร้างตัวตนปลอมและได้งานทางไกล ตามรายงานล่าสุดของผู้ให้บริการ AI รายใหญ่รายหนึ่ง
  • มาตรการป้องกันประกอบด้วยการตรวจสอบคำขอเกี่ยวกับข้อมูลยืนยันตัวตนอย่างเข้มงวด การควบคุมอีเมลและอุปกรณ์ปลายทางเพื่อบล็อกไฟล์เสี่ยงกับสคริปต์ และการตรวจสอบผู้สมัครงานทางไกลอย่างรอบคอบ
แชร์บทความนี้

เรื่องที่คุณอาจชอบ