แนวปฏิบัติ AI Security Guidelines ของ สกมช.
สรุปแนวปฏิบัติการใช้ปัญญาประดิษฐ์อย่างมั่นคงปลอดภัยของ สกมช. สำหรับผู้บริหาร ทีมพัฒนาและปฏิบัติการ AI ฝ่ายกฎหมาย/DPO และฝ่ายความมั่นคงปลอดภัย โดยเรียงตามวงจรชีวิตของระบบและหลักธรรมาภิบาลความเสี่ยง.
วัตถุประสงค์และกลุ่มผู้อ่าน
เอกสารจัดทำโดย สกมช. เพื่อเป็นแนวทางในการพัฒนา บริหารจัดการ และใช้งานระบบ AI อย่างมั่นคงปลอดภัยและน่าเชื่อถือ.
- ครอบคลุมมุมมองเชิงนโยบายสำหรับผู้บริหาร และมุมมองเชิงเทคนิคสำหรับทีมพัฒนาและปฏิบัติการ AI.
- ระบุกลุ่มผู้เกี่ยวข้องตั้งแต่ฝ่ายกฎหมายและเจ้าหน้าที่คุ้มครองข้อมูลส่วนบุคคล ฝ่ายความมั่นคงปลอดภัย ผู้ใช้งาน ลูกค้า เจ้าของข้อมูล จนถึงผู้ขายในห่วงโซ่อุปทาน.
- เอกสารอ้างอิงมาตรฐานและรายงานเชิงเทคนิคสากล เช่น ISO/IEC, ENISA และ OWASP ควบคู่กับกฎหมายและแนวปฏิบัติในประเทศไทย.
วงจรชีวิต AI ที่เอกสารใช้เป็นโครงหลัก
แนวปฏิบัติจัดมาตรการความมั่นคงปลอดภัยให้ครอบคลุมตั้งแต่ก่อนลงทุนจนถึงการกำจัดข้อมูลและสินทรัพย์.
- ระยะที่ 0: แนวคิด - ระบุบริบทธุรกิจ กฎหมาย/ข้อบังคับ สินทรัพย์ ภัยคุกคาม ช่องโหว่ และความเสี่ยงก่อนเริ่มพัฒนา.
- ระยะที่ 1-3: ออกแบบอย่างมั่นคงปลอดภัย พัฒนาอย่างมั่นคงปลอดภัย และทวนสอบด้านความมั่นคงปลอดภัย.
- ระยะที่ 4-6: นำไปใช้งานอย่างมั่นคงปลอดภัย ดำเนินงานและบำรุงรักษาอย่างมั่นคงปลอดภัย แล้วกำจัดและทำลายอย่างเหมาะสม.
ธรรมาภิบาล ความเสี่ยง และความรับผิดชอบ
บทการกำกับดูแลใช้กรอบ GRC (Governance, Risk Management and Compliance) และย้ำว่าความเสี่ยงต้องประเมินตามบริบทของระบบแต่ละองค์กร.
- กำหนดบทบาท อำนาจ และความรับผิดชอบด้านความมั่นคงปลอดภัยของระบบ AI เป็นลายลักษณ์อักษร.
- บูรณาการความเสี่ยง AI เข้ากับกรอบบริหารความเสี่ยงขององค์กร และติดตามกฎหมาย/ข้อบังคับของไทยที่เกี่ยวข้อง.
- วางการตรวจสอบ การรับรอง การสื่อสาร และการฝึกอบรมเพื่อให้ควบคุมและตรวจสอบการใช้งานได้.
จุดเริ่มต้นสำหรับการนำไปใช้
เริ่มจากการทำให้ทีมเห็นสินทรัพย์และความสัมพันธ์ของระบบ AI ก่อนเลือกมาตรการหรือกำหนดขอบเขตการทดสอบ.
- จัดทำบัญชีสินทรัพย์และการไหลของข้อมูลที่ครอบคลุมโมเดล ชุดข้อมูลฝึกสอน อินเทอร์เฟซ และส่วนประกอบจากภายนอก.
- บันทึกสมมติฐาน ผลการประเมินความเสี่ยง การทวนสอบ และหลักฐานการดำเนินงานไว้ตลอดวงจรชีวิต.
- ปรับการควบคุมและการทดสอบตามวัตถุประสงค์ สถาปัตยกรรม ข้อมูล และผลกระทบของระบบ ไม่ใช้รายการตรวจเพียงชุดเดียวกับทุกระบบ.
STH AI SECURITY TESTING
Pentest สำหรับ LLM-integrated App และ AI Red Teaming
ระบบที่เชื่อม LLM มีพื้นผิวโจมตีมากกว่าโมเดลเพียงอย่างเดียว: ต้องพิจารณาแอปพลิเคชัน ช่องทางรับข้อมูล RAG หรือ Vector Store เครื่องมือที่ Agent เรียกใช้ สิทธิ์ ข้อมูล และการบันทึกเหตุการณ์ร่วมกัน.
Pentest ระบบที่เชื่อม LLM
ทวนสอบการบังคับใช้ control ที่จุดเชื่อมต่อของระบบ โดยไม่จำกัดอยู่แค่พฤติกรรมของโมเดล.
- สิทธิ์ผู้ใช้ การแยกข้อมูลระหว่างผู้ใช้หรือผู้เช่า และการเปิดเผยข้อมูลผ่านคำตอบหรือเอกสารที่ค้นคืน.
- การเชื่อมต่อ RAG, Vector Store, Model Provider, API และเครื่องมือภายนอก รวมถึงขอบเขต token และ secret.
- การอนุมัติและการบังคับใช้สิทธิ์ก่อน Agent เรียกใช้เครื่องมือหรือทำรายการที่มีผลกระทบ.
AI Red Teaming
จำลองพฤติกรรมเชิงปฏิปักษ์ในขอบเขตที่อนุญาต เพื่อพิสูจน์ว่า guardrail และขั้นตอนป้องกันทำงานได้จริง.
- Prompt Injection และ Indirect Prompt Injection จากข้อมูลหรือเอกสารที่ระบบนำไปใช้เป็นบริบท.
- Jailbreak หรือความพยายามให้ระบบทำงานนอกวัตถุประสงค์ พร้อมทวนสอบการจัดการ output ที่ไม่ปลอดภัย.
- ความเสี่ยงของ Agentic AI เมื่อคำสั่งหรือเครื่องมืออาจกระทบข้อมูล บัญชีผู้ใช้ หรือระบบปลายทาง.
สิ่งที่ควรได้จากการทดสอบ
- ขอบเขตที่ได้รับอนุญาต สภาพแวดล้อมและข้อมูลทดสอบ เกณฑ์หยุดทดสอบ และผู้ประสานงานเหตุฉุกเฉิน.
- หลักฐานผลการทดสอบ ระดับความรุนแรง เงื่อนไขการเกิดผลกระทบ และแนวทางแก้ไขที่ตรวจสอบซ้ำได้.
- การทดสอบซ้ำหลังแก้ไข และรายการควบคุมหรือความเสี่ยงที่ต้องติดตามในการใช้งานจริง.
คู่มือ สกมช. ระยะที่ 3 Secure Verification ระบุการทดสอบเชิงรุก การทดสอบเจาะระบบ LLM สำหรับ Prompt Injection/Jailbreaking ความเสี่ยงการรั่วไหลของข้อมูล และการทดสอบคำสั่งอันตรายของ Agent เป็นตัวอย่างหลักฐานการทวนสอบก่อนนำไปใช้งาน.
ปรึกษา Pentest LLM-integrated App และ AI Red Teaming กับ STH
