แนวปฏิบัติ AI Security Guidelines ของ สกมช.
สรุปแนวปฏิบัติการใช้ปัญญาประดิษฐ์อย่างมั่นคงปลอดภัยของ สกมช. สำหรับผู้บริหาร ทีมพัฒนาและปฏิบัติการ AI ฝ่ายกฎหมายและ DPO และฝ่ายความมั่นคงปลอดภัย โดยเรียงตามวงจรชีวิตของระบบและหลักธรรมาภิบาลความเสี่ยง
วัตถุประสงค์และกลุ่มผู้อ่าน
เอกสารจัดทำโดย สกมช. เพื่อเป็นแนวทางในการพัฒนา บริหารจัดการ และใช้งานระบบ AI อย่างมั่นคงปลอดภัยและน่าเชื่อถือ
- ครอบคลุมมุมมองเชิงนโยบายสำหรับผู้บริหาร และมุมมองเชิงเทคนิคสำหรับทีมพัฒนาและปฏิบัติการ AI
- ระบุกลุ่มผู้เกี่ยวข้องตั้งแต่ฝ่ายกฎหมายและเจ้าหน้าที่คุ้มครองข้อมูลส่วนบุคคล ฝ่ายความมั่นคงปลอดภัย ผู้ใช้งาน ลูกค้า เจ้าของข้อมูล จนถึงผู้ขายในห่วงโซ่อุปทาน
- เอกสารอ้างอิงมาตรฐานและรายงานเชิงเทคนิคสากล เช่น ISO/IEC, ENISA และ OWASP ควบคู่กับกฎหมายและแนวปฏิบัติในประเทศไทย
วงจรชีวิต AI ที่เอกสารใช้เป็นโครงหลัก
แนวปฏิบัติจัดมาตรการความมั่นคงปลอดภัยให้ครอบคลุมตั้งแต่ก่อนลงทุนจนถึงการกำจัดข้อมูลและสินทรัพย์
- ระยะที่ 0: แนวคิด - ระบุบริบทธุรกิจ กฎหมายและข้อบังคับ สินทรัพย์ ภัยคุกคาม ช่องโหว่ และความเสี่ยงก่อนเริ่มพัฒนา
- ระยะที่ 1-3: ออกแบบอย่างมั่นคงปลอดภัย พัฒนาอย่างมั่นคงปลอดภัย และทวนสอบด้านความมั่นคงปลอดภัย
- ระยะที่ 4-6: นำไปใช้งานอย่างมั่นคงปลอดภัย ดำเนินงานและบำรุงรักษาอย่างมั่นคงปลอดภัย และการปลดระวางพร้อมทำลายข้อมูลอย่างปลอดภัย (Decommissioning & Disposal)
ธรรมาภิบาล ความเสี่ยง และความรับผิดชอบ
บทการกำกับดูแลใช้กรอบ GRC (Governance, Risk Management and Compliance) และย้ำว่าความเสี่ยงต้องประเมินตามบริบทของระบบแต่ละองค์กร
- กำหนดบทบาท อำนาจ และความรับผิดชอบด้านความมั่นคงปลอดภัยของระบบ AI เป็นลายลักษณ์อักษร
- บูรณาการความเสี่ยง AI เข้ากับกรอบบริหารความเสี่ยงขององค์กร และติดตามกฎหมายและข้อบังคับของไทยที่เกี่ยวข้อง
- วางการตรวจสอบ การรับรอง การสื่อสาร และการฝึกอบรมเพื่อให้ควบคุมและตรวจสอบการใช้งานได้
ข้อเสนอแนะสำหรับการปฏิบัติจริง
เอกสารแนะนำให้เตรียมมาตรการสำคัญเพื่อรองรับการตรวจสอบและการทบทวนย้อนหลัง
- จัดทำ Data Provenance และสแกนช่องโหว่ซอฟต์แวร์ประมวลผลก่อนใช้งาน
- ทดสอบ Prompt Injection ทั้งแบบ Direct และ Indirect รวมถึงประเมิน RAG Vector DB เพื่อป้องกันข้อมูลรั่วไหลข้ามสิทธิ์ผู้ใช้ (Role-based Access) หรือข้าม Tenant (Multi-tenant)
- ทำ AI Red Teaming และทดสอบเจาะระบบครอบคลุมทั้ง โมเดล, API และซอฟต์แวร์แวดล้อม
ตารางเปรียบเทียบข้อกำหนดและการทดสอบความปลอดภัย
สรุปรายละเอียดประกาศ บทบัญญัติ และขอบเขตการทดสอบความปลอดภัยที่จำเป็น
| ประกาศ และข้อกำหนด | สาระสำคัญ | ขอบเขตการทดสอบ | รอบเวลาทดสอบ |
|---|---|---|---|
| ระยะที่ 0 ถึง 3 (สกมช. AI) | การประเมินความเสี่ยงแนวคิด การออกแบบ การจัดเตรียมข้อมูล และการ Train โมเดล | Training Data, Data Poisoning Prevention, Model Supply-Chain | ก่อนเริ่มการพัฒนาโมเดล |
| ระยะที่ 4 ถึง 6 (สกมช. AI) | การทดสอบก่อนใช้งาน การเฝ้าระวังภัยคุกคาม LLM และการปลดระวางโมเดล (Decommissioning) | Prompt Injection, RAG Vector DB, LLM API, System Integration | ก่อนเปิดใช้งาน และตลอดวงจรชีวิต |
เครื่องมือประเมินความพร้อม
คลิกเลือกรายการที่องค์กรของท่านได้ดำเนินการแล้ว เพื่อคำนวณระดับความพร้อมเบื้องต้น
STH AI SECURITY TESTING
Pentest สำหรับ LLM-integrated App และ AI Red Teaming
ระบบที่เชื่อม LLM มีพื้นผิวโจมตีมากกว่าโมเดลเพียงอย่างเดียว: ต้องพิจารณาแอปพลิเคชัน ช่องทางรับข้อมูล RAG หรือ Vector Store เครื่องมือที่ Agent เรียกใช้ สิทธิ์ ข้อมูล และการบันทึกเหตุการณ์ร่วมกัน
Pentest ระบบที่เชื่อม LLM
ทวนสอบการบังคับใช้ control ที่จุดเชื่อมต่อของระบบ โดยไม่จำกัดอยู่แค่พฤติกรรมของโมเดล
- สิทธิ์ผู้ใช้ การแยกข้อมูลระหว่างผู้ใช้หรือ Tenant และการเปิดเผยข้อมูลผ่านคำตอบหรือเอกสารที่ค้นคืน
- การเชื่อมต่อ RAG, Vector Store, Model Provider, API และเครื่องมือภายนอก รวมถึงขอบเขต Token และ Secret
- การอนุมัติและการบังคับใช้สิทธิ์ก่อน Agent เรียกใช้เครื่องมือหรือทำรายการที่มีผลกระทบ
AI Red Teaming
จำลองพฤติกรรมเชิงปฏิปักษ์ในขอบเขตที่อนุญาต เพื่อพิสูจน์ว่า guardrail และขั้นตอนป้องกันทำงานได้จริง
- Prompt Injection และ Indirect Prompt Injection จากข้อมูลหรือเอกสารที่ระบบนำไปใช้เป็นบริบท
- Jailbreak หรือความพยายามให้ระบบทำงานนอกวัตถุประสงค์ พร้อมทวนสอบการจัดการ output ที่ไม่ปลอดภัย
- ความเสี่ยงของ Agentic AI เมื่อคำสั่งหรือเครื่องมืออาจกระทบข้อมูล บัญชีผู้ใช้ หรือระบบปลายทาง
สิ่งที่ควรได้จากการทดสอบ
- ขอบเขตที่ได้รับอนุญาต สภาพแวดล้อมและข้อมูลทดสอบ เกณฑ์หยุดทดสอบ และผู้ประสานงานเหตุฉุกเฉิน
- หลักฐานผลการทดสอบ ระดับความรุนแรง เงื่อนไขการเกิดผลกระทบ และแนวทางแก้ไขที่ตรวจสอบซ้ำได้
- การทดสอบซ้ำหลังแก้ไข และรายการควบคุมหรือความเสี่ยงที่ต้องติดตามในการใช้งานจริง
แนวปฏิบัติ สกมช. ระยะที่ 3 Secure Verification ระบุการทดสอบเชิงรุก การทดสอบเจาะระบบ LLM สำหรับ Prompt Injection หรือ Jailbreaking ความเสี่ยงการรั่วไหลของข้อมูล และการทดสอบคำสั่งอันตรายของ Agent เป็นตัวอย่างหลักฐานการทวนสอบก่อนนำไปใช้งาน
ปรึกษา Pentest LLM-integrated App และ AI Red Teaming กับ STH
