แนวปฏิบัติ AI Security Guidelines ของ สกมช.
สรุปแนวปฏิบัติการใช้ปัญญาประดิษฐ์อย่างมั่นคงปลอดภัยของ สกมช. สำหรับผู้บริหาร ทีมพัฒนาและปฏิบัติการ AI ฝ่ายกฎหมายและ DPO และฝ่ายความมั่นคงปลอดภัย โดยเรียงตามวงจรชีวิตของระบบและหลักธรรมาภิบาลความเสี่ยง.
วัตถุประสงค์และกลุ่มผู้อ่าน
เอกสารจัดทำโดย สกมช. เพื่อเป็นแนวทางในการพัฒนา บริหารจัดการ และใช้งานระบบ AI อย่างมั่นคงปลอดภัยและน่าเชื่อถือ.
- ครอบคลุมมุมมองเชิงนโยบายสำหรับผู้บริหาร และมุมมองเชิงเทคนิคสำหรับทีมพัฒนาและปฏิบัติการ AI.
- ระบุกลุ่มผู้เกี่ยวข้องตั้งแต่ฝ่ายกฎหมายและเจ้าหน้าที่คุ้มครองข้อมูลส่วนบุคคล ฝ่ายความมั่นคงปลอดภัย ผู้ใช้งาน ลูกค้า เจ้าของข้อมูล จนถึงผู้ขายในห่วงโซ่อุปทาน.
- เอกสารอ้างอิงมาตรฐานและรายงานเชิงเทคนิคสากล เช่น ISO/IEC, ENISA และ OWASP ควบคู่กับกฎหมายและแนวปฏิบัติในประเทศไทย.
วงจรชีวิต AI ที่เอกสารใช้เป็นโครงหลัก
แนวปฏิบัติจัดมาตรการความมั่นคงปลอดภัยให้ครอบคลุมตั้งแต่ก่อนลงทุนจนถึงการกำจัดข้อมูลและสินทรัพย์.
- ระยะที่ 0: แนวคิด - ระบุบริบทธุรกิจ กฎหมายและข้อบังคับ สินทรัพย์ ภัยคุกคาม ช่องโหว่ และความเสี่ยงก่อนเริ่มพัฒนา.
- ระยะที่ 1-3: ออกแบบอย่างมั่นคงปลอดภัย พัฒนาอย่างมั่นคงปลอดภัย และทวนสอบด้านความมั่นคงปลอดภัย.
- ระยะที่ 4-6: นำไปใช้งานอย่างมั่นคงปลอดภัย ดำเนินงานและบำรุงรักษาอย่างมั่นคงปลอดภัย แล้วกำจัดและทำลายอย่างเหมาะสม.
ธรรมาภิบาล ความเสี่ยง และความรับผิดชอบ
บทการกำกับดูแลใช้กรอบ GRC (Governance, Risk Management and Compliance) และย้ำว่าความเสี่ยงต้องประเมินตามบริบทของระบบแต่ละองค์กร.
- กำหนดบทบาท อำนาจ และความรับผิดชอบด้านความมั่นคงปลอดภัยของระบบ AI เป็นลายลักษณ์อักษร.
- บูรณาการความเสี่ยง AI เข้ากับกรอบบริหารความเสี่ยงขององค์กร และติดตามกฎหมายและข้อบังคับของไทยที่เกี่ยวข้อง.
- วางการตรวจสอบ การรับรอง การสื่อสาร และการฝึกอบรมเพื่อให้ควบคุมและตรวจสอบการใช้งานได้.
ข้อเสนอแนะสำหรับการปฏิบัติจริง
เอกสารแนะนำให้เตรียมมาตรการสำคัญเพื่อรองรับการตรวจสอบและการทบทวนย้อนหลัง.
- จัดทำ Data Provenance และสแกนช่องโหว่ซอฟต์แวร์ประมวลผลก่อนใช้งาน.
- ทดสอบ Prompt Injection ทั้งแบบ Direct และ Indirect รวมถึงประเมิน RAG Vector DB ไม่ให้ข้อมูลข้ามบทบาทผู้ใช้รั่วไหล.
- ทำ AI Red Teaming และทดสอบเจาะระบบครอบคลุมทั้ง โมเดล, APIs และซอฟต์แวร์แวดล้อม.
ตารางเปรียบเทียบข้อกำหนดและการทดสอบความปลอดภัย
สรุปรายละเอียดประกาศ บทบัญญัติ และขอบเขตการทดสอบความปลอดภัยที่จำเป็น
| ประกาศ และข้อกำหนด | สาระสำคัญ | ขอบเขตการทดสอบ | รอบเวลาทดสอบ |
|---|---|---|---|
| ระยะที่ 0 ถึง 3 (สกมช. AI) | การประเมินความเสี่ยงแนวคิด การออกแบบ การจัดเตรียมข้อมูล และการฝึกโมเดล | Training Data, Data Poisoning Prevention, Model Supply-Chain | ก่อนเริ่มการพัฒนาโมเดล |
| ระยะที่ 4 ถึง 6 (สกมช. AI) | การทดสอบก่อนใช้งาน การเฝ้าระวังภัยคุกคาม LLM และการกำจัดโมเดล | Prompt Injection, RAG Vector DB, LLM APIs, System Integration | ก่อนเปิดใช้งาน และตลอดวงจรชีวิต |
เครื่องมือประเมินความพร้อม
คลิกเลือกรายการที่องค์กรของท่านได้ดำเนินการแล้ว เพื่อคำนวณระดับความพร้อมเบื้องต้น
STH AI SECURITY TESTING
Pentest สำหรับ LLM-integrated App และ AI Red Teaming
ระบบที่เชื่อม LLM มีพื้นผิวโจมตีมากกว่าโมเดลเพียงอย่างเดียว: ต้องพิจารณาแอปพลิเคชัน ช่องทางรับข้อมูล RAG หรือ Vector Store เครื่องมือที่ Agent เรียกใช้ สิทธิ์ ข้อมูล และการบันทึกเหตุการณ์ร่วมกัน.
Pentest ระบบที่เชื่อม LLM
ทวนสอบการบังคับใช้ control ที่จุดเชื่อมต่อของระบบ โดยไม่จำกัดอยู่แค่พฤติกรรมของโมเดล.
- สิทธิ์ผู้ใช้ การแยกข้อมูลระหว่างผู้ใช้หรือผู้เช่า และการเปิดเผยข้อมูลผ่านคำตอบหรือเอกสารที่ค้นคืน.
- การเชื่อมต่อ RAG, Vector Store, Model Provider, API และเครื่องมือภายนอก รวมถึงขอบเขต token และ secret.
- การอนุมัติและการบังคับใช้สิทธิ์ก่อน Agent เรียกใช้เครื่องมือหรือทำรายการที่มีผลกระทบ.
AI Red Teaming
จำลองพฤติกรรมเชิงปฏิปักษ์ในขอบเขตที่อนุญาต เพื่อพิสูจน์ว่า guardrail และขั้นตอนป้องกันทำงานได้จริง.
- Prompt Injection และ Indirect Prompt Injection จากข้อมูลหรือเอกสารที่ระบบนำไปใช้เป็นบริบท.
- Jailbreak หรือความพยายามให้ระบบทำงานนอกวัตถุประสงค์ พร้อมทวนสอบการจัดการ output ที่ไม่ปลอดภัย.
- ความเสี่ยงของ Agentic AI เมื่อคำสั่งหรือเครื่องมืออาจกระทบข้อมูล บัญชีผู้ใช้ หรือระบบปลายทาง.
สิ่งที่ควรได้จากการทดสอบ
- ขอบเขตที่ได้รับอนุญาต สภาพแวดล้อมและข้อมูลทดสอบ เกณฑ์หยุดทดสอบ และผู้ประสานงานเหตุฉุกเฉิน.
- หลักฐานผลการทดสอบ ระดับความรุนแรง เงื่อนไขการเกิดผลกระทบ และแนวทางแก้ไขที่ตรวจสอบซ้ำได้.
- การทดสอบซ้ำหลังแก้ไข และรายการควบคุมหรือความเสี่ยงที่ต้องติดตามในการใช้งานจริง.
คู่มือ สกมช. ระยะที่ 3 Secure Verification ระบุการทดสอบเชิงรุก การทดสอบเจาะระบบ LLM สำหรับ Prompt Injection/Jailbreaking ความเสี่ยงการรั่วไหลของข้อมูล และการทดสอบคำสั่งอันตรายของ Agent เป็นตัวอย่างหลักฐานการทวนสอบก่อนนำไปใช้งาน.
ปรึกษา Pentest LLM-integrated App และ AI Red Teaming กับ STH
