NIST AI Risk Management Framework (AI RMF 1.0) คืออะไร และเปลี่ยนความเสี่ยง GenAI ให้เป็นแผนทดสอบอย่างไร
NIST AI RMF ช่วยตอบคำถามที่ผู้บริหารถามก่อนใช้ AI ว่าระบบเสี่ยงอะไร วัดอย่างไร และใครต้องตัดสินใจ หน้านี้สรุป AI RMF 1.0, NIST AI 600-1 และวิธีใช้ AI Red Teaming สร้างหลักฐานแทนความมั่นใจจาก Demo
สรุปภาพรวมข้อกำหนด
กลุ่มเป้าหมายที่บังคับใช้
องค์กรผู้พัฒนา จัดหา และประยุกต์ใช้ระบบ AI และ Generative AI ในทุกภาคส่วน
ความถี่ในการทดสอบ
ประเมินและทดสอบเชิงประจักษ์อย่างต่อเนื่องตลอดวงจรชีวิตของระบบ AI
ขอบเขตการทดสอบ
Govern, Map, Measure, Manage, คุณลักษณะ Trustworthy AI 7 ด้าน และ Risk 12 หมวดของ NIST AI 600-1
ความเสี่ยงหากไม่ปฏิบัติตาม
Confabulation, Data Disclosure, Prompt Injection, Agent Abuse, Supply Chain Risk และ Go-live โดยไม่มีหลักฐาน
4 ฟังก์ชันที่พาทีมจากนโยบายไปสู่การตัดสินใจ
AI RMF 1.0 เป็นกรอบแบบสมัครใจและไม่จำกัดอุตสาหกรรม รุ่น 1.0 ยังเป็นฉบับเผยแพร่ปัจจุบัน โดย NIST อยู่ระหว่างปรับปรุงกรอบและยังไม่ประกาศฉบับทดแทน
- GOVERN วาง Risk Culture, Policy, Accountability, Risk Tolerance และกระบวนการจัดการ Third-party ให้ทุกทีมใช้เกณฑ์เดียวกัน
- MAP ระบุ Intended Use, User, Context, System Boundary, Dependency และผลกระทบ เพื่อป้องกันการวัดโมเดลนอกบริบทที่ใช้งานจริง
- MEASURE เลือก Metric และวิธี TEVV เพื่อวัด Performance, Trustworthiness, Limit และ Control Effectiveness ก่อนและหลังนำขึ้นใช้งาน
- MANAGE จัดลำดับ Risk, ตัดสินใจ Go-live, เลือก Treatment, ติดตาม Residual Risk และนำข้อมูลจาก Incident กลับไปปรับ Governance
7 คุณลักษณะ Trustworthy AI ที่ต้องวัดพร้อมกัน
คะแนน Accuracy สูงไม่ได้แปลว่าระบบพร้อมใช้ NIST กำหนดคุณลักษณะ 7 ด้านที่อาจส่งเสริมหรือขัดแย้งกัน ทีมจึงต้องกำหนด Trade-off ตามบริบทและ Risk Tolerance
- Valid and Reliable และ Safe วัดว่าระบบทำงานตามวัตถุประสงค์ มี Limit ที่เข้าใจได้ และไม่สร้างอันตรายในบริบทใช้งาน
- Secure and Resilient และ Privacy-Enhanced วัดความทนทานต่อการโจมตี ความผิดพลาด การหยุดชะงัก และการเปิดเผยข้อมูล
- Accountable and Transparent และ Explainable and Interpretable วัดความรับผิดชอบ Traceability และคำอธิบายที่เหมาะกับผู้ใช้งาน
- Fair with Harmful Bias Managed วัดผลกระทบที่แตกต่างระหว่างกลุ่ม พร้อมกระบวนการค้นหา บันทึก และลด Bias ที่สร้างอันตราย
NIST AI 600-1 เพิ่ม Risk ที่ Generative AI ทำให้รุนแรงขึ้น
NIST AI 600-1 เป็น Profile ข้ามอุตสาหกรรมของ AI RMF 1.0 เผยแพร่ในปี 2024 โดยระบุ Risk 12 หมวดและ Suggested Action ที่องค์กรเลือกตามบริบท ทรัพยากร และ Risk Tolerance
- Risk ด้านความถูกต้องและความปลอดภัยครอบคลุม Confabulation, Information Integrity, Dangerous Content, CBRN Information และ Obscene or Abusive Content
- Risk ด้านบุคคลและสังคมครอบคลุม Data Privacy, Harmful Bias and Homogenization และ Human-AI Configuration
- Risk ด้านเทคโนโลยีและธุรกิจครอบคลุม Information Security, Intellectual Property, Environmental Impact และ Value Chain and Component Integration
- Profile เน้น Test Plan, Deployment Threshold, Provenance, Independent Evaluation, Continuous Monitoring, Incident Response และแผนหยุดระบบเมื่อ Risk เกินระดับที่ยอมรับ
ตำแหน่งที่ถูกต้องของ Pentest และ AI Red Teaming ในฟังก์ชัน Measure
AI RMF ไม่บังคับ Pentest แบบตายตัว แต่ให้กรอบที่ชัดเจนสำหรับ TEVV และ Independent Assessment ส่วน NIST AI 600-1 ระบุ AI Red Teaming เป็น Suggested Action สำหรับ Information Security โดยตรง
- MEASURE 1.3 ระบุการมีส่วนร่วมของผู้ประเมินภายในที่ไม่ใช่ Front-line Developer หรือผู้ประเมินอิสระตามระดับ Risk Tolerance
- MEASURE 2.3 ให้ประเมิน Performance หรือ Assurance Criteria ในสภาวะใกล้เคียง Deployment และ MEASURE 2.4 ให้ติดตาม Function และ Behavior ใน Production
- NIST AI 600-1 Action MS-2.7-007 แนะนำ AI Red Teaming ต่อ Prompt Injection, Data Poisoning, Membership Inference, Model Extraction และการใช้ GenAI ช่วยโจมตีระบบอื่น
- Test Result ควรส่งเข้า MANAGE เพื่อกำหนด Risk Treatment, Go-live Decision, Remediation Priority และ Residual Risk ไม่ใช่จบที่รายงานช่องโหว่
แปลง AI RMF เป็น Test Plan ที่ไม่หลุดจาก Business Risk
แผนทดสอบที่ดีเริ่มจาก Use Case และ Harm ไม่ใช่เริ่มจากรายการ Payload จากนั้นจึงเลือก Metric, Attack Scenario และหลักฐานที่ตอบคำถามของ Risk Owner
- GOVERN กำหนด Risk Owner, Approval Authority, Risk Tolerance, Escalation และข้อจำกัดของการทดสอบ
- MAP สร้าง AI Inventory, Data Flow, Trust Boundary, Dependency, User Journey, Agent Permission และ Misuse Case
- MEASURE รัน Benchmark, Abuse Case, Prompt Injection, Data Leakage, Agent Tool Abuse, Load Test และ Detection Validation ในสภาพแวดล้อมที่ควบคุมได้
- MANAGE จัดลำดับ Finding จาก Impact และ Likelihood กำหนด Remediation, Retest, Risk Acceptance และ Monitoring Trigger สำหรับ Production
ตารางเปรียบเทียบข้อกำหนดและการทดสอบความปลอดภัย
สรุปรายละเอียดประกาศ บทบัญญัติ และขอบเขตการทดสอบความปลอดภัยที่จำเป็น
| ประกาศ และข้อกำหนด | สาระสำคัญ | ขอบเขตการทดสอบ | รอบเวลาทดสอบ |
|---|---|---|---|
| MEASURE 1.3, 2.3 และ 2.4 | Independent Assessment, Assurance Criteria และ Production Monitoring | ใช้ผู้ประเมินที่เหมาะกับ Risk วัดเกณฑ์ในสภาวะใกล้เคียง Deployment และติดตาม Behavior ใน Production | ก่อน Go-live, หลัง Significant Change และตาม Risk Tolerance |
| MAP 1.1 และ MAP 1.5 | การระบุบริบท ขอบเขต และผลกระทบของระบบ AI | กำหนด Attack Surface, ขอบเขตการทำงาน และประเมินผลกระทบต่อความปลอดภัยและสิทธิส่วนบุคคล | ระยะเริ่มต้นโครงการและเมื่อปรับเปลี่ยนสถาปัตยกรรม |
| NIST AI 600-1 MS-2.7-007 | AI Red Teaming สำหรับ Information Security | ทดสอบ Prompt Injection, Data Poisoning, Membership Inference, Model Extraction และการใช้ GenAI ช่วยโจมตีระบบอื่น | ก่อนปล่อยระบบและเมื่อ Model, Data, Prompt, Tool หรือ Risk Profile เปลี่ยน |
| MANAGE 2.4 และ 4.1 | การจัดการช่องโหว่และการติดตามผลการแก้ไข | ปรับปรุงมาตรการควบคุม จัดการช่องโหว่ที่พบ และส่งข้อมูลป้อนกลับสู่การกำกับดูแล | ต่อเนื่องตามรอบการแก้ไขและ Retest |
เครื่องมือประเมินความพร้อม
คลิกเลือกรายการที่องค์กรของท่านได้ดำเนินการแล้ว เพื่อคำนวณระดับความพร้อมเบื้องต้น
0%