NIST AI 800-4 ― AI Governanceは「導入前審査」よりPost-deployment Monitoringが難しい
Executive Summary
NISTは2026年3月9日、Deployed AI SystemsのPost-deployment Monitoringに関する課題を整理したNIST AI 800-4を公表しました。1
AIは導入時の評価だけでは挙動を固定できません。利用者、Data、Environment、Model Update、Attack、社会的影響によってRiskが変化するため、AI Governanceを継続Monitoringとして運用する必要があります。
なぜ今なのか
企業のAI Governanceは利用申請、禁止事項、Model選定といったPre-deployment Controlから始まりがちです。しかし実運用では、導入後の挙動変化や新しいMisuseを検知しなければGovernanceが形骸化します。
NISTが整理した6つのMonitoring Category
| Category | 確認する問い |
|---|---|
| Functionality | 意図した機能を維持しているか |
| Operational | Infrastructureとして安定して動作しているか |
| Human Factors | Human-AI Interactionが適切か |
| Security | 攻撃・Misuseに対して安全か |
| Compliance | 法令・Standard・Controlへ適合しているか |
| Large-scale Impacts | 広範なDownstream Impactを生んでいないか |
経営インパクト
| 観点 | 影響 |
|---|---|
| Governance | 年1回の審査より継続Monitoring Processが重要 |
| Ownership | 誰が何をMonitorし、誰が停止判断するかを明確化する必要 |
| Metrics | AccuracyだけでなくSecurity / Compliance / Human Impactも必要 |
| Incident | AI Incident SharingやEscalation Processが必要 |
日本企業への示唆
生成AI利用Guidelineを作った後に、利用状況、Incident、Policy Violation、Data Exposure、Model / Tool変更を観測できる仕組みを追加する必要があります。
推奨アクション
- AI System / Agent Inventoryを作成する
- Monitoring OwnerとEscalation条件を定義する
- Security / Compliance / Human FactorのMetricを分離する
- Model / Tool / Data Source変更をChange Managementへ入れる
- AI Incidentを既存Risk / Incident Processへ統合する
- 定期ReviewだけでなくEvent-driven Reviewを設計する
用語解説
Post-deployment Monitoring
AI Systemを本番利用した後の挙動、Performance、Security、Compliance、Human Impact等を継続的に観測・評価する活動。