Singapore Agentic AI Governance v1.5 ― 「自律性をRisk Tierで制限する」実装例
Executive Summary
Singapore IMDAは2026年5月20日、Model AI Governance Framework for Agentic AIを更新しました。60を超える組織からのFeedbackや10件超の実Deployment Caseを取り込み、Multi-agent System、Third-party Agent、Automation Bias等の新しいBest Practiceを追加しています。1
特に実務的なのは、Agent ActionをImpactやReversibilityに応じてTier分けし、低Riskは自動化、中RiskはHuman Approval、高RiskはAgentに実行させないという考え方をCase Studyで示している点です。
なぜ今なのか
Agentic AIは、導入可否だけでなく「どこまで自律化してよいか」を決める必要があります。
従来のAI GovernanceがData、説明可能性、Biasを中心に設計されていたのに対し、Agentic AIではAction Scope、Tool Permission、Human Checkpoint、Third-party Agent、Multi-agent Interactionが追加論点になります。
Frameworkの4つの柱
- Riskを事前に評価しAgentの権限をBoundする
- 人をMeaningfully Accountableにする
- Lifecycle全体でTechnical Control / Processを実装する
- End UserへTransparencyとTrainingを提供する
更新版では実際のAgent Deployment Caseを通じて、AutonomyをRisk Tierで変える方法が示されています。
経営インパクト
| 観点 | 影響 |
|---|---|
| Delegation | 人からAgentへ委譲できるActionの上限を定義する必要 |
| Accountability | 「AIが実行した」ではなくOwnerと承認者を残す |
| Third-party Risk | 外部Agentも自社Control Frameworkへ組み込む |
| Human Factors | Automation BiasをRiskとして扱う必要 |
日本企業への示唆
全Agentを一律に「Human-in-the-Loop」にすると業務効率が出ず、逆に全面自動化するとRiskが上がります。ActionをTieringし、低Riskだけ自動化する設計が現実的です。
推奨アクション
- Agent ActionをImpact / Reversibility / DetectabilityでTieringする
- 高Risk ActionはAgent実行禁止またはMandatory Approvalにする
- Third-party Agentの権限とData Accessを可視化する
- Multi-agent間のDelegation ChainをAudit可能にする
- Automation BiasをTraining / UI Designの対象にする
- Agent変更時にRisk Tierを再評価する
用語解説
Automation Bias
自動化Systemの判断を人が過度に信頼し、誤りを見逃したり自らの判断を弱めたりする傾向。