【報告】シンガポール：CSAがAI モデルのセキュリティ対策を実施するためのガイダンス案を公表

2024年8月26日　AIシステムの運用者は、ライフサイクルアプローチを採用し、まずモデルのリスク評価を実施して潜在的なリスクとリスク管理戦略を特定することで、AIのセキュリティリスクを考慮すべきである。CSAのガイドでは、AIのセキュリティ確保に向けた５つのステップを定めている。すなわち、１) 計画と設計 – リスク評価で特定されたAIのセキュリティリスクに関する能力を決定し向上させること、2) AI開発 – AI資産のすべてを保護し、適切なモデルを選択し、開発環境を保護すること、3) AIの展開 – インシデント管理計画の策定、モデルリリース前のすべてのベンチマークと評価の実施、4) 運用と保守 – AIのすべての入力と出力を確認、5) ライフサイクルの終了 – ライフサイクルの終了時に、トレーニングデータとモデルを徹底的に破壊するための措置が確実に講じられることである。