AISI、AIの安全性を評価するフレームワークの整備に向け、ビジョンペーパーを公開

　AIセーフティ・インスティテュート（AISI）は7月10日、「AIセーフティ評価フレームワーク」を決める事業実証ワーキンググループ（以降：事業実証WG）の評価基準をまとめたビジョンペーパーを公開した。

　「AIセーフティ評価フレームワーク」は、AIシステムを開発・提供する際に、安全に使用できるかを総合的に評価するための指針や基準となる。予期せぬ誤動作や、利用者や社会への悪影響がないように、「安全性の評価基準」や「注意すべき点」など、参考にできる観点や評価方法をまとめる。

　同フレームワークの整備に向けて、AISIでは今年3月に事業実証WGを設置し、民間事業者を中心に多様なステークホルダーが参画して、活動してきた。事業実証WGのゴールは、産業界・行政・専門家が協働して、AIの社会実装におけるAIセーフティの確保を支える仕組みを構築し、利用者のリスク理解を前提としたAIセーフティ評価の枠組みを整備すること。

AIセーフティ評価の枠組み

　事業実証WGでは、AI利活用促進とAIセーフティ確保が重要な領域であるヘルスケアやロボティクスといった分野別のSWG（サブワーキンググループ）と、各分野のAIセーフティ評価に共通で求められるデータ品質や適合性評価といった分野横断のSWGを同時に進行している。

分野別SWGｎイメージ

　今後は、AIの利活用を促進するAIセーフティ評価の確立に向けて、段階的・継続的な取組みを実施する予定で、必要に応じてSWGの増設も計画するとしている。