リヤド：サウジアラビアは、人工知能の技術の導入が加速する中、政府機関や企業がAIから生じるリスクを特定し管理するための国家フレームワークを導入した。

サウジデータ・AI庁によって開発された「国家AIリスク管理フレームワーク」は、AI関連のリスクを特定、評価、処理、監視するための統一された方法論を提供する、とサウジ通信社が報じた。

このフレームワークは、AIリスクが予想外に発生し時間とともに変化し、従来の技術に比べて問題の説明や再現が難しい場合があることを認識している。

この取り組みは、サウジアラビアでAI活動の商業登録が増加する中で導入された。商業登録数は、2025年末の19,042件から増加し、24,552件に達した。前年は14,163件であったと商業省データは示している。

サウジアラビアは2026年を「王国AI年」と指定しており、ビジョン2030の一環としてサウジデータ・AI庁が国家データ・AI戦略の下で関連プログラムを主導している。

企業にとって、このフレームワークは自律AIシステムの利用拡大に伴い、データアクセス、意思決定、人間の監督に対する疑問が生じる中で導入される。

HotDeskの企業AIスペシャリスト兼最高技術責任者であるモハメッド・エル＝シャアリ氏は、企業は自律システムを選択する前に業務を見直すべきだと述べた。

「自律的なソリューションを導入することを計画するすべての企業にとって、構造化されたAI相談、発見、リスク分析フェーズは中心的要件であるべきだ」と彼はアラブニュースに語った。

エル＝シャアリ氏は、企業は自動化を意図するワークフロー、それにアクセスするデータシステム、意思決定、導入前に想定される失敗シナリオをマッピングすべきだと付け加えた。

より高リスクのシステムは精度、セキュリティ、バイアスのテストを受けるべきであり、企業は機密情報へのアクセスを制限し、AI生成の行動を記録し、重要な決定に対しては人間の承認を求めるべきだとスペシャリストは述べた。

「顧客サービスのチャットボットが金融情報にアクセスしたり、トランザクションを承認したり、会社を代表して行動できる自律エージェントと同じガバナンスを受けるべきではない」と彼は付け加えた。

このフレームワークは、AIシステムのコンテキストとスコープを定義すること、リスクを特定して評価すること、そのリスクを処理すること、システムを継続的に監視しレビューすることの4段階で構成されている。

Myndlabの共同創設者兼最高技術責任者であるビンデッシュ・ビジャヤン氏は、サウジアラビアのアプローチは、すべてのアプリケーションを同様に扱うのではなく、その潜在的な影響に基づいてAIリスクを管理することに焦点を当てていると述べた。

「企業にとって最も大きな変化は、AIリスクを最終的なコンプライアンスチェックではなく、工学的責任として扱うことになるだろう」とビジャヤン氏は述べた。

国家ガバナンスシステム

このフレームワークは、リスクの可能性と潜在的な影響を組み合わせたマトリックスを採用し、組織がその重大性を判断し対応を優先するのに役立てる。これには、統合性、プライバシー、透明性、説明責任を含む7つの主要なリスクカテゴリーと7つの基本原則が含まれている。

サウジデータ・AI庁は、7月にこのフレームワークを立ち上げ、その後、リヤドでのフォーラムで45の公的および私的セクターの組織を代表する150人以上の専門家にその方法論を紹介した。