『本レポートは、SDAIAディープフェイク・ガイドラインの全文書(SDAIA-P119、2025年5月)の主要な調査結果を拡大したサウジ国営通信のオリジナル発信に基づいている』

リヤド: 人工メディアの急速な進化に対処するため、サウジ・AIデータ庁（SDAIA）は「ディープフェイク・ガイドライン：イノベーションを促進しながらリスクを軽減する」という包括的な規制文書を2025年5月に文書番号SDAIA-P119で発表した。

同ガイドラインは、ディープラーニング技術、（Generative Adversarial Networks:GAN、オートエンコーダ、フェイススワップアルゴリズムなど）を用いて作成された超リアルな合成メディアをディープフェイクと定義しており、現実との区別がますます難しくなる方法で音声、映像、その他のデジタルコンテンツを操作するものである。

両刃のテクノロジー

この文書は、悪意のあるディープフェイクと悪意のないディープフェイクを明確に区別し、この技術が本質的に有害なものではないことを強調している。

SDAIAは、マーケティング、エンターテインメント、小売、教育、ヘルスケア、文化といった6つの主要セクターにおける積極的な応用を認める一方で、3つの主要な脅威タイプに分類される悪意のある側における重大なリスクについて警告している。

1つ目は、偽者詐欺で、ディープフェイクが信頼できる個人の声、表情、態度を説得力を持って模倣し、不正な金融取引を承認したり、機密情報を引き出したりするために使用される。このガイドラインでは、ある多国籍企業の従業員が、ビデオ会議通話中に上級役員になりすました詐欺師に騙され、大金を振り込んでしまったという実際の事例を紹介している。

2つ目の脅威は、個人の同意なしに露骨な、あるいは危険なコンテンツを作成し、深刻な精神的苦痛、風評被害、恐喝の可能性をもたらす、同意に基づかない操作である。

3つ目は偽情報とプロパガンダで、ディープフェイクの動画や音声クリップが、政治家が実際には行っていない発言を行うように偽装するために使用され、世論を動かし民主的プロセスを不安定化させる可能性がある。

今後、完璧に近いAIが生成する音声詐欺や、シミュレートされた報道、会議、インタビューを通じてユーザーを欺くように設計された、完全に作り上げられた仮想環境を含む新たな脅威の状況が出現すると、この文書は警告している。

開発者とコンテンツ制作者の義務

ディープフェイク技術の開発者に対して、ガイドラインは、GDPRやCCPAといった国際的な基準とともに、サウジアラビアの個人データ保護法（PDPL）やサイバー犯罪防止法を具体的に参照しながら、国内および国際的なデータプライバシーの枠組みの遵守を義務付けている。

開発者は、プライバシー・バイ・デザインの原則、匿名化技術、トレーニング・データセットからの肖像の削除を個人が要求できる同意管理システムなど、強固なデータ保護対策を実施することが求められる。

透明性に関しては、開発者は、合成コンテンツに押し付けがましくない電子透かしを埋め込み、AIモデルの包括的な文書化を維持し、出力をユーザーや利害関係者が理解できるように説明可能な機能を組み込む必要がある。

ガイドラインはまた、ディープフェイクツールの不正または非倫理的な使用を検出し、注意を促す自動化されたシステムとともに、モデルのトレーニングと展開の重要な段階におけるHITL（Human-in-the-Loop）監視メカニズムを求めている。

コンテンツ制作者は、同様に厳しい要件に直面している。詐欺、なりすまし、中傷のためにディープフェイクサービスを使用することは禁止されており、すべての合成コンテンツに目に見える改ざん防止透かしを適用しなければならない。クリエイターは、個人の肖像を使用する前に明示的な同意を確保し、監査可能な同意記録を保持し、安全かつ管理された経路を通じてのみコンテンツを配信しなければならない。

ガイドラインはまた、ブロックチェーンと暗号ハッシュを統合してオリジナルコンテンツの不変記録を作成し、いかなる改変もそのソースまで遡れるようにすることを推奨している。

規制当局向けガイダンス

規制当局は、リスクの高いディープフェイクコンテンツ（特に金融、政治、なりすましの領域）を優先する一方で、リスクの低いものや教育的なものについてはより柔軟に対応できるようなプラットフォーム監視メカニズムを確立するよう指示されている。同文書は、商業的展開の前にディープフェイク・テクノロジーの正式な承認プロセスを求めるとともに、規制当局に対し、Coalition for Content Provenance and Authenticity (C2PA)が概説しているようなコンテンツ実証基準を採用するよう勧告している。

執行に関しては、不正使用に対する罰則は違反の重大性、意図、再発性に比例するものとする一方、技術の最小限の使用や偶発的な使用に対する制裁を制限する規定も存在する。年1回のユースケースの棚卸し、独立した監査、政府職員に対する義務的な研修プログラムも規定されており、また、情報に基づいた社会的言説を促進するための国民意識向上キャンペーンも実施される。

消費者がディープフェイクを発見できるようにする

ガイドラインの大部分は、一般消費者に実践的な検知スキルを身につけさせることに費やされている。SDAIAは3段階のアプローチを推奨している。すなわち、メッセージソースとコンテキストの評価、不規則な顔の動き、リップシンクの遅れ、不自然なまばたきのパターン、照明の不一致などの兆候を示すオーディオビジュアル要素の分析、Deepware ScannerやSensity AIなどのAIベースの検出ツール、AdobeのContent Authenticity Initiativeやブロックチェーンベースの検証システムなどのコンテンツ証明ツールを使用したコンテンツの認証である。

ディープフェイク事件の被害者は、直ちに証拠を文書化し、コンテンツを関連プラットフォームに報告し、Kollona Amnアプリまたは内務省のサイバー犯罪ユニットを通じてサウジアラビア当局に通知するよう顧問に勧告されている。

金融詐欺事件はサウジ中央銀行にも報告されるべきである。操作されたコンテンツの出所を突き止めるため、デジタル・フォレンジックの専門家の関与とともに、デジタル著作権に精通した法律家の助言を受けることが推奨される。

有益なアプリケーションと今後の道筋

このガイドラインは、ディープフェイク技術が倫理的に使用された場合、いかに変革の可能性を秘めているかを強調している。医療分野では、音声の再構築はすでにALS患者のコミュニケーション能力を回復させ、生活の質を向上させている。教育分野では、バーチャル家庭教師や遠隔トレーニングツールによって、十分な教育を受けていないコミュニティへのアクセスを拡大することができる。文化分野では、この技術は絶滅の危機に瀕した方言を保存し、歴史的な出来事に命を吹き込むことができる。エンターテインメント分野では、俳優の合意による老化防止やデジタルキャラクターの作成が、合法的かつ創造的な応用例として挙げられている。

それは、AIの進化に対応するための継続的な学習とスキル開発の必要性、ニーズに合わせたトレーニングと戦略的な雇用による組織の準備、そして、社会的信頼を守りながらイノベーションを促進する倫理的で前向きなアプリケーションへのコミットメントである。

ディープフェイク・ガイドラインの全文はhttps://sdaia.gov.sa/en/SDAIA/about/Files/File0001.pdf