ドバイ：ディープフェイク・テクノロジー（実在の人物に似せたり、出来事を改ざんしたりするAI生成の動画や画像）は近年急増しており、デジタルの状況を一変させている。

かつては目新しいものと考えられていたディープフェイクは、今や深刻なリスクをもたらし、誤った情報を拡散し、世論を操作し、メディアの信頼を損なう可能性がある。技術が高度化するにつれ、事実と虚構を区別することはますます難しくなり、社会は欺瞞と混乱に陥りやすくなっている。

この挑戦は前例がなく、急速にエスカレートしている。

2022年3月、ロシア軍がキエフに迫るなか、冷ややかなビデオがネット上に出回り始めた。それは、ウクライナのヴォロディミル・ゼレンスキー大統領が青ざめ、疲れ果て、兵士たちに降伏を促しているように見えるものだった。

数時間のうちに、ファクトチェッカーは、この動画がディープフェイクであることを明らかにした。ディープフェイクとは、ハッキングされたニュースサイトやソーシャルメディアに仕掛けられた、AIが生成したデマのことで、重要な瞬間に士気を奪い、混乱を広げるために作られた。

すぐに発覚したものの、被害は長引いた。何百万人もの人々がすでにこの映像を目にしており、短期間の不安な時間の間、熟練したオブザーバーでさえも、真実とデジタルの欺瞞を見分けるのに苦労した。これは、戦時中に初めて大規模に展開された合成メディアのひとつであり、情報時代を定義する信頼性をめぐる新たな戦いの一端を垣間見せた。

ID検証会社サムサブによると、サウジアラビアでは2024年第1四半期にディープフェイク事件が前年比で600％急増した。

AIプラットフォームがなかなか介入してこないことから、政府が重要な防衛ラインと見なされるようになっている。サウジアラビアでは、脅威を封じ込めるための法的措置が増えつつあり、議員たちは迅速に動いている。

安全のための法整備

法律事務所Addleshaw Goddardのフィンテックおよび金融サービス担当パートナーであるアンナ・ツァイトリン氏は、サウジアラビアの立法者はすでに決定的な行動を起こしていると述べた。

「サウジアラビアはこの点で先導的であり、実に素晴らしいことです」とツァイトリンはアラブニュースに語った。

「サウジにはサイバー犯罪防止法があり、基本的に、公共の平和や安全、国益を脅かすと考えられるフェイクニュースや誤報の拡散などは禁止され、犯罪行為とされています。つまり、これが基礎レベルであり、出発点なのです」

彼女は、この枠組みはサウジアラビアのデータ・AI局によってサポートされていると付け加えた。

「最近、世界中でデータ保護規制当局をよく見かけますが、AI規制当局はあまり見かけません。SDAIAはデータとAIの両方をカバーしています」彼女は続け。「AI Principles and Ethical Controlsは2023年9月に発表され、Generative AI Guidelinesは政府向けのもので、人々がAIの使用に適切、公正かつ賢明な対処をするためのものです」と述べた。

「さらに、ディープフェイクに特化した公開協議文書もあり、実に興味深い。これは、ディープフェイクに対処するための指針であり、ディープフェイクにどう対処するか、ディープフェイクをどう見抜くか、ディープフェイクをどう扱うべきかについて書かれています。これは単なる公開協議に過ぎませんが、法的な重みがあることを強調しています」

ツァイトリン氏はまた、サウジアラビアのメディア規制総局が、特にオンラインで共有される合成コンテンツに関して、これらの基準を施行する役割を担っていることを強調した。ディープフェイクを「何かの広告や宣伝」のために使用することは、犯罪行為となる可能性があり、罰金や懲役刑で処罰されることもある。

「UAEにもサイバー犯罪とデータ保護に関する法律で同様の規定があるが、”サウジは本当に先導的で、正しい方向に進んでいる」”と彼女は述べた。

適切なバランスを見つける

規制が進んでも、専門家は行き過ぎに注意を促す。自然言語処理の学科長兼教授であるプレスラフ・ナコフ氏は、この課題は広範であり、解決策は微妙なバランス感覚を必要とすると語る。

「AIによる誤報やディープフェイクの蔓延は、あらゆるところで大きな課題となっている。本能的な反応として、より厳しい規制を求めることが多い。しかし、テクノロジーの進化はあまりに速く、無闇な規制は湾岸経済が育成しようとしているイノベーションそのものを阻害する危険性があります」とアラブニュースに語った。

ナコフ氏は、その答えはAIを活用した検知システム、デジタルリテラシー、セクターを超えたコラボレーションを組み合わせた「多方面からの戦略」にあると考えている。

彼は、大規模な言語モデルは事実誤認を起こしやすいが、主張を特定し、証拠を入手することでファクトチェッカーを支援できることを示す最近のNature Machine Intelligenceの研究を引用した。

また、別の研究では、偽ニュースの検出には偏りがあり、AIが作成した正確なテキストを偽と判定することがある。

「ディープフェイク・テクノロジーはここ数年で飛躍的に進歩した。今日、AIが生成したテキスト、画像、動画は、人々を油断させるのに十分な説得力を持つ。ある時点で、そう、ある種のAIが生成したコンテンツは、人間の目だけでは現実と区別できなくなる可能性が高い。だからこそ、検知だけが唯一の防衛線ではありえないのです」と彼は言う。

「高度な検知技術、国民の認識、そして証拠に基づく政策立案を組み合わせたバランスの取れたアプローチである。これらの要素を統合することによってのみ、AIがもたらす莫大な機会から確実に利益を得ながら、AI主導の誤報による有害な影響を緩和することができるのです」

ツァイトリン氏はナコフ氏の懸念に共鳴し、過剰規制と認識されているためにヨーロッパでAIビジネスが失われていることを指摘した。

彼女は、ディープフェイクやオンライン詐欺との戦いは「政治と規制の間に存在する」と述べ、誤情報の取り締まりに対する厳格な説明責任をほとんど回避してきたプラットフォーム自体の役割を強調した。

これとは対照的に、中東の政府は「地域の人々を守るため」に、より厳格なオンラインコンテンツ規制を実施する傾向にあるという。一方、欧州の規制当局は広範な監視を推し進め、そのような大量のコンテンツを監視することは不可能であるとして、しばしばテック企業と衝突している。

ツァイトリン氏は、「この議論はすぐになくなるものではありません」と言う。

MBZUAIでLLM-DetectAIve、Factcheck-Bench、OpenFactCheckのようなファクトチェックツールの開発に力を注いでいるナコフ氏にとって、議論の複雑さは、社会がオンラインで真実にアプローチする方法の再考を求めている。

「誤報と偽情報について語るとき、私は単純な真偽の判断を超える時が来たと思う。現実はそれほど二元的なものではありません。それよりも重要なのは説明、つまり理由や文脈、ニュアンスであり、その主張がなぜ誤解を招きかねないのか、部分的に正しいのか、あるいは単に文脈から外れているのかを人々が真に理解する助けとなるものです」と彼は言う。

「実際、多くのファクトチェック機関はすでにこの方向に進んでいる。彼らはもはや単純化されたレッテルを貼ることに頼るのではなく、詳細なファクトチェック記事を作成している。これらの記事は基本的に、ファクトチェッカーと一般市民との対話である。彼らは主張を解きほぐし、証拠を示し、現実がしばしば最初の見かけよりも複雑である理由を示す」