ワシントン：イーロン・マスク氏のXで流布しているAIが作成したビデオには、イランに捕らえられたアメリカ兵、廃墟と化したイスラエルの都市、炎上するアメリカ大使館が描かれている。

中東戦争は、AIが生成した雪崩のようなビジュアルを解き放ち、過去の紛争で見られたものを凌駕し、ソーシャルメディアユーザーはしばしば捏造と現実の区別がつかなくなると研究者は言う。

紛争中の「本物の情報」を保護するため、Xは先週、AIが生成した戦争ビデオが人工的に作られたものであることを公表せずに投稿した場合、クリエイターを90日間収益共有プログラムから停止すると発表した。

それ以降の違反は永久停止になると、Xの製品責任者ニキータ・ビア氏は投稿で警告した。

この新しい方針は、マスク氏が2022年10月に440億ドルでの買収を完了させて以来、偽情報の巣窟になりつつあると酷評されてきたプラットフォームにとって、注目に値するものだ。

また、国務省のサラ・ロジャース高官は、Xのコミュニティ・ノート（クラウドソーシングによる検証システム）を「見事に補完」するものであり、不正確なコンテンツへの「リーチが減る（つまり収益化が進む）」と称賛している。しかし、偽情報研究者たちは依然として懐疑的だ。

「私が監視しているフィードには、AIが生成した戦争に関するコンテンツがまだあふれています」と、Institute for Strategic Dialogueのジョー・ボドナー氏は言う。

「クリエイターたちが、AIが生成した紛争に関する誤解を招くような画像や動画をプッシュするのをやめているようには見えません」と彼は言う。

ボドナー氏は、収益化の対象となるプレミア「ブルーチェック」Xアカウントからの投稿を指摘し、イランのイスラエルに対する「核攻撃可能」なAIクリップを共有した。

この投稿は、AIコンテンツの取り締まりに関するビアのメッセージよりも多くの閲覧数を集めた。

ビアの発表以降、Xは何件のアカウントを削除したのかとの質問には答えなかった。

ブラジルからインドまで、AFPのファクトチェッカーのグローバルネットワークは、中東戦争に関するAIのフェイクの流れを確認した。

その中には、爆撃を受けた大使館内で涙を流す米兵、イランの国旗のそばで膝をつく捕虜の米軍、破壊された米海軍の艦隊などを描いたAIのビデオも含まれている。

X独自のAIチャットボットであるGrokは、事実確認を求めるユーザーに対し、戦争中の多数のAI映像が本物であると誤って伝え、問題をさらに悪化させたようだ。

研究者たちはまた、Xのモデル（プレミアム・アカウントがエンゲージメントに基づいて報酬を得ることを可能にする）が、虚偽またはセンセーショナルなコンテンツを売りつける金銭的インセンティブを加速させていると警告している。

あるプレミアム・アカウントは、ドバイの超高層ビル、ブルジュ・ハリファが炎に包まれるAI動画を投稿したが、AIであることを表示するようビエ社から求められたが無視した。この投稿はオンライン上に残り、200万回以上の再生回数を記録した。

テック・トランスペアレンシー・プロジェクト（Tech Transparency Project）の報告書によると、Xはイラン政府高官や国営の報道機関が所有する20以上のプレミアムアカウントから利益を得ているようで、米国の制裁に違反している可能性があるという。

AFP