ニューヨーク: ニューヨーク大学は、ムスリム世界連盟（MWL）のシェイク・モハメッド・ビン・アブドゥル・カリム・アル・イッサ事務局長を招き、ソーシャルメディア・プラットフォーム上でヘイトスピーチを増幅させる人工知能の役割について講演と討論を行った。

土曜日に開催されたこのイベントでは、学者や招待客が集まり、AIが生成するコンテンツ、オンライン過激主義、誤った情報の拡散に関連する課題を検討した。

議論の焦点は、差別的または扇動的な内容を含むテキスト、画像、ビデオを自動的に生成するために人工知能がどのように使用されるのか、また、アルゴリズムがどのようにユーザーをターゲットにして、エンゲージメントを最大化するように設計された分断的なコンテンツを提供するのかについてであった。

参加者はまた、ヘイトスピーチや誤解を招く情報の拡散におけるボットや協調的なデジタルネットワークの役割や、個人やコミュニティに対する敵意を煽るような方法で音声や映像のコンテンツを操作するディープフェイク技術の利用が拡大していることについても探求した。

アル・イッサ氏は、ヘイトスピーチ対策における社会的・宗教的機関の役割を強調し、その原因を理解し、調査・研究に基づいた効果的な対応を展開することの重要性を強調した。

また、ソーシャルメディア・プラットフォームの推奨アルゴリズムが、挑発的で過激なコンテンツの拡散を助長する可能性があると警告した。

ヘイトスピーチを助長するためのAIの利用は、表現の自由と、扇動や有害なコンテンツから社会を守る必要性とのバランスについて、重要な問題を提起している。

また、この問題は、デジタルアクターやテクノロジープラットフォームの法的責任について、より明確にする必要があると付け加えた。