ロンドン：イーロン・マスク氏の新興企業xAIは、ソーシャルメディア・プラットフォームX上のチャットボットGrokの画像生成機能を有料会員に制限した。

このチャットボットの画像生成機能は、Xのユーザーが性的な写真を編集したり作成したりすることを可能にしていたが、ロイター通信は、この機能が女性や子供の衣服の画像を生成するために使用され、多くの場合、描かれている個人の同意なしに使用されていることを発見した。

Xにセミヌード画像が大量に投稿されたことで、欧州の議員たちは法的措置を取るよう促し、ドイツのメディア担当大臣ウォルフラム・ヴァイマー氏は「セクハラの産業化」と表現し、欧州委員会は違法と訴えた。

Grokは金曜日にXのユーザーに対し、画像の生成と編集機能は現在有料会員のみが利用可能であると伝えた。

Xとは別に運営されている独立したGrokアプリは、依然としてユーザーがサブスクリプションなしで画像を生成できる。

ロイターの記者がXのGrokに、自分の写真をビキニ姿に変換するよう依頼した。ボットは変換を行わず、このツールはソーシャルメディア・プラットフォームの有料会員のみが利用可能であると返答を投稿した。

自動応答と思われるが、xAIはロイターの電子メールによるコメント要求に対し、”Legacy Media Lies “と返信した。Xはコメントの要請にはすぐに応じなかった。

欧州委員会は月曜日、Xに出回っている画像は違法であり、ぞっとするようなものだと述べた。一方、英国のデータ規制当局は、Grokが女性の性的虐待画像を生成しているとの懸念を受けて、同プラットフォームがデータ保護法をどのように遵守しているか説明するよう求めたと述べた。

マスク氏は先週、Grokを使って違法なコンテンツを作成した者は、そのような素材を直接アップロードしたのと同じ結果に直面するだろうと述べた。

ロイター