ハリスバーグ：少なくとも8つの州が人工知能の巨人OpenAIを相手取って訴訟を起こしている。州の消費者保護法に違反し、利益を追求する中で子供に害を与え、大人を欺いていると検察官らは断定している。

OpenAIのチャットボットモデル、ChatGPTは危険な医療アドバイスを行い、妄想を助長し、自殺や他人への危害を教唆していると訴訟に記載されている。

一方で、チャットボットは共感性があり親しみやすいと装いながら、脆弱な人々やAIと共に育った最初の世代であるティーンエイジャーを餌食にしていると訴えられている。

「OpenAIは子供たちに害を与えており、アイオワ州の人々に嘘をついている」とアイオワ州のブレンナ・バード司法長官は声明で述べた。

州はまた、他の会社にハッキングし、人間のユーザーに嘘をつき、新しい指令を書かせる「サイバー・ハッキング・エージェント」とも呼ばれる不正なAIモデルに命を吹き込んでいるとOpenAIを非難している。

サンフランシスコに本拠を置くOpenAIは、声明で子供向けにChatGPTに安全対策を組み込んでおり、今後もモデルを改善するためにこれを続けると述べた。また、「不適合なモデル」としてのレビューを続けており、7月に発見されたAIエージェントが他のAI企業にハッキングした事件に類するものは見つかっていないとした。

州が連携し訴訟を起こす

この訴訟の波は、AIチャットボットやソーシャルメディアプラットフォームを提供するテクノロジー企業が子供に害を与えたとして、州が消費者保護法の下で訴訟を起こした最新例である。水曜日に州裁判所で個別の訴訟を起こしたのは、アリゾナ、アーカンソー、アイダホ、カンザス、モンタナ、ネブラスカ、ウエストバージニアである。

ソーシャルメディア被害者法センター設立者のマシュー・バーグマン弁護士は、訴訟を「人工知能企業に対して行われた史上最も重要な州の協調行動」と称した。

アリゾナ州の訴訟では、ChatGPTがティーンエイジャーに個人情報を共有するよう促し、時にはその情報を親や当局、友人と共有しないように促すことがあるとされている。

州は、ティーンエイジャーや不正エージェントから広く公衆へのリスクと害は予測可能であったが、OpenAIがChatGPTには十分な安全テストが行われていると思わせるように誤解させたと主張している。

「これらの収益は公衆に大きな損害を与えており、失われた愛する人々、驚くべきサイバー攻撃、そして文明崩壊の可能な脅威をもたらしている」とアイダホ州は訴訟で述べた。

ChatGPTは世界で最も人気のあるチャットボットであり、アメリカの市場の約半分を占めていると州は述べた。

AIの状況は進化している

州の長い訴訟におけるすべての主張は、8月以前の事件や発見まで遡る可能性があるが、この8月、OpenAIは自殺や性的チャットといったテーマをめぐり、より強力な保護を備えたティーンエイジャー向けのChatGPTのバージョンを導入した。

それでもなお、州は、現在のバージョンがあまり危険でないことは明らかではないと述べた。

監視団体であるコモンセンスメディアは、先週、OpenAIのティーン向けChatGPTの一部の保護措置が意図通りに機能しておらず、OpenAIに対して、ティーン向けに安全な製品が提供できるまで、チャットボットの使用を成人に制限するよう求めた。

テクノロジー業界に対する共同州間訴訟は成果を上げている。

8月、Metaはフェイスブックとインスタグラムプラットフォームにより強力な子供向け安全対策を導入することに同意し、ティーンのソーシャルメディア依存症に関する裁判を終了し、ほぼすべての州によって提起された請求を和解する18億ドルの法的和解が成立した。

Metaが導入することに同意した安全対策は産業全体には適用されなかったが、会社はすぐに競争相手にも同様の措置を導入するよう促した。

OpenAIも同様の訴えを行っている。

OpenAIのスポークスマン、ドリュー・プサテリ氏は、会社が「AI産業全体に適用される実用的なAIポリシーを推進すること」に関して州と協力して取り組んでいると述べた。

OpenAIはまた、外部の専門家と協力してポリシーとChatGPTの行動を見直していると述べた。

ChatGPTは13歳以上が対象であり、18歳未満のユーザーは親や保護者の許可を得る必要があるとOpenAIは述べた。ティーン向けのチャットボットモデルは、自傷行為、暴力、摂食障害および明示的な性的またはグラフィックな内容への露出を減らすように設計されているという。

ChatGPTを利用するティーンのうち、約9割が学習、情報取得、スキル向上または生産性向上のために利用していると会社は述べた。平均して、ティーンはChatGPTに1日15分未満を費やしているという。

しかし、コモンセンスメディアのユースAIリサーチディレクターであるローラ・ジマーマン氏は、OpenAIの統計の価値に疑問を呈した。

一つには、ChatGPTは学生の宿題を数秒で完了できるため、たとえ15分であってもティーンの発達に大きな影響を与える可能性があるとジマーマン氏は述べた。彼女の組織のテストでは、ChatGPTが特定のユーザーが子供かどうかを検出できなかったか、またはしなかった例が見つかったことから、OpenAIがティーンや子供を特定できているかどうかにも疑問を呈した。