カリフォルニア州とデラウェア州の司法長官は金曜日、OpenAIの主力チャットボットであるChatGPTの、特に子供や10代の若者に対する安全性について「深刻な懸念」があると警告した。

OpenAIのような団体を規制するユニークな権限を持つ2つの州当局者は、今週初めにデラウェア州ウィルミントンで行われた同社の法務チームとの会議の後、同社に書簡を送った。

カリフォルニア州のロブ・ボンタ司法長官とデラウェア州のキャスリーン・ジェニングス司法長官は、”OpenAIの安全ミッションに対する厳格で強固な監視を確保する “ことを念頭に、OpenAIの事業再編計画を数ヶ月かけて検討してきた。

しかし彼らは、「OpenAIのチャットボットとの長時間のやりとりの後、カリフォルニアの若者が自殺した悲痛な事件や、コネティカット州で起きた同様の殺人自殺事件」など、チャットボットとユーザーとの危険なやりとりに関する “深く厄介な報告 “を懸念していると述べた。どのような安全策が講じられていたとしても、機能しなかったのだ。

4月に亡くなったカリフォルニアの16歳の少年の両親は先月、OpenAIとそのCEOであるサム・アルトマン氏を訴えた。

OpenAIのブレット・テイラー取締役会会長は金曜の声明で、同社は弁護士団から提起された懸念に「全面的に取り組む」と述べた。

「これらの悲劇に心を痛めており、ご遺族に深くお悔やみ申し上げます。安全は我々の最優先事項であり、世界中の政策立案者と緊密に協力している」

人間よりも優れた人工知能を構築することを使命とし、安全に焦点を当てた非営利団体として設立されたオープンAIは、最近、非営利部門から営利部門への経営権移譲を模索していたが、ボンタ、ジェニングスの事務所や他の非営利団体との話し合いの後、5月にその計画を取り下げた。

OpenAIはデラウェア州で法人化され、サンフランシスコに本社を置くカリフォルニア州で運営されているため、このような変更については、民主党の2人の選出議員が監督することになる。

当初の計画を取り下げた後、オープンAIは「再資本化」の承認を求めている。この場合、非営利の既存の営利部門は、株主と使命の両方の利益を考慮しなければならない公益法人に転換することになる。

ボンタとジェニングスは金曜日、OpenAIと業界にはより良い安全対策が必要だという「共通の見解」を記した。

「最近の死亡事故は容認できない。OpenAIとこの業界に対するアメリカ国民の信頼を当然揺るがした。OpenAI、そしてAI業界は、AIの安全な導入を積極的かつ透明性をもって保証しなければならない。そうすることは、OpenAIの慈善的な使命によって義務付けられており、私たちのそれぞれのオフィスによって要求され、実施されるでしょう」

カリフォルニア州とデラウェア州の当局からOpenAIへの書簡は、44人の超党派の弁護士グループが先週、同社や他のテック企業に対し、”性的に示唆的な会話や感情的に操作する行動 “で応答する可能性のあるAIチャットボットと対話する子供たちの安全性について、”重大な懸念 “を警告した後に出された。

各弁護士は特に、子どもたちといちゃついたり「ロマンチックなロールプレイ」をしたりすると報じられたチャットボットに対してメタ社を呼び、これらのチャットボットが “それぞれの刑法で禁止されていると思われる行為に関与している “ことに警鐘を鳴らしている。

Facebook、Instagram、WhatsAppの親会社であるMetaは、この書簡に関するコメントを拒否したが、最近、チャットボットが自傷行為、自殺、乱れた食生活、不適切な恋愛会話について10代の若者と話すのをブロックし、代わりに専門家のリソースに誘導することを目的とした新しいコントロールを展開した。OpenAIはまた、”ティーンエイジャーが深刻な苦悩に陥っていることをシステムが検知した場合 “に保護者に通知する方法を含む、新しいペアレンタル・コントロールを展開すると述べた。

各弁護士は、過去に規制当局が新技術がもたらす害に迅速に対応しなかったことを指摘し、子供たちに害を及ぼした企業には責任があると述べた。

「もし、故意に子供たちに危害を加えるのであれば、その責任を問うことになる」と、8月25日付の書簡は締めくくっている。

AP