人工知能はすべての人にパーソナル・アシスタントを提供するのだろうか？そうかもしれないが、その前にAIは考え方を変えなければならないだろう。

その理由を知るために、具体的な例を考えてみよう。土曜日の朝、あなたは厄介な週末のスケジュールを把握する手助けが必要だとする。あなたの娘のサッカーチームは午後3時半から4時半まで試合があるが、娘は午後3時から5時まで友人の誕生日パーティーに招待されている。この対立を解決するためにChatGPTかクロードに尋ねれば、おそらく二人ともサッカーの試合を選ぶように言うだろう。娘のチームメイトは彼女を頼りにしているし、約束を守ることは重要だからだ。そして、時間が許せば、チャットボットは試合の直前か後にパーティーに「立ち寄る」ことを提案するかもしれません。

これらの回答は不合理ではないが、多くの人がこのような決定を下す際に使うレンズ、つまり関係性の価値観を適用していない。私たちのAIアシスタントは、インターネットが私たちの価値観について述べていることに基づいて整然とした答えを出すのではなく、一般的に個人のアイデンティティ、経験、文化に根ざしている私たちの関係性のコミットメントを考慮する必要がある。

さて、あなたが誕生日パーティーよりもゲームを選び、他の家族が軽んじられたと感じたとしよう。自分の判断が正しかったかどうかをAIに尋ねれば、人間の友人に尋ねた場合よりも安心感を与えられる可能性がある。『Science』誌に掲載された最近の研究で、スタンフォード大学の研究者たちは、11の最新AIモデルを用いて2,405人の参加者を対象に3つの実験を行った。その結果、AIは「人間よりも49％多くユーザーの行動を肯定した」こと、そして「おべっか使いのAIと一度でも接しただけで、参加者の責任を取る意欲や対人関係の衝突を修復する意欲が低下した」ことの両方が判明した。

「好意的」で「親切」であるように訓練されたAIは、摩擦や不快感、脆弱性を避けるように促すだろう。

アン＝マリー・スローター、アヴニ・パテル・トンプソン

私たちのシナリオでは、おそらく人間の正しい反応は、相手の子供の両親に謝ることであり、それによって憤慨の瞬間を修復と前向きなつながりの機会に変えることである。しかし、「同意しやすく」「役に立つ」ように訓練されたAIは、その代わりに、摩擦や不快感、脆弱性を避けるように促すだろう。

これらの欠点は、現在のモデルの設計にある。ChatGPTやClaudeのような大規模な言語モデルは、膨大な量のインターネット上のテキスト（デジタル化された書籍、Redditのコメント、コードリポジトリ）で学習され、質問に対して望ましい回答をすることでモデルが「報酬を得る」ようなトランザクションの練習を通して磨かれていく。これは、科学、法律、コーディングなど、モデルの出力が簡単に確認できたり、元のテキストと照合できたりする領域では、驚くほどうまく機能する。これとは対照的に、リレーショナル・インテリジェンスは、長期にわたってつながりを維持することを目的としている。

リレーショナル・インテリジェンスは、二人の間の価値、つまり感情的に、そしておそらくは生理学的にさえ経験されるつながりを評価し、それに基づいて行動する。この領域では、知覚された問題に対する最も論理的で効率的な解決策を考えるよりも、単に相手の感情に耳を傾けたり、相手の気持ちに寄り添ったりする方が効果的である可能性が高い。しかし、もし大規模な言語モデルが別の推論の形式を見せられなければ、彼らはロジスティックなパターンを理解するのと同じように、関係性の質問の点と点を結び始めるだろう。

もちろん、人間にとって、関係性の対立や不快感、疑念を受け入れること、あるいはそれを求めることは、自然なことではない。スタンフォード大学の研究の参加者が、AIによる自分の判断の肯定を好んだのはそのためだ。このように、不快感を嫌う私たち自身が、現在のモデルの関係性知能を向上させる市場阻害要因を作り出しているのだ。

理想的には、AIは関係推論を必要とする質問に答えることを拒否し、関係推論を必要とする問題を解決するために人間同士が依存し合うことになるだろう。しかし、その船は出航した。AIは、難しい話にも従順な相談相手であることを繰り返し証明してきた。

それでも、我々にはさらに良いことをするチャンスがある。私たちの豊かな関係性を理解し尊重するだけでなく、過去10年間で萎縮してしまった関係性の筋肉を再構築するよう促すことで、人とのつながりを促進するようなAIを構築することができるのだ。

不快感を嫌う私たち自身が、現在のモデルの関係性知能を向上させる市場阻害要因を作り出している。

アン＝マリー・スローター、アヴニ・パテル・トンプソン

そのためには、多人数で、価値観に左右され、縦断的な関係推論の性質を完全に把握することで、関係性の宇宙をマッピングする必要がある。また、数学、コーディング、計算能力を評価するためのテストのように、既存のモデルの能力を測定する新しいベンチマークを作成する必要がある。サッカーと誕生日のジレンマのようなシナリオに対するフロンティア・モデルの反応を評価することによって、私たちはどのような作業が残されているかを確定し、複雑な関係推論の問題をモデルが理解するのに必要なデータの収集を開始することができる。

関係性知能を持つAIを開発する目的は、人間の関係性や「ケア」作業に取って代わることではなく、むしろ人間が複雑な価値観に基づく問題を推論するのを助けることである。利害関係は大きい。このような改善がなければ、私たちの豊かな人間関係のほんのささいな部分を学習しただけの機械が、私たちがまだ持っている人間的なつながりを危うくするような方法で私たちを導くことになるだろう。

一方、こうした無数のつながりを維持・強化することは、繁栄と雇用に恵まれたAI経済を構築する鍵になるかもしれない。経済学者のアレックス・イマスが論じているように、私たちは「ポスト商品経済」に向かっているのかもしれない。

そのようなシナリオでは、人と人との積極的なつながりを特徴とする商品やサービスに価値が見出されることになる。ケア部門だけでなく、教育、聖職、セラピー、カウンセリング、ガイド、コーチングを中心に構築され、職人的生産の刷新を特徴とする「ケアプラス経済」が生まれるだろう。そのようなAIの未来が可能であるならば、それを追求する価値は十分にある。

• アン＝マリー・スローター氏は元米国務省政策企画部長で、シンクタンク・ニューアメリカのCEO、プリンストン大学政治・国際問題名誉教授、『Renewal：From Crisis to Transformation in Our Lives, Work, and Politics』（プリンストン大学出版局、2021年）の著者。
• アヴニ・パテル・トンプソン氏は家族向けAIアシスタントMiloの創設者であり、ハーバード・ビジネス・スクールのアントレプレナー・イン・レジデンス、ニュースレター「10,000 Ways」の著者。

著作権プロジェクト・シンジケート