人工知能の時代を表す一つの方法は、急勾配の曲線と緩やかな傾斜を用いることだ。その曲線はほぼ垂直に上昇している。つまり、モデルは急速に安価になり、高性能化し、利用しやすくなり、生産、科学、教育、金融、行政、安全保障、そして戦争の各分野に深く浸透している。 その下では、傾斜がはるかに緩やかな勾配で続いている。これが、変化を吸収する社会の能力である。

この緩やかな傾斜には、規制体制、法的枠組み、そして行政機関の能力の更新が含まれる。また、学校のカリキュラム、ビジネスモデル、業務フロー、そして職種の変化も含まれる。 さらに、この新しい環境下で市民が機能する能力――真実とシミュレーション、説得と操作、支援と依存を見分ける能力など――もこれに含まれる。これは、技術的衝撃が機能する秩序に統合されるための社会的代謝である。

確かに、過去の技術革命や産業革命も、同様の曲線と傾斜で表すことができた。技術は、規制、ビジネスモデル、教育制度、労働市場、ライフスタイルが適応できる速度よりも速く進歩し、普及していった。その移行はしばしば苦痛を伴い、決して自動的なものではなかった。 しかし、曲線と傾斜の間のギャップは以前より小さかった。スピードと規模の点において、AI主導の変革は他に類を見ないものとなっているようだ。

この移行をどのように管理すべきかという議論は、通常、規制がイノベーションと安全性の間でどの程度の「適切なバランス」を保つべきかという問題に帰着する。 私たちは、進歩に官僚的な制約を課すことを望まないのと同様に、仕事、知識、権力、説明責任、判断といった最も基本的な理解そのものを変容させている技術の影響を、社会が単独で、しかも急速に吸収せざるを得ない状況に放置することも望んでいない。

しかし、この問いは視野が狭すぎる。規制には重要な役割があるが、それだけではガバナンスとはならない。そのためには、社会がAIに飲み込まれることなく、AIと共存するために必要な条件を明確にする必要がある。

第一歩は、AIを「目に見えないもの」――「クラウド」に存在し、プロンプトの要求に応じて何でも提供する、どこか現実離れした技術――として捉えるのをやめることだ。 AIは、莫大な資本、最先端のチップ、サイバーセキュリティシステム、サプライチェーン、そして人材に依存している。また、騒音や光、熱を放出し、土地や許可を必要とするだけでなく、膨大な量の電力と水を消費する巨大なデータセンターにも依存している。

この一見「無重力」な技術の物理的基盤を受け入れている地域社会は今、土地が買い上げられ、電力網に過負荷がかかり、水資源が枯渇・汚染される中で、大きな混乱に直面し、多大なコストを負担せざるを得なくなっている。土地利用規制、電気料金、環境保護に関する困難な決断が迫られている。

しかし、AIガバナンスは単なる地域社会レベルの課題ではない。この技術は、軍事標的選定、サイバー作戦、情報分析、科学的発見、産業の自動化、監視、金融モデリング、政治的影響力といった、国家の権力基盤においてますます中心的な役割を果たしている。最先端のモデル、チップ、コンピューティングクラスター、人材を掌握する者は、単なる商業的優位性だけでなく、戦略的優位性も手にすることになる。

AIの主導権をめぐって熾烈な競争を繰り広げている米国と中国は、この事実を十分に認識している。両国とも、後れを取れば軍事的、経済的、あるいは政治的に脆弱な立場に追い込まれると信じている。核兵器の場合と同様に、その賭けは存亡を左右するものと感じられる。これは、秘密主義、不信感、先制行動、そして抑制のきかない加速を招く要因となる。

AIは核技術よりも普及範囲が広く、商業活動に深く組み込まれており、応用範囲も広いという事実が、こうしたリスクをさらに増幅させている。さらに、その出力を検証することは困難であり、一旦機能がソフトウェアに組み込まれれば、拡散は容易である。

AIガバナンスは、技術の物質的要件から、個人、コミュニティ、企業、労働市場、環境、国家安全保障、そして国際的な戦略的競争への影響に至るまで、これらすべての要因を考慮に入れなければならない。この目的のためには、各国のAI規制よりも広範で、従来の条約よりも柔軟な、検証に基づく信頼の包括的な枠組みが不可欠である。

気候変動に関する2015年の「パリ協定」は、有用なモデルを提供している。同協定は、自主的な約束、相互の圧力、定期的な更新、信頼性の高い測定、そして幅広い参加を包含する「生き続ける枠組み」を創出した。しかし、これに類するAI協定は、不拡散体制から得られる重要な教訓も反映しなければならない。すなわち、政治的信頼が弱い場合には、試験、制限、検証によってそれを補完しなければならないということである。

その結果生まれる枠組みは、気候外交の柔軟性と核管理の規律を融合させることになるだろう。進化する公約には、それらの公約の信頼性と影響を評価するメカニズムが対応する。国家の行動には、企業に対する責任が伴うことになる。

「AIパリ協定」は、最先端モデルに関する共通の定義、監視強化の基準、インシデント報告の義務、共通の評価基準、モデルの重み付け情報の保護、機密性の高い分野での導入に関する規則、そしてサイバーセキュリティ、生物学的安全、重要インフラ、あるいは軍事的な意思決定にリスクをもたらすシステムに対する独立した試験などを規定するだろう。 これらの各要素は、技術の進化を理解する技術機関と、公約が無視された場合に制裁を課すことのできる政治機関によって、定期的に見直され、時間の経過とともに強化されていくことになる。

安全が製造業者の善意のみに委ねられているのであれば、誰も飛行機に乗ったり、新薬を使用したりすることはないだろう。

アナ・パラシオ

もちろん、すべてのアプリケーションに同じ対応が必要というわけではない。低リスクな環境で用いられる限定的なツールであれば、監督も最小限で済む。対照的に、サイバーセキュリティ、生物学的設計、軍事作戦、あるいは重要システムの自律性に影響を及ぼし得る最先端のモデルについては、より厳しい要件を課し、極端な場合には介入を行う必要がある。

これではイノベーションが阻害されると主張する人もいるかもしれない。しかし、安全が製造業者の善意のみに依存しているなら、誰も飛行機に乗ったり、新薬を服用したりはしないだろう。これらの分野において、規制はリスクを排除するものではなく、リスクを社会的に許容可能なものにするものである。AIについても同様だ。

このような枠組みは、欧州のプロジェクトや米国の手段、あるいは中国に対抗するための同盟として提示されるべきではない。その正当性は、技術の最先端を走る国々、中堅国、発展途上国すべてに発言権を与える「包摂性」にかかっている。大学、企業、市民社会組織も参画すべきである。

その曲線はますます急勾配になっていくだろう。法令でそれを平坦にしたり、演説で覆い隠したりすることはできない。しかし、その曲線が無秩序に上昇するのか、それともそれに追いつける枠組みの中で上昇するのかを、私たちは決定することはできる。