1960年代半ば、数学者でありブレッチリー・パークの暗号解読者であったI.J.グッドは、その後シリコンバレーの指針となった思考実験を提案した。

もし我々が “超知的マシン “を作ったとしたら、そのマシンはさらに優れたマシンを設計することができ、人間の認識力をはるかに置き去りにするような知能の爆発を巻き起こすだろう、と彼は主張した。したがって、そのような最初の機械は、”人間が作る必要のある最後の発明 “となるだろう。

今日、かつてはSFの世界であったこの原理は、世界で最も強力な機関の中核的な目標となっている。例えば、グーグル・ディープマインドのデミス・ハサビスは、”他のすべてを解決する “ために “知性を解決する “と語っている。魅惑的な話だ。しかし、たとえ議論のために、未来のシステムが学習し、実験し、今日のモデルをはるかに超える真に斬新な解決策を生み出すことができると仮定したとしても、最後の発明というテーゼは依然として複数の疑わしい仮定に基づいている。

第一に、イノベーションはアイデアからインパクトまでの摩擦のない疾走に似ているということである。そうではない。むしろ、発見のプロセスは鎖に似ている。

この弱いつながりが、人類の進歩の多くを定義している。1986年、スペースシャトル “チャレンジャー号 “は、打ち上げから73秒後にバラバラになった。その原因は、世界トップクラスのエンジンやソフトウェアの故障ではなく、小さなゴム製シールが冷たい大気温度にさらされたときに破損したためだった（ノーベル物理学賞受賞者リチャード・ファインマンが、この事故に関する公聴会で見事に暴露した）。それ以来、「Oリング」は、最も洗練されたシステムでさえ沈没させるような致命的なボトルネックのメタファーとなった。

ディスカバリーも同じように機能する。人工一般知能（AGI）は、一般的にあらゆる認知タスクを実行できるモデルとして理解されており、初期段階の医学研究を劇的に加速させるかもしれない。しかし、臨床試験をナビゲートしたり、大規模な製造を行ったり、規制当局の承認を確保したりできなければ、「画期的な」発明が人々の生活を向上させる発明となることはない。発見の初期段階が自動化されても、人間の役割が消えるわけではなく、判断力、暗黙知、実践的なノウハウが重要な、残されたボトルネックに移行するだけなのだ。

この複雑さは、さらに大きな問題を指し示している：AGIは単に人間を上回るだけでなく、AGIを使って人間を上回る必要があるのだ。最後の発明というストーリーが成り立つためには、人間は人工知能のパートナーや監督者としてさえ不要にならなければならない。

しかし、知能は量ではない。”より多く “が単に “より少なく “に置き換わるわけではない。非常に有能なAGIであっても、人間とは種類が異なるかもしれない。スピードやパターン発見には優れているが、稀なケースに直面すると壊れやすい。異なる強みは異なる盲点を意味し、それらが重ならない場合は、人間と機械の判断を組み合わせることで、どちらか一方だけを上回ることができるだろう。

囲碁はそのことを思い出させてくれる。2016年にグーグル・ディープマインドのアルファ碁がイ・セドルを4勝1敗で破った後、人間の棋士に対するアルファ碁の優位性は確立されたように思われた。しかし2023年、研究者たちは、トップエンジンを訓練外の異常なポジションに誘導することで、そこそこの計算技術を持つ人間のアマチュアが最高のプログラムを確実に打ち負かすことができることを示した。見かけの優位性にはまだ体系的な弱点が隠されている可能性があり、人間の入力が最も価値を増すのはしばしばそこなのだ。

AGIは、専門知識をより安価に、実験をより迅速にすることで、発見を変えるだろう。

カール・ベネディクト・フレイ

第三の問題は、知識そのものに関するものである。最後の発明のテーゼは、関連する情報はすべてコード化できると仮定しているが、通常はそうではない。自動車を大衆製品に変えたT型フォードほど、世界を変えた発明はない。しかし、ヘンリー・フォードの功績は、単に新しいデザインにあったわけではない。もっと重要なのは、生産を組織化するための彼のアプローチだった。

だからこそ、イタリア、ドイツ、ソビエト連邦などから代表団がフォードの工場を視察に訪れたのだ。重要なノウハウは、どんな設計図からも得ることはできなかった。そのノウハウは、ルーティン、順序、工具、そして現場の従業員による日々の問題解決に組み込まれていたのである。同様に、トヨタのリーン生産方式は、図式ではなく、人間のルーチンと文化に埋め込まれているため、複製することは困難だった。

複雑なシステムを機能させているのは、分散した、ローカルな、しばしば暗黙の情報であるという事実である。もし知識が摩擦なく持ち運べるものであれば、シリコンバレーやロンドン・シティのように産業がこれほど集中することはないだろう。

AI愛好家たちは、「センサーやカメラ、マイクをあらゆる場所に設置すれば、不足している知識を体系化できる」と言うかもしれない。しかし、この戦略は、監視される人々が公然とコミュニケーションをとり、彼らが生み出す知識を共有することを前提としており、政治や法律を排除することを前提としている。すべてを、どこにでも」記録することは、世界中のプライバシー規制の青写真となったEUの一般データ保護規則と衝突することになる。

さらに、EUのAI法は、人間のノウハウを大規模に採取するために必要な監視の手厚い配備にフリーパスを与えるものではない。仮にそうだとしても、判断力はともかく、人間のノウハウがすべてそう簡単にデジタル化されるとは考えられない。

最終的には、AGIは知能を自動化するかもしれない。しかし、発明のプロセスはそれ以上のものに依存している。多くの場合、難しいのは解決策を考えることではなく、それを実践に移すことである。現実の世界で何かを確実に機能させるには、地域のノウハウ、信頼されるルーティン、サプライチェーン、制度的能力が必要だ。インテリジェンスが高まれば、自動的にそれを補完できるわけではない。

AGIは、専門知識をより安価に、実験をより迅速にすることで、発見を変えるだろう。しかし、「人類最後の発明」というのは、もっと強い主張である。それが真実であるためには、実用的なノウハウがデジタル・チャネルを通じて完全に伝達可能で、認知とともに責任も自動化できる世界が必要だ。それは私たちが生きている世界ではない。

インテリジェンスが安価になればなるほど、最も高い価値を持つ資産は変わっていくだろう。優位に立つのは、結果を出せる人間だ。人間は冗長になるのではなく、世界で最も決定的なボトルネックになりつつあるのだ。

• – オックスフォード・インターネット・インスティチュートのAI & Work准教授で、オックスフォード・マーティン・スクールのFuture of Work Programディレクターであるカール・ベネディクト・フレイ氏は、『How Progress Ends: Technology, Innovation, and the Fate of Nations』（プリンストン大学出版局、2025年）の著者である。

©Project Syndicate