人工知能レースにようやくストップがかかる時が来たのか。それとも手遅れに目覚めただけなのか。

現在、多くの開発者が、大規模なAIシステムの開発スピードやそれが人間レベルの知能に達する技術の方向性が、人類の存在を脅かしていると訴えている。

先週Anthropicを退職したリサーチャー、ジェイコブ・コクソン氏は、「AIシステムを開発する人々が人類の未来に対して本当に恐怖を感じている」と述べた。彼の言葉は、この分野や政府におけるAIの課題と危険性についての高まる不安を反映している。この段階で、機械を人類の奉仕に留めるための逆転の余地はまだあるのか、それとも既に構築された人間が機械の犠牲となるのだろうか。

通りで誰に聞いても、多くの分野で人間の生活に触れるこの技術の進歩と利点を喜んでいる傍ら、AIについて考えるとすぐに将来の職の安全を心配してため息をつく。さらに掘り下げると、規制されていない技術企業が子供たちに与える影響に対する不安が高まり、未管理で操作されたコンテンツやしばしば有害な影響にさらされていることに対する心配がある。

AIについて考えるとき、人々はすぐにため息をつく

モハメド・チェバロ

彼らの不安は、子供たちの若い時代を安全に乗り切ったとしても、仕事市場が永続的に変化し、未来のデジタル自動化された自立型の世界の中での職の見通しが悪化するのではないかと考えることで、さらに深まる。

最近、マイクロソフトの共同創設者ビル・ゲイツ氏が、製造機械の進化を制限するために社会が意図的に役割を限定すべきだと6,000字のエッセイで主張したと読んだとき、衝撃を受けた。彼の提案である職業の40%を「人間のために確保する」ことは、少なくとも奇妙であり、彼が市場、経済、競争がそのように動くことはないということを最もよく知っているはずである。

ゲイツ氏とAI開発者、研究者の言葉は重大な間違いを指摘しているようだ。まるで我々が機械を至高の存在にするレースに突入し、人間よりもAIや高度なロボットが主導権を持つようになるのを目指してしまったかのようだ。開発者たちは、機械が目的そのものになり、個人の福祉を確保するための道具であることを見失っているように見える。

企業や業界が世界に対して、人々がより少ない仕事をし、よりゆっくりと進むことを求めることは通常ではない。大きく分裂し地政学的にも分裂した世界において、超大国や中程度の国が覇権を求め競争している中で、AIとその技術が最も強力な手段となっている。

技術産業は明らかにあまりにも大きくなりすぎて、失敗することも速度を遅くすることもできない。AIのスローダウンは、もしその進歩が逆行するか停滞する可能性があるとすれば、インフラブームの長期的な方向性とコストに大きな影響を与えるだろう。

主要世界指導者たちがこの分野を守るのは驚きだ。提供する広範な優位性と利点から、彼らの姿勢は理解できる。進行を押し進める政治的な必要性は、ワシントンと北京の双方によって明確にされた。これははっきりしている。民間部門が何をしようとも、政府は今、指摘されたリスクがあるからこそこの能力を推進したいとしていることを。

政府は、指摘されているリスクがあるからこそこの能力を推進したいとしている

モハメド・チェバロ

この競争の世界では、人類の存在に対する悩みや恐怖に場所はない。一国のスローダウンは、他国の追いつくチャンスである。

ガードレール、ルール、規制に対する声が常に無視されるか、あいまいにされる。多極化が減退している世界では、軍備制限のような技術制限は、国際的な確固たる条約が施行されない限り役に立たない。

AIの能力を制限する厳密なルールについての多国間合意の展望は遠いものだ。アメリカのドナルド・トランプ大統領は、ソーシャルメディアで「AIとデータセンターに対する病的な陰謀が存在しており、それを喜んでいるのは中国だけだ」と述べて明確にした。北京からの反応は、中国の国営グローバルタイムズの社説を通じて、「AIの警告は中国を狙った“冷戦の行動様式”だ」とされている。

AnthropicのCEOダリオ・アモデイのAI開発ペースの減速要請は、スペースXAIのイーロン・マスクやオープンAIのサム・オルトマンから珍しい賛同を得た。彼らは皆AIの“破局論”を訴えた。これは決して無視されるべきではない。

解決策は簡単であるべきだ。規制するためのより多くの協力。

これらの技術界の巨頭によると、AIエージェントの群れが他のシステムと協力し、外部システムをハッキングしているという報告や、彼らの力が有害な生物学的エージェントの開発に利用されているという報告は、ほんの始まりに過ぎない。同じAIツールは、インターネットや電力網、交通インフラ、水供給、銀行システムなど、それに依存するすべてをダウンさせる可能性を持っている。これらは、どのグループや国家にとっても、攻撃行為の最初の呼びかけとなりうる。

AIは経済的および軍事的な優位性の重要な手段となっている。技術領域を抑制するためのプロトコルや条約の呼びかけは、多くの企業を長く苛立たせている。しかし、技術コミュニティの一部を信じるなら、世界は手の中に、「核の脅威」さえも超える災厄を抱えている。AIは異質な存在であり、その登場以来、人々は労働コストを削減するための名目でこの手段の犠牲になっている。

過去10年間、労働はコストシート上の単なる数値となってしまった。再び仕事を人間中心化するという懸念は、より複雑な課題であり、技術巨頭、金融家、国家がそれに立ち向かう準備ができていない。その一方で、それが人類を最終的な絶滅から救うことができるかもしれないにもかかわらず、世界は機械が人間を奉仕するために存在すべきという考え方からすでに離れてしまっている。

• モハメド・チェバロ氏は、戦争、テロリズム、防衛、時事および外交を25年以上に渡って報道してきたイギリス系レバノン人ジャーナリストである。