先週末の2つの発表から、台頭しつつある人工知能の領域が人間の生活に与える影響について、2つの物語が浮かび上がった。

１つ目の物語は、メリアム・ウェブスターという辞書の編集者たちが2025年の「今年の言葉」に「スロップ」を選んだことだ。同辞書は「スロップ」を「人工知能によって通常大量に生成される低品質のデジタルコンテンツ」と定義している。これは、AIが大量に生み出すコンテンツが、一部の人々にとって煩わしく、あるいは滑稽とさえ言えるものだと感じられている事実を端的に表している。

２つ目の物語は、タイム誌の「今年の人」に人工知能の設計者が選ばれた発表に関わる。我々は祝福すべきか、それとも未知なる領域に足を踏み入れた事実——超強力な機械とその動作アルゴリズムが人間の生活を支配するようになった現実——をただ認めるべきか、考えさせられる。この傾向が将来、自由意志を持つ存在としての個人の役割にどれほどの影響を与えるかは、まだ明らかではない。

一方、フィナンシャル・タイムズは、テクノロジー業界にとって最も重要な部品であるチップの供給において果たした役割を評価し、エヌビディアのジェンスン・フアンCEOを「今年の人」に選出した。

確信が揺らぎ、新たなフロンティアが称賛される中、AIツールと思考する機械の時代が到来した

モハメド・チェバロ

長い間、チップはそれらが駆動するデバイスや画面に比べ軽視されてきた。しかし、コンピューティング能力の急増と汎用人工知能（AGI）開発競争に伴い、フアン氏が率いるエヌビディアは、テクノロジー、金融、ビジネス界を席巻する熱狂の背景にある部品メーカーと見なされている。この功績により、同氏は民間部門で史上最大規模の投資プログラムの中心人物として評価されている。

2025 年は、AI とドナルド・トランプ米大統領がIT界を席巻した年だったと多くの人が同意しています。確固たる確信が失われ、新たなフロンティアが称賛される中、AI ツールと思考する機械の時代が到来しています。したがって、タイム誌が AI の設計者を 2025 年の「今年の人」に選んだことは、決して不思議なことではありません。同誌が述べたように、「今年は、人工知能の潜在能力のすべてが明らかになり、もはや後戻りも、選択の余地もないことが明らかになった年」でした。

1927年以来、『タイム』誌は「良くも悪くも…その年の出来事に最も影響を与えた人物」を「今年の人」に選出している。1938年にはアドルフ・ヒトラー、1979年にはホメイニ師が選ばれたほか、1988年の「危機に瀕する地球」や1982年の「パーソナルコンピュータ」といった、人々の生活を変えた概念も選出対象となっている。

しかし、AIプロジェクトを構想し、構築し、推進している個人たちを「今年の人」として称えることは、誰もが関心のある事であろう。これにより、その不確かな限界や影響、そしてもたらす可能性のある困難にもかかわらず、技術的進歩を認め、称賛しているのだ。

我々は、その不確かな限界と影響にもかかわらず、技術的進歩を認識し、称賛している

モハメド・チェバロ

私たちは皆、新たな機械とソフトウェアが人類の進歩にもたらす飛躍的進歩と、現在および将来の多くの課題に対する解決策を称賛すべきである。しかし、猛烈なスピードで追求されるAIと、その派生形である汎用人工知能は——地球とその環境に計り知れない代償を強いる一方で、説明責任も透明性も全くないまま——人類の歴史と経験のあらゆる基盤を覆すであろう新帝国が到来することを懸念する者たちに戦慄を走らせている。

技術革新のたびに、想定された困難もあれば、進捗に伴い新たに生じる困難もある。AIの設計者や、人類とビジネスに利益をもたらすことを目的としたツール開発に資金・科学・計算能力を注ぎ込む人々を称賛する一方で、AIの危険な利用から守る仕組みが組み込まれていると誰もが想像するだろう。

現時点では、そうした安全装置は保証されていない。AIの利用者は、有害で偽り、捏造されたコンテンツを再利用することで生じる誤りや社会への損害に直面している。こうしたコンテンツは虚偽情報・誤情報の拡散に悪用されうる。差別的あるいは傷つける結果を招くケースが頻発しているが、開発者や流通業者は責任を問われていない。AIを駆使した戦争兵器は別の議論を要する危険な領域である。

AIの最適化を競うフロンティア企業群——OpenAI、Google DeepMind、xAI、Meta、そしてDeepSeekを筆頭とする中国勢——の中で、Anthropicは最も積極的に警鐘を鳴らしてきた。開発者たちが機械に許容する自律性のレベルに関する決定がもたらす影響についてだ。また、AIが爆発的に普及すれば、人類が機械の制御を失う事態も懸念されている。

Anthropic社のチーフ・サイエンティストで共同経営者のジャレッド・カプラン氏は最近、もし再帰的自己改善を無制限に許容した場合、人類は2つのリスクに直面する可能性があるとし、「1つ目のリスクは、制御が効かなくなることです。AIが何をしているのかさえ把握できるのか？そこでの核心的な問いは、AIが人類にとって有益かどうかです。人々が自らの生活や世界に対する主体性を維持することを許容するのか？」と警告した。

２つ目のリスクは安全保障に関連しており、自己学習型AIが今後数年のうちに科学研究や技術開発において人間の能力を超える可能性がある。もし悪意ある者の手に渡れば、悪用され、政治的な権力掌握を助長することさえあり得る。

人工知能の設計者、開発者、そして創造者たちは称賛に値する。しかし、現段階では未来の安全も彼らの手に委ねられている以上、その創造物の卓越性が制御能力を上回ることのないよう願わざるを得ない。人類と社会の利益こそが、これらの先駆者たちの仕事における最優先事項であるべきだ。なぜなら、機械が人間の利益に奉仕することをやめたなら、彼らの努力は無意味なものになりかねないからだ。

• モハメド・チェバロ氏はイギリス系レバノン人のジャーナリストで、戦争、テロ、防衛、時事、外交の取材に25年以上の経験を持つ。