1983年9月26日、ソビエト連邦の早期警戒システムOkoが、米国が5発の大陸間弾道ミサイルを発射したと報告した。

セリプホフ-15地下壕の当直士官であるスタニスラフ・ペトロフ中佐は、プロトコルを破り、警報を確認された攻撃として報告することを拒んだ。彼は、実際の米国の最初の攻撃であれば、数百または数千のミサイルが関与するはずで、5発ではないと判断した。結果として、このシステムは雲から反射する日光をミサイルの発射と誤認していた。

ペトロフ中佐のプロトコル違反の決断により、誤った報復核攻撃とその計り知れない影響を防ぐことができた。

「私はミサイル攻撃が進行中であることを示唆するすべてのデータを持っていました」と彼は30年後にBBCのロシアサービスに語った。

「指揮系統に報告を上げていたら、誰もそれに反対することはなかったでしょう。その夜の当番が私であったことは幸運でした」

この冷戦の教訓は、AIが戦争にどのように展開されているかに対する懸念が高まる中で大きく共鳴している。最近の訴えにより、戦争における自動化が再び注目を集め、多くの人を不安にさせる質問が浮上した：攻撃に対する対応を間違えた場合に、コンピューター、AIシステムが責任を持つことになるのか？

先週末に発表された文章で、AnthropicのCEOであるダリオ・アモデイ氏は、AIモデルの開発を遅らせ、より厳格な精査を受けることを求めた。この訴えは前例がなかったわけではないが、今回はOpenAIのサム・アルトマン氏とxAIのイーロン・マスク氏という2人のライバルからの珍しい公共の同意を引き出した。

「過去数ヶ月間で、リスクに対処するにはさらに多くの慎重さが必要であると確信するようになりました。リスク防止に投資するだけでなく、リスク防止が追いつく時間を持つように能力の進展を調整する必要がある」とアモデイ氏は語った。

Anthropicが発表した脅威インテリジェンス報告書によれば、北イエメンに拠点を置く一団が、そのAIツールであるClaudeを使って、誘導ロケットやミサイルを製造しようとしたとされる。中には2,000kmの射程を持つと主張される弾道ミサイルと、極超音速滑空ビークルを取り入れた別のプログラムも含まれていた。

Anthropicは、活動を検出した後にアカウントを停止したと述べたが、そのグループが実際に運用可能な武器を配備した証拠はないと言及した。

戦争には、AIが戦場の意思決定を簡素化したり、監視を強化したりする例が不足していない。中東は、その戦略的重量と関与するアクターの幅広さから、技術の試験場となっている。

イスラエルは長らくその軍隊でAIを使用している。ガザでの3年間に、同国の軍隊は数多くの機械学習システムを展開したとされており、それには大量のターゲット生成と打撃計画の自動化に用いられるハブソラ（「ゴスペル」）、ラベンダー、ファイアファクトリー、ホウェアズダディーが含まれている。

これらのシステムは、監視フィード、通信データ、既存データベースを活用してターゲットを提案し、弾薬や打撃スケジュールを推奨する。報告によると、アナリストは年間約50のターゲットを生成するところから1日100以上に増加したとされる。

AIによるターゲッティング支援に関する懸念は、イラン戦争中、米国の攻撃がイラン南部のミナブにあるシャジャーレ・タイエベ女子学校を襲撃し、168人以上、ほとんどが子供だったという事件で再浮上した。

この攻撃でAIが使用されたかどうか、米国は明らかにしていないが、キャンペーンを指揮する米国のブラッド・クーパー司令官は、「さまざまな高度なAIツール」を使用して大量のデータを処理したと認めており、具体的なシステムは明らかにしていない。彼曰く、これらのツールを使えば、「敵が反応するよりも早く、より賢明な決定を下す」ことができ、かつて数時間または数日かかったプロセスを数秒に短縮できる。

「人間はどこで撃つか、撃たないか、いつ撃つかについて最終決定を下す」と彼は述べた。

米軍は少なくとも2017年からAIを駆使した戦争プログラムを運営している。Palantirが開発したメインのシステムMavenは、戦場データを融合し、ターゲットを特定し、意思決定を加速する。NATOは2025年に独自バージョンを獲得した。OpenAIとAnthropicも軍事契約を巡って競い合っており、防衛作戦が商業AIにますます依存することを示している。

ウクライナでも、両陣営がAIを使ってデータ処理やターゲット選定を行っている。ウクライナの元国防副大臣のユリー・ミロネンコはBBCに対して、AIが毎月50,000以上の最前線のビデオストリームを分析し、「この膨大なデータを迅速に処理し、ターゲットを特定し、地図に配置する」ことを助けたと語った。

しかし、戦争が従来の戦場を超えてハイブリッドで多面的なフロントへと流れ込むと、AIの採用もまた続く。

クーパー司令官が率いる攻撃で、イランのエクスプロシブ・メディアは、YouTube上で西側の人物をAI生成のレゴ風アニメでモックし、反米や反イスラエルの親イラン調のメッセージを広めるGen Zイラン系チャンネルとみなされたため、4月に禁止された。

最近の別のメディア調査により、イスラエルがガザとイスラエル軍についての質問に回答する際に、AIチャットボット（ChatGPTを含む）を操作するために数百万ドルのPRキャンペーンを資金提供したことが明らかになった。研究者らは、虚偽のシンクタンクを設立し、実際の著者のいないAI生成の論文を発表することで、イスラエルが検索結果を操作し、公共の理解を形成する洗練された操作を行ったと述べた。これはアドボカシーを中立の専門知識として偽装するため、発見するのが困難なプロパガンダ戦術のシフトである。

歴史を通じて、軍隊は敵に対する優位性を提供する道具を求めてきた。しかし、武力衝突のような高リスクな環境でAIを導入することには、これまでの技術にはない独特のリスクがある。

懸念の一部は技術そのものに由来する。不正確または代表的ではないデータで訓練されたAIモデルは、訓練環境と異なる条件で展開された場合、不正確な結果を生成するか、誤動作する可能性がある。

AI対応のターゲティングシステムが、大規模なターゲットを生成し、人間の監視がほとんどない場合、誤りが発生するリスクは指摘される。

AI開発が意思決定支援から、人間の監督がほとんどない状態で複雑な目標を追えるエージェントへと移行するにつれて、リスクはさらに深刻になる。次のステップである再帰的自己改善には、徐々に人間の入力を減らし、自らを改善していくシステムが含まれ、潜在的には無限のサイクルとなる可能性がある。

ジェネーブ安全保障政策センターのジャン・マルク・リックリ氏とトビアス・クナッペ氏が最近の論文で指摘したように、エージェントAIは「AIの風景を受動的、支援ツールから、人間のユーザーに代わって行動のコースを定め、実行する積極的実行者」に変える変化であるとし、この変化は「重大な社会的、安全保障面、法律的、倫理的リスクをもたらす」としている。

この意味で、戦場の内外でのAIの普及は前例のない課題と倫理的、責任の新たな影響の懸念を招いている。

6月、国連は軍事領域の人工知能に関して初めての非公式交流会を開催した。議論は人権と国際人道法を中心に展開され、非政府組織は、世界規模の堅固な安全策が整うまで、自動ターゲットのような致命的な意思決定で使用されるAIシステムに対するモラトリアムを求めた。

この会合は、2025年12月の国連総会決議「軍事領域における人工知能と国際平和と安全に対する影響」に続いて行われた。専門家たちは、例外を除いて、前進として歓迎し、特筆すべき欠席—特に、決議に反対したアメリカなど—があったものの進展と見なした。

今、勢いはニューヨークに移り、ジェネーブ会談の事実上の要点が10月の国連第一委員会に届く予定である。

こうした取り組みにもかかわらず、戦場でのAIは主に既存の法律枠組みで管理されている。

国際人道法はAI対応兵器に対して適用され、区別、均等性、軍事的必要性および予防の原則を適用する。責任は国と人間の行動者にあり、また、1949年ジュネーブ諸条約の追加議定書I第36条も、各締約国が新しい兵器や戦争の手段、方法について法的遵守を確認する必要がある。米国指令3000.09も「適切なレベルの人間の判断」を要求しているが、リアルタイムの人間の管理を義務付けたり、拘束力のある国際的な責任を設けたりすることはしていない。

9月初旬、ジェネーブでの国連軍縮フォーラムでは「キラーロボット」として一般に知られる自律兵器について、3年間の作業を終えた。計128ヵ国が、最後の瞬間に米国とロシアからの反対があったものの、非拘束的な合意文書に達した。提案された二層の枠組みを支持し、予測不能な効果を持つか、人間を直接対象とするように設計された自主兵器を禁止し、その他のすべてを義務的な人間監視ルールで制限する。

ヒューマン・ライツ・ウォッチによれば、最終文書はかなり水で薄められたが、米国とロシアは拘束力のある交渉に反対している。しかし、現在76ヵ国が法的拘束力のある文書を支持しているため、某特定通常武器条約の11月レビュー会議が、公式交渉の開始への決定的な試金石となるだろう。

「AIシステムは、人間が見過ごされる失敗に対して責任を負うことを変えるわけではないが、それが透明でないため、人間が見過ごされる責任感を持たいない可能性がある。力の行使に対する意欲をより強める」と、ロンドンのクイーンメアリー大学の政治理論教授で「デスマシン：暴力技術の倫理」著者であるエルケ・シュワルツ氏はアラブニュースに語った。

「AI対応システムが使用されることによる合理的な否定可能性は、基本的に不可視の地帯で操作しているため存在する」

イスラエルはこれまでの最も明確な例を提供している。イスラエル誌の+972がラベンダーシステムについて報じたとき、AIが単にアナリストを支援するだけでなく、実行するターゲットリストを生成することを示したことにより、騒動を引き起こした。システムのスケール、90％の精度とされるその性能、人々の家に対する使用は、人的コントロールが失われつつあり、大規模な暴力がより迅速で、非人間的、責任の所在が曖昧になるとの恐れを呼び起こした。

これは、これまでの殴り合いの歴史には見られなかったパラダイムシフトであり、シュワルツ氏が述べたように、人々の暴力との関係を再構築し、戦争における倫理的行動の既成概念を挑戦する。

彼女は、AI対応の兵器システムが人間のターゲットを客体化し、付帯的被害に対する許容度を引き上げ、また、自動化のバイアスと技術の媒介が操作者の倫理的な能力を弱め、倫理的判断能力を低下させると主張する。

「機械は戦争において人間よりも優れていることはありません。なぜなら、機械は戦争の意味、何が含まれるのか、どんな苦しみを伴うのかを理解していないからです」と彼女は言う。

「彼らは人間が決定した行動に貢献するか、良いか悪いかでしかない。私の見解では、AI対応システムは人間に力を行使させるのを抑制しません、むしろ抑制しません」

「人間がパラメーターを決定します。もし抑制の少ないシステムを設計したいと思ったら、それを実行できます。それがより効果的と認識される場合、ステムは意味を形成する倫理的決定のためのモラルの意味を持たないため、人間よりも'優れた'モラルの主体となることはありません。AIシステムがあっても人間が戦場から消えることはありませんが、AIシステムは人間が暴力との関係を持つ方法を変えます。それが戦争を悪化させる」

増えつつある告発者や専門家が警告するように、チェックされないスーパーインテリジェンスAIへの競争は、それを作った人間自身に対して実際にリスクをもたらす可能性がある。

シュワルツ氏にとって、AI「終末の日」はもはや荒唐無稽な空想科学ではない。

「私はすでにAI対応の兵器システムのせいで恐ろしい人的犠牲が目撃されていると思っています。」と彼女は述べた。

「戦争へのAIシステムの導入は、少なくとも、より多くの抑制、より多くの全球的安定、対立の減少、殺されるまたは害される民間人の減少にはつながっていません。むしろそうではありません。子供たちは驚くべき速度で戦争のせいで死んでいます。私の考えでは、これは確かに終末型の状況です。」

AIと核軍拡競争の間の比較が日増しに鋭くなる中、その議論はペトロフに戻り、おどろおどろしい質問に到達する：アルゴリズムが同じ抑制を見せたであろうか？

「我々はもちろんあらゆる恐ろしいシナリオを思い浮かべることができる、たとえば、誰かがAIエージェントを核意思決定の責任者にすることを決め（それは馬鹿げているがありえないとも言えない）、データの問題で核脅威のスパイラルになるかもしれない。しかし私は既に十分に恐ろしい状況であると思う。というのも技術と非人間化が共に手を組んでいるからだ。」

AnthropicのClaudeが、同様の注意を示す。「今日の実際の軍事AIリスクは、音もしないようなものであることは本当に議論されていない：悪いターゲティングデータ、自動化バイアス、外交が反応するよりも早く発生するエスカレーション、安全文化をまったく持たないアクターにシステムが広がる。『ロボットが我々を裏切ることを決める』というフレーミングは、そこから焦点を移し、悪化をする可能性すらある。」

全く正しい。それは人間がよく理解すべきである。