AI Edit : 2026.03.04 Update : 2026.03.04

OpenAIが米政府の軍事利用の契約を締結。懸念点やリスクを紐解いてみる。

以下のポストはざっくり言うと、「OpenAIが米政府の軍事・機密ネットワーク内で自社AIを使えるようにする契約を結んだ」という内容で、サム・アルトマン本人の投稿です。
個人的にはめっちゃ悲しいニュースでした。

Tonight, we reached an agreement with the Department of War to deploy our models in their classified network.

In all of our interactions, the DoW displayed a deep respect for safety and a desire to partner to achieve the best possible outcome.

AI safety and wide distribution of…
— Sam Altman (@sama) February 28, 2026

Contents

要点をざっくり解説
「責任と判断」の臨界点
6つのリスク
AI軍拡における「囚人のジレンマ」
「4つの防波堤」と戦略的対策
まとめ

要点をざっくり解説

この文章のニュアンスを一言でいうと、「軍事利用の契約はした。でも監視や自律兵器には歯止めを入れた上でやっている」とOpenAI側が世論向けに説明している、という感じです。

domestic mass surveillance

国内での大規模監視には使わない、という線引きを入れている、という主張です。

human responsibility for the use of force

武力行使の最終責任は人間が持つ、つまりAIが勝手に殺傷判断する完全自律兵器はダメ、という建前を強調しています。

technical safeguards

モデルが危ない挙動をしないよう、技術的な制限や監視機構も入れるという意味。

「責任と判断」の臨界点

AIの軍事利用で本当に怖いのは「SFっぽい自律兵器」ではありません。むしろ危険なのは、AIが意思決定の速度を上げ、人間の責任を曖昧にし、誤認や過剰反応を制度的に増幅することです。
ICRC（赤十字国際委員会）は、予測不能な自律兵器や、人を標的に力を行使する兵器を禁止・厳格規制すべきだと主張しています。
NATOも、AI防衛利用では「適法性」「責任と説明可能性」「信頼性」「統治可能性」「バイアス低減」などを原則に置いています。つまり、主要機関ですら「便利だから使う」話ではないと見解を出しています。

6つのリスク

1. 責任の所在が「霧散」するリスク

AIが攻撃を提案するプロセスに関与すると、誤爆や国際法違反が起きた際の責任追及が極めて困難になります。

責任の空白：指揮官、開発者、演算担当者、アルゴリズムを提供したベンダー。誰が「引き金を引いた」と言えるのかが曖昧になります。
人道的課題：武力行使の法的・道徳的責任を負えるのは「人間」のみです。システムが自律化するほど、この根幹が揺らぎます。

2. 「ノイズ」と「法的判断」の混同

戦場は不確定要素（ノイズ）の塊です。AIはデータから「推定」を行いますが、それは「法的・倫理的判断」とは根本的に異なります。

識別不能：偽装した戦闘員、避難民、通信が途絶した民間人。学習データ外の複雑な状況下では、AIの「高精度な推定」が致命的な誤認を招きます。

3. 「自動化バイアス」による人間主権の喪失

いくら「最終判断は人間が行う」というルールがあっても、実態はAIに支配される危険があります。

追認機関化：秒単位で大量に繰り出されるAIの提案に対し、人間が一つひとつ吟味することは物理的に不可能です。結果として、人間はAIの判断を「承認するだけのハンコ押し」に陥ります。これを自動化バイアスと呼びます。

4. 「意思決定の超高速化」が生む連鎖的エスカレーション

AIの最大の利点である「速度」が、危機下では最大の弱点になります。

フラッシュ・ウォー（閃光戦争）：人間の介在しない速度でAI同士が反応し合うことで、意図しない衝突や報復の連鎖が起き、一気に核リスクまでエスカレートする「計算違い」のリスクが高まります。

5. 脆弱性：AI特有の「だまされ方」

AIは従来の兵器とは異なる、特有の脆弱性を持っています。

敵対的操作：センサーへの欺瞞工作や学習データの汚染（ポイズニング）により、平時は高精度なAIが、有事には「確信を持って誤作動」する装置に豹変します。軍事において、精度以上に重要なのは「攻撃に対する堅牢性」です。

6. 監視と弾圧への転用（ミッション・クリープ）

軍事技術は容易に国内の治安維持や国境管理に転用されます。

抑圧のインフラ：AIによる個人の識別・追跡技術は、そのまま大量監視や政治的抑圧のツールとなり得ます。軍事利用は「対外的な防衛」に留まらず、市民権を脅かす内政問題に直結しています。

AI軍拡における「囚人のジレンマ」

なぜAIの軍事利用は止められないのでしょうか。そこには「囚人のジレンマ」が存在します。「相手が持つなら、自分も持たないと詰む」という恐怖が、軍拡のアクセルを全開にしてしまう。核兵器の歴史と重なる部分も多いですが、AIには核とは違うさらに厄介な性質があります。

なぜAIは核兵器より「止めにくい」のか？

核兵器はある程度「封じ込め」に成功しました。しかし、AIは以下の理由で制御が格段に難しいです。

両義性（デュアルユース）：自動運転技術と自動追跡兵器の技術は紙一重であり、技術そのものを禁止できません。
隠匿性：核施設は衛星で見えますが、軍事AIのコードは外部から検知できず、検証が不可能です。
低コスト：核開発のような巨大施設は不要。数人のエンジニアとサーバーがあれば、小国や組織でも開発できてしまいます。

「4つの防波堤」と戦略的対策

「もう止められない」と諦めるのではなく、「どうにかして暴走のガードレールを敷く」方向で世界は動いています。

1. 実質的な関与の担保

形式的な承認ではなく、人間が文脈を理解し責任を持てる体制。
対策：「意味のある人間の関与（MHC）」の国際義務化。

2. 聖域の設定

標的選定・攻撃判断・核運用領域からのAI排除。
対策：大国間での「核のボタンにAIを関与させない」レッドラインの合意。

3. 検証可能性の義務化

第三者監査、ログ保存、アルゴリズムの透明性確保。
対策：AIによる「AIの監視（デジタル査察）」技術の開発と導入。

4. レッドラインの明示

完全自律兵器や国内監視への転用を明確に禁止。
対策：非道徳的利用を「国際的な恥」とし、政治・経済的コストを最大化する枠組み。

まとめ

私たちができる、あるいは目指すべきなのは「AIを禁止する」ことではなく、「AIをコントロール下におくコストを、使うメリットより高くすること」。
また、化学兵器がタブーになったように、AIの非人道的な利用を「割に合わない選択」にする政治的枠組みや、企業のエンジニアが「軍事利用されるコードは書かない」というボトムアップの動き（GoogleのProject Mavenへの抗議運動などが前例です）や、契約したAIを市民が解約し別のAIへ乗り換える動きも実は抑止になります。

追記：アメリカではこの件で、デモや解約運動がおき、内容の修正が検討されました。