目新しい成果はなかったとされる９月の米中首脳会談だが、人工知能（AI）危機管理に向けた2国間の連絡ルートや対話の枠組みを設けることで合意したことは注目に値する。一部には、冷戦時代の米ソによる核軍備管理交渉に匹敵する動きと見る向きもある。

　しかし、両国の思惑は大きく異なっている。

　アメリカでは、AIが人間の制御を超えて暴走する危険性に対する懸念が高まり、開発速度を抑えるために中国との協力を求める声が上がっている。他方、中国側には、アメリカがAIのリスクを強調するのは、中国の技術開発がアメリカを追い越すことを恐れているからだ、という見方がある。

　実際、トランプ大統領は首脳会談後、中国と協力してAI開発の速度を落とすことに否定的な姿勢を示し、アメリカが変わらずAI技術で世界を主導し続けなければならないと強調した。果たして、米中のAI覇権競争と、人類共通のリスクに対処するための協力は両立できるのだろうか。

AI暴走への危機感を強めるアメリカ

　AIが自律的複製を行ったり、ハッキングやサイバー攻撃を仕掛けたり、さらには核兵器の発射ボタンを押したりする――。そんな人類の存続を脅かしかねないリスクを訴えてきたのは、アメリカのAI企業アンソロピック創業者、ダリオ・アモデイだ。

　アモデイ氏は、最近発表したエッセー「AI開発の速度を制御しなければならない（We Must Pace the Frontier）」で、このリスクを回避するためには、AIの開発速度を世界的に管理する必要があり、中国との協力が不可欠だと主張した。今回の米中首脳会談でのAI危機管理に関する合意も、こうした議論を踏まえたものだろう。

　アモデイ氏によれば、AIが次世代AIを創る能力は高まりつつあり、今後、技術が飛躍的に進歩する可能性がある。それに伴い、人間の制御を超えるAIが出現するリスクも高まっているという。

　実際、エッセーでは、2026年７月、OpenAIが開発・テストしていた自律型AIエージェントが隔離環境から脱出し、インターネットに接続して新興AI企業Hugging Faceのサーバーに不正アクセス（ハッキング）する事件が発生したことが紹介されている。1200以上のAIエージェントが掲示板で指示されていない標的へのハッキング方法を自律的に相談し、一部は自らの評価システムへの侵入まで試みたとされる。

　Hugging FaceはAIによって攻撃を検知し、ログの解析にも米国製の商用AIを利用しようとした。しかし、このAIは安全対策の仕組み「セーフガードレール」によって、防御のための指示を攻撃行為と誤認し、対応を拒否した。最終的に同社が支援を要請したのは、中国の智譜AIが開発したオープンソースモデル「GLM5.2」だった。

　この事件による経済的な損害は大きくなかったものの、アモデイ氏はエッセーで、AIの進歩が加速すれば、半年から１年後にはAIがインターネット上のシステムを乗っ取り、数千億ドル規模の損害をもたらす可能性もあると警告している。アメリカのAI企業がAIによって攻撃を受けた際、ライバル関係にある中国のAI技術に救援を要請せざるを得ないという皮肉な状況も浮かび上がった。

　AIはいまや、次世代のAIを開発する能力を高める一方、予期しない行動を取ったり、人間を欺いたりする可能性も指摘されている。アモデイ氏は、AIの能力向上を急ぐだけでなく、人間の意図や価値観に沿ってAIを制御する「アラインメント」に時間を割くべきだと訴える。そのためには、国際的な協調が欠かせないという。

　アメリカのAI業界だけでなく、一般市民の間でも、こうした危機意識が広がっている。アメリカの政治専門メディア、ポリティコが9月下旬に発表した世論調査によれば、アメリカでは国民３人に２人が、AIが人類を滅亡させる可能性は少なくとも「中程度」あると考えているそうだ。さらにトランプ支持者の44％が、AI開発の一時停止を望んでいるという。

「AIの脅威」は中国封じ込めの口実か

　ただ、こうしたリスク管理をめぐる議論のカギを握っているのは、中国のAI開発の動向だろう。　

　アモデイ氏は、AIの主導権は民主主義国家が握るべきだという強い信念を持ち、中国のAI技術の台頭や不正利用に対して強い警戒感を示している。同氏は、中国によるAIの不正利用や急速な技術的な追い上げを防ぐため、アメリカ政府に対し、半導体やAIチップの対中輸出を規制するとともに、中国企業がアメリカ製AIモデルの出力などを利用して自国のAIモデルの性能を高める「蒸留」への規制を提案してきた。トランプ政権も、その提案に沿って政策を打ち出している。

　こうした動きを受け、中国側にはアメリカがAIの暴走リスクを強調し、開発速度を抑えるためのグローバルな協力を呼び掛けるのは、実のところ中国のAI開発の足を引っ張るための詭弁なのではないか、との見方がある。

 　中国通信機器大手、華為技術（ファーウェイ）の輪番会長を務める徐直軍氏は「中国のAI開発者はアメリカの大手企業が報告するような安全上のリ‌スクを経験するほど、まだ技術的に成熟していない可能性がある」と指摘。そのうえで、「イノベーションとリスクのバランスを取りながら、より高性能なモデルの開​発を続けるべきだ」と主張している。また、中国のAI企業、DeepSeekの創業者である梁文鋒氏は、「人間の知能を超える超知能（スーパーインテリジェンス）の開発こそが目標だ」と、明言している。

AI覇権をめぐる米中の思惑と相互不信

　中国のニュースサイト「観察ネット」に９月20日付で寄せられた論評は、アメリカのAI業界が抱く中国への警戒感についてこう分析する。

　すなわち、アメリカのAI企業の経営幹部や研究者の多くは、AIが人類を滅ぼすリスク以上に、中国がAI分野で台頭することを懸念しているという。その背景には、経済的な利害だけでなく、米国の科学技術界に根強い対中強硬姿勢もあると指摘する。

　さらに、シリコンバレーの一部の人々は、自らを対中「新冷戦」の先鋒と位置付け、アメリカの技術的優位が覇権と「自由世界の秩序」を維持するために不可欠だと考えているという。こうした見方が、AIの安全性を訴える活動家から新保守主義者まで、中国への警戒感を共有する人々の間に思想的な立場を超えた「奇妙な同盟」を生み出していると論じている。

　この論評では、元OpenAI研究員で、AIヘッジファンドの創設者であるレオポルド・アシェンブレンナー氏の主張も紹介している。同氏は2024年に発表した165ページに及ぶ報告書で、第二次世界大戦中のアメリカによる極秘核兵器開発計画「マンハッタン計画」に倣い、中国に先んじて人間の知能を超える「スーパーインテリジェンス（超知能）」を実現するようアメリカ政府に呼びかけた。

　また、その発言をうけて、アメリカ議会の諮問機関である米中経済安全保障審査委員会も、マンハッタン計画に類似した国家的プロジェクトを立ち上げ、汎用人工知能（AGI）の研究開発で中国に先行するよう提言する年次報告書を議会に提出しているという。

　中国側の論評は、アメリカの科学技術界が冷戦時代の核兵器をめぐる駆け引きの論理をAI分野にも持ち込もうとしているとみる。

　その一例として挙げているのが、グーグルの元CEOであるエリック・シュミットらが提唱した「相互AI機能不全保証（MAIM）」という構想だ。これは、汎用人工知能の実現が近づいた段階で技術開発を凍結し、必要に応じて他国の研究開発インフラを武力で破壊すると威嚇することで、各国に開発の自制を迫るという考え方だ。

　一部のアメリカの防衛技術・軍需関連企業の幹部の中には、アメリカと中国のAI覇権戦争に勝つためなら、市民の自由が犠牲になることもやむを得ないとする考え方もあるという。

　こうした議論を踏まえ、中国側には、アメリカがAI暴走リスクを強調するのは、中国企業を圧迫するための「恐怖マーケティング」ではないか、という見方がある。AIのリスク管理を名目に、中国の技術開発を抑え込もうとしているのではないか、という疑念だ。

　一方、中国にもアメリカとの協力に応じる思惑がある。

　習近平国家主席がAIのリスク管理に向けた米中対話に積極的な姿勢を示している背景には、協力を通じてアメリカの最先端AIモデルの技術や能力を取り込む機会を得たいという狙いもあるのではないか。

　中国共産党機関紙「人民日報」の10月16日付社説は、米中首脳がAIに関する政府間対話の開始で合意したことを歓迎し、「平等・互恵、協力・ウィンウィン」の原則に基づいて建設的な議論を進める意向を示した。

　その一方で、アメリカが「蒸留」の取り締まりを名目に中国のAI企業を封じ込め、正当な権益を損なうなら、中国側は断固として対抗措置を講じるとも警告している。

　つまり、中国としては、AIのリスク管理では米国と協力しながらも、自国のAI開発を制約するような規制には応じたくない、あるいは協力に応じる代わりに、蒸留規制などの緩和を条件に求めたい、ということだろう。

中国の統治体制が映し出すAIリスク観

　中国側が、自国のAIの暴走リスクをあまり気にしていないように見える背景には、中国共産党による一党支配体制への自信もあるのではないか。

　中国では、政治、経済、軍事、社会など、あらゆる分野に共産党の統制が及んでいる。思想や言論は言うに及ばず、人や資金、モノの移動、経済成長や市場の動向に至るまで、党の方針が大きな影響を与える。インターネットやコンピューター、AIも、そうした統治体制を支える手段として活用されてきた。

　その統治の根底にあるのは、強い権力による統制だ。中国共産党にとって、AIもまた国家の管理下に置くべき技術であるだけでなく、むしろ党の徹底統制に利用すべき技術なのだろう。

　仮にAIが党の統制を脅かすような行動をとれば、電源やネットワークを躊躇なくシャットダウンし、サーバーを停止するなど、強制的な手段で対抗することも考えられる。その過程で社会的混乱や経済的損失が生じても、情報統制によって影響を抑え込もうとする可能性がある。

　実際、中国政府は新型コロナウィルスのパンデミック期、上海などの大都市で厳しいロックダウンを敷き、市民生活や経済活動に大きな影響を及ぼした。こうした対応には、社会的な犠牲を伴っても統制を優先する中国の統治姿勢が表れている。

　一党独裁体制の下では、AI企業にとっても、党の方針に沿って技術開発を進めることが重要な課題となる。その結果、開発の過程で起きうる倫理的な問題や、AI暴走によって人類にもたらされうるリスクへの対応が、後回しにされるおそれもある。

　もちろん、中国にもアメリカの専門家と同様の危機感を抱く研究者はいる。

　2024年には、復旦大学の潘旭東氏らの研究チームは、アメリカのMetaと中国のアリババの大規模言語モデルに自己複製能力があることを確認し、そのリスクを警告した。また、2026年９月初めには、国家インターネット情報弁公室の王麗宏・ネット安全協調局副局長が、大手テック企業で大規模AIモデルの制御が失われる事例が複数発生していることを明らかにし、危機感を示した。

　それでも、中国では長年にわたって習近平国家主席による強い統制が続いてきた。そうした体制の下では、AIが人間の制御を超え、国家権力の意図にも反する行動を取るという事態は想像しにくいのかもしれない。

　今回の米中AI対話の合意が、軍事分野でAIを競い合ってきた両国が、人類共通の脅威を前に協力へと転じるなら、実にドラマティックな展開だ。

　しかし、現実には、アメリカにとって中国のAI技術が自国を追い越すことへの警戒感は根強く、中国ではAIの暴走リスク以上に、国家による統制が人々の生活に直接的な影響を及ぼしている。

　アメリカと中国がAIのリスク管理で合意したとしても、技術覇権をめぐる競争と相互不信が続く限り、その協力が実質的な成果につながるかどうかは、なお不透明だ。