AIの時代にどの国が軍事、経済、政治力で強みを握るかをもっと理解するには、データ、計算、人材、機構という四つの重要な領域をさらに深く掘り下げる必要がある。
著者はもともと米海軍のレインジャー部隊員としてイラクとアフガニスタンに出征。狙撃兵などとして活躍した後、2008〜13年まで米国防総省(ペンタゴン)で自律型兵器に関する法的・倫理的課題と政策を研究していた人物だ。ようは軍事と国防関連の知識が豊富な軍事アナリストで、本書にはその知識や経験が存分に活かされている。
近年生成系AIは飛躍的な進歩を遂げ、GPT-4だ、Claude3と新しいものが次々と出てきている。僕もプログラミングや原稿時にClaude3とやりとりするのが当たり前になっていて、手放すことができないツールになりつつある。一方こうした技術は生活を便利にするだけでなく、数々の問題──AIの監視社会への応用、学習にあたっての権利問題、軍事利用──も生み出すきっかけになる。各国の投資がAIに向けて加熱しつつある今、この流れが行き着いた先には何が起こり得るのか。本書はそうした、「地政学的な争いの中心になりつつあるAI」の現状を丁寧に紐解いてくれる一冊だ。
なぜこの4つが重要なのか？
データ、計算、人材、機構が重要だと最初に引用で示したが、なぜこれらが重要なのか最初に紹介しておこう。まず機械学習ではどれだけのデータを学習させられるかが重要だから、データが重要なことには異論がないだろう。続いてどれだけデータがあってもその訓練には計算資源を使うから、計算するためのハードウェアも重要だ。
『最先端の機械学習研究プロジェクトに必要とされるコンピュートの量は、二〇一〇年から二〇二二年にかけて、一〇〇億倍に増えた。コンピュート使用量は急速に増加し、六ヶ月ごとに倍になった。』(p.54)というように、AIに用いるための計算資源の需要は増大を続けていて、これは半導体をめぐる争いとして地政学的にも関係してくる。中国は世界の半導体需要の60％を占めるが、国内で製造できる量はわずかで、その大半(年間4000億ドルほど)を輸入に頼っている。これは当然中国の安全保障を脆弱にしていて、アメリカと中国の争いが激しくなるにつれて、アメリカはAI半導体の輸出規制を拡大するなど、明確にその弱みを狙い撃ちにする行動をとっている。
計算資源やデータがいくらあっても、それを活用する人間がいなければ発展は見込めない。そのため、各国はAI科学者の確保にコストを投下している。博士号を得たばかりの研究者が、給与とストックオプションで年間30万〜50万ドルを稼ぐのだ。最後の「機構」はそれだけではわかりづらいが、経済・軍事・政治など「AIを活用する場所」のことをざっくりと指している。AIにコストをかけてその機能を増大させるのと同じぐらい重要なのは「それを活用する場」を整えることで、ここでは特に政府や軍隊のような場所にAIを積極的に活用することが民主主義国家ではいかに難しいのか。また独裁主義政権ではそれがいかに容易かといった対比が語られている。
中国の監視体制に用いられるAI
本書で繰り返される問題提起のひとつは、「AIの力を人権侵害に用いる中国のような国に、他の民主主義国はどう対抗すべきなのか」という問いだ。たとえば中国では顔認識システムに「ウイグル族と非ウイグル族を見分ける」機能を搭載しようとしている。実際にファーウェイ、メグビーなどの企業がウイグル族を検出する技術の特許を申請済みなのだ。現状の技術では特定の民族を検出することは簡単ではない(信頼性が低い)が、少なくとも中国ではこのシステムが東部の多数の都市で使用されている。
恐ろしいのは、中国がそうしたシステムや大衆を誘導・管理する技術を自国内で活用するだけでなく他所に輸出していることだ。人権団体のフリーダム・ハウスによれば、サイバースペースと情報政策について中国はエジプト、ヨルダン、レバノン、サウジアラビア、アラブ首長国連邦など30を超える国に訓練とセミナー──その中には”世論を誘導する方法”も含まれている──を行っている。コーネル大学のジェシカ・チェン・ワイス教授によれば、中国政府の外交政策の目標は「独裁主義にとって安全な世界」を創り上げて中国共産党の権力を確固たるものにすることなのだという。
中国は弾圧・監視にAIを活用する手法を推し進めているが、民主主義国はデータの取り扱い(どこまで監視システムへの利用が許されるのか、またデータの権利はどこまで守られるべきなのか)についての取り決めはいまだ混乱の中にある。独裁主義政権と比べ民主主義の良いところは誰もがこれについて議論をすることで長期的には利益のバランスがとれた政策ができる可能性が高いところにあるが、迅速さでは劣る。
AIがより戦争に導入されることで戦争は変わるのか？
おもしろかったのが、AIがより戦争に導入されることで戦争は変わるのか？ という問いかけだ。結論からいえば、戦争は本質から変わるのかもしれない。その一例として、本書では多人数対戦ゲームでのAIと人間の戦いを挙げている。たとえばDota2はMOBAと呼ばれるジャンルの5vs5の多人数対戦ゲームで、プレイヤーはゲームがはじまると持ち場に向かってバラけて、最初そのポジションはあまり入れ替わらない。
しかし訓練を施しプロプレイヤーと戦った5つのAIエージェントはキャラクタのポジションを人間よりも頻繁に入れ替え、攻め続けたという。囲碁や将棋でも人間は到底打たない手をAIは打つことがあるが、現実の戦争でも戦術立案や意思決定をAIに任せたら、人間が思いもよらぬ動きを提案してくるかもしれない。前線に出るのがほぼAIだけになったらどうなるだろう。人間の戦闘部隊は士気や団結心に左右されるが、AIの場合は感情や精神的な負担が存在しないので、「膨大な弾を浴びせて防衛側の士気を下げる」といった戦場にあった数々の概念が存在しなくなる。
また、通常陸軍の分隊は7人ないし14人から成るが、これは人間が混乱なくやり取りできる限界があるからだ。しかしAIシステムならこの限界は容易に突破できる。
軍のフォーメーションが有利な位置を占めるために機動を行うというやり方に代わって、異種のユニット数千個が戦場に散開してから集結して攻撃する群生行動が、軍事作戦の主力モードになるかもしれない。p.407
これが当たり前になったら分隊、小隊、中隊といった既存の組織構造も消えるだろう。中国の軍事学者の論文(人工知能──創造的破壊、”ゲームのルール”を変える)では、人工知能と人間のテクノロジーが進歩するにつれ戦場では戦闘のペースが加速して”シンギュラリティ”*1に達するだろう、としている。ようは、戦闘は加速しすぎてもはや人間は対応できなくなり、意思決定をAIに譲るようになるということだ。
おわりに
もしこんなことが実際に起こるようなら、その時戦争は本質的に異なるものになっている。本当にAIがそこまでの力を発揮するのかは、少なくとも現在の技術を単純に延長しただけではそこまでのことはできないからなんともいえないところではある。
だが、次のブレークスルーがいつ起こってもおかしくはない。
ロシアのプーチンはAI分野でリーダーになるものは世界の支配者になるだろうと語ったが、その覇権を握るのはどこの国なのか。民主主義国か独裁主義国家かで、未来の行く末も大きく変わる。本書では軍隊にAIを本格的に導入するのが現状難しい理由についてなど(信頼性の問題や組織の意思決定のスピード感の問題、脆弱性などその理由は多岐にわたる)幅広いトピックが豊富なデータや取材をもとに紹介されているので、AIについて知りたい人はもちろん、未来について考えたい人にもおすすめしたい。
huyukiitoichi.hatenadiary.jp
著者の前作も読んでなければおすすめ！
*1:本来のシンギュラリティ、技術的特異点の意味とはたぶん意味が異なると思われる。ブログ筆者注
