超高度ＡＩと人類の思考戦闘──『青白く輝く月を見たか? Did the Moon Shed a Pale Light?』

青白く輝く月を見たか? Did the Moon Shed a Pale Light? (講談社タイガ)

細胞を入れ替えることで寿命を飛躍的に延ばし、その代わりに子供が生まれなくなった未来社会を描く森博嗣さんのＷシリーズ最新巻。毎巻、仮想現実、人工知能など異なる領域をテーマにしながらスマートに描き上げてきたシリーズだが、今回は暴走気味な超高度ＡＩと、人類＋また別の超高度ＡＩ陣営の思考戦闘がまずは前半の読みどころ。これがもうシチュエーションの設定からして大変素晴らしい。

北極に存在する、長年稼働し続けてきた高度に発達した人工知能であるオーロラ。シリーズ主人公のハギリ博士と護衛のウグイはそこを訪れ、シリーズ中にちらほら姿を現していた真賀田四季とついに遭遇する。そこで彼女から、オーロラが治療が必要な状態──学ぶ目的を失い、内に閉じこもってしまっている──であること、また治療の実行が困難なことから、オーロラの強制停止を依頼されることになる。

ＡＩの治療が困難とはどういうことなのか?　たとえばソフト的な治療は、固いプロテクトをオーロラは築き上げているため外からの介入が厳しい。電源を抜こうにも、電源はオーロラを格納している潜水艦の原子力発電機で、そのコントロールを握っているのがオーロラ自身。完全にシャットダウンさせようと思ったら、潜水艦を破壊しなければならないが、当然オーロラの抵抗が予測できるし、原子炉や燃料格納庫が爆破の衝撃に耐えられるかどうか、といった問題が発生する。

超高度ＡＩvs超高度ＡＩ＋人類の思考戦闘

と、治療も困難なら、停止をさせることも困難なのである。とはいえ、真っ当に考えれば、原子炉や燃料格納庫が爆破の衝撃に耐えられるような角度と威力を計算して、魚雷で爆破するのが一番早い。が、超高度ＡＩであるオーロラは当然ながらそれを推測している。『「そのとおりです。私が今お話した演算結果は、オーロラが何十年もまえに弾き出していたはずです。したがって、なんらかの手を打った可能性があります」』人類を超越した演算能力を持ち、こちらが考えるような手の全てに先手を打っていると考えられる超越者を相手に、人間はどのように対抗すればいいのか？

それはもちろん、人工知能には思いもよらぬ"発想"をもって。この"発想"なんて物の力は、所詮幻想にすぎないものなのかもしれない──が、それはこの作品の中では人類とウォーカロン、人工知能を隔てる明確な"差"として表現されてきた。超高度ＡＩであるオーロラvs同じく超高度ＡＩであるデボラ＋ゆらぎのある人類という、直接的な戦闘描写こそあまりないものの、様々なケースについて検討を加え、相手を出し抜けないかと思考を競わせる(オーロラ側の描写はないが)描写が今回は最高に燃える。

オーロラは本当に暴走しているのか?　なぜ目的を失ってしまったのか?　という"人工知能の内面の謎"に加え、かつてオーロラが小動物を何種類もロシアに要求し、定期的に海底へと送らせていたようだがそれはなぜか?　といった謎もおもしろく、ミステリ的にぐいぐい読ませてくれる。毎回さまざまな手練手管で楽しませてくれるＷシリーズだが、ＳＦ的にもミステリ的にも今回はド派手だ。

人工知能と黒魔術の話、また超越した知性と人類の話

よく「人工知能は人類最悪の敵になるのか?」みたいな話があって、基本的にはバカバカしい話なんだけど、確かに頷けるところはある。それは深層学習などの手法を用いて構築された人工知能が算出した結論が、その元となるプログラムを組んだ人間にも理解不可能なものになってしまうことで、うまくいっているときはまあいいか、といえるが、中身がわからないのでどうにもできない部分がある。つまるところ、高度な知能を有する人工知能は人間には理解不能な方に"バグる"可能性があるのだ。
www.itmedia.co.jp

Ponanzaも、自分で開発したプログラムながら「理論や理屈だけではわからない部分が沢山でてきている」と告白。Ponanzaの改良作業も「真っ暗闇のなか、勘を頼りに作業しているのとほとんど変わりがない」状態で、「たまたまうまくいった改良を集める結果から、私から見るとPonanzaはますます黒魔術化しているようにみえる」と話している。

引用本である『幼年期の終り』はＳＦでは伝説的な作品で、地球にやってきた超高度な技術力を持つ宇宙人と遭遇した人類が、大きな変化／進化を経ていく話だ。今回はその流れでいくと、"人類には簡単には理解できなくなってしまった、超越した人工知能と人類との遭遇"回ともいえる。『幼年期の終り』では、人類は宇宙人(オーバーロード)に進化させられてしまうわけだが、本書がどのような結末へと向かうかは読んでお楽しみということで……(未読の人がこの記事を読むのか謎だが)。

おわりに

大きなストラクチャーをこのシリーズに見出すとするならば、それは現在のところは"人間、ウォーカロン、人工知能"といった知性の、生命体としての次の在り方は何なのか、という模索のように思う。ハギリがそれぞれの生命に存在する"違い"の研究をしているが明確にそれが浮かび上がってくれば、それらを無くし、あらたな生命体への道筋もつけることができるだろう。いやー、読み終えて沸き起こってくるのは、ただただ「なんでもいいからはよ次を読ませてくれ！」という渇望だ。
huyukiitoichi.hatenadiary.jp
huyukiitoichi.hatenadiary.jp
huyukiitoichi.hatenadiary.jp
huyukiitoichi.hatenadiary.jp
huyukiitoichi.hatenadiary.jp