シンギュラリティ神話への警鐘──『そろそろ、人工知能の真実を話そう』

そろそろ、人工知能の真実を話そう

技術的特異点(シンギュラリティ)という概念がある。簡単に言ってしまえば人工知能などの知性が人間を超えた時、そいつらが人間を超えた速度でまた技術を加速させ、それがまた変化を加速させるので、あるポイントを超えたらあっという間にわけがわからないぐらい科学は進化し我々の目の前に広がる状況は一変するという話である。

たとえば人間は意識をアップロードして事実上の不死を獲得して環境の改変、宇宙への旅立ち、身体の改造などなんでもござれの状況になるとされている。で、日本人の多くは「そんなことあったらいいっすねハハハ」ぐらいの冗談半分の物なんじゃないのかなと時折ニュースを読む限りでは思うが、これについて結構本気で信じている人たちもいる。ホーキングは時折人工知能の進展がもたらす制御不可能性について述べているし、Googleはシンギュラリティ提唱者筆頭のレイ・カーツワイルを雇っているし、多くの科学者がシンギュラリティに対して意見を述べている。

シンギュラリティが人類に悲劇的な結末をもたらすだろうという人もいれば、楽観的にすべてがよくなるんだ、と語る人もいる。で、本書はそうしたシンギュラリティがを悲観的にしろ楽観的にしろ「到来する」という主張に対して、「もっとよく考えろや、シンギュラリティなんかちゃんとした理屈もなければ、再現性の確証もとれるはずのない、ただの夢物語やんけ！」と批判してみせる一冊だ。

こんなことを真面目にいわないといけないなんて大変だなあ

僕は正直、これを読んで「今さらこんなことを真面目に言わないといけないなんて大変だなあ」と思ってしまった。シンギュラリティに科学的な妥当性がないなんて明らかだし(というより、シンギュラリティは「人類にはまるで予測も理解もできないことが起こる地点」とほとんど同義であって、事前にその実現に関して科学的な妥当性が存在する方がおかしいともいえるがそれはそれ)、そんなことをわざわざ本を書いてまで言わないといけないなんて馬鹿げているんじゃないの、とさえ思う。

でも馬鹿げていることであっても言わないといけないほど、シンギュラリティ提唱者たちの意見が大きく、本当に信じている人たちが多いのだろうし、本書ではあいつもこいつもシンギュラリティ提唱者だ！　と何人もの科学者や起業家の名前があげられている。そして、著者が危惧しているのは影響力の多い彼らが特に妥当性のない「物語」を語ることによって、科学について特に詳しくない市民への根拠のない恐怖だったり楽観だったりを引き起こしていることについてなのだろう。

さて、そういうわけで本書は無根拠なシンギュラリティ仮説を批判するために、ムーアの法則は観察による結果から法則を導き出しているだけで大雑把で普遍性はないし、カーツワイルたちが主張していることも科学の研究対象にはなりえないよ、と丁寧に説明していく。この部分は、シンギュラリティという物語に対して荒唐無稽だといっているだけなのでおもしろくもなければ長くなりようもない。グノーシス主義とシンギュラリティ仮説の類似性をあげたり、なぜグローバルIT企業のトップがシンギュラリティに言及するのかといったエッセイを書いたりしているが、それでも合計で171ページしかないし、それ以上長く書いても仕方ないだろう。

グローバルIT企業のトップがシンギュラリティに言及する意味として本書で語られている内容はよく聞くものだが、うーん。そうかもしれないしそうじゃないかもしれないね……以外の感想が出てこない。また、シンギュラリティ提唱者の多くは科学的妥当性の元にそれを信じたり言ったりしているのではなく、基本的に魅力的かつ、未来にこうなったらいいな……という夢物語として言っているだけなんじゃないのとしか思えない部分もあり、本書の批判にどれだけの意味があるのかもよくわからないな。

いろいろな意味でおもしろい一冊だったが、内容がというよりかは「こんなことを大真面目にいわないといけない状況なんだなあ」とひしひしと実感できるのが良い。もちろんシンギュラリティって科学的な妥当性のある概念じゃないんだ！ と驚いた人は読んだ方がいいだろう。