意図的なSNS上の誘導にどうやって対抗すればいいのか──『操作される現実―VR・合成音声・ディープフェイクが生む虚構のプロパガンダ』

作者:サミュエル・ウーリー
発売日: 2020/11/04
メディア: 単行本

この1年の間に、無数の「SNSがいかに操作されているのか」についてのノンフィクションが刊行されてきた。三例あげると、ガザ侵攻でどのようにSNSが戦線で用いられたのかを描いた『140字の戦争』。YouTubeでの操作が行われている実態について書かれたピーター・ポメランツェフ『嘘と拡散の世紀』。ロシアの手先としてフェイスブックで大統領選を操作しようと画策したケンブリッジ・アナリティカから内部告発者として現れたクリストファー・ワイリーによる『マインドハッキング』など。

ようは非常にホットな分野なわけだけれども、これだけ本が出始めたのはやっぱり2016年の米大統領線が大きいだろう。そこでのツイッター＆フェイスブック上での選挙誘導は大規模なもので、ワイリーによる告発などもあってそれが世間の目にさらされることになった。「我々は操作されている」と。今回ツイッターは米大統領選に備えて情報を拡散させる前に一拍呼吸をおけとリツイートの仕様変更を行ったが、それはこうした操作が行われている明らかな証拠がいくつも存在しているからである。

本書『操作される現実』は、そうしたコンピュータ・プロパガンダについて、2012年と初期の頃から研究を重ねてきた専門家のサミュエル・ウーリーによる、2020年の1月に刊行されたばかりの最新の動向と、こうした状況にどう対抗していけばいいのかについて書かれた一冊だ。類書と異なるのは、SNS上でのプロパガンダだけでなく、VRやARといった新しいテクノロジー領域の危険性について触れているところにある。さらに、類書が引用している情報も多くはこのウーリーの研究が元だったりするので、知見としては本書が最先端・最大ボリュームといえる。

これまでのコンピュータ・プロパガンダ

コンピュータ・プロパガンダがどこから始まったのかを特定するのは難しいが、最初に裏付けのある形で存在が確認されたのは、2010年のマサチューセッツ州上院議員特別選挙の最中だったという。マサチューセッツ州は長い間米民主党の牙城で、この時は民主党候補であったコークリーを攻撃するツイッターユーザーの集団がいた。

その攻撃者たちは、コークリーが反カトリック的であると主張していたのだが、これは人口の半数がカトリック教会のメンバーであるとするマサチューセッツ州では選挙結果を左右する重大な主張だ。結局、その集団攻撃はボットによって引き起こされていたことが判明するわけだけれども、実際にこれが効果をあげたのか、さまざまなメディアがコークリーの反カトリック傾向とされるものを取り上げ、最終的には大方の予想を覆して共和党が選挙戦を制して、上院の議席を獲得してしまった。

このボットによる集団攻撃の背後にいたのは、アイオワ州のティーパーティー運動家(保守派の政治活動を行う人々)の小さなグループで、自分たちが支援する候補者を応援し、反対派を攻撃していた。ボットによる総攻撃は、複雑なことをやろうとしなければ少しでも技術があれば同じことができるので、これと同じことは(政治的利用だけではなく、個人への攻撃でも)今でも世界中で起こっている。

ソーシャルメディアの専門家は、選挙戦から選挙戦へと渡り歩き、ボットや偽情報、政治的スパムを使ったキャンペーンにミームを用いたものなど、様々な手法を試しながらどれが最も効果的かを計測しているという。初期の頃はボットの稼働テストなどを4chanのような掲示板を使ってテストしていたが、次第にサブレディット(特定の話題について話し合う日本の掲示板の板のような場所。僕もよく読んでる)へと移行し、炎を背景にヒラリー・クリントンとキリストがボクシングをしているようなミームを用いて、フェイスブックやツイッター、ユーチューブに拡散させたりする。

著者はボット開発者らやこうしたソーシャルメディア専門家に知り合いが多く、こうした具体的なSNSを用いた選挙戦の手口が広く書かれているのもおもしろいポイントのひとつ。本当に幅広くボット開発の仕事がばらまかれているようだ。

未来のプロパガンダ

と、このあたりまではこれまで行われてきたプロパガンダだが、未来にはどのようなことが起こり得るだろうか？　一つには、人工知能の高度化による影響があるだろう。たとえば、最近RedditのサブフォーラムでOpenAIの言語モデルGPT-3がコメントをしていたのに、誰も気づいていなかったことが明らかになった。それも、判明したのは文章の内容が変だったからではなくて、コメントがあまりに早い割に文章が長いという、人間には難しい速度でなされていたことがきっかけだった。
www.gizmodo.com.au
少なくとも掲示板上では、我々は相手が人工知能なのか人間なのか、判別しがたくなってきている。これが政治的な誘導に用いられるのは明らかだろう。こうした動きは、機械学習によってより効果的に相手にフィッシングサイトを踏ませるようパーソナライズさせたAIボットの出現などと相まって、今以上に驚異になると考えられる。

じゃあ我々はこうしたボットにされるがままってこと？　と思うが、こうしたボットに対する対抗策も生み出されつつある。ソーシャルメディア観測所(OSOMe)は、機械学習を利用してボットを検出するツールを開発している。このツールは、アカウントのプロフィール、友人、社会的ネットワーク構造、行動パターンなどの特徴を把握してボット・スコアを出す。こうした技術が普及すれば、大量のボット＆それを検知するボット判定ボットがしのぎを削る世界が訪れるのかもしれない。

未来に起こり得るプロパガンダの一つに、ディープフェイクがある。これはAIを使って偽の動画を生成する技術で、オバマ前大統領夫人がストリップをしている映像を生成して嫌がらせするなど、動画の情報量は文字とは比べ物にならないからその被害も大きい。だが、こちらもすでに対抗手段が作られていて、映像に映っている人のまばたきのパターンからフェイク映像であるかどうかを判定する技術がある。これ、ディープフェイクのアルゴリズムが人間の顔の画像を使って学習しているはずで、ほとんどの画像は目が開いている写真だから、それを元につくられたディープフェイクの画像・映像は、まばたきのパターンが自然ではなくなることに注目しているらしい。

フェイクを作り出すAIとそのフェイクを見破るための技術の攻防は、ディックの『アンドロイドは電気羊の夢を見るか？』や『ブレードランナー』に出てくる、自分自身ですらも機械であることを認識できないほどのアンドロイドを人間が非人間か判定するフォークト＝カンプフ検査を思い起こさせる。「お前は人間か、アンドロイドか？」という問いかけが現実になってるのだ。

おわりに

中国共産党は、政治的な忠誠心を確認して強化するための道具としてVRを活用している。仮想空間で党の理論や自身の日常生活、共産党の先駆的な役割をどう理解しているかなど数々の質問をされるのだ。効くのかよくわからんが、VRの方が没入感が強いから活用しているようで、この流れもVRの発展に伴って強化されていくだろう。

というわけで、けっこうな文字数になってしまったのでここらで紹介を終わりにするが、本書には他にもARがどのようにフェイク生成に使われていくのかという未来の可能性についても語られている。一般の人間はコンピュータ・プロパガンダにおいて金も権力もある勢力に、意図せずして歩兵として利用されやすい。そんなのまっぴらだ、と思うひとにとって、本書はかなりおもしろいので、ぜひ手にとってみてね。

最近読んだ中での類書としてはこのマインドハッキングが特におもしろかった。