基本読書

基本的に読書のこととか書く日記ブログです。

ロシアの大規模な工作活動、個人情報の流出などフェイスブックの数々の失態はなぜ起こってしまったのか?──『フェイスブックの失墜』

っzr

フェイスブックは今なおSNSでは最大の存在感を誇るが、もちろん完璧なサービスというわけではなく、トラブルや批判は特にこの5年間で頻発している。ユーザ情報の流出、広告のために執拗にユーザをトラッキングしようとする姿勢への批判。表現の自由を理由にヘイトスピーチやフェイクニュースを取り締まろうとしない姿勢、国家ぐるみの工作活動の展開(フェイスブック上で)など、とにかく問題は数多い。

軸足をメタバースに移そうと社名を「メタ」に変更するも、現状この領域も売上に関してはそこまで見通しが明るいわけではない。いったい、フェイスブックで何が起こってこのような状態になっているのか? 本書『フェイスブックの失墜』はその原因を、多数の関係者への調査によって明らかにしていく一冊である。

 多くの人は、フェイスブックを「行き先を見失った企業」であり、創造主の意図しない行動を取る「フランケンシュタイン」のような存在だと考えている。しかし、私たちの見方は違う。(……)
 本書では、フェイスブックがユーザーを保護せず、世界的な支配力を持つITプラットフォームとしても脆弱であることが露呈した、前回と前々回の大統領選をまたぐ五年間に焦点を当てている。フェイスブックを現在の姿にしたすべての問題が、この期間に頭をもたげてきたのだ。

刊行時期的に「メタ」への社名変更への言及がないのはともかく、Oculusの買収やその関連の話についてほとんど触れていないなど物足りないものの、「まあ、社内がこんな状況・体制・思想じゃ、フェイスブックがこうなるのはしゃあなしやな」と納得せざるを得ない内情が語られていて、なかなかおもしろい。

フェイスブックに興味がなければ読む意味はないだろうが、多少なりともフェイスブックを使っていたり、ユーザを何億人も抱えるような巨大なSNSサービスがどのような問題にさらされるのかを知りたい人には得るものもあるだろう。

フェイスブックの問題点──自由な社風と責任感の欠如

『フェイスブックの失墜』という題だとまるで天高く登りきったフェイスブックが何らかの理由によって落ちていったようにも思えるが、読み終えてみればフェイスブック社が抱えていた問題はその最初期から内包されていたといえる。その問題が、規模がでかくなるにつれてさまざまな形で表にでてきただけなのだと。

いくつかある問題点のひとつは、この手の少人数のハッカー気質の若者らが集まった企業がでかくなった時にありがちな、「多くのユーザーを扱う企業としての責任感」と「自由な社風」の相容れなさにある。たとえばフェイスブックのシステムは、オープンで透明性が高く、すべての社員がアクセスできるように設計されてきた。そのおかげで、面倒な承認をとることもやりとりも経ずにデータを閲覧し、操作できた。

100人規模であればそれでもよかったかもしれないが、エンジニアが何千人にもなるとそう簡単な話ではなくなる。ユーザの個人的なデータを閲覧できるエンジニアらは一度デートした相手のことを調べたり、デートをする前の相手を調べたりと自由に情報を利用していた。その幾人かは仕事用のノートパソコンを使っていたので、普通ではない活動を社内システムが検知し、上司が違反行為を報告することで処罰を受けたが、その数は所詮数十人で、その裏に具体的に何人いたのかは不明確である。

そうした事態が明らかになったのは2015年の9月で、それはセキュリティ責任者のステイモスが就任直後の出来事だった。彼が調査を行ったところ、判明しているだけでも何千人ものエンジニアがユーザーの個人データにアクセスしていた。フェイスブックはユーザーデータを自社のコンピューターセンターで暗号化する約束を守っていなかったし、責任の所在は不明瞭で、セキュリティに対する意識はその規模がかなり大きくなった2015年時点においても完全に欠如していた。

フェイスブックの問題点──マーク・ザッカーバーグの王国

フェイスブックのもう一つの大きな問題は、創業者のザッカーバーグに権力が集中している点にある。たとえば、フェイスブックではフェイクニュースやヘイトスピーチが野放しになっていると批判がよく上がるが、これには言論にたいして「最大限のオープン性」を保つというザッカーバーグの基本的な姿勢、立場が関係している。

ナンシー・ペロシ下院議長のフェイク動画(酒が入っているかのようにろれつが回らずスピードもおかしい)が蔓延した時も、ユーチューブは偽情報ポリシーに違反していると削除した一方、ザッカーバーグと政策チームはこの動画をパロディと定義できないかと考え、このままにしておこうと決断を下した。ナンバー2であるサンドバーグはこの決定は自分にとって非常につらいものだったともらしたが、ザッカーバーグに対抗できるであろう唯一のポジションともいえる彼女も従う他なかったのだ。

ザッカーバーグは「企業は国を超える」とスローガンを挙げ、世界中の人間を繋げるために急スピードでの成長を求め続けてきたが、それが生み出した弊害も大きかった。たとえば開発途上国への上陸では、コンテンツをチェックするモデレーターが数人しかおらず、現地の事情を考慮しなかったがために数多くの問題を引き起こした。

ミャンマーでは100もの言語が用いられているが、投稿をチェックするモデレーターはビルマ語を理解する一人のみ。結局ミャンマーでは陰謀論やフェイクニュースが入り乱れ暴動に発展し政府がフェイスブックへのアクセスを禁止する事態にまで発展した。

おわりに

ザッカーバーグが悪かのように書いてきたが、SNSで広告を利用するビジネスモデルの都合上、ユーザーデータの取得とビジネス領域の拡大は必然的に求められる部分である。フェイクニュースや誹謗中傷じみたデータの削除、少なくともフィードに上がってこないようにする変更にフェイスブックが積極的でない理由の一端は、そうしたニュースがフィードに流れてくることでユーザーの滞在時間が増えるからだ。

 こうした弊害はもともとシステムの設計に焼きついていたのだ。かつてフェイスブックでプライバシー分野を専門に担当したディパヤン・ゴッシュが指摘するように、「一般社会においては倫理上超えてはならないラインが存在するが、エンゲージメントを優先する機械ならいつでも進んでそのラインを超えていく」のである。

その誕生の時からフェイスブックはジレンマにさらされてきたのだといえる。もっとも、社内には警告を発する社員が多くいたのだけれども……。僕はもともとフェイスブックは嫌いなサービスだが(ユーザー情報を執拗に取得しようとする姿勢、ニュースフィードに関する不明瞭なアルゴリズム、Webのデザインの根本的なダサさ)、本書を読んだらフェイスブックを積極的に利用したいとはとても思えなくなるだろう。

フェイスブック上でロシアの大規模な介入があったと判明した時の社内の混乱の様子など紹介した以外の部分にも読みどころはたくさんあるので、読んでみてね。