オートメーション・バカ -先端技術がわたしたちにしていること- by ニコラス・G・カー

『ネット・バカ』などで知られるニコラス・G・カーの新刊。『THE GLASS CAGE :Automation and Us』という原題からかけ離れた扇動的な書名は相変わらず趣味が悪いが本書のまとめは面白いぞ。だいたいカーの話って、結論ありきでそこにこれでもかっていうぐらいその説を裏付ける実験例を浴びせかけてくる感じであんまり信用していないんだけど、本書は（カーの書くものとしては）バランスもとれている方ではなかろうか。

書名からもわかるとおり、本書は自動化が進むあらゆる領域において利益があることを積極的に認めながらも「どのようなマイナス面があるのか」を明らかにしていく一冊だ。もちろん自動化には悪い面がある、それは確かだ。でも進歩・変化というのはどのようなレベルにおいても「かつてあったもの」を落としていく過程でもある。自動化の話だけではない。ソクラテスは本を書かなかったが書くことによって失われるものがあると考えたからだった。それはまったくその通りだが実際は書かれた物が残ることによって知識は累積し文化が発展してきたのだ。マイナス面だけを見たところでどうしようもない。あえていま「オートメーション」のマイナス面を取り上げることに意味はあるのだろうか？

意味があるのかといえばどんなものであろうとも意味はあるのだろうが。でもオートメーションは今新しい領域に突入しつつあるように思うし、マイナス面をリストにしてみるにはちょうどいい時期だなとは読んでいて感じた。たとえば、オートメーションが人間の創造性というか、いよいよ完全に置き換えられてしまいかねない領域にまで及びつつあるのが今なのではないだろうか。むかしから技術が進歩して作業が効率化しても、その分別の（人間でないとできない）複雑な仕事が創出されてそちらに移っていくから問題がないのだと繰り返し言われてきたが、じゃあ人間でないとできない複雑な仕事なんてものがなくなってしまったらどうなるんだろうという。

失われていくもの

オートマ車が生まれガチャガチャクラッチを踏まなくてもお手軽に前に進めるようになったように、技術は進歩し今は車も自動で走りうる時代である。飛行機はもうとっくに自動で運転できる。オートメーションが高度になるにつれ、パイロットの役割はオートメーションの監視に変わりつつある。そして自分で飛行機をコントロールすることから離れ、それを監視する側に回るということは必然的にパイロットとしてのスキルが衰えていくことを意味している。現場の一線で活躍していた人間が管理職に回ったら現場の勘が衰えるようなもので、それはもう必然的な帰結だ。

パイロットの技能が衰えることについては身体スキルの具体例であるが、もちろん身体以外の面でも自動化されることで衰える。認知心理学者は生成効果という、書かれたものを読んでいるだけより積極的に心に呼び出しているときのほうが単語をよく記憶する事象が存在することを昔から実験によって明らかにしていた。たとえば会計士が決定支援ソフトウェアを使って企業の会計検査を行っている場合と、ほとんどを手動でやっている会計士を比べるとさまざまなリスクへの理解度は後者の方が高い。Googleで検索をすると、今ではサジェストといって候補や変換ミスを勝手に直してくれる機能が発達しているが、Googleの検索エンジンエンジニアのトップは機械が正確になればなるほど、質問はぞんざいになってきていると語る。それ以外についても下記引用部を読むといい。

医師だけではない。エリート専門職の仕事へのコンピュータの侵入は、至るところで起こっている。企業の監査役の思考が、リスクなどの変動要素について予測を行う、エキスパートシステムによってかたちづくられていることはすでに見たとおりだ。他の金融関係の専門職も、融資担当者から投資顧問に至るまで、決定を行うのにコンピュータ・モデルに頼っているし、ウォール街はいまや大部分、相関関係をあぶり出すコンピュータと、それをプログラムする定量分析の専門家に牛耳られている。ウォール街がふたたび記録的利益を叩き出しているという事実とは裏腹に、二〇〇〇年から十三年までのあいだに、証券ディーラーやトレーダーとして雇用されている人々の数は、十五万から一〇万へと、三分の二まで激減した。ある金融アナリストがブルームバーグの記者に語ったところによると、証券会社や投資銀行の最終目標は、「システムをオートメーション化し、トレーダーを追放する」ことだ。まだ残っているトレーダーはといえば、「いまやコンピュータ・スクリーン上のボタンを押す以外やることがない」という。

そんなにトレーダーの人員が減ってるんだなあ。リーマン・ショックとかが続いて単純に失業しただけなんじゃねえのという気がしないでもないが、金融にあまり感情に左右される人間性を介入させないほうがいいのは当然か。問題はそうして全てをオートメーション化して対応することにしてしまうと人間の技能が貯まらず、システムが何らかの原因によってダウンした時に対応することすらできなくなってしまうことだ。飛行機のパイロットはオートパイロットが正常に機能しなくなったら当然自分で計器を操作しなければならない。その時に余裕しゃくしゃくで心構えが全く出来てないわ技能もないわだと乗客と一緒に地面にダイレクトアタックをかますほかない。

ヒューマンファクターエンジニアリング

こうした事態についての対応としてはすでにヒューマンファクターエンジニアリングのような分野では思考が進められている。人間が存在することを前提として技術の中に組み込んでしまおうという発想でこれがなかなかおもしろいんだよね。その思考の一つの結果が「人間中心的オートメーション(human-centered automation)」と呼ばれる考え方。たとえば重要な機能のコントロールをコンピュータからオペレータへ、頻繁ながらも不規則な間隔で移すことによって緊張感の持続と技能の向上・維持を見込むことが出来る。

または、オートメーションが対応する部分を人間に合わせて可変的に対応させることによる適応的なシステムも考えられている。たとえばオペレータがこみいった作業を行わねばならなくなったことにコンピュータが気が付くと、コンピュータはそれ以外の作業をすべて引き受ける。オペレータは重要な問題がある時はそこに集中して取り組むことが出来、それが終わればコンピュータと仕事を再度分担することもできるだろう。個人の認知状況を検知して、ワーキングメモリのバランスをとってタスク・パラメータを操作できるシステムだ。未来はこうした適応的なオートメーションシステムが一般化しているかもしれない。

ただそうはいっても、オートメーション化された技術をすべて人間が覚えなくちゃいけないのであれば本末転倒だ。オートメーション化が進むということはその部分については「理解が及ばない」物になることでもある。Googleがサジェストしてくる内容、検索結果に表示される内容（それは当然ながら操作された内容である）にしか辿りつけていないのに、「自分自身で探している」と思い込まされる。ソフトウェアは常に改良を加えられているが、それがどのように変わったのかというのを普通我々はわからない。これについてはソフトウェアを制御するのは、何が最適なのかを決めるのは誰であるべきなのか、誰かがそれを決める位置について全体をコントロールするなんてことがあっていいのかという根深い問題につながってくる。

オートメーションは単純な「悪」か「善」じゃとそんな議論に意味はなく、今後も間違いなく物事はすべて自動化されていく。我々に出来るのはそのマイナス面を明確に意識して、出来るならそれをリカバリできるような方策を考え、実行していくことぐらいだろう。