基本読書

基本的に読書のこととか書く日記ブログです。

手遅れになる前に考えうる危険性を事前に把握しこれに対処する『ロボット法──AIとヒトの共生にむけて』

ロボット法--AIとヒトの共生にむけて

ロボット法--AIとヒトの共生にむけて

人工知能の発展著しい昨今であるが、法はまだその状況に追いついていないというのが実際のところだ。一番わかりやすいところでいうと、人が関与していない自動運転車が人を轢き殺した時に、誰が、どのような法解釈のもと責任を負うのかだろうか。

運転していたAIなのか、製造元なのか、はたまた自動運転車の所有者なのか。人は運転していないのだから製造元なのではと思うかもしれないが、どれほどAIが発展したとしても、必ず事故は起きる。そうなった時に無条件に製造元に責任が問われるのであれば、誰もそんなものは売らないはずだ。したがって発展(AIに任せたほうが事故は減り、生産性が向上するといった利益を仮定した場合)もないことになる。

ロボット法における中心的な懸念点

そうした状況に陥いることなく、ヒトがAIから最大限の利益を享受できる最適な形の検討のためにも、今ロボット法は必要とされている。最初にそんなロボット法における中心的な懸念/ロボットの特徴を紹介しておくと、まず人間の能力と制御を超えたところでロボット自身の自律的な判断や行動が発生しえる〈制御不可能性〉。

もう一つは、ディープラーニングなどを用いることでプログラマ自身もAIの中でどのような判断を行ったのかがわからなくなる〈不透明性〉が挙げられる。〈制御不可能性〉の懸念点は、ロボット自身が下した判断によって人身事故などの社会への危害を発生させかねず、加えて〈不透明性〉によってその原因追求ができなくなってしまう可能性があるために、責任所在の空白地帯を産んでしまう。

本書の主題である「ロボット法」は、ヒトが生み出した工学技術が制御不能になることへの恐怖心と戒めを軽視することなく、手遅れになる前に考えうる危険性を事前に把握しこれに対処することが必要である、と捉える。それこそが今、ロボット法という学問分野が必要であると思われる理由である。

このロボット法の分野、欧米では研究も行われているが、著者いわく日本ではほぼ皆無であるという。そんな中にあって、著者は米国弁護士、中央大学総合政策学部教授、他総務省「AIネットワーク社会推進会議」幹事などを勤める日本の中でも珍しい専門家であるといえよう。本書の中でもロボットとは何か、その言葉の起源は何かといった基本的なところからはじめ、豊富な判例と海外のロボット法研究を無数の観点・視点から概括できるように紹介してくれており、重要な一冊となっている。

というあたりで軽く内容を紹介していこう。

軽く内容を紹介していく。

さて、本書ではロボットとは何か──といったそもそものところから話をしてくれると書いたばかりだけれども、その際にSF小説、SF映画への参照も多く含まれることになる。第一章からしてアシモフの「ロボット工学3原則」を通してロボット倫理の起源(に近い)を紹介し、フレーム問題(現実に起こるあらゆる状態に対応しきるためのルールを教え込むのは不可能である)や、後々角度を変えて何度も検証を行うトロッコ問題(あるヒトに危害を与えないために他のヒトに危害が加わらざるをえない場合の対応)についてなど、ロボット法においての重要な課題を洗い出していく。

そうした前提を経たうえで、現実に起こりえる諸問題への検討に移行していく。たとえば自動運転車である。車の前に子どもが飛び出してきた場合、子どもを轢き殺すべきなのか、はたまた運転手が死ぬ可能性があったとしても子どもを避けてハンドルを大きく切るべきなのか。仮に自動運転者のAIがそのどちらを選ぶにしても、普通は製造者は責任を逃れることはできない。なぜならその判断についてはプログラミング段階で決定づけられているものだからだ(ロボットに法人格を付与等しない場合)。

では製造者はどのようにプログラムすべきなのだろうか。この問題ひとつとっても無数の論点がある。たとえば1.そもそも機械に判断を委ねるのが間違っている。ヒトに事故時の判断を任せるべきだ⇛でもそもそも人間だって事故を起こすし、その被害は大きいし、事故を減らすために自動運転車を導入する側面もあるのだから本末転倒じゃない? 2.ヘルメットを被っているなど、安全性の高い相手を標的にしたら?(よりリスクを減らす功利主義的判断)⇛一見いいように感じるが、ヘルメット着用を怠る望ましくない行為者を結果的に優遇する、不公正な手段なのではという指摘がある。

3.人身損害が発生しない場合は、より金額的なダメージの少ない方を標的にする。⇛これも2と同じ問題があり、金持ちが不当に優遇されてしまう。4.所有者を優遇する問題⇛開発元としては当然所有者に不利益をもたらす車なんか売れないから所有者を守るように設計するインセンティブが働く。でもそれってどうなのよ。などなど、これで終わりではないがこの問題ひとつとっても無数の論点が存在するのである。

本書ではこうした状況に対しての未来の技術発展の予測までを含めた検討を加えていくが、いずれを選択しても危険性を回避できない場合に、裁判所は必ずしもシステムの設計上の欠陥を認めないとする裁判例(「中華航空エアバス名古屋空港墜落事件」)も紹介されている。こうした似た状況の判例は後々参考/参照されるので、一つの根拠としてしっかりとおさえておいてくれるのがありがたい。

おわりに

取り上げられていくのは、自動運転の問題だけではなく、たとえば近い将来にロボットが愛人や伴侶となりえた場合。ロボットはいくらでもヒトに優しくし、付き合ってくれるので、そのような状況に慣らされたヒトは実際の人間関係へのヒトの耐性が劣化するのではないか。また、『ヒトは愛によって容易に操作されてしまうから、機械であるロボットにヒトを騙させて、ヒトが必要以上にロボットへの執着心を抱くことのないように設計上注意すべき』という指摘があったりと、ヒトとロボットが共生していくうえで考えうる無数の問題が(概要だけであっても)検討/紹介されていく。

著作権をロボットに与えるべきか、嘘をつくロボットはどのようなケースで許容されるのか、ロボットにも法人格が認められるべきか、ロボットに刑事責任を科すべきか、またどのような場合に刑事責任が科すことができるのか──など、一歩間違えれば根拠のない空想になってしまいそうな所を、あくまでも現実に存在する類似の判例を元にした仮説やアメリカで行われた議論を軸に展開するので非常に安心感がある。

日本ではあまり紹介されていない分野であることも手伝って、ロボット法の中心的な懸念である〈制御不可能性〉と〈不透明性〉、ロボット法における製造物責任法に具体的な内容は寄っているが、それでも全体像をざっと把握するのに役に立つだろう。