基本読書

基本的に読書のこととか書く日記ブログです。

言葉の解釈をめぐる、解決困難な諸問題──『自動人形(オートマトン)の城: 人工知能の意図理解をめぐる物語』

自動人形の城(オートマトンの城): 人工知能の意図理解をめぐる物語

自動人形の城(オートマトンの城): 人工知能の意図理解をめぐる物語

本書は、同著者による数学的原理に裏打ちされた傑作ファンタジィ『白と黒のとびら: オートマトンと形式言語をめぐる冒険』、その続篇『精霊の箱: チューリングマシンをめぐる冒険』とはまた違った物語──副題にもある通り、命令を何でもこなしてくれるスゴイ人工知能をつくる上で避けては通れない、コミュニケーション時において、人工知能に人間の持つ意図と文脈を理解させる困難さについての一冊である。

ワガママで勉強嫌いな王子と、彼の住まうクリオ城へと危機が迫り、「人間の命令を忠実に実行する」自動人形に囲まれた、王子の孤独な戦いがはじまる──。といったファンタジィを純粋に楽しみながら読み進めるうちに、人と機械のコミュニケーション時に不可避的に発生する、「意図の理解」をめぐる難しさ、自然言語で機械に対して命令する際、原理的に出現する諸問題が把握できてしまうという優れものだ。

本作の「人形」は、現実世界ではまだ実現されていないレベルの意味理解能力を持つロボットです。人形たちは、単語の意味や文の意味を理解し、さまざまな命令を聞き、さまざまな状況で動くことができます。そういった機械が存在する世界でも、「意図理解の難しさ」、中でも「言われたことを実行することの難しさ」が、解決すべき課題として存在します。本作は完全なフィクションですが、提示したそれぞれの課題は、自然言語による命令を受け、それを実行する機械を実現しようとするならば、多かれ少なかれ、避けては通れない問題です。

著者の川添氏はデビュー作『白と黒のとびら』からして、現実の諸原理とファンタジィ設定を結びつけて物語るのが抜群にうまい作家であったが、『働きたくないイタチと言葉がわかるロボット 人工知能から考える「人と言葉」』など近い形式の作品を発表するうちに、その技術はもはやストーリーテーリングと作品ごとに異なる諸原理の解説の両立に何の違和感も抱かせないレベルに達していて、これがまた凄い。

簡単なあらすじ、世界観設定

物語の舞台となるのはどこか遠い異世界、ハルヴァ王国のクリオ城。

そこでルーディメント王子は何から何までおもしろくない日々をおくっている。文字は書けず、召使はグズだらけ、彼の教育係パウリーノは大嫌いな勉強ばかりさせ、周囲の者は誰も彼の気持ちをわかってくれない──そんな不満を募らせている王子は、ふとした瞬間に"太陽が二つある"場所に移動し、そこで一人の道化師と出会う。

その道化師は、"なんでもいうことの聞く人形"を多数所持しており、召使たちへの不満が積もり積もっていた王子は、道化師にそそのかされるがままに、"なんでもいうことの聞く人形"と、グズな召使いたちを、取り替えると宣言してしまう──。

王子はそれらの不吉な言葉を振り払うように、目を閉じて首を振る。そんなこと、知ったことか。だいたい、僕の問題って、何だ? 作文ができないってことか? 言葉をうまく使えないってことか? それのどこが悪いんだ? 世の中の奴らがみんな、僕のことをきちんと分かれば問題ないんだ。問題は、僕を分かろうとしない、みんなの方にあるんじゃないか。みんなが僕の気持ちをくみ取ってくれさえすればいいのに、そうしようとしないのが悪いんだ。

王子が次に城で目を覚ました時、周囲にいた召使いたちはみな"自動人形"へと変貌を遂げていた。彼らはみな確かに人の命令をなんでも聞くことのできる人形である。それはしかし、"正しく命令されている限りにおいて"という条件付きの"なんでも"だ。

たとえば兵士に「城を守って」と命令すると、両手両足をのばしてヤモリのように城壁へとへばりつく。「この服を脱がせて」と命令すると、ボタンを外すこともなく服を上へと持ち上げ王子の息が詰まる。これはどちらも命令が抽象的すぎたがために起こった事象だ。何かを守る一言でいっても、敵を排除するのも守るだし、守る対象をどこかに移すのも守るだし、敵と対象の間に立ちはだかることかもしれない。

そもそも"敵"というのがすでに抽象的な存在で、一般的な人間なら理解できたとしても最初に明確に"何を敵と定義するのか"を決めておかねば攻撃も防御も行うことができない。作中の自動人形たちは現実の人工知能よりかははるかに有能で、単語の意味を把握し文全体の意味を計算し、ある単語が比喩表現なのかどうかといったことを文脈で判断する機能があるようだが、それでも"意図の理解"には遠く及ばない。

本書で王子は、自身の迂闊さによって自動人形のみが存在することになった城内をなんとか掌握し、敵からの城の防衛、道化師たちから自身の召使を取り戻す戦いといったイベントを経て、自動人形を取り扱う技術に成熟し、"言葉の持つ重み"を知り、"言葉を正確に用いることの力"を身に着けていくことになる。

いうてもそんなに難しくないんじゃない?

意図の理解が難しいといっても、結局一手一手説明すればいいだけでしょ? と思うところもあるが、実際にはこれが依然として解決不可能なほどに難しい。

たとえば「矢を拾え」と命令したとする。これは単純な一般名詞の解釈の問題だが、これだけでも多数の解釈が存在する。目の前の矢をひとつ拾えということなのか。あるいは目の前に存在するすべての矢を拾うべきなのか。また、「お腹が空いたんだけど」と子供が親に向かっていったら「何か食べ物をよこせ」という意味だが、これも言外の意図を把握できる人間ならではの理解であって、自動人形には通用しない。

そうした一つ一つの例外ケースを全て記載すれば確かに自動人形は正しく動くが、王子が──というか我々が求めているのはそんな融通の聞かない知能ではなく「よろしく」といったら全てを察してくれる知能である。そこまでの道のりはまだまだ遠い。

ロボットに対する命令に限らず、本書では人間にすら難しい課題──"善悪の判断を持たせられるか"や、"笑いを理解させられるか"と突っ込んだところまで描写していく。読み味は軽く、王子の成長譚に加え周囲の人々の奮闘まで含めて楽しめる(特に「言われたとおりに行動する」ことが元々難しかったカッテリーナの決意と行動は素晴らしいの一言!)一冊だが、そこで描かれている内容と問題はずっしりと重い。

おわりに

作中の人形のデフォルトの行動原理(プログラム)については最後、著者による解説*1が含まれており、あくまでも厳密なルールによってこの世界の人形が運営されていることがみえてくると、ファンタジィ/童話だけではなくSF的な読み味も残る。

あくまでも自然言語の解釈についての話なので、より基礎的な原理を扱っていた『白と黒のとびら』、『精霊の箱』よりかは把握が優しいだろう(本書は話としては独立してはいるものの、二作のファンとしては嬉しい演出も盛り込まれている.注意深く読めばわかるだろう)。人工知能関連としては、同著者による『働きたくないイタチと言葉がわかるロボット 人工知能から考える「人と言葉」』もオススメ!
huyukiitoichi.hatenadiary.jp
huyukiitoichi.hatenadiary.jp

*1:自然言語解釈への解説含む