「僕は牧童です。家で飼っている牛10頭を牧草地に連れて行きました。でも、牛たちが牧草を食べているうちにうっかり寝てしまいました。しばらく時間が経って目が覚めると、10頭の牛のうち4頭がいなくなったことがわかりました。僕は家に何頭の牛を連れて帰ることができるでしょうか？」

　以前日本に留学して心理学を学んでいた時、幼稚園や小学校などにフィールドワークによく行っていました。そこで上のような「文章題」を、フィールドワークの合間を縫って子どもたち（小学校3年生）に投げかけてみました。すると、だいたいというか、ほぼすべての子どもたちがすばやく「10-4=6」と「計算」をして「6頭」と答えてくれました。
　僕は日本の子どもたちの計算の素早さだけでなく、他の可能な答えを考えない頑なさに驚いてしまいました。というのも、「いなくなった4頭を探しに行っている間、残りの6頭がどうなっているのかわからないので答えられません」とも答えうるし、 「僕は牧童なので4頭がいなくなったら、お父さんにきびしく叱られるはずなので家には帰れません」と答える子どもがいてもおかしくないと思っていたからです。
　僕は博士論文を書いている当時、こういう場面に接すると、教室にいる子どもたちは「現実感」を完全に失い、「誰かか（主に教師）が出した問いを解いて、その点数に基づいて自分が何者であるのかを知る」というスキームの中で育ってきているからこそ、こういう「計算機械」みたいな存在になってすばやく答えてしまっているのだ、という仮説を（実は「仮説」とも思わずに）採用していました。
　いま考えてみると、この「仮説」を採用した後は、そこに居着いて似たような現実に遭遇するたびにこの「仮説」で現実を解釈し、自分のなかにしまい込んで蓋をして、その仮説の「使い勝ての良さ」に満足していたのでした。しかし、このとき僕は仮説の「話のつじつまが合いすぎる」ことに居着いただけだったのです。
　これは後知恵なのですが、自分がこの仮説を使い続けていたのはそのエピソードがある命題を語る時に「使い勝手がよい」からだけではありません。むしろ何度持ち出して、何度解釈しても、いつも「気持ちが片づかないまま」何か大切なことを言いそびれたような気がしたまま終わるからです。そしてある日ふと、この「何か大切なことを言いそびれた気持ち」は「仮説の中身」というレベルからくるのではなく、「仮説と現実の関係性」という、いわゆる次数を一つ繰り上げないと、けっしてその姿を現さないレベルからきていることに気づきました。
　僕は当時、既成の「仮説」に基づいて「現実」を見ていたのです。つまり、僕は長い間「仮説」と「現実」の関係について順逆が狂ったような考え方を持っていたということです。自分が採用している単純な仮説とぴたりと一致する単純な現実ばかりを探し求めようとし、その仮説になじまない現実については、「そんなことはありえない」と切り捨て、その現実には見向きもしなかったのです。言い換えれば、 僕は「現実観察」によって仮説に進むのではなく、自分が「えらい」と思いこんでいる仮説を「まず」受け容れて、それを通して現実を「単純化して」見る、という転倒的思考をしていたのです。
　いま振り返ってみると、その方が知的負荷が軽減されるのは間違いないでしょう。しかし、それは話が逆ではないかと、後から気づくようになりました。 現実はとてつもなく複雑です。それゆえ、現実をなるべく「簡単に」あるいは「わかりやすく」説明するためにさまざまな仮説が生まれてきたわけです。ですから、仮説の豊かさと精緻さを担保するのは気の遠くなるような現実の複雑さです。当たり前のことですが、現実は仮説に適合するためにあるのではない。仮説を無限に生み出す母胎として「いかなる仮説によっても汲み尽くせない」現実が存在するわけです。
　カール・ポパーの定義によるならば、科学者とは、みずからが提出した仮説を証明する事例をではなく、仮説を反証する事例を探求し、それによって、仮説をよりカバリッジ（適用範囲）の広いものに書き換えることを優先的に配慮する人間のことです。
　複雑な現実に出会うということは、自分のちっぽけな手持ちの知的枠から「はみ出す」チャンスです。現実は収まりがつかずコントロールがきかず、自分自身の知的なフレームワークそのものを壊してしまうような「外へ」という根源的な外部志向的な行為の源です。
　複雑な現実に遭遇すればするほど、自分の知的フレームワークに収拾がつかなくなる現象に遭遇する機会が増えます。現実は自分自身知のシステムの絶えざる「書き換え」や「ヴァージョンアップ」を要求してくるからです。 それはつねに限界をはみ出ようとします。たえず未知の領域に入り込んでいこうとします。 現実は人間が静かに自足することを許してくれません。
　なぜなら、「知」とは既にわかっている、あるいはこんなものであろうと類推可能な領域のなかに隠されているものではなく、むしろそれとは反対に、現在わかっていると思っていること、解明されたと信じられていることを「問い直す」ことのなかにしか生まれようの無いものだからです。これは自然科学であれ、人文科学であれ、哲学であれ、当てはまることではないでしょうか。

　さて、あのフィールドワークでの「仮説」の話に戻りましょう。
　僕は複雑な現実をなんとか呑み込もうと苦しがり、とにかくそれを「消化」するために役立ちそうな情報や知識ばかりを選択的に摂取しているうちに、つぎのような知見にやっと出会いました。
　AIの研究者によると、人間にだけできて機械にはできない仕事のひとつに「本の飛ばし読み」があるそうです。コンピュータの場合は、あらかじめキーワードを入力しておけば、膨大なテクスト・ データを瞬時に検索してくれる。しかし、私たちが「飛ばし読み」しているとき、私たちはあらかじめ設定したキーワードを手がかりにしてテクストを眺めているわけではありません。私たちはチェックリストなど持たず、ぼんやりと頁を繰っている。
「飛ばし読み」をしている私たちは、膨大な情報データを処理しながら、 データのほとんどを「無視」し、ごく一部だけに反応している。しかし、それはあらかじめ設定された検索リストにヒットするというしかたでの反応ではありません。私たちの「目に飛び込んできた」 単語やフレーズは、「目に飛び込んできた」という事実によって「事後的に」キーワードであったことが分かるのです。 ある言葉がいきなり私の中にある鮮明な情景を呼び起こすがゆえに、私たちは立ち止まってしまうのです。
　人間だけにできてコンピュータにはできない「飛ばし読み」能力を、コンピュータ・サイエンスの専門家は「データを無視する能力」というふうに呼んでいます。
　僕はこの「無視」という言葉にビビビと強く反応してしまいました。そして、この「データを無視する能力」に、冒頭で取り上げたエピソードを違う観点から解釈できるようなヒントがあるのではないかと、なんとなく思い至りました。
　知的に行為しうる人工物を、我々はロボット（robot）と呼びます。 ロボットという語は、時代の想像力のなかで機械が人間の身体と近縁な存在として急激に感覚されるようになっていった二〇世紀の初頭に、ある劇作家によって造られ、定着した言葉です。われわれは、われわれと同様な知性を備えた自動運動体を、機械の内に夢想する。
　ところが、このロボットをつくろうとするとき、特定の論理を前提にしたプログラムによって知的に行為する機械を実現しようとすると、われわれはある原理的な困難に遭遇してしまいます。 この困難は、認知科学者のデネットによって、「スターウォーズ」に登場するロボットR2-D2を素材にして非常に印象的に例示されています。僕がこれから問題にしたい「原理的困難」 の本性を理解するのに、デネットの事例にまさるものはないので、ここで簡単に紹介しておきましょう（1）。
　最初のロボットR1は、かれの貴重なエネルギー源である予備バッテリーがしまってある部屋に時限爆弾が仕掛けられていることを知らされました。かれは、すぐに部屋を発見し、部屋の中の一台のワゴンの上にバッテリーが乗っていることを確認した。かれは、ただちに、「バッテリー救出作戦」を立て、＜PULL OUT (WAGON ROOM)＞を行えば、バッテリーが取り出せると結論した。かれはこれを時限爆弾爆発前に行いましたが、不幸にも、その同じワゴンに爆弾も乗っていたので、結局、バッテリーは爆発とともに失われてしまいました。かれは、「ワゴンの上に爆弾があること」を知らなかったわけではありません。ただ、「ワゴンを持ち出せば同時に爆弾も持ち出したことになる、ということ」を知らなかったのです。
　そこで設計者は、ロボットが、自らの行為の直接の意図された結果だけではなく、その行為がもたらす副次的な結果をも推論できるように、プログラムを書き換えました。こうして改良されたロボットは、R1-D1と名付けられました。この新しいロボットは、R1と同じ問題に直面したとき、やはり＜PULL OUT (WAGON ROOM)＞を行えばよいと思い至り、そのあと、新しいプログラムにそって、 副次的結果を演繹しはじめました。ワゴンを引き出せば車輪が回転する、ワゴンを引き出せば音が出る、ワゴンを引き出しても部屋の色は変わらない等々と。 とそうこうしている内に、爆弾が爆発してしまいました。
　再び設計者たちは、「推論された副次的結果のうち、ロボットに関係ある結果と関係ない結果の区別を教えてやり、関係のない結果を『無視』するようにしなくてはならない」と判断し、目下の目的に照合して関係があるかないか、という区別を演繹するプログラムを開発しました。このプログラムを備えた第三のロボットは、R2-D1です。ところが、同じ状況に直面しても、このロボットはまったくなにも行動を起こしませんでした。なぜか? ロボットは、何千もの無関係な結果を演繹しては、 それをいちいち「無視する」のに忙しくて、行動を起こすことができないのです。設計者はロボット、R2-D1に「何をしているのか」と尋ねてみました。そうすると、 R2-D1はこう答えました。「黙って！　ぼくはこれからやろうとしていることに関係のないことを見つけて、それをいちいち『無視する』のにいそがしいんだ。関係のないことはほんとうに限りなくあるんだ・・・」
　もちろん、「無視する」のに忙殺されている間に、爆弾は爆発してしまいました。 最新のロボットが動き出す前に、部屋のどこかで爆発音がしました。
　実は、これらのロボットたちが直面しているのが、僕が今回主題化したい「難問」です。その難問は、一般に「フレーム問題」と呼びならわされています。
「知能を備えた機械」であるためには、何らかの意味で、「フレーム問題」が克服されなくてはならない。たとえば車を安全に運転するロボットの開発をめざすAI研究者がいたとしましょう。彼はまず、車の構造（これはあまり必要はないでしょうが念のため）や車の走りについての力学を知識としてロボットに教えこむ。つぎに初歩的な操作手順を教える。 さらに路上に描かれている種々の記号の意味や、信号の意味など交通の規則についても教える。この部分だけでも知識は膨大なものになりかねません。しかし、ロボットにもおそらくは習得可能でしょう。教習所内の決められたルートを、 ルールに従って指示通りに動くことぐらいはできるようになる。
　問題は「路上」に入ってからです。路上教習に出るとロボットが出会う 「情報」は飛躍的に増大する。量が増えるだけではない、質も変わります。
　いま後ろからクラクションが聞こえたがあれは何を意味しているのか（もしかして「私」の運転に関係あるのか？）。対向車の運転手が手を上げて怒っているがあれは何を意味しているのか（「私」の運転に関係あるのか？）。カラスの群れが急に飛び立ったがあれは何を意味しているのか (「私」の運転に関係あるのか?)。急に陽が陰ったが車を運転し続けてよいのか？　・・・あげればきりがありません。「環境」に変化が生ずるたびに、ロボットは車をいったん停止してその意味を考えこんでしまう。 そして結局すこしも前へ進めない。これがいわゆる「フレーム問題」です。
　しかし、ふつうわれわれ人間は、ある行為を行うときに、それにともなって起こる環境の変化が行いつつある行為に関係しているのかどうかなどと悩むことはまずありません。 朝目が覚めてコーヒーを飲もうとカップを口に運びかけたとき、いつも見かけるノラ猫が庭を横切るのを見ても、そのまま飲み続ける。しかし、コーヒーカップの中が空っぽであることを見れば、飲むことはいったん中断して、もう一度コーヒーをカップに注ぐ行為に移る。
　行為に際して環境内に存在するすべての「情報」が処理される必要はない。現在進行中の行為との関連で意味を持つ環境だけに着目すればよい。このような行為をなんと名付ければいいでしょうか。ここではとりあえずそういう行為のことを「なんとなく無視」と呼ぶことにします。
　しかし、このあたりまえのことをロボットが行うことは容易ではありません。刻々と変化する環境を知覚し、それを定義し解釈しつづけることだけで手一杯になる。「立ちすくんで」しまうのです。
「フレーム問題」は、環境の状態について、行為について、行為の結果にともなう環境の変化について、「刺激を入力し世界の状態をモデルリングし⇒行為をプラニングし実行し制御する」という系列から成立していた「直列型AI」の原理の限界を示しました。さらにこのことはわれわれ人間の認知システムが、AIのようには環境を処理していないことを逆照射してくれました。
　では「フレーム問題」に悩まないロボット、つまり 「環境について事前に知っている」かのように、その状態や変化についての常識を持ち、無関係なことを「無視できる」知能は設計できるのでしょうか？ できるとして、 その原理とはどのようなものなのでしょうか?
　上記のロボットは、いかに精巧に造られていようと、与えられた状況において、 適切な選択肢を選択しえなかったということにおいて、知性の基本的な要件を欠いています。しかし、フレーム問題は、いまや多くの論者が認めているようにまた僕もこのあと示すように、非常に困難な課題であるということは間違いありません。完全には解決不能である、と言うことすらできると思います。
「フレーム問題」を解決しようとする考え方は、多くの人が持っている、「知」に関する「普通の感覚」を浮き彫りにし、ずらしてみるチャンスを与えると思います。それはいわゆる「表象主義」という考え方です。

（後編につづく）

（1）Denett, D. (1984). Cognitive Wheels: The Frame Problem of AI, Z. W. Pylyshyn ed. The Robot's Dilemma: The Frame Problem In Artificial Intelligence. ABLEX.

• Tweet
•