サールと「中国語の部屋」と「志向性」

前回 はチューリングの「チューリングテスト」の原論文を読んだ。

そうしたら次には、チューリングテストとセットで語られることの多い、サールの「中国語の部屋」の原論文(ジョン・サール「心・脳・プログラム」1980年)を読まないわけにはいかない。これもホフスタッター&デネット編『マインズ・アイ』(新装版の下巻)に収録されている。

私は、「中国語の部屋」は「チューリングテスト」を論破した思考実験であるという先入観を抱いていた。しかし両方の論文を読んでみたら、必ずしもそうではなかった。

チューリングが1950年の論文で言ったのはこうだ。「機械は考えうるか」という問いは、「機械とは?」とか「考えるとは?」とかいった曖昧な問題に発散してしまって決着がつかない。「機械は、人間と見分けのつかない知的振る舞いをするというテストに合格できるか」という問題に置き換えれば、元の問題と同一ではないにせよ、そのかなりの部分をカバーしつつ、明確な答えの出せる問題になる、と。

そして、この新しく設定した方の問題、すなわち「チューリングテスト」にかんするチューリング自身の予想は、イエスだ。「今世紀の終わりには〔…〕機械が考えるということについてもはや反駁される心配なしに語ることができるようになると思う」(上巻p76)。西暦2000年ごろには、人間のような知的振る舞いをする機械が実現していて、「機械が考える」というのは当たり前の捉え方になっているだろう、というのだ。

チューリングは明らかに行動主義の(観察可能なものだけに注目する)立場であり、他の人々もこの立場を採るだろうと思い込んでいる。コンピュータが人間なみの振る舞いをすることが当たり前になれば、機械は本当に「考え」ているのか、などと頭を悩ます人はよほどの変人だけになるだろう、と言っているのだ。たとえば私たちは、他人が考えたように見えたとき、本当は考えたのではないのかもしれない、などと疑問を抱かない。相手が機械だろうが人間だろうが、どうせ自分意外の意識を覗き見ることはできない。考えたように見えたなら、考えたとみなすのが普通なのである。しかし、チューリングの論文から50年以上経ったけれども、機械は本当に「考え」るのかという論点については、状況は当時とあまり変わっていない気がする。その点ではチューリングの予想は外れた。

サールは、行動主義の立場ではない。意識の状態を明示的に参照しているからだ。

サールがチューリングテストの部屋に入った(質問されて答える役になった)とする。
(1)英語の質問をされて英語で返す場合。
(2)中国語どうしの対応付けの規則を英語で与えられて、中国語の質問に中国語で答える場合。
後者の場合も、質問者は部屋の中の人(サール)が質問を「理解して」答えたと(部屋の中には中国語のわかる人がいると)判断するだろう。しかし、サール自身には、英語は理解しているが、中国語は理解せずに応答していることが自分でわかっている。これは、機械が人間のように何かを「理解」することは絶対にないという証明にはならないけれども、機械が知的に振る舞っていても実は何も理解していないことがありうるという証明にはなる。これが「中国語の部屋」と呼ばれる思考実験だ。

チューリングテストを知って「そうだそうだ」と思った人が、サールの「中国語の部屋」を知って「あれ?確かにそうだな。チューリングテストはダメだ」と思うことはありうる。しかしそもそも、チューリングとサールは立場というか、関心のありどころが違うので、サールがチューリングを論破したとは言えない。チューリングからしてみれば、「そこ、気になる?」というだけの話かもしれない。

さて、サールのこの論文は、チューリングテストへの反論だけを目的としたものではない。有名な「弱いAI」と「強いAI」の区別から話を始めて、「強いAI」を批判することをメインストーリーとする論文である。

「弱いAI」というのは、AIとは単に便利な道具であるという、ごく穏健な考え方。「強いAI」というのは、人間と同じ知的振る舞いをするAIが完成したら、それは人間と同じ知能や心を有しているとみなすべきであり、むしろそのとき人間の知能や心の仕組みが解明されたことになる、という考え方。

サールは、この「強いAI」説を論破した。「中国語の部屋」の思考実験によって、本当は何も考えていないのに考えているように見えるケースがあることを証明したからだ。しかし、「強いAI」説を心から主張する人がどれだけいるのかというと疑問なので、ちょっともやもやする。極端な意見を攻撃の的にして、それを倒して勝ち誇るのはいかがなものか。多くの人を敵に回して「機械は考えないと思うんならそうなんだろう お前ん中ではな」と言ったチューリングの方がかっこいい。いやそういう問題じゃないか。

このサール論文はわりと長い。「強いAI」論者に対する反論がずらずらと並べられていて、そこは退屈だ。コンピュータに適切なプログラムをすると意識を持つようになるという主張は今も昔もかなりの無理があるのだから、それに対するサールの反論もとくに面白くはない。

面白くなるのは、最期の結論部だ。

「『機械は考えることができるか』――答えは明らかにイエスである。私たちがまさにそうした機械である」(p202)。

「強いAI」論者をさんざん論破したのに、サールはしれっと「機械は考えうる」という。機械が意識や心をもち、ものを考えることはありうる。なぜなら、人間は機械だから。

でも、「中国語の部屋」のようなしくみで人間のように振る舞う機械は「考え」てない、心を持っていないと、そうサールは言ったではないか?

その通り、とサールは答える。「中国語の部屋」では記号の操作が行われているだけであり、そこに「志向性」はない。「志向性」を有することができるのは「特殊な器械、すなわち脳および脳と同じ産出力をもった機械だけ」(p209)なのだ。

なんだか突然、「志向性」とか「産出力」の話になってしまった。結論部でいきなりそんな話を出してこないでほしい。

サールは続ける。「もちろん、脳はデジタル・コンピュータである」。しかし、「志向性を産み出す脳の産出力は、あるコンピュータ・プログラムの具体的実現という点に存在するのではない」(同)。

サールは、こう整理する。「強いAI」説は、つまるところ、コンピュータにあるプログラムを走らせると心(志向性)が生じる、というものだ。しかし、そんなことが起こるはずがない。「志向性〔…〕は生物学的現象であり」、「生化学構造に因果的に依存している可能性が高い」(p209)のだから。

でも、人間は機械だって、さっきサールが言ったんじゃん! 生化学的な機械であるところの人間の脳がその志向性とやらを持っているのは、じゃあどうしてなんだよ!

「志向性をつくり出すために脳がしていることが何であろうと」(p210)…。はいはい、サールもわかってませんね。まあ当たり前か。それがわかったらノーベル賞1000個分くらいの大発見だしな。

「中国語の部屋」の初出をみてやろうと思っただけなのに、予想外に面白い論点が出てきてしまった。これが原論文にあたることの醍醐味ですね。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です