サールと「中国語の部屋」と「志向性」

前回 はチューリングの「チューリングテスト」の原論文を読んだ。

そうしたら次には、チューリングテストとセットで語られることの多い、サールの「中国語の部屋」の原論文(ジョン・サール「心・脳・プログラム」1980年)を読まないわけにはいかない。これもホフスタッター&デネット編『マインズ・アイ』(新装版の下巻)に収録されている。

私は、「中国語の部屋」は「チューリングテスト」を論破した思考実験であるという先入観を抱いていた。しかし両方の論文を読んでみたら、必ずしもそうではなかった。

チューリングが1950年の論文で言ったのはこうだ。「機械は考えうるか」という問いは、「機械とは?」とか「考えるとは?」とかいった曖昧な問題に発散してしまって決着がつかない。「機械は、人間と見分けのつかない知的振る舞いをするというテストに合格できるか」という問題に置き換えれば、元の問題と同一ではないにせよ、そのかなりの部分をカバーしつつ、明確な答えの出せる問題になる、と。

そして、この新しく設定した方の問題、すなわち「チューリングテスト」にかんするチューリング自身の予想は、イエスだ。「今世紀の終わりには〔…〕機械が考えるということについてもはや反駁される心配なしに語ることができるようになると思う」(上巻p76)。西暦2000年ごろには、人間のような知的振る舞いをする機械が実現していて、「機械が考える」というのは当たり前の捉え方になっているだろう、というのだ。

チューリングは明らかに行動主義の(観察可能なものだけに注目する)立場であり、他の人々もこの立場を採るだろうと思い込んでいる。コンピュータが人間なみの振る舞いをすることが当たり前になれば、機械は本当に「考え」ているのか、などと頭を悩ます人はよほどの変人だけになるだろう、と言っているのだ。たとえば私たちは、他人が考えたように見えたとき、本当は考えたのではないのかもしれない、などと疑問を抱かない。相手が機械だろうが人間だろうが、どうせ自分意外の意識を覗き見ることはできない。考えたように見えたなら、考えたとみなすのが普通なのである。しかし、チューリングの論文から50年以上経ったけれども、機械は本当に「考え」るのかという論点については、状況は当時とあまり変わっていない気がする。その点ではチューリングの予想は外れた。

サールは、行動主義の立場ではない。意識の状態を明示的に参照しているからだ。

サールがチューリングテストの部屋に入った(質問されて答える役になった)とする。
(1)英語の質問をされて英語で返す場合。
(2)中国語どうしの対応付けの規則を英語で与えられて、中国語の質問に中国語で答える場合。
後者の場合も、質問者は部屋の中の人(サール)が質問を「理解して」答えたと(部屋の中には中国語のわかる人がいると)判断するだろう。しかし、サール自身には、英語は理解しているが、中国語は理解せずに応答していることが自分でわかっている。これは、機械が人間のように何かを「理解」することは絶対にないという証明にはならないけれども、機械が知的に振る舞っていても実は何も理解していないことがありうるという証明にはなる。これが「中国語の部屋」と呼ばれる思考実験だ。

チューリングテストを知って「そうだそうだ」と思った人が、サールの「中国語の部屋」を知って「あれ?確かにそうだな。チューリングテストはダメだ」と思うことはありうる。しかしそもそも、チューリングとサールは立場というか、関心のありどころが違うので、サールがチューリングを論破したとは言えない。チューリングからしてみれば、「そこ、気になる?」というだけの話かもしれない。

さて、サールのこの論文は、チューリングテストへの反論だけを目的としたものではない。有名な「弱いAI」と「強いAI」の区別から話を始めて、「強いAI」を批判することをメインストーリーとする論文である。

「弱いAI」というのは、AIとは単に便利な道具であるという、ごく穏健な考え方。「強いAI」というのは、人間と同じ知的振る舞いをするAIが完成したら、それは人間と同じ知能や心を有しているとみなすべきであり、むしろそのとき人間の知能や心の仕組みが解明されたことになる、という考え方。

サールは、この「強いAI」説を論破した。「中国語の部屋」の思考実験によって、本当は何も考えていないのに考えているように見えるケースがあることを証明したからだ。しかし、「強いAI」説を心から主張する人がどれだけいるのかというと疑問なので、ちょっともやもやする。極端な意見を攻撃の的にして、それを倒して勝ち誇るのはいかがなものか。多くの人を敵に回して「機械は考えないと思うんならそうなんだろう お前ん中ではな」と言ったチューリングの方がかっこいい。いやそういう問題じゃないか。

このサール論文はわりと長い。「強いAI」論者に対する反論がずらずらと並べられていて、そこは退屈だ。コンピュータに適切なプログラムをすると意識を持つようになるという主張は今も昔もかなりの無理があるのだから、それに対するサールの反論もとくに面白くはない。

面白くなるのは、最期の結論部だ。

「『機械は考えることができるか』――答えは明らかにイエスである。私たちがまさにそうした機械である」(p202)。

「強いAI」論者をさんざん論破したのに、サールはしれっと「機械は考えうる」という。機械が意識や心をもち、ものを考えることはありうる。なぜなら、人間は機械だから。

でも、「中国語の部屋」のようなしくみで人間のように振る舞う機械は「考え」てない、心を持っていないと、そうサールは言ったではないか?

その通り、とサールは答える。「中国語の部屋」では記号の操作が行われているだけであり、そこに「志向性」はない。「志向性」を有することができるのは「特殊な器械、すなわち脳および脳と同じ産出力をもった機械だけ」(p209)なのだ。

なんだか突然、「志向性」とか「産出力」の話になってしまった。結論部でいきなりそんな話を出してこないでほしい。

サールは続ける。「もちろん、脳はデジタル・コンピュータである」。しかし、「志向性を産み出す脳の産出力は、あるコンピュータ・プログラムの具体的実現という点に存在するのではない」(同)。

サールは、こう整理する。「強いAI」説は、つまるところ、コンピュータにあるプログラムを走らせると心(志向性)が生じる、というものだ。しかし、そんなことが起こるはずがない。「志向性〔…〕は生物学的現象であり」、「生化学構造に因果的に依存している可能性が高い」(p209)のだから。

でも、人間は機械だって、さっきサールが言ったんじゃん! 生化学的な機械であるところの人間の脳がその志向性とやらを持っているのは、じゃあどうしてなんだよ!

「志向性をつくり出すために脳がしていることが何であろうと」(p210)…。はいはい、サールもわかってませんね。まあ当たり前か。それがわかったらノーベル賞1000個分くらいの大発見だしな。

「中国語の部屋」の初出をみてやろうと思っただけなのに、予想外に面白い論点が出てきてしまった。これが原論文にあたることの醍醐味ですね。

オリジナル版チューリングテストは性のゲームだった

ホフスタッター&デネット編『マインズ・アイ』(TBSブリタニカ、新装版、1992年)に所収のチューリングの論文「計算機械と知能」を読んだ。

有名な「チューリングテスト」の初出となる論文だ。チューリング自身は「イミテーション・ゲーム」と呼んでいる。

「チューリングテスト」にはいくつものバージョンがある。現在は「チューリングテスト」と言えば、「ある人が、タイピングなどを介して、相手が人間なのかコンピュータなのかわからない状態で会話をする。コンピュータが人間のふりをすることに成功したら(人間が、コンピュータのことを人間だと思い込んでしまったら)、そのコンピュータには知性があるという、一つの基準となるかもしれない」というものだろう。

しかし、この原論文で初めて登場する「イミテーション・ケーム」は、もう少し複雑だ。

「ある人(質問者)が、タイピングなどを介して、一人の女性および一台のコンピュータと会話する。コンピュータは人間の女性であるふりをして回答する。女性は、自分こそが人間の女性であるとわかってもらえるように(質問者がコンピュータに騙されないように)回答する。コンピュータが女のふりをすることに成功したら(質問者が、コンピュータの方が人間の女性であり、人間の女性の方は自分を騙そうとしているコンピュータだと思いこんでしまったら)、そのコンピュータには知性があるという、一つの基準となるかもしれない」。これが、チューリングの原論文の冒頭に描かれている「イミテーション・ゲーム」だ。

なぜ女性? 性別関係ある? コンピュータに女性のふりをさせる、しかも本物の女性と競争させつつ。妙に難易度高くない? 高い知性をもつ人間の男性にだってできないかもしれない。女性のふりをするってのは、たしかに高度な知性が必要だろうけど、知性の問題とずれちゃってない?

チューリングいわく、この「イミテーション・ゲーム」は、もともと、一人の男と一人の女が、自分こそが女であると質問者に思わせるように会話するゲームなのだという。実際に当時、そういう遊びが流行っていたのだろうか? この男の役を単純にコンピュータと置き換えたのがチューリングが最初に描いた「機械は思考するか」のテストだ。妙に複雑な問題設定なのは、この人間三人で行うゲームをもとにしているせいである。

この論文の中でさえ、このテストの変奏が述べられてゆくので、チューリングテストが「女当てゲーム」=「コンピュータに女と競争させつつ女のふりをさせる試み」なのは、この論文の冒頭部のみ。

チューリングがこの論文で目的としているのは、「機械は考えるか?」という問題の建て方は曖昧なので(「機械とは?」「考えるとは?」といった問題へ発散してしまうので)、「機械は人間のふりをできるか?」という問題に置き換えた方がよい。これは「機械は考えるか?」という問題と同一ではないかもしれないが、かなりの部分をカバーするだろう、というものだ。

そして、このように問題を置き換えたことを武器に、「機械は考えない」という主張の様々な根拠をバッサバッサと斬ってゆく、というのがこの論文なのである。

なので、「チューリングテスト」の初出が不気味な性的充填を伴っていたというのは、人工知能研究の立場からはなんら注目点とはならない。私が文学的・哲学的(?)に面白いなと思っただけです。

あと、チューリングがテレパシーの実在を信じてることが伺える点もおもしろい(「テレパシーに対しては、統計的証拠は圧倒的である」p92)。この時代は、大知識人でもテレパシーを信じてた人が多いですね。チューリングだけではない。

まあ、私からは以上です。人工知能の勉強をしようと思って、まずはこの論文を読んでみたんだけど、結局こういう変なところを面白がってしまう。