では「心」を創るためは，どのような条件が必要で，かつどの点 を満たしていれば十分であるといえるのだろうか。それには，我々 の「心」の仕組みについて，さらに掘り下げてみる必要がある。

　まず私の立場をまとめよう。
　私は，「心」というものの存在を認める。
　さらに我々が共存している物質的な世界の存在を認める。そして 「心」というものは物理的な存在ではなく，またデカルトが定義した ような方法で存在する物ではない，とする。
　つまり，「心」とは脳と身体中に張り巡らされた神経細胞の活動 によって我々に与えられるものであると仮定する。そしてこの仮定か ら導かれる一つのテーゼとして，「心」が計算機に実現可能である， と考える。

　計算機における「心」の実現可能性については，しかし多くの反 論が考えられる。これらの反論が真であれば，私の定義が誤ってい るということになる。
　ここではこれらの反論に対して反証を加えることで，私の仮定に 対する考察を深めることにしたい。

エーデルマンの反論

あるスケールで見れば脳は巨大な電気回路のようであるが，ミクロ なスケールで見れば，その結合配列はいかなる他の自然あるいは 人工のネットワークとも違う。いま見たように脳のネットワークは発 生時に成長増加するニューロンの伸張と結合によって生まれる。脳 は一つの自己組織系である。その発生の様子あるいは発生後の神 経の顕微鏡的な枝分かれを見れば，電気回路におけるような点対 点の正確な結線はありようがない。それは実に多様である。さら に中枢神経系の神経結線は（とくに写像系では）個体間でも多少 とも類似しているが，決して同じではない。

〈　中略　〉

発生過程の神経系の部分によっては，７０パーセントのニューロン がその部分の完成前に死亡する。したがって一義的に決まった結 線というのはまずない。

〈　中略　〉

もっと面倒なことには，ニューロンは軸索がたくさんの枝に分かれ て他のニューロンの軸索の枝や受容ニューロンの樹状突起上に重 複することである。

〈　中略　〉

このような発生の原理によってニューロンの結線は多様であり，枝 は重なり，その結果としてシナプスのパターンは特定不能。したが って複製不能である。
("Bright Air,Brilliant Fire : On the Matter of the Mind", Basic Books,1992. 金子隆芳訳『脳から心へ』，新曜社,1995.[32])

　これらのことから導かれることは，少なくとも我々が「心」があ ると感じるということにとって重要なのは，あるニューロンが生きて いたり死んでしまったりするという次元のものではないということで ある。すなわち，少なくても我々に「心」があるという事実におい て，ニューロンの結線が一義的であるとかないとかいうことは問題 ではない（例えばいま，我々の脳のニューロンの結線状況が変化 しなくなったとしたら，我々から「心」が消えるであろうか？　シナ プスの結線状況に変化がなくなったとしても，そこにはおそらく電 流が流れるはずである）。それよりはむしろ，そのニューロンによ って創られるネットワークの驚異的な複雑さと，よどみなく続けられ るその活動のダイナミズムをこそ，我々は注目すべきなのである。

　エーデルマンが提出したこの反論に対する答えは，もはや明確で ある。
　少なくとも「心」の「実在」にとって，シナプスパターンが一義 的であるかどうかは必ずしも重要ではない。また固定化されたシナ プスパターンに「心」が存在できないという理論は成り立たない。

　そしてこの解答により，脳個有の特性というものを問題とするこ となく，ただシナプスネットワークの複雑さのみを問題とするのであ れば，脳の機能的なシミュレートは，少なくとも理論的には可能で あるということが導かれる。
　ここで「心脳同一説」に立脚すれば，計算機に「心」を実現す るということは，少なくても理論的にクリアされたことになる。

サールの反論

　英語を母国語とするＡを部屋に入れる。
　そのＡは中国語をまったく理解することはできないものとする。
　その部屋に，中国語を形式的に操作できるだけの規則と中国語で 書かれた物語を入れる。
　さらに部屋の外から第三者Ｂが中国語で書かれた質問と英語で書 かれたいくつかの指示を与える。
　Ａは先に与えられた中国語を操作する規則と与えられた指示に従 って中国語の記号列を形式的に操作し返答する。
　この作業を繰り返しＡが十分に熟練した結果，Ａが英語の指示なし で中国語の操作及び返答をすることが可能になったと仮定する。

　このとき，外のＢは部屋に入れておいた中国語の物語に関する質 問を中国語で行い，まさに中国語の返答を得られることになった。
　いまＢは部屋の中のＡに向かって，英語で質問しても中国語で質 問しても同じように満足のいく回答を得られる。このときＡは中国語 を理解しているといえるか。

　コンピュータは，たとえどんな過程でも，その形式的な特徴をシ ミュレートすることができるが，それは心と脳に対しては特別な関係 にある。なぜならば，コンピュータが脳と同じプログラムによって適 切に理想的にプログラムされる時，コンピュータと脳との二つのケー スにおいて情報処理はまったく同一であり，この情報処理は，実際， 心の本質をなすからである。
　しかし，この議論においての困難は，それが「情報」という観念 の曖昧さに基づいているという点である。たとえば，算数の問題を 考えたり，物語を読んで質問に答えたりする際に，人間が「情報を 処理している」という意味では，プログラムされたコンピュータは 「情報処理」してはいない。コンピュータがしているのは，記号形 式の操作なのである。
　プログラマーとコンピュータ・アウトプットの解釈者が記号を使っ て世界の対象を表示するという事実は，コンピュータの行っている ことの範囲をはるかに越えたところにある。
　繰り返していえば，コンピュータには構文論はあるが意味論はな い。したがって，もしコンピュータに「２プラス２は？」と打ちこんだ としたら，「４」と打ち出すだろう。しかし，コンピュータは「４」 が４を意味するなどとは知らないし，そもそも何かを意味するという ことを知らない。したがって，ここの議論の要点は，コンピュータが 第一階の記号の解釈についての第二階の情報を欠いているというこ とではなく，コンピュータに関するかぎり第一階の記号がいかなる 解釈ももたないということなのである。
("Minds,Brains,and Programs,",The Behavioral and Brain Science,vol.3. 　Cambridge University Press,1980. 守屋唱 進訳,「心・脳・プログラム」, Ｄ・Ｒ・ホフスタッター／Ｄ・Ｃ・ デネット(編), 『マインズ・アイ(下)』,TBSブリタニカ,pp.178-210, 1992. [7])

　一度この錯覚を受け入れてしまうと，サールの論理は非常に強力 である。
　確かに我々は（字義通り意味が分かるという意味において）母 国語に対する理解を持っている。しかし我々のこの理解は，例えば この思考実験の場合なら，非意識的に行われる視覚情報の認識と そのカテゴリー化，知覚カテゴリーと記憶に基づいた概念カテゴリー 化，脳の言語野の活動における概念利用による意味理解，さらに 連想による記憶領域の活動等々によっていわば社会的に構築され たものであり，我々はさらにそれを意識という心的活動によって内 観し，理解していると感じるのである。
　先にも述べた通り，我々の中に小人はいない。そしてそれはニュ ーロンの中においてもそうである。さらに我々の直観おいてさえ， 我々の脳のニューロンが，我々同様の「理解」をもって仕事をして いるとは思われない。

　サールは，テューリングテストにも合格するレベルでの中国語の文 書理解という非常に困難かつ膨大に手間のかかる作業を，我々が母 国語で日常会話を交わすようなスパンで片づけようとしている。
　哀れなＡ氏は，何日もかかるような，手作業でコンピュータをエミ ュレートするというぞっとするほど退屈で骨の折れる作業を，わけも 解らないまま延々と強要されたあげく，やっと答えを返すとその努力 が忘れ去られる。そしてサールはその時間量的な欠陥を無視してお いて，さらにそのときＡ氏が感じたであろう「理解の欠如」だけを 我々に求めるのである。

　我々は脳のニューロンが「４」の意味を理解しているとは思わな い。
　確かにある多くのニューロンによって創られたシナプスネットワーク が一定の複雑さを越えたとき，どこかで理解が産まれるという仮定は 可能である。しかし，だからといってコンピュータの各処理ステップ のそれ自身が理解を持っていないのは自明であり，そんなもので 「理解」というものを説くことに意味はない。
　つまりＡ氏はコンピュータの処理ステップ同様，理解を持ってい る必要がないのである。

　また，サールの議論には「理解」という言葉をキーワードにした このような反論も考え得る。

　我々には「痛い」という感覚がある。
　我々はこれを感じることができ，知っているという意味において 「理解」しているが，機械にこの感覚を理解させることができるだ ろうか。
　このアナロジーを前にすると，先の「中国語の部屋」の思考実 験のときのように我々の直観は「否」と答えてしまう。しかし，で は我々が「痛い」と感じるということはどういうことかをもう一度考 えてみよう。

　「痛い」とは，我々の身体にある任意の痛覚神経に一定以上の 刺激が加えられることである。
　繰り返すが，痛覚神経からパルスがきたためにそれを見て我々の 「心」が「痛い」と感じるのではない。痛覚神経にある一定値以 上の刺激が加わることが「痛い」ということなのである。
　つまりこの定義に従うならば，機械でも「痛い」という概念を持 つことが，理論的には可能である。つまり適切なセンサーとそれを 適正に処理する脳に十分な感覚的，概念的カテゴリー化の機能が あり，かつ自らの状態を自らモニタリングする機構，すなわち「メ タ意識」のようなものがそのシステムに備わっているならば，機械 はその刺激を「痛い」と判断するはずである。
　いや、言い換えるならば，その機械が知るそのセンサーからの 情報こそが，「痛い」ということにほかならないのである（我々が ある感覚刺激を「痛い」と知り得るのは，我々が「痛い」という 言葉が表す意味と，その概念に対する理解を持っているからであ る。これは無論生得的なものではなく，その意味では与えられた， もしくは獲得したものである。だからといって，学習する前の我々 に「痛み」がない，などというつもりはない。つまり，まさにその 感覚刺激という情報こそが「痛い」とい~うことなのである）。

　しかし，それでも何か釈然としない部分が残る。
　「痛い」ということに関して，「機械」がそれを真正な意味で我 々と同様に感じることができるとは思えない。
　貴方の直観はそう囁くかも知れない。人間と機械との間に線を引 くのは，まさにこの「痛い」とか「苦しい」とかいう感覚を「理解」 している，ということではないのか。
　サールのように素朴にそう思うのは，それほど誤っているわけで はない。なぜなら，「心」と「身体」がそれだけ親密だからであ る。
　しかし，例えば我々が物理的に（というか，精神的にではなく普 通に）「痛い」と感じるとき，それは「身体」が痛いのであり， 「心」が痛いのではない，という言い方がおかしいのと同様に， 適当な機能を備えた計算機にとって，センサーからの情報とそれを 処理した結果とは，不可分に結びついた概念たり得るのである。

　サールの議論は，全体として，我々の「理解」や，ブレンター ノ(F.Brentano) が「志向性」と呼んだもの，あるいは我々の脳 の「産出力」といったようなものが，有機体特有のアプリオリな特 性により産み出されているという見方を採っている。
　ここではこれ以上この点に関して多くは触れられないが，この サールの論文に対しては，いくつかの優れた批判がある。私が目 にしたものとしては，「マインズ・アイ」という本の中の「心・脳 ・プログラム」に対するホフスタッター(Douglas R.Hofstadter) の短評に得るものが大きかった。

　また，「心」が生物だけに許された特権であるという考え方に 対しては，同じくホフスタッターの短評の中に見られた，サールの 論文に対するピリシン(Zenon W. Pylyshyn)のコメントの引用で十 分だろう。

君の脳細胞がどんどん集積回路片によって置き換えられることにな り，この集積回路片は各部分の出入力機能が元の部分の出入力機 能と同一になるようにプログラムされているとした場合，君の話し方 は今喋っているのと正確に同じ状態にうまく保たれることは確実だろ う。その結果，喋ることによって何ごとをも意味しないことになるだ ろうが。
　われわれ外部の観察者が言葉と理解するものは，君には回路に よって生じる一定の雑音でしかなくなるだろう。