そもそもそれ自身で「人間の仕方」で情報のカテゴリー化を行う システムというものは本当に構築可能なのであろうか。
　これは脳のシミュレートが理論的に実現可能であるという意味に おいては少なくとも実現可能である。
　では，この人間の「視点」を持つシステムに向けて，どのような アプローチが考えられ得るだろうか。

「人の視点」の実現

「機械の心」の実現というものに対して，まず前節での「『人間の 仕方』で情報のカテゴリー化を行うシステムを創る」というアプロー チの実現の仕方について考えてみよう。

　理論的にいえば，我々の脳の並列的，場所依存的なシナプスネッ トワークを機能的に過不足なくシミュレートできれば，（脳の活動 のどの部分をコンピュータでシミュレーションさせるのかということ には多くの議論が残るとしても）「心」のようなものが形成される というのは疑いない。しかし，脳の活動の極めて詳細な解明がな されなければ，これをシミュレートするなどということはでき得るは ずがない。
　問題は，機能的に単純な一つのニューロン，一つのシナプスが， どの程度の複雑さを持ってネットワークを創ったとき，それが「心」 のようなものを持ちうるのかということである。
　この疑問に答えるために，例えばエーデルマンは神経淘汰説 (theory of neuronal gr oup selection)という仮説を立て， ニューロンやシナプスがどのようなメカニズムによってその種（この 場合は人間）特有の神経構造を構築することができるのか。また， どのようにして構築されたネットワーク構造が効果的な諸々の機能 回路を造形していくのか。さらにこれらの局所的な活動がどのよう にして収斂され，結果的に生理学と心理学を繋ぐことになるのかと いったような疑問に対して，一つの解決策を提案している。
　現在のところ，これらの疑問に答えることは，私にはできない。 しかし，それを知る一つの方法としては，人間に近い高等な哺乳 類の脳を調べること。さらに擬似的なネットワークを実際に創って みることなどが考えられる。
　この様に実際の脳の活動に重点を置いた生物学的，脳生理学的 アプローチは，将来的にある種の期待がもてる。

機能主義の限界

　脳の構造ではなく，心の機能に注目したアプローチも考えられる。
　機能主義と呼ばれ，現在の人工知能研究の主流ともいえるこのア プローチは，しかし「心」の実現という観点からいえば困難が多い。

　ミンスキーの「心の社会」理論によれば，「心」は機能的に小さ なプロセスの集合体である。
　そのプロセスそのものには，無論「心」といったものはない。こ れだけを見ると，機能主義の立場は理論的に有効であるようにも思 えるが，しかし機能主義が主に扱っている「心」の機能が，我々に とって非常に高度な心的活動であるということが，一つ困難の原因 になっていると考えられる。

　例えば我々が行っている言語の理解という「心」の機能を考えて みよう。
　ミンスキーは，「言葉による思考には心の活動のごく一部分しか 現れていない」ということを断った上で，これが，単語の性質や関 連記憶の膨大な認識エージェント（ミンスキーは，心を構成する小 さなプロセスの一つひとつにエージェントという名を付けた）たちの 活動から始まって，情報の証拠による推論や概念の一般化，思考 の認識からこれらの活動のループ構造，記憶や学習によって強調 される結合のライン，曖昧さや表現といったものに対する考察等々， 挙げていけばきりがないほどの非常に複雑なエージェンシー（エー ジェントの集団）たちの活動とその社会的な結合によってボトムア ップ的に組み上げられているということを強調する。
　確かに我々は，日常的に会話を交わしているとき，なぜその単 語そのものの意味を我々が理解しているかのということを考えない。 また矛盾を含んだ文や，一義に決まらない曖昧さを含んだ文に対し ても我々は柔軟に対応できるが，その理由を我々が自らに問いかけ ることはしない。そしてもしそれをしたとしても，すればするほどそ の理由ははっきりしなくなり，最後にはどうでも良くなってしまうか， そういうものなんだと決めてかかるしかなくなってしまう（自分自身 の解釈に対して「どうしてそうなるのか？」と５回も問い返してみれ ばよい）。

　このようなエージェンシーの，意識下の複雑な活動は，我々の日 常生活のいたる所で目にすることができる。
　なぜ友人と芸能人の顔の区別が付き，その人の名前を言うことが できるのか。なぜ平坦でない道をまっすぐに歩くことができるのか。 なぜ声を出して話すことができるのか。なぜ梅干しを思い浮かべる ことができるのか。またそのとき，味を連想して唾液がでるのはな ぜか。なぜ文字を識別することができるのか。なぜ音楽や芸術で感 動することができるのか。なぜ他人に「心」があるような気がする のか，等々。
　このような例を見ても解るように，我々の意識することのない領 域で，たくさんの理解を行う，あるいは理解を助けるためのプロセ スが働いている。いや，ある意味で，このようなたくさんのプロセ スこそ，「理解」というものの本質であるかも知れない。

　「理解」というものは，通常の言葉遣いなら，少なくとも我々の 意識の中で行われるものである。それは「理解」が知性を必要と する現象だからである（普通無意識状態に知性の発現はない，と 考えて良い。反射のような行動は知性を必要としない）。
　しかし，この「理解」という機能は，我々の「メタ意識」が「対 象意識」に対してモニタを行うように，「メタ意識」的な心的機能 が働いて，「理解」の各プロセスを点検し，総合的，全体的な「理 解像」のようなものを構築し，それを意識する事によって発生する 心的現象であるという仮説は成り立たないであろうか。

　「リンゴ」という言葉に対する「理解」というものを例にとってみ れば，例えば，あるプロセスはリンゴの色に対して「赤」という概 念の記憶を呼びに行き，またあるプロセスはリンゴの形に対する記 憶と結びついている。あるプロセスは味覚に関する記憶を受け持 っており，あるプロセスは匂い，あるプロセスはリンゴから連想さ れるエピソード記憶を受け持つ。
　このように，記憶から構成される（あるいはもっともっと細かい） プロセスをボトムアップ的に（いや，あるいは並列的に）構成し， それを全体像として「メタ意識」の方から眺める。あるいはこのよ うなものが「理解」の正体であるかもしれない。

　しかし，いずれにしても我々が我々の意識する方法でそれら意識 下のプロセスに接近することは難しい。なぜなら（しごく当然のこ とだが），それら意識下のプロセスが，意識されない部分で処理さ れているからである。
　これらのプロセスに接近するという行為は，我々がなぜ「リンゴ」 を思い出せるのかを自問するのに似ている。

　このように，我々が考え得る「心」の機能というものは，我々の 意識下においてすでに多くのプロセスが働いた結果であり，それら のプロセスの社会的，相互依存的な活動そのものが，「心」とい う物質にとって特異な性質を，実現するということにおいて非常に重 要であると考えられるのである。
　したがって，我々が意識しうる構造的に上位の心的機能を「機能 的に」実現した各システムを単純に統合するような方向では，「心」 の実現を望むのは難しい。
　また当然，このように脳の構造を視野に入れず，我々に表出する 心的能力を，ただ「機能的」に実現していこうというだけの立場で は，「心」を機械に載せるという観点からいえば，サールがしたよ うな素朴な反論を受けざるを得ないのである。

　しかし，このような上位機能を多くの細かなプロセスに分け，さら にそれらを統合する際に，相互依存的，立体的，績層的に機能を構 築していく，という試みがあるとすれば，あるいはそこに意味論のよ うなものを持った計算機というものが実現する，という可能性がある ように思う。なぜなら，それがどれほどの複雑さを持たなければなら ないかは解らないが，我々の概念カテゴリー能力は，そのようにし て創られてきたのであろうと想像できるからである。

ナラヤナンの提案

　ネーゲルの「コウモリ」の論文を受けて、ナラヤナン(Ajit Narayanan)は「機械であることはいかなることか？」という論文[１] を著した。
　ナラヤナンは, モニィという原子炉監視用エキスパートシステムを 使った思考実験によって，ネーゲルの意識の議論を存在するもの一 般，ひいてはコンピュータプログラムにまで拡張することを試みたの である。こういう言い方をしてしまうと汎心論と誤られるかも知れな いが，ナラヤナンの意図していたのは，適正にプログラムされたシス テムは固有の意識を持ちうる，ということに集約されるように思う。
私はこのテーゼに異論はない。しかし，そのこととナラヤナンが持ち 出した思考実験のモニィを意識を持つ主体と認めることとは，まった く別のことである。いわんや機械に「心」を認めるということならば なおさらである。
　しかし，機械に「知能」，「意識」といった心的機能を付与する ということの意味を考えるという観点に立つと，ナラヤナンが提案し た思考実験は示唆に富んでいる。

　エキスパートシステムと「機械の心」の関係を見るために，ナラ ヤナンの思考実験を概観しておこう。

　ナラヤナンは，まずモニィという原子炉制御用エキスパートシステ ムを提案する。
　モニィは原子炉の様々の部位に接続された数百のセンサーによっ て世界を「知覚」しながら，エキスパートシステムを用いて原子炉 の作業状況を監視している。 　エキスパートシステムは特別なものではないらしく，プロダクショ ンルールと呼ばれる「もし....ならば....せよ」という形式で表現 された多数の規則の集合を持っている。
　モニィが特別なのはむしろここからで，彼は，一般的規則という ものを有しており，それによって彼自身が自らの振る舞いに存する 規則性に気づいた場合，彼の規則の集合を修正したり，最適化し たりすることを許しているのである。
　さらに（そしてもっとも独創的なことに），彼は「タイプ・マイナ ス１」と呼ばれる特殊モードをももっている。この「タイプ・マイナ ス１」というのは「無」から「何ごとか」を生成することを許す，モ ニィの特殊な態勢である。

　これには若干の補足が必要であろう。チョムスキー(N.Chomsky) によれば，文法にはそれぞれタイプ０（非制限文法），タイプ１ （文脈依存文法），タイプ２（文脈自由文法），タイプ３（正規文 法）と呼ばれる４種のタイプがある。

タイプ３ :

Ｘ→ａｂ
Ｘ→ａｂ

タイプ２ :

Ｘ→ａｂＹ
Ｘ→ＹＺａｂＺ

タイプ１ :

ａＸｂ→ａｂｃｂ
ａＸｂｃ→ａ

タイプ０ :

ＸＹ→ａＸＹｂ
ＸＹａ→ＸｂｃａＺｃ

Ｘ,Ｙ,Ｚ：非終端記号　　ａ,ｂ,ｃ：終端記号

　ナラヤナンが設定したモニィの仕様は，概ね以上のようなもので ある。
　彼はこのモニィを使って，「機械」が「機械」独自の意識を有 することを主張する。ナラヤナンの論旨はこうである。

　モニィは今や己が従うプロダクションルールそのものを，産み出 し，手を加え，削除することができる。
　例えば，モニィがある規則に対してなにがしかの法則を適用し， その規則を削除し，それに変わる規則を産出したと仮定しよう。
　我々がモニィの振る舞いを理解するためには，モニィがなぜその ようなことを行ったのかを知る必要がある。モニィがいつ，いかに して，なぜそのような規則を産み出したのか，モニィからの理論的 な説明がなければ，我々はモニィの振る舞いを理に適ったことであ ると見ることはできないであろう。すなわちここには，モニィの 「視点」というものを認める必要があるはずである。

　ナラヤナンの議論に対しては，程度の差こそあれ，ネーゲルが犯 したものと同種のカテゴリーエラーを指摘することができる。私が 思うに，モニィが行うプロダクションルールの産出が，己が持って いるルールのバリエーションを増やすという程度のものなら，そこ に「コウモリ」と同様の「意識」ないし「視点」を認めることがで きるであろう（コウモリが知覚するものは我々と同様の「世界」で あるが，モニィが知覚するのは原子炉の情報で創られた「世界」で あることに注意）。
　しかし，我々が注意を払うべきなのは，この「意識」が我々の 「意識」ないし「視点」と等価ではないということである。

　ナラヤナンは論文の冒頭，モニィの独白という形で状況説明を行 い，モニィがテューリングテストにも合格するレベルの非常に高い 知性を持っていることを我々に印象づける。この時点で，ある意 味もうナラヤナンの勝ちである。
　確かにモニィは原子炉という非常に危険性及び重要性の高いも のを扱うエキスパートシステムであろうが，私の思うところ，原子 炉制御のエキスパートシステムより，テューリングテストに合格しう るプログラムを創る方がはるかに難しいはずである。ましてモニィ は原子炉の制御システムが本業であり，我々の相手をするために 創られたシステムではない。つまりテューリングテストというゲーム に勝利するために戦略的に練られたシステムではない。
　にもかかわらず，モニィは我々のあらゆる質問に対して，（我々 の曖昧な質問に対しては我々の意図をくみ取り，時には我々の危 険度人物度まで考慮して）見事な返答を返してくれる。
　モニィ本人は謙遜してか，自分の返答が，自分のもっている方 針と自分自身に対してもっているいくつかの手短な叙述の基本形を 柱にして組み立てたものだ，と説明しているが，それだけのことで， 例えば「洪水」のような概念を正しく理解することができるとは， 私にはまったく思われないのである。

　問題は，ナラヤナン自身がラインの引き方を誤ったという点にある。
　モニィは，手持ちの規則に含まれないような事態を「想定」する 事ができ，またこの手持ちの規則に含まれないような事態に対して， 「試行錯誤」によってこれに対処する規則を作成することができると いう。
　しかし，これは原理的にいって不可能である。
　「タイプ・マイナス１」に入ることによって，確かにモニィは，いか なる前提もなしに任意の帰結を自由に産み出すことができるかも知 れない。しかし，それには「タイプ・マイナス１」で帰結するそのも のに対するモニィの「理解」（というか，少なくとも意味論を持ちう ることが）が不可欠である。
　そもそもモニィは，「洪水」という言葉とその「洪水」の意味を 何処からもってきたというのだろう。彼にあらかじめ用意されてい るという「きわめて一般的な」「原子炉の全体的計画ないし指針 を扱う規則」の集合の中に，このようなものまで適切に概念化され， 織り込まれているというのであろうか。
　我々が「洪水」を知っているように，モニィにも「洪水」に対す る理解があるとしたのが，ナラヤナンの犯した致命的な誤りである。

　モニィは確かに「視点」を持ち得る。しかし，それは「コウモリ」 や人間以外の下等な動物が持っているような「視点」である。
　この点において，ナラヤナンの結論は誤っていない。
　しかし，前節でも指摘した通り，我々の様な「視点」を持ち得る のは，少なくても十分複雑な脳のネットワークを部分的にでも実現 したような，脳と類似した情報処理を行えるシステムである必要があ る。
　モニィは確かに強力な「人工知能」であろうが，「機械の心」 を実現させるという観点から見れば，悲しいほどに遠い。

　では，「知能」とはいったい何であろうか。

知能−−その征服されざるもの

　「知識」という言葉に字義通りの定義を与えたすると，例えば我 々は，例えば本が知識を所有していることを知っている。
　しかし，知識とはそれそのものでは何の機能も果たさず，それを 使うものがいなければ役には立たない。我々は，本が我々のような 「知能」を持っていないことを知っているし，それは自明である。
　しかし，本と，それを読み理解し，利用することができる主体とを 同時に見たとき，我々はそれを「知能」と認め得る。なぜならその 主体は，（我々との間に適切なインターフェイスが用意されていれ ば）その本が持っている知識を我々に，その主体の仕方で教授し 得るという点において，機能的に我々の「知能」の部分的な代行 行為を行い得るからである。
　しかし，ではある種の英文翻訳ソフトが「知能」であるかといえ ば，それは広い意味での「知能」であるかもしれないが，我々が 持っているような「知能」であるとはいえない。なぜなら，それは その英文翻訳ソフトが自らの持っている知識に対して「理解」を持 っていないからである。
　ではチェス指しなどの知的作業を行うプログラムはどうか。
　これは，適正にプログラムされていれば，少なくともそのチェス という閉じた系においては「知能」を有しているといえる。なぜな ら，チェスプログラムは自らの扱い得る対象に対する初歩的な概 念と，その世界の規則に対する知識を持っているからである。

　ならば，結局のところ「知能」とは何なのか。
　例えば我々は，人間のチャンピオンに勝利するような優秀なチェ ス指しプログラムには，直観的に「知能」を認め得る。
　また我々は，チェスなど知らない小学生にも「知能」を認め得る。
　また，道具を使ったり，コミニュケーションを取り合ったりするよ うな特定の哺乳類にも，やはり「知能」を認め得る。
　どうやら我々は，「知能」をいう言葉を使うとき，あるいはそれ を直観的に認め得るとき，「何らかの問題解決能力を持っている」 くらいの感覚で合否の判断をしているようである。
　しかし，それが「知能」という言葉の意味であるならば， 「知能」というものに対して，一つの定義を与えることができそう である。
　すなわち「知能」とは，我々が何か難しい問題を解決する際に， それをうまく克服するための能力のことを指す言葉である。

　知能とは一人の人間の推論能力に対して，何か一つのものとか要 素だけが責任を負っている，という作り話を表すのによく用いる用語。 私はむしろ, この言葉が，なんら特別の力とか現象を表すのではな く，いつだって，心の技能のうちで感嘆はするがまだ理解はしていな いような技能をひっくるめて表現するだけなのだ，と考えたい。
( Marvin Minsky :"The Society of Mind",Simon\&Schuster, 1986. 安西祐一郎訳，『心の社会』，産業図書，1990. [17])

　「人工知能」は，計算機に「知能」を実現しようという試みから 出来た言葉である。
　しかし，真正に我々の「知能」というものを実現するということ は，我々のように極めて柔軟な「問題解決」のための能力，及び 技能を機械に持たせるということなのである。

　我々には「知能」がある。この言い方は誤りではない。しかし， それはあくまで我々の通常の言葉遣いが意味する「知能」の範囲 でのみである。なぜなら，「知能」というのは「言語能力」のよう なかたちでは存在するものではなく，それはむしろ理論的実在とい うべきものだからである。
　そして，その限りにおいて，機械に我々同様の「知能」というも のを持たせることは不可能である。
　なぜなら特定の設計仕様を持 つ機械では，我々並の自由度や柔軟性を望べくもないからである。 万が一それが可能となることがあるとしたら，それは人間のような 「視点」，つまり「機械の心」のようなものを実現し，その上に総 合的な知的システムを構築したときであり，唯一そのときのみであ ろう。

ロボティクスの視点とノエティクス

　そこでこんな考え方が産まれる。実際に我々が住む世界で動く機 械を創ってみて，その過程や結果を「意識」や「心」といったもの の創造に活かせないか。

　通常のサイバネティクスに基づいたロボティクスから，このような 副産物が産まれるとは考えにくい。サイバネティクスは，固定した 設計条件を持っており，我々が属する開かれた世界にくらべれば， それは一つの閉じた系である。
　「機械の心」に必要なのは，脳と神経細胞を意識した，学習可 能性と知覚，概念カテゴリー化能力を持ったシステムである。
　例えば価値カテゴリー化の淘汰によって学習を行うシステムを脳 とし，それによってロボットを制御するような研究を，エーデルマン はとくにノエティクスと呼んだ（ギリシャ語：ノエイン＝認識）。

　「心」の一側面として，「意識」というものを考えた場合，多く の研究者によって，我々の持つ高度な意識とは別に，その意識の 元になっていると思われる「原意識」とでもいうべきものが提唱さ れている。
　それはエーデルマンの言い方を借りれば，長期記憶がなく，個人 の自己の明確な観念または概念がなく，過去または未来のモデルを 考える能力が欠如した，より低次の意識のことである（私がこれま で扱ってきたものでは，高等哺乳類以外の生物固有の「視点」とい うのと似た概念である）。
　ロボティクスを絡めた「心」に対するアプローチでは言語を扱う 必要性がないので，さしあたっての目標は，この「原意識」を創 るということになってくるだろう（「メタ意識」を伴うような自己参 照，あるいは自己認識は高度な意識に分類される）。
　このようなアプローチに対して何かを語るには，現在の私の知識 は極めて卑小である。しかしこのような方法は，神経組織の研究に とっては大いに教えるところがあるであろうし，また「機械の心」 というものを考えるにあたっても，生理学と心理学を結ぶという観 点から見ても，検証可能性を考えた場合極めて実際的であると思 われる。

　このような研究は，人工知能研究の中でもとりわけ新しい分野で あり，大きな成果を挙げるという段階までは進んでいない。
　しかし，この疑似神経淘汰的なシステムで学習を行うという方向 は，理論的には可能でない理由がない。なぜなら（部分的な差違 があるとしても）我々の脳の神経が，このような方法で発達してき たと考えられるからである。
　我々の脳は確かに，生得的に与えられたものである。しかし，そ の脳に刺激を加え，経験を積ませ，複雑な「心的」システムを構築 してきたのは他ならぬ我々なのである。まして 我々人類は，猿やそ の前段階の生物から，淘汰を繰り返すことによって膨大な時間を掛 けて発達し，進化してきたことが知られている。すなわち，機械が このような方法で原始的な「心」を獲得したとしても，何ら不思議 はないのである。