考える機械を作る方法を具体的に考えていこう。
──
考える機械とは？
「（真に）考える機械」は、できていない。では、それをつくるには、どうすればいいか？ 私なりに考えてみよう。
(1) 知識
知識はどうか？ 単純な知識の構築は、容易だ。Deep Learning の技術の前から、データベースとなる知識を構築することはできていた。代表的なものは Wikipedia だが、同様な知識データベースはいくらでも構築できる。IBM のワトソンというＡＩもあった。コンピュータの得意な分野だ。
さらに、ChatGPT ができると、その膨大なメモリ量を利用して、内部に知識を取り込むことができるようになった。
これを言語的に処理することで、あたかも「考える機械」のようにふるまうことも可能になった。（ ChatGPT ）
(2) 論理
論理を使うことはどうか？
ChatGPT では、論理的な思考はできていない。前々項の ［ 付記 ］ でも示したように、（小学校の）算数の計算のようなレベルでさえ、まともに実行できていない。この意味では、ChatGPT には限界がある。
しかしながら、論理問題を解くのに特化したＡＩを使えば、ある程度の論理的な試行も可能である（ようにふるまえる）。具体的な例としては、「東大の数学問題を解く人工知能」というものがある。（2016年）
→ 人工知能「東ロボくん」、自動求解により東大模試数学で偏差値76.2を記録
→ 「ロボットは東大に入れるか」プロジェクト、AIが模試に挑戦し偏差値を大幅に向上
この人工知能は数学の能力では並みの人間をはるかにしのぐ成績を収めた。十分に論理的な思考能力がある、と見て良さそうだ。しかも、2016年の技術なので、まだ Deep Learning の技術は使っていない、と見ていいだろう。それでもこれだけの成果を出したのだ。
とはいえ、この人工知能にも泣きどころがあった。問題文の文章が長くなると、日本語読解力が劣るせいで、点数が下がってしまうのだ。
→ なぜ人工知能は、東大入試の数学より共通テストが苦手なのか？
同様の理由で、英語も成績は芳しくなくて、点数は２〜３割しか取れなかったそうだ。（言語能力の不足）
→ 意味を理解しないAIの可能性と限界。人間とAIの共通弱点は読解力だった 〜「ロボットは東大に入れるか」2016 成果報告会
国語の場合は、要旨の正誤の判定という、人工知能には比較的扱いやすい問題に絞ると、かなりの好成績を収めたらしい。だが、記述式で主人公の心理を書かせるような問題だと、およそ好成績は望めないようだ。
物理の場合は、かなり成績が良かったそうだ。純粋な理系的な論理処理は得意であるようだ。ただしその前提として、問題文を機械に理解できるように、人間が助太刀して上げるというふうに、足を履かせてあげたらしい。おんぶにだっこふうだ。機械だけで自力で自然文を読解できるまでには至っていないようだ。また、過去の例題と似た問題は解けるが、まったく新規の問題は解けないようだ。その意味で、純粋に思考力を持つほどではない。ChatGPT を理系分野に拡大した、という感じだ。
以上のことからすると、論理的な問題を処理できるまでには至っているのだが、それを意味理解の範囲でやっているとまでは言えない。とはいえ、ある程度の論理力を持つようになっているとまでは言える。
そもそも、人間の論理力というのも、もともとは記号演算を使って行うものだ。その意味で、論理力と言語処理力とは似ている。したがって論理力は人工知能とは相性がいいと言える。
人工知能が論理を使うという点については、かなり楽観していいだろう。「論理的な思考力を持つ人工知能」というのは、遠からず実現するはずだ。というより、2016年の段階で、すでにかなり実現できている。
とはいえ、「意味を理解する人工知能」に届くまでには、まだまだ距離がある。
(3) 記憶と知覚
ここで「記憶とは何か？」を考えよう。
機械の記憶は、通常、データとしてあって、記憶装置に保存される。その記憶とは、画像や文字などのデータだが、特に画像に限ると、次のことが言える。
知覚に相当するデータ ＝ 記憶で再生されるデータ
（カメラで撮影） （ディスプレイで表示）
画像データは、カメラで撮影されたデータと、ディスプレイで表示されるデータが、同じである。あるとき誰かがカメラで撮影して、しばらくしてから誰かがディスプレイで表示する。その両者のデータは、同じである。
一方、人間の場合には、そうではない。人が目で知覚した情報と、しばらくしてから思い出す情報は、かなり異なる。通常、後者の情報量は圧倒的に少ない。しかも、どんどん忘れられていく。
それでも、特に記憶しようとはしないのに、いったん知覚しただけで、その知覚は自動的に記憶されていく。そしてあとになって思い出すことができる。その意味では、「記憶とは、再現された知覚」とも言える。ただし、大幅に簡略化されているが。
では、なぜ簡略化されるのか？ ここでいう「簡略化」は、パーセプトロンにおける「多層のうちの上層」に相当する。入力された初期段階ではなくて、それをパーセプトロンで処理したあとの情報に相当する。
このことは、大脳の構造でも明らかになっている。視覚の神経は、網膜から大量に新家の束となって、大脳の後頭部にある視覚野に接続される。ここで直接、視覚情報が認識される。
その後、視覚野の隣の領域である「視覚連合野」において、視覚野の情報が情報処理される。これはパーセプトロンの上層に相当するようだ。
そして、知覚の再生にあたる記憶とは、視覚野の機能の再現ではなく、視覚連合野の機能の再現である。視覚連合野における認識を再現することはできるが、視覚野における視覚情報の再現はできない。（実際に細部まで見ることはできない。）
以上のことは、視覚でなく聴覚についても同様である。聴覚の記憶を再現するとは、どういうことか？ 簡略化された知覚情報を再現することはできるが、もともとの知覚情報そのものを再現することはできない。音楽にせよ、音声にせよ、そのイメージを頭のなかで鳴らすことはできるが、その音をまさしく聞くことはできない。再現された音は、あくまで簡略化された音（のイメージ）だ。
以上において、「記憶とは、簡略化された知覚情報だ」というふうに言える。それは（時空を越えて）いつでも好きなときに呼び出されるが、最初に体験したときの知覚そのものではなくて、大幅に簡略化されたものである。
たとえば、初恋の彼女の顔を、何十年もの時空を越えて思い出すことはできるが、その顔は、大幅に簡略化されたものであって、過去に見た細部がそのまま再現されるわけではない。
それでも、簡略された情報が頭のなかに再現される。しかも、それは、外部の何かによって命令されて（指示されて・与えられて）再現されるのではなく、その記憶自体が自発的に（ひとりでに）再現される。
ここでは、外部からデータが与えられるのではない、ということに留意しよう。それが「自発的」という意味だ。
(4) 記憶と思考
知覚ではなく概念ではどうか？
概念は言葉とともに記憶されていることが多い。そうした概念を呼び起こして、概念をシステム的に構築することで、思考というものができる。たとえば、今私がこうして書いている文章は、30分ほど前に風呂場にいるときに思いついたものだ。それを思い出しながら、こうして文章に書いている。
風呂場にいたときの思考は、頭のなかで概念を操作していたのだが、そうした概念は、過去に形成された概念である。概念のネットワークのなかにある個別の概念だ。そうした概念が呼び起こされるのは、概念が自発的に生じたからだ。
このとき、概念が自発的に生じるのは、知覚の記憶が自発的に生じるのに似ている。だから、自発的に生じないことがある（思い出しにくいことがある）という点でも、似ている。
たとえば、今日の昼間に食べた食事の皿はどんな皿だったか？ （視覚情報を思い出しにくい。） さっき見たドラマのこの場面で、俳優は何と語っていたのだったか？ （聴覚情報を思い出しにくい。） さっき見たドラマのこの俳優は、ずっと前にも見たことがある俳優だが、何という名前だったか？ （言語情報を思い出しにくい。） ……こういう例では、視覚情報・聴覚情報・言語情報を必死に思い出そうとして、頭のなかで記憶を探る。そのとき、外部から情報がもたらされるのを待つわけではない。その視覚情報・聴覚情報・言語情報が、自発的に生じるのを待っているのである。「何だっけ、何だっけ。ああでもない、こうでもない」というふうに頭のなかを探っているとき、外部から情報がもたらされるのを待つのではなく、その情報が自発的に生じるのを待っているのである。
(5) 是正
そのように自発的な情報が生じるのを待っているとき、頭のなかをいろいろと探っている。すると、いろいろと思考の候補がかすかに頭に浮かびかける。しかしたいていは、浮かびかけても、浮かぶ前に、未然に否定される。ここでは、「妥当でないものを否定する」という機能が働いている。
その機能は、いわば、「エラーチェック」というような機能だ。思い浮かびかけた記憶内容が、妥当なものではないと判明すると、ただちに「それはダメだ」と否定する機能が働く。こういう「エラーチェック」というような機能が、脳にはもともと備わっている。「是正」の機能と言ってもいい。
これは、知覚における「特徴抽出」にも似ている。「ピッタリ合致」という内容はちゃんと採用するが、「ちょっとズレている」という内容は否定する……という機能だ。そういうことを知覚レベルで行う。
特徴抽出の図
前出項目：AI とディープラーニング ５
こういう働きと同様の仕組みが、エラーチェック（是正）の機能でも働いている、と見なせそうだ。（断言はできないが、推定で。）
なお、このようなエラーチェックの能力が高い人ほど、知性がある、と見なせるようだ。たとえば、将棋の高段者は、局面をぱっと見るだけで、ダメな手を直感的に排除して、有力な数個の手だけに範囲を絞ることができる。ここでは、「ダメな手」をあっという間に排除できる能力が、大切だ。その能力は、「ダメな手を否定する」という能力であり、エラーチェックの能力であると言えるだろう。
エラーチェックの能力は、精選する能力だとも言える。これが、思考においてはとても大切になる。人間が考えるときにはその能力が大切だし、機械が考えるときにもその能力が大切になるだろう。
（ ※ その数理的な構造や原理がどうなっているのかは、まだ判明していないのだが。ただ、パーセプトロンの原理では、情報の重みづけをするときに、マイナスの重みづけをする場合もあるので、そういう形で影響するのかもしれない。）
※ 次項に続きます。
→ ＡＩが考えるには？ .3: Open ブログ
