──
出力した結果が人間と同様だから、途中過程も人間と同様だろう……と思う人が多いようだ。そのせいで、Google の検索画面で質問すると、次のように回答される。
検索語 「ＡＩはなぜ思考力を持つか？」
Google のＡＩ回答
AI による概要
AIが「思考力」を持っているように見えるのは、人間が脳で行っている思考プロセスを、コンピュータ上で確率と統計の計算によって模倣しているためです。
AIが高度な知的生産（文章作成、推論、アイデア出し）を可能にしている主な理由は以下の通りです。
1. 膨大なデータに基づく確率・統計的計算
現在の生成AIは、ニューラルネットワークという脳の神経回路を模したモデルを使い、インターネット上の巨大なデータを学習しています。
・ 計算の結末: AIが「考えている」ように見えるのは、次の言葉や行動を確率に基づいて計算・予測している結果です。
・ パターンマッチング: 過去の膨大な事例から「次に何がくるか」というパターンを高速に探すため、まるで思考しているかのような賢い答えが出せるのです。
2. 人間の言語と論理の模倣
AIは単なるデータの検索機ではなく、言語の論理構造や文脈を理解する技術（大規模言語モデルなど）を身につけています。
・ 言語の理解と推論: 質問の意図を汲み取り、論理的な手順を踏んで推論・整理する能力を持っています。
・ 思考の補助（壁打ち相手）: AIは単に結論を出すだけでなく、「別の視点」や「論理的な矛盾」を提示することで、人間の思考を深める役割を果たしています。
ありがちな解釈であるが、前項の話を読めば、これらが間違いであることはわかるだろう。
(1) 「人間が脳で行っている思考プロセスを……模倣している」→ 違う。ＡＩが模倣しているのは、思考過程ではなく、言語過程だけである。言語を模倣すると、思考が自動的に現れた（創発された）のである。
(2) 「次の言葉や行動を確率に基づいて計算・予測している」「過去の膨大な事例から「次に何がくるか」というパターンを高速に探す」→ 違う。予想や賭けをしているわけじゃない。それに似た手法で「期待値」を計算して、概念的な「関連度」を得ているだけだ。時間的な未来現象の「予測」をしているのではなく、仮想空間上における「概念の距離」を抽象的に計算しているだけだ。この確率は、数学的な予想値ではなく、ただの統計的な頻度に基づく。
(3) 「次に何がくるか」というパターンを高速に探すため、まるで思考しているかのような賢い答えが出せるのです。 → 違う。その過程は Transformer の過程であり、初期のディープラーニングにもあったが、そのときはまだ賢くはなかった。
賢くなった（思考力を持つようになった）のは、Transformer の原理によるのではなく、AlphaZero の手法を取ったことによる。それは評価関数を捨てることによって達成された。なぜか？ 評価関数を捨てて、かわりに高次パーセプトロンを莫大に稼働させたからだ。そのことは莫大なマシンパワーを駆使することによって達成された。
(4) 上で述べたことは、「（言語的な）文章の修正」という形でなされる。単に「適切な文章」を言語的に修正していくだけで、思考しているのと同じ結果になるのだ。思考は文章の修正にともなって自動的に現れると言っていい。これが「創発」だ。
──
結局、ＡＩの思考過程は、人間の思考過程とはまったく別である。人間の思考過程は「考える」ことによってなされるが、ＡＩの思考過程は「文章の修正を莫大に繰り返す」という言語的な過程に付随して現れる。
その意味では、「ＡＩは思考しない」と言っていいのだ。出力だけを見れば、「思考している」のと同じ結果を出力するが、その途中過程を見ると、「ＡＩは思考しない」と言っていいのだ。
この点、Google のＡＩ回答はまったく間違っている。ＡＩと人間の原理的な違いを理解できないまま、「ＡＩも人間と同じようなことをなしている」と思い込んでいるからである。
→ Google のＡＩ回答
【 関連項目 】
この問題についての正解は、前項で記した通りだ。そちらを参照。
→ ＡＩはなぜ思考力を持つか？: Open ブログ
