ロボットが発達すると、ロボットが人間のような心を持つものとしてふるまう。では「機械は感情を持つ」ようになると言えるのか？
──
マンガ「 PLUTO 」では、ノース２号が感情を学ぼうとして努力していた。このことから一般的に考えて、「機械は感情を持つ」ということはあるのだろうか？ そういうことが起こると言える日が来るのだろうか？
以下では、私なりの考え方を示そう。
──
たとえ機械であっても、その機械が人間と同様の原理で働くのならば、「機械は感情を持つ」と言えるだろう。では、「機械が人間と同様の原理で働く」と言えるのか？ そこが問題だ。
なぜか？ Deep Learning では、人工知能はパーセプトロンを模した演算をなす。（パーセプトロンをシミュレーションする。） そのパーセプトロンと同じ作用をする機械が現実にあるのなら、その機械は脳と同様の働きをしていると言えるだろう。その機械は、パーセプトロンを通じて、「考える」こともできるし、「感情を持つ」こともできるだろう。
ところが、その機械は、現実にあるのではない。仮想的にあるだけだ。つまり、その機械は、現実にある機械ではなく、CPU によってシミュレートされたものであるから、仮想世界における、仮想の機械なのだ。
たとえば、「 Deep Learning の働きをしているパーセプトロンを見せてください」と言われても、「はいこれです」と見せることはできない。そのパーセプトロンは、CPU によって想定された、仮想的な機械であるにすぎないからだ。それは物質として存在するのではなく、０と１の演算によって示された記号列であるにすぎない。
比喩的に言おう。「考える機械」（ Deep Learning における機械）とは、いわば、「ゼルダの伝説」というゲームにおいて、そのゲームの世界のなかに存在する「機械」というものだ。それは、ゲームの世界（仮想世界）のなかでは「存在する」と言えるが、われわれのいる現実世界のなかに「存在する」とは言えない。その機械は、仮想世界のなかでは「考える機械・感情を持つ機械」だと言えるが、この現実世界のなかで「考える機械・感情を持つ機械」だとは言えない。なぜなら、その機械に、主人公（リンク）は指で触れることはできるが、われわれは自分の指で触れることはできないからだ。
似た例で示そう。「考える機械」は、ラブプラスのヒロインのようなものだ。 小早川 凛子・高嶺 愛花・姉ヶ崎 寧々というヒロインは、ゲームの世界には存在して、感情を持つようにふるまう。それらのヒロインは、ゲームの中ではまさしく感情を持っている。しかし現実のこの世界においては、そのヒロインは存在していないし、ヒロインが現実に感情を持つこともない。
それがつまり、「感情を持つ機械というものの」の意味だ。そこでは、「機械があるのに感情がない」という未完成さがあるのではない。「もともと機械がないから、感情を持つ機械も存在し得ない」という原理的な否定が成立してしまう。
仮に、パーセプトロンが仮想世界でなく現実に世界において存在したならば、その機械は「感情を持つ機械」として成立しそうだ。とはいえ、パーセプトロンを物理的な素子として構築するということは、ほとんど人工的に脳を作るのに等しい。そのようなことができる日が来るとは思えない。（そもそも、やる意味がなさそうだ。マッド・サイエンティストでもなければ。）
──
それで、結局、この機械（仮想世界のなかの機械）は、「考える」と言えるのか？ 私の見解を言えば、こうだ。
その機械は、仮想世界の中では「考える」と言えるが、現実世界の中で「考える」とは言えない。その両者は、見かけ上は一致している。仮想世界のなかで得た結論を、そっくりそのまま現実世界のなかに持ち込むことができる。たとえば、AI 将棋の結論を、そっくりそのまま現実世界のなかに持ち込むことができる。このことで、「機械が考えている」というのと同様の結果になる。
しかしそれでも、実際に考えているのは、仮想世界のなかでのことなのだ。仮想世界のなかの結論を、現実世界に持ち込んでいるのは、仮想世界を覗き込んでいる人間なのだ。（いわばピーピング・トムのように覗き込んでいる。）
このとき、仮想世界と現実世界とを区別するべきだ。仮想世界の中を覗き込んだ人が、現実世界のなかで同様にふるまうことはできるが、だからといって、覗いた人が「考えている」ということにはならない。それはカンニングも同様だからだ。
仮想世界のなかで考えることと、現実世界のなかで考えることとは、たしかに別のことなのである。その両者を区別するべきだ、というのが、本項の結論となる。、
