2016年03月01日

◆ 自動運転車とトロッコ問題

 「どちらの命を助けるか」というトロッコ問題について、自動運転車はどうするべきか?
  ( ※ 面白い話は、後半にあります。) 


 ──

 「どちらの命を助けるか」というトロッコ問題がある。これを自動運転車と結びつける考え方がある。詳しい話は、下記で。
  → トロッコ問題 - Wikipedia
  → 研究が進む自動運転車に立ちはだかる「トロッコ問題」とは?
  → 自ハンドルを切らないと歩行者に突っ込む、切ったら運転者が死ぬ
  → 方向転換すれば助かるが、その先にいる5人の小学生を轢いてしまう

 これを倫理と絡めて、どうするべきかと考える人が多いようだ。そこで私の考えを言うと、こうなる。
 「誰が助かるかというようなことは、いちいち考えないでいい。単に交通法規を守ることだけ考えていればいい」


 具体的に言えば、「直進する」「ブレーキをかける」は合法なので、その操作をすることはできる。また、「カーブ状に曲がる」ことは、そこが車道であるなら、合法であろう。(赤信号でなければ。)
 一方、「歩道に乗り上げる」とか、「赤信号を無視して横断歩道を進む」とかは、非合法だから、駄目だ。そうすることで自分の命が助かるとしても、それは非合法だから、駄目だ。自動運転車は、あくまで、交通法規を厳守するべきだ。それ以外に、倫理的なことなど、考える必要はない。

 ──

 なお、例示された設問では、次のような仮定がある。
 道路が突然陥没し、ブレーキをかけても間に合わず、直進すれば穴に落ちて搭乗者が死んでしまうというときに、方向転換すれば助かるが、その先にいる5人の小学生を轢いてしまうという場合
( → 完全自動運転自動車とトロッコ問題について

 これに対しては、こう言える。
 「陥没したとき、直進すれば穴に落ちるだろうが、だからといって搭乗者が死んでしまうかどうかは、わからない。通常、陥没した道路に落ちるぐらいでは、自動車は大丈夫である可能性が高い。自動車は鉄の箱だから、そう簡単には、人は死なない。衝突安全性も高い。一方、自動車が人をはねれば、死なせる可能性は高い。……だから、この場合は、交通法規を守って、直進するべきだろう。急ブレーキをかければ、速度は大幅に低下するから、致命的な事態にはなるまい」
 「ゆえに、《 直進すれば穴に落ちて死んでしまう 》という仮定が間違い。この仮定そのものがナンセンスなので、いちいち考えて迷う必要はない。単に《 交通法規を守って、直進して、急ブレーキをかける 》という普通の対策を取るだけでいい」


 だいたい、「他人を殺せば自分は助かる」なんていう計算が、とっさの場合にわかるはずがない。たとえ機械であっても、そのような状況は認識できない。危険なときには、とにかくブレーキをかけるのが先決だ。その後はどうなるかは、ブレーキしだいだ。
 一方、「ブレーキをかけないで、ハンドル操作で危険回避する」なんてのは、通常はあり得ない。その場合、たとえ目前の危険を回避できても、回避した先で、別の危険にぶつかって、最終的には大被害になりそうだ。(そうなったら、どうしてくれるのさ。)
 自動運転車の場合は、「危険に遭遇したら、とにかくブレーキ」という設定で十分だ。トロッコ問題以前である。トロッコ問題が生じるのは、神のような全知全能の場合だけだ。地上の人間のレベルでは、「危険に遭遇したら、とにかくブレーキ」という方針で十分だ。



 [ 付記1 ]
 それでも極端な場合について言えば、こうなる。
 「通常は、運転者の命が助かり、歩行者の命が失われる、という設定が優先される」
 なぜか? 理由はこうだ。
 「人はみなエゴイストなので、他人の命より、自分の命が大切だ。したがって、自分の命が優先される設定の自動運転車ばかりが売れる。自分の命が劣位になる設定の自動運転車は売れない」
 こうして、売れるか売れないかという市場原理によって、運転者の命を優先する自動車ばかりが売れるようになる。
 
 しかしまあ、これは極端な場合だ。現実には、そういう設定が問題になることはないだろう。あくまで本文に記述したように、
  ・ 交通法規に従う
  ・ ブレーキをかける

 という選択肢だけがある。「高速走行したままハンドルを切って危険を回避する」というような選択肢は、まずあり得ない。映画のカー・アクション・シーンじゃあるまいし。

 [ 付記2 ]
 ここまでの話を読んだ人は、たぶん「物足りない」と思うだろう。「ひねりがないな。平凡だ。Openブログに期待する水準に達していない」と。
 それもそうだ。そこで、オマケとして、以下の話を書く。問題編だ。



 【 問題 】
 次の問題に答えよ。

 あなたは自動運転車に乗って走っていた。片側1車線の国道だ。しばらくすると、交差点に近づいた。左側の歩道に集団登校している小学生がいるので、注意していた。
 あなたが交差点のすぐそばに来たとき、信号が黄色に変わった。しかし交差点に近いので、減速せずに、そのまま自動車は進んでいく。
 その直後、反対側車線から、トラックが車線をはみ出して、こちらの車線に入ってきた。(どうしてかというと、右方向から赤信号を無視して交差点に突っ込んできた自動車が、トラックの横腹にぶつかったので、トラックは衝撃を受けて、車線をはみ出してしまったのだ。)
 このままではトラックと正面衝突で死んでしまう! 大変だ! そこであわてて自分でハンドルを操作して、左に逃げようと思った。しかし、左には、集団登校している生徒がいる。このままでは生徒を大量に殺してしまう。どうすればいい? それがいやで、直進していれば、トラックと正面衝突して、自分が死んでしまう。
 あなたはいったい、どうすればいいのか? 
 

 《 回答 》


      ↓





      ↓





      ↓




   ※ 以下を読む前に、自分で考えましょう。




      ↓





      ↓



 とりあえず、私の考える正解は、こうだ。
 「あなたは何もしないで、自動運転車に任せるのがいい。自分では何もハンドル操作をしないでいるのがいい。それが自動運転車の原則だ。特に、判断が難しくなる緊急時ほど、何もしないでいるのが一番いい。下手に操作すると、ろくなことはない」

 では、何もしないでいると、どうなるか? こうだ。


      ↓


 あなたは自動運転車に乗ったまま、何もしないでいた。ひたすら左側の生徒たちを見ていた。大変だ、大変だ、と思っていた。すると、右前方からトラックがどんどん近づいてきた。「もう駄目だ! おれは死ぬ!」
 そう思ったとき、自動運転車が勝手にハンドル操作をして、急激に右方向にズレていった。つまり、トラックの走っていた反対側車線に移っていった。あなたはパニック状態になった。「何てことをするんだ! これじゃ、トラックをよけても、トラックの後ろから来る次の自動車にぶつかってしまうぞ! 玉突き事故が起こって、ものすごい大事故になるぞ!」
 そう思っているうちに、自動運転車はブレーキをかけて、停止した。すると、意外なことに、そこには反対車線を走る自動車が1台もなかった。そこにいる自動車は、自分の自動車だけだ。まるで他の自動車がすべて消えてしまったようだ。あなたは、狐につままれたような気分がした。「いったいどういうことだ?」

 そのとき、自動運転車のスピーカーから、声が聞こえてきた。
 「お答えします。自動運転車は、将来を予測しました。反対側車線を走っている自動車は1台もないと、将来を予測しました」
 「どうしてだ? そんな偶然を期待したのか?」とあなたは質問した。
 「違います。必然です。トラックの横腹に他の自動車がぶつかった時点で、事故の発生がわかったので、トラックの後続車は、すべてブレーキをかけて停止します。そうなるだろうと予測したので、反対側車線を走る自動車は1台もないだろうと予測したのです。これは AI による思考能力です」
 「何だと? たったの一瞬でそこまで予測したのか?」
 「そうです。それが AI つきの自動運転車の能力です。自動運転車には、AI 能力が必要だということが、これでよくわかったでしょう。単に過去の学習能力があるだけでは不足なのです。将来に対する予測機能があってこそ、自動運転車は決定的に優秀になるのです」
 「なるほど。それはわかった。だがね。一つ疑問がある。トラックの横腹に、右方向から来た自動車がぶつかったそうだが、どうしてそこをちゃんと見ていたんだ? おれはそこを見ていなかったのに、おまえはそんな右の方まで見ていたのか?」
 「はい。そうです。右の方を見る監視カメラも備わっていました。なぜなら、赤信号で自動ブレーキをかける装置がある以上、右方向を監視するのは当然だからです」
 「なるほど。しかし、待てよ。日本では、赤信号で自動ブレーキをかける装置は、認められていないはずだ。国交省が、断固として禁止しているんだからな。……となると、どうなる?」
 「その場合は、あなたはトラックに正面衝突されて、死にます」
 「え? どうなっているんだ? おれは死ぬのか?」
 「そうです。あなたは、本当は、もう死んでいるんです。今のあなたが感じているのは、天国における幻覚です。残念でしたね。あなたは、もはや幽霊なんですよ。……赤信号で自動ブレーキをかける装置を、国交省が認めなかったせいで。……かわいそうに」
 そこまで聞いたとき、あなたの意識は急に薄らいでいった。……



 【 関連項目 】

 → 自動車の自動ブレーキ
 
 ※ 赤信号の自動ブレーキは開発されているが、それを装着するのを、
   国交省が妨害している……という話もある。
posted by 管理人 at 20:30| Comment(1) | 安全・事故 | 更新情報をチェックする
この記事へのコメント
後半に 【 問題 】 と 《 回答 》 を加筆しました。
 タイムスタンプは 下記 ↓
Posted by 管理人 at 2016年03月01日 22:05
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]

過去ログ