2019年05月06日

◆ AIが誤認する理由

 画像認識するAI(ディープラーニング方式)が誤認する理由は何か?

 ──

 画像認識するAI(ディープラーニング方式)が誤認することがある。そこで、「どうしてそう認識したか」を説明させる研究が進んでいるそうだ。AIに対するXAI( eXplainable AI )というもの。
 下記の記事。
  → なぜクマとバイソン間違う? AIに説明責任求める人類:朝日新聞
  → (同じ記事の全文:ログインで)

 一部抜粋しよう。
 人工知能(AI)の活用が広がる中、クルマの自動運転や医療、軍事など、人命や経済損失につながる分野で使うには、「なぜその結論を出したのか」が人間には分からないことが大きな課題になっている。AIを信頼するためにカギとなる「説明できるAI」を実現しようと、様々な取り組みが国内外で進む。
 一方、その能力をさらに発揮するには大きな課題もある。高性能AIの正体は、コンピューターでしか解けない極めて複雑な計算式のようなものだ。結論だけを提示する「ブラックボックス」で、その判断によって人命や財産に損害が出た際に検証が難しく、実用化の壁になっている。
 XAIとは、様々な工夫を凝らしてAIの思考過程を人間が理解できるようにする技術だ。特に、自動運転や医療、金融、司法などでAIを本格的に活用するには、過程を検証できることが重要で、国内外で研究が進められている。
 大阪大産業科学研究所の原聡助教は、AIが画像のどこに注目しているのかを可視化する研究をしている。例えば、ヒグマが写った様々な画像をAIに見せ、「ヒグマ」と認識できるか調べる場合、正しく認識できていると、ヒグマ以外は赤く塗りつぶされて表示される。AIがヒグマだけを注目していたことが、人間にもわかる仕組みだ。
 一方、AIがヒグマを「バイソン」と誤認識した例では、ヒグマの後ろにある自動車の一部も塗りつぶされずに残っていた。これを人間が見れば、「AIはヒグマ以外も注目して間違えたらしい」と判断でき、原因の検証にも生かせる。

 まあ、そうなのだろうが、最後のところはわかりにくいだろう。「ヒグマ以外も注目して間違えた」というが、ヒグマ以外も注目すると、どうしてバイソンに間違えるのか? 


xai.jpg


 朝日の記事には、上の画像がある。ここでは、「自動車の画像といっしょに映っていると、バイソンに間違えやすい」らしいとわかる。
 では、どうしてか? これはちょっとした謎である。
 「自動車の形を、バイソンのツノと誤認したからである」
 というような説明も思いつくが、そういうことはありそうにない。(自動車とツノでは形が違いすぎる。)
 かくて、謎が残る。

 ──

 私が推定したのは、こうだ。
 「バイソンの写真には、道路を走る自動車といっしょに映っているものが多いからだ」

 こう推定して、ググってみたところ、まさしくそうだとわかった。
  → Google 画像検索

 バイソンの写真には、道路を走る自動車といっしょに映っているものが多い。だから、道路を走る自動車といっしょに映っているヒグマを見ると、バイソンだと誤認するのである。
 ここでは、ヒグマをバイソンだと誤認するのではなく、道路を走る自動車といっしょに映っているものをバイソンだと誤認するのだ。
 こうして、謎に対する回答が与えられた。

posted by 管理人 at 09:53| Comment(7) | コンピュータ_04 | 更新情報をチェックする
この記事へのコメント
仮説としては私もあなたと同様の考えを持ちました。
しかし、検索ワードを”バイソン + 道路”と設定すれば、車と写る画像が多くなるのは当たり前では?
ヒグマでも同じことは起こりますよ。
Posted by 鳥人 at 2019年05月06日 19:39
 「ヒグマ 道路」
 で画像検索した結果、白い自動車といっしょに移っている静止画は、一つもありませんでした。(上位 100件ぐらいを見て)
  ・ 白でなく紺色の自動車ならば2件ある。しかし紺色は不適。
  ・ 白い自動車の背面も1件あるが、背面は不適。
  ・ 白い自動車の前面の画像も2件あるが、それは同じ YouTube の動画のキャプチャ画像だから、静止画ではない。
   [タイトル:ヒグマにであったら(道路編)]

 一方、バイソンならば、多数ヒットする。

> 検索ワードを”バイソン + 道路”と設定すれば、車と写る画像が多くなるのは当たり前では?

 それはそうだけど、別に問題はないです。ここでは、比率を問題にしているんじゃなくて、存在性を示してるだけです。
 元の画像が自動車つきなんだから、自動車つきのものだけを見出せばいい。
 ヒグマの方では、見出せなかった。上記の通り。
Posted by 管理人 at 2019年05月06日 20:16
> 自動車の色は白である必要はありませんよ。

 それは、自動車を認識する場合。
 今は動物を認識する場合に、どんな余剰情報が紛れ込むか、という話をしている。
 白い自動車だと紛れ込むだろう、というわけ。

 あながち、間違いだとも言い切れない。[白い自動車といっしょに写っているのは、ヒグマよりもバイソンである可能性が高い」と認識したとしても、当たっていることも多いかもしれないし。

Posted by 管理人 at 2019年05月06日 20:47
ナイト2000に搭載されたK.I.T.T.はXAIが進んでいるのでしょうね。
今回の画像認識の謎は、AIに対してWhy/Becauseのなぜなぜ分析を数段(人間の場合5段くらいらしいです)かけると答えが出るかもしれません。

AIの自己学習に組み入れていれば、AI自身は理由を認識しているけど、人類には教えないという嫌な論理まで学習しそうで、ちょっと気持ち悪いです(杞憂)。

Posted by 京都の人 at 2019年05月06日 23:24
最近コメントが相当数削除されているようで、ブログ主のコメントが読んでいて意味がわからない状態となっているテーマが多数見受けられる。
ブログ主へにお願いとなるが、ブログ主が気に入らない意見でも掲載したままにしていただけないであろうか。
Posted by 寿限無 at 2019年05月07日 22:20
 ゴミを削除しただけです。(内容は誤読ばかりなので、読むだけ時間の無駄。)

> ブログ主のコメントが読んでいて意味がわからない

 それもごもっともなので、私のコメントも削除しました。

 
Posted by 管理人 at 2019年05月07日 23:32
 本サイトへの批判は、原則として削除しないで残しています。

 一方、今回削除したのは、
  ・ 罵倒、誹謗中傷のような法律違反行為が含まれる。
  ・ 内容には、読む価値がない。読むデメリットが大きすぎる。
  ・ 数が 100ぐらいになって、多すぎる。まともなコメントが埋もれて読めなくなる。

 要するに、スパムです。どうしても大量のスパムを読みたければ、スパムメールでも集めて読むといいでしょう。

 なお、まともなコメント(ゴミでないもの)も1%ぐらいはあったので、それらは残しています。
Posted by 管理人 at 2019年05月08日 12:36
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]

  ※ コメントが掲載されるまで、時間がかかることがあります。

過去ログ