2016年03月11日

◆ AI とディープラーニング 1

 AI の能力はどのようなものなのか? どこまで行くのか? 人間を越えるほどになるのか? ……そういう原理的な話をする。 ──

 前項では AI が囲碁で人間を打ち負かしたのを見て、「 AI の能力が人間を圧倒的に上回る」と記した。
 これを書いたとき(一昨日)には、こんなふうに書いたのは私ぐらいだったが、その後、同趣旨の見解がいくつも見つかるようになった。
 たとえば、次のページでは、私と似た立場の見解が記されている。
  → AlphaGoとトップ棋士の対局を観戦しよう! - あんちべ!
 また、第2局でも AI が圧勝したが、これを見て、「 AI がどうしてこういう手を打ったのか理解不能」とお手上げになる高段者の見解も示されている。
  → 人間対AI:囲碁9段の解説者、解説できず視聴者に謝罪
 ここから一部抜粋しよう。
 「不思議だというよりも、あり得ない手です。プロの感覚では考えも付かない手です。どういう意味で打ったんでしょうか?」(イ・ヒソン九段)
 10日、韓国トップの囲碁棋士、李世ドル(イ・セドル)九段と人工知能囲碁ソフト「アルファ碁」の第2局を中継していた韓国棋院運営の「囲碁TV」解説者たちは「解説」ではなく「疑問」を連発した。対局開始約45分後、「アルファ碁」が打った手に戸惑いを隠せなかった。「アルファ碁」の予測できない変則的な手や、ミスだと思われた手を到底説明できないといった様子だった。
 宋泰坤(ソン・テゴン)九段は「視聴者の皆さんに申し訳ない。李九段の敗着(敗因となった石の置き方)が分からない。人間の目で見ると、『アルファ碁』はミスばかりしていた。今までの理論で解説すると、『アルファ碁』の囲碁は答えが出ない」と言った。対局が終わった後、宋泰坤九段は本紙の電話取材に「対局を見ながら中継している間、狐につままれたような感じだった」と語った。

 このように人間はまったく「お手上げ」という状態である。自分がなぜ負けたのかも理解できないといったありさまだ。
 では、どうしてこうなったのか? 同じ記事にはヒントになる言葉がある。
 金成竜(キム・ソンリョン)九段は「『アルファ碁』はデータにない手を打っているようで怖い。『アルファ碁』の自己学習能力が進んでこういう碁を打つなら、人間はあまりにも無力な気がする」と言った。

 ここでは「自己学習」という点がヒントになる。この AI は、初期には人間の対戦の棋譜を見て学習したが、その後、AI 同士で対戦して、莫大な対戦の棋譜を残した。その自己対戦による自己学習の成果を取り入れたのだ。
 そして、この自己学習の対戦の量は、途方もなく多大なものだった。なぜなら、Google が(巨額の資金にものをいわせて)莫大なハードウェアを提供して、ものすごい計算量を実行したからだ。開発者の証言もある。
 Googleの役割はとても重要でした。AlphaGoはプレイ中は特別優秀なハードウェアが必要ということはありませんが、AlphaGoを"鍛える"ためには多くのハードウェアが必要でした。さまざまな異なるバージョンを開発して、それぞれをクラウド上でトーナメント形式で対決させました。Googleのバックアップとさまざまなハードウェアのおかげで効果的な開発ができたのであり、そのようなリソースを持たない私たち単独ではこのような短いスパンでAlphaGoを進化させることはできなかったでしょう。
( → 「AlphaGo」を作った天才デミス・ハサビスが人工知能を語る

 この記事で記されているが、アルファ碁は、Google が独自に開発したものではなくて、市中にいた天才技術者を会社ぐるみで Google が買収したのだ。すでに大部分ができている状態で買収してから、買収後に資金を提供して、技術を完成させた、という形だ。
 ともあれ、Google が莫大な資金で莫大な計算量を提供したことで、莫大な自己対戦をなすことができて、AI は飛躍的な能力向上をすることができた。

 ここまではわかる。すでに報道されたことでもある。しかし、ここで疑問が生じるだろう。
 「莫大な計算量があると、どうして囲碁の能力がアップするのか? 単に計算量があるから思考能力が上がるというような、単純な話で済むはずがないだろう」
 まったくその通り。計算能力の向上と、囲碁の能力の向上との間には、大きなギャップがある。このギャップをどう結びつけるか?
 これはまあ、素人にはわかりにくいだろうが、専門知識があればわかる。そこで、以下では、素人向けに解説しよう。

 ──

 そもそも AI とは何か? ディープ・ラーニングとは何か? そういう話から示そう。

 最初に会ったのは、AI (人工知能)という概念だった。ここでは、コンピュータが、単なる計算能力や事務処理能力だけでなく、思考能力を持つことが期待された。この能力を向上させようという狙いで「第五世代コンピュータ」というものが華々しく打ち上げられたこともあった。(莫大な予算も付いた。専用のデカいビルもあった。)
  → 第五世代コンピュータ - Wikipedia
 これは、初期に提唱された狙いは「大風呂敷」とも言えるような夢にあふれたものだったが、結果的には「論理的言語 Prolog の完成」ということぐらいしか成果は上がらなかった。
 当時の欧米の受け取り方は「日本が官民一体で高度な人工知能マシンを開発しようとしている」というものだった。また、朝日新聞などのマスコミも大々的に取り上げた。
 しかしながら、実際に大量の資金が投じられて完成したのはアプリケーションのほとんどない並列推論システムだけだった。10年と570億円をかけたプロジェクトは、通産省が喧伝した目標についてはまったく達成しなかった。「本来の目標については達成した」としているが、しかし成果が産業に影響を与えることはほとんどなかった。単に、学術振興と人材育成に寄与しただけだったと言えよう。
( → 第五世代コンピュータ - Wikipedia

 まったく成果が上がらなかったわけだが、この結果は、私は当初から予測していた。「そんな大風呂敷を掲げても、何一つ実現しないだろう。なぜなら、やろうとしている方向がまったく間違っているからだ」というふうに。
 比喩的に言えば、第五世代コンピュータとは、「月に到達したい」という目標のために、飛行機の能力を鍛えている、というようなものだった。飛行機とはまったく別の原理が必要であるのに、飛行機という既存の技術を発展させることばかりを考えていたからだ。
 基本的に言えば、従来の AI とは、ソフトウェア技術を洗練させることによって得ようとするものだった。「素晴らしいソフトウェアがあれば、機械な知性を獲得できる」という発想だ。
 しかしながら、このような発想では、いくら進歩しても、とうてい人間には及ばなかった。単に人間の知識の一部をソフトウェア技術者がソフトに移植する、ということぐらいしかできなかった。

 ──

 一方、AI 研究の一部では、まったく異なる原理が模索されていた。それは、機械がソフトを与えられるのではなく、機械が自力でソフトを生み出す、という原理だ。そして、その骨子となるのが、人間の脳を模することだ。これは「パーセプトロン」というモデルで結実した。


 

percept.gif

出典
(この図は、もともと最初の提唱者による図だし、
同じような図はネットのあちこちにある。)



 この図に基づいて、データを処理するのが、パーセプトロンだ。詳しい解説は、下記にある。
  → ディープラーニングとは何なのか? そのイメージをつかんでみる (1/5)

 このページは1ページ目だが、その2ページ目以降には、「特徴量の抽出」という話がある。これが実は、ディープラーニングの本質だ。
 実を言うと、パーセプトロンという概念は何十年も前からあったが、それを人工知能に適用しようとしても、うまく行かなかった。うまく行きそうなのに、うまく行かない。そこで、いつのまにか下火になってしまった。

 ところが近年、そこにブレークスルーが起こった。パーセプトロンの処理の前に、「特徴抽出」という処理をすることで、認識能力が飛躍的に向上したのだ。
 実は、この「特徴抽出」というのは、人間の脳でもなされている。脳には、視覚野( or 第1次視覚野)という部分がある。ここは、眼球の網膜の裏から延びた神経の束が、直接、脳に連絡している。かくて、網膜に感じたものが、脳の視覚野に映され感じで理解される。と同時に、(深層では)特徴抽出がなされて、輪郭などが切り出されて、パターン認識が可能となる。
 こうして特徴抽出やパターン認識がなされたあとで、簡単な情報量となった情報が、視覚連合野に送られて、いろいろと認識作用がなされる。
 以前のパーセプトロンの方法では、このような「特徴抽出」の過程がなかった。そのせいで、ろくに成果がなかった。
 しかしながら、「特徴抽出」の過程を組み込むと、パーセプトロンは飛躍的な能力の向上を果たした。それが「ディープラーニング」と呼ばれるものだ。
 「ディープラーニング」において、パーセプトロンとどのように組み合わされているかは、下記に説明がある。
  → 人工知能:ディープラーニングとは何なのか? そのイメージをつかんでみる (2/5)

 こうして「特徴抽出」を組み合わせたパーセプトロンであるディープラーニングは、圧倒的な成果を上げることができるようになった。これが近年の AI だ。
 特に圧倒的なのは、画像の認識だ。人間がいちいち教えなくても、大量の画像データを見ることで、自分で学習して、共通点を理解するようになる。その後、任意の画像を見せると、「これは猫だ」「これは自転車だ」などと判定する。
  → Googleの猫認識 (Deep Learning)
 これを利用して、アップロードされた画像について、自動的にタグを付けることができるようになる。このサービスはすでに実用化している。たとえば、自転車の画像に「Bikes」というタグが付けられる。
 ただし、黒人の画像に「ゴリラ」というタグを付けて「ひどい!」というふうに批判された事例もある。これはまあ、ご愛敬というものか。
  → 写真の黒人をゴリラと誤認識 Googleフォト
 ついでに、今ちょっと Google フォト のサイトに行ってみたら、画像にタグが付けられるだけでなく、人物ごとの分類も自動的にできるようになっている。たとえば「安倍晋三」という人物の画像がひとまとめになるわけだ。すごいね。そう言えば、すでに「顔認証」という技術も非常に高精度にできている。それと同様だ。
  → Google フォトで人物別に写真の分類と検索ができるようになりました。
  → Googleフォトアプリは顔認識が凄すぎ!もはや写真整理しなくていいと思える件
  → 「Googleフォト」、写っている人物ごとに写真を自動分類する機能追加、年齢による顔の変化にも対応
 なお、画像認識の能力に至っては、人間を上回るほどにもなった。
  → 画像認識ではすでに人間を凌駕
 また、写真などの画像認識のほか、文字の認識もできるようになった。人間が教え込まなくても、自発的に勝手に認識できるようになったのだ。
  → ディープラーニング、感動した最新の研究結果

 ともあれ、「ディープラーニング」という技術によって、AI の能力は飛躍的に向上したわけだ。少なくとも、画像認識の分野では。



  ※ それが思考能力や囲碁能力とどう結びつくか……という話は、次項で。 

( 次項 に続く)




 次項へのリンクは、本項の冒頭にあります。(PC版)

 本サイト内の一覧は
   → サイト内 検索
posted by 管理人 at 23:31| Comment(17) | コンピュータ_04 | 更新情報をチェックする
この記事へのコメント
単なる思いつきですみませんが、いわゆる創発ということと関係はあるのでしょうか?
Posted by みっきー at 2016年03月12日 08:46
↑ Wikipedia 「創発」を見てください。
Posted by 管理人 at 2016年03月12日 09:34
AlphaGoが3連勝しましたね。李世ドル九段は、レーティングでは世界第4位なのでAlphaGoが全勝しても、人間がコンピュータに負けたとは言えないと思います。ディープニューラルネットワークにより、評価関数を自ら作成するようになり、1000年分の学習をしたと言われていますが今後、自己学習で更に強くなっていくのでいずれ、人間を超えるのは予想できますね。
Posted by aknil at 2016年03月12日 19:50
人間よりも強いかどうか、という話は、前項でしています。そちらをご覧ください。

次項では原理について説明する予定。
Posted by 管理人 at 2016年03月12日 21:15
「ディープラーニング」という技術は数ヶ月の間に進歩するとあった。昨年ヨーロッパでのプロとの勝負を情報として、セドル9段にも勝つ能力を得たのかもしれない。今回で、セドル9段の力を吸収したのだろうか。

>それが思考能力や囲碁能力とどう結びつくか……という話は、次項で
次項が楽しみです
Posted by senjyu at 2016年03月12日 21:16
レーティング世界第1位の中国の柯潔九段が「AlphaGoは李世ドルに勝っても、僕には勝てない」と微博でコメントを発表しまいますね。李世ドル九段との対戦は8勝2敗です。

3月1日に日本の囲碁ソフト「Zen」の開発者がディープラーニングを用いて、「AlphaGo」に勝つソフトを開発するプロジェクト「DeepZenGo」の記者会見がありました。ドワンゴのディープラーニング専用GPUサーバファーム(GPU 3,072 CUDAコアx4)を使うようです。「AlphaGo」は突如登場したわけではなく、1年以上前に囲碁ソフトにディープラーニングを用いた研究論文を発表されています。
Posted by aknil at 2016年03月12日 23:12
柯潔九段は今では前言撤回したい気分でしょう。
 セドル9段を相手に、8勝2敗。
 一方、AI の方は、たぶん5勝0敗で、10戦やれば 10勝0敗でしょう。
 一番肝心な点は、「人間には AI の打つ手が理解できない」ということ。ここには圧倒的な格差があることになる。

 なお、なぜ理解できないかは、次項に記してあります。
Posted by 管理人 at 2016年03月13日 00:23
> ドワンゴのディープラーニング専用GPUサーバファーム(GPU 3,072 CUDAコアx4)を使うようです。

 これではコンピュータ能力が大幅に不足していて、絶対に負ける、ということがわからないんですね。Google はこの百倍は使っているはずです。
 本項と次項を読めばわかるでしょう。

> 「AlphaGo」は突如登場したわけではなく、1年以上前に囲碁ソフトにディープラーニングを用いた研究論文を発表されています。

 Google が開発者を買収した時点で、Google はこの AI が完成間近であることを理解していました。2年前のことです。
  → http://gigazine.net/news/20141203-deepmind-demis-hassabis/
Posted by 管理人 at 2016年03月13日 07:54
GoogleはGPU 176です。ドワンゴはGPUサーバーを20台以上連結して、24万 CUDAコアになります。

AlphaGoはモンテカルロ木探索とディープニューラルネットワークを使用しています。
AlphaGoが囲碁5000年続いてきた囲碁の原理を根本から書き換えつつあるようですね。
Posted by aknil at 2016年03月13日 10:49
二つ前のコメントのリンク先を見てわかったが、Google の開発者は、チェスの最高の天才で、かつ、脳科学の知識をもって脳構造のモデル化に成功している。
 ドワンゴは、どれほどコンピュータを使っても、人材の点で勝てない。トップに天才がいないのだから。

 そもそもドワンゴの人工知能は、清水亮の人工知能会社を買収したもの。
 → http://japan.cnet.com/news/service/35068319/

 その清水亮のレベルと言えば、今回の人工知能でトンチンカンなことばかり言っているレベル。天才とは逆の超凡才。
  → http://d.hatena.ne.jp/shi3z/20160312/1457744600

 世界最高の知性と資金力を持つチームに、たいして金のない会社と凡才の知性で対向する。結果は最初からわかっている。
 ただし、日本チームにはたった一つ、圧倒的に上回る点がある。それは、ホラ吹き(大言壮語)の能力だ。自分はものすごく優秀なことをやっていると見せかける詐欺師の能力は、世界最高レベルだと言える。
  → http://openblog.meblog.biz/article/17955849.html
Posted by 管理人 at 2016年03月13日 11:23
「ZEN」は世界最強の囲碁ソフトと言われていたので「DeepZenGo」プロジェクトが始まったようです。ディープラーニングは音声や画像などの分類には効果を発揮するがそれ以上ではないようでGoogleは何を目指しているのか。
Posted by aknil at 2016年03月13日 12:03
YouTubeで第4局のLIVE中継見ていましたが李世ドル九段が中押し勝ちになりました。中継の解説では中盤以降、AlphaGoが初心者のような悪手を連発したようです。記者会見も見ましたがGoogle側は李世ドル九段の妙手でミスが出てしまったようなことを言ってました。AlphaGoはネットのアマチュアの棋譜で学習してるとコメントしていました。
Posted by aknil at 2016年03月13日 19:18
日経の記事の転載。

 ──

 アルファ碁は1〜3局と同じく序盤から優位になったが、中盤の戦いの中で李九段に好手が出ると途端に崩れ、疑問手を連発して形勢を損ねた。
 これまでトッププロを圧倒する実力を見せてきたアルファ碁だが、劣勢に陥ると局面を打開しようとして奇妙な手を重ねるという、従来の囲碁ソフトと共通する弱点を露呈した。

http://www.nikkei.com/article/DGXLASDG13H2P_T10C16A3000000/

 ──

 弱いというより、部分的に穴があるみたいですね。
Posted by 管理人 at 2016年03月13日 20:05
第4局では、どうも AI の側にバグみたいな状況があったようだ。電脳戦でも、穴があって、穴を付いて勝った棋士がいたが、それと同様の状況になったらしい。

 以下、朝日の記事。

 ──

「李九段の妙手(78手目)を契機にして、大優勢だったアルファ碁が暴走ともいえる損な手を連発し、自ら形勢を悪くした。この妙手は、人間だけでなくコンピューターにとっても盲点だったかもしれない」と話した。
 → http://www.asahi.com/articles/ASJ3F6HWCJ3FUCVL013.html

 ──

 棋譜
 → http://j.mp/1QQjUJg

 観戦者 逐次 感想
 → http://nitro15.ldblog.jp/archives/47079097.html

 ちょっと見たが、78手は、好手ではあるが、これでもまだ AI の側が有利なのに、変に暴走する理由がない。
 バグみたいなものがあったと推測するしかない。
 特に、97手は完全な自滅らしいので、バグ状態になったと見るといいようだ。
( ※ 最後のリンクを参照。「バグ」という語句が散見される。)
Posted by 管理人 at 2016年03月13日 21:42
記者会見でGoogle側は国に戻って、敗因の原因を調べると言ってましたので公表されるかもしれません。李世ドル九段の話では78手は考え出した普通の手と言ってました。
Posted by aknil at 2016年03月13日 22:39
結局だれに謝罪したらよいのだろう?笑
Posted by 先生 at 2016年03月14日 00:36
謝罪は必要なく、今はただこの偉大な業績を出したことに感嘆するのみ。
Posted by 管理人 at 2016年03月14日 07:52
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]

過去ログ