1. まとめトップ

わかりやすい深層学習 ディープ・ラーニングとニューラルネット

ディープラーニングとは「奥の深い」ニューラルネットワークの事

更新日: 2018年03月10日

5 お気に入り 12140 view
お気に入り追加

この記事は私がまとめました

twcritiqueさん

最近話題になっている「ディープラーニング」は単にニューラルネットワークを多層にしたものです。

http://robotstart.info/2016/05/10/kozaki_shogeki-no19.html
ニューラルネットワークでは特徴量のベクトル値を算出して考えたり、解析したりして一定の答えを出すんですが、最近話題になっている「ディープラーニング」は単にニューラルネットワークを多層にしたものです。

ディープラーニングとは「奥の深い」ニューラルネットワークの事

Deep Learningは7、8段と深いニューラルネットを使う学習手法です。

すでに、画像認識、音声認識、最も最近では化合物の活性予測で優勝したり、既存データ・セットでの最高精度を達成しています。以下に幾つか例をあげます。

「ディープ・ラーニング(深い学習、deep learning)」という用語は、2000年代半ばに勢いを増しました。

ディープラーニングで指導的な研究を行うカナダのトロント大学のジェフリー・ヒントン教授は、2006年の論文で層が深いニューラルネットを総称してディープネットワークと呼び、現在は中国のバイドゥに所属するアンドリュー・ング氏は2007年の論文で「高次元データの階層的な表現の学習」にディープラーニングという言葉を用いている。

機械学習アルゴリズム

人間の脳の構造に着想を得たタイプのアルゴリズムです。

深層学習は、インプット(データ)とアウトプット(予測結果)の間に複数の層を持った機械学習アルゴリズムで、数理的な表現などで見ると(図)少し難しそうではありますが、シンプルなパーツを多層構造にすることで学習を可能にするという、人間の脳の構造に着想を得たタイプのアルゴリズムです。

 ディープ・ラーニングとは、要するに人間の頭脳を構成する無数の神経細胞のメカニズムを、従来よりも正確に模倣した新種のニューラルネットワーク技術のことだ。

ディープ・ラーニング(Deep learning)は、一般に神経ネットワークである、入力の層状モデルを学ぼうとする機械学習の一連のアルゴリズムです。

データが大量に必要、ブラックボックス

Deep Learningが使えるのは、データが大量に揃っていることが前提となる。

これはロングテール問題と言われる。言い換えると、データ量の少ないテールの部分では、Deep Learningを適用できる領域は限られる、ということだ。

Deep Learningは、データ解析で有意な事象を見つけ出すが、その理由は教えてくれない。

例えば、AmazonでTaylor Swiftの「Red」を買う人は、Katy Perryの「Teenage Dream」を買ったと表示される(上の写真、一部)。Taylor SwiftのファンはKaty Perryのファンでもあるケースが多い、という事実関係を発見する。しかし、その理由については人工知能は説明できない。

データ定番MINST

スパースコーディング

英語の「Sparse」とは「少量」を意味する形容詞だが、スパース・コーディングとは要するに、ニューラルネットに入力される大量の情報から、概念形成に寄与する「ほんの少量の、しかし本質的な情報」だけを抜き出してくる技術である。

1 2