深層学習 (Deep Learning)

ニューラルネットワーク (neural network, NN)

• 畳み込みニューラルネットワーク (Convolutional Neural Network, CNN)
• 再帰型ニューラルネットワーク (Recurent Neural Network, RNN)

活性化関数 (Activation function)

最適化手法

最急降下法 (Gradient descent)

確率的勾配降下法 (Stochastic gradient descent)

参考資料

• ディープラーニング - Wikipedia
• Deep Learningの教材 - こんな夢を見た
• ニューラルネットワークと深層学習
• ディープラーニングは万能ではない：AIとは何か、人工知能学会会長が語った常識と誤解 - ＠IT
• 2016年のディープラーニング論文100選 - Qiita
• Googleの開発者が作った3時間でディープラーニング(深層学習)をスライドとムービーで学べる集中レッスン - GIGAZINE

DeepMind 関係

• Google「DeepMind」の人工知能は赤ん坊のように「触って覚える・判別する」能力を学習したとの発表 - GIGAZINE

Advent Calendar

• Qiita
  • DeepLearning Advent Calendar 2016 - Qiita
• Adventar
  • Deep Learning Advent Calendar 2016 - Adventar

自然言語処理関係

• ⾃然⾔語処理分野における ディープラーニングの現状
  (PDF)
• 深層学習時代の自然言語処理
• 畳み込みニューラルネットワークによるテキスト分類を TensorFlow で実装する · けんごのお屋敷
• CNNによるテキスト分類 // Speaker Deck
• Recurrent Convolutional NNでテキスト分類 - Qiita
• TensorFlowを使ってテキストをクラス分類してみた
• TensorFlowを使ってテキストをクラス分類してみた - Qiita
• 自然言語処理の深層学習において転移学習はうまく行くのか? - yasuhisa's blog