機械学習・深層学習のキーワード集

はじめに

機械学習や深層学習を勉強するにあたって、様々な知識が必要になります。

この記事は機械学習や深層学習を勉強する中で出てきたキーワードを一覧にしてまとめたものです。

1つ1つのキーワードに具体的な説明は付けません。何も見ないでそのキーワードを説明できるようにすることが目的です。

様々な参考書や記事、論文の共通部分のようなものにする予定です。つまり、「この記事のキーワードが説明できれば、機械学習や深層学習に精通している」と言ってもよいようにしたいと思います。

キーワードは適当な粒度で階層構造を取っています。
階層の深さは概念の大きさと必ずしも一致しないので注意してください。

キーワード

• 数学と統計（Mathematics and Statistics）
  • 共分散行列（Covariance Matrix）
  • 距離（Distance）
    • マハラノビス距離（Mahalanobis Distance）

• パターン認識と機械学習（Pattern Recognition and Machine Learning）
  • 教師あり学習（Supervised Learning）
    • 分類（Classification）
    • 回帰（Regression）
  • 教師なし学習（Unsupervised Learning）
    • クラスタリング（Clustering）
  • 強化学習（Reinforcement Learning）

• 特徴量空間（Feature Space）
  • 正規化（Normalization）
  • クラス内分散とクラス間分散（Within-Class Variance and Between-Class Variance）
  • 次元の呪い（Curse of Dimensionality）
  • 次元削減（Dimension Reduction）
    • 主成分分析（Principal Component Analysis）

• 識別関数（Discriminant Function）
  • 線形識別関数（Linear Discriminant Function）
    • 線形分離可能（Linearly Separable）
    • 線形判別分析 or フィッシャー線形判別（Linear Discriminant Analysis (LDA) or Fisher Linear Discriminant）
    • 最小二乗法（Least Squares Method）
  • ベイズ識別法（Bayes Discriminant Method）
    • ベイズの定理（Bayes' Theorem）
    • 最大事後確率（Maximum A Posteriori (MAP)）
    • ベイズ誤り率（Bayesian Error Rate）
    • ナイーブベイズ法（Naive Bayes Method）
    • 改良ナイーブベイズ法（Improved Naive Bayes Method）

• ニューラルネットワーク（Neural Network）
  • パーセプトロン（Perceptron）
  • 最急降下法（Gradient Descent Method）

• メモリベース手法（Memory-based Method）
  • テンプレートマッチング（Template Matching）
  • k最近傍法（k-Nearest Neightbor）

• 代表的なタスク（Representative Tasks）
  • 手書き文字認識（Hand-Written Digits Recognition）
  • 音声認識（Speech Recognition）

スライド

GitPitch Presents: github/Takahiro-Itazuri/machine-learning-keywords

The Markdown Presentation Service on Git.

参考文献

[1] 『入門パターン認識と機械学習』
[2] 『Deep Learning』
[3] 『Pattern Recognition and Machine Learning』