Principle Component Analysis 主成分分析

无监督线性降维,核化版本 Kernelized PCA 核主成分分析。(监督线性降维如 LDA,核化版本 KLDA。)

如何用一个超平面(直线的高维推广)对所有样本进行恰当的表达?

  • 最近重构性:样本点到这个超平面的距离都足够近。
  • 最大可分性:样本点在这个超平面上的投影能尽可能分开。

从最近重构性推导 PCA
Image Loading

从最大可分性推导 PCA
Image Loading

求解
Image Loading

算法
Image Loading

Ref

[1] 机器学习 - 周志华