Bayes Theory 贝叶斯决策论

最小化总体条件风险 -> 后验概率最大化 -> 每个样本上都选择使此条件风险最小的类别标记 -> (01误差情况下)最大化后验概率 P(cx)P(c|x)

  • 判别式模型 discriminative models。直接建模 P(cx)P(c|x)
  • 生成式模型 generative models。先对 P(x,c)P(x,c) 建模,再由此获得 P(cx)P(c|x)。由贝叶斯定理,要关心的是先验 P(c)P(c) 和似然 P(xc)P(x|c)

详细:
Image Loading
Image Loading
一样的:
Image Loading
Image Loading
Image Loading

Ref

[1] 机器学习 - 周志华
[2] 统计学习方法