Generalized Linear Model 广义线性模型

A Stellar Hiker

2018-02-20

广义线性模型。Generalized Linear Models，把非线性的分布(期望)映射到线性(同时扩大其值域)，再用线性的方式求最优，再把结果逆回到非线性。

GLM包含三部分：Random component，Linear predictor，Link function
Image Loading

直观地写：考虑单调可微函数g(·)，即 link function，令 $y = g^{-1}(\mathbf{w}^T \mathbf{x} + b)$ ，得到的模型就是GLM。
显然，对数线性回归是广义线性模型在g(·) = ln(·)时的特例。
广义线性模型的参数估计常通过加权最小二乘法或极大似然法进行。

常见的Link Function和逆函数：
Image Loading

Ref

[1] 机器学习 - 周志华
[2] Applied Regression Analysis and Generalized Linear Models, Chapter 15 https://www.sagepub.com/sites/default/files/upm-binaries/21121_Chapter_15.pdf
[3] 统计学习方法