image.png

Perceptro n &LR& Boosting

image.png

\begin{align*} &Perceptron:\sum-yf_w(x)\\ &LR:\log_2(1+\exp(-yf_w(x))\\ &AdaBoost:\exp(-yf_w(x)) \end{align*}

可以看出,相较于简单的感知机模型,后两种模型的损失函数更加光滑,且对噪声数据比较明显(分类错误误差的增加比较多)