数学补课

超平面,因为感知机算法里提到了这个概念.

超平面

法向量

向量投影计算

梯度与梯度下降法

感知机算法

感知机(Perceptron)算法是一种很好的二分类在线算法,它要求是线性可分的模型,感知机对应于在输入的空间中将实例划分成正负样本,分离它们的是分离超平面,即判别的模型。

它也是理解SVM和神经网络的基础.

文章 1

  • 损失函数选择

选择的损失函数是所有误判点到超平面的距离之和,距离的定义: 2018-03-15-20-47-38

为何损失函数最后可以不考虑分母?

  • 随机梯度下降 2018-03-15-20-49-08

  • 算法过程 2018-03-15-20-49-41

  • 对偶形式

知乎参考

提前计算 Gram 矩阵将简化运算过程. 2018-03-16-10-57-51