机器学习算法原理与实践（六）、感知机算法 |
您所在的位置：网站首页 › 感知器算法的基本原理和步骤 › 机器学习算法原理与实践（六）、感知机算法 |
|
感知机
感知机模型感知机的学习策略感知机的原始形式
伪代码实现代码对线性可分数据集对线性不可分数据集 感知机的对偶形式
伪代码代码训练过程分类效果训练误差
【原创】Liu_LongPo 转载请注明出处【CSDN】http://blog.csdn.net/llp1992
感知机
感知机是二分类的线性分类模型，输入为实例的特征向量，输出为实例的类别（取+1和-1）。感知机对应于输入空间中将实例划分为两类的分离超平面。感知机旨在求出该超平面，为求得超平面导入了基于误分类的损失函数，利用梯度下降法对损失函数进行最优化（最优化）。感知机的学习算法具有简单而易于实现的优点，分为原始形式 和 对偶形式。感知机预测是用学习得到的感知机模型对新的实例进行预测的，因此属于判别模型。感知机是一种线性分类模型，只适应于线性可分的数据，对于线性不可分的数据模型训练是不会收敛的。 感知机模型假设输入空间(特征向量)是 x∈Rn 输出空间为 Y={−1，+1} ，输入 x∈X 表示表示实例的特征向量，对应于输入空间的点，输出 y∈Y 表示实例的类别，则由输入空间到输出空间的表达形式为： f(x)=sign(w⋅x+b) 该函数称为感知机，其中 w和b 称为模型的参数， w∈Rn 称为权值， b 称为偏置,w⋅x 表示 w和x 的内积这里 sign(x)={+1,x>0−1,x0 ，则可得loss function为： L(w,b)=−1||w||∑xi∈Myi(w⋅xi+b) 感知机的原始形式 伪代码输入：训练数据集 T=(x1,y1),(x2,y2),⋯,(xN,yN), 其中 xi∈X=Rn,yi∈Y=−1,+1.i=1,2,⋯,N; 学习率 η(0 |
今日新闻 |
推荐新闻 |
| CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |