one |
您所在的位置:网站首页 › m开头名字的神明 › one |
one-hot是比较常用的文本特征特征提取的方法。 one-hot编码,又称“独热编码”。其实就是用N位状态寄存器编码N个状态,每个状态都有独立的寄存器位,且这些寄存器位中只有一位有效,说白了就是只能有一个状态。 下面举例说明: 有四个样本,每个样本有三种特征: feature1feature2feature3sample1143sample2232sample3122sample4211上图用十进制数对每种特征进行了编码,feature1有两种可能的取值,feature2有4种可能的取值,feature3有3种可能的取值。比如说feature3有3种取值,或者说有3种状态,那么就用3个状态位来表示,以保证每个样本中的每个特征只有1位处于状态1,其他都是0。 1->001 2->010 3->100 其他的特征也都这么表示: feature1feature2feature3sample1011000100sample2100100010sample3010010010sample4100001001这样,4个样本的特征向量就可以这么表示: sample1 -> [0,1,1,0,0,0,1,0,0] sample2 -> [1,0,0,1,0,0,0,1,0] sample3 -> [0,1,0,0,1,0,0,1,0] sample4 -> [1,0,0,0,0,1,0,0,1]
接下来看看怎么应用one-hot: one-hot在特征提取上属于词袋模型(bag of words),假设语料库中有三句话: 我爱中国爸爸妈妈爱我爸爸妈妈爱中国首先,将语料库中的每句话分成单词,并编号: 1:我 2:爱 3:爸爸 4:妈妈 5:中国 然后,用one-hot对每句话提取特征向量:(图来源于网络) 所以最终得到的每句话的特征向量就是: 我爱中国 -> 1,1,0,0,1爸爸妈妈爱我 -> 1,1,1,1,0爸爸妈妈爱中国 -> 0,1,1,1,1那么这样做的优点和缺点都有什么? 优点: 解决了分类器处理离散数据困难的问题一定程度上起到了扩展特征的作用(上例中从3扩展到了9)缺点: one-hot是一个词袋模型,不考虑词与词之间的顺序问题,而在文本中,次的顺序是一个很重要的问题one-hot是基于词与词之间相互独立的情况下的,然而在多数情况中,词与词之间应该是相互影响的one-hot得到的特征是离散的,稀疏的 |
今日新闻 |
推荐新闻 |
CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |