Python词频统计的3种方法 |
您所在的位置:网站首页 › 根据的英文词组怎么写 › Python词频统计的3种方法 |
大家好,我是小小明。 上次,我分享了《100毫秒过滤一百万字文本的停用词》,这次我将分享如何进行词频统计。 当然我们首先需要准备好数据: 数据准备 import jieba with open("D:/hdfs/novels/天龙八部.txt", encoding="gb18030") as f: text = f.read() with open('D:/hdfs/novels/names.txt', encoding="utf-8") as f: for line in f: if line.startswith("天龙八部"): names = next(f).split() break for word in names: jieba.add_word(word) # 加载停用词 with open("stoplist.txt", encoding="utf-8-sig") as f: stop_words = f.read().split() stop_words.extend(['天龙八部', '\n', '\u3000', '目录', '一声', '之中', '只见']) stop_words = set(stop_words) all_words = [word for word in cut_word if len(word) > 1 and word not in stop_words] print(len(all_words), all_words[:20])结果: 216435 ['天龙', '释名', '青衫', '磊落', '险峰', '行玉壁', '月华', '明马', '疾香', '幽崖', '高远', '微步', '生家', '子弟', '家院', '计悔情', '虎啸', '龙吟', '换巢', '鸾凤'] 统计词频排名前N的词原始字典自写代码统计: wordcount = {} for word in all_words: wordcount[word] = wordcount.get(word, 0)+1 sorted(wordcount.items(), key=lambda x: x[1], reverse=True)[:10]结果: 使用计数类进行词频统计: from collections import Counter wordcount = Counter(all_words) wordcount.most_common(10)结果: 使用pandas进行词频统计: pd.Series(all_words).value_counts().head(10)结果: 从上面的结果可以看到使用collections的Counter类来计数会更快一点,而且编码也最简单。 分词过程中直接统计词频Pandas只能对已经分好的词统计词频,所以这里不再演示。上面的测试表示,Counter直接对列表进行计数比pyhton原生带快,但循环中的表现还未知,下面再继续测试一下。 首先使用原生API直接统计词频并排序: %%time wordcount = {} for word in jieba.cut(text): if len(word) > 1 and word not in stop_words: wordcount[word] = wordcount.get(word, 0)+1 print(sorted(wordcount.items(), key=lambda x: x[1], reverse=True)[:10])结果: [('段誉', 2496), ('说道', 2151), ('虚竹', 1633), ('萧峰', 1301), ('武功', 1095), ('阿紫', 922), ('阿朱', 904), ('乔峰', 900), ('王语嫣', 877), ('慕容复', 871)] Wall time: 6.04 s下面我们使用Counter统计词频并排序: %%time wordcount = Counter() for word in jieba.cut(text): if len(word) > 1 and word not in stop_words: wordcount[word] += 1 print(wordcount.most_common(10))结果: [('段誉', 2496), ('说道', 2151), ('虚竹', 1633), ('萧峰', 1301), ('武功', 1095), ('阿紫', 922), ('阿朱', 904), ('乔峰', 900), ('王语嫣', 877), ('慕容复', 871)] Wall time: 6.21 s可以看到Counter在循环中计数时反而慢了一丁点,但由于Counter类整体性能更加,编写起来简单,所以一般都用Counter进行统计计数。 总结今天我向你分享了词频统计的三种方法,本期还同步分享了 set集合和字典的基本原理,希望你能学会所获。 我是小小明,咱们下期再见。 |
今日新闻 |
推荐新闻 |
CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |