Python金融数据挖掘 第7章 第2节 (5)高频词
·
1、长度
文本长度:按照字数、标点符号、中英文
分词长度:词数,列表:list
预处理——统计词频、词,矩阵数据——深入分析,二维表,记录(文本)、字段(词)
2、引入库
import jieba
import jieba.posseg as psg
from collections import Counter
3、读取
#读取当前目录下的fenciExample.txt文本文件
#这个文件是《舌尖上的中国》中某一集的解说词
#输出文本中出现次数排在前20的单词
# 读取
shejian=open('fenciExample.txt').read()
print('文本长度:',len(shejian))
x=jieba.cut(shejian)
x=list(x)
4、提取词大于长度2的
列表推导式:循环而已
shejian_words=[x for x in jieba.cut(shejian) if len(x)>=2]
# 列表推导式:循环而已
# 拆分
shejian_words1 = []
for x in jieba.cut(shejian):
if len(x)>=2:
shejian_words1.append(x)
5、词频统计
词频 ,统计词频,使用Counter()
文本挖掘,中文
部分词无关,普遍意义常规词、停用词(——停用词过滤)
c1=Counter(shejian_words)
print(c1)
6、前20
# 提取排名前20
c=Counter(shejian_words).most_common(20)
print(c)
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐

所有评论(0)