1、长度

文本长度:按照字数、标点符号、中英文
分词长度:词数,列表:list

预处理——统计词频、词,矩阵数据——深入分析,二维表,记录(文本)、字段(词)

2、引入库

import jieba 
import jieba.posseg as psg
from collections import Counter

3、读取

#读取当前目录下的fenciExample.txt文本文件
#这个文件是《舌尖上的中国》中某一集的解说词
#输出文本中出现次数排在前20的单词
# 读取
shejian=open('fenciExample.txt').read()
print('文本长度:',len(shejian))
x=jieba.cut(shejian)
x=list(x)

4、提取词大于长度2的

列表推导式:循环而已

shejian_words=[x for x in jieba.cut(shejian) if len(x)>=2]
# 列表推导式:循环而已
# 拆分
shejian_words1 = []
for x in jieba.cut(shejian):
    if len(x)>=2:
        shejian_words1.append(x)

5、词频统计

词频 ,统计词频,使用Counter()
文本挖掘,中文
部分词无关,普遍意义常规词、停用词(——停用词过滤)

c1=Counter(shejian_words)
print(c1)

6、前20

# 提取排名前20
c=Counter(shejian_words).most_common(20)
print(c)
Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐