什么是词云
“词云”就是对网络文本中出现频率较高的“关键词”予以视觉上的突出,形成“关键词云层”或“关键词渲染”。
从而过滤掉大量的文本信息,使浏览网页者只要一眼扫过文本就可以领略文本的主旨。
在网络上,我们经常可以看到一张图片,上面只有一堆大小不一的文字,有些通过文字生成一个人物的轮廓。像这样的图像,我们称之为词云。
词云”就是数据可视化的一种形式。给出一段文本的关键词,根据关键词的出现频率而生成的一幅图像,人们只要扫一眼就能够明白文章主旨。
jieba
"结巴"中文分词:做最好的Python中文分词组件 "Jieba"
安装
pip install jieba
jieba的分词模式
支持三种分词模式:
这里我就以昨日微博鸿星尔克的评论为测试内容。
“网友:我差点以为你要倒闭了!”鸿星尔克捐款5000w后被网友微博评论笑哭...
精确模式,试图将句子最精确地切开,适合文本分析;
它可以将结果十分精确分开,不存在多余的词。
常用函数:cut(str)、lcut(str)
import pandas as pd import jieba # 读取文件 pd_data = pd.read_excel('鸿星尔克.xlsx') # 读取内容 text = pd_data['发帖内容'].tolist() # 切割分词 wordlist = jieba.cut(''.join(text)) result = ' '.join(wordlist) print(result)
全模式,它可以将结果全部展现,也就是一段话可以拆分进行组合的可能它都给列举出来了
把句子中所有的可以成词的词语都扫描出来, 速度非常快
常用函数:lcut(str,cut_all=True) 、 cut(str,cut_all=True)
import pandas as pd import jieba # 读取文件 pd_data = pd.read_excel('鸿星尔克.xlsx') # 读取内容 text = pd_data['发帖内容'].tolist() # 切割分词 wordlist = jieba.lcut(''.join(text), cut_all = True) result = ' '.join(wordlist) print(result)
搜索引擎模式,在精确模式的基础上,对长词再次切分
它的妙处在于它可以将全模式的所有可能再次进行一个重组
常用函数:lcut_for_search(str) 、cut_for_search(str)
import pandas as pd import jieba # 读取文件 pd_data = pd.read_excel('鸿星尔克.xlsx') # 读取内容 text = pd_data['发帖内容'].tolist() # 切割分词 wordlist = jieba.lcut_for_search(''.join(text)) result = ' '.join(wordlist) print(result)
处理停用词
在有时候我们处理大篇幅文章时,可能用不到每个词,需要将一些词过滤掉
这个时候我们需要处理掉这些词,比如我们比较熟悉的‘你’ ‘了’、 ‘我’、'的' 什么的
import pandas as pd import jieba from stylecloud import gen_stylecloud # 读取文件 pd_data = pd.read_excel('鸿星尔克.xlsx') # 读取内容 text = pd_data['发帖内容'].tolist() # 切割分词 wordlist = jieba.lcut_for_search(''.join(text)) result = ' '.join(wordlist) # 设置停用词 stop_words = ['你', '我', '的', '了', '们'] ciyun_words = '' # 过滤后的词 for word in result: if word not in stop_words: ciyun_words += word print(ciyun_words)
可以看到,我们成功去除了我们不需要的词 ‘你’ ‘了’、 ‘我’、'的' ,那么这到底是个什么骚操作呢?
其实很简单,就是将这些需要摒弃的词添加到列表中,然后我们遍历需要分词的文本,然后进行读取判断
如果遍历的文本中的某一项存在于列表中,我们便弃用它,然后将其它不包含的文本添加到字符串,这样生成的字符串就是最终的结果了。
权重分析
很多时候我们需要将关键词以出现的次数频率来排列,这个时候就需要进行权重分析了,这里提供了一个函数可以很方便我们进行分析,
jieba.analyse.extract_tags
import pandas as pd import jieba.analyse # 读取文件 pd_data = pd.read_excel('鸿星尔克.xlsx') # 读取内容 text = pd_data['发帖内容'].tolist() # 切割分词 wordlist = jieba.lcut_for_search(''.join(text)) result = ' '.join(wordlist) # 设置停用词 stop_words = ['你', '我', '的', '了', '们'] ciyun_words = '' for word in result: if word not in stop_words: ciyun_words += word # 权重分析 tag = jieba.analyse.extract_tags(sentence=ciyun_words, topK=10, withWeight=True) print(tag) ''' [('尔克', 0.529925025347557), ('国货', 0.2899827734123779), ('加油', 0.22949648081224758), ('鸿星', 0.21417335917247557), ('支持', 0.18191311638625407), ('良心', 0.09360297619470684), ('鞋子', 0.07001117869641693), ('之光', 0.06217569267289902), ('企业', 0.061882654176791535), ('直播', 0.059315225448729636)] '''
topK就是指你想输出多少个词,withWeight指输出的词的词频。
分词介绍完了,接下来我们介绍一下绘图库
wordcloud
我们词云的主要实现是用过 wordcloud 模块中的 WordCloud 类实现的,我们先来了解一个 WordCloud 类。
安装
pip install wordcloud
生成一个简单的词云
我们实现一个简单的词云的步骤如下:
导入 wordcloud 模块
准备文本数据
创建 WordCloud 对象
根据文本数据生成词云
保存词云文件
我们按照上面的步骤实现一个最简单的词云:
# 导入模块 from wordcloud import WordCloud # 文本数据 text = 'he speak you most bueatiful time|Is he first meeting you' # 词云对象 wc = WordCloud() # 生成词云 wc.generate(text) # 保存词云文件 wc.to_file('img.jpg')
可以看到,目标是实现了,但是效果不怎么好。我们继续往下看
WordCloud 的一些参数
我们先看看 WordCloud 中的一些参数,
如下表,各个参数的介绍都写了。
参数 | 参数类型 | 参数介绍 |
width |
int(default=400) |
词云的宽 |
height |
int(default=200) |
词云的高 |
background_color |
color value(default=”black”) |
词云的背景颜色 |
font_path |
string |
字体路径 |
mask |
nd-array(default=None) |
图云背景图片 |
stopwords |
set |
要屏蔽的词语 |
maxfontsize |
int(default=None) |
字体的最大大小 |
minfontsize |
int(default=None) |
字体的最小大小 |
max_words |
number(default=200) |
要显示词的最大个数 |
contour_width |
int |
轮廓粗细 |
contour_color |
color value |
轮廓颜色 |
scale |
float(default=1) |
按照原先比例扩大的倍数 |
我们来测试一下上面的参数:
# 导入模块 from wordcloud import WordCloud # 文本数据 text = 'he speak you most bueatiful time Is he first meeting you' # 准备禁用词,需要为set类型 stopwords = set(['he', 'is']) # 设置参数,创建WordCloud对象 wc = WordCloud( width=200, # 设置宽为400px height=150, # 设置高为300px background_color='white', # 设置背景颜色为白色 stopwords=stopwords, # 设置禁用词,在生成的词云中不会出现set集合中的词 max_font_size=100, # 设置最大的字体大小,所有词都不会超过100px min_font_size=10, # 设置最小的字体大小,所有词都不会超过10px max_words=10, # 设置最大的单词个数 scale=2 # 扩大两倍 ) # 根据文本数据生成词云 wc.generate(text) # 保存词云文件 wc.to_file('img.jpg')
生成一个有形状的词云
我们设置的图形形状是
import pandas as pd import jieba.analyse from wordcloud import WordCloud import cv2 # 读取文件 pd_data = pd.read_excel('鸿星尔克.xlsx') # 读取内容 text = pd_data['发帖内容'].tolist() # 切割分词 wordlist = jieba.lcut_for_search(''.join(text)) result = ' '.join(wordlist) # 设置停用词 stop_words = ['你', '我', '的', '了', '们'] ciyun_words = '' for word in result: if word not in stop_words: ciyun_words += word # 读取图片 im = cv2.imread('11.jpg') # 设置参数,创建WordCloud对象 wc = WordCloud( font_path='msyh.ttc', # 中文 background_color='white', # 设置背景颜色为白色 stopwords=stop_words, # 设置禁用词,在生成的词云中不会出现set集合中的词 mask=im ) # 根据文本数据生成词云 wc.generate(ciyun_words) # 保存词云文件 wc.to_file('img.jpg')
发现全是矩形,这是因为 WordCloud 默认不支持中文的缘故,我们需要设置一个可以支持中文的字体,我们添加代码如下:
# 创建词云对象 wc = WordCloud(font_path='msyh.ttc')
文末再给大家介绍一个宝藏库
stylecloud
使用它设置词云再简单不过了,为什么?
因为它有7865个词云图标供你选择。
需要使用那个图标只需复制下面的图标名称即可!
而且自带停用词的那种
import pandas as pd import jieba.analyse from stylecloud import gen_stylecloud # 读取文件 pd_data = pd.read_excel('鸿星尔克.xlsx') exist_col = pd_data.dropna() # 删除空行 # 读取内容 text = exist_col['发帖内容'].tolist() # 切割分词 wordlist = jieba.cut_for_search(''.join(text)) result = ' '.join(wordlist) gen_stylecloud(text=result, icon_name='fas fa-comment-dots', font_path='msyh.ttc', background_color='white', output_name='666.jpg', custom_stopwords=['你', '我', '的', '了', '在', '吧', '相信', '是', '也', '都', '不', '吗', '就', '我们', '还', '大家', '你们', '就是', '以后'] ) print('绘图成功!')
又方便又好看,是我现在制作词云的首选!