天天看點

中文詞頻統計

這個作業的要求來自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2773。

1. 下載下傳一長篇中文小說。

本次實踐選擇長篇小說《寵物天王》

中文詞頻統計
中文詞頻統計
2. 從檔案讀取待分析文本。

txt=open(r'cwtw.txt','r',encoding='utf-8').read()      

3. 安裝并使用jieba進行中文分詞。

中文詞頻統計

4. 更新詞庫,加入所分析對象的專業詞彙。

5. 生成詞頻統計

6. 排序

7. 排除文法型詞彙,代詞、冠詞、連詞等停用詞。

8. 輸出詞頻最大TOP20,把結果存放到檔案裡

中文詞頻統計

代碼如下:

# -*- coding: utf-8 -*-
"""
Created on Mon Mar 18 18:45:22 2019

@author: Administrator
"""

from wordcloud import WordCloud
import matplotlib.pyplot as plt
import jieba
txt=open(r'cwtw.txt','r',encoding='utf-8').read()
 
s=[line.strip() for line in open('stops_chinese.txt',encoding='utf-8').readlines()]
jieba.load_userdict(s)
 
 
wordcut = jieba.lcut(txt)
 
wdict = {}
 
for word in wordcut:
   if word not in s:
        if len(word)==1:
            continue
        else:
            wdict[word]=wdict.get(word,0)+1
             
wc=list(wdict.items())
wc.sort(key=lambda x:x[1], reverse=True)
 
for i in range(20):
       print(wc[i])
 
cut_text = " ".join(wordcut)
'print(cut_text)'
 
mywc = WordCloud().generate(cut_text)
plt.imshow(mywc)
plt.axis("off")
plt.show()      

9. 生成詞雲。

安裝詞雲:pip install -i https://pypi.tuna.tsinghua.edu.cn/simple wordcloud

下載下傳安裝:下載下傳 https://www.lfd.uci.edu/~gohlke/pythonlibs/#wordcloud

安裝 找到下載下傳檔案的路徑  pip install wordcloud-1.5.0-cp37-cp37m-win_amd64.whl

中文詞頻統計

1、引入子產品

from wordcloud import WordCloud
import matplotlib.pyplot as plt      

2、導入文本

  準備生成詞雲的文本word_text =' '.join(wordlist)  #是以空格分隔的字元串

3、生成詞雲

mywc = WordCloud().generate(wl_split)      

4、顯示詞雲

plt.imshow(mywc)
plt.axis("off")
plt.show()      
中文詞頻統計