36. 単語の出現頻度
文章中に出現する単語とその出現頻度を求め,出現頻度の高い順に並べよ.
import re
from collections import Counter
sentences = []
with open("D:\\nlp100\\neko.txt.mecab",encoding="UTF-8") as fr:
line = fr.readline()
keitaiso = []
while line:
if "EOS" in line:
if len(keitaiso)>0:
sentences.append(keitaiso)
keitaiso = []
else:
line = re.split(r'[\t,]',line)
keitaiso.append({"surface":line[0],"base":line[7],"pos":line[1],"pos1":line[2]})
line =fr.readline()
word_count = {}
for sentence in sentences:
for index in range(0,len(sentence)):
item = sentence[index]["surface"]
if item in word_count:
word_count[item] += 1
else:
word_count[item] = 1
list = [(k, word_count[k]) for k in sorted(word_count, key=word_count.get, reverse=True)]
for k, v in list:
print(k, v)
<結果 一部>
の 9194
。 7486
て 6868
、 6772
は 6420
に 6243
を 6071
と 5508
が 5337
た 3988
で 3806
「 3231
」 3225
も 2479
ない 2390
だ 2363
し 2322
から 2032
ある 1728