【python 文本统计】西游记用字统计

1、数据
xyj.txt,《西游记》的文本,2.2MB
致敬吴承恩大师,4020行(段)

2、目标
统计《西游记》中:
1. 共出现了多少个不同的汉字;
2. 每个汉字出现了多少次;
3. 出现得最频繁的汉字有哪些。

3、涉及内容:
1. 读文件;
2. 字典的使用;
3. 字典的排序;
4. 写文件

4、效果

这里写图片描述

5、源代码

# coding:utf8

import sys
reload(sys)
sys.setdefaultencoding("utf8")

fr = open('xyj.txt', 'r')

characters = []
stat = {}

for line in fr:
    # 去掉每一行两边的空白
    line = line.strip()
    # 如果为空行则跳过该轮循环
    if len(line) == 0:
        continue
    # 将文本转为unicode,便于处理汉字
    line = unicode(line)
    # 遍历该行的每一个字
    for x in xrange(0, len(line)):
        # 去掉标点符号和空白符
        if line[x] in [' ','', '\t', '\n', '。', ',', '(', ')', '(', ')', ':', '□', '?', '!', '《', '》', '、', ';', '“', '”', '……']:
            continue
        # 尚未记录在characters中
        if not line[x] in characters:
            characters.append(line[x])
        # 尚未记录在stat中
        if not stat.has_key(line[x]):
            stat[line[x]] = 0
        # 汉字出现次数加1
        stat[line[x]] += 1
print len(characters)
print len(stat)

# lambda生成一个临时函数
# d表示字典的每一对键值对,d[0]为key,d[1]为value
# reverse为True表示降序排序
stat = sorted(stat.items(), key=lambda d:d[1], reverse=True)

fw = open('result.csv', 'w')
for item in stat:
    # 进行字符串拼接之前,需要将int转为str
    fw.write(item[0] + ',' + str(item[1]) + '\n')
fr.close()
fw.close()
已标记关键词 清除标记
©️2020 CSDN 皮肤主题: 编程工作室 设计师:CSDN官方博客 返回首页