python 中文分词工具

陶睿

2023-12-01

python 中文分词工具

jieba，https://github.com/fxsjy/jieba
jieba_fast，https://github.com/deepcs233/jieba_fast
nltk，https://github.com/nltk/nltk
FoolNLTK，https://github.com/rockyzhengwu/FoolNLTK/blob/master/README_CH.md
thulac，https://github.com/thunlp/THULAC-Python
genius，https://github.com/duanhongyi/genius
snownlp，https://github.com/isnowfy/snownlp
pynlpir，https://github.com/tsroten/pynlpir

jieba

“结巴”中文分词：https://github.com/fxsjy/jieba
算法
1）基于前缀词典实现高效的词图扫描，生成句子中汉字所有可能成词情况所构成的有向无环图 (DAG)；
2）采用了动态规划查找最大概率路径, 找出基于词频的最大切分组合；
3）对于未登录词，采用了基于汉字成词能力的 HMM 模型，使用了 Viterbi 算法。

1、分词

支持三种分词模式：
精确模式，试图将句子最精确地切开，适合文本分析；
全模式，把句子中所有的可以成词的词语都扫描出来, 速度非常快，但是不能解决歧义；
搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。

import jieba

seg1 = jieba.cut("好好学学python，有用。", cut_all=True)
print('全模式：', ' '.join(seg1))
seg2 = jieba.cut("好好学学python，有用。", cut_all=False)
print("精确模式（也是默认模式）：", ' '.join(seg2))
seg3 = jieba.cut_for_search("好好学学python，有用。")
print("搜索引擎模式：", ' '.join(seg3))
print("\n")

seg_list1 = jieba.lcut("好好学学python，有用。", cut_all=True)
print(seg_list1)
seg_list2 = jieba.lcut("好好学学python，有用。", cut_all=False)
print(seg_list2)
seg_list_search = jieba.lcut_for_search("好好学学python，有用。")
print(seg_list_search)

输出：

全模式： 好好 好好学 好学 学学 python  有用  
精确模式（也是默认模式）： 好好 学学 python ， 有用 。
搜索引擎模式： 好好 学学 python ， 有用 。

['好好', '好好学', '好学', '学学', 'python', '', '有用', '', '']
['好好', '学学', 'python', '，', '有用', '。']
['好好', '学学', 'python', '，', '有用', '。']

特别地：
jieba.cut 以及 jieba.cut_for_search 返回的结构都是一个可迭代的 generator，可以使用 for 循环来获得分词后得到的每一个词语，或者用jieba.lcut 以及 jieba.lcut_for_search 直接返回 list。

2、词性标注

import jieba.posseg as pseg

words = pseg.cut("好好学习，天天向上。")
for word, flag in words:
    print('%s %s' % (word, flag))

输出：

好好学习 n
， x
天天向上 l
。 x

3、关键词抽取

基于 TF-IDF 算法的关键词抽取
语法：
jieba.analyse.extract_tags(sentence, topK=20, withWeight=False, allowPOS=())
sentence 为待提取的文本
topK 为返回几个 TF/IDF 权重最大的关键词，默认值为 20
withWeight 为是否一并返回关键词权重值，默认值为 False
allowPOS 仅包括指定词性的词，默认值为空，即不筛选

import jieba.analyse

keyword = jieba.analyse.extract_tags('流云在天边，行囊在眼前，有一条通往太阳的路无边又无沿。')
print(keyword)

keywords = jieba.analyse.extract_tags('流云在天边，行囊在眼前，有一条通往太阳的路无边又无沿。',
                                      topK=5, withWeight=True)
print(keywords)

输出：

['流云', '行囊', '天边', '无边', '通往', '太阳', '眼前', '一条']
[('流云', 1.33032263925), ('行囊', 1.20652280124125), ('天边', 1.1546548197325), ('无边', 1.02799048121375), ('通往', 0.90122942182)]

基于 TextRank 算法的关键词抽取
语法：
jieba.analyse.textrank(sentence, topK=20, withWeight=False, allowPOS=(‘ns’, ‘n’, ‘vn’, ‘v’)) 直接使用，接口相同，注意默认过滤词性。
论文：
Mihalcea R, Tarau P. TextRank: Bringing Order into Texts[J]. Emnlp, 2004:404-411.
基本思想:
将待抽取关键词的文本进行分词
以固定窗口大小(默认为5，通过span属性调整)，词之间的共现关系，构建图
计算图中节点的PageRank，注意是无向带权图

import jieba.analyse

keyword = jieba.analyse.textrank('流云在天边，行囊在眼前，有一条通往太阳的路无边又无沿。')
print(keyword)

keywords = jieba.analyse.textrank('流云在天边，行囊在眼前，有一条通往太阳的路无边又无沿。',
                                      topK=30, withWeight=True)
print(keywords)

输出：

['行囊', '流云']
[('行囊', 1.0), ('流云', 0.9961264494011037)]

jieba_fast

使用cpython重写了jieba分词库中计算DAG和HMM中的vitrebi函数，速度得到大幅提升。
https://github.com/deepcs233/jieba_fast

python 中文分词工具