Python之jieba中文分词库

﹏ヽ暗。殇╰゛Y 2022-02-27 15:08 243阅读 0赞

jieba分词是Python中目前最受欢迎的中文分词库，他有许多特点，为了便于介绍直接引用官方介绍如下。

*  支持三种分词模式：
    
     *  精确模式，试图将句子最精确地切开，适合文本分析；
     *  全模式，把句子中所有的可以成词的词语都扫描出来，速度非常快，但是不能解决歧义；
     *  搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。
 *  支持繁体分词
 *  支持自定义词典
 *  MIT 授权协议

jieba分词的原理是利用一个中文词库，确定汉字之间的关联概率，然后组成词组，形成分词结果，除了分词，用户还可以添加自定义的词组。

我们先来看一个最简单的代码示例：

jieba使用起来非常简单，核心的功能函数方法就是使用cut()方法来做分词处理。当然不仅仅是这一个方法，还有诸多cut方法，比如lcut()，lcut返回的是一个list，而刚才的cut返回的是一个Python生成器。cut和lcut的区别除了返回的结果不一样以外，还有一个重要的区别是cut的速度要略快于lcut可以详见官方文档。

# encoding=utf-8
    import jieba
    
    seg_list = jieba.cut("我来到北京清华大学", cut_all=True)
    print("全模式: " + "/ ".join(seg_list))  # 全模式
    # 输出如下：
    # 全模式: 我/ 来到/ 北京/ 清华/ 清华大学/ 华大/ 大学
    
    seg_list = jieba.cut("我来到北京清华大学", cut_all=False)
    print("默认（精确模式）: " + "/ ".join(seg_list))  # 精确模式
    # 输出如下：
    # 默认（精确模式）: 我/ 来到/ 北京/ 清华大学
    
    seg_list = jieba.cut("他来到了网易杭研大厦")  # 默认是精确模式
    print(", ".join(seg_list))
    # 输出如下：
    # 他, 来到, 了, 网易, 杭研, 大厦
    
    seg_list = jieba.cut_for_search("小明硕士毕业于中国科学院计算所，后在日本京都大学深造")  # 搜索引擎模式
    print(", ".join(seg_list))
    # 输出如下：
    # 小明, 硕士, 毕业, 于, 中国, 科学, 学院, 科学院, 中国科学院, 计算, 计算所, ，, 后, 在, 日本, 京都, 大学, 日本京都大学, 深造

下面这个示例，就是我们使用jieba来分析《三国演义》小说中，两个字词汇频率最高的词是什么，可以从结果中发现，枭雄操和军事孔明果然是三国小说里提及最多的风云人物前二名。

import jieba
    from pathlib import Path
    from collections import Counter
    
    text_path = Path(Path.cwd()/'三国演义.txt')
    with text_path.open(encoding = 'GB18030') as f:
        text_content = f.read()
    
    # 添加自己的词库分词，比如添加'军师孔明'到jieba词库后，当你处理的文本中含有军师孔明这个词，
    # 就会直接将'军师孔明'当作一个词，而不会得到'军师'或'孔明'这样的词。
    jieba.add_word('军师孔明')
    
    # 与cut方法区别的是返回的是list类型
    words = jieba.lcut(text_content)
    # 用Counter方法计算单词频率数
    count = Counter(words)
    most_count = count.most_common()
    words_list = []
    
    for i in most_count:
        if len(i[0]) >= 2 and len(i[0]) <= 4:
            words_list.append(i)
          
    print(words_list[:10])
    
    # 输出如下：
    # [('曹操', 934),
    #  ('孔明', 831),
    #  ('将军', 760),
    #  ('却说', 647),
    #  ('玄德', 570),
    #  ('关公', 509),
    #  ('丞相', 488),
    #  ('二人', 463),
    #  ('不可', 435),
    #  ('荆州', 420)]

jieba虽然使用上十分简单，只需要调用一个核心函数就可以达到分词的效果，但还有更多细腻的参数操作，比如：我们可以自己设置关键字，然后用基于TF-IDF算法的analyse.extract\_tags()方法提取关键字，或者自定义自己的词典库等等。

更详细的用法和更新动态详见：[https://github.com/fxsjy/jieba][https_github.com_fxsjy_jieba]

[https_github.com_fxsjy_jieba]: https://github.com/fxsjy/jieba