分词工具使用系列——jieba使用

朱雀 2024-04-01 15:20 68阅读 0赞

## 分词工具使用系列 ##

[第一章 sentencepiece使用][sentencepiece]  
[第二章 jieba工具使用][jieba]

--------------------

#### 分词工具使用系列——jieba使用 ####

*  分词工具使用系列
 *  一、Jieba工具是什么
 *  二、jieba分词和sentencepiece的区别
 *  三、如何使用jieba工具

--------------------

## 一、Jieba工具是什么 ##

“结巴”中文分词：做最好的 Python 中文分词组件，`支持的是中文的分词，包含繁体中文`  
[Jieba工具github链接][Jieba_github]

支持四种分词模式：

*  精确模式，试图将句子最精确地切开，适合文本分析；
 *  全模式，把句子中所有的可以成词的词语都扫描出来, 速度非常快，但是不能解决歧义；
 *  搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。
 *  paddle模式，利用PaddlePaddle深度学习框架，训练序列标注（双向GRU）网络模型实现分词。同时支持词性标注。

> `根据字典进行分词算法原理（区别一下分词构建词库的算法原理）`
> 
>  *  基于前缀词典实现高效的词图扫描，生成句子中汉字所有可能成词情况所构成的有向无环图 (DAG)
>  *  采用了动态规划查找最大概率路径, 找出基于词频的最大切分组合
>  *  对于未登录词，采用了基于汉字成词能力的 HMM 模型，使用了 Viterbi 算法

## 二、jieba分词和sentencepiece的区别 ##

>  *  jieba分词工具的侧重点在于分词，不提供字典生成功能，需要自己通过别的方法构建字典，jieba本身也携带一个字典。jieba额外提供了一些词性识别，文本关键词抽取（TF-IDF）的方法。`一般是用来做中文的关键词抽取进行搜索,文本预处理等，类似于实体识别的功能。`
>  *  sentencepiece提供了`分词词库构建`和`利用词库进行分词的功能`，适用于深度学习模型的构建前做数据预处理

## 三、如何使用jieba工具 ##

# encoding=utf-8
    import jieba
    
    jieba.enable_paddle()# 启动paddle模式。 0.40版之后开始支持，早期版本不支持
    strs=["我来到北京清华大学","乒乓球拍卖完了","中国科学技术大学"]
    for str in strs:
        seg_list = jieba.cut(str,use_paddle=True) # 使用paddle模式
        print("Paddle Mode: " + '/'.join(list(seg_list)))
    
    seg_list = jieba.cut("我来到北京清华大学", cut_all=True)
    print("Full Mode: " + "/ ".join(seg_list))  # 全模式
    
    seg_list = jieba.cut("我来到北京清华大学", cut_all=False)
    print("Default Mode: " + "/ ".join(seg_list))  # 精确模式
    
    seg_list = jieba.cut("他来到了网易杭研大厦")  # 默认是精确模式
    print(", ".join(seg_list))
    
    seg_list = jieba.cut_for_search("小明硕士毕业于中国科学院计算所，后在日本京都大学深造")  # 搜索引擎模式
    print(", ".join(seg_list))

[sentencepiece]: https://blog.csdn.net/qq_37771209/article/details/127664462
[jieba]: https://blog.csdn.net/qq_37771209/article/details/127717695
[Jieba_github]: https://github.com/fxsjy/jieba