网站建设资讯

NEWS

网站建设资讯

Python中jieba分词模块的用法

这篇文章主要讲解了“Python中jieba分词模块的用法”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Python中jieba分词模块的用法”吧!

类乌齐ssl适用于网站、小程序/APP、API接口等需要进行数据传输应用场景,ssl证书未来市场广阔!成为成都创新互联公司的ssl证书销售渠道,可以享受市场价格4-6折优惠!如果有意向欢迎电话联系或者加微信:13518219792(备注:SSL证书合作)期待与您的合作!

0、前言

jieba库是进行中文分词的利器,根据文档描述,具有以下特点:

  1. 分词

  2. 提取关键词

  3. 搜索词汇位置

  4. 2、提取词汇

    在处理词汇时,常常我们会提取出现频率比较高的关键词,jieba.analyse.extract_tags()具有此功能,它接受 4 个参数

    • 3、搜索词汇位置

    • jieba 库也包含了定位词汇位置的功能,jieba.tokenize() 可以实现此功能,该函数接收字符串,返回一个生成器,包含所有分词结果以及始末位置,基本用法如下:

      import jieba
      string = '今天天气特别好,很开心' result = jieba.tokenize(string)
      print(list(result))

      结果如下:

      [('今天天气', 0, 4), ('特别', 4, 6), ('好', 6, 7),
       (',', 7, 8), ('很', 8, 9), ('开心', 9, 11)]

      如果我们只是找到某个特定的词汇在文中的位置,拿之前的西游记文本为例,我们去寻找词汇 “行者” 第一次出现的位置

      with open('西游记.txt','r',errors='ignore')as f:
          data = f.read()
      
      result = jieba.tokenize(data) for i in result:
          if '行者' in i:
              print(i)
              break

      结果:

      ('行者', 8593, 8595)

      如此,就能很方便的找到特定词汇在文章中出现的位置。

    • 4、小结

    • 以上就是 jieba 库的常用的方法,该库还包括词性标注、并行分词、命令行分词、添加字典等等功能。
      更详细的内容参考官方文档:https://github.com/fxsjy/jieba
      对该库的算法感兴趣的同学可参考
      jieba分词的基本思路:
      https://segmentfault.com/a/1190000004061791
      对Python中文分词模块结巴分词算法过程的理解和分析:http://blog.csdn.net/rav009/article/details/12196623

感谢各位的阅读,以上就是“Python中jieba分词模块的用法”的内容了,经过本文的学习后,相信大家对Python中jieba分词模块的用法这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是创新互联,小编将为大家推送更多相关知识点的文章,欢迎关注!


新闻标题:Python中jieba分词模块的用法
文章链接:http://njwzjz.com/article/pshsig.html