nlp分词HanLP简介

HanLP 是一个开源的自然语言处理(NLP)工具包,由 Hankcs 开发,支持中文及多语种文本处理。

主要功能:

  • 中文分词
  • 词性标注(POS)
  • 命名实体识别(NER)
  • 依存句法分析
  • 文本分类
  • 关键词提取
  • 自动摘要
  • 情感分析

适用场景:

  • 智能搜索
  • 知识图谱
  • 智能客服
  • RAG 文本预处理
  • AI 应用开发

环境安装

1.创建虚拟环境

1
2
python3 -m venv venv
source venv/bin/activate

2.安装 HanLP

1
2
3
4
5
# 精简版
pip install hanlp

# 完整版
pip install hanlp[full]

国内可使用镜像:

1
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple hanlp

3.安装验证

1
2
3
import hanlp

print(hanlp.__version__)

或加载模型:

1
2
3
4
import hanlp

tok = hanlp.load(hanlp.pretrained.tok.COARSE_ELECTRA_SMALL_ZH)
print(tok("HanLP 是优秀的中文 NLP 工具。"))

首次运行会自动下载模型。

模型默认缓存:
~/.hanlp/
~/.cache/huggingface