nlp分词HanLP简介
HanLP 是一个开源的自然语言处理(NLP)工具包,由 Hankcs 开发,支持中文及多语种文本处理。
主要功能:
- 中文分词
- 词性标注(POS)
- 命名实体识别(NER)
- 依存句法分析
- 文本分类
- 关键词提取
- 自动摘要
- 情感分析
适用场景:
- 智能搜索
- 知识图谱
- 智能客服
- RAG 文本预处理
- AI 应用开发
环境安装
1.创建虚拟环境
1 | python3 -m venv venv |
2.安装 HanLP
1 | # 精简版 |
国内可使用镜像:
1 | pip install -i https://pypi.tuna.tsinghua.edu.cn/simple hanlp |
3.安装验证
1 | import hanlp |
或加载模型:
1 | import hanlp |
首次运行会自动下载模型。
模型默认缓存:
~/.hanlp/
~/.cache/huggingface