HanLP 自然语言处理 for nodejs

本文涉及的产品
NLP 自学习平台,3个模型定制额度 1个月
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
简介: ·支持中文分词(N-最短路分词、CRF分词、索引分词、用户自定义词典、词性标注),命名实体识别(中国人名、音译人名、日本人名、地名、实体机构名识别),关键词提取,自动摘要,短语提取,拼音转换,简繁转换,文本推荐,依存句法分析(MaxEnt依存句法分析、CRF依存句法分析)

·支持中文分词(N-最短路分词、CRF分词、索引分词、用户自定义词典、词性标注),命名实体识别(中国人名、音译人名、日本人名、地名、实体机构名识别),关键词提取,自动摘要,短语提取,拼音转换,简繁转换,文本推荐,依存句法分析(MaxEnt依存句法分析、CRF依存句法分析)

 

环境要求

java 1.8

nodejs >= 6

 

docker

 

·build image

cd node-hanlp

./scripts/build-docker-image.sh

 

Or pull image

docker pull samurais/hanlp-api:1.0.0

·  start container

docker run -it --rm -p 3002:3000 samurais/hanlp-api:1.0.0

·access service

POST /tokenizer HTTP/1.1

Host: localhost:3002

Content-Type: application/json

 

{

"type": "nlp",

"content": "刘德华和张学友创作了很多流行歌曲"

}

 

RESPONSE

{

  "status": "success",

  "data": [

    {

      "word": "刘德华",

      "nature": "nr",

      "offset": 0

    },

    {

      "word": "和",

      "nature": "cc",

      "offset": 0

    },

    {

      "word": "张学友",

      "nature": "nr",

      "offset": 0

    },

    {

      "word": "创作",

      "nature": "v",

      "offset": 0

    },

    {

      "word": "了",

      "nature": "ule",

      "offset": 0

    },

    {

      "word": "很多",

      "nature": "m",

      "offset": 0

    },

    {

      "word": "流行歌曲",

      "nature": "n",

      "offset": 0

    }

  ]

}

·Other APIs

 

l  tokenizer 分词

l  keyword 关键词

l  summary 摘要

l  phrase 短语提取

l  query 关键词、摘要

l  conversion 简、繁、拼音转换

 

源码

node module

 

·Install

npm install node-hanlp

·Config

 

²  配置文件路径 node_modules/node-hanlp/lib/src-java/hanLP.proerties

²  请修改root为您的目录路径

²  词典文件目录 ./data

²  请下载词典  pan.baidu.com/s/1pKUVNYF 放入 ./data (约800MB文件) 目录下

 

·Usage

const Hanlp = require("node-hanlp");

//分词库初始化及配置

const HanLP = new Hanlp({

CustomDict : true, //使用自定义词典

NameRecognize : true, //中国人名识别

TranslatedNameRecognize : true , //音译人名识别

JapaneseNameRecognize : true, //日本人名识别

PlaceRecognize : true , //地名识别

OrgRecognize : true //机构名识别

});

let words = HanLP.Tokenizer("商品和服务");

 

标准分词 HanLP.Tokenizer( text )

@param String text [文本]

@ruten Object

let words = HanLP.Tokenizer("商品和服务");

 

[

  { word: '商品', nature: 'n', offset: 0 },

  { word: '和', nature: 'cc', offset: 0 },

  { word: '服务', nature: 'vn', offset: 0 }

]

NLP分词 HanLP.NLPTokenizer( text )

@param String text [文本]

@ruten Object

let words = HanLP.NLPTokenizer("中国科学院计算技术研究所的宗成庆教授正在教授自然语言处理课程");

 

[

  { word: '中国科学院计算技术研究所', nature: 'nt', offset: 0 },

  { word: '的', nature: 'ude1', offset: 0 },

  { word: '宗成庆', nature: 'nr', offset: 0 },

  { word: '教授', nature: 'nnt', offset: 0 },

  ...

]

索引分词 HanLP.IndexTokenizer( text )

@param String text [文本]

@ruten Object

let words = HanLP.IndexTokenizer("主副食品");

 

[

  { word: '主副食品', nature: 'n', offset: 0 },

  { word: '主副食', nature: 'j', offset: 0 },

  { word: '副食', nature: 'n', offset: 1 },

  { word: '副食品', nature: 'n', offset: 1 },

  { word: '食品', nature: 'n', offset: 2 }

]

CRF分词 HanLP.CRFTokenizer( text )

@param String text [文本]

@ruten Object

let words = HanLP.CRFTokenizer("你好,欢迎使用HanLP汉语处理包!");

 

[

  { word: '你好', nature: 'vl', offset: 0 },

  { word: ',', nature: 'w', offset: 0 },

  { word: '欢迎', nature: 'v', offset: 0 },

  { word: '使用', nature: 'v', offset: 0 },

  { word: 'HanLP', nature: 'nz', offset: 0 },

  { word: '汉语', nature: 'gi', offset: 0 },

  ...

]

去除停用词分词 HanLP.NoStopWord( text )

@param String text [文本]

@ruten Object

let words = HanLP.NoStopWord("你好,欢迎使用HanLP汉语处理包!");

 

[

  { word: '你好', nature: 'vl', offset: 0 },

  { word: '欢迎', nature: 'v', offset: 0 },

  { word: '使用', nature: 'v', offset: 0 },

  { word: 'HanLP', nature: 'nz', offset: 0 },

  { word: '汉语', nature: 'gi', offset: 0 },

  ...

]

最短路分词 HanLP.ShortSegment( text )

@param String text [文本]

@ruten Object

let words = HanLP.ShortSegment("今天,liuzhijun案的关键人物,山西女商人dingshumiao在市二中院出庭受审。");

 

[

  { word: '今天', nature: 't', offset: 0 },

  { word: ',', nature: 'w', offset: 0 },

  { word: 'liushijun', nature: 'nr', offset: 0 },

  { word: '案', nature: 'ng', offset: 0 },

  { word: '的', nature: 'ude1', offset: 0 },

  { word: '关键', nature: 'n', offset: 0 },

  ...

]

N-最短分词 HanLP.NShortSegment( text )

@param String text [文本]

@ruten Object

let words = HanLP.NShortSegment("刘喜杰石国祥会见吴亚琴先进事迹报告团成员");

 

[

  { word: '刘喜杰', nature: 'nr', offset: 0 },

  { word: '石国祥', nature: 'nr', offset: 0 },

  { word: '会见', nature: 'v', offset: 0 },

  { word: '吴亚琴', nature: 'nr', offset: 0 },

  { word: '先进', nature: 'a', offset: 0 },

  ...

]

极速词典分词 HanLP.SpeedTokenizer( text )

@param String text [文本]

@ruten Object

let words = HanLP.SpeedTokenizer("江西鄱阳湖干枯,中国最大淡水湖变成大草原");

 

[

  { word: '江西', offset: 0 },

  { word: '鄱阳湖', offset: 2 },

  { word: '干枯', offset: 5 },

  { word: ',', offset: 7 },

  { word: '中国', offset: 8 },

]

关键词提取 HanLP.Keyword( text , nTop )

@param String text [文本]

@param Number nTop [关键词个数,默认5个]

@ruten Object

let words = HanLP.Keyword("江西鄱阳湖干枯,中国最大淡水湖变成大草原" , 3);

 

[ '中国', '最大', '淡水湖' ]

短语提取 HanLP.Phrase( text , nTop )

@param String text [文本]

@param Number nTop [短语个数,默认3个]

@ruten Object

let words = HanLP.Phrase("江西鄱阳湖干枯,中国最大淡水湖变成大草原" , 2 );

 

[ '中国最大', '变成草原' ]

提取文章摘要 HanLP.Summary( text , nTop )

@param String text [文本]

@param Number nTop [文章摘要条数,默认3条]

@ruten Object

let text = "据美国福克斯新闻报道,俄罗斯黑海舰队一艘护卫舰格里戈罗维奇海军上将号,正在驶向美国军舰发射导弹攻击叙利亚的区域。该护卫舰是俄罗斯最先进的护卫舰,2016年才刚服役,除防空、反舰导弹外,也可以发射巡航导弹。格里戈罗维奇海军上将号原定于本周访问叙利亚的塔尔图斯港。"

 

let words = HanLP.Summary( text , 3);

 

[

  '俄罗斯黑海舰队一艘护卫舰格里戈罗维奇海军上将号',

  '格里戈罗维奇海军上将号原定于本周访问叙利亚的塔尔图斯港',

  '正在驶向美国军舰发射导弹攻击叙利亚的区域'

]

文本推荐 HanLP.Suggester( list, words, Ntop )

 

@param Array list 句子列表

@param Array words 词语

@param Number nTop 相似句子推荐个数,默认1个

@ruten Object

 

句子级别,从一系列句子中挑出与输入句子最相似的那一个

语义距离 HanLP.WordDistance( words )

 

@param Array words

@ruten Object

简繁转换 HanLP.ConversionFont( text , type )

 

@param String text 文本

@ruten String type 类型 jt简体|ft繁体,默认jt

@ruten String

拼音转换 HanLP.Pinyin( text , type )

 

@param String text 文本

@ruten String type 类型 类型 num数字音调|tone符号音调|outtone无音调|shengmu声母|yunmu韵母|head输入法头,默认outtone

@ruten Object

相关文章
|
自然语言处理 算法 Java
NLP快速入门:手把手教你用HanLP做中文分词
NLP快速入门:手把手教你用HanLP做中文分词
1082 0
NLP快速入门:手把手教你用HanLP做中文分词
|
自然语言处理
自然语言处理hanlp------3java调用hanlp
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档
自然语言处理hanlp------3java调用hanlp
|
自然语言处理
自然语言处理工具HanLP-基于层叠HMM地名识别
本篇接上一篇内容《HanLP-基于HMM-Viterbi的人名识别原理介绍》介绍一下层叠隐马的原理。首先说一下上一篇介绍的人名识别效果对比: 只有Jieba识别出的人名准确率极低,基本为地名或复杂地名组成部分或复杂机构名组成部分。
1262 0
|
自然语言处理 Python Java
自然语言处理工具python调用hanlp的方法步骤
Python调用hanlp的方法此前有分享过,本篇文章分享自“逍遥自在017”的博客,个别处有修改,阅读时请注意!1.首先安装jpype首先各种坑,jdk和python 版本位数必须一致,我用的是JPype1-py3 版本号0.5.5.2 、1.6jdk和Python3.5,win7 64位下亲测没问题。
1176 0
|
自然语言处理 Windows
Hanlp自然语言处理工具之词法分析器
本章是接前两篇《分词工具Hanlp基于感知机的中文分词框架》和《基于结构化感知机的词性标注与命名实体识别框架》的。本系统将同时进行中文分词、词性标注与命名实体识别3个任务的子系统称为“词法分析器”。
2516 0
|
缓存 自然语言处理
Hanlp自然语言处理中的词典格式说明
使用过hanlp的都知道hanlp中有许多词典,它们的格式都是非常相似的,形式都是文本文档,随时可以修改。本篇文章详细介绍了hanlp中的词典格式,以满足用户自定义的需要。
4853 0
|
自然语言处理 Java 开发工具
如何编译运行HanLP自然语言处理包
master分支 对于master分支,编译方法如下: git clone  https://github.com/hankcs/HanLP.git mvn install -DskipTests   ·由于目前一些test不够规范,使用了硬编码路径下的资源,所以暂时跳过单元测试。
1353 0
|
自然语言处理 算法 C++
开源自然语言处理工具包hanlp中CRF分词实现详解
 CRF简介 CRF是序列标注场景中常用的模型,比HMM能利用更多的特征,比MEMM更能抵抗标记偏置的问题。 [gerative-discriminative.png]  CRF训练 这类耗时的任务,还是交给了用C++实现的CRF++。
1897 0
|
自然语言处理 算法 程序员
自然语言处理工具hanlp关键词提取图解TextRank算法
TextRank是在Google的PageRank算法启发下,针对文本里的句子设计的权重算法,目标是自动摘要。它利用投票的原理,让每一个单词给它的邻居(术语称窗口)投赞成票,票的权重取决于自己的票数。这是一个“先有鸡还是先有蛋”的悖论,PageRank采用矩阵迭代收敛的方式解决了这个悖论。
1608 0
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
AI技术在自然语言处理中的应用与挑战
【10月更文挑战第3天】本文将探讨AI技术在自然语言处理(NLP)领域的应用及其面临的挑战。我们将分析NLP的基本原理,介绍AI技术如何推动NLP的发展,并讨论当前的挑战和未来的趋势。通过本文,读者将了解AI技术在NLP中的重要性,以及如何利用这些技术解决实际问题。

热门文章

最新文章