Spark应用HanLP对中文语料进行文本挖掘--聚类详解教程
在Kmeans算法中,一个样本需要使用数值类型,所以需要把文本转为数值向量形式,这里在Spark中有两种方式。其一,是使用TF-IDF;其二,使用Word2Vec。这里暂时使用了TF-IDF算法来进行,这个算法需要提供一个numFeatures,这个值越大其效果也越好,但是相应的计算时间也越长,后面也可以通过实验验证。
基于 ElasticSearch 搜索服务的简易 API 调用
Search项目是基于ElasticSearch搜索服务提供的简易API调用,支持以下功能
数据索引
添加索引数据
更新索引数据(UpdateById/UpdateByQuery)
数据批量操作(批量添加/删除/修改)
路由(routing)
建议查询(Suggest)
Mustache模板.
NLPIR智能语义:大数据挖掘的核心在于“预测”
NLPIR能够全方位多角度满足应用者对大数据文本的处理需求,包括大数据完整的技术链条:网络采集、正文提取、中英文分词、词性标注、实体抽取、词频统计、关键词提取、语义信息抽取、文本分类、情感分析、语义深度扩展、繁简编码转换、自动注音、文本聚类等。
阿里开源新一代 AI 算法模型,由达摩院90后科学家研发
近日,阿里 AI 开源了新一代人机对话模型 ESIM。该算法模型提出两年多,已被包括谷歌、facebook 在内的国际学术界在200多篇论文中引用,更曾在国际顶级对话系统评测大赛(DSTC7)上获得双料冠军,将人机对话准确率的世界纪录提升至94.1%。