Spark应用HanLP对中文语料进行文本挖掘--聚类详解教程
在Kmeans算法中,一个样本需要使用数值类型,所以需要把文本转为数值向量形式,这里在Spark中有两种方式。其一,是使用TF-IDF;其二,使用Word2Vec。这里暂时使用了TF-IDF算法来进行,这个算法需要提供一个numFeatures,这个值越大其效果也越好,但是相应的计算时间也越长,后面也可以通过实验验证。
基于 ElasticSearch 搜索服务的简易 API 调用
Search项目是基于ElasticSearch搜索服务提供的简易API调用,支持以下功能
数据索引
添加索引数据
更新索引数据(UpdateById/UpdateByQuery)
数据批量操作(批量添加/删除/修改)
路由(routing)
建议查询(Suggest)
Mustache模板.
Python数据分析及可视化-小测验
本文中测验需要的文件夹下载链接: https://pan.baidu.com/s/1OqFM2TNY75iOST6fBlm6jw 密码: rmbt
下载压缩包后解压如下图所示:
image.png
首先将5题的文件复制形成副本,如下图所示:
image.png
在资源管理器的路径中输入cmd,如下图所示:
image.png
在上图中输入后,按Enter键运行进入cmd窗口。
PaperWeekly 第十三期--最新文章解读
引言
本期的PaperWeekly一共分享四篇最近arXiv上放出的高质量paper,包括:机器翻译、表示学习、推荐系统和聊天机器人。人工智能及其相关研究日新月异,本文将带着大家了解一下以上四个研究方向都有哪些最新进展。
NLPIR智能语义:大数据挖掘的核心在于“预测”
NLPIR能够全方位多角度满足应用者对大数据文本的处理需求,包括大数据完整的技术链条:网络采集、正文提取、中英文分词、词性标注、实体抽取、词频统计、关键词提取、语义信息抽取、文本分类、情感分析、语义深度扩展、繁简编码转换、自动注音、文本聚类等。