词向量的运用-用词向量理解词组的含义

简介: 之前花了5篇介绍了word2vec的方法。词向量最大的意义是把原来的字符串变成了一个数字形式的向量,也就是说现在词和图像变得非常相近,因为图像也就是例如255*255的像素点,而每个像素也是一个数字。因此,词向量被很多任务作为初始的输入,从这开始,我将以轻松的形式来介绍词向量的运用场景。 = 本着先进性的原则,我会介绍最新的16年的论文,以较轻松的形式。今天分析这篇: 用词向
  之前花了5篇介绍了word2vec的方法。词向量最大的意义是把原来的字符串变成了一个数字形式的向量,也就是说现在词和图像变得非常相近,因为图像也就是例如255*255的像素点,而每个像素也是一个数字。因此,词向量被很多任务作为初始的输入,从这开始,我将以轻松的形式来介绍词向量的运用场景。

=

本着先进性的原则,我会介绍最新的16年的论文,以较轻松的形式。今天分析这篇:
用词向量理解词组的含义http://aclweb.org/anthology/Q/Q16/Q16-1002.pdf

Key Idea

作者的核心思想:用词典的定义来训练词组,
如 Piano:
A large keyboard musical instrument with a wooden case enclosing a soundboard and metal strings
那么代表下面一串的词组的向量就应该是piano向量.

训练的话,使用RNN或者一般的Bag of Word 神经网络。
简单来说,RNN训练的目标是
A,large,keyboard,musical,....strings -> Piano
这样一个序列能够得到Piano。
而Bag of Word则是
A->Piano, large->Piano, keyboard ->Piano,...strings ->Pinao这样每个单词可以得到答案Piano.
乍看之下RNN显得要比Bag of Word更合理,但是RNN存在vanishing gradient和迭代更新慢的特点,目前还没有在实用性上得到普及。

效果展示

作者提供了网址来测试他的研究。
我从几个维度来测试了效果,我先试了
A big company in China

1
可以看到训练数据应该不包含公司的信息,RNN输出的结果基本是乱码,而BOW输出的基本为地名,应该是匹配上了Place in China。

我再试了非常正规的词,路由器。以下定义都是我自己写的,和词典的无关。
A device that can access the Internet
2
可以看到这次RNN和BOW都得到了精准的答案,modern,在之前的几个结果和符合逻辑,什么server,browser.

最后我试了一个连我都不知道答案的介绍,想看看表现如何。
A book that can kill people。 一本杀人书!
3png

RNN给出了死灵书这样的答案,非常给力啊。而BOW则非常中规中矩,给出了一些书的别称。

自然语言处理尚在发展时期,而不久的将来语义的理解可能不是梦o(∩_∩)o 哈哈。

=

相关文章
|
8月前
|
人工智能 自然语言处理 运维
大型企业如何建设智能客服系统(2026年2月新版)
本文剖析大型企业智能客服建设“三步走”路径:全渠道融合、知识资产化、人机协同。重点介绍阿里云瓴羊Quick Service如何依托通义千问大模型,构建超级知识库、实现拟人化任务执行、赋能智能坐席、驱动数据洞察,推动客服从成本中心跃升为价值引擎。(239字)
|
5月前
|
SQL 存储 缓存
【Java基础】核心关键字:final、static、volatile、synchronized、transient(附《思维导图》+《面试高频考点清单》)
本文系统解析Java五大核心关键字:final(不可变性)、static(类级共享)、volatile(轻量级可见性)、synchronized(重量级同步)与transient(序列化控制)。涵盖语义、使用场景、底层原理(内存屏障、Monitor、类加载机制等)、常见误区及高频面试要点。
【Java基础】核心关键字:final、static、volatile、synchronized、transient(附《思维导图》+《面试高频考点清单》)
|
4月前
|
存储 缓存 Java
Java在配置中心(Apollo/Nacos)设计中的核心贡献
微服务架构下,配置文件分散在各处,修改一个配置需要重启服务,效率低下且易出错。配置中心实现了配置的统一管理、动态刷新、版本控制、灰度发布。
377 2
|
9月前
|
JSON 监控 前端开发
如何高效接入日本股市实时数据?StockTV API 对接实战指南
本文详解如何通过StockTV金融API(countryId=35)高效接入日本股市实时行情,涵盖全量股票列表、单股查询、多周期K线、涨跌榜等核心接口,并对比HTTP轮询与毫秒级WebSocket推送方案,助力量化开发与实时应用构建。(239字)
|
10月前
|
传感器 算法 机器人
减速机行业场景化技术方案与数据化选型指南
本文系统解析减速机在新能源、机器人、智能物流等领域的场景化应用,结合15年工程经验与12个典型案例,构建涵盖选型校核、结构优化、维护策略的全流程技术方案,配套数据化计算工具与故障诊断算法,助力实现精准匹配、可靠运行与降本增效。
减速机行业场景化技术方案与数据化选型指南
|
机器学习/深度学习 算法 算法框架/工具
256KB内存约束下的设备端训练:算法与系统协同设计——论文解读
MIT与MIT-IBM Watson AI Lab团队提出一种创新方法,在仅256KB SRAM和1MB Flash的微控制器上实现深度神经网络训练。该研究通过量化感知缩放(QAS)、稀疏层/张量更新及算子重排序等技术,将内存占用降至141KB,较传统框架减少2300倍,首次突破设备端训练的内存瓶颈,推动边缘智能发展。
772 6
|
XML JSON 前端开发
基于若依的ruoyi-nbcio流程管理系统仿钉钉流程json转bpmn的flowable的xml格式(支持并行网关)
基于若依的ruoyi-nbcio流程管理系统仿钉钉流程json转bpmn的flowable的xml格式(支持并行网关)
1343 3
|
编解码 移动开发 C++
RTMP协议深度解析:从原理到实践,掌握实时流媒体传输技术
RTMP协议深度解析:从原理到实践,掌握实时流媒体传输技术
3627 0
RTMP协议深度解析:从原理到实践,掌握实时流媒体传输技术
|
XML 机器学习/深度学习 算法
haarcascade_frontalface_alt
【6月更文挑战第18天】
1006 4
|
运维
ICLR 2024:跨领域准确进行零样本异常检测,浙大等提出AnomalyCLIP
【5月更文挑战第12天】 浙大、新大和哈佛研究人员合作提出AnomalyCLIP,利用预训练的视觉-语言模型CLIP,学习对象无关文本提示,实现准确的跨领域异常检测。在17个数据集上表现出色,但存在特定领域适应性和计算复杂度问题。研究表明潜力,尤其对工业和医学图像分析。[论文链接](https://arxiv.org/pdf/2310.18961.pdf)
927 1

热门文章

最新文章