中国人工智能学会通讯——当知识图谱“遇见”深度学习 1.2 知识图谱作为深度学习的输入

简介:

1.2 知识图谱作为深度学习的输入

知识图谱是人工智能符号主义近期进 展的典型代表。知识图谱中的实体、概念 以及关系均采用了离散的、显式的符号化 表示。而这些离散的符号化表示难以直接 应用于基于连续数值表示的神经网络。为 了让神经网络有效利用知识图谱中的符号 化知识,研究人员提出了大量的知识图谱 的表示学习方法。知识图谱的表示学习旨 在习得知识图谱的组成元素 ( 节点与边 ) 的 实值向量化表示。这些连续的向量化表示 可以作为神经网络的输入,从而使得神经 网络模型能够充分利用知识图谱中大量存 在的先验知识。这一趋势催生了对于知识 图谱的表示学习的大量研究。本章首先简 要回顾知识图谱的表示学习,再进一步介 绍这些向量表示如何应用到基于深度学习 模型的各类实际任务中,特别是问答与推 荐等实际应用。

1. 知识图谱的表示学习

image
image
image

除了上述两类典型知识图谱表示学习 模型之外,还有大量的其他表示学习模型。 比如,Sutskever 等人使用张量因式分解和 贝叶斯聚类来学习关系结构。Ranzato 等人 引入了一个三路的限制玻尔兹曼机来学习 知识图谱的向量化表示,并通过一个张量 加以参数化。

当前主流的知识图谱表示学习方法仍 存在各种各样的问题,比如不能较好刻画 实体与关系之间语义相关性、无法较好处 理复杂关系的表示学习、模型由于引入大 量参数导致过于复杂,以及计算效率较低 难以扩展到大规模知识图谱上等等。为了 更好地为机器学习或深度学习提供先验知 识,知识图谱的表示学习仍是一项任重道 远的研究课题。

2. 知识图谱向量化表示的应用

应用 1 问答系统。自然语言问答是人 机交互的重要形式。深度学习使得基于问 答语料的生成式问答成为可能。然而目前 大多数深度问答模型仍然难以利用大量的 知识实现准确回答。Yin 等人针对简单事实 类问题,提出了一种基于 encoder-decoder 框架,能够充分利用知识图谱中知识的深 度学习问答模型 [4]。在深度神经网络中,一 个问题的语义往往被表示为一个向量。具 有相似向量的问题被认为是具有相似语义。 这是联结主义的典型方式。另一方面,知 识图谱的知识表示是离散的,即知识与知 识之间并没有一个渐变的关系。这是符号 主义的典型方式。通过将知识图谱向量化, 可以将问题与三元组进行匹配 ( 也即计算 其向量相似度 ),从而为某个特定问题找到 来自知识库的最佳三元组匹配。匹配过程 如图 1 所示。对于问题 Q:“How tall is YaoMing?”,首先将问题中的单词表示为向量 数组 HQ。进一步寻找能与之匹配的知识图 谱中的候选三元组。最后为这些候选三元 组,分别计算问题与不同属性的语义相似 度。其由以下相似度公式决定:

image

image

应用 2 推荐系统。个性化推荐系统是 互联网各大社交媒体和电商网站的重要智 能服务之一。随着知识图谱的应用日益广 泛,大量研究工作意识到知识图谱中的知 识可以用来完善基于内容的推荐系统中对 用户和项目的内容(特征)描述,从而提 升推荐效果。另一方面,基于深度学习的 推荐算法在推荐效果上日益优于基于协同 过滤的传统推荐模型 [5]。但是,将知识图谱 集成到深度学习的框架中的个性化推荐的 研究工作,还较为少见。Zhang 等人做出了 这样的尝试。作者充分利用了结构化知识 ( 知识图谱 )、文本知识和可视化知识(图 片)[6] 三类典型知识。作者分别通过网络嵌 这里,S(Q,τ) 表示问题 Q 与候选三元组 τ 的 相似度;xQ 表示问题的向量 ( 从 HQ 计算而 得 ),uτ 表示知识图谱的三元组的向量,M 是待学习参数。 入(network embedding)获得结构化知识 的向量化表示,然后分别用 SDAE(Stacked Denoising Auto-Encoder)和层叠卷积自编 码 器 (stacked convolution- autoencoder) 抽 取文本知识特征和图片知识特征;并最终 将三类特征融合进协同集成学习框架,利 用三类知识特征的整合来实现个性化推荐。 作者针对电影和图书数据集进行实验,证 明了这种融合深度学习和知识图谱的推荐 算法具有较好性能。

相关文章
|
5月前
|
机器学习/深度学习 人工智能 供应链
从概念到商业价值:AI、机器学习与深度学习全景指南
在这个科技飞速发展的时代🚀,人工智能正以惊人的速度渗透到我们的生活和工作中👀。但面对铺天盖地的AI术语和概念,很多人感到困惑不已😣。"AI"、"机器学习"、"深度学习"和"神经网络"到底有什么区别?它们如何相互关联?如何利用这些技术提升工作效率和创造价值?
|
3月前
|
机器学习/深度学习 人工智能 PyTorch
AI 基础知识从 0.2 到 0.3——构建你的第一个深度学习模型
本文以 MNIST 手写数字识别为切入点,介绍了深度学习的基本原理与实现流程,帮助读者建立起对神经网络建模过程的系统性理解。
479 15
AI 基础知识从 0.2 到 0.3——构建你的第一个深度学习模型
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
AI 基础知识从 0.3 到 0.4——如何选对深度学习模型?
本系列文章从机器学习基础出发,逐步深入至深度学习与Transformer模型,探讨AI关键技术原理及应用。内容涵盖模型架构解析、典型模型对比、预训练与微调策略,并结合Hugging Face平台进行实战演示,适合初学者与开发者系统学习AI核心知识。
380 15
|
10月前
|
机器学习/深度学习 人工智能 算法
猫狗宠物识别系统Python+TensorFlow+人工智能+深度学习+卷积网络算法
宠物识别系统使用Python和TensorFlow搭建卷积神经网络,基于37种常见猫狗数据集训练高精度模型,并保存为h5格式。通过Django框架搭建Web平台,用户上传宠物图片即可识别其名称,提供便捷的宠物识别服务。
884 55
|
9月前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
眼疾识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了4种常见的眼疾图像数据集(白内障、糖尿病性视网膜病变、青光眼和正常眼睛) 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,实现用户上传一张眼疾图片识别其名称。
512 5
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
|
6月前
|
机器学习/深度学习 人工智能 运维
AI“捕风捉影”:深度学习如何让网络事件检测更智能?
AI“捕风捉影”:深度学习如何让网络事件检测更智能?
195 8
|
7月前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的【害虫识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
害虫识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了12种常见的害虫种类数据集【"蚂蚁(ants)", "蜜蜂(bees)", "甲虫(beetle)", "毛虫(catterpillar)", "蚯蚓(earthworms)", "蜚蠊(earwig)", "蚱蜢(grasshopper)", "飞蛾(moth)", "鼻涕虫(slug)", "蜗牛(snail)", "黄蜂(wasp)", "象鼻虫(weevil)"】 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Djan
435 1
基于Python深度学习的【害虫识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
|
8月前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的【蘑菇识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
蘑菇识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了9种常见的蘑菇种类数据集【"香菇(Agaricus)", "毒鹅膏菌(Amanita)", "牛肝菌(Boletus)", "网状菌(Cortinarius)", "毒镰孢(Entoloma)", "湿孢菌(Hygrocybe)", "乳菇(Lactarius)", "红菇(Russula)", "松茸(Suillus)"】 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,
775 11
基于Python深度学习的【蘑菇识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
|
9月前
|
机器学习/深度学习 运维 安全
深度学习在安全事件检测中的应用:守护数字世界的利器
深度学习在安全事件检测中的应用:守护数字世界的利器
359 22
|
6月前
|
机器学习/深度学习 编解码 人工智能
计算机视觉五大技术——深度学习在图像处理中的应用
深度学习利用多层神经网络实现人工智能,计算机视觉是其重要应用之一。图像分类通过卷积神经网络(CNN)判断图片类别,如“猫”或“狗”。目标检测不仅识别物体,还确定其位置,R-CNN系列模型逐步优化检测速度与精度。语义分割对图像每个像素分类,FCN开创像素级分类范式,DeepLab等进一步提升细节表现。实例分割结合目标检测与语义分割,Mask R-CNN实现精准实例区分。关键点检测用于人体姿态估计、人脸特征识别等,OpenPose和HRNet等技术推动该领域发展。这些方法在效率与准确性上不断进步,广泛应用于实际场景。
868 64
计算机视觉五大技术——深度学习在图像处理中的应用

热门文章

最新文章

下一篇
开通oss服务