第4章:知识融合:概述、方法

简介: 第4章:知识融合:概述、方法

🍀知识融合概述

🍀知识融合定义

知识融合(Knowledge Fusion)的概念最早出现1983年发表的文献中,并在20世纪

90年代得到研究者的广泛关注。

在维基百科中“知识融合”的定义是,“对来自多源的不同概念、上下文和不同表达等
信息进行融合的过程
”。除此之外,有一些专家提出知识融合的目标是产生新的知识,是对

松耦合来源中的知识进行集成,构成一个合成的资源,用来补充不完全的知识和获取新知

识。还有一些专家认为,知识融合是知识组织与信息融合的交叉学科,它面向需求和创新,

通过对众多分散、异构资源上的知识进行获取、匹配、集成、挖掘等处理,获取隐含的或

有价值的新知识,同时优化知识的结构和内涵,提供知识服务。

总之,知识融合是一个不断发展变化的概念。尽管以往研究人员的具体表述不同、所

站角度不同、强调的侧重点不同,但这些论述中还是存在很多共性。这些共性反映了知识

融合的固有特征,可以将知识融合与其他类似或相近的概念区分开来。知识融合一般通过

冲突检测、真值发现等技术消解知识集成过程中的冲突,再对知识进行关联与合并,最终

形成一个一致的结果。

知识融合的研究工作开始于本体对齐,初期主要针对本体类别的语义相似性的匹配的

研究。但随着 Web 2.0和语义Web 技术的不断发展,越来越多的语义数据具有丰富实例和

相对薄弱的本体模式,促使本体对齐的研究工作慢慢地从概念层转移到数据层。不同数据

源的实体可能会指向现实世界的同一个对象,这时需要使用实体对齐将不同数据源中相同

对象的数据进行融合。


🍀知识融合的任务

由于数据源不同,构建方式不同等其他因素所在,所以导致知识的质量会有一定的分歧,例如重复、缺失、不明确等问题,以下的几个典型的问题:

  • 相同的实体有不同的名称:laptop和notebook等
  • 同名指代不同实体:苹果(公司、水果、歌曲等)
  • 实体定义的粒度不同:飞机、飞机类型、飞机型号
  • 相同的属性在不同的知识库有不同的判别能力
  • 相同的类别在不同的知识库中具有不同数量的属性
  • 缩写名词、单位、大小写、空格、录入错误等不同

正因为不同的太多了,所以需要将其统一融合为一个知识图谱,要不然就会尴尬了,下图是知识融合任务执行流程

  • 输入:无论是结构化还是半结构化的数据,只有能转换为DRF数据都可以作为输入
  • 预处理:这部分就是做数据的清理把那些无效冗余数据通通搞掉
  • 对齐:这部分包括本体对齐任务和实体对齐任务

本体对齐侧重发现概念层等价或相似的类

本体对齐任务通过本体概念之间的相似性度量发现异构本体间的对齐关系

实体对齐通常是在本体对齐的基础上进行的,因为实体的对应关系需要建立在本体中概念的对应关系之上

后面在知识融合方法上会详细讲到

  • 后处理:通过冲突检测、真值发现等技术消解知识图谱融合过程中的冲突,再对知识进行关联与合并,对匹配结果进行抽取及评估,最终形成一个一致的结果

🍀知识融合的方法

接下来简单介绍一下本体对齐方法和实体对齐方法


🍀本体对齐方法

a. 基于规则的方法:

手工制定规则: 通过人工定义一些规则来指导本体对齐,例如同一属性、同义词等。
语言技术: 使用自然语言处理(NLP)技术,如词嵌入,来理解和比较本体中的文本描述。

b. 基于相似性的方法:

相似性度量: 利用相似性度量方法,如编辑距离、余弦相似度等,比较本体中概念和属性之间的相似性。
结构相似性: 比较本体的结构,如子类关系、属性等,来确定相似性。

c. 基于机器学习的方法:

监督学习: 使用已标注的本体对齐样本进行训练,以学习对齐模型。
半监督学习: 利用部分标注数据进行训练,减轻标注成本。

d. 基于语义推理的方法:

本体推理: 利用本体中定义的语义关系进行推理,从而找到潜在的对齐关系。
推理引擎: 使用专门的推理引擎执行推理操作。

🍀实体对齐方法

a. 基于相似性的方法:

字符串匹配: 使用字符串相似性度量(如编辑距离、Jaccard相似度)来比较实体名称的相似性。
语义相似性: 使用语义相似性度量,如词向量,来捕捉实体之间的语义关系。

b. 基于图匹配的方法:

图匹配算法: 将本体表示为图,利用图匹配算法来找到实体之间的对应关系。
子图匹配: 在图中寻找相似的子图结构,以确定实体的对齐关系。

c. 基于学习的方法:

机器学习: 使用机器学习方法,如支持向量机(SVM)、深度学习等,从数据中学习实体对齐的模型。
迁移学习: 利用一个本体中的已知对齐信息来帮助在另一个本体中进行对齐。

d. 基于规则的方法:

手工规则: 制定一些启发式规则,如相同属性、相同类型等,来进行实体对齐。
本体规则: 利用本体中定义的语义规则,如同义词关系、属性关系等。

挑战与创造都是很痛苦的,但是很充实。

相关文章
|
编解码 前端开发 搜索推荐
什么是响应式设计?响应式设计的基本原理是什么?如何实现?
什么是响应式设计?响应式设计的基本原理是什么?如何实现?
2138 0
Jira-API的详细使用例子
下面是Jira-API的详细使用的例子,包含: • Jira的登陆,通过jql批量查询jira-issue, • 获得jira-project下的所有issue,assignee的详细信息, • 添加和更新defect • 下载和上传附件 • 通过Jira登录的cookies搭配requsts库发送自定义的一些http请求
3277 1
|
8月前
|
人工智能 Linux iOS开发
OpenShot 3.5 发布 - 免费开源视频编辑器
OpenShot 3.5 (Linux, macOS, Windows) - 免费开源视频编辑器
902 0
|
7月前
|
存储 消息中间件 人工智能
CoPaw深度解析:源码架构和功能实践
2月28日,通义实验室AgentScope团队发布开源桌面Agent工具CoPaw。基于AgentScope框架,支持自定义Skills、多模型(云端/本地)、多平台(QQ/钉钉/飞书等)接入,具备记忆管理、定时任务与MCP扩展能力,大幅降低Agent开发与部署门槛。
CoPaw深度解析:源码架构和功能实践
|
7月前
|
人工智能 监控 测试技术
RAG系统到底该怎么测试效果?AI知识库上线之后,真正难的是评估
本文深入剖析RAG系统落地的核心瓶颈——不是“如何接入”,而是“如何科学评估”。指出RAG作为组合式生成系统,需分检索、证据、答案、工程四层指标协同评估;强调测试必须回归工程化,覆盖离线回归与线上监控,实现问题可归因、优化可度量。持续评估能力正成为AI应用竞争新分水岭。
|
数据采集 存储 机器学习/深度学习
数据融合是什么?进行数据融合的4大关键环节!
当业务数据分散、格式不一,难以统一分析时,数据融合成为关键。它通过整合多源数据,形成统一、高质量的数据集,为AI模型提供精准输入。本文详解数据融合的定义、类型、挑战及应对方法,助你打破数据壁垒,挖掘深层价值,推动业务创新。
数据融合是什么?进行数据融合的4大关键环节!
|
机器学习/深度学习 自然语言处理
预训练语言模型:从BERT到GPT,NLP的新纪元
自然语言处理(NLP)近年来因预训练语言模型(PLMs)的崛起而发生巨大变革。BERT和GPT等模型在学术与工业界取得突破性进展。本文探讨PLMs原理、发展历程及其实际应用,涵盖文本分类、命名实体识别、问答系统等场景,并通过实战案例展示如何使用这些强大的工具解决复杂的NLP任务。
|
存储 人工智能 API
七种RAG架构cheat sheet!
RAG 即检索增强生成,是一种结合检索技术和生成模型的人工智能方法。Weaviate厂商给出了七种RAG架构cheat sheet。
1428 18
|
人工智能 供应链 安全
面向高效大模型推理的软硬协同加速技术 多元化 AI 硬件引入评测体系
本文介绍了AI硬件评测体系的三大核心方面:统一评测标准、平台化与工具化、多维度数据消费链路。通过标准化评测流程,涵盖硬件性能、模型推理和训练性能,确保评测结果客观透明。平台化实现资源管理与任务调度,支持大规模周期性评测;工具化则应对紧急场景,快速适配并生成报告。最后,多维度数据消费链路将评测数据结构化保存,服务于综合通用、特定业务及专业性能分析等场景,帮助用户更好地理解和使用AI硬件。

热门文章

最新文章