中国人工智能学会通讯——面向知识图谱的自然语言问答系统 1 信息检索式的知识库问答

本文涉及的产品
NLP 自学习平台,3个模型定制额度 1个月
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
简介:

1 信息检索式的知识库问答

信息检索式的方法通常先确定问题的中心实体,继而生成问题的若干候选答案,再使用打分、排序等方式找出最适合原问题的答案。这类方法的整体框架比较简洁,对于简单问题有较好的效果。

1.1 确定中心实体

信息检索式的方法通常假设问题足够简单,大多数系统认为问题中有且仅有一个实体,这个实体被称作中心实体(Topic Entity),这是用户输入自然语言问题的核心,同时假设问题答案在知识图谱中离中心实体足够近,例如在离中心实体θ步以内(θ通常取2)。例如问题“What is the budget of Resident Evil? ”的中心实体是Resident Evil,疑问词是What。对于较复杂的问题,这类方法通常使用启发式规则和模板将复杂问题分解成若干简单问题,依次处理简单问题再对各答案集合求交集。

确定中心实体的本质任务是实体识别(Entity Recognition),其目标是检测出自然语言问题中代表实体的短语,并进一步将这些短语映射到特定的实体上。后一步工作常被称作实体连接(Entity Linking)或者实体消歧。若识别出多个实体,通常选择其中置信度最高的实体,或依次作为中心实体进行后续步骤。

在确定中心实体后,自然语言问题就在知识图中有了一个定位。由于问题规模有限,通常假设答案在知识图中离中心实体的距离足够近。这样,一种简单直观的方法就是将中心实体θ步之内的邻居节点都作为候选答案(θ通常取2)。

1.2 问题答案排序

确定中心实体,以及候选答案后,需要给各候选答案进行评分或排序,从而决定最终的结果。这是基于信息检索方式的问答系统重要阶段。评分或排序的方法包括基于特征抽取的方法[3],也包括基于深度学习的Graph Embedding的方法[4]。

用来计算答案最终得分的特征多种多样,这些特征通常从实体、关系和答案三个角度出发。与实体相关的特征主要包括实体链接的置信度,实体的表征短语和实体之间的单词重叠数等。与关系相关的特征主要包括关系抽取的置信度,关系两侧可以接受的类型等。与答案相关的特征主要包括答案的数目、答案的类型等。除此之外,不同的问答系统还可能考虑各自独有的特征。在计算出候选答案的特征之后,需要使用某种排序模型进行排序,以选择最合适的结果。排序学习(Learningto Rank)在信息抽取(Information Retrieval)领域中已经受到广泛关注和系统研究[14],主要分为单文档方法(PointWise Approach)、文档对方法(PairWise Approach)和文档列表方法(ListWise Approach)。其中文档对方法将排序问题转化为分类问题,在KB-QA任务中的表现较好,一些较成熟的算法可以直接使用,例如SVM-rank[15]。

另一方面,一些系统利用神经网络和各类Embedding的方法,直接评价候选答案与原问题之间的匹配程度。文献[1]将候选答案和原问题分别向量化,再使用多通道卷积神经网络(MCCNN)计算候选答案与原问题之间的相似度。文献[2]将候选实体生成与关系抽取(Relation Extraction)结合起来,利用原问题的上下文信息,使用卷积神经网络为候选实体对应的关系进行打分。文献[4]将候选答案周围的边和节点一同作为子图进行Embedding,再与原问题的向量做点乘作为得分(如图2所示)。

image

相关文章
|
1月前
|
人工智能 自然语言处理 监控
05_用LLM创建知识库:从文档到智能问答系统
在2025年,随着大语言模型(LLM)技术的飞速发展,如何让这些强大的模型更好地理解和应用企业或个人的专业知识,成为了一个重要课题。传统的LLM虽然知识渊博,但在面对特定领域的专业问题时,常常会出现"一本正经地胡说八道"的情况。而检索增强生成(Retrieval-Augmented Generation,简称RAG)技术的出现,为这一问题提供了完美解决方案。
|
5月前
|
存储 缓存 API
从零构建企业知识库问答系统(基于通义灵码+RAG+阿里云OSS的落地实践)
本系统基于RAG技术,结合语义检索与大语言模型,解决企业知识管理中的信息孤岛、检索低效和知识流失问题。采用通义灵码、Milvus与阿里云OSS,实现知识查询效率提升、新员工培训周期缩短及专家咨询减少。支持多模态文档处理,具备高可用架构与成本优化方案,助力企业智能化升级。
569 3
|
5月前
|
人工智能 自然语言处理 JavaScript
【开源项目】MaxKB4J基于java开发的工作流和 RAG智能体的知识库问答系统
MaxKB4J是一款基于Java开发的开源LLM工作流应用与RAG知识库问答系统,结合MaxKB和FastGPT优势,支持智能客服、企业知识库等场景。它开箱即用,可直接上传/爬取文档,支持多种大模型(如Qwen、通义千问等),具备灵活的工作流编排能力,并无缝嵌入第三方系统。技术栈包括Vue.js、Springboot3、PostgreSQL等,提供稳定高效的智能问答解决方案。访问地址:`http://localhost:8080/ui/login`,项目详情见[Gitee](https://gitee.com/taisan/MaxKB4j)。
|
7月前
|
人工智能 数据可视化 关系型数据库
23.5K star!零代码构建AI知识库,这个开源神器让问答系统开发像搭积木一样简单!
FastGPT 是一个基于大语言模型的智能知识库平台,提供开箱即用的数据处理、RAG检索和可视化AI工作流编排能力,让你无需编写代码就能轻松构建复杂的问答系统!
417 1
|
8月前
|
人工智能 自然语言处理 前端开发
【AI落地应用实战】大模型加速器2.0:基于 ChatDoc + TextIn ParseX+ACGE的RAG知识库问答系统
本文探讨了私有知识库问答系统的难点及解决方案,重点分析了企业知识管理中的痛点,如信息孤岛、知识传承依赖个人经验等问题。同时,介绍了IntFinQ这款知识管理工具的核心特点和实践体验,包括智能问答、深度概括与多维数据分析等功能。文章还详细描述了IntFinQ的本地化部署过程,展示了其从文档解析到知识应用的完整技术闭环,特别是自研TextIn ParseX引擎和ACGE模型的优势。最后总结了该工具对企业和开发者的价值,强调其在提升知识管理效率方面的潜力。
|
9月前
|
人工智能 自然语言处理 监控
通过阿里云向量检索 Milvus 版和通义千问快速构建基于专属知识库的问答系统
通过阿里云向量检索 Milvus 版和通义千问快速构建基于专属知识库的问答系统
195 0
|
机器学习/深度学习 人工智能 自然语言处理
【自然语言处理】TF-IDF算法在人工智能方面的应用,附带代码
TF-IDF算法在人工智能领域,特别是自然语言处理(NLP)和信息检索中,被广泛用于特征提取和文本表示。以下是一个使用Python的scikit-learn库实现TF-IDF算法的简单示例,并展示如何将其应用于文本数据。
597 65
|
Web App开发 人工智能 运维
无缝融入,即刻智能[1]:MaxKB知识库问答系统,零编码嵌入第三方业务系统,定制专属智能方案,用户满意度飙升
【8月更文挑战第1天】无缝融入,即刻智能[1]:MaxKB知识库问答系统,零编码嵌入第三方业务系统,定制专属智能方案,用户满意度飙升
无缝融入,即刻智能[1]:MaxKB知识库问答系统,零编码嵌入第三方业务系统,定制专属智能方案,用户满意度飙升
|
机器学习/深度学习 人工智能 自然语言处理
智能时代的桥梁:自然语言处理技术在人工智能中的应用
随着人工智能技术的飞速发展,自然语言处理(NLP)作为其核心领域之一,已广泛应用于多个行业。本文将深入探讨NLP的基本概念、关键技术以及其在现代AI系统中的应用实例,旨在揭示NLP如何成为连接人类与机器的桥梁,推动智能技术向前迈进。
318 28
|
机器学习/深度学习 人工智能 自然语言处理
【自然语言处理】python之人工智能应用篇——文本生成技术
文本生成是指使用自然语言处理技术,基于给定的上下文或主题自动生成人类可读的文本。这种技术可以应用于各种领域,如自动写作、聊天机器人、新闻生成、广告文案创作等。
714 8