东南大学高桓:知识图谱表示学习 | 直播预告·PhD Talk #15

简介:

嘉宾介绍

高桓
东南大学博士生

高桓,东南大学知识工程与科学实验室三年级博士生,研究内容包括知识图谱构建、自然语言处理、知识挖掘、深度学习。在漆桂林教授的指导下发表 SCI 杂志论文和 CIKM 会议论文,现在开始从事表示学习的研究。

主题介绍

在这一期的 talk 中,我将会给大家介绍我们在表示学习的一些进展。在传统的表示学习中,在训练表示学习模型的过程中加入其他的增强信息会提高表示学习的效果通常情况下大家只会加入一些单一的信息,但知识图谱本身的结构信息往往会被忽略。

我们在表示学习的研究中一直在考虑如何加入知识图谱的结构信息并以此为基础提出了一个新的表示学习方法。在整个研究过程中我们主要关注两个问题:1)如何加入结构信息 2)以及哪些结构信息是可以用来提升表示学习算法的。

最后通过实验证明在加入知识图谱的结构信息后可以提高表示学习在实体类型预测以及实体关系预测的效果,使得我们的算法达到了当前最先进的水平。

活动时间

9 月 1 日 本周五 20:00

活动地点

使用 斗鱼App 搜索房间号「1743775」

通过 PC端 访问:https://www.douyu.com/paperweekly

来源:PaperWeekly

相关文章
|
12月前
|
机器学习/深度学习 人工智能 缓存
AI_Papers周刊:第五期
我们研究了语言模型中的上下文学习 (ICL) 如何受到语义先验与输入标签映射的影响。我们研究了两种设置——带有翻转标签的 ICL 和带有语义无关标签的 ICL——跨越各种模型系列(GPT-3、InstructGPT、Codex、PaLM 和 Flan-PaLM)。
153 0
|
12月前
|
机器学习/深度学习 自然语言处理 算法
AI_Papers周刊:第二期
心理理论 (ToM),或将不可观察的心理状态归因于他人的能力,是人类社会互动、沟通、同理心、自我意识和道德的核心。我们在没有任何示例或预训练的情况下,对多种语言模型执行广泛用于测试人类 ToM 的经典错误信念任务。我们的结果表明,2022 年之前发布的模型几乎没有能力解决 ToM 任务。
100 0
|
12月前
|
机器学习/深度学习 人工智能 自然语言处理
AI_Papers周刊:第三期
我们介绍了 LLaMA,这是一组基础语言模型,参数范围从 7B 到 65B。我们在数万亿个令牌上训练我们的模型,并表明可以仅使用公开可用的数据集来训练最先进的模型,而无需诉诸专有和不可访问的数据集。特别是,LLaMA-13B 在大多数基准测试中都优于 GPT-3 (175B),而 LLaMA-65B 可与最佳模型 Chinchilla70B 和 PaLM-540B 竞争。我们将所有模型发布给研究社区。
51 0
|
12月前
|
机器学习/深度学习 编解码 自然语言处理
AI_Papers周刊:第六期
大型语言模型 (LLM) 因其令人印象深刻的能力而广受欢迎,但对特定于模型的微调或特定于任务的提示工程的需求可能会阻碍它们的泛化。我们提出了 UPRISE(用于改进零样本评估的通用提示检索),它调整了一个轻量级且多功能的检索器,该检索器可以自动检索给定零样本任务输入的提示。
107 0
|
12月前
|
机器学习/深度学习 人工智能 自然语言处理
AI_Papers周刊:第四期
语言、多模式感知、动作和世界建模的大融合是通向通用人工智能的关键一步。在这项工作中,我们介绍了 Kosmos-1,这是一种多模态大型语言模型 (MLLM),它可以感知一般模态、在上下文中学习(即少镜头)并遵循指令(即零镜头)。
166 0
|
机器学习/深度学习 人工智能 自然语言处理
全球名校AI课程库(19)| Stanford斯坦福 · 知识图谱课程『Knowledge Graphs』
课程是面向研究生的研究研讨会,围绕多个议题展开理论讲解,并邀请多位著名研究人员和行业从业人员进行特邀讲座,讲解知识图谱在行业的实际应用。
2255 1
全球名校AI课程库(19)| Stanford斯坦福 · 知识图谱课程『Knowledge Graphs』
|
机器学习/深度学习 人工智能 自然语言处理
全球名校AI课程库(18)| Stanford斯坦福 · 从语言到信息课程『From Languages to Information』
聚焦文本类数据与信息挖掘应用,课程主题内容涉猎非常广,包含算法+应用,对于帮助构建NLP中的全域概念、理解不同应用板块的算法非常有帮助。
2108 1
全球名校AI课程库(18)| Stanford斯坦福 · 从语言到信息课程『From Languages to Information』
|
机器学习/深度学习 人工智能 自然语言处理
全球名校AI课程库(14)| CMU卡内基梅隆 · 计算机图形学课程『Computer Graphics』
计算机图形学方向专业课程,围绕图形学垂直领域,全面介绍了计算机图形学基本概念和技术,以及它们与相关领域的一些知识(包括渲染、动画、几何、成像)的交叉关系。
2228 1
全球名校AI课程库(14)| CMU卡内基梅隆 · 计算机图形学课程『Computer Graphics』
|
机器学习/深度学习 人工智能 自然语言处理
全球名校AI课程库(16)| Stanford斯坦福 · 计算机科学导论课程『Introduction to Computers』
循序渐进地介绍了计算机方向的大部分基础知识,包括计算设备的工作原理、诸多实用技能(包括网页开发等),适合初学者构建对计算机科学的全面认知。
2206 1
全球名校AI课程库(16)| Stanford斯坦福 · 计算机科学导论课程『Introduction to Computers』
|
机器学习/深度学习 Web App开发 人工智能
全球名校AI课程库(7)| Berkeley伯克利 · 深度神经网络设计、可视化与理解课程『Deep Learning: Designing, Visualizing and Understand』
课程以深度学习的典型方法、模型设计、可视化与模型理解为主题,讲解了自然语言处理、计算机视觉、强化学习等领域的AI模型全域知识。
2166 1
全球名校AI课程库(7)| Berkeley伯克利 · 深度神经网络设计、可视化与理解课程『Deep Learning: Designing, Visualizing and Understand』