计算机前沿技术-人工智能算法-大语言模型-最新论文阅读-2024-09-20(上)

简介: 计算机前沿技术-人工智能算法-大语言模型-最新论文阅读-2024-09-20(上)

计算机前沿技术-人工智能算法-大语言模型-最新论文阅读-2024-09-20

1. Multimodal Fusion with LLMs for Engagement Prediction in Natural Conversation

Authors: Cheng Charles Ma, Kevin Hyekang Joo, Alexandria K. Vail, Sunreeta

Bhattacharya, 'Alvaro Fern’andez Garc’ia, Kailana Baker-Matsuoka, Sheryl

Mathew, Lori L. Holt, Fernando De la Torre

使用大型语言模型进行自然对话中的参与度预测的多模态融合

摘要

本文通过使用可穿戴计算设备(即“智能眼镜”),在自然对话中分析个体的非言语行为,以预测二人互动中的参与度。研究的目的是检测对话中的不感兴趣或困惑的迹象,以期提高对人类交流的理解,并在专业环境中促进更有效的协作,通过富有同情心的虚拟互动提供更好的心理健康支持,并增强沟通障碍者的可及性。研究收集了34名参与者在非正式对话中的多模态数据,并引入了一种使用大型语言模型(LLMs)的新融合策略,将多种行为模态整合到“多模态记录”中,用于行为推理任务。该方法即使在初步实施中也显示出与成熟融合技术相当的性能,显示出进一步研究和优化的潜力。

创新点

  • 提出了一种新颖的数据集,包含使用Pupil Invisible智能眼镜记录的自然、非剧本化的对话。
  • 引入了一种新的融合策略,使用大型语言模型(LLMs)作为推理引擎,将行为度量融合到多模态文本表示中。

算法模型

  • 使用了智能眼镜中的传感器(如场景摄像头、眼动追踪摄像头、麦克风和惯性测量单元)来捕捉人类行为。
  • 通过大型语言模型(如GPT-4)来模拟参与者,并回答会话结束时的参与度问卷,以此作为预测参与度的手段。

实验效果

  • 该方法在预测参与度方面达到了与成熟融合技术相当的性能。
  • 在预测具体回答和情感维度(如情感价值和唤醒度)方面,模型显示出与人类参与者回答的中等程度一致性。

推荐阅读指数

★★★★☆

推荐理由

这篇文章在多模态学习和情感计算领域提供了新的视角,特别是在使用大型语言模型来理解和预测人类行为方面。它不仅提出了一个新的数据集,而且还展示了一种创新的方法来分析和利用这些数据,对于希望在自然语言处理和人机交互领域进行创新的研究者来说,这是一篇值得阅读的文章。

2. Towards Data-Centric RLHF: Simple Metrics for Preference Dataset Comparison

Authors: Judy Hanwen Shen, Archit Sharma, Jun Qin

走向以数据为中心的RLHF:偏好数据集比较的简单指标

摘要

本文讨论了如何通过人类反馈进行强化学习(RLHF)来调整语言模型以符合人类偏好。理想情况下,应该为每个下游应用精心收集和定制偏好数据。然而,实践中,通常使用少数公开的偏好数据集来训练RLHF的奖励模型。尽管新的偏好数据集不断被引入,但目前还没有系统的努力来衡量和比较这些数据集。本文从规模、标签噪声和信息内容三个角度系统地研究偏好数据集,并提出了针对这些角度的具体指标,以更好地理解偏好数据集。

创新点

  • 提出了一种新的数据为中心的方法来比较和理解偏好数据集。
  • 引入了有效样本大小、噪声不变性和信息内容三个新的度量指标。
  • 通过实验验证了这些度量指标与后续奖励模型性能之间的联系。

算法模型

  • 研究了四个公开的偏好数据集:Anthropic Helpful-Harmless (HH-RLHF)、Ultrafeedback (ULTRAFEEDBACK)、LMSYS Arena Preferences (LMSYS) 和 PKU-SafeRLHF (SAFERLHF)。
  • 使用了不同大小的预训练模型来训练奖励模型,包括350百万、10亿和70亿参数的模型。
  • 采用了标准的奖励模型训练目标函数,并通过引入标签噪声来研究模型的鲁棒性。

实验效果

  • 通过实验发现,更大的数据集并不总是比更小但与任务更相关的数据集更好。
  • 所有研究的偏好数据集都显示出极高的噪声不变性,即使在30-40%的标签被翻转时,性能也保持不变。
  • 偏好数据集中响应对的相似性分布差异很大,使用高信息或响应对差异性较大的训练样本的性能提升取决于底层奖励模型。

推荐阅读指数

★★★★☆

推荐理由

这篇文章为理解和改进用于人类反馈强化学习的偏好数据集提供了新的视角和工具。

3. Automatic Control With Human-Like Reasoning: Exploring Language Model Embodied Air Traffic Agents

Authors: Justas Andriu\v{s}kevi\v{c}ius, Junzi Sun

具有类人推理能力的自动控制:探索语言模型体现的空中交通代理

摘要:

本文探讨了在空管领域中应用大型语言模型(LLM)作为体现代理的可能性,这些代理能够自动解决空中交通冲突并提供类似人类的决策解释。研究的主要组成部分包括基础的大型语言模型、允许代理与模拟器交互的工具,以及一个新概念——经验库。经验库是一个向量数据库,存储代理从与模拟器和语言模型的交互中学到的综合知识。研究评估了基于语言模型的代理在解决空中交通冲突中的有效性,并详细讨论了采用类人推理能力辅助空中交通管制员的方法的局限性和潜力。

创新点:

  • 提出了一种新的方法,使用大型语言模型作为体现代理来解决空中交通冲突。
  • 引入了“经验库”这一概念,这是一个存储代理从模拟交互中学习到的知识的向量数据库。
  • 展示了代理能够提供人类水平的文本解释,说明交通情况和冲突解决策略。

算法模型:

  • 使用了基础的大型语言模型,如Llama3:7B、Llama3:70B、Mixtral 8x7b、gemma2:9b-it和GPT-4o。
  • 开发了与BlueSky模拟器交互的工具,包括获取所有飞机信息、获取冲突信息、持续监控、发送命令和搜索经验库等。
  • 设计了单一代理和多代理系统,以及一个由规划者、执行者和验证者组成的复杂系统。

实验效果:

  • 在120个不同的冲突场景中测试了不同配置的代理,包括两种和四种飞机的冲突。
  • 最佳配置(使用GPT-4o模型和经验库的单一代理)能够解决几乎所有的冲突场景,成功率达到99%。
  • 多代理系统在解决冲突方面也表现出色,即使是开源的Llama3:70B模型也表现出了高成功率。

推荐阅读指数

★★★★☆

推荐理由

这篇文章在将大型语言模型应用于空中交通管理领域方面提供了创新的思路和方法。它不仅展示了语言模型在理解和生成类似人类文本方面的潜力,还探索了如何将这些模型转化为能够在复杂环境中进行决策的智能代理。此外,通过引入经验库的概念,文章还为如何利用历史数据来提高代理性能提供了有价值的见解。

4. ReflectDiffu: Reflect between Emotion-intent Contagion and Mimicry for Empathetic Response Generation via a RL-Diffusion Framework

Authors: Jiahao Yuan, Zixiang Di, Zhiqing Cui, Guisong Yang, Usman Naseem

ReflectDiffu:通过强化学习-扩散框架在情感-意图传染与模仿之间进行反思,以生成同理心响应

摘要:

本文提出了一个名为ReflectDiffu的轻量级框架,用于生成富有同理心的响应。该框架结合了情感传染和意图模仿,通过一个反思机制来增强情感表达,并使用情感推理掩码来识别关键的情感元素。此外,它在强化学习过程中整合了意图模仿,以在扩散过程中进行精细化调整。通过探索-采样-纠正机制,ReflectDiffu能够将情感决策转化为精确的意图行动,从而解决由于情感误识别导致的同理心响应错位问题。通过反思,该框架将情感状态映射到意图上,显著提高了响应的同理心和灵活性。全面的实验表明,ReflectDiffu在相关性、可控性和信息丰富度方面超越了现有模型,并且在自动和人类评估中都取得了最先进的结果。

创新点:

  • 提出了ReflectDiffu框架,该框架利用情感传染和意图模仿来生成同理心响应。
  • 引入了“意图两次”机制,即探索-采样-纠正过程,以最小化由情感误识别引起的同理心响应错位。
  • 利用大型语言模型(LLMs)扩展了情感推理、情感预测、意图预测和同理心对话生成的多任务数据集。

算法模型:

  • 情感传染编码器:增强了情感推理注释器,以改善语义理解。
  • 理性响应生成解码器:通过意图探索-采样-纠正机制,模仿人类反思式对话行为,增强同理心。
  • 多任务学习:结合了情感原因掩码、情感预测、意图预测和同理心对话生成的任务。

实验效果:

  • 在EMPATHETICDIALOGUES数据集上进行了评估,与多个基线模型相比,ReflectDiffu在相关性、可控性和信息丰富度方面表现更好。
  • 在自动评估中,ReflectDiffu在BLEU-1、BLEU-2、BLEU-3、BLEU-4、BARTScore、情感准确度、意图准确度、Distinct-1、Distinct-2和Perplexity等指标上均优于现有模型。
  • 在人类评估中,ReflectDiffu在同理心、相关性和流畅性方面均优于基线模型。

推荐阅读指数

★★★★☆

推荐理由:

这篇文章提出了一个创新的框架,用于生成具有同理心的对话响应。它通过结合情感理解和意图预测,提高了对话系统的自然性和人性化。此外,该研究在自动和人类评估中都显示出了显著的性能提升,对于希望在对话系统、情感计算和人工智能领域进行创新的研究者来说,这是一篇值得阅读的文章。

5. Contextual Evaluation of Large Language Models for Classifying Tropical and Infectious Diseases

Authors: Mercy Asiedu, Nenad Tomasev, Chintan Ghate, Tiya Tiyasirichokchai, Awa

Dieng, Oluwatosin Akande, Geoffrey Siwo, Steve Adudans, Sylvanus Aitkins,

Odianosen Ehiakhamen, Katherine Heller

针对热带和传染病分类的大型语言模型的情境评估

摘要

本文探讨了大型语言模型(LLMs)在医疗问答中的潜力,尤其是在热带和传染病领域的应用。研究团队基于开源的热带和传染病(TRINDs)数据集,扩展了包含人口统计学和语义临床信息的11000多个提示。通过系统实验,研究了上下文信息(如人口统计学、地理位置、性别、风险因素)对LLM响应的益处。此外,开发了一个名为TRINDs-LM的原型工具,用于展示上下文如何影响LLM在健康领域的输出。

创新点

  1. 扩展了现有的TRINDs数据集,增加了人口统计学和语义临床信息。
  2. 对一般和专业医疗LLMs进行了比较,并与人类专家的评估结果进行了对比。
  3. 通过不同上下文和反事实位置的评估,理解了LLM性能的影响。
  4. 开发了TRINDs-LM工具,为研究者提供了一个平台,用于研究上下文如何影响LLM在健康领域的输出。

算法模型

  • 使用了两个基线模型:Gemini Ultra(通用大型语言模型)和MedLM Medium(专门针对健康领域的LLM)。
  • 通过提供指令和示例来引导模型输出,进行了提示调整(prompt-tuning)。
  • 开发了自动化评分器,通过LLM来确定输出的准确性。

实验效果

  • Gemini Ultra在原始临床角色上的准确率为61.5%,而MedLM为47.9%。
  • 在包含症状、位置和风险因素的完整角色中,模型表现最佳。
  • 在反事实输入(如不同地理位置、种族、性别)的测试中,模型性能略有下降,但整体趋势稳定。
  • 通过多样本提示调整,模型在不同人群、地点和问题风格上的表现有所提高。

推荐阅读指数

★★☆☆☆

推荐理由

  • 跨学科价值:该研究结合了医学、公共卫生和人工智能领域,对于希望了解如何将LLM应用于医疗诊断的研究人员和实践者具有吸引力。
  • 数据集扩展:通过扩展数据集,该研究为未来在热带和传染病领域的LLM研究提供了更丰富的资源。
  • 工具开发:TRINDs-LM工具的开发为研究人员提供了一个实用的平台,用于进一步探索和验证LLM在医疗领域的应用。
  • 实际应用潜力:研究结果表明,通过适当的上下文信息和模型调整,LLMs在医疗诊断中的准确性和适用性可以得到显著提升,这对于医疗资源有限的地区尤其有价值。


计算机前沿技术-人工智能算法-大语言模型-最新论文阅读-2024-09-20(下)+


目录
相关文章
|
9天前
|
人工智能 并行计算 算法
量子计算算法:超越经典计算机的边界
量子计算基于量子力学原理,利用量子位、量子叠加和量子纠缠等特性,实现并行计算和高效处理复杂问题。核心算法如Shor算法和Grover算法展示了量子计算在大数分解和搜索问题上的优势。尽管面临量子位稳定性和规模化等挑战,量子计算在化学模拟、优化问题和人工智能等领域展现出巨大潜力,预示着未来的广泛应用前景。
|
21天前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能与深度学习:探索未来技术的无限可能
在21世纪,人工智能(AI)和深度学习已经成为推动科技进步的重要力量。本文将深入探讨这两种技术的基本概念、发展历程以及它们如何共同塑造未来的科技景观。我们将分析人工智能的最新趋势,包括自然语言处理、计算机视觉和强化学习,并讨论这些技术在现实世界中的应用。此外,我们还将探讨深度学习的工作原理,包括神经网络、卷积神经网络(CNN)和循环神经网络(RNN),并分析这些模型如何帮助解决复杂的问题。通过本文,读者将对人工智能和深度学习有更深入的了解,并能够预见这些技术将如何继续影响我们的世界。
54 7
|
21天前
|
人工智能 自然语言处理 自动驾驶
技术与人性:探索人工智能伦理的边界####
本文深入探讨了人工智能技术飞速发展背景下,伴随而来的伦理挑战与社会责任。不同于传统摘要直接概述内容,本文摘要旨在引发读者对AI伦理问题的关注,通过提出而非解答的方式,激发对文章主题的兴趣。在智能机器逐渐融入人类生活的每一个角落时,我们如何确保技术的善意使用,保护个人隐私,避免偏见与歧视,成为亟待解决的关键议题。 ####
|
23天前
|
机器学习/深度学习 人工智能 机器人
推荐一些关于将图形学先验知识融入人工智能模型的研究论文
推荐一些关于将图形学先验知识融入人工智能模型的研究论文
|
19天前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的【垃圾识别系统】实现~TensorFlow+人工智能+算法网络
垃圾识别分类系统。本系统采用Python作为主要编程语言,通过收集了5种常见的垃圾数据集('塑料', '玻璃', '纸张', '纸板', '金属'),然后基于TensorFlow搭建卷积神经网络算法模型,通过对图像数据集进行多轮迭代训练,最后得到一个识别精度较高的模型文件。然后使用Django搭建Web网页端可视化操作界面,实现用户在网页端上传一张垃圾图片识别其名称。
69 0
基于Python深度学习的【垃圾识别系统】实现~TensorFlow+人工智能+算法网络
|
19天前
|
机器学习/深度学习 人工智能 算法
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
手写数字识别系统,使用Python作为主要开发语言,基于深度学习TensorFlow框架,搭建卷积神经网络算法。并通过对数据集进行训练,最后得到一个识别精度较高的模型。并基于Flask框架,开发网页端操作平台,实现用户上传一张图片识别其名称。
60 0
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
|
19天前
|
机器学习/深度学习 人工智能 算法
基于深度学习的【蔬菜识别】系统实现~Python+人工智能+TensorFlow+算法模型
蔬菜识别系统,本系统使用Python作为主要编程语言,通过收集了8种常见的蔬菜图像数据集('土豆', '大白菜', '大葱', '莲藕', '菠菜', '西红柿', '韭菜', '黄瓜'),然后基于TensorFlow搭建卷积神经网络算法模型,通过多轮迭代训练最后得到一个识别精度较高的模型文件。在使用Django开发web网页端操作界面,实现用户上传一张蔬菜图片识别其名称。
63 0
基于深度学习的【蔬菜识别】系统实现~Python+人工智能+TensorFlow+算法模型
|
29天前
|
机器学习/深度学习 人工智能 自然语言处理
深度探索人工智能中的自然语言处理技术#### 一、
【10月更文挑战第28天】 本文旨在深入剖析人工智能领域中的自然语言处理(NLP)技术,探讨其发展历程、核心算法、应用现状及未来趋势。通过详尽的技术解读与实例分析,揭示NLP在智能交互、信息检索、内容理解等方面的变革性作用,为读者提供一幅NLP技术的全景图。 #### 二、
67 1
|
8天前
|
机器学习/深度学习 人工智能 自然语言处理
深入探讨人工智能中的深度学习技术##
在本文中,我们将深入探讨深度学习技术的原理、应用以及未来的发展趋势。通过分析神经网络的基本结构和工作原理,揭示深度学习如何在图像识别、自然语言处理等领域取得突破性进展。同时,我们还将讨论当前面临的挑战和未来的研究方向,为读者提供全面的技术洞察。 ##
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
【EMNLP2024】阿里云人工智能平台 PAI 多篇论文入选 EMNLP2024
阿里云人工智能平台 PAI 的多篇论文在 EMNLP2024 上入选。论文成果是阿里云与华南理工大学金连文教授团队、复旦大学王鹏教授团队共同研发。EMNLP 是人工智能自然语言处理领域的顶级国际会议,聚焦于自然语言处理技术在各个应用场景的学术研究,尤其重视自然语言处理的实证研究。该会议曾推动了预训练语言模型、文本挖掘、对话系统、机器翻译等自然语言处理领域的核心创新,在学术和工业界都有巨大的影响力。此次入选标志着阿里云人工智能平台 PAI 在自然语言处理和多模态算法能力方面研究获得了学术界认可。