计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-09-26（上）+https://developer.aliyun.com/article/1628897
实验数据及实验效果：
- 数据集：文本摘要、问答和代码摘要任务的开源基准数据集。
- 实验结论：在这些任务上，与现有压缩技术相比，提出的方法在任务性能上提高了8% - 260%。
推荐阅读指数：★★★★☆
推荐理由：
这篇文章提出了一种创新的提示压缩方法，通过强化学习来优化大型语言模型的推理效率，对于希望在保持性能的同时减少计算成本的研究者和工程师来说，具有很高的参考价值。
4. LLM Surgery: Efficient Knowledge Unlearning and Editing in Large Language Models
Authors: Akshaj Kumar Veldanda, Shi-Xiong Zhang, Anirban Das, Supriyo
Chakraborty, Stephen Rawls, Sambit Sahu, Milind Naphade
https://arxiv.org/abs/2409.13054
LLM外科手术：在大型语言模型中高效地忘却和编辑知识
摘要：
本文提出了一种名为LLM Surgery（外科手术）的框架，用于高效地修改大型语言模型（LLMs）的行为，通过优化一个包含三个部分的目标函数来实现：（1）对忘却数据集（问题和过时信息）执行反向梯度；（2）对更新数据集（新和更新的信息）执行梯度下降；（3）最小化保留数据集（一小部分未改变的文本）上的KL散度，确保预训练和修改后的模型输出之间的一致性。
研究背景：
LLMs在预训练过程中可能会嵌入过时或有问题的知识，需要一种方法来更新LLMs，使其保持相关性、准确性和合法性。
技术挑战：
- 如何在不从头开始重新训练的情况下，有效地从LLMs中忘却特定信息并整合新知识。
创新点：
- 提出了LLM Surgery框架，通过反向梯度和梯度下降以及KL散度最小化来实现知识的忘却和更新。
算法模型：
- LLM Surgery框架。
实验数据及实验效果：
- 数据集：使用Llama2-7B模型进行实验。
- 实验结论：LLM Surgery能够在忘却集上实现显著的忘却，在更新集上提高20%的准确率，并在保留集上保持性能。
推荐阅读指数：★★★★☆
推荐理由：
这篇文章提出了一种新颖的方法来更新大型语言模型中的知识，这对于确保模型的输出符合最新的数据和法律要求非常重要，对于LLMs的维护和更新具有实际应用价值。
5. Guided Profile Generation Improves Personalization with LLMs
Authors: Jiarui Zhang
https://arxiv.org/abs/2409.13093
引导式个人资料生成提高LLMs的个性化
摘要：
本文提出了一种名为Guided Profile Generation (GPG)的方法，旨在通过生成自然语言个人资料来增强大型语言模型（LLMs）在个性化任务中的表现。GPG通过引导式个人资料生成，使LLMs能够从个人上下文中提取重要且独特的特征，并将其转化为简洁、描述性的句子，从而更精确地定制生成内容以适应个体的独特习惯和偏好。
研究背景：
在个性化任务中，传统的个人资料建模技术依赖于大量数据集，这些资料往往需要额外的处理才能立即解释，并且可能限制了数据类型的多样性。
技术挑战：
- 如何在不牺牲准确性和效率的情况下，提高LLMs对原始个人上下文的解释能力。
创新点：
- 提出了GPG方法，通过引导式个人资料生成来增强LLMs的个性化能力。
算法模型：
- Guided Profile Generation (GPG)。
实验数据及实验效果：
- 数据集：亚马逊产品评论、LAMP-7（基于情感的推文集合）、PER-CHAT（Reddit上的开放式单轮对话数据集）。
- 实验结论：GPG在不同的任务中提高了LLMs的个性化能力，例如在预测个人偏好方面，与直接使用原始个人上下文相比，准确率提高了37%。
推荐阅读指数：
★★★★☆
推荐理由：
这篇文章提出了一种有效的方法来提高LLMs在个性化任务中的表现，通过生成描述性的个人资料来增强模型的个性化能力，对于希望利用LLMs进行个性化服务的研究者和开发者来说，具有很高的参考价值。
6. Are Large Language Models Good Essay Graders?
Authors: Anindita Kundu and Denilson Barbosa
https://arxiv.org/abs/2409.13120
大型语言模型是好的作文评分者吗？
摘要:
本文评估了大型语言模型（LLMs）在评估作文质量方面的有效性，特别关注它们与人工评分的一致性。研究比较了ChatGPT和Llama在自动作文评分（AES）任务中的表现，并考虑了零样本和少样本学习以及不同的提示方法。研究发现，与人工评分相比，LLMs通常给出较低的分数，并且分数之间的相关性不高。
研究背景:
自动作文评分（AES）是教育中自然语言处理（NLP）的一个关键应用，它使用基于计算机的评估系统自动评分学生生成的内容。
技术挑战:
LLMs在处理复杂任务时，如何与人类评分者保持一致性是一个挑战。
创新点:
- 提出了一种基于LLMs的AES方法。
- 比较了不同LLMs在AES任务中的表现。
算法模型:
- ChatGPT
- Llama
实验数据及效果:
- 使用ASAP数据集进行实验。
- 实验结果显示LLMs给出的分数与人工评分者给出的分数之间的相关性较低。
推荐阅读指数:
★★★☆☆
推荐理由: 对于研究LLMs在教育评估中的应用，对想要在教育领域使用LLM的朋友，可以参考下。
7. Exploring Scaling Laws for Local SGD in Large Language Model Training
Authors: Qiaozhi He, Xiaomin Zhuang, Zhihua Wu
https://arxiv.org/abs/2409.13198
探索大型语言模型训练中局部SGD的扩展规律
摘要:
本文研究了局部SGD在大型语言模型（LLM）训练中的扩展规律。研究表明，在相同的模型参数、数据集和计算资源条件下，局部SGD与传统方法相比具有竞争力。
研究背景:
LLMs的训练需要大规模的计算资源，这导致了对计算资源需求的快速增长。
技术挑战:
如何在计算资源有限的情况下，有效地训练大型语言模型。
创新点:
- 提出了局部SGD在LLM训练中的扩展规律。
- 探索了在多集群设置和边缘计算环境中应用局部SGD。
算法模型:
- 局部SGD
实验数据及效果:
- 使用SlimPajama和C4数据集进行实验。
- 实验结果表明局部SGD在多集群环境中是可行的。
推荐阅读指数: ★★★★☆
推荐理由: 对于研究如何高效训练大型语言模型，这篇文章提供了重要的见解。
8. CITI: Enhancing Tool Utilizing Ability in Large Language Models without Sacrificing General Performance
Authors: Yupu Hao, Pengfei Cao, Zhuoran Jin, Huanxuan Liao, ubo Chen, Kang Liu,
Jun Zhao
https://arxiv.org/abs/2409.13202
CITI: 在不牺牲通用性能的情况下增强大型语言模型的工具使用能力
摘要:
本文提出了一种方法，通过检查模型组件的隐藏表示变化和梯度重要性分数，来解决LLMs在工具使用准确性和泛化能力上的权衡问题。
研究背景:
LLMs在理解和生成文本方面表现出色，但在与真实世界交互方面存在局限性。
技术挑战:
如何在不损害模型通用性能的情况下，增强LLMs的工具使用能力。
创新点:
- 提出了一种基于组件重要性的Tool-utilizing能力注入方法（CITI）。
算法模型:
- Mixture-Of-LoRA (MOLoRA)
实验数据及效果:
- 在API-Bank和ToolAlpaca数据集上进行实验。
- 实验结果表明CITI方法在提高工具使用能力的同时，保持了模型的通用性能。
推荐阅读指数: ★★★★☆
推荐理由: 对于研究如何增强LLMs的工具使用能力，这篇文章提供了有价值的方法。
9. Neural-Symbolic Collaborative Distillation: Advancing Small Language Models for Complex Reasoning Tasks
Authors: Huanxuan Liao, Shizhu He, Yao Xu, Yuanzhe Zhang, Kang Liu, Jun Zhao
https://arxiv.org/abs/2409.13203
代码: https://github.com/Xnhyacinth/NesyCD.
神经符号协作蒸馏：推进小型语言模型在复杂推理任务中的应用
摘要:
本文提出了一种新颖的知识蒸馏方法，用于学习大型语言模型（LLMs）的复杂推理能力。
研究背景:
复杂推理任务对于小型语言模型（SLMs）来说具有挑战性，因为这些任务不仅需要一般认知能力，还需要专业知识。
技术挑战:
如何在保持模型大小不变的情况下，提高SLMs在复杂推理任务中的性能。
创新点:
- 提出了一种结合神经网络和符号知识库的协作蒸馏方法。
算法模型:
- 神经符号协作蒸馏（NesyCD）
实验数据及效果:
- 在多个数据集上进行实验，包括BBH、GSM8K、AGIEval和ARC。
- 实验结果表明NesyCD显著提高了SLMs在复杂推理任务中的性能。
推荐阅读指数: ★★★★☆
推荐理由: 对于研究如何提高小型语言模型在复杂推理任务中的性能，这篇文章提供了创新的方法。
10. Large Language Model Should Understand Pinyin for Chinese ASR Error Correction
Authors: Yuang Li, Xiaosong Qiao, Xiaofeng Zhao, Huan Zhao, Wei Tang, Min
Zhang, Hao Yang
https://arxiv.org/abs/2409.13262
大型语言模型应理解拼音以纠正中文ASR错误
摘要:
本文提出了一种利用拼音增强的生成性错误纠正（PY-GEC）方法，通过多任务训练提高LLMs在中文自动语音识别（ASR）错误纠正中的性能。
研究背景:
ASR系统在处理普通话时，由于发音和书面形式之间没有直接联系，因此纠正错误具有挑战性。
技术挑战:
如何利用LLMs提高中文ASR错误纠正的准确性。
创新点:
- 提出了一种结合拼音特征的LLMs训练方法。
算法模型:
- PY-GEC
实验数据及效果:
- 在Aishell-1和Common Voice数据集上进行实验。
- 实验结果表明，结合拼音特征的方法在字符错误率（CER）和实体召回方面均优于仅使用文本的方法。
推荐阅读指数:
★★★☆☆
推荐理由:
对于研究如何利用LLMs改进中文ASR错误纠正，这篇文章提供了有价值的见解和方法。
如果您对我的博客内容感兴趣，欢迎三连击(点赞，关注和评论)，我将持续为您带来计算机人工智能前沿技术(尤其是AI相关的大语言模型，深度学习，计算机视觉相关方向)最新学术论文及工程实践方面的内容分享，助力您更快更准更及时地了解前沿技术的发展现状。
