商业上怎么合理运用提示工程,RAG和模型微调

简介: 商业上怎么合理运用提示工程,RAG和模型微调

提示工程、RAG 还有微调在工程当中应该怎么选择,今天小余哥来给大家讲清楚。

那首先呢,我们要弄清楚大模型是怎么训练出来的。

训练大模型,首先需要海量的数据,然后通过训练的方法来构造一个大模型。然后这个大模型,其实它具备了非常多的能力,因为我们在训练的过程里面,其实使用到的数据是非常多样化的,包括金融数据、医疗数据、智能制造的数据、教育数据,还有好多好多其他行业的数据。


image.png


然后从另外一个角度,我们可以把这个大模型比作是智能化的大脑,比如说一个人的大脑。那假如这个人就是我,而且具备了各种能力,比如说 AI 的能力、金融科技的能力、医疗领域的能力、管理能力,还有一些其他的能力。那下面,我通过一个案例给大家讲一下这三者之间的主要的区别是什么。那假如屏幕前的你有一个问题想问我,所以你找到了我,然后问了一个问题,但是很不幸我没有给出你想要的答案。所以我们接下来要剖析一下为什么没有给出一个正确的答案。那这里,可能有三种不同的情况要考虑。那第一种情况,其实也比较容易想到的,就是你可能没有问清楚,就是你没有让我明白你到底想做什么。所以这个时候,就是要把这个问题整理成一个让我能听得懂,然后更详细的一种方式要传递给我,我才能有可能帮到你。那这个过程本质上对应到提示工程,如果我们接下来使用提示工程的方法能解决这个问题,那我们就结束了。如果还是没有解决,我们要考虑第二种情况。那有可能是我欠缺相关领域的知识。那打个比方,如果你问了我一个 AI 加建筑的问题,其实我对 AI 比较熟悉,但对建筑其实不太熟悉的,而且我曾也服务过很多其他行业的企业,所以我本身掌握一定的方法论,但是因为我不知道相关的知识,所以我目前是帮不到你。所以这个时候怎么办,一个正确的方案是给我讲清楚问题,最好围绕问题给我把建筑行业的相关的一些背景知识给我讲清楚,让我至少明白问题的背景、问题的场景以及要解决的问题本身,有了这些相关的知识,我们也把它叫做上下文之后,我有可能帮到你。那这个实际上对应到 RAG。那如果用 RAG 也没有办法解决,那我们可能要去考虑第三个原因,有可能是我自身的能力不足。那这里就涉及到我的解决方案的能力需要有待提高,还有方法论也需要有待提高。所以这时候,我可能要反过来去提升我自己,因为基于现在的能力,即便你给我提供了很详细的相关的知识,让我弄清楚了这个问题本身,我可能也没有办法帮到你。所以等我提高我自己之后,我再反过来帮你,有可能可以给你一个正确的回复。那第三个,实际上对应到模型的微调,就是不要再去抱怨外部的环境,而是先重点提高自己。所以微调本身,也是对大模型本身的一个改造,但是一和二其实对大模型是没有做任何的改造的。所以在工程当中,我们的做事的方式也是从提示工程开始到 RAG,然后最后到模型的微调,不要一开始就要做微调,这个是在工程当中不可取的。

相关文章
|
人工智能 JSON 自然语言处理
大模型Prompt工程的重要性及构建方法
非常非常有用的一片宝藏文章,主要阐述了大模型prompt构建的一些基础方法,能够起到很好的帮助,本文转载至https://mp.weixin.qq.com/s/7X68fNdOOYfk5Qg9iEM2lA,该公众号的其他文章也很有用,推荐大家关注。
|
30天前
|
机器学习/深度学习 数据采集 人工智能
文档智能 & RAG 让AI大模型更懂业务 —— 阿里云LLM知识库解决方案评测
随着数字化转型的深入,企业对文档管理和知识提取的需求日益增长。阿里云推出的文档智能 & RAG(Retrieval-Augmented Generation)解决方案,通过高效的内容清洗、向量化处理、精准的问答召回和灵活的Prompt设计,帮助企业构建强大的LLM知识库,显著提升企业级文档管理的效率和准确性。
|
4月前
|
JSON 数据可视化 API
GraphRAG+Ollama,构建本地精准全局问答系统!
RAG 是目前大语言模型相关最知名的工具之一,从外部知识库中检索事实,以便为大型语言模型 (LLM) 提供最准确、最新的信息。
|
4天前
|
机器学习/深度学习 存储 自然语言处理
方案测评|巧用文档智能和RAG构建大语言模型知识库
本文介绍了一款基于文档智能和大语言模型(LLM)的文档解析及问答应用,旨在提升企业文档管理和信息检索效率。系统通过文档解析、知识库构建和问答服务三大模块,实现了从文档上传到智能问答的全流程自动化。
|
30天前
|
存储 机器学习/深度学习 人工智能
文档智能与RAG技术在LLM中的应用评测
本文介绍了阿里云在大型语言模型(LLM)中应用文档智能与检索增强生成(RAG)技术的解决方案,通过文档预处理、知识库构建、高效检索和生成模块,显著提升了LLM的知识获取和推理能力,尤其在法律、医疗等专业领域表现突出。
79 1
|
1月前
|
数据采集 人工智能 监控
文档智能 & RAG让AI大模型更懂业务评测
【10月更文挑战第22天】《文档智能 & RAG让AI大模型更懂业务》解决方案通过文档内容清洗、向量化、问答内容召回、Prompt设计和LLM问答处理等步骤,实现了高效精准的问答系统。方案描述清晰,但在某些技术细节上略显简略。部署过程顺利,未遇明显问题。该方案适用于企业知识库、法律文档库等场景,但在数据安全、可扩展性等方面仍有改进空间。
|
1月前
|
人工智能 算法 测试技术
PAI 大语言模型评测平台现已支持裁判员模型评测
本文将为您介绍如何在 PAI 大语言模型评测平台,基于裁判员模型,评价开源模型或者微调后模型的性能。该功能限时免费,欢迎使用。
|
1月前
|
机器学习/深度学习 数据采集 人工智能
大模型体验报告:阿里云文档智能 & RAG结合构建LLM知识库
大模型体验报告:阿里云文档智能 & RAG结合构建LLM知识库
|
3月前
|
存储 人工智能 JSON
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
【模型微调】AI Native应用中模型微调概述、应用及案例分析
在AI Native应用中,模型微调是一个关键步骤,它允许开发者使用特定领域的数据对预训练模型进行二次训练过程,从而使其更好地适应特定任务或数据集。模型微调通过调整模型的参数,使模型在特定任务上达到更高的性能。这种技术广泛应用于自然语言处理、图像识别、语音识别等领域
79 1