Dify-生成式 AI 应用创新引擎,本地搭建以及使用

简介: Dify-生成式 AI 应用创新引擎,本地搭建以及使用

前言

Dify 是一个LLM应用开发平台开源。其绘图的界面结合了 AI工作流程、RAG 管道、代理、模型管理、可安装性功能等,让我们可以快速从原型到生产。

Dify LLMOps 平台,它拥有可视化的工作流,在开源上构建和测试功能增强的AI工作流程,支持非常全面的大模型,基本包含了市面上的主流模型,自定义的提示工程,广泛的 Rag 检索能力,还有现在强大的Agent智能体,为智能体提供了丰富的内置工具,以及可以监听日志和性能,和丰富的 Api 集成。

一 、本地搭建Dify

Dify 的官方 git 地址是 https://github.com/langgenius/dify ,我们在构建本地环境的时候,需要拉取 Dify 项目。

我们这里由于用的是 docker ,所以还需要提前准备好 docker 环境。


git clone https://github.com/langgenius/dify.git

然后进入我们刚刚拉取的 dify-main 的根目录,可以看到下面结构:

image.png

然后进入我们项目根目录的 docker 文件夹,找到 docker-compose.yaml ,执行下面命令:


docker-compose up -d

这里可能等待得时间较长,看自己网速,如果我们需要配置自己的 web 端口,由于官方项目默认的端口是 80,可会与我们本地其他项目冲突。

我们这里可以更改成自己不冲突的端口,打开 docker-compose.yaml 文件,找到里面的 nginx 配置项目,如下面所示:

image.png

将  80 端口改成我们自己的端口即可,重新执行 docker-compose up -d

image.png

看到这个界面就证明 docker 镜像已经拉取完毕,然后执行:


docker ps -a

查看所有镜像:

image.png

还可以打开我们的 docker desktop

image.png

上面这些就是我们 Dify 项目内部所需要的所有镜像,至此我们的项目环境已经搭建完毕。

二、Dify的快速构建应用

浏览器访问下面地址:(注意这里的端口一定要是你之前配置的端口,默认是 80


http://localhost:80/install

image.png

注册管理员账号。

image.png

然后输入邮箱密码登录成功。

image.png

这里我们开始快速构建dify 应用:

image.png

先添加模型:OpenAi,通义千问或者 ollama 本地模型等,如果是 ollama 本地模型,你可以闲执行 ollama list 命令查看一下自己本地所拉取的模型,如果没有你需要的,你可以重新拉取新的本地模型。

image.png

image.png

OpenAi 同理,输入自己的 key 即可:

image.png

完成模型添加后,可以看到我们的模型:

image.png

回到我们编排界面,右上角选择我们配置好的模型:

image.png

点击我们进行一系列提示词构建,然后发布,这里我添加了一个上下文文档,你也可以根据需要进行添加,我的提示词模版为:


Use the following context as your learned knowledge, inside <context></context> XML tags.
<context>
{{#context#}}
</context>
When answer to user:
- If you don't know, just say that you don't know.
- If you don't know when you are not sure, ask for clarification.
Avoid mentioning that you obtained the information from the context.
And answer according to the language of the user's question.
{{pre_prompt}}
{{query}}

image.png

添加知识库:

image.png

文档分段和清洗:

image.png

存储到向量数据库:

image.png

知识库列表就可以看到我们创建好的文档:

image.png

一切准备就绪,点击右上角发布,然后运行一个 ChatBot 应用:

image.png

image.png

这里对我们创建的文档也能清晰的回答出来,包括具体检索到哪个知识库。

三、总结

Dify 可以说就是界面化的 LangChain,从构建到发布一个聊天程序,完全脱离了编码,并且灵活的使用了各种 api 和工具。

Dify 为我们节省了大量重复造轮子的时间,使我们能够专注于创新和业务需求,在界面上完全控制您的数据,并提供灵活的安全性。

Dify 提供了更适合生产的完整解决方案——将 Dify 视为具有精细工程设计和软件测试的脚手架系统。当然最大的好处就是,Dify 是开源的,我们也可以共同参与社区环境打造。



相关文章
|
21天前
|
云安全 人工智能 安全
Dify平台集成阿里云AI安全护栏,构建AI Runtime安全防线
阿里云 AI 安全护栏加入Dify平台,打造可信赖的 AI
|
21天前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
314 29
|
23天前
|
设计模式 人工智能 自然语言处理
3个月圈粉百万,这个AI应用在海外火了
不知道大家还记不记得,我之前推荐过一个叫 Agnes 的 AI 应用,也是当时在 WAIC 了解到的。
239 1
|
21天前
|
人工智能 缓存 运维
【智造】AI应用实战:6个agent搞定复杂指令和工具膨胀
本文介绍联调造数场景下的AI应用演进:从单Agent模式到多Agent协同的架构升级。针对复杂指令执行不准、响应慢等问题,通过意图识别、工具引擎、推理执行等多Agent分工协作,结合工程化手段提升准确性与效率,并分享了关键设计思路与实践心得。
315 20
【智造】AI应用实战:6个agent搞定复杂指令和工具膨胀
|
29天前
|
人工智能 安全 数据可视化
Dify让你拖拽式搭建企业级AI应用
Dify是开源大模型应用开发平台,融合BaaS与LLMOps理念,通过可视化工作流、低代码编排和企业级监控,支持多模型接入与RAG知识库,助力企业快速构建安全可控的AI应用,实现从原型到生产的高效落地。
Dify让你拖拽式搭建企业级AI应用
|
28天前
|
传感器 人工智能 监控
拔俗多模态跨尺度大数据AI分析平台:让复杂数据“开口说话”的智能引擎
在数字化时代,多模态跨尺度大数据AI分析平台应运而生,打破数据孤岛,融合图像、文本、视频等多源信息,贯通微观与宏观尺度,实现智能诊断、预测与决策,广泛应用于医疗、制造、金融等领域,推动AI从“看懂”到“会思考”的跃迁。
|
28天前
|
存储 人工智能 搜索推荐
拔俗AI助教系统:基于大模型与智能体架构的新一代教育技术引擎
AI助教融合大语言模型、教育知识图谱、多模态感知与智能体技术,重构“教、学、评、辅”全链路。通过微调LLM、精准诊断错因、多模态交互与自主任务规划,实现个性化教学。轻量化部署与隐私保护设计保障落地安全,未来将向情感感知与教育深度协同演进。(238字)
|
28天前
|
机器学习/深度学习 人工智能 搜索推荐
拔俗AI学伴智能体系统:基于大模型与智能体架构的下一代个性化学习引擎
AI学伴智能体系统融合大模型、多模态理解与自主决策,打造具备思考能力的个性化学习伙伴。通过动态推理、长期记忆、任务规划与教学逻辑优化,实现千人千面的自适应教育,助力因材施教落地,推动教育公平与效率双提升。(238字)
|
29天前
|
自然语言处理 数据挖掘 关系型数据库
ADB AI指标分析在广告营销场景的方案及应用
ADB Analytic Agent助力广告营销智能化,融合异动与归因分析,支持自然语言输入、多源数据对接及场景模板化,实现从数据获取到洞察报告的自动化生成,提升分析效率与精度,推动数据驱动决策。