Dify-生成式 AI 应用创新引擎,本地搭建以及使用

简介: Dify-生成式 AI 应用创新引擎,本地搭建以及使用

前言

Dify 是一个LLM应用开发平台开源。其绘图的界面结合了 AI工作流程、RAG 管道、代理、模型管理、可安装性功能等,让我们可以快速从原型到生产。

Dify LLMOps 平台,它拥有可视化的工作流,在开源上构建和测试功能增强的AI工作流程,支持非常全面的大模型,基本包含了市面上的主流模型,自定义的提示工程,广泛的 Rag 检索能力,还有现在强大的Agent智能体,为智能体提供了丰富的内置工具,以及可以监听日志和性能,和丰富的 Api 集成。

一 、本地搭建Dify

Dify 的官方 git 地址是 https://github.com/langgenius/dify ,我们在构建本地环境的时候,需要拉取 Dify 项目。

我们这里由于用的是 docker ,所以还需要提前准备好 docker 环境。


git clone https://github.com/langgenius/dify.git

然后进入我们刚刚拉取的 dify-main 的根目录,可以看到下面结构:

image.png

然后进入我们项目根目录的 docker 文件夹,找到 docker-compose.yaml ,执行下面命令:


docker-compose up -d

这里可能等待得时间较长,看自己网速,如果我们需要配置自己的 web 端口,由于官方项目默认的端口是 80,可会与我们本地其他项目冲突。

我们这里可以更改成自己不冲突的端口,打开 docker-compose.yaml 文件,找到里面的 nginx 配置项目,如下面所示:

image.png

将  80 端口改成我们自己的端口即可,重新执行 docker-compose up -d

image.png

看到这个界面就证明 docker 镜像已经拉取完毕,然后执行:


docker ps -a

查看所有镜像:

image.png

还可以打开我们的 docker desktop

image.png

上面这些就是我们 Dify 项目内部所需要的所有镜像,至此我们的项目环境已经搭建完毕。

二、Dify的快速构建应用

浏览器访问下面地址:(注意这里的端口一定要是你之前配置的端口,默认是 80


http://localhost:80/install

image.png

注册管理员账号。

image.png

然后输入邮箱密码登录成功。

image.png

这里我们开始快速构建dify 应用:

image.png

先添加模型:OpenAi,通义千问或者 ollama 本地模型等,如果是 ollama 本地模型,你可以闲执行 ollama list 命令查看一下自己本地所拉取的模型,如果没有你需要的,你可以重新拉取新的本地模型。

image.png

image.png

OpenAi 同理,输入自己的 key 即可:

image.png

完成模型添加后,可以看到我们的模型:

image.png

回到我们编排界面,右上角选择我们配置好的模型:

image.png

点击我们进行一系列提示词构建,然后发布,这里我添加了一个上下文文档,你也可以根据需要进行添加,我的提示词模版为:


Use the following context as your learned knowledge, inside <context></context> XML tags.
<context>
{{#context#}}
</context>
When answer to user:
- If you don't know, just say that you don't know.
- If you don't know when you are not sure, ask for clarification.
Avoid mentioning that you obtained the information from the context.
And answer according to the language of the user's question.
{{pre_prompt}}
{{query}}

image.png

添加知识库:

image.png

文档分段和清洗:

image.png

存储到向量数据库:

image.png

知识库列表就可以看到我们创建好的文档:

image.png

一切准备就绪,点击右上角发布,然后运行一个 ChatBot 应用:

image.png

image.png

这里对我们创建的文档也能清晰的回答出来,包括具体检索到哪个知识库。

三、总结

Dify 可以说就是界面化的 LangChain,从构建到发布一个聊天程序,完全脱离了编码,并且灵活的使用了各种 api 和工具。

Dify 为我们节省了大量重复造轮子的时间,使我们能够专注于创新和业务需求,在界面上完全控制您的数据,并提供灵活的安全性。

Dify 提供了更适合生产的完整解决方案——将 Dify 视为具有精细工程设计和软件测试的脚手架系统。当然最大的好处就是,Dify 是开源的,我们也可以共同参与社区环境打造。



相关文章
|
3天前
|
边缘计算 人工智能 算法
AI在智慧能源管理中的边缘计算应用
AI在智慧能源管理中的边缘计算应用
51 13
|
3天前
|
人工智能 Cloud Native 中间件
划重点|云栖大会「AI 原生应用架构论坛」看点梳理
本场论坛将系统性阐述 AI 原生应用架构的新范式、演进趋势与技术突破,并分享来自真实生产环境下的一线实践经验与思考。
|
3天前
|
存储 人工智能 Serverless
函数计算进化之路:AI 应用运行时的状态剖析
AI应用正从“请求-响应”迈向“对话式智能体”,推动Serverless架构向“会话原生”演进。阿里云函数计算引领云上 AI 应用 Serverless 运行时技术创新,实现性能、隔离与成本平衡,开启Serverless AI新范式。
100 11
|
4天前
|
Web App开发 人工智能 自然语言处理
快速搞定Dify+Chrome MCP:打造能操作网页的AI助手
用Dify+Chrome MCP,3分钟打造能“动手”操作网页的AI助手!无需编程,通过自然语言指令实现自动填表、数据抓取、网页点击等自动化任务。本地部署简单,支持搜索、登录、监控等场景,让AI成为你的7×24小时数字员工,高效处理重复性网页工作。
|
5天前
|
机器学习/深度学习 人工智能 自然语言处理
Transformer架构:重塑现代AI的核心引擎
Transformer架构:重塑现代AI的核心引擎
217 98
|
5天前
|
机器学习/深度学习 人工智能 自然语言处理
AIGC技术深度解析:生成式AI的革命性突破与产业应用实战
蒋星熠Jaxonic,AI技术探索者,深耕生成式AI领域。本文系统解析AIGC核心技术,涵盖Transformer架构、主流模型对比与实战应用,分享文本生成、图像创作等场景的实践经验,展望技术趋势与产业前景,助力开发者构建完整认知体系,共赴AI原生时代。
70 1
|
6天前
|
人工智能 自然语言处理 算法
现代AI工具深度解析:从GPT到多模态的技术革命与实战应用
蒋星熠Jaxonic,AI技术探索者,深耕代码生成、多模态AI与提示词工程。分享AI工具架构、实战应用与优化策略,助力开发者提升效率,共赴智能编程新纪元。
35 4
|
9天前
|
人工智能 关系型数据库 OLAP
一键搞定本土认证难题,AnalyticDB版Supabase助力AI应用实现支付宝&微信登录
阿里云AnalyticDB PostgreSQL版推出全新第三方身份认证能力,原生支持微信、支付宝、GitHub、Google、Apple等主流平台登录,助力开发者快速构建本土化用户系统。相比传统开发方式,无需从零开发认证模块,5分钟即可完成集成,大幅降低开发成本。适用于AI应用、创业项目及企业级智能应用,提升用户增长效率,实现安全、便捷的身份管理。
|
9天前
|
人工智能 Kubernetes 安全
重塑云上 AI 应用“运行时”,函数计算进化之路
回顾历史,电网的修建,深刻地改变了世界的经济地理和创新格局。今天,一个 AI 原生的云端运行时的进化,其意义也远不止于技术本身。这是一次设计哲学的升华:从“让应用适应平台”到“让平台主动理解和适应智能应用”的转变。当一个强大、易用、经济且安全的 AI 运行时成为像水电一样的基础设施时,它将极大地降低创新的门槛。一个独立的开发者、一个小型创业团队,将有能力去创造和部署世界级的 AI 应用。这才是技术平权的真谛,是激发全社会创新潜能的关键。
|
9天前
|
人工智能 算法 数据挖掘
AI Agent工作流实用手册:5种常见模式的实现与应用,助力生产环境稳定性
本文介绍了五种AI Agent结构化工作流模式,帮助解决传统提示词方式在生产环境中输出不稳定、质量不可控的问题。通过串行链式处理、智能路由、并行处理、编排器-工作器架构和评估器-优化器循环,可提升任务执行效率、资源利用和输出质量,适用于复杂、高要求的AI应用。
151 0
AI Agent工作流实用手册:5种常见模式的实现与应用,助力生产环境稳定性