AI 助理
文档备案控制台
开发者社区 数据库 文章 正文

体验基于 LLM 构建AI知识库问答应用部署

2023-09-06 682
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
在线体验各类最新模型，更有模型 免费Token 额度领取！
立即体验
简介： 基于NAS、RDS PostgreSQL部署AI大语言知识库

写在前面

感谢阿里云提供相关资源，可以参加这次的AI助手应用搭建。

开通相关产品

本次实验需要开通三个产品：函数计算FC，数据库产品，文件存储NAS

RDS数据库

image.png


函数计算FC

image.png

文件存储NAS

image.png


应用部署

开通函数计算FC后，在控制台创建AI大语言模型应用，然后直接部署。

image.png

然后根据教程配置数据库，一步步完成即可，最终效果如下：

image.png

心得体会

整体操作下来，也就花了15分钟不到，体验非常不错，阿里系的相关产品组合非常棒，可以将复杂的AI模型部署简化，为开发者节省了大量时间，不懂AI也可以独立完成AI应用。

文章标签：
人工智能
关系型数据库
Serverless
数据库
RDS
关键词：
AI部署
构建AI
构建AI部署
AI构建
AI应用
凌云Cloud
目录
相关文章
聚客AI
|
10月前
|
存储 机器学习/深度学习 算法
​​LLM推理效率的范式转移：FlashAttention与PagedAttention正在重塑AI部署的未来​
本文深度解析FlashAttention与PagedAttention两大LLM推理优化技术：前者通过分块计算提升注意力效率，后者借助分页管理降低KV Cache内存开销。二者分别从计算与内存维度突破性能瓶颈，显著提升大模型推理速度与吞吐量，是当前高效LLM系统的核心基石。建议收藏细读。
聚客AI
1834 125
蚂蚁百宝箱
|
9月前
|
API 开发者
百宝箱开放平台 ✖️ 查询知识库文件的构建状态
本接口用于查询目标文件在知识库中的构建状态，需提供documentId并配置有效token。支持查看初始化、处理中、成功、失败等状态，并返回详细错误信息以便排查问题。
蚂蚁百宝箱
475 4
安全风信子
|
9月前
|
存储 人工智能 数据中心
138_绿色计算：碳排放优化 - 估算部署的碳足迹与LLM环境友好型部署最佳实践
随着大语言模型(LLM)在各个行业的广泛应用，其计算需求和环境影响正日益受到关注。根据最新研究，训练一个大型LLM模型可能产生数百吨二氧化碳当量的排放，这相当于普通家庭几十年的碳足迹。在全球气候变化和可持续发展的背景下，如何优化LLM部署的碳足迹，实现环境友好型AI应用，已成为行业面临的重要挑战。
安全风信子
494 2
varin
|
9月前
|
存储 人工智能 Java
AI 超级智能体全栈项目阶段四：学术分析 AI 项目 RAG 落地指南：基于 Spring AI 的本地与阿里云知识库实践
本文介绍RAG（检索增强生成）技术，结合Spring AI与本地及云知识库实现学术分析AI应用，利用阿里云Qwen-Plus模型提升回答准确性与可信度。
varin
2380 90
AI 超级智能体全栈项目阶段四：学术分析 AI 项目 RAG 落地指南：基于 Spring AI 的本地与阿里云知识库实践
安全风信子
|
9月前
|
机器学习/深度学习 缓存 监控
139_剪枝优化：稀疏模型压缩 - 分析结构化剪枝的独特速度提升与LLM部署加速实践
随着大语言模型(LLM)规模的不断增长，模型参数量已从最初的数亿扩展到数千亿甚至万亿级别。这种规模的模型在推理过程中面临着巨大的计算和内存挑战，即使在最先进的硬件上也难以高效部署。剪枝优化作为一种有效的模型压缩技术，通过移除冗余或不重要的参数，在保持模型性能的同时显著减少计算资源需求。
安全风信子
1291 139
安全风信子
|
9月前
|
人工智能 自然语言处理 TensorFlow
134_边缘推理：TensorFlow Lite - 优化移动端LLM部署技术详解与实战指南
在人工智能与移动计算深度融合的今天，将大语言模型(LLM)部署到移动端和边缘设备已成为行业发展的重要趋势。TensorFlow Lite作为专为移动和嵌入式设备优化的轻量级推理框架，为开发者提供了将复杂AI模型转换为高效、低功耗边缘计算解决方案的强大工具。随着移动设备硬件性能的不断提升和模型压缩技术的快速发展，2025年的移动端LLM部署已不再是遥远的愿景，而是正在成为现实的技术实践。
安全风信子
1677 39
PHP小志
|
9月前
|
机器学习/深度学习 人工智能 JSON
PHP从0到1实现 AI 智能体系统并且训练知识库资料
本文详解如何用PHP从0到1构建AI智能体，涵盖提示词设计、记忆管理、知识库集成与反馈优化四大核心训练维度，结合实战案例与系统架构，助你打造懂业务、会进化的专属AI助手。
PHP小志
1331 6
霍格沃兹测试开发学社
|
9月前
|
Web App开发 人工智能 自然语言处理
利用Playwright MCP与LLM构建复杂的工作流与AI智能体
本文介绍如何通过Playwright MCP与大语言模型（LLM）结合，构建智能AI代理与自动化工作流。Playwright MCP基于Model Context Protocol，打通LLM与浏览器自动化的能力，实现自然语言驱动的网页操作。涵盖环境配置、核心组件、智能任务规划、自适应执行及电商采集、自动化测试等实战应用，助力高效构建鲁棒性强、可扩展的AI自动化系统。
霍格沃兹测试开发学社
1428 5
杖雍皓
|
9月前
|
缓存 边缘计算 运维
基于 Cloudflare Workers 构建高性能知识库镜像服务：反向代理与 HTML 动态重写实践
基于Cloudflare Workers构建的边缘计算镜像服务，通过反向代理、HTML动态重写与智能缓存，优化维基百科等知识平台的访问性能。支持路径映射、安全头清理与容错回退，实现免运维、低延迟、高可用的Web加速方案，适用于教育、科研等合规场景。
杖雍皓
1391 8
安全风信子
|
9月前
|
存储 监控 安全
132_API部署：FastAPI与现代安全架构深度解析与LLM服务化最佳实践
在大语言模型(LLM)部署的最后一公里，API接口的设计与安全性直接决定了模型服务的可用性、稳定性与用户信任度。随着2025年LLM应用的爆炸式增长，如何构建高性能、高安全性的REST API成为开发者面临的核心挑战。FastAPI作为Python生态中最受青睐的Web框架之一，凭借其卓越的性能、强大的类型安全支持和完善的文档生成能力，已成为LLM服务化部署的首选方案。
安全风信子
1367 3

热门文章

最新文章

  • 1
    AnalyticDB(ADB)+LLM，构建AIGC时代下企业专属Chatbot
  • 2
    LLM系列 | 02: Vicuna简介及模型部署实测
  • 3
    LLM 大模型学习必知必会系列(十二)：VLLM性能飞跃部署实践：从推理加速到高效部署的全方位优化[更多内容：XInference/FastChat等框架]
  • 4
    LLM在电商推荐系统的探索与实践
  • 5
    基于阿里云免费算力自建LLM(类GPT)大模型
  • 6
    LLM 大模型学习必知必会系列(十)：基于AgentFabric实现交互式智能体应用,Agent实战
  • 7
    LLM系列 | 03：实测讯飞星火、文心一言、bing chat和chatgpt
  • 8
    TensorRT-LLM在CodeFuse-CodeLlama-34B上的int4量化实践
  • 9
    小羊驼背后的英雄，伯克利开源LLM推理与服务库：GPU减半、吞吐数十倍猛增
  • 10
    魔搭社区LLM模型部署实践， 以ChatGLM3为例（一）
  • 1
    社区供稿 | YuanChat全面升级：知识库、网络检索、适配CPU，手把手个人主机部署使用教程
    653
  • 2
    【开源推荐】maxkb+ollama快速搭建自己的知识库
    3535
  • 3
    实时数仓 Hologres产品使用合集之业级问答知识库该如何部署有教程吗
    485
  • 4
    基于Ollama+AnythingLLM轻松打造本地大模型知识库
    158122
  • 5
    入门篇: 快速升级或迁移您的Confluence知识库
    773
  • 6
    云效产品使用常见问题之免费版本的知识库存储空间最大上限不知道如何解决
    504
  • 7
    【开源项目推荐】8.9K纯中文本地GPT知识库搭建项目
    2755
  • 8
    知识库系统|基于springboot的课程知识库系统设计与实现
    760
  • 9
    高校课程知识库系统|基于Springboot+vue实现高校课程知识库在线学校平台
    347
  • 10
    PAI+Hologres基于大模型搭建企业级知识库
    513

    • 相关课程

    更多
  • AIGC无处不在，把AI应用构建于Serverless之上
  • 【科技少年】AI领航员探索教程（赛前训练）
  • 达摩院视觉AI精品课
  • AI开发者的Docker实践
  • 趣味视觉AI应用入门与实战
  • AI数学基础

    • 相关电子书

    更多
  • 阿里云AI原生架构与企业实践专场分享材料
  • 阿里云AI原生应用实践沙龙 Serverless+AI专场
  • PAI灵骏智算 构建全链路LLM服务的最佳实践

    • 相关实验场景

    更多
  • 使用AI容器镜像部署Qwen大语言模型
  • 【玩转ComfyUI】基于函数计算一键部署AI生图平台ComfyUI
  • 函数计算一键部署AI大语言模型并会话
  • AI克隆声音，基于函数计算部署GPT-Sovits语音生成模型
    • 下一篇
    一条命令迁移，帮你实现 OpenClaw 与 Hermes Agent 记忆互通！