两步构建 AI 总结助手,实现智能文档摘要

本文涉及的产品
函数计算FC,每月15万CU 3个月
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
简介: 本方案将运用函数计算 FC,构建一套高可用性的 Web 服务,以满足用户多样化的需求。当用户发起请求时,系统内部会自动将包含文本和提示词的信息传递给百炼模型服务,百炼平台将根据后台配置调用相应的大模型服务,对文本数据进行智能识别与解析,最终将总结结果返回给用户。

在信息极度丰富的当下,如何从海量且复杂的文件资料中筛选出关键内容,成为了不少企业和个人急需解决的问题。本次解决方案将向您介绍,如何通过函数计算 FC × 阿里云百炼平台搭建智能 AI 总结助手,实现高效的文本自动总结和信息提取。


本方案将运用函数计算 FC,构建一套高可用性的 Web 服务,以满足用户多样化的需求。当用户发起请求时,系统内部会自动将包含文本和提示词的信息传递给百炼模型服务,百炼平台将根据后台配置调用相应的大模型服务,对文本数据进行智能识别与解析,最终将总结结果返回给用户。

image.png


适用客户


  • 需要从大量报告文件中快速提取关键信息的用户


使用产品


  • 函数计算
  • 大模型服务平台百炼


架构与部署


方案概览

在文本信息提取的流程中,我们使用计算资源(本方案以函数计算 FC 为例)构建的 Web 服务来接收用户的请求,在函数计算内部将文本和提示词发送至百炼模型服务,最终将结果返回给用户。按照本方案提供的配置完成部署后,会在阿里云上搭建一个如下图所示的运行环境。实际部署时,您可根据具体的资源规划调整部分配置,但最终的运行环境将与下图展示的架构相似。

image.png

本方案的技术架构包括以下基础设施和云服务:
  • 1 个函数计算服务:用于部署 AI 总结示例应用程序。
  • 1 个大模型服务平台百炼应用:用于示例应用程序中提供大模型问答服务。


部署应用

创建阿里云百炼应用

创建应用并获取应用 ID

您需要在百炼平台中创建一个应用,并获取应用 ID 和创建 API-KEY,用于后续函数计算中的示例程序调用大模型服务。


  1. 登录阿里云百炼控制台[1]
  2. 在左侧导航栏,单击应用中心 > 我的应用
  3. 我的应用页面,单击右侧的新增应用。在弹出框中,选择智能体应用并单击直接创建,系统将自动进入应用详情页面。
  4. 在应用详情页面,单击顶部应用名称右侧的模型设置按钮,选择模型通义千问2-开源版-72B,其它选项可使用默认值或根据情况进行自定义设置。
  1. 如系统提示“您还未开通模型调用,无法使用模型”,则需要按提示点击开通,完成开通后再选择模型。
  1. 在应用详情页面,单击右上侧的发布按钮,完成应用创建。
  2. 完成应用创建后,可到应用中心 > 我的应用中查看应用,复制出应用信息中的应用 ID 并保存到本地,后续步骤中将会使用。

创建API-KEY

  1. 登录阿里云百炼控制台。
  2. 在页面右上角单击 image.png 图标,在弹出的菜单中单击 API-KEY,进入我的 API-KEY 页面。
  3. 在列表右上角,单击创建我的 API-KEY 按钮,在弹出框中选择相应的业务空间,最后单击确定,完成 API-KEY 创建。
  4. 创建 API-KEY 完成后,单击列表的操作列中的查看,查看完整的 API-KEY 并保存到本地,后续步骤中将会使用。

部署函数计算服务

您已经创建 1 个阿里云百炼应用。接下来您需要创建一个函数,用以安装示例应用程序。


在浏览器地址栏中访问 https://fcnext.console.aliyun.com/applications/create?template=summarize-assistant&from=solution,表单中的各输入项参照以下示例进行设置。


项目

说明 示例值
部署类型 选择部署类型。 直接部署

应用名称

自定义应用名称。 summarize-assistant-v4rn
地域 选择华东1(杭州) 华东1(杭州)
百炼应用ID 输入“创建阿里云百炼应用”步骤中创建的百炼应用的应用ID 80ddab9******2beba2
百炼API-KEY 输入“创建阿里云百炼应用”步骤中创建的API-KEY sk-4****5e87


完成表单输入后,单击页面底部的创建并部署默认环境,大约等待 2 分钟左右即可完成函数部署(当在函数详情页看到类似如下界面时,则代表已部署完成)。

image.png


方案验证

完成示例应用程序部署后,可以进行以下操作来体验本服务。


  1. 登录函数计算控制台[2]
  2. 在左侧导航中单击应用,进入应用列表页面。
  3. 在应用列表页面,找到前面步骤中创建的应用,单击对应的应用名称,进入应用详情页面。
  4. 在应用详情页面,单击环境信息区域中的访问域名后的链接地址,即可查看到以下示例应用程序页面。

image.png

image.png

单击页面右下角的 image.png 图标,即可开始体验 AI 总结助手的内容总结功能。如需将 AI 总结助手部署到已有系统中,请至官网查看更多方案细节:构建 AI 总结助手, 实现智能文档摘要-阿里云技术解决方案[3]


总结


至此,您已基本了解如何通过函数计算构建 AI 文档总结助手,更多细节以及后续清理资源,欢迎您移步官网查看详情:https://www.aliyun.com/solution/tech-solution/bailian-ai-summary


相关链接:

[1] 阿里云百炼控制台

https://account.aliyun.com/login/login.htm?oauth_callback=https%3A%2F%2Fbailian.console.aliyun.com%2F&clearRedirectCookie=1&lang=zh#/home

[2] 函数计算控制台

https://account.aliyun.com/login/login.htm?oauth_callback=https%3A%2F%2Ffcnext.console.aliyun.com%2F&clearRedirectCookie=1&lang=zh

[3] 构建 AI 总结助手, 实现智能文档摘要-阿里云技术解决方案

https://www.aliyun.com/solution/tech-solution/bailian-ai-summary

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
相关文章
|
22天前
|
人工智能 算法 前端开发
OmAgent:轻松构建在终端设备上运行的 AI 应用,赋能手机、穿戴设备、摄像头等多种设备
OmAgent 是 Om AI 与浙江大学联合开源的多模态语言代理框架,支持多设备连接、高效模型集成,助力开发者快速构建复杂的多模态代理应用。
175 72
OmAgent:轻松构建在终端设备上运行的 AI 应用,赋能手机、穿戴设备、摄像头等多种设备
|
24天前
|
人工智能 数据处理 语音技术
Pipecat实战:5步快速构建语音与AI整合项目,创建你的第一个多模态语音 AI 助手
Pipecat 是一个开源的 Python 框架,专注于构建语音和多模态对话代理,支持与多种 AI 服务集成,提供实时处理能力,适用于语音助手、企业服务等场景。
84 23
Pipecat实战:5步快速构建语音与AI整合项目,创建你的第一个多模态语音 AI 助手
|
24天前
|
人工智能 搜索推荐 开发工具
24.7K Star!用 KHOJ 打造你的AI第二大脑,自动整合和更新多源知识,轻松构建个人知识库
KHOJ 是一款开源的个人化 AI 助手,支持多源知识整合、语义搜索、个性化图像生成等功能,帮助用户高效管理知识库。
328 23
24.7K Star!用 KHOJ 打造你的AI第二大脑,自动整合和更新多源知识,轻松构建个人知识库
|
1天前
|
人工智能 资源调度 API
AnythingLLM:34K Star!一键上传文件轻松打造个人知识库,构建只属于你的AI助手,附详细部署教程
AnythingLLM 是一个全栈应用程序,能够将文档、资源转换为上下文,支持多种大语言模型和向量数据库,提供智能聊天功能。
113 12
|
26天前
|
人工智能 开发框架 自然语言处理
Eko:一句话就能快速构建复杂工作流的 AI 代理开发框架!快速实现自动操作电脑和浏览器完成任务
Eko 是 Fellou AI 推出的开源 AI 代理开发框架,支持自然语言驱动,帮助开发者快速构建从简单指令到复杂工作流的智能代理。
256 12
Eko:一句话就能快速构建复杂工作流的 AI 代理开发框架!快速实现自动操作电脑和浏览器完成任务
|
1月前
|
人工智能 编解码 搜索推荐
深度测评-主动式智能导购 AI 助手构建的实现与优化
本文深度测评某平台提供的函数计算应用模板,用于快速搭建集成智能导购的电商网站。通过简洁直观的创建与部署流程,用户只需填写API Key等基本信息,即可完成配置。智能导购AI助手能通过多轮对话引导顾客明确需求,精准推荐商品,提升购物体验和转化率。系统支持自定义设置,具备高效、个性化、灵活扩展的特点。未来可引入更多维度推荐、机器学习及语音识别技术,进一步优化导购效果。
141 15
深度测评-主动式智能导购 AI 助手构建的实现与优化
|
26天前
|
SQL 存储 人工智能
DMS+X构建Gen-AI时代的一站式Data+AI平台
本文整理自阿里云数据库团队Analytic DB、PostgreSQL产品及生态工具负责人周文超和龙城的分享,主要介绍Gen-AI时代的一站式Data+AI平台DMS+X。 本次分享的内容主要分为以下几个部分: 1.发布背景介绍 2.DMS重磅发布:OneMeta 3.DMS重磅发布:OneOps 4.DMS+X最佳实践,助力企业客户实现产业智能化升级
DMS+X构建Gen-AI时代的一站式Data+AI平台
|
17天前
|
人工智能 Cloud Native 安全
|
14天前
|
人工智能 开发者 Python
Chainlit:一个开源的异步Python框架,快速构建生产级对话式 AI 应用
Chainlit 是一个开源的异步 Python 框架,帮助开发者在几分钟内构建可扩展的对话式 AI 或代理应用,支持多种工具和服务集成。
98 9