向量加成,人人都有专属AI助手

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云原生数据库 PolarDB MySQL 版,Serverless 5000PCU 100GB
简介: 近年来,随着人工智能技术的不断发展,越来越多的企业和个人开始尝试利用AI技术提升业务效率和用户体验。其中,基于Serverless框架的应用托管平台和函数计算服务,因其能够显著降低开发成本、简化部署流程,受到了广泛关注。本次体验的目的,旨在详细介绍如何通过阿里函数计算FC部署ChatGLM6B大语言模型,并借助文件存储NAS和RDS PostgreSQL搭建一个AI知识库问答应用,以实现PDF、TXT、HTML等文件和URL类型资料的轻松读取和处理。

一、引言

近年来,随着人工智能技术的不断发展,越来越多的企业和个人开始尝试利用AI技术提升业务效率和用户体验。其中,基于Serverless框架的应用托管平台和函数计算服务,因其能够显著降低开发成本、简化部署流程,受到了广泛关注。本次体验的目的,旨在详细介绍如何通过阿里函数计算FC部署ChatGLM6B大语言模型,并借助文件存储NAS和RDS PostgreSQL搭建一个AI知识库问答应用,以实现PDF、TXT、HTML等文件和URL类型资料的轻松读取和处理。

二、体验过程

1. 开通基础配置

首先,在阿里云官网注册账号并开通函数计算FC服务、文件存储NAS、RDS PostgreSQL产品。

2. 创建函数计算应用

接着,我们可以通过函数计算FC创建一个应用,这个应用能够利用ChatGLM6B大语言模型实现智能问答功能,支持多种文件格式的输入,如PDF、TXT、HTML等以及URL类型的资料。该应用可以轻松定制,成为一个私人AI助理,为用户提供方便快捷的问答服务。

3. 选择AI大语言模型

从模版中心选择“AI大语言模型”,即可快速创建应用。

4. 关联NAS及RDS PostgreSQL产品

同时,关联RDS PostgreSQL数据库和文件存储NAS,以便于数据的存储和读取。

5. 部署完成

完成以上操作之后,我们只需要等待完成部署,当部署状态显示部署成功,我们就可以体验我们部署的应用了。

6. 产品体验

第一次访问的时候,界面会弹出数据库的相关配置信息,我们需要妥善保存,以备后续的使用。

接着,我们可以导入AI知识库来实现问答应用。在这个过程中,我们可以体验到从文件存储NAS读取PDF、TXT、HTML等文件或URL类型的资料。然后,通过函数计算FC调用ChatGLM6B模型进行文本生成。最后,将生成的文本存储至RDS PostgreSQL数据库中,以供后续查询。

三、体验结果

通过使用阿里函数计算FC、文件存储NAS和RDS PostgreSQL,我们成功地部署了ChatGLM6B大语言模型,并搭建了AI知识库问答应用。该应用能够支持多种类型的文件和URL资料的处理,并能够快速响应用户的查询请求。此外,由于使用了Serverless框架,开发者无需关心底层基础设施的配置和管理,大大降低了开发和运维的成本。

四、体验心得

使用阿里函数计算FC、文件存储NAS和RDS PostgreSQL进行应用部署具有以下优点:

  1. 开发效率高:Serverless框架使得开发者能够专注于业务逻辑的开发,而无需关心底层基础设施的配置和管理。
  2. 运维成本低:Serverless框架按需付费,无需支付空闲时间费用,降低了运维成本。
  3. 弹性伸缩:函数计算FC能够根据请求量自动进行弹性扩容,确保应用的稳定性和高性能。
  4. 集成方便:阿里云的各种服务之间可以方便地进行集成,如函数计算FC可以方便地与RDS PostgreSQL和文件存储NAS进行集成。

然而,也存在一些不足之处:

  1. 冷启动时间:由于Serverless框架的特性,当函数长时间未被调用时,会被停止运行,需要重新启动,这会导致一定的冷启动时间。
  2. 调试和监控:在Serverless框架下,调试和监控可能会比传统架构更为复杂,需要更多的时间和精力投入。

五、部署过程的一些错误信息

部署的过程中,由于某些配置及权限的问题,导致出现了一些小的插曲,不过通过日志可以快速排查问题的原因,并迅速的解决掉。

六、总结

通过本次体验,使我加深了了解如何使用阿里函数计算FC、文件存储NAS和RDS PostgreSQL进行应用部署。尽管存在一些不足之处,但整体而言,这些服务为开发者提供了一个高效、便捷的部署环境。展望未来,我期待这些服务能够进一步优化和完善,以更好地满足开发者的需求。非常感谢阿里提供的这次体验机会!!!

相关实践学习
基于函数计算一键部署掌上游戏机
本场景介绍如何使用阿里云计算服务命令快速搭建一个掌上游戏机。
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
目录
相关文章
|
18天前
|
人工智能 自然语言处理 机器人
Jina AI 发布中英和英德双语 8K 向量模型,魔搭社区开源最佳实践!
在 Jina Embeddings 英语向量模型突破百万下载后,今天,Jina AI正式开源了两款双语向量模型:中英双语(Chinese-English)和英德双语(English-German)向量模型,这也是全球首次推出支持 8K 双语文本的开源向量模型。
|
8月前
|
存储 人工智能 自然语言处理
Elasticsearch Relevance Engine---为AI变革提供高级搜索能力[ES向量搜索、常用配置参数、聚合功能等详解]
Elasticsearch Relevance Engine---为AI变革提供高级搜索能力[ES向量搜索、常用配置参数、聚合功能等详解]
Elasticsearch Relevance Engine---为AI变革提供高级搜索能力[ES向量搜索、常用配置参数、聚合功能等详解]
|
18天前
|
存储 人工智能 数据库
【AI大模型应用开发】【LangChain系列】2. 一文全览LangChain数据连接模块:从文档加载到向量检索RAG,理论+实战+细节
【AI大模型应用开发】【LangChain系列】2. 一文全览LangChain数据连接模块:从文档加载到向量检索RAG,理论+实战+细节
98 0
|
18天前
|
机器学习/深度学习 人工智能 算法
【AI大模型应用开发】【补充知识】文本向量化与向量相似度(含Python代码)
【AI大模型应用开发】【补充知识】文本向量化与向量相似度(含Python代码)
31 0
|
18天前
|
人工智能 数据库
详解AI大模型提示工程(prompt)、向量工程(embedding)、微调工程(fine-tune)
详解AI大模型行业提示工程(prompt)、向量工程(embedding)、微调工程(fine-tune)。
|
18天前
|
存储 人工智能 Cloud Native
阿里云向量检索 Milvus 版开启公测,助力企业打造高质量 AI 服务
阿里云向量检索 Milvus 版正式开启公测,诚邀广大开发者及企业用户参与公测,赋能智能检索,解锁 AI 潜能。
|
18天前
|
人工智能 自然语言处理 OLAP
AnalyticDB向量检索助力钉钉AI助理
2024年1月9日钉钉发布人人可用的AI助理产品,用户点击钉钉首屏右上角的魔法棒,即可唤起AI助理进行对话式数据AI、信息摘要、写工作总结、写文档等工作。AnalyticDB for PostgreSQL (下文简称ADB-PG) 向量检索引擎提供了核心实体的向量召回,帮助AI助理在智能问数等场景中大幅提升模型输出准确性。
692 6
|
18天前
|
人工智能 关系型数据库 MySQL
一键实现穿衣自由|揭秘淘宝AI试衣间硬核技术:AnalyticDB MySQL向量在线召回
在AI试衣间功能的背后,阿里云瑶池旗下的云原生数据仓库AnalyticDB MySQL提供了高维向量低延时的在线向量召回检索服务,下面将进行介绍。
|
18天前
|
人工智能 关系型数据库 MySQL
一键实现穿衣自由,揭秘淘宝AI试衣间硬核技术,AnalyticDB向量在线召回
云原生数据仓库AnalyticDB MySQL为淘宝AI试衣间提供高维向量低延时的在线向量召回检索服务。
一键实现穿衣自由,揭秘淘宝AI试衣间硬核技术,AnalyticDB向量在线召回