一、引言
随着人工智能技术的不断发展,越来越多的企业和个人开始尝试利用AI技术提升工作效率和便捷性。本次体验的目的是了解阿里函数计算FC、文件存储NAS和RDS PostgreSQL等产品的性能和适用场景,并将这些产品整合在一起,搭建一个基于LLM大语言模型的AI知识库问答应用。
二、产品清单
2.1、函数计算FC
阿里函数计算FC是一种云原生的计算服务,提供了一种简单、高效的方式来部署和管理函数。在使用函数计算FC时,我们首先需要上传编写的函数代码,然后进行配置和部署。
2.2、文件存储NAS
文件存储NAS是一种基于网络的文件存储服务,可以提供稳定、高效的存储和访问功能。在本次体验中,我们使用文件存储NAS来存储和访问ChatGLM6B模型和其他相关的文件。通过配置NAS的访问权限,我们可以方便地将文件上传和下载,并且NAS还提供了数据备份和恢复等功能,确保数据的安全性。
2.3、RDS PostgreSQL
RDS PostgreSQL是一种云原生的关系型数据库服务,提供了稳定、高效、易于管理的数据库服务。在本次体验中,我们使用RDS PostgreSQL来存储和查询AI知识库的数据。通过使用SQL语言,我们可以方便地对数据进行增删改查,并且RDS PostgreSQL还提供了数据备份和恢复等功能,确保数据的安全性。
三、体验过程
在了解了各个产品的优点和缺点之后,我们将开始搭建基于LLM模型的AI知识库问答应用。
3.1、FC创建应用
通过函数计算FC创建AI大语言模型的应用。
在这个过程中,基本上个是保姆式操作,我们只需要按照实验的要求进行部署即可。
3.2、开通文件存储 NAS
服务状态开通文件存储 NAS,存储大语言模型和Embeding需要使用文件存储 NAS性能存储约4.5GB。
3.3、保存数据库连接信息
完成业务部署后,我们访问服务地址。第一次访问的时候,系统会弹出实验数据库相关的参数, 我们需要妥善保存好。
3.4、导入知识库
3.5、体验产品
3.6、资源释放
由于产品是按量收费,使用完后,如果不再使用,需要尽快完成资源的释放。
3.7、心得体会
在搭建基于ChatGLM6B大语言模型AI知识库问答应用的过程中,我使用到了阿里函数计算FC、文件存储NAS和RDS PostgreSQL等工具。
我觉得,阿里函数计算FC为我提供了强大的计算能力,让我能够轻松应对ChatGLM6B大语言模型的需求。通过使用函数计算FC,我能够快速从模板应用中拉取。其次,文件存储NAS为我提供了一个高效、稳定的存储解决方案。另外,RDS PostgreSQL它提供了一个易用、高性能的数据库服务。通过RDS,我能够轻松实现数据的存储、查询和分析,而无需关心底层数据库的管理和维护。
虽然在释放资源的时候,出现了一点点小插曲,但是系统给了足够的提示信息,我只需要按照提示一步步去排查即可完成。这点必须给赞!
四、产品思考
通过体验之后,我也一直在思考一个问题,如何把它融合到我们的医疗健康基层医疗实际业务中。
- 建立云端大模型知识库:大语言模型的落地所需要的硬件资源太过庞大,私有化部署的难度太大。建议采用云端建立知识库。
- 数据存储与备份:如果使用RDS PostgreSQL进行数据管理,它是否是最佳的选择? 通过官方了解到,RDS PostgreSQL是一种关系型数据库,它能够针对业务需求,提供数据的查询优化,数据处理效率也非常高。但是常用发展,是否可以使用MongoDB?这个我需要进一步研究。
- 结合IOT可穿戴设备结合管理应用:纯粹的对话模式在实际业务落地非常困难,需要结合物联网、可穿戴设备等技术,开发健康管理相关应用,这样才能帮助居民实现自我健康管理。
- 技术落地:这一点难度比较大,目前团队人员水平参差不齐,培训难度较大。
五、小结
通过本次体验,我了解了阿里函数计算FC、文件存储NAS和RDS PostgreSQL等产品的性能和适用场景,并且成功地将这些产品整合在一起,搭建了一个基于LLM模型的AI知识库问答应用。通过他们能够真正做到使得开发者可以专注于业务逻辑的实现而无需关心底层基础设施的配置和管理。
另外比较赞的就是这些产品的收费方式,它们都提供了灵活多样的付费方式,以便开发者可以快速体验。同时,阿里平台也针对新用户提供了不同形式的免费试用机会。
非常有意义的一次体验!!!感谢阿里提供的机会。