在本实验场景中,将基于Alibaba Cloud Linux操作系统的AMD实例,一步步部署运行ChatGLM-6B大语言模型,从0开始,部署Python运行环境,下载预训练模型,运行ChatGLM-6B模型,体验大语言模型的文本生成能力。本实验场景不涉及深奥的AI背景知识以及复杂的操作,只要了解计算机基础知识,知道怎么使用命令行工具,就能够轻松完成本实验,体验AIGC的魅力。
背景知识
云服务器(Elastic Compute Service,简称ECS)是阿里云提供的一种基础云计算服务。无需提前采购硬件设备,根据业务需要,随时创建所需数量的云服务器ECS实例。在使用过程中,随着业务的扩展,可以随时扩容磁盘、增加带宽。也能随时释放资源,节省费用。
Alibaba Cloud Linux是阿里云打造的Linux服务器操作系统发行版。我们积极吸收开源社区成果为云上应用程序提供Linux社区的增强功能,同时通过引入更完善的发行版质量体系,确保产品品质;同时结合阿里云基础设施进行深度优化,并为用户提供长达10年的企业级支持和维护,让用户体验更好的操作系统服务。
- ChatGLM-6B
ChatGLM-6B是有清华大学开源的、支持中英双语对话的大语言模型,该模型基于General Language Model(GLM)架构,具有62亿参数,并针对中文问答和对话进行了优化,可以生成符合人类偏好的回答。ChatGLM-6B具备基本的中文问答能力,可以部署为一个聊天机器人。官方提供了几个使用实例:自我认知、提纲写作、文案写作、邮件助手、信息抽取、角色扮演、评论比较以及旅游向导等。