方案概览:
函数计算:用于提供基于大模型的应用服务。
文件存储 NAS:用于存放ModelScope模型。
专有网络 VPC:用于配置专有网络,方便函数计算访问文件存储 NAS。
准备账号:
如果没有阿里云账号,请访问阿里云账号注册页面,根据页面提示完成注册。阿里云账号是您使用云资源的付费实体,因此是部署方案的必要前提。
已开通函数计算服务。具体操作,请参见开通函数计算服务。
已开通文件存储NAS服务。具体操作,请参见欢迎使用NAS文件系统。
已注册ModelScope账号,并绑定阿里云账号。
部署应用:
借助于函数计算应用模板,您可以便捷地将魔搭社区的开源大模型部署到函数计算上。
登录函数计算3.0控制台,在左侧导航栏,单击应用。
在左侧导航栏,单击应用。首次使用时,将自动进入创建应用页面,非首次创建请在应用页面单击创建应用。
在创建应用页面,选择通过模板创建应用,然后在人工智能页签中搜索ModelScope并选择ModelScope模板,光标移至该卡片,然后单击立即创建。
使用LLM应用:
在环境详情页面,点击访问域名右侧的域名,使用LLM应用。
输入文本信息,然后单击Submit
完成及清理:
删除ModelScope使用的函数
删除模型管理使用的NAS
十分钟结束不了,描述的不是很清晰,需要自己理解