二、 模型即服务(MaaS)平台-魔搭ModelScope
为了解决上述问题,阿里云推出了“Model-as-a-Service”概念,又名“模型即服务”。阿里云希望所有的AI模型从业者,能够零门槛的体验模型,推理模型,为大家提供完整的模型定制链路和方便快捷的模型部署方案。
如上图所示,是ModelScope模型开源社区的基本架构。达摩院不但贡献了自己的大模型平台和SOTA模型矩阵,而且邀请国内优秀的AI研究机构和公司,将模型贡献到社区。通过大家的共同努力,一起构建ModelScope模型开源社区。
ModelScope平台为大家提供了一站式的模型服务。大家可以在模型的管理下载、训练、推理等各个环节,快速定制模型,自动化进行云部署。用户只需要提供少量的数据和算力,就能快速定制模型应用到实际生产。
其中,模型开发者可以在模型的探索阶段使用多维度,多标签来检索模型,在线体验模型。
在环境安装环节,开发者在本地环境部署时,可以快速安装,云端的Notebook免安装。当开发者进行模型的推理验证时,一行代码就能实现推理,并且支持三种模型下载渠道,即Library、python SDK以及Git。
在模型的训练调优环节,开发者可以基于预训练模型的调优链接,澎湃算力实现版本可视化的测评。在大量数据预训练好的模型基础上进行微调,是当前AI模型开发的主流模式,这种模式大大降低了AI模型开发的门槛。
ModelScope提供了各个领域、不同场景上的丰富的预训练模型。通过简单易用的调用接口,统一的配置文件设计,使得用户仅仅使用十几行python代码,就可以运行一个fine tune任务。
在模型部署调用环节,ModelScope社区为开发者提供了多种部署方式,成本更低、更灵活。开发者可以在云端部署、本地化部署、或者设备端进行部署。
ModelScope社区不但为模型的开发者提供了一站式的模型服务,还为社区的贡献者提供了灵活便利的生产服务。
社区的贡献者可以使用ModelScope进行模型版本管理与代码托管。在数据集的管理方面,贡献者可以使用Data hub进行数据集版本管理与血缘管理。目前,数据预处理,数据分割等常用的数据工具,正在逐步上线中。
除此之外,社区的贡献者可以自定义组织并管理成员,能够多人协同管理模型与数据集。
在ModelScope社区的“创空间”模块,社区的贡献者能够创建专属的AI应用,展示自己的创意想法,沉淀个人或组织的资产。
创空间支持贡献者更灵活地构建专属的AI Web/App,打造更具创意的模型应用,让用户直观体验模型效果与创意想法。用户可直接关联模型,针对复杂场景进行自主模型编排和应用开发,从而形成个人及组织的创意资产。
与此同时,模型贡献者可以直接在模型页面查看用户的评价反馈,帮助贡献者了解用户需求。贡献者也可直接回复用户进行反馈,与用户产生深度互动交流。
接下来,介绍一下简单易用的Library集成库。首先,Library集成库覆盖NLP、CV、Audio等多领域的具有竞争力的SOTA模型,更有行业领先的多模态大模型,现已全部免费开放,支持用户下载使用。
其次,Library集成库提供简单易用的python SDK,轻量化集成开发,支持用户快速集成。一行代码即可实现模型推理,十几行代码即可实现对预训练模型的调优训练。目前,Library集成库兼容主流深度学习框架(Pytorch、Tensorflow等)。
Library集成库集成了在线Notebook开发环境,免除了环境安装烦恼。通过连接澎湃算力与免费资源支持,让用户可以轻松开发,实时保存。
接下来,介绍一下ModelScope模型库。目前,ModelScope社区提供了超过200个行业的预训练SOTA模型。其中60多种模型支持调优训练,让社区模型接入更简单。
与此同时,ModelScope社区的在线DEMO支持可视化在线体验,让用户轻松测试,让模型体验更简单。目前,业内SOTA大模型中文复刻版本和达摩院自研大模型已经全面开源,支持用户免费体验。语音合成、文本摘要、图片描述、图像卡通化等百余种模型支持用户在线体验。
目前,标签管理已经覆盖ModelScope社区的全领域,多任务。帮助用户多标签管理,精准定位。在数据预处理方面,ModelScope社区提供多种数据传输与预处理方式,实现模型的无缝对接。
ModelScope社区帮助用户进行简单灵活的数据版本管理与血缘管理,轻松托管代码与文件,支持一键关联模型库。让用户快速链接notebook开发环境,一键导入代码,0门槛把玩模型!