魔搭中文开源模型社区:模型即服务-魔搭・平台工程框架介绍(上)

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,5000CU*H 3个月
模型训练 PAI-DLC,5000CU*H 3个月
简介: 魔搭中文开源模型社区:模型即服务-

作者:陈颖达,魔搭社区架构师

 

一、 ModelScope模型社区简介

 

image.png

 

Model as a service的主旨是让AI爱好者、使用者、开发者、研究者能够零门槛的体验模型,简单快速的使用模型,给予模型定制完整的链路,让模型定制能够在云端部署。

 

image.png

 

ModelScope社区以模型为中心,汇聚了各领域的优质模型。以云原生设计为基础,让模型开箱即用,降低使用者的门槛。

 

image.png

 

ModelScope社区坚持开源开放原则,逻辑部分完全开源,用户可直接对接所有模型或接入代码。与此同时,ModelScope社区完全拥抱各种AI框架、训练模型,方便大家使用。

 

ModelScope社区以开发者为中心,让开发者更好的使用社区和模型。通过各领域的数据集管理,构建模型与数据的双轮驱动。

 

image.png

 

ModelScope社区立志覆盖全频谱的不同使用者,用户可以直接在ModelScope页面,进行模型的试验和使用。

 

对于有一定开发能力的用户,只需要通过一两行代码,就可以直接使用模型。与此同时,ModelScope提供云服务以及免费的计算算力,方便大家应用模型,一键部署上云。

 

image.png

 

如上图所示,是ModelScope社区的技术架构。灰色部分是后端的模型服务,以及数据集服务。社区提供了生产化的版本管理、血缘管理等一系列功能。

 

紫色部分是社区整体开源的模型代码、模型接入、模型交互等服务,主要面向开发者。

 

在网站前端和页面部分,社区打通云上推理服务、云上Notebook等产品,为用户提供直观易用的入口。

 

image.png 

 

ModelScope社区基于云底座,为用户构建了零门槛的线上模型体验服务。通过ModelScope与云上服务的无缝对接,各模态模型用户均可无门槛体验试用。对于模型开发者来说,用户可以在云端享受推理服务,当模型上传,支持自助式部署。

 

相关文章
|
2月前
|
自然语言处理 开发者 异构计算
社区供稿 | Llama3-8B中文版!OpenBuddy发布新一代开源中文跨语言模型
此次发布的是在3天时间内,我们对Llama3-8B模型进行首次中文跨语言训练尝试的结果:OpenBuddy-Llama3-8B-v21.1-8k。
|
2月前
|
人工智能 达摩院 自然语言处理
超好用的开源模型平台,ModelScope阿里达摩院
超好用的开源模型平台,ModelScope阿里达摩院
205 1
|
8月前
|
人工智能 监控 Swift
魔搭社区LLM模型部署实践 —— 以ChatGLM3为例
本文将以ChatGLM3-6B为例,介绍在魔搭社区如何部署LLM
|
自然语言处理 机器人 API
GitHub开源史上最大规模中文知识图谱
GitHub开源史上最大规模中文知识图谱
GitHub开源史上最大规模中文知识图谱
|
2月前
|
存储 自然语言处理 负载均衡
元象开源首个MoE大模型:4.2B激活参数,效果堪比13B模型,魔搭社区最佳实践来了
近日,元象发布其首个Moe大模型 XVERSE-MoE-A4.2B, 采用混合专家模型架构 (Mixture of Experts),激活参数4.2B,效果即可媲美13B模型。该模型全开源,无条件免费商用,支持中小企业、研究者和开发者可在元象高性能“全家桶”中按需选用,推动低成本部署。
|
机器学习/深度学习 API 开发工具
|
10月前
|
机器学习/深度学习 人工智能 物联网
大模型时代,还缺一只雨燕 | SWIFT:魔搭社区轻量级微调推理框架
伴随着大数据的发展和强大的分布式并行计算能力,以预训练+微调的模型开发范式渐渐成为深度学习领域的主流。 2023年各家推出的大模型浩如烟海,如GPT4、Llama、ChatGLM、Baichuan、RWKV、Stable-Diffusion等。这些模型在达到越来越好的效果的同时也需要越来越多的算力资源:全量finetune它们动辄需要几十至上百G显存训练部署,一般的实验室和个人开发者无力承担。
|
2月前
|
自然语言处理 算法 Swift
浪潮信息开源 源2.0 基础大模型,魔搭社区最佳实践教程来啦!
浪潮信息发布源2.0基础大模型,参数量包括1026亿、518亿、21亿三个大模型,从源2.0的论文上可以看到,源2.0不仅在数理逻辑、数学计算、代码生成能力上,再次超强进化,还在算法、数据、算力方面,提出了三项创新。
|
9月前
|
数据可视化 PyTorch 云栖大会
IDEA研究院Ziya2-13B首发魔搭社区(含社区推理微调最佳实践教程)
10月16日,IDEA研究院(粤港澳大湾区数字经济研究院)CCNL封神榜团队开源中文基座模型Ziya2-13B-Base及其对话模型Ziya2-13B-Chat,两款模型均完全免费、可商用,已在魔搭社区首发上架。
|
存储 弹性计算 Cloud Native
魔搭中文开源模型社区:模型即服务-魔搭・平台工程框架介绍(下)
魔搭中文开源模型社区:模型即服务-魔搭・平台工程框架介绍
819 1