魔搭中文开源模型社区:模型即服务-魔搭・平台工程框架介绍(上)

本文涉及的产品
模型训练 PAI-DLC,5000CU*H 3个月
交互式建模 PAI-DSW,每月250计算时 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
简介: 魔搭中文开源模型社区:模型即服务-

作者:陈颖达,魔搭社区架构师

 

一、 ModelScope模型社区简介

 

image.png

 

Model as a service的主旨是让AI爱好者、使用者、开发者、研究者能够零门槛的体验模型,简单快速的使用模型,给予模型定制完整的链路,让模型定制能够在云端部署。

 

image.png

 

ModelScope社区以模型为中心,汇聚了各领域的优质模型。以云原生设计为基础,让模型开箱即用,降低使用者的门槛。

 

image.png

 

ModelScope社区坚持开源开放原则,逻辑部分完全开源,用户可直接对接所有模型或接入代码。与此同时,ModelScope社区完全拥抱各种AI框架、训练模型,方便大家使用。

 

ModelScope社区以开发者为中心,让开发者更好的使用社区和模型。通过各领域的数据集管理,构建模型与数据的双轮驱动。

 

image.png

 

ModelScope社区立志覆盖全频谱的不同使用者,用户可以直接在ModelScope页面,进行模型的试验和使用。

 

对于有一定开发能力的用户,只需要通过一两行代码,就可以直接使用模型。与此同时,ModelScope提供云服务以及免费的计算算力,方便大家应用模型,一键部署上云。

 

image.png

 

如上图所示,是ModelScope社区的技术架构。灰色部分是后端的模型服务,以及数据集服务。社区提供了生产化的版本管理、血缘管理等一系列功能。

 

紫色部分是社区整体开源的模型代码、模型接入、模型交互等服务,主要面向开发者。

 

在网站前端和页面部分,社区打通云上推理服务、云上Notebook等产品,为用户提供直观易用的入口。

 

image.png 

 

ModelScope社区基于云底座,为用户构建了零门槛的线上模型体验服务。通过ModelScope与云上服务的无缝对接,各模态模型用户均可无门槛体验试用。对于模型开发者来说,用户可以在云端享受推理服务,当模型上传,支持自助式部署。

 

相关文章
|
7月前
|
自然语言处理 开发者 异构计算
社区供稿 | Llama3-8B中文版!OpenBuddy发布新一代开源中文跨语言模型
此次发布的是在3天时间内,我们对Llama3-8B模型进行首次中文跨语言训练尝试的结果:OpenBuddy-Llama3-8B-v21.1-8k。
|
7月前
|
数据可视化 物联网 Swift
谷歌发布开源LLM Gemma,魔搭社区评测+最佳实践教程来啦!
Gemma是由Google推出的一系列轻量级、先进的开源模型,他们是基于 Google Gemini 模型的研究和技术而构建。
|
7月前
|
人工智能 自然语言处理 机器人
Jina AI 发布中英和英德双语 8K 向量模型,魔搭社区开源最佳实践!
在 Jina Embeddings 英语向量模型突破百万下载后,今天,Jina AI正式开源了两款双语向量模型:中英双语(Chinese-English)和英德双语(English-German)向量模型,这也是全球首次推出支持 8K 双语文本的开源向量模型。
|
人工智能 监控 Swift
魔搭社区LLM模型部署实践 —— 以ChatGLM3为例
本文将以ChatGLM3-6B为例,介绍在魔搭社区如何部署LLM
|
5月前
|
人工智能 JSON 文字识别
开源VLM新标杆 InternVL 2.0 怎么用?部署、微调尽在魔搭社区!
7月4日下午,世界人工智能大会科学前沿论坛,上海人工智能实验室OpenGVLab发布了InternVL 2.0 版本,中文名书生·万象。
|
5月前
|
数据可视化 物联网 Swift
谷歌开源Gemma2!魔搭社区推理、微调最佳实践教程
Google面向全球研究人员和开发者发布并开源 Gemma 2 大语言模型!本次Gemma 2 系列为轻量级开放模型,提供9B和27B参数两种尺寸,采用全新的架构设计,性能表现优异。
|
机器学习/深度学习 API 开发工具
|
7月前
|
物联网 语音技术 Swift
魔搭社区LLM模型部署实践, 以ChatGLM3为例(二)
魔搭社区LLM模型部署实践, 以ChatGLM3为例(二)
385 0
|
7月前
|
人工智能 监控 Serverless
魔搭社区LLM模型部署实践, 以ChatGLM3为例(一)
魔搭社区LLM模型部署实践, 以ChatGLM3为例(一)
367 0
|
数据可视化 PyTorch 云栖大会
IDEA研究院Ziya2-13B首发魔搭社区(含社区推理微调最佳实践教程)
10月16日,IDEA研究院(粤港澳大湾区数字经济研究院)CCNL封神榜团队开源中文基座模型Ziya2-13B-Base及其对话模型Ziya2-13B-Chat,两款模型均完全免费、可商用,已在魔搭社区首发上架。

热门文章

最新文章