ModelScope魔搭12月版本发布月报

简介: 为了给开发者提供更便捷的开源模型API访问方式,我们正式启动了 ModelScope API-Inference 的公测。在开源工具链方面,我们进行了ModelScope 1.21.0的新版本发布,提供了llamafile的集成以及模型加载/下载链路的优化,SWIFT 3.0大版本也已经合并主干,在这个基础上新模型的支持会更加顺畅与便利。

本月上新

ModelScope12月的版本更新伴随着冬日的脚步一同到来啦!

ModelScopede站点包括AIGC专区在过去的一个月里持续快速迭代,同时我们对论文板块进行了全面改版升级,并在合集(Collection)功能中引入了对论文元素的支持。

为了给开发者提供更便捷的开源模型API访问方式,我们正式启动了 ModelScope API-Inference 的公测。在开源工具链方面,我们进行了ModelScope 1.21.0的新版本发布,提供了llamafile的集成以及模型加载/下载链路的优化,SWIFT 3.0大版本也已经合并主干,在这个基础上新模型的支持会更加顺畅与便利。

我们期待您的反馈,希望围绕模型的AI分享和开发能够为大家带来更好的使用体验。

· 站点更新

1. ModelScope API Inference功能beta上线

为魔搭上头部的开源大模型提供了API直接调用的方式。当前每个ModelScope用户每天均可享用2000次免费API调用额度,感谢阿里云提供算力支持。API-Inference支持的模型种类和覆盖度正在不断的完善中,请关注相关文档获取最新相关信息:https://www.modelscope.cn/docs/model-service/API-Inference/intro

2. 论文板块升级

论文板块进行了全新改版,引入了“推荐阅读”和“本周热门”等社区推荐内容,帮助您更快发现最具价值的研究成果。同时,论文详情页新增了原文PDF、Github链接等入口……更多的论文板块优化还在路上,我们希望在ModelScope上能为大家提供更全面的论文及其对应开源生态元素(模型,数据集等)的关联。

3. 合集功能迭代

合集功能带来了多项升级,除了支持将论文添加到合集中、自定义主题色等功能。我们还增加了操作历史查看功能,方便您追踪和回顾所有的编辑动作。

4. Notebook分享链路体验优化

分享Notebook在不同状态下,都可以直接在分享页面直接打开啦。

5. 搜索优化

头部交互式搜索入口,支持对组织和个人账号的搜索啦。

6. AIGC专区迭代

快速生图已全面兼容最新的SD3.5模型、模型卡片中新增了对LoRA模型触发词的自动透出,提升使用便捷性。

7. 创空间镜像加速

通过优化镜像加载时间,提升开发者们的AI应用创建体验。

8. 模型训练&部署

接入PAI-Model Gallery,目前在魔搭的模型列表页,可以直接过滤支持PAI ModelGallery部署或者训练的模型:用户可以零代码实现模型从训练到部署再到推理的全过程,为开发者和企业用户带来了更便捷的模型服务体验。

9. 模型页面

新增了文件删除、创建和删除文件夹的可视化按钮,帮助用户更好地组织模型文件结构。同时,也新支持模型版本的删除,方便用户管理不同的模型版本。

10. 交互式创空间

Tool功能发布,支持通过代码或OpenAPI方式为您的应用添加自定义工具。

11. 访问令牌

新增 Git Token重置功能,快速生成新的Git访问令牌,以替代旧的或可能已泄露的令牌。

12.开源SDK与工具链更新

1. SDK 1.21.0发布,镜像(包括Notebook)完成更新,新的版本上提供了如下功能:  a. 模型/数据集下载提供多文件并发加速,并对已下载文件提供hash校验等能力。  b. 对Transformers AutoClass生态提供更完整的支持。 c. 支持通过ModelScope命令行,一键拉起ModelScope上的llamafile格式的大模型:

具体介绍请参考文档:

https://www.modelscope.cn/docs/models/advanced-usage/llamafile

2. EvalScope 0.7.0 版本发布:性能评测(perf)模块全面升级,提供更鲁棒、更易用的perf能力。提供模型性能基准测试(speed-benchmark),并添加多模态基准flickr8k。补充撰写了perf模块以及VLM-Eval对应的文档。

3. SWIFT 3.0全新大版本已合并主干分支,当前正全力收敛相关问题以及文档准备中。敬请等待即将发版的新能力。大家也可以在参考新版本功能的sneakpeek:

https://github.com/modelscope/ms-swift/blob/main/docs/source/Instruction/ReleaseNote3.0.md

4. DiffSynth-Studio提供了对SD3.5全系列模型推理+LoRA支持,并支持了FLUX IP-Adapter。

相关文章
|
6天前
|
存储 运维 安全
云上金融量化策略回测方案与最佳实践
2024年11月29日,阿里云在上海举办金融量化策略回测Workshop,汇聚多位行业专家,围绕量化投资的最佳实践、数据隐私安全、量化策略回测方案等议题进行深入探讨。活动特别设计了动手实践环节,帮助参会者亲身体验阿里云产品功能,涵盖EHPC量化回测和Argo Workflows量化回测两大主题,旨在提升量化投研效率与安全性。
云上金融量化策略回测方案与最佳实践
|
8天前
|
人工智能 自然语言处理 前端开发
从0开始打造一款APP:前端+搭建本机服务,定制暖冬卫衣先到先得
通义灵码携手科技博主@玺哥超carry 打造全网第一个完整的、面向普通人的自然语言编程教程。完全使用 AI,再配合简单易懂的方法,只要你会打字,就能真正做出一个完整的应用。
8344 20
|
12天前
|
Cloud Native Apache 流计算
资料合集|Flink Forward Asia 2024 上海站
Apache Flink 年度技术盛会聚焦“回顾过去,展望未来”,涵盖流式湖仓、流批一体、Data+AI 等八大核心议题,近百家厂商参与,深入探讨前沿技术发展。小松鼠为大家整理了 FFA 2024 演讲 PPT ,可在线阅读和下载。
4494 11
资料合集|Flink Forward Asia 2024 上海站
|
12天前
|
自然语言处理 数据可视化 API
Qwen系列模型+GraphRAG/LightRAG/Kotaemon从0开始构建中医方剂大模型知识图谱问答
本文详细记录了作者在短时间内尝试构建中医药知识图谱的过程,涵盖了GraphRAG、LightRAG和Kotaemon三种图RAG架构的对比与应用。通过实际操作,作者不仅展示了如何利用这些工具构建知识图谱,还指出了每种工具的优势和局限性。尽管初步构建的知识图谱在数据处理、实体识别和关系抽取等方面存在不足,但为后续的优化和改进提供了宝贵的经验和方向。此外,文章强调了知识图谱构建不仅仅是技术问题,还需要深入整合领域知识和满足用户需求,体现了跨学科合作的重要性。
|
20天前
|
人工智能 自动驾驶 大数据
预告 | 阿里云邀您参加2024中国生成式AI大会上海站,马上报名
大会以“智能跃进 创造无限”为主题,设置主会场峰会、分会场研讨会及展览区,聚焦大模型、AI Infra等热点议题。阿里云智算集群产品解决方案负责人丛培岩将出席并发表《高性能智算集群设计思考与实践》主题演讲。观众报名现已开放。
|
8天前
|
人工智能 容器
三句话开发一个刮刮乐小游戏!暖ta一整个冬天!
本文介绍了如何利用千问开发一款情侣刮刮乐小游戏,通过三步简单指令实现从单个功能到整体框架,再到多端优化的过程,旨在为生活增添乐趣,促进情感交流。在线体验地址已提供,鼓励读者动手尝试,探索编程与AI结合的无限可能。
三句话开发一个刮刮乐小游戏!暖ta一整个冬天!
|
1月前
|
存储 人工智能 弹性计算
阿里云弹性计算_加速计算专场精华概览 | 2024云栖大会回顾
2024年9月19-21日,2024云栖大会在杭州云栖小镇举行,阿里云智能集团资深技术专家、异构计算产品技术负责人王超等多位产品、技术专家,共同带来了题为《AI Infra的前沿技术与应用实践》的专场session。本次专场重点介绍了阿里云AI Infra 产品架构与技术能力,及用户如何使用阿里云灵骏产品进行AI大模型开发、训练和应用。围绕当下大模型训练和推理的技术难点,专家们分享了如何在阿里云上实现稳定、高效、经济的大模型训练,并通过多个客户案例展示了云上大模型训练的显著优势。
104585 10
|
8天前
|
消息中间件 人工智能 运维
12月更文特别场——寻找用云高手,分享云&AI实践
我们寻找你,用云高手,欢迎分享你的真知灼见!
672 43
|
5天前
|
弹性计算 运维 监控
阿里云云服务诊断工具:合作伙伴架构师的深度洞察与优化建议
作为阿里云的合作伙伴架构师,我深入体验了其云服务诊断工具,该工具通过实时监控与历史趋势分析,自动化检查并提供详细的诊断报告,极大提升了运维效率和系统稳定性,特别在处理ECS实例资源不可用等问题时表现突出。此外,它支持预防性维护,帮助识别潜在问题,减少业务中断。尽管如此,仍建议增强诊断效能、扩大云产品覆盖范围、提供自定义诊断选项、加强教育与培训资源、集成第三方工具,以进一步提升用户体验。
637 243
|
2天前
|
弹性计算 运维 监控
云服务测评 | 基于云服务诊断全方位监管云产品
本文介绍了阿里云的云服务诊断功能,包括健康状态和诊断两大核心功能。作者通过个人账号体验了该服务,指出其在监控云资源状态和快速排查异常方面的优势,同时也提出了一些改进建议,如增加告警配置入口和扩大诊断范围等。