本月上新
ModelScope12月的版本更新伴随着冬日的脚步一同到来啦!
ModelScopede站点包括AIGC专区在过去的一个月里持续快速迭代,同时我们对论文板块进行了全面改版升级,并在合集(Collection)功能中引入了对论文元素的支持。
为了给开发者提供更便捷的开源模型API访问方式,我们正式启动了 ModelScope API-Inference 的公测。在开源工具链方面,我们进行了ModelScope 1.21.0的新版本发布,提供了llamafile的集成以及模型加载/下载链路的优化,SWIFT 3.0大版本也已经合并主干,在这个基础上新模型的支持会更加顺畅与便利。
我们期待您的反馈,希望围绕模型的AI分享和开发能够为大家带来更好的使用体验。
· 站点更新
1. ModelScope API Inference功能beta上线
为魔搭上头部的开源大模型提供了API直接调用的方式。当前每个ModelScope用户每天均可享用2000次免费API调用额度,感谢阿里云提供算力支持。API-Inference支持的模型种类和覆盖度正在不断的完善中,请关注相关文档获取最新相关信息:https://www.modelscope.cn/docs/model-service/API-Inference/intro 。
2. 论文板块升级
论文板块进行了全新改版,引入了“推荐阅读”和“本周热门”等社区推荐内容,帮助您更快发现最具价值的研究成果。同时,论文详情页新增了原文PDF、Github链接等入口……更多的论文板块优化还在路上,我们希望在ModelScope上能为大家提供更全面的论文及其对应开源生态元素(模型,数据集等)的关联。
3. 合集功能迭代
合集功能带来了多项升级,除了支持将论文添加到合集中、自定义主题色等功能。我们还增加了操作历史查看功能,方便您追踪和回顾所有的编辑动作。
4. Notebook分享链路体验优化
分享Notebook在不同状态下,都可以直接在分享页面直接打开啦。
5. 搜索优化
头部交互式搜索入口,支持对组织和个人账号的搜索啦。
6. AIGC专区迭代
快速生图已全面兼容最新的SD3.5模型、模型卡片中新增了对LoRA模型触发词的自动透出,提升使用便捷性。
7. 创空间镜像加速
通过优化镜像加载时间,提升开发者们的AI应用创建体验。
8. 模型训练&部署
接入PAI-Model Gallery,目前在魔搭的模型列表页,可以直接过滤支持PAI ModelGallery部署或者训练的模型:用户可以零代码实现模型从训练到部署再到推理的全过程,为开发者和企业用户带来了更便捷的模型服务体验。
9. 模型页面
新增了文件删除、创建和删除文件夹的可视化按钮,帮助用户更好地组织模型文件结构。同时,也新支持模型版本的删除,方便用户管理不同的模型版本。
10. 交互式创空间
Tool功能发布,支持通过代码或OpenAPI方式为您的应用添加自定义工具。
11. 访问令牌
新增 Git Token重置功能,快速生成新的Git访问令牌,以替代旧的或可能已泄露的令牌。
12.开源SDK与工具链更新
1. SDK 1.21.0发布,镜像(包括Notebook)完成更新,新的版本上提供了如下功能: a. 模型/数据集下载提供多文件并发加速,并对已下载文件提供hash校验等能力。 b. 对Transformers AutoClass生态提供更完整的支持。 c. 支持通过ModelScope命令行,一键拉起ModelScope上的llamafile格式的大模型:
具体介绍请参考文档:
https://www.modelscope.cn/docs/models/advanced-usage/llamafile
2. EvalScope 0.7.0 版本发布:性能评测(perf)模块全面升级,提供更鲁棒、更易用的perf能力。提供模型性能基准测试(speed-benchmark),并添加多模态基准flickr8k。补充撰写了perf模块以及VLM-Eval对应的文档。
3. SWIFT 3.0全新大版本已合并主干分支,当前正全力收敛相关问题以及文档准备中。敬请等待即将发版的新能力。大家也可以在参考新版本功能的sneakpeek:
https://github.com/modelscope/ms-swift/blob/main/docs/source/Instruction/ReleaseNote3.0.md
4. DiffSynth-Studio提供了对SD3.5全系列模型推理+LoRA支持,并支持了FLUX IP-Adapter。