ModelScope魔搭创空间里那些大模型的审核服务是怎么加到 gradio 里的呀 有文档之类的吗 我看像 qwen vl 之类的创空间里都有 感觉好方便 自己用 huggingface gradio 部署就没有 要加就很烦?
为了将大模型的审核服务添加到 Gradio 中,您可以参考以下步骤:
ModelScope是阿里巴巴推出的一个模型开放平台,提供了大量机器学习和深度学习模型的API接口,方便您快速构建应用。
您可以在 ModelScope 中找到您需要的模型,并使用它们的API接口进行调用,无需自行部署。ModelScope还提供了一些API接口的演示,例如 Qwen 和 VL,这些模型可以直接在网页中调用,而无需部署模型。
如果您想要在自己的Gradio中部署模型,请参阅Gradio官方文档。该文档包含了许多有用的信息,包括如何添加模型和服务的详细指南,例如:
from gradio import examples
model = examples.load("example")
gradio_model = examples.model(model)
这段代码可以从Gradio示例中加载模型,从而方便您使用自己的模型。
ModelScope魔搭创空间是基于Gradio构建的交互式应用,它提供了更加灵活的AI应用展示空间。在这里,用户基于ModelScope平台上模型提供的原子能力,可以自行搭建与展示不同的AI应用,包括自定义的模型输入输出、多模型的组合以及可视化交互展现形式等。
对于审核服务的添加,您可以使用Gradio、Streamlit、Static SDK等方式快速创建创空间,并向大家分享您的创意。例如,小明可以通过魔搭平台提供的示例代码调用已部署好的模型。在魔搭示例代码中,API_URL中的HTTP URL就是函数计算为每个魔搭模型函数配置的HTTP触发器。用户可以通过FC控制台找到对应的魔搭服务下的model_app_func函数,通过查看函数详情页的“触发器管理”来获取相关信息。
首先,ModelScope 社区非常欢迎所有人参与,社区重视每个人的贡献。欢迎大家贡献模型,数据集,同时也欢迎大家回答问题,改进文档。
无论您选择何种方式,都希望您可以注意和尊重我们的开源行为准则。
下面是一些贡献模型前的准备工作。
第一步,
你需要选择作为社区个人贡献者还是组织贡献者,
如果您选择作为个人贡献者,在 ModelScope 注册账号后,即可贡献模型。
如果您选择作为组织贡献者,那如果您的组织尚未创建,请联系contact@modelscope.cn,由 ModelScope 社区官方帮您创建组织,并将您的账号加为组织成员。如果您的组织已经创建,建议联系组织管理员将您加为组织成员。
第二步,
您可以根据您要贡献的模型类别和特点,选择具体模型接入的方式。
介绍如何快速上手,包括名词解释,环境安装,代码示例,模型调优等常见问题
https://modelscope.cn/docs/%E9%A6%96%E9%A1%B5
要在ModelScope魔搭创空间里将大模型的审核服务添加到gradio中,您需要按照以下步骤操作:
b. 点击“添加服务”按钮。
c. 在“服务名称”字段中输入您在大模型部署过程中创建的服务名称。
d. 单击“添加”按钮。
您看一下这里的创空间卡片https://modelscope.cn/docs/%E5%88%9B%E7%A9%BA%E9%97%B4%E5%8D%A1%E7%89%87,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”