ModelScope中想确定下这个配置是否可以稳定，另外并发量怎么确定？
ModelScope中，是用来企业服务，要求稳定性和并发量，所以想确定下这个配置是否可以稳定，另外并发量怎么确定
展开
收起
1
条回答
写回答
写回答
-
这个可以具体看一下EAS 的文档。也可以了解一下灵积dashscopehttps://help.aliyun.com/zh/dashscope/developer-reference/tongyi-qianwen-7b-14b-metering-and-billing 要服务化也可以参考模型部署与资源的配置参数和组合比较多，您可以根据具体的服务使用场景（比如输入输出长度、请求量、请求方式、目标响应时间等）选择合适的卡型和机器资源，进行一些压测，然后根据业务目标调整服务实例的个数；——此回答整理自钉群：魔搭ModelScope开发者联盟群 ①
2023-11-08 21:29:31赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
3574
com/action/joingroup?code=v1是什么意思
4345
服务器上onnxruntime-gpu 调用结束，如何释放显存
3587
我希望通过damo-YOLO训练1500*1500的图片
7419
ModelScope 使用14B模型推理时报这个错误？
1211
Modelscope把模型指定下载到 e盘的某个文件夹 需要如何设置呀？
1194
ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？
3040
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
1134
在ModelScope中，请问模型下载到本地的具体方法？
834
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
1063
展开全部
AI人像动漫
793
关键点检测从入门到进阶
814
YOLOv10实战：SPPF原创自研 | SPPF_attention，重新设计加入注意力机制 | NEU-DET为案列进行展开
20
Stable Diffusion 介绍与入门
1316
YOLOv10实战：红外小目标实战 | 多头检测器提升小目标检测精度
16
modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量
697
图像分类基础与实战
489
视觉AI技术体系及趋势概述
392
Stable Diffusion使用窍门
436
ModelScope模型使用与EAS部署调用
125
展开全部
