开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

StructBERT中文文本相似度-中文-通用-tiny,模型本地推理时如何限制CPU的使用数量

StructBERT中文文本相似度-中文-通用-tiny 模型本地使用from_pretrained和pipeline方法进行推理时,在2C的机器跑了1个核,32C的机器跑了16个核;推测默认使用了50%数量的CPU内核,请问下这个数量可否自己进行配置?要如何配置?

展开
收起
tzjbin 2023-02-27 17:11:55 519 0
1 条回答
写回答
取消 提交回答
  • 建议使用lscpu查看下物理cpu的数量,如果是32线程,一般只有16个物理cpu,这种情况下跑16个核是最快的。

    2023-03-07 22:26:43
    赞同 展开评论 打赏

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

相关电子书

更多
RDS SQL Server CPU高使用率性能优化 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载