StructBERT中文文本相似度-中文-通用-tiny,模型本地推理时如何限制CPU的使用数量

StructBERT中文文本相似度-中文-通用-tiny 模型本地使用from_pretrained和pipeline方法进行推理时,在2C的机器跑了1个核,32C的机器跑了16个核;推测默认使用了50%数量的CPU内核,请问下这个数量可否自己进行配置?要如何配置?

展开
收起
tzjbin 2023-02-27 17:11:55 563 分享 版权
1 条回答
写回答
取消 提交回答
  • 建议使用lscpu查看下物理cpu的数量,如果是32线程,一般只有16个物理cpu,这种情况下跑16个核是最快的。

    2023-03-07 22:26:43
    赞同 展开评论

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理