AI 助理
备案控制台
开发者社区 ModelScope模型即服务 自然语言处理 正文

modelscope-funasr的GPU推理的cpp版本内存和显存不回收的问题怎么解决？

modelscope-funasr的GPU推理的cpp版本内存和显存不回收的问题怎么解决？

展开
收起
三分钟热度的鱼 2024-07-24 20:51:17 69 发布于安徽 分享
分享
 版权
举报
0 条回答
写回答
取消 提交回答
相关问答
我的电脑显卡是MX450 ModelScopechatglm3能跑GPU版本吗？
74
2
0
modelscope-funasr的 docker gpu1.1 容器中启动服务时，报这个是啥问题？
85
1
0
qwen-110b 1.5版本，支持哪些国产GPU上部署？
349
1
0
ModelScope中示例页面的GPU版本和CPU版本。这两个不同版本会影响推理效率吗？
104
1
0
ModelScope没有看见复制，模型选择、cpu/GPU选择有特别要求吗，有详细说明吗？
71
1
0
请问ModelScope如何使用本地的模型文件？
104
1
0
ModelScope中，qwen有没有支持文件上传类的开源模型？
199
2
0
请问以上ModelScope模型有源代码可以看吗？
87
1
0
ModelScope中，有没有处理绿幕视频的模型？
50
0
0
如果输入的文本已知不在ModelScope标注的类别里面，可以按大模型走闲聊模式吗？
41
1
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • 阿里云服务器多少钱一小时？在哪查询1小时价格表？
  • AI 网关代理 LLMs 最佳实践
  • WorldScore：斯坦福开源世界生成模型评估新标杆：3000样本+九维指标，视频/4D/3D模型一网打尽
  • FlashTokenizer: 基于C++的高性能分词引擎，速度可以提升8-15倍
  • 英伟达新一代GPU架构（50系列显卡）PyTorch兼容性解决方案

    • 热门讨论

    热门文章

  • 基于 RoBERTa 的中文 Large 预训练模型为什么文件大小只有几百kb？如何获取完整模型文件
  • modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
  • 在modelscope-funasr中使用cpu运行需要多大内存？
  • 如何下载llama模型到本地？
  • gpt3,加载数据时，MsDataset.load报错
  • damo/nlp_deberta_rex-uninlu_chinese-base 这个模型加载报错
  • modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
  • modelscope-funasr的html客户端的地址如何更改？
  • modelscope-funasr实时设别，mode:2pass 还是online，2个有啥不一样？
  • modelscope-funasr的python websocket怎么实现多用户并发啊？
    • 展开全部
  • Agent TARS：一键让AI托管电脑！字节开源PC端多模态AI助手，无缝集成浏览器与系统操作
  • ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • RuoYi AI：1人搞定AI中台！开源全栈式AI开发平台，快速集成大模型+RAG+支付等模块
  • pdf-craft：PDF秒转Markdown/EPUB！接入DeepSeek轻松生成电子书，自动整理目录、注释和引文
  • ComfyUI-Copilot：阿里把AI助手塞进ComfyUI：一句话生成工作流，自动布线/调参/选模型，小白秒变大神！
  • OmniSQL：开源文本到SQL神器！自然语言秒转查询到复杂多表连接等SQL需求
  • Botgroup.chat：超有趣的开源 AI 聊天室！多个 AI 在线互怼，一键搭建你的专属 AI 社群
  • DeepSite：基于DeepSeek的开源AI前端开发神器，一键生成游戏/网页代码
  • OpenDeepSearch：搜索引擎革命！这个开源深度搜索工具让AI代理直接读懂网页，复杂问题一键拆解
    • 展开全部
    还有其他疑问?
    咨询AI助理