AI 助理
文档备案控制台
开发者社区 ModelScope模型即服务 自然语言处理 正文

modelscope-funasr的GPU推理的cpp版本内存和显存不回收的问题怎么解决？

modelscope-funasr的GPU推理的cpp版本内存和显存不回收的问题怎么解决？

展开
收起
三分钟热度的鱼 2024-07-24 20:51:17 343 分享 版权
0 条回答
写回答
取消 提交回答
相关问答
DeepSeek 70B参数部署需要多少显存的GPU服务器，如何估算？
859
1
0
Qwen3 32B,14B,8B大模型部署分别需要多少显存，GPU服务器如何选？
7309
1
0
ModelScope如何用英特尔显卡进行推理，目前pytorch已经支持，求大神帮帮忙。
346
1
0
modelscope-funasr的热词是只在推理阶段做吗？
362
0
0
modelscope-funasr的GPU离线转写服务的说话人识别模块要怎么配置啊？
470
0
0
modelscope-funasr的 docker gpu1.1 容器中启动服务时，报这个是啥问题？
402
1
0
在modelscope-funasr中推理的输出结果准确率要比直接推理的低，是参数有问题吗？
400
1
0
%vmeff指标在内存回收过程中代表什么，其理想值是多少？
366
1
0
modelscope-funasr怎么设置使得模型可以用CUDA0以外的其他gpu？
34203
1
0
modelscope-funasr服务端部署的话，推荐什么样的GPU？
437
0
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • 【直播切片工作台】第11章：剪辑项目模型 VideoProject
  • 云服务器价格多少钱一年？阿里云轻量应用、ECS、GPU云服务器按小时、按月、按年计费规则、价格表、选型策略与省钱技巧
  • 编码与转义三件套：URL 编码、Base64、HTML 实体的实现与常见坑
  • GPU 利用率低却难定位根因？试试这款零侵入 AI Profiling 工具
  • 【最新最全】CodeBlocks下载安装汉化一篇讲透（2种安装方式）

    • 热门讨论

    热门文章

  • langchain中llms.Tongyi 这个模型具体调用的是哪个通义模型
  • 关于使用ModelScope离线启动已下载过的模型时遇到的问题
  • modelscope-funasr 热词如何设置？
  • 我是一个小白，本机部署adaseq，vscode找不到modelscope的module
  • 范式重置后的自然语言处理，魔搭社区语言模型轻松上手
  • 调用dashscope paraformer的实时语音识别API，识别结果混乱
  • 看了一个ChatGLM-6B的介绍文章，他到底算清华还是算智谱AI的呀？
  • 在modelscope-funasr想自己训练一种low resource 的方言，有训练的方案吗？
  • 如何下载llama模型到本地？
  • modelscope-funasr有说话人分离功能吗？
    • 展开全部
  • [大模型实战 01] 本地大模型初体验：Ollama 部署与 Python 调用指南
  • 使用宝塔面板部署 AstrBot 与 NapCat 实现 QQ 机器人
  • 企业智能体协作治理实践：用 DeepSeek Harness + Haoee 处理版本、权限与资源耦合问题
  • GitHub 推出免费版 GitHub Copilot：提供每月2,000次代码补全和50条聊天消息，支持多种主流大模型
  • Yuxi-Know：开源智能问答系统，基于大模型RAG与知识图谱技术快速构建知识库
  • 自然语言生成代码一键搞定！Codex CLI：OpenAI开源终端AI编程助手，代码重构+测试全自动
  • 测试工程师要失业？Magnitude：开源AI Agent驱动的端到端测试框架，让Web测试更智能，自动完善测试用例！
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • KTransformers：告别天价显卡！国产框架让单卡24G显存跑DeepSeek-R1 671B大模型：推理速度飙升28倍
  • 通古大模型：古籍研究者狂喜！华南理工开源文言文GPT：AI自动断句+写诗翻译，24亿语料喂出来的学术神器
    • 展开全部
    还有其他疑问?
    咨询AI助理