文档备案控制台

开发者社区 ModelScope模型即服务自然语言处理正文

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？

展开

收起

三分钟热度的鱼 2024-08-21 19:59:16 410 版权

0 条回答

写回答

取消提交回答

相关问答

您好，我在使用ModelScope的训练服务的时候，总是出现这个异常，请问这是什么问题？

388

0

0

Qwen2.5-14B-Instruct-GPTQ-Int4量化模型是只能在GPU上运行吗？

715

0

0

求助，人工智能平台 PAI-DSW运行模型时，找不到 GPU

363

0

0

modelscope-funasr怎么设置使得模型可以用CUDA0以外的其他gpu？

34172

1

0

modelscope-funasr目前只能用给的两个paraformer模型吗？

327

0

0

modelscope-funasr服务端部署的话，推荐什么样的GPU？

404

0

0

在modelscope-funasr如果使用GPU的话这个编译需要改什么？

792

0

0

modelscope-funasr的GPU调用失败了，是什么原因？

285

0

0

modelscope-funasr的GPU离线转写服务的说话人识别模块要怎么配置啊？

441

0

0

modelscope-funasr的 docker gpu1.1 容器中启动服务时，报这个是啥问题？

366

1

0

ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

RTX 4090显存终极优化：模型分层加载、CPU Offload显存和内存动态置换实践.179

阿里云ECS、GPU、轻量服务器与AI云产品最新解析：配置、价格与性能测评

【新版】阿里云无影云电脑个人版功能介绍及配置价格表

【新版】阿里云云服务器ECS 功能介绍及配置价格表

大模型超长上下文显存控制：原生注意力缺陷、长文本显存暴涨原理与优化实践.180

相关解决方案

更多

一键训练模型及部署GPU共享推理服务

通过私网安全高效访问 AI 模型服务

通义灵码一站式定制专属MCP服务

千问与 LangChain 搭建对话服务

GLM-5.2：长任务时代开源旗舰模型

热门讨论

热门文章

modelscope-funasr 热词如何设置？

modelscope的palm模型，对联生成模型训练的src_text通过什么算法确定？

modelscope-funasr的SenseVoiceLarge模型在哪里啊？

如何将文本向量CoROM模型转为ONNX或TorchScript格式

关于使用ModelScope离线启动已下载过的模型时遇到的问题

本地无法加载模型

modelscope-funasr使用bytes类型数据传入，识别效果很差怎么解决？

请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？

embedding模型部署调用出现接口调用不一致

StructBERT详解

展开全部

使用宝塔面板部署 AstrBot 与 NapCat 实现 QQ 机器人

OpenAI 12天发布会内容全纪录！一文快速回顾获知亮点信息，原文附发布会中文字幕视频

Bamba-9B：基于 Mamba2 架构的仅解码语言模型，旨在提高大型语言模型在推理时的效率

[大模型实战 01] 本地大模型初体验：Ollama 部署与 Python 调用指南

CodeArena：在线 LLM 编程竞技场！用于测试不同开源 LLM 的编程能力，实时更新排行榜

Botgroup.chat：超有趣的开源 AI 聊天室！多个 AI 在线互怼，一键搭建你的专属 AI 社群

智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐

RAG+AI工作流+Agent：LLM框架该如何选择，全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐

告别Hugging Face模型下载难题：掌握高效下载策略，畅享无缝开发体验

Jina Reader：一键将网页内容转为适合 LLM 处理的文本格式，自动抓取和清洗网页内容，支持多种输出格式

展开全部

还有其他疑问?