AI 助理
备案控制台
开发者社区 ModelScope模型即服务 多模态 正文

请问MNN支持在高通或者MTK平台上部署大模型吗？

我下载了MNN的源码工程，想验证一下从.safetensors转出来的.mnn模型，是否可以在高通平台上利用NPU推理框架，或者MTK平台上利用APU推理框架进行加速推理，但是我不知道有没有直接可以加载模型的demo，有的话要怎么配置或者使用才能利用APU推理，想请假一下大家

展开
收起
游客5wkefycldfcuc 2025-07-31 14:15:48 60 分享 版权
0 条回答
写回答
取消 提交回答
相关问答
千问Qwen3 32B大模型部署需要什么配置的GPU服务器？
364
1
0
千问Qwen3 14B大模型部署最低配置GPU服务器要求？
412
1
0
Qwen3 32B,14B,8B大模型部署分别需要多少显存，GPU服务器如何选？
923
1
0
千问大模型Qwen3-8B、4B、32B、235B、0.6B参数含义，需要什么配置的服务器部署？
260
1
0
部署大模型Qwen3 32B,14B,8B参数的大模型部署分别需要多少显存？
1349
1
0
阿里云部署DeepSeek 70B大模型配置推荐？
112
1
0
怎么使用vllm部署最新的qwen3的mbedding 和reranker模型呢
663
0
0
在GPU服务器上使用魔搭部署deepseek70b大模型时，有一个文件出现校验之类的错误？
122
0
0
modelscope微调后的多模态大模型Qwen-VL和graghrag相结合构建知识库的案例有嘛？
158
0
0
ModelScope中qwen为什么不支持寻常其他大模型都支持的特殊字符？
115
1
0
ModelScope模型即服务

多模态

包含图像描述、文本生成图片、版面分析、多模态表征、视觉问答、文档理解等多个领域

我要提问

相关文章

  • 大模型基本概念介绍
  • JAX快速上手：从NumPy到GPU加速的Python高性能计算库入门教程
  • AMD Ryzen AI Max+ 395四机并联：大语言模型集群推理深度测试
  • AMD Ryzen AI Max+ 395四机并联：大语言模型集群推理深度测试

    • 热门讨论

    热门文章

  • 部署服务（SwingDeploy）免费部署的模型调用失败
  • 图文匹配：Clip模型介绍
  • Modelscope下载Youku-mPLUG出现oss2.exceptions.NoSuchKey
  • 开源AI绘画工具Stable Diffusion代码分析论文介绍-好文转载
  • !pip install open_clip_torch !pip install pytorch-
  • 怎么修改model scope的默认存储位置
  • 【求助】关于使用Qwen2-7B-VL多模型模型识别图片某个元素的坐标的问题
  • 关于qwen2-vl微调最佳实践
  • 请问MNN支持在高通或者MTK平台上部署大模型吗？
  • 这个怎么搭建呢
    • 展开全部
  • MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
  • Mobile-Agent：通过视觉感知实现自动化手机操作，支持多应用跨平台
  • AgentScope：阿里开源多智能体低代码开发平台，支持一键导出源码、多种模型API和本地模型部署
  • GLM-4V-Flash：智谱 AI 免费开放的图像理解大模型 API 接口
  • AnythingLLM：34K Star！一键上传文件轻松打造个人知识库，构建只属于你的AI助手，附详细部署教程
  • Univer：开源全栈 AI 办公工具，支持 Word、Excel、PPT 等文档处理和多人实时协作
  • 阿里开源AI视频生成大模型 Wan2.1：14B性能超越Sora、Luma等模型，一键生成复杂运动视频
  • JAVA接入DeepSeek大模型接口开发---阿里云的百炼模型
  • Trae 接入 Claude 3.7：AI 编程工具界的“卷王”，完全免费使用！
  • 音乐人必看！OpenUtau：开源AI歌声合成神器，快速打造专业级虚拟歌手，中文日文无缝切换
    • 展开全部
    还有其他疑问?
    咨询AI助理