ModelScope 我调用dashscope的时候是这样设置的，只有CPU,是否有关系？
ModelScope 我调用dashscope的时候是这样设置的，from modelscope_agent.agent import AgentExecutor
from modelscope_agent.llm import LLMFactory
model_name = 'modelscope-agent'
llm = LLMFactory.build_llm(model_name, model_cfg)
agent = AgentExecutor(llm, tool_cfg)
环境是没有GPU，只有CPU,是否有关系？测试这个例子时发现的：modelscope-agent/demo/demo_register_new_tool.ipynb
展开
收起
1
条回答
写回答
写回答
-
建议检查模型是否可以在CPU上运行。如果该模型只针对GPU进行了优化，则可能无法在CPU上运行。在设置LLM（Language Model）和Agent Executor时，其配置文件（model_cfg和tool_cfg）。这两个文件包含了关于模型和工具的信息，包括使用的设备类型（CPU或GPU）。请确认这些信息是否正确，以及它们是否与您的硬件环境匹配。还有一种可能性是您的模型需要大量的计算资源，即使在GPU上也可能无法很好地运行。可能需要考虑降低模型的复杂度，或者寻找其他更适合您的环境的模型。
2023-11-15 09:30:01赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
7241
服务器上onnxruntime-gpu 调用结束，如何释放显存
4604
ModelScope下载速度慢怎么解决？
771
com/action/joingroup?code=v1是什么意思
6048
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
1767
ModelScope 使用14B模型推理时报这个错误？
1521
modelscope cache 环境变量是啥？
2437
我希望通过damo-YOLO训练1500*1500的图片
8100
在ModelScope中，请问模型下载到本地的具体方法？
1240
如何下载modelscope模型？
987
展开全部
