开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

灵积平台上,用通义千问的开源大模型接口响应非常慢

总共是1500字的prompt,大约需要40s才能响应结束,用的是非流式的响应,感觉太慢了。

展开
收起
钱是骗子 2024-07-03 10:44:09 123 0
1 条回答
写回答
取消 提交回答
  • Java开发

    接口响应很慢的可能性比较多:

    • 本地网络不好;
    • 使用的API是免费的,本身就比较慢。
    2024-07-03 15:59:29
    赞同 4 展开评论 打赏

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载