开发者社区 > 百炼大模型 > 正文

阿里云百炼大模型调自己的API返回速度有没有办法解决呢?

阿里云百炼大模型调自己的API返回速度有没有办法解决呢?我现在API是返回数据是非常快的,但是大模型去调用就非常的慢

展开
收起
三分钟热度的鱼 2024-06-12 21:29:32 63 0
1 条回答
写回答
取消 提交回答
  • 模型去调用api也是很快的,只是模型组织语言输出是比较慢的。建议使用流式输出,会看到模型逐渐输出的过程。 lQLPKIN4-mVaPyXNAq_NBGewq99Auj_WRB0GSK7mc_GrAA_1127_687.png
    此回答整理自钉群“阿里云百炼使用体验”

    2024-06-12 22:29:06
    赞同 1 展开评论 打赏

基于通义系列大模型和开源大模型的一站式大模型服务平台,提供「生成式大模型的全流程应用工具」和「企业大模型的全链路训练工具」。为大模型,也为小应用。

相关电子书

更多
CUDA MATH API 立即下载
API PLAYBOOK 立即下载
传统企业的“+互联网”-API服务在京东方的实践 立即下载