开发者社区 > 百炼大模型 > 正文

阿里云百炼有没有这样的优化计划?

阿里云百炼有没有这样的优化计划?调用API的时候直接传递prompt模版id和相应变量,接口直接返回大模型生成的内容。目前只支持调用模版接口返回替换变量后的内容,然后得再调用一次大模型API获取内容。这样一个是慢,一个是会导致用户消耗更多token

展开
收起
三分钟热度的鱼 2024-05-05 20:40:30 24 0
1 条回答
写回答
取消 提交回答
  • 收到,我这边反馈产品评估。此回答整理自钉群“阿里云百炼使用体验”

    2024-05-05 21:13:29
    赞同 1 展开评论 打赏
问答分类:
API
问答标签:
问答地址:

基于通义系列大模型和开源大模型的一站式大模型服务平台,提供「生成式大模型的全流程应用工具」和「企业大模型的全链路训练工具」。为大模型,也为小应用。

热门讨论

热门文章

相关电子书

更多
阿里云云原生 Serverless 技术实践营 PPT 演讲 立即下载
阿里云产品十月刊 立即下载
基于阿里云构建博学谷平台实时湖仓 立即下载