开发者社区 > 百炼大模型 > 正文

阿里云百炼有没有这样的优化计划?

阿里云百炼有没有这样的优化计划?调用API的时候直接传递prompt模版id和相应变量,接口直接返回大模型生成的内容。目前只支持调用模版接口返回替换变量后的内容,然后得再调用一次大模型API获取内容。这样一个是慢,一个是会导致用户消耗更多token

展开
收起
三分钟热度的鱼 2024-05-05 20:40:30 50 0
1 条回答
写回答
取消 提交回答
  • 技术人员正在评估中。此回答整理自钉群“阿里云百炼使用体验”

    2024-05-05 21:13:29
    赞同 1 展开评论 打赏
问答分类:
API
问答地址:

基于通义系列大模型和开源大模型的一站式大模型服务平台,提供「生成式大模型的全流程应用工具」和「企业大模型的全链路训练工具」。为大模型,也为小应用。

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载