开发者社区 > 百炼大模型 > 正文

阿里云百炼这个输入字数大概9个,输入token计算出来有3101个,怎么回事?

阿里云百炼这个输入字数大概9个,输入token计算出来有3101个,怎么回事?d97d90e751e5aaf1ad6e4ab9fecdc7b3.png

展开
收起
三分钟热度的鱼 2024-05-23 09:15:00 98 0
1 条回答
写回答
取消 提交回答
  • 正常的,检索出来的结果也是 prompt,数量会包含到 tokens。只要使用应用,无论是否开检索增强,都会有额外的prompt模板输入(因为会有大模型thought过程,以及模板拼接),所以实际的模型输入是远大于用户query的。此回答整理自钉群“阿里云百炼使用体验”

    2024-05-23 10:28:00
    赞同 展开评论 打赏
问答地址:

基于通义系列大模型和开源大模型的一站式大模型服务平台,提供「生成式大模型的全流程应用工具」和「企业大模型的全链路训练工具」。为大模型,也为小应用。

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载