阿里云百炼这个输入字数大概9个，输入token计算出来有3101个，怎么回事？
阿里云百炼这个输入字数大概9个，输入token计算出来有3101个，怎么回事？
展开
收起
1
条回答
写回答
写回答
-
正常的，检索出来的结果也是 prompt，数量会包含到 tokens。只要使用应用，无论是否开检索增强，都会有额外的prompt模板输入（因为会有大模型thought过程，以及模板拼接），所以实际的模型输入是远大于用户query的。此回答整理自钉群“阿里云百炼使用体验”
2024-05-23 10:28:00赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
热门讨论
热门文章
阿里云百炼的data = json.loads(json_string)是什么意思呀？
703
全天候24小时无所不知AI助手是如何炼成的？
1807
百练数据管理中的导入数据不能选择OSS导入方式吗？如果不能为什么有能选区域，就是没有Bucket？
518
阿里云主力模型直降97%，两百万Tokens进入一元时代，对AI行业有哪些影响？
1115
阿里云百炼应用中Java Api报错
143
在api调用夸克搜索时，遇到权限不足问题
160
通义千问-max不能对知识库的结构化数据进行全量读取和分析吗？
23
百炼控制台-数据中心-数据管理-新增数据表, 发生卡顿
43
通义千问的哪种模型的api支持传输文件？
395
阿里云百炼通义千问MAX 和 通义千问2-开源版-72B token和效果有什么区别？
173
展开全部
