函数计算，那个千问的API调用要是连续对话，如果一直对话历史消息会很长的，而且历史消息是要计费tok
函数计算，那个千问的API调用要是连续对话，如果一直对话历史消息会很长的，而且历史消息是要计费token的，这个有什么解决办法吗？
展开
收起
2
条回答
写回答
写回答
-
北京阿里云ACE会长
我已经认真阅读了 你的问题：
【 函数计算，那个千问的API调用要是连续对话，如果一直对话历史消息会很长的，而且历史消息是要计费tok
函数计算，那个千问的API调用要是连续对话，如果一直对话历史消息会很长的，而且历史消息是要计费token的，这个有什么解决办法吗？ 】并思考了
建议如下:
在函数计算中，如果你使用千问（Thousand Questions）API 进行连续对话，确实可能会导致历史消息变得很长，从而增加控件令牌的数量。为了解决这个问题，你可以尝试以下方法：
1 . 优化对话逻辑：避免在连续对话中涉及过多无关紧要的问题，尽量减少对话的长度。 2. 使用会话管理：可以将对话过程中的信息存储
在一个会话中，这样可以避免在每次调用时都提交大量历史消息。会话管理可以帮助您实现对话状态的持久化，从而减少历史消息的长度。 3.定期清除历史消息：在保证对话流畅性的前提下，可以定期清除一些不重要的历史
消息这样可以避免历史消息过长，降低计费令牌的数量。- 使用缓存：将对话过程中的数据进行缓存，以减少重复调用 API 的次数。这样可以降低计费令牌的数量。 5.
按需购买代币：根据实际需求购买相应数量的代币，苏格兰因为历史消息过长而导致代币不足的问题。
2023-08-26 16:58:17赞同 展开评论 打赏 - 使用缓存：将对话过程中的数据进行缓存，以减少重复调用 API 的次数。这样可以降低计费令牌的数量。 5.
-
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
热门讨论
热门文章
请问主域名备案了，子域名还要备案吗？
8054
sd界面里为啥没有lora模块选项呀？
79894
在终端怎么升级python？
6684
按照函数计算FC的comfyUI部署的，comfyUI界面上没有显示Manager 按钮，是为什么？
1580
sd从网址安装插件报错：AssertionError: extension access disab
13078
哪位大佬知道stable diffusion生成的图片存在哪个文件夹?
11429
函数计算FC提示网页可能暂时无法连接，或者它已永久性地移动到了新网址是什么意思？
954
求助下大家，sd云端跑的时候报这个错误
15709
帮忙指点一下这个问题，谢谢 加了证书，也是用https 请求的，本地环境正常，部署在函数计算
1076
GPU实例中T4和A10两款性能差别多大？另外如何在s.yaml中指定GPU型号呢？
8044
展开全部
开发函数计算的正确姿势 —— 移植 next.js 服务端渲染框架
36005
首次揭秘：阿里巴巴中间件在 Serverless 技术领域的探索
21763
玩转阿里云函数计算(一)----Java Http 触发器极速迁移传统 Spring 应用
22688
php runtime 中 headers already sent 问题解决方案
18479
玩转阿里云Serverless Kubernetes新功能
18185
基于阿里云Serverless架构下函数计算的最新应用场景详解（一）
15778
Installing a Dependency Library for Function Compute
14285
Serverless Kubernetes 快速入门指南
14004
轻松搭建基于 SpringBoot + Vue 的 Web 商城应用
14027
Aliyun Serverless VSCode Extension v1.7.0 发布
10912
展开全部
