视觉智能平台高清天空分割 Qps 限流,怎么解决?
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
QPS 每秒能处理的请求数,超过这个数值,系统的响应时间就会增大,甚至导致系统奔溃宕机。
在调用API时,阿里云Elasticsearch会限制您的调用频率QPS(Queries Per Second),支持单用户QPS限制和全局QPS限制。超过限制则会被限流,这可能会影响您的业务,请合理调用。
单用户QPS限制是指单个阿里云账号及其下的RAM用户、RAM角色调用API的频率上限。 例如:某API的单用户QPS限制是20次/秒,即允许单个阿里云账号及其下的RAM用户、RAM角色在每秒钟内同时调用该API的最大次数为20次,超过该值就会被限流。
全局QPS限制是指全部阿里云账号及其下RAM用户、RAM角色调用API的频率上限。 例如:某API的全局QPS限制是200次/秒,即允许全部阿里云账号及其下RAM用户、RAM角色在每秒钟内同时调用该API的最大次数为200次,超过该值就会被限流。
Elasticsearch QPS限制 除下表所列的API外,其他所有API的单用户QPS限制为100次/秒,全局QPS限制为100次/秒。
下面是一些解决办法的参考:
服务端每秒流量处理能力是通过QPS衡量的,最大QPS(峰值)就是对服务端抗压能力的衡量指标,如果来自客户端的流量超过了服务端最大QPS,要么服务端发生宕机,要么将超过能力范围内的请求忽略掉,返回限流错误给客户端,两者都造成用户体验的崩塌和品牌受损。
我们需要知道一个QPS的计算方法,有助于我们对系统的QPS有个大概的估计。 假设我们有1亿个请求:(百分之80的请求发生在百分之20的时间中)
示例 1、qps = 1000000000.8/243600*0.2 = 4629 所以如果只有一台机器,那么qps=4629左右, 如果只有一台机器的话,那qps=4629左右。单机最大qps我们可以通过压测来评估。如果我们定义接口在1s之内能响应属于正常情况,那压测的时候,我们逐渐增大模拟的qps,当接口平均响应时间大于1s,那此时的qps就是系统能接受的最大qps。
每天300w PV 的在单台机器上,这台机器需要多少QPS? ( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)。 一般需要达到139QPS,因为是峰值。
如果一台机器的QPS是58,需要几台机器来支持?
139 / 58 = 3
通过错峰、限流、削峰方式,达到降低QPS的目的。通常,一场大促需要这几种方案的结合使用。 参考链接:https://mp.weixin.qq.com/s/diIVe26FhFdqyluKOT1uyQ
您好,使用阿里云视觉智能开放平台服务时,大部分能力都会限制QPS,具体的QPS限制和每个能力的付费方式有关,默认QPS限制不超过2QPS,比如
如果您希望提升QPS限制,对于支持资源包的能力,您可以购买资源包,购买后会在次日早上8点提升QPS限制,一般能够提升到5QPS,
如果您想进一步调整QPS限制,对于支持购买QPS预付费的能力,您可以在线购买QPS预付费,最高可提升到100QPS。
单击资源包下方的购买,或者QPS下方的扩容进行购买
对于无法通过以上方案提升QPS限制的能力,或者上述方案提升后还无法满足您的业务需求,请通过钉钉群(23109592)加入阿里云视觉智能开放平台咨询群联系我们,将有技术人员与您对接QPS提升需求。
如果按量计费2QPS不够,可以购买资源包抵扣,资源包的QPS默认是5.如果5QPS还无法满足需求,可以通过钉钉搜索群号23109592,加入阿里云视觉智能开放平台咨询群联系平台的技术同学申请调整