在当今的微服务架构和RESTful API主导的时代，HTTP接口在各个业务模块之间扮演着重要的角色。随着业务规模的不断扩大，接口的访问频率和负载也随之增加。为了确保系统的稳定性和性能，接口限速成了一个重要的话题。
1 接口限速的使用场景
接口限速的使用场景主要涉及以下几种情况：
- 防止API滥用：在某些情况下，如果没有有效的限速机制，恶意用户可能会无限制地调用API，导致系统过载。通过接口限速，我们可以限制每个用户对特定接口的访问频率，从而防止API滥用。
- 保护服务稳定性：在某些情况下，某些高频调用可能会给后端服务带来巨大的压力，影响服务的稳定性和性能。通过接口限速，我们可以限制对这些接口的访问频率，从而保护服务的稳定性。
- 资源合理分配：在一些情况下，我们需要对系统资源进行合理的分配，确保每个用户都能得到公平的资源使用。通过接口限速，我们可以根据用户的请求频率进行资源分配，从而保证公平性。
2 限速不同与限流
接口限速和限流是两个不同的概念，虽然它们都是用来控制流量和保护系统的手段，但它们的目的和实现方式有所不同。
接口限速主要是限制接口的访问速度，避免过快的请求频率对系统造成压力。它关注的是单个接口的访问速率，比如每秒可以访问多少次，而限流则是关注系统的整体流量，限制单位时间内系统的总访问量。
限速通常是通过在接口上设置速率限制来实现的，例如使用令牌桶算法或漏桶算法等。它的主要目的是防止单个接口的过快访问，以保护系统的稳定性和性能。
而限流则是通过一系列机制来限制单位时间内系统的总访问量，以防止系统过载。常见的限流算法包括令牌桶算法、漏桶算法和热点参数等。它的主要目的是保护整个系统，避免因为访问量过大而出现崩溃或性能下降的情况。
在实现方面，限速通常是在应用程序或API网关层面实现的，而限流则可能需要涉及到整个系统的架构和设计。
虽然接口限速和限流的目的和实现方式有所不同，但它们都是为了控制流量和保护系统的稳定性和性能。在实际应用中，我们可以根据实际情况选择合适的限速和限流策略，以实现最佳的流量控制效果。
3 Gin框架接口限速实践
基于limiter插件的GitHub地址：github.com/ulule/limiter
3.1 基本使用
package main import ( "fmt" "log" "net/http" "github.com/gin-gonic/gin" "github.com/redis/go-redis/v9" "github.com/ulule/limiter/v3" mgin "github.com/ulule/limiter/v3/drivers/middleware/gin" sredis "github.com/ulule/limiter/v3/drivers/store/redis" ) func main() { // Define a limit rate to 4 requests per hour. rate, err := limiter.NewRateFromFormatted("4-M") if err != nil { log.Fatal(err) return } // Create a redis client. option, err := redis.ParseURL("redis://localhost:6379/0") if err != nil { log.Fatal(err) return } client := redis.NewClient(option) // Create a store with the redis client. store, err := sredis.NewStoreWithOptions(client, limiter.StoreOptions{ Prefix: "limiter_gin_example", MaxRetry: 3, }) if err != nil { log.Fatal(err) return } // Create a new middleware with the limiter instance. middleware := mgin.NewMiddleware(limiter.New(store, rate)) // Launch a simple server. router := gin.Default() router.ForwardedByClientIP = true router.Use(middleware) router.GET("/", index) log.Fatal(router.Run(":8081")) } func index(c *gin.Context) { c.JSON(http.StatusOK, "This is my gin api...") }
3.2 引入自定义拦截处理器
package main import ( "fmt" "log" "net/http" "github.com/gin-gonic/gin" "github.com/redis/go-redis/v9" "github.com/ulule/limiter/v3" mgin "github.com/ulule/limiter/v3/drivers/middleware/gin" sredis "github.com/ulule/limiter/v3/drivers/store/redis" ) func main() { rate, err := limiter.NewRateFromFormatted("4-M") if err != nil { log.Fatal(err) return } option, err := redis.ParseURL("redis://localhost:6379/0") if err != nil { log.Fatal(err) return } client := redis.NewClient(option) store, err := sredis.NewStoreWithOptions(client, limiter.StoreOptions{ Prefix: "limiter_gin_example", MaxRetry: 3, }) if err != nil { log.Fatal(err) return } //自定义拦截处理器 opt := mgin.WithLimitReachedHandler(ExceededHandler) middleware := mgin.NewMiddleware(limiter.New(store, rate), opt) router := gin.Default() router.ForwardedByClientIP = true router.Use(middleware) router.GET("/", index) log.Fatal(router.Run(":8081")) } func ExceededHandler(c *gin.Context) { c.JSON(200, "This is mu custom ExceededHandler...") } func index(c *gin.Context) { c.JSON(http.StatusOK, "This is my gin api...") }
返回结果：
3.3 不同接口区分速率
我们假设系统有两个接口：
- /fast : 每分钟允许10次访问
- /slow : 每分钟允许1次访问
代码实现：
package main import ( "fmt" "log" "net/http" "github.com/gin-gonic/gin" "github.com/redis/go-redis/v9" "github.com/ulule/limiter/v3" mgin "github.com/ulule/limiter/v3/drivers/middleware/gin" sredis "github.com/ulule/limiter/v3/drivers/store/redis" ) var ( fastTime = 0 slowTime = 0 ) func FastApi(c *gin.Context) { fastTime += 1 c.JSON(200, fmt.Sprintf("This is fast api... %d", fastTime)) } func SlowApi(c *gin.Context) { slowTime += 1 c.JSON(200, fmt.Sprintf("This is slow api... %d", slowTime)) } func main() { fastRate, err := limiter.NewRateFromFormatted("10-M") if err != nil { log.Fatal(err) return } slowRate, err := limiter.NewRateFromFormatted("1-M") if err != nil { log.Fatal(err) return } option, err := redis.ParseURL("redis://localhost:6379/0") if err != nil { log.Fatal(err) return } client := redis.NewClient(option) storeFast, err := sredis.NewStoreWithOptions(client, limiter.StoreOptions{Prefix: "limiter_gin_example_fast", MaxRetry: 3}) if err != nil { log.Fatal(err) return } storeSlow, err := sredis.NewStoreWithOptions(client, limiter.StoreOptions{Prefix: "limiter_gin_example_slow", MaxRetry: 3}) if err != nil { log.Fatal(err) return } //自定义拦截处理器 opt := mgin.WithLimitReachedHandler(ExceededHandler) middlewareFast := mgin.NewMiddleware(limiter.New(storeFast, fastRate), opt) middlewareSlow := mgin.NewMiddleware(limiter.New(storeSlow, slowRate), opt) router := gin.Default() router.ForwardedByClientIP = true router.Use(func(c *gin.Context) { if c.Request.RequestURI == "/fast" { middlewareFast(c) return } if c.Request.RequestURI == "/slow" { middlewareSlow(c) return } }) router.GET("/fast", FastApi) router.GET("/slow", SlowApi) log.Fatal(router.Run(":8081")) } func ExceededHandler(c *gin.Context) { c.JSON(200, "This is mu custom ExceededHandler...") }
4 小总结
接口限速是保护系统稳定性和API的重要手段。在实际应用中，我们需要根据实际情况选择合适的限速方法，实现对接口的全面限速。通过接口限速，我们可以提高系统的稳定性、保护API、提高用户体验等。
