高性能网关基石——OpenResty

简介: OpenResty 一个基于 Nginx 的高性能 Web 平台,能够方便地搭建处理超高并发的动态 Web 应用、Web 服务和动态网关。例如有名的 Kong 网关和国产新秀 ApiSIX 网关都是基于 OpenResty 来进行打造的。OpenResty 通过实现 ngx_lua 和 stream_lua 等 Nginx 模块,把 Lua/LuaJIT 完美地整合进了 Nginx,从而让我们能够在 Nginx 内部里嵌入 Lua 脚本,用 Lua 语言来实现复杂的 HTTP/TCP/UDP 业务逻辑,同时依然保持着高度的并发服务能力。

网络异常,图片无法展示
|

什么是 OpenResty

OpenResty 一个基于 Nginx 的高性能 Web 平台,能够方便地搭建处理超高并发的动态 Web 应用、 Web 服务和动态网关。例如有名的 Kong 网关和国产新秀 ApiSIX 网关都是基于 OpenResty 来进行打造的。

OpenResty 通过实现 ngx_luastream_lua 等 Nginx 模块,把 Lua/LuaJIT 完美地整合进了 Nginx,从而让我们能够在 Nginx 内部里嵌入 Lua 脚本,用 Lua 语言来实现复杂的 HTTP/TCP/UDP 业务逻辑,同时依然保持着高度的并发服务能力。

处理阶段

一个正常的 Web 服务的生命周期可以分成三个阶段:

  1. initing:服务启动,读取配置文件,初始化内部数据结构
  2. running:服务运行,接受客户端的请求,返回响应结果
  3. exiting:服务停止,做一些必要的清理工作,如关闭监听端口

OpenResty 主要关注的是 initingrunning 这两个阶段,并做了更细致的划分

OpenResty 的 initing 阶段

  • configuration:读取配置文件,解析配置指令,设置运行参数
  • master-initing:配置文件解析完毕,master 进程初始化公用的数据
  • worker-initing:worker 进程初始化自己专用的数据

OpenResty 的 running 阶段

在 running 阶段,收到客户端的请求后,OpenResty 对每个请求都会使用下面这条流水线进行处理:

  1. ssl:SSL/TLS 安全通信和验证
  2. preread: 在正式处理之前预读数据,接收 HTTP 请求头
  3. rewrite:检查、改写 URI ,实现跳转重定向
  4. access:访问权限控制
  5. content:产生响应内容
  6. filter:对 content 阶段产生的内容进行过滤加工处理
  7. log: 请求处理完毕,记录日志,或者其他的收尾工作。

网络异常,图片无法展示
|

OpenResty 执行程序

OpenResty 根据上面的处理阶段提供了一些指令,在开发时使用它们就可以在这些阶段里面插入 Lua 代码,执行业务逻辑:

  • init_by_lua_file:master-initing 阶段,初始化全局配置或模块
  • init_worker_by_lua_file:worker-initing 阶段,初始化进程专用功能
  • ssl_certificate_by_lua_file:ssl 阶段,在握手时设置安全证书
  • set_by_lua_file:rewrite 阶段,改写 Nginx 变量
  • rewrite_by_lua_file:rewrite 阶段,改写 URI ,实现跳转或重定向
  • access_by_lua_file:access 阶段,访问控制或限速
  • content_by_lua_file:content 阶段,产生响应内容
  • balancer_by_lua_file:content 阶段,反向代理时选择后端服务器
  • header_filter_by_lua_file:filter 阶段,加工处理响应头
  • body_filter_by_lua_file:filter 阶段,加工处理响应体
  • log_by_lua_file:log 阶段,记录日志或其他的收尾工作

这些指令通常有三种形式:

  • xxx_by_lua:执行字符串形式的 Lua 代码:
  • xxx_by_lua_block:功能相同,但指令后是{ ...}的 Lua 代码块
  • xxx_by_lua_file:功能相同,但执行磁盘上的 Lua 源码文件。 这边推荐使用 xxx_by_lua_file,它彻底分离了配置文件与业务代码,让两者可以独立部署,而且文件形式也让我们更容易以模块的方式管理组织 Lua 程序。

下面是 OpenResty 指令所在的阶段和执行的先后顺序图

网络异常,图片无法展示
|

Demo 编写

为了能够直观的看到上面的处理阶段,接下来编写一个 OpenResty 的 小 demo. 先在本地电脑上安装 OpenResty 然后执行下面命令看看有没有安装成功,如果安装成功了,就会出现版本号

$ sudo openresty -v
nginx version: openresty/1.21.4.1

然后执行下面命令创建一些文件夹:

mkdir testresty && 
cd testresty && 
mkdir logs conf service && 
cd logs && touch error.log && touch access.log

创建完成后,文件目录结构就像下面这样:

├── conf
├── logs
│   ├── access.log
│   └── error.log
└── service

其中, conf 文件夹是存放 nginx.conf 等配置的地方,然后自己编写的 lua 代码文件可以放在 service 文件夹下. 接下来,创建和编写每个阶段所需的 lua 脚本文件, 只在里面编写一条打印日志的代码, 然后放进 service 文件夹下

  • rewrite.lua
ngx.log(ngx.ALERT,"this is rewrite")
  • access.lua
ngx.log(ngx.ALERT,"this is access")
  • content.lua
ngx.log(ngx.ALERT,"this is content")
-- 响应内容
ngx.say('hello world')
  • header_filter.lua
ngx.log(ngx.ALERT,"this is header_filter")
  • body_filter.lua
ngx.log(ngx.ALERT,"this is body_filter")
  • log.lua
ngx.log(ngx.ALERT,"this is log")

编写 nginx.conf 配置文件, 放进 conf 文件夹下

user root;
worker_processes    1;
events {
    worker_connections  512;
}
http {
    server {
        listen  80;
        location / {
            rewrite_by_lua_file service/rewrite.lua;
            access_by_lua_file service/access.lua;
            content_by_lua_file service/content.lua;
            header_filter_by_lua_file service/header_filter.lua;
            body_filter_by_lua_file service/body_filter.lua;
            log_by_lua_file service/log.lua;
        }
    }
}

然后启动 OpenResty, 使用 -p 选项, 传入你上面创建的文件夹地址

$ sudo openresty -p $HOME/testresty

启动完成后, 然后用浏览器访问 http://localhost, 可以看到上面通过 ngx.say('hello world') 的响应内容设置返回的 hello world. 打开 logs/error.log 文件,可以看到 Lua 代码里打印的日志:

2022/12/26 15:59:26 [alert] 31700#0: *119 [lua] rewrite.lua:1: this is rewrite, client: 127.0.0.1, server: , request: "GET / HTTP/1.1", host: "localhost"
2022/12/26 15:59:26 [alert] 31700#0: *119 [lua] access.lua:1: this is access, client: 127.0.0.1, server: , request: "GET / HTTP/1.1", host: "localhost"
2022/12/26 15:59:26 [alert] 31700#0: *119 [lua] content.lua:1: this is content, client: 127.0.0.1, server: , request: "GET / HTTP/1.1", host: "localhost"
2022/12/26 15:59:26 [alert] 31700#0: *119 [lua] header_filter.lua:1: this is header_filter, client: 127.0.0.1, server: , request: "GET / HTTP/1.1", host: "localhost"
2022/12/26 15:59:26 [alert] 31700#0: *119 [lua] body_filter.lua:1: this is body_filter, client: 127.0.0.1, server: , request: "GET / HTTP/1.1", host: "localhost"
2022/12/26 15:59:26 [alert] 31700#0: *119 [lua] body_filter.lua:1: this is body_filter, client: 127.0.0.1, server: , request: "GET / HTTP/1.1", host: "localhost"
2022/12/26 15:59:26 [alert] 31700#0: *119 [lua] log.lua:1: this is log while logging request, client: 127.0.0.1, server: , request: "GET / HTTP/1.1", host: "localhost"

通过日志可以观察到每个阶段的执行顺序是怎样的.

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
数据可视化 应用服务中间件 数据安全/隐私保护
轻量应用服务器部署k3s,并搭建可视化高性能网关 apisix
k3s低资源占用集群,apisix 可视化高性能网关。小白教程
1555 0
|
弹性计算 运维 网络协议
揭秘云网络大会“网红”:阿里云自研高性能网关XGW
XGW是洛神云网络平台的硬件转发层核心,提供了高性能的网络转发能力,负责公网,专线和跨Region流量的汇聚和分发,满足用户大带宽、大单流、稳定性、低延时/低抖动等需求。
5977 0
揭秘云网络大会“网红”:阿里云自研高性能网关XGW
|
19天前
|
监控 Java 应用服务中间件
长连接网关技术专题(九):去哪儿网酒店高性能业务网关技术实践
本文针对去哪儿网酒店业务网关的吞吐率下降、响应时间上升等问题,进行全流程异步化、服务编排方案等措施,进行了高性能网关的技术优化实践。
49 0
|
19天前
|
Dubbo Cloud Native 应用服务中间件
调研 7 个开源项目后,这家数据合规平台如何构建高性能网关
调研 7 个开源项目后,这家数据合规平台如何构建高性能网关
|
人工智能 监控 API
打造未来,API网关成为AIGC访问的基石
最近人工智能爆炸性消息层出不穷,先是百度和微软分别宣布将于近期发布新款类ChatGPT产品,随着相关消息披露,商业化成为业内最为关注的话题。此前OpenAI宣布开放ChatGPT的API接口。这意味着,任何公司和个人都可以在自己的程序中自由调取ChatGPT的相关功能。随着ChatGPT的强大功能不断被验证,近期一批A股上市公司纷纷宣布接入或计划接入ChatGPT等类似系统。随着ChatGPT的API接口正式开放,更多公司的加入将会加速相关模型的商业化落地。
725 0
|
SQL 监控 NoSQL
高性能网关设计实践
高性能网关设计实践
|
缓存 负载均衡 前端开发
阿里终面:如何设计一个高性能网关?
最近在github上看了soul网关的设计,突然就来了兴趣准备自己从零开始写一个高性能的网关。经过两周时间的开发,我的网关ship-gate核心功能基本都已完成,最大的缺陷就是前端功底太差没有管理后台😤。
阿里终面:如何设计一个高性能网关?
|
缓存 边缘计算 JavaScript
边缘计算:让 CDN 成为高性能 GraphQL 网关
我们认为 GraphQL 最适合的场景莫过于作为 BFF(Backend for Frontend)的网关层,即根据客户端的实际需要,将后端的原始 HSF 接口、第三方 RESTful 接口进行整合和封装形成自己的 Service Façade 层。GraphQL 自身的特性由、使得其非常容易与 RESTful、MTOP/MOPEN 等基于 HTTP 的现有网关进行集成,而另一方面,在国外很多文章中都提到 GraphQL 非常适合作为 Serverless/FaaS 的网关层,你甚至只需要唯一一个 HTTP Trigger 就能实现代理所有背后的 API。
边缘计算:让 CDN 成为高性能 GraphQL 网关
|
SQL 监控 NoSQL
高性能网关设计实践
昨天的文章提了一下 OpenResty,一些读者比较感兴趣,刚好我们接入层网关也是用的 OpenResty,所以希望通过对网关设计的介绍来简单总结一下 OpenResty 的相关知识点,争取让大家对 OpenResty 这种高性能 Web 平台有一个比较全面的了解。
1639 0
高性能网关设计实践
|
19天前
|
运维 网络协议 安全
长连接网关技术专题(十):百度基于Go的千万级统一长连接服务架构实践
本文将介绍百度基于golang实现的统一长连接服务,从统一长连接功能实现和性能优化等角度,描述了其在设计、开发和维护过程中面临的问题和挑战,并重点介绍了解决相关问题和挑战的方案和实践经验。
130 1