构建高性能的弹幕应用 - 小项目也能做性能提升

本文涉及的产品
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
简介:

直播是云栖社区的主要模块之一,弹幕服务是在直播频道上线之后,为了更多的互动,提出的。

我主要做了下面的一些迭代:

  • 使用 netty 构建弹幕应用
  • 授权服务与弹幕服务的分离
  • 专题页本地缓存
  • 使用 nginx lua 为 web 应用加速
  • 实时监控在线人数

使用 netty 构建弹幕应用

抽离出来的小demo https://github.com/zhoumengkang/netty-websocket

├── WebSocketServer.java                启动服务器端口监听
├── WebSocketServerInitializer.java     初始化服务
├── WebSocketServerHandler.java         接管WebSocket数据连接
├── dto
│   └── Response.java                   返回给客户端数据对象
├── entity
│   └── Client.java                     每个连接到WebSocket服务的客户端对象
└── service
    ├── MessageService.java             完成发送消息
    └── RequestService.java             WebSocket初始化连接握手时的数据处理

客户端授权与弹幕服务的分离

客户端请求 web 服务器 api 获取弹幕服务请求的完整地址

https://yq.aliyun.com/yqapi/webinar/barrage/url?id={id}

然后返回类似于

wss://barrage.aliyun.com/websocket/?rid={id}&code=xxxxx

然后客户端使用返回的websocket地址发起请求即可。
因为在获取code的过程中,需要读取集团 cookie,和账号中心交互验证用户身份合法性。获取用户的基本信息

{
  uid: xxx,
  name: xxx,
  level: xxx,
  isAdmin: xxx
}

然后和时间戳对称加密运算得到最终的code,这样弹幕服务器只需要验证解密code验证数据的合法性,就可以使用客户端传递过来的用户信息了,免去了弹幕服务身份认证,获取用户信息等操作的网络I/O。

专题页本地缓存

很多直播页面都是静态的专题页面,我们原来的做法是在tms里面运营编辑好了,我们再抓取过来缓存在redis里面,然后最后通过后端框架呈现。这样还是有一次web服务器到远程的集中式的redis缓存的网络I/O。

做了以下的修改,在nginx配置单文件来操作

rewrite ^/promotion/(.*)$  /promotion.php last;

promotion.php 需要做两个个工作

  • 判断客户端是移动端还是PC端,然后读取不一样的数据
  • 本地缓存文件不存在则从远程redis里读取,然后缓存到本地

同时后台在抓取页面到redis时的同时,我会推送缓存到各个web服务器的指定目录

#!/bin/bash
# 更新同步 html 静态缓存到各个服务器

servers=(xxx.xxx.xxx.200 xxx.xxx.xxx.201 xxx.xxx.xxx.202 xxx.xxx.xxx.203)
for server in ${servers[@]};do
    cd /path/to/cache/output/
    rsync -aR promotion/pc/$1.html username@$server:/path/to/cache/output/
    rsync -aR promotion/mobile/$1.html username@$server:/path/to/cache/output/
done

还需要验证文件发布是否成功,对比最终的md5

使用 nginx lua 为 web 应用加速

有了上面的缓存文件的推送之后,我想缓存的读取直接在nginx 里进行。需求也就是:
pc、mobile 一个地址有两套页面,需要在后端根据浏览器的 user_agent 来显示不同的页面。

具体参考:https://mengkang.net/998.html

我在我们自己私人的web服务器上做了性能测试的对比,性能提升了近1倍,稳定性也挺高了很多。

实时监控在线人数

我们自己使用Grafana+telegraf+InfluxDb搭建了一个简单的监控系统,然后我编写了一个脚本来每秒监控统计端口ip

压测

websocket 压测

脚本 https://github.com/zhoumengkang/netty-websocket/blob/master/benchmark.py

并测试为N个客户端,每个客户端发送10条消息,服务器配置2核4G内存,广播给所有的客户端,我们测试1000个并发的时候,负载在后期陡升。
实际情况下,不可能那么多人同时说话广播,而是说话的人少,接受广播的人多。

实际线上之后,在不限制刷帖频率大家狂轰滥炸的情况下,1500多人在线,半小时,负载一直都处于0.5以下。

web 服务的压测

ab -n 8000 -c 800 http://mengkang.net/promotion/1
Complete requests:      8000
Failed requests:        0
Requests per second:    7046.66 [#/sec](mean)
Time per request:       113.529 [ms](mean

ab -n 10000 -c 1000 http://mengkang.net/promotion/1
Complete requests:      10000
Failed requests:        0
Requests per second:    5670.38 [#/sec](mean)
Time per request:       176.355 [ms](mean)
相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
13天前
|
存储 缓存 前端开发
《构建高性能的前端应用:优化技巧与最佳实践》
本文探讨了构建高性能前端应用的关键技巧与最佳实践。从代码优化、资源压缩到网络请求管理,提供了一系列有效的解决方案,旨在帮助开发者提升前端应用的性能和用户体验。
|
1月前
|
移动开发 监控 前端开发
构建高效Android应用:从内存优化到性能提升
【4月更文挑战第11天】在移动开发领域,一个流畅、高效的应用与用户体验息息相关。尤其对于安卓平台,设备的多样性和碎片化为开发者带来了额外的挑战。本文将探讨一系列针对Android应用的优化策略,从内存管理的最佳实践到布局优化,以及如何利用最新的Android框架特性来提升应用性能。我们将深入了解如何诊断性能瓶颈,并采用切实可行的技术手段进行调优,旨在帮助开发者构建出更加健壮、快速且响应灵敏的应用。
10 0
|
1月前
|
移动开发 Java Android开发
构建高效的Android应用:从内存优化到性能提升
【4月更文挑战第7天】 在移动开发领域,尤其是针对资源受限的Android设备,应用的性能和稳定性是决定用户满意度的关键因素。本文深入探讨了Android应用开发中如何通过内存优化、多线程处理以及电池使用效率的提升来增强应用的整体性能。我们将透过具体案例分析和最佳实践的分享,指导开发者避免常见的性能陷阱,打造更流畅、响应更快的Android应用。
|
2月前
|
监控 NoSQL 测试技术
构建高性能后端服务的关键因素与最佳实践
本文将介绍构建高性能后端服务的关键因素和最佳实践,包括服务器选型、数据库设计、代码优化等方面,帮助开发人员在后端开发中提升性能并满足高并发需求。
132 15
|
4月前
|
SQL 架构师 大数据
提升企业级数据处理效率!3.0 系列版本的四个集群优化点详解
为了帮助企业更好地进行大数据处理,我们在此前 TDengine 3.x 系列版本中进行了几项与集群相关的优化和新功能开发,本文将对这几项重要优化进行详细阐述。
47 0
|
6月前
|
算法 数据库 异构计算
Milvus 2.3.功能全面升级,核心组件再升级,超低延迟、高准确度、MMap一触开启数据处理量翻倍、支持GPU使用!
Milvus 2.3.功能全面升级,核心组件再升级,超低延迟、高准确度、MMap一触开启数据处理量翻倍、支持GPU使用!
Milvus 2.3.功能全面升级,核心组件再升级,超低延迟、高准确度、MMap一触开启数据处理量翻倍、支持GPU使用!
|
8月前
|
关系型数据库 分布式数据库 数据库
高性能特性体验:ePQ 的详解与实战
PolarDB PostgreSQL 引擎提供了弹性跨机并行查询(elastic Parallel Execution)的功能,支持多个计算节点分布式地执行 SQL 查询。本实验将体验该功能。
905 0
|
8月前
|
监控 负载均衡 测试技术
扩展性:构建无限可能的高性能系统
扩展性:构建无限可能的高性能系统
|
边缘计算 缓存 Kubernetes
OpenYurt v1.2 亮点速览丨云边流量峰值相比原生 K8s 降低 90%
北京时间 1 月 30 号发布的 OpenYurt v1.2.0 版本,社区呼声最高的几大特性终于落地,OpenYurt 的特点更加鲜明,主要特点包括:Kubernetes 无侵入,云边端全协同,可编程的资源访问控制,以及声明式云原生设备管理。
OpenYurt v1.2 亮点速览丨云边流量峰值相比原生 K8s 降低 90%
|
存储 缓存 编解码
高性能图片优化方案
高性能图片优化方案
332 0