Bilibili资深运维工程师:DCDN在游戏应用加速中的实践

简介: bilibili资深运维工程师李宁分享《DCDN在游戏应用加速中的实践》从bilibili游戏应用的效果和成本入手,深入浅出地分享DCDN全站加速在游戏加速场景中的应用。

日前,云栖大会新一代CDN的技术突破与应用实践专场中,bilibili资深运维工程师李宁进行了《DCDN在游戏应用加速中的实践》主题分享,从bilibili游戏应用CDN的效果和成本入手,深入浅出地分享DCDN全站加速在游戏加速场景中的应用。

bilibili的业务部署架构及CDN的应用

bilibili一直以来是作为中国Z世代高度聚集的文化社区而被大家熟知,已经成为了国内二次元游戏的主要分发渠道和发行方。在公司不断发展过程中,CDN扮演着不可或缺的角色。

简单的七层应用游戏的部署架构如下图所示,业务的后端以中心化部署的方式完全隐藏在公共云的网络内,出向网络经过NAT转发,业务的入口只通过公网负载均衡进行暴露,静态资源存放在对象存储上,然后从用户动静态的请求全部经过CDN进行转发,这样的方式不仅能进行常规静态资源的缓存加速,也能帮助隐藏源站,并进行相应的DDoS防护。

image.png

李宁介绍到:bilibili对CDN的使用大概分三个阶段,初期业务规模比较小,主要通过基于云内专线自建代理的方式实现区域加速;随着业务规模增加,运维管理问题和安全问题暴露, bilibili基于不同的缓存策略,在商业静态CDN上去实现动静态请求的分发,虽然解决了自建带来的管理和安全问题,但是也带来了新问题,比如静态CDN中间源大量回源过载、静态CDN链路过长,多级代理导致响应耗时增加等等;直到近两年,市场上出现了专门针对动态请求加速的产品,在原有CDN功能丰富度提升的基础上,通过智能路由带来了更好的加速质量提升。

游戏应用运维工作对CDN的核心诉求

在游戏运维的日常工作里经常会遇到以下场景:静态突发流量报备不及时,单一厂商无法全部承接,导致业务进退两难,业务和运维背着炸药包上线;游戏热更中大量的刷新预热需求,带给运维带来繁重的工作;热点游戏海外用户访问质量如何保障;国内小运营商环境中各种劫持与弱网传输;游戏业务突发式增长对弹性伸缩、快速交付的挑战等等。

简单总结,业务对运维的需求就是:

a) 热点资源、导致流量突发运维需要做好保障
b) 保障业务发展过程中快速交付、并且保障易用性
c) 业务的基础网络链路实现跨境优化
d) 要能覆盖国内的小运营商
e) 需要有政企关系,具备推进运营商快速处理问题的能力

基于上述需求综合考虑,bilibili选择使用公共云CDN,而非自建的形式。其业务对云CDN的使用运维有以下诉求:
a) 业务接入的时候控制台要快、简单,接口要完善、可编程,功能丰富、不支持的功能也要支持定制化
b) 产品需要支持自动调度、方便的配置和内容管理,底层要对跨境网络进行优化
c) 针对海量的CDN数据有简化分析的方案,以便数据管理运营
d) 要有丰富的报警指标、在业务报障的时候辅助运维进行决策

image.png

bilibili选择使用阿里云全站加速进行业务分发

为了解决以上问题,bilibili使用阿里云全站加速产品支持游戏应用内容的分发加速。在接入之后,质量有明显的提升,平响耗时降低了32%,首包的耗时降低了18.6%。同时,当异常发生的时候,CDN告警的收敛聚合,可以与源站监控报警进行比对,用于快速的排除故障。

image.png

全站加速是阿里云自主研发的融合了动态加速和静态加速技术的CDN产品,解决了页面动静态资源混杂、跨运营商、网络不稳定、单线源站、突发流量、网络拥塞等诸多因素导致的响应慢、丢包、服务不稳定的问题,提升全站性能和用户体验。对于源站的适配,全站加速产品无需对服务器资源进行调整,会智能的区分动态和静态内容并分别加速,这也是目前比较适合游戏应用的加速方案。

全站加速可以提供传输加速、稳定均衡、HTTPS、基础防护和管控灵活五大价值。

传输加速:一站式静态、动态资源分离,静态资源可以基于遍布全球的边缘节点缓存进行加速,动态资源利用智能路由、传输协议优化、压缩传输、链路复用等技术实现回源加速;
稳定均衡:通过全网节点的负载均衡,以及主备源站、有序回源、源站健康检查等多重策略,确定高并发情况下的业务稳定运行以及加速效果平稳。
HTTPS:国内运营商环境复杂,网站被劫持,站点内容遭篡改,仅使用HTTP协议传输可能会有用户动态内容泄露风险,需要寻求更安全高效的网络链路和内容分发途径,那么阿里云支持全链路HTTPS安全加速,提供多种证书格式,支持keyless方案,满足客户对于安全访问的不同场景需求。
基础防护:在DCDN之上逐渐集成云安全能力,打造边缘安全能力。在更接近攻击源产生的位置,通过覆盖全球各地的DCDN边缘节点进行防劫持、防篡改、防DDoS攻击,减轻源站压力。
管控灵活:基于缓存多源优化,可以控制每个回源量,从而能够对节省源站的带宽,以此保护源站,有序回源这一块,当活动突发的时候,DCDN可以通过有序回源的策略来明确哪些请求优先返还源站,哪些可以通过队列的方式来控制源站的回源量,从而能达到稳定均衡的一个效果。

bilibili实践经验

针对使用CDN的效率以及成本几大问题,bilibili具备以下实践经验:
第一,在交付效率上,bilibili通过gitops加基础设施及代码实现了一套资源编排,CDN也包含其中,研发通过选择CDN的配置模板(比如CDN多线策略,缓存配置模板)生成资源堆栈,再结合流程审批实现分钟级别的资源交付,在交付过程中我们力求让使用者只做选择题,少做问答题,减少反复沟通的成本;当然平台也集成了很多的小工具,比如最高频的刷新预热操作,我们将不同云平台的需求收敛到统一的界面,提供给研发自助进行操作;还有ip归属查询这类小工具,尽量实现研发自助,以减少沟通提升人效。
第二,针对成本的问题,强调可计价,可度量;在CDN成本优化方面,首先要先知道钱花到了哪里,通过云计费api拿到实时数据,进行简单地同比环比,对成本突发进行预警,然后人工干预及时止损;第二是花一样的钱做更多的事,通过业务数据压缩以及开启云厂商的智能压缩功能进行技术优化,同时,提升静态缓存命中率,降低对象存储回源;第三是做一样的事情花更少的钱,就需要更优的计费策略和更优的核算策略。

对未来游戏CDN的思考

李宁表示:我理解的运维工作的主要目标之一就是可控,CDN可控就是实现智能调度,未来会围绕着数据治理进行一些尝试:

a) 通过第三方拨测、客户端数据上报、业务全链路监测,收集到完善的业务数据
b) 在此基础上进行多维度的分析,比如异常情况下,进行多维度的数据关联聚合,减少多个运维监控组件之间切换排查
c) 最终结合少量的人工辅助决策,去实现智能调度

点击了解bilibili使用的全站加速产品详情
点击了解秒懂CDN活动详情,更多CDN产品技术直播,听专家讲解各大场景最佳实践

目录
相关文章
|
12天前
|
机器学习/深度学习 人工智能 运维
企业内训|LLM大模型在服务器和IT网络运维中的应用-某日企IT运维部门
本课程是为某在华日资企业集团的IT运维部门专门定制开发的企业培训课程,本课程旨在深入探讨大型语言模型(LLM)在服务器及IT网络运维中的应用,结合当前技术趋势与行业需求,帮助学员掌握LLM如何为运维工作赋能。通过系统的理论讲解与实践操作,学员将了解LLM的基本知识、模型架构及其在实际运维场景中的应用,如日志分析、故障诊断、网络安全与性能优化等。
35 2
|
19天前
|
运维 Linux Apache
Puppet 作为一款强大的自动化运维工具,被广泛应用于配置管理领域。通过定义资源的状态和关系,Puppet 能够确保系统始终处于期望的配置状态。
Puppet 作为一款强大的自动化运维工具,被广泛应用于配置管理领域。通过定义资源的状态和关系,Puppet 能够确保系统始终处于期望的配置状态。
40 3
|
9天前
|
运维 监控 网络协议
|
1天前
|
机器学习/深度学习 数据采集 运维
智能化运维:机器学习在故障预测和自动化响应中的应用
智能化运维:机器学习在故障预测和自动化响应中的应用
11 4
|
2天前
|
机器学习/深度学习 人工智能 运维
智能运维:AIOps在大型系统运维中的实践与挑战
【10月更文挑战第28天】随着云计算、大数据和人工智能的发展,AIOps(人工智能运维)应运而生,旨在通过算法和机器学习提高运维效率和质量。本文探讨了AIOps在大型系统运维中的实践与挑战,包括数据质量、模型选择和团队协作等方面,并通过一个异常检测案例展示了其应用。尽管面临挑战,AIOps仍有望成为未来运维的重要方向。
20 5
|
3天前
|
运维 Serverless 数据处理
Serverless架构通过提供更快的研发交付速度、降低成本、简化运维、优化资源利用、提供自动扩展能力、支持实时数据处理和快速原型开发等优势,为图像处理等计算密集型应用提供了一个高效、灵活且成本效益高的解决方案。
Serverless架构通过提供更快的研发交付速度、降低成本、简化运维、优化资源利用、提供自动扩展能力、支持实时数据处理和快速原型开发等优势,为图像处理等计算密集型应用提供了一个高效、灵活且成本效益高的解决方案。
18 1
|
9天前
|
运维 应用服务中间件 持续交付
自动化运维的利器:Ansible入门与实践
【10月更文挑战第21天】在现代IT基础设施的管理中,自动化运维已成为提升效率、降低错误率的关键。Ansible,作为一种简单而强大的自动化工具,正被广泛应用于配置管理、应用部署和任务自动化等领域。本文将引导你了解Ansible的基本概念,通过实际案例展示如何利用Ansible简化日常运维工作,并探讨其在现代IT运维中的应用价值。无论你是新手还是有经验的系统管理员,这篇文章都将为你开启Ansible的高效之旅提供指导。
|
15天前
|
运维 自然语言处理 开发者
作为一名运维人员,使用通义灵码个人版处理日常工作中的代码相关任务,极大地提升了我的工作效率。以下是我使用通义灵码的具体实践场景、效果和心得,以及相应的截图。
作为一名运维人员,我使用通义灵码处理日常工作中的代码任务,效率提升了30%。通义灵码帮助我快速理解复杂代码、生成准确的代码注释,并能从自然语言生成代码示例,大幅减少了代码编写和理解的时间。
43 3
|
16天前
|
运维 Prometheus 监控
运维之眼:监控的艺术与实践
在信息技术飞速发展的今天,运维监控已成为保障系统稳定运行的关键。本文将探讨运维监控的重要性,介绍常用的监控工具和方法,并通过实际案例分析,展示如何有效地实施监控策略,以确保系统的高可用性和性能。
|
15天前
|
机器学习/深度学习 数据采集 人工智能
智能化运维:AI在IT运维中的应用探索###
随着信息技术的飞速发展,传统的IT运维模式正面临着前所未有的挑战。本文旨在探讨人工智能(AI)技术如何赋能IT运维,通过智能化手段提升运维效率、降低故障率,并为企业带来更加稳定高效的服务体验。我们将从AI运维的概念入手,深入分析其在故障预测、异常检测、自动化处理等方面的应用实践,以及面临的挑战与未来发展趋势。 ###