《这!就是街舞》自由视角沉浸式体验黑科技揭秘

简介: 《这!就是街舞》第四季大家看了吗?不知道有没有小伙伴跟笔者一样,“DNA”都要跟着舞动了起来。除了炸裂的舞台,堪比跨次元的真实观影体验,让用户在自由视角视频体验效果下身临其境:

《这!就是街舞》第四季大家看了吗?不知道有没有小伙伴跟笔者一样,“DNA”都要跟着舞动了起来。除了炸裂的舞台,堪比跨次元的真实观影体验,让用户在自由视角视频体验效果下身临其境:

截屏2021-12-02 下午9.24.14.png

是不是觉得很炫酷,so 还不赶快上优酷体验一把!

 

自由视角视频作为优酷内一种新颖的观看模式,给用户带来了全新的观影体验,在对外的众多合作中作为优酷的亮点内容也引起了较高的关注度。然而随着产品声量的不断扩大,当前自由视角在整体的播放体验及投放链路上还有很多诸如,播放不流畅、内容不清晰、设备覆盖较低等问题需要优化解决。

 

基于此,优酷技术团队在上半年对自由视角进行了一次全面的优化升级。接下来的内容,我们将从全面优化升级的整体目标,围绕播放体验及用户规模展开,详解优酷播放器团队的整体优化策略及方案。

 


一、自由视角是什么

截屏2021-12-02 下午9.24.29.png

图1

 

上图1是自由视角视频每帧画面的样式,以下统一叫深度图

自由视角原理:自由视角视频是在原有播放链路的基础上,新增自由视角算法SDK对每帧深度图进行处理,生成指定角度的画面最终展示给用户。


二、客户端架构设计

截屏2021-12-02 下午9.24.38.png


这部分主要会介绍自由视角实现的核心逻辑。中间由两个虚线框隔开的两个模块左边是自由视角在播放器SDK中实现的逻辑,右边是针对自由视角播放体验优化的策略,优化策略在后面会做详细的介绍。

 

播放业务层:

1.   用户核心交互包括角度旋转齿轮(主要生成角度信息供算方侧使用)、自由视角视频用户提示、转场动画;

2.   通过开关控制做到线上功能可随时打开或关闭。

 

播放器中间层:主要包括两部分,一是中间层链路改造支持自由视角,二是下载自由视角视频所需要的算法文件,下载完毕以后将文件路径传给算法层使用;

 

播放器内核层:处理内核与算法层之间的数据交互,然后将算法SDK处理好的纹理数据合成以后直接上屏展示;

 

下载器:负责优酷点播和直播视频文件的下载,不用针对自由视角做特别的改造,主要是使用到了下载器的多分片下载功能提升下载效率;

 

算法:这层主要的职责是基于算法将深度图重建生成指定角度的画面。

 


三、自由视角性能优化方案


1. 方案调研


  • 优化方向首先我们得搞清楚为什么卡顿才能知道如何去优化。经调研,卡顿原因是由于播放器当前数据不足所导致的,播放器需要等待足够的数据以后才能继续播放,所以我们得出结论,提前下载数据、多通道下载、降低视频的码率从这三个方面入手就可以降低卡顿率;
  • 方案尝试:前期我们尝试了预缓存、视频流智能档、内核动态Buffer、多通道下载、自由视角动态降角度、播放器双实例切换降码率、连播预加载、过狂飙模式、视频AV1编码降码率共9种方案。在通过实际可行性调研后,最终确定预缓存、视频流智能档、内核动态Buffer、多通道下载这4种方案;


四、优化实践


技术侧优化

  • 卡顿率优化:

1. 视频流智能档

截屏2021-12-02 下午9.24.48.png


上图是智能效果示意图,智能档是根据智能档算法动态去决定下一个TS分片的码率,从而达到动态降低码率的效果;

截屏2021-12-02 下午9.24.57.png

智能档算法架构图

 

需要着重介绍的有这么几个点:

 

智能档控制器与数据源及其他模块的交互和控制:收集视频元数据和播放状态信息(比如缓冲区时长buffer)、网络信息,分片级别的码率/清晰度选择,清晰度切换控制,还有其它数据源链路上的事件响应和超时控制等;

 

策略引擎框架:支持多种策略实现运行的一个接口/环境/容器,每种算法策略实现根据从播放器内核和网络环境信息等输入,给定一个清晰度选择的输出;

 

数据链路闭环:客户端决策信息埋点上报,云端数据分析处理,优化后的配置更新或模型下发。其中,策略框架及各种清晰度选择的算法策略实现是整个智能档的核心灵魂,策略框架提供了一个平台,目前,优酷的智能档使用 ABTest 的方式支持了从基于各项离散规则到基于强化学习神经网络模型的多种算法策略的实现,这些算法可以根据配置或模型下发动态调整算法参数,互相对比优化,互相补充。

 

2. 内核动态Buffer

通过策略配置平台统一下发指定策略动态设置内核buffer大小,以达到最大限度利用下载资源的目的。

 

3. 多通道下载

截屏2021-12-02 下午9.25.06.png


如上图所示,多通道下载技术通过将每个独立的文件拆分成N个小块进行下载,每个小块对应右图一个下载通道,这样就可以通过多个通道并行下载,提高下载效率以达到降低卡顿的目标。

 

4. 预缓存

1)   实现可缓存播控信息和视频流文件;(如下图1所示)

2)   支持策略动态下发视频预缓存大小;(如下图1所示)

3)   自由视角能力大一统:将自由视角能力的配置统一收到播控后台,去掉客户端自由视角能力配置项,这样避免以后播控后台和客户端配置不一致导致产生不可预测的问题。(如下图2所示)

 

截屏2021-12-02 下午9.25.17.png

图1

截屏2021-12-02 下午9.25.30.png

图2

 

  • 场景覆盖度:

由于自由视角算法SDK支持两种渲染模式,基于DIBR的普通模式,以及关闭DIBR的切相机降级模式。在这个条件的基础上,对于性能不足可以良好支持DIBR的设备,通过降级模式进入自由视角,这在技术和产品角度都是可行的。

截屏2021-12-02 下午9.25.41.png

改造前

截屏2021-12-02 下午9.25.49.png

改造后


五、数据对比 & 效果


播放体感优化效果:

截屏2021-12-02 下午9.26.07.png


优化前

截屏2021-12-02 下午9.26.23.png

优化后

 

业务&技术优化效果:

街舞4自由视角视频(一个月)相较于去年同期街舞3点播总播放量提升近2倍。流畅度提升近70%。

 

场景覆盖收益:

 

1.  并不是所有的低端机型都可以支持自由视角的降级模式,因为场景特殊,算法要求的视频输入源的清晰度需要不低于4K,因此处于【4k解码, 支持DIBR】区间的设备才属于本次优化预期提升的范围;

2.  通过这次新增的降级渲染技术改造,新增覆盖近3成低端机型,最终总覆盖度从原来5成(仅支持中高端机型)提升至近8成;

 


六、总结

为用户提供更优质、更丰富的观影体验一直是我们优酷秉持的目标,也是我们持续不断探索和尝试的动力。如何让用户感受到技术的温度,而不是仅仅看到的是冰冷的字面和数字上的提升,让更优质的体验是用户切身能感受到的,这是我们未来的努力的一个方向。同时我们也在打造直播自由视角,竭尽所能的去探索更多更新的观影方式

相关文章
|
2月前
|
存储 编解码 算法
带货直播这么流畅,原来是这套技术系统在支撑!
大家好,我是小米。今天聊聊社区直播带货的流程。主播通过RTMPS协议将加密直播流发送至POP内的代理服务器,再由代理服务器转发至数据中心的网关服务器,经端口转换后,使用一致性哈希算法分配至编码服务器进行转码和输出,最终通过DASH协议实现流畅直播及持久化存储,确保高效稳定的直播体验。这一流程背后有复杂的技术支撑,希望能帮大家更好地理解直播背后的机制。
41 2
|
7月前
|
传感器 人工智能 5G
【专栏】VR技术,凭借其沉浸式体验,正革新工作、学习和娱乐方式
【4月更文挑战第27天】VR技术,凭借其沉浸式体验,正革新工作、学习和娱乐方式。当前,高分辨率的HMD和5G网络推动VR发展,游戏、教育和医疗等领域已显现应用潜力。然而,用户体验、内容创作与分发仍是挑战。未来,结合AR、AI的创新将提升VR体验,使其在教育、医疗、社交和远程工作等领域发挥更大作用。随着技术进步,VR将更加普及并深刻影响日常生活。
105 5
|
机器学习/深度学习 人工智能
体育赛事转播平台开发搭建,技术扩展瞄准AI解说功能
"随着体育赛事的蓬勃发展,每年都有大量的体育比赛视频呈现给球迷,其中不可能所有视频都能得到人工解说。这正是AI语音解说的大展拳脚之地。
|
缓存 NoSQL 前端开发
浅析开发体育赛事直播系统的设计与实现
东莞梦幻网络科技的“体育赛事直播源码”主要是用于搭建类似于雷速体育和斗球体育等平台,该系统的出现能帮助快速搭建平台和降低开发成本。
|
边缘计算 运维 算法
超越感官,沉浸赛场——大型体育赛事云上实战精选-第六章 CUBA:“自由视角”的畅快赛事-5G+边缘计算+自由视角,让体育赛事更畅快
超越感官,沉浸赛场——大型体育赛事云上实战精选-第六章 CUBA:“自由视角”的畅快赛事-5G+边缘计算+自由视角,让体育赛事更畅快
233 0
|
存储 数据可视化 搜索推荐
《2022中国云游戏行业认知与观察》——第二章、云游戏应用场景与技术实践——2.1 云端游 & 云手游:定义全新业务模式 提升游戏 ROI——2.1.3 应用案例:云游戏技术支持bilibili 游戏创作大赛试玩体验区
《2022中国云游戏行业认知与观察》——第二章、云游戏应用场景与技术实践——2.1 云端游 & 云手游:定义全新业务模式 提升游戏 ROI——2.1.3 应用案例:云游戏技术支持bilibili 游戏创作大赛试玩体验区
240 0
|
资源调度 安全 架构师
沉浸式互动体验升级,虚拟3D走向消费场景——一场手机“冰雪派对”背后的成功经验
第12期云谷创新谈邀请了超次元CEO——陈坚,阿里云无影解决方案架构师——屈立威,通过超次元的发展了解虚拟行业的趋势,一起解密天猫App“3D冰雪派对”背后与阿里云的技术合作,共同探讨元宇宙的技术趋势及互动形态的发展。
280 0
沉浸式互动体验升级,虚拟3D走向消费场景——一场手机“冰雪派对”背后的成功经验