《这!就是街舞》自由视角沉浸式体验黑科技揭秘

简介: 《这!就是街舞》第四季大家看了吗?不知道有没有小伙伴跟笔者一样,“DNA”都要跟着舞动了起来。除了炸裂的舞台,堪比跨次元的真实观影体验,让用户在自由视角视频体验效果下身临其境:

《这!就是街舞》第四季大家看了吗?不知道有没有小伙伴跟笔者一样,“DNA”都要跟着舞动了起来。除了炸裂的舞台,堪比跨次元的真实观影体验,让用户在自由视角视频体验效果下身临其境:

截屏2021-12-02 下午9.24.14.png

是不是觉得很炫酷,so 还不赶快上优酷体验一把!

 

自由视角视频作为优酷内一种新颖的观看模式,给用户带来了全新的观影体验,在对外的众多合作中作为优酷的亮点内容也引起了较高的关注度。然而随着产品声量的不断扩大,当前自由视角在整体的播放体验及投放链路上还有很多诸如,播放不流畅、内容不清晰、设备覆盖较低等问题需要优化解决。

 

基于此,优酷技术团队在上半年对自由视角进行了一次全面的优化升级。接下来的内容,我们将从全面优化升级的整体目标,围绕播放体验及用户规模展开,详解优酷播放器团队的整体优化策略及方案。

 


一、自由视角是什么

截屏2021-12-02 下午9.24.29.png

图1

 

上图1是自由视角视频每帧画面的样式,以下统一叫深度图

自由视角原理:自由视角视频是在原有播放链路的基础上,新增自由视角算法SDK对每帧深度图进行处理,生成指定角度的画面最终展示给用户。


二、客户端架构设计

截屏2021-12-02 下午9.24.38.png


这部分主要会介绍自由视角实现的核心逻辑。中间由两个虚线框隔开的两个模块左边是自由视角在播放器SDK中实现的逻辑,右边是针对自由视角播放体验优化的策略,优化策略在后面会做详细的介绍。

 

播放业务层:

1.   用户核心交互包括角度旋转齿轮(主要生成角度信息供算方侧使用)、自由视角视频用户提示、转场动画;

2.   通过开关控制做到线上功能可随时打开或关闭。

 

播放器中间层:主要包括两部分,一是中间层链路改造支持自由视角,二是下载自由视角视频所需要的算法文件,下载完毕以后将文件路径传给算法层使用;

 

播放器内核层:处理内核与算法层之间的数据交互,然后将算法SDK处理好的纹理数据合成以后直接上屏展示;

 

下载器:负责优酷点播和直播视频文件的下载,不用针对自由视角做特别的改造,主要是使用到了下载器的多分片下载功能提升下载效率;

 

算法:这层主要的职责是基于算法将深度图重建生成指定角度的画面。

 


三、自由视角性能优化方案


1. 方案调研


  • 优化方向首先我们得搞清楚为什么卡顿才能知道如何去优化。经调研,卡顿原因是由于播放器当前数据不足所导致的,播放器需要等待足够的数据以后才能继续播放,所以我们得出结论,提前下载数据、多通道下载、降低视频的码率从这三个方面入手就可以降低卡顿率;
  • 方案尝试:前期我们尝试了预缓存、视频流智能档、内核动态Buffer、多通道下载、自由视角动态降角度、播放器双实例切换降码率、连播预加载、过狂飙模式、视频AV1编码降码率共9种方案。在通过实际可行性调研后,最终确定预缓存、视频流智能档、内核动态Buffer、多通道下载这4种方案;


四、优化实践


技术侧优化

  • 卡顿率优化:

1. 视频流智能档

截屏2021-12-02 下午9.24.48.png


上图是智能效果示意图,智能档是根据智能档算法动态去决定下一个TS分片的码率,从而达到动态降低码率的效果;

截屏2021-12-02 下午9.24.57.png

智能档算法架构图

 

需要着重介绍的有这么几个点:

 

智能档控制器与数据源及其他模块的交互和控制:收集视频元数据和播放状态信息(比如缓冲区时长buffer)、网络信息,分片级别的码率/清晰度选择,清晰度切换控制,还有其它数据源链路上的事件响应和超时控制等;

 

策略引擎框架:支持多种策略实现运行的一个接口/环境/容器,每种算法策略实现根据从播放器内核和网络环境信息等输入,给定一个清晰度选择的输出;

 

数据链路闭环:客户端决策信息埋点上报,云端数据分析处理,优化后的配置更新或模型下发。其中,策略框架及各种清晰度选择的算法策略实现是整个智能档的核心灵魂,策略框架提供了一个平台,目前,优酷的智能档使用 ABTest 的方式支持了从基于各项离散规则到基于强化学习神经网络模型的多种算法策略的实现,这些算法可以根据配置或模型下发动态调整算法参数,互相对比优化,互相补充。

 

2. 内核动态Buffer

通过策略配置平台统一下发指定策略动态设置内核buffer大小,以达到最大限度利用下载资源的目的。

 

3. 多通道下载

截屏2021-12-02 下午9.25.06.png


如上图所示,多通道下载技术通过将每个独立的文件拆分成N个小块进行下载,每个小块对应右图一个下载通道,这样就可以通过多个通道并行下载,提高下载效率以达到降低卡顿的目标。

 

4. 预缓存

1)   实现可缓存播控信息和视频流文件;(如下图1所示)

2)   支持策略动态下发视频预缓存大小;(如下图1所示)

3)   自由视角能力大一统:将自由视角能力的配置统一收到播控后台,去掉客户端自由视角能力配置项,这样避免以后播控后台和客户端配置不一致导致产生不可预测的问题。(如下图2所示)

 

截屏2021-12-02 下午9.25.17.png

图1

截屏2021-12-02 下午9.25.30.png

图2

 

  • 场景覆盖度:

由于自由视角算法SDK支持两种渲染模式,基于DIBR的普通模式,以及关闭DIBR的切相机降级模式。在这个条件的基础上,对于性能不足可以良好支持DIBR的设备,通过降级模式进入自由视角,这在技术和产品角度都是可行的。

截屏2021-12-02 下午9.25.41.png

改造前

截屏2021-12-02 下午9.25.49.png

改造后


五、数据对比 & 效果


播放体感优化效果:

截屏2021-12-02 下午9.26.07.png


优化前

截屏2021-12-02 下午9.26.23.png

优化后

 

业务&技术优化效果:

街舞4自由视角视频(一个月)相较于去年同期街舞3点播总播放量提升近2倍。流畅度提升近70%。

 

场景覆盖收益:

 

1.  并不是所有的低端机型都可以支持自由视角的降级模式,因为场景特殊,算法要求的视频输入源的清晰度需要不低于4K,因此处于【4k解码, 支持DIBR】区间的设备才属于本次优化预期提升的范围;

2.  通过这次新增的降级渲染技术改造,新增覆盖近3成低端机型,最终总覆盖度从原来5成(仅支持中高端机型)提升至近8成;

 


六、总结

为用户提供更优质、更丰富的观影体验一直是我们优酷秉持的目标,也是我们持续不断探索和尝试的动力。如何让用户感受到技术的温度,而不是仅仅看到的是冰冷的字面和数字上的提升,让更优质的体验是用户切身能感受到的,这是我们未来的努力的一个方向。同时我们也在打造直播自由视角,竭尽所能的去探索更多更新的观影方式

相关文章
|
4天前
|
人工智能 监控 搜索推荐
数字孪生与娱乐业:沉浸式体验的提升
数字孪生技术通过创建物理实体的虚拟副本,为娱乐业带来创作自由与沉浸体验的双重提升。本文探讨了该技术在虚拟演唱会、电影游戏制作、主题公园及音乐教育中的应用,以及提升沉浸体验的关键要素,展望了其面临的挑战与未来前景。
|
8天前
|
人工智能 安全 大数据
元宇宙游戏:沉浸式体验的新纪元
在科技飞速发展的今天,元宇宙游戏作为融合了虚拟现实(VR)、增强现实(AR)、人工智能(AI)与区块链等前沿技术的数字新世界,正引领我们进入一个前所未有的沉浸式体验时代。本文将深入探讨元宇宙游戏的特点、技术基础及其如何引领沉浸式体验的新潮流。
|
3月前
|
算法 人机交互 vr&ar
VR游戏设计中的用户体验考虑:技术深度解析
【8月更文挑战第24天】VR游戏设计是一个复杂而充满挑战的过程,它要求开发者在视觉体验、交互设计、音效与反馈、用户引导与界面设计以及性能优化等方面进行全面考虑。通过不断探索和实践,我们可以为玩家提供更加沉浸、自然和令人满足的VR游戏体验。随着技术的不断进步和应用场景的不断拓展,VR游戏的未来充满了无限可能。
|
4月前
|
人工智能 搜索推荐 开发者
AI驱动的游戏设计:创造更智能、更沉浸的游戏体验
【7月更文第31天】人工智能(AI)技术正在深刻地改变游戏行业,不仅为游戏设计师提供了创造更丰富、更动态游戏世界的工具,也为玩家带来了更加个性化和沉浸式的体验。本文将探讨AI在游戏设计中的应用案例,并展示一些具体的实现方法。
522 2
|
6月前
|
传感器 人工智能 5G
【专栏】VR技术,凭借其沉浸式体验,正革新工作、学习和娱乐方式
【4月更文挑战第27天】VR技术,凭借其沉浸式体验,正革新工作、学习和娱乐方式。当前,高分辨率的HMD和5G网络推动VR发展,游戏、教育和医疗等领域已显现应用潜力。然而,用户体验、内容创作与分发仍是挑战。未来,结合AR、AI的创新将提升VR体验,使其在教育、医疗、社交和远程工作等领域发挥更大作用。随着技术进步,VR将更加普及并深刻影响日常生活。
94 5
|
人工智能 人机交互 vr&ar
元宇宙系统开发简述:打造沉浸式虚拟体验
元宇宙系统开发简述:打造沉浸式虚拟体验
|
边缘计算 运维 算法
超越感官,沉浸赛场——大型体育赛事云上实战精选-第六章 CUBA:“自由视角”的畅快赛事-5G+边缘计算+自由视角,让体育赛事更畅快
超越感官,沉浸赛场——大型体育赛事云上实战精选-第六章 CUBA:“自由视角”的畅快赛事-5G+边缘计算+自由视角,让体育赛事更畅快
223 0
|
资源调度 安全 架构师
沉浸式互动体验升级,虚拟3D走向消费场景——一场手机“冰雪派对”背后的成功经验
第12期云谷创新谈邀请了超次元CEO——陈坚,阿里云无影解决方案架构师——屈立威,通过超次元的发展了解虚拟行业的趋势,一起解密天猫App“3D冰雪派对”背后与阿里云的技术合作,共同探讨元宇宙的技术趋势及互动形态的发展。
273 0
沉浸式互动体验升级,虚拟3D走向消费场景——一场手机“冰雪派对”背后的成功经验
|
传感器 机器学习/深度学习 搜索推荐
|
传感器 前端开发 vr&ar
三种前端实现VR全景看房的方案!说不定哪天就用得上!(上)
事情是这样的,前几天我接到一个外包工头的新需求,某品牌要搭建一个在线VR展厅,用户可以在手机上通过陀螺仪或者拖动来360度全景参观展厅,这个VR展厅里会有一些信息点,点击之后可以呈现更多信息(视频,图文等)... 我第一反应是用3D引擎,因为我不久前刚用three.js做过一个BMW的在线展厅,基本把three.js摸熟了。
554 0
三种前端实现VR全景看房的方案!说不定哪天就用得上!(上)