Unity下如何实现低延迟的全景RTMP|RTSP流渲染

简介: Unity下如何实现低延迟的全景RTMP|RTSP流渲染

技术背景

Unity3D可以用于创建各种类型的的应用程序,包括虚拟现实、培训模拟器等。以下是一些可以使用Unity3D全景播放的场景:

    1. 虚拟现实体验:全景视频可以用来创建逼真的虚拟环境,使用户能够感受到身临其境的感觉;
    2. 培训模拟器:全景视频可以用来创建真实的训练环境,例如飞行模拟器、驾驶模拟器等,以提供更加真实的训练体验;
    3. 建筑设计:全景视频可以用来展示建筑设计的或室内装潢,使客户能够感受到真实的的效果;
    4. 文旅导览:全景视频可以用来展示旅游景点或城市,使游客能够感受到身临其境的感觉。

    在Unity3D平台上实现全景实时RTMP或RTSP流渲染,可以通过以下方式:

      1. 获取全景视频数据源:首先,需要拉取RTMP或RTSP流数据,解码后,把RGB或YUV数据,回调到unity,从而获取到全景视频流数据;
      2. Unity创建个Sphere,创建个材质球(Material),并把材质球挂在到Sphere;
      3. 实现实时渲染:使用Unity3D的渲染管道,您可以将纹理映射到球体或立方体的表面上,并使用着色器来处理纹理的坐标,以实现全景视频的实时渲染。

      技术实现

      unity全景.jpg

      本文以大牛直播SDK的RTMP推送端作为数据采集,获取全景窗体数据后,编码打包推送到RTMP服务,或启动个轻量级RTSP服务,对外提供个RTSP的拉流URL。

      然后,播放端,拉取RTSP或RTMP的URL,把YUV或RGB数据回调上来,然后,再在Unity窗体绘制出来。

      获取数据源:

      publicvoidPlay(intsel)
          {
      if (videoctrl[sel].is_running)
              {
      Debug.Log("已经在播放..");
      return;
              }
      lock (videoctrl[sel].frame_lock_)
              {
      videoctrl[sel].cur_video_frame_=null;
              }
      OpenPlayer(sel);
      if (videoctrl[sel].player_handle_==IntPtr.Zero)
      return;
      //设置播放URLNTSmartPlayerSDK.NT_SP_SetURL(videoctrl[sel].player_handle_, videoctrl[sel].videoUrl);
      /* ++ 播放前参数配置可加在此处 ++ */intplay_buffer_time_=0;
      NTSmartPlayerSDK.NT_SP_SetBuffer(videoctrl[sel].player_handle_, play_buffer_time_);                 //设置buffer timeintis_using_tcp=0;        //TCP模式NTSmartPlayerSDK.NT_SP_SetRTSPTcpMode(videoctrl[sel].player_handle_, is_using_tcp);
      inttimeout=10;
      NTSmartPlayerSDK.NT_SP_SetRtspTimeout(videoctrl[sel].player_handle_, timeout);
      intis_auto_switch_tcp_udp=1;
      NTSmartPlayerSDK.NT_SP_SetRtspAutoSwitchTcpUdp(videoctrl[sel].player_handle_, is_auto_switch_tcp_udp);
      Booleanis_mute_=false;
      NTSmartPlayerSDK.NT_SP_SetMute(videoctrl[sel].player_handle_, is_mute_?1 : 0);                    //是否启动播放的时候静音intis_fast_startup=1;
      NTSmartPlayerSDK.NT_SP_SetFastStartup(videoctrl[sel].player_handle_, is_fast_startup);              //设置快速启动模式Booleanis_low_latency_=false;
      NTSmartPlayerSDK.NT_SP_SetLowLatencyMode(videoctrl[sel].player_handle_, is_low_latency_?1 : 0);    //设置是否启用低延迟模式//设置旋转角度(设置0, 90, 180, 270度有效,其他值无效)introtate_degrees=0;
      NTSmartPlayerSDK.NT_SP_SetRotation(videoctrl[sel].player_handle_, rotate_degrees);
      intvolume=100;
      NTSmartPlayerSDK.NT_SP_SetAudioVolume(videoctrl[sel].player_handle_, volume);   //设置播放音量, 范围是[0, 100], 0是静音,100是最大音量, 默认是100// 设置上传下载报速度intis_report=0;
      intreport_interval=2;
      NTSmartPlayerSDK.NT_SP_SetReportDownloadSpeed(videoctrl[sel].player_handle_, is_report, report_interval);
      /* -- 播放前参数配置可加在此处 -- *///video frame callback (YUV/RGB)videoctrl[sel].video_frame_call_back_=newSP_SDKVideoFrameCallBack(NT_SP_SetVideoFrameCallBack);
      NTSmartPlayerSDK.NT_SP_SetVideoFrameCallBack(videoctrl[sel].player_handle_, (Int32)NT.NTSmartPlayerDefine.NT_SP_E_VIDEO_FRAME_FORMAT.NT_SP_E_VIDEO_FRAME_FROMAT_I420, window_handle_, videoctrl[sel].video_frame_call_back_);
      UInt32flag=NTSmartPlayerSDK.NT_SP_StartPlay(videoctrl[sel].player_handle_);
      if (flag==DANIULIVE_RETURN_OK)
              {
      videoctrl[sel].is_need_get_frame_=true;
      Debug.Log("播放成功");
              }
      else        {
      videoctrl[sel].is_need_get_frame_=false;
      Debug.LogError("播放失败");
              }
      videoctrl[sel].is_running=true;
          }

      image.gif

      针对数据处理:

      privatevoidSDKVideoFrameCallBack(UInt32status, IntPtrframe, intsel)
          {
      //这里拿到回调frame,进行相关操作NT_SP_VideoFramevideo_frame= (NT_SP_VideoFrame)Marshal.PtrToStructure(frame, typeof(NT_SP_VideoFrame));
      VideoFrameu3d_frame=newVideoFrame();
      u3d_frame.width_=video_frame.width_;
      u3d_frame.height_=video_frame.height_;
      u3d_frame.timestamp_= (UInt64)video_frame.timestamp_;
      intd_y_stride=video_frame.width_;
      intd_u_stride= (video_frame.width_+1) /2;
      intd_v_stride=d_u_stride;
      intd_y_size=d_y_stride*video_frame.height_;
      intd_u_size=d_u_stride* ((video_frame.height_+1) /2);
      intd_v_size=d_u_size;
      intu_v_height= ((u3d_frame.height_+1) /2);
      u3d_frame.y_stride_=d_y_stride;
      u3d_frame.u_stride_=d_u_stride;
      u3d_frame.v_stride_=d_v_stride;
      u3d_frame.y_data_=newbyte[d_y_size];
      u3d_frame.u_data_=newbyte[d_u_size];
      u3d_frame.v_data_=newbyte[d_v_size];
      CopyFramePlane(u3d_frame.y_data_, d_y_stride,
      video_frame.plane0_, video_frame.stride0_, u3d_frame.height_);
      CopyFramePlane(u3d_frame.u_data_, d_u_stride,
      video_frame.plane1_, video_frame.stride1_, u_v_height);
      CopyFramePlane(u3d_frame.v_data_, d_v_stride,
      video_frame.plane2_, video_frame.stride2_, u_v_height);
      lock (videoctrl[sel].frame_lock_ )
              {
      videoctrl[sel].cur_video_frame_=u3d_frame;
              }
          }

      image.gif

      刷新Texture:

      privatevoidUpdateYUVTexture(VideoFramevideo_frame, intsel)
      {
      if (video_frame.y_data_==null||video_frame.u_data_==null||video_frame.v_data_==null)
          {
      Debug.Log("video frame with null..");
      return;
          }
      if (videoctrl[sel].yTexture_!=null)
          {
      videoctrl[sel].yTexture_.LoadRawTextureData(video_frame.y_data_);
      videoctrl[sel].yTexture_.Apply();
          }
      if (videoctrl[sel].uTexture_!=null)
          {
      videoctrl[sel].uTexture_.LoadRawTextureData(video_frame.u_data_);
      videoctrl[sel].uTexture_.Apply();
          }
      if (videoctrl[sel].vTexture_!=null)
          {
      videoctrl[sel].vTexture_.LoadRawTextureData(video_frame.v_data_);
      videoctrl[sel].vTexture_.Apply();
          }
      }

      image.gif

      全景播放的时候,如果需要移动显示区域,可以用以下代码:

      publicclassMouseMove : MonoBehaviour {
      Vector2p1, p2;
      privateVector3PreMouseMPos;
      privateVector3PreMouseLPos;
      publicfloatminimumY=-60F;
      publicfloatmaximumY=60F;
      floatrotationY=0F;
      privatefloatwheelSpeed=5.0f;
      // Use this for initializationvoidStart () {
          }
      // Update is called once per framevoidUpdate () {
      if (Input.GetMouseButton(0))
              {
      if (PreMouseLPos.x<=0)
                  {
      PreMouseLPos=newVector3(Input.mousePosition.x, Input.mousePosition.y, 0.0f);
                  }
      else            {
      Vector3CurMouseLPos=newVector3(Input.mousePosition.x, Input.mousePosition.y, 0.0f);
      Vector3offset=CurMouseLPos-PreMouseLPos;
      Quaterniontt=Quaternion.Euler(offset);
      floatrotationX=transform.localEulerAngles.y-tt.x*20;
      rotationY+=tt.y*20;
      rotationY=Mathf.Clamp(rotationY, minimumY, maximumY);
      transform.localEulerAngles=newVector3(rotationY, rotationX, 0);
      PreMouseLPos=CurMouseLPos;
                  }
              }
      else        {
      PreMouseLPos=newVector3(0.0f, 0.0f, 0.0f);
              }
          }
      }

      image.gif

      总结

      Unity全景播放RTMP或RTSP实时流,可以广泛用于各种需要提供真实场景或沉浸式体验的场景,为用户带来更加逼真的体验。与此同时,Unity全景实时播放,需要有非常高的延迟要求和性能要求,特别是全景数据源,分辨率和码率都非常高,对解码效率和解码后的数据拷贝投递,提了更高的要求。

      相关文章
      |
      2月前
      |
      编解码 vr&ar 图形学
      Unity下如何实现低延迟的全景RTMP|RTSP流渲染
      随着虚拟现实技术的发展,全景视频成为新的媒体形式。本文详细介绍了如何在Unity中实现低延迟的全景RTMP或RTSP流渲染,包括环境准备、引入依赖、初始化客户端、解码与渲染、优化低延迟等步骤,并提供了具体的代码示例。适用于远程教育、虚拟旅游等实时交互场景。
      78 5
      |
      1月前
      |
      编解码 vr&ar 图形学
      Unity下如何实现低延迟的全景RTMP|RTSP流渲染
      随着虚拟现实技术的发展,全景视频逐渐成为新的媒体形式。本文详细介绍了如何在Unity中实现低延迟的全景RTMP或RTSP流渲染,包括环境准备、引入依赖、初始化客户端、解码与渲染、优化低延迟等步骤,并提供了具体的代码示例。适用于远程教育、虚拟旅游等实时交互场景。
      33 2
      |
      4月前
      |
      图形学 Android开发 iOS开发
      穿越数字洪流,揭秘Unity3d中的视频魔法!Windows、Android和iOS如何征服RTSP与RTMP的终极指南!
      【8月更文挑战第15天】在数字媒体的海洋中,实时视频流是连接世界的桥梁。对于那些渴望在Unity3d中搭建这座桥梁的开发者来说,本文将揭示如何在Windows、Android和iOS平台上征服RTSP与RTMP的秘密。我们将深入探讨这两种协议的特性,以及在不同平台上实现流畅播放的技巧。无论你是追求稳定性的RTSP拥趸,还是低延迟的RTMP忠实粉丝,这里都有你需要的答案。让我们一起穿越数字洪流,探索Unity3d中视频魔法的世界吧!
      75 2
      |
      4月前
      |
      图形学 C#
      超实用!深度解析Unity引擎,手把手教你从零开始构建精美的2D平面冒险游戏,涵盖资源导入、角色控制与动画、碰撞检测等核心技巧,打造沉浸式游戏体验完全指南
      【8月更文挑战第31天】本文是 Unity 2D 游戏开发的全面指南,手把手教你从零开始构建精美的平面冒险游戏。首先,通过 Unity Hub 创建 2D 项目并导入游戏资源。接着,编写 `PlayerController` 脚本来实现角色移动,并添加动画以增强视觉效果。最后,通过 Collider 2D 组件实现碰撞检测等游戏机制。每一步均展示 Unity 在 2D 游戏开发中的强大功能。
      226 6
      |
      4月前
      |
      图形学 缓存 算法
      掌握这五大绝招,让您的Unity游戏瞬间加载完毕,从此告别漫长等待,大幅提升玩家首次体验的满意度与留存率!
      【8月更文挑战第31天】游戏的加载时间是影响玩家初次体验的关键因素,特别是在移动设备上。本文介绍了几种常见的Unity游戏加载优化方法,包括资源的预加载与异步加载、使用AssetBundles管理动态资源、纹理和模型优化、合理利用缓存系统以及脚本优化。通过具体示例代码展示了如何实现异步加载场景,并提出了针对不同资源的优化策略。综合运用这些技术可以显著缩短加载时间,提升玩家满意度。
      309 5
      |
      3月前
      |
      测试技术 C# 图形学
      掌握Unity调试与测试的终极指南:从内置调试工具到自动化测试框架,全方位保障游戏品质不踩坑,打造流畅游戏体验的必备技能大揭秘!
      【9月更文挑战第1天】在开发游戏时,Unity 引擎让创意变为现实。但软件开发中难免遇到 Bug,若不解决,将严重影响用户体验。调试与测试成为确保游戏质量的最后一道防线。本文介绍如何利用 Unity 的调试工具高效排查问题,并通过 Profiler 分析性能瓶颈。此外,Unity Test Framework 支持自动化测试,提高开发效率。结合单元测试与集成测试,确保游戏逻辑正确无误。对于在线游戏,还需进行压力测试以验证服务器稳定性。总之,调试与测试贯穿游戏开发全流程,确保最终作品既好玩又稳定。
      170 4
      |
      3月前
      |
      前端开发 图形学 开发者
      【独家揭秘】那些让你的游戏瞬间鲜活起来的Unity UI动画技巧:从零开始打造动态按钮,提升玩家交互体验的绝招大公开!
      【9月更文挑战第1天】在游戏开发领域,Unity 是最受欢迎的游戏引擎之一,其强大的跨平台发布能力和丰富的功能集让开发者能够迅速打造出高质量的游戏。优秀的 UI 设计对于游戏至关重要,尤其是在手游市场,出色的 UI 能给玩家留下深刻的第一印象。Unity 的 UGUI 系统提供了一整套解决方案,包括 Canvas、Image 和 Button 等组件,支持添加各种动画效果。
      176 3
      |
      3月前
      |
      设计模式 存储 人工智能
      深度解析Unity游戏开发:从零构建可扩展与可维护的游戏架构,让你的游戏项目在模块化设计、脚本对象运用及状态模式处理中焕发新生,实现高效迭代与团队协作的完美平衡之路
      【9月更文挑战第1天】游戏开发中的架构设计是项目成功的关键。良好的架构能提升开发效率并确保项目的长期可维护性和可扩展性。在使用Unity引擎时,合理的架构尤为重要。本文探讨了如何在Unity中实现可扩展且易维护的游戏架构,包括模块化设计、使用脚本对象管理数据、应用设计模式(如状态模式)及采用MVC/MVVM架构模式。通过这些方法,可以显著提高开发效率和游戏质量。例如,模块化设计将游戏拆分为独立模块。
      223 3
      |
      4月前
      |
      图形学 开发者 存储
      超越基础教程:深度拆解Unity地形编辑器的每一个隐藏角落,让你的游戏世界既浩瀚无垠又细节满满——从新手到高手的全面技巧升级秘籍
      【8月更文挑战第31天】Unity地形编辑器是游戏开发中的重要工具,可快速创建复杂多变的游戏环境。本文通过比较不同地形编辑技术,详细介绍如何利用其功能构建广阔且精细的游戏世界,并提供具体示例代码,展示从基础地形绘制到植被与纹理添加的全过程。通过学习这些技巧,开发者能显著提升游戏画面质量和玩家体验。
      193 3
      |
      4月前
      |
      图形学 机器学习/深度学习 人工智能
      颠覆传统游戏开发,解锁未来娱乐新纪元:深度解析如何运用Unity引擎结合机器学习技术,打造具备自我进化能力的智能游戏角色,彻底改变你的游戏体验——从基础设置到高级应用全面指南
      【8月更文挑战第31天】本文探讨了如何在Unity中利用机器学习增强游戏智能。作为领先的游戏开发引擎,Unity通过ML-Agents Toolkit等工具支持AI代理的强化学习训练,使游戏角色能自主学习完成任务。文章提供了一个迷宫游戏示例及其C#脚本,展示了环境观察、动作响应及奖励机制的设计,并介绍了如何设置训练流程。此外,还提到了Unity与其他机器学习框架(如TensorFlow和PyTorch)的集成,以实现更复杂的游戏玩法。通过这些技术,游戏的智能化程度得以显著提升,为玩家带来更丰富的体验。
      70 1