小程序音视频能力技术负责人解读“小程序直播”

简介: 策划 / LiveVideoStack责编 / 包研一夜之间,“小程序+直播”成为多媒体开发者热议的话题。

640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1


策划 / LiveVideoStack

责编 / 包研


一夜之间,“小程序+直播”成为多媒体开发者热议的话题。从底层技术实现到接口开放程度,是否绑定腾讯云?价格体系?低延迟性能如何?......一连串的问题背后是开发者乃至整个生态对“小程序+直播”的关注。LiveVideoStack邀请到小程序音视频能力的技术负责人常青,就开发者关注的各种问题进行了解答。如果您还有新的问题,请在在文末留言或邮件至editors@livevideostack.com


另外,我们还发起了针对“小程序+直播”的问卷,近9成的开发者看好“小程序+直播”,最看好的应用场景是直播在线教育视频会议,最关心的性能是延迟


你也可以点击『阅读原文』完成问卷后,即可查看最新的统计数据。


LiveVideoStack:关于小程序中的RTC能力,是通过WebRTC实现的(或其他RTC技术),还是基于RTMP呢?


常青:小程序的RTC能力是基于RTMP技术实现的,没有使用WebRTC是出于两方面的考虑:一是微信安装包(尤其是iOS版本)的体积增量必须要控制在可接受的范围内,这是一个硬性的要求。另一个考虑就是RTMP协议的适用场景更多,除了实时视频通话场景之外,还可以做标准直播解决方案。比如培训、教育等场景。


LiveVideoStack:求证下,小程序里面用的是UDP + RTMP方式来实现RTC的,而且还对协议内容加密了?那是不是意味着小程序RTC必须走腾讯云?


常青:首先,对于直播场景下音视频通道的加密是很刚需的一个要求,所以小程序在RTC模式下如果走腾讯云,会默认开启加密能力以避免窃听攻击。


当然,小程序如果实现RTC不需要绑定腾讯云,关于这一点大家可以做个试验:简单用 nginx-rtmp 搭建一个后台服务器,然后创建两对RTMP url,按照文档 https://cloud.tencent.com/document/product/454/12521 的指引放在小程序里测试,可以体验一下效果,只要网络不是特别差,延迟和效果应该是很不错的。


腾讯云真正做的出色的是,让全国不同地方的两路RTMP,都能达到很好的效果,这是腾讯云多年来一直积累CDN节点,优化内部链路调度(GBN网络)的结果。


LiveVideoStack:如果是RTMP + UDP,无法实现ARQ、FEC传输算法,是这样吧?


常青:RTMP本身是可靠的传输层协议,所以不需要实现ARQ和FEC算法,ARQ和FEC都是为了解决传输层协议不可靠(比如私有UDP协议)而不得不采用的办法。


这是一个漫长的故事:早期实时音视频通话面对的网络条件要比现在恶劣的多,也就是常说的窄带时代。在那个时代的网络条件下,由于带宽成本极高,所以实时音视频通话都需要采用 UDP 协议来打洞实现 peer to peer 直连,这就意味着我们只能选择 UDP 协议,因为 TCP 打洞做NAT穿越不是那么容易。而 UDP 协议如果做成可靠的协议(也就是不丢包),就丧失了它的灵活性,因为音视频通话本身对于部分数据的丢失是可以容忍的,所以适当的允许一些丢包是更加符合窄带传输的需求。当然,我们不希望频繁的丢数据,不然通话质量就上不来了,所以 ARQ 和 FEC 这种丢包恢复技术就应用而生了。


时代在进步,技术思路也在进步。目前已经到了宽带时代,高清大码率的场景越发普遍,直播的流行和大王卡的普及,都在告诉我们网络的带宽越来越理想,所以我们现在面对的主要问题可能不再是带宽不够用,而是WiFi 和 4G下突发的网络波动。而应对这种网络波动,可靠传输层协议并不比私有UDP协议劣势太多,而且ARQ和FEC本身会产生带宽的浪费,以FEC为例,30%的丢包需要用30%的冗余来解决,但是30%的冗余就意味着多传输30%的数据,在码率小的时候不起眼,大码率场景下就越发鸡肋了。


所以,用惯了ARQ和FEC的技术专家们,也可以偶尔考虑一下可靠的传输协议,只要不是特别极端的场景,效果还是可以一试的,而且我们也在持续优化和改进,争取在每一个版本中都有效果上的提升。


腾讯云也有专门的私有UDP解决方案,其ARQ和FEC技术也非常成熟,但这都是腾讯云自家的标准,在微信小程序里落地就会面临绑定腾讯云的问题,所以我们最终选择了普遍支持的标准RTMP协议,并将底层的TCP传输层换成了业内目前普遍更被看好的HTTP/2的一种内部传输技术,它也是基于UDP协议实现的,但它并不私有,也越来越流行。如果您感兴趣,Google一下 HTTP/2 会了解到更多。


LiveVideoStack:native的直播、短视频应用已经非常成熟了,功能强大。同时,基于H5的音视频应用,在线教育服务也比较流行。那么小程序具体如何定位自己?他真正的优势在哪里?


常青:小程序的定位就是服务号的能力扩展,它的优势就是能力的扩展上要比H5更快,H5受限于浏览器内核的普及,新特性和新能力的上线需要一个较长的时间,而且苹果在这里的态度也有很大的不确定性。比如最近WebRTC持续升温,很大程度上要得益于苹果的态度转变,而我们并不能假设在后续所有的场景上苹果都会保持这种开放的心态。同时,小程序的定位更加专注于能力实现,在体验和二次加载速度上,相比于H5还是有一定的优势。当然,相比于定制性和迭代速度,体验上的优势仅仅是一个小细节了。


LiveVideoStack:iOS 11可以支持WebRTC,相信iOS上的微信支持WebRTC也可期。许多开发者看好WebRTC可以打通iOS、Android和PC浏览器。相比而言,小程序的优势是什么?


常青:目前iOS上的WebRTC能力还有一些不尽如人意的地方。另外,Android系统下的WebRTC实现也因为系统版本和碎片化问题有很多兼容性问题。在目前这段WebRTC还在不断完善中的时间里,要做到比较统一的体验,前端工程师们依然要面对很多不可控因素。


从长期来看,小程序上的优势在于更好的可控性和可定制性:可控性上来讲,由于审核制度的存在,在小程序里出现涉黄涉政等不法现象的概率会接近于零;另一方面,类似美颜等更“接地气”的特性的支持,都是WebRTC需要很长时间才能反应过来的,我们也非常希望后续能够快速迭代地增加一些高性价比的特性进来(太过娱乐化的特性暂不考虑)。


LiveVideoStack:是否提供原生的连麦(包含回声消除)功能?是否开放接口,对接第三方的连麦服务?


常青:live-pusher 和 live-player 的RTC模式本身自带回音消除功能,只要设置好mode参数为RTC,都是可以使用回声消除能力的。 而且 live-pusher 和 live-player 没有限制第三方云服务,只要有可用的RTMP地址就可以使用,至于如何基于 live-pusher 和 live-player 标签实现实时通话功能,可以参考:https://cloud.tencent.com/document/product/454/12521


LiveVideoStack:文档中表示,小程序音视频能力不需要指定腾讯云,但接口似乎还没有(完全)开放?


常青:小程序此次开放的音视频能力确实不需要指定腾讯云,支持RTMP协议的云商都可以对接,所有接口都已经放在了文档 https://cloud.tencent.com/document/product/454/12518 和https://cloud.tencent.com/document/product/454/12519 中进行说明,没有尚未暴露的接口。


LiveVideoStack:CDN有哪几种接入方式?


常青:如果使用 live-player 标签,可以使用RTMP协议和http-flv协议进行接入,也可以使用HLS协议接入,但HLS协议需要使用微信小程序早就开放的<video>标签。


LiveVideoStack:第三方服务提供商(如美颜、图像识别、连麦、CDN等)是否可以接入小程序,成为用户可选的服务?


常青:这里第三方的相关服务要看是云服务还是终端服务了。如果是云服务,那是完全没有问题的,支持RTMP协议都可以(接入),比如连麦、CDN等都无限制。但如果是终端服务,除非是JavaScript的组件,否则都是不行的,因为微信小程序只提供了JavaScript的编程能力。美颜是我们直接将图像处理算法打包进微信APP实现的,JavaScript无法达到这个计算性能的要求。


LiveVideoStack:小程序接受直播、在线教育、金融、医疗、视频会议、电商、政务民生等几类应用的审核,在您看来,具有音视频能力的小程序最佳的应用场景是什么?


常青:小程序的定位就是服务号的能力扩展,最佳的应用场景就是装APP太麻烦,搜索一下就能用的场景,比如远程车险定损、在线视频客服等等,这些惠民便民的场景也是微信非常鼓励和推荐的。


点击【阅读原文】,完成问卷,即可以看到最新的投票数据。

相关实践学习
Serverless极速搭建Hexo博客
本场景介绍如何使用阿里云函数计算服务命令行工具快速搭建一个Hexo博客。
相关文章
|
4月前
|
小程序
跨端技术问题之为什么在微信小程序中静态转义出didUpdate生命周期可靠程度低
跨端技术问题之为什么在微信小程序中静态转义出didUpdate生命周期可靠程度低
|
4月前
|
移动开发 小程序 JavaScript
跨端技术问题之小程序渠道环境的差异带来了什么样的挑战
跨端技术问题之小程序渠道环境的差异带来了什么样的挑战
|
1月前
|
小程序 前端开发 JavaScript
微信小程序全栈开发中的PWA技术应用
【10月更文挑战第3天】微信小程序作为新兴应用形态,凭借便捷体验与社交传播能力,成为企业拓展业务的新渠道。本文探讨了微信小程序全栈开发中的PWA技术应用,包括离线访问、后台运行、桌面图标及原生体验等方面,助力开发者提升小程序性能与用户体验。PWA技术在不同平台的兼容性、性能优化及用户体验是实践中需注意的关键点。
61 5
|
3月前
|
小程序 前端开发 JavaScript
【电商新机遇】支付宝小程序如何助你打造爆款电商解决方案?揭秘背后的技术奥秘!
【8月更文挑战第27天】本文详细介绍如何利用支付宝小程序构建电商应用,覆盖从项目初始化、页面设计、功能开发到数据分析的全流程。首先,需注册开发者账号并安装相关工具;随后创建项目,并按示例配置基本页面结构;接着设计商品列表等界面布局;再实现商品展示等功能;最后运用支付宝提供的工具进行数据分析,以优化用户体验及营销策略。跟随本教程,您将能打造出一款完整的电商小程序。
94 1
|
3月前
|
小程序 前端开发 JavaScript
微信小程序结合PWA技术,提供离线访问、后台运行、桌面图标及原生体验,增强应用性能与用户交互。
微信小程序结合PWA技术,提供离线访问、后台运行、桌面图标及原生体验,增强应用性能与用户交互。开发者运用Service Worker等实现资源缓存与实时推送,利用Web App Manifest添加快捷方式至桌面,通过CSS3和JavaScript打造流畅动画与手势操作,需注意兼容性与性能优化,为用户创造更佳体验。
105 0
|
4月前
|
小程序 开发工具 开发者
知识付费教育小程序搭建的流程及技术要点
【知识付费教育小程序】兴起于知识经济时代,旨在提供高质量知识服务。开发涉及定位受众、技术选型(如微信小程序)、功能设计(课程展示、购买、进度跟踪)、内容更新及用户体验优化。推广与运营,包括社交媒体宣传、会员体系构建、积分激励及持续优化,确保用户增长与留存。
|
4月前
|
小程序
跨端技术问题之页面或组件样式在小程序、小程序插件和小程序分包中有什么差异
跨端技术问题之页面或组件样式在小程序、小程序插件和小程序分包中有什么差异
|
5月前
|
JSON 小程序 JavaScript
技术心得记录:小爱童鞋@你,一起来撸个小程序吧
技术心得记录:小爱童鞋@你,一起来撸个小程序吧
53 0
|
5月前
|
文字识别 小程序 算法
视觉智能开放平台产品使用合集之通过小程序接入视觉智能开放平台API能力,不是上海地域的OSS链接,该怎么办
视觉智能开放平台是指提供一系列基于视觉识别技术的API和服务的平台,这些服务通常包括图像识别、人脸识别、物体检测、文字识别、场景理解等。企业或开发者可以通过调用这些API,快速将视觉智能功能集成到自己的应用或服务中,而无需从零开始研发相关算法和技术。以下是一些常见的视觉智能开放平台产品及其应用场景的概览。
|
5月前
|
XML 小程序 前端开发
技术心得记录:微信小程序开发的基本流程
技术心得记录:微信小程序开发的基本流程
58 0