直播疑难杂症排查(5)— 音画不同步

简介:

1. 音画不同步的表现


很容易判断,就是画面和声音不匹配。


2. 音画同步的基础概念


首先我们要明白一个概念,虽然人的肉眼,很容易辨别音画是否同步的,但是机器则不然,对于播放器而言,它判断一帧视频和一帧音频是否要在同一个时间渲染和播放,依靠的完全是该数据携带的时间戳信息。


如果内容的生产端给音视频数据打的时间戳本身就有问题的话,播放器也往往无能为力了,因此,音画不同步问题,更多的时候,应该从生产端去排查原因。


3. 音画不同步的问题排查


3.1 采集源距离太远


如果音频源离麦克风距离太远,声音传播到麦克风的速度远小于画面(光速),那么,摄像头采集到画面后给出的时间戳,肯定要远小于麦克风采集到同一时刻音频给出的时间戳,因此会产生音画不同步问题。


解决方案:音频源尽可能离麦克风设备近一点。


3.2 采集设备内部问题


摄像头和麦克风采集音视频,在硬件上都会经过一些信号处理模块,如果处理延时不稳定的时候,则会导致输出数据的时间不稳定,从而导致应用层获取时间戳的时候产生误差,带来音画不同步问题。


解决方案:极少数硬件/机型才会有,需要根据采集参数(如采样率)做一些 Jitter 抖动的矫正。


3.3 时间戳没有在采集的时候获取 


如果音视频帧的时间戳不是在采集的时候获取,而是在后续的某个环节再获取,则非常大概率地会出现音视频不同步问题。


先举个简单的例子:


假设音频 A 和 视频 B 同时从设备中被采集出来,时间戳为:TA 和 TB,他们差值会很小,播放端收到后会认为是同一时刻的音视频数据,从而一起播放。


但是,当 音频 A 和 视频 B 分别经过某些算法处理模块后,我们 “不慎” 在处理后重新获取当前时间戳为了 TA2 和 TB2,那么,这个更新后的时间戳差值可能会非常大,导致音画不同步。


那么,一般大家会 “不慎” 在哪些地方更改了采集的时间戳呢 ?


- 音视频算法处理模块


比如:视频经过美颜、编码后,重新更新为了处理后的的时间戳。


- 缓冲区导致的不同步


多线程程序中,往往会在不同线程之间共享一些帧缓冲区,缓冲区会导致音视频对应关系发生变化,如果从缓冲区取数据后,抛弃掉了原有的时间戳,重新使用新的当前时间,那么,肯定会出现问题。


- 网络传输导致的不同步


由于网络的传输的延时、丢包等原因,同一时刻的音视频包不会正好同时准确到达,如果在接收到了数据后再打上当前的时间戳,则肯定也会出现不同步问题。


3.4 时间戳出现回退或者紊乱


曾经有遇到过一些音画不同步的流,我把它的音视频时间戳打印出来后显示如下的结果:


wKioL1ka_C6BW2NCAAIWJyjJMK0738.png

该码流的时间戳没有单调递增,而是频繁出现了回退,这样的流,会导致播放器出现频繁卡顿,因为播放器的 master 主时钟一般是单调递增的,当出现小于主时钟的视频帧后,一般会做丢弃处理,画面不更新但是音频还是在继续播放,从而导致看起来声音和画面并没有匹配上的问题。 


解决方案:排查推流端时间戳是否单调线性递增,或者排查服务端是否有对流的时间戳有过修改导致回退。


为了方便以后更好地定位该问题,大家可以修改 ffplay 源码,把读取到的每一帧音频、视频的时间戳打印出来看看,这里我给出我对 ffplay 的修改 commit 记录,大家可以参考一下:


https://github.com/Jhuster/pili-ffmpeg/commit/4d0476faba5016b291c2eed2c0a2cd6fe303bd50


3.5 播放端性能问题


比如低端机型软解 1080P 的高清码流,会存在解码不够及时的问题,导致部分视频解码完成后,已经远慢于当前的音频时钟,只能丢弃,从而导致画面更新不及时,与正在播放的音频无法匹配上,从而产生音画不同步的现象。


解决方案:使用硬解,选择较低清的码流,增大播放缓冲,等等。




本文转自 Jhuster 51CTO博客,原文链接:http://blog.51cto.com/ticktick/1926436,如需转载请自行联系原作者

相关文章
pip镜像源大全及配置
在中国使用pip时,可以配置国内镜像源来提高安装速度和稳定性。以下是一些常见的国内镜像源:
22544 0
|
编解码 API 开发工具
|
数据安全/隐私保护
怎么更改AD域用户账号和密码_AD域管理中那些实用的软件
在AD域管理中,用户常需重置密码,管理员也面临大量密码相关工单的困扰。为此,ADSelfService Plus作为自助工具,支持用户通过短信或邮件验证修改密码,并提供密码过期提醒功能,极大减轻管理员负担。而ADManager Plus则专注于批量处理,帮助管理员高效完成账户和密码的批量重置等任务。两者各有侧重:ADSelfService Plus侧重用户自助,ADManager Plus提升管理员效率,结合使用可显著优化AD域管理流程。
923 4
|
9月前
|
SQL 安全 前端开发
如何开发一套EHS健康安全环境管理系统中的绩效管理板块?(附架构图+流程图+代码参考)
本文探讨了如何将EHS(环境、健康与安全)工作转化为可量化、可持续改进的绩效管理体系。许多企业将EHS视为被动合规任务,但通过绩效管理,可将其升级为驱动企业长期价值的工具。文章详细介绍了EHS绩效管理的核心模块、系统架构设计、数据模型、评分算法、前端展示、开发技巧及落地建议,涵盖了从业务流程设计到技术实现的完整路径。同时,还提供了业务指标定义、规则引擎配置、数据采集与分析、可视化看板展示等内容,并结合示例代码与架构图,帮助开发者与管理者理解如何构建一个闭环的EHS绩效管理系统。
|
机器学习/深度学习 人工智能 数据挖掘
阿里云云工开物助力高校的高校计划有什么用
阿里云“云工开物”高校计划旨在推动云计算技术在高校的普及与应用,通过提供云计算资源、算力支持、在线学习平台、开发者社区及数据科学竞赛等,帮助大学生提升实践能力和创新思维,培养更多创新型人才,促进校企合作。
1197 2
|
自然语言处理 搜索推荐 Python
中文文本处理高手指南:从零到高手掌握Python中jieba库
中文文本处理高手指南:从零到高手掌握Python中jieba库
903 0
|
关系型数据库 MySQL 数据库连接
Django如何修改项目名,修改数据库(5)
【7月更文挑战第5天】 ### 项目迁移与数据库更换步骤 1. 修改项目目录和配置文件名。 2. 更新`manage.py`中的模块名。 3. 全局替换`settings.py`中的旧项目名。 4. 删除旧路由配置。 5. 在`settings.py`中更新`DATABASES`,配置新的数据库连接(如MySQL)。 6. 从`INSTALLED_APPS`和可能的`DATABASE_APPS_MAPPING`中移除无用模块。
405 3
|
自然语言处理 监控 数据管理
《DAMA数据管理知识体系指南》备考笔记-第一章 数据管理 (4 分)
《DAMA数据管理知识体系指南》备考笔记-第一章 数据管理 (4 分)
560 0
|
NoSQL Shell Android开发
GDB在线调试Android Framework Native C/C++代码
一、准备工作 1、下载并编译Android系统源码 这里比较灵活,可以下载公司内部机型的代码,也可以下载原生AOSP的代码 环境配置参考 https://source.
4589 0
|
云计算 开发者
阿里云免费试用与高校计划常见问题解答参考
阿里云免费试用活动和高校学生及教师活动是阿里云推出的两大优惠活动,旨在降低用户上云门槛,让更多人体验到云计算的便捷和高效。本文主要解答免费试用与高校计划的一些常见问题。
阿里云免费试用与高校计划常见问题解答参考