带你读《2022技术人的百宝黑皮书》——淘宝直播端到端音视频评测方案首次公开(7)

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: 带你读《2022技术人的百宝黑皮书》——淘宝直播端到端音视频评测方案首次公开(7)

带你读《2022技术人的百宝黑皮书》——淘宝直播端到端音视频评测方案首次公开(6) https://developer.aliyun.com/article/1243278?groupCode=taobaotech



噪声抑制ANS


噪声抑制评估主要包括以下几个方面:1)噪声的收敛情况,即噪声是否收敛以及收敛的速度。2)降噪后的音质是否损伤,即音质情况。3)降噪算法的性能消耗情况(如cpu、内存)。


降噪效果评估采用真实噪声场景、稳态噪声(如白噪声、粉红噪声等)、非平稳噪声、噪声变化等不同场景的噪声素材,以尽量覆盖各种噪声场景和分析算法的自适应能力。由于淘宝直播主要的使用场景是人声类场景(主播卖货),我们主要关注降噪后的语音质量。在此,我们使用不同信噪比的音频素材作为测试集,并采用主观评测和客观评测两种方式来评测降噪后音频的质量。客观评测主要采用PESQ(Perceptual evaluation of speech quality)和STOI(Short-Time Objective Intelligibility)两种方式来对比推流前和ANS处理后的音频质量。主观评测主要参考音质增强算法的评估标准(ITU-T P.835,ITU-R BS.1284-2, EBU subjective assessment),采用有源多元算法(不同App)对比,制定打分规则并进行打分。主观评测可以看不同算法的降噪后的效果。


回声消除AEC


在音视频会议或连麦场景中,远端传过来的语音信号经会议设备的扬声器或者音响设备放出后,经房间墙壁等一系列的反射,最后又被麦克风采集并传到远端。这样,远端用户就不仅听到了本地用户讲话的声音,也听到了自己讲话的声音回传,也就是“回声”。


image.png

回声消除算法效果评测主要是模拟单讲和双讲的场景下是否有回声,以及回声的收敛效果。将带有特征脉冲序列音频语音作为输入数据集,再利用Audition分析录制的单讲(或双讲)场景下的音频,来判断回声是否收敛和收敛时长。


自动增益AGC


现实场景中,因主播采集设备差异、距离麦克风的距离不同等因素,导致采集到的声音忽大忽小。AGC的主要作用就是平滑这些差异,当输入语音音量过小时,将其适当放大;当输入语音信号音量过大时,则将适当降低幅度,避免削波失真和较差的音频体验。


AGC算法评测主要包括:

1. 增益的大小和增益的平滑度;

2. 噪声场景下,AGC是否将噪声放大。AGC测试素材包括大音量音频、小音量音频、噪声音频、以及音量变化音

频。将输入和输出的音频做时域对齐,然后分段对比AGC前后幅度计算出平均增益幅度及平滑度。




带你读《2022技术人的百宝黑皮书》——淘宝直播端到端音视频评测方案首次公开(8) https://developer.aliyun.com/article/1243276?groupCode=taobaotech

相关文章
|
缓存
idea更改默认缓存位置步骤
在idea使用中,会产生大量的缓存,一般默认存放在C盘里面,会加大C盘的储存负担,如果C盘足够大,可以不考虑更改idea的缓存位置
5015 0
idea更改默认缓存位置步骤
|
6月前
|
弹性计算 Linux 网络安全
学习笔记:阿里云新手账号注册、实名认证、选购ECS云服务器、部署管理指南
阿里云ECS(弹性计算服务)是一种无需购买物理服务器即可使用计算资源的服务,让您像使用水电一样便捷获取服务器算力。本指南将详细拆解从账号注册到服务器管理的完整流程,帮助新手用户快速掌握云服务器使用技巧。
608 1
|
Oracle 关系型数据库 Linux
|
3月前
|
数据采集 监控 API
1688按图搜款神器!Open Claw 拍立淘API,图片一键找同款货源(附Python源码)
电商人找1688同款货源太难?关键词不准、翻页耗时、比价繁琐、爆款跟不上!Open Claw 1688按图搜索API(拍立淘)一键解决:上传图片,秒出同款列表,支持销量/价格排序、一件代发筛选、自动返回价格销量等关键数据,效率提升100倍,新手5分钟上手!
|
5月前
|
传感器 人工智能 监控
基于 YOLOv8 的农业场景下的人与农机智能感知系统 [目标检测完整源码]
本文从实际农业生产场景出发,系统介绍了一套基于 YOLOv8 的人员与农用车辆视觉识别解决方案,完整覆盖了数据集构建、模型训练、性能评估以及 PyQt5 可视化部署等关键环节。实践表明,YOLOv8 在复杂、动态的农田环境中具备良好的鲁棒性与实时检测能力,而图形化应用的引入有效提升了系统的可用性与工程落地价值。该方案不仅可直接服务于农业作业监控与农机管理,也为智慧农业领域中目标检测系统的工程化实现提供了具有参考意义的实践范例。
285 1
基于 YOLOv8 的农业场景下的人与农机智能感知系统 [目标检测完整源码]
|
3月前
|
达摩院 物联网 Swift
大模型微调开源框架推荐
LLaMA-Factory(零代码WebUI,支持100+模型)、PEFT(Hugging Face官方高效微调库)、Axolotl(YAML配置驱动)、Unsloth(提速2–5倍、省显存80%)、DeepSpeed(微软大规模分布式训练)、Swift(达摩院出品,国产模型友好)。按需选型,覆盖全场景。
626 0
|
5月前
|
人工智能 运维 安全
BetterYeah × 阿里云计算巢:把企业 AI 私有化,从“工程难题”变成“服务体验”
在企业级 AI 加速落地的今天,“私有化部署”已经不只是技术需求,更是企业安全与业务连续性的核心考量。
294 4
|
缓存 PyTorch 算法框架/工具
离线推理精度问题分析
传统模型迁移到昇腾设备上出现了精度问题,介绍精度问题的定位方法和解决方案,重点介绍了精度问题的定位定界方法。
离线推理精度问题分析
|
5月前
|
机器学习/深度学习 边缘计算 算法
金属材料表面六种缺陷类型数据集:工业视觉检测的优质训练资源
本数据集包含1800张640×640金属表面缺陷图像,涵盖裂纹、夹杂、斑块、凹坑、氧化皮、划痕6类典型缺陷,已按7:2:1划分训练/验证/测试集,标注规范(YOLO格式),适配YOLO、Faster R-CNN等模型,助力工业视觉检测研究与落地。
|
7月前
|
Java
ArrayList 的扩容机制解析
ArrayList扩容机制解析:添加元素时先检查容量,不足则触发扩容。默认初始容量为10,每次扩容1.5倍,通过数组拷贝实现,耗时O(n)。频繁扩容影响性能,建议预估容量并初始化指定大小,提升效率。