[✔️]FFMpeg的音频处理

简介: [✔️]FFMpeg的音频处理

PCM


PCM全称Pulse-Code Modulation,脉冲调制编码。是未经压缩的音频采样数据裸流,由模拟信号经过采样、量化、编码转换成的标准数字音频数据。


描述PCM的6个参数:


  1. Sample Rate


采样频率。8kHz(电话)、44.1kHz(CD)、48kHz(DVD)。


  1. Sample Size


量化位数。通常该值为16-bit。


  1. Number of Channels


通道个数。常见的音频有立体声(stereo)和单声道(mono)两种类型,立体声包含左声道和右声道。另外还有环绕立体声等其它不太常用的类型。


  1. Sign


表示样本数据是否是有符号位,比如用一字节表示的样本数据,有符号的话表示范围为-128 ~ 127,无符号是0 ~ 255。


  1. Byte Ordering字节序。字节序是little-endian还是big-endian。通常均为little-endian。


  1. Integer Or Floating Point整形或浮点型。大多数格式的PCM样本数据使用整形表示,而在一些对精度要求高的应用方面,使用浮点类型表示PCM样本数据。


image.png


经ffmpeg解码的音频帧一般会有多个pcm采样数据(AVFrame->nb_samples),AAC_LC为1024,根据采样数据的布局和格式,我们可以算出每个帧中采样数据的内存占用


双声道AV_CH_LAYOUT_STEREO 布局,采样格式AV_SAMPLE_FMT_S16,一个AAC_LC帧采样数据占用 2*(16/8)*1024 =4096字节


对于采样率为44100Hz,一个音频帧的播放时间为 1024/44100 ≈ 23.22ms。


av_rescale_rnd


int64_t av_rescale_rnd(int64_t a, int64_t b, int64_t c, enum AVRounding rnd) av_const;


计算 "a * b / c" 的值并分五种方式来取整 一般的使用方法


int dstNbSamples = av_rescale_rnd(
    frame->nb_samples, codecContext->sample_rate,
    codecContext->sample_rate, AV_ROUND_UP);


这个计算的是新的采样数量2:采样数量1*采样频率1/采样频率2


采样数量*采样频率=一帧的采样数量


av_samples_get_buffer_size


这个函数只能用于音频,计算要把一系列的样本保存起来,需要多大的缓存


int av_samples_get_buffer_size(
    int *linesize, // 
    int nb_channels, // 通道的数量
    int nb_samples, // 单个通道的采样数量
    enum AVSampleFormat sample_fmt, // 采样格式
    int align // 字节对齐,0默认,1不对齐
);


swr_convert


音频重新采样,解析出来的数据为pcm数据。


播放音频


ffplay也支持播放音频,但是它使用的是SDL


Windows



MciPlayer.cpp


mciSendCommand


mpg123


windows播放pcm的小例子


Android


非engine代码


  • AudioBufferProvider.h


  • AudioMixer.h


  • AudioMixerOps.h


  • AudioResampler.h


  • AudioResamplerCubic.h


  • AudioResamplerPublic.h


  • mp3reader.h


  • tinysndfile.h


播放 pcm 数据目前比较流行的有两种方式:


  • 一种是通过 Android 的 AudioTrack 来播放



  • openal: a cross-platform 3D audio API appropriate for use with gaming applications


  • sdl


SDL


SDL是 “Simple DirectMedia Layer”的缩写,SDL是一个开源的跨平台的多媒体库,封装了复杂的音视频底层操作,简化了音视频处理的难度。


Github


image.png

目录
相关文章
|
6月前
ffmpeg 命令提取音视频数据-ffmpeg导出h265裸流-ffmpeg导出h264裸流
ffmpeg 命令提取音视频数据-ffmpeg导出h265裸流-ffmpeg导出h264裸流
178 0
|
1月前
|
Android开发 开发者
FFmpeg开发笔记(五十七)使用Media3的Transformer加工视频文件
谷歌推出的Transformer,作为Jetpack Media3架构的一部分,助力开发者实现音视频格式转换与编辑。Media3简化了媒体处理流程,提升了定制性和可靠性。Transformer可用于剪辑、添加滤镜等操作,其示例代码可在指定GitHub仓库中找到。要使用Transformer,需在`build.gradle`中添加相关依赖,并按文档编写处理逻辑,最终完成音视频转换任务。具体步骤包括配置剪辑参数、设置空间效果以及监听转换事件等。
51 0
FFmpeg开发笔记(五十七)使用Media3的Transformer加工视频文件
|
2月前
|
Python Windows
moviepy:基于 ffmpeg 的视频处理模块
moviepy:基于 ffmpeg 的视频处理模块
26 0
|
6月前
FFmpeg开发笔记(十八)FFmpeg兼容各种音频格式的播放
《FFmpeg开发实战》一书中,第10章示例程序playaudio.c原本仅支持mp3和aac音频播放。为支持ogg、amr、wma等非固定帧率音频,需进行三处修改:1)当frame_size为0时,将输出采样数量设为512;2)遍历音频帧时,计算实际采样位数以确定播放数据大小;3)在SDL音频回调函数中,确保每次发送len字节数据。改进后的代码在chapter10/playaudio2.c,可编译运行播放ring.ogg测试,成功则显示日志并播放铃声。
117 1
FFmpeg开发笔记(十八)FFmpeg兼容各种音频格式的播放
|
存储 内存技术
[✔️]FFMpeg视频处理
[✔️]FFMpeg视频处理
99 0
|
Unix Java Linux
[✔️]theora视频解码器
[✔️]theora视频解码器
126 0
|
API
[✔️]FFMpeg与视频的基础知识
[✔️]FFMpeg与视频的基础知识
102 0
|
编解码 Ubuntu Unix
[✔️]VLC编译
[✔️]VLC编译
187 0
|
缓存 编解码 API
FFmpeg开发笔记(八):ffmpeg解码音频并使用SDL同步音频播放
FFmpeg开发笔记(八):ffmpeg解码音频并使用SDL同步音频播放
FFmpeg开发笔记(八):ffmpeg解码音频并使用SDL同步音频播放
|
编解码 API
FFmpeg开发笔记(六):ffmpeg解码视频并使用SDL同步时间显示播放
FFmpeg开发笔记(六):ffmpeg解码视频并使用SDL同步时间显示播放
FFmpeg开发笔记(六):ffmpeg解码视频并使用SDL同步时间显示播放