在做视频时,发现有时丢包很严重。当然,头目甲提拔的研发总监李某,根本就没有解决难题的想法。所以,这个问题只能是吾解决了。终端使用的是doubango,吾研究了代码,先后设计了两个方案,做了大量改动。如有兴趣,可以详细了解。
首先是自己管理丢包功能。本来这个方案也是可行的,适用于P2P模式。而李某只做了服务器转发,转发时会更改RTSP报文的信息,进而导致服务器拒绝发送报文。这个方案测试之后只能放弃。
后来吾在代码中发现,已经有处理丢包的代码。吾仔细研究之后,搞明白了,当然也是很简单的处理办法。经过深入分析,吾搞了一套完备的丢包处理。看看tdav_session_video.c中,吾修改的一个函数,说明如下:
// From jitter buffer to codec static int _tdav_session_video_jb_cb(const tdav_video_jb_cb_data_xt* data) { tdav_session_video_t* video = (tdav_session_video_t*)data->usr_data; tdav_session_av_t* base = (tdav_session_av_t*)data->usr_data; tmedia_session_t* session = (tmedia_session_t*)data->usr_data; switch (data->type) { default: break; case tdav_video_jb_cb_data_type_rtp: { return _tdav_session_video_decode(video, data->rtp.pkt); } case tdav_video_jb_cb_data_type_tmfr: { base->time_last_frame_loss_report = tsk_time_now(); _tdav_session_video_local_request_idr(session, "TMFR", data->ssrc); } case tdav_video_jb_cb_data_type_fl: { base->time_last_frame_loss_report = tsk_time_now(); if(data->fl.count > TDAV_SESSION_VIDEO_PKT_LOSS_MAX_COUNT_TO_REQUEST_FIR) { _tdav_session_video_local_request_idr(session, "TMFR", data->ssrc); } else if (base->avpf_mode_neg || base->is_fb_nack_neg) { // AVPF? if (data->lost_pkt_info_list) { //想了想,还是暂时不公开。等……再说。 } /*else if (data->fl.count > 0) { // 这个代码我看明白了。 // 每16个为一组进行发送。 // i 进行分组, // k 是分组中的变量, // j 是每组的数量。 // Send RTCP-NACK tsk_size_t i, j, k; uint16_t seq_nums[16]; for (i = 0; i < data->fl.count; i+=16) { for(j = 0, k = i; j < 16 && k < data->fl.count; ++j, ++k) { seq_nums[j] = (uint16_t)(data->fl.seq_num + i + j); TSK_DEBUG_INFO("Request re-send(%u)", seq_nums[j]); } trtp_manager_signal_pkt_loss(base->rtp_manager, data->ssrc, seq_nums, j); } }*/ } break; } case tdav_video_jb_cb_data_type_fps_changed: { if (base->congestion_ctrl_enabled) { video->fps_changed = tsk_true; if (video->decoder.codec) { TSK_DEBUG_INFO("Congestion control enabled and fps updated from %u to %u", data->fps.old, data->fps.new); TMEDIA_CODEC_VIDEO(video->decoder.codec)->in.fps = data->fps.new; } tsk_mutex_lock(video->h_mutex_qos); session->qos_metrics.video_in_avg_fps = (session->qos_metrics.video_in_avg_fps + data->fps.new) / (video->in_avg_fps_n++ ? 2 : 1); tsk_mutex_unlock(video->h_mutex_qos); } break; } } return 0; }
在tdav_video_jb.c中,吾重新设计了丢包的判断、保存,然后再通过这里发送。
那么改进效果如何?效果极为明显。丢包30%时画面都可以接受。吾还专门进行了统计、显示。在南昌进行投标演示的时候,在视频画面上显示出来,这样画面变差时很令人信服。
这个只是丢包检测完成后的重发请求。其实还有大量的修改。