rtpdec: experimental VP9 depacketizer (draft 0)
[ffmpeg.git] / libavformat / rtpdec.c
1 /*
2  * RTP input format
3  * Copyright (c) 2002 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/mathematics.h"
23 #include "libavutil/avstring.h"
24 #include "libavutil/time.h"
25 #include "libavcodec/get_bits.h"
26 #include "avformat.h"
27 #include "network.h"
28 #include "srtp.h"
29 #include "url.h"
30 #include "rtpdec.h"
31 #include "rtpdec_formats.h"
32
33 #define MIN_FEEDBACK_INTERVAL 200000 /* 200 ms in us */
34
35 static RTPDynamicProtocolHandler gsm_dynamic_handler = {
36     .enc_name   = "GSM",
37     .codec_type = AVMEDIA_TYPE_AUDIO,
38     .codec_id   = AV_CODEC_ID_GSM,
39 };
40
41 static RTPDynamicProtocolHandler realmedia_mp3_dynamic_handler = {
42     .enc_name   = "X-MP3-draft-00",
43     .codec_type = AVMEDIA_TYPE_AUDIO,
44     .codec_id   = AV_CODEC_ID_MP3ADU,
45 };
46
47 static RTPDynamicProtocolHandler speex_dynamic_handler = {
48     .enc_name   = "speex",
49     .codec_type = AVMEDIA_TYPE_AUDIO,
50     .codec_id   = AV_CODEC_ID_SPEEX,
51 };
52
53 static RTPDynamicProtocolHandler opus_dynamic_handler = {
54     .enc_name   = "opus",
55     .codec_type = AVMEDIA_TYPE_AUDIO,
56     .codec_id   = AV_CODEC_ID_OPUS,
57 };
58
59 static RTPDynamicProtocolHandler ff_t140_dynamic_handler = {
60     .enc_name   = "t140",
61     .codec_type = AVMEDIA_TYPE_SUBTITLE,
62     .codec_id   = AV_CODEC_ID_SUBRIP,
63 };
64
65 static RTPDynamicProtocolHandler *rtp_first_dynamic_payload_handler = NULL;
66
67 void ff_register_dynamic_payload_handler(RTPDynamicProtocolHandler *handler)
68 {
69     handler->next = rtp_first_dynamic_payload_handler;
70     rtp_first_dynamic_payload_handler = handler;
71 }
72
73 void ff_register_rtp_dynamic_payload_handlers(void)
74 {
75     ff_register_dynamic_payload_handler(&ff_ac3_dynamic_handler);
76     ff_register_dynamic_payload_handler(&ff_amr_nb_dynamic_handler);
77     ff_register_dynamic_payload_handler(&ff_amr_wb_dynamic_handler);
78     ff_register_dynamic_payload_handler(&ff_g726_16_dynamic_handler);
79     ff_register_dynamic_payload_handler(&ff_g726_24_dynamic_handler);
80     ff_register_dynamic_payload_handler(&ff_g726_32_dynamic_handler);
81     ff_register_dynamic_payload_handler(&ff_g726_40_dynamic_handler);
82     ff_register_dynamic_payload_handler(&ff_h261_dynamic_handler);
83     ff_register_dynamic_payload_handler(&ff_h263_1998_dynamic_handler);
84     ff_register_dynamic_payload_handler(&ff_h263_2000_dynamic_handler);
85     ff_register_dynamic_payload_handler(&ff_h263_rfc2190_dynamic_handler);
86     ff_register_dynamic_payload_handler(&ff_h264_dynamic_handler);
87     ff_register_dynamic_payload_handler(&ff_hevc_dynamic_handler);
88     ff_register_dynamic_payload_handler(&ff_ilbc_dynamic_handler);
89     ff_register_dynamic_payload_handler(&ff_jpeg_dynamic_handler);
90     ff_register_dynamic_payload_handler(&ff_mp4a_latm_dynamic_handler);
91     ff_register_dynamic_payload_handler(&ff_mp4v_es_dynamic_handler);
92     ff_register_dynamic_payload_handler(&ff_mpeg_audio_dynamic_handler);
93     ff_register_dynamic_payload_handler(&ff_mpeg_audio_robust_dynamic_handler);
94     ff_register_dynamic_payload_handler(&ff_mpeg_video_dynamic_handler);
95     ff_register_dynamic_payload_handler(&ff_mpeg4_generic_dynamic_handler);
96     ff_register_dynamic_payload_handler(&ff_mpegts_dynamic_handler);
97     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfa_handler);
98     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfv_handler);
99     ff_register_dynamic_payload_handler(&ff_qcelp_dynamic_handler);
100     ff_register_dynamic_payload_handler(&ff_qdm2_dynamic_handler);
101     ff_register_dynamic_payload_handler(&ff_qt_rtp_aud_handler);
102     ff_register_dynamic_payload_handler(&ff_qt_rtp_vid_handler);
103     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_aud_handler);
104     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_vid_handler);
105     ff_register_dynamic_payload_handler(&ff_svq3_dynamic_handler);
106     ff_register_dynamic_payload_handler(&ff_t140_dynamic_handler);
107     ff_register_dynamic_payload_handler(&ff_theora_dynamic_handler);
108     ff_register_dynamic_payload_handler(&ff_vorbis_dynamic_handler);
109     ff_register_dynamic_payload_handler(&ff_vp8_dynamic_handler);
110     ff_register_dynamic_payload_handler(&ff_vp9_dynamic_handler);
111     ff_register_dynamic_payload_handler(&gsm_dynamic_handler);
112     ff_register_dynamic_payload_handler(&opus_dynamic_handler);
113     ff_register_dynamic_payload_handler(&realmedia_mp3_dynamic_handler);
114     ff_register_dynamic_payload_handler(&speex_dynamic_handler);
115 }
116
117 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_name(const char *name,
118                                                        enum AVMediaType codec_type)
119 {
120     RTPDynamicProtocolHandler *handler;
121     for (handler = rtp_first_dynamic_payload_handler;
122          handler; handler = handler->next)
123         if (!av_strcasecmp(name, handler->enc_name) &&
124             codec_type == handler->codec_type)
125             return handler;
126     return NULL;
127 }
128
129 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_id(int id,
130                                                      enum AVMediaType codec_type)
131 {
132     RTPDynamicProtocolHandler *handler;
133     for (handler = rtp_first_dynamic_payload_handler;
134          handler; handler = handler->next)
135         if (handler->static_payload_id && handler->static_payload_id == id &&
136             codec_type == handler->codec_type)
137             return handler;
138     return NULL;
139 }
140
141 static int rtcp_parse_packet(RTPDemuxContext *s, const unsigned char *buf,
142                              int len)
143 {
144     int payload_len;
145     while (len >= 4) {
146         payload_len = FFMIN(len, (AV_RB16(buf + 2) + 1) * 4);
147
148         switch (buf[1]) {
149         case RTCP_SR:
150             if (payload_len < 20) {
151                 av_log(NULL, AV_LOG_ERROR,
152                        "Invalid length for RTCP SR packet\n");
153                 return AVERROR_INVALIDDATA;
154             }
155
156             s->last_rtcp_reception_time = av_gettime_relative();
157             s->last_rtcp_ntp_time  = AV_RB64(buf + 8);
158             s->last_rtcp_timestamp = AV_RB32(buf + 16);
159             if (s->first_rtcp_ntp_time == AV_NOPTS_VALUE) {
160                 s->first_rtcp_ntp_time = s->last_rtcp_ntp_time;
161                 if (!s->base_timestamp)
162                     s->base_timestamp = s->last_rtcp_timestamp;
163                 s->rtcp_ts_offset = s->last_rtcp_timestamp - s->base_timestamp;
164             }
165
166             break;
167         case RTCP_BYE:
168             return -RTCP_BYE;
169         }
170
171         buf += payload_len;
172         len -= payload_len;
173     }
174     return -1;
175 }
176
177 #define RTP_SEQ_MOD (1 << 16)
178
179 static void rtp_init_statistics(RTPStatistics *s, uint16_t base_sequence)
180 {
181     memset(s, 0, sizeof(RTPStatistics));
182     s->max_seq   = base_sequence;
183     s->probation = 1;
184 }
185
186 /*
187  * Called whenever there is a large jump in sequence numbers,
188  * or when they get out of probation...
189  */
190 static void rtp_init_sequence(RTPStatistics *s, uint16_t seq)
191 {
192     s->max_seq        = seq;
193     s->cycles         = 0;
194     s->base_seq       = seq - 1;
195     s->bad_seq        = RTP_SEQ_MOD + 1;
196     s->received       = 0;
197     s->expected_prior = 0;
198     s->received_prior = 0;
199     s->jitter         = 0;
200     s->transit        = 0;
201 }
202
203 /* Returns 1 if we should handle this packet. */
204 static int rtp_valid_packet_in_sequence(RTPStatistics *s, uint16_t seq)
205 {
206     uint16_t udelta = seq - s->max_seq;
207     const int MAX_DROPOUT    = 3000;
208     const int MAX_MISORDER   = 100;
209     const int MIN_SEQUENTIAL = 2;
210
211     /* source not valid until MIN_SEQUENTIAL packets with sequence
212      * seq. numbers have been received */
213     if (s->probation) {
214         if (seq == s->max_seq + 1) {
215             s->probation--;
216             s->max_seq = seq;
217             if (s->probation == 0) {
218                 rtp_init_sequence(s, seq);
219                 s->received++;
220                 return 1;
221             }
222         } else {
223             s->probation = MIN_SEQUENTIAL - 1;
224             s->max_seq   = seq;
225         }
226     } else if (udelta < MAX_DROPOUT) {
227         // in order, with permissible gap
228         if (seq < s->max_seq) {
229             // sequence number wrapped; count another 64k cycles
230             s->cycles += RTP_SEQ_MOD;
231         }
232         s->max_seq = seq;
233     } else if (udelta <= RTP_SEQ_MOD - MAX_MISORDER) {
234         // sequence made a large jump...
235         if (seq == s->bad_seq) {
236             /* two sequential packets -- assume that the other side
237              * restarted without telling us; just resync. */
238             rtp_init_sequence(s, seq);
239         } else {
240             s->bad_seq = (seq + 1) & (RTP_SEQ_MOD - 1);
241             return 0;
242         }
243     } else {
244         // duplicate or reordered packet...
245     }
246     s->received++;
247     return 1;
248 }
249
250 static void rtcp_update_jitter(RTPStatistics *s, uint32_t sent_timestamp,
251                                uint32_t arrival_timestamp)
252 {
253     // Most of this is pretty straight from RFC 3550 appendix A.8
254     uint32_t transit = arrival_timestamp - sent_timestamp;
255     uint32_t prev_transit = s->transit;
256     int32_t d = transit - prev_transit;
257     // Doing the FFABS() call directly on the "transit - prev_transit"
258     // expression doesn't work, since it's an unsigned expression. Doing the
259     // transit calculation in unsigned is desired though, since it most
260     // probably will need to wrap around.
261     d = FFABS(d);
262     s->transit = transit;
263     if (!prev_transit)
264         return;
265     s->jitter += d - (int32_t) ((s->jitter + 8) >> 4);
266 }
267
268 int ff_rtp_check_and_send_back_rr(RTPDemuxContext *s, URLContext *fd,
269                                   AVIOContext *avio, int count)
270 {
271     AVIOContext *pb;
272     uint8_t *buf;
273     int len;
274     int rtcp_bytes;
275     RTPStatistics *stats = &s->statistics;
276     uint32_t lost;
277     uint32_t extended_max;
278     uint32_t expected_interval;
279     uint32_t received_interval;
280     int32_t  lost_interval;
281     uint32_t expected;
282     uint32_t fraction;
283
284     if ((!fd && !avio) || (count < 1))
285         return -1;
286
287     /* TODO: I think this is way too often; RFC 1889 has algorithm for this */
288     /* XXX: MPEG pts hardcoded. RTCP send every 0.5 seconds */
289     s->octet_count += count;
290     rtcp_bytes = ((s->octet_count - s->last_octet_count) * RTCP_TX_RATIO_NUM) /
291         RTCP_TX_RATIO_DEN;
292     rtcp_bytes /= 50; // mmu_man: that's enough for me... VLC sends much less btw !?
293     if (rtcp_bytes < 28)
294         return -1;
295     s->last_octet_count = s->octet_count;
296
297     if (!fd)
298         pb = avio;
299     else if (avio_open_dyn_buf(&pb) < 0)
300         return -1;
301
302     // Receiver Report
303     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
304     avio_w8(pb, RTCP_RR);
305     avio_wb16(pb, 7); /* length in words - 1 */
306     // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
307     avio_wb32(pb, s->ssrc + 1);
308     avio_wb32(pb, s->ssrc); // server SSRC
309     // some placeholders we should really fill...
310     // RFC 1889/p64
311     extended_max          = stats->cycles + stats->max_seq;
312     expected              = extended_max - stats->base_seq;
313     lost                  = expected - stats->received;
314     lost                  = FFMIN(lost, 0xffffff); // clamp it since it's only 24 bits...
315     expected_interval     = expected - stats->expected_prior;
316     stats->expected_prior = expected;
317     received_interval     = stats->received - stats->received_prior;
318     stats->received_prior = stats->received;
319     lost_interval         = expected_interval - received_interval;
320     if (expected_interval == 0 || lost_interval <= 0)
321         fraction = 0;
322     else
323         fraction = (lost_interval << 8) / expected_interval;
324
325     fraction = (fraction << 24) | lost;
326
327     avio_wb32(pb, fraction); /* 8 bits of fraction, 24 bits of total packets lost */
328     avio_wb32(pb, extended_max); /* max sequence received */
329     avio_wb32(pb, stats->jitter >> 4); /* jitter */
330
331     if (s->last_rtcp_ntp_time == AV_NOPTS_VALUE) {
332         avio_wb32(pb, 0); /* last SR timestamp */
333         avio_wb32(pb, 0); /* delay since last SR */
334     } else {
335         uint32_t middle_32_bits   = s->last_rtcp_ntp_time >> 16; // this is valid, right? do we need to handle 64 bit values special?
336         uint32_t delay_since_last = av_rescale(av_gettime_relative() - s->last_rtcp_reception_time,
337                                                65536, AV_TIME_BASE);
338
339         avio_wb32(pb, middle_32_bits); /* last SR timestamp */
340         avio_wb32(pb, delay_since_last); /* delay since last SR */
341     }
342
343     // CNAME
344     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
345     avio_w8(pb, RTCP_SDES);
346     len = strlen(s->hostname);
347     avio_wb16(pb, (7 + len + 3) / 4); /* length in words - 1 */
348     avio_wb32(pb, s->ssrc + 1);
349     avio_w8(pb, 0x01);
350     avio_w8(pb, len);
351     avio_write(pb, s->hostname, len);
352     avio_w8(pb, 0); /* END */
353     // padding
354     for (len = (7 + len) % 4; len % 4; len++)
355         avio_w8(pb, 0);
356
357     avio_flush(pb);
358     if (!fd)
359         return 0;
360     len = avio_close_dyn_buf(pb, &buf);
361     if ((len > 0) && buf) {
362         int av_unused result;
363         av_dlog(s->ic, "sending %d bytes of RR\n", len);
364         result = ffurl_write(fd, buf, len);
365         av_dlog(s->ic, "result from ffurl_write: %d\n", result);
366         av_free(buf);
367     }
368     return 0;
369 }
370
371 void ff_rtp_send_punch_packets(URLContext *rtp_handle)
372 {
373     AVIOContext *pb;
374     uint8_t *buf;
375     int len;
376
377     /* Send a small RTP packet */
378     if (avio_open_dyn_buf(&pb) < 0)
379         return;
380
381     avio_w8(pb, (RTP_VERSION << 6));
382     avio_w8(pb, 0); /* Payload type */
383     avio_wb16(pb, 0); /* Seq */
384     avio_wb32(pb, 0); /* Timestamp */
385     avio_wb32(pb, 0); /* SSRC */
386
387     avio_flush(pb);
388     len = avio_close_dyn_buf(pb, &buf);
389     if ((len > 0) && buf)
390         ffurl_write(rtp_handle, buf, len);
391     av_free(buf);
392
393     /* Send a minimal RTCP RR */
394     if (avio_open_dyn_buf(&pb) < 0)
395         return;
396
397     avio_w8(pb, (RTP_VERSION << 6));
398     avio_w8(pb, RTCP_RR); /* receiver report */
399     avio_wb16(pb, 1); /* length in words - 1 */
400     avio_wb32(pb, 0); /* our own SSRC */
401
402     avio_flush(pb);
403     len = avio_close_dyn_buf(pb, &buf);
404     if ((len > 0) && buf)
405         ffurl_write(rtp_handle, buf, len);
406     av_free(buf);
407 }
408
409 static int find_missing_packets(RTPDemuxContext *s, uint16_t *first_missing,
410                                 uint16_t *missing_mask)
411 {
412     int i;
413     uint16_t next_seq = s->seq + 1;
414     RTPPacket *pkt = s->queue;
415
416     if (!pkt || pkt->seq == next_seq)
417         return 0;
418
419     *missing_mask = 0;
420     for (i = 1; i <= 16; i++) {
421         uint16_t missing_seq = next_seq + i;
422         while (pkt) {
423             int16_t diff = pkt->seq - missing_seq;
424             if (diff >= 0)
425                 break;
426             pkt = pkt->next;
427         }
428         if (!pkt)
429             break;
430         if (pkt->seq == missing_seq)
431             continue;
432         *missing_mask |= 1 << (i - 1);
433     }
434
435     *first_missing = next_seq;
436     return 1;
437 }
438
439 int ff_rtp_send_rtcp_feedback(RTPDemuxContext *s, URLContext *fd,
440                               AVIOContext *avio)
441 {
442     int len, need_keyframe, missing_packets;
443     AVIOContext *pb;
444     uint8_t *buf;
445     int64_t now;
446     uint16_t first_missing = 0, missing_mask = 0;
447
448     if (!fd && !avio)
449         return -1;
450
451     need_keyframe = s->handler && s->handler->need_keyframe &&
452                     s->handler->need_keyframe(s->dynamic_protocol_context);
453     missing_packets = find_missing_packets(s, &first_missing, &missing_mask);
454
455     if (!need_keyframe && !missing_packets)
456         return 0;
457
458     /* Send new feedback if enough time has elapsed since the last
459      * feedback packet. */
460
461     now = av_gettime_relative();
462     if (s->last_feedback_time &&
463         (now - s->last_feedback_time) < MIN_FEEDBACK_INTERVAL)
464         return 0;
465     s->last_feedback_time = now;
466
467     if (!fd)
468         pb = avio;
469     else if (avio_open_dyn_buf(&pb) < 0)
470         return -1;
471
472     if (need_keyframe) {
473         avio_w8(pb, (RTP_VERSION << 6) | 1); /* PLI */
474         avio_w8(pb, RTCP_PSFB);
475         avio_wb16(pb, 2); /* length in words - 1 */
476         // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
477         avio_wb32(pb, s->ssrc + 1);
478         avio_wb32(pb, s->ssrc); // server SSRC
479     }
480
481     if (missing_packets) {
482         avio_w8(pb, (RTP_VERSION << 6) | 1); /* NACK */
483         avio_w8(pb, RTCP_RTPFB);
484         avio_wb16(pb, 3); /* length in words - 1 */
485         avio_wb32(pb, s->ssrc + 1);
486         avio_wb32(pb, s->ssrc); // server SSRC
487
488         avio_wb16(pb, first_missing);
489         avio_wb16(pb, missing_mask);
490     }
491
492     avio_flush(pb);
493     if (!fd)
494         return 0;
495     len = avio_close_dyn_buf(pb, &buf);
496     if (len > 0 && buf) {
497         ffurl_write(fd, buf, len);
498         av_free(buf);
499     }
500     return 0;
501 }
502
503 /**
504  * open a new RTP parse context for stream 'st'. 'st' can be NULL for
505  * MPEG2-TS streams.
506  */
507 RTPDemuxContext *ff_rtp_parse_open(AVFormatContext *s1, AVStream *st,
508                                    int payload_type, int queue_size)
509 {
510     RTPDemuxContext *s;
511
512     s = av_mallocz(sizeof(RTPDemuxContext));
513     if (!s)
514         return NULL;
515     s->payload_type        = payload_type;
516     s->last_rtcp_ntp_time  = AV_NOPTS_VALUE;
517     s->first_rtcp_ntp_time = AV_NOPTS_VALUE;
518     s->ic                  = s1;
519     s->st                  = st;
520     s->queue_size          = queue_size;
521     rtp_init_statistics(&s->statistics, 0);
522     if (st) {
523         switch (st->codec->codec_id) {
524         case AV_CODEC_ID_ADPCM_G722:
525             /* According to RFC 3551, the stream clock rate is 8000
526              * even if the sample rate is 16000. */
527             if (st->codec->sample_rate == 8000)
528                 st->codec->sample_rate = 16000;
529             break;
530         default:
531             break;
532         }
533     }
534     // needed to send back RTCP RR in RTSP sessions
535     gethostname(s->hostname, sizeof(s->hostname));
536     return s;
537 }
538
539 void ff_rtp_parse_set_dynamic_protocol(RTPDemuxContext *s, PayloadContext *ctx,
540                                        RTPDynamicProtocolHandler *handler)
541 {
542     s->dynamic_protocol_context = ctx;
543     s->handler                  = handler;
544 }
545
546 void ff_rtp_parse_set_crypto(RTPDemuxContext *s, const char *suite,
547                              const char *params)
548 {
549     if (!ff_srtp_set_crypto(&s->srtp, suite, params))
550         s->srtp_enabled = 1;
551 }
552
553 /**
554  * This was the second switch in rtp_parse packet.
555  * Normalizes time, if required, sets stream_index, etc.
556  */
557 static void finalize_packet(RTPDemuxContext *s, AVPacket *pkt, uint32_t timestamp)
558 {
559     if (pkt->pts != AV_NOPTS_VALUE || pkt->dts != AV_NOPTS_VALUE)
560         return; /* Timestamp already set by depacketizer */
561     if (timestamp == RTP_NOTS_VALUE)
562         return;
563
564     if (s->last_rtcp_ntp_time != AV_NOPTS_VALUE && s->ic->nb_streams > 1) {
565         int64_t addend;
566         int delta_timestamp;
567
568         /* compute pts from timestamp with received ntp_time */
569         delta_timestamp = timestamp - s->last_rtcp_timestamp;
570         /* convert to the PTS timebase */
571         addend = av_rescale(s->last_rtcp_ntp_time - s->first_rtcp_ntp_time,
572                             s->st->time_base.den,
573                             (uint64_t) s->st->time_base.num << 32);
574         pkt->pts = s->range_start_offset + s->rtcp_ts_offset + addend +
575                    delta_timestamp;
576         return;
577     }
578
579     if (!s->base_timestamp)
580         s->base_timestamp = timestamp;
581     /* assume that the difference is INT32_MIN < x < INT32_MAX,
582      * but allow the first timestamp to exceed INT32_MAX */
583     if (!s->timestamp)
584         s->unwrapped_timestamp += timestamp;
585     else
586         s->unwrapped_timestamp += (int32_t)(timestamp - s->timestamp);
587     s->timestamp = timestamp;
588     pkt->pts     = s->unwrapped_timestamp + s->range_start_offset -
589                    s->base_timestamp;
590 }
591
592 static int rtp_parse_packet_internal(RTPDemuxContext *s, AVPacket *pkt,
593                                      const uint8_t *buf, int len)
594 {
595     unsigned int ssrc;
596     int payload_type, seq, flags = 0;
597     int ext, csrc;
598     AVStream *st;
599     uint32_t timestamp;
600     int rv = 0;
601
602     csrc         = buf[0] & 0x0f;
603     ext          = buf[0] & 0x10;
604     payload_type = buf[1] & 0x7f;
605     if (buf[1] & 0x80)
606         flags |= RTP_FLAG_MARKER;
607     seq       = AV_RB16(buf + 2);
608     timestamp = AV_RB32(buf + 4);
609     ssrc      = AV_RB32(buf + 8);
610     /* store the ssrc in the RTPDemuxContext */
611     s->ssrc = ssrc;
612
613     /* NOTE: we can handle only one payload type */
614     if (s->payload_type != payload_type)
615         return -1;
616
617     st = s->st;
618     // only do something with this if all the rtp checks pass...
619     if (!rtp_valid_packet_in_sequence(&s->statistics, seq)) {
620         av_log(st ? st->codec : NULL, AV_LOG_ERROR,
621                "RTP: PT=%02x: bad cseq %04x expected=%04x\n",
622                payload_type, seq, ((s->seq + 1) & 0xffff));
623         return -1;
624     }
625
626     if (buf[0] & 0x20) {
627         int padding = buf[len - 1];
628         if (len >= 12 + padding)
629             len -= padding;
630     }
631
632     s->seq = seq;
633     len   -= 12;
634     buf   += 12;
635
636     len   -= 4 * csrc;
637     buf   += 4 * csrc;
638     if (len < 0)
639         return AVERROR_INVALIDDATA;
640
641     /* RFC 3550 Section 5.3.1 RTP Header Extension handling */
642     if (ext) {
643         if (len < 4)
644             return -1;
645         /* calculate the header extension length (stored as number
646          * of 32-bit words) */
647         ext = (AV_RB16(buf + 2) + 1) << 2;
648
649         if (len < ext)
650             return -1;
651         // skip past RTP header extension
652         len -= ext;
653         buf += ext;
654     }
655
656     if (s->handler && s->handler->parse_packet) {
657         rv = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
658                                       s->st, pkt, &timestamp, buf, len, seq,
659                                       flags);
660     } else if (st) {
661         if ((rv = av_new_packet(pkt, len)) < 0)
662             return rv;
663         memcpy(pkt->data, buf, len);
664         pkt->stream_index = st->index;
665     } else {
666         return AVERROR(EINVAL);
667     }
668
669     // now perform timestamp things....
670     finalize_packet(s, pkt, timestamp);
671
672     return rv;
673 }
674
675 void ff_rtp_reset_packet_queue(RTPDemuxContext *s)
676 {
677     while (s->queue) {
678         RTPPacket *next = s->queue->next;
679         av_freep(&s->queue->buf);
680         av_freep(&s->queue);
681         s->queue = next;
682     }
683     s->seq       = 0;
684     s->queue_len = 0;
685     s->prev_ret  = 0;
686 }
687
688 static void enqueue_packet(RTPDemuxContext *s, uint8_t *buf, int len)
689 {
690     uint16_t seq   = AV_RB16(buf + 2);
691     RTPPacket **cur = &s->queue, *packet;
692
693     /* Find the correct place in the queue to insert the packet */
694     while (*cur) {
695         int16_t diff = seq - (*cur)->seq;
696         if (diff < 0)
697             break;
698         cur = &(*cur)->next;
699     }
700
701     packet = av_mallocz(sizeof(*packet));
702     if (!packet)
703         return;
704     packet->recvtime = av_gettime_relative();
705     packet->seq      = seq;
706     packet->len      = len;
707     packet->buf      = buf;
708     packet->next     = *cur;
709     *cur = packet;
710     s->queue_len++;
711 }
712
713 static int has_next_packet(RTPDemuxContext *s)
714 {
715     return s->queue && s->queue->seq == (uint16_t) (s->seq + 1);
716 }
717
718 int64_t ff_rtp_queued_packet_time(RTPDemuxContext *s)
719 {
720     return s->queue ? s->queue->recvtime : 0;
721 }
722
723 static int rtp_parse_queued_packet(RTPDemuxContext *s, AVPacket *pkt)
724 {
725     int rv;
726     RTPPacket *next;
727
728     if (s->queue_len <= 0)
729         return -1;
730
731     if (!has_next_packet(s))
732         av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
733                "RTP: missed %d packets\n", s->queue->seq - s->seq - 1);
734
735     /* Parse the first packet in the queue, and dequeue it */
736     rv   = rtp_parse_packet_internal(s, pkt, s->queue->buf, s->queue->len);
737     next = s->queue->next;
738     av_freep(&s->queue->buf);
739     av_freep(&s->queue);
740     s->queue = next;
741     s->queue_len--;
742     return rv;
743 }
744
745 static int rtp_parse_one_packet(RTPDemuxContext *s, AVPacket *pkt,
746                                 uint8_t **bufptr, int len)
747 {
748     uint8_t *buf = bufptr ? *bufptr : NULL;
749     int flags = 0;
750     uint32_t timestamp;
751     int rv = 0;
752
753     if (!buf) {
754         /* If parsing of the previous packet actually returned 0 or an error,
755          * there's nothing more to be parsed from that packet, but we may have
756          * indicated that we can return the next enqueued packet. */
757         if (s->prev_ret <= 0)
758             return rtp_parse_queued_packet(s, pkt);
759         /* return the next packets, if any */
760         if (s->handler && s->handler->parse_packet) {
761             /* timestamp should be overwritten by parse_packet, if not,
762              * the packet is left with pts == AV_NOPTS_VALUE */
763             timestamp = RTP_NOTS_VALUE;
764             rv        = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
765                                                  s->st, pkt, &timestamp, NULL, 0, 0,
766                                                  flags);
767             finalize_packet(s, pkt, timestamp);
768             return rv;
769         }
770     }
771
772     if (len < 12)
773         return -1;
774
775     if ((buf[0] & 0xc0) != (RTP_VERSION << 6))
776         return -1;
777     if (RTP_PT_IS_RTCP(buf[1])) {
778         return rtcp_parse_packet(s, buf, len);
779     }
780
781     if (s->st) {
782         int64_t received = av_gettime_relative();
783         uint32_t arrival_ts = av_rescale_q(received, AV_TIME_BASE_Q,
784                                            s->st->time_base);
785         timestamp = AV_RB32(buf + 4);
786         // Calculate the jitter immediately, before queueing the packet
787         // into the reordering queue.
788         rtcp_update_jitter(&s->statistics, timestamp, arrival_ts);
789     }
790
791     if ((s->seq == 0 && !s->queue) || s->queue_size <= 1) {
792         /* First packet, or no reordering */
793         return rtp_parse_packet_internal(s, pkt, buf, len);
794     } else {
795         uint16_t seq = AV_RB16(buf + 2);
796         int16_t diff = seq - s->seq;
797         if (diff < 0) {
798             /* Packet older than the previously emitted one, drop */
799             av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
800                    "RTP: dropping old packet received too late\n");
801             return -1;
802         } else if (diff <= 1) {
803             /* Correct packet */
804             rv = rtp_parse_packet_internal(s, pkt, buf, len);
805             return rv;
806         } else {
807             /* Still missing some packet, enqueue this one. */
808             enqueue_packet(s, buf, len);
809             *bufptr = NULL;
810             /* Return the first enqueued packet if the queue is full,
811              * even if we're missing something */
812             if (s->queue_len >= s->queue_size)
813                 return rtp_parse_queued_packet(s, pkt);
814             return -1;
815         }
816     }
817 }
818
819 /**
820  * Parse an RTP or RTCP packet directly sent as a buffer.
821  * @param s RTP parse context.
822  * @param pkt returned packet
823  * @param bufptr pointer to the input buffer or NULL to read the next packets
824  * @param len buffer len
825  * @return 0 if a packet is returned, 1 if a packet is returned and more can follow
826  * (use buf as NULL to read the next). -1 if no packet (error or no more packet).
827  */
828 int ff_rtp_parse_packet(RTPDemuxContext *s, AVPacket *pkt,
829                         uint8_t **bufptr, int len)
830 {
831     int rv;
832     if (s->srtp_enabled && bufptr && ff_srtp_decrypt(&s->srtp, *bufptr, &len) < 0)
833         return -1;
834     rv = rtp_parse_one_packet(s, pkt, bufptr, len);
835     s->prev_ret = rv;
836     while (rv == AVERROR(EAGAIN) && has_next_packet(s))
837         rv = rtp_parse_queued_packet(s, pkt);
838     return rv ? rv : has_next_packet(s);
839 }
840
841 void ff_rtp_parse_close(RTPDemuxContext *s)
842 {
843     ff_rtp_reset_packet_queue(s);
844     ff_srtp_free(&s->srtp);
845     av_free(s);
846 }
847
848 int ff_parse_fmtp(AVFormatContext *s,
849                   AVStream *stream, PayloadContext *data, const char *p,
850                   int (*parse_fmtp)(AVFormatContext *s,
851                                     AVStream *stream,
852                                     PayloadContext *data,
853                                     char *attr, char *value))
854 {
855     char attr[256];
856     char *value;
857     int res;
858     int value_size = strlen(p) + 1;
859
860     if (!(value = av_malloc(value_size))) {
861         av_log(NULL, AV_LOG_ERROR, "Failed to allocate data for FMTP.\n");
862         return AVERROR(ENOMEM);
863     }
864
865     // remove protocol identifier
866     while (*p && *p == ' ')
867         p++;                     // strip spaces
868     while (*p && *p != ' ')
869         p++;                     // eat protocol identifier
870     while (*p && *p == ' ')
871         p++;                     // strip trailing spaces
872
873     while (ff_rtsp_next_attr_and_value(&p,
874                                        attr, sizeof(attr),
875                                        value, value_size)) {
876         res = parse_fmtp(s, stream, data, attr, value);
877         if (res < 0 && res != AVERROR_PATCHWELCOME) {
878             av_free(value);
879             return res;
880         }
881     }
882     av_free(value);
883     return 0;
884 }
885
886 int ff_rtp_finalize_packet(AVPacket *pkt, AVIOContext **dyn_buf, int stream_idx)
887 {
888     int ret;
889     av_init_packet(pkt);
890
891     pkt->size         = avio_close_dyn_buf(*dyn_buf, &pkt->data);
892     pkt->stream_index = stream_idx;
893     *dyn_buf = NULL;
894     if ((ret = av_packet_from_data(pkt, pkt->data, pkt->size)) < 0) {
895         av_freep(&pkt->data);
896         return ret;
897     }
898     return pkt->size;
899 }