libavformat: add robust MPEG audio depacketization (RFC 5219)
[ffmpeg.git] / libavformat / rtpdec.c
1 /*
2  * RTP input format
3  * Copyright (c) 2002 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/mathematics.h"
23 #include "libavutil/avstring.h"
24 #include "libavutil/time.h"
25 #include "libavcodec/get_bits.h"
26 #include "avformat.h"
27 #include "network.h"
28 #include "srtp.h"
29 #include "url.h"
30 #include "rtpdec.h"
31 #include "rtpdec_formats.h"
32
33 #define MIN_FEEDBACK_INTERVAL 200000 /* 200 ms in us */
34
35 static RTPDynamicProtocolHandler realmedia_mp3_dynamic_handler = {
36     .enc_name   = "X-MP3-draft-00",
37     .codec_type = AVMEDIA_TYPE_AUDIO,
38     .codec_id   = AV_CODEC_ID_MP3ADU,
39 };
40
41 static RTPDynamicProtocolHandler speex_dynamic_handler = {
42     .enc_name   = "speex",
43     .codec_type = AVMEDIA_TYPE_AUDIO,
44     .codec_id   = AV_CODEC_ID_SPEEX,
45 };
46
47 static RTPDynamicProtocolHandler opus_dynamic_handler = {
48     .enc_name   = "opus",
49     .codec_type = AVMEDIA_TYPE_AUDIO,
50     .codec_id   = AV_CODEC_ID_OPUS,
51 };
52
53 static RTPDynamicProtocolHandler *rtp_first_dynamic_payload_handler = NULL;
54
55 void ff_register_dynamic_payload_handler(RTPDynamicProtocolHandler *handler)
56 {
57     handler->next = rtp_first_dynamic_payload_handler;
58     rtp_first_dynamic_payload_handler = handler;
59 }
60
61 void ff_register_rtp_dynamic_payload_handlers(void)
62 {
63     ff_register_dynamic_payload_handler(&ff_ac3_dynamic_handler);
64     ff_register_dynamic_payload_handler(&ff_amr_nb_dynamic_handler);
65     ff_register_dynamic_payload_handler(&ff_amr_wb_dynamic_handler);
66     ff_register_dynamic_payload_handler(&ff_g726_16_dynamic_handler);
67     ff_register_dynamic_payload_handler(&ff_g726_24_dynamic_handler);
68     ff_register_dynamic_payload_handler(&ff_g726_32_dynamic_handler);
69     ff_register_dynamic_payload_handler(&ff_g726_40_dynamic_handler);
70     ff_register_dynamic_payload_handler(&ff_h261_dynamic_handler);
71     ff_register_dynamic_payload_handler(&ff_h263_1998_dynamic_handler);
72     ff_register_dynamic_payload_handler(&ff_h263_2000_dynamic_handler);
73     ff_register_dynamic_payload_handler(&ff_h263_rfc2190_dynamic_handler);
74     ff_register_dynamic_payload_handler(&ff_h264_dynamic_handler);
75     ff_register_dynamic_payload_handler(&ff_hevc_dynamic_handler);
76     ff_register_dynamic_payload_handler(&ff_ilbc_dynamic_handler);
77     ff_register_dynamic_payload_handler(&ff_jpeg_dynamic_handler);
78     ff_register_dynamic_payload_handler(&ff_mp4a_latm_dynamic_handler);
79     ff_register_dynamic_payload_handler(&ff_mp4v_es_dynamic_handler);
80     ff_register_dynamic_payload_handler(&ff_mpeg_audio_dynamic_handler);
81     ff_register_dynamic_payload_handler(&ff_mpeg_audio_robust_dynamic_handler);
82     ff_register_dynamic_payload_handler(&ff_mpeg_video_dynamic_handler);
83     ff_register_dynamic_payload_handler(&ff_mpeg4_generic_dynamic_handler);
84     ff_register_dynamic_payload_handler(&ff_mpegts_dynamic_handler);
85     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfa_handler);
86     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfv_handler);
87     ff_register_dynamic_payload_handler(&ff_qcelp_dynamic_handler);
88     ff_register_dynamic_payload_handler(&ff_qdm2_dynamic_handler);
89     ff_register_dynamic_payload_handler(&ff_qt_rtp_aud_handler);
90     ff_register_dynamic_payload_handler(&ff_qt_rtp_vid_handler);
91     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_aud_handler);
92     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_vid_handler);
93     ff_register_dynamic_payload_handler(&ff_svq3_dynamic_handler);
94     ff_register_dynamic_payload_handler(&ff_theora_dynamic_handler);
95     ff_register_dynamic_payload_handler(&ff_vorbis_dynamic_handler);
96     ff_register_dynamic_payload_handler(&ff_vp8_dynamic_handler);
97     ff_register_dynamic_payload_handler(&opus_dynamic_handler);
98     ff_register_dynamic_payload_handler(&realmedia_mp3_dynamic_handler);
99     ff_register_dynamic_payload_handler(&speex_dynamic_handler);
100 }
101
102 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_name(const char *name,
103                                                        enum AVMediaType codec_type)
104 {
105     RTPDynamicProtocolHandler *handler;
106     for (handler = rtp_first_dynamic_payload_handler;
107          handler; handler = handler->next)
108         if (!av_strcasecmp(name, handler->enc_name) &&
109             codec_type == handler->codec_type)
110             return handler;
111     return NULL;
112 }
113
114 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_id(int id,
115                                                      enum AVMediaType codec_type)
116 {
117     RTPDynamicProtocolHandler *handler;
118     for (handler = rtp_first_dynamic_payload_handler;
119          handler; handler = handler->next)
120         if (handler->static_payload_id && handler->static_payload_id == id &&
121             codec_type == handler->codec_type)
122             return handler;
123     return NULL;
124 }
125
126 static int rtcp_parse_packet(RTPDemuxContext *s, const unsigned char *buf,
127                              int len)
128 {
129     int payload_len;
130     while (len >= 4) {
131         payload_len = FFMIN(len, (AV_RB16(buf + 2) + 1) * 4);
132
133         switch (buf[1]) {
134         case RTCP_SR:
135             if (payload_len < 20) {
136                 av_log(NULL, AV_LOG_ERROR,
137                        "Invalid length for RTCP SR packet\n");
138                 return AVERROR_INVALIDDATA;
139             }
140
141             s->last_rtcp_reception_time = av_gettime_relative();
142             s->last_rtcp_ntp_time  = AV_RB64(buf + 8);
143             s->last_rtcp_timestamp = AV_RB32(buf + 16);
144             if (s->first_rtcp_ntp_time == AV_NOPTS_VALUE) {
145                 s->first_rtcp_ntp_time = s->last_rtcp_ntp_time;
146                 if (!s->base_timestamp)
147                     s->base_timestamp = s->last_rtcp_timestamp;
148                 s->rtcp_ts_offset = (int32_t)(s->last_rtcp_timestamp - s->base_timestamp);
149             }
150
151             break;
152         case RTCP_BYE:
153             return -RTCP_BYE;
154         }
155
156         buf += payload_len;
157         len -= payload_len;
158     }
159     return -1;
160 }
161
162 #define RTP_SEQ_MOD (1 << 16)
163
164 static void rtp_init_statistics(RTPStatistics *s, uint16_t base_sequence)
165 {
166     memset(s, 0, sizeof(RTPStatistics));
167     s->max_seq   = base_sequence;
168     s->probation = 1;
169 }
170
171 /*
172  * Called whenever there is a large jump in sequence numbers,
173  * or when they get out of probation...
174  */
175 static void rtp_init_sequence(RTPStatistics *s, uint16_t seq)
176 {
177     s->max_seq        = seq;
178     s->cycles         = 0;
179     s->base_seq       = seq - 1;
180     s->bad_seq        = RTP_SEQ_MOD + 1;
181     s->received       = 0;
182     s->expected_prior = 0;
183     s->received_prior = 0;
184     s->jitter         = 0;
185     s->transit        = 0;
186 }
187
188 /* Returns 1 if we should handle this packet. */
189 static int rtp_valid_packet_in_sequence(RTPStatistics *s, uint16_t seq)
190 {
191     uint16_t udelta = seq - s->max_seq;
192     const int MAX_DROPOUT    = 3000;
193     const int MAX_MISORDER   = 100;
194     const int MIN_SEQUENTIAL = 2;
195
196     /* source not valid until MIN_SEQUENTIAL packets with sequence
197      * seq. numbers have been received */
198     if (s->probation) {
199         if (seq == s->max_seq + 1) {
200             s->probation--;
201             s->max_seq = seq;
202             if (s->probation == 0) {
203                 rtp_init_sequence(s, seq);
204                 s->received++;
205                 return 1;
206             }
207         } else {
208             s->probation = MIN_SEQUENTIAL - 1;
209             s->max_seq   = seq;
210         }
211     } else if (udelta < MAX_DROPOUT) {
212         // in order, with permissible gap
213         if (seq < s->max_seq) {
214             // sequence number wrapped; count another 64k cycles
215             s->cycles += RTP_SEQ_MOD;
216         }
217         s->max_seq = seq;
218     } else if (udelta <= RTP_SEQ_MOD - MAX_MISORDER) {
219         // sequence made a large jump...
220         if (seq == s->bad_seq) {
221             /* two sequential packets -- assume that the other side
222              * restarted without telling us; just resync. */
223             rtp_init_sequence(s, seq);
224         } else {
225             s->bad_seq = (seq + 1) & (RTP_SEQ_MOD - 1);
226             return 0;
227         }
228     } else {
229         // duplicate or reordered packet...
230     }
231     s->received++;
232     return 1;
233 }
234
235 static void rtcp_update_jitter(RTPStatistics *s, uint32_t sent_timestamp,
236                                uint32_t arrival_timestamp)
237 {
238     // Most of this is pretty straight from RFC 3550 appendix A.8
239     uint32_t transit = arrival_timestamp - sent_timestamp;
240     uint32_t prev_transit = s->transit;
241     int32_t d = transit - prev_transit;
242     // Doing the FFABS() call directly on the "transit - prev_transit"
243     // expression doesn't work, since it's an unsigned expression. Doing the
244     // transit calculation in unsigned is desired though, since it most
245     // probably will need to wrap around.
246     d = FFABS(d);
247     s->transit = transit;
248     if (!prev_transit)
249         return;
250     s->jitter += d - (int32_t) ((s->jitter + 8) >> 4);
251 }
252
253 int ff_rtp_check_and_send_back_rr(RTPDemuxContext *s, URLContext *fd,
254                                   AVIOContext *avio, int count)
255 {
256     AVIOContext *pb;
257     uint8_t *buf;
258     int len;
259     int rtcp_bytes;
260     RTPStatistics *stats = &s->statistics;
261     uint32_t lost;
262     uint32_t extended_max;
263     uint32_t expected_interval;
264     uint32_t received_interval;
265     int32_t  lost_interval;
266     uint32_t expected;
267     uint32_t fraction;
268
269     if ((!fd && !avio) || (count < 1))
270         return -1;
271
272     /* TODO: I think this is way too often; RFC 1889 has algorithm for this */
273     /* XXX: MPEG pts hardcoded. RTCP send every 0.5 seconds */
274     s->octet_count += count;
275     rtcp_bytes = ((s->octet_count - s->last_octet_count) * RTCP_TX_RATIO_NUM) /
276         RTCP_TX_RATIO_DEN;
277     rtcp_bytes /= 50; // mmu_man: that's enough for me... VLC sends much less btw !?
278     if (rtcp_bytes < 28)
279         return -1;
280     s->last_octet_count = s->octet_count;
281
282     if (!fd)
283         pb = avio;
284     else if (avio_open_dyn_buf(&pb) < 0)
285         return -1;
286
287     // Receiver Report
288     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
289     avio_w8(pb, RTCP_RR);
290     avio_wb16(pb, 7); /* length in words - 1 */
291     // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
292     avio_wb32(pb, s->ssrc + 1);
293     avio_wb32(pb, s->ssrc); // server SSRC
294     // some placeholders we should really fill...
295     // RFC 1889/p64
296     extended_max          = stats->cycles + stats->max_seq;
297     expected              = extended_max - stats->base_seq;
298     lost                  = expected - stats->received;
299     lost                  = FFMIN(lost, 0xffffff); // clamp it since it's only 24 bits...
300     expected_interval     = expected - stats->expected_prior;
301     stats->expected_prior = expected;
302     received_interval     = stats->received - stats->received_prior;
303     stats->received_prior = stats->received;
304     lost_interval         = expected_interval - received_interval;
305     if (expected_interval == 0 || lost_interval <= 0)
306         fraction = 0;
307     else
308         fraction = (lost_interval << 8) / expected_interval;
309
310     fraction = (fraction << 24) | lost;
311
312     avio_wb32(pb, fraction); /* 8 bits of fraction, 24 bits of total packets lost */
313     avio_wb32(pb, extended_max); /* max sequence received */
314     avio_wb32(pb, stats->jitter >> 4); /* jitter */
315
316     if (s->last_rtcp_ntp_time == AV_NOPTS_VALUE) {
317         avio_wb32(pb, 0); /* last SR timestamp */
318         avio_wb32(pb, 0); /* delay since last SR */
319     } else {
320         uint32_t middle_32_bits   = s->last_rtcp_ntp_time >> 16; // this is valid, right? do we need to handle 64 bit values special?
321         uint32_t delay_since_last = av_rescale(av_gettime_relative() - s->last_rtcp_reception_time,
322                                                65536, AV_TIME_BASE);
323
324         avio_wb32(pb, middle_32_bits); /* last SR timestamp */
325         avio_wb32(pb, delay_since_last); /* delay since last SR */
326     }
327
328     // CNAME
329     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
330     avio_w8(pb, RTCP_SDES);
331     len = strlen(s->hostname);
332     avio_wb16(pb, (7 + len + 3) / 4); /* length in words - 1 */
333     avio_wb32(pb, s->ssrc + 1);
334     avio_w8(pb, 0x01);
335     avio_w8(pb, len);
336     avio_write(pb, s->hostname, len);
337     avio_w8(pb, 0); /* END */
338     // padding
339     for (len = (7 + len) % 4; len % 4; len++)
340         avio_w8(pb, 0);
341
342     avio_flush(pb);
343     if (!fd)
344         return 0;
345     len = avio_close_dyn_buf(pb, &buf);
346     if ((len > 0) && buf) {
347         int av_unused result;
348         av_dlog(s->ic, "sending %d bytes of RR\n", len);
349         result = ffurl_write(fd, buf, len);
350         av_dlog(s->ic, "result from ffurl_write: %d\n", result);
351         av_free(buf);
352     }
353     return 0;
354 }
355
356 void ff_rtp_send_punch_packets(URLContext *rtp_handle)
357 {
358     AVIOContext *pb;
359     uint8_t *buf;
360     int len;
361
362     /* Send a small RTP packet */
363     if (avio_open_dyn_buf(&pb) < 0)
364         return;
365
366     avio_w8(pb, (RTP_VERSION << 6));
367     avio_w8(pb, 0); /* Payload type */
368     avio_wb16(pb, 0); /* Seq */
369     avio_wb32(pb, 0); /* Timestamp */
370     avio_wb32(pb, 0); /* SSRC */
371
372     avio_flush(pb);
373     len = avio_close_dyn_buf(pb, &buf);
374     if ((len > 0) && buf)
375         ffurl_write(rtp_handle, buf, len);
376     av_free(buf);
377
378     /* Send a minimal RTCP RR */
379     if (avio_open_dyn_buf(&pb) < 0)
380         return;
381
382     avio_w8(pb, (RTP_VERSION << 6));
383     avio_w8(pb, RTCP_RR); /* receiver report */
384     avio_wb16(pb, 1); /* length in words - 1 */
385     avio_wb32(pb, 0); /* our own SSRC */
386
387     avio_flush(pb);
388     len = avio_close_dyn_buf(pb, &buf);
389     if ((len > 0) && buf)
390         ffurl_write(rtp_handle, buf, len);
391     av_free(buf);
392 }
393
394 static int find_missing_packets(RTPDemuxContext *s, uint16_t *first_missing,
395                                 uint16_t *missing_mask)
396 {
397     int i;
398     uint16_t next_seq = s->seq + 1;
399     RTPPacket *pkt = s->queue;
400
401     if (!pkt || pkt->seq == next_seq)
402         return 0;
403
404     *missing_mask = 0;
405     for (i = 1; i <= 16; i++) {
406         uint16_t missing_seq = next_seq + i;
407         while (pkt) {
408             int16_t diff = pkt->seq - missing_seq;
409             if (diff >= 0)
410                 break;
411             pkt = pkt->next;
412         }
413         if (!pkt)
414             break;
415         if (pkt->seq == missing_seq)
416             continue;
417         *missing_mask |= 1 << (i - 1);
418     }
419
420     *first_missing = next_seq;
421     return 1;
422 }
423
424 int ff_rtp_send_rtcp_feedback(RTPDemuxContext *s, URLContext *fd,
425                               AVIOContext *avio)
426 {
427     int len, need_keyframe, missing_packets;
428     AVIOContext *pb;
429     uint8_t *buf;
430     int64_t now;
431     uint16_t first_missing = 0, missing_mask = 0;
432
433     if (!fd && !avio)
434         return -1;
435
436     need_keyframe = s->handler && s->handler->need_keyframe &&
437                     s->handler->need_keyframe(s->dynamic_protocol_context);
438     missing_packets = find_missing_packets(s, &first_missing, &missing_mask);
439
440     if (!need_keyframe && !missing_packets)
441         return 0;
442
443     /* Send new feedback if enough time has elapsed since the last
444      * feedback packet. */
445
446     now = av_gettime_relative();
447     if (s->last_feedback_time &&
448         (now - s->last_feedback_time) < MIN_FEEDBACK_INTERVAL)
449         return 0;
450     s->last_feedback_time = now;
451
452     if (!fd)
453         pb = avio;
454     else if (avio_open_dyn_buf(&pb) < 0)
455         return -1;
456
457     if (need_keyframe) {
458         avio_w8(pb, (RTP_VERSION << 6) | 1); /* PLI */
459         avio_w8(pb, RTCP_PSFB);
460         avio_wb16(pb, 2); /* length in words - 1 */
461         // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
462         avio_wb32(pb, s->ssrc + 1);
463         avio_wb32(pb, s->ssrc); // server SSRC
464     }
465
466     if (missing_packets) {
467         avio_w8(pb, (RTP_VERSION << 6) | 1); /* NACK */
468         avio_w8(pb, RTCP_RTPFB);
469         avio_wb16(pb, 3); /* length in words - 1 */
470         avio_wb32(pb, s->ssrc + 1);
471         avio_wb32(pb, s->ssrc); // server SSRC
472
473         avio_wb16(pb, first_missing);
474         avio_wb16(pb, missing_mask);
475     }
476
477     avio_flush(pb);
478     if (!fd)
479         return 0;
480     len = avio_close_dyn_buf(pb, &buf);
481     if (len > 0 && buf) {
482         ffurl_write(fd, buf, len);
483         av_free(buf);
484     }
485     return 0;
486 }
487
488 /**
489  * open a new RTP parse context for stream 'st'. 'st' can be NULL for
490  * MPEG2-TS streams.
491  */
492 RTPDemuxContext *ff_rtp_parse_open(AVFormatContext *s1, AVStream *st,
493                                    int payload_type, int queue_size)
494 {
495     RTPDemuxContext *s;
496
497     s = av_mallocz(sizeof(RTPDemuxContext));
498     if (!s)
499         return NULL;
500     s->payload_type        = payload_type;
501     s->last_rtcp_ntp_time  = AV_NOPTS_VALUE;
502     s->first_rtcp_ntp_time = AV_NOPTS_VALUE;
503     s->ic                  = s1;
504     s->st                  = st;
505     s->queue_size          = queue_size;
506     rtp_init_statistics(&s->statistics, 0);
507     if (st) {
508         switch (st->codec->codec_id) {
509         case AV_CODEC_ID_ADPCM_G722:
510             /* According to RFC 3551, the stream clock rate is 8000
511              * even if the sample rate is 16000. */
512             if (st->codec->sample_rate == 8000)
513                 st->codec->sample_rate = 16000;
514             break;
515         default:
516             break;
517         }
518     }
519     // needed to send back RTCP RR in RTSP sessions
520     gethostname(s->hostname, sizeof(s->hostname));
521     return s;
522 }
523
524 void ff_rtp_parse_set_dynamic_protocol(RTPDemuxContext *s, PayloadContext *ctx,
525                                        RTPDynamicProtocolHandler *handler)
526 {
527     s->dynamic_protocol_context = ctx;
528     s->handler                  = handler;
529 }
530
531 void ff_rtp_parse_set_crypto(RTPDemuxContext *s, const char *suite,
532                              const char *params)
533 {
534     if (!ff_srtp_set_crypto(&s->srtp, suite, params))
535         s->srtp_enabled = 1;
536 }
537
538 /**
539  * This was the second switch in rtp_parse packet.
540  * Normalizes time, if required, sets stream_index, etc.
541  */
542 static void finalize_packet(RTPDemuxContext *s, AVPacket *pkt, uint32_t timestamp)
543 {
544     if (pkt->pts != AV_NOPTS_VALUE || pkt->dts != AV_NOPTS_VALUE)
545         return; /* Timestamp already set by depacketizer */
546     if (timestamp == RTP_NOTS_VALUE)
547         return;
548
549     if (s->last_rtcp_ntp_time != AV_NOPTS_VALUE && s->ic->nb_streams > 1) {
550         int64_t addend;
551         int delta_timestamp;
552
553         /* compute pts from timestamp with received ntp_time */
554         delta_timestamp = timestamp - s->last_rtcp_timestamp;
555         /* convert to the PTS timebase */
556         addend = av_rescale(s->last_rtcp_ntp_time - s->first_rtcp_ntp_time,
557                             s->st->time_base.den,
558                             (uint64_t) s->st->time_base.num << 32);
559         pkt->pts = s->range_start_offset + s->rtcp_ts_offset + addend +
560                    delta_timestamp;
561         return;
562     }
563
564     if (!s->base_timestamp)
565         s->base_timestamp = timestamp;
566     /* assume that the difference is INT32_MIN < x < INT32_MAX,
567      * but allow the first timestamp to exceed INT32_MAX */
568     if (!s->timestamp)
569         s->unwrapped_timestamp += timestamp;
570     else
571         s->unwrapped_timestamp += (int32_t)(timestamp - s->timestamp);
572     s->timestamp = timestamp;
573     pkt->pts     = s->unwrapped_timestamp + s->range_start_offset -
574                    s->base_timestamp;
575 }
576
577 static int rtp_parse_packet_internal(RTPDemuxContext *s, AVPacket *pkt,
578                                      const uint8_t *buf, int len)
579 {
580     unsigned int ssrc;
581     int payload_type, seq, flags = 0;
582     int ext, csrc;
583     AVStream *st;
584     uint32_t timestamp;
585     int rv = 0;
586
587     csrc         = buf[0] & 0x0f;
588     ext          = buf[0] & 0x10;
589     payload_type = buf[1] & 0x7f;
590     if (buf[1] & 0x80)
591         flags |= RTP_FLAG_MARKER;
592     seq       = AV_RB16(buf + 2);
593     timestamp = AV_RB32(buf + 4);
594     ssrc      = AV_RB32(buf + 8);
595     /* store the ssrc in the RTPDemuxContext */
596     s->ssrc = ssrc;
597
598     /* NOTE: we can handle only one payload type */
599     if (s->payload_type != payload_type)
600         return -1;
601
602     st = s->st;
603     // only do something with this if all the rtp checks pass...
604     if (!rtp_valid_packet_in_sequence(&s->statistics, seq)) {
605         av_log(st ? st->codec : NULL, AV_LOG_ERROR,
606                "RTP: PT=%02x: bad cseq %04x expected=%04x\n",
607                payload_type, seq, ((s->seq + 1) & 0xffff));
608         return -1;
609     }
610
611     if (buf[0] & 0x20) {
612         int padding = buf[len - 1];
613         if (len >= 12 + padding)
614             len -= padding;
615     }
616
617     s->seq = seq;
618     len   -= 12;
619     buf   += 12;
620
621     len   -= 4 * csrc;
622     buf   += 4 * csrc;
623     if (len < 0)
624         return AVERROR_INVALIDDATA;
625
626     /* RFC 3550 Section 5.3.1 RTP Header Extension handling */
627     if (ext) {
628         if (len < 4)
629             return -1;
630         /* calculate the header extension length (stored as number
631          * of 32-bit words) */
632         ext = (AV_RB16(buf + 2) + 1) << 2;
633
634         if (len < ext)
635             return -1;
636         // skip past RTP header extension
637         len -= ext;
638         buf += ext;
639     }
640
641     if (s->handler && s->handler->parse_packet) {
642         rv = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
643                                       s->st, pkt, &timestamp, buf, len, seq,
644                                       flags);
645     } else if (st) {
646         if ((rv = av_new_packet(pkt, len)) < 0)
647             return rv;
648         memcpy(pkt->data, buf, len);
649         pkt->stream_index = st->index;
650     } else {
651         return AVERROR(EINVAL);
652     }
653
654     // now perform timestamp things....
655     finalize_packet(s, pkt, timestamp);
656
657     return rv;
658 }
659
660 void ff_rtp_reset_packet_queue(RTPDemuxContext *s)
661 {
662     while (s->queue) {
663         RTPPacket *next = s->queue->next;
664         av_free(s->queue->buf);
665         av_free(s->queue);
666         s->queue = next;
667     }
668     s->seq       = 0;
669     s->queue_len = 0;
670     s->prev_ret  = 0;
671 }
672
673 static void enqueue_packet(RTPDemuxContext *s, uint8_t *buf, int len)
674 {
675     uint16_t seq   = AV_RB16(buf + 2);
676     RTPPacket **cur = &s->queue, *packet;
677
678     /* Find the correct place in the queue to insert the packet */
679     while (*cur) {
680         int16_t diff = seq - (*cur)->seq;
681         if (diff < 0)
682             break;
683         cur = &(*cur)->next;
684     }
685
686     packet = av_mallocz(sizeof(*packet));
687     if (!packet)
688         return;
689     packet->recvtime = av_gettime_relative();
690     packet->seq      = seq;
691     packet->len      = len;
692     packet->buf      = buf;
693     packet->next     = *cur;
694     *cur = packet;
695     s->queue_len++;
696 }
697
698 static int has_next_packet(RTPDemuxContext *s)
699 {
700     return s->queue && s->queue->seq == (uint16_t) (s->seq + 1);
701 }
702
703 int64_t ff_rtp_queued_packet_time(RTPDemuxContext *s)
704 {
705     return s->queue ? s->queue->recvtime : 0;
706 }
707
708 static int rtp_parse_queued_packet(RTPDemuxContext *s, AVPacket *pkt)
709 {
710     int rv;
711     RTPPacket *next;
712
713     if (s->queue_len <= 0)
714         return -1;
715
716     if (!has_next_packet(s))
717         av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
718                "RTP: missed %d packets\n", s->queue->seq - s->seq - 1);
719
720     /* Parse the first packet in the queue, and dequeue it */
721     rv   = rtp_parse_packet_internal(s, pkt, s->queue->buf, s->queue->len);
722     next = s->queue->next;
723     av_free(s->queue->buf);
724     av_free(s->queue);
725     s->queue = next;
726     s->queue_len--;
727     return rv;
728 }
729
730 static int rtp_parse_one_packet(RTPDemuxContext *s, AVPacket *pkt,
731                                 uint8_t **bufptr, int len)
732 {
733     uint8_t *buf = bufptr ? *bufptr : NULL;
734     int flags = 0;
735     uint32_t timestamp;
736     int rv = 0;
737
738     if (!buf) {
739         /* If parsing of the previous packet actually returned 0 or an error,
740          * there's nothing more to be parsed from that packet, but we may have
741          * indicated that we can return the next enqueued packet. */
742         if (s->prev_ret <= 0)
743             return rtp_parse_queued_packet(s, pkt);
744         /* return the next packets, if any */
745         if (s->handler && s->handler->parse_packet) {
746             /* timestamp should be overwritten by parse_packet, if not,
747              * the packet is left with pts == AV_NOPTS_VALUE */
748             timestamp = RTP_NOTS_VALUE;
749             rv        = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
750                                                  s->st, pkt, &timestamp, NULL, 0, 0,
751                                                  flags);
752             finalize_packet(s, pkt, timestamp);
753             return rv;
754         }
755     }
756
757     if (len < 12)
758         return -1;
759
760     if ((buf[0] & 0xc0) != (RTP_VERSION << 6))
761         return -1;
762     if (RTP_PT_IS_RTCP(buf[1])) {
763         return rtcp_parse_packet(s, buf, len);
764     }
765
766     if (s->st) {
767         int64_t received = av_gettime_relative();
768         uint32_t arrival_ts = av_rescale_q(received, AV_TIME_BASE_Q,
769                                            s->st->time_base);
770         timestamp = AV_RB32(buf + 4);
771         // Calculate the jitter immediately, before queueing the packet
772         // into the reordering queue.
773         rtcp_update_jitter(&s->statistics, timestamp, arrival_ts);
774     }
775
776     if ((s->seq == 0 && !s->queue) || s->queue_size <= 1) {
777         /* First packet, or no reordering */
778         return rtp_parse_packet_internal(s, pkt, buf, len);
779     } else {
780         uint16_t seq = AV_RB16(buf + 2);
781         int16_t diff = seq - s->seq;
782         if (diff < 0) {
783             /* Packet older than the previously emitted one, drop */
784             av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
785                    "RTP: dropping old packet received too late\n");
786             return -1;
787         } else if (diff <= 1) {
788             /* Correct packet */
789             rv = rtp_parse_packet_internal(s, pkt, buf, len);
790             return rv;
791         } else {
792             /* Still missing some packet, enqueue this one. */
793             enqueue_packet(s, buf, len);
794             *bufptr = NULL;
795             /* Return the first enqueued packet if the queue is full,
796              * even if we're missing something */
797             if (s->queue_len >= s->queue_size)
798                 return rtp_parse_queued_packet(s, pkt);
799             return -1;
800         }
801     }
802 }
803
804 /**
805  * Parse an RTP or RTCP packet directly sent as a buffer.
806  * @param s RTP parse context.
807  * @param pkt returned packet
808  * @param bufptr pointer to the input buffer or NULL to read the next packets
809  * @param len buffer len
810  * @return 0 if a packet is returned, 1 if a packet is returned and more can follow
811  * (use buf as NULL to read the next). -1 if no packet (error or no more packet).
812  */
813 int ff_rtp_parse_packet(RTPDemuxContext *s, AVPacket *pkt,
814                         uint8_t **bufptr, int len)
815 {
816     int rv;
817     if (s->srtp_enabled && bufptr && ff_srtp_decrypt(&s->srtp, *bufptr, &len) < 0)
818         return -1;
819     rv = rtp_parse_one_packet(s, pkt, bufptr, len);
820     s->prev_ret = rv;
821     while (rv == AVERROR(EAGAIN) && has_next_packet(s))
822         rv = rtp_parse_queued_packet(s, pkt);
823     return rv ? rv : has_next_packet(s);
824 }
825
826 void ff_rtp_parse_close(RTPDemuxContext *s)
827 {
828     ff_rtp_reset_packet_queue(s);
829     ff_srtp_free(&s->srtp);
830     av_free(s);
831 }
832
833 int ff_parse_fmtp(AVFormatContext *s,
834                   AVStream *stream, PayloadContext *data, const char *p,
835                   int (*parse_fmtp)(AVFormatContext *s,
836                                     AVStream *stream,
837                                     PayloadContext *data,
838                                     char *attr, char *value))
839 {
840     char attr[256];
841     char *value;
842     int res;
843     int value_size = strlen(p) + 1;
844
845     if (!(value = av_malloc(value_size))) {
846         av_log(NULL, AV_LOG_ERROR, "Failed to allocate data for FMTP.");
847         return AVERROR(ENOMEM);
848     }
849
850     // remove protocol identifier
851     while (*p && *p == ' ')
852         p++;                     // strip spaces
853     while (*p && *p != ' ')
854         p++;                     // eat protocol identifier
855     while (*p && *p == ' ')
856         p++;                     // strip trailing spaces
857
858     while (ff_rtsp_next_attr_and_value(&p,
859                                        attr, sizeof(attr),
860                                        value, value_size)) {
861         res = parse_fmtp(s, stream, data, attr, value);
862         if (res < 0 && res != AVERROR_PATCHWELCOME) {
863             av_free(value);
864             return res;
865         }
866     }
867     av_free(value);
868     return 0;
869 }
870
871 int ff_rtp_finalize_packet(AVPacket *pkt, AVIOContext **dyn_buf, int stream_idx)
872 {
873     int ret;
874     av_init_packet(pkt);
875
876     pkt->size         = avio_close_dyn_buf(*dyn_buf, &pkt->data);
877     pkt->stream_index = stream_idx;
878     *dyn_buf = NULL;
879     if ((ret = av_packet_from_data(pkt, pkt->data, pkt->size)) < 0) {
880         av_freep(&pkt->data);
881         return ret;
882     }
883     return pkt->size;
884 }