rtpdec: Split mpegts parsing to a normal depacketizer
[ffmpeg.git] / libavformat / rtpdec.c
1 /*
2  * RTP input format
3  * Copyright (c) 2002 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/mathematics.h"
23 #include "libavutil/avstring.h"
24 #include "libavutil/time.h"
25 #include "libavcodec/get_bits.h"
26 #include "avformat.h"
27 #include "network.h"
28 #include "srtp.h"
29 #include "url.h"
30 #include "rtpdec.h"
31 #include "rtpdec_formats.h"
32
33 #define MIN_FEEDBACK_INTERVAL 200000 /* 200 ms in us */
34
35 static RTPDynamicProtocolHandler realmedia_mp3_dynamic_handler = {
36     .enc_name   = "X-MP3-draft-00",
37     .codec_type = AVMEDIA_TYPE_AUDIO,
38     .codec_id   = AV_CODEC_ID_MP3ADU,
39 };
40
41 static RTPDynamicProtocolHandler speex_dynamic_handler = {
42     .enc_name   = "speex",
43     .codec_type = AVMEDIA_TYPE_AUDIO,
44     .codec_id   = AV_CODEC_ID_SPEEX,
45 };
46
47 static RTPDynamicProtocolHandler opus_dynamic_handler = {
48     .enc_name   = "opus",
49     .codec_type = AVMEDIA_TYPE_AUDIO,
50     .codec_id   = AV_CODEC_ID_OPUS,
51 };
52
53 static RTPDynamicProtocolHandler *rtp_first_dynamic_payload_handler = NULL;
54
55 void ff_register_dynamic_payload_handler(RTPDynamicProtocolHandler *handler)
56 {
57     handler->next = rtp_first_dynamic_payload_handler;
58     rtp_first_dynamic_payload_handler = handler;
59 }
60
61 void av_register_rtp_dynamic_payload_handlers(void)
62 {
63     ff_register_dynamic_payload_handler(&ff_amr_nb_dynamic_handler);
64     ff_register_dynamic_payload_handler(&ff_amr_wb_dynamic_handler);
65     ff_register_dynamic_payload_handler(&ff_g726_16_dynamic_handler);
66     ff_register_dynamic_payload_handler(&ff_g726_24_dynamic_handler);
67     ff_register_dynamic_payload_handler(&ff_g726_32_dynamic_handler);
68     ff_register_dynamic_payload_handler(&ff_g726_40_dynamic_handler);
69     ff_register_dynamic_payload_handler(&ff_h263_1998_dynamic_handler);
70     ff_register_dynamic_payload_handler(&ff_h263_2000_dynamic_handler);
71     ff_register_dynamic_payload_handler(&ff_h263_rfc2190_dynamic_handler);
72     ff_register_dynamic_payload_handler(&ff_h264_dynamic_handler);
73     ff_register_dynamic_payload_handler(&ff_ilbc_dynamic_handler);
74     ff_register_dynamic_payload_handler(&ff_jpeg_dynamic_handler);
75     ff_register_dynamic_payload_handler(&ff_mp4a_latm_dynamic_handler);
76     ff_register_dynamic_payload_handler(&ff_mp4v_es_dynamic_handler);
77     ff_register_dynamic_payload_handler(&ff_mpeg4_generic_dynamic_handler);
78     ff_register_dynamic_payload_handler(&ff_mpegts_dynamic_handler);
79     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfv_handler);
80     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfa_handler);
81     ff_register_dynamic_payload_handler(&ff_qcelp_dynamic_handler);
82     ff_register_dynamic_payload_handler(&ff_qdm2_dynamic_handler);
83     ff_register_dynamic_payload_handler(&ff_qt_rtp_aud_handler);
84     ff_register_dynamic_payload_handler(&ff_qt_rtp_vid_handler);
85     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_aud_handler);
86     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_vid_handler);
87     ff_register_dynamic_payload_handler(&ff_svq3_dynamic_handler);
88     ff_register_dynamic_payload_handler(&ff_theora_dynamic_handler);
89     ff_register_dynamic_payload_handler(&ff_vorbis_dynamic_handler);
90     ff_register_dynamic_payload_handler(&ff_vp8_dynamic_handler);
91     ff_register_dynamic_payload_handler(&opus_dynamic_handler);
92     ff_register_dynamic_payload_handler(&realmedia_mp3_dynamic_handler);
93     ff_register_dynamic_payload_handler(&speex_dynamic_handler);
94 }
95
96 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_name(const char *name,
97                                                        enum AVMediaType codec_type)
98 {
99     RTPDynamicProtocolHandler *handler;
100     for (handler = rtp_first_dynamic_payload_handler;
101          handler; handler = handler->next)
102         if (!av_strcasecmp(name, handler->enc_name) &&
103             codec_type == handler->codec_type)
104             return handler;
105     return NULL;
106 }
107
108 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_id(int id,
109                                                      enum AVMediaType codec_type)
110 {
111     RTPDynamicProtocolHandler *handler;
112     for (handler = rtp_first_dynamic_payload_handler;
113          handler; handler = handler->next)
114         if (handler->static_payload_id && handler->static_payload_id == id &&
115             codec_type == handler->codec_type)
116             return handler;
117     return NULL;
118 }
119
120 static int rtcp_parse_packet(RTPDemuxContext *s, const unsigned char *buf,
121                              int len)
122 {
123     int payload_len;
124     while (len >= 4) {
125         payload_len = FFMIN(len, (AV_RB16(buf + 2) + 1) * 4);
126
127         switch (buf[1]) {
128         case RTCP_SR:
129             if (payload_len < 20) {
130                 av_log(NULL, AV_LOG_ERROR,
131                        "Invalid length for RTCP SR packet\n");
132                 return AVERROR_INVALIDDATA;
133             }
134
135             s->last_rtcp_reception_time = av_gettime();
136             s->last_rtcp_ntp_time  = AV_RB64(buf + 8);
137             s->last_rtcp_timestamp = AV_RB32(buf + 16);
138             if (s->first_rtcp_ntp_time == AV_NOPTS_VALUE) {
139                 s->first_rtcp_ntp_time = s->last_rtcp_ntp_time;
140                 if (!s->base_timestamp)
141                     s->base_timestamp = s->last_rtcp_timestamp;
142                 s->rtcp_ts_offset = s->last_rtcp_timestamp - s->base_timestamp;
143             }
144
145             break;
146         case RTCP_BYE:
147             return -RTCP_BYE;
148         }
149
150         buf += payload_len;
151         len -= payload_len;
152     }
153     return -1;
154 }
155
156 #define RTP_SEQ_MOD (1 << 16)
157
158 static void rtp_init_statistics(RTPStatistics *s, uint16_t base_sequence)
159 {
160     memset(s, 0, sizeof(RTPStatistics));
161     s->max_seq   = base_sequence;
162     s->probation = 1;
163 }
164
165 /*
166  * Called whenever there is a large jump in sequence numbers,
167  * or when they get out of probation...
168  */
169 static void rtp_init_sequence(RTPStatistics *s, uint16_t seq)
170 {
171     s->max_seq        = seq;
172     s->cycles         = 0;
173     s->base_seq       = seq - 1;
174     s->bad_seq        = RTP_SEQ_MOD + 1;
175     s->received       = 0;
176     s->expected_prior = 0;
177     s->received_prior = 0;
178     s->jitter         = 0;
179     s->transit        = 0;
180 }
181
182 /* Returns 1 if we should handle this packet. */
183 static int rtp_valid_packet_in_sequence(RTPStatistics *s, uint16_t seq)
184 {
185     uint16_t udelta = seq - s->max_seq;
186     const int MAX_DROPOUT    = 3000;
187     const int MAX_MISORDER   = 100;
188     const int MIN_SEQUENTIAL = 2;
189
190     /* source not valid until MIN_SEQUENTIAL packets with sequence
191      * seq. numbers have been received */
192     if (s->probation) {
193         if (seq == s->max_seq + 1) {
194             s->probation--;
195             s->max_seq = seq;
196             if (s->probation == 0) {
197                 rtp_init_sequence(s, seq);
198                 s->received++;
199                 return 1;
200             }
201         } else {
202             s->probation = MIN_SEQUENTIAL - 1;
203             s->max_seq   = seq;
204         }
205     } else if (udelta < MAX_DROPOUT) {
206         // in order, with permissible gap
207         if (seq < s->max_seq) {
208             // sequence number wrapped; count another 64k cycles
209             s->cycles += RTP_SEQ_MOD;
210         }
211         s->max_seq = seq;
212     } else if (udelta <= RTP_SEQ_MOD - MAX_MISORDER) {
213         // sequence made a large jump...
214         if (seq == s->bad_seq) {
215             /* two sequential packets -- assume that the other side
216              * restarted without telling us; just resync. */
217             rtp_init_sequence(s, seq);
218         } else {
219             s->bad_seq = (seq + 1) & (RTP_SEQ_MOD - 1);
220             return 0;
221         }
222     } else {
223         // duplicate or reordered packet...
224     }
225     s->received++;
226     return 1;
227 }
228
229 static void rtcp_update_jitter(RTPStatistics *s, uint32_t sent_timestamp,
230                                uint32_t arrival_timestamp)
231 {
232     // Most of this is pretty straight from RFC 3550 appendix A.8
233     uint32_t transit = arrival_timestamp - sent_timestamp;
234     uint32_t prev_transit = s->transit;
235     int32_t d = transit - prev_transit;
236     // Doing the FFABS() call directly on the "transit - prev_transit"
237     // expression doesn't work, since it's an unsigned expression. Doing the
238     // transit calculation in unsigned is desired though, since it most
239     // probably will need to wrap around.
240     d = FFABS(d);
241     s->transit = transit;
242     if (!prev_transit)
243         return;
244     s->jitter += d - (int32_t) ((s->jitter + 8) >> 4);
245 }
246
247 int ff_rtp_check_and_send_back_rr(RTPDemuxContext *s, URLContext *fd,
248                                   AVIOContext *avio, int count)
249 {
250     AVIOContext *pb;
251     uint8_t *buf;
252     int len;
253     int rtcp_bytes;
254     RTPStatistics *stats = &s->statistics;
255     uint32_t lost;
256     uint32_t extended_max;
257     uint32_t expected_interval;
258     uint32_t received_interval;
259     int32_t  lost_interval;
260     uint32_t expected;
261     uint32_t fraction;
262
263     if ((!fd && !avio) || (count < 1))
264         return -1;
265
266     /* TODO: I think this is way too often; RFC 1889 has algorithm for this */
267     /* XXX: MPEG pts hardcoded. RTCP send every 0.5 seconds */
268     s->octet_count += count;
269     rtcp_bytes = ((s->octet_count - s->last_octet_count) * RTCP_TX_RATIO_NUM) /
270         RTCP_TX_RATIO_DEN;
271     rtcp_bytes /= 50; // mmu_man: that's enough for me... VLC sends much less btw !?
272     if (rtcp_bytes < 28)
273         return -1;
274     s->last_octet_count = s->octet_count;
275
276     if (!fd)
277         pb = avio;
278     else if (avio_open_dyn_buf(&pb) < 0)
279         return -1;
280
281     // Receiver Report
282     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
283     avio_w8(pb, RTCP_RR);
284     avio_wb16(pb, 7); /* length in words - 1 */
285     // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
286     avio_wb32(pb, s->ssrc + 1);
287     avio_wb32(pb, s->ssrc); // server SSRC
288     // some placeholders we should really fill...
289     // RFC 1889/p64
290     extended_max          = stats->cycles + stats->max_seq;
291     expected              = extended_max - stats->base_seq;
292     lost                  = expected - stats->received;
293     lost                  = FFMIN(lost, 0xffffff); // clamp it since it's only 24 bits...
294     expected_interval     = expected - stats->expected_prior;
295     stats->expected_prior = expected;
296     received_interval     = stats->received - stats->received_prior;
297     stats->received_prior = stats->received;
298     lost_interval         = expected_interval - received_interval;
299     if (expected_interval == 0 || lost_interval <= 0)
300         fraction = 0;
301     else
302         fraction = (lost_interval << 8) / expected_interval;
303
304     fraction = (fraction << 24) | lost;
305
306     avio_wb32(pb, fraction); /* 8 bits of fraction, 24 bits of total packets lost */
307     avio_wb32(pb, extended_max); /* max sequence received */
308     avio_wb32(pb, stats->jitter >> 4); /* jitter */
309
310     if (s->last_rtcp_ntp_time == AV_NOPTS_VALUE) {
311         avio_wb32(pb, 0); /* last SR timestamp */
312         avio_wb32(pb, 0); /* delay since last SR */
313     } else {
314         uint32_t middle_32_bits   = s->last_rtcp_ntp_time >> 16; // this is valid, right? do we need to handle 64 bit values special?
315         uint32_t delay_since_last = av_rescale(av_gettime() - s->last_rtcp_reception_time,
316                                                65536, AV_TIME_BASE);
317
318         avio_wb32(pb, middle_32_bits); /* last SR timestamp */
319         avio_wb32(pb, delay_since_last); /* delay since last SR */
320     }
321
322     // CNAME
323     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
324     avio_w8(pb, RTCP_SDES);
325     len = strlen(s->hostname);
326     avio_wb16(pb, (7 + len + 3) / 4); /* length in words - 1 */
327     avio_wb32(pb, s->ssrc + 1);
328     avio_w8(pb, 0x01);
329     avio_w8(pb, len);
330     avio_write(pb, s->hostname, len);
331     avio_w8(pb, 0); /* END */
332     // padding
333     for (len = (7 + len) % 4; len % 4; len++)
334         avio_w8(pb, 0);
335
336     avio_flush(pb);
337     if (!fd)
338         return 0;
339     len = avio_close_dyn_buf(pb, &buf);
340     if ((len > 0) && buf) {
341         int av_unused result;
342         av_dlog(s->ic, "sending %d bytes of RR\n", len);
343         result = ffurl_write(fd, buf, len);
344         av_dlog(s->ic, "result from ffurl_write: %d\n", result);
345         av_free(buf);
346     }
347     return 0;
348 }
349
350 void ff_rtp_send_punch_packets(URLContext *rtp_handle)
351 {
352     AVIOContext *pb;
353     uint8_t *buf;
354     int len;
355
356     /* Send a small RTP packet */
357     if (avio_open_dyn_buf(&pb) < 0)
358         return;
359
360     avio_w8(pb, (RTP_VERSION << 6));
361     avio_w8(pb, 0); /* Payload type */
362     avio_wb16(pb, 0); /* Seq */
363     avio_wb32(pb, 0); /* Timestamp */
364     avio_wb32(pb, 0); /* SSRC */
365
366     avio_flush(pb);
367     len = avio_close_dyn_buf(pb, &buf);
368     if ((len > 0) && buf)
369         ffurl_write(rtp_handle, buf, len);
370     av_free(buf);
371
372     /* Send a minimal RTCP RR */
373     if (avio_open_dyn_buf(&pb) < 0)
374         return;
375
376     avio_w8(pb, (RTP_VERSION << 6));
377     avio_w8(pb, RTCP_RR); /* receiver report */
378     avio_wb16(pb, 1); /* length in words - 1 */
379     avio_wb32(pb, 0); /* our own SSRC */
380
381     avio_flush(pb);
382     len = avio_close_dyn_buf(pb, &buf);
383     if ((len > 0) && buf)
384         ffurl_write(rtp_handle, buf, len);
385     av_free(buf);
386 }
387
388 static int find_missing_packets(RTPDemuxContext *s, uint16_t *first_missing,
389                                 uint16_t *missing_mask)
390 {
391     int i;
392     uint16_t next_seq = s->seq + 1;
393     RTPPacket *pkt = s->queue;
394
395     if (!pkt || pkt->seq == next_seq)
396         return 0;
397
398     *missing_mask = 0;
399     for (i = 1; i <= 16; i++) {
400         uint16_t missing_seq = next_seq + i;
401         while (pkt) {
402             int16_t diff = pkt->seq - missing_seq;
403             if (diff >= 0)
404                 break;
405             pkt = pkt->next;
406         }
407         if (!pkt)
408             break;
409         if (pkt->seq == missing_seq)
410             continue;
411         *missing_mask |= 1 << (i - 1);
412     }
413
414     *first_missing = next_seq;
415     return 1;
416 }
417
418 int ff_rtp_send_rtcp_feedback(RTPDemuxContext *s, URLContext *fd,
419                               AVIOContext *avio)
420 {
421     int len, need_keyframe, missing_packets;
422     AVIOContext *pb;
423     uint8_t *buf;
424     int64_t now;
425     uint16_t first_missing, missing_mask;
426
427     if (!fd && !avio)
428         return -1;
429
430     need_keyframe = s->handler && s->handler->need_keyframe &&
431                     s->handler->need_keyframe(s->dynamic_protocol_context);
432     missing_packets = find_missing_packets(s, &first_missing, &missing_mask);
433
434     if (!need_keyframe && !missing_packets)
435         return 0;
436
437     /* Send new feedback if enough time has elapsed since the last
438      * feedback packet. */
439
440     now = av_gettime();
441     if (s->last_feedback_time &&
442         (now - s->last_feedback_time) < MIN_FEEDBACK_INTERVAL)
443         return 0;
444     s->last_feedback_time = now;
445
446     if (!fd)
447         pb = avio;
448     else if (avio_open_dyn_buf(&pb) < 0)
449         return -1;
450
451     if (need_keyframe) {
452         avio_w8(pb, (RTP_VERSION << 6) | 1); /* PLI */
453         avio_w8(pb, RTCP_PSFB);
454         avio_wb16(pb, 2); /* length in words - 1 */
455         // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
456         avio_wb32(pb, s->ssrc + 1);
457         avio_wb32(pb, s->ssrc); // server SSRC
458     }
459
460     if (missing_packets) {
461         avio_w8(pb, (RTP_VERSION << 6) | 1); /* NACK */
462         avio_w8(pb, RTCP_RTPFB);
463         avio_wb16(pb, 3); /* length in words - 1 */
464         avio_wb32(pb, s->ssrc + 1);
465         avio_wb32(pb, s->ssrc); // server SSRC
466
467         avio_wb16(pb, first_missing);
468         avio_wb16(pb, missing_mask);
469     }
470
471     avio_flush(pb);
472     if (!fd)
473         return 0;
474     len = avio_close_dyn_buf(pb, &buf);
475     if (len > 0 && buf) {
476         ffurl_write(fd, buf, len);
477         av_free(buf);
478     }
479     return 0;
480 }
481
482 /**
483  * open a new RTP parse context for stream 'st'. 'st' can be NULL for
484  * MPEG2-TS streams.
485  */
486 RTPDemuxContext *ff_rtp_parse_open(AVFormatContext *s1, AVStream *st,
487                                    int payload_type, int queue_size)
488 {
489     RTPDemuxContext *s;
490
491     s = av_mallocz(sizeof(RTPDemuxContext));
492     if (!s)
493         return NULL;
494     s->payload_type        = payload_type;
495     s->last_rtcp_ntp_time  = AV_NOPTS_VALUE;
496     s->first_rtcp_ntp_time = AV_NOPTS_VALUE;
497     s->ic                  = s1;
498     s->st                  = st;
499     s->queue_size          = queue_size;
500     rtp_init_statistics(&s->statistics, 0);
501     if (st) {
502         switch (st->codec->codec_id) {
503         case AV_CODEC_ID_MPEG1VIDEO:
504         case AV_CODEC_ID_MPEG2VIDEO:
505         case AV_CODEC_ID_MP2:
506         case AV_CODEC_ID_MP3:
507         case AV_CODEC_ID_MPEG4:
508         case AV_CODEC_ID_H263:
509         case AV_CODEC_ID_H264:
510             st->need_parsing = AVSTREAM_PARSE_FULL;
511             break;
512         case AV_CODEC_ID_VORBIS:
513             st->need_parsing = AVSTREAM_PARSE_HEADERS;
514             break;
515         case AV_CODEC_ID_ADPCM_G722:
516             /* According to RFC 3551, the stream clock rate is 8000
517              * even if the sample rate is 16000. */
518             if (st->codec->sample_rate == 8000)
519                 st->codec->sample_rate = 16000;
520             break;
521         default:
522             break;
523         }
524     }
525     // needed to send back RTCP RR in RTSP sessions
526     gethostname(s->hostname, sizeof(s->hostname));
527     return s;
528 }
529
530 void ff_rtp_parse_set_dynamic_protocol(RTPDemuxContext *s, PayloadContext *ctx,
531                                        RTPDynamicProtocolHandler *handler)
532 {
533     s->dynamic_protocol_context = ctx;
534     s->handler                  = handler;
535 }
536
537 void ff_rtp_parse_set_crypto(RTPDemuxContext *s, const char *suite,
538                              const char *params)
539 {
540     if (!ff_srtp_set_crypto(&s->srtp, suite, params))
541         s->srtp_enabled = 1;
542 }
543
544 /**
545  * This was the second switch in rtp_parse packet.
546  * Normalizes time, if required, sets stream_index, etc.
547  */
548 static void finalize_packet(RTPDemuxContext *s, AVPacket *pkt, uint32_t timestamp)
549 {
550     if (pkt->pts != AV_NOPTS_VALUE || pkt->dts != AV_NOPTS_VALUE)
551         return; /* Timestamp already set by depacketizer */
552     if (timestamp == RTP_NOTS_VALUE)
553         return;
554
555     if (s->last_rtcp_ntp_time != AV_NOPTS_VALUE && s->ic->nb_streams > 1) {
556         int64_t addend;
557         int delta_timestamp;
558
559         /* compute pts from timestamp with received ntp_time */
560         delta_timestamp = timestamp - s->last_rtcp_timestamp;
561         /* convert to the PTS timebase */
562         addend = av_rescale(s->last_rtcp_ntp_time - s->first_rtcp_ntp_time,
563                             s->st->time_base.den,
564                             (uint64_t) s->st->time_base.num << 32);
565         pkt->pts = s->range_start_offset + s->rtcp_ts_offset + addend +
566                    delta_timestamp;
567         return;
568     }
569
570     if (!s->base_timestamp)
571         s->base_timestamp = timestamp;
572     /* assume that the difference is INT32_MIN < x < INT32_MAX,
573      * but allow the first timestamp to exceed INT32_MAX */
574     if (!s->timestamp)
575         s->unwrapped_timestamp += timestamp;
576     else
577         s->unwrapped_timestamp += (int32_t)(timestamp - s->timestamp);
578     s->timestamp = timestamp;
579     pkt->pts     = s->unwrapped_timestamp + s->range_start_offset -
580                    s->base_timestamp;
581 }
582
583 static int rtp_parse_packet_internal(RTPDemuxContext *s, AVPacket *pkt,
584                                      const uint8_t *buf, int len)
585 {
586     unsigned int ssrc, h;
587     int payload_type, seq, flags = 0;
588     int ext;
589     AVStream *st;
590     uint32_t timestamp;
591     int rv = 0;
592
593     ext          = buf[0] & 0x10;
594     payload_type = buf[1] & 0x7f;
595     if (buf[1] & 0x80)
596         flags |= RTP_FLAG_MARKER;
597     seq       = AV_RB16(buf + 2);
598     timestamp = AV_RB32(buf + 4);
599     ssrc      = AV_RB32(buf + 8);
600     /* store the ssrc in the RTPDemuxContext */
601     s->ssrc = ssrc;
602
603     /* NOTE: we can handle only one payload type */
604     if (s->payload_type != payload_type)
605         return -1;
606
607     st = s->st;
608     // only do something with this if all the rtp checks pass...
609     if (!rtp_valid_packet_in_sequence(&s->statistics, seq)) {
610         av_log(st ? st->codec : NULL, AV_LOG_ERROR,
611                "RTP: PT=%02x: bad cseq %04x expected=%04x\n",
612                payload_type, seq, ((s->seq + 1) & 0xffff));
613         return -1;
614     }
615
616     if (buf[0] & 0x20) {
617         int padding = buf[len - 1];
618         if (len >= 12 + padding)
619             len -= padding;
620     }
621
622     s->seq = seq;
623     len   -= 12;
624     buf   += 12;
625
626     /* RFC 3550 Section 5.3.1 RTP Header Extension handling */
627     if (ext) {
628         if (len < 4)
629             return -1;
630         /* calculate the header extension length (stored as number
631          * of 32-bit words) */
632         ext = (AV_RB16(buf + 2) + 1) << 2;
633
634         if (len < ext)
635             return -1;
636         // skip past RTP header extension
637         len -= ext;
638         buf += ext;
639     }
640
641     if (s->handler && s->handler->parse_packet) {
642         rv = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
643                                       s->st, pkt, &timestamp, buf, len, seq,
644                                       flags);
645     } else if (st) {
646         /* At this point, the RTP header has been stripped;
647          * This is ASSUMING that there is only 1 CSRC, which isn't wise. */
648         switch (st->codec->codec_id) {
649         case AV_CODEC_ID_MP2:
650         case AV_CODEC_ID_MP3:
651             /* better than nothing: skip MPEG audio RTP header */
652             if (len <= 4)
653                 return -1;
654             h    = AV_RB32(buf);
655             len -= 4;
656             buf += 4;
657             av_new_packet(pkt, len);
658             memcpy(pkt->data, buf, len);
659             break;
660         case AV_CODEC_ID_MPEG1VIDEO:
661         case AV_CODEC_ID_MPEG2VIDEO:
662             /* better than nothing: skip MPEG video RTP header */
663             if (len <= 4)
664                 return -1;
665             h    = AV_RB32(buf);
666             buf += 4;
667             len -= 4;
668             if (h & (1 << 26)) {
669                 /* MPEG-2 */
670                 if (len <= 4)
671                     return -1;
672                 buf += 4;
673                 len -= 4;
674             }
675             av_new_packet(pkt, len);
676             memcpy(pkt->data, buf, len);
677             break;
678         default:
679             av_new_packet(pkt, len);
680             memcpy(pkt->data, buf, len);
681             break;
682         }
683
684         pkt->stream_index = st->index;
685     } else {
686         return AVERROR(EINVAL);
687     }
688
689     // now perform timestamp things....
690     finalize_packet(s, pkt, timestamp);
691
692     return rv;
693 }
694
695 void ff_rtp_reset_packet_queue(RTPDemuxContext *s)
696 {
697     while (s->queue) {
698         RTPPacket *next = s->queue->next;
699         av_free(s->queue->buf);
700         av_free(s->queue);
701         s->queue = next;
702     }
703     s->seq       = 0;
704     s->queue_len = 0;
705     s->prev_ret  = 0;
706 }
707
708 static void enqueue_packet(RTPDemuxContext *s, uint8_t *buf, int len)
709 {
710     uint16_t seq   = AV_RB16(buf + 2);
711     RTPPacket **cur = &s->queue, *packet;
712
713     /* Find the correct place in the queue to insert the packet */
714     while (*cur) {
715         int16_t diff = seq - (*cur)->seq;
716         if (diff < 0)
717             break;
718         cur = &(*cur)->next;
719     }
720
721     packet = av_mallocz(sizeof(*packet));
722     if (!packet)
723         return;
724     packet->recvtime = av_gettime();
725     packet->seq      = seq;
726     packet->len      = len;
727     packet->buf      = buf;
728     packet->next     = *cur;
729     *cur = packet;
730     s->queue_len++;
731 }
732
733 static int has_next_packet(RTPDemuxContext *s)
734 {
735     return s->queue && s->queue->seq == (uint16_t) (s->seq + 1);
736 }
737
738 int64_t ff_rtp_queued_packet_time(RTPDemuxContext *s)
739 {
740     return s->queue ? s->queue->recvtime : 0;
741 }
742
743 static int rtp_parse_queued_packet(RTPDemuxContext *s, AVPacket *pkt)
744 {
745     int rv;
746     RTPPacket *next;
747
748     if (s->queue_len <= 0)
749         return -1;
750
751     if (!has_next_packet(s))
752         av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
753                "RTP: missed %d packets\n", s->queue->seq - s->seq - 1);
754
755     /* Parse the first packet in the queue, and dequeue it */
756     rv   = rtp_parse_packet_internal(s, pkt, s->queue->buf, s->queue->len);
757     next = s->queue->next;
758     av_free(s->queue->buf);
759     av_free(s->queue);
760     s->queue = next;
761     s->queue_len--;
762     return rv;
763 }
764
765 static int rtp_parse_one_packet(RTPDemuxContext *s, AVPacket *pkt,
766                                 uint8_t **bufptr, int len)
767 {
768     uint8_t *buf = bufptr ? *bufptr : NULL;
769     int flags = 0;
770     uint32_t timestamp;
771     int rv = 0;
772
773     if (!buf) {
774         /* If parsing of the previous packet actually returned 0 or an error,
775          * there's nothing more to be parsed from that packet, but we may have
776          * indicated that we can return the next enqueued packet. */
777         if (s->prev_ret <= 0)
778             return rtp_parse_queued_packet(s, pkt);
779         /* return the next packets, if any */
780         if (s->handler && s->handler->parse_packet) {
781             /* timestamp should be overwritten by parse_packet, if not,
782              * the packet is left with pts == AV_NOPTS_VALUE */
783             timestamp = RTP_NOTS_VALUE;
784             rv        = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
785                                                  s->st, pkt, &timestamp, NULL, 0, 0,
786                                                  flags);
787             finalize_packet(s, pkt, timestamp);
788             return rv;
789         }
790     }
791
792     if (len < 12)
793         return -1;
794
795     if ((buf[0] & 0xc0) != (RTP_VERSION << 6))
796         return -1;
797     if (RTP_PT_IS_RTCP(buf[1])) {
798         return rtcp_parse_packet(s, buf, len);
799     }
800
801     if (s->st) {
802         int64_t received = av_gettime();
803         uint32_t arrival_ts = av_rescale_q(received, AV_TIME_BASE_Q,
804                                            s->st->time_base);
805         timestamp = AV_RB32(buf + 4);
806         // Calculate the jitter immediately, before queueing the packet
807         // into the reordering queue.
808         rtcp_update_jitter(&s->statistics, timestamp, arrival_ts);
809     }
810
811     if ((s->seq == 0 && !s->queue) || s->queue_size <= 1) {
812         /* First packet, or no reordering */
813         return rtp_parse_packet_internal(s, pkt, buf, len);
814     } else {
815         uint16_t seq = AV_RB16(buf + 2);
816         int16_t diff = seq - s->seq;
817         if (diff < 0) {
818             /* Packet older than the previously emitted one, drop */
819             av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
820                    "RTP: dropping old packet received too late\n");
821             return -1;
822         } else if (diff <= 1) {
823             /* Correct packet */
824             rv = rtp_parse_packet_internal(s, pkt, buf, len);
825             return rv;
826         } else {
827             /* Still missing some packet, enqueue this one. */
828             enqueue_packet(s, buf, len);
829             *bufptr = NULL;
830             /* Return the first enqueued packet if the queue is full,
831              * even if we're missing something */
832             if (s->queue_len >= s->queue_size)
833                 return rtp_parse_queued_packet(s, pkt);
834             return -1;
835         }
836     }
837 }
838
839 /**
840  * Parse an RTP or RTCP packet directly sent as a buffer.
841  * @param s RTP parse context.
842  * @param pkt returned packet
843  * @param bufptr pointer to the input buffer or NULL to read the next packets
844  * @param len buffer len
845  * @return 0 if a packet is returned, 1 if a packet is returned and more can follow
846  * (use buf as NULL to read the next). -1 if no packet (error or no more packet).
847  */
848 int ff_rtp_parse_packet(RTPDemuxContext *s, AVPacket *pkt,
849                         uint8_t **bufptr, int len)
850 {
851     int rv;
852     if (s->srtp_enabled && bufptr && ff_srtp_decrypt(&s->srtp, *bufptr, &len) < 0)
853         return -1;
854     rv = rtp_parse_one_packet(s, pkt, bufptr, len);
855     s->prev_ret = rv;
856     while (rv == AVERROR(EAGAIN) && has_next_packet(s))
857         rv = rtp_parse_queued_packet(s, pkt);
858     return rv ? rv : has_next_packet(s);
859 }
860
861 void ff_rtp_parse_close(RTPDemuxContext *s)
862 {
863     ff_rtp_reset_packet_queue(s);
864     ff_srtp_free(&s->srtp);
865     av_free(s);
866 }
867
868 int ff_parse_fmtp(AVStream *stream, PayloadContext *data, const char *p,
869                   int (*parse_fmtp)(AVStream *stream,
870                                     PayloadContext *data,
871                                     char *attr, char *value))
872 {
873     char attr[256];
874     char *value;
875     int res;
876     int value_size = strlen(p) + 1;
877
878     if (!(value = av_malloc(value_size))) {
879         av_log(NULL, AV_LOG_ERROR, "Failed to allocate data for FMTP.");
880         return AVERROR(ENOMEM);
881     }
882
883     // remove protocol identifier
884     while (*p && *p == ' ')
885         p++;                     // strip spaces
886     while (*p && *p != ' ')
887         p++;                     // eat protocol identifier
888     while (*p && *p == ' ')
889         p++;                     // strip trailing spaces
890
891     while (ff_rtsp_next_attr_and_value(&p,
892                                        attr, sizeof(attr),
893                                        value, value_size)) {
894         res = parse_fmtp(stream, data, attr, value);
895         if (res < 0 && res != AVERROR_PATCHWELCOME) {
896             av_free(value);
897             return res;
898         }
899     }
900     av_free(value);
901     return 0;
902 }
903
904 int ff_rtp_finalize_packet(AVPacket *pkt, AVIOContext **dyn_buf, int stream_idx)
905 {
906     av_init_packet(pkt);
907
908     pkt->size         = avio_close_dyn_buf(*dyn_buf, &pkt->data);
909     pkt->stream_index = stream_idx;
910     pkt->destruct     = av_destruct_packet;
911     *dyn_buf          = NULL;
912     return pkt->size;
913 }