rtpdec: inform jitter buffer size
[ffmpeg.git] / libavformat / rtpdec.c
1 /*
2  * RTP input format
3  * Copyright (c) 2002 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/mathematics.h"
23 #include "libavutil/avstring.h"
24 #include "libavutil/time.h"
25 #include "libavcodec/get_bits.h"
26 #include "avformat.h"
27 #include "network.h"
28 #include "srtp.h"
29 #include "url.h"
30 #include "rtpdec.h"
31 #include "rtpdec_formats.h"
32
33 #define MIN_FEEDBACK_INTERVAL 200000 /* 200 ms in us */
34
35 static RTPDynamicProtocolHandler realmedia_mp3_dynamic_handler = {
36     .enc_name   = "X-MP3-draft-00",
37     .codec_type = AVMEDIA_TYPE_AUDIO,
38     .codec_id   = AV_CODEC_ID_MP3ADU,
39 };
40
41 static RTPDynamicProtocolHandler speex_dynamic_handler = {
42     .enc_name   = "speex",
43     .codec_type = AVMEDIA_TYPE_AUDIO,
44     .codec_id   = AV_CODEC_ID_SPEEX,
45 };
46
47 static RTPDynamicProtocolHandler opus_dynamic_handler = {
48     .enc_name   = "opus",
49     .codec_type = AVMEDIA_TYPE_AUDIO,
50     .codec_id   = AV_CODEC_ID_OPUS,
51 };
52
53 static RTPDynamicProtocolHandler t140_dynamic_handler = { /* RFC 4103 */
54     .enc_name   = "t140",
55     .codec_type = AVMEDIA_TYPE_DATA,
56     .codec_id   = AV_CODEC_ID_TEXT,
57 };
58
59 static RTPDynamicProtocolHandler *rtp_first_dynamic_payload_handler = NULL;
60
61 void ff_register_dynamic_payload_handler(RTPDynamicProtocolHandler *handler)
62 {
63     handler->next = rtp_first_dynamic_payload_handler;
64     rtp_first_dynamic_payload_handler = handler;
65 }
66
67 void ff_register_rtp_dynamic_payload_handlers(void)
68 {
69     ff_register_dynamic_payload_handler(&ff_ac3_dynamic_handler);
70     ff_register_dynamic_payload_handler(&ff_amr_nb_dynamic_handler);
71     ff_register_dynamic_payload_handler(&ff_amr_wb_dynamic_handler);
72     ff_register_dynamic_payload_handler(&ff_dv_dynamic_handler);
73     ff_register_dynamic_payload_handler(&ff_g726_16_dynamic_handler);
74     ff_register_dynamic_payload_handler(&ff_g726_24_dynamic_handler);
75     ff_register_dynamic_payload_handler(&ff_g726_32_dynamic_handler);
76     ff_register_dynamic_payload_handler(&ff_g726_40_dynamic_handler);
77     ff_register_dynamic_payload_handler(&ff_h261_dynamic_handler);
78     ff_register_dynamic_payload_handler(&ff_h263_1998_dynamic_handler);
79     ff_register_dynamic_payload_handler(&ff_h263_2000_dynamic_handler);
80     ff_register_dynamic_payload_handler(&ff_h263_rfc2190_dynamic_handler);
81     ff_register_dynamic_payload_handler(&ff_h264_dynamic_handler);
82     ff_register_dynamic_payload_handler(&ff_hevc_dynamic_handler);
83     ff_register_dynamic_payload_handler(&ff_ilbc_dynamic_handler);
84     ff_register_dynamic_payload_handler(&ff_jpeg_dynamic_handler);
85     ff_register_dynamic_payload_handler(&ff_mp4a_latm_dynamic_handler);
86     ff_register_dynamic_payload_handler(&ff_mp4v_es_dynamic_handler);
87     ff_register_dynamic_payload_handler(&ff_mpeg_audio_dynamic_handler);
88     ff_register_dynamic_payload_handler(&ff_mpeg_audio_robust_dynamic_handler);
89     ff_register_dynamic_payload_handler(&ff_mpeg_video_dynamic_handler);
90     ff_register_dynamic_payload_handler(&ff_mpeg4_generic_dynamic_handler);
91     ff_register_dynamic_payload_handler(&ff_mpegts_dynamic_handler);
92     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfa_handler);
93     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfv_handler);
94     ff_register_dynamic_payload_handler(&ff_qcelp_dynamic_handler);
95     ff_register_dynamic_payload_handler(&ff_qdm2_dynamic_handler);
96     ff_register_dynamic_payload_handler(&ff_qt_rtp_aud_handler);
97     ff_register_dynamic_payload_handler(&ff_qt_rtp_vid_handler);
98     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_aud_handler);
99     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_vid_handler);
100     ff_register_dynamic_payload_handler(&ff_svq3_dynamic_handler);
101     ff_register_dynamic_payload_handler(&ff_theora_dynamic_handler);
102     ff_register_dynamic_payload_handler(&ff_vorbis_dynamic_handler);
103     ff_register_dynamic_payload_handler(&ff_vp8_dynamic_handler);
104     ff_register_dynamic_payload_handler(&ff_vp9_dynamic_handler);
105     ff_register_dynamic_payload_handler(&opus_dynamic_handler);
106     ff_register_dynamic_payload_handler(&realmedia_mp3_dynamic_handler);
107     ff_register_dynamic_payload_handler(&speex_dynamic_handler);
108     ff_register_dynamic_payload_handler(&t140_dynamic_handler);
109 }
110
111 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_name(const char *name,
112                                                        enum AVMediaType codec_type)
113 {
114     RTPDynamicProtocolHandler *handler;
115     for (handler = rtp_first_dynamic_payload_handler;
116          handler; handler = handler->next)
117         if (handler->enc_name &&
118             !av_strcasecmp(name, handler->enc_name) &&
119             codec_type == handler->codec_type)
120             return handler;
121     return NULL;
122 }
123
124 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_id(int id,
125                                                      enum AVMediaType codec_type)
126 {
127     RTPDynamicProtocolHandler *handler;
128     for (handler = rtp_first_dynamic_payload_handler;
129          handler; handler = handler->next)
130         if (handler->static_payload_id && handler->static_payload_id == id &&
131             codec_type == handler->codec_type)
132             return handler;
133     return NULL;
134 }
135
136 static int rtcp_parse_packet(RTPDemuxContext *s, const unsigned char *buf,
137                              int len)
138 {
139     int payload_len;
140     while (len >= 4) {
141         payload_len = FFMIN(len, (AV_RB16(buf + 2) + 1) * 4);
142
143         switch (buf[1]) {
144         case RTCP_SR:
145             if (payload_len < 20) {
146                 av_log(NULL, AV_LOG_ERROR,
147                        "Invalid length for RTCP SR packet\n");
148                 return AVERROR_INVALIDDATA;
149             }
150
151             s->last_rtcp_reception_time = av_gettime_relative();
152             s->last_rtcp_ntp_time  = AV_RB64(buf + 8);
153             s->last_rtcp_timestamp = AV_RB32(buf + 16);
154             if (s->first_rtcp_ntp_time == AV_NOPTS_VALUE) {
155                 s->first_rtcp_ntp_time = s->last_rtcp_ntp_time;
156                 if (!s->base_timestamp)
157                     s->base_timestamp = s->last_rtcp_timestamp;
158                 s->rtcp_ts_offset = (int32_t)(s->last_rtcp_timestamp - s->base_timestamp);
159             }
160
161             break;
162         case RTCP_BYE:
163             return -RTCP_BYE;
164         }
165
166         buf += payload_len;
167         len -= payload_len;
168     }
169     return -1;
170 }
171
172 #define RTP_SEQ_MOD (1 << 16)
173
174 static void rtp_init_statistics(RTPStatistics *s, uint16_t base_sequence)
175 {
176     memset(s, 0, sizeof(RTPStatistics));
177     s->max_seq   = base_sequence;
178     s->probation = 1;
179 }
180
181 /*
182  * Called whenever there is a large jump in sequence numbers,
183  * or when they get out of probation...
184  */
185 static void rtp_init_sequence(RTPStatistics *s, uint16_t seq)
186 {
187     s->max_seq        = seq;
188     s->cycles         = 0;
189     s->base_seq       = seq - 1;
190     s->bad_seq        = RTP_SEQ_MOD + 1;
191     s->received       = 0;
192     s->expected_prior = 0;
193     s->received_prior = 0;
194     s->jitter         = 0;
195     s->transit        = 0;
196 }
197
198 /* Returns 1 if we should handle this packet. */
199 static int rtp_valid_packet_in_sequence(RTPStatistics *s, uint16_t seq)
200 {
201     uint16_t udelta = seq - s->max_seq;
202     const int MAX_DROPOUT    = 3000;
203     const int MAX_MISORDER   = 100;
204     const int MIN_SEQUENTIAL = 2;
205
206     /* source not valid until MIN_SEQUENTIAL packets with sequence
207      * seq. numbers have been received */
208     if (s->probation) {
209         if (seq == s->max_seq + 1) {
210             s->probation--;
211             s->max_seq = seq;
212             if (s->probation == 0) {
213                 rtp_init_sequence(s, seq);
214                 s->received++;
215                 return 1;
216             }
217         } else {
218             s->probation = MIN_SEQUENTIAL - 1;
219             s->max_seq   = seq;
220         }
221     } else if (udelta < MAX_DROPOUT) {
222         // in order, with permissible gap
223         if (seq < s->max_seq) {
224             // sequence number wrapped; count another 64k cycles
225             s->cycles += RTP_SEQ_MOD;
226         }
227         s->max_seq = seq;
228     } else if (udelta <= RTP_SEQ_MOD - MAX_MISORDER) {
229         // sequence made a large jump...
230         if (seq == s->bad_seq) {
231             /* two sequential packets -- assume that the other side
232              * restarted without telling us; just resync. */
233             rtp_init_sequence(s, seq);
234         } else {
235             s->bad_seq = (seq + 1) & (RTP_SEQ_MOD - 1);
236             return 0;
237         }
238     } else {
239         // duplicate or reordered packet...
240     }
241     s->received++;
242     return 1;
243 }
244
245 static void rtcp_update_jitter(RTPStatistics *s, uint32_t sent_timestamp,
246                                uint32_t arrival_timestamp)
247 {
248     // Most of this is pretty straight from RFC 3550 appendix A.8
249     uint32_t transit = arrival_timestamp - sent_timestamp;
250     uint32_t prev_transit = s->transit;
251     int32_t d = transit - prev_transit;
252     // Doing the FFABS() call directly on the "transit - prev_transit"
253     // expression doesn't work, since it's an unsigned expression. Doing the
254     // transit calculation in unsigned is desired though, since it most
255     // probably will need to wrap around.
256     d = FFABS(d);
257     s->transit = transit;
258     if (!prev_transit)
259         return;
260     s->jitter += d - (int32_t) ((s->jitter + 8) >> 4);
261 }
262
263 int ff_rtp_check_and_send_back_rr(RTPDemuxContext *s, URLContext *fd,
264                                   AVIOContext *avio, int count)
265 {
266     AVIOContext *pb;
267     uint8_t *buf;
268     int len;
269     int rtcp_bytes;
270     RTPStatistics *stats = &s->statistics;
271     uint32_t lost;
272     uint32_t extended_max;
273     uint32_t expected_interval;
274     uint32_t received_interval;
275     int32_t  lost_interval;
276     uint32_t expected;
277     uint32_t fraction;
278
279     if ((!fd && !avio) || (count < 1))
280         return -1;
281
282     /* TODO: I think this is way too often; RFC 1889 has algorithm for this */
283     /* XXX: MPEG pts hardcoded. RTCP send every 0.5 seconds */
284     s->octet_count += count;
285     rtcp_bytes = ((s->octet_count - s->last_octet_count) * RTCP_TX_RATIO_NUM) /
286         RTCP_TX_RATIO_DEN;
287     rtcp_bytes /= 50; // mmu_man: that's enough for me... VLC sends much less btw !?
288     if (rtcp_bytes < 28)
289         return -1;
290     s->last_octet_count = s->octet_count;
291
292     if (!fd)
293         pb = avio;
294     else if (avio_open_dyn_buf(&pb) < 0)
295         return -1;
296
297     // Receiver Report
298     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
299     avio_w8(pb, RTCP_RR);
300     avio_wb16(pb, 7); /* length in words - 1 */
301     // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
302     avio_wb32(pb, s->ssrc + 1);
303     avio_wb32(pb, s->ssrc); // server SSRC
304     // some placeholders we should really fill...
305     // RFC 1889/p64
306     extended_max          = stats->cycles + stats->max_seq;
307     expected              = extended_max - stats->base_seq;
308     lost                  = expected - stats->received;
309     lost                  = FFMIN(lost, 0xffffff); // clamp it since it's only 24 bits...
310     expected_interval     = expected - stats->expected_prior;
311     stats->expected_prior = expected;
312     received_interval     = stats->received - stats->received_prior;
313     stats->received_prior = stats->received;
314     lost_interval         = expected_interval - received_interval;
315     if (expected_interval == 0 || lost_interval <= 0)
316         fraction = 0;
317     else
318         fraction = (lost_interval << 8) / expected_interval;
319
320     fraction = (fraction << 24) | lost;
321
322     avio_wb32(pb, fraction); /* 8 bits of fraction, 24 bits of total packets lost */
323     avio_wb32(pb, extended_max); /* max sequence received */
324     avio_wb32(pb, stats->jitter >> 4); /* jitter */
325
326     if (s->last_rtcp_ntp_time == AV_NOPTS_VALUE) {
327         avio_wb32(pb, 0); /* last SR timestamp */
328         avio_wb32(pb, 0); /* delay since last SR */
329     } else {
330         uint32_t middle_32_bits   = s->last_rtcp_ntp_time >> 16; // this is valid, right? do we need to handle 64 bit values special?
331         uint32_t delay_since_last = av_rescale(av_gettime_relative() - s->last_rtcp_reception_time,
332                                                65536, AV_TIME_BASE);
333
334         avio_wb32(pb, middle_32_bits); /* last SR timestamp */
335         avio_wb32(pb, delay_since_last); /* delay since last SR */
336     }
337
338     // CNAME
339     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
340     avio_w8(pb, RTCP_SDES);
341     len = strlen(s->hostname);
342     avio_wb16(pb, (7 + len + 3) / 4); /* length in words - 1 */
343     avio_wb32(pb, s->ssrc + 1);
344     avio_w8(pb, 0x01);
345     avio_w8(pb, len);
346     avio_write(pb, s->hostname, len);
347     avio_w8(pb, 0); /* END */
348     // padding
349     for (len = (7 + len) % 4; len % 4; len++)
350         avio_w8(pb, 0);
351
352     avio_flush(pb);
353     if (!fd)
354         return 0;
355     len = avio_close_dyn_buf(pb, &buf);
356     if ((len > 0) && buf) {
357         int av_unused result;
358         av_log(s->ic, AV_LOG_TRACE, "sending %d bytes of RR\n", len);
359         result = ffurl_write(fd, buf, len);
360         av_log(s->ic, AV_LOG_TRACE, "result from ffurl_write: %d\n", result);
361         av_free(buf);
362     }
363     return 0;
364 }
365
366 void ff_rtp_send_punch_packets(URLContext *rtp_handle)
367 {
368     AVIOContext *pb;
369     uint8_t *buf;
370     int len;
371
372     /* Send a small RTP packet */
373     if (avio_open_dyn_buf(&pb) < 0)
374         return;
375
376     avio_w8(pb, (RTP_VERSION << 6));
377     avio_w8(pb, 0); /* Payload type */
378     avio_wb16(pb, 0); /* Seq */
379     avio_wb32(pb, 0); /* Timestamp */
380     avio_wb32(pb, 0); /* SSRC */
381
382     avio_flush(pb);
383     len = avio_close_dyn_buf(pb, &buf);
384     if ((len > 0) && buf)
385         ffurl_write(rtp_handle, buf, len);
386     av_free(buf);
387
388     /* Send a minimal RTCP RR */
389     if (avio_open_dyn_buf(&pb) < 0)
390         return;
391
392     avio_w8(pb, (RTP_VERSION << 6));
393     avio_w8(pb, RTCP_RR); /* receiver report */
394     avio_wb16(pb, 1); /* length in words - 1 */
395     avio_wb32(pb, 0); /* our own SSRC */
396
397     avio_flush(pb);
398     len = avio_close_dyn_buf(pb, &buf);
399     if ((len > 0) && buf)
400         ffurl_write(rtp_handle, buf, len);
401     av_free(buf);
402 }
403
404 static int find_missing_packets(RTPDemuxContext *s, uint16_t *first_missing,
405                                 uint16_t *missing_mask)
406 {
407     int i;
408     uint16_t next_seq = s->seq + 1;
409     RTPPacket *pkt = s->queue;
410
411     if (!pkt || pkt->seq == next_seq)
412         return 0;
413
414     *missing_mask = 0;
415     for (i = 1; i <= 16; i++) {
416         uint16_t missing_seq = next_seq + i;
417         while (pkt) {
418             int16_t diff = pkt->seq - missing_seq;
419             if (diff >= 0)
420                 break;
421             pkt = pkt->next;
422         }
423         if (!pkt)
424             break;
425         if (pkt->seq == missing_seq)
426             continue;
427         *missing_mask |= 1 << (i - 1);
428     }
429
430     *first_missing = next_seq;
431     return 1;
432 }
433
434 int ff_rtp_send_rtcp_feedback(RTPDemuxContext *s, URLContext *fd,
435                               AVIOContext *avio)
436 {
437     int len, need_keyframe, missing_packets;
438     AVIOContext *pb;
439     uint8_t *buf;
440     int64_t now;
441     uint16_t first_missing = 0, missing_mask = 0;
442
443     if (!fd && !avio)
444         return -1;
445
446     need_keyframe = s->handler && s->handler->need_keyframe &&
447                     s->handler->need_keyframe(s->dynamic_protocol_context);
448     missing_packets = find_missing_packets(s, &first_missing, &missing_mask);
449
450     if (!need_keyframe && !missing_packets)
451         return 0;
452
453     /* Send new feedback if enough time has elapsed since the last
454      * feedback packet. */
455
456     now = av_gettime_relative();
457     if (s->last_feedback_time &&
458         (now - s->last_feedback_time) < MIN_FEEDBACK_INTERVAL)
459         return 0;
460     s->last_feedback_time = now;
461
462     if (!fd)
463         pb = avio;
464     else if (avio_open_dyn_buf(&pb) < 0)
465         return -1;
466
467     if (need_keyframe) {
468         avio_w8(pb, (RTP_VERSION << 6) | 1); /* PLI */
469         avio_w8(pb, RTCP_PSFB);
470         avio_wb16(pb, 2); /* length in words - 1 */
471         // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
472         avio_wb32(pb, s->ssrc + 1);
473         avio_wb32(pb, s->ssrc); // server SSRC
474     }
475
476     if (missing_packets) {
477         avio_w8(pb, (RTP_VERSION << 6) | 1); /* NACK */
478         avio_w8(pb, RTCP_RTPFB);
479         avio_wb16(pb, 3); /* length in words - 1 */
480         avio_wb32(pb, s->ssrc + 1);
481         avio_wb32(pb, s->ssrc); // server SSRC
482
483         avio_wb16(pb, first_missing);
484         avio_wb16(pb, missing_mask);
485     }
486
487     avio_flush(pb);
488     if (!fd)
489         return 0;
490     len = avio_close_dyn_buf(pb, &buf);
491     if (len > 0 && buf) {
492         ffurl_write(fd, buf, len);
493         av_free(buf);
494     }
495     return 0;
496 }
497
498 /**
499  * open a new RTP parse context for stream 'st'. 'st' can be NULL for
500  * MPEG2-TS streams.
501  */
502 RTPDemuxContext *ff_rtp_parse_open(AVFormatContext *s1, AVStream *st,
503                                    int payload_type, int queue_size)
504 {
505     RTPDemuxContext *s;
506
507     s = av_mallocz(sizeof(RTPDemuxContext));
508     if (!s)
509         return NULL;
510     s->payload_type        = payload_type;
511     s->last_rtcp_ntp_time  = AV_NOPTS_VALUE;
512     s->first_rtcp_ntp_time = AV_NOPTS_VALUE;
513     s->ic                  = s1;
514     s->st                  = st;
515     s->queue_size          = queue_size;
516
517     av_log(s->st ? s->st->codec : NULL, AV_LOG_VERBOSE,
518             "setting jitter buffer size to %d\n", s->queue_size);
519
520     rtp_init_statistics(&s->statistics, 0);
521     if (st) {
522         switch (st->codec->codec_id) {
523         case AV_CODEC_ID_ADPCM_G722:
524             /* According to RFC 3551, the stream clock rate is 8000
525              * even if the sample rate is 16000. */
526             if (st->codec->sample_rate == 8000)
527                 st->codec->sample_rate = 16000;
528             break;
529         default:
530             break;
531         }
532     }
533     // needed to send back RTCP RR in RTSP sessions
534     gethostname(s->hostname, sizeof(s->hostname));
535     return s;
536 }
537
538 void ff_rtp_parse_set_dynamic_protocol(RTPDemuxContext *s, PayloadContext *ctx,
539                                        RTPDynamicProtocolHandler *handler)
540 {
541     s->dynamic_protocol_context = ctx;
542     s->handler                  = handler;
543 }
544
545 void ff_rtp_parse_set_crypto(RTPDemuxContext *s, const char *suite,
546                              const char *params)
547 {
548     if (!ff_srtp_set_crypto(&s->srtp, suite, params))
549         s->srtp_enabled = 1;
550 }
551
552 /**
553  * This was the second switch in rtp_parse packet.
554  * Normalizes time, if required, sets stream_index, etc.
555  */
556 static void finalize_packet(RTPDemuxContext *s, AVPacket *pkt, uint32_t timestamp)
557 {
558     if (pkt->pts != AV_NOPTS_VALUE || pkt->dts != AV_NOPTS_VALUE)
559         return; /* Timestamp already set by depacketizer */
560     if (timestamp == RTP_NOTS_VALUE)
561         return;
562
563     if (s->last_rtcp_ntp_time != AV_NOPTS_VALUE && s->ic->nb_streams > 1) {
564         int64_t addend;
565         int delta_timestamp;
566
567         /* compute pts from timestamp with received ntp_time */
568         delta_timestamp = timestamp - s->last_rtcp_timestamp;
569         /* convert to the PTS timebase */
570         addend = av_rescale(s->last_rtcp_ntp_time - s->first_rtcp_ntp_time,
571                             s->st->time_base.den,
572                             (uint64_t) s->st->time_base.num << 32);
573         pkt->pts = s->range_start_offset + s->rtcp_ts_offset + addend +
574                    delta_timestamp;
575         return;
576     }
577
578     if (!s->base_timestamp)
579         s->base_timestamp = timestamp;
580     /* assume that the difference is INT32_MIN < x < INT32_MAX,
581      * but allow the first timestamp to exceed INT32_MAX */
582     if (!s->timestamp)
583         s->unwrapped_timestamp += timestamp;
584     else
585         s->unwrapped_timestamp += (int32_t)(timestamp - s->timestamp);
586     s->timestamp = timestamp;
587     pkt->pts     = s->unwrapped_timestamp + s->range_start_offset -
588                    s->base_timestamp;
589 }
590
591 static int rtp_parse_packet_internal(RTPDemuxContext *s, AVPacket *pkt,
592                                      const uint8_t *buf, int len)
593 {
594     unsigned int ssrc;
595     int payload_type, seq, flags = 0;
596     int ext, csrc;
597     AVStream *st;
598     uint32_t timestamp;
599     int rv = 0;
600
601     csrc         = buf[0] & 0x0f;
602     ext          = buf[0] & 0x10;
603     payload_type = buf[1] & 0x7f;
604     if (buf[1] & 0x80)
605         flags |= RTP_FLAG_MARKER;
606     seq       = AV_RB16(buf + 2);
607     timestamp = AV_RB32(buf + 4);
608     ssrc      = AV_RB32(buf + 8);
609     /* store the ssrc in the RTPDemuxContext */
610     s->ssrc = ssrc;
611
612     /* NOTE: we can handle only one payload type */
613     if (s->payload_type != payload_type)
614         return -1;
615
616     st = s->st;
617     // only do something with this if all the rtp checks pass...
618     if (!rtp_valid_packet_in_sequence(&s->statistics, seq)) {
619         av_log(st ? st->codec : NULL, AV_LOG_ERROR,
620                "RTP: PT=%02x: bad cseq %04x expected=%04x\n",
621                payload_type, seq, ((s->seq + 1) & 0xffff));
622         return -1;
623     }
624
625     if (buf[0] & 0x20) {
626         int padding = buf[len - 1];
627         if (len >= 12 + padding)
628             len -= padding;
629     }
630
631     s->seq = seq;
632     len   -= 12;
633     buf   += 12;
634
635     len   -= 4 * csrc;
636     buf   += 4 * csrc;
637     if (len < 0)
638         return AVERROR_INVALIDDATA;
639
640     /* RFC 3550 Section 5.3.1 RTP Header Extension handling */
641     if (ext) {
642         if (len < 4)
643             return -1;
644         /* calculate the header extension length (stored as number
645          * of 32-bit words) */
646         ext = (AV_RB16(buf + 2) + 1) << 2;
647
648         if (len < ext)
649             return -1;
650         // skip past RTP header extension
651         len -= ext;
652         buf += ext;
653     }
654
655     if (s->handler && s->handler->parse_packet) {
656         rv = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
657                                       s->st, pkt, &timestamp, buf, len, seq,
658                                       flags);
659     } else if (st) {
660         if ((rv = av_new_packet(pkt, len)) < 0)
661             return rv;
662         memcpy(pkt->data, buf, len);
663         pkt->stream_index = st->index;
664     } else {
665         return AVERROR(EINVAL);
666     }
667
668     // now perform timestamp things....
669     finalize_packet(s, pkt, timestamp);
670
671     return rv;
672 }
673
674 void ff_rtp_reset_packet_queue(RTPDemuxContext *s)
675 {
676     while (s->queue) {
677         RTPPacket *next = s->queue->next;
678         av_free(s->queue->buf);
679         av_free(s->queue);
680         s->queue = next;
681     }
682     s->seq       = 0;
683     s->queue_len = 0;
684     s->prev_ret  = 0;
685 }
686
687 static void enqueue_packet(RTPDemuxContext *s, uint8_t *buf, int len)
688 {
689     uint16_t seq   = AV_RB16(buf + 2);
690     RTPPacket **cur = &s->queue, *packet;
691
692     /* Find the correct place in the queue to insert the packet */
693     while (*cur) {
694         int16_t diff = seq - (*cur)->seq;
695         if (diff < 0)
696             break;
697         cur = &(*cur)->next;
698     }
699
700     packet = av_mallocz(sizeof(*packet));
701     if (!packet)
702         return;
703     packet->recvtime = av_gettime_relative();
704     packet->seq      = seq;
705     packet->len      = len;
706     packet->buf      = buf;
707     packet->next     = *cur;
708     *cur = packet;
709     s->queue_len++;
710 }
711
712 static int has_next_packet(RTPDemuxContext *s)
713 {
714     return s->queue && s->queue->seq == (uint16_t) (s->seq + 1);
715 }
716
717 int64_t ff_rtp_queued_packet_time(RTPDemuxContext *s)
718 {
719     return s->queue ? s->queue->recvtime : 0;
720 }
721
722 static int rtp_parse_queued_packet(RTPDemuxContext *s, AVPacket *pkt)
723 {
724     int rv;
725     RTPPacket *next;
726
727     if (s->queue_len <= 0)
728         return -1;
729
730     if (!has_next_packet(s))
731         av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
732                "RTP: missed %d packets\n", s->queue->seq - s->seq - 1);
733
734     /* Parse the first packet in the queue, and dequeue it */
735     rv   = rtp_parse_packet_internal(s, pkt, s->queue->buf, s->queue->len);
736     next = s->queue->next;
737     av_free(s->queue->buf);
738     av_free(s->queue);
739     s->queue = next;
740     s->queue_len--;
741     return rv;
742 }
743
744 static int rtp_parse_one_packet(RTPDemuxContext *s, AVPacket *pkt,
745                                 uint8_t **bufptr, int len)
746 {
747     uint8_t *buf = bufptr ? *bufptr : NULL;
748     int flags = 0;
749     uint32_t timestamp;
750     int rv = 0;
751
752     if (!buf) {
753         /* If parsing of the previous packet actually returned 0 or an error,
754          * there's nothing more to be parsed from that packet, but we may have
755          * indicated that we can return the next enqueued packet. */
756         if (s->prev_ret <= 0)
757             return rtp_parse_queued_packet(s, pkt);
758         /* return the next packets, if any */
759         if (s->handler && s->handler->parse_packet) {
760             /* timestamp should be overwritten by parse_packet, if not,
761              * the packet is left with pts == AV_NOPTS_VALUE */
762             timestamp = RTP_NOTS_VALUE;
763             rv        = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
764                                                  s->st, pkt, &timestamp, NULL, 0, 0,
765                                                  flags);
766             finalize_packet(s, pkt, timestamp);
767             return rv;
768         }
769     }
770
771     if (len < 12)
772         return -1;
773
774     if ((buf[0] & 0xc0) != (RTP_VERSION << 6))
775         return -1;
776     if (RTP_PT_IS_RTCP(buf[1])) {
777         return rtcp_parse_packet(s, buf, len);
778     }
779
780     if (s->st) {
781         int64_t received = av_gettime_relative();
782         uint32_t arrival_ts = av_rescale_q(received, AV_TIME_BASE_Q,
783                                            s->st->time_base);
784         timestamp = AV_RB32(buf + 4);
785         // Calculate the jitter immediately, before queueing the packet
786         // into the reordering queue.
787         rtcp_update_jitter(&s->statistics, timestamp, arrival_ts);
788     }
789
790     if ((s->seq == 0 && !s->queue) || s->queue_size <= 1) {
791         /* First packet, or no reordering */
792         return rtp_parse_packet_internal(s, pkt, buf, len);
793     } else {
794         uint16_t seq = AV_RB16(buf + 2);
795         int16_t diff = seq - s->seq;
796         if (diff < 0) {
797             /* Packet older than the previously emitted one, drop */
798             av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
799                    "RTP: dropping old packet received too late\n");
800             return -1;
801         } else if (diff <= 1) {
802             /* Correct packet */
803             rv = rtp_parse_packet_internal(s, pkt, buf, len);
804             return rv;
805         } else {
806             /* Still missing some packet, enqueue this one. */
807             enqueue_packet(s, buf, len);
808             *bufptr = NULL;
809             /* Return the first enqueued packet if the queue is full,
810              * even if we're missing something */
811             if (s->queue_len >= s->queue_size) {
812                 av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
813                        "jitter buffer full\n");
814                 return rtp_parse_queued_packet(s, pkt);
815             }
816             return -1;
817         }
818     }
819 }
820
821 /**
822  * Parse an RTP or RTCP packet directly sent as a buffer.
823  * @param s RTP parse context.
824  * @param pkt returned packet
825  * @param bufptr pointer to the input buffer or NULL to read the next packets
826  * @param len buffer len
827  * @return 0 if a packet is returned, 1 if a packet is returned and more can follow
828  * (use buf as NULL to read the next). -1 if no packet (error or no more packet).
829  */
830 int ff_rtp_parse_packet(RTPDemuxContext *s, AVPacket *pkt,
831                         uint8_t **bufptr, int len)
832 {
833     int rv;
834     if (s->srtp_enabled && bufptr && ff_srtp_decrypt(&s->srtp, *bufptr, &len) < 0)
835         return -1;
836     rv = rtp_parse_one_packet(s, pkt, bufptr, len);
837     s->prev_ret = rv;
838     while (rv == AVERROR(EAGAIN) && has_next_packet(s))
839         rv = rtp_parse_queued_packet(s, pkt);
840     return rv ? rv : has_next_packet(s);
841 }
842
843 void ff_rtp_parse_close(RTPDemuxContext *s)
844 {
845     ff_rtp_reset_packet_queue(s);
846     ff_srtp_free(&s->srtp);
847     av_free(s);
848 }
849
850 int ff_parse_fmtp(AVFormatContext *s,
851                   AVStream *stream, PayloadContext *data, const char *p,
852                   int (*parse_fmtp)(AVFormatContext *s,
853                                     AVStream *stream,
854                                     PayloadContext *data,
855                                     const char *attr, const char *value))
856 {
857     char attr[256];
858     char *value;
859     int res;
860     int value_size = strlen(p) + 1;
861
862     if (!(value = av_malloc(value_size))) {
863         av_log(NULL, AV_LOG_ERROR, "Failed to allocate data for FMTP.");
864         return AVERROR(ENOMEM);
865     }
866
867     // remove protocol identifier
868     while (*p && *p == ' ')
869         p++;                     // strip spaces
870     while (*p && *p != ' ')
871         p++;                     // eat protocol identifier
872     while (*p && *p == ' ')
873         p++;                     // strip trailing spaces
874
875     while (ff_rtsp_next_attr_and_value(&p,
876                                        attr, sizeof(attr),
877                                        value, value_size)) {
878         res = parse_fmtp(s, stream, data, attr, value);
879         if (res < 0 && res != AVERROR_PATCHWELCOME) {
880             av_free(value);
881             return res;
882         }
883     }
884     av_free(value);
885     return 0;
886 }
887
888 int ff_rtp_finalize_packet(AVPacket *pkt, AVIOContext **dyn_buf, int stream_idx)
889 {
890     int ret;
891     av_init_packet(pkt);
892
893     pkt->size         = avio_close_dyn_buf(*dyn_buf, &pkt->data);
894     pkt->stream_index = stream_idx;
895     *dyn_buf = NULL;
896     if ((ret = av_packet_from_data(pkt, pkt->data, pkt->size)) < 0) {
897         av_freep(&pkt->data);
898         return ret;
899     }
900     return pkt->size;
901 }