ffprobe: add rc_max_rate to stream output
[ffmpeg.git] / libavformat / mpegts.c
1 /*
2  * MPEG2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/buffer.h"
23 #include "libavutil/crc.h"
24 #include "libavutil/intreadwrite.h"
25 #include "libavutil/log.h"
26 #include "libavutil/dict.h"
27 #include "libavutil/mathematics.h"
28 #include "libavutil/opt.h"
29 #include "libavutil/avassert.h"
30 #include "libavcodec/bytestream.h"
31 #include "libavcodec/get_bits.h"
32 #include "avformat.h"
33 #include "mpegts.h"
34 #include "internal.h"
35 #include "avio_internal.h"
36 #include "seek.h"
37 #include "mpeg.h"
38 #include "isom.h"
39
40 /* maximum size in which we look for synchronisation if
41  * synchronisation is lost */
42 #define MAX_RESYNC_SIZE 65536
43
44 #define MAX_PES_PAYLOAD 200 * 1024
45
46 #define MAX_MP4_DESCR_COUNT 16
47
48 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
49     do {                                                                       \
50         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
51             (modulus) = (dividend) % (divisor);                                \
52         (prev_dividend) = (dividend);                                          \
53     } while (0)
54
55 enum MpegTSFilterType {
56     MPEGTS_PES,
57     MPEGTS_SECTION,
58     MPEGTS_PCR,
59 };
60
61 typedef struct MpegTSFilter MpegTSFilter;
62
63 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
64                          int is_start, int64_t pos);
65
66 typedef struct MpegTSPESFilter {
67     PESCallback *pes_cb;
68     void *opaque;
69 } MpegTSPESFilter;
70
71 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
72
73 typedef void SetServiceCallback (void *opaque, int ret);
74
75 typedef struct MpegTSSectionFilter {
76     int section_index;
77     int section_h_size;
78     uint8_t *section_buf;
79     unsigned int check_crc : 1;
80     unsigned int end_of_section_reached : 1;
81     SectionCallback *section_cb;
82     void *opaque;
83 } MpegTSSectionFilter;
84
85 struct MpegTSFilter {
86     int pid;
87     int es_id;
88     int last_cc; /* last cc code (-1 if first packet) */
89     int64_t last_pcr;
90     enum MpegTSFilterType type;
91     union {
92         MpegTSPESFilter pes_filter;
93         MpegTSSectionFilter section_filter;
94     } u;
95 };
96
97 #define MAX_PIDS_PER_PROGRAM 64
98 struct Program {
99     unsigned int id; // program id/service id
100     unsigned int nb_pids;
101     unsigned int pids[MAX_PIDS_PER_PROGRAM];
102
103     /** have we found pmt for this program */
104     int pmt_found;
105 };
106
107 struct MpegTSContext {
108     const AVClass *class;
109     /* user data */
110     AVFormatContext *stream;
111     /** raw packet size, including FEC if present */
112     int raw_packet_size;
113
114     int size_stat[3];
115     int size_stat_count;
116 #define SIZE_STAT_THRESHOLD 10
117
118     int64_t pos47_full;
119
120     /** if true, all pids are analyzed to find streams */
121     int auto_guess;
122
123     /** compute exact PCR for each transport stream packet */
124     int mpeg2ts_compute_pcr;
125
126     /** fix dvb teletext pts                                 */
127     int fix_teletext_pts;
128
129     int64_t cur_pcr;    /**< used to estimate the exact PCR */
130     int pcr_incr;       /**< used to estimate the exact PCR */
131
132     /* data needed to handle file based ts */
133     /** stop parsing loop */
134     int stop_parse;
135     /** packet containing Audio/Video data */
136     AVPacket *pkt;
137     /** to detect seek */
138     int64_t last_pos;
139
140     /******************************************/
141     /* private mpegts data */
142     /* scan context */
143     /** structure to keep track of Program->pids mapping */
144     unsigned int nb_prg;
145     struct Program *prg;
146
147     int8_t crc_validity[NB_PID_MAX];
148     /** filters for various streams specified by PMT + for the PAT and PMT */
149     MpegTSFilter *pids[NB_PID_MAX];
150     int current_pid;
151 };
152
153 static const AVOption mpegtsraw_options[] = {
154     { "compute_pcr",   "Compute exact PCR for each transport stream packet.",
155           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_INT,
156           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
157     { "ts_packetsize", "Output option carrying the raw packet size.",
158       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
159       { .i64 = 0 }, 0, 0,
160       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
161     { NULL },
162 };
163
164 static const AVClass mpegtsraw_class = {
165     .class_name = "mpegtsraw demuxer",
166     .item_name  = av_default_item_name,
167     .option     = mpegtsraw_options,
168     .version    = LIBAVUTIL_VERSION_INT,
169 };
170
171 static const AVOption mpegts_options[] = {
172     {"fix_teletext_pts", "Try to fix pts values of dvb teletext streams.", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_INT,
173      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
174     {"ts_packetsize", "Output option carrying the raw packet size.", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
175      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
176     { NULL },
177 };
178
179 static const AVClass mpegts_class = {
180     .class_name = "mpegts demuxer",
181     .item_name  = av_default_item_name,
182     .option     = mpegts_options,
183     .version    = LIBAVUTIL_VERSION_INT,
184 };
185
186 /* TS stream handling */
187
188 enum MpegTSState {
189     MPEGTS_HEADER = 0,
190     MPEGTS_PESHEADER,
191     MPEGTS_PESHEADER_FILL,
192     MPEGTS_PAYLOAD,
193     MPEGTS_SKIP,
194 };
195
196 /* enough for PES header + length */
197 #define PES_START_SIZE  6
198 #define PES_HEADER_SIZE 9
199 #define MAX_PES_HEADER_SIZE (9 + 255)
200
201 typedef struct PESContext {
202     int pid;
203     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
204     int stream_type;
205     MpegTSContext *ts;
206     AVFormatContext *stream;
207     AVStream *st;
208     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
209     enum MpegTSState state;
210     /* used to get the format */
211     int data_index;
212     int flags; /**< copied to the AVPacket flags */
213     int total_size;
214     int pes_header_size;
215     int extended_stream_id;
216     int64_t pts, dts;
217     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
218     uint8_t header[MAX_PES_HEADER_SIZE];
219     AVBufferRef *buffer;
220     SLConfigDescr sl;
221 } PESContext;
222
223 extern AVInputFormat ff_mpegts_demuxer;
224
225 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
226 {
227     int i;
228     for (i = 0; i < ts->nb_prg; i++) {
229         if (ts->prg[i].id == programid) {
230             return &ts->prg[i];
231         }
232     }
233     return NULL;
234 }
235
236 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
237 {
238     AVProgram *prg = NULL;
239     int i;
240     for (i = 0; i < ts->stream->nb_programs; i++)
241         if (ts->stream->programs[i]->id == programid) {
242             prg = ts->stream->programs[i];
243             break;
244         }
245     if (!prg)
246         return;
247     prg->nb_stream_indexes = 0;
248 }
249
250 static void clear_program(MpegTSContext *ts, unsigned int programid)
251 {
252     int i;
253
254     clear_avprogram(ts, programid);
255     for (i = 0; i < ts->nb_prg; i++)
256         if (ts->prg[i].id == programid) {
257             ts->prg[i].nb_pids = 0;
258             ts->prg[i].pmt_found = 0;
259         }
260 }
261
262 static void clear_programs(MpegTSContext *ts)
263 {
264     av_freep(&ts->prg);
265     ts->nb_prg = 0;
266 }
267
268 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
269 {
270     struct Program *p;
271     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
272         ts->nb_prg = 0;
273         return;
274     }
275     p = &ts->prg[ts->nb_prg];
276     p->id = programid;
277     p->nb_pids = 0;
278     p->pmt_found = 0;
279     ts->nb_prg++;
280 }
281
282 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
283                            unsigned int pid)
284 {
285     struct Program *p = get_program(ts, programid);
286     if (!p)
287         return;
288
289     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
290         return;
291     p->pids[p->nb_pids++] = pid;
292 }
293
294 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
295 {
296     struct Program *p = get_program(ts, programid);
297     if (!p)
298         return;
299
300     p->pmt_found = 1;
301 }
302
303 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
304 {
305     int i;
306     for (i = 0; i < s->nb_programs; i++) {
307         if (s->programs[i]->id == programid) {
308             s->programs[i]->pcr_pid = pid;
309             break;
310         }
311     }
312 }
313
314 /**
315  * @brief discard_pid() decides if the pid is to be discarded according
316  *                      to caller's programs selection
317  * @param ts    : - TS context
318  * @param pid   : - pid
319  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
320  *         0 otherwise
321  */
322 static int discard_pid(MpegTSContext *ts, unsigned int pid)
323 {
324     int i, j, k;
325     int used = 0, discarded = 0;
326     struct Program *p;
327
328     /* If none of the programs have .discard=AVDISCARD_ALL then there's
329      * no way we have to discard this packet */
330     for (k = 0; k < ts->stream->nb_programs; k++)
331         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
332             break;
333     if (k == ts->stream->nb_programs)
334         return 0;
335
336     for (i = 0; i < ts->nb_prg; i++) {
337         p = &ts->prg[i];
338         for (j = 0; j < p->nb_pids; j++) {
339             if (p->pids[j] != pid)
340                 continue;
341             // is program with id p->id set to be discarded?
342             for (k = 0; k < ts->stream->nb_programs; k++) {
343                 if (ts->stream->programs[k]->id == p->id) {
344                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
345                         discarded++;
346                     else
347                         used++;
348                 }
349             }
350         }
351     }
352
353     return !used && discarded;
354 }
355
356 /**
357  *  Assemble PES packets out of TS packets, and then call the "section_cb"
358  *  function when they are complete.
359  */
360 static void write_section_data(AVFormatContext *s, MpegTSFilter *tss1,
361                                const uint8_t *buf, int buf_size, int is_start)
362 {
363     MpegTSContext *ts = s->priv_data;
364     MpegTSSectionFilter *tss = &tss1->u.section_filter;
365     int len;
366
367     if (is_start) {
368         memcpy(tss->section_buf, buf, buf_size);
369         tss->section_index = buf_size;
370         tss->section_h_size = -1;
371         tss->end_of_section_reached = 0;
372     } else {
373         if (tss->end_of_section_reached)
374             return;
375         len = 4096 - tss->section_index;
376         if (buf_size < len)
377             len = buf_size;
378         memcpy(tss->section_buf + tss->section_index, buf, len);
379         tss->section_index += len;
380     }
381
382     /* compute section length if possible */
383     if (tss->section_h_size == -1 && tss->section_index >= 3) {
384         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
385         if (len > 4096)
386             return;
387         tss->section_h_size = len;
388     }
389
390     if (tss->section_h_size != -1 &&
391         tss->section_index >= tss->section_h_size) {
392         int crc_valid = 1;
393         tss->end_of_section_reached = 1;
394
395         if (tss->check_crc) {
396             crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, tss->section_buf, tss->section_h_size);
397             if (crc_valid) {
398                 ts->crc_validity[ tss1->pid ] = 100;
399             }else if (ts->crc_validity[ tss1->pid ] > -10) {
400                 ts->crc_validity[ tss1->pid ]--;
401             }else
402                 crc_valid = 2;
403         }
404         if (crc_valid)
405             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
406     }
407 }
408
409 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
410                                         enum MpegTSFilterType type)
411 {
412     MpegTSFilter *filter;
413
414     av_dlog(ts->stream, "Filter: pid=0x%x\n", pid);
415
416     if (pid >= NB_PID_MAX || ts->pids[pid])
417         return NULL;
418     filter = av_mallocz(sizeof(MpegTSFilter));
419     if (!filter)
420         return NULL;
421     ts->pids[pid] = filter;
422
423     filter->type    = type;
424     filter->pid     = pid;
425     filter->es_id   = -1;
426     filter->last_cc = -1;
427     filter->last_pcr= -1;
428
429     return filter;
430 }
431
432 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
433                                                 unsigned int pid,
434                                                 SectionCallback *section_cb,
435                                                 void *opaque,
436                                                 int check_crc)
437 {
438     MpegTSFilter *filter;
439     MpegTSSectionFilter *sec;
440
441     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
442         return NULL;
443     sec = &filter->u.section_filter;
444     sec->section_cb  = section_cb;
445     sec->opaque      = opaque;
446     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
447     sec->check_crc   = check_crc;
448     if (!sec->section_buf) {
449         av_free(filter);
450         return NULL;
451     }
452     return filter;
453 }
454
455 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
456                                             PESCallback *pes_cb,
457                                             void *opaque)
458 {
459     MpegTSFilter *filter;
460     MpegTSPESFilter *pes;
461
462     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
463         return NULL;
464
465     pes = &filter->u.pes_filter;
466     pes->pes_cb = pes_cb;
467     pes->opaque = opaque;
468     return filter;
469 }
470
471 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
472 {
473     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
474 }
475
476 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
477 {
478     int pid;
479
480     pid = filter->pid;
481     if (filter->type == MPEGTS_SECTION)
482         av_freep(&filter->u.section_filter.section_buf);
483     else if (filter->type == MPEGTS_PES) {
484         PESContext *pes = filter->u.pes_filter.opaque;
485         av_buffer_unref(&pes->buffer);
486         /* referenced private data will be freed later in
487          * avformat_close_input */
488         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
489             av_freep(&filter->u.pes_filter.opaque);
490         }
491     }
492
493     av_free(filter);
494     ts->pids[pid] = NULL;
495 }
496
497 static int analyze(const uint8_t *buf, int size, int packet_size, int *index)
498 {
499     int stat[TS_MAX_PACKET_SIZE];
500     int i;
501     int best_score = 0;
502
503     memset(stat, 0, packet_size * sizeof(*stat));
504
505     for (i = 0; i < size - 3; i++) {
506         if (buf[i] == 0x47 && !(buf[i + 1] & 0x80) && buf[i + 3] != 0x47) {
507             int x = i % packet_size;
508             stat[x]++;
509             if (stat[x] > best_score) {
510                 best_score = stat[x];
511                 if (index)
512                     *index = x;
513             }
514         }
515     }
516
517     return best_score;
518 }
519
520 /* autodetect fec presence. Must have at least 1024 bytes  */
521 static int get_packet_size(const uint8_t *buf, int size)
522 {
523     int score, fec_score, dvhs_score;
524
525     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
526         return AVERROR_INVALIDDATA;
527
528     score      = analyze(buf, size, TS_PACKET_SIZE, NULL);
529     dvhs_score = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL);
530     fec_score  = analyze(buf, size, TS_FEC_PACKET_SIZE, NULL);
531     av_dlog(NULL, "score: %d, dvhs_score: %d, fec_score: %d \n",
532             score, dvhs_score, fec_score);
533
534     if (score > fec_score && score > dvhs_score)
535         return TS_PACKET_SIZE;
536     else if (dvhs_score > score && dvhs_score > fec_score)
537         return TS_DVHS_PACKET_SIZE;
538     else if (score < fec_score && dvhs_score < fec_score)
539         return TS_FEC_PACKET_SIZE;
540     else
541         return AVERROR_INVALIDDATA;
542 }
543
544 typedef struct SectionHeader {
545     uint8_t tid;
546     uint16_t id;
547     uint8_t version;
548     uint8_t sec_num;
549     uint8_t last_sec_num;
550 } SectionHeader;
551
552 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
553 {
554     const uint8_t *p;
555     int c;
556
557     p = *pp;
558     if (p >= p_end)
559         return AVERROR_INVALIDDATA;
560     c   = *p++;
561     *pp = p;
562     return c;
563 }
564
565 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
566 {
567     const uint8_t *p;
568     int c;
569
570     p = *pp;
571     if ((p + 1) >= p_end)
572         return AVERROR_INVALIDDATA;
573     c   = AV_RB16(p);
574     p  += 2;
575     *pp = p;
576     return c;
577 }
578
579 /* read and allocate a DVB string preceded by its length */
580 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
581 {
582     int len;
583     const uint8_t *p;
584     char *str;
585
586     p   = *pp;
587     len = get8(&p, p_end);
588     if (len < 0)
589         return NULL;
590     if ((p + len) > p_end)
591         return NULL;
592     str = av_malloc(len + 1);
593     if (!str)
594         return NULL;
595     memcpy(str, p, len);
596     str[len] = '\0';
597     p  += len;
598     *pp = p;
599     return str;
600 }
601
602 static int parse_section_header(SectionHeader *h,
603                                 const uint8_t **pp, const uint8_t *p_end)
604 {
605     int val;
606
607     val = get8(pp, p_end);
608     if (val < 0)
609         return val;
610     h->tid = val;
611     *pp += 2;
612     val  = get16(pp, p_end);
613     if (val < 0)
614         return val;
615     h->id = val;
616     val = get8(pp, p_end);
617     if (val < 0)
618         return val;
619     h->version = (val >> 1) & 0x1f;
620     val = get8(pp, p_end);
621     if (val < 0)
622         return val;
623     h->sec_num = val;
624     val = get8(pp, p_end);
625     if (val < 0)
626         return val;
627     h->last_sec_num = val;
628     return 0;
629 }
630
631 typedef struct {
632     uint32_t stream_type;
633     enum AVMediaType codec_type;
634     enum AVCodecID codec_id;
635 } StreamType;
636
637 static const StreamType ISO_types[] = {
638     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
639     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
640     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
641     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
642     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
643     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
644     /* Makito encoder sets stream type 0x11 for AAC,
645      * so auto-detect LOAS/LATM instead of hardcoding it. */
646 #if !CONFIG_LOAS_DEMUXER
647     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
648 #endif
649     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
650     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
651     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
652     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
653     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
654     { 0 },
655 };
656
657 static const StreamType HDMV_types[] = {
658     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
659     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
660     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
661     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
662     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
663     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
664     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
665     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
666     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
667     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
668     { 0 },
669 };
670
671 /* ATSC ? */
672 static const StreamType MISC_types[] = {
673     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
674     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
675     { 0 },
676 };
677
678 static const StreamType REGD_types[] = {
679     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
680     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
681     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
682     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
683     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
684     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
685     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
686     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
687     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
688     { 0 },
689 };
690
691 static const StreamType METADATA_types[] = {
692     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
693     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
694     { 0 },
695 };
696
697 /* descriptor present */
698 static const StreamType DESC_types[] = {
699     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
700     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
701     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
702     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
703     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
704     { 0 },
705 };
706
707 static void mpegts_find_stream_type(AVStream *st,
708                                     uint32_t stream_type,
709                                     const StreamType *types)
710 {
711     if (avcodec_is_open(st->codec)) {
712         av_log(NULL, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
713         return;
714     }
715
716     for (; types->stream_type; types++)
717         if (stream_type == types->stream_type) {
718             st->codec->codec_type = types->codec_type;
719             st->codec->codec_id   = types->codec_id;
720             st->request_probe     = 0;
721             return;
722         }
723 }
724
725 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
726                                   uint32_t stream_type, uint32_t prog_reg_desc)
727 {
728     int old_codec_type = st->codec->codec_type;
729     int old_codec_id  = st->codec->codec_id;
730
731     if (avcodec_is_open(st->codec)) {
732         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
733         return 0;
734     }
735
736     avpriv_set_pts_info(st, 33, 1, 90000);
737     st->priv_data         = pes;
738     st->codec->codec_type = AVMEDIA_TYPE_DATA;
739     st->codec->codec_id   = AV_CODEC_ID_NONE;
740     st->need_parsing      = AVSTREAM_PARSE_FULL;
741     pes->st          = st;
742     pes->stream_type = stream_type;
743
744     av_log(pes->stream, AV_LOG_DEBUG,
745            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
746            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
747
748     st->codec->codec_tag = pes->stream_type;
749
750     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
751     if ((prog_reg_desc == AV_RL32("HDMV") ||
752          prog_reg_desc == AV_RL32("HDPR")) &&
753         st->codec->codec_id == AV_CODEC_ID_NONE) {
754         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
755         if (pes->stream_type == 0x83) {
756             // HDMV TrueHD streams also contain an AC3 coded version of the
757             // audio track - add a second stream for this
758             AVStream *sub_st;
759             // priv_data cannot be shared between streams
760             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
761             if (!sub_pes)
762                 return AVERROR(ENOMEM);
763             memcpy(sub_pes, pes, sizeof(*sub_pes));
764
765             sub_st = avformat_new_stream(pes->stream, NULL);
766             if (!sub_st) {
767                 av_free(sub_pes);
768                 return AVERROR(ENOMEM);
769             }
770
771             sub_st->id = pes->pid;
772             avpriv_set_pts_info(sub_st, 33, 1, 90000);
773             sub_st->priv_data         = sub_pes;
774             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
775             sub_st->codec->codec_id   = AV_CODEC_ID_AC3;
776             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
777             sub_pes->sub_st           = pes->sub_st = sub_st;
778         }
779     }
780     if (st->codec->codec_id == AV_CODEC_ID_NONE)
781         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
782     if (st->codec->codec_id == AV_CODEC_ID_NONE) {
783         st->codec->codec_id  = old_codec_id;
784         st->codec->codec_type = old_codec_type;
785     }
786
787     return 0;
788 }
789
790 static void reset_pes_packet_state(PESContext *pes)
791 {
792     pes->pts        = AV_NOPTS_VALUE;
793     pes->dts        = AV_NOPTS_VALUE;
794     pes->data_index = 0;
795     pes->flags      = 0;
796     av_buffer_unref(&pes->buffer);
797 }
798
799 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
800 {
801     av_init_packet(pkt);
802
803     pkt->buf  = pes->buffer;
804     pkt->data = pes->buffer->data;
805     pkt->size = pes->data_index;
806
807     if (pes->total_size != MAX_PES_PAYLOAD &&
808         pes->pes_header_size + pes->data_index != pes->total_size +
809         PES_START_SIZE) {
810         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
811         pes->flags |= AV_PKT_FLAG_CORRUPT;
812     }
813     memset(pkt->data + pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
814
815     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
816     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
817         pkt->stream_index = pes->sub_st->index;
818     else
819         pkt->stream_index = pes->st->index;
820     pkt->pts = pes->pts;
821     pkt->dts = pes->dts;
822     /* store position of first TS packet of this PES packet */
823     pkt->pos   = pes->ts_packet_pos;
824     pkt->flags = pes->flags;
825
826     pes->buffer = NULL;
827     reset_pes_packet_state(pes);
828 }
829
830 static uint64_t get_ts64(GetBitContext *gb, int bits)
831 {
832     if (get_bits_left(gb) < bits)
833         return AV_NOPTS_VALUE;
834     return get_bits64(gb, bits);
835 }
836
837 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
838                           const uint8_t *buf, int buf_size)
839 {
840     GetBitContext gb;
841     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
842     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
843     int dts_flag = -1, cts_flag = -1;
844     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
845
846     init_get_bits(&gb, buf, buf_size * 8);
847
848     if (sl->use_au_start)
849         au_start_flag = get_bits1(&gb);
850     if (sl->use_au_end)
851         au_end_flag = get_bits1(&gb);
852     if (!sl->use_au_start && !sl->use_au_end)
853         au_start_flag = au_end_flag = 1;
854     if (sl->ocr_len > 0)
855         ocr_flag = get_bits1(&gb);
856     if (sl->use_idle)
857         idle_flag = get_bits1(&gb);
858     if (sl->use_padding)
859         padding_flag = get_bits1(&gb);
860     if (padding_flag)
861         padding_bits = get_bits(&gb, 3);
862
863     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
864         if (sl->packet_seq_num_len)
865             skip_bits_long(&gb, sl->packet_seq_num_len);
866         if (sl->degr_prior_len)
867             if (get_bits1(&gb))
868                 skip_bits(&gb, sl->degr_prior_len);
869         if (ocr_flag)
870             skip_bits_long(&gb, sl->ocr_len);
871         if (au_start_flag) {
872             if (sl->use_rand_acc_pt)
873                 get_bits1(&gb);
874             if (sl->au_seq_num_len > 0)
875                 skip_bits_long(&gb, sl->au_seq_num_len);
876             if (sl->use_timestamps) {
877                 dts_flag = get_bits1(&gb);
878                 cts_flag = get_bits1(&gb);
879             }
880         }
881         if (sl->inst_bitrate_len)
882             inst_bitrate_flag = get_bits1(&gb);
883         if (dts_flag == 1)
884             dts = get_ts64(&gb, sl->timestamp_len);
885         if (cts_flag == 1)
886             cts = get_ts64(&gb, sl->timestamp_len);
887         if (sl->au_len > 0)
888             skip_bits_long(&gb, sl->au_len);
889         if (inst_bitrate_flag)
890             skip_bits_long(&gb, sl->inst_bitrate_len);
891     }
892
893     if (dts != AV_NOPTS_VALUE)
894         pes->dts = dts;
895     if (cts != AV_NOPTS_VALUE)
896         pes->pts = cts;
897
898     if (sl->timestamp_len && sl->timestamp_res)
899         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
900
901     return (get_bits_count(&gb) + 7) >> 3;
902 }
903
904 /* return non zero if a packet could be constructed */
905 static int mpegts_push_data(MpegTSFilter *filter,
906                             const uint8_t *buf, int buf_size, int is_start,
907                             int64_t pos)
908 {
909     PESContext *pes   = filter->u.pes_filter.opaque;
910     MpegTSContext *ts = pes->ts;
911     const uint8_t *p;
912     int len, code;
913
914     if (!ts->pkt)
915         return 0;
916
917     if (is_start) {
918         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
919             new_pes_packet(pes, ts->pkt);
920             ts->stop_parse = 1;
921         } else {
922             reset_pes_packet_state(pes);
923         }
924         pes->state         = MPEGTS_HEADER;
925         pes->ts_packet_pos = pos;
926     }
927     p = buf;
928     while (buf_size > 0) {
929         switch (pes->state) {
930         case MPEGTS_HEADER:
931             len = PES_START_SIZE - pes->data_index;
932             if (len > buf_size)
933                 len = buf_size;
934             memcpy(pes->header + pes->data_index, p, len);
935             pes->data_index += len;
936             p += len;
937             buf_size -= len;
938             if (pes->data_index == PES_START_SIZE) {
939                 /* we got all the PES or section header. We can now
940                  * decide */
941                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
942                     pes->header[2] == 0x01) {
943                     /* it must be an mpeg2 PES stream */
944                     code = pes->header[3] | 0x100;
945                     av_dlog(pes->stream, "pid=%x pes_code=%#x\n", pes->pid,
946                             code);
947
948                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
949                          (!pes->sub_st ||
950                           pes->sub_st->discard == AVDISCARD_ALL)) ||
951                         code == 0x1be) /* padding_stream */
952                         goto skip;
953
954                     /* stream not present in PMT */
955                     if (!pes->st) {
956                         pes->st = avformat_new_stream(ts->stream, NULL);
957                         if (!pes->st)
958                             return AVERROR(ENOMEM);
959                         pes->st->id = pes->pid;
960                         mpegts_set_stream_info(pes->st, pes, 0, 0);
961                     }
962
963                     pes->total_size = AV_RB16(pes->header + 4);
964                     /* NOTE: a zero total size means the PES size is
965                      * unbounded */
966                     if (!pes->total_size)
967                         pes->total_size = MAX_PES_PAYLOAD;
968
969                     /* allocate pes buffer */
970                     pes->buffer = av_buffer_alloc(pes->total_size +
971                                                   FF_INPUT_BUFFER_PADDING_SIZE);
972                     if (!pes->buffer)
973                         return AVERROR(ENOMEM);
974
975                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
976                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
977                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
978                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
979                         pes->state = MPEGTS_PESHEADER;
980                         if (pes->st->codec->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
981                             av_dlog(pes->stream,
982                                     "pid=%x stream_type=%x probing\n",
983                                     pes->pid,
984                                     pes->stream_type);
985                             pes->st->request_probe = 1;
986                         }
987                     } else {
988                         pes->state      = MPEGTS_PAYLOAD;
989                         pes->data_index = 0;
990                     }
991                 } else {
992                     /* otherwise, it should be a table */
993                     /* skip packet */
994 skip:
995                     pes->state = MPEGTS_SKIP;
996                     continue;
997                 }
998             }
999             break;
1000         /**********************************************/
1001         /* PES packing parsing */
1002         case MPEGTS_PESHEADER:
1003             len = PES_HEADER_SIZE - pes->data_index;
1004             if (len < 0)
1005                 return AVERROR_INVALIDDATA;
1006             if (len > buf_size)
1007                 len = buf_size;
1008             memcpy(pes->header + pes->data_index, p, len);
1009             pes->data_index += len;
1010             p += len;
1011             buf_size -= len;
1012             if (pes->data_index == PES_HEADER_SIZE) {
1013                 pes->pes_header_size = pes->header[8] + 9;
1014                 pes->state           = MPEGTS_PESHEADER_FILL;
1015             }
1016             break;
1017         case MPEGTS_PESHEADER_FILL:
1018             len = pes->pes_header_size - pes->data_index;
1019             if (len < 0)
1020                 return AVERROR_INVALIDDATA;
1021             if (len > buf_size)
1022                 len = buf_size;
1023             memcpy(pes->header + pes->data_index, p, len);
1024             pes->data_index += len;
1025             p += len;
1026             buf_size -= len;
1027             if (pes->data_index == pes->pes_header_size) {
1028                 const uint8_t *r;
1029                 unsigned int flags, pes_ext, skip;
1030
1031                 flags = pes->header[7];
1032                 r = pes->header + 9;
1033                 pes->pts = AV_NOPTS_VALUE;
1034                 pes->dts = AV_NOPTS_VALUE;
1035                 if ((flags & 0xc0) == 0x80) {
1036                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1037                     r += 5;
1038                 } else if ((flags & 0xc0) == 0xc0) {
1039                     pes->pts = ff_parse_pes_pts(r);
1040                     r += 5;
1041                     pes->dts = ff_parse_pes_pts(r);
1042                     r += 5;
1043                 }
1044                 pes->extended_stream_id = -1;
1045                 if (flags & 0x01) { /* PES extension */
1046                     pes_ext = *r++;
1047                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1048                     skip  = (pes_ext >> 4) & 0xb;
1049                     skip += skip & 0x9;
1050                     r    += skip;
1051                     if ((pes_ext & 0x41) == 0x01 &&
1052                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1053                         /* PES extension 2 */
1054                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1055                             pes->extended_stream_id = r[1];
1056                     }
1057                 }
1058
1059                 /* we got the full header. We parse it and get the payload */
1060                 pes->state = MPEGTS_PAYLOAD;
1061                 pes->data_index = 0;
1062                 if (pes->stream_type == 0x12 && buf_size > 0) {
1063                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1064                                                          buf_size);
1065                     pes->pes_header_size += sl_header_bytes;
1066                     p += sl_header_bytes;
1067                     buf_size -= sl_header_bytes;
1068                 }
1069                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1070                     /* skip metadata access unit header */
1071                     pes->pes_header_size += 5;
1072                     p += 5;
1073                     buf_size -= 5;
1074                 }
1075                 if (pes->ts->fix_teletext_pts && pes->st->codec->codec_id == AV_CODEC_ID_DVB_TELETEXT) {
1076                     AVProgram *p = NULL;
1077                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1078                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1079                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1080                             if (f) {
1081                                 AVStream *st = NULL;
1082                                 if (f->type == MPEGTS_PES) {
1083                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1084                                     if (pcrpes)
1085                                         st = pcrpes->st;
1086                                 } else if (f->type == MPEGTS_PCR) {
1087                                     int i;
1088                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1089                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1090                                         if (pst->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1091                                             st = pst;
1092                                     }
1093                                 }
1094                                 if (f->last_pcr != -1 && st && st->discard != AVDISCARD_ALL) {
1095                                     // teletext packets do not always have correct timestamps,
1096                                     // the standard says they should be handled after 40.6 ms at most,
1097                                     // and the pcr error to this packet should be no more than 100 ms.
1098                                     // TODO: we should interpolate the PCR, not just use the last one
1099                                     int64_t pcr = f->last_pcr / 300;
1100                                     pes->st->pts_wrap_reference = st->pts_wrap_reference;
1101                                     pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1102                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1103                                         pes->pts = pes->dts = pcr;
1104                                     } else if (pes->dts > pcr + 3654 + 9000) {
1105                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1106                                     }
1107                                     break;
1108                                 }
1109                             }
1110                         }
1111                     }
1112                 }
1113             }
1114             break;
1115         case MPEGTS_PAYLOAD:
1116             if (pes->buffer) {
1117                 if (pes->data_index > 0 &&
1118                     pes->data_index + buf_size > pes->total_size) {
1119                     new_pes_packet(pes, ts->pkt);
1120                     pes->total_size = MAX_PES_PAYLOAD;
1121                     pes->buffer = av_buffer_alloc(pes->total_size +
1122                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1123                     if (!pes->buffer)
1124                         return AVERROR(ENOMEM);
1125                     ts->stop_parse = 1;
1126                 } else if (pes->data_index == 0 &&
1127                            buf_size > pes->total_size) {
1128                     // pes packet size is < ts size packet and pes data is padded with 0xff
1129                     // not sure if this is legal in ts but see issue #2392
1130                     buf_size = pes->total_size;
1131                 }
1132                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1133                 pes->data_index += buf_size;
1134                 /* emit complete packets with known packet size
1135                  * decreases demuxer delay for infrequent packets like subtitles from
1136                  * a couple of seconds to milliseconds for properly muxed files.
1137                  * total_size is the number of bytes following pes_packet_length
1138                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1139                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1140                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1141                     ts->stop_parse = 1;
1142                     new_pes_packet(pes, ts->pkt);
1143                 }
1144             }
1145             buf_size = 0;
1146             break;
1147         case MPEGTS_SKIP:
1148             buf_size = 0;
1149             break;
1150         }
1151     }
1152
1153     return 0;
1154 }
1155
1156 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1157 {
1158     MpegTSFilter *tss;
1159     PESContext *pes;
1160
1161     /* if no pid found, then add a pid context */
1162     pes = av_mallocz(sizeof(PESContext));
1163     if (!pes)
1164         return 0;
1165     pes->ts      = ts;
1166     pes->stream  = ts->stream;
1167     pes->pid     = pid;
1168     pes->pcr_pid = pcr_pid;
1169     pes->state   = MPEGTS_SKIP;
1170     pes->pts     = AV_NOPTS_VALUE;
1171     pes->dts     = AV_NOPTS_VALUE;
1172     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1173     if (!tss) {
1174         av_free(pes);
1175         return 0;
1176     }
1177     return pes;
1178 }
1179
1180 #define MAX_LEVEL 4
1181 typedef struct {
1182     AVFormatContext *s;
1183     AVIOContext pb;
1184     Mp4Descr *descr;
1185     Mp4Descr *active_descr;
1186     int descr_count;
1187     int max_descr_count;
1188     int level;
1189 } MP4DescrParseContext;
1190
1191 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1192                                      const uint8_t *buf, unsigned size,
1193                                      Mp4Descr *descr, int max_descr_count)
1194 {
1195     int ret;
1196     if (size > (1 << 30))
1197         return AVERROR_INVALIDDATA;
1198
1199     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1200                                  NULL, NULL, NULL, NULL)) < 0)
1201         return ret;
1202
1203     d->s               = s;
1204     d->level           = 0;
1205     d->descr_count     = 0;
1206     d->descr           = descr;
1207     d->active_descr    = NULL;
1208     d->max_descr_count = max_descr_count;
1209
1210     return 0;
1211 }
1212
1213 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1214 {
1215     int64_t new_off = avio_tell(pb);
1216     (*len) -= new_off - *off;
1217     *off    = new_off;
1218 }
1219
1220 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1221                            int target_tag);
1222
1223 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1224 {
1225     while (len > 0) {
1226         int ret = parse_mp4_descr(d, off, len, 0);
1227         if (ret < 0)
1228             return ret;
1229         update_offsets(&d->pb, &off, &len);
1230     }
1231     return 0;
1232 }
1233
1234 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1235 {
1236     avio_rb16(&d->pb); // ID
1237     avio_r8(&d->pb);
1238     avio_r8(&d->pb);
1239     avio_r8(&d->pb);
1240     avio_r8(&d->pb);
1241     avio_r8(&d->pb);
1242     update_offsets(&d->pb, &off, &len);
1243     return parse_mp4_descr_arr(d, off, len);
1244 }
1245
1246 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1247 {
1248     int id_flags;
1249     if (len < 2)
1250         return 0;
1251     id_flags = avio_rb16(&d->pb);
1252     if (!(id_flags & 0x0020)) { // URL_Flag
1253         update_offsets(&d->pb, &off, &len);
1254         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1255     } else {
1256         return 0;
1257     }
1258 }
1259
1260 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1261 {
1262     int es_id = 0;
1263     if (d->descr_count >= d->max_descr_count)
1264         return AVERROR_INVALIDDATA;
1265     ff_mp4_parse_es_descr(&d->pb, &es_id);
1266     d->active_descr = d->descr + (d->descr_count++);
1267
1268     d->active_descr->es_id = es_id;
1269     update_offsets(&d->pb, &off, &len);
1270     parse_mp4_descr(d, off, len, MP4DecConfigDescrTag);
1271     update_offsets(&d->pb, &off, &len);
1272     if (len > 0)
1273         parse_mp4_descr(d, off, len, MP4SLDescrTag);
1274     d->active_descr = NULL;
1275     return 0;
1276 }
1277
1278 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1279                                       int len)
1280 {
1281     Mp4Descr *descr = d->active_descr;
1282     if (!descr)
1283         return AVERROR_INVALIDDATA;
1284     d->active_descr->dec_config_descr = av_malloc(len);
1285     if (!descr->dec_config_descr)
1286         return AVERROR(ENOMEM);
1287     descr->dec_config_descr_len = len;
1288     avio_read(&d->pb, descr->dec_config_descr, len);
1289     return 0;
1290 }
1291
1292 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1293 {
1294     Mp4Descr *descr = d->active_descr;
1295     int predefined;
1296     if (!descr)
1297         return AVERROR_INVALIDDATA;
1298
1299     predefined = avio_r8(&d->pb);
1300     if (!predefined) {
1301         int lengths;
1302         int flags = avio_r8(&d->pb);
1303         descr->sl.use_au_start    = !!(flags & 0x80);
1304         descr->sl.use_au_end      = !!(flags & 0x40);
1305         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1306         descr->sl.use_padding     = !!(flags & 0x08);
1307         descr->sl.use_timestamps  = !!(flags & 0x04);
1308         descr->sl.use_idle        = !!(flags & 0x02);
1309         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1310         avio_rb32(&d->pb);
1311         descr->sl.timestamp_len      = avio_r8(&d->pb);
1312         if (descr->sl.timestamp_len > 64) {
1313             avpriv_request_sample(NULL, "timestamp_len > 64");
1314             descr->sl.timestamp_len = 64;
1315             return AVERROR_PATCHWELCOME;
1316         }
1317         descr->sl.ocr_len            = avio_r8(&d->pb);
1318         descr->sl.au_len             = avio_r8(&d->pb);
1319         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1320         lengths                      = avio_rb16(&d->pb);
1321         descr->sl.degr_prior_len     = lengths >> 12;
1322         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1323         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1324     } else {
1325         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1326     }
1327     return 0;
1328 }
1329
1330 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1331                            int target_tag)
1332 {
1333     int tag;
1334     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1335     update_offsets(&d->pb, &off, &len);
1336     if (len < 0 || len1 > len || len1 <= 0) {
1337         av_log(d->s, AV_LOG_ERROR,
1338                "Tag %x length violation new length %d bytes remaining %d\n",
1339                tag, len1, len);
1340         return AVERROR_INVALIDDATA;
1341     }
1342
1343     if (d->level++ >= MAX_LEVEL) {
1344         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1345         goto done;
1346     }
1347
1348     if (target_tag && tag != target_tag) {
1349         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1350                target_tag);
1351         goto done;
1352     }
1353
1354     switch (tag) {
1355     case MP4IODescrTag:
1356         parse_MP4IODescrTag(d, off, len1);
1357         break;
1358     case MP4ODescrTag:
1359         parse_MP4ODescrTag(d, off, len1);
1360         break;
1361     case MP4ESDescrTag:
1362         parse_MP4ESDescrTag(d, off, len1);
1363         break;
1364     case MP4DecConfigDescrTag:
1365         parse_MP4DecConfigDescrTag(d, off, len1);
1366         break;
1367     case MP4SLDescrTag:
1368         parse_MP4SLDescrTag(d, off, len1);
1369         break;
1370     }
1371
1372
1373 done:
1374     d->level--;
1375     avio_seek(&d->pb, off + len1, SEEK_SET);
1376     return 0;
1377 }
1378
1379 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1380                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1381 {
1382     MP4DescrParseContext d;
1383     int ret;
1384
1385     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1386     if (ret < 0)
1387         return ret;
1388
1389     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1390
1391     *descr_count = d.descr_count;
1392     return ret;
1393 }
1394
1395 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1396                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1397 {
1398     MP4DescrParseContext d;
1399     int ret;
1400
1401     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1402     if (ret < 0)
1403         return ret;
1404
1405     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1406
1407     *descr_count = d.descr_count;
1408     return ret;
1409 }
1410
1411 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1412                     int section_len)
1413 {
1414     MpegTSContext *ts = filter->u.section_filter.opaque;
1415     SectionHeader h;
1416     const uint8_t *p, *p_end;
1417     AVIOContext pb;
1418     int mp4_descr_count = 0;
1419     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1420     int i, pid;
1421     AVFormatContext *s = ts->stream;
1422
1423     p_end = section + section_len - 4;
1424     p = section;
1425     if (parse_section_header(&h, &p, p_end) < 0)
1426         return;
1427     if (h.tid != M4OD_TID)
1428         return;
1429
1430     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1431                 MAX_MP4_DESCR_COUNT);
1432
1433     for (pid = 0; pid < NB_PID_MAX; pid++) {
1434         if (!ts->pids[pid])
1435             continue;
1436         for (i = 0; i < mp4_descr_count; i++) {
1437             PESContext *pes;
1438             AVStream *st;
1439             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1440                 continue;
1441             if (ts->pids[pid]->type != MPEGTS_PES) {
1442                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1443                 continue;
1444             }
1445             pes = ts->pids[pid]->u.pes_filter.opaque;
1446             st  = pes->st;
1447             if (!st)
1448                 continue;
1449
1450             pes->sl = mp4_descr[i].sl;
1451
1452             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1453                               mp4_descr[i].dec_config_descr_len, 0,
1454                               NULL, NULL, NULL, NULL);
1455             ff_mp4_read_dec_config_descr(s, st, &pb);
1456             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1457                 st->codec->extradata_size > 0)
1458                 st->need_parsing = 0;
1459             if (st->codec->codec_id == AV_CODEC_ID_H264 &&
1460                 st->codec->extradata_size > 0)
1461                 st->need_parsing = 0;
1462
1463             if (st->codec->codec_id <= AV_CODEC_ID_NONE) {
1464                 // do nothing
1465             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_AUDIO)
1466                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
1467             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_SUBTITLE)
1468                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1469             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_UNKNOWN)
1470                 st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
1471         }
1472     }
1473     for (i = 0; i < mp4_descr_count; i++)
1474         av_free(mp4_descr[i].dec_config_descr);
1475 }
1476
1477 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1478                               const uint8_t **pp, const uint8_t *desc_list_end,
1479                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1480                               MpegTSContext *ts)
1481 {
1482     const uint8_t *desc_end;
1483     int desc_len, desc_tag, desc_es_id;
1484     char language[252];
1485     int i;
1486
1487     desc_tag = get8(pp, desc_list_end);
1488     if (desc_tag < 0)
1489         return AVERROR_INVALIDDATA;
1490     desc_len = get8(pp, desc_list_end);
1491     if (desc_len < 0)
1492         return AVERROR_INVALIDDATA;
1493     desc_end = *pp + desc_len;
1494     if (desc_end > desc_list_end)
1495         return AVERROR_INVALIDDATA;
1496
1497     av_dlog(fc, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1498
1499     if (st->codec->codec_id == AV_CODEC_ID_NONE &&
1500         stream_type == STREAM_TYPE_PRIVATE_DATA)
1501         mpegts_find_stream_type(st, desc_tag, DESC_types);
1502
1503     switch (desc_tag) {
1504     case 0x1E: /* SL descriptor */
1505         desc_es_id = get16(pp, desc_end);
1506         if (ts && ts->pids[pid])
1507             ts->pids[pid]->es_id = desc_es_id;
1508         for (i = 0; i < mp4_descr_count; i++)
1509             if (mp4_descr[i].dec_config_descr_len &&
1510                 mp4_descr[i].es_id == desc_es_id) {
1511                 AVIOContext pb;
1512                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1513                                   mp4_descr[i].dec_config_descr_len, 0,
1514                                   NULL, NULL, NULL, NULL);
1515                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1516                 if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1517                     st->codec->extradata_size > 0)
1518                     st->need_parsing = 0;
1519                 if (st->codec->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1520                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1521             }
1522         break;
1523     case 0x1F: /* FMC descriptor */
1524         get16(pp, desc_end);
1525         if (mp4_descr_count > 0 &&
1526             (st->codec->codec_id == AV_CODEC_ID_AAC_LATM || st->request_probe > 0) &&
1527             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1528             AVIOContext pb;
1529             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1530                               mp4_descr->dec_config_descr_len, 0,
1531                               NULL, NULL, NULL, NULL);
1532             ff_mp4_read_dec_config_descr(fc, st, &pb);
1533             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1534                 st->codec->extradata_size > 0) {
1535                 st->request_probe = st->need_parsing = 0;
1536                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1537             }
1538         }
1539         break;
1540     case 0x56: /* DVB teletext descriptor */
1541         {
1542             uint8_t *extradata = NULL;
1543             int language_count = desc_len / 5;
1544
1545             if (desc_len > 0 && desc_len % 5 != 0)
1546                 return AVERROR_INVALIDDATA;
1547
1548             if (language_count > 0) {
1549                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1550                 if (language_count > sizeof(language) / 4) {
1551                     language_count = sizeof(language) / 4;
1552                 }
1553
1554                 if (st->codec->extradata == NULL) {
1555                     if (ff_alloc_extradata(st->codec, language_count * 2)) {
1556                         return AVERROR(ENOMEM);
1557                     }
1558                 }
1559
1560                if (st->codec->extradata_size < language_count * 2)
1561                    return AVERROR_INVALIDDATA;
1562
1563                extradata = st->codec->extradata;
1564
1565                 for (i = 0; i < language_count; i++) {
1566                     language[i * 4 + 0] = get8(pp, desc_end);
1567                     language[i * 4 + 1] = get8(pp, desc_end);
1568                     language[i * 4 + 2] = get8(pp, desc_end);
1569                     language[i * 4 + 3] = ',';
1570
1571                     memcpy(extradata, *pp, 2);
1572                     extradata += 2;
1573
1574                     *pp += 2;
1575                 }
1576
1577                 language[i * 4 - 1] = 0;
1578                 av_dict_set(&st->metadata, "language", language, 0);
1579             }
1580         }
1581         break;
1582     case 0x59: /* subtitling descriptor */
1583         {
1584             /* 8 bytes per DVB subtitle substream data:
1585              * ISO_639_language_code (3 bytes),
1586              * subtitling_type (1 byte),
1587              * composition_page_id (2 bytes),
1588              * ancillary_page_id (2 bytes) */
1589             int language_count = desc_len / 8;
1590
1591             if (desc_len > 0 && desc_len % 8 != 0)
1592                 return AVERROR_INVALIDDATA;
1593
1594             if (language_count > 1) {
1595                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1596             }
1597
1598             if (language_count > 0) {
1599                 uint8_t *extradata;
1600
1601                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1602                 if (language_count > sizeof(language) / 4) {
1603                     language_count = sizeof(language) / 4;
1604                 }
1605
1606                 if (st->codec->extradata == NULL) {
1607                     if (ff_alloc_extradata(st->codec, language_count * 5)) {
1608                         return AVERROR(ENOMEM);
1609                     }
1610                 }
1611
1612                 if (st->codec->extradata_size < language_count * 5)
1613                     return AVERROR_INVALIDDATA;
1614
1615                 extradata = st->codec->extradata;
1616
1617                 for (i = 0; i < language_count; i++) {
1618                     language[i * 4 + 0] = get8(pp, desc_end);
1619                     language[i * 4 + 1] = get8(pp, desc_end);
1620                     language[i * 4 + 2] = get8(pp, desc_end);
1621                     language[i * 4 + 3] = ',';
1622
1623                     /* hearing impaired subtitles detection using subtitling_type */
1624                     switch (*pp[0]) {
1625                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1626                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1627                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1628                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1629                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1630                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1631                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1632                         break;
1633                     }
1634
1635                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1636                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1637                     extradata += 5;
1638
1639                     *pp += 4;
1640                 }
1641
1642                 language[i * 4 - 1] = 0;
1643                 av_dict_set(&st->metadata, "language", language, 0);
1644             }
1645         }
1646         break;
1647     case 0x0a: /* ISO 639 language descriptor */
1648         for (i = 0; i + 4 <= desc_len; i += 4) {
1649             language[i + 0] = get8(pp, desc_end);
1650             language[i + 1] = get8(pp, desc_end);
1651             language[i + 2] = get8(pp, desc_end);
1652             language[i + 3] = ',';
1653             switch (get8(pp, desc_end)) {
1654             case 0x01:
1655                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1656                 break;
1657             case 0x02:
1658                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1659                 break;
1660             case 0x03:
1661                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1662                 break;
1663             }
1664         }
1665         if (i) {
1666             language[i - 1] = 0;
1667             av_dict_set(&st->metadata, "language", language, 0);
1668         }
1669         break;
1670     case 0x05: /* registration descriptor */
1671         st->codec->codec_tag = bytestream_get_le32(pp);
1672         av_dlog(fc, "reg_desc=%.4s\n", (char *)&st->codec->codec_tag);
1673         if (st->codec->codec_id == AV_CODEC_ID_NONE)
1674             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
1675         break;
1676     case 0x52: /* stream identifier descriptor */
1677         st->stream_identifier = 1 + get8(pp, desc_end);
1678         break;
1679     case 0x26: /* metadata descriptor */
1680         if (get16(pp, desc_end) == 0xFFFF)
1681             *pp += 4;
1682         if (get8(pp, desc_end) == 0xFF) {
1683             st->codec->codec_tag = bytestream_get_le32(pp);
1684             if (st->codec->codec_id == AV_CODEC_ID_NONE)
1685                 mpegts_find_stream_type(st, st->codec->codec_tag, METADATA_types);
1686         }
1687         break;
1688     default:
1689         break;
1690     }
1691     *pp = desc_end;
1692     return 0;
1693 }
1694
1695 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1696 {
1697     MpegTSContext *ts = filter->u.section_filter.opaque;
1698     SectionHeader h1, *h = &h1;
1699     PESContext *pes;
1700     AVStream *st;
1701     const uint8_t *p, *p_end, *desc_list_end;
1702     int program_info_length, pcr_pid, pid, stream_type;
1703     int desc_list_len;
1704     uint32_t prog_reg_desc = 0; /* registration descriptor */
1705
1706     int mp4_descr_count = 0;
1707     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1708     int i;
1709
1710     av_dlog(ts->stream, "PMT: len %i\n", section_len);
1711     hex_dump_debug(ts->stream, section, section_len);
1712
1713     p_end = section + section_len - 4;
1714     p = section;
1715     if (parse_section_header(h, &p, p_end) < 0)
1716         return;
1717
1718     av_dlog(ts->stream, "sid=0x%x sec_num=%d/%d\n",
1719             h->id, h->sec_num, h->last_sec_num);
1720
1721     if (h->tid != PMT_TID)
1722         return;
1723
1724     clear_program(ts, h->id);
1725     pcr_pid = get16(&p, p_end);
1726     if (pcr_pid < 0)
1727         return;
1728     pcr_pid &= 0x1fff;
1729     add_pid_to_pmt(ts, h->id, pcr_pid);
1730     set_pcr_pid(ts->stream, h->id, pcr_pid);
1731
1732     av_dlog(ts->stream, "pcr_pid=0x%x\n", pcr_pid);
1733
1734     program_info_length = get16(&p, p_end);
1735     if (program_info_length < 0)
1736         return;
1737     program_info_length &= 0xfff;
1738     while (program_info_length >= 2) {
1739         uint8_t tag, len;
1740         tag = get8(&p, p_end);
1741         len = get8(&p, p_end);
1742
1743         av_dlog(ts->stream, "program tag: 0x%02x len=%d\n", tag, len);
1744
1745         if (len > program_info_length - 2)
1746             // something else is broken, exit the program_descriptors_loop
1747             break;
1748         program_info_length -= len + 2;
1749         if (tag == 0x1d) { // IOD descriptor
1750             get8(&p, p_end); // scope
1751             get8(&p, p_end); // label
1752             len -= 2;
1753             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1754                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1755         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1756             prog_reg_desc = bytestream_get_le32(&p);
1757             len -= 4;
1758         }
1759         p += len;
1760     }
1761     p += program_info_length;
1762     if (p >= p_end)
1763         goto out;
1764
1765     // stop parsing after pmt, we found header
1766     if (!ts->stream->nb_streams)
1767         ts->stop_parse = 2;
1768
1769     set_pmt_found(ts, h->id);
1770
1771
1772     for (;;) {
1773         st = 0;
1774         pes = NULL;
1775         stream_type = get8(&p, p_end);
1776         if (stream_type < 0)
1777             break;
1778         pid = get16(&p, p_end);
1779         if (pid < 0)
1780             goto out;
1781         pid &= 0x1fff;
1782         if (pid == ts->current_pid)
1783             goto out;
1784
1785         /* now create stream */
1786         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1787             pes = ts->pids[pid]->u.pes_filter.opaque;
1788             if (!pes->st) {
1789                 pes->st     = avformat_new_stream(pes->stream, NULL);
1790                 if (!pes->st)
1791                     goto out;
1792                 pes->st->id = pes->pid;
1793             }
1794             st = pes->st;
1795         } else if (stream_type != 0x13) {
1796             if (ts->pids[pid])
1797                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
1798             pes = add_pes_stream(ts, pid, pcr_pid);
1799             if (pes) {
1800                 st = avformat_new_stream(pes->stream, NULL);
1801                 if (!st)
1802                     goto out;
1803                 st->id = pes->pid;
1804             }
1805         } else {
1806             int idx = ff_find_stream_index(ts->stream, pid);
1807             if (idx >= 0) {
1808                 st = ts->stream->streams[idx];
1809             } else {
1810                 st = avformat_new_stream(ts->stream, NULL);
1811                 if (!st)
1812                     goto out;
1813                 st->id = pid;
1814                 st->codec->codec_type = AVMEDIA_TYPE_DATA;
1815             }
1816         }
1817
1818         if (!st)
1819             goto out;
1820
1821         if (pes && !pes->stream_type)
1822             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1823
1824         add_pid_to_pmt(ts, h->id, pid);
1825
1826         ff_program_add_stream_index(ts->stream, h->id, st->index);
1827
1828         desc_list_len = get16(&p, p_end);
1829         if (desc_list_len < 0)
1830             goto out;
1831         desc_list_len &= 0xfff;
1832         desc_list_end  = p + desc_list_len;
1833         if (desc_list_end > p_end)
1834             goto out;
1835         for (;;) {
1836             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
1837                                           desc_list_end, mp4_descr,
1838                                           mp4_descr_count, pid, ts) < 0)
1839                 break;
1840
1841             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
1842                 stream_type == 0x83 && pes->sub_st) {
1843                 ff_program_add_stream_index(ts->stream, h->id,
1844                                             pes->sub_st->index);
1845                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1846             }
1847         }
1848         p = desc_list_end;
1849     }
1850
1851     if (!ts->pids[pcr_pid])
1852         mpegts_open_pcr_filter(ts, pcr_pid);
1853
1854 out:
1855     for (i = 0; i < mp4_descr_count; i++)
1856         av_free(mp4_descr[i].dec_config_descr);
1857 }
1858
1859 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1860 {
1861     MpegTSContext *ts = filter->u.section_filter.opaque;
1862     SectionHeader h1, *h = &h1;
1863     const uint8_t *p, *p_end;
1864     int sid, pmt_pid;
1865     AVProgram *program;
1866
1867     av_dlog(ts->stream, "PAT:\n");
1868     hex_dump_debug(ts->stream, section, section_len);
1869
1870     p_end = section + section_len - 4;
1871     p     = section;
1872     if (parse_section_header(h, &p, p_end) < 0)
1873         return;
1874     if (h->tid != PAT_TID)
1875         return;
1876
1877     ts->stream->ts_id = h->id;
1878
1879     clear_programs(ts);
1880     for (;;) {
1881         sid = get16(&p, p_end);
1882         if (sid < 0)
1883             break;
1884         pmt_pid = get16(&p, p_end);
1885         if (pmt_pid < 0)
1886             break;
1887         pmt_pid &= 0x1fff;
1888
1889         if (pmt_pid == ts->current_pid)
1890             break;
1891
1892         av_dlog(ts->stream, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
1893
1894         if (sid == 0x0000) {
1895             /* NIT info */
1896         } else {
1897             MpegTSFilter *fil = ts->pids[pmt_pid];
1898             program = av_new_program(ts->stream, sid);
1899             program->program_num = sid;
1900             program->pmt_pid = pmt_pid;
1901             if (fil)
1902                 if (   fil->type != MPEGTS_SECTION
1903                     || fil->pid != pmt_pid
1904                     || fil->u.section_filter.section_cb != pmt_cb)
1905                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
1906
1907             if (!ts->pids[pmt_pid])
1908                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
1909             add_pat_entry(ts, sid);
1910             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
1911             add_pid_to_pmt(ts, sid, pmt_pid);
1912         }
1913     }
1914
1915     if (sid < 0) {
1916         int i,j;
1917         for (j=0; j<ts->stream->nb_programs; j++) {
1918             for (i = 0; i < ts->nb_prg; i++)
1919                 if (ts->prg[i].id == ts->stream->programs[j]->id)
1920                     break;
1921             if (i==ts->nb_prg)
1922                 clear_avprogram(ts, ts->stream->programs[j]->id);
1923         }
1924     }
1925 }
1926
1927 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1928 {
1929     MpegTSContext *ts = filter->u.section_filter.opaque;
1930     SectionHeader h1, *h = &h1;
1931     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
1932     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
1933     char *name, *provider_name;
1934
1935     av_dlog(ts->stream, "SDT:\n");
1936     hex_dump_debug(ts->stream, section, section_len);
1937
1938     p_end = section + section_len - 4;
1939     p     = section;
1940     if (parse_section_header(h, &p, p_end) < 0)
1941         return;
1942     if (h->tid != SDT_TID)
1943         return;
1944     onid = get16(&p, p_end);
1945     if (onid < 0)
1946         return;
1947     val = get8(&p, p_end);
1948     if (val < 0)
1949         return;
1950     for (;;) {
1951         sid = get16(&p, p_end);
1952         if (sid < 0)
1953             break;
1954         val = get8(&p, p_end);
1955         if (val < 0)
1956             break;
1957         desc_list_len = get16(&p, p_end);
1958         if (desc_list_len < 0)
1959             break;
1960         desc_list_len &= 0xfff;
1961         desc_list_end  = p + desc_list_len;
1962         if (desc_list_end > p_end)
1963             break;
1964         for (;;) {
1965             desc_tag = get8(&p, desc_list_end);
1966             if (desc_tag < 0)
1967                 break;
1968             desc_len = get8(&p, desc_list_end);
1969             desc_end = p + desc_len;
1970             if (desc_end > desc_list_end)
1971                 break;
1972
1973             av_dlog(ts->stream, "tag: 0x%02x len=%d\n",
1974                     desc_tag, desc_len);
1975
1976             switch (desc_tag) {
1977             case 0x48:
1978                 service_type = get8(&p, p_end);
1979                 if (service_type < 0)
1980                     break;
1981                 provider_name = getstr8(&p, p_end);
1982                 if (!provider_name)
1983                     break;
1984                 name = getstr8(&p, p_end);
1985                 if (name) {
1986                     AVProgram *program = av_new_program(ts->stream, sid);
1987                     if (program) {
1988                         av_dict_set(&program->metadata, "service_name", name, 0);
1989                         av_dict_set(&program->metadata, "service_provider",
1990                                     provider_name, 0);
1991                     }
1992                 }
1993                 av_free(name);
1994                 av_free(provider_name);
1995                 break;
1996             default:
1997                 break;
1998             }
1999             p = desc_end;
2000         }
2001         p = desc_list_end;
2002     }
2003 }
2004
2005 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2006                      const uint8_t *packet);
2007
2008 /* handle one TS packet */
2009 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
2010 {
2011     AVFormatContext *s = ts->stream;
2012     MpegTSFilter *tss;
2013     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2014         has_adaptation, has_payload;
2015     const uint8_t *p, *p_end;
2016     int64_t pos;
2017
2018     pid = AV_RB16(packet + 1) & 0x1fff;
2019     if (pid && discard_pid(ts, pid))
2020         return 0;
2021     is_start = packet[1] & 0x40;
2022     tss = ts->pids[pid];
2023     if (ts->auto_guess && tss == NULL && is_start) {
2024         add_pes_stream(ts, pid, -1);
2025         tss = ts->pids[pid];
2026     }
2027     if (!tss)
2028         return 0;
2029     ts->current_pid = pid;
2030
2031     afc = (packet[3] >> 4) & 3;
2032     if (afc == 0) /* reserved value */
2033         return 0;
2034     has_adaptation   = afc & 2;
2035     has_payload      = afc & 1;
2036     is_discontinuity = has_adaptation &&
2037                        packet[4] != 0 && /* with length > 0 */
2038                        (packet[5] & 0x80); /* and discontinuity indicated */
2039
2040     /* continuity check (currently not used) */
2041     cc = (packet[3] & 0xf);
2042     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2043     cc_ok = pid == 0x1FFF || // null packet PID
2044             is_discontinuity ||
2045             tss->last_cc < 0 ||
2046             expected_cc == cc;
2047
2048     tss->last_cc = cc;
2049     if (!cc_ok) {
2050         av_log(ts->stream, AV_LOG_DEBUG,
2051                "Continuity check failed for pid %d expected %d got %d\n",
2052                pid, expected_cc, cc);
2053         if (tss->type == MPEGTS_PES) {
2054             PESContext *pc = tss->u.pes_filter.opaque;
2055             pc->flags |= AV_PKT_FLAG_CORRUPT;
2056         }
2057     }
2058
2059     if (!has_payload && tss->type != MPEGTS_PCR)
2060         return 0;
2061     p = packet + 4;
2062     if (has_adaptation) {
2063         /* skip adaptation field */
2064         p += p[0] + 1;
2065     }
2066     /* if past the end of packet, ignore */
2067     p_end = packet + TS_PACKET_SIZE;
2068     if (p > p_end || (p == p_end && tss->type != MPEGTS_PCR))
2069         return 0;
2070
2071     pos = avio_tell(ts->stream->pb);
2072     if (pos >= 0) {
2073         av_assert0(pos >= TS_PACKET_SIZE);
2074         ts->pos47_full = pos - TS_PACKET_SIZE;
2075     }
2076
2077     if (tss->type == MPEGTS_SECTION) {
2078         if (is_start) {
2079             /* pointer field present */
2080             len = *p++;
2081             if (p + len > p_end)
2082                 return 0;
2083             if (len && cc_ok) {
2084                 /* write remaining section bytes */
2085                 write_section_data(s, tss,
2086                                    p, len, 0);
2087                 /* check whether filter has been closed */
2088                 if (!ts->pids[pid])
2089                     return 0;
2090             }
2091             p += len;
2092             if (p < p_end) {
2093                 write_section_data(s, tss,
2094                                    p, p_end - p, 1);
2095             }
2096         } else {
2097             if (cc_ok) {
2098                 write_section_data(s, tss,
2099                                    p, p_end - p, 0);
2100             }
2101         }
2102
2103         // stop find_stream_info from waiting for more streams
2104         // when all programs have received a PMT
2105         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER) {
2106             int i;
2107             for (i = 0; i < ts->nb_prg; i++) {
2108                 if (!ts->prg[i].pmt_found)
2109                     break;
2110             }
2111             if (i == ts->nb_prg && ts->nb_prg > 0) {
2112                 if (ts->stream->nb_streams > 1 || pos > 100000) {
2113                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2114                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2115                 }
2116             }
2117         }
2118
2119     } else {
2120         int ret;
2121         int64_t pcr_h;
2122         int pcr_l;
2123         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2124             tss->last_pcr = pcr_h * 300 + pcr_l;
2125         // Note: The position here points actually behind the current packet.
2126         if (tss->type == MPEGTS_PES) {
2127             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2128                                                 pos - ts->raw_packet_size)) < 0)
2129                 return ret;
2130         }
2131     }
2132
2133     return 0;
2134 }
2135
2136 static void reanalyze(MpegTSContext *ts) {
2137     AVIOContext *pb = ts->stream->pb;
2138     int64_t pos = avio_tell(pb);
2139     if (pos < 0)
2140         return;
2141     pos -= ts->pos47_full;
2142     if (pos == TS_PACKET_SIZE) {
2143         ts->size_stat[0] ++;
2144     } else if (pos == TS_DVHS_PACKET_SIZE) {
2145         ts->size_stat[1] ++;
2146     } else if (pos == TS_FEC_PACKET_SIZE) {
2147         ts->size_stat[2] ++;
2148     }
2149
2150     ts->size_stat_count ++;
2151     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2152         int newsize = 0;
2153         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2154             newsize = TS_PACKET_SIZE;
2155         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2156             newsize = TS_DVHS_PACKET_SIZE;
2157         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2158             newsize = TS_FEC_PACKET_SIZE;
2159         }
2160         if (newsize && newsize != ts->raw_packet_size) {
2161             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2162             ts->raw_packet_size = newsize;
2163         }
2164         ts->size_stat_count = 0;
2165         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2166     }
2167 }
2168
2169 /* XXX: try to find a better synchro over several packets (use
2170  * get_packet_size() ?) */
2171 static int mpegts_resync(AVFormatContext *s)
2172 {
2173     AVIOContext *pb = s->pb;
2174     int c, i;
2175
2176     for (i = 0; i < MAX_RESYNC_SIZE; i++) {
2177         c = avio_r8(pb);
2178         if (url_feof(pb))
2179             return AVERROR_EOF;
2180         if (c == 0x47) {
2181             avio_seek(pb, -1, SEEK_CUR);
2182             reanalyze(s->priv_data);
2183             return 0;
2184         }
2185     }
2186     av_log(s, AV_LOG_ERROR,
2187            "max resync size reached, could not find sync byte\n");
2188     /* no sync found */
2189     return AVERROR_INVALIDDATA;
2190 }
2191
2192 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2193 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2194                        const uint8_t **data)
2195 {
2196     AVIOContext *pb = s->pb;
2197     int len;
2198
2199     for (;;) {
2200         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2201         if (len != TS_PACKET_SIZE)
2202             return len < 0 ? len : AVERROR_EOF;
2203         /* check packet sync byte */
2204         if ((*data)[0] != 0x47) {
2205             /* find a new packet start */
2206             uint64_t pos = avio_tell(pb);
2207             avio_seek(pb, -FFMIN(raw_packet_size, pos), SEEK_CUR);
2208
2209             if (mpegts_resync(s) < 0)
2210                 return AVERROR(EAGAIN);
2211             else
2212                 continue;
2213         } else {
2214             break;
2215         }
2216     }
2217     return 0;
2218 }
2219
2220 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2221 {
2222     AVIOContext *pb = s->pb;
2223     int skip = raw_packet_size - TS_PACKET_SIZE;
2224     if (skip > 0)
2225         avio_skip(pb, skip);
2226 }
2227
2228 static int handle_packets(MpegTSContext *ts, int nb_packets)
2229 {
2230     AVFormatContext *s = ts->stream;
2231     uint8_t packet[TS_PACKET_SIZE + FF_INPUT_BUFFER_PADDING_SIZE];
2232     const uint8_t *data;
2233     int packet_num, ret = 0;
2234
2235     if (avio_tell(s->pb) != ts->last_pos) {
2236         int i;
2237         av_dlog(ts->stream, "Skipping after seek\n");
2238         /* seek detected, flush pes buffer */
2239         for (i = 0; i < NB_PID_MAX; i++) {
2240             if (ts->pids[i]) {
2241                 if (ts->pids[i]->type == MPEGTS_PES) {
2242                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2243                     av_buffer_unref(&pes->buffer);
2244                     pes->data_index = 0;
2245                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2246                 }
2247                 ts->pids[i]->last_cc = -1;
2248                 ts->pids[i]->last_pcr = -1;
2249             }
2250         }
2251     }
2252
2253     ts->stop_parse = 0;
2254     packet_num = 0;
2255     memset(packet + TS_PACKET_SIZE, 0, FF_INPUT_BUFFER_PADDING_SIZE);
2256     for (;;) {
2257         packet_num++;
2258         if (nb_packets != 0 && packet_num >= nb_packets ||
2259             ts->stop_parse > 1) {
2260             ret = AVERROR(EAGAIN);
2261             break;
2262         }
2263         if (ts->stop_parse > 0)
2264             break;
2265
2266         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2267         if (ret != 0)
2268             break;
2269         ret = handle_packet(ts, data);
2270         finished_reading_packet(s, ts->raw_packet_size);
2271         if (ret != 0)
2272             break;
2273     }
2274     ts->last_pos = avio_tell(s->pb);
2275     return ret;
2276 }
2277
2278 static int mpegts_probe(AVProbeData *p)
2279 {
2280     const int size = p->buf_size;
2281     int maxscore = 0;
2282     int sumscore = 0;
2283     int i;
2284     int check_count = size / TS_FEC_PACKET_SIZE;
2285 #define CHECK_COUNT 10
2286 #define CHECK_BLOCK 100
2287
2288     if (check_count < CHECK_COUNT)
2289         return AVERROR_INVALIDDATA;
2290
2291     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2292         int left = FFMIN(check_count - i, CHECK_BLOCK);
2293         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , NULL);
2294         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, NULL);
2295         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , NULL);
2296         score = FFMAX3(score, dvhs_score, fec_score);
2297         sumscore += score;
2298         maxscore = FFMAX(maxscore, score);
2299     }
2300
2301     sumscore = sumscore * CHECK_COUNT / check_count;
2302     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2303
2304     av_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2305
2306     if      (sumscore > 6) return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2307     else if (maxscore > 6) return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2308     else
2309         return AVERROR_INVALIDDATA;
2310 }
2311
2312 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
2313  * (-1) if not available */
2314 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
2315 {
2316     int afc, len, flags;
2317     const uint8_t *p;
2318     unsigned int v;
2319
2320     afc = (packet[3] >> 4) & 3;
2321     if (afc <= 1)
2322         return AVERROR_INVALIDDATA;
2323     p   = packet + 4;
2324     len = p[0];
2325     p++;
2326     if (len == 0)
2327         return AVERROR_INVALIDDATA;
2328     flags = *p++;
2329     len--;
2330     if (!(flags & 0x10))
2331         return AVERROR_INVALIDDATA;
2332     if (len < 6)
2333         return AVERROR_INVALIDDATA;
2334     v          = AV_RB32(p);
2335     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
2336     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
2337     return 0;
2338 }
2339
2340 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
2341
2342     /* NOTE: We attempt to seek on non-seekable files as well, as the
2343      * probe buffer usually is big enough. Only warn if the seek failed
2344      * on files where the seek should work. */
2345     if (avio_seek(pb, pos, SEEK_SET) < 0)
2346         av_log(s, pb->seekable ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2347 }
2348
2349 static int mpegts_read_header(AVFormatContext *s)
2350 {
2351     MpegTSContext *ts = s->priv_data;
2352     AVIOContext *pb   = s->pb;
2353     uint8_t buf[8 * 1024] = {0};
2354     int len;
2355     int64_t pos;
2356
2357     ffio_ensure_seekback(pb, s->probesize);
2358
2359     /* read the first 8192 bytes to get packet size */
2360     pos = avio_tell(pb);
2361     len = avio_read(pb, buf, sizeof(buf));
2362     ts->raw_packet_size = get_packet_size(buf, len);
2363     if (ts->raw_packet_size <= 0) {
2364         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2365         ts->raw_packet_size = TS_PACKET_SIZE;
2366     }
2367     ts->stream     = s;
2368     ts->auto_guess = 0;
2369
2370     if (s->iformat == &ff_mpegts_demuxer) {
2371         /* normal demux */
2372
2373         /* first do a scan to get all the services */
2374         seek_back(s, pb, pos);
2375
2376         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2377
2378         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2379
2380         handle_packets(ts, s->probesize / ts->raw_packet_size);
2381         /* if could not find service, enable auto_guess */
2382
2383         ts->auto_guess = 1;
2384
2385         av_dlog(ts->stream, "tuning done\n");
2386
2387         s->ctx_flags |= AVFMTCTX_NOHEADER;
2388     } else {
2389         AVStream *st;
2390         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
2391         int64_t pcrs[2], pcr_h;
2392         int packet_count[2];
2393         uint8_t packet[TS_PACKET_SIZE];
2394         const uint8_t *data;
2395
2396         /* only read packets */
2397
2398         st = avformat_new_stream(s, NULL);
2399         if (!st)
2400             return AVERROR(ENOMEM);
2401         avpriv_set_pts_info(st, 60, 1, 27000000);
2402         st->codec->codec_type = AVMEDIA_TYPE_DATA;
2403         st->codec->codec_id   = AV_CODEC_ID_MPEG2TS;
2404
2405         /* we iterate until we find two PCRs to estimate the bitrate */
2406         pcr_pid    = -1;
2407         nb_pcrs    = 0;
2408         nb_packets = 0;
2409         for (;;) {
2410             ret = read_packet(s, packet, ts->raw_packet_size, &data);
2411             if (ret < 0)
2412                 return ret;
2413             pid = AV_RB16(data + 1) & 0x1fff;
2414             if ((pcr_pid == -1 || pcr_pid == pid) &&
2415                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
2416                 finished_reading_packet(s, ts->raw_packet_size);
2417                 pcr_pid = pid;
2418                 packet_count[nb_pcrs] = nb_packets;
2419                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
2420                 nb_pcrs++;
2421                 if (nb_pcrs >= 2)
2422                     break;
2423             } else {
2424                 finished_reading_packet(s, ts->raw_packet_size);
2425             }
2426             nb_packets++;
2427         }
2428
2429         /* NOTE1: the bitrate is computed without the FEC */
2430         /* NOTE2: it is only the bitrate of the start of the stream */
2431         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2432         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
2433         s->bit_rate  = TS_PACKET_SIZE * 8 * 27e6 / ts->pcr_incr;
2434         st->codec->bit_rate = s->bit_rate;
2435         st->start_time      = ts->cur_pcr;
2436         av_dlog(ts->stream, "start=%0.3f pcr=%0.3f incr=%d\n",
2437                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2438     }
2439
2440     seek_back(s, pb, pos);
2441     return 0;
2442 }
2443
2444 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2445
2446 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
2447 {
2448     MpegTSContext *ts = s->priv_data;
2449     int ret, i;
2450     int64_t pcr_h, next_pcr_h, pos;
2451     int pcr_l, next_pcr_l;
2452     uint8_t pcr_buf[12];
2453     const uint8_t *data;
2454
2455     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2456         return AVERROR(ENOMEM);
2457     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
2458     pkt->pos = avio_tell(s->pb);
2459     if (ret < 0) {
2460         av_free_packet(pkt);
2461         return ret;
2462     }
2463     if (data != pkt->data)
2464         memcpy(pkt->data, data, ts->raw_packet_size);
2465     finished_reading_packet(s, ts->raw_packet_size);
2466     if (ts->mpeg2ts_compute_pcr) {
2467         /* compute exact PCR for each packet */
2468         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2469             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2470             pos = avio_tell(s->pb);
2471             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
2472                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2473                 avio_read(s->pb, pcr_buf, 12);
2474                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2475                     /* XXX: not precise enough */
2476                     ts->pcr_incr =
2477                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2478                         (i + 1);
2479                     break;
2480                 }
2481             }
2482             avio_seek(s->pb, pos, SEEK_SET);
2483             /* no next PCR found: we use previous increment */
2484             ts->cur_pcr = pcr_h * 300 + pcr_l;
2485         }
2486         pkt->pts      = ts->cur_pcr;
2487         pkt->duration = ts->pcr_incr;
2488         ts->cur_pcr  += ts->pcr_incr;
2489     }
2490     pkt->stream_index = 0;
2491     return 0;
2492 }
2493
2494 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
2495 {
2496     MpegTSContext *ts = s->priv_data;
2497     int ret, i;
2498
2499     pkt->size = -1;
2500     ts->pkt = pkt;
2501     ret = handle_packets(ts, 0);
2502     if (ret < 0) {
2503         av_free_packet(ts->pkt);
2504         /* flush pes data left */
2505         for (i = 0; i < NB_PID_MAX; i++)
2506             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2507                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2508                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2509                     new_pes_packet(pes, pkt);
2510                     pes->state = MPEGTS_SKIP;
2511                     ret = 0;
2512                     break;
2513                 }
2514             }
2515     }
2516
2517     if (!ret && pkt->size < 0)
2518         ret = AVERROR(EINTR);
2519     return ret;
2520 }
2521
2522 static void mpegts_free(MpegTSContext *ts)
2523 {
2524     int i;
2525
2526     clear_programs(ts);
2527
2528     for (i = 0; i < NB_PID_MAX; i++)
2529         if (ts->pids[i])
2530             mpegts_close_filter(ts, ts->pids[i]);
2531 }
2532
2533 static int mpegts_read_close(AVFormatContext *s)
2534 {
2535     MpegTSContext *ts = s->priv_data;
2536     mpegts_free(ts);
2537     return 0;
2538 }
2539
2540 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2541                               int64_t *ppos, int64_t pos_limit)
2542 {
2543     MpegTSContext *ts = s->priv_data;
2544     int64_t pos, timestamp;
2545     uint8_t buf[TS_PACKET_SIZE];
2546     int pcr_l, pcr_pid =
2547         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
2548     int pos47 = ts->pos47_full % ts->raw_packet_size;
2549     pos =
2550         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
2551         ts->raw_packet_size + pos47;
2552     while(pos < pos_limit) {
2553         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2554             return AV_NOPTS_VALUE;
2555         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2556             return AV_NOPTS_VALUE;
2557         if (buf[0] != 0x47) {
2558             avio_seek(s->pb, -TS_PACKET_SIZE, SEEK_CUR);
2559             if (mpegts_resync(s) < 0)
2560                 return AV_NOPTS_VALUE;
2561             pos = avio_tell(s->pb);
2562             continue;
2563         }
2564         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2565             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2566             *ppos = pos;
2567             return timestamp;
2568         }
2569         pos += ts->raw_packet_size;
2570     }
2571
2572     return AV_NOPTS_VALUE;
2573 }
2574
2575 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2576                               int64_t *ppos, int64_t pos_limit)
2577 {
2578     MpegTSContext *ts = s->priv_data;
2579     int64_t pos;
2580     int pos47 = ts->pos47_full % ts->raw_packet_size;
2581     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
2582     ff_read_frame_flush(s);
2583     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2584         return AV_NOPTS_VALUE;
2585     while(pos < pos_limit) {
2586         int ret;
2587         AVPacket pkt;
2588         av_init_packet(&pkt);
2589         ret = av_read_frame(s, &pkt);
2590         if (ret < 0)
2591             return AV_NOPTS_VALUE;
2592         av_free_packet(&pkt);
2593         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
2594             ff_reduce_index(s, pkt.stream_index);
2595             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2596             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
2597                 *ppos = pkt.pos;
2598                 return pkt.dts;
2599             }
2600         }
2601         pos = pkt.pos;
2602     }
2603
2604     return AV_NOPTS_VALUE;
2605 }
2606
2607 /**************************************************************/
2608 /* parsing functions - called from other demuxers such as RTP */
2609
2610 MpegTSContext *ff_mpegts_parse_open(AVFormatContext *s)
2611 {
2612     MpegTSContext *ts;
2613
2614     ts = av_mallocz(sizeof(MpegTSContext));
2615     if (!ts)
2616         return NULL;
2617     /* no stream case, currently used by RTP */
2618     ts->raw_packet_size = TS_PACKET_SIZE;
2619     ts->stream = s;
2620     ts->auto_guess = 1;
2621     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2622     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2623
2624     return ts;
2625 }
2626
2627 /* return the consumed length if a packet was output, or -1 if no
2628  * packet is output */
2629 int ff_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2630                            const uint8_t *buf, int len)
2631 {
2632     int len1;
2633
2634     len1 = len;
2635     ts->pkt = pkt;
2636     for (;;) {
2637         ts->stop_parse = 0;
2638         if (len < TS_PACKET_SIZE)
2639             return AVERROR_INVALIDDATA;
2640         if (buf[0] != 0x47) {
2641             buf++;
2642             len--;
2643         } else {
2644             handle_packet(ts, buf);
2645             buf += TS_PACKET_SIZE;
2646             len -= TS_PACKET_SIZE;
2647             if (ts->stop_parse == 1)
2648                 break;
2649         }
2650     }
2651     return len1 - len;
2652 }
2653
2654 void ff_mpegts_parse_close(MpegTSContext *ts)
2655 {
2656     mpegts_free(ts);
2657     av_free(ts);
2658 }
2659
2660 AVInputFormat ff_mpegts_demuxer = {
2661     .name           = "mpegts",
2662     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2663     .priv_data_size = sizeof(MpegTSContext),
2664     .read_probe     = mpegts_probe,
2665     .read_header    = mpegts_read_header,
2666     .read_packet    = mpegts_read_packet,
2667     .read_close     = mpegts_read_close,
2668     .read_timestamp = mpegts_get_dts,
2669     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2670     .priv_class     = &mpegts_class,
2671 };
2672
2673 AVInputFormat ff_mpegtsraw_demuxer = {
2674     .name           = "mpegtsraw",
2675     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2676     .priv_data_size = sizeof(MpegTSContext),
2677     .read_header    = mpegts_read_header,
2678     .read_packet    = mpegts_raw_read_packet,
2679     .read_close     = mpegts_read_close,
2680     .read_timestamp = mpegts_get_dts,
2681     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2682     .priv_class     = &mpegtsraw_class,
2683 };