avcodec/mips: Improve avc chroma horiz mc msa functions
[ffmpeg.git] / libavformat / mpegts.c
1 /*
2  * MPEG-2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/buffer.h"
23 #include "libavutil/crc.h"
24 #include "libavutil/internal.h"
25 #include "libavutil/intreadwrite.h"
26 #include "libavutil/log.h"
27 #include "libavutil/dict.h"
28 #include "libavutil/mathematics.h"
29 #include "libavutil/opt.h"
30 #include "libavutil/avassert.h"
31 #include "libavcodec/bytestream.h"
32 #include "libavcodec/get_bits.h"
33 #include "libavcodec/opus.h"
34 #include "avformat.h"
35 #include "mpegts.h"
36 #include "internal.h"
37 #include "avio_internal.h"
38 #include "mpeg.h"
39 #include "isom.h"
40
41 /* maximum size in which we look for synchronization if
42  * synchronization is lost */
43 #define MAX_RESYNC_SIZE 65536
44
45 #define MAX_PES_PAYLOAD 200 * 1024
46
47 #define MAX_MP4_DESCR_COUNT 16
48
49 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
50     do {                                                                       \
51         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
52             (modulus) = (dividend) % (divisor);                                \
53         (prev_dividend) = (dividend);                                          \
54     } while (0)
55
56 enum MpegTSFilterType {
57     MPEGTS_PES,
58     MPEGTS_SECTION,
59     MPEGTS_PCR,
60 };
61
62 typedef struct MpegTSFilter MpegTSFilter;
63
64 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
65                          int is_start, int64_t pos);
66
67 typedef struct MpegTSPESFilter {
68     PESCallback *pes_cb;
69     void *opaque;
70 } MpegTSPESFilter;
71
72 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
73
74 typedef void SetServiceCallback (void *opaque, int ret);
75
76 typedef struct MpegTSSectionFilter {
77     int section_index;
78     int section_h_size;
79     int last_ver;
80     unsigned crc;
81     unsigned last_crc;
82     uint8_t *section_buf;
83     unsigned int check_crc : 1;
84     unsigned int end_of_section_reached : 1;
85     SectionCallback *section_cb;
86     void *opaque;
87 } MpegTSSectionFilter;
88
89 struct MpegTSFilter {
90     int pid;
91     int es_id;
92     int last_cc; /* last cc code (-1 if first packet) */
93     int64_t last_pcr;
94     enum MpegTSFilterType type;
95     union {
96         MpegTSPESFilter pes_filter;
97         MpegTSSectionFilter section_filter;
98     } u;
99 };
100
101 #define MAX_PIDS_PER_PROGRAM 64
102 struct Program {
103     unsigned int id; // program id/service id
104     unsigned int nb_pids;
105     unsigned int pids[MAX_PIDS_PER_PROGRAM];
106
107     /** have we found pmt for this program */
108     int pmt_found;
109 };
110
111 struct MpegTSContext {
112     const AVClass *class;
113     /* user data */
114     AVFormatContext *stream;
115     /** raw packet size, including FEC if present */
116     int raw_packet_size;
117
118     int size_stat[3];
119     int size_stat_count;
120 #define SIZE_STAT_THRESHOLD 10
121
122     int64_t pos47_full;
123
124     /** if true, all pids are analyzed to find streams */
125     int auto_guess;
126
127     /** compute exact PCR for each transport stream packet */
128     int mpeg2ts_compute_pcr;
129
130     /** fix dvb teletext pts                                 */
131     int fix_teletext_pts;
132
133     int64_t cur_pcr;    /**< used to estimate the exact PCR */
134     int pcr_incr;       /**< used to estimate the exact PCR */
135
136     /* data needed to handle file based ts */
137     /** stop parsing loop */
138     int stop_parse;
139     /** packet containing Audio/Video data */
140     AVPacket *pkt;
141     /** to detect seek */
142     int64_t last_pos;
143
144     int skip_changes;
145     int skip_clear;
146
147     int scan_all_pmts;
148
149     int resync_size;
150
151     /******************************************/
152     /* private mpegts data */
153     /* scan context */
154     /** structure to keep track of Program->pids mapping */
155     unsigned int nb_prg;
156     struct Program *prg;
157
158     int8_t crc_validity[NB_PID_MAX];
159     /** filters for various streams specified by PMT + for the PAT and PMT */
160     MpegTSFilter *pids[NB_PID_MAX];
161     int current_pid;
162 };
163
164 #define MPEGTS_OPTIONS \
165     { "resync_size",   "set size limit for looking up a new synchronization", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
166
167 static const AVOption options[] = {
168     MPEGTS_OPTIONS,
169     {"fix_teletext_pts", "try to fix pts values of dvb teletext streams", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_BOOL,
170      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
171     {"ts_packetsize", "output option carrying the raw packet size", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
172      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
173     {"scan_all_pmts",   "scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_BOOL,
174      { .i64 =  -1}, -1, 1,  AV_OPT_FLAG_DECODING_PARAM },
175     {"skip_changes", "skip changing / adding streams / programs", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_BOOL,
176      {.i64 = 0}, 0, 1, 0 },
177     {"skip_clear", "skip clearing programs", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_BOOL,
178      {.i64 = 0}, 0, 1, 0 },
179     { NULL },
180 };
181
182 static const AVClass mpegts_class = {
183     .class_name = "mpegts demuxer",
184     .item_name  = av_default_item_name,
185     .option     = options,
186     .version    = LIBAVUTIL_VERSION_INT,
187 };
188
189 static const AVOption raw_options[] = {
190     MPEGTS_OPTIONS,
191     { "compute_pcr",   "compute exact PCR for each transport stream packet",
192           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_BOOL,
193           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
194     { "ts_packetsize", "output option carrying the raw packet size",
195       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
196       { .i64 = 0 }, 0, 0,
197       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
198     { NULL },
199 };
200
201 static const AVClass mpegtsraw_class = {
202     .class_name = "mpegtsraw demuxer",
203     .item_name  = av_default_item_name,
204     .option     = raw_options,
205     .version    = LIBAVUTIL_VERSION_INT,
206 };
207
208 /* TS stream handling */
209
210 enum MpegTSState {
211     MPEGTS_HEADER = 0,
212     MPEGTS_PESHEADER,
213     MPEGTS_PESHEADER_FILL,
214     MPEGTS_PAYLOAD,
215     MPEGTS_SKIP,
216 };
217
218 /* enough for PES header + length */
219 #define PES_START_SIZE  6
220 #define PES_HEADER_SIZE 9
221 #define MAX_PES_HEADER_SIZE (9 + 255)
222
223 typedef struct PESContext {
224     int pid;
225     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
226     int stream_type;
227     MpegTSContext *ts;
228     AVFormatContext *stream;
229     AVStream *st;
230     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
231     enum MpegTSState state;
232     /* used to get the format */
233     int data_index;
234     int flags; /**< copied to the AVPacket flags */
235     int total_size;
236     int pes_header_size;
237     int extended_stream_id;
238     uint8_t stream_id;
239     int64_t pts, dts;
240     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
241     uint8_t header[MAX_PES_HEADER_SIZE];
242     AVBufferRef *buffer;
243     SLConfigDescr sl;
244 } PESContext;
245
246 extern AVInputFormat ff_mpegts_demuxer;
247
248 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
249 {
250     int i;
251     for (i = 0; i < ts->nb_prg; i++) {
252         if (ts->prg[i].id == programid) {
253             return &ts->prg[i];
254         }
255     }
256     return NULL;
257 }
258
259 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
260 {
261     AVProgram *prg = NULL;
262     int i;
263
264     for (i = 0; i < ts->stream->nb_programs; i++)
265         if (ts->stream->programs[i]->id == programid) {
266             prg = ts->stream->programs[i];
267             break;
268         }
269     if (!prg)
270         return;
271     prg->nb_stream_indexes = 0;
272 }
273
274 static void clear_program(MpegTSContext *ts, unsigned int programid)
275 {
276     int i;
277
278     clear_avprogram(ts, programid);
279     for (i = 0; i < ts->nb_prg; i++)
280         if (ts->prg[i].id == programid) {
281             ts->prg[i].nb_pids = 0;
282             ts->prg[i].pmt_found = 0;
283         }
284 }
285
286 static void clear_programs(MpegTSContext *ts)
287 {
288     av_freep(&ts->prg);
289     ts->nb_prg = 0;
290 }
291
292 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
293 {
294     struct Program *p;
295     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
296         ts->nb_prg = 0;
297         return;
298     }
299     p = &ts->prg[ts->nb_prg];
300     p->id = programid;
301     p->nb_pids = 0;
302     p->pmt_found = 0;
303     ts->nb_prg++;
304 }
305
306 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
307                            unsigned int pid)
308 {
309     struct Program *p = get_program(ts, programid);
310     int i;
311     if (!p)
312         return;
313
314     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
315         return;
316
317     for (i = 0; i < p->nb_pids; i++)
318         if (p->pids[i] == pid)
319             return;
320
321     p->pids[p->nb_pids++] = pid;
322 }
323
324 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
325 {
326     struct Program *p = get_program(ts, programid);
327     if (!p)
328         return;
329
330     p->pmt_found = 1;
331 }
332
333 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
334 {
335     int i;
336     for (i = 0; i < s->nb_programs; i++) {
337         if (s->programs[i]->id == programid) {
338             s->programs[i]->pcr_pid = pid;
339             break;
340         }
341     }
342 }
343
344 /**
345  * @brief discard_pid() decides if the pid is to be discarded according
346  *                      to caller's programs selection
347  * @param ts    : - TS context
348  * @param pid   : - pid
349  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
350  *         0 otherwise
351  */
352 static int discard_pid(MpegTSContext *ts, unsigned int pid)
353 {
354     int i, j, k;
355     int used = 0, discarded = 0;
356     struct Program *p;
357
358     /* If none of the programs have .discard=AVDISCARD_ALL then there's
359      * no way we have to discard this packet */
360     for (k = 0; k < ts->stream->nb_programs; k++)
361         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
362             break;
363     if (k == ts->stream->nb_programs)
364         return 0;
365
366     for (i = 0; i < ts->nb_prg; i++) {
367         p = &ts->prg[i];
368         for (j = 0; j < p->nb_pids; j++) {
369             if (p->pids[j] != pid)
370                 continue;
371             // is program with id p->id set to be discarded?
372             for (k = 0; k < ts->stream->nb_programs; k++) {
373                 if (ts->stream->programs[k]->id == p->id) {
374                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
375                         discarded++;
376                     else
377                         used++;
378                 }
379             }
380         }
381     }
382
383     return !used && discarded;
384 }
385
386 /**
387  *  Assemble PES packets out of TS packets, and then call the "section_cb"
388  *  function when they are complete.
389  */
390 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
391                                const uint8_t *buf, int buf_size, int is_start)
392 {
393     MpegTSSectionFilter *tss = &tss1->u.section_filter;
394     int len;
395
396     if (is_start) {
397         memcpy(tss->section_buf, buf, buf_size);
398         tss->section_index = buf_size;
399         tss->section_h_size = -1;
400         tss->end_of_section_reached = 0;
401     } else {
402         if (tss->end_of_section_reached)
403             return;
404         len = 4096 - tss->section_index;
405         if (buf_size < len)
406             len = buf_size;
407         memcpy(tss->section_buf + tss->section_index, buf, len);
408         tss->section_index += len;
409     }
410
411     /* compute section length if possible */
412     if (tss->section_h_size == -1 && tss->section_index >= 3) {
413         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
414         if (len > 4096)
415             return;
416         tss->section_h_size = len;
417     }
418
419     if (tss->section_h_size != -1 &&
420         tss->section_index >= tss->section_h_size) {
421         int crc_valid = 1;
422         tss->end_of_section_reached = 1;
423
424         if (tss->check_crc) {
425             crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, tss->section_buf, tss->section_h_size);
426             if (tss->section_h_size >= 4)
427                 tss->crc = AV_RB32(tss->section_buf + tss->section_h_size - 4);
428
429             if (crc_valid) {
430                 ts->crc_validity[ tss1->pid ] = 100;
431             }else if (ts->crc_validity[ tss1->pid ] > -10) {
432                 ts->crc_validity[ tss1->pid ]--;
433             }else
434                 crc_valid = 2;
435         }
436         if (crc_valid) {
437             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
438             if (crc_valid != 1)
439                 tss->last_ver = -1;
440         }
441     }
442 }
443
444 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
445                                         enum MpegTSFilterType type)
446 {
447     MpegTSFilter *filter;
448
449     av_log(ts->stream, AV_LOG_TRACE, "Filter: pid=0x%x type=%d\n", pid, type);
450
451     if (pid >= NB_PID_MAX || ts->pids[pid])
452         return NULL;
453     filter = av_mallocz(sizeof(MpegTSFilter));
454     if (!filter)
455         return NULL;
456     ts->pids[pid] = filter;
457
458     filter->type    = type;
459     filter->pid     = pid;
460     filter->es_id   = -1;
461     filter->last_cc = -1;
462     filter->last_pcr= -1;
463
464     return filter;
465 }
466
467 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
468                                                 unsigned int pid,
469                                                 SectionCallback *section_cb,
470                                                 void *opaque,
471                                                 int check_crc)
472 {
473     MpegTSFilter *filter;
474     MpegTSSectionFilter *sec;
475
476     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
477         return NULL;
478     sec = &filter->u.section_filter;
479     sec->section_cb  = section_cb;
480     sec->opaque      = opaque;
481     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
482     sec->check_crc   = check_crc;
483     sec->last_ver    = -1;
484
485     if (!sec->section_buf) {
486         av_free(filter);
487         return NULL;
488     }
489     return filter;
490 }
491
492 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
493                                             PESCallback *pes_cb,
494                                             void *opaque)
495 {
496     MpegTSFilter *filter;
497     MpegTSPESFilter *pes;
498
499     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
500         return NULL;
501
502     pes = &filter->u.pes_filter;
503     pes->pes_cb = pes_cb;
504     pes->opaque = opaque;
505     return filter;
506 }
507
508 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
509 {
510     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
511 }
512
513 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
514 {
515     int pid;
516
517     pid = filter->pid;
518     if (filter->type == MPEGTS_SECTION)
519         av_freep(&filter->u.section_filter.section_buf);
520     else if (filter->type == MPEGTS_PES) {
521         PESContext *pes = filter->u.pes_filter.opaque;
522         av_buffer_unref(&pes->buffer);
523         /* referenced private data will be freed later in
524          * avformat_close_input */
525         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
526             av_freep(&filter->u.pes_filter.opaque);
527         }
528     }
529
530     av_free(filter);
531     ts->pids[pid] = NULL;
532 }
533
534 static int analyze(const uint8_t *buf, int size, int packet_size,
535                    int probe)
536 {
537     int stat[TS_MAX_PACKET_SIZE];
538     int stat_all = 0;
539     int i;
540     int best_score = 0;
541
542     memset(stat, 0, packet_size * sizeof(*stat));
543
544     for (i = 0; i < size - 3; i++) {
545         if (buf[i] == 0x47) {
546             int pid = AV_RB16(buf+1) & 0x1FFF;
547             int asc = buf[i + 3] & 0x30;
548             if (!probe || pid == 0x1FFF || asc) {
549                 int x = i % packet_size;
550                 stat[x]++;
551                 stat_all++;
552                 if (stat[x] > best_score) {
553                     best_score = stat[x];
554                 }
555             }
556         }
557     }
558
559     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
560 }
561
562 /* autodetect fec presence. Must have at least 1024 bytes  */
563 static int get_packet_size(const uint8_t *buf, int size)
564 {
565     int score, fec_score, dvhs_score;
566
567     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
568         return AVERROR_INVALIDDATA;
569
570     score      = analyze(buf, size, TS_PACKET_SIZE,      0);
571     dvhs_score = analyze(buf, size, TS_DVHS_PACKET_SIZE, 0);
572     fec_score  = analyze(buf, size, TS_FEC_PACKET_SIZE,  0);
573     av_log(NULL, AV_LOG_TRACE, "score: %d, dvhs_score: %d, fec_score: %d \n",
574             score, dvhs_score, fec_score);
575
576     if (score > fec_score && score > dvhs_score)
577         return TS_PACKET_SIZE;
578     else if (dvhs_score > score && dvhs_score > fec_score)
579         return TS_DVHS_PACKET_SIZE;
580     else if (score < fec_score && dvhs_score < fec_score)
581         return TS_FEC_PACKET_SIZE;
582     else
583         return AVERROR_INVALIDDATA;
584 }
585
586 typedef struct SectionHeader {
587     uint8_t tid;
588     uint16_t id;
589     uint8_t version;
590     uint8_t sec_num;
591     uint8_t last_sec_num;
592 } SectionHeader;
593
594 static int skip_identical(const SectionHeader *h, MpegTSSectionFilter *tssf)
595 {
596     if (h->version == tssf->last_ver && tssf->last_crc == tssf->crc)
597         return 1;
598
599     tssf->last_ver = h->version;
600     tssf->last_crc = tssf->crc;
601
602     return 0;
603 }
604
605 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
606 {
607     const uint8_t *p;
608     int c;
609
610     p = *pp;
611     if (p >= p_end)
612         return AVERROR_INVALIDDATA;
613     c   = *p++;
614     *pp = p;
615     return c;
616 }
617
618 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
619 {
620     const uint8_t *p;
621     int c;
622
623     p = *pp;
624     if (1 >= p_end - p)
625         return AVERROR_INVALIDDATA;
626     c   = AV_RB16(p);
627     p  += 2;
628     *pp = p;
629     return c;
630 }
631
632 /* read and allocate a DVB string preceded by its length */
633 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
634 {
635     int len;
636     const uint8_t *p;
637     char *str;
638
639     p   = *pp;
640     len = get8(&p, p_end);
641     if (len < 0)
642         return NULL;
643     if (len > p_end - p)
644         return NULL;
645     str = av_malloc(len + 1);
646     if (!str)
647         return NULL;
648     memcpy(str, p, len);
649     str[len] = '\0';
650     p  += len;
651     *pp = p;
652     return str;
653 }
654
655 static int parse_section_header(SectionHeader *h,
656                                 const uint8_t **pp, const uint8_t *p_end)
657 {
658     int val;
659
660     val = get8(pp, p_end);
661     if (val < 0)
662         return val;
663     h->tid = val;
664     *pp += 2;
665     val  = get16(pp, p_end);
666     if (val < 0)
667         return val;
668     h->id = val;
669     val = get8(pp, p_end);
670     if (val < 0)
671         return val;
672     h->version = (val >> 1) & 0x1f;
673     val = get8(pp, p_end);
674     if (val < 0)
675         return val;
676     h->sec_num = val;
677     val = get8(pp, p_end);
678     if (val < 0)
679         return val;
680     h->last_sec_num = val;
681     return 0;
682 }
683
684 typedef struct StreamType {
685     uint32_t stream_type;
686     enum AVMediaType codec_type;
687     enum AVCodecID codec_id;
688 } StreamType;
689
690 static const StreamType ISO_types[] = {
691     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
692     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
693     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
694     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
695     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
696     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
697     /* Makito encoder sets stream type 0x11 for AAC,
698      * so auto-detect LOAS/LATM instead of hardcoding it. */
699 #if !CONFIG_LOAS_DEMUXER
700     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
701 #endif
702     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
703     { 0x1c, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
704     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
705     { 0x21, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_JPEG2000   },
706     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
707     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
708     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
709     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
710     { 0 },
711 };
712
713 static const StreamType HDMV_types[] = {
714     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
715     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
716     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
717     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
718     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
719     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
720     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
721     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
722     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
723     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
724     { 0x92, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_TEXT_SUBTITLE },
725     { 0 },
726 };
727
728 /* SCTE types */
729 static const StreamType SCTE_types[] = {
730     { 0x86, AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SCTE_35    },
731     { 0 },
732 };
733
734 /* ATSC ? */
735 static const StreamType MISC_types[] = {
736     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
737     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
738     { 0 },
739 };
740
741 static const StreamType REGD_types[] = {
742     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
743     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
744     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
745     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
746     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
747     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
748     { MKTAG('E', 'A', 'C', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3  },
749     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
750     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
751     { MKTAG('I', 'D', '3', ' '), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_TIMED_ID3 },
752     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
753     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
754     { 0 },
755 };
756
757 static const StreamType METADATA_types[] = {
758     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
759     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
760     { 0 },
761 };
762
763 /* descriptor present */
764 static const StreamType DESC_types[] = {
765     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
766     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
767     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
768     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
769     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
770     { 0 },
771 };
772
773 static void mpegts_find_stream_type(AVStream *st,
774                                     uint32_t stream_type,
775                                     const StreamType *types)
776 {
777     for (; types->stream_type; types++)
778         if (stream_type == types->stream_type) {
779             if (st->codecpar->codec_type != types->codec_type ||
780                 st->codecpar->codec_id   != types->codec_id) {
781                 st->codecpar->codec_type = types->codec_type;
782                 st->codecpar->codec_id   = types->codec_id;
783                 st->internal->need_context_update = 1;
784             }
785             st->request_probe        = 0;
786             return;
787         }
788 }
789
790 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
791                                   uint32_t stream_type, uint32_t prog_reg_desc)
792 {
793     int old_codec_type = st->codecpar->codec_type;
794     int old_codec_id   = st->codecpar->codec_id;
795     int old_codec_tag  = st->codecpar->codec_tag;
796
797     if (avcodec_is_open(st->internal->avctx)) {
798         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, internal codec is open\n");
799         return 0;
800     }
801
802     avpriv_set_pts_info(st, 33, 1, 90000);
803     st->priv_data         = pes;
804     st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
805     st->codecpar->codec_id   = AV_CODEC_ID_NONE;
806     st->need_parsing      = AVSTREAM_PARSE_FULL;
807     pes->st          = st;
808     pes->stream_type = stream_type;
809
810     av_log(pes->stream, AV_LOG_DEBUG,
811            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
812            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
813
814     st->codecpar->codec_tag = pes->stream_type;
815
816     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
817     if (pes->stream_type == 4 || pes->stream_type == 0x0f)
818         st->request_probe = 50;
819     if ((prog_reg_desc == AV_RL32("HDMV") ||
820          prog_reg_desc == AV_RL32("HDPR")) &&
821         st->codecpar->codec_id == AV_CODEC_ID_NONE) {
822         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
823         if (pes->stream_type == 0x83) {
824             // HDMV TrueHD streams also contain an AC3 coded version of the
825             // audio track - add a second stream for this
826             AVStream *sub_st;
827             // priv_data cannot be shared between streams
828             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
829             if (!sub_pes)
830                 return AVERROR(ENOMEM);
831             memcpy(sub_pes, pes, sizeof(*sub_pes));
832
833             sub_st = avformat_new_stream(pes->stream, NULL);
834             if (!sub_st) {
835                 av_free(sub_pes);
836                 return AVERROR(ENOMEM);
837             }
838
839             sub_st->id = pes->pid;
840             avpriv_set_pts_info(sub_st, 33, 1, 90000);
841             sub_st->priv_data         = sub_pes;
842             sub_st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
843             sub_st->codecpar->codec_id   = AV_CODEC_ID_AC3;
844             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
845             sub_pes->sub_st           = pes->sub_st = sub_st;
846         }
847     }
848     if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
849         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
850     if (st->codecpar->codec_id == AV_CODEC_ID_NONE) {
851         st->codecpar->codec_id  = old_codec_id;
852         st->codecpar->codec_type = old_codec_type;
853     }
854     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE ||
855             (st->request_probe > 0 && st->request_probe < AVPROBE_SCORE_STREAM_RETRY / 5)) &&
856         st->probe_packets > 0 &&
857         stream_type == STREAM_TYPE_PRIVATE_DATA) {
858         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
859         st->codecpar->codec_id   = AV_CODEC_ID_BIN_DATA;
860         st->request_probe = AVPROBE_SCORE_STREAM_RETRY / 5;
861     }
862
863     /* queue a context update if properties changed */
864     if (old_codec_type != st->codecpar->codec_type ||
865         old_codec_id   != st->codecpar->codec_id   ||
866         old_codec_tag  != st->codecpar->codec_tag)
867         st->internal->need_context_update = 1;
868
869     return 0;
870 }
871
872 static void reset_pes_packet_state(PESContext *pes)
873 {
874     pes->pts        = AV_NOPTS_VALUE;
875     pes->dts        = AV_NOPTS_VALUE;
876     pes->data_index = 0;
877     pes->flags      = 0;
878     av_buffer_unref(&pes->buffer);
879 }
880
881 static void new_data_packet(const uint8_t *buffer, int len, AVPacket *pkt)
882 {
883     av_init_packet(pkt);
884     pkt->data = (uint8_t *)buffer;
885     pkt->size = len;
886 }
887
888 static int new_pes_packet(PESContext *pes, AVPacket *pkt)
889 {
890     char *sd;
891
892     av_init_packet(pkt);
893
894     pkt->buf  = pes->buffer;
895     pkt->data = pes->buffer->data;
896     pkt->size = pes->data_index;
897
898     if (pes->total_size != MAX_PES_PAYLOAD &&
899         pes->pes_header_size + pes->data_index != pes->total_size +
900         PES_START_SIZE) {
901         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
902         pes->flags |= AV_PKT_FLAG_CORRUPT;
903     }
904     memset(pkt->data + pkt->size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
905
906     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
907     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
908         pkt->stream_index = pes->sub_st->index;
909     else
910         pkt->stream_index = pes->st->index;
911     pkt->pts = pes->pts;
912     pkt->dts = pes->dts;
913     /* store position of first TS packet of this PES packet */
914     pkt->pos   = pes->ts_packet_pos;
915     pkt->flags = pes->flags;
916
917     pes->buffer = NULL;
918     reset_pes_packet_state(pes);
919
920     sd = av_packet_new_side_data(pkt, AV_PKT_DATA_MPEGTS_STREAM_ID, 1);
921     if (!sd)
922         return AVERROR(ENOMEM);
923     *sd = pes->stream_id;
924
925     return 0;
926 }
927
928 static uint64_t get_ts64(GetBitContext *gb, int bits)
929 {
930     if (get_bits_left(gb) < bits)
931         return AV_NOPTS_VALUE;
932     return get_bits64(gb, bits);
933 }
934
935 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
936                           const uint8_t *buf, int buf_size)
937 {
938     GetBitContext gb;
939     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
940     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
941     int dts_flag = -1, cts_flag = -1;
942     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
943     uint8_t buf_padded[128 + AV_INPUT_BUFFER_PADDING_SIZE];
944     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - AV_INPUT_BUFFER_PADDING_SIZE);
945
946     memcpy(buf_padded, buf, buf_padded_size);
947
948     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
949
950     if (sl->use_au_start)
951         au_start_flag = get_bits1(&gb);
952     if (sl->use_au_end)
953         au_end_flag = get_bits1(&gb);
954     if (!sl->use_au_start && !sl->use_au_end)
955         au_start_flag = au_end_flag = 1;
956     if (sl->ocr_len > 0)
957         ocr_flag = get_bits1(&gb);
958     if (sl->use_idle)
959         idle_flag = get_bits1(&gb);
960     if (sl->use_padding)
961         padding_flag = get_bits1(&gb);
962     if (padding_flag)
963         padding_bits = get_bits(&gb, 3);
964
965     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
966         if (sl->packet_seq_num_len)
967             skip_bits_long(&gb, sl->packet_seq_num_len);
968         if (sl->degr_prior_len)
969             if (get_bits1(&gb))
970                 skip_bits(&gb, sl->degr_prior_len);
971         if (ocr_flag)
972             skip_bits_long(&gb, sl->ocr_len);
973         if (au_start_flag) {
974             if (sl->use_rand_acc_pt)
975                 get_bits1(&gb);
976             if (sl->au_seq_num_len > 0)
977                 skip_bits_long(&gb, sl->au_seq_num_len);
978             if (sl->use_timestamps) {
979                 dts_flag = get_bits1(&gb);
980                 cts_flag = get_bits1(&gb);
981             }
982         }
983         if (sl->inst_bitrate_len)
984             inst_bitrate_flag = get_bits1(&gb);
985         if (dts_flag == 1)
986             dts = get_ts64(&gb, sl->timestamp_len);
987         if (cts_flag == 1)
988             cts = get_ts64(&gb, sl->timestamp_len);
989         if (sl->au_len > 0)
990             skip_bits_long(&gb, sl->au_len);
991         if (inst_bitrate_flag)
992             skip_bits_long(&gb, sl->inst_bitrate_len);
993     }
994
995     if (dts != AV_NOPTS_VALUE)
996         pes->dts = dts;
997     if (cts != AV_NOPTS_VALUE)
998         pes->pts = cts;
999
1000     if (sl->timestamp_len && sl->timestamp_res)
1001         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
1002
1003     return (get_bits_count(&gb) + 7) >> 3;
1004 }
1005
1006 /* return non zero if a packet could be constructed */
1007 static int mpegts_push_data(MpegTSFilter *filter,
1008                             const uint8_t *buf, int buf_size, int is_start,
1009                             int64_t pos)
1010 {
1011     PESContext *pes   = filter->u.pes_filter.opaque;
1012     MpegTSContext *ts = pes->ts;
1013     const uint8_t *p;
1014     int ret, len, code;
1015
1016     if (!ts->pkt)
1017         return 0;
1018
1019     if (is_start) {
1020         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
1021             ret = new_pes_packet(pes, ts->pkt);
1022             if (ret < 0)
1023                 return ret;
1024             ts->stop_parse = 1;
1025         } else {
1026             reset_pes_packet_state(pes);
1027         }
1028         pes->state         = MPEGTS_HEADER;
1029         pes->ts_packet_pos = pos;
1030     }
1031     p = buf;
1032     while (buf_size > 0) {
1033         switch (pes->state) {
1034         case MPEGTS_HEADER:
1035             len = PES_START_SIZE - pes->data_index;
1036             if (len > buf_size)
1037                 len = buf_size;
1038             memcpy(pes->header + pes->data_index, p, len);
1039             pes->data_index += len;
1040             p += len;
1041             buf_size -= len;
1042             if (pes->data_index == PES_START_SIZE) {
1043                 /* we got all the PES or section header. We can now
1044                  * decide */
1045                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
1046                     pes->header[2] == 0x01) {
1047                     /* it must be an MPEG-2 PES stream */
1048                     code = pes->header[3] | 0x100;
1049                     av_log(pes->stream, AV_LOG_TRACE, "pid=%x pes_code=%#x\n", pes->pid,
1050                             code);
1051                     pes->stream_id = pes->header[3];
1052
1053                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
1054                          (!pes->sub_st ||
1055                           pes->sub_st->discard == AVDISCARD_ALL)) ||
1056                         code == 0x1be) /* padding_stream */
1057                         goto skip;
1058
1059                     /* stream not present in PMT */
1060                     if (!pes->st) {
1061                         if (ts->skip_changes)
1062                             goto skip;
1063
1064                         pes->st = avformat_new_stream(ts->stream, NULL);
1065                         if (!pes->st)
1066                             return AVERROR(ENOMEM);
1067                         pes->st->id = pes->pid;
1068                         mpegts_set_stream_info(pes->st, pes, 0, 0);
1069                     }
1070
1071                     pes->total_size = AV_RB16(pes->header + 4);
1072                     /* NOTE: a zero total size means the PES size is
1073                      * unbounded */
1074                     if (!pes->total_size)
1075                         pes->total_size = MAX_PES_PAYLOAD;
1076
1077                     /* allocate pes buffer */
1078                     pes->buffer = av_buffer_alloc(pes->total_size +
1079                                                   AV_INPUT_BUFFER_PADDING_SIZE);
1080                     if (!pes->buffer)
1081                         return AVERROR(ENOMEM);
1082
1083                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1084                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1085                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1086                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1087                         pes->state = MPEGTS_PESHEADER;
1088                         if (pes->st->codecpar->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
1089                             av_log(pes->stream, AV_LOG_TRACE,
1090                                     "pid=%x stream_type=%x probing\n",
1091                                     pes->pid,
1092                                     pes->stream_type);
1093                             pes->st->request_probe = 1;
1094                         }
1095                     } else {
1096                         pes->pes_header_size = 6;
1097                         pes->state      = MPEGTS_PAYLOAD;
1098                         pes->data_index = 0;
1099                     }
1100                 } else {
1101                     /* otherwise, it should be a table */
1102                     /* skip packet */
1103 skip:
1104                     pes->state = MPEGTS_SKIP;
1105                     continue;
1106                 }
1107             }
1108             break;
1109         /**********************************************/
1110         /* PES packing parsing */
1111         case MPEGTS_PESHEADER:
1112             len = PES_HEADER_SIZE - pes->data_index;
1113             if (len < 0)
1114                 return AVERROR_INVALIDDATA;
1115             if (len > buf_size)
1116                 len = buf_size;
1117             memcpy(pes->header + pes->data_index, p, len);
1118             pes->data_index += len;
1119             p += len;
1120             buf_size -= len;
1121             if (pes->data_index == PES_HEADER_SIZE) {
1122                 pes->pes_header_size = pes->header[8] + 9;
1123                 pes->state           = MPEGTS_PESHEADER_FILL;
1124             }
1125             break;
1126         case MPEGTS_PESHEADER_FILL:
1127             len = pes->pes_header_size - pes->data_index;
1128             if (len < 0)
1129                 return AVERROR_INVALIDDATA;
1130             if (len > buf_size)
1131                 len = buf_size;
1132             memcpy(pes->header + pes->data_index, p, len);
1133             pes->data_index += len;
1134             p += len;
1135             buf_size -= len;
1136             if (pes->data_index == pes->pes_header_size) {
1137                 const uint8_t *r;
1138                 unsigned int flags, pes_ext, skip;
1139
1140                 flags = pes->header[7];
1141                 r = pes->header + 9;
1142                 pes->pts = AV_NOPTS_VALUE;
1143                 pes->dts = AV_NOPTS_VALUE;
1144                 if ((flags & 0xc0) == 0x80) {
1145                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1146                     r += 5;
1147                 } else if ((flags & 0xc0) == 0xc0) {
1148                     pes->pts = ff_parse_pes_pts(r);
1149                     r += 5;
1150                     pes->dts = ff_parse_pes_pts(r);
1151                     r += 5;
1152                 }
1153                 pes->extended_stream_id = -1;
1154                 if (flags & 0x01) { /* PES extension */
1155                     pes_ext = *r++;
1156                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1157                     skip  = (pes_ext >> 4) & 0xb;
1158                     skip += skip & 0x9;
1159                     r    += skip;
1160                     if ((pes_ext & 0x41) == 0x01 &&
1161                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1162                         /* PES extension 2 */
1163                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1164                             pes->extended_stream_id = r[1];
1165                     }
1166                 }
1167
1168                 /* we got the full header. We parse it and get the payload */
1169                 pes->state = MPEGTS_PAYLOAD;
1170                 pes->data_index = 0;
1171                 if (pes->stream_type == 0x12 && buf_size > 0) {
1172                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1173                                                          buf_size);
1174                     pes->pes_header_size += sl_header_bytes;
1175                     p += sl_header_bytes;
1176                     buf_size -= sl_header_bytes;
1177                 }
1178                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1179                     /* skip metadata access unit header */
1180                     pes->pes_header_size += 5;
1181                     p += 5;
1182                     buf_size -= 5;
1183                 }
1184                 if (   pes->ts->fix_teletext_pts
1185                     && (   pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT
1186                         || pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
1187                     ) {
1188                     AVProgram *p = NULL;
1189                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1190                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1191                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1192                             if (f) {
1193                                 AVStream *st = NULL;
1194                                 if (f->type == MPEGTS_PES) {
1195                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1196                                     if (pcrpes)
1197                                         st = pcrpes->st;
1198                                 } else if (f->type == MPEGTS_PCR) {
1199                                     int i;
1200                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1201                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1202                                         if (pst->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
1203                                             st = pst;
1204                                     }
1205                                 }
1206                                 if (f->last_pcr != -1 && st && st->discard != AVDISCARD_ALL) {
1207                                     // teletext packets do not always have correct timestamps,
1208                                     // the standard says they should be handled after 40.6 ms at most,
1209                                     // and the pcr error to this packet should be no more than 100 ms.
1210                                     // TODO: we should interpolate the PCR, not just use the last one
1211                                     int64_t pcr = f->last_pcr / 300;
1212                                     pes->st->pts_wrap_reference = st->pts_wrap_reference;
1213                                     pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1214                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1215                                         pes->pts = pes->dts = pcr;
1216                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1217                                                pes->dts > pcr + 3654 + 9000) {
1218                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1219                                     } else if (pes->st->codecpar->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
1220                                                pes->dts > pcr + 10*90000) { //10sec
1221                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1222                                     }
1223                                     break;
1224                                 }
1225                             }
1226                         }
1227                     }
1228                 }
1229             }
1230             break;
1231         case MPEGTS_PAYLOAD:
1232             if (pes->buffer) {
1233                 if (pes->data_index > 0 &&
1234                     pes->data_index + buf_size > pes->total_size) {
1235                     ret = new_pes_packet(pes, ts->pkt);
1236                     if (ret < 0)
1237                         return ret;
1238                     pes->total_size = MAX_PES_PAYLOAD;
1239                     pes->buffer = av_buffer_alloc(pes->total_size +
1240                                                   AV_INPUT_BUFFER_PADDING_SIZE);
1241                     if (!pes->buffer)
1242                         return AVERROR(ENOMEM);
1243                     ts->stop_parse = 1;
1244                 } else if (pes->data_index == 0 &&
1245                            buf_size > pes->total_size) {
1246                     // pes packet size is < ts size packet and pes data is padded with 0xff
1247                     // not sure if this is legal in ts but see issue #2392
1248                     buf_size = pes->total_size;
1249                 }
1250                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1251                 pes->data_index += buf_size;
1252                 /* emit complete packets with known packet size
1253                  * decreases demuxer delay for infrequent packets like subtitles from
1254                  * a couple of seconds to milliseconds for properly muxed files.
1255                  * total_size is the number of bytes following pes_packet_length
1256                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1257                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1258                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1259                     ts->stop_parse = 1;
1260                     ret = new_pes_packet(pes, ts->pkt);
1261                     if (ret < 0)
1262                         return ret;
1263                 }
1264             }
1265             buf_size = 0;
1266             break;
1267         case MPEGTS_SKIP:
1268             buf_size = 0;
1269             break;
1270         }
1271     }
1272
1273     return 0;
1274 }
1275
1276 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1277 {
1278     MpegTSFilter *tss;
1279     PESContext *pes;
1280
1281     /* if no pid found, then add a pid context */
1282     pes = av_mallocz(sizeof(PESContext));
1283     if (!pes)
1284         return 0;
1285     pes->ts      = ts;
1286     pes->stream  = ts->stream;
1287     pes->pid     = pid;
1288     pes->pcr_pid = pcr_pid;
1289     pes->state   = MPEGTS_SKIP;
1290     pes->pts     = AV_NOPTS_VALUE;
1291     pes->dts     = AV_NOPTS_VALUE;
1292     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1293     if (!tss) {
1294         av_free(pes);
1295         return 0;
1296     }
1297     return pes;
1298 }
1299
1300 #define MAX_LEVEL 4
1301 typedef struct MP4DescrParseContext {
1302     AVFormatContext *s;
1303     AVIOContext pb;
1304     Mp4Descr *descr;
1305     Mp4Descr *active_descr;
1306     int descr_count;
1307     int max_descr_count;
1308     int level;
1309     int predefined_SLConfigDescriptor_seen;
1310 } MP4DescrParseContext;
1311
1312 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1313                                      const uint8_t *buf, unsigned size,
1314                                      Mp4Descr *descr, int max_descr_count)
1315 {
1316     int ret;
1317     if (size > (1 << 30))
1318         return AVERROR_INVALIDDATA;
1319
1320     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1321                                  NULL, NULL, NULL, NULL)) < 0)
1322         return ret;
1323
1324     d->s               = s;
1325     d->level           = 0;
1326     d->descr_count     = 0;
1327     d->descr           = descr;
1328     d->active_descr    = NULL;
1329     d->max_descr_count = max_descr_count;
1330
1331     return 0;
1332 }
1333
1334 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1335 {
1336     int64_t new_off = avio_tell(pb);
1337     (*len) -= new_off - *off;
1338     *off    = new_off;
1339 }
1340
1341 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1342                            int target_tag);
1343
1344 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1345 {
1346     while (len > 0) {
1347         int ret = parse_mp4_descr(d, off, len, 0);
1348         if (ret < 0)
1349             return ret;
1350         update_offsets(&d->pb, &off, &len);
1351     }
1352     return 0;
1353 }
1354
1355 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1356 {
1357     avio_rb16(&d->pb); // ID
1358     avio_r8(&d->pb);
1359     avio_r8(&d->pb);
1360     avio_r8(&d->pb);
1361     avio_r8(&d->pb);
1362     avio_r8(&d->pb);
1363     update_offsets(&d->pb, &off, &len);
1364     return parse_mp4_descr_arr(d, off, len);
1365 }
1366
1367 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1368 {
1369     int id_flags;
1370     if (len < 2)
1371         return 0;
1372     id_flags = avio_rb16(&d->pb);
1373     if (!(id_flags & 0x0020)) { // URL_Flag
1374         update_offsets(&d->pb, &off, &len);
1375         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1376     } else {
1377         return 0;
1378     }
1379 }
1380
1381 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1382 {
1383     int es_id = 0;
1384     int ret   = 0;
1385
1386     if (d->descr_count >= d->max_descr_count)
1387         return AVERROR_INVALIDDATA;
1388     ff_mp4_parse_es_descr(&d->pb, &es_id);
1389     d->active_descr = d->descr + (d->descr_count++);
1390
1391     d->active_descr->es_id = es_id;
1392     update_offsets(&d->pb, &off, &len);
1393     if ((ret = parse_mp4_descr(d, off, len, MP4DecConfigDescrTag)) < 0)
1394         return ret;
1395     update_offsets(&d->pb, &off, &len);
1396     if (len > 0)
1397         ret = parse_mp4_descr(d, off, len, MP4SLDescrTag);
1398     d->active_descr = NULL;
1399     return ret;
1400 }
1401
1402 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1403                                       int len)
1404 {
1405     Mp4Descr *descr = d->active_descr;
1406     if (!descr)
1407         return AVERROR_INVALIDDATA;
1408     d->active_descr->dec_config_descr = av_malloc(len);
1409     if (!descr->dec_config_descr)
1410         return AVERROR(ENOMEM);
1411     descr->dec_config_descr_len = len;
1412     avio_read(&d->pb, descr->dec_config_descr, len);
1413     return 0;
1414 }
1415
1416 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1417 {
1418     Mp4Descr *descr = d->active_descr;
1419     int predefined;
1420     if (!descr)
1421         return AVERROR_INVALIDDATA;
1422
1423 #define R8_CHECK_CLIP_MAX(dst, maxv) do {                       \
1424     descr->sl.dst = avio_r8(&d->pb);                            \
1425     if (descr->sl.dst > maxv) {                                 \
1426         descr->sl.dst = maxv;                                   \
1427         return AVERROR_INVALIDDATA;                             \
1428     }                                                           \
1429 } while (0)
1430
1431     predefined = avio_r8(&d->pb);
1432     if (!predefined) {
1433         int lengths;
1434         int flags = avio_r8(&d->pb);
1435         descr->sl.use_au_start    = !!(flags & 0x80);
1436         descr->sl.use_au_end      = !!(flags & 0x40);
1437         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1438         descr->sl.use_padding     = !!(flags & 0x08);
1439         descr->sl.use_timestamps  = !!(flags & 0x04);
1440         descr->sl.use_idle        = !!(flags & 0x02);
1441         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1442         avio_rb32(&d->pb);
1443         R8_CHECK_CLIP_MAX(timestamp_len, 63);
1444         R8_CHECK_CLIP_MAX(ocr_len,       63);
1445         R8_CHECK_CLIP_MAX(au_len,        31);
1446         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1447         lengths                      = avio_rb16(&d->pb);
1448         descr->sl.degr_prior_len     = lengths >> 12;
1449         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1450         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1451     } else if (!d->predefined_SLConfigDescriptor_seen){
1452         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1453         d->predefined_SLConfigDescriptor_seen = 1;
1454     }
1455     return 0;
1456 }
1457
1458 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1459                            int target_tag)
1460 {
1461     int tag;
1462     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1463     int ret = 0;
1464
1465     update_offsets(&d->pb, &off, &len);
1466     if (len < 0 || len1 > len || len1 <= 0) {
1467         av_log(d->s, AV_LOG_ERROR,
1468                "Tag %x length violation new length %d bytes remaining %d\n",
1469                tag, len1, len);
1470         return AVERROR_INVALIDDATA;
1471     }
1472
1473     if (d->level++ >= MAX_LEVEL) {
1474         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1475         ret = AVERROR_INVALIDDATA;
1476         goto done;
1477     }
1478
1479     if (target_tag && tag != target_tag) {
1480         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1481                target_tag);
1482         ret = AVERROR_INVALIDDATA;
1483         goto done;
1484     }
1485
1486     switch (tag) {
1487     case MP4IODescrTag:
1488         ret = parse_MP4IODescrTag(d, off, len1);
1489         break;
1490     case MP4ODescrTag:
1491         ret = parse_MP4ODescrTag(d, off, len1);
1492         break;
1493     case MP4ESDescrTag:
1494         ret = parse_MP4ESDescrTag(d, off, len1);
1495         break;
1496     case MP4DecConfigDescrTag:
1497         ret = parse_MP4DecConfigDescrTag(d, off, len1);
1498         break;
1499     case MP4SLDescrTag:
1500         ret = parse_MP4SLDescrTag(d, off, len1);
1501         break;
1502     }
1503
1504
1505 done:
1506     d->level--;
1507     avio_seek(&d->pb, off + len1, SEEK_SET);
1508     return ret;
1509 }
1510
1511 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1512                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1513 {
1514     MP4DescrParseContext d;
1515     int ret;
1516
1517     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1518     if (ret < 0)
1519         return ret;
1520
1521     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1522
1523     *descr_count = d.descr_count;
1524     return ret;
1525 }
1526
1527 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1528                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1529 {
1530     MP4DescrParseContext d;
1531     int ret;
1532
1533     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1534     if (ret < 0)
1535         return ret;
1536
1537     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1538
1539     *descr_count = d.descr_count;
1540     return ret;
1541 }
1542
1543 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1544                     int section_len)
1545 {
1546     MpegTSContext *ts = filter->u.section_filter.opaque;
1547     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1548     SectionHeader h;
1549     const uint8_t *p, *p_end;
1550     AVIOContext pb;
1551     int mp4_descr_count = 0;
1552     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1553     int i, pid;
1554     AVFormatContext *s = ts->stream;
1555
1556     p_end = section + section_len - 4;
1557     p = section;
1558     if (parse_section_header(&h, &p, p_end) < 0)
1559         return;
1560     if (h.tid != M4OD_TID)
1561         return;
1562     if (skip_identical(&h, tssf))
1563         return;
1564
1565     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1566                 MAX_MP4_DESCR_COUNT);
1567
1568     for (pid = 0; pid < NB_PID_MAX; pid++) {
1569         if (!ts->pids[pid])
1570             continue;
1571         for (i = 0; i < mp4_descr_count; i++) {
1572             PESContext *pes;
1573             AVStream *st;
1574             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1575                 continue;
1576             if (ts->pids[pid]->type != MPEGTS_PES) {
1577                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1578                 continue;
1579             }
1580             pes = ts->pids[pid]->u.pes_filter.opaque;
1581             st  = pes->st;
1582             if (!st)
1583                 continue;
1584
1585             pes->sl = mp4_descr[i].sl;
1586
1587             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1588                               mp4_descr[i].dec_config_descr_len, 0,
1589                               NULL, NULL, NULL, NULL);
1590             ff_mp4_read_dec_config_descr(s, st, &pb);
1591             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1592                 st->codecpar->extradata_size > 0)
1593                 st->need_parsing = 0;
1594             if (st->codecpar->codec_id == AV_CODEC_ID_H264 &&
1595                 st->codecpar->extradata_size > 0)
1596                 st->need_parsing = 0;
1597
1598             st->codecpar->codec_type = avcodec_get_type(st->codecpar->codec_id);
1599             st->internal->need_context_update = 1;
1600         }
1601     }
1602     for (i = 0; i < mp4_descr_count; i++)
1603         av_free(mp4_descr[i].dec_config_descr);
1604 }
1605
1606 static void scte_data_cb(MpegTSFilter *filter, const uint8_t *section,
1607                     int section_len)
1608 {
1609     AVProgram *prg = NULL;
1610     MpegTSContext *ts = filter->u.section_filter.opaque;
1611
1612     int idx = ff_find_stream_index(ts->stream, filter->pid);
1613     if (idx < 0)
1614         return;
1615
1616     new_data_packet(section, section_len, ts->pkt);
1617     ts->pkt->stream_index = idx;
1618     prg = av_find_program_from_stream(ts->stream, NULL, idx);
1619     if (prg && prg->pcr_pid != -1 && prg->discard != AVDISCARD_ALL) {
1620         MpegTSFilter *f = ts->pids[prg->pcr_pid];
1621         if (f && f->last_pcr != -1)
1622             ts->pkt->pts = ts->pkt->dts = f->last_pcr/300;
1623     }
1624     ts->stop_parse = 1;
1625
1626 }
1627
1628 static const uint8_t opus_coupled_stream_cnt[9] = {
1629     1, 0, 1, 1, 2, 2, 2, 3, 3
1630 };
1631
1632 static const uint8_t opus_stream_cnt[9] = {
1633     1, 1, 1, 2, 2, 3, 4, 4, 5,
1634 };
1635
1636 static const uint8_t opus_channel_map[8][8] = {
1637     { 0 },
1638     { 0,1 },
1639     { 0,2,1 },
1640     { 0,1,2,3 },
1641     { 0,4,1,2,3 },
1642     { 0,4,1,2,3,5 },
1643     { 0,4,1,2,3,5,6 },
1644     { 0,6,1,2,3,4,5,7 },
1645 };
1646
1647 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1648                               const uint8_t **pp, const uint8_t *desc_list_end,
1649                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1650                               MpegTSContext *ts)
1651 {
1652     const uint8_t *desc_end;
1653     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1654     char language[252];
1655     int i;
1656
1657     desc_tag = get8(pp, desc_list_end);
1658     if (desc_tag < 0)
1659         return AVERROR_INVALIDDATA;
1660     desc_len = get8(pp, desc_list_end);
1661     if (desc_len < 0)
1662         return AVERROR_INVALIDDATA;
1663     desc_end = *pp + desc_len;
1664     if (desc_end > desc_list_end)
1665         return AVERROR_INVALIDDATA;
1666
1667     av_log(fc, AV_LOG_TRACE, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1668
1669     if ((st->codecpar->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) &&
1670         stream_type == STREAM_TYPE_PRIVATE_DATA)
1671         mpegts_find_stream_type(st, desc_tag, DESC_types);
1672
1673     switch (desc_tag) {
1674     case 0x1E: /* SL descriptor */
1675         desc_es_id = get16(pp, desc_end);
1676         if (desc_es_id < 0)
1677             break;
1678         if (ts && ts->pids[pid])
1679             ts->pids[pid]->es_id = desc_es_id;
1680         for (i = 0; i < mp4_descr_count; i++)
1681             if (mp4_descr[i].dec_config_descr_len &&
1682                 mp4_descr[i].es_id == desc_es_id) {
1683                 AVIOContext pb;
1684                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1685                                   mp4_descr[i].dec_config_descr_len, 0,
1686                                   NULL, NULL, NULL, NULL);
1687                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1688                 if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1689                     st->codecpar->extradata_size > 0) {
1690                     st->need_parsing = 0;
1691                     st->internal->need_context_update = 1;
1692                 }
1693                 if (st->codecpar->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1694                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1695             }
1696         break;
1697     case 0x1F: /* FMC descriptor */
1698         if (get16(pp, desc_end) < 0)
1699             break;
1700         if (mp4_descr_count > 0 &&
1701             (st->codecpar->codec_id == AV_CODEC_ID_AAC_LATM ||
1702              (st->request_probe == 0 && st->codecpar->codec_id == AV_CODEC_ID_NONE) ||
1703              st->request_probe > 0) &&
1704             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1705             AVIOContext pb;
1706             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1707                               mp4_descr->dec_config_descr_len, 0,
1708                               NULL, NULL, NULL, NULL);
1709             ff_mp4_read_dec_config_descr(fc, st, &pb);
1710             if (st->codecpar->codec_id == AV_CODEC_ID_AAC &&
1711                 st->codecpar->extradata_size > 0) {
1712                 st->request_probe = st->need_parsing = 0;
1713                 st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
1714                 st->internal->need_context_update = 1;
1715             }
1716         }
1717         break;
1718     case 0x56: /* DVB teletext descriptor */
1719         {
1720             uint8_t *extradata = NULL;
1721             int language_count = desc_len / 5;
1722
1723             if (desc_len > 0 && desc_len % 5 != 0)
1724                 return AVERROR_INVALIDDATA;
1725
1726             if (language_count > 0) {
1727                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1728                 av_assert0(language_count <= sizeof(language) / 4);
1729
1730                 if (st->codecpar->extradata == NULL) {
1731                     if (ff_alloc_extradata(st->codecpar, language_count * 2)) {
1732                         return AVERROR(ENOMEM);
1733                     }
1734                 }
1735
1736                if (st->codecpar->extradata_size < language_count * 2)
1737                    return AVERROR_INVALIDDATA;
1738
1739                extradata = st->codecpar->extradata;
1740
1741                 for (i = 0; i < language_count; i++) {
1742                     language[i * 4 + 0] = get8(pp, desc_end);
1743                     language[i * 4 + 1] = get8(pp, desc_end);
1744                     language[i * 4 + 2] = get8(pp, desc_end);
1745                     language[i * 4 + 3] = ',';
1746
1747                     memcpy(extradata, *pp, 2);
1748                     extradata += 2;
1749
1750                     *pp += 2;
1751                 }
1752
1753                 language[i * 4 - 1] = 0;
1754                 av_dict_set(&st->metadata, "language", language, 0);
1755                 st->internal->need_context_update = 1;
1756             }
1757         }
1758         break;
1759     case 0x59: /* subtitling descriptor */
1760         {
1761             /* 8 bytes per DVB subtitle substream data:
1762              * ISO_639_language_code (3 bytes),
1763              * subtitling_type (1 byte),
1764              * composition_page_id (2 bytes),
1765              * ancillary_page_id (2 bytes) */
1766             int language_count = desc_len / 8;
1767
1768             if (desc_len > 0 && desc_len % 8 != 0)
1769                 return AVERROR_INVALIDDATA;
1770
1771             if (language_count > 1) {
1772                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1773             }
1774
1775             if (language_count > 0) {
1776                 uint8_t *extradata;
1777
1778                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1779                 av_assert0(language_count <= sizeof(language) / 4);
1780
1781                 if (st->codecpar->extradata == NULL) {
1782                     if (ff_alloc_extradata(st->codecpar, language_count * 5)) {
1783                         return AVERROR(ENOMEM);
1784                     }
1785                 }
1786
1787                 if (st->codecpar->extradata_size < language_count * 5)
1788                     return AVERROR_INVALIDDATA;
1789
1790                 extradata = st->codecpar->extradata;
1791
1792                 for (i = 0; i < language_count; i++) {
1793                     language[i * 4 + 0] = get8(pp, desc_end);
1794                     language[i * 4 + 1] = get8(pp, desc_end);
1795                     language[i * 4 + 2] = get8(pp, desc_end);
1796                     language[i * 4 + 3] = ',';
1797
1798                     /* hearing impaired subtitles detection using subtitling_type */
1799                     switch (*pp[0]) {
1800                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1801                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1802                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1803                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1804                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1805                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1806                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1807                         break;
1808                     }
1809
1810                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1811                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1812                     extradata += 5;
1813
1814                     *pp += 4;
1815                 }
1816
1817                 language[i * 4 - 1] = 0;
1818                 av_dict_set(&st->metadata, "language", language, 0);
1819                 st->internal->need_context_update = 1;
1820             }
1821         }
1822         break;
1823     case 0x0a: /* ISO 639 language descriptor */
1824         for (i = 0; i + 4 <= desc_len; i += 4) {
1825             language[i + 0] = get8(pp, desc_end);
1826             language[i + 1] = get8(pp, desc_end);
1827             language[i + 2] = get8(pp, desc_end);
1828             language[i + 3] = ',';
1829             switch (get8(pp, desc_end)) {
1830             case 0x01:
1831                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1832                 break;
1833             case 0x02:
1834                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1835                 break;
1836             case 0x03:
1837                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1838                 break;
1839             }
1840         }
1841         if (i && language[0]) {
1842             language[i - 1] = 0;
1843             av_dict_set(&st->metadata, "language", language, 0);
1844         }
1845         break;
1846     case 0x05: /* registration descriptor */
1847         st->codecpar->codec_tag = bytestream_get_le32(pp);
1848         av_log(fc, AV_LOG_TRACE, "reg_desc=%.4s\n", (char *)&st->codecpar->codec_tag);
1849         if (st->codecpar->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) {
1850             mpegts_find_stream_type(st, st->codecpar->codec_tag, REGD_types);
1851             if (st->codecpar->codec_tag == MKTAG('B', 'S', 'S', 'D'))
1852                 st->request_probe = 50;
1853         }
1854         break;
1855     case 0x52: /* stream identifier descriptor */
1856         st->stream_identifier = 1 + get8(pp, desc_end);
1857         break;
1858     case 0x26: /* metadata descriptor */
1859         if (get16(pp, desc_end) == 0xFFFF)
1860             *pp += 4;
1861         if (get8(pp, desc_end) == 0xFF) {
1862             st->codecpar->codec_tag = bytestream_get_le32(pp);
1863             if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
1864                 mpegts_find_stream_type(st, st->codecpar->codec_tag, METADATA_types);
1865         }
1866         break;
1867     case 0x7f: /* DVB extension descriptor */
1868         ext_desc_tag = get8(pp, desc_end);
1869         if (ext_desc_tag < 0)
1870             return AVERROR_INVALIDDATA;
1871         if (st->codecpar->codec_id == AV_CODEC_ID_OPUS &&
1872             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
1873             if (!st->codecpar->extradata) {
1874                 st->codecpar->extradata = av_mallocz(sizeof(opus_default_extradata) +
1875                                                      AV_INPUT_BUFFER_PADDING_SIZE);
1876                 if (!st->codecpar->extradata)
1877                     return AVERROR(ENOMEM);
1878
1879                 st->codecpar->extradata_size = sizeof(opus_default_extradata);
1880                 memcpy(st->codecpar->extradata, opus_default_extradata, sizeof(opus_default_extradata));
1881
1882                 channel_config_code = get8(pp, desc_end);
1883                 if (channel_config_code < 0)
1884                     return AVERROR_INVALIDDATA;
1885                 if (channel_config_code <= 0x8) {
1886                     st->codecpar->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
1887                     st->codecpar->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
1888                     st->codecpar->extradata[19] = opus_stream_cnt[channel_config_code];
1889                     st->codecpar->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
1890                     memcpy(&st->codecpar->extradata[21], opus_channel_map[channels - 1], channels);
1891                 } else {
1892                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
1893                 }
1894                 st->need_parsing = AVSTREAM_PARSE_FULL;
1895                 st->internal->need_context_update = 1;
1896             }
1897         }
1898         break;
1899     default:
1900         break;
1901     }
1902     *pp = desc_end;
1903     return 0;
1904 }
1905
1906 static int is_pes_stream(int stream_type, uint32_t prog_reg_desc)
1907 {
1908     return !(stream_type == 0x13 ||
1909              (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) );
1910 }
1911
1912 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1913 {
1914     MpegTSContext *ts = filter->u.section_filter.opaque;
1915     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1916     SectionHeader h1, *h = &h1;
1917     PESContext *pes;
1918     AVStream *st;
1919     const uint8_t *p, *p_end, *desc_list_end;
1920     int program_info_length, pcr_pid, pid, stream_type;
1921     int desc_list_len;
1922     uint32_t prog_reg_desc = 0; /* registration descriptor */
1923
1924     int mp4_descr_count = 0;
1925     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1926     int i;
1927
1928     av_log(ts->stream, AV_LOG_TRACE, "PMT: len %i\n", section_len);
1929     hex_dump_debug(ts->stream, section, section_len);
1930
1931     p_end = section + section_len - 4;
1932     p = section;
1933     if (parse_section_header(h, &p, p_end) < 0)
1934         return;
1935     if (skip_identical(h, tssf))
1936         return;
1937
1938     av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x sec_num=%d/%d version=%d tid=%d\n",
1939             h->id, h->sec_num, h->last_sec_num, h->version, h->tid);
1940
1941     if (h->tid != PMT_TID)
1942         return;
1943     if (!ts->scan_all_pmts && ts->skip_changes)
1944         return;
1945
1946     if (!ts->skip_clear)
1947         clear_program(ts, h->id);
1948
1949     pcr_pid = get16(&p, p_end);
1950     if (pcr_pid < 0)
1951         return;
1952     pcr_pid &= 0x1fff;
1953     add_pid_to_pmt(ts, h->id, pcr_pid);
1954     set_pcr_pid(ts->stream, h->id, pcr_pid);
1955
1956     av_log(ts->stream, AV_LOG_TRACE, "pcr_pid=0x%x\n", pcr_pid);
1957
1958     program_info_length = get16(&p, p_end);
1959     if (program_info_length < 0)
1960         return;
1961     program_info_length &= 0xfff;
1962     while (program_info_length >= 2) {
1963         uint8_t tag, len;
1964         tag = get8(&p, p_end);
1965         len = get8(&p, p_end);
1966
1967         av_log(ts->stream, AV_LOG_TRACE, "program tag: 0x%02x len=%d\n", tag, len);
1968
1969         if (len > program_info_length - 2)
1970             // something else is broken, exit the program_descriptors_loop
1971             break;
1972         program_info_length -= len + 2;
1973         if (tag == 0x1d) { // IOD descriptor
1974             get8(&p, p_end); // scope
1975             get8(&p, p_end); // label
1976             len -= 2;
1977             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1978                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1979         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1980             prog_reg_desc = bytestream_get_le32(&p);
1981             len -= 4;
1982         }
1983         p += len;
1984     }
1985     p += program_info_length;
1986     if (p >= p_end)
1987         goto out;
1988
1989     // stop parsing after pmt, we found header
1990     if (!ts->stream->nb_streams)
1991         ts->stop_parse = 2;
1992
1993     set_pmt_found(ts, h->id);
1994
1995
1996     for (;;) {
1997         st = 0;
1998         pes = NULL;
1999         stream_type = get8(&p, p_end);
2000         if (stream_type < 0)
2001             break;
2002         pid = get16(&p, p_end);
2003         if (pid < 0)
2004             goto out;
2005         pid &= 0x1fff;
2006         if (pid == ts->current_pid)
2007             goto out;
2008
2009         /* now create stream */
2010         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
2011             pes = ts->pids[pid]->u.pes_filter.opaque;
2012             if (!pes->st) {
2013                 pes->st     = avformat_new_stream(pes->stream, NULL);
2014                 if (!pes->st)
2015                     goto out;
2016                 pes->st->id = pes->pid;
2017             }
2018             st = pes->st;
2019         } else if (is_pes_stream(stream_type, prog_reg_desc)) {
2020             if (ts->pids[pid])
2021                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
2022             pes = add_pes_stream(ts, pid, pcr_pid);
2023             if (pes) {
2024                 st = avformat_new_stream(pes->stream, NULL);
2025                 if (!st)
2026                     goto out;
2027                 st->id = pes->pid;
2028             }
2029         } else {
2030             int idx = ff_find_stream_index(ts->stream, pid);
2031             if (idx >= 0) {
2032                 st = ts->stream->streams[idx];
2033             } else {
2034                 st = avformat_new_stream(ts->stream, NULL);
2035                 if (!st)
2036                     goto out;
2037                 st->id = pid;
2038                 st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2039                 if (stream_type == 0x86 && prog_reg_desc == AV_RL32("CUEI")) {
2040                     mpegts_find_stream_type(st, stream_type, SCTE_types);
2041                     mpegts_open_section_filter(ts, pid, scte_data_cb, ts, 1);
2042                 }
2043             }
2044         }
2045
2046         if (!st)
2047             goto out;
2048
2049         if (pes && !pes->stream_type)
2050             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
2051
2052         add_pid_to_pmt(ts, h->id, pid);
2053
2054         av_program_add_stream_index(ts->stream, h->id, st->index);
2055
2056         desc_list_len = get16(&p, p_end);
2057         if (desc_list_len < 0)
2058             goto out;
2059         desc_list_len &= 0xfff;
2060         desc_list_end  = p + desc_list_len;
2061         if (desc_list_end > p_end)
2062             goto out;
2063         for (;;) {
2064             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
2065                                           desc_list_end, mp4_descr,
2066                                           mp4_descr_count, pid, ts) < 0)
2067                 break;
2068
2069             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
2070                 stream_type == 0x83 && pes->sub_st) {
2071                 av_program_add_stream_index(ts->stream, h->id,
2072                                             pes->sub_st->index);
2073                 pes->sub_st->codecpar->codec_tag = st->codecpar->codec_tag;
2074             }
2075         }
2076         p = desc_list_end;
2077     }
2078
2079     if (!ts->pids[pcr_pid])
2080         mpegts_open_pcr_filter(ts, pcr_pid);
2081
2082 out:
2083     for (i = 0; i < mp4_descr_count; i++)
2084         av_free(mp4_descr[i].dec_config_descr);
2085 }
2086
2087 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2088 {
2089     MpegTSContext *ts = filter->u.section_filter.opaque;
2090     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2091     SectionHeader h1, *h = &h1;
2092     const uint8_t *p, *p_end;
2093     int sid, pmt_pid;
2094     AVProgram *program;
2095
2096     av_log(ts->stream, AV_LOG_TRACE, "PAT:\n");
2097     hex_dump_debug(ts->stream, section, section_len);
2098
2099     p_end = section + section_len - 4;
2100     p     = section;
2101     if (parse_section_header(h, &p, p_end) < 0)
2102         return;
2103     if (h->tid != PAT_TID)
2104         return;
2105     if (ts->skip_changes)
2106         return;
2107
2108     if (skip_identical(h, tssf))
2109         return;
2110     ts->stream->ts_id = h->id;
2111
2112     clear_programs(ts);
2113     for (;;) {
2114         sid = get16(&p, p_end);
2115         if (sid < 0)
2116             break;
2117         pmt_pid = get16(&p, p_end);
2118         if (pmt_pid < 0)
2119             break;
2120         pmt_pid &= 0x1fff;
2121
2122         if (pmt_pid == ts->current_pid)
2123             break;
2124
2125         av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
2126
2127         if (sid == 0x0000) {
2128             /* NIT info */
2129         } else {
2130             MpegTSFilter *fil = ts->pids[pmt_pid];
2131             program = av_new_program(ts->stream, sid);
2132             if (program) {
2133                 program->program_num = sid;
2134                 program->pmt_pid = pmt_pid;
2135             }
2136             if (fil)
2137                 if (   fil->type != MPEGTS_SECTION
2138                     || fil->pid != pmt_pid
2139                     || fil->u.section_filter.section_cb != pmt_cb)
2140                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2141
2142             if (!ts->pids[pmt_pid])
2143                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2144             add_pat_entry(ts, sid);
2145             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
2146             add_pid_to_pmt(ts, sid, pmt_pid);
2147         }
2148     }
2149
2150     if (sid < 0) {
2151         int i,j;
2152         for (j=0; j<ts->stream->nb_programs; j++) {
2153             for (i = 0; i < ts->nb_prg; i++)
2154                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2155                     break;
2156             if (i==ts->nb_prg && !ts->skip_clear)
2157                 clear_avprogram(ts, ts->stream->programs[j]->id);
2158         }
2159     }
2160 }
2161
2162 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2163 {
2164     MpegTSContext *ts = filter->u.section_filter.opaque;
2165     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2166     SectionHeader h1, *h = &h1;
2167     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2168     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2169     char *name, *provider_name;
2170
2171     av_log(ts->stream, AV_LOG_TRACE, "SDT:\n");
2172     hex_dump_debug(ts->stream, section, section_len);
2173
2174     p_end = section + section_len - 4;
2175     p     = section;
2176     if (parse_section_header(h, &p, p_end) < 0)
2177         return;
2178     if (h->tid != SDT_TID)
2179         return;
2180     if (ts->skip_changes)
2181         return;
2182     if (skip_identical(h, tssf))
2183         return;
2184
2185     onid = get16(&p, p_end);
2186     if (onid < 0)
2187         return;
2188     val = get8(&p, p_end);
2189     if (val < 0)
2190         return;
2191     for (;;) {
2192         sid = get16(&p, p_end);
2193         if (sid < 0)
2194             break;
2195         val = get8(&p, p_end);
2196         if (val < 0)
2197             break;
2198         desc_list_len = get16(&p, p_end);
2199         if (desc_list_len < 0)
2200             break;
2201         desc_list_len &= 0xfff;
2202         desc_list_end  = p + desc_list_len;
2203         if (desc_list_end > p_end)
2204             break;
2205         for (;;) {
2206             desc_tag = get8(&p, desc_list_end);
2207             if (desc_tag < 0)
2208                 break;
2209             desc_len = get8(&p, desc_list_end);
2210             desc_end = p + desc_len;
2211             if (desc_len < 0 || desc_end > desc_list_end)
2212                 break;
2213
2214             av_log(ts->stream, AV_LOG_TRACE, "tag: 0x%02x len=%d\n",
2215                     desc_tag, desc_len);
2216
2217             switch (desc_tag) {
2218             case 0x48:
2219                 service_type = get8(&p, p_end);
2220                 if (service_type < 0)
2221                     break;
2222                 provider_name = getstr8(&p, p_end);
2223                 if (!provider_name)
2224                     break;
2225                 name = getstr8(&p, p_end);
2226                 if (name) {
2227                     AVProgram *program = av_new_program(ts->stream, sid);
2228                     if (program) {
2229                         av_dict_set(&program->metadata, "service_name", name, 0);
2230                         av_dict_set(&program->metadata, "service_provider",
2231                                     provider_name, 0);
2232                     }
2233                 }
2234                 av_free(name);
2235                 av_free(provider_name);
2236                 break;
2237             default:
2238                 break;
2239             }
2240             p = desc_end;
2241         }
2242         p = desc_list_end;
2243     }
2244 }
2245
2246 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2247                      const uint8_t *packet);
2248
2249 /* handle one TS packet */
2250 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
2251 {
2252     MpegTSFilter *tss;
2253     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2254         has_adaptation, has_payload;
2255     const uint8_t *p, *p_end;
2256     int64_t pos;
2257
2258     pid = AV_RB16(packet + 1) & 0x1fff;
2259     if (pid && discard_pid(ts, pid))
2260         return 0;
2261     is_start = packet[1] & 0x40;
2262     tss = ts->pids[pid];
2263     if (ts->auto_guess && !tss && is_start) {
2264         add_pes_stream(ts, pid, -1);
2265         tss = ts->pids[pid];
2266     }
2267     if (!tss)
2268         return 0;
2269     ts->current_pid = pid;
2270
2271     afc = (packet[3] >> 4) & 3;
2272     if (afc == 0) /* reserved value */
2273         return 0;
2274     has_adaptation   = afc & 2;
2275     has_payload      = afc & 1;
2276     is_discontinuity = has_adaptation &&
2277                        packet[4] != 0 && /* with length > 0 */
2278                        (packet[5] & 0x80); /* and discontinuity indicated */
2279
2280     /* continuity check (currently not used) */
2281     cc = (packet[3] & 0xf);
2282     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2283     cc_ok = pid == 0x1FFF || // null packet PID
2284             is_discontinuity ||
2285             tss->last_cc < 0 ||
2286             expected_cc == cc;
2287
2288     tss->last_cc = cc;
2289     if (!cc_ok) {
2290         av_log(ts->stream, AV_LOG_DEBUG,
2291                "Continuity check failed for pid %d expected %d got %d\n",
2292                pid, expected_cc, cc);
2293         if (tss->type == MPEGTS_PES) {
2294             PESContext *pc = tss->u.pes_filter.opaque;
2295             pc->flags |= AV_PKT_FLAG_CORRUPT;
2296         }
2297     }
2298
2299     p = packet + 4;
2300     if (has_adaptation) {
2301         int64_t pcr_h;
2302         int pcr_l;
2303         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2304             tss->last_pcr = pcr_h * 300 + pcr_l;
2305         /* skip adaptation field */
2306         p += p[0] + 1;
2307     }
2308     /* if past the end of packet, ignore */
2309     p_end = packet + TS_PACKET_SIZE;
2310     if (p >= p_end || !has_payload)
2311         return 0;
2312
2313     pos = avio_tell(ts->stream->pb);
2314     if (pos >= 0) {
2315         av_assert0(pos >= TS_PACKET_SIZE);
2316         ts->pos47_full = pos - TS_PACKET_SIZE;
2317     }
2318
2319     if (tss->type == MPEGTS_SECTION) {
2320         if (is_start) {
2321             /* pointer field present */
2322             len = *p++;
2323             if (len > p_end - p)
2324                 return 0;
2325             if (len && cc_ok) {
2326                 /* write remaining section bytes */
2327                 write_section_data(ts, tss,
2328                                    p, len, 0);
2329                 /* check whether filter has been closed */
2330                 if (!ts->pids[pid])
2331                     return 0;
2332             }
2333             p += len;
2334             if (p < p_end) {
2335                 write_section_data(ts, tss,
2336                                    p, p_end - p, 1);
2337             }
2338         } else {
2339             if (cc_ok) {
2340                 write_section_data(ts, tss,
2341                                    p, p_end - p, 0);
2342             }
2343         }
2344
2345         // stop find_stream_info from waiting for more streams
2346         // when all programs have received a PMT
2347         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2348             int i;
2349             for (i = 0; i < ts->nb_prg; i++) {
2350                 if (!ts->prg[i].pmt_found)
2351                     break;
2352             }
2353             if (i == ts->nb_prg && ts->nb_prg > 0) {
2354                 int types = 0;
2355                 for (i = 0; i < ts->stream->nb_streams; i++) {
2356                     AVStream *st = ts->stream->streams[i];
2357                     if (st->codecpar->codec_type >= 0)
2358                         types |= 1<<st->codecpar->codec_type;
2359                 }
2360                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2361                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2362                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2363                 }
2364             }
2365         }
2366
2367     } else {
2368         int ret;
2369         // Note: The position here points actually behind the current packet.
2370         if (tss->type == MPEGTS_PES) {
2371             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2372                                                 pos - ts->raw_packet_size)) < 0)
2373                 return ret;
2374         }
2375     }
2376
2377     return 0;
2378 }
2379
2380 static void reanalyze(MpegTSContext *ts) {
2381     AVIOContext *pb = ts->stream->pb;
2382     int64_t pos = avio_tell(pb);
2383     if (pos < 0)
2384         return;
2385     pos -= ts->pos47_full;
2386     if (pos == TS_PACKET_SIZE) {
2387         ts->size_stat[0] ++;
2388     } else if (pos == TS_DVHS_PACKET_SIZE) {
2389         ts->size_stat[1] ++;
2390     } else if (pos == TS_FEC_PACKET_SIZE) {
2391         ts->size_stat[2] ++;
2392     }
2393
2394     ts->size_stat_count ++;
2395     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2396         int newsize = 0;
2397         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2398             newsize = TS_PACKET_SIZE;
2399         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2400             newsize = TS_DVHS_PACKET_SIZE;
2401         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2402             newsize = TS_FEC_PACKET_SIZE;
2403         }
2404         if (newsize && newsize != ts->raw_packet_size) {
2405             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2406             ts->raw_packet_size = newsize;
2407         }
2408         ts->size_stat_count = 0;
2409         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2410     }
2411 }
2412
2413 /* XXX: try to find a better synchro over several packets (use
2414  * get_packet_size() ?) */
2415 static int mpegts_resync(AVFormatContext *s, int seekback, const uint8_t *current_packet)
2416 {
2417     MpegTSContext *ts = s->priv_data;
2418     AVIOContext *pb = s->pb;
2419     int c, i;
2420     uint64_t pos = avio_tell(pb);
2421
2422     avio_seek(pb, -FFMIN(seekback, pos), SEEK_CUR);
2423
2424     //Special case for files like 01c56b0dc1.ts
2425     if (current_packet[0] == 0x80 && current_packet[12] == 0x47) {
2426         avio_seek(pb, 12, SEEK_CUR);
2427         return 0;
2428     }
2429
2430     for (i = 0; i < ts->resync_size; i++) {
2431         c = avio_r8(pb);
2432         if (avio_feof(pb))
2433             return AVERROR_EOF;
2434         if (c == 0x47) {
2435             avio_seek(pb, -1, SEEK_CUR);
2436             reanalyze(s->priv_data);
2437             return 0;
2438         }
2439     }
2440     av_log(s, AV_LOG_ERROR,
2441            "max resync size reached, could not find sync byte\n");
2442     /* no sync found */
2443     return AVERROR_INVALIDDATA;
2444 }
2445
2446 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2447 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2448                        const uint8_t **data)
2449 {
2450     AVIOContext *pb = s->pb;
2451     int len;
2452
2453     for (;;) {
2454         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2455         if (len != TS_PACKET_SIZE)
2456             return len < 0 ? len : AVERROR_EOF;
2457         /* check packet sync byte */
2458         if ((*data)[0] != 0x47) {
2459             /* find a new packet start */
2460
2461             if (mpegts_resync(s, raw_packet_size, *data) < 0)
2462                 return AVERROR(EAGAIN);
2463             else
2464                 continue;
2465         } else {
2466             break;
2467         }
2468     }
2469     return 0;
2470 }
2471
2472 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2473 {
2474     AVIOContext *pb = s->pb;
2475     int skip = raw_packet_size - TS_PACKET_SIZE;
2476     if (skip > 0)
2477         avio_skip(pb, skip);
2478 }
2479
2480 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2481 {
2482     AVFormatContext *s = ts->stream;
2483     uint8_t packet[TS_PACKET_SIZE + AV_INPUT_BUFFER_PADDING_SIZE];
2484     const uint8_t *data;
2485     int64_t packet_num;
2486     int ret = 0;
2487
2488     if (avio_tell(s->pb) != ts->last_pos) {
2489         int i;
2490         av_log(ts->stream, AV_LOG_TRACE, "Skipping after seek\n");
2491         /* seek detected, flush pes buffer */
2492         for (i = 0; i < NB_PID_MAX; i++) {
2493             if (ts->pids[i]) {
2494                 if (ts->pids[i]->type == MPEGTS_PES) {
2495                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2496                     av_buffer_unref(&pes->buffer);
2497                     pes->data_index = 0;
2498                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2499                 } else if (ts->pids[i]->type == MPEGTS_SECTION) {
2500                     ts->pids[i]->u.section_filter.last_ver = -1;
2501                 }
2502                 ts->pids[i]->last_cc = -1;
2503                 ts->pids[i]->last_pcr = -1;
2504             }
2505         }
2506     }
2507
2508     ts->stop_parse = 0;
2509     packet_num = 0;
2510     memset(packet + TS_PACKET_SIZE, 0, AV_INPUT_BUFFER_PADDING_SIZE);
2511     for (;;) {
2512         packet_num++;
2513         if (nb_packets != 0 && packet_num >= nb_packets ||
2514             ts->stop_parse > 1) {
2515             ret = AVERROR(EAGAIN);
2516             break;
2517         }
2518         if (ts->stop_parse > 0)
2519             break;
2520
2521         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2522         if (ret != 0)
2523             break;
2524         ret = handle_packet(ts, data);
2525         finished_reading_packet(s, ts->raw_packet_size);
2526         if (ret != 0)
2527             break;
2528     }
2529     ts->last_pos = avio_tell(s->pb);
2530     return ret;
2531 }
2532
2533 static int mpegts_probe(AVProbeData *p)
2534 {
2535     const int size = p->buf_size;
2536     int maxscore = 0;
2537     int sumscore = 0;
2538     int i;
2539     int check_count = size / TS_FEC_PACKET_SIZE;
2540 #define CHECK_COUNT 10
2541 #define CHECK_BLOCK 100
2542
2543     if (!check_count)
2544         return 0;
2545
2546     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2547         int left = FFMIN(check_count - i, CHECK_BLOCK);
2548         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , 1);
2549         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, 1);
2550         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , 1);
2551         score = FFMAX3(score, dvhs_score, fec_score);
2552         sumscore += score;
2553         maxscore = FFMAX(maxscore, score);
2554     }
2555
2556     sumscore = sumscore * CHECK_COUNT / check_count;
2557     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2558
2559     ff_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2560
2561     if        (check_count > CHECK_COUNT && sumscore > 6) {
2562         return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2563     } else if (check_count >= CHECK_COUNT && sumscore > 6) {
2564         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2565     } else if (check_count >= CHECK_COUNT && maxscore > 6) {
2566         return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2567     } else if (sumscore > 6) {
2568         return 2;
2569     } else {
2570         return 0;
2571     }
2572 }
2573
2574 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
2575  * (-1) if not available */
2576 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
2577 {
2578     int afc, len, flags;
2579     const uint8_t *p;
2580     unsigned int v;
2581
2582     afc = (packet[3] >> 4) & 3;
2583     if (afc <= 1)
2584         return AVERROR_INVALIDDATA;
2585     p   = packet + 4;
2586     len = p[0];
2587     p++;
2588     if (len == 0)
2589         return AVERROR_INVALIDDATA;
2590     flags = *p++;
2591     len--;
2592     if (!(flags & 0x10))
2593         return AVERROR_INVALIDDATA;
2594     if (len < 6)
2595         return AVERROR_INVALIDDATA;
2596     v          = AV_RB32(p);
2597     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
2598     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
2599     return 0;
2600 }
2601
2602 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
2603
2604     /* NOTE: We attempt to seek on non-seekable files as well, as the
2605      * probe buffer usually is big enough. Only warn if the seek failed
2606      * on files where the seek should work. */
2607     if (avio_seek(pb, pos, SEEK_SET) < 0)
2608         av_log(s, (pb->seekable & AVIO_SEEKABLE_NORMAL) ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2609 }
2610
2611 static int mpegts_read_header(AVFormatContext *s)
2612 {
2613     MpegTSContext *ts = s->priv_data;
2614     AVIOContext *pb   = s->pb;
2615     uint8_t buf[8 * 1024] = {0};
2616     int len;
2617     int64_t pos, probesize = s->probesize;
2618
2619     s->internal->prefer_codec_framerate = 1;
2620
2621     if (ffio_ensure_seekback(pb, probesize) < 0)
2622         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
2623
2624     /* read the first 8192 bytes to get packet size */
2625     pos = avio_tell(pb);
2626     len = avio_read(pb, buf, sizeof(buf));
2627     ts->raw_packet_size = get_packet_size(buf, len);
2628     if (ts->raw_packet_size <= 0) {
2629         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2630         ts->raw_packet_size = TS_PACKET_SIZE;
2631     }
2632     ts->stream     = s;
2633     ts->auto_guess = 0;
2634
2635     if (s->iformat == &ff_mpegts_demuxer) {
2636         /* normal demux */
2637
2638         /* first do a scan to get all the services */
2639         seek_back(s, pb, pos);
2640
2641         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2642
2643         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2644
2645         handle_packets(ts, probesize / ts->raw_packet_size);
2646         /* if could not find service, enable auto_guess */
2647
2648         ts->auto_guess = 1;
2649
2650         av_log(ts->stream, AV_LOG_TRACE, "tuning done\n");
2651
2652         s->ctx_flags |= AVFMTCTX_NOHEADER;
2653     } else {
2654         AVStream *st;
2655         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
2656         int64_t pcrs[2], pcr_h;
2657         int packet_count[2];
2658         uint8_t packet[TS_PACKET_SIZE];
2659         const uint8_t *data;
2660
2661         /* only read packets */
2662
2663         st = avformat_new_stream(s, NULL);
2664         if (!st)
2665             return AVERROR(ENOMEM);
2666         avpriv_set_pts_info(st, 60, 1, 27000000);
2667         st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
2668         st->codecpar->codec_id   = AV_CODEC_ID_MPEG2TS;
2669
2670         /* we iterate until we find two PCRs to estimate the bitrate */
2671         pcr_pid    = -1;
2672         nb_pcrs    = 0;
2673         nb_packets = 0;
2674         for (;;) {
2675             ret = read_packet(s, packet, ts->raw_packet_size, &data);
2676             if (ret < 0)
2677                 return ret;
2678             pid = AV_RB16(data + 1) & 0x1fff;
2679             if ((pcr_pid == -1 || pcr_pid == pid) &&
2680                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
2681                 finished_reading_packet(s, ts->raw_packet_size);
2682                 pcr_pid = pid;
2683                 packet_count[nb_pcrs] = nb_packets;
2684                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
2685                 nb_pcrs++;
2686                 if (nb_pcrs >= 2) {
2687                     if (pcrs[1] - pcrs[0] > 0) {
2688                         /* the difference needs to be positive to make sense for bitrate computation */
2689                         break;
2690                     } else {
2691                         av_log(ts->stream, AV_LOG_WARNING, "invalid pcr pair %"PRId64" >= %"PRId64"\n", pcrs[0], pcrs[1]);
2692                         pcrs[0] = pcrs[1];
2693                         packet_count[0] = packet_count[1];
2694                         nb_pcrs--;
2695                     }
2696                 }
2697             } else {
2698                 finished_reading_packet(s, ts->raw_packet_size);
2699             }
2700             nb_packets++;
2701         }
2702
2703         /* NOTE1: the bitrate is computed without the FEC */
2704         /* NOTE2: it is only the bitrate of the start of the stream */
2705         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2706         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
2707         s->bit_rate  = TS_PACKET_SIZE * 8 * 27000000LL / ts->pcr_incr;
2708         st->codecpar->bit_rate = s->bit_rate;
2709         st->start_time      = ts->cur_pcr;
2710         av_log(ts->stream, AV_LOG_TRACE, "start=%0.3f pcr=%0.3f incr=%d\n",
2711                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2712     }
2713
2714     seek_back(s, pb, pos);
2715     return 0;
2716 }
2717
2718 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2719
2720 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
2721 {
2722     MpegTSContext *ts = s->priv_data;
2723     int ret, i;
2724     int64_t pcr_h, next_pcr_h, pos;
2725     int pcr_l, next_pcr_l;
2726     uint8_t pcr_buf[12];
2727     const uint8_t *data;
2728
2729     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2730         return AVERROR(ENOMEM);
2731     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
2732     pkt->pos = avio_tell(s->pb);
2733     if (ret < 0) {
2734         av_packet_unref(pkt);
2735         return ret;
2736     }
2737     if (data != pkt->data)
2738         memcpy(pkt->data, data, ts->raw_packet_size);
2739     finished_reading_packet(s, ts->raw_packet_size);
2740     if (ts->mpeg2ts_compute_pcr) {
2741         /* compute exact PCR for each packet */
2742         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2743             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2744             pos = avio_tell(s->pb);
2745             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
2746                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2747                 avio_read(s->pb, pcr_buf, 12);
2748                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2749                     /* XXX: not precise enough */
2750                     ts->pcr_incr =
2751                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2752                         (i + 1);
2753                     break;
2754                 }
2755             }
2756             avio_seek(s->pb, pos, SEEK_SET);
2757             /* no next PCR found: we use previous increment */
2758             ts->cur_pcr = pcr_h * 300 + pcr_l;
2759         }
2760         pkt->pts      = ts->cur_pcr;
2761         pkt->duration = ts->pcr_incr;
2762         ts->cur_pcr  += ts->pcr_incr;
2763     }
2764     pkt->stream_index = 0;
2765     return 0;
2766 }
2767
2768 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
2769 {
2770     MpegTSContext *ts = s->priv_data;
2771     int ret, i;
2772
2773     pkt->size = -1;
2774     ts->pkt = pkt;
2775     ret = handle_packets(ts, 0);
2776     if (ret < 0) {
2777         av_packet_unref(ts->pkt);
2778         /* flush pes data left */
2779         for (i = 0; i < NB_PID_MAX; i++)
2780             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2781                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2782                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2783                     ret = new_pes_packet(pes, pkt);
2784                     if (ret < 0)
2785                         return ret;
2786                     pes->state = MPEGTS_SKIP;
2787                     ret = 0;
2788                     break;
2789                 }
2790             }
2791     }
2792
2793     if (!ret && pkt->size < 0)
2794         ret = AVERROR_INVALIDDATA;
2795     return ret;
2796 }
2797
2798 static void mpegts_free(MpegTSContext *ts)
2799 {
2800     int i;
2801
2802     clear_programs(ts);
2803
2804     for (i = 0; i < NB_PID_MAX; i++)
2805         if (ts->pids[i])
2806             mpegts_close_filter(ts, ts->pids[i]);
2807 }
2808
2809 static int mpegts_read_close(AVFormatContext *s)
2810 {
2811     MpegTSContext *ts = s->priv_data;
2812     mpegts_free(ts);
2813     return 0;
2814 }
2815
2816 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2817                               int64_t *ppos, int64_t pos_limit)
2818 {
2819     MpegTSContext *ts = s->priv_data;
2820     int64_t pos, timestamp;
2821     uint8_t buf[TS_PACKET_SIZE];
2822     int pcr_l, pcr_pid =
2823         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
2824     int pos47 = ts->pos47_full % ts->raw_packet_size;
2825     pos =
2826         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
2827         ts->raw_packet_size + pos47;
2828     while(pos < pos_limit) {
2829         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2830             return AV_NOPTS_VALUE;
2831         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2832             return AV_NOPTS_VALUE;
2833         if (buf[0] != 0x47) {
2834             if (mpegts_resync(s, TS_PACKET_SIZE, buf) < 0)
2835                 return AV_NOPTS_VALUE;
2836             pos = avio_tell(s->pb);
2837             continue;
2838         }
2839         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2840             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2841             *ppos = pos;
2842             return timestamp;
2843         }
2844         pos += ts->raw_packet_size;
2845     }
2846
2847     return AV_NOPTS_VALUE;
2848 }
2849
2850 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2851                               int64_t *ppos, int64_t pos_limit)
2852 {
2853     MpegTSContext *ts = s->priv_data;
2854     int64_t pos;
2855     int pos47 = ts->pos47_full % ts->raw_packet_size;
2856     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
2857     ff_read_frame_flush(s);
2858     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2859         return AV_NOPTS_VALUE;
2860     while(pos < pos_limit) {
2861         int ret;
2862         AVPacket pkt;
2863         av_init_packet(&pkt);
2864         ret = av_read_frame(s, &pkt);
2865         if (ret < 0)
2866             return AV_NOPTS_VALUE;
2867         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
2868             ff_reduce_index(s, pkt.stream_index);
2869             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2870             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
2871                 int64_t dts = pkt.dts;
2872                 *ppos = pkt.pos;
2873                 av_packet_unref(&pkt);
2874                 return dts;
2875             }
2876         }
2877         pos = pkt.pos;
2878         av_packet_unref(&pkt);
2879     }
2880
2881     return AV_NOPTS_VALUE;
2882 }
2883
2884 /**************************************************************/
2885 /* parsing functions - called from other demuxers such as RTP */
2886
2887 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
2888 {
2889     MpegTSContext *ts;
2890
2891     ts = av_mallocz(sizeof(MpegTSContext));
2892     if (!ts)
2893         return NULL;
2894     /* no stream case, currently used by RTP */
2895     ts->raw_packet_size = TS_PACKET_SIZE;
2896     ts->stream = s;
2897     ts->auto_guess = 1;
2898     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2899     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2900
2901     return ts;
2902 }
2903
2904 /* return the consumed length if a packet was output, or -1 if no
2905  * packet is output */
2906 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2907                                const uint8_t *buf, int len)
2908 {
2909     int len1;
2910
2911     len1 = len;
2912     ts->pkt = pkt;
2913     for (;;) {
2914         ts->stop_parse = 0;
2915         if (len < TS_PACKET_SIZE)
2916             return AVERROR_INVALIDDATA;
2917         if (buf[0] != 0x47) {
2918             buf++;
2919             len--;
2920         } else {
2921             handle_packet(ts, buf);
2922             buf += TS_PACKET_SIZE;
2923             len -= TS_PACKET_SIZE;
2924             if (ts->stop_parse == 1)
2925                 break;
2926         }
2927     }
2928     return len1 - len;
2929 }
2930
2931 void avpriv_mpegts_parse_close(MpegTSContext *ts)
2932 {
2933     mpegts_free(ts);
2934     av_free(ts);
2935 }
2936
2937 AVInputFormat ff_mpegts_demuxer = {
2938     .name           = "mpegts",
2939     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2940     .priv_data_size = sizeof(MpegTSContext),
2941     .read_probe     = mpegts_probe,
2942     .read_header    = mpegts_read_header,
2943     .read_packet    = mpegts_read_packet,
2944     .read_close     = mpegts_read_close,
2945     .read_timestamp = mpegts_get_dts,
2946     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2947     .priv_class     = &mpegts_class,
2948 };
2949
2950 AVInputFormat ff_mpegtsraw_demuxer = {
2951     .name           = "mpegtsraw",
2952     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2953     .priv_data_size = sizeof(MpegTSContext),
2954     .read_header    = mpegts_read_header,
2955     .read_packet    = mpegts_raw_read_packet,
2956     .read_close     = mpegts_read_close,
2957     .read_timestamp = mpegts_get_dts,
2958     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2959     .priv_class     = &mpegtsraw_class,
2960 };