avformat/mpegts: Use DVB_TELETEXT timestamp heuristic also for DVB subtitles
[ffmpeg.git] / libavformat / mpegts.c
1 /*
2  * MPEG2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/buffer.h"
23 #include "libavutil/crc.h"
24 #include "libavutil/intreadwrite.h"
25 #include "libavutil/log.h"
26 #include "libavutil/dict.h"
27 #include "libavutil/mathematics.h"
28 #include "libavutil/opt.h"
29 #include "libavutil/avassert.h"
30 #include "libavcodec/bytestream.h"
31 #include "libavcodec/get_bits.h"
32 #include "libavcodec/opus.h"
33 #include "avformat.h"
34 #include "mpegts.h"
35 #include "internal.h"
36 #include "avio_internal.h"
37 #include "mpeg.h"
38 #include "isom.h"
39
40 /* maximum size in which we look for synchronisation if
41  * synchronisation is lost */
42 #define MAX_RESYNC_SIZE 65536
43
44 #define MAX_PES_PAYLOAD 200 * 1024
45
46 #define MAX_MP4_DESCR_COUNT 16
47
48 #define MOD_UNLIKELY(modulus, dividend, divisor, prev_dividend)                \
49     do {                                                                       \
50         if ((prev_dividend) == 0 || (dividend) - (prev_dividend) != (divisor)) \
51             (modulus) = (dividend) % (divisor);                                \
52         (prev_dividend) = (dividend);                                          \
53     } while (0)
54
55 enum MpegTSFilterType {
56     MPEGTS_PES,
57     MPEGTS_SECTION,
58     MPEGTS_PCR,
59 };
60
61 typedef struct MpegTSFilter MpegTSFilter;
62
63 typedef int PESCallback (MpegTSFilter *f, const uint8_t *buf, int len,
64                          int is_start, int64_t pos);
65
66 typedef struct MpegTSPESFilter {
67     PESCallback *pes_cb;
68     void *opaque;
69 } MpegTSPESFilter;
70
71 typedef void SectionCallback (MpegTSFilter *f, const uint8_t *buf, int len);
72
73 typedef void SetServiceCallback (void *opaque, int ret);
74
75 typedef struct MpegTSSectionFilter {
76     int section_index;
77     int section_h_size;
78     int last_ver;
79     unsigned crc;
80     unsigned last_crc;
81     uint8_t *section_buf;
82     unsigned int check_crc : 1;
83     unsigned int end_of_section_reached : 1;
84     SectionCallback *section_cb;
85     void *opaque;
86 } MpegTSSectionFilter;
87
88 struct MpegTSFilter {
89     int pid;
90     int es_id;
91     int last_cc; /* last cc code (-1 if first packet) */
92     int64_t last_pcr;
93     enum MpegTSFilterType type;
94     union {
95         MpegTSPESFilter pes_filter;
96         MpegTSSectionFilter section_filter;
97     } u;
98 };
99
100 #define MAX_PIDS_PER_PROGRAM 64
101 struct Program {
102     unsigned int id; // program id/service id
103     unsigned int nb_pids;
104     unsigned int pids[MAX_PIDS_PER_PROGRAM];
105
106     /** have we found pmt for this program */
107     int pmt_found;
108 };
109
110 struct MpegTSContext {
111     const AVClass *class;
112     /* user data */
113     AVFormatContext *stream;
114     /** raw packet size, including FEC if present */
115     int raw_packet_size;
116
117     int size_stat[3];
118     int size_stat_count;
119 #define SIZE_STAT_THRESHOLD 10
120
121     int64_t pos47_full;
122
123     /** if true, all pids are analyzed to find streams */
124     int auto_guess;
125
126     /** compute exact PCR for each transport stream packet */
127     int mpeg2ts_compute_pcr;
128
129     /** fix dvb teletext pts                                 */
130     int fix_teletext_pts;
131
132     int64_t cur_pcr;    /**< used to estimate the exact PCR */
133     int pcr_incr;       /**< used to estimate the exact PCR */
134
135     /* data needed to handle file based ts */
136     /** stop parsing loop */
137     int stop_parse;
138     /** packet containing Audio/Video data */
139     AVPacket *pkt;
140     /** to detect seek */
141     int64_t last_pos;
142
143     int skip_changes;
144     int skip_clear;
145
146     int scan_all_pmts;
147
148     int resync_size;
149
150     /******************************************/
151     /* private mpegts data */
152     /* scan context */
153     /** structure to keep track of Program->pids mapping */
154     unsigned int nb_prg;
155     struct Program *prg;
156
157     int8_t crc_validity[NB_PID_MAX];
158     /** filters for various streams specified by PMT + for the PAT and PMT */
159     MpegTSFilter *pids[NB_PID_MAX];
160     int current_pid;
161 };
162
163 #define MPEGTS_OPTIONS \
164     { "resync_size",   "Size limit for looking up a new synchronization.", offsetof(MpegTSContext, resync_size), AV_OPT_TYPE_INT,  { .i64 =  MAX_RESYNC_SIZE}, 0, INT_MAX,  AV_OPT_FLAG_DECODING_PARAM }
165
166 static const AVOption options[] = {
167     MPEGTS_OPTIONS,
168     {"fix_teletext_pts", "Try to fix pts values of dvb teletext streams.", offsetof(MpegTSContext, fix_teletext_pts), AV_OPT_TYPE_INT,
169      {.i64 = 1}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
170     {"ts_packetsize", "Output option carrying the raw packet size.", offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
171      {.i64 = 0}, 0, 0, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
172     {"scan_all_pmts",   "Scan and combine all PMTs", offsetof(MpegTSContext, scan_all_pmts), AV_OPT_TYPE_INT,
173      { .i64 =  -1}, -1, 1,  AV_OPT_FLAG_DECODING_PARAM },
174     {"skip_changes", "Skip changing / adding streams / programs.", offsetof(MpegTSContext, skip_changes), AV_OPT_TYPE_INT,
175      {.i64 = 0}, 0, 1, 0 },
176     {"skip_clear", "Skip clearing programs.", offsetof(MpegTSContext, skip_clear), AV_OPT_TYPE_INT,
177      {.i64 = 0}, 0, 1, 0 },
178     { NULL },
179 };
180
181 static const AVClass mpegts_class = {
182     .class_name = "mpegts demuxer",
183     .item_name  = av_default_item_name,
184     .option     = options,
185     .version    = LIBAVUTIL_VERSION_INT,
186 };
187
188 static const AVOption raw_options[] = {
189     MPEGTS_OPTIONS,
190     { "compute_pcr",   "Compute exact PCR for each transport stream packet.",
191           offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_INT,
192           { .i64 = 0 }, 0, 1,  AV_OPT_FLAG_DECODING_PARAM },
193     { "ts_packetsize", "Output option carrying the raw packet size.",
194       offsetof(MpegTSContext, raw_packet_size), AV_OPT_TYPE_INT,
195       { .i64 = 0 }, 0, 0,
196       AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
197     { NULL },
198 };
199
200 static const AVClass mpegtsraw_class = {
201     .class_name = "mpegtsraw demuxer",
202     .item_name  = av_default_item_name,
203     .option     = raw_options,
204     .version    = LIBAVUTIL_VERSION_INT,
205 };
206
207 /* TS stream handling */
208
209 enum MpegTSState {
210     MPEGTS_HEADER = 0,
211     MPEGTS_PESHEADER,
212     MPEGTS_PESHEADER_FILL,
213     MPEGTS_PAYLOAD,
214     MPEGTS_SKIP,
215 };
216
217 /* enough for PES header + length */
218 #define PES_START_SIZE  6
219 #define PES_HEADER_SIZE 9
220 #define MAX_PES_HEADER_SIZE (9 + 255)
221
222 typedef struct PESContext {
223     int pid;
224     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
225     int stream_type;
226     MpegTSContext *ts;
227     AVFormatContext *stream;
228     AVStream *st;
229     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
230     enum MpegTSState state;
231     /* used to get the format */
232     int data_index;
233     int flags; /**< copied to the AVPacket flags */
234     int total_size;
235     int pes_header_size;
236     int extended_stream_id;
237     int64_t pts, dts;
238     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
239     uint8_t header[MAX_PES_HEADER_SIZE];
240     AVBufferRef *buffer;
241     SLConfigDescr sl;
242 } PESContext;
243
244 extern AVInputFormat ff_mpegts_demuxer;
245
246 static struct Program * get_program(MpegTSContext *ts, unsigned int programid)
247 {
248     int i;
249     for (i = 0; i < ts->nb_prg; i++) {
250         if (ts->prg[i].id == programid) {
251             return &ts->prg[i];
252         }
253     }
254     return NULL;
255 }
256
257 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
258 {
259     AVProgram *prg = NULL;
260     int i;
261
262     for (i = 0; i < ts->stream->nb_programs; i++)
263         if (ts->stream->programs[i]->id == programid) {
264             prg = ts->stream->programs[i];
265             break;
266         }
267     if (!prg)
268         return;
269     prg->nb_stream_indexes = 0;
270 }
271
272 static void clear_program(MpegTSContext *ts, unsigned int programid)
273 {
274     int i;
275
276     clear_avprogram(ts, programid);
277     for (i = 0; i < ts->nb_prg; i++)
278         if (ts->prg[i].id == programid) {
279             ts->prg[i].nb_pids = 0;
280             ts->prg[i].pmt_found = 0;
281         }
282 }
283
284 static void clear_programs(MpegTSContext *ts)
285 {
286     av_freep(&ts->prg);
287     ts->nb_prg = 0;
288 }
289
290 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
291 {
292     struct Program *p;
293     if (av_reallocp_array(&ts->prg, ts->nb_prg + 1, sizeof(*ts->prg)) < 0) {
294         ts->nb_prg = 0;
295         return;
296     }
297     p = &ts->prg[ts->nb_prg];
298     p->id = programid;
299     p->nb_pids = 0;
300     p->pmt_found = 0;
301     ts->nb_prg++;
302 }
303
304 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid,
305                            unsigned int pid)
306 {
307     struct Program *p = get_program(ts, programid);
308     int i;
309     if (!p)
310         return;
311
312     if (p->nb_pids >= MAX_PIDS_PER_PROGRAM)
313         return;
314
315     for (i = 0; i < p->nb_pids; i++)
316         if (p->pids[i] == pid)
317             return;
318
319     p->pids[p->nb_pids++] = pid;
320 }
321
322 static void set_pmt_found(MpegTSContext *ts, unsigned int programid)
323 {
324     struct Program *p = get_program(ts, programid);
325     if (!p)
326         return;
327
328     p->pmt_found = 1;
329 }
330
331 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
332 {
333     int i;
334     for (i = 0; i < s->nb_programs; i++) {
335         if (s->programs[i]->id == programid) {
336             s->programs[i]->pcr_pid = pid;
337             break;
338         }
339     }
340 }
341
342 /**
343  * @brief discard_pid() decides if the pid is to be discarded according
344  *                      to caller's programs selection
345  * @param ts    : - TS context
346  * @param pid   : - pid
347  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
348  *         0 otherwise
349  */
350 static int discard_pid(MpegTSContext *ts, unsigned int pid)
351 {
352     int i, j, k;
353     int used = 0, discarded = 0;
354     struct Program *p;
355
356     /* If none of the programs have .discard=AVDISCARD_ALL then there's
357      * no way we have to discard this packet */
358     for (k = 0; k < ts->stream->nb_programs; k++)
359         if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
360             break;
361     if (k == ts->stream->nb_programs)
362         return 0;
363
364     for (i = 0; i < ts->nb_prg; i++) {
365         p = &ts->prg[i];
366         for (j = 0; j < p->nb_pids; j++) {
367             if (p->pids[j] != pid)
368                 continue;
369             // is program with id p->id set to be discarded?
370             for (k = 0; k < ts->stream->nb_programs; k++) {
371                 if (ts->stream->programs[k]->id == p->id) {
372                     if (ts->stream->programs[k]->discard == AVDISCARD_ALL)
373                         discarded++;
374                     else
375                         used++;
376                 }
377             }
378         }
379     }
380
381     return !used && discarded;
382 }
383
384 /**
385  *  Assemble PES packets out of TS packets, and then call the "section_cb"
386  *  function when they are complete.
387  */
388 static void write_section_data(MpegTSContext *ts, MpegTSFilter *tss1,
389                                const uint8_t *buf, int buf_size, int is_start)
390 {
391     MpegTSSectionFilter *tss = &tss1->u.section_filter;
392     int len;
393
394     if (is_start) {
395         memcpy(tss->section_buf, buf, buf_size);
396         tss->section_index = buf_size;
397         tss->section_h_size = -1;
398         tss->end_of_section_reached = 0;
399     } else {
400         if (tss->end_of_section_reached)
401             return;
402         len = 4096 - tss->section_index;
403         if (buf_size < len)
404             len = buf_size;
405         memcpy(tss->section_buf + tss->section_index, buf, len);
406         tss->section_index += len;
407     }
408
409     /* compute section length if possible */
410     if (tss->section_h_size == -1 && tss->section_index >= 3) {
411         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
412         if (len > 4096)
413             return;
414         tss->section_h_size = len;
415     }
416
417     if (tss->section_h_size != -1 &&
418         tss->section_index >= tss->section_h_size) {
419         int crc_valid = 1;
420         tss->end_of_section_reached = 1;
421
422         if (tss->check_crc) {
423             crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, tss->section_buf, tss->section_h_size);
424             if (tss->section_h_size >= 4)
425                 tss->crc = AV_RB32(tss->section_buf + tss->section_h_size - 4);
426
427             if (crc_valid) {
428                 ts->crc_validity[ tss1->pid ] = 100;
429             }else if (ts->crc_validity[ tss1->pid ] > -10) {
430                 ts->crc_validity[ tss1->pid ]--;
431             }else
432                 crc_valid = 2;
433         }
434         if (crc_valid) {
435             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
436             if (crc_valid != 1)
437                 tss->last_ver = -1;
438         }
439     }
440 }
441
442 static MpegTSFilter *mpegts_open_filter(MpegTSContext *ts, unsigned int pid,
443                                         enum MpegTSFilterType type)
444 {
445     MpegTSFilter *filter;
446
447     av_log(ts->stream, AV_LOG_TRACE, "Filter: pid=0x%x\n", pid);
448
449     if (pid >= NB_PID_MAX || ts->pids[pid])
450         return NULL;
451     filter = av_mallocz(sizeof(MpegTSFilter));
452     if (!filter)
453         return NULL;
454     ts->pids[pid] = filter;
455
456     filter->type    = type;
457     filter->pid     = pid;
458     filter->es_id   = -1;
459     filter->last_cc = -1;
460     filter->last_pcr= -1;
461
462     return filter;
463 }
464
465 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts,
466                                                 unsigned int pid,
467                                                 SectionCallback *section_cb,
468                                                 void *opaque,
469                                                 int check_crc)
470 {
471     MpegTSFilter *filter;
472     MpegTSSectionFilter *sec;
473
474     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_SECTION)))
475         return NULL;
476     sec = &filter->u.section_filter;
477     sec->section_cb  = section_cb;
478     sec->opaque      = opaque;
479     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
480     sec->check_crc   = check_crc;
481     sec->last_ver    = -1;
482
483     if (!sec->section_buf) {
484         av_free(filter);
485         return NULL;
486     }
487     return filter;
488 }
489
490 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
491                                             PESCallback *pes_cb,
492                                             void *opaque)
493 {
494     MpegTSFilter *filter;
495     MpegTSPESFilter *pes;
496
497     if (!(filter = mpegts_open_filter(ts, pid, MPEGTS_PES)))
498         return NULL;
499
500     pes = &filter->u.pes_filter;
501     pes->pes_cb = pes_cb;
502     pes->opaque = opaque;
503     return filter;
504 }
505
506 static MpegTSFilter *mpegts_open_pcr_filter(MpegTSContext *ts, unsigned int pid)
507 {
508     return mpegts_open_filter(ts, pid, MPEGTS_PCR);
509 }
510
511 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
512 {
513     int pid;
514
515     pid = filter->pid;
516     if (filter->type == MPEGTS_SECTION)
517         av_freep(&filter->u.section_filter.section_buf);
518     else if (filter->type == MPEGTS_PES) {
519         PESContext *pes = filter->u.pes_filter.opaque;
520         av_buffer_unref(&pes->buffer);
521         /* referenced private data will be freed later in
522          * avformat_close_input */
523         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
524             av_freep(&filter->u.pes_filter.opaque);
525         }
526     }
527
528     av_free(filter);
529     ts->pids[pid] = NULL;
530 }
531
532 static int analyze(const uint8_t *buf, int size, int packet_size, int *index,
533                    int probe)
534 {
535     int stat[TS_MAX_PACKET_SIZE];
536     int stat_all = 0;
537     int i;
538     int best_score = 0;
539
540     memset(stat, 0, packet_size * sizeof(*stat));
541
542     for (i = 0; i < size - 3; i++) {
543         if (buf[i] == 0x47 &&
544             (!probe || (!(buf[i + 1] & 0x80) && buf[i + 3] != 0x47))) {
545             int x = i % packet_size;
546             stat[x]++;
547             stat_all++;
548             if (stat[x] > best_score) {
549                 best_score = stat[x];
550                 if (index)
551                     *index = x;
552             }
553         }
554     }
555
556     return best_score - FFMAX(stat_all - 10*best_score, 0)/10;
557 }
558
559 /* autodetect fec presence. Must have at least 1024 bytes  */
560 static int get_packet_size(const uint8_t *buf, int size)
561 {
562     int score, fec_score, dvhs_score;
563
564     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
565         return AVERROR_INVALIDDATA;
566
567     score      = analyze(buf, size, TS_PACKET_SIZE,      NULL, 0);
568     dvhs_score = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL, 0);
569     fec_score  = analyze(buf, size, TS_FEC_PACKET_SIZE,  NULL, 0);
570     av_log(NULL, AV_LOG_TRACE, "score: %d, dvhs_score: %d, fec_score: %d \n",
571             score, dvhs_score, fec_score);
572
573     if (score > fec_score && score > dvhs_score)
574         return TS_PACKET_SIZE;
575     else if (dvhs_score > score && dvhs_score > fec_score)
576         return TS_DVHS_PACKET_SIZE;
577     else if (score < fec_score && dvhs_score < fec_score)
578         return TS_FEC_PACKET_SIZE;
579     else
580         return AVERROR_INVALIDDATA;
581 }
582
583 typedef struct SectionHeader {
584     uint8_t tid;
585     uint16_t id;
586     uint8_t version;
587     uint8_t sec_num;
588     uint8_t last_sec_num;
589 } SectionHeader;
590
591 static int skip_identical(const SectionHeader *h, MpegTSSectionFilter *tssf)
592 {
593     if (h->version == tssf->last_ver && tssf->last_crc == tssf->crc)
594         return 1;
595
596     tssf->last_ver = h->version;
597     tssf->last_crc = tssf->crc;
598
599     return 0;
600 }
601
602 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
603 {
604     const uint8_t *p;
605     int c;
606
607     p = *pp;
608     if (p >= p_end)
609         return AVERROR_INVALIDDATA;
610     c   = *p++;
611     *pp = p;
612     return c;
613 }
614
615 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
616 {
617     const uint8_t *p;
618     int c;
619
620     p = *pp;
621     if (1 >= p_end - p)
622         return AVERROR_INVALIDDATA;
623     c   = AV_RB16(p);
624     p  += 2;
625     *pp = p;
626     return c;
627 }
628
629 /* read and allocate a DVB string preceded by its length */
630 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
631 {
632     int len;
633     const uint8_t *p;
634     char *str;
635
636     p   = *pp;
637     len = get8(&p, p_end);
638     if (len < 0)
639         return NULL;
640     if (len > p_end - p)
641         return NULL;
642     str = av_malloc(len + 1);
643     if (!str)
644         return NULL;
645     memcpy(str, p, len);
646     str[len] = '\0';
647     p  += len;
648     *pp = p;
649     return str;
650 }
651
652 static int parse_section_header(SectionHeader *h,
653                                 const uint8_t **pp, const uint8_t *p_end)
654 {
655     int val;
656
657     val = get8(pp, p_end);
658     if (val < 0)
659         return val;
660     h->tid = val;
661     *pp += 2;
662     val  = get16(pp, p_end);
663     if (val < 0)
664         return val;
665     h->id = val;
666     val = get8(pp, p_end);
667     if (val < 0)
668         return val;
669     h->version = (val >> 1) & 0x1f;
670     val = get8(pp, p_end);
671     if (val < 0)
672         return val;
673     h->sec_num = val;
674     val = get8(pp, p_end);
675     if (val < 0)
676         return val;
677     h->last_sec_num = val;
678     return 0;
679 }
680
681 typedef struct StreamType {
682     uint32_t stream_type;
683     enum AVMediaType codec_type;
684     enum AVCodecID codec_id;
685 } StreamType;
686
687 static const StreamType ISO_types[] = {
688     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
689     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
690     { 0x03, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
691     { 0x04, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3        },
692     { 0x0f, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC        },
693     { 0x10, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG4      },
694     /* Makito encoder sets stream type 0x11 for AAC,
695      * so auto-detect LOAS/LATM instead of hardcoding it. */
696 #if !CONFIG_LOAS_DEMUXER
697     { 0x11, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AAC_LATM   }, /* LATM syntax */
698 #endif
699     { 0x1b, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
700     { 0x20, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H264       },
701     { 0x21, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_JPEG2000   },
702     { 0x24, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC       },
703     { 0x42, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_CAVS       },
704     { 0xd1, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC      },
705     { 0xea, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1        },
706     { 0 },
707 };
708
709 static const StreamType HDMV_types[] = {
710     { 0x80, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_PCM_BLURAY        },
711     { 0x81, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3               },
712     { 0x82, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               },
713     { 0x83, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_TRUEHD            },
714     { 0x84, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              },
715     { 0x85, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD */
716     { 0x86, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS HD MASTER*/
717     { 0xa1, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3              }, /* E-AC3 Secondary Audio */
718     { 0xa2, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS               }, /* DTS Express Secondary Audio */
719     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
720     { 0 },
721 };
722
723 /* ATSC ? */
724 static const StreamType MISC_types[] = {
725     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
726     { 0x8a, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
727     { 0 },
728 };
729
730 static const StreamType REGD_types[] = {
731     { MKTAG('d', 'r', 'a', 'c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
732     { MKTAG('A', 'C', '-', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3   },
733     { MKTAG('B', 'S', 'S', 'D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
734     { MKTAG('D', 'T', 'S', '1'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
735     { MKTAG('D', 'T', 'S', '2'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
736     { MKTAG('D', 'T', 'S', '3'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS   },
737     { MKTAG('H', 'E', 'V', 'C'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_HEVC  },
738     { MKTAG('K', 'L', 'V', 'A'), AVMEDIA_TYPE_DATA,  AV_CODEC_ID_SMPTE_KLV },
739     { MKTAG('V', 'C', '-', '1'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_VC1   },
740     { MKTAG('O', 'p', 'u', 's'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_OPUS  },
741     { 0 },
742 };
743
744 static const StreamType METADATA_types[] = {
745     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA, AV_CODEC_ID_SMPTE_KLV },
746     { MKTAG('I','D','3',' '), AVMEDIA_TYPE_DATA, AV_CODEC_ID_TIMED_ID3 },
747     { 0 },
748 };
749
750 /* descriptor present */
751 static const StreamType DESC_types[] = {
752     { 0x6a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_AC3          }, /* AC-3 descriptor */
753     { 0x7a, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_EAC3         }, /* E-AC-3 descriptor */
754     { 0x7b, AVMEDIA_TYPE_AUDIO,    AV_CODEC_ID_DTS          },
755     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
756     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
757     { 0 },
758 };
759
760 static void mpegts_find_stream_type(AVStream *st,
761                                     uint32_t stream_type,
762                                     const StreamType *types)
763 {
764     if (avcodec_is_open(st->codec)) {
765         av_log(NULL, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
766         return;
767     }
768
769     for (; types->stream_type; types++)
770         if (stream_type == types->stream_type) {
771             st->codec->codec_type = types->codec_type;
772             st->codec->codec_id   = types->codec_id;
773             st->request_probe     = 0;
774             return;
775         }
776 }
777
778 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
779                                   uint32_t stream_type, uint32_t prog_reg_desc)
780 {
781     int old_codec_type = st->codec->codec_type;
782     int old_codec_id  = st->codec->codec_id;
783
784     if (avcodec_is_open(st->codec)) {
785         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
786         return 0;
787     }
788
789     avpriv_set_pts_info(st, 33, 1, 90000);
790     st->priv_data         = pes;
791     st->codec->codec_type = AVMEDIA_TYPE_DATA;
792     st->codec->codec_id   = AV_CODEC_ID_NONE;
793     st->need_parsing      = AVSTREAM_PARSE_FULL;
794     pes->st          = st;
795     pes->stream_type = stream_type;
796
797     av_log(pes->stream, AV_LOG_DEBUG,
798            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
799            st->index, pes->stream_type, pes->pid, (char *)&prog_reg_desc);
800
801     st->codec->codec_tag = pes->stream_type;
802
803     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
804     if ((prog_reg_desc == AV_RL32("HDMV") ||
805          prog_reg_desc == AV_RL32("HDPR")) &&
806         st->codec->codec_id == AV_CODEC_ID_NONE) {
807         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
808         if (pes->stream_type == 0x83) {
809             // HDMV TrueHD streams also contain an AC3 coded version of the
810             // audio track - add a second stream for this
811             AVStream *sub_st;
812             // priv_data cannot be shared between streams
813             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
814             if (!sub_pes)
815                 return AVERROR(ENOMEM);
816             memcpy(sub_pes, pes, sizeof(*sub_pes));
817
818             sub_st = avformat_new_stream(pes->stream, NULL);
819             if (!sub_st) {
820                 av_free(sub_pes);
821                 return AVERROR(ENOMEM);
822             }
823
824             sub_st->id = pes->pid;
825             avpriv_set_pts_info(sub_st, 33, 1, 90000);
826             sub_st->priv_data         = sub_pes;
827             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
828             sub_st->codec->codec_id   = AV_CODEC_ID_AC3;
829             sub_st->need_parsing      = AVSTREAM_PARSE_FULL;
830             sub_pes->sub_st           = pes->sub_st = sub_st;
831         }
832     }
833     if (st->codec->codec_id == AV_CODEC_ID_NONE)
834         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
835     if (st->codec->codec_id == AV_CODEC_ID_NONE) {
836         st->codec->codec_id  = old_codec_id;
837         st->codec->codec_type = old_codec_type;
838     }
839     if ((st->codec->codec_id == AV_CODEC_ID_NONE ||
840             (st->request_probe > 0 && st->request_probe < AVPROBE_SCORE_STREAM_RETRY / 5)) &&
841         !avcodec_is_open(st->codec) &&
842         stream_type == STREAM_TYPE_PRIVATE_DATA) {
843         st->codec->codec_type = AVMEDIA_TYPE_DATA;
844         st->codec->codec_id   = AV_CODEC_ID_BIN_DATA;
845         st->request_probe = AVPROBE_SCORE_STREAM_RETRY / 5;
846     }
847
848     return 0;
849 }
850
851 static void reset_pes_packet_state(PESContext *pes)
852 {
853     pes->pts        = AV_NOPTS_VALUE;
854     pes->dts        = AV_NOPTS_VALUE;
855     pes->data_index = 0;
856     pes->flags      = 0;
857     av_buffer_unref(&pes->buffer);
858 }
859
860 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
861 {
862     av_init_packet(pkt);
863
864     pkt->buf  = pes->buffer;
865     pkt->data = pes->buffer->data;
866     pkt->size = pes->data_index;
867
868     if (pes->total_size != MAX_PES_PAYLOAD &&
869         pes->pes_header_size + pes->data_index != pes->total_size +
870         PES_START_SIZE) {
871         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
872         pes->flags |= AV_PKT_FLAG_CORRUPT;
873     }
874     memset(pkt->data + pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
875
876     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
877     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
878         pkt->stream_index = pes->sub_st->index;
879     else
880         pkt->stream_index = pes->st->index;
881     pkt->pts = pes->pts;
882     pkt->dts = pes->dts;
883     /* store position of first TS packet of this PES packet */
884     pkt->pos   = pes->ts_packet_pos;
885     pkt->flags = pes->flags;
886
887     pes->buffer = NULL;
888     reset_pes_packet_state(pes);
889 }
890
891 static uint64_t get_ts64(GetBitContext *gb, int bits)
892 {
893     if (get_bits_left(gb) < bits)
894         return AV_NOPTS_VALUE;
895     return get_bits64(gb, bits);
896 }
897
898 static int read_sl_header(PESContext *pes, SLConfigDescr *sl,
899                           const uint8_t *buf, int buf_size)
900 {
901     GetBitContext gb;
902     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
903     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
904     int dts_flag = -1, cts_flag = -1;
905     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
906     uint8_t buf_padded[128 + FF_INPUT_BUFFER_PADDING_SIZE];
907     int buf_padded_size = FFMIN(buf_size, sizeof(buf_padded) - FF_INPUT_BUFFER_PADDING_SIZE);
908
909     memcpy(buf_padded, buf, buf_padded_size);
910
911     init_get_bits(&gb, buf_padded, buf_padded_size * 8);
912
913     if (sl->use_au_start)
914         au_start_flag = get_bits1(&gb);
915     if (sl->use_au_end)
916         au_end_flag = get_bits1(&gb);
917     if (!sl->use_au_start && !sl->use_au_end)
918         au_start_flag = au_end_flag = 1;
919     if (sl->ocr_len > 0)
920         ocr_flag = get_bits1(&gb);
921     if (sl->use_idle)
922         idle_flag = get_bits1(&gb);
923     if (sl->use_padding)
924         padding_flag = get_bits1(&gb);
925     if (padding_flag)
926         padding_bits = get_bits(&gb, 3);
927
928     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
929         if (sl->packet_seq_num_len)
930             skip_bits_long(&gb, sl->packet_seq_num_len);
931         if (sl->degr_prior_len)
932             if (get_bits1(&gb))
933                 skip_bits(&gb, sl->degr_prior_len);
934         if (ocr_flag)
935             skip_bits_long(&gb, sl->ocr_len);
936         if (au_start_flag) {
937             if (sl->use_rand_acc_pt)
938                 get_bits1(&gb);
939             if (sl->au_seq_num_len > 0)
940                 skip_bits_long(&gb, sl->au_seq_num_len);
941             if (sl->use_timestamps) {
942                 dts_flag = get_bits1(&gb);
943                 cts_flag = get_bits1(&gb);
944             }
945         }
946         if (sl->inst_bitrate_len)
947             inst_bitrate_flag = get_bits1(&gb);
948         if (dts_flag == 1)
949             dts = get_ts64(&gb, sl->timestamp_len);
950         if (cts_flag == 1)
951             cts = get_ts64(&gb, sl->timestamp_len);
952         if (sl->au_len > 0)
953             skip_bits_long(&gb, sl->au_len);
954         if (inst_bitrate_flag)
955             skip_bits_long(&gb, sl->inst_bitrate_len);
956     }
957
958     if (dts != AV_NOPTS_VALUE)
959         pes->dts = dts;
960     if (cts != AV_NOPTS_VALUE)
961         pes->pts = cts;
962
963     if (sl->timestamp_len && sl->timestamp_res)
964         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
965
966     return (get_bits_count(&gb) + 7) >> 3;
967 }
968
969 /* return non zero if a packet could be constructed */
970 static int mpegts_push_data(MpegTSFilter *filter,
971                             const uint8_t *buf, int buf_size, int is_start,
972                             int64_t pos)
973 {
974     PESContext *pes   = filter->u.pes_filter.opaque;
975     MpegTSContext *ts = pes->ts;
976     const uint8_t *p;
977     int len, code;
978
979     if (!ts->pkt)
980         return 0;
981
982     if (is_start) {
983         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
984             new_pes_packet(pes, ts->pkt);
985             ts->stop_parse = 1;
986         } else {
987             reset_pes_packet_state(pes);
988         }
989         pes->state         = MPEGTS_HEADER;
990         pes->ts_packet_pos = pos;
991     }
992     p = buf;
993     while (buf_size > 0) {
994         switch (pes->state) {
995         case MPEGTS_HEADER:
996             len = PES_START_SIZE - pes->data_index;
997             if (len > buf_size)
998                 len = buf_size;
999             memcpy(pes->header + pes->data_index, p, len);
1000             pes->data_index += len;
1001             p += len;
1002             buf_size -= len;
1003             if (pes->data_index == PES_START_SIZE) {
1004                 /* we got all the PES or section header. We can now
1005                  * decide */
1006                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
1007                     pes->header[2] == 0x01) {
1008                     /* it must be an mpeg2 PES stream */
1009                     code = pes->header[3] | 0x100;
1010                     av_log(pes->stream, AV_LOG_TRACE, "pid=%x pes_code=%#x\n", pes->pid,
1011                             code);
1012
1013                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
1014                          (!pes->sub_st ||
1015                           pes->sub_st->discard == AVDISCARD_ALL)) ||
1016                         code == 0x1be) /* padding_stream */
1017                         goto skip;
1018
1019                     /* stream not present in PMT */
1020                     if (!pes->st) {
1021                         if (ts->skip_changes)
1022                             goto skip;
1023
1024                         pes->st = avformat_new_stream(ts->stream, NULL);
1025                         if (!pes->st)
1026                             return AVERROR(ENOMEM);
1027                         pes->st->id = pes->pid;
1028                         mpegts_set_stream_info(pes->st, pes, 0, 0);
1029                     }
1030
1031                     pes->total_size = AV_RB16(pes->header + 4);
1032                     /* NOTE: a zero total size means the PES size is
1033                      * unbounded */
1034                     if (!pes->total_size)
1035                         pes->total_size = MAX_PES_PAYLOAD;
1036
1037                     /* allocate pes buffer */
1038                     pes->buffer = av_buffer_alloc(pes->total_size +
1039                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1040                     if (!pes->buffer)
1041                         return AVERROR(ENOMEM);
1042
1043                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
1044                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
1045                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
1046                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
1047                         pes->state = MPEGTS_PESHEADER;
1048                         if (pes->st->codec->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
1049                             av_log(pes->stream, AV_LOG_TRACE,
1050                                     "pid=%x stream_type=%x probing\n",
1051                                     pes->pid,
1052                                     pes->stream_type);
1053                             pes->st->request_probe = 1;
1054                         }
1055                     } else {
1056                         pes->state      = MPEGTS_PAYLOAD;
1057                         pes->data_index = 0;
1058                     }
1059                 } else {
1060                     /* otherwise, it should be a table */
1061                     /* skip packet */
1062 skip:
1063                     pes->state = MPEGTS_SKIP;
1064                     continue;
1065                 }
1066             }
1067             break;
1068         /**********************************************/
1069         /* PES packing parsing */
1070         case MPEGTS_PESHEADER:
1071             len = PES_HEADER_SIZE - pes->data_index;
1072             if (len < 0)
1073                 return AVERROR_INVALIDDATA;
1074             if (len > buf_size)
1075                 len = buf_size;
1076             memcpy(pes->header + pes->data_index, p, len);
1077             pes->data_index += len;
1078             p += len;
1079             buf_size -= len;
1080             if (pes->data_index == PES_HEADER_SIZE) {
1081                 pes->pes_header_size = pes->header[8] + 9;
1082                 pes->state           = MPEGTS_PESHEADER_FILL;
1083             }
1084             break;
1085         case MPEGTS_PESHEADER_FILL:
1086             len = pes->pes_header_size - pes->data_index;
1087             if (len < 0)
1088                 return AVERROR_INVALIDDATA;
1089             if (len > buf_size)
1090                 len = buf_size;
1091             memcpy(pes->header + pes->data_index, p, len);
1092             pes->data_index += len;
1093             p += len;
1094             buf_size -= len;
1095             if (pes->data_index == pes->pes_header_size) {
1096                 const uint8_t *r;
1097                 unsigned int flags, pes_ext, skip;
1098
1099                 flags = pes->header[7];
1100                 r = pes->header + 9;
1101                 pes->pts = AV_NOPTS_VALUE;
1102                 pes->dts = AV_NOPTS_VALUE;
1103                 if ((flags & 0xc0) == 0x80) {
1104                     pes->dts = pes->pts = ff_parse_pes_pts(r);
1105                     r += 5;
1106                 } else if ((flags & 0xc0) == 0xc0) {
1107                     pes->pts = ff_parse_pes_pts(r);
1108                     r += 5;
1109                     pes->dts = ff_parse_pes_pts(r);
1110                     r += 5;
1111                 }
1112                 pes->extended_stream_id = -1;
1113                 if (flags & 0x01) { /* PES extension */
1114                     pes_ext = *r++;
1115                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
1116                     skip  = (pes_ext >> 4) & 0xb;
1117                     skip += skip & 0x9;
1118                     r    += skip;
1119                     if ((pes_ext & 0x41) == 0x01 &&
1120                         (r + 2) <= (pes->header + pes->pes_header_size)) {
1121                         /* PES extension 2 */
1122                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
1123                             pes->extended_stream_id = r[1];
1124                     }
1125                 }
1126
1127                 /* we got the full header. We parse it and get the payload */
1128                 pes->state = MPEGTS_PAYLOAD;
1129                 pes->data_index = 0;
1130                 if (pes->stream_type == 0x12 && buf_size > 0) {
1131                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p,
1132                                                          buf_size);
1133                     pes->pes_header_size += sl_header_bytes;
1134                     p += sl_header_bytes;
1135                     buf_size -= sl_header_bytes;
1136                 }
1137                 if (pes->stream_type == 0x15 && buf_size >= 5) {
1138                     /* skip metadata access unit header */
1139                     pes->pes_header_size += 5;
1140                     p += 5;
1141                     buf_size -= 5;
1142                 }
1143                 if (   pes->ts->fix_teletext_pts
1144                     && (   pes->st->codec->codec_id == AV_CODEC_ID_DVB_TELETEXT
1145                         || pes->st->codec->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
1146                     ) {
1147                     AVProgram *p = NULL;
1148                     while ((p = av_find_program_from_stream(pes->stream, p, pes->st->index))) {
1149                         if (p->pcr_pid != -1 && p->discard != AVDISCARD_ALL) {
1150                             MpegTSFilter *f = pes->ts->pids[p->pcr_pid];
1151                             if (f) {
1152                                 AVStream *st = NULL;
1153                                 if (f->type == MPEGTS_PES) {
1154                                     PESContext *pcrpes = f->u.pes_filter.opaque;
1155                                     if (pcrpes)
1156                                         st = pcrpes->st;
1157                                 } else if (f->type == MPEGTS_PCR) {
1158                                     int i;
1159                                     for (i = 0; i < p->nb_stream_indexes; i++) {
1160                                         AVStream *pst = pes->stream->streams[p->stream_index[i]];
1161                                         if (pst->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1162                                             st = pst;
1163                                     }
1164                                 }
1165                                 if (f->last_pcr != -1 && st && st->discard != AVDISCARD_ALL) {
1166                                     // teletext packets do not always have correct timestamps,
1167                                     // the standard says they should be handled after 40.6 ms at most,
1168                                     // and the pcr error to this packet should be no more than 100 ms.
1169                                     // TODO: we should interpolate the PCR, not just use the last one
1170                                     int64_t pcr = f->last_pcr / 300;
1171                                     pes->st->pts_wrap_reference = st->pts_wrap_reference;
1172                                     pes->st->pts_wrap_behavior = st->pts_wrap_behavior;
1173                                     if (pes->dts == AV_NOPTS_VALUE || pes->dts < pcr) {
1174                                         pes->pts = pes->dts = pcr;
1175                                     } else if (pes->st->codec->codec_id == AV_CODEC_ID_DVB_TELETEXT &&
1176                                                pes->dts > pcr + 3654 + 9000) {
1177                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1178                                     } else if (pes->st->codec->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
1179                                                pes->dts > pcr + 10*90000) { //10sec
1180                                         pes->pts = pes->dts = pcr + 3654 + 9000;
1181                                     }
1182                                     break;
1183                                 }
1184                             }
1185                         }
1186                     }
1187                 }
1188             }
1189             break;
1190         case MPEGTS_PAYLOAD:
1191             if (pes->buffer) {
1192                 if (pes->data_index > 0 &&
1193                     pes->data_index + buf_size > pes->total_size) {
1194                     new_pes_packet(pes, ts->pkt);
1195                     pes->total_size = MAX_PES_PAYLOAD;
1196                     pes->buffer = av_buffer_alloc(pes->total_size +
1197                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1198                     if (!pes->buffer)
1199                         return AVERROR(ENOMEM);
1200                     ts->stop_parse = 1;
1201                 } else if (pes->data_index == 0 &&
1202                            buf_size > pes->total_size) {
1203                     // pes packet size is < ts size packet and pes data is padded with 0xff
1204                     // not sure if this is legal in ts but see issue #2392
1205                     buf_size = pes->total_size;
1206                 }
1207                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
1208                 pes->data_index += buf_size;
1209                 /* emit complete packets with known packet size
1210                  * decreases demuxer delay for infrequent packets like subtitles from
1211                  * a couple of seconds to milliseconds for properly muxed files.
1212                  * total_size is the number of bytes following pes_packet_length
1213                  * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
1214                 if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
1215                     pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
1216                     ts->stop_parse = 1;
1217                     new_pes_packet(pes, ts->pkt);
1218                 }
1219             }
1220             buf_size = 0;
1221             break;
1222         case MPEGTS_SKIP:
1223             buf_size = 0;
1224             break;
1225         }
1226     }
1227
1228     return 0;
1229 }
1230
1231 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1232 {
1233     MpegTSFilter *tss;
1234     PESContext *pes;
1235
1236     /* if no pid found, then add a pid context */
1237     pes = av_mallocz(sizeof(PESContext));
1238     if (!pes)
1239         return 0;
1240     pes->ts      = ts;
1241     pes->stream  = ts->stream;
1242     pes->pid     = pid;
1243     pes->pcr_pid = pcr_pid;
1244     pes->state   = MPEGTS_SKIP;
1245     pes->pts     = AV_NOPTS_VALUE;
1246     pes->dts     = AV_NOPTS_VALUE;
1247     tss          = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1248     if (!tss) {
1249         av_free(pes);
1250         return 0;
1251     }
1252     return pes;
1253 }
1254
1255 #define MAX_LEVEL 4
1256 typedef struct MP4DescrParseContext {
1257     AVFormatContext *s;
1258     AVIOContext pb;
1259     Mp4Descr *descr;
1260     Mp4Descr *active_descr;
1261     int descr_count;
1262     int max_descr_count;
1263     int level;
1264     int predefined_SLConfigDescriptor_seen;
1265 } MP4DescrParseContext;
1266
1267 static int init_MP4DescrParseContext(MP4DescrParseContext *d, AVFormatContext *s,
1268                                      const uint8_t *buf, unsigned size,
1269                                      Mp4Descr *descr, int max_descr_count)
1270 {
1271     int ret;
1272     if (size > (1 << 30))
1273         return AVERROR_INVALIDDATA;
1274
1275     if ((ret = ffio_init_context(&d->pb, (unsigned char *)buf, size, 0,
1276                                  NULL, NULL, NULL, NULL)) < 0)
1277         return ret;
1278
1279     d->s               = s;
1280     d->level           = 0;
1281     d->descr_count     = 0;
1282     d->descr           = descr;
1283     d->active_descr    = NULL;
1284     d->max_descr_count = max_descr_count;
1285
1286     return 0;
1287 }
1288
1289 static void update_offsets(AVIOContext *pb, int64_t *off, int *len)
1290 {
1291     int64_t new_off = avio_tell(pb);
1292     (*len) -= new_off - *off;
1293     *off    = new_off;
1294 }
1295
1296 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1297                            int target_tag);
1298
1299 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1300 {
1301     while (len > 0) {
1302         int ret = parse_mp4_descr(d, off, len, 0);
1303         if (ret < 0)
1304             return ret;
1305         update_offsets(&d->pb, &off, &len);
1306     }
1307     return 0;
1308 }
1309
1310 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1311 {
1312     avio_rb16(&d->pb); // ID
1313     avio_r8(&d->pb);
1314     avio_r8(&d->pb);
1315     avio_r8(&d->pb);
1316     avio_r8(&d->pb);
1317     avio_r8(&d->pb);
1318     update_offsets(&d->pb, &off, &len);
1319     return parse_mp4_descr_arr(d, off, len);
1320 }
1321
1322 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1323 {
1324     int id_flags;
1325     if (len < 2)
1326         return 0;
1327     id_flags = avio_rb16(&d->pb);
1328     if (!(id_flags & 0x0020)) { // URL_Flag
1329         update_offsets(&d->pb, &off, &len);
1330         return parse_mp4_descr_arr(d, off, len); // ES_Descriptor[]
1331     } else {
1332         return 0;
1333     }
1334 }
1335
1336 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1337 {
1338     int es_id = 0;
1339     if (d->descr_count >= d->max_descr_count)
1340         return AVERROR_INVALIDDATA;
1341     ff_mp4_parse_es_descr(&d->pb, &es_id);
1342     d->active_descr = d->descr + (d->descr_count++);
1343
1344     d->active_descr->es_id = es_id;
1345     update_offsets(&d->pb, &off, &len);
1346     parse_mp4_descr(d, off, len, MP4DecConfigDescrTag);
1347     update_offsets(&d->pb, &off, &len);
1348     if (len > 0)
1349         parse_mp4_descr(d, off, len, MP4SLDescrTag);
1350     d->active_descr = NULL;
1351     return 0;
1352 }
1353
1354 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off,
1355                                       int len)
1356 {
1357     Mp4Descr *descr = d->active_descr;
1358     if (!descr)
1359         return AVERROR_INVALIDDATA;
1360     d->active_descr->dec_config_descr = av_malloc(len);
1361     if (!descr->dec_config_descr)
1362         return AVERROR(ENOMEM);
1363     descr->dec_config_descr_len = len;
1364     avio_read(&d->pb, descr->dec_config_descr, len);
1365     return 0;
1366 }
1367
1368 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1369 {
1370     Mp4Descr *descr = d->active_descr;
1371     int predefined;
1372     if (!descr)
1373         return AVERROR_INVALIDDATA;
1374
1375     predefined = avio_r8(&d->pb);
1376     if (!predefined) {
1377         int lengths;
1378         int flags = avio_r8(&d->pb);
1379         descr->sl.use_au_start    = !!(flags & 0x80);
1380         descr->sl.use_au_end      = !!(flags & 0x40);
1381         descr->sl.use_rand_acc_pt = !!(flags & 0x20);
1382         descr->sl.use_padding     = !!(flags & 0x08);
1383         descr->sl.use_timestamps  = !!(flags & 0x04);
1384         descr->sl.use_idle        = !!(flags & 0x02);
1385         descr->sl.timestamp_res   = avio_rb32(&d->pb);
1386         avio_rb32(&d->pb);
1387         descr->sl.timestamp_len      = avio_r8(&d->pb);
1388         if (descr->sl.timestamp_len > 64) {
1389             avpriv_request_sample(NULL, "timestamp_len > 64");
1390             descr->sl.timestamp_len = 64;
1391             return AVERROR_PATCHWELCOME;
1392         }
1393         descr->sl.ocr_len            = avio_r8(&d->pb);
1394         descr->sl.au_len             = avio_r8(&d->pb);
1395         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1396         lengths                      = avio_rb16(&d->pb);
1397         descr->sl.degr_prior_len     = lengths >> 12;
1398         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1399         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1400     } else if (!d->predefined_SLConfigDescriptor_seen){
1401         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1402         d->predefined_SLConfigDescriptor_seen = 1;
1403     }
1404     return 0;
1405 }
1406
1407 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1408                            int target_tag)
1409 {
1410     int tag;
1411     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1412     update_offsets(&d->pb, &off, &len);
1413     if (len < 0 || len1 > len || len1 <= 0) {
1414         av_log(d->s, AV_LOG_ERROR,
1415                "Tag %x length violation new length %d bytes remaining %d\n",
1416                tag, len1, len);
1417         return AVERROR_INVALIDDATA;
1418     }
1419
1420     if (d->level++ >= MAX_LEVEL) {
1421         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1422         goto done;
1423     }
1424
1425     if (target_tag && tag != target_tag) {
1426         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag,
1427                target_tag);
1428         goto done;
1429     }
1430
1431     switch (tag) {
1432     case MP4IODescrTag:
1433         parse_MP4IODescrTag(d, off, len1);
1434         break;
1435     case MP4ODescrTag:
1436         parse_MP4ODescrTag(d, off, len1);
1437         break;
1438     case MP4ESDescrTag:
1439         parse_MP4ESDescrTag(d, off, len1);
1440         break;
1441     case MP4DecConfigDescrTag:
1442         parse_MP4DecConfigDescrTag(d, off, len1);
1443         break;
1444     case MP4SLDescrTag:
1445         parse_MP4SLDescrTag(d, off, len1);
1446         break;
1447     }
1448
1449
1450 done:
1451     d->level--;
1452     avio_seek(&d->pb, off + len1, SEEK_SET);
1453     return 0;
1454 }
1455
1456 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1457                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1458 {
1459     MP4DescrParseContext d;
1460     int ret;
1461
1462     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1463     if (ret < 0)
1464         return ret;
1465
1466     ret = parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1467
1468     *descr_count = d.descr_count;
1469     return ret;
1470 }
1471
1472 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1473                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1474 {
1475     MP4DescrParseContext d;
1476     int ret;
1477
1478     ret = init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count);
1479     if (ret < 0)
1480         return ret;
1481
1482     ret = parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1483
1484     *descr_count = d.descr_count;
1485     return ret;
1486 }
1487
1488 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section,
1489                     int section_len)
1490 {
1491     MpegTSContext *ts = filter->u.section_filter.opaque;
1492     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1493     SectionHeader h;
1494     const uint8_t *p, *p_end;
1495     AVIOContext pb;
1496     int mp4_descr_count = 0;
1497     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1498     int i, pid;
1499     AVFormatContext *s = ts->stream;
1500
1501     p_end = section + section_len - 4;
1502     p = section;
1503     if (parse_section_header(&h, &p, p_end) < 0)
1504         return;
1505     if (h.tid != M4OD_TID)
1506         return;
1507     if (skip_identical(&h, tssf))
1508         return;
1509
1510     mp4_read_od(s, p, (unsigned) (p_end - p), mp4_descr, &mp4_descr_count,
1511                 MAX_MP4_DESCR_COUNT);
1512
1513     for (pid = 0; pid < NB_PID_MAX; pid++) {
1514         if (!ts->pids[pid])
1515             continue;
1516         for (i = 0; i < mp4_descr_count; i++) {
1517             PESContext *pes;
1518             AVStream *st;
1519             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1520                 continue;
1521             if (ts->pids[pid]->type != MPEGTS_PES) {
1522                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1523                 continue;
1524             }
1525             pes = ts->pids[pid]->u.pes_filter.opaque;
1526             st  = pes->st;
1527             if (!st)
1528                 continue;
1529
1530             pes->sl = mp4_descr[i].sl;
1531
1532             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1533                               mp4_descr[i].dec_config_descr_len, 0,
1534                               NULL, NULL, NULL, NULL);
1535             ff_mp4_read_dec_config_descr(s, st, &pb);
1536             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1537                 st->codec->extradata_size > 0)
1538                 st->need_parsing = 0;
1539             if (st->codec->codec_id == AV_CODEC_ID_H264 &&
1540                 st->codec->extradata_size > 0)
1541                 st->need_parsing = 0;
1542
1543             if (st->codec->codec_id <= AV_CODEC_ID_NONE) {
1544                 // do nothing
1545             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_AUDIO)
1546                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
1547             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_SUBTITLE)
1548                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1549             else if (st->codec->codec_id < AV_CODEC_ID_FIRST_UNKNOWN)
1550                 st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
1551         }
1552     }
1553     for (i = 0; i < mp4_descr_count; i++)
1554         av_free(mp4_descr[i].dec_config_descr);
1555 }
1556
1557 static const uint8_t opus_coupled_stream_cnt[9] = {
1558     1, 0, 1, 1, 2, 2, 2, 3, 3
1559 };
1560
1561 static const uint8_t opus_stream_cnt[9] = {
1562     1, 1, 1, 2, 2, 3, 4, 4, 5,
1563 };
1564
1565 static const uint8_t opus_channel_map[8][8] = {
1566     { 0 },
1567     { 0,1 },
1568     { 0,2,1 },
1569     { 0,1,2,3 },
1570     { 0,4,1,2,3 },
1571     { 0,4,1,2,3,5 },
1572     { 0,4,1,2,3,5,6 },
1573     { 0,6,1,2,3,4,5,7 },
1574 };
1575
1576 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1577                               const uint8_t **pp, const uint8_t *desc_list_end,
1578                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1579                               MpegTSContext *ts)
1580 {
1581     const uint8_t *desc_end;
1582     int desc_len, desc_tag, desc_es_id, ext_desc_tag, channels, channel_config_code;
1583     char language[252];
1584     int i;
1585
1586     desc_tag = get8(pp, desc_list_end);
1587     if (desc_tag < 0)
1588         return AVERROR_INVALIDDATA;
1589     desc_len = get8(pp, desc_list_end);
1590     if (desc_len < 0)
1591         return AVERROR_INVALIDDATA;
1592     desc_end = *pp + desc_len;
1593     if (desc_end > desc_list_end)
1594         return AVERROR_INVALIDDATA;
1595
1596     av_log(fc, AV_LOG_TRACE, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1597
1598     if ((st->codec->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0) &&
1599         stream_type == STREAM_TYPE_PRIVATE_DATA)
1600         mpegts_find_stream_type(st, desc_tag, DESC_types);
1601
1602     switch (desc_tag) {
1603     case 0x1E: /* SL descriptor */
1604         desc_es_id = get16(pp, desc_end);
1605         if (desc_es_id < 0)
1606             break;
1607         if (ts && ts->pids[pid])
1608             ts->pids[pid]->es_id = desc_es_id;
1609         for (i = 0; i < mp4_descr_count; i++)
1610             if (mp4_descr[i].dec_config_descr_len &&
1611                 mp4_descr[i].es_id == desc_es_id) {
1612                 AVIOContext pb;
1613                 ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1614                                   mp4_descr[i].dec_config_descr_len, 0,
1615                                   NULL, NULL, NULL, NULL);
1616                 ff_mp4_read_dec_config_descr(fc, st, &pb);
1617                 if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1618                     st->codec->extradata_size > 0)
1619                     st->need_parsing = 0;
1620                 if (st->codec->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1621                     mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1622             }
1623         break;
1624     case 0x1F: /* FMC descriptor */
1625         if (get16(pp, desc_end) < 0)
1626             break;
1627         if (mp4_descr_count > 0 &&
1628             (st->codec->codec_id == AV_CODEC_ID_AAC_LATM ||
1629              (st->request_probe == 0 && st->codec->codec_id == AV_CODEC_ID_NONE) ||
1630              st->request_probe > 0) &&
1631             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1632             AVIOContext pb;
1633             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1634                               mp4_descr->dec_config_descr_len, 0,
1635                               NULL, NULL, NULL, NULL);
1636             ff_mp4_read_dec_config_descr(fc, st, &pb);
1637             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1638                 st->codec->extradata_size > 0) {
1639                 st->request_probe = st->need_parsing = 0;
1640                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1641             }
1642         }
1643         break;
1644     case 0x56: /* DVB teletext descriptor */
1645         {
1646             uint8_t *extradata = NULL;
1647             int language_count = desc_len / 5;
1648
1649             if (desc_len > 0 && desc_len % 5 != 0)
1650                 return AVERROR_INVALIDDATA;
1651
1652             if (language_count > 0) {
1653                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1654                 if (language_count > sizeof(language) / 4) {
1655                     language_count = sizeof(language) / 4;
1656                 }
1657
1658                 if (st->codec->extradata == NULL) {
1659                     if (ff_alloc_extradata(st->codec, language_count * 2)) {
1660                         return AVERROR(ENOMEM);
1661                     }
1662                 }
1663
1664                if (st->codec->extradata_size < language_count * 2)
1665                    return AVERROR_INVALIDDATA;
1666
1667                extradata = st->codec->extradata;
1668
1669                 for (i = 0; i < language_count; i++) {
1670                     language[i * 4 + 0] = get8(pp, desc_end);
1671                     language[i * 4 + 1] = get8(pp, desc_end);
1672                     language[i * 4 + 2] = get8(pp, desc_end);
1673                     language[i * 4 + 3] = ',';
1674
1675                     memcpy(extradata, *pp, 2);
1676                     extradata += 2;
1677
1678                     *pp += 2;
1679                 }
1680
1681                 language[i * 4 - 1] = 0;
1682                 av_dict_set(&st->metadata, "language", language, 0);
1683             }
1684         }
1685         break;
1686     case 0x59: /* subtitling descriptor */
1687         {
1688             /* 8 bytes per DVB subtitle substream data:
1689              * ISO_639_language_code (3 bytes),
1690              * subtitling_type (1 byte),
1691              * composition_page_id (2 bytes),
1692              * ancillary_page_id (2 bytes) */
1693             int language_count = desc_len / 8;
1694
1695             if (desc_len > 0 && desc_len % 8 != 0)
1696                 return AVERROR_INVALIDDATA;
1697
1698             if (language_count > 1) {
1699                 avpriv_request_sample(fc, "DVB subtitles with multiple languages");
1700             }
1701
1702             if (language_count > 0) {
1703                 uint8_t *extradata;
1704
1705                 /* 4 bytes per language code (3 bytes) with comma or NUL byte should fit language buffer */
1706                 if (language_count > sizeof(language) / 4) {
1707                     language_count = sizeof(language) / 4;
1708                 }
1709
1710                 if (st->codec->extradata == NULL) {
1711                     if (ff_alloc_extradata(st->codec, language_count * 5)) {
1712                         return AVERROR(ENOMEM);
1713                     }
1714                 }
1715
1716                 if (st->codec->extradata_size < language_count * 5)
1717                     return AVERROR_INVALIDDATA;
1718
1719                 extradata = st->codec->extradata;
1720
1721                 for (i = 0; i < language_count; i++) {
1722                     language[i * 4 + 0] = get8(pp, desc_end);
1723                     language[i * 4 + 1] = get8(pp, desc_end);
1724                     language[i * 4 + 2] = get8(pp, desc_end);
1725                     language[i * 4 + 3] = ',';
1726
1727                     /* hearing impaired subtitles detection using subtitling_type */
1728                     switch (*pp[0]) {
1729                     case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1730                     case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1731                     case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1732                     case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1733                     case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1734                     case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1735                         st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1736                         break;
1737                     }
1738
1739                     extradata[4] = get8(pp, desc_end); /* subtitling_type */
1740                     memcpy(extradata, *pp, 4); /* composition_page_id and ancillary_page_id */
1741                     extradata += 5;
1742
1743                     *pp += 4;
1744                 }
1745
1746                 language[i * 4 - 1] = 0;
1747                 av_dict_set(&st->metadata, "language", language, 0);
1748             }
1749         }
1750         break;
1751     case 0x0a: /* ISO 639 language descriptor */
1752         for (i = 0; i + 4 <= desc_len; i += 4) {
1753             language[i + 0] = get8(pp, desc_end);
1754             language[i + 1] = get8(pp, desc_end);
1755             language[i + 2] = get8(pp, desc_end);
1756             language[i + 3] = ',';
1757             switch (get8(pp, desc_end)) {
1758             case 0x01:
1759                 st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS;
1760                 break;
1761             case 0x02:
1762                 st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1763                 break;
1764             case 0x03:
1765                 st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED;
1766                 break;
1767             }
1768         }
1769         if (i && language[0]) {
1770             language[i - 1] = 0;
1771             av_dict_set(&st->metadata, "language", language, 0);
1772         }
1773         break;
1774     case 0x05: /* registration descriptor */
1775         st->codec->codec_tag = bytestream_get_le32(pp);
1776         av_log(fc, AV_LOG_TRACE, "reg_desc=%.4s\n", (char *)&st->codec->codec_tag);
1777         if (st->codec->codec_id == AV_CODEC_ID_NONE || st->request_probe > 0)
1778             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
1779         break;
1780     case 0x52: /* stream identifier descriptor */
1781         st->stream_identifier = 1 + get8(pp, desc_end);
1782         break;
1783     case 0x26: /* metadata descriptor */
1784         if (get16(pp, desc_end) == 0xFFFF)
1785             *pp += 4;
1786         if (get8(pp, desc_end) == 0xFF) {
1787             st->codec->codec_tag = bytestream_get_le32(pp);
1788             if (st->codec->codec_id == AV_CODEC_ID_NONE)
1789                 mpegts_find_stream_type(st, st->codec->codec_tag, METADATA_types);
1790         }
1791         break;
1792     case 0x7f: /* DVB extension descriptor */
1793         ext_desc_tag = get8(pp, desc_end);
1794         if (ext_desc_tag < 0)
1795             return AVERROR_INVALIDDATA;
1796         if (st->codec->codec_id == AV_CODEC_ID_OPUS &&
1797             ext_desc_tag == 0x80) { /* User defined (provisional Opus) */
1798             if (!st->codec->extradata) {
1799                 st->codec->extradata = av_mallocz(sizeof(opus_default_extradata) +
1800                                                   FF_INPUT_BUFFER_PADDING_SIZE);
1801                 if (!st->codec->extradata)
1802                     return AVERROR(ENOMEM);
1803
1804                 st->codec->extradata_size = sizeof(opus_default_extradata);
1805                 memcpy(st->codec->extradata, opus_default_extradata, sizeof(opus_default_extradata));
1806
1807                 channel_config_code = get8(pp, desc_end);
1808                 if (channel_config_code < 0)
1809                     return AVERROR_INVALIDDATA;
1810                 if (channel_config_code <= 0x8) {
1811                     st->codec->extradata[9]  = channels = channel_config_code ? channel_config_code : 2;
1812                     st->codec->extradata[18] = channel_config_code ? (channels > 2) : /* Dual Mono */ 255;
1813                     st->codec->extradata[19] = opus_stream_cnt[channel_config_code];
1814                     st->codec->extradata[20] = opus_coupled_stream_cnt[channel_config_code];
1815                     memcpy(&st->codec->extradata[21], opus_channel_map[channels - 1], channels);
1816                 } else {
1817                     avpriv_request_sample(fc, "Opus in MPEG-TS - channel_config_code > 0x8");
1818                 }
1819                 st->need_parsing = AVSTREAM_PARSE_FULL;
1820             }
1821         }
1822         break;
1823     default:
1824         break;
1825     }
1826     *pp = desc_end;
1827     return 0;
1828 }
1829
1830 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1831 {
1832     MpegTSContext *ts = filter->u.section_filter.opaque;
1833     MpegTSSectionFilter *tssf = &filter->u.section_filter;
1834     SectionHeader h1, *h = &h1;
1835     PESContext *pes;
1836     AVStream *st;
1837     const uint8_t *p, *p_end, *desc_list_end;
1838     int program_info_length, pcr_pid, pid, stream_type;
1839     int desc_list_len;
1840     uint32_t prog_reg_desc = 0; /* registration descriptor */
1841
1842     int mp4_descr_count = 0;
1843     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = { { 0 } };
1844     int i;
1845
1846     av_log(ts->stream, AV_LOG_TRACE, "PMT: len %i\n", section_len);
1847     hex_dump_debug(ts->stream, section, section_len);
1848
1849     p_end = section + section_len - 4;
1850     p = section;
1851     if (parse_section_header(h, &p, p_end) < 0)
1852         return;
1853     if (skip_identical(h, tssf))
1854         return;
1855
1856     av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x sec_num=%d/%d version=%d\n",
1857             h->id, h->sec_num, h->last_sec_num, h->version);
1858
1859     if (h->tid != PMT_TID)
1860         return;
1861     if (!ts->scan_all_pmts && ts->skip_changes)
1862         return;
1863
1864     if (!ts->skip_clear)
1865         clear_program(ts, h->id);
1866
1867     pcr_pid = get16(&p, p_end);
1868     if (pcr_pid < 0)
1869         return;
1870     pcr_pid &= 0x1fff;
1871     add_pid_to_pmt(ts, h->id, pcr_pid);
1872     set_pcr_pid(ts->stream, h->id, pcr_pid);
1873
1874     av_log(ts->stream, AV_LOG_TRACE, "pcr_pid=0x%x\n", pcr_pid);
1875
1876     program_info_length = get16(&p, p_end);
1877     if (program_info_length < 0)
1878         return;
1879     program_info_length &= 0xfff;
1880     while (program_info_length >= 2) {
1881         uint8_t tag, len;
1882         tag = get8(&p, p_end);
1883         len = get8(&p, p_end);
1884
1885         av_log(ts->stream, AV_LOG_TRACE, "program tag: 0x%02x len=%d\n", tag, len);
1886
1887         if (len > program_info_length - 2)
1888             // something else is broken, exit the program_descriptors_loop
1889             break;
1890         program_info_length -= len + 2;
1891         if (tag == 0x1d) { // IOD descriptor
1892             get8(&p, p_end); // scope
1893             get8(&p, p_end); // label
1894             len -= 2;
1895             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1896                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1897         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1898             prog_reg_desc = bytestream_get_le32(&p);
1899             len -= 4;
1900         }
1901         p += len;
1902     }
1903     p += program_info_length;
1904     if (p >= p_end)
1905         goto out;
1906
1907     // stop parsing after pmt, we found header
1908     if (!ts->stream->nb_streams)
1909         ts->stop_parse = 2;
1910
1911     set_pmt_found(ts, h->id);
1912
1913
1914     for (;;) {
1915         st = 0;
1916         pes = NULL;
1917         stream_type = get8(&p, p_end);
1918         if (stream_type < 0)
1919             break;
1920         pid = get16(&p, p_end);
1921         if (pid < 0)
1922             goto out;
1923         pid &= 0x1fff;
1924         if (pid == ts->current_pid)
1925             goto out;
1926
1927         /* now create stream */
1928         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1929             pes = ts->pids[pid]->u.pes_filter.opaque;
1930             if (!pes->st) {
1931                 pes->st     = avformat_new_stream(pes->stream, NULL);
1932                 if (!pes->st)
1933                     goto out;
1934                 pes->st->id = pes->pid;
1935             }
1936             st = pes->st;
1937         } else if (stream_type != 0x13) {
1938             if (ts->pids[pid])
1939                 mpegts_close_filter(ts, ts->pids[pid]); // wrongly added sdt filter probably
1940             pes = add_pes_stream(ts, pid, pcr_pid);
1941             if (pes) {
1942                 st = avformat_new_stream(pes->stream, NULL);
1943                 if (!st)
1944                     goto out;
1945                 st->id = pes->pid;
1946             }
1947         } else {
1948             int idx = ff_find_stream_index(ts->stream, pid);
1949             if (idx >= 0) {
1950                 st = ts->stream->streams[idx];
1951             } else {
1952                 st = avformat_new_stream(ts->stream, NULL);
1953                 if (!st)
1954                     goto out;
1955                 st->id = pid;
1956                 st->codec->codec_type = AVMEDIA_TYPE_DATA;
1957             }
1958         }
1959
1960         if (!st)
1961             goto out;
1962
1963         if (pes && !pes->stream_type)
1964             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1965
1966         add_pid_to_pmt(ts, h->id, pid);
1967
1968         ff_program_add_stream_index(ts->stream, h->id, st->index);
1969
1970         desc_list_len = get16(&p, p_end);
1971         if (desc_list_len < 0)
1972             goto out;
1973         desc_list_len &= 0xfff;
1974         desc_list_end  = p + desc_list_len;
1975         if (desc_list_end > p_end)
1976             goto out;
1977         for (;;) {
1978             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p,
1979                                           desc_list_end, mp4_descr,
1980                                           mp4_descr_count, pid, ts) < 0)
1981                 break;
1982
1983             if (pes && prog_reg_desc == AV_RL32("HDMV") &&
1984                 stream_type == 0x83 && pes->sub_st) {
1985                 ff_program_add_stream_index(ts->stream, h->id,
1986                                             pes->sub_st->index);
1987                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1988             }
1989         }
1990         p = desc_list_end;
1991     }
1992
1993     if (!ts->pids[pcr_pid])
1994         mpegts_open_pcr_filter(ts, pcr_pid);
1995
1996 out:
1997     for (i = 0; i < mp4_descr_count; i++)
1998         av_free(mp4_descr[i].dec_config_descr);
1999 }
2000
2001 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2002 {
2003     MpegTSContext *ts = filter->u.section_filter.opaque;
2004     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2005     SectionHeader h1, *h = &h1;
2006     const uint8_t *p, *p_end;
2007     int sid, pmt_pid;
2008     AVProgram *program;
2009
2010     av_log(ts->stream, AV_LOG_TRACE, "PAT:\n");
2011     hex_dump_debug(ts->stream, section, section_len);
2012
2013     p_end = section + section_len - 4;
2014     p     = section;
2015     if (parse_section_header(h, &p, p_end) < 0)
2016         return;
2017     if (h->tid != PAT_TID)
2018         return;
2019     if (ts->skip_changes)
2020         return;
2021
2022     if (skip_identical(h, tssf))
2023         return;
2024     ts->stream->ts_id = h->id;
2025
2026     clear_programs(ts);
2027     for (;;) {
2028         sid = get16(&p, p_end);
2029         if (sid < 0)
2030             break;
2031         pmt_pid = get16(&p, p_end);
2032         if (pmt_pid < 0)
2033             break;
2034         pmt_pid &= 0x1fff;
2035
2036         if (pmt_pid == ts->current_pid)
2037             break;
2038
2039         av_log(ts->stream, AV_LOG_TRACE, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
2040
2041         if (sid == 0x0000) {
2042             /* NIT info */
2043         } else {
2044             MpegTSFilter *fil = ts->pids[pmt_pid];
2045             program = av_new_program(ts->stream, sid);
2046             if (program) {
2047                 program->program_num = sid;
2048                 program->pmt_pid = pmt_pid;
2049             }
2050             if (fil)
2051                 if (   fil->type != MPEGTS_SECTION
2052                     || fil->pid != pmt_pid
2053                     || fil->u.section_filter.section_cb != pmt_cb)
2054                     mpegts_close_filter(ts, ts->pids[pmt_pid]);
2055
2056             if (!ts->pids[pmt_pid])
2057                 mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
2058             add_pat_entry(ts, sid);
2059             add_pid_to_pmt(ts, sid, 0); // add pat pid to program
2060             add_pid_to_pmt(ts, sid, pmt_pid);
2061         }
2062     }
2063
2064     if (sid < 0) {
2065         int i,j;
2066         for (j=0; j<ts->stream->nb_programs; j++) {
2067             for (i = 0; i < ts->nb_prg; i++)
2068                 if (ts->prg[i].id == ts->stream->programs[j]->id)
2069                     break;
2070             if (i==ts->nb_prg && !ts->skip_clear)
2071                 clear_avprogram(ts, ts->stream->programs[j]->id);
2072         }
2073     }
2074 }
2075
2076 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
2077 {
2078     MpegTSContext *ts = filter->u.section_filter.opaque;
2079     MpegTSSectionFilter *tssf = &filter->u.section_filter;
2080     SectionHeader h1, *h = &h1;
2081     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
2082     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
2083     char *name, *provider_name;
2084
2085     av_log(ts->stream, AV_LOG_TRACE, "SDT:\n");
2086     hex_dump_debug(ts->stream, section, section_len);
2087
2088     p_end = section + section_len - 4;
2089     p     = section;
2090     if (parse_section_header(h, &p, p_end) < 0)
2091         return;
2092     if (h->tid != SDT_TID)
2093         return;
2094     if (ts->skip_changes)
2095         return;
2096     if (skip_identical(h, tssf))
2097         return;
2098
2099     onid = get16(&p, p_end);
2100     if (onid < 0)
2101         return;
2102     val = get8(&p, p_end);
2103     if (val < 0)
2104         return;
2105     for (;;) {
2106         sid = get16(&p, p_end);
2107         if (sid < 0)
2108             break;
2109         val = get8(&p, p_end);
2110         if (val < 0)
2111             break;
2112         desc_list_len = get16(&p, p_end);
2113         if (desc_list_len < 0)
2114             break;
2115         desc_list_len &= 0xfff;
2116         desc_list_end  = p + desc_list_len;
2117         if (desc_list_end > p_end)
2118             break;
2119         for (;;) {
2120             desc_tag = get8(&p, desc_list_end);
2121             if (desc_tag < 0)
2122                 break;
2123             desc_len = get8(&p, desc_list_end);
2124             desc_end = p + desc_len;
2125             if (desc_len < 0 || desc_end > desc_list_end)
2126                 break;
2127
2128             av_log(ts->stream, AV_LOG_TRACE, "tag: 0x%02x len=%d\n",
2129                     desc_tag, desc_len);
2130
2131             switch (desc_tag) {
2132             case 0x48:
2133                 service_type = get8(&p, p_end);
2134                 if (service_type < 0)
2135                     break;
2136                 provider_name = getstr8(&p, p_end);
2137                 if (!provider_name)
2138                     break;
2139                 name = getstr8(&p, p_end);
2140                 if (name) {
2141                     AVProgram *program = av_new_program(ts->stream, sid);
2142                     if (program) {
2143                         av_dict_set(&program->metadata, "service_name", name, 0);
2144                         av_dict_set(&program->metadata, "service_provider",
2145                                     provider_name, 0);
2146                     }
2147                 }
2148                 av_free(name);
2149                 av_free(provider_name);
2150                 break;
2151             default:
2152                 break;
2153             }
2154             p = desc_end;
2155         }
2156         p = desc_list_end;
2157     }
2158 }
2159
2160 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
2161                      const uint8_t *packet);
2162
2163 /* handle one TS packet */
2164 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
2165 {
2166     MpegTSFilter *tss;
2167     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
2168         has_adaptation, has_payload;
2169     const uint8_t *p, *p_end;
2170     int64_t pos;
2171
2172     pid = AV_RB16(packet + 1) & 0x1fff;
2173     if (pid && discard_pid(ts, pid))
2174         return 0;
2175     is_start = packet[1] & 0x40;
2176     tss = ts->pids[pid];
2177     if (ts->auto_guess && !tss && is_start) {
2178         add_pes_stream(ts, pid, -1);
2179         tss = ts->pids[pid];
2180     }
2181     if (!tss)
2182         return 0;
2183     ts->current_pid = pid;
2184
2185     afc = (packet[3] >> 4) & 3;
2186     if (afc == 0) /* reserved value */
2187         return 0;
2188     has_adaptation   = afc & 2;
2189     has_payload      = afc & 1;
2190     is_discontinuity = has_adaptation &&
2191                        packet[4] != 0 && /* with length > 0 */
2192                        (packet[5] & 0x80); /* and discontinuity indicated */
2193
2194     /* continuity check (currently not used) */
2195     cc = (packet[3] & 0xf);
2196     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
2197     cc_ok = pid == 0x1FFF || // null packet PID
2198             is_discontinuity ||
2199             tss->last_cc < 0 ||
2200             expected_cc == cc;
2201
2202     tss->last_cc = cc;
2203     if (!cc_ok) {
2204         av_log(ts->stream, AV_LOG_DEBUG,
2205                "Continuity check failed for pid %d expected %d got %d\n",
2206                pid, expected_cc, cc);
2207         if (tss->type == MPEGTS_PES) {
2208             PESContext *pc = tss->u.pes_filter.opaque;
2209             pc->flags |= AV_PKT_FLAG_CORRUPT;
2210         }
2211     }
2212
2213     p = packet + 4;
2214     if (has_adaptation) {
2215         int64_t pcr_h;
2216         int pcr_l;
2217         if (parse_pcr(&pcr_h, &pcr_l, packet) == 0)
2218             tss->last_pcr = pcr_h * 300 + pcr_l;
2219         /* skip adaptation field */
2220         p += p[0] + 1;
2221     }
2222     /* if past the end of packet, ignore */
2223     p_end = packet + TS_PACKET_SIZE;
2224     if (p >= p_end || !has_payload)
2225         return 0;
2226
2227     pos = avio_tell(ts->stream->pb);
2228     if (pos >= 0) {
2229         av_assert0(pos >= TS_PACKET_SIZE);
2230         ts->pos47_full = pos - TS_PACKET_SIZE;
2231     }
2232
2233     if (tss->type == MPEGTS_SECTION) {
2234         if (is_start) {
2235             /* pointer field present */
2236             len = *p++;
2237             if (len > p_end - p)
2238                 return 0;
2239             if (len && cc_ok) {
2240                 /* write remaining section bytes */
2241                 write_section_data(ts, tss,
2242                                    p, len, 0);
2243                 /* check whether filter has been closed */
2244                 if (!ts->pids[pid])
2245                     return 0;
2246             }
2247             p += len;
2248             if (p < p_end) {
2249                 write_section_data(ts, tss,
2250                                    p, p_end - p, 1);
2251             }
2252         } else {
2253             if (cc_ok) {
2254                 write_section_data(ts, tss,
2255                                    p, p_end - p, 0);
2256             }
2257         }
2258
2259         // stop find_stream_info from waiting for more streams
2260         // when all programs have received a PMT
2261         if (ts->stream->ctx_flags & AVFMTCTX_NOHEADER && ts->scan_all_pmts <= 0) {
2262             int i;
2263             for (i = 0; i < ts->nb_prg; i++) {
2264                 if (!ts->prg[i].pmt_found)
2265                     break;
2266             }
2267             if (i == ts->nb_prg && ts->nb_prg > 0) {
2268                 int types = 0;
2269                 for (i = 0; i < ts->stream->nb_streams; i++) {
2270                     AVStream *st = ts->stream->streams[i];
2271                     types |= 1<<st->codec->codec_type;
2272                 }
2273                 if ((types & (1<<AVMEDIA_TYPE_AUDIO) && types & (1<<AVMEDIA_TYPE_VIDEO)) || pos > 100000) {
2274                     av_log(ts->stream, AV_LOG_DEBUG, "All programs have pmt, headers found\n");
2275                     ts->stream->ctx_flags &= ~AVFMTCTX_NOHEADER;
2276                 }
2277             }
2278         }
2279
2280     } else {
2281         int ret;
2282         // Note: The position here points actually behind the current packet.
2283         if (tss->type == MPEGTS_PES) {
2284             if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
2285                                                 pos - ts->raw_packet_size)) < 0)
2286                 return ret;
2287         }
2288     }
2289
2290     return 0;
2291 }
2292
2293 static void reanalyze(MpegTSContext *ts) {
2294     AVIOContext *pb = ts->stream->pb;
2295     int64_t pos = avio_tell(pb);
2296     if (pos < 0)
2297         return;
2298     pos -= ts->pos47_full;
2299     if (pos == TS_PACKET_SIZE) {
2300         ts->size_stat[0] ++;
2301     } else if (pos == TS_DVHS_PACKET_SIZE) {
2302         ts->size_stat[1] ++;
2303     } else if (pos == TS_FEC_PACKET_SIZE) {
2304         ts->size_stat[2] ++;
2305     }
2306
2307     ts->size_stat_count ++;
2308     if (ts->size_stat_count > SIZE_STAT_THRESHOLD) {
2309         int newsize = 0;
2310         if (ts->size_stat[0] > SIZE_STAT_THRESHOLD) {
2311             newsize = TS_PACKET_SIZE;
2312         } else if (ts->size_stat[1] > SIZE_STAT_THRESHOLD) {
2313             newsize = TS_DVHS_PACKET_SIZE;
2314         } else if (ts->size_stat[2] > SIZE_STAT_THRESHOLD) {
2315             newsize = TS_FEC_PACKET_SIZE;
2316         }
2317         if (newsize && newsize != ts->raw_packet_size) {
2318             av_log(ts->stream, AV_LOG_WARNING, "changing packet size to %d\n", newsize);
2319             ts->raw_packet_size = newsize;
2320         }
2321         ts->size_stat_count = 0;
2322         memset(ts->size_stat, 0, sizeof(ts->size_stat));
2323     }
2324 }
2325
2326 /* XXX: try to find a better synchro over several packets (use
2327  * get_packet_size() ?) */
2328 static int mpegts_resync(AVFormatContext *s)
2329 {
2330     MpegTSContext *ts = s->priv_data;
2331     AVIOContext *pb = s->pb;
2332     int c, i;
2333
2334     for (i = 0; i < ts->resync_size; i++) {
2335         c = avio_r8(pb);
2336         if (avio_feof(pb))
2337             return AVERROR_EOF;
2338         if (c == 0x47) {
2339             avio_seek(pb, -1, SEEK_CUR);
2340             reanalyze(s->priv_data);
2341             return 0;
2342         }
2343     }
2344     av_log(s, AV_LOG_ERROR,
2345            "max resync size reached, could not find sync byte\n");
2346     /* no sync found */
2347     return AVERROR_INVALIDDATA;
2348 }
2349
2350 /* return AVERROR_something if error or EOF. Return 0 if OK. */
2351 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size,
2352                        const uint8_t **data)
2353 {
2354     AVIOContext *pb = s->pb;
2355     int len;
2356
2357     for (;;) {
2358         len = ffio_read_indirect(pb, buf, TS_PACKET_SIZE, data);
2359         if (len != TS_PACKET_SIZE)
2360             return len < 0 ? len : AVERROR_EOF;
2361         /* check packet sync byte */
2362         if ((*data)[0] != 0x47) {
2363             /* find a new packet start */
2364             uint64_t pos = avio_tell(pb);
2365             avio_seek(pb, -FFMIN(raw_packet_size, pos), SEEK_CUR);
2366
2367             if (mpegts_resync(s) < 0)
2368                 return AVERROR(EAGAIN);
2369             else
2370                 continue;
2371         } else {
2372             break;
2373         }
2374     }
2375     return 0;
2376 }
2377
2378 static void finished_reading_packet(AVFormatContext *s, int raw_packet_size)
2379 {
2380     AVIOContext *pb = s->pb;
2381     int skip = raw_packet_size - TS_PACKET_SIZE;
2382     if (skip > 0)
2383         avio_skip(pb, skip);
2384 }
2385
2386 static int handle_packets(MpegTSContext *ts, int64_t nb_packets)
2387 {
2388     AVFormatContext *s = ts->stream;
2389     uint8_t packet[TS_PACKET_SIZE + FF_INPUT_BUFFER_PADDING_SIZE];
2390     const uint8_t *data;
2391     int64_t packet_num;
2392     int ret = 0;
2393
2394     if (avio_tell(s->pb) != ts->last_pos) {
2395         int i;
2396         av_log(ts->stream, AV_LOG_TRACE, "Skipping after seek\n");
2397         /* seek detected, flush pes buffer */
2398         for (i = 0; i < NB_PID_MAX; i++) {
2399             if (ts->pids[i]) {
2400                 if (ts->pids[i]->type == MPEGTS_PES) {
2401                     PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2402                     av_buffer_unref(&pes->buffer);
2403                     pes->data_index = 0;
2404                     pes->state = MPEGTS_SKIP; /* skip until pes header */
2405                 } else if (ts->pids[i]->type == MPEGTS_SECTION) {
2406                     ts->pids[i]->u.section_filter.last_ver = -1;
2407                 }
2408                 ts->pids[i]->last_cc = -1;
2409                 ts->pids[i]->last_pcr = -1;
2410             }
2411         }
2412     }
2413
2414     ts->stop_parse = 0;
2415     packet_num = 0;
2416     memset(packet + TS_PACKET_SIZE, 0, FF_INPUT_BUFFER_PADDING_SIZE);
2417     for (;;) {
2418         packet_num++;
2419         if (nb_packets != 0 && packet_num >= nb_packets ||
2420             ts->stop_parse > 1) {
2421             ret = AVERROR(EAGAIN);
2422             break;
2423         }
2424         if (ts->stop_parse > 0)
2425             break;
2426
2427         ret = read_packet(s, packet, ts->raw_packet_size, &data);
2428         if (ret != 0)
2429             break;
2430         ret = handle_packet(ts, data);
2431         finished_reading_packet(s, ts->raw_packet_size);
2432         if (ret != 0)
2433             break;
2434     }
2435     ts->last_pos = avio_tell(s->pb);
2436     return ret;
2437 }
2438
2439 static int mpegts_probe(AVProbeData *p)
2440 {
2441     const int size = p->buf_size;
2442     int maxscore = 0;
2443     int sumscore = 0;
2444     int i;
2445     int check_count = size / TS_FEC_PACKET_SIZE;
2446 #define CHECK_COUNT 10
2447 #define CHECK_BLOCK 100
2448
2449     if (check_count < CHECK_COUNT)
2450         return 0;
2451
2452     for (i = 0; i<check_count; i+=CHECK_BLOCK) {
2453         int left = FFMIN(check_count - i, CHECK_BLOCK);
2454         int score      = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , NULL, 1);
2455         int dvhs_score = analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, NULL, 1);
2456         int fec_score  = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , NULL, 1);
2457         score = FFMAX3(score, dvhs_score, fec_score);
2458         sumscore += score;
2459         maxscore = FFMAX(maxscore, score);
2460     }
2461
2462     sumscore = sumscore * CHECK_COUNT / check_count;
2463     maxscore = maxscore * CHECK_COUNT / CHECK_BLOCK;
2464
2465     av_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
2466
2467     if      (sumscore > 6) return AVPROBE_SCORE_MAX   + sumscore - CHECK_COUNT;
2468     else if (maxscore > 6) return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
2469     else
2470         return 0;
2471 }
2472
2473 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
2474  * (-1) if not available */
2475 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low, const uint8_t *packet)
2476 {
2477     int afc, len, flags;
2478     const uint8_t *p;
2479     unsigned int v;
2480
2481     afc = (packet[3] >> 4) & 3;
2482     if (afc <= 1)
2483         return AVERROR_INVALIDDATA;
2484     p   = packet + 4;
2485     len = p[0];
2486     p++;
2487     if (len == 0)
2488         return AVERROR_INVALIDDATA;
2489     flags = *p++;
2490     len--;
2491     if (!(flags & 0x10))
2492         return AVERROR_INVALIDDATA;
2493     if (len < 6)
2494         return AVERROR_INVALIDDATA;
2495     v          = AV_RB32(p);
2496     *ppcr_high = ((int64_t) v << 1) | (p[4] >> 7);
2497     *ppcr_low  = ((p[4] & 1) << 8) | p[5];
2498     return 0;
2499 }
2500
2501 static void seek_back(AVFormatContext *s, AVIOContext *pb, int64_t pos) {
2502
2503     /* NOTE: We attempt to seek on non-seekable files as well, as the
2504      * probe buffer usually is big enough. Only warn if the seek failed
2505      * on files where the seek should work. */
2506     if (avio_seek(pb, pos, SEEK_SET) < 0)
2507         av_log(s, pb->seekable ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2508 }
2509
2510 static int mpegts_read_header(AVFormatContext *s)
2511 {
2512     MpegTSContext *ts = s->priv_data;
2513     AVIOContext *pb   = s->pb;
2514     uint8_t buf[8 * 1024] = {0};
2515     int len;
2516     int64_t pos, probesize = s->probesize ? s->probesize : s->probesize2;
2517
2518     if (ffio_ensure_seekback(pb, probesize) < 0)
2519         av_log(s, AV_LOG_WARNING, "Failed to allocate buffers for seekback\n");
2520
2521     /* read the first 8192 bytes to get packet size */
2522     pos = avio_tell(pb);
2523     len = avio_read(pb, buf, sizeof(buf));
2524     ts->raw_packet_size = get_packet_size(buf, len);
2525     if (ts->raw_packet_size <= 0) {
2526         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2527         ts->raw_packet_size = TS_PACKET_SIZE;
2528     }
2529     ts->stream     = s;
2530     ts->auto_guess = 0;
2531
2532     if (s->iformat == &ff_mpegts_demuxer) {
2533         /* normal demux */
2534
2535         /* first do a scan to get all the services */
2536         seek_back(s, pb, pos);
2537
2538         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2539
2540         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2541
2542         handle_packets(ts, probesize / ts->raw_packet_size);
2543         /* if could not find service, enable auto_guess */
2544
2545         ts->auto_guess = 1;
2546
2547         av_log(ts->stream, AV_LOG_TRACE, "tuning done\n");
2548
2549         s->ctx_flags |= AVFMTCTX_NOHEADER;
2550     } else {
2551         AVStream *st;
2552         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
2553         int64_t pcrs[2], pcr_h;
2554         int packet_count[2];
2555         uint8_t packet[TS_PACKET_SIZE];
2556         const uint8_t *data;
2557
2558         /* only read packets */
2559
2560         st = avformat_new_stream(s, NULL);
2561         if (!st)
2562             return AVERROR(ENOMEM);
2563         avpriv_set_pts_info(st, 60, 1, 27000000);
2564         st->codec->codec_type = AVMEDIA_TYPE_DATA;
2565         st->codec->codec_id   = AV_CODEC_ID_MPEG2TS;
2566
2567         /* we iterate until we find two PCRs to estimate the bitrate */
2568         pcr_pid    = -1;
2569         nb_pcrs    = 0;
2570         nb_packets = 0;
2571         for (;;) {
2572             ret = read_packet(s, packet, ts->raw_packet_size, &data);
2573             if (ret < 0)
2574                 return ret;
2575             pid = AV_RB16(data + 1) & 0x1fff;
2576             if ((pcr_pid == -1 || pcr_pid == pid) &&
2577                 parse_pcr(&pcr_h, &pcr_l, data) == 0) {
2578                 finished_reading_packet(s, ts->raw_packet_size);
2579                 pcr_pid = pid;
2580                 packet_count[nb_pcrs] = nb_packets;
2581                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
2582                 nb_pcrs++;
2583                 if (nb_pcrs >= 2)
2584                     break;
2585             } else {
2586                 finished_reading_packet(s, ts->raw_packet_size);
2587             }
2588             nb_packets++;
2589         }
2590
2591         /* NOTE1: the bitrate is computed without the FEC */
2592         /* NOTE2: it is only the bitrate of the start of the stream */
2593         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2594         ts->cur_pcr  = pcrs[0] - ts->pcr_incr * packet_count[0];
2595         s->bit_rate  = TS_PACKET_SIZE * 8 * 27000000LL / ts->pcr_incr;
2596         st->codec->bit_rate = s->bit_rate;
2597         st->start_time      = ts->cur_pcr;
2598         av_log(ts->stream, AV_LOG_TRACE, "start=%0.3f pcr=%0.3f incr=%d\n",
2599                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2600     }
2601
2602     seek_back(s, pb, pos);
2603     return 0;
2604 }
2605
2606 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2607
2608 static int mpegts_raw_read_packet(AVFormatContext *s, AVPacket *pkt)
2609 {
2610     MpegTSContext *ts = s->priv_data;
2611     int ret, i;
2612     int64_t pcr_h, next_pcr_h, pos;
2613     int pcr_l, next_pcr_l;
2614     uint8_t pcr_buf[12];
2615     const uint8_t *data;
2616
2617     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2618         return AVERROR(ENOMEM);
2619     ret = read_packet(s, pkt->data, ts->raw_packet_size, &data);
2620     pkt->pos = avio_tell(s->pb);
2621     if (ret < 0) {
2622         av_free_packet(pkt);
2623         return ret;
2624     }
2625     if (data != pkt->data)
2626         memcpy(pkt->data, data, ts->raw_packet_size);
2627     finished_reading_packet(s, ts->raw_packet_size);
2628     if (ts->mpeg2ts_compute_pcr) {
2629         /* compute exact PCR for each packet */
2630         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2631             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2632             pos = avio_tell(s->pb);
2633             for (i = 0; i < MAX_PACKET_READAHEAD; i++) {
2634                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2635                 avio_read(s->pb, pcr_buf, 12);
2636                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2637                     /* XXX: not precise enough */
2638                     ts->pcr_incr =
2639                         ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2640                         (i + 1);
2641                     break;
2642                 }
2643             }
2644             avio_seek(s->pb, pos, SEEK_SET);
2645             /* no next PCR found: we use previous increment */
2646             ts->cur_pcr = pcr_h * 300 + pcr_l;
2647         }
2648         pkt->pts      = ts->cur_pcr;
2649         pkt->duration = ts->pcr_incr;
2650         ts->cur_pcr  += ts->pcr_incr;
2651     }
2652     pkt->stream_index = 0;
2653     return 0;
2654 }
2655
2656 static int mpegts_read_packet(AVFormatContext *s, AVPacket *pkt)
2657 {
2658     MpegTSContext *ts = s->priv_data;
2659     int ret, i;
2660
2661     pkt->size = -1;
2662     ts->pkt = pkt;
2663     ret = handle_packets(ts, 0);
2664     if (ret < 0) {
2665         av_free_packet(ts->pkt);
2666         /* flush pes data left */
2667         for (i = 0; i < NB_PID_MAX; i++)
2668             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2669                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2670                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2671                     new_pes_packet(pes, pkt);
2672                     pes->state = MPEGTS_SKIP;
2673                     ret = 0;
2674                     break;
2675                 }
2676             }
2677     }
2678
2679     if (!ret && pkt->size < 0)
2680         ret = AVERROR(EINTR);
2681     return ret;
2682 }
2683
2684 static void mpegts_free(MpegTSContext *ts)
2685 {
2686     int i;
2687
2688     clear_programs(ts);
2689
2690     for (i = 0; i < NB_PID_MAX; i++)
2691         if (ts->pids[i])
2692             mpegts_close_filter(ts, ts->pids[i]);
2693 }
2694
2695 static int mpegts_read_close(AVFormatContext *s)
2696 {
2697     MpegTSContext *ts = s->priv_data;
2698     mpegts_free(ts);
2699     return 0;
2700 }
2701
2702 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2703                               int64_t *ppos, int64_t pos_limit)
2704 {
2705     MpegTSContext *ts = s->priv_data;
2706     int64_t pos, timestamp;
2707     uint8_t buf[TS_PACKET_SIZE];
2708     int pcr_l, pcr_pid =
2709         ((PESContext *)s->streams[stream_index]->priv_data)->pcr_pid;
2710     int pos47 = ts->pos47_full % ts->raw_packet_size;
2711     pos =
2712         ((*ppos + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) *
2713         ts->raw_packet_size + pos47;
2714     while(pos < pos_limit) {
2715         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2716             return AV_NOPTS_VALUE;
2717         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2718             return AV_NOPTS_VALUE;
2719         if (buf[0] != 0x47) {
2720             avio_seek(s->pb, -TS_PACKET_SIZE, SEEK_CUR);
2721             if (mpegts_resync(s) < 0)
2722                 return AV_NOPTS_VALUE;
2723             pos = avio_tell(s->pb);
2724             continue;
2725         }
2726         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2727             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2728             *ppos = pos;
2729             return timestamp;
2730         }
2731         pos += ts->raw_packet_size;
2732     }
2733
2734     return AV_NOPTS_VALUE;
2735 }
2736
2737 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2738                               int64_t *ppos, int64_t pos_limit)
2739 {
2740     MpegTSContext *ts = s->priv_data;
2741     int64_t pos;
2742     int pos47 = ts->pos47_full % ts->raw_packet_size;
2743     pos = ((*ppos  + ts->raw_packet_size - 1 - pos47) / ts->raw_packet_size) * ts->raw_packet_size + pos47;
2744     ff_read_frame_flush(s);
2745     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2746         return AV_NOPTS_VALUE;
2747     while(pos < pos_limit) {
2748         int ret;
2749         AVPacket pkt;
2750         av_init_packet(&pkt);
2751         ret = av_read_frame(s, &pkt);
2752         if (ret < 0)
2753             return AV_NOPTS_VALUE;
2754         av_free_packet(&pkt);
2755         if (pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0) {
2756             ff_reduce_index(s, pkt.stream_index);
2757             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2758             if (pkt.stream_index == stream_index && pkt.pos >= *ppos) {
2759                 *ppos = pkt.pos;
2760                 return pkt.dts;
2761             }
2762         }
2763         pos = pkt.pos;
2764     }
2765
2766     return AV_NOPTS_VALUE;
2767 }
2768
2769 /**************************************************************/
2770 /* parsing functions - called from other demuxers such as RTP */
2771
2772 MpegTSContext *avpriv_mpegts_parse_open(AVFormatContext *s)
2773 {
2774     MpegTSContext *ts;
2775
2776     ts = av_mallocz(sizeof(MpegTSContext));
2777     if (!ts)
2778         return NULL;
2779     /* no stream case, currently used by RTP */
2780     ts->raw_packet_size = TS_PACKET_SIZE;
2781     ts->stream = s;
2782     ts->auto_guess = 1;
2783     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2784     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2785
2786     return ts;
2787 }
2788
2789 /* return the consumed length if a packet was output, or -1 if no
2790  * packet is output */
2791 int avpriv_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2792                                const uint8_t *buf, int len)
2793 {
2794     int len1;
2795
2796     len1 = len;
2797     ts->pkt = pkt;
2798     for (;;) {
2799         ts->stop_parse = 0;
2800         if (len < TS_PACKET_SIZE)
2801             return AVERROR_INVALIDDATA;
2802         if (buf[0] != 0x47) {
2803             buf++;
2804             len--;
2805         } else {
2806             handle_packet(ts, buf);
2807             buf += TS_PACKET_SIZE;
2808             len -= TS_PACKET_SIZE;
2809             if (ts->stop_parse == 1)
2810                 break;
2811         }
2812     }
2813     return len1 - len;
2814 }
2815
2816 void avpriv_mpegts_parse_close(MpegTSContext *ts)
2817 {
2818     mpegts_free(ts);
2819     av_free(ts);
2820 }
2821
2822 AVInputFormat ff_mpegts_demuxer = {
2823     .name           = "mpegts",
2824     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2825     .priv_data_size = sizeof(MpegTSContext),
2826     .read_probe     = mpegts_probe,
2827     .read_header    = mpegts_read_header,
2828     .read_packet    = mpegts_read_packet,
2829     .read_close     = mpegts_read_close,
2830     .read_timestamp = mpegts_get_dts,
2831     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2832     .priv_class     = &mpegts_class,
2833 };
2834
2835 AVInputFormat ff_mpegtsraw_demuxer = {
2836     .name           = "mpegtsraw",
2837     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2838     .priv_data_size = sizeof(MpegTSContext),
2839     .read_header    = mpegts_read_header,
2840     .read_packet    = mpegts_raw_read_packet,
2841     .read_close     = mpegts_read_close,
2842     .read_timestamp = mpegts_get_dts,
2843     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2844     .priv_class     = &mpegtsraw_class,
2845 };