Merge commit '1ecdf8912b9ced51b3267cdcdce5e394d0a3bf8e'
[ffmpeg.git] / libavformat / mpegts.c
1 /*
2  * MPEG2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/buffer.h"
23 #include "libavutil/crc.h"
24 #include "libavutil/intreadwrite.h"
25 #include "libavutil/log.h"
26 #include "libavutil/dict.h"
27 #include "libavutil/mathematics.h"
28 #include "libavutil/opt.h"
29 #include "libavutil/avassert.h"
30 #include "libavcodec/bytestream.h"
31 #include "libavcodec/get_bits.h"
32 #include "avformat.h"
33 #include "mpegts.h"
34 #include "internal.h"
35 #include "avio_internal.h"
36 #include "seek.h"
37 #include "mpeg.h"
38 #include "isom.h"
39
40 /* maximum size in which we look for synchronisation if
41    synchronisation is lost */
42 #define MAX_RESYNC_SIZE 65536
43
44 #define MAX_PES_PAYLOAD 200*1024
45
46 #define MAX_MP4_DESCR_COUNT 16
47
48 enum MpegTSFilterType {
49     MPEGTS_PES,
50     MPEGTS_SECTION,
51 };
52
53 typedef struct MpegTSFilter MpegTSFilter;
54
55 typedef int PESCallback(MpegTSFilter *f, const uint8_t *buf, int len, int is_start, int64_t pos);
56
57 typedef struct MpegTSPESFilter {
58     PESCallback *pes_cb;
59     void *opaque;
60 } MpegTSPESFilter;
61
62 typedef void SectionCallback(MpegTSFilter *f, const uint8_t *buf, int len);
63
64 typedef void SetServiceCallback(void *opaque, int ret);
65
66 typedef struct MpegTSSectionFilter {
67     int section_index;
68     int section_h_size;
69     uint8_t *section_buf;
70     unsigned int check_crc:1;
71     unsigned int end_of_section_reached:1;
72     SectionCallback *section_cb;
73     void *opaque;
74 } MpegTSSectionFilter;
75
76 struct MpegTSFilter {
77     int pid;
78     int es_id;
79     int last_cc; /* last cc code (-1 if first packet) */
80     enum MpegTSFilterType type;
81     union {
82         MpegTSPESFilter pes_filter;
83         MpegTSSectionFilter section_filter;
84     } u;
85 };
86
87 #define MAX_PIDS_PER_PROGRAM 64
88 struct Program {
89     unsigned int id; //program id/service id
90     unsigned int nb_pids;
91     unsigned int pids[MAX_PIDS_PER_PROGRAM];
92 };
93
94 struct MpegTSContext {
95     const AVClass *class;
96     /* user data */
97     AVFormatContext *stream;
98     /** raw packet size, including FEC if present            */
99     int raw_packet_size;
100
101     int pos47;
102
103     /** if true, all pids are analyzed to find streams       */
104     int auto_guess;
105
106     /** compute exact PCR for each transport stream packet   */
107     int mpeg2ts_compute_pcr;
108
109     int64_t cur_pcr;    /**< used to estimate the exact PCR  */
110     int pcr_incr;       /**< used to estimate the exact PCR  */
111
112     /* data needed to handle file based ts */
113     /** stop parsing loop                                    */
114     int stop_parse;
115     /** packet containing Audio/Video data                   */
116     AVPacket *pkt;
117     /** to detect seek                                       */
118     int64_t last_pos;
119
120     /******************************************/
121     /* private mpegts data */
122     /* scan context */
123     /** structure to keep track of Program->pids mapping     */
124     unsigned int nb_prg;
125     struct Program *prg;
126
127     int8_t crc_validity[NB_PID_MAX];
128
129     /** filters for various streams specified by PMT + for the PAT and PMT */
130     MpegTSFilter *pids[NB_PID_MAX];
131     int current_pid;
132 };
133
134 static const AVOption options[] = {
135     {"compute_pcr", "Compute exact PCR for each transport stream packet.", offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_INT,
136      {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
137     { NULL },
138 };
139
140 static const AVClass mpegtsraw_class = {
141     .class_name = "mpegtsraw demuxer",
142     .item_name  = av_default_item_name,
143     .option     = options,
144     .version    = LIBAVUTIL_VERSION_INT,
145 };
146
147 /* TS stream handling */
148
149 enum MpegTSState {
150     MPEGTS_HEADER = 0,
151     MPEGTS_PESHEADER,
152     MPEGTS_PESHEADER_FILL,
153     MPEGTS_PAYLOAD,
154     MPEGTS_SKIP,
155 };
156
157 /* enough for PES header + length */
158 #define PES_START_SIZE  6
159 #define PES_HEADER_SIZE 9
160 #define MAX_PES_HEADER_SIZE (9 + 255)
161
162 typedef struct PESContext {
163     int pid;
164     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
165     int stream_type;
166     MpegTSContext *ts;
167     AVFormatContext *stream;
168     AVStream *st;
169     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
170     enum MpegTSState state;
171     /* used to get the format */
172     int data_index;
173     int flags; /**< copied to the AVPacket flags */
174     int total_size;
175     int pes_header_size;
176     int extended_stream_id;
177     int64_t pts, dts;
178     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
179     uint8_t header[MAX_PES_HEADER_SIZE];
180     AVBufferRef *buffer;
181     SLConfigDescr sl;
182 } PESContext;
183
184 extern AVInputFormat ff_mpegts_demuxer;
185
186 static void clear_avprogram(MpegTSContext *ts, unsigned int programid)
187 {
188     AVProgram *prg = NULL;
189     int i;
190     for(i=0; i<ts->stream->nb_programs; i++)
191         if(ts->stream->programs[i]->id == programid){
192             prg = ts->stream->programs[i];
193             break;
194         }
195     if (!prg)
196         return;
197     prg->nb_stream_indexes = 0;
198 }
199
200 static void clear_program(MpegTSContext *ts, unsigned int programid)
201 {
202     int i;
203
204     clear_avprogram(ts, programid);
205     for(i=0; i<ts->nb_prg; i++)
206         if(ts->prg[i].id == programid)
207             ts->prg[i].nb_pids = 0;
208 }
209
210 static void clear_programs(MpegTSContext *ts)
211 {
212     av_freep(&ts->prg);
213     ts->nb_prg=0;
214 }
215
216 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
217 {
218     struct Program *p;
219     void *tmp = av_realloc(ts->prg, (ts->nb_prg+1)*sizeof(struct Program));
220     if(!tmp)
221         return;
222     ts->prg = tmp;
223     p = &ts->prg[ts->nb_prg];
224     p->id = programid;
225     p->nb_pids = 0;
226     ts->nb_prg++;
227 }
228
229 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid, unsigned int pid)
230 {
231     int i;
232     struct Program *p = NULL;
233     for(i=0; i<ts->nb_prg; i++) {
234         if(ts->prg[i].id == programid) {
235             p = &ts->prg[i];
236             break;
237         }
238     }
239     if(!p)
240         return;
241
242     if(p->nb_pids >= MAX_PIDS_PER_PROGRAM)
243         return;
244     p->pids[p->nb_pids++] = pid;
245 }
246
247 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
248 {
249     int i;
250     for(i=0; i<s->nb_programs; i++) {
251         if(s->programs[i]->id == programid) {
252             s->programs[i]->pcr_pid = pid;
253             break;
254         }
255     }
256 }
257
258 /**
259  * @brief discard_pid() decides if the pid is to be discarded according
260  *                      to caller's programs selection
261  * @param ts    : - TS context
262  * @param pid   : - pid
263  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
264  *         0 otherwise
265  */
266 static int discard_pid(MpegTSContext *ts, unsigned int pid)
267 {
268     int i, j, k;
269     int used = 0, discarded = 0;
270     struct Program *p;
271     for(i=0; i<ts->nb_prg; i++) {
272         p = &ts->prg[i];
273         for(j=0; j<p->nb_pids; j++) {
274             if(p->pids[j] != pid)
275                 continue;
276             //is program with id p->id set to be discarded?
277             for(k=0; k<ts->stream->nb_programs; k++) {
278                 if(ts->stream->programs[k]->id == p->id) {
279                     if(ts->stream->programs[k]->discard == AVDISCARD_ALL)
280                         discarded++;
281                     else
282                         used++;
283                 }
284             }
285         }
286     }
287
288     return !used && discarded;
289 }
290
291 /**
292  *  Assemble PES packets out of TS packets, and then call the "section_cb"
293  *  function when they are complete.
294  */
295 static void write_section_data(AVFormatContext *s, MpegTSFilter *tss1,
296                                const uint8_t *buf, int buf_size, int is_start)
297 {
298     MpegTSContext *ts = s->priv_data;
299     MpegTSSectionFilter *tss = &tss1->u.section_filter;
300     int len;
301
302     if (is_start) {
303         memcpy(tss->section_buf, buf, buf_size);
304         tss->section_index = buf_size;
305         tss->section_h_size = -1;
306         tss->end_of_section_reached = 0;
307     } else {
308         if (tss->end_of_section_reached)
309             return;
310         len = 4096 - tss->section_index;
311         if (buf_size < len)
312             len = buf_size;
313         memcpy(tss->section_buf + tss->section_index, buf, len);
314         tss->section_index += len;
315     }
316
317     /* compute section length if possible */
318     if (tss->section_h_size == -1 && tss->section_index >= 3) {
319         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
320         if (len > 4096)
321             return;
322         tss->section_h_size = len;
323     }
324
325     if (tss->section_h_size != -1 && tss->section_index >= tss->section_h_size) {
326         int crc_valid = 1;
327         tss->end_of_section_reached = 1;
328
329         if (tss->check_crc){
330             crc_valid = !av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1, tss->section_buf, tss->section_h_size);
331             if (crc_valid){
332                 ts->crc_validity[ tss1->pid ] = 100;
333             }else if(ts->crc_validity[ tss1->pid ] > -10){
334                 ts->crc_validity[ tss1->pid ]--;
335             }else
336                 crc_valid = 2;
337         }
338         if (crc_valid)
339             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
340     }
341 }
342
343 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts, unsigned int pid,
344                                          SectionCallback *section_cb, void *opaque,
345                                          int check_crc)
346
347 {
348     MpegTSFilter *filter;
349     MpegTSSectionFilter *sec;
350
351     av_dlog(ts->stream, "Filter: pid=0x%x\n", pid);
352
353     if (pid >= NB_PID_MAX || ts->pids[pid])
354         return NULL;
355     filter = av_mallocz(sizeof(MpegTSFilter));
356     if (!filter)
357         return NULL;
358     ts->pids[pid] = filter;
359     filter->type = MPEGTS_SECTION;
360     filter->pid = pid;
361     filter->es_id = -1;
362     filter->last_cc = -1;
363     sec = &filter->u.section_filter;
364     sec->section_cb = section_cb;
365     sec->opaque = opaque;
366     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
367     sec->check_crc = check_crc;
368     if (!sec->section_buf) {
369         av_free(filter);
370         return NULL;
371     }
372     return filter;
373 }
374
375 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
376                                      PESCallback *pes_cb,
377                                      void *opaque)
378 {
379     MpegTSFilter *filter;
380     MpegTSPESFilter *pes;
381
382     if (pid >= NB_PID_MAX || ts->pids[pid])
383         return NULL;
384     filter = av_mallocz(sizeof(MpegTSFilter));
385     if (!filter)
386         return NULL;
387     ts->pids[pid] = filter;
388     filter->type = MPEGTS_PES;
389     filter->pid = pid;
390     filter->es_id = -1;
391     filter->last_cc = -1;
392     pes = &filter->u.pes_filter;
393     pes->pes_cb = pes_cb;
394     pes->opaque = opaque;
395     return filter;
396 }
397
398 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
399 {
400     int pid;
401
402     pid = filter->pid;
403     if (filter->type == MPEGTS_SECTION)
404         av_freep(&filter->u.section_filter.section_buf);
405     else if (filter->type == MPEGTS_PES) {
406         PESContext *pes = filter->u.pes_filter.opaque;
407         av_buffer_unref(&pes->buffer);
408         /* referenced private data will be freed later in
409          * avformat_close_input */
410         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
411             av_freep(&filter->u.pes_filter.opaque);
412         }
413     }
414
415     av_free(filter);
416     ts->pids[pid] = NULL;
417 }
418
419 static int analyze(const uint8_t *buf, int size, int packet_size, int *index){
420     int stat[TS_MAX_PACKET_SIZE];
421     int i;
422     int x=0;
423     int best_score=0;
424
425     memset(stat, 0, packet_size*sizeof(int));
426
427     for(x=i=0; i<size-3; i++){
428         if(buf[i] == 0x47 && !(buf[i+1] & 0x80) && buf[i+3] != 0x47){
429             stat[x]++;
430             if(stat[x] > best_score){
431                 best_score= stat[x];
432                 if(index) *index= x;
433             }
434         }
435
436         x++;
437         if(x == packet_size) x= 0;
438     }
439
440     return best_score;
441 }
442
443 /* autodetect fec presence. Must have at least 1024 bytes  */
444 static int get_packet_size(const uint8_t *buf, int size)
445 {
446     int score, fec_score, dvhs_score;
447
448     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
449         return -1;
450
451     score    = analyze(buf, size, TS_PACKET_SIZE, NULL);
452     dvhs_score    = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL);
453     fec_score= analyze(buf, size, TS_FEC_PACKET_SIZE, NULL);
454     av_dlog(NULL, "score: %d, dvhs_score: %d, fec_score: %d \n",
455             score, dvhs_score, fec_score);
456
457     if     (score > fec_score && score > dvhs_score) return TS_PACKET_SIZE;
458     else if(dvhs_score > score && dvhs_score > fec_score) return TS_DVHS_PACKET_SIZE;
459     else if(score < fec_score && dvhs_score < fec_score) return TS_FEC_PACKET_SIZE;
460     else                       return -1;
461 }
462
463 typedef struct SectionHeader {
464     uint8_t tid;
465     uint16_t id;
466     uint8_t version;
467     uint8_t sec_num;
468     uint8_t last_sec_num;
469 } SectionHeader;
470
471 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
472 {
473     const uint8_t *p;
474     int c;
475
476     p = *pp;
477     if (p >= p_end)
478         return -1;
479     c = *p++;
480     *pp = p;
481     return c;
482 }
483
484 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
485 {
486     const uint8_t *p;
487     int c;
488
489     p = *pp;
490     if ((p + 1) >= p_end)
491         return -1;
492     c = AV_RB16(p);
493     p += 2;
494     *pp = p;
495     return c;
496 }
497
498 /* read and allocate a DVB string preceded by its length */
499 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
500 {
501     int len;
502     const uint8_t *p;
503     char *str;
504
505     p = *pp;
506     len = get8(&p, p_end);
507     if (len < 0)
508         return NULL;
509     if ((p + len) > p_end)
510         return NULL;
511     str = av_malloc(len + 1);
512     if (!str)
513         return NULL;
514     memcpy(str, p, len);
515     str[len] = '\0';
516     p += len;
517     *pp = p;
518     return str;
519 }
520
521 static int parse_section_header(SectionHeader *h,
522                                 const uint8_t **pp, const uint8_t *p_end)
523 {
524     int val;
525
526     val = get8(pp, p_end);
527     if (val < 0)
528         return -1;
529     h->tid = val;
530     *pp += 2;
531     val = get16(pp, p_end);
532     if (val < 0)
533         return -1;
534     h->id = val;
535     val = get8(pp, p_end);
536     if (val < 0)
537         return -1;
538     h->version = (val >> 1) & 0x1f;
539     val = get8(pp, p_end);
540     if (val < 0)
541         return -1;
542     h->sec_num = val;
543     val = get8(pp, p_end);
544     if (val < 0)
545         return -1;
546     h->last_sec_num = val;
547     return 0;
548 }
549
550 typedef struct {
551     uint32_t stream_type;
552     enum AVMediaType codec_type;
553     enum AVCodecID codec_id;
554 } StreamType;
555
556 static const StreamType ISO_types[] = {
557     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
558     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
559     { 0x03, AVMEDIA_TYPE_AUDIO,        AV_CODEC_ID_MP3 },
560     { 0x04, AVMEDIA_TYPE_AUDIO,        AV_CODEC_ID_MP3 },
561     { 0x0f, AVMEDIA_TYPE_AUDIO,        AV_CODEC_ID_AAC },
562     { 0x10, AVMEDIA_TYPE_VIDEO,      AV_CODEC_ID_MPEG4 },
563     /* Makito encoder sets stream type 0x11 for AAC,
564      * so auto-detect LOAS/LATM instead of hardcoding it. */
565 #if !CONFIG_LOAS_DEMUXER
566     { 0x11, AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_AAC_LATM }, /* LATM syntax */
567 #endif
568     { 0x1b, AVMEDIA_TYPE_VIDEO,       AV_CODEC_ID_H264 },
569     { 0xd1, AVMEDIA_TYPE_VIDEO,      AV_CODEC_ID_DIRAC },
570     { 0xea, AVMEDIA_TYPE_VIDEO,        AV_CODEC_ID_VC1 },
571     { 0 },
572 };
573
574 static const StreamType HDMV_types[] = {
575     { 0x80, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_PCM_BLURAY },
576     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
577     { 0x82, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
578     { 0x83, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_TRUEHD },
579     { 0x84, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3 },
580     { 0x85, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS }, /* DTS HD */
581     { 0x86, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS }, /* DTS HD MASTER*/
582     { 0xa1, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3 }, /* E-AC3 Secondary Audio */
583     { 0xa2, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },  /* DTS Express Secondary Audio */
584     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
585     { 0 },
586 };
587
588 /* ATSC ? */
589 static const StreamType MISC_types[] = {
590     { 0x81, AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_AC3 },
591     { 0x8a, AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_DTS },
592     { 0 },
593 };
594
595 static const StreamType REGD_types[] = {
596     { MKTAG('d','r','a','c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
597     { MKTAG('A','C','-','3'), AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_AC3 },
598     { MKTAG('B','S','S','D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
599     { MKTAG('D','T','S','1'), AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_DTS },
600     { MKTAG('D','T','S','2'), AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_DTS },
601     { MKTAG('D','T','S','3'), AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_DTS },
602     { MKTAG('K','L','V','A'), AVMEDIA_TYPE_DATA,    AV_CODEC_ID_SMPTE_KLV },
603     { MKTAG('V','C','-','1'), AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_VC1 },
604     { 0 },
605 };
606
607 /* descriptor present */
608 static const StreamType DESC_types[] = {
609     { 0x6a, AVMEDIA_TYPE_AUDIO,             AV_CODEC_ID_AC3 }, /* AC-3 descriptor */
610     { 0x7a, AVMEDIA_TYPE_AUDIO,            AV_CODEC_ID_EAC3 }, /* E-AC-3 descriptor */
611     { 0x7b, AVMEDIA_TYPE_AUDIO,             AV_CODEC_ID_DTS },
612     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
613     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
614     { 0 },
615 };
616
617 static void mpegts_find_stream_type(AVStream *st,
618                                     uint32_t stream_type, const StreamType *types)
619 {
620     if (avcodec_is_open(st->codec)) {
621         av_log(NULL, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
622         return;
623     }
624
625     for (; types->stream_type; types++) {
626         if (stream_type == types->stream_type) {
627             st->codec->codec_type = types->codec_type;
628             st->codec->codec_id   = types->codec_id;
629             st->request_probe     = 0;
630             return;
631         }
632     }
633 }
634
635 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
636                                   uint32_t stream_type, uint32_t prog_reg_desc)
637 {
638     int old_codec_type= st->codec->codec_type;
639     int old_codec_id  = st->codec->codec_id;
640
641     if (avcodec_is_open(st->codec)) {
642         av_log(pes->stream, AV_LOG_DEBUG, "cannot set stream info, codec is open\n");
643         return 0;
644     }
645
646     avpriv_set_pts_info(st, 33, 1, 90000);
647     st->priv_data = pes;
648     st->codec->codec_type = AVMEDIA_TYPE_DATA;
649     st->codec->codec_id   = AV_CODEC_ID_NONE;
650     st->need_parsing = AVSTREAM_PARSE_FULL;
651     pes->st = st;
652     pes->stream_type = stream_type;
653
654     av_log(pes->stream, AV_LOG_DEBUG,
655            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
656            st->index, pes->stream_type, pes->pid, (char*)&prog_reg_desc);
657
658     st->codec->codec_tag = pes->stream_type;
659
660     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
661     if ((prog_reg_desc == AV_RL32("HDMV") ||
662          prog_reg_desc == AV_RL32("HDPR")) &&
663         st->codec->codec_id == AV_CODEC_ID_NONE) {
664         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
665         if (pes->stream_type == 0x83) {
666             // HDMV TrueHD streams also contain an AC3 coded version of the
667             // audio track - add a second stream for this
668             AVStream *sub_st;
669             // priv_data cannot be shared between streams
670             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
671             if (!sub_pes)
672                 return AVERROR(ENOMEM);
673             memcpy(sub_pes, pes, sizeof(*sub_pes));
674
675             sub_st = avformat_new_stream(pes->stream, NULL);
676             if (!sub_st) {
677                 av_free(sub_pes);
678                 return AVERROR(ENOMEM);
679             }
680
681             sub_st->id = pes->pid;
682             avpriv_set_pts_info(sub_st, 33, 1, 90000);
683             sub_st->priv_data = sub_pes;
684             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
685             sub_st->codec->codec_id   = AV_CODEC_ID_AC3;
686             sub_st->need_parsing = AVSTREAM_PARSE_FULL;
687             sub_pes->sub_st = pes->sub_st = sub_st;
688         }
689     }
690     if (st->codec->codec_id == AV_CODEC_ID_NONE)
691         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
692     if (st->codec->codec_id == AV_CODEC_ID_NONE){
693         st->codec->codec_id  = old_codec_id;
694         st->codec->codec_type= old_codec_type;
695     }
696
697     return 0;
698 }
699
700 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
701 {
702     av_init_packet(pkt);
703
704     pkt->buf  = pes->buffer;
705     pkt->data = pes->buffer->data;
706     pkt->size = pes->data_index;
707
708     if(pes->total_size != MAX_PES_PAYLOAD &&
709        pes->pes_header_size + pes->data_index != pes->total_size + PES_START_SIZE) {
710         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
711         pes->flags |= AV_PKT_FLAG_CORRUPT;
712     }
713     memset(pkt->data+pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
714
715     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
716     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
717         pkt->stream_index = pes->sub_st->index;
718     else
719         pkt->stream_index = pes->st->index;
720     pkt->pts = pes->pts;
721     pkt->dts = pes->dts;
722     /* store position of first TS packet of this PES packet */
723     pkt->pos = pes->ts_packet_pos;
724     pkt->flags = pes->flags;
725
726     /* reset pts values */
727     pes->pts = AV_NOPTS_VALUE;
728     pes->dts = AV_NOPTS_VALUE;
729     pes->buffer = NULL;
730     pes->data_index = 0;
731     pes->flags = 0;
732 }
733
734 static uint64_t get_ts64(GetBitContext *gb, int bits)
735 {
736     if (get_bits_left(gb) < bits)
737         return AV_NOPTS_VALUE;
738     return get_bits64(gb, bits);
739 }
740
741 static int read_sl_header(PESContext *pes, SLConfigDescr *sl, const uint8_t *buf, int buf_size)
742 {
743     GetBitContext gb;
744     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
745     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
746     int dts_flag = -1, cts_flag = -1;
747     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
748
749     init_get_bits(&gb, buf, buf_size*8);
750
751     if (sl->use_au_start)
752         au_start_flag = get_bits1(&gb);
753     if (sl->use_au_end)
754         au_end_flag = get_bits1(&gb);
755     if (!sl->use_au_start && !sl->use_au_end)
756         au_start_flag = au_end_flag = 1;
757     if (sl->ocr_len > 0)
758         ocr_flag = get_bits1(&gb);
759     if (sl->use_idle)
760         idle_flag = get_bits1(&gb);
761     if (sl->use_padding)
762         padding_flag = get_bits1(&gb);
763     if (padding_flag)
764         padding_bits = get_bits(&gb, 3);
765
766     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
767         if (sl->packet_seq_num_len)
768             skip_bits_long(&gb, sl->packet_seq_num_len);
769         if (sl->degr_prior_len)
770             if (get_bits1(&gb))
771                 skip_bits(&gb, sl->degr_prior_len);
772         if (ocr_flag)
773             skip_bits_long(&gb, sl->ocr_len);
774         if (au_start_flag) {
775             if (sl->use_rand_acc_pt)
776                 get_bits1(&gb);
777             if (sl->au_seq_num_len > 0)
778                 skip_bits_long(&gb, sl->au_seq_num_len);
779             if (sl->use_timestamps) {
780                 dts_flag = get_bits1(&gb);
781                 cts_flag = get_bits1(&gb);
782             }
783         }
784         if (sl->inst_bitrate_len)
785             inst_bitrate_flag = get_bits1(&gb);
786         if (dts_flag == 1)
787             dts = get_ts64(&gb, sl->timestamp_len);
788         if (cts_flag == 1)
789             cts = get_ts64(&gb, sl->timestamp_len);
790         if (sl->au_len > 0)
791             skip_bits_long(&gb, sl->au_len);
792         if (inst_bitrate_flag)
793             skip_bits_long(&gb, sl->inst_bitrate_len);
794     }
795
796     if (dts != AV_NOPTS_VALUE)
797         pes->dts = dts;
798     if (cts != AV_NOPTS_VALUE)
799         pes->pts = cts;
800
801     if (sl->timestamp_len && sl->timestamp_res)
802         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
803
804     return (get_bits_count(&gb) + 7) >> 3;
805 }
806
807 /* return non zero if a packet could be constructed */
808 static int mpegts_push_data(MpegTSFilter *filter,
809                             const uint8_t *buf, int buf_size, int is_start,
810                             int64_t pos)
811 {
812     PESContext *pes = filter->u.pes_filter.opaque;
813     MpegTSContext *ts = pes->ts;
814     const uint8_t *p;
815     int len, code;
816
817     if(!ts->pkt)
818         return 0;
819
820     if (is_start) {
821         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
822             new_pes_packet(pes, ts->pkt);
823             ts->stop_parse = 1;
824         }
825         pes->state = MPEGTS_HEADER;
826         pes->data_index = 0;
827         pes->ts_packet_pos = pos;
828     }
829     p = buf;
830     while (buf_size > 0) {
831         switch(pes->state) {
832         case MPEGTS_HEADER:
833             len = PES_START_SIZE - pes->data_index;
834             if (len > buf_size)
835                 len = buf_size;
836             memcpy(pes->header + pes->data_index, p, len);
837             pes->data_index += len;
838             p += len;
839             buf_size -= len;
840             if (pes->data_index == PES_START_SIZE) {
841                 /* we got all the PES or section header. We can now
842                    decide */
843                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
844                     pes->header[2] == 0x01) {
845                     /* it must be an mpeg2 PES stream */
846                     code = pes->header[3] | 0x100;
847                     av_dlog(pes->stream, "pid=%x pes_code=%#x\n", pes->pid, code);
848
849                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
850                          (!pes->sub_st || pes->sub_st->discard == AVDISCARD_ALL)) ||
851                         code == 0x1be) /* padding_stream */
852                         goto skip;
853
854                     /* stream not present in PMT */
855                     if (!pes->st) {
856                         pes->st = avformat_new_stream(ts->stream, NULL);
857                         if (!pes->st)
858                             return AVERROR(ENOMEM);
859                         pes->st->id = pes->pid;
860                         mpegts_set_stream_info(pes->st, pes, 0, 0);
861                     }
862
863                     pes->total_size = AV_RB16(pes->header + 4);
864                     /* NOTE: a zero total size means the PES size is
865                        unbounded */
866                     if (!pes->total_size)
867                         pes->total_size = MAX_PES_PAYLOAD;
868
869                     /* allocate pes buffer */
870                     pes->buffer = av_buffer_alloc(pes->total_size +
871                                                   FF_INPUT_BUFFER_PADDING_SIZE);
872                     if (!pes->buffer)
873                         return AVERROR(ENOMEM);
874
875                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
876                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
877                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
878                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
879                         pes->state = MPEGTS_PESHEADER;
880                         if (pes->st->codec->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
881                             av_dlog(pes->stream, "pid=%x stream_type=%x probing\n",
882                                     pes->pid, pes->stream_type);
883                             pes->st->request_probe= 1;
884                         }
885                     } else {
886                         pes->state = MPEGTS_PAYLOAD;
887                         pes->data_index = 0;
888                     }
889                 } else {
890                     /* otherwise, it should be a table */
891                     /* skip packet */
892                 skip:
893                     pes->state = MPEGTS_SKIP;
894                     continue;
895                 }
896             }
897             break;
898             /**********************************************/
899             /* PES packing parsing */
900         case MPEGTS_PESHEADER:
901             len = PES_HEADER_SIZE - pes->data_index;
902             if (len < 0)
903                 return -1;
904             if (len > buf_size)
905                 len = buf_size;
906             memcpy(pes->header + pes->data_index, p, len);
907             pes->data_index += len;
908             p += len;
909             buf_size -= len;
910             if (pes->data_index == PES_HEADER_SIZE) {
911                 pes->pes_header_size = pes->header[8] + 9;
912                 pes->state = MPEGTS_PESHEADER_FILL;
913             }
914             break;
915         case MPEGTS_PESHEADER_FILL:
916             len = pes->pes_header_size - pes->data_index;
917             if (len < 0)
918                 return -1;
919             if (len > buf_size)
920                 len = buf_size;
921             memcpy(pes->header + pes->data_index, p, len);
922             pes->data_index += len;
923             p += len;
924             buf_size -= len;
925             if (pes->data_index == pes->pes_header_size) {
926                 const uint8_t *r;
927                 unsigned int flags, pes_ext, skip;
928
929                 flags = pes->header[7];
930                 r = pes->header + 9;
931                 pes->pts = AV_NOPTS_VALUE;
932                 pes->dts = AV_NOPTS_VALUE;
933                 if ((flags & 0xc0) == 0x80) {
934                     pes->dts = pes->pts = ff_parse_pes_pts(r);
935                     r += 5;
936                 } else if ((flags & 0xc0) == 0xc0) {
937                     pes->pts = ff_parse_pes_pts(r);
938                     r += 5;
939                     pes->dts = ff_parse_pes_pts(r);
940                     r += 5;
941                 }
942                 pes->extended_stream_id = -1;
943                 if (flags & 0x01) { /* PES extension */
944                     pes_ext = *r++;
945                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
946                     skip = (pes_ext >> 4) & 0xb;
947                     skip += skip & 0x9;
948                     r += skip;
949                     if ((pes_ext & 0x41) == 0x01 &&
950                         (r + 2) <= (pes->header + pes->pes_header_size)) {
951                         /* PES extension 2 */
952                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
953                             pes->extended_stream_id = r[1];
954                     }
955                 }
956
957                 /* we got the full header. We parse it and get the payload */
958                 pes->state = MPEGTS_PAYLOAD;
959                 pes->data_index = 0;
960                 if (pes->stream_type == 0x12 && buf_size > 0) {
961                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p, buf_size);
962                     pes->pes_header_size += sl_header_bytes;
963                     p += sl_header_bytes;
964                     buf_size -= sl_header_bytes;
965                 }
966             }
967             break;
968         case MPEGTS_PAYLOAD:
969             if (buf_size > 0 && pes->buffer) {
970                 if (pes->data_index > 0 && pes->data_index+buf_size > pes->total_size) {
971                     new_pes_packet(pes, ts->pkt);
972                     pes->total_size = MAX_PES_PAYLOAD;
973                     pes->buffer = av_buffer_alloc(pes->total_size + FF_INPUT_BUFFER_PADDING_SIZE);
974                     if (!pes->buffer)
975                         return AVERROR(ENOMEM);
976                     ts->stop_parse = 1;
977                 } else if (pes->data_index == 0 && buf_size > pes->total_size) {
978                     // pes packet size is < ts size packet and pes data is padded with 0xff
979                     // not sure if this is legal in ts but see issue #2392
980                     buf_size = pes->total_size;
981                 }
982                 memcpy(pes->buffer->data + pes->data_index, p, buf_size);
983                 pes->data_index += buf_size;
984             }
985             buf_size = 0;
986             /* emit complete packets with known packet size
987              * decreases demuxer delay for infrequent packets like subtitles from
988              * a couple of seconds to milliseconds for properly muxed files.
989              * total_size is the number of bytes following pes_packet_length
990              * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
991             if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
992                 pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
993                 ts->stop_parse = 1;
994                 new_pes_packet(pes, ts->pkt);
995             }
996             break;
997         case MPEGTS_SKIP:
998             buf_size = 0;
999             break;
1000         }
1001     }
1002
1003     return 0;
1004 }
1005
1006 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
1007 {
1008     MpegTSFilter *tss;
1009     PESContext *pes;
1010
1011     /* if no pid found, then add a pid context */
1012     pes = av_mallocz(sizeof(PESContext));
1013     if (!pes)
1014         return 0;
1015     pes->ts = ts;
1016     pes->stream = ts->stream;
1017     pes->pid = pid;
1018     pes->pcr_pid = pcr_pid;
1019     pes->state = MPEGTS_SKIP;
1020     pes->pts = AV_NOPTS_VALUE;
1021     pes->dts = AV_NOPTS_VALUE;
1022     tss = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
1023     if (!tss) {
1024         av_free(pes);
1025         return 0;
1026     }
1027     return pes;
1028 }
1029
1030 #define MAX_LEVEL 4
1031 typedef struct {
1032     AVFormatContext *s;
1033     AVIOContext pb;
1034     Mp4Descr *descr;
1035     Mp4Descr *active_descr;
1036     int descr_count;
1037     int max_descr_count;
1038     int level;
1039 } MP4DescrParseContext;
1040
1041 static int init_MP4DescrParseContext(
1042     MP4DescrParseContext *d, AVFormatContext *s, const uint8_t *buf,
1043     unsigned size, Mp4Descr *descr, int max_descr_count)
1044 {
1045     int ret;
1046     if (size > (1<<30))
1047         return AVERROR_INVALIDDATA;
1048
1049     if ((ret = ffio_init_context(&d->pb, (unsigned char*)buf, size, 0,
1050                           NULL, NULL, NULL, NULL)) < 0)
1051         return ret;
1052
1053     d->s = s;
1054     d->level = 0;
1055     d->descr_count = 0;
1056     d->descr = descr;
1057     d->active_descr = NULL;
1058     d->max_descr_count = max_descr_count;
1059
1060     return 0;
1061 }
1062
1063 static void update_offsets(AVIOContext *pb, int64_t *off, int *len) {
1064     int64_t new_off = avio_tell(pb);
1065     (*len) -= new_off - *off;
1066     *off = new_off;
1067 }
1068
1069 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1070                            int target_tag);
1071
1072 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1073 {
1074     while (len > 0) {
1075         if (parse_mp4_descr(d, off, len, 0) < 0)
1076             return -1;
1077         update_offsets(&d->pb, &off, &len);
1078     }
1079     return 0;
1080 }
1081
1082 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1083 {
1084     avio_rb16(&d->pb); // ID
1085     avio_r8(&d->pb);
1086     avio_r8(&d->pb);
1087     avio_r8(&d->pb);
1088     avio_r8(&d->pb);
1089     avio_r8(&d->pb);
1090     update_offsets(&d->pb, &off, &len);
1091     return parse_mp4_descr_arr(d, off, len);
1092 }
1093
1094 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1095 {
1096     int id_flags;
1097     if (len < 2)
1098         return 0;
1099     id_flags = avio_rb16(&d->pb);
1100     if (!(id_flags & 0x0020)) { //URL_Flag
1101         update_offsets(&d->pb, &off, &len);
1102         return parse_mp4_descr_arr(d, off, len); //ES_Descriptor[]
1103     } else {
1104         return 0;
1105     }
1106 }
1107
1108 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1109 {
1110     int es_id = 0;
1111     if (d->descr_count >= d->max_descr_count)
1112         return -1;
1113     ff_mp4_parse_es_descr(&d->pb, &es_id);
1114     d->active_descr = d->descr + (d->descr_count++);
1115
1116     d->active_descr->es_id = es_id;
1117     update_offsets(&d->pb, &off, &len);
1118     parse_mp4_descr(d, off, len, MP4DecConfigDescrTag);
1119     update_offsets(&d->pb, &off, &len);
1120     if (len > 0)
1121         parse_mp4_descr(d, off, len, MP4SLDescrTag);
1122     d->active_descr = NULL;
1123     return 0;
1124 }
1125
1126 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1127 {
1128     Mp4Descr *descr = d->active_descr;
1129     if (!descr)
1130         return -1;
1131     d->active_descr->dec_config_descr = av_malloc(len);
1132     if (!descr->dec_config_descr)
1133         return AVERROR(ENOMEM);
1134     descr->dec_config_descr_len = len;
1135     avio_read(&d->pb, descr->dec_config_descr, len);
1136     return 0;
1137 }
1138
1139 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1140 {
1141     Mp4Descr *descr = d->active_descr;
1142     int predefined;
1143     if (!descr)
1144         return -1;
1145
1146     predefined = avio_r8(&d->pb);
1147     if (!predefined) {
1148         int lengths;
1149         int flags = avio_r8(&d->pb);
1150         descr->sl.use_au_start       = !!(flags & 0x80);
1151         descr->sl.use_au_end         = !!(flags & 0x40);
1152         descr->sl.use_rand_acc_pt    = !!(flags & 0x20);
1153         descr->sl.use_padding        = !!(flags & 0x08);
1154         descr->sl.use_timestamps     = !!(flags & 0x04);
1155         descr->sl.use_idle           = !!(flags & 0x02);
1156         descr->sl.timestamp_res      = avio_rb32(&d->pb);
1157                                        avio_rb32(&d->pb);
1158         descr->sl.timestamp_len      = avio_r8(&d->pb);
1159         descr->sl.ocr_len            = avio_r8(&d->pb);
1160         descr->sl.au_len             = avio_r8(&d->pb);
1161         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1162         lengths                      = avio_rb16(&d->pb);
1163         descr->sl.degr_prior_len     = lengths >> 12;
1164         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1165         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1166     } else {
1167         avpriv_report_missing_feature(d->s, "Predefined SLConfigDescriptor");
1168     }
1169     return 0;
1170 }
1171
1172 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1173                            int target_tag) {
1174     int tag;
1175     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1176     update_offsets(&d->pb, &off, &len);
1177     if (len < 0 || len1 > len || len1 <= 0) {
1178         av_log(d->s, AV_LOG_ERROR, "Tag %x length violation new length %d bytes remaining %d\n", tag, len1, len);
1179         return -1;
1180     }
1181
1182     if (d->level++ >= MAX_LEVEL) {
1183         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1184         goto done;
1185     }
1186
1187     if (target_tag && tag != target_tag) {
1188         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag, target_tag);
1189         goto done;
1190     }
1191
1192     switch (tag) {
1193     case MP4IODescrTag:
1194         parse_MP4IODescrTag(d, off, len1);
1195         break;
1196     case MP4ODescrTag:
1197         parse_MP4ODescrTag(d, off, len1);
1198         break;
1199     case MP4ESDescrTag:
1200         parse_MP4ESDescrTag(d, off, len1);
1201         break;
1202     case MP4DecConfigDescrTag:
1203         parse_MP4DecConfigDescrTag(d, off, len1);
1204         break;
1205     case MP4SLDescrTag:
1206         parse_MP4SLDescrTag(d, off, len1);
1207         break;
1208     }
1209
1210 done:
1211     d->level--;
1212     avio_seek(&d->pb, off + len1, SEEK_SET);
1213     return 0;
1214 }
1215
1216 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1217                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1218 {
1219     MP4DescrParseContext d;
1220     if (init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count) < 0)
1221         return -1;
1222
1223     parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1224
1225     *descr_count = d.descr_count;
1226     return 0;
1227 }
1228
1229 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1230                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1231 {
1232     MP4DescrParseContext d;
1233     if (init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count) < 0)
1234         return -1;
1235
1236     parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1237
1238     *descr_count = d.descr_count;
1239     return 0;
1240 }
1241
1242 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1243 {
1244     MpegTSContext *ts = filter->u.section_filter.opaque;
1245     SectionHeader h;
1246     const uint8_t *p, *p_end;
1247     AVIOContext pb;
1248     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = {{ 0 }};
1249     int mp4_descr_count = 0;
1250     int i, pid;
1251     AVFormatContext *s = ts->stream;
1252
1253     p_end = section + section_len - 4;
1254     p = section;
1255     if (parse_section_header(&h, &p, p_end) < 0)
1256         return;
1257     if (h.tid != M4OD_TID)
1258         return;
1259
1260     mp4_read_od(s, p, (unsigned)(p_end - p), mp4_descr, &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1261
1262     for (pid = 0; pid < NB_PID_MAX; pid++) {
1263         if (!ts->pids[pid])
1264              continue;
1265         for (i = 0; i < mp4_descr_count; i++) {
1266             PESContext *pes;
1267             AVStream *st;
1268             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1269                 continue;
1270             if (!(ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES)) {
1271                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1272                 continue;
1273             }
1274             pes = ts->pids[pid]->u.pes_filter.opaque;
1275             st = pes->st;
1276             if (!st) {
1277                 continue;
1278             }
1279
1280             pes->sl = mp4_descr[i].sl;
1281
1282             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1283                               mp4_descr[i].dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1284             ff_mp4_read_dec_config_descr(s, st, &pb);
1285             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1286                 st->codec->extradata_size > 0)
1287                 st->need_parsing = 0;
1288             if (st->codec->codec_id == AV_CODEC_ID_H264 &&
1289                 st->codec->extradata_size > 0)
1290                 st->need_parsing = 0;
1291
1292             if (st->codec->codec_id <= AV_CODEC_ID_NONE) {
1293             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_AUDIO) {
1294                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
1295             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_SUBTITLE) {
1296                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1297             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_UNKNOWN) {
1298                 st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
1299             }
1300         }
1301     }
1302     for (i = 0; i < mp4_descr_count; i++)
1303         av_free(mp4_descr[i].dec_config_descr);
1304 }
1305
1306 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1307                               const uint8_t **pp, const uint8_t *desc_list_end,
1308                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1309                               MpegTSContext *ts)
1310 {
1311     const uint8_t *desc_end;
1312     int desc_len, desc_tag, desc_es_id;
1313     char language[252];
1314     int i;
1315
1316     desc_tag = get8(pp, desc_list_end);
1317     if (desc_tag < 0)
1318         return -1;
1319     desc_len = get8(pp, desc_list_end);
1320     if (desc_len < 0)
1321         return -1;
1322     desc_end = *pp + desc_len;
1323     if (desc_end > desc_list_end)
1324         return -1;
1325
1326     av_dlog(fc, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1327
1328     if (st->codec->codec_id == AV_CODEC_ID_NONE &&
1329         stream_type == STREAM_TYPE_PRIVATE_DATA)
1330         mpegts_find_stream_type(st, desc_tag, DESC_types);
1331
1332     switch(desc_tag) {
1333     case 0x1E: /* SL descriptor */
1334         desc_es_id = get16(pp, desc_end);
1335         if (ts && ts->pids[pid])
1336             ts->pids[pid]->es_id = desc_es_id;
1337         for (i = 0; i < mp4_descr_count; i++)
1338         if (mp4_descr[i].dec_config_descr_len &&
1339             mp4_descr[i].es_id == desc_es_id) {
1340             AVIOContext pb;
1341             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1342                           mp4_descr[i].dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1343             ff_mp4_read_dec_config_descr(fc, st, &pb);
1344             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1345                 st->codec->extradata_size > 0)
1346                 st->need_parsing = 0;
1347             if (st->codec->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1348                 mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1349         }
1350         break;
1351     case 0x1F: /* FMC descriptor */
1352         get16(pp, desc_end);
1353         if (mp4_descr_count > 0 && (st->codec->codec_id == AV_CODEC_ID_AAC_LATM || st->request_probe>0) &&
1354             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1355             AVIOContext pb;
1356             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1357                           mp4_descr->dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1358             ff_mp4_read_dec_config_descr(fc, st, &pb);
1359             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1360                 st->codec->extradata_size > 0){
1361                 st->request_probe= st->need_parsing = 0;
1362                 st->codec->codec_type= AVMEDIA_TYPE_AUDIO;
1363             }
1364         }
1365         break;
1366     case 0x56: /* DVB teletext descriptor */
1367         language[0] = get8(pp, desc_end);
1368         language[1] = get8(pp, desc_end);
1369         language[2] = get8(pp, desc_end);
1370         language[3] = 0;
1371         av_dict_set(&st->metadata, "language", language, 0);
1372         break;
1373     case 0x59: /* subtitling descriptor */
1374         language[0] = get8(pp, desc_end);
1375         language[1] = get8(pp, desc_end);
1376         language[2] = get8(pp, desc_end);
1377         language[3] = 0;
1378         /* hearing impaired subtitles detection */
1379         switch(get8(pp, desc_end)) {
1380         case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1381         case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1382         case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1383         case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1384         case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1385         case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1386             st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1387             break;
1388         }
1389         if (st->codec->extradata) {
1390             if (st->codec->extradata_size == 4 && memcmp(st->codec->extradata, *pp, 4))
1391                 avpriv_request_sample(fc, "DVB sub with multiple IDs");
1392         } else {
1393             st->codec->extradata = av_malloc(4 + FF_INPUT_BUFFER_PADDING_SIZE);
1394             if (st->codec->extradata) {
1395                 st->codec->extradata_size = 4;
1396                 memcpy(st->codec->extradata, *pp, 4);
1397             }
1398         }
1399         *pp += 4;
1400         av_dict_set(&st->metadata, "language", language, 0);
1401         break;
1402     case 0x0a: /* ISO 639 language descriptor */
1403         for (i = 0; i + 4 <= desc_len; i += 4) {
1404             language[i + 0] = get8(pp, desc_end);
1405             language[i + 1] = get8(pp, desc_end);
1406             language[i + 2] = get8(pp, desc_end);
1407             language[i + 3] = ',';
1408         switch (get8(pp, desc_end)) {
1409             case 0x01: st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS; break;
1410             case 0x02: st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED; break;
1411             case 0x03: st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED; break;
1412         }
1413         }
1414         if (i) {
1415             language[i - 1] = 0;
1416             av_dict_set(&st->metadata, "language", language, 0);
1417         }
1418         break;
1419     case 0x05: /* registration descriptor */
1420         st->codec->codec_tag = bytestream_get_le32(pp);
1421         av_dlog(fc, "reg_desc=%.4s\n", (char*)&st->codec->codec_tag);
1422         if (st->codec->codec_id == AV_CODEC_ID_NONE)
1423             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
1424         break;
1425     case 0x52: /* stream identifier descriptor */
1426         st->stream_identifier = 1 + get8(pp, desc_end);
1427         break;
1428     default:
1429         break;
1430     }
1431     *pp = desc_end;
1432     return 0;
1433 }
1434
1435 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1436 {
1437     MpegTSContext *ts = filter->u.section_filter.opaque;
1438     SectionHeader h1, *h = &h1;
1439     PESContext *pes;
1440     AVStream *st;
1441     const uint8_t *p, *p_end, *desc_list_end;
1442     int program_info_length, pcr_pid, pid, stream_type;
1443     int desc_list_len;
1444     uint32_t prog_reg_desc = 0; /* registration descriptor */
1445
1446     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = {{ 0 }};
1447     int mp4_descr_count = 0;
1448     int i;
1449
1450     av_dlog(ts->stream, "PMT: len %i\n", section_len);
1451     hex_dump_debug(ts->stream, section, section_len);
1452
1453     p_end = section + section_len - 4;
1454     p = section;
1455     if (parse_section_header(h, &p, p_end) < 0)
1456         return;
1457
1458     av_dlog(ts->stream, "sid=0x%x sec_num=%d/%d\n",
1459            h->id, h->sec_num, h->last_sec_num);
1460
1461     if (h->tid != PMT_TID)
1462         return;
1463
1464     clear_program(ts, h->id);
1465     pcr_pid = get16(&p, p_end);
1466     if (pcr_pid < 0)
1467         return;
1468     pcr_pid &= 0x1fff;
1469     add_pid_to_pmt(ts, h->id, pcr_pid);
1470     set_pcr_pid(ts->stream, h->id, pcr_pid);
1471
1472     av_dlog(ts->stream, "pcr_pid=0x%x\n", pcr_pid);
1473
1474     program_info_length = get16(&p, p_end);
1475     if (program_info_length < 0)
1476         return;
1477     program_info_length &= 0xfff;
1478     while(program_info_length >= 2) {
1479         uint8_t tag, len;
1480         tag = get8(&p, p_end);
1481         len = get8(&p, p_end);
1482
1483         av_dlog(ts->stream, "program tag: 0x%02x len=%d\n", tag, len);
1484
1485         if(len > program_info_length - 2)
1486             //something else is broken, exit the program_descriptors_loop
1487             break;
1488         program_info_length -= len + 2;
1489         if (tag == 0x1d) { // IOD descriptor
1490             get8(&p, p_end); // scope
1491             get8(&p, p_end); // label
1492             len -= 2;
1493             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1494                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1495         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1496             prog_reg_desc = bytestream_get_le32(&p);
1497             len -= 4;
1498         }
1499         p += len;
1500     }
1501     p += program_info_length;
1502     if (p >= p_end)
1503         goto out;
1504
1505     // stop parsing after pmt, we found header
1506     if (!ts->stream->nb_streams)
1507         ts->stop_parse = 2;
1508
1509     for(;;) {
1510         st = 0;
1511         pes = NULL;
1512         stream_type = get8(&p, p_end);
1513         if (stream_type < 0)
1514             break;
1515         pid = get16(&p, p_end);
1516         if (pid < 0)
1517             break;
1518         pid &= 0x1fff;
1519         if (pid == ts->current_pid)
1520             break;
1521
1522         /* now create stream */
1523         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1524             pes = ts->pids[pid]->u.pes_filter.opaque;
1525             if (!pes->st) {
1526                 pes->st = avformat_new_stream(pes->stream, NULL);
1527                 if (!pes->st)
1528                     goto out;
1529                 pes->st->id = pes->pid;
1530             }
1531             st = pes->st;
1532         } else if (stream_type != 0x13) {
1533             if (ts->pids[pid]) mpegts_close_filter(ts, ts->pids[pid]); //wrongly added sdt filter probably
1534             pes = add_pes_stream(ts, pid, pcr_pid);
1535             if (pes) {
1536                 st = avformat_new_stream(pes->stream, NULL);
1537                 if (!st)
1538                     goto out;
1539                 st->id = pes->pid;
1540             }
1541         } else {
1542             int idx = ff_find_stream_index(ts->stream, pid);
1543             if (idx >= 0) {
1544                 st = ts->stream->streams[idx];
1545             } else {
1546                 st = avformat_new_stream(ts->stream, NULL);
1547                 if (!st)
1548                     goto out;
1549                 st->id = pid;
1550                 st->codec->codec_type = AVMEDIA_TYPE_DATA;
1551             }
1552         }
1553
1554         if (!st)
1555             goto out;
1556
1557         if (pes && !pes->stream_type)
1558             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1559
1560         add_pid_to_pmt(ts, h->id, pid);
1561
1562         ff_program_add_stream_index(ts->stream, h->id, st->index);
1563
1564         desc_list_len = get16(&p, p_end);
1565         if (desc_list_len < 0)
1566             break;
1567         desc_list_len &= 0xfff;
1568         desc_list_end = p + desc_list_len;
1569         if (desc_list_end > p_end)
1570             break;
1571         for(;;) {
1572             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p, desc_list_end,
1573                 mp4_descr, mp4_descr_count, pid, ts) < 0)
1574                 break;
1575
1576             if (pes && prog_reg_desc == AV_RL32("HDMV") && stream_type == 0x83 && pes->sub_st) {
1577                 ff_program_add_stream_index(ts->stream, h->id, pes->sub_st->index);
1578                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1579             }
1580         }
1581         p = desc_list_end;
1582     }
1583
1584  out:
1585     for (i = 0; i < mp4_descr_count; i++)
1586         av_free(mp4_descr[i].dec_config_descr);
1587 }
1588
1589 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1590 {
1591     MpegTSContext *ts = filter->u.section_filter.opaque;
1592     SectionHeader h1, *h = &h1;
1593     const uint8_t *p, *p_end;
1594     int sid, pmt_pid;
1595     AVProgram *program;
1596
1597     av_dlog(ts->stream, "PAT:\n");
1598     hex_dump_debug(ts->stream, section, section_len);
1599
1600     p_end = section + section_len - 4;
1601     p = section;
1602     if (parse_section_header(h, &p, p_end) < 0)
1603         return;
1604     if (h->tid != PAT_TID)
1605         return;
1606
1607     ts->stream->ts_id = h->id;
1608
1609     clear_programs(ts);
1610     for(;;) {
1611         sid = get16(&p, p_end);
1612         if (sid < 0)
1613             break;
1614         pmt_pid = get16(&p, p_end);
1615         if (pmt_pid < 0)
1616             break;
1617         pmt_pid &= 0x1fff;
1618
1619         if (pmt_pid == ts->current_pid)
1620             break;
1621
1622         av_dlog(ts->stream, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
1623
1624         if (sid == 0x0000) {
1625             /* NIT info */
1626         } else {
1627             program = av_new_program(ts->stream, sid);
1628             program->program_num = sid;
1629             program->pmt_pid = pmt_pid;
1630             if (ts->pids[pmt_pid])
1631                 mpegts_close_filter(ts, ts->pids[pmt_pid]);
1632             mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
1633             add_pat_entry(ts, sid);
1634             add_pid_to_pmt(ts, sid, 0); //add pat pid to program
1635             add_pid_to_pmt(ts, sid, pmt_pid);
1636         }
1637     }
1638
1639     if (sid < 0) {
1640         int i,j;
1641         for (j=0; j<ts->stream->nb_programs; j++) {
1642             for (i=0; i<ts->nb_prg; i++)
1643                 if (ts->prg[i].id == ts->stream->programs[j]->id)
1644                     break;
1645             if (i==ts->nb_prg)
1646                 clear_avprogram(ts, ts->stream->programs[j]->id);
1647         }
1648     }
1649 }
1650
1651 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1652 {
1653     MpegTSContext *ts = filter->u.section_filter.opaque;
1654     SectionHeader h1, *h = &h1;
1655     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
1656     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
1657     char *name, *provider_name;
1658
1659     av_dlog(ts->stream, "SDT:\n");
1660     hex_dump_debug(ts->stream, section, section_len);
1661
1662     p_end = section + section_len - 4;
1663     p = section;
1664     if (parse_section_header(h, &p, p_end) < 0)
1665         return;
1666     if (h->tid != SDT_TID)
1667         return;
1668     onid = get16(&p, p_end);
1669     if (onid < 0)
1670         return;
1671     val = get8(&p, p_end);
1672     if (val < 0)
1673         return;
1674     for(;;) {
1675         sid = get16(&p, p_end);
1676         if (sid < 0)
1677             break;
1678         val = get8(&p, p_end);
1679         if (val < 0)
1680             break;
1681         desc_list_len = get16(&p, p_end);
1682         if (desc_list_len < 0)
1683             break;
1684         desc_list_len &= 0xfff;
1685         desc_list_end = p + desc_list_len;
1686         if (desc_list_end > p_end)
1687             break;
1688         for(;;) {
1689             desc_tag = get8(&p, desc_list_end);
1690             if (desc_tag < 0)
1691                 break;
1692             desc_len = get8(&p, desc_list_end);
1693             desc_end = p + desc_len;
1694             if (desc_end > desc_list_end)
1695                 break;
1696
1697             av_dlog(ts->stream, "tag: 0x%02x len=%d\n",
1698                    desc_tag, desc_len);
1699
1700             switch(desc_tag) {
1701             case 0x48:
1702                 service_type = get8(&p, p_end);
1703                 if (service_type < 0)
1704                     break;
1705                 provider_name = getstr8(&p, p_end);
1706                 if (!provider_name)
1707                     break;
1708                 name = getstr8(&p, p_end);
1709                 if (name) {
1710                     AVProgram *program = av_new_program(ts->stream, sid);
1711                     if(program) {
1712                         av_dict_set(&program->metadata, "service_name", name, 0);
1713                         av_dict_set(&program->metadata, "service_provider", provider_name, 0);
1714                     }
1715                 }
1716                 av_free(name);
1717                 av_free(provider_name);
1718                 break;
1719             default:
1720                 break;
1721             }
1722             p = desc_end;
1723         }
1724         p = desc_list_end;
1725     }
1726 }
1727
1728 /* handle one TS packet */
1729 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
1730 {
1731     AVFormatContext *s = ts->stream;
1732     MpegTSFilter *tss;
1733     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
1734         has_adaptation, has_payload;
1735     const uint8_t *p, *p_end;
1736     int64_t pos;
1737
1738     pid = AV_RB16(packet + 1) & 0x1fff;
1739     if(pid && discard_pid(ts, pid))
1740         return 0;
1741     is_start = packet[1] & 0x40;
1742     tss = ts->pids[pid];
1743     if (ts->auto_guess && tss == NULL && is_start) {
1744         add_pes_stream(ts, pid, -1);
1745         tss = ts->pids[pid];
1746     }
1747     if (!tss)
1748         return 0;
1749     ts->current_pid = pid;
1750
1751     afc = (packet[3] >> 4) & 3;
1752     if (afc == 0) /* reserved value */
1753         return 0;
1754     has_adaptation = afc & 2;
1755     has_payload = afc & 1;
1756     is_discontinuity = has_adaptation
1757                 && packet[4] != 0 /* with length > 0 */
1758                 && (packet[5] & 0x80); /* and discontinuity indicated */
1759
1760     /* continuity check (currently not used) */
1761     cc = (packet[3] & 0xf);
1762     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
1763     cc_ok = pid == 0x1FFF // null packet PID
1764             || is_discontinuity
1765             || tss->last_cc < 0
1766             || expected_cc == cc;
1767
1768     tss->last_cc = cc;
1769     if (!cc_ok) {
1770         av_log(ts->stream, AV_LOG_DEBUG,
1771                "Continuity check failed for pid %d expected %d got %d\n",
1772                pid, expected_cc, cc);
1773         if(tss->type == MPEGTS_PES) {
1774             PESContext *pc = tss->u.pes_filter.opaque;
1775             pc->flags |= AV_PKT_FLAG_CORRUPT;
1776         }
1777     }
1778
1779     if (!has_payload)
1780         return 0;
1781     p = packet + 4;
1782     if (has_adaptation) {
1783         /* skip adaptation field */
1784         p += p[0] + 1;
1785     }
1786     /* if past the end of packet, ignore */
1787     p_end = packet + TS_PACKET_SIZE;
1788     if (p >= p_end)
1789         return 0;
1790
1791     pos = avio_tell(ts->stream->pb);
1792     ts->pos47= pos % ts->raw_packet_size;
1793
1794     if (tss->type == MPEGTS_SECTION) {
1795         if (is_start) {
1796             /* pointer field present */
1797             len = *p++;
1798             if (p + len > p_end)
1799                 return 0;
1800             if (len && cc_ok) {
1801                 /* write remaining section bytes */
1802                 write_section_data(s, tss,
1803                                    p, len, 0);
1804                 /* check whether filter has been closed */
1805                 if (!ts->pids[pid])
1806                     return 0;
1807             }
1808             p += len;
1809             if (p < p_end) {
1810                 write_section_data(s, tss,
1811                                    p, p_end - p, 1);
1812             }
1813         } else {
1814             if (cc_ok) {
1815                 write_section_data(s, tss,
1816                                    p, p_end - p, 0);
1817             }
1818         }
1819     } else {
1820         int ret;
1821         // Note: The position here points actually behind the current packet.
1822         if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
1823                                             pos - ts->raw_packet_size)) < 0)
1824             return ret;
1825     }
1826
1827     return 0;
1828 }
1829
1830 /* XXX: try to find a better synchro over several packets (use
1831    get_packet_size() ?) */
1832 static int mpegts_resync(AVFormatContext *s)
1833 {
1834     AVIOContext *pb = s->pb;
1835     int c, i;
1836
1837     for(i = 0;i < MAX_RESYNC_SIZE; i++) {
1838         c = avio_r8(pb);
1839         if (url_feof(pb))
1840             return -1;
1841         if (c == 0x47) {
1842             avio_seek(pb, -1, SEEK_CUR);
1843             return 0;
1844         }
1845     }
1846     av_log(s, AV_LOG_ERROR, "max resync size reached, could not find sync byte\n");
1847     /* no sync found */
1848     return -1;
1849 }
1850
1851 /* return -1 if error or EOF. Return 0 if OK. */
1852 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size)
1853 {
1854     AVIOContext *pb = s->pb;
1855     int skip, len;
1856
1857     for(;;) {
1858         len = avio_read(pb, buf, TS_PACKET_SIZE);
1859         if (len != TS_PACKET_SIZE)
1860             return len < 0 ? len : AVERROR_EOF;
1861         /* check packet sync byte */
1862         if (buf[0] != 0x47) {
1863             /* find a new packet start */
1864             avio_seek(pb, -TS_PACKET_SIZE, SEEK_CUR);
1865             if (mpegts_resync(s) < 0)
1866                 return AVERROR(EAGAIN);
1867             else
1868                 continue;
1869         } else {
1870             skip = raw_packet_size - TS_PACKET_SIZE;
1871             if (skip > 0)
1872                 avio_skip(pb, skip);
1873             break;
1874         }
1875     }
1876     return 0;
1877 }
1878
1879 static int handle_packets(MpegTSContext *ts, int nb_packets)
1880 {
1881     AVFormatContext *s = ts->stream;
1882     uint8_t packet[TS_PACKET_SIZE + FF_INPUT_BUFFER_PADDING_SIZE];
1883     int packet_num, ret = 0;
1884
1885     if (avio_tell(s->pb) != ts->last_pos) {
1886         int i;
1887         av_dlog(ts->stream, "Skipping after seek\n");
1888         /* seek detected, flush pes buffer */
1889         for (i = 0; i < NB_PID_MAX; i++) {
1890             if (ts->pids[i]) {
1891                 if (ts->pids[i]->type == MPEGTS_PES) {
1892                    PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
1893                    av_buffer_unref(&pes->buffer);
1894                    pes->data_index = 0;
1895                    pes->state = MPEGTS_SKIP; /* skip until pes header */
1896                 }
1897                 ts->pids[i]->last_cc = -1;
1898             }
1899         }
1900     }
1901
1902     ts->stop_parse = 0;
1903     packet_num = 0;
1904     memset(packet + TS_PACKET_SIZE, 0, FF_INPUT_BUFFER_PADDING_SIZE);
1905     for(;;) {
1906         packet_num++;
1907         if (nb_packets != 0 && packet_num >= nb_packets ||
1908             ts->stop_parse > 1) {
1909             ret = AVERROR(EAGAIN);
1910             break;
1911         }
1912         if (ts->stop_parse > 0)
1913             break;
1914
1915         ret = read_packet(s, packet, ts->raw_packet_size);
1916         if (ret != 0)
1917             break;
1918         ret = handle_packet(ts, packet);
1919         if (ret != 0)
1920             break;
1921     }
1922     ts->last_pos = avio_tell(s->pb);
1923     return ret;
1924 }
1925
1926 static int mpegts_probe(AVProbeData *p)
1927 {
1928     const int size= p->buf_size;
1929     int maxscore=0;
1930     int sumscore=0;
1931     int i;
1932     int check_count= size / TS_FEC_PACKET_SIZE;
1933 #define CHECK_COUNT 10
1934 #define CHECK_BLOCK 100
1935
1936     if (check_count < CHECK_COUNT)
1937         return -1;
1938
1939     for (i=0; i<check_count; i+=CHECK_BLOCK){
1940         int left = FFMIN(check_count - i, CHECK_BLOCK);
1941         int score     = analyze(p->buf + TS_PACKET_SIZE     *i, TS_PACKET_SIZE     *left, TS_PACKET_SIZE     , NULL);
1942         int dvhs_score= analyze(p->buf + TS_DVHS_PACKET_SIZE*i, TS_DVHS_PACKET_SIZE*left, TS_DVHS_PACKET_SIZE, NULL);
1943         int fec_score = analyze(p->buf + TS_FEC_PACKET_SIZE *i, TS_FEC_PACKET_SIZE *left, TS_FEC_PACKET_SIZE , NULL);
1944         score = FFMAX3(score, dvhs_score, fec_score);
1945         sumscore += score;
1946         maxscore = FFMAX(maxscore, score);
1947     }
1948
1949     sumscore = sumscore*CHECK_COUNT/check_count;
1950     maxscore = maxscore*CHECK_COUNT/CHECK_BLOCK;
1951
1952     av_dlog(0, "TS score: %d %d\n", sumscore, maxscore);
1953
1954     if (sumscore > 6)           return AVPROBE_SCORE_MAX + sumscore - CHECK_COUNT;
1955     else if (maxscore > 6)      return AVPROBE_SCORE_MAX/2 + sumscore - CHECK_COUNT;
1956     else                        return -1;
1957 }
1958
1959 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
1960    (-1) if not available */
1961 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
1962                      const uint8_t *packet)
1963 {
1964     int afc, len, flags;
1965     const uint8_t *p;
1966     unsigned int v;
1967
1968     afc = (packet[3] >> 4) & 3;
1969     if (afc <= 1)
1970         return -1;
1971     p = packet + 4;
1972     len = p[0];
1973     p++;
1974     if (len == 0)
1975         return -1;
1976     flags = *p++;
1977     len--;
1978     if (!(flags & 0x10))
1979         return -1;
1980     if (len < 6)
1981         return -1;
1982     v = AV_RB32(p);
1983     *ppcr_high = ((int64_t)v << 1) | (p[4] >> 7);
1984     *ppcr_low = ((p[4] & 1) << 8) | p[5];
1985     return 0;
1986 }
1987
1988 static int mpegts_read_header(AVFormatContext *s)
1989 {
1990     MpegTSContext *ts = s->priv_data;
1991     AVIOContext *pb = s->pb;
1992     uint8_t buf[8*1024]={0};
1993     int len;
1994     int64_t pos;
1995
1996     /* read the first 8192 bytes to get packet size */
1997     pos = avio_tell(pb);
1998     len = avio_read(pb, buf, sizeof(buf));
1999     ts->raw_packet_size = get_packet_size(buf, len);
2000     if (ts->raw_packet_size <= 0) {
2001         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
2002         ts->raw_packet_size = TS_PACKET_SIZE;
2003     }
2004     ts->stream = s;
2005     ts->auto_guess = 0;
2006
2007     if (s->iformat == &ff_mpegts_demuxer) {
2008         /* normal demux */
2009
2010         /* first do a scan to get all the services */
2011         /* NOTE: We attempt to seek on non-seekable files as well, as the
2012          * probe buffer usually is big enough. Only warn if the seek failed
2013          * on files where the seek should work. */
2014         if (avio_seek(pb, pos, SEEK_SET) < 0)
2015             av_log(s, pb->seekable ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
2016
2017         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2018
2019         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2020
2021         handle_packets(ts, s->probesize / ts->raw_packet_size);
2022         /* if could not find service, enable auto_guess */
2023
2024         ts->auto_guess = 1;
2025
2026         av_dlog(ts->stream, "tuning done\n");
2027
2028         s->ctx_flags |= AVFMTCTX_NOHEADER;
2029     } else {
2030         AVStream *st;
2031         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
2032         int64_t pcrs[2], pcr_h;
2033         int packet_count[2];
2034         uint8_t packet[TS_PACKET_SIZE];
2035
2036         /* only read packets */
2037
2038         st = avformat_new_stream(s, NULL);
2039         if (!st)
2040             goto fail;
2041         avpriv_set_pts_info(st, 60, 1, 27000000);
2042         st->codec->codec_type = AVMEDIA_TYPE_DATA;
2043         st->codec->codec_id = AV_CODEC_ID_MPEG2TS;
2044
2045         /* we iterate until we find two PCRs to estimate the bitrate */
2046         pcr_pid = -1;
2047         nb_pcrs = 0;
2048         nb_packets = 0;
2049         for(;;) {
2050             ret = read_packet(s, packet, ts->raw_packet_size);
2051             if (ret < 0)
2052                 return -1;
2053             pid = AV_RB16(packet + 1) & 0x1fff;
2054             if ((pcr_pid == -1 || pcr_pid == pid) &&
2055                 parse_pcr(&pcr_h, &pcr_l, packet) == 0) {
2056                 pcr_pid = pid;
2057                 packet_count[nb_pcrs] = nb_packets;
2058                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
2059                 nb_pcrs++;
2060                 if (nb_pcrs >= 2)
2061                     break;
2062             }
2063             nb_packets++;
2064         }
2065
2066         /* NOTE1: the bitrate is computed without the FEC */
2067         /* NOTE2: it is only the bitrate of the start of the stream */
2068         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2069         ts->cur_pcr = pcrs[0] - ts->pcr_incr * packet_count[0];
2070         s->bit_rate = (TS_PACKET_SIZE * 8) * 27e6 / ts->pcr_incr;
2071         st->codec->bit_rate = s->bit_rate;
2072         st->start_time = ts->cur_pcr;
2073         av_dlog(ts->stream, "start=%0.3f pcr=%0.3f incr=%d\n",
2074                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2075     }
2076
2077     avio_seek(pb, pos, SEEK_SET);
2078     return 0;
2079  fail:
2080     return -1;
2081 }
2082
2083 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2084
2085 static int mpegts_raw_read_packet(AVFormatContext *s,
2086                                   AVPacket *pkt)
2087 {
2088     MpegTSContext *ts = s->priv_data;
2089     int ret, i;
2090     int64_t pcr_h, next_pcr_h, pos;
2091     int pcr_l, next_pcr_l;
2092     uint8_t pcr_buf[12];
2093
2094     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2095         return AVERROR(ENOMEM);
2096     pkt->pos= avio_tell(s->pb);
2097     ret = read_packet(s, pkt->data, ts->raw_packet_size);
2098     if (ret < 0) {
2099         av_free_packet(pkt);
2100         return ret;
2101     }
2102     if (ts->mpeg2ts_compute_pcr) {
2103         /* compute exact PCR for each packet */
2104         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2105             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2106             pos = avio_tell(s->pb);
2107             for(i = 0; i < MAX_PACKET_READAHEAD; i++) {
2108                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2109                 avio_read(s->pb, pcr_buf, 12);
2110                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2111                     /* XXX: not precise enough */
2112                     ts->pcr_incr = ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2113                         (i + 1);
2114                     break;
2115                 }
2116             }
2117             avio_seek(s->pb, pos, SEEK_SET);
2118             /* no next PCR found: we use previous increment */
2119             ts->cur_pcr = pcr_h * 300 + pcr_l;
2120         }
2121         pkt->pts = ts->cur_pcr;
2122         pkt->duration = ts->pcr_incr;
2123         ts->cur_pcr += ts->pcr_incr;
2124     }
2125     pkt->stream_index = 0;
2126     return 0;
2127 }
2128
2129 static int mpegts_read_packet(AVFormatContext *s,
2130                               AVPacket *pkt)
2131 {
2132     MpegTSContext *ts = s->priv_data;
2133     int ret, i;
2134
2135     pkt->size = -1;
2136     ts->pkt = pkt;
2137     ret = handle_packets(ts, 0);
2138     if (ret < 0) {
2139         av_free_packet(ts->pkt);
2140         /* flush pes data left */
2141         for (i = 0; i < NB_PID_MAX; i++) {
2142             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2143                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2144                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2145                     new_pes_packet(pes, pkt);
2146                     pes->state = MPEGTS_SKIP;
2147                     ret = 0;
2148                     break;
2149                 }
2150             }
2151         }
2152     }
2153
2154     if (!ret && pkt->size < 0)
2155         ret = AVERROR(EINTR);
2156     return ret;
2157 }
2158
2159 static void mpegts_free(MpegTSContext *ts)
2160 {
2161     int i;
2162
2163     clear_programs(ts);
2164
2165     for(i=0;i<NB_PID_MAX;i++)
2166         if (ts->pids[i]) mpegts_close_filter(ts, ts->pids[i]);
2167 }
2168
2169 static int mpegts_read_close(AVFormatContext *s)
2170 {
2171     MpegTSContext *ts = s->priv_data;
2172     mpegts_free(ts);
2173     return 0;
2174 }
2175
2176 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2177                               int64_t *ppos, int64_t pos_limit)
2178 {
2179     MpegTSContext *ts = s->priv_data;
2180     int64_t pos, timestamp;
2181     uint8_t buf[TS_PACKET_SIZE];
2182     int pcr_l, pcr_pid = ((PESContext*)s->streams[stream_index]->priv_data)->pcr_pid;
2183     pos = ((*ppos  + ts->raw_packet_size - 1 - ts->pos47) / ts->raw_packet_size) * ts->raw_packet_size + ts->pos47;
2184     while(pos < pos_limit) {
2185         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2186             return AV_NOPTS_VALUE;
2187         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2188             return AV_NOPTS_VALUE;
2189         if (buf[0] != 0x47) {
2190             if (mpegts_resync(s) < 0)
2191                 return AV_NOPTS_VALUE;
2192             pos = avio_tell(s->pb);
2193             continue;
2194         }
2195         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2196             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2197             *ppos = pos;
2198             return timestamp;
2199         }
2200         pos += ts->raw_packet_size;
2201     }
2202
2203     return AV_NOPTS_VALUE;
2204 }
2205
2206 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2207                               int64_t *ppos, int64_t pos_limit)
2208 {
2209     MpegTSContext *ts = s->priv_data;
2210     int64_t pos;
2211     pos = ((*ppos  + ts->raw_packet_size - 1 - ts->pos47) / ts->raw_packet_size) * ts->raw_packet_size + ts->pos47;
2212     ff_read_frame_flush(s);
2213     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2214         return AV_NOPTS_VALUE;
2215     while(pos < pos_limit) {
2216         int ret;
2217         AVPacket pkt;
2218         av_init_packet(&pkt);
2219         ret= av_read_frame(s, &pkt);
2220         if(ret < 0)
2221             return AV_NOPTS_VALUE;
2222         av_free_packet(&pkt);
2223         if(pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0){
2224             ff_reduce_index(s, pkt.stream_index);
2225             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2226             if(pkt.stream_index == stream_index){
2227                 *ppos= pkt.pos;
2228                 return pkt.dts;
2229             }
2230         }
2231         pos = pkt.pos;
2232     }
2233
2234     return AV_NOPTS_VALUE;
2235 }
2236
2237 /**************************************************************/
2238 /* parsing functions - called from other demuxers such as RTP */
2239
2240 MpegTSContext *ff_mpegts_parse_open(AVFormatContext *s)
2241 {
2242     MpegTSContext *ts;
2243
2244     ts = av_mallocz(sizeof(MpegTSContext));
2245     if (!ts)
2246         return NULL;
2247     /* no stream case, currently used by RTP */
2248     ts->raw_packet_size = TS_PACKET_SIZE;
2249     ts->stream = s;
2250     ts->auto_guess = 1;
2251     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2252     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2253
2254     return ts;
2255 }
2256
2257 /* return the consumed length if a packet was output, or -1 if no
2258    packet is output */
2259 int ff_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2260                         const uint8_t *buf, int len)
2261 {
2262     int len1;
2263
2264     len1 = len;
2265     ts->pkt = pkt;
2266     for(;;) {
2267         ts->stop_parse = 0;
2268         if (len < TS_PACKET_SIZE)
2269             return -1;
2270         if (buf[0] != 0x47) {
2271             buf++;
2272             len--;
2273         } else {
2274             handle_packet(ts, buf);
2275             buf += TS_PACKET_SIZE;
2276             len -= TS_PACKET_SIZE;
2277             if (ts->stop_parse == 1)
2278                 break;
2279         }
2280     }
2281     return len1 - len;
2282 }
2283
2284 void ff_mpegts_parse_close(MpegTSContext *ts)
2285 {
2286     mpegts_free(ts);
2287     av_free(ts);
2288 }
2289
2290 AVInputFormat ff_mpegts_demuxer = {
2291     .name           = "mpegts",
2292     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2293     .priv_data_size = sizeof(MpegTSContext),
2294     .read_probe     = mpegts_probe,
2295     .read_header    = mpegts_read_header,
2296     .read_packet    = mpegts_read_packet,
2297     .read_close     = mpegts_read_close,
2298     .read_timestamp = mpegts_get_dts,
2299     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2300 };
2301
2302 AVInputFormat ff_mpegtsraw_demuxer = {
2303     .name           = "mpegtsraw",
2304     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2305     .priv_data_size = sizeof(MpegTSContext),
2306     .read_header    = mpegts_read_header,
2307     .read_packet    = mpegts_raw_read_packet,
2308     .read_close     = mpegts_read_close,
2309     .read_timestamp = mpegts_get_dts,
2310     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2311     .priv_class     = &mpegtsraw_class,
2312 };