Merge commit '07584eaf4a95db3f11d3bc411f9786932829e82b'
[ffmpeg.git] / libavformat / mpegts.c
1 /*
2  * MPEG2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/crc.h"
23 #include "libavutil/intreadwrite.h"
24 #include "libavutil/log.h"
25 #include "libavutil/dict.h"
26 #include "libavutil/mathematics.h"
27 #include "libavutil/opt.h"
28 #include "libavutil/avassert.h"
29 #include "libavcodec/bytestream.h"
30 #include "libavcodec/get_bits.h"
31 #include "avformat.h"
32 #include "mpegts.h"
33 #include "internal.h"
34 #include "avio_internal.h"
35 #include "seek.h"
36 #include "mpeg.h"
37 #include "isom.h"
38
39 /* maximum size in which we look for synchronisation if
40    synchronisation is lost */
41 #define MAX_RESYNC_SIZE 65536
42
43 #define MAX_PES_PAYLOAD 200*1024
44
45 #define MAX_MP4_DESCR_COUNT 16
46
47 enum MpegTSFilterType {
48     MPEGTS_PES,
49     MPEGTS_SECTION,
50 };
51
52 typedef struct MpegTSFilter MpegTSFilter;
53
54 typedef int PESCallback(MpegTSFilter *f, const uint8_t *buf, int len, int is_start, int64_t pos);
55
56 typedef struct MpegTSPESFilter {
57     PESCallback *pes_cb;
58     void *opaque;
59 } MpegTSPESFilter;
60
61 typedef void SectionCallback(MpegTSFilter *f, const uint8_t *buf, int len);
62
63 typedef void SetServiceCallback(void *opaque, int ret);
64
65 typedef struct MpegTSSectionFilter {
66     int section_index;
67     int section_h_size;
68     uint8_t *section_buf;
69     unsigned int check_crc:1;
70     unsigned int end_of_section_reached:1;
71     SectionCallback *section_cb;
72     void *opaque;
73 } MpegTSSectionFilter;
74
75 struct MpegTSFilter {
76     int pid;
77     int es_id;
78     int last_cc; /* last cc code (-1 if first packet) */
79     enum MpegTSFilterType type;
80     union {
81         MpegTSPESFilter pes_filter;
82         MpegTSSectionFilter section_filter;
83     } u;
84 };
85
86 #define MAX_PIDS_PER_PROGRAM 64
87 struct Program {
88     unsigned int id; //program id/service id
89     unsigned int nb_pids;
90     unsigned int pids[MAX_PIDS_PER_PROGRAM];
91 };
92
93 struct MpegTSContext {
94     const AVClass *class;
95     /* user data */
96     AVFormatContext *stream;
97     /** raw packet size, including FEC if present            */
98     int raw_packet_size;
99
100     int pos47;
101
102     /** if true, all pids are analyzed to find streams       */
103     int auto_guess;
104
105     /** compute exact PCR for each transport stream packet   */
106     int mpeg2ts_compute_pcr;
107
108     int64_t cur_pcr;    /**< used to estimate the exact PCR  */
109     int pcr_incr;       /**< used to estimate the exact PCR  */
110
111     /* data needed to handle file based ts */
112     /** stop parsing loop                                    */
113     int stop_parse;
114     /** packet containing Audio/Video data                   */
115     AVPacket *pkt;
116     /** to detect seek                                       */
117     int64_t last_pos;
118
119     /******************************************/
120     /* private mpegts data */
121     /* scan context */
122     /** structure to keep track of Program->pids mapping     */
123     unsigned int nb_prg;
124     struct Program *prg;
125
126
127     /** filters for various streams specified by PMT + for the PAT and PMT */
128     MpegTSFilter *pids[NB_PID_MAX];
129 };
130
131 static const AVOption options[] = {
132     {"compute_pcr", "Compute exact PCR for each transport stream packet.", offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_INT,
133      {.i64 = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
134     { NULL },
135 };
136
137 static const AVClass mpegtsraw_class = {
138     .class_name = "mpegtsraw demuxer",
139     .item_name  = av_default_item_name,
140     .option     = options,
141     .version    = LIBAVUTIL_VERSION_INT,
142 };
143
144 /* TS stream handling */
145
146 enum MpegTSState {
147     MPEGTS_HEADER = 0,
148     MPEGTS_PESHEADER,
149     MPEGTS_PESHEADER_FILL,
150     MPEGTS_PAYLOAD,
151     MPEGTS_SKIP,
152 };
153
154 /* enough for PES header + length */
155 #define PES_START_SIZE  6
156 #define PES_HEADER_SIZE 9
157 #define MAX_PES_HEADER_SIZE (9 + 255)
158
159 typedef struct PESContext {
160     int pid;
161     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
162     int stream_type;
163     MpegTSContext *ts;
164     AVFormatContext *stream;
165     AVStream *st;
166     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
167     enum MpegTSState state;
168     /* used to get the format */
169     int data_index;
170     int flags; /**< copied to the AVPacket flags */
171     int total_size;
172     int pes_header_size;
173     int extended_stream_id;
174     int64_t pts, dts;
175     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
176     uint8_t header[MAX_PES_HEADER_SIZE];
177     uint8_t *buffer;
178     SLConfigDescr sl;
179 } PESContext;
180
181 extern AVInputFormat ff_mpegts_demuxer;
182
183 static void clear_program(MpegTSContext *ts, unsigned int programid)
184 {
185     int i;
186
187     for(i=0; i<ts->nb_prg; i++)
188         if(ts->prg[i].id == programid)
189             ts->prg[i].nb_pids = 0;
190 }
191
192 static void clear_programs(MpegTSContext *ts)
193 {
194     av_freep(&ts->prg);
195     ts->nb_prg=0;
196 }
197
198 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
199 {
200     struct Program *p;
201     void *tmp = av_realloc(ts->prg, (ts->nb_prg+1)*sizeof(struct Program));
202     if(!tmp)
203         return;
204     ts->prg = tmp;
205     p = &ts->prg[ts->nb_prg];
206     p->id = programid;
207     p->nb_pids = 0;
208     ts->nb_prg++;
209 }
210
211 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid, unsigned int pid)
212 {
213     int i;
214     struct Program *p = NULL;
215     for(i=0; i<ts->nb_prg; i++) {
216         if(ts->prg[i].id == programid) {
217             p = &ts->prg[i];
218             break;
219         }
220     }
221     if(!p)
222         return;
223
224     if(p->nb_pids >= MAX_PIDS_PER_PROGRAM)
225         return;
226     p->pids[p->nb_pids++] = pid;
227 }
228
229 static void set_pcr_pid(AVFormatContext *s, unsigned int programid, unsigned int pid)
230 {
231     int i;
232     for(i=0; i<s->nb_programs; i++) {
233         if(s->programs[i]->id == programid) {
234             s->programs[i]->pcr_pid = pid;
235             break;
236         }
237     }
238 }
239
240 /**
241  * @brief discard_pid() decides if the pid is to be discarded according
242  *                      to caller's programs selection
243  * @param ts    : - TS context
244  * @param pid   : - pid
245  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
246  *         0 otherwise
247  */
248 static int discard_pid(MpegTSContext *ts, unsigned int pid)
249 {
250     int i, j, k;
251     int used = 0, discarded = 0;
252     struct Program *p;
253     for(i=0; i<ts->nb_prg; i++) {
254         p = &ts->prg[i];
255         for(j=0; j<p->nb_pids; j++) {
256             if(p->pids[j] != pid)
257                 continue;
258             //is program with id p->id set to be discarded?
259             for(k=0; k<ts->stream->nb_programs; k++) {
260                 if(ts->stream->programs[k]->id == p->id) {
261                     if(ts->stream->programs[k]->discard == AVDISCARD_ALL)
262                         discarded++;
263                     else
264                         used++;
265                 }
266             }
267         }
268     }
269
270     return !used && discarded;
271 }
272
273 /**
274  *  Assemble PES packets out of TS packets, and then call the "section_cb"
275  *  function when they are complete.
276  */
277 static void write_section_data(AVFormatContext *s, MpegTSFilter *tss1,
278                                const uint8_t *buf, int buf_size, int is_start)
279 {
280     MpegTSSectionFilter *tss = &tss1->u.section_filter;
281     int len;
282
283     if (is_start) {
284         memcpy(tss->section_buf, buf, buf_size);
285         tss->section_index = buf_size;
286         tss->section_h_size = -1;
287         tss->end_of_section_reached = 0;
288     } else {
289         if (tss->end_of_section_reached)
290             return;
291         len = 4096 - tss->section_index;
292         if (buf_size < len)
293             len = buf_size;
294         memcpy(tss->section_buf + tss->section_index, buf, len);
295         tss->section_index += len;
296     }
297
298     /* compute section length if possible */
299     if (tss->section_h_size == -1 && tss->section_index >= 3) {
300         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
301         if (len > 4096)
302             return;
303         tss->section_h_size = len;
304     }
305
306     if (tss->section_h_size != -1 && tss->section_index >= tss->section_h_size) {
307         tss->end_of_section_reached = 1;
308         if (!tss->check_crc ||
309             av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1,
310                    tss->section_buf, tss->section_h_size) == 0)
311             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
312     }
313 }
314
315 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts, unsigned int pid,
316                                          SectionCallback *section_cb, void *opaque,
317                                          int check_crc)
318
319 {
320     MpegTSFilter *filter;
321     MpegTSSectionFilter *sec;
322
323     av_dlog(ts->stream, "Filter: pid=0x%x\n", pid);
324
325     if (pid >= NB_PID_MAX || ts->pids[pid])
326         return NULL;
327     filter = av_mallocz(sizeof(MpegTSFilter));
328     if (!filter)
329         return NULL;
330     ts->pids[pid] = filter;
331     filter->type = MPEGTS_SECTION;
332     filter->pid = pid;
333     filter->es_id = -1;
334     filter->last_cc = -1;
335     sec = &filter->u.section_filter;
336     sec->section_cb = section_cb;
337     sec->opaque = opaque;
338     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
339     sec->check_crc = check_crc;
340     if (!sec->section_buf) {
341         av_free(filter);
342         return NULL;
343     }
344     return filter;
345 }
346
347 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
348                                      PESCallback *pes_cb,
349                                      void *opaque)
350 {
351     MpegTSFilter *filter;
352     MpegTSPESFilter *pes;
353
354     if (pid >= NB_PID_MAX || ts->pids[pid])
355         return NULL;
356     filter = av_mallocz(sizeof(MpegTSFilter));
357     if (!filter)
358         return NULL;
359     ts->pids[pid] = filter;
360     filter->type = MPEGTS_PES;
361     filter->pid = pid;
362     filter->es_id = -1;
363     filter->last_cc = -1;
364     pes = &filter->u.pes_filter;
365     pes->pes_cb = pes_cb;
366     pes->opaque = opaque;
367     return filter;
368 }
369
370 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
371 {
372     int pid;
373
374     pid = filter->pid;
375     if (filter->type == MPEGTS_SECTION)
376         av_freep(&filter->u.section_filter.section_buf);
377     else if (filter->type == MPEGTS_PES) {
378         PESContext *pes = filter->u.pes_filter.opaque;
379         av_freep(&pes->buffer);
380         /* referenced private data will be freed later in
381          * avformat_close_input */
382         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
383             av_freep(&filter->u.pes_filter.opaque);
384         }
385     }
386
387     av_free(filter);
388     ts->pids[pid] = NULL;
389 }
390
391 static int analyze(const uint8_t *buf, int size, int packet_size, int *index){
392     int stat[TS_MAX_PACKET_SIZE];
393     int i;
394     int x=0;
395     int best_score=0;
396
397     memset(stat, 0, packet_size*sizeof(int));
398
399     for(x=i=0; i<size-3; i++){
400         if(buf[i] == 0x47 && !(buf[i+1] & 0x80) && buf[i+3] != 0x47){
401             stat[x]++;
402             if(stat[x] > best_score){
403                 best_score= stat[x];
404                 if(index) *index= x;
405             }
406         }
407
408         x++;
409         if(x == packet_size) x= 0;
410     }
411
412     return best_score;
413 }
414
415 /* autodetect fec presence. Must have at least 1024 bytes  */
416 static int get_packet_size(const uint8_t *buf, int size)
417 {
418     int score, fec_score, dvhs_score;
419
420     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
421         return -1;
422
423     score    = analyze(buf, size, TS_PACKET_SIZE, NULL);
424     dvhs_score    = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL);
425     fec_score= analyze(buf, size, TS_FEC_PACKET_SIZE, NULL);
426 //    av_log(NULL, AV_LOG_DEBUG, "score: %d, dvhs_score: %d, fec_score: %d \n", score, dvhs_score, fec_score);
427
428     if     (score > fec_score && score > dvhs_score) return TS_PACKET_SIZE;
429     else if(dvhs_score > score && dvhs_score > fec_score) return TS_DVHS_PACKET_SIZE;
430     else if(score < fec_score && dvhs_score < fec_score) return TS_FEC_PACKET_SIZE;
431     else                       return -1;
432 }
433
434 typedef struct SectionHeader {
435     uint8_t tid;
436     uint16_t id;
437     uint8_t version;
438     uint8_t sec_num;
439     uint8_t last_sec_num;
440 } SectionHeader;
441
442 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
443 {
444     const uint8_t *p;
445     int c;
446
447     p = *pp;
448     if (p >= p_end)
449         return -1;
450     c = *p++;
451     *pp = p;
452     return c;
453 }
454
455 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
456 {
457     const uint8_t *p;
458     int c;
459
460     p = *pp;
461     if ((p + 1) >= p_end)
462         return -1;
463     c = AV_RB16(p);
464     p += 2;
465     *pp = p;
466     return c;
467 }
468
469 /* read and allocate a DVB string preceded by its length */
470 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
471 {
472     int len;
473     const uint8_t *p;
474     char *str;
475
476     p = *pp;
477     len = get8(&p, p_end);
478     if (len < 0)
479         return NULL;
480     if ((p + len) > p_end)
481         return NULL;
482     str = av_malloc(len + 1);
483     if (!str)
484         return NULL;
485     memcpy(str, p, len);
486     str[len] = '\0';
487     p += len;
488     *pp = p;
489     return str;
490 }
491
492 static int parse_section_header(SectionHeader *h,
493                                 const uint8_t **pp, const uint8_t *p_end)
494 {
495     int val;
496
497     val = get8(pp, p_end);
498     if (val < 0)
499         return -1;
500     h->tid = val;
501     *pp += 2;
502     val = get16(pp, p_end);
503     if (val < 0)
504         return -1;
505     h->id = val;
506     val = get8(pp, p_end);
507     if (val < 0)
508         return -1;
509     h->version = (val >> 1) & 0x1f;
510     val = get8(pp, p_end);
511     if (val < 0)
512         return -1;
513     h->sec_num = val;
514     val = get8(pp, p_end);
515     if (val < 0)
516         return -1;
517     h->last_sec_num = val;
518     return 0;
519 }
520
521 typedef struct {
522     uint32_t stream_type;
523     enum AVMediaType codec_type;
524     enum AVCodecID codec_id;
525 } StreamType;
526
527 static const StreamType ISO_types[] = {
528     { 0x01, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
529     { 0x02, AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO },
530     { 0x03, AVMEDIA_TYPE_AUDIO,        AV_CODEC_ID_MP3 },
531     { 0x04, AVMEDIA_TYPE_AUDIO,        AV_CODEC_ID_MP3 },
532     { 0x0f, AVMEDIA_TYPE_AUDIO,        AV_CODEC_ID_AAC },
533     { 0x10, AVMEDIA_TYPE_VIDEO,      AV_CODEC_ID_MPEG4 },
534     /* Makito encoder sets stream type 0x11 for AAC,
535      * so auto-detect LOAS/LATM instead of hardcoding it. */
536 //  { 0x11, AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_AAC_LATM }, /* LATM syntax */
537     { 0x1b, AVMEDIA_TYPE_VIDEO,       AV_CODEC_ID_H264 },
538     { 0xd1, AVMEDIA_TYPE_VIDEO,      AV_CODEC_ID_DIRAC },
539     { 0xea, AVMEDIA_TYPE_VIDEO,        AV_CODEC_ID_VC1 },
540     { 0 },
541 };
542
543 static const StreamType HDMV_types[] = {
544     { 0x80, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_PCM_BLURAY },
545     { 0x81, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_AC3 },
546     { 0x82, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },
547     { 0x83, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_TRUEHD },
548     { 0x84, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3 },
549     { 0x85, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS }, /* DTS HD */
550     { 0x86, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS }, /* DTS HD MASTER*/
551     { 0xa1, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_EAC3 }, /* E-AC3 Secondary Audio */
552     { 0xa2, AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_DTS },  /* DTS Express Secondary Audio */
553     { 0x90, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_HDMV_PGS_SUBTITLE },
554     { 0 },
555 };
556
557 /* ATSC ? */
558 static const StreamType MISC_types[] = {
559     { 0x81, AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_AC3 },
560     { 0x8a, AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_DTS },
561     { 0 },
562 };
563
564 static const StreamType REGD_types[] = {
565     { MKTAG('d','r','a','c'), AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_DIRAC },
566     { MKTAG('A','C','-','3'), AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_AC3 },
567     { MKTAG('B','S','S','D'), AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_S302M },
568     { MKTAG('D','T','S','1'), AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_DTS },
569     { MKTAG('D','T','S','2'), AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_DTS },
570     { MKTAG('D','T','S','3'), AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_DTS },
571     { MKTAG('V','C','-','1'), AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_VC1 },
572     { 0 },
573 };
574
575 /* descriptor present */
576 static const StreamType DESC_types[] = {
577     { 0x6a, AVMEDIA_TYPE_AUDIO,             AV_CODEC_ID_AC3 }, /* AC-3 descriptor */
578     { 0x7a, AVMEDIA_TYPE_AUDIO,            AV_CODEC_ID_EAC3 }, /* E-AC-3 descriptor */
579     { 0x7b, AVMEDIA_TYPE_AUDIO,             AV_CODEC_ID_DTS },
580     { 0x56, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_TELETEXT },
581     { 0x59, AVMEDIA_TYPE_SUBTITLE, AV_CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
582     { 0 },
583 };
584
585 static void mpegts_find_stream_type(AVStream *st,
586                                     uint32_t stream_type, const StreamType *types)
587 {
588     for (; types->stream_type; types++) {
589         if (stream_type == types->stream_type) {
590             st->codec->codec_type = types->codec_type;
591             st->codec->codec_id   = types->codec_id;
592             st->request_probe     = 0;
593             return;
594         }
595     }
596 }
597
598 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
599                                   uint32_t stream_type, uint32_t prog_reg_desc)
600 {
601     int old_codec_type= st->codec->codec_type;
602     int old_codec_id  = st->codec->codec_id;
603     avpriv_set_pts_info(st, 33, 1, 90000);
604     st->priv_data = pes;
605     st->codec->codec_type = AVMEDIA_TYPE_DATA;
606     st->codec->codec_id   = AV_CODEC_ID_NONE;
607     st->need_parsing = AVSTREAM_PARSE_FULL;
608     pes->st = st;
609     pes->stream_type = stream_type;
610
611     av_log(pes->stream, AV_LOG_DEBUG,
612            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
613            st->index, pes->stream_type, pes->pid, (char*)&prog_reg_desc);
614
615     st->codec->codec_tag = pes->stream_type;
616
617     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
618     if ((prog_reg_desc == AV_RL32("HDMV") ||
619          prog_reg_desc == AV_RL32("HDPR")) &&
620         st->codec->codec_id == AV_CODEC_ID_NONE) {
621         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
622         if (pes->stream_type == 0x83) {
623             // HDMV TrueHD streams also contain an AC3 coded version of the
624             // audio track - add a second stream for this
625             AVStream *sub_st;
626             // priv_data cannot be shared between streams
627             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
628             if (!sub_pes)
629                 return AVERROR(ENOMEM);
630             memcpy(sub_pes, pes, sizeof(*sub_pes));
631
632             sub_st = avformat_new_stream(pes->stream, NULL);
633             if (!sub_st) {
634                 av_free(sub_pes);
635                 return AVERROR(ENOMEM);
636             }
637
638             sub_st->id = pes->pid;
639             avpriv_set_pts_info(sub_st, 33, 1, 90000);
640             sub_st->priv_data = sub_pes;
641             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
642             sub_st->codec->codec_id   = AV_CODEC_ID_AC3;
643             sub_st->need_parsing = AVSTREAM_PARSE_FULL;
644             sub_pes->sub_st = pes->sub_st = sub_st;
645         }
646     }
647     if (st->codec->codec_id == AV_CODEC_ID_NONE)
648         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
649     if (st->codec->codec_id == AV_CODEC_ID_NONE){
650         st->codec->codec_id  = old_codec_id;
651         st->codec->codec_type= old_codec_type;
652     }
653
654     return 0;
655 }
656
657 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
658 {
659     av_init_packet(pkt);
660
661     pkt->destruct = av_destruct_packet;
662     pkt->data = pes->buffer;
663     pkt->size = pes->data_index;
664
665     if(pes->total_size != MAX_PES_PAYLOAD &&
666        pes->pes_header_size + pes->data_index != pes->total_size + PES_START_SIZE) {
667         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
668         pes->flags |= AV_PKT_FLAG_CORRUPT;
669     }
670     memset(pkt->data+pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
671
672     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
673     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
674         pkt->stream_index = pes->sub_st->index;
675     else
676         pkt->stream_index = pes->st->index;
677     pkt->pts = pes->pts;
678     pkt->dts = pes->dts;
679     /* store position of first TS packet of this PES packet */
680     pkt->pos = pes->ts_packet_pos;
681     pkt->flags = pes->flags;
682
683     /* reset pts values */
684     pes->pts = AV_NOPTS_VALUE;
685     pes->dts = AV_NOPTS_VALUE;
686     pes->buffer = NULL;
687     pes->data_index = 0;
688     pes->flags = 0;
689 }
690
691 static uint64_t get_bits64(GetBitContext *gb, int bits)
692 {
693     uint64_t ret = 0;
694
695     if (get_bits_left(gb) < bits)
696         return AV_NOPTS_VALUE;
697     while (bits > 17) {
698         ret <<= 17;
699         ret |= get_bits(gb, 17);
700         bits -= 17;
701     }
702     ret <<= bits;
703     ret |= get_bits(gb, bits);
704     return ret;
705 }
706
707 static int read_sl_header(PESContext *pes, SLConfigDescr *sl, const uint8_t *buf, int buf_size)
708 {
709     GetBitContext gb;
710     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
711     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
712     int dts_flag = -1, cts_flag = -1;
713     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
714
715     init_get_bits(&gb, buf, buf_size*8);
716
717     if (sl->use_au_start)
718         au_start_flag = get_bits1(&gb);
719     if (sl->use_au_end)
720         au_end_flag = get_bits1(&gb);
721     if (!sl->use_au_start && !sl->use_au_end)
722         au_start_flag = au_end_flag = 1;
723     if (sl->ocr_len > 0)
724         ocr_flag = get_bits1(&gb);
725     if (sl->use_idle)
726         idle_flag = get_bits1(&gb);
727     if (sl->use_padding)
728         padding_flag = get_bits1(&gb);
729     if (padding_flag)
730         padding_bits = get_bits(&gb, 3);
731
732     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
733         if (sl->packet_seq_num_len)
734             skip_bits_long(&gb, sl->packet_seq_num_len);
735         if (sl->degr_prior_len)
736             if (get_bits1(&gb))
737                 skip_bits(&gb, sl->degr_prior_len);
738         if (ocr_flag)
739             skip_bits_long(&gb, sl->ocr_len);
740         if (au_start_flag) {
741             if (sl->use_rand_acc_pt)
742                 get_bits1(&gb);
743             if (sl->au_seq_num_len > 0)
744                 skip_bits_long(&gb, sl->au_seq_num_len);
745             if (sl->use_timestamps) {
746                 dts_flag = get_bits1(&gb);
747                 cts_flag = get_bits1(&gb);
748             }
749         }
750         if (sl->inst_bitrate_len)
751             inst_bitrate_flag = get_bits1(&gb);
752         if (dts_flag == 1)
753             dts = get_bits64(&gb, sl->timestamp_len);
754         if (cts_flag == 1)
755             cts = get_bits64(&gb, sl->timestamp_len);
756         if (sl->au_len > 0)
757             skip_bits_long(&gb, sl->au_len);
758         if (inst_bitrate_flag)
759             skip_bits_long(&gb, sl->inst_bitrate_len);
760     }
761
762     if (dts != AV_NOPTS_VALUE)
763         pes->dts = dts;
764     if (cts != AV_NOPTS_VALUE)
765         pes->pts = cts;
766
767     if (sl->timestamp_len && sl->timestamp_res)
768         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
769
770     return (get_bits_count(&gb) + 7) >> 3;
771 }
772
773 /* return non zero if a packet could be constructed */
774 static int mpegts_push_data(MpegTSFilter *filter,
775                             const uint8_t *buf, int buf_size, int is_start,
776                             int64_t pos)
777 {
778     PESContext *pes = filter->u.pes_filter.opaque;
779     MpegTSContext *ts = pes->ts;
780     const uint8_t *p;
781     int len, code;
782
783     if(!ts->pkt)
784         return 0;
785
786     if (is_start) {
787         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
788             new_pes_packet(pes, ts->pkt);
789             ts->stop_parse = 1;
790         }
791         pes->state = MPEGTS_HEADER;
792         pes->data_index = 0;
793         pes->ts_packet_pos = pos;
794     }
795     p = buf;
796     while (buf_size > 0) {
797         switch(pes->state) {
798         case MPEGTS_HEADER:
799             len = PES_START_SIZE - pes->data_index;
800             if (len > buf_size)
801                 len = buf_size;
802             memcpy(pes->header + pes->data_index, p, len);
803             pes->data_index += len;
804             p += len;
805             buf_size -= len;
806             if (pes->data_index == PES_START_SIZE) {
807                 /* we got all the PES or section header. We can now
808                    decide */
809                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
810                     pes->header[2] == 0x01) {
811                     /* it must be an mpeg2 PES stream */
812                     code = pes->header[3] | 0x100;
813                     av_dlog(pes->stream, "pid=%x pes_code=%#x\n", pes->pid, code);
814
815                     if ((pes->st && pes->st->discard == AVDISCARD_ALL &&
816                          (!pes->sub_st || pes->sub_st->discard == AVDISCARD_ALL)) ||
817                         code == 0x1be) /* padding_stream */
818                         goto skip;
819
820                     /* stream not present in PMT */
821                     if (!pes->st) {
822                         pes->st = avformat_new_stream(ts->stream, NULL);
823                         if (!pes->st)
824                             return AVERROR(ENOMEM);
825                         pes->st->id = pes->pid;
826                         mpegts_set_stream_info(pes->st, pes, 0, 0);
827                     }
828
829                     pes->total_size = AV_RB16(pes->header + 4);
830                     /* NOTE: a zero total size means the PES size is
831                        unbounded */
832                     if (!pes->total_size)
833                         pes->total_size = MAX_PES_PAYLOAD;
834
835                     /* allocate pes buffer */
836                     pes->buffer = av_malloc(pes->total_size+FF_INPUT_BUFFER_PADDING_SIZE);
837                     if (!pes->buffer)
838                         return AVERROR(ENOMEM);
839
840                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
841                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
842                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
843                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
844                         pes->state = MPEGTS_PESHEADER;
845                         if (pes->st->codec->codec_id == AV_CODEC_ID_NONE && !pes->st->request_probe) {
846                             av_dlog(pes->stream, "pid=%x stream_type=%x probing\n",
847                                     pes->pid, pes->stream_type);
848                             pes->st->request_probe= 1;
849                         }
850                     } else {
851                         pes->state = MPEGTS_PAYLOAD;
852                         pes->data_index = 0;
853                     }
854                 } else {
855                     /* otherwise, it should be a table */
856                     /* skip packet */
857                 skip:
858                     pes->state = MPEGTS_SKIP;
859                     continue;
860                 }
861             }
862             break;
863             /**********************************************/
864             /* PES packing parsing */
865         case MPEGTS_PESHEADER:
866             len = PES_HEADER_SIZE - pes->data_index;
867             if (len < 0)
868                 return -1;
869             if (len > buf_size)
870                 len = buf_size;
871             memcpy(pes->header + pes->data_index, p, len);
872             pes->data_index += len;
873             p += len;
874             buf_size -= len;
875             if (pes->data_index == PES_HEADER_SIZE) {
876                 pes->pes_header_size = pes->header[8] + 9;
877                 pes->state = MPEGTS_PESHEADER_FILL;
878             }
879             break;
880         case MPEGTS_PESHEADER_FILL:
881             len = pes->pes_header_size - pes->data_index;
882             if (len < 0)
883                 return -1;
884             if (len > buf_size)
885                 len = buf_size;
886             memcpy(pes->header + pes->data_index, p, len);
887             pes->data_index += len;
888             p += len;
889             buf_size -= len;
890             if (pes->data_index == pes->pes_header_size) {
891                 const uint8_t *r;
892                 unsigned int flags, pes_ext, skip;
893
894                 flags = pes->header[7];
895                 r = pes->header + 9;
896                 pes->pts = AV_NOPTS_VALUE;
897                 pes->dts = AV_NOPTS_VALUE;
898                 if ((flags & 0xc0) == 0x80) {
899                     pes->dts = pes->pts = ff_parse_pes_pts(r);
900                     r += 5;
901                 } else if ((flags & 0xc0) == 0xc0) {
902                     pes->pts = ff_parse_pes_pts(r);
903                     r += 5;
904                     pes->dts = ff_parse_pes_pts(r);
905                     r += 5;
906                 }
907                 pes->extended_stream_id = -1;
908                 if (flags & 0x01) { /* PES extension */
909                     pes_ext = *r++;
910                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
911                     skip = (pes_ext >> 4) & 0xb;
912                     skip += skip & 0x9;
913                     r += skip;
914                     if ((pes_ext & 0x41) == 0x01 &&
915                         (r + 2) <= (pes->header + pes->pes_header_size)) {
916                         /* PES extension 2 */
917                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
918                             pes->extended_stream_id = r[1];
919                     }
920                 }
921
922                 /* we got the full header. We parse it and get the payload */
923                 pes->state = MPEGTS_PAYLOAD;
924                 pes->data_index = 0;
925                 if (pes->stream_type == 0x12 && buf_size > 0) {
926                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p, buf_size);
927                     pes->pes_header_size += sl_header_bytes;
928                     p += sl_header_bytes;
929                     buf_size -= sl_header_bytes;
930                 }
931             }
932             break;
933         case MPEGTS_PAYLOAD:
934             if (buf_size > 0 && pes->buffer) {
935                 if (pes->data_index > 0 && pes->data_index+buf_size > pes->total_size) {
936                     new_pes_packet(pes, ts->pkt);
937                     pes->total_size = MAX_PES_PAYLOAD;
938                     pes->buffer = av_malloc(pes->total_size+FF_INPUT_BUFFER_PADDING_SIZE);
939                     if (!pes->buffer)
940                         return AVERROR(ENOMEM);
941                     ts->stop_parse = 1;
942                 } else if (pes->data_index == 0 && buf_size > pes->total_size) {
943                     // pes packet size is < ts size packet and pes data is padded with 0xff
944                     // not sure if this is legal in ts but see issue #2392
945                     buf_size = pes->total_size;
946                 }
947                 memcpy(pes->buffer+pes->data_index, p, buf_size);
948                 pes->data_index += buf_size;
949             }
950             buf_size = 0;
951             /* emit complete packets with known packet size
952              * decreases demuxer delay for infrequent packets like subtitles from
953              * a couple of seconds to milliseconds for properly muxed files.
954              * total_size is the number of bytes following pes_packet_length
955              * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
956             if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
957                 pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
958                 ts->stop_parse = 1;
959                 new_pes_packet(pes, ts->pkt);
960             }
961             break;
962         case MPEGTS_SKIP:
963             buf_size = 0;
964             break;
965         }
966     }
967
968     return 0;
969 }
970
971 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
972 {
973     MpegTSFilter *tss;
974     PESContext *pes;
975
976     /* if no pid found, then add a pid context */
977     pes = av_mallocz(sizeof(PESContext));
978     if (!pes)
979         return 0;
980     pes->ts = ts;
981     pes->stream = ts->stream;
982     pes->pid = pid;
983     pes->pcr_pid = pcr_pid;
984     pes->state = MPEGTS_SKIP;
985     pes->pts = AV_NOPTS_VALUE;
986     pes->dts = AV_NOPTS_VALUE;
987     tss = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
988     if (!tss) {
989         av_free(pes);
990         return 0;
991     }
992     return pes;
993 }
994
995 #define MAX_LEVEL 4
996 typedef struct {
997     AVFormatContext *s;
998     AVIOContext pb;
999     Mp4Descr *descr;
1000     Mp4Descr *active_descr;
1001     int descr_count;
1002     int max_descr_count;
1003     int level;
1004 } MP4DescrParseContext;
1005
1006 static int init_MP4DescrParseContext(
1007     MP4DescrParseContext *d, AVFormatContext *s, const uint8_t *buf,
1008     unsigned size, Mp4Descr *descr, int max_descr_count)
1009 {
1010     int ret;
1011     if (size > (1<<30))
1012         return AVERROR_INVALIDDATA;
1013
1014     if ((ret = ffio_init_context(&d->pb, (unsigned char*)buf, size, 0,
1015                           NULL, NULL, NULL, NULL)) < 0)
1016         return ret;
1017
1018     d->s = s;
1019     d->level = 0;
1020     d->descr_count = 0;
1021     d->descr = descr;
1022     d->active_descr = NULL;
1023     d->max_descr_count = max_descr_count;
1024
1025     return 0;
1026 }
1027
1028 static void update_offsets(AVIOContext *pb, int64_t *off, int *len) {
1029     int64_t new_off = avio_tell(pb);
1030     (*len) -= new_off - *off;
1031     *off = new_off;
1032 }
1033
1034 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1035                            int target_tag);
1036
1037 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1038 {
1039     while (len > 0) {
1040         if (parse_mp4_descr(d, off, len, 0) < 0)
1041             return -1;
1042         update_offsets(&d->pb, &off, &len);
1043     }
1044     return 0;
1045 }
1046
1047 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1048 {
1049     avio_rb16(&d->pb); // ID
1050     avio_r8(&d->pb);
1051     avio_r8(&d->pb);
1052     avio_r8(&d->pb);
1053     avio_r8(&d->pb);
1054     avio_r8(&d->pb);
1055     update_offsets(&d->pb, &off, &len);
1056     return parse_mp4_descr_arr(d, off, len);
1057 }
1058
1059 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1060 {
1061     int id_flags;
1062     if (len < 2)
1063         return 0;
1064     id_flags = avio_rb16(&d->pb);
1065     if (!(id_flags & 0x0020)) { //URL_Flag
1066         update_offsets(&d->pb, &off, &len);
1067         return parse_mp4_descr_arr(d, off, len); //ES_Descriptor[]
1068     } else {
1069         return 0;
1070     }
1071 }
1072
1073 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1074 {
1075     int es_id = 0;
1076     if (d->descr_count >= d->max_descr_count)
1077         return -1;
1078     ff_mp4_parse_es_descr(&d->pb, &es_id);
1079     d->active_descr = d->descr + (d->descr_count++);
1080
1081     d->active_descr->es_id = es_id;
1082     update_offsets(&d->pb, &off, &len);
1083     parse_mp4_descr(d, off, len, MP4DecConfigDescrTag);
1084     update_offsets(&d->pb, &off, &len);
1085     if (len > 0)
1086         parse_mp4_descr(d, off, len, MP4SLDescrTag);
1087     d->active_descr = NULL;
1088     return 0;
1089 }
1090
1091 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1092 {
1093     Mp4Descr *descr = d->active_descr;
1094     if (!descr)
1095         return -1;
1096     d->active_descr->dec_config_descr = av_malloc(len);
1097     if (!descr->dec_config_descr)
1098         return AVERROR(ENOMEM);
1099     descr->dec_config_descr_len = len;
1100     avio_read(&d->pb, descr->dec_config_descr, len);
1101     return 0;
1102 }
1103
1104 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1105 {
1106     Mp4Descr *descr = d->active_descr;
1107     int predefined;
1108     if (!descr)
1109         return -1;
1110
1111     predefined = avio_r8(&d->pb);
1112     if (!predefined) {
1113         int lengths;
1114         int flags = avio_r8(&d->pb);
1115         descr->sl.use_au_start       = !!(flags & 0x80);
1116         descr->sl.use_au_end         = !!(flags & 0x40);
1117         descr->sl.use_rand_acc_pt    = !!(flags & 0x20);
1118         descr->sl.use_padding        = !!(flags & 0x08);
1119         descr->sl.use_timestamps     = !!(flags & 0x04);
1120         descr->sl.use_idle           = !!(flags & 0x02);
1121         descr->sl.timestamp_res      = avio_rb32(&d->pb);
1122                                        avio_rb32(&d->pb);
1123         descr->sl.timestamp_len      = avio_r8(&d->pb);
1124         descr->sl.ocr_len            = avio_r8(&d->pb);
1125         descr->sl.au_len             = avio_r8(&d->pb);
1126         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1127         lengths                      = avio_rb16(&d->pb);
1128         descr->sl.degr_prior_len     = lengths >> 12;
1129         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1130         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1131     } else {
1132         av_log_missing_feature(d->s, "Predefined SLConfigDescriptor", 0);
1133     }
1134     return 0;
1135 }
1136
1137 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1138                            int target_tag) {
1139     int tag;
1140     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1141     update_offsets(&d->pb, &off, &len);
1142     if (len < 0 || len1 > len || len1 <= 0) {
1143         av_log(d->s, AV_LOG_ERROR, "Tag %x length violation new length %d bytes remaining %d\n", tag, len1, len);
1144         return -1;
1145     }
1146
1147     if (d->level++ >= MAX_LEVEL) {
1148         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1149         goto done;
1150     }
1151
1152     if (target_tag && tag != target_tag) {
1153         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag, target_tag);
1154         goto done;
1155     }
1156
1157     switch (tag) {
1158     case MP4IODescrTag:
1159         parse_MP4IODescrTag(d, off, len1);
1160         break;
1161     case MP4ODescrTag:
1162         parse_MP4ODescrTag(d, off, len1);
1163         break;
1164     case MP4ESDescrTag:
1165         parse_MP4ESDescrTag(d, off, len1);
1166         break;
1167     case MP4DecConfigDescrTag:
1168         parse_MP4DecConfigDescrTag(d, off, len1);
1169         break;
1170     case MP4SLDescrTag:
1171         parse_MP4SLDescrTag(d, off, len1);
1172         break;
1173     }
1174
1175 done:
1176     d->level--;
1177     avio_seek(&d->pb, off + len1, SEEK_SET);
1178     return 0;
1179 }
1180
1181 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1182                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1183 {
1184     MP4DescrParseContext d;
1185     if (init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count) < 0)
1186         return -1;
1187
1188     parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1189
1190     *descr_count = d.descr_count;
1191     return 0;
1192 }
1193
1194 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1195                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1196 {
1197     MP4DescrParseContext d;
1198     if (init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count) < 0)
1199         return -1;
1200
1201     parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1202
1203     *descr_count = d.descr_count;
1204     return 0;
1205 }
1206
1207 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1208 {
1209     MpegTSContext *ts = filter->u.section_filter.opaque;
1210     SectionHeader h;
1211     const uint8_t *p, *p_end;
1212     AVIOContext pb;
1213     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = {{ 0 }};
1214     int mp4_descr_count = 0;
1215     int i, pid;
1216     AVFormatContext *s = ts->stream;
1217
1218     p_end = section + section_len - 4;
1219     p = section;
1220     if (parse_section_header(&h, &p, p_end) < 0)
1221         return;
1222     if (h.tid != M4OD_TID)
1223         return;
1224
1225     mp4_read_od(s, p, (unsigned)(p_end - p), mp4_descr, &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1226
1227     for (pid = 0; pid < NB_PID_MAX; pid++) {
1228         if (!ts->pids[pid])
1229              continue;
1230         for (i = 0; i < mp4_descr_count; i++) {
1231             PESContext *pes;
1232             AVStream *st;
1233             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1234                 continue;
1235             if (!(ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES)) {
1236                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1237                 continue;
1238             }
1239             pes = ts->pids[pid]->u.pes_filter.opaque;
1240             st = pes->st;
1241             if (!st) {
1242                 continue;
1243             }
1244
1245             pes->sl = mp4_descr[i].sl;
1246
1247             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1248                               mp4_descr[i].dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1249             ff_mp4_read_dec_config_descr(s, st, &pb);
1250             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1251                 st->codec->extradata_size > 0)
1252                 st->need_parsing = 0;
1253             if (st->codec->codec_id == AV_CODEC_ID_H264 &&
1254                 st->codec->extradata_size > 0)
1255                 st->need_parsing = 0;
1256
1257             if (st->codec->codec_id <= AV_CODEC_ID_NONE) {
1258             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_AUDIO) {
1259                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
1260             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_SUBTITLE) {
1261                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1262             } else if (st->codec->codec_id < AV_CODEC_ID_FIRST_UNKNOWN) {
1263                 st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
1264             }
1265         }
1266     }
1267     for (i = 0; i < mp4_descr_count; i++)
1268         av_free(mp4_descr[i].dec_config_descr);
1269 }
1270
1271 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1272                               const uint8_t **pp, const uint8_t *desc_list_end,
1273                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1274                               MpegTSContext *ts)
1275 {
1276     const uint8_t *desc_end;
1277     int desc_len, desc_tag, desc_es_id;
1278     char language[252];
1279     int i;
1280
1281     desc_tag = get8(pp, desc_list_end);
1282     if (desc_tag < 0)
1283         return -1;
1284     desc_len = get8(pp, desc_list_end);
1285     if (desc_len < 0)
1286         return -1;
1287     desc_end = *pp + desc_len;
1288     if (desc_end > desc_list_end)
1289         return -1;
1290
1291     av_dlog(fc, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1292
1293     if (st->codec->codec_id == AV_CODEC_ID_NONE &&
1294         stream_type == STREAM_TYPE_PRIVATE_DATA)
1295         mpegts_find_stream_type(st, desc_tag, DESC_types);
1296
1297     switch(desc_tag) {
1298     case 0x1E: /* SL descriptor */
1299         desc_es_id = get16(pp, desc_end);
1300         if (ts && ts->pids[pid])
1301             ts->pids[pid]->es_id = desc_es_id;
1302         for (i = 0; i < mp4_descr_count; i++)
1303         if (mp4_descr[i].dec_config_descr_len &&
1304             mp4_descr[i].es_id == desc_es_id) {
1305             AVIOContext pb;
1306             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1307                           mp4_descr[i].dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1308             ff_mp4_read_dec_config_descr(fc, st, &pb);
1309             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1310                 st->codec->extradata_size > 0)
1311                 st->need_parsing = 0;
1312             if (st->codec->codec_id == AV_CODEC_ID_MPEG4SYSTEMS)
1313                 mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1314         }
1315         break;
1316     case 0x1F: /* FMC descriptor */
1317         get16(pp, desc_end);
1318         if (mp4_descr_count > 0 && (st->codec->codec_id == AV_CODEC_ID_AAC_LATM || st->request_probe>0) &&
1319             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1320             AVIOContext pb;
1321             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1322                           mp4_descr->dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1323             ff_mp4_read_dec_config_descr(fc, st, &pb);
1324             if (st->codec->codec_id == AV_CODEC_ID_AAC &&
1325                 st->codec->extradata_size > 0){
1326                 st->request_probe= st->need_parsing = 0;
1327                 st->codec->codec_type= AVMEDIA_TYPE_AUDIO;
1328             }
1329         }
1330         break;
1331     case 0x56: /* DVB teletext descriptor */
1332         language[0] = get8(pp, desc_end);
1333         language[1] = get8(pp, desc_end);
1334         language[2] = get8(pp, desc_end);
1335         language[3] = 0;
1336         av_dict_set(&st->metadata, "language", language, 0);
1337         break;
1338     case 0x59: /* subtitling descriptor */
1339         language[0] = get8(pp, desc_end);
1340         language[1] = get8(pp, desc_end);
1341         language[2] = get8(pp, desc_end);
1342         language[3] = 0;
1343         /* hearing impaired subtitles detection */
1344         switch(get8(pp, desc_end)) {
1345         case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1346         case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1347         case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1348         case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1349         case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1350         case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1351             st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1352             break;
1353         }
1354         if (st->codec->extradata) {
1355             if (st->codec->extradata_size == 4 && memcmp(st->codec->extradata, *pp, 4))
1356                 av_log_ask_for_sample(fc, "DVB sub with multiple IDs\n");
1357         } else {
1358             st->codec->extradata = av_malloc(4 + FF_INPUT_BUFFER_PADDING_SIZE);
1359             if (st->codec->extradata) {
1360                 st->codec->extradata_size = 4;
1361                 memcpy(st->codec->extradata, *pp, 4);
1362             }
1363         }
1364         *pp += 4;
1365         av_dict_set(&st->metadata, "language", language, 0);
1366         break;
1367     case 0x0a: /* ISO 639 language descriptor */
1368         for (i = 0; i + 4 <= desc_len; i += 4) {
1369             language[i + 0] = get8(pp, desc_end);
1370             language[i + 1] = get8(pp, desc_end);
1371             language[i + 2] = get8(pp, desc_end);
1372             language[i + 3] = ',';
1373         switch (get8(pp, desc_end)) {
1374             case 0x01: st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS; break;
1375             case 0x02: st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED; break;
1376             case 0x03: st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED; break;
1377         }
1378         }
1379         if (i) {
1380             language[i - 1] = 0;
1381             av_dict_set(&st->metadata, "language", language, 0);
1382         }
1383         break;
1384     case 0x05: /* registration descriptor */
1385         st->codec->codec_tag = bytestream_get_le32(pp);
1386         av_dlog(fc, "reg_desc=%.4s\n", (char*)&st->codec->codec_tag);
1387         if (st->codec->codec_id == AV_CODEC_ID_NONE)
1388             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
1389         break;
1390     case 0x52: /* stream identifier descriptor */
1391         st->stream_identifier = 1 + get8(pp, desc_end);
1392         break;
1393     default:
1394         break;
1395     }
1396     *pp = desc_end;
1397     return 0;
1398 }
1399
1400 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1401 {
1402     MpegTSContext *ts = filter->u.section_filter.opaque;
1403     SectionHeader h1, *h = &h1;
1404     PESContext *pes;
1405     AVStream *st;
1406     const uint8_t *p, *p_end, *desc_list_end;
1407     int program_info_length, pcr_pid, pid, stream_type;
1408     int desc_list_len;
1409     uint32_t prog_reg_desc = 0; /* registration descriptor */
1410
1411     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = {{ 0 }};
1412     int mp4_descr_count = 0;
1413     int i;
1414
1415     av_dlog(ts->stream, "PMT: len %i\n", section_len);
1416     hex_dump_debug(ts->stream, (uint8_t *)section, section_len);
1417
1418     p_end = section + section_len - 4;
1419     p = section;
1420     if (parse_section_header(h, &p, p_end) < 0)
1421         return;
1422
1423     av_dlog(ts->stream, "sid=0x%x sec_num=%d/%d\n",
1424            h->id, h->sec_num, h->last_sec_num);
1425
1426     if (h->tid != PMT_TID)
1427         return;
1428
1429     clear_program(ts, h->id);
1430     pcr_pid = get16(&p, p_end);
1431     if (pcr_pid < 0)
1432         return;
1433     pcr_pid &= 0x1fff;
1434     add_pid_to_pmt(ts, h->id, pcr_pid);
1435     set_pcr_pid(ts->stream, h->id, pcr_pid);
1436
1437     av_dlog(ts->stream, "pcr_pid=0x%x\n", pcr_pid);
1438
1439     program_info_length = get16(&p, p_end);
1440     if (program_info_length < 0)
1441         return;
1442     program_info_length &= 0xfff;
1443     while(program_info_length >= 2) {
1444         uint8_t tag, len;
1445         tag = get8(&p, p_end);
1446         len = get8(&p, p_end);
1447
1448         av_dlog(ts->stream, "program tag: 0x%02x len=%d\n", tag, len);
1449
1450         if(len > program_info_length - 2)
1451             //something else is broken, exit the program_descriptors_loop
1452             break;
1453         program_info_length -= len + 2;
1454         if (tag == 0x1d) { // IOD descriptor
1455             get8(&p, p_end); // scope
1456             get8(&p, p_end); // label
1457             len -= 2;
1458             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1459                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1460         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1461             prog_reg_desc = bytestream_get_le32(&p);
1462             len -= 4;
1463         }
1464         p += len;
1465     }
1466     p += program_info_length;
1467     if (p >= p_end)
1468         goto out;
1469
1470     // stop parsing after pmt, we found header
1471     if (!ts->stream->nb_streams)
1472         ts->stop_parse = 2;
1473
1474     for(;;) {
1475         st = 0;
1476         pes = NULL;
1477         stream_type = get8(&p, p_end);
1478         if (stream_type < 0)
1479             break;
1480         pid = get16(&p, p_end);
1481         if (pid < 0)
1482             break;
1483         pid &= 0x1fff;
1484
1485         /* now create stream */
1486         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1487             pes = ts->pids[pid]->u.pes_filter.opaque;
1488             if (!pes->st) {
1489                 pes->st = avformat_new_stream(pes->stream, NULL);
1490                 pes->st->id = pes->pid;
1491             }
1492             st = pes->st;
1493         } else if (stream_type != 0x13) {
1494             if (ts->pids[pid]) mpegts_close_filter(ts, ts->pids[pid]); //wrongly added sdt filter probably
1495             pes = add_pes_stream(ts, pid, pcr_pid);
1496             if (pes) {
1497                 st = avformat_new_stream(pes->stream, NULL);
1498                 st->id = pes->pid;
1499             }
1500         } else {
1501             int idx = ff_find_stream_index(ts->stream, pid);
1502             if (idx >= 0) {
1503                 st = ts->stream->streams[idx];
1504             } else {
1505                 st = avformat_new_stream(ts->stream, NULL);
1506                 st->id = pid;
1507                 st->codec->codec_type = AVMEDIA_TYPE_DATA;
1508             }
1509         }
1510
1511         if (!st)
1512             goto out;
1513
1514         if (pes && !pes->stream_type)
1515             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1516
1517         add_pid_to_pmt(ts, h->id, pid);
1518
1519         ff_program_add_stream_index(ts->stream, h->id, st->index);
1520
1521         desc_list_len = get16(&p, p_end);
1522         if (desc_list_len < 0)
1523             break;
1524         desc_list_len &= 0xfff;
1525         desc_list_end = p + desc_list_len;
1526         if (desc_list_end > p_end)
1527             break;
1528         for(;;) {
1529             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p, desc_list_end,
1530                 mp4_descr, mp4_descr_count, pid, ts) < 0)
1531                 break;
1532
1533             if (pes && prog_reg_desc == AV_RL32("HDMV") && stream_type == 0x83 && pes->sub_st) {
1534                 ff_program_add_stream_index(ts->stream, h->id, pes->sub_st->index);
1535                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1536             }
1537         }
1538         p = desc_list_end;
1539     }
1540
1541  out:
1542     for (i = 0; i < mp4_descr_count; i++)
1543         av_free(mp4_descr[i].dec_config_descr);
1544 }
1545
1546 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1547 {
1548     MpegTSContext *ts = filter->u.section_filter.opaque;
1549     SectionHeader h1, *h = &h1;
1550     const uint8_t *p, *p_end;
1551     int sid, pmt_pid;
1552     AVProgram *program;
1553
1554     av_dlog(ts->stream, "PAT:\n");
1555     hex_dump_debug(ts->stream, (uint8_t *)section, section_len);
1556
1557     p_end = section + section_len - 4;
1558     p = section;
1559     if (parse_section_header(h, &p, p_end) < 0)
1560         return;
1561     if (h->tid != PAT_TID)
1562         return;
1563
1564     ts->stream->ts_id = h->id;
1565
1566     clear_programs(ts);
1567     for(;;) {
1568         sid = get16(&p, p_end);
1569         if (sid < 0)
1570             break;
1571         pmt_pid = get16(&p, p_end);
1572         if (pmt_pid < 0)
1573             break;
1574         pmt_pid &= 0x1fff;
1575
1576         av_dlog(ts->stream, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
1577
1578         if (sid == 0x0000) {
1579             /* NIT info */
1580         } else {
1581             program = av_new_program(ts->stream, sid);
1582             program->program_num = sid;
1583             program->pmt_pid = pmt_pid;
1584             if (ts->pids[pmt_pid])
1585                 mpegts_close_filter(ts, ts->pids[pmt_pid]);
1586             mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
1587             add_pat_entry(ts, sid);
1588             add_pid_to_pmt(ts, sid, 0); //add pat pid to program
1589             add_pid_to_pmt(ts, sid, pmt_pid);
1590         }
1591     }
1592 }
1593
1594 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1595 {
1596     MpegTSContext *ts = filter->u.section_filter.opaque;
1597     SectionHeader h1, *h = &h1;
1598     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
1599     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
1600     char *name, *provider_name;
1601
1602     av_dlog(ts->stream, "SDT:\n");
1603     hex_dump_debug(ts->stream, (uint8_t *)section, section_len);
1604
1605     p_end = section + section_len - 4;
1606     p = section;
1607     if (parse_section_header(h, &p, p_end) < 0)
1608         return;
1609     if (h->tid != SDT_TID)
1610         return;
1611     onid = get16(&p, p_end);
1612     if (onid < 0)
1613         return;
1614     val = get8(&p, p_end);
1615     if (val < 0)
1616         return;
1617     for(;;) {
1618         sid = get16(&p, p_end);
1619         if (sid < 0)
1620             break;
1621         val = get8(&p, p_end);
1622         if (val < 0)
1623             break;
1624         desc_list_len = get16(&p, p_end);
1625         if (desc_list_len < 0)
1626             break;
1627         desc_list_len &= 0xfff;
1628         desc_list_end = p + desc_list_len;
1629         if (desc_list_end > p_end)
1630             break;
1631         for(;;) {
1632             desc_tag = get8(&p, desc_list_end);
1633             if (desc_tag < 0)
1634                 break;
1635             desc_len = get8(&p, desc_list_end);
1636             desc_end = p + desc_len;
1637             if (desc_end > desc_list_end)
1638                 break;
1639
1640             av_dlog(ts->stream, "tag: 0x%02x len=%d\n",
1641                    desc_tag, desc_len);
1642
1643             switch(desc_tag) {
1644             case 0x48:
1645                 service_type = get8(&p, p_end);
1646                 if (service_type < 0)
1647                     break;
1648                 provider_name = getstr8(&p, p_end);
1649                 if (!provider_name)
1650                     break;
1651                 name = getstr8(&p, p_end);
1652                 if (name) {
1653                     AVProgram *program = av_new_program(ts->stream, sid);
1654                     if(program) {
1655                         av_dict_set(&program->metadata, "service_name", name, 0);
1656                         av_dict_set(&program->metadata, "service_provider", provider_name, 0);
1657                     }
1658                 }
1659                 av_free(name);
1660                 av_free(provider_name);
1661                 break;
1662             default:
1663                 break;
1664             }
1665             p = desc_end;
1666         }
1667         p = desc_list_end;
1668     }
1669 }
1670
1671 /* handle one TS packet */
1672 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
1673 {
1674     AVFormatContext *s = ts->stream;
1675     MpegTSFilter *tss;
1676     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
1677         has_adaptation, has_payload;
1678     const uint8_t *p, *p_end;
1679     int64_t pos;
1680
1681     pid = AV_RB16(packet + 1) & 0x1fff;
1682     if(pid && discard_pid(ts, pid))
1683         return 0;
1684     is_start = packet[1] & 0x40;
1685     tss = ts->pids[pid];
1686     if (ts->auto_guess && tss == NULL && is_start) {
1687         add_pes_stream(ts, pid, -1);
1688         tss = ts->pids[pid];
1689     }
1690     if (!tss)
1691         return 0;
1692
1693     afc = (packet[3] >> 4) & 3;
1694     if (afc == 0) /* reserved value */
1695         return 0;
1696     has_adaptation = afc & 2;
1697     has_payload = afc & 1;
1698     is_discontinuity = has_adaptation
1699                 && packet[4] != 0 /* with length > 0 */
1700                 && (packet[5] & 0x80); /* and discontinuity indicated */
1701
1702     /* continuity check (currently not used) */
1703     cc = (packet[3] & 0xf);
1704     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
1705     cc_ok = pid == 0x1FFF // null packet PID
1706             || is_discontinuity
1707             || tss->last_cc < 0
1708             || expected_cc == cc;
1709
1710     tss->last_cc = cc;
1711     if (!cc_ok) {
1712         av_log(ts->stream, AV_LOG_DEBUG,
1713                "Continuity check failed for pid %d expected %d got %d\n",
1714                pid, expected_cc, cc);
1715         if(tss->type == MPEGTS_PES) {
1716             PESContext *pc = tss->u.pes_filter.opaque;
1717             pc->flags |= AV_PKT_FLAG_CORRUPT;
1718         }
1719     }
1720
1721     if (!has_payload)
1722         return 0;
1723     p = packet + 4;
1724     if (has_adaptation) {
1725         /* skip adaptation field */
1726         p += p[0] + 1;
1727     }
1728     /* if past the end of packet, ignore */
1729     p_end = packet + TS_PACKET_SIZE;
1730     if (p >= p_end)
1731         return 0;
1732
1733     pos = avio_tell(ts->stream->pb);
1734     ts->pos47= pos % ts->raw_packet_size;
1735
1736     if (tss->type == MPEGTS_SECTION) {
1737         if (is_start) {
1738             /* pointer field present */
1739             len = *p++;
1740             if (p + len > p_end)
1741                 return 0;
1742             if (len && cc_ok) {
1743                 /* write remaining section bytes */
1744                 write_section_data(s, tss,
1745                                    p, len, 0);
1746                 /* check whether filter has been closed */
1747                 if (!ts->pids[pid])
1748                     return 0;
1749             }
1750             p += len;
1751             if (p < p_end) {
1752                 write_section_data(s, tss,
1753                                    p, p_end - p, 1);
1754             }
1755         } else {
1756             if (cc_ok) {
1757                 write_section_data(s, tss,
1758                                    p, p_end - p, 0);
1759             }
1760         }
1761     } else {
1762         int ret;
1763         // Note: The position here points actually behind the current packet.
1764         if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
1765                                             pos - ts->raw_packet_size)) < 0)
1766             return ret;
1767     }
1768
1769     return 0;
1770 }
1771
1772 /* XXX: try to find a better synchro over several packets (use
1773    get_packet_size() ?) */
1774 static int mpegts_resync(AVFormatContext *s)
1775 {
1776     AVIOContext *pb = s->pb;
1777     int c, i;
1778
1779     for(i = 0;i < MAX_RESYNC_SIZE; i++) {
1780         c = avio_r8(pb);
1781         if (url_feof(pb))
1782             return -1;
1783         if (c == 0x47) {
1784             avio_seek(pb, -1, SEEK_CUR);
1785             return 0;
1786         }
1787     }
1788     av_log(s, AV_LOG_ERROR, "max resync size reached, could not find sync byte\n");
1789     /* no sync found */
1790     return -1;
1791 }
1792
1793 /* return -1 if error or EOF. Return 0 if OK. */
1794 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size)
1795 {
1796     AVIOContext *pb = s->pb;
1797     int skip, len;
1798
1799     for(;;) {
1800         len = avio_read(pb, buf, TS_PACKET_SIZE);
1801         if (len != TS_PACKET_SIZE)
1802             return len < 0 ? len : AVERROR_EOF;
1803         /* check packet sync byte */
1804         if (buf[0] != 0x47) {
1805             /* find a new packet start */
1806             avio_seek(pb, -TS_PACKET_SIZE, SEEK_CUR);
1807             if (mpegts_resync(s) < 0)
1808                 return AVERROR(EAGAIN);
1809             else
1810                 continue;
1811         } else {
1812             skip = raw_packet_size - TS_PACKET_SIZE;
1813             if (skip > 0)
1814                 avio_skip(pb, skip);
1815             break;
1816         }
1817     }
1818     return 0;
1819 }
1820
1821 static int handle_packets(MpegTSContext *ts, int nb_packets)
1822 {
1823     AVFormatContext *s = ts->stream;
1824     uint8_t packet[TS_PACKET_SIZE + FF_INPUT_BUFFER_PADDING_SIZE];
1825     int packet_num, ret = 0;
1826
1827     if (avio_tell(s->pb) != ts->last_pos) {
1828         int i;
1829         av_dlog(ts->stream, "Skipping after seek\n");
1830         /* seek detected, flush pes buffer */
1831         for (i = 0; i < NB_PID_MAX; i++) {
1832             if (ts->pids[i]) {
1833                 if (ts->pids[i]->type == MPEGTS_PES) {
1834                    PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
1835                    av_freep(&pes->buffer);
1836                    pes->data_index = 0;
1837                    pes->state = MPEGTS_SKIP; /* skip until pes header */
1838                 }
1839                 ts->pids[i]->last_cc = -1;
1840             }
1841         }
1842     }
1843
1844     ts->stop_parse = 0;
1845     packet_num = 0;
1846     memset(packet + TS_PACKET_SIZE, 0, FF_INPUT_BUFFER_PADDING_SIZE);
1847     for(;;) {
1848         packet_num++;
1849         if (nb_packets != 0 && packet_num >= nb_packets ||
1850             ts->stop_parse > 1) {
1851             ret = AVERROR(EAGAIN);
1852             break;
1853         }
1854         if (ts->stop_parse > 0)
1855             break;
1856
1857         ret = read_packet(s, packet, ts->raw_packet_size);
1858         if (ret != 0)
1859             break;
1860         ret = handle_packet(ts, packet);
1861         if (ret != 0)
1862             break;
1863     }
1864     ts->last_pos = avio_tell(s->pb);
1865     return ret;
1866 }
1867
1868 static int mpegts_probe(AVProbeData *p)
1869 {
1870     const int size= p->buf_size;
1871     int score, fec_score, dvhs_score;
1872     int check_count= size / TS_FEC_PACKET_SIZE;
1873 #define CHECK_COUNT 10
1874
1875     if (check_count < CHECK_COUNT)
1876         return -1;
1877
1878     score     = analyze(p->buf, TS_PACKET_SIZE     *check_count, TS_PACKET_SIZE     , NULL)*CHECK_COUNT/check_count;
1879     dvhs_score= analyze(p->buf, TS_DVHS_PACKET_SIZE*check_count, TS_DVHS_PACKET_SIZE, NULL)*CHECK_COUNT/check_count;
1880     fec_score = analyze(p->buf, TS_FEC_PACKET_SIZE *check_count, TS_FEC_PACKET_SIZE , NULL)*CHECK_COUNT/check_count;
1881 //    av_log(NULL, AV_LOG_DEBUG, "score: %d, dvhs_score: %d, fec_score: %d \n", score, dvhs_score, fec_score);
1882
1883 // we need a clear definition for the returned score otherwise things will become messy sooner or later
1884     if     (score > fec_score && score > dvhs_score && score > 6) return AVPROBE_SCORE_MAX + score     - CHECK_COUNT;
1885     else if(dvhs_score > score && dvhs_score > fec_score && dvhs_score > 6) return AVPROBE_SCORE_MAX + dvhs_score  - CHECK_COUNT;
1886     else if(                 fec_score > 6) return AVPROBE_SCORE_MAX + fec_score - CHECK_COUNT;
1887     else                                    return -1;
1888 }
1889
1890 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
1891    (-1) if not available */
1892 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
1893                      const uint8_t *packet)
1894 {
1895     int afc, len, flags;
1896     const uint8_t *p;
1897     unsigned int v;
1898
1899     afc = (packet[3] >> 4) & 3;
1900     if (afc <= 1)
1901         return -1;
1902     p = packet + 4;
1903     len = p[0];
1904     p++;
1905     if (len == 0)
1906         return -1;
1907     flags = *p++;
1908     len--;
1909     if (!(flags & 0x10))
1910         return -1;
1911     if (len < 6)
1912         return -1;
1913     v = AV_RB32(p);
1914     *ppcr_high = ((int64_t)v << 1) | (p[4] >> 7);
1915     *ppcr_low = ((p[4] & 1) << 8) | p[5];
1916     return 0;
1917 }
1918
1919 static int mpegts_read_header(AVFormatContext *s)
1920 {
1921     MpegTSContext *ts = s->priv_data;
1922     AVIOContext *pb = s->pb;
1923     uint8_t buf[8*1024]={0};
1924     int len;
1925     int64_t pos;
1926
1927     /* read the first 8192 bytes to get packet size */
1928     pos = avio_tell(pb);
1929     len = avio_read(pb, buf, sizeof(buf));
1930     ts->raw_packet_size = get_packet_size(buf, len);
1931     if (ts->raw_packet_size <= 0) {
1932         av_log(s, AV_LOG_WARNING, "Could not detect TS packet size, defaulting to non-FEC/DVHS\n");
1933         ts->raw_packet_size = TS_PACKET_SIZE;
1934     }
1935     ts->stream = s;
1936     ts->auto_guess = 0;
1937
1938     if (s->iformat == &ff_mpegts_demuxer) {
1939         /* normal demux */
1940
1941         /* first do a scan to get all the services */
1942         /* NOTE: We attempt to seek on non-seekable files as well, as the
1943          * probe buffer usually is big enough. Only warn if the seek failed
1944          * on files where the seek should work. */
1945         if (avio_seek(pb, pos, SEEK_SET) < 0)
1946             av_log(s, pb->seekable ? AV_LOG_ERROR : AV_LOG_INFO, "Unable to seek back to the start\n");
1947
1948         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
1949
1950         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
1951
1952         handle_packets(ts, s->probesize / ts->raw_packet_size);
1953         /* if could not find service, enable auto_guess */
1954
1955         ts->auto_guess = 1;
1956
1957         av_dlog(ts->stream, "tuning done\n");
1958
1959         s->ctx_flags |= AVFMTCTX_NOHEADER;
1960     } else {
1961         AVStream *st;
1962         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
1963         int64_t pcrs[2], pcr_h;
1964         int packet_count[2];
1965         uint8_t packet[TS_PACKET_SIZE];
1966
1967         /* only read packets */
1968
1969         st = avformat_new_stream(s, NULL);
1970         if (!st)
1971             goto fail;
1972         avpriv_set_pts_info(st, 60, 1, 27000000);
1973         st->codec->codec_type = AVMEDIA_TYPE_DATA;
1974         st->codec->codec_id = AV_CODEC_ID_MPEG2TS;
1975
1976         /* we iterate until we find two PCRs to estimate the bitrate */
1977         pcr_pid = -1;
1978         nb_pcrs = 0;
1979         nb_packets = 0;
1980         for(;;) {
1981             ret = read_packet(s, packet, ts->raw_packet_size);
1982             if (ret < 0)
1983                 return -1;
1984             pid = AV_RB16(packet + 1) & 0x1fff;
1985             if ((pcr_pid == -1 || pcr_pid == pid) &&
1986                 parse_pcr(&pcr_h, &pcr_l, packet) == 0) {
1987                 pcr_pid = pid;
1988                 packet_count[nb_pcrs] = nb_packets;
1989                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
1990                 nb_pcrs++;
1991                 if (nb_pcrs >= 2)
1992                     break;
1993             }
1994             nb_packets++;
1995         }
1996
1997         /* NOTE1: the bitrate is computed without the FEC */
1998         /* NOTE2: it is only the bitrate of the start of the stream */
1999         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
2000         ts->cur_pcr = pcrs[0] - ts->pcr_incr * packet_count[0];
2001         s->bit_rate = (TS_PACKET_SIZE * 8) * 27e6 / ts->pcr_incr;
2002         st->codec->bit_rate = s->bit_rate;
2003         st->start_time = ts->cur_pcr;
2004         av_dlog(ts->stream, "start=%0.3f pcr=%0.3f incr=%d\n",
2005                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
2006     }
2007
2008     avio_seek(pb, pos, SEEK_SET);
2009     return 0;
2010  fail:
2011     return -1;
2012 }
2013
2014 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
2015
2016 static int mpegts_raw_read_packet(AVFormatContext *s,
2017                                   AVPacket *pkt)
2018 {
2019     MpegTSContext *ts = s->priv_data;
2020     int ret, i;
2021     int64_t pcr_h, next_pcr_h, pos;
2022     int pcr_l, next_pcr_l;
2023     uint8_t pcr_buf[12];
2024
2025     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
2026         return AVERROR(ENOMEM);
2027     pkt->pos= avio_tell(s->pb);
2028     ret = read_packet(s, pkt->data, ts->raw_packet_size);
2029     if (ret < 0) {
2030         av_free_packet(pkt);
2031         return ret;
2032     }
2033     if (ts->mpeg2ts_compute_pcr) {
2034         /* compute exact PCR for each packet */
2035         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
2036             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
2037             pos = avio_tell(s->pb);
2038             for(i = 0; i < MAX_PACKET_READAHEAD; i++) {
2039                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
2040                 avio_read(s->pb, pcr_buf, 12);
2041                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
2042                     /* XXX: not precise enough */
2043                     ts->pcr_incr = ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2044                         (i + 1);
2045                     break;
2046                 }
2047             }
2048             avio_seek(s->pb, pos, SEEK_SET);
2049             /* no next PCR found: we use previous increment */
2050             ts->cur_pcr = pcr_h * 300 + pcr_l;
2051         }
2052         pkt->pts = ts->cur_pcr;
2053         pkt->duration = ts->pcr_incr;
2054         ts->cur_pcr += ts->pcr_incr;
2055     }
2056     pkt->stream_index = 0;
2057     return 0;
2058 }
2059
2060 static int mpegts_read_packet(AVFormatContext *s,
2061                               AVPacket *pkt)
2062 {
2063     MpegTSContext *ts = s->priv_data;
2064     int ret, i;
2065
2066     pkt->size = -1;
2067     ts->pkt = pkt;
2068     ret = handle_packets(ts, 0);
2069     if (ret < 0) {
2070         av_free_packet(ts->pkt);
2071         /* flush pes data left */
2072         for (i = 0; i < NB_PID_MAX; i++) {
2073             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2074                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2075                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2076                     new_pes_packet(pes, pkt);
2077                     pes->state = MPEGTS_SKIP;
2078                     ret = 0;
2079                     break;
2080                 }
2081             }
2082         }
2083     }
2084
2085     if (!ret && pkt->size < 0)
2086         ret = AVERROR(EINTR);
2087     return ret;
2088 }
2089
2090 static int mpegts_read_close(AVFormatContext *s)
2091 {
2092     MpegTSContext *ts = s->priv_data;
2093     int i;
2094
2095     clear_programs(ts);
2096
2097     for(i=0;i<NB_PID_MAX;i++)
2098         if (ts->pids[i]) mpegts_close_filter(ts, ts->pids[i]);
2099
2100     return 0;
2101 }
2102
2103 static av_unused int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2104                               int64_t *ppos, int64_t pos_limit)
2105 {
2106     MpegTSContext *ts = s->priv_data;
2107     int64_t pos, timestamp;
2108     uint8_t buf[TS_PACKET_SIZE];
2109     int pcr_l, pcr_pid = ((PESContext*)s->streams[stream_index]->priv_data)->pcr_pid;
2110     pos = ((*ppos  + ts->raw_packet_size - 1 - ts->pos47) / ts->raw_packet_size) * ts->raw_packet_size + ts->pos47;
2111     while(pos < pos_limit) {
2112         if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2113             return AV_NOPTS_VALUE;
2114         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2115             return AV_NOPTS_VALUE;
2116         if (buf[0] != 0x47) {
2117             if (mpegts_resync(s) < 0)
2118                 return AV_NOPTS_VALUE;
2119             pos = avio_tell(s->pb);
2120             continue;
2121         }
2122         if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2123             parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2124             *ppos = pos;
2125             return timestamp;
2126         }
2127         pos += ts->raw_packet_size;
2128     }
2129
2130     return AV_NOPTS_VALUE;
2131 }
2132
2133 static int64_t mpegts_get_dts(AVFormatContext *s, int stream_index,
2134                               int64_t *ppos, int64_t pos_limit)
2135 {
2136     MpegTSContext *ts = s->priv_data;
2137     int64_t pos;
2138     pos = ((*ppos  + ts->raw_packet_size - 1 - ts->pos47) / ts->raw_packet_size) * ts->raw_packet_size + ts->pos47;
2139     ff_read_frame_flush(s);
2140     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
2141         return AV_NOPTS_VALUE;
2142     while(pos < pos_limit) {
2143         int ret;
2144         AVPacket pkt;
2145         av_init_packet(&pkt);
2146         ret= av_read_frame(s, &pkt);
2147         if(ret < 0)
2148             return AV_NOPTS_VALUE;
2149         av_free_packet(&pkt);
2150         if(pkt.dts != AV_NOPTS_VALUE && pkt.pos >= 0){
2151             ff_reduce_index(s, pkt.stream_index);
2152             av_add_index_entry(s->streams[pkt.stream_index], pkt.pos, pkt.dts, 0, 0, AVINDEX_KEYFRAME /* FIXME keyframe? */);
2153             if(pkt.stream_index == stream_index){
2154                 *ppos= pkt.pos;
2155                 return pkt.dts;
2156             }
2157         }
2158         pos = pkt.pos;
2159     }
2160
2161     return AV_NOPTS_VALUE;
2162 }
2163
2164 /**************************************************************/
2165 /* parsing functions - called from other demuxers such as RTP */
2166
2167 MpegTSContext *ff_mpegts_parse_open(AVFormatContext *s)
2168 {
2169     MpegTSContext *ts;
2170
2171     ts = av_mallocz(sizeof(MpegTSContext));
2172     if (!ts)
2173         return NULL;
2174     /* no stream case, currently used by RTP */
2175     ts->raw_packet_size = TS_PACKET_SIZE;
2176     ts->stream = s;
2177     ts->auto_guess = 1;
2178     mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
2179     mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
2180
2181     return ts;
2182 }
2183
2184 /* return the consumed length if a packet was output, or -1 if no
2185    packet is output */
2186 int ff_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2187                         const uint8_t *buf, int len)
2188 {
2189     int len1;
2190
2191     len1 = len;
2192     ts->pkt = pkt;
2193     for(;;) {
2194         ts->stop_parse = 0;
2195         if (len < TS_PACKET_SIZE)
2196             return -1;
2197         if (buf[0] != 0x47) {
2198             buf++;
2199             len--;
2200         } else {
2201             handle_packet(ts, buf);
2202             buf += TS_PACKET_SIZE;
2203             len -= TS_PACKET_SIZE;
2204             if (ts->stop_parse == 1)
2205                 break;
2206         }
2207     }
2208     return len1 - len;
2209 }
2210
2211 void ff_mpegts_parse_close(MpegTSContext *ts)
2212 {
2213     int i;
2214
2215     for(i=0;i<NB_PID_MAX;i++)
2216         av_free(ts->pids[i]);
2217     av_free(ts);
2218 }
2219
2220 AVInputFormat ff_mpegts_demuxer = {
2221     .name           = "mpegts",
2222     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-TS (MPEG-2 Transport Stream)"),
2223     .priv_data_size = sizeof(MpegTSContext),
2224     .read_probe     = mpegts_probe,
2225     .read_header    = mpegts_read_header,
2226     .read_packet    = mpegts_read_packet,
2227     .read_close     = mpegts_read_close,
2228     .read_timestamp = mpegts_get_dts,
2229     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2230 };
2231
2232 AVInputFormat ff_mpegtsraw_demuxer = {
2233     .name           = "mpegtsraw",
2234     .long_name      = NULL_IF_CONFIG_SMALL("raw MPEG-TS (MPEG-2 Transport Stream)"),
2235     .priv_data_size = sizeof(MpegTSContext),
2236     .read_header    = mpegts_read_header,
2237     .read_packet    = mpegts_raw_read_packet,
2238     .read_close     = mpegts_read_close,
2239     .read_timestamp = mpegts_get_dts,
2240     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2241     .priv_class     = &mpegtsraw_class,
2242 };