2222f25f02083f9c5f91bfffc0999c96c42f65e7
[ffmpeg.git] / libavformat / mpegts.c
1 /*
2  * MPEG2 transport stream (aka DVB) demuxer
3  * Copyright (c) 2002-2003 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 //#define USE_SYNCPOINT_SEARCH
23
24 #include "libavutil/crc.h"
25 #include "libavutil/intreadwrite.h"
26 #include "libavutil/log.h"
27 #include "libavutil/dict.h"
28 #include "libavutil/mathematics.h"
29 #include "libavutil/opt.h"
30 #include "libavcodec/bytestream.h"
31 #include "libavcodec/get_bits.h"
32 #include "avformat.h"
33 #include "mpegts.h"
34 #include "internal.h"
35 #include "avio_internal.h"
36 #include "seek.h"
37 #include "mpeg.h"
38 #include "isom.h"
39
40 /* maximum size in which we look for synchronisation if
41    synchronisation is lost */
42 #define MAX_RESYNC_SIZE 65536
43
44 #define MAX_PES_PAYLOAD 200*1024
45
46 #define MAX_MP4_DESCR_COUNT 16
47
48 enum MpegTSFilterType {
49     MPEGTS_PES,
50     MPEGTS_SECTION,
51 };
52
53 typedef struct MpegTSFilter MpegTSFilter;
54
55 typedef int PESCallback(MpegTSFilter *f, const uint8_t *buf, int len, int is_start, int64_t pos);
56
57 typedef struct MpegTSPESFilter {
58     PESCallback *pes_cb;
59     void *opaque;
60 } MpegTSPESFilter;
61
62 typedef void SectionCallback(MpegTSFilter *f, const uint8_t *buf, int len);
63
64 typedef void SetServiceCallback(void *opaque, int ret);
65
66 typedef struct MpegTSSectionFilter {
67     int section_index;
68     int section_h_size;
69     uint8_t *section_buf;
70     unsigned int check_crc:1;
71     unsigned int end_of_section_reached:1;
72     SectionCallback *section_cb;
73     void *opaque;
74 } MpegTSSectionFilter;
75
76 struct MpegTSFilter {
77     int pid;
78     int es_id;
79     int last_cc; /* last cc code (-1 if first packet) */
80     enum MpegTSFilterType type;
81     union {
82         MpegTSPESFilter pes_filter;
83         MpegTSSectionFilter section_filter;
84     } u;
85 };
86
87 #define MAX_PIDS_PER_PROGRAM 64
88 struct Program {
89     unsigned int id; //program id/service id
90     unsigned int nb_pids;
91     unsigned int pids[MAX_PIDS_PER_PROGRAM];
92 };
93
94 struct MpegTSContext {
95     const AVClass *class;
96     /* user data */
97     AVFormatContext *stream;
98     /** raw packet size, including FEC if present            */
99     int raw_packet_size;
100
101     int pos47;
102
103     /** if true, all pids are analyzed to find streams       */
104     int auto_guess;
105
106     /** compute exact PCR for each transport stream packet   */
107     int mpeg2ts_compute_pcr;
108
109     int64_t cur_pcr;    /**< used to estimate the exact PCR  */
110     int pcr_incr;       /**< used to estimate the exact PCR  */
111
112     /* data needed to handle file based ts */
113     /** stop parsing loop                                    */
114     int stop_parse;
115     /** packet containing Audio/Video data                   */
116     AVPacket *pkt;
117     /** to detect seek                                       */
118     int64_t last_pos;
119
120     /******************************************/
121     /* private mpegts data */
122     /* scan context */
123     /** structure to keep track of Program->pids mapping     */
124     unsigned int nb_prg;
125     struct Program *prg;
126
127
128     /** filters for various streams specified by PMT + for the PAT and PMT */
129     MpegTSFilter *pids[NB_PID_MAX];
130 };
131
132 static const AVOption options[] = {
133     {"compute_pcr", "Compute exact PCR for each transport stream packet.", offsetof(MpegTSContext, mpeg2ts_compute_pcr), AV_OPT_TYPE_INT,
134      {.dbl = 0}, 0, 1, AV_OPT_FLAG_DECODING_PARAM },
135     { NULL },
136 };
137
138 static const AVClass mpegtsraw_class = {
139     .class_name = "mpegtsraw demuxer",
140     .item_name  = av_default_item_name,
141     .option     = options,
142     .version    = LIBAVUTIL_VERSION_INT,
143 };
144
145 /* TS stream handling */
146
147 enum MpegTSState {
148     MPEGTS_HEADER = 0,
149     MPEGTS_PESHEADER,
150     MPEGTS_PESHEADER_FILL,
151     MPEGTS_PAYLOAD,
152     MPEGTS_SKIP,
153 };
154
155 /* enough for PES header + length */
156 #define PES_START_SIZE  6
157 #define PES_HEADER_SIZE 9
158 #define MAX_PES_HEADER_SIZE (9 + 255)
159
160 typedef struct PESContext {
161     int pid;
162     int pcr_pid; /**< if -1 then all packets containing PCR are considered */
163     int stream_type;
164     MpegTSContext *ts;
165     AVFormatContext *stream;
166     AVStream *st;
167     AVStream *sub_st; /**< stream for the embedded AC3 stream in HDMV TrueHD */
168     enum MpegTSState state;
169     /* used to get the format */
170     int data_index;
171     int flags; /**< copied to the AVPacket flags */
172     int total_size;
173     int pes_header_size;
174     int extended_stream_id;
175     int64_t pts, dts;
176     int64_t ts_packet_pos; /**< position of first TS packet of this PES packet */
177     uint8_t header[MAX_PES_HEADER_SIZE];
178     uint8_t *buffer;
179     SLConfigDescr sl;
180 } PESContext;
181
182 extern AVInputFormat ff_mpegts_demuxer;
183
184 static void clear_program(MpegTSContext *ts, unsigned int programid)
185 {
186     int i;
187
188     for(i=0; i<ts->nb_prg; i++)
189         if(ts->prg[i].id == programid)
190             ts->prg[i].nb_pids = 0;
191 }
192
193 static void clear_programs(MpegTSContext *ts)
194 {
195     av_freep(&ts->prg);
196     ts->nb_prg=0;
197 }
198
199 static void add_pat_entry(MpegTSContext *ts, unsigned int programid)
200 {
201     struct Program *p;
202     void *tmp = av_realloc(ts->prg, (ts->nb_prg+1)*sizeof(struct Program));
203     if(!tmp)
204         return;
205     ts->prg = tmp;
206     p = &ts->prg[ts->nb_prg];
207     p->id = programid;
208     p->nb_pids = 0;
209     ts->nb_prg++;
210 }
211
212 static void add_pid_to_pmt(MpegTSContext *ts, unsigned int programid, unsigned int pid)
213 {
214     int i;
215     struct Program *p = NULL;
216     for(i=0; i<ts->nb_prg; i++) {
217         if(ts->prg[i].id == programid) {
218             p = &ts->prg[i];
219             break;
220         }
221     }
222     if(!p)
223         return;
224
225     if(p->nb_pids >= MAX_PIDS_PER_PROGRAM)
226         return;
227     p->pids[p->nb_pids++] = pid;
228 }
229
230 /**
231  * @brief discard_pid() decides if the pid is to be discarded according
232  *                      to caller's programs selection
233  * @param ts    : - TS context
234  * @param pid   : - pid
235  * @return 1 if the pid is only comprised in programs that have .discard=AVDISCARD_ALL
236  *         0 otherwise
237  */
238 static int discard_pid(MpegTSContext *ts, unsigned int pid)
239 {
240     int i, j, k;
241     int used = 0, discarded = 0;
242     struct Program *p;
243     for(i=0; i<ts->nb_prg; i++) {
244         p = &ts->prg[i];
245         for(j=0; j<p->nb_pids; j++) {
246             if(p->pids[j] != pid)
247                 continue;
248             //is program with id p->id set to be discarded?
249             for(k=0; k<ts->stream->nb_programs; k++) {
250                 if(ts->stream->programs[k]->id == p->id) {
251                     if(ts->stream->programs[k]->discard == AVDISCARD_ALL)
252                         discarded++;
253                     else
254                         used++;
255                 }
256             }
257         }
258     }
259
260     return !used && discarded;
261 }
262
263 /**
264  *  Assemble PES packets out of TS packets, and then call the "section_cb"
265  *  function when they are complete.
266  */
267 static void write_section_data(AVFormatContext *s, MpegTSFilter *tss1,
268                                const uint8_t *buf, int buf_size, int is_start)
269 {
270     MpegTSSectionFilter *tss = &tss1->u.section_filter;
271     int len;
272
273     if (is_start) {
274         memcpy(tss->section_buf, buf, buf_size);
275         tss->section_index = buf_size;
276         tss->section_h_size = -1;
277         tss->end_of_section_reached = 0;
278     } else {
279         if (tss->end_of_section_reached)
280             return;
281         len = 4096 - tss->section_index;
282         if (buf_size < len)
283             len = buf_size;
284         memcpy(tss->section_buf + tss->section_index, buf, len);
285         tss->section_index += len;
286     }
287
288     /* compute section length if possible */
289     if (tss->section_h_size == -1 && tss->section_index >= 3) {
290         len = (AV_RB16(tss->section_buf + 1) & 0xfff) + 3;
291         if (len > 4096)
292             return;
293         tss->section_h_size = len;
294     }
295
296     if (tss->section_h_size != -1 && tss->section_index >= tss->section_h_size) {
297         tss->end_of_section_reached = 1;
298         if (!tss->check_crc ||
299             av_crc(av_crc_get_table(AV_CRC_32_IEEE), -1,
300                    tss->section_buf, tss->section_h_size) == 0)
301             tss->section_cb(tss1, tss->section_buf, tss->section_h_size);
302     }
303 }
304
305 static MpegTSFilter *mpegts_open_section_filter(MpegTSContext *ts, unsigned int pid,
306                                          SectionCallback *section_cb, void *opaque,
307                                          int check_crc)
308
309 {
310     MpegTSFilter *filter;
311     MpegTSSectionFilter *sec;
312
313     av_dlog(ts->stream, "Filter: pid=0x%x\n", pid);
314
315     if (pid >= NB_PID_MAX || ts->pids[pid])
316         return NULL;
317     filter = av_mallocz(sizeof(MpegTSFilter));
318     if (!filter)
319         return NULL;
320     ts->pids[pid] = filter;
321     filter->type = MPEGTS_SECTION;
322     filter->pid = pid;
323     filter->es_id = -1;
324     filter->last_cc = -1;
325     sec = &filter->u.section_filter;
326     sec->section_cb = section_cb;
327     sec->opaque = opaque;
328     sec->section_buf = av_malloc(MAX_SECTION_SIZE);
329     sec->check_crc = check_crc;
330     if (!sec->section_buf) {
331         av_free(filter);
332         return NULL;
333     }
334     return filter;
335 }
336
337 static MpegTSFilter *mpegts_open_pes_filter(MpegTSContext *ts, unsigned int pid,
338                                      PESCallback *pes_cb,
339                                      void *opaque)
340 {
341     MpegTSFilter *filter;
342     MpegTSPESFilter *pes;
343
344     if (pid >= NB_PID_MAX || ts->pids[pid])
345         return NULL;
346     filter = av_mallocz(sizeof(MpegTSFilter));
347     if (!filter)
348         return NULL;
349     ts->pids[pid] = filter;
350     filter->type = MPEGTS_PES;
351     filter->pid = pid;
352     filter->es_id = -1;
353     filter->last_cc = -1;
354     pes = &filter->u.pes_filter;
355     pes->pes_cb = pes_cb;
356     pes->opaque = opaque;
357     return filter;
358 }
359
360 static void mpegts_close_filter(MpegTSContext *ts, MpegTSFilter *filter)
361 {
362     int pid;
363
364     pid = filter->pid;
365     if (filter->type == MPEGTS_SECTION)
366         av_freep(&filter->u.section_filter.section_buf);
367     else if (filter->type == MPEGTS_PES) {
368         PESContext *pes = filter->u.pes_filter.opaque;
369         av_freep(&pes->buffer);
370         /* referenced private data will be freed later in
371          * avformat_close_input */
372         if (!((PESContext *)filter->u.pes_filter.opaque)->st) {
373             av_freep(&filter->u.pes_filter.opaque);
374         }
375     }
376
377     av_free(filter);
378     ts->pids[pid] = NULL;
379 }
380
381 static int analyze(const uint8_t *buf, int size, int packet_size, int *index){
382     int stat[TS_MAX_PACKET_SIZE];
383     int i;
384     int x=0;
385     int best_score=0;
386
387     memset(stat, 0, packet_size*sizeof(int));
388
389     for(x=i=0; i<size-3; i++){
390         if(buf[i] == 0x47 && !(buf[i+1] & 0x80) && (buf[i+3] & 0x30)){
391             stat[x]++;
392             if(stat[x] > best_score){
393                 best_score= stat[x];
394                 if(index) *index= x;
395             }
396         }
397
398         x++;
399         if(x == packet_size) x= 0;
400     }
401
402     return best_score;
403 }
404
405 /* autodetect fec presence. Must have at least 1024 bytes  */
406 static int get_packet_size(const uint8_t *buf, int size)
407 {
408     int score, fec_score, dvhs_score;
409
410     if (size < (TS_FEC_PACKET_SIZE * 5 + 1))
411         return -1;
412
413     score    = analyze(buf, size, TS_PACKET_SIZE, NULL);
414     dvhs_score    = analyze(buf, size, TS_DVHS_PACKET_SIZE, NULL);
415     fec_score= analyze(buf, size, TS_FEC_PACKET_SIZE, NULL);
416 //    av_log(NULL, AV_LOG_DEBUG, "score: %d, dvhs_score: %d, fec_score: %d \n", score, dvhs_score, fec_score);
417
418     if     (score > fec_score && score > dvhs_score) return TS_PACKET_SIZE;
419     else if(dvhs_score > score && dvhs_score > fec_score) return TS_DVHS_PACKET_SIZE;
420     else if(score < fec_score && dvhs_score < fec_score) return TS_FEC_PACKET_SIZE;
421     else                       return -1;
422 }
423
424 typedef struct SectionHeader {
425     uint8_t tid;
426     uint16_t id;
427     uint8_t version;
428     uint8_t sec_num;
429     uint8_t last_sec_num;
430 } SectionHeader;
431
432 static inline int get8(const uint8_t **pp, const uint8_t *p_end)
433 {
434     const uint8_t *p;
435     int c;
436
437     p = *pp;
438     if (p >= p_end)
439         return -1;
440     c = *p++;
441     *pp = p;
442     return c;
443 }
444
445 static inline int get16(const uint8_t **pp, const uint8_t *p_end)
446 {
447     const uint8_t *p;
448     int c;
449
450     p = *pp;
451     if ((p + 1) >= p_end)
452         return -1;
453     c = AV_RB16(p);
454     p += 2;
455     *pp = p;
456     return c;
457 }
458
459 /* read and allocate a DVB string preceded by its length */
460 static char *getstr8(const uint8_t **pp, const uint8_t *p_end)
461 {
462     int len;
463     const uint8_t *p;
464     char *str;
465
466     p = *pp;
467     len = get8(&p, p_end);
468     if (len < 0)
469         return NULL;
470     if ((p + len) > p_end)
471         return NULL;
472     str = av_malloc(len + 1);
473     if (!str)
474         return NULL;
475     memcpy(str, p, len);
476     str[len] = '\0';
477     p += len;
478     *pp = p;
479     return str;
480 }
481
482 static int parse_section_header(SectionHeader *h,
483                                 const uint8_t **pp, const uint8_t *p_end)
484 {
485     int val;
486
487     val = get8(pp, p_end);
488     if (val < 0)
489         return -1;
490     h->tid = val;
491     *pp += 2;
492     val = get16(pp, p_end);
493     if (val < 0)
494         return -1;
495     h->id = val;
496     val = get8(pp, p_end);
497     if (val < 0)
498         return -1;
499     h->version = (val >> 1) & 0x1f;
500     val = get8(pp, p_end);
501     if (val < 0)
502         return -1;
503     h->sec_num = val;
504     val = get8(pp, p_end);
505     if (val < 0)
506         return -1;
507     h->last_sec_num = val;
508     return 0;
509 }
510
511 typedef struct {
512     uint32_t stream_type;
513     enum AVMediaType codec_type;
514     enum CodecID codec_id;
515 } StreamType;
516
517 static const StreamType ISO_types[] = {
518     { 0x01, AVMEDIA_TYPE_VIDEO, CODEC_ID_MPEG2VIDEO },
519     { 0x02, AVMEDIA_TYPE_VIDEO, CODEC_ID_MPEG2VIDEO },
520     { 0x03, AVMEDIA_TYPE_AUDIO,        CODEC_ID_MP3 },
521     { 0x04, AVMEDIA_TYPE_AUDIO,        CODEC_ID_MP3 },
522     { 0x0f, AVMEDIA_TYPE_AUDIO,        CODEC_ID_AAC },
523     { 0x10, AVMEDIA_TYPE_VIDEO,      CODEC_ID_MPEG4 },
524     { 0x11, AVMEDIA_TYPE_AUDIO,   CODEC_ID_AAC_LATM }, /* LATM syntax */
525     { 0x1b, AVMEDIA_TYPE_VIDEO,       CODEC_ID_H264 },
526     { 0xd1, AVMEDIA_TYPE_VIDEO,      CODEC_ID_DIRAC },
527     { 0xea, AVMEDIA_TYPE_VIDEO,        CODEC_ID_VC1 },
528     { 0 },
529 };
530
531 static const StreamType HDMV_types[] = {
532     { 0x80, AVMEDIA_TYPE_AUDIO, CODEC_ID_PCM_BLURAY },
533     { 0x81, AVMEDIA_TYPE_AUDIO, CODEC_ID_AC3 },
534     { 0x82, AVMEDIA_TYPE_AUDIO, CODEC_ID_DTS },
535     { 0x83, AVMEDIA_TYPE_AUDIO, CODEC_ID_TRUEHD },
536     { 0x84, AVMEDIA_TYPE_AUDIO, CODEC_ID_EAC3 },
537     { 0x90, AVMEDIA_TYPE_SUBTITLE, CODEC_ID_HDMV_PGS_SUBTITLE },
538     { 0 },
539 };
540
541 /* ATSC ? */
542 static const StreamType MISC_types[] = {
543     { 0x81, AVMEDIA_TYPE_AUDIO,   CODEC_ID_AC3 },
544     { 0x8a, AVMEDIA_TYPE_AUDIO,   CODEC_ID_DTS },
545     { 0 },
546 };
547
548 static const StreamType REGD_types[] = {
549     { MKTAG('d','r','a','c'), AVMEDIA_TYPE_VIDEO, CODEC_ID_DIRAC },
550     { MKTAG('A','C','-','3'), AVMEDIA_TYPE_AUDIO,   CODEC_ID_AC3 },
551     { MKTAG('B','S','S','D'), AVMEDIA_TYPE_AUDIO, CODEC_ID_S302M },
552     { 0 },
553 };
554
555 /* descriptor present */
556 static const StreamType DESC_types[] = {
557     { 0x6a, AVMEDIA_TYPE_AUDIO,             CODEC_ID_AC3 }, /* AC-3 descriptor */
558     { 0x7a, AVMEDIA_TYPE_AUDIO,            CODEC_ID_EAC3 }, /* E-AC-3 descriptor */
559     { 0x7b, AVMEDIA_TYPE_AUDIO,             CODEC_ID_DTS },
560     { 0x56, AVMEDIA_TYPE_SUBTITLE, CODEC_ID_DVB_TELETEXT },
561     { 0x59, AVMEDIA_TYPE_SUBTITLE, CODEC_ID_DVB_SUBTITLE }, /* subtitling descriptor */
562     { 0 },
563 };
564
565 static void mpegts_find_stream_type(AVStream *st,
566                                     uint32_t stream_type, const StreamType *types)
567 {
568     for (; types->stream_type; types++) {
569         if (stream_type == types->stream_type) {
570             st->codec->codec_type = types->codec_type;
571             st->codec->codec_id   = types->codec_id;
572             return;
573         }
574     }
575 }
576
577 static int mpegts_set_stream_info(AVStream *st, PESContext *pes,
578                                   uint32_t stream_type, uint32_t prog_reg_desc)
579 {
580     avpriv_set_pts_info(st, 33, 1, 90000);
581     st->priv_data = pes;
582     st->codec->codec_type = AVMEDIA_TYPE_DATA;
583     st->codec->codec_id   = CODEC_ID_NONE;
584     st->need_parsing = AVSTREAM_PARSE_FULL;
585     pes->st = st;
586     pes->stream_type = stream_type;
587
588     av_log(pes->stream, AV_LOG_DEBUG,
589            "stream=%d stream_type=%x pid=%x prog_reg_desc=%.4s\n",
590            st->index, pes->stream_type, pes->pid, (char*)&prog_reg_desc);
591
592     st->codec->codec_tag = pes->stream_type;
593
594     mpegts_find_stream_type(st, pes->stream_type, ISO_types);
595     if (prog_reg_desc == AV_RL32("HDMV") &&
596         st->codec->codec_id == CODEC_ID_NONE) {
597         mpegts_find_stream_type(st, pes->stream_type, HDMV_types);
598         if (pes->stream_type == 0x83) {
599             // HDMV TrueHD streams also contain an AC3 coded version of the
600             // audio track - add a second stream for this
601             AVStream *sub_st;
602             // priv_data cannot be shared between streams
603             PESContext *sub_pes = av_malloc(sizeof(*sub_pes));
604             if (!sub_pes)
605                 return AVERROR(ENOMEM);
606             memcpy(sub_pes, pes, sizeof(*sub_pes));
607
608             sub_st = avformat_new_stream(pes->stream, NULL);
609             if (!sub_st) {
610                 av_free(sub_pes);
611                 return AVERROR(ENOMEM);
612             }
613
614             sub_st->id = pes->pid;
615             avpriv_set_pts_info(sub_st, 33, 1, 90000);
616             sub_st->priv_data = sub_pes;
617             sub_st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
618             sub_st->codec->codec_id   = CODEC_ID_AC3;
619             sub_st->need_parsing = AVSTREAM_PARSE_FULL;
620             sub_pes->sub_st = pes->sub_st = sub_st;
621         }
622     }
623     if (st->codec->codec_id == CODEC_ID_NONE)
624         mpegts_find_stream_type(st, pes->stream_type, MISC_types);
625
626     return 0;
627 }
628
629 static void new_pes_packet(PESContext *pes, AVPacket *pkt)
630 {
631     av_init_packet(pkt);
632
633     pkt->destruct = av_destruct_packet;
634     pkt->data = pes->buffer;
635     pkt->size = pes->data_index;
636
637     if(pes->total_size != MAX_PES_PAYLOAD &&
638        pes->pes_header_size + pes->data_index != pes->total_size + PES_START_SIZE) {
639         av_log(pes->stream, AV_LOG_WARNING, "PES packet size mismatch\n");
640         pes->flags |= AV_PKT_FLAG_CORRUPT;
641     }
642     memset(pkt->data+pkt->size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
643
644     // Separate out the AC3 substream from an HDMV combined TrueHD/AC3 PID
645     if (pes->sub_st && pes->stream_type == 0x83 && pes->extended_stream_id == 0x76)
646         pkt->stream_index = pes->sub_st->index;
647     else
648         pkt->stream_index = pes->st->index;
649     pkt->pts = pes->pts;
650     pkt->dts = pes->dts;
651     /* store position of first TS packet of this PES packet */
652     pkt->pos = pes->ts_packet_pos;
653     pkt->flags = pes->flags;
654
655     /* reset pts values */
656     pes->pts = AV_NOPTS_VALUE;
657     pes->dts = AV_NOPTS_VALUE;
658     pes->buffer = NULL;
659     pes->data_index = 0;
660     pes->flags = 0;
661 }
662
663 static uint64_t get_bits64(GetBitContext *gb, int bits)
664 {
665     uint64_t ret = 0;
666     while (bits > 17) {
667         ret <<= 17;
668         ret |= get_bits(gb, 17);
669         bits -= 17;
670     }
671     ret <<= bits;
672     ret |= get_bits(gb, bits);
673     return ret;
674 }
675
676 static int read_sl_header(PESContext *pes, SLConfigDescr *sl, const uint8_t *buf, int buf_size)
677 {
678     GetBitContext gb;
679     int au_start_flag = 0, au_end_flag = 0, ocr_flag = 0, idle_flag = 0;
680     int padding_flag = 0, padding_bits = 0, inst_bitrate_flag = 0;
681     int dts_flag = -1, cts_flag = -1;
682     int64_t dts = AV_NOPTS_VALUE, cts = AV_NOPTS_VALUE;
683     init_get_bits(&gb, buf, buf_size*8);
684
685     if (sl->use_au_start)
686         au_start_flag = get_bits1(&gb);
687     if (sl->use_au_end)
688         au_end_flag = get_bits1(&gb);
689     if (!sl->use_au_start && !sl->use_au_end)
690         au_start_flag = au_end_flag = 1;
691     if (sl->ocr_len > 0)
692         ocr_flag = get_bits1(&gb);
693     if (sl->use_idle)
694         idle_flag = get_bits1(&gb);
695     if (sl->use_padding)
696         padding_flag = get_bits1(&gb);
697     if (padding_flag)
698         padding_bits = get_bits(&gb, 3);
699
700     if (!idle_flag && (!padding_flag || padding_bits != 0)) {
701         if (sl->packet_seq_num_len)
702             skip_bits_long(&gb, sl->packet_seq_num_len);
703         if (sl->degr_prior_len)
704             if (get_bits1(&gb))
705                 skip_bits(&gb, sl->degr_prior_len);
706         if (ocr_flag)
707             skip_bits_long(&gb, sl->ocr_len);
708         if (au_start_flag) {
709             if (sl->use_rand_acc_pt)
710                 get_bits1(&gb);
711             if (sl->au_seq_num_len > 0)
712                 skip_bits_long(&gb, sl->au_seq_num_len);
713             if (sl->use_timestamps) {
714                 dts_flag = get_bits1(&gb);
715                 cts_flag = get_bits1(&gb);
716             }
717         }
718         if (sl->inst_bitrate_len)
719             inst_bitrate_flag = get_bits1(&gb);
720         if (dts_flag == 1)
721             dts = get_bits64(&gb, sl->timestamp_len);
722         if (cts_flag == 1)
723             cts = get_bits64(&gb, sl->timestamp_len);
724         if (sl->au_len > 0)
725             skip_bits_long(&gb, sl->au_len);
726         if (inst_bitrate_flag)
727             skip_bits_long(&gb, sl->inst_bitrate_len);
728     }
729
730     if (dts != AV_NOPTS_VALUE)
731         pes->dts = dts;
732     if (cts != AV_NOPTS_VALUE)
733         pes->pts = cts;
734
735     if (sl->timestamp_len && sl->timestamp_res)
736         avpriv_set_pts_info(pes->st, sl->timestamp_len, 1, sl->timestamp_res);
737
738     return (get_bits_count(&gb) + 7) >> 3;
739 }
740
741 /* return non zero if a packet could be constructed */
742 static int mpegts_push_data(MpegTSFilter *filter,
743                             const uint8_t *buf, int buf_size, int is_start,
744                             int64_t pos)
745 {
746     PESContext *pes = filter->u.pes_filter.opaque;
747     MpegTSContext *ts = pes->ts;
748     const uint8_t *p;
749     int len, code;
750
751     if(!ts->pkt)
752         return 0;
753
754     if (is_start) {
755         if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
756             new_pes_packet(pes, ts->pkt);
757             ts->stop_parse = 1;
758         }
759         pes->state = MPEGTS_HEADER;
760         pes->data_index = 0;
761         pes->ts_packet_pos = pos;
762     }
763     p = buf;
764     while (buf_size > 0) {
765         switch(pes->state) {
766         case MPEGTS_HEADER:
767             len = PES_START_SIZE - pes->data_index;
768             if (len > buf_size)
769                 len = buf_size;
770             memcpy(pes->header + pes->data_index, p, len);
771             pes->data_index += len;
772             p += len;
773             buf_size -= len;
774             if (pes->data_index == PES_START_SIZE) {
775                 /* we got all the PES or section header. We can now
776                    decide */
777                 if (pes->header[0] == 0x00 && pes->header[1] == 0x00 &&
778                     pes->header[2] == 0x01) {
779                     /* it must be an mpeg2 PES stream */
780                     code = pes->header[3] | 0x100;
781                     av_dlog(pes->stream, "pid=%x pes_code=%#x\n", pes->pid, code);
782
783                     if ((pes->st && pes->st->discard == AVDISCARD_ALL) ||
784                         code == 0x1be) /* padding_stream */
785                         goto skip;
786
787                     /* stream not present in PMT */
788                     if (!pes->st) {
789                         pes->st = avformat_new_stream(ts->stream, NULL);
790                         if (!pes->st)
791                             return AVERROR(ENOMEM);
792                         pes->st->id = pes->pid;
793                         mpegts_set_stream_info(pes->st, pes, 0, 0);
794                     }
795
796                     pes->total_size = AV_RB16(pes->header + 4);
797                     /* NOTE: a zero total size means the PES size is
798                        unbounded */
799                     if (!pes->total_size)
800                         pes->total_size = MAX_PES_PAYLOAD;
801
802                     /* allocate pes buffer */
803                     pes->buffer = av_malloc(pes->total_size+FF_INPUT_BUFFER_PADDING_SIZE);
804                     if (!pes->buffer)
805                         return AVERROR(ENOMEM);
806
807                     if (code != 0x1bc && code != 0x1bf && /* program_stream_map, private_stream_2 */
808                         code != 0x1f0 && code != 0x1f1 && /* ECM, EMM */
809                         code != 0x1ff && code != 0x1f2 && /* program_stream_directory, DSMCC_stream */
810                         code != 0x1f8) {                  /* ITU-T Rec. H.222.1 type E stream */
811                         pes->state = MPEGTS_PESHEADER;
812                         if (pes->st->codec->codec_id == CODEC_ID_NONE) {
813                             av_dlog(pes->stream, "pid=%x stream_type=%x probing\n",
814                                     pes->pid, pes->stream_type);
815                             pes->st->codec->codec_id = CODEC_ID_PROBE;
816                         }
817                     } else {
818                         pes->state = MPEGTS_PAYLOAD;
819                         pes->data_index = 0;
820                     }
821                 } else {
822                     /* otherwise, it should be a table */
823                     /* skip packet */
824                 skip:
825                     pes->state = MPEGTS_SKIP;
826                     continue;
827                 }
828             }
829             break;
830             /**********************************************/
831             /* PES packing parsing */
832         case MPEGTS_PESHEADER:
833             len = PES_HEADER_SIZE - pes->data_index;
834             if (len < 0)
835                 return -1;
836             if (len > buf_size)
837                 len = buf_size;
838             memcpy(pes->header + pes->data_index, p, len);
839             pes->data_index += len;
840             p += len;
841             buf_size -= len;
842             if (pes->data_index == PES_HEADER_SIZE) {
843                 pes->pes_header_size = pes->header[8] + 9;
844                 pes->state = MPEGTS_PESHEADER_FILL;
845             }
846             break;
847         case MPEGTS_PESHEADER_FILL:
848             len = pes->pes_header_size - pes->data_index;
849             if (len < 0)
850                 return -1;
851             if (len > buf_size)
852                 len = buf_size;
853             memcpy(pes->header + pes->data_index, p, len);
854             pes->data_index += len;
855             p += len;
856             buf_size -= len;
857             if (pes->data_index == pes->pes_header_size) {
858                 const uint8_t *r;
859                 unsigned int flags, pes_ext, skip;
860
861                 flags = pes->header[7];
862                 r = pes->header + 9;
863                 pes->pts = AV_NOPTS_VALUE;
864                 pes->dts = AV_NOPTS_VALUE;
865                 if ((flags & 0xc0) == 0x80) {
866                     pes->dts = pes->pts = ff_parse_pes_pts(r);
867                     r += 5;
868                 } else if ((flags & 0xc0) == 0xc0) {
869                     pes->pts = ff_parse_pes_pts(r);
870                     r += 5;
871                     pes->dts = ff_parse_pes_pts(r);
872                     r += 5;
873                 }
874                 pes->extended_stream_id = -1;
875                 if (flags & 0x01) { /* PES extension */
876                     pes_ext = *r++;
877                     /* Skip PES private data, program packet sequence counter and P-STD buffer */
878                     skip = (pes_ext >> 4) & 0xb;
879                     skip += skip & 0x9;
880                     r += skip;
881                     if ((pes_ext & 0x41) == 0x01 &&
882                         (r + 2) <= (pes->header + pes->pes_header_size)) {
883                         /* PES extension 2 */
884                         if ((r[0] & 0x7f) > 0 && (r[1] & 0x80) == 0)
885                             pes->extended_stream_id = r[1];
886                     }
887                 }
888
889                 /* we got the full header. We parse it and get the payload */
890                 pes->state = MPEGTS_PAYLOAD;
891                 pes->data_index = 0;
892                 if (pes->stream_type == 0x12 && buf_size > 0) {
893                     int sl_header_bytes = read_sl_header(pes, &pes->sl, p, buf_size);
894                     pes->pes_header_size += sl_header_bytes;
895                     p += sl_header_bytes;
896                     buf_size -= sl_header_bytes;
897                 }
898             }
899             break;
900         case MPEGTS_PAYLOAD:
901             if (buf_size > 0 && pes->buffer) {
902                 if (pes->data_index > 0 && pes->data_index+buf_size > pes->total_size) {
903                     new_pes_packet(pes, ts->pkt);
904                     pes->total_size = MAX_PES_PAYLOAD;
905                     pes->buffer = av_malloc(pes->total_size+FF_INPUT_BUFFER_PADDING_SIZE);
906                     if (!pes->buffer)
907                         return AVERROR(ENOMEM);
908                     ts->stop_parse = 1;
909                 } else if (pes->data_index == 0 && buf_size > pes->total_size) {
910                     // pes packet size is < ts size packet and pes data is padded with 0xff
911                     // not sure if this is legal in ts but see issue #2392
912                     buf_size = pes->total_size;
913                 }
914                 memcpy(pes->buffer+pes->data_index, p, buf_size);
915                 pes->data_index += buf_size;
916             }
917             buf_size = 0;
918             /* emit complete packets with known packet size
919              * decreases demuxer delay for infrequent packets like subtitles from
920              * a couple of seconds to milliseconds for properly muxed files.
921              * total_size is the number of bytes following pes_packet_length
922              * in the pes header, i.e. not counting the first PES_START_SIZE bytes */
923             if (!ts->stop_parse && pes->total_size < MAX_PES_PAYLOAD &&
924                 pes->pes_header_size + pes->data_index == pes->total_size + PES_START_SIZE) {
925                 ts->stop_parse = 1;
926                 new_pes_packet(pes, ts->pkt);
927             }
928             break;
929         case MPEGTS_SKIP:
930             buf_size = 0;
931             break;
932         }
933     }
934
935     return 0;
936 }
937
938 static PESContext *add_pes_stream(MpegTSContext *ts, int pid, int pcr_pid)
939 {
940     MpegTSFilter *tss;
941     PESContext *pes;
942
943     /* if no pid found, then add a pid context */
944     pes = av_mallocz(sizeof(PESContext));
945     if (!pes)
946         return 0;
947     pes->ts = ts;
948     pes->stream = ts->stream;
949     pes->pid = pid;
950     pes->pcr_pid = pcr_pid;
951     pes->state = MPEGTS_SKIP;
952     pes->pts = AV_NOPTS_VALUE;
953     pes->dts = AV_NOPTS_VALUE;
954     tss = mpegts_open_pes_filter(ts, pid, mpegts_push_data, pes);
955     if (!tss) {
956         av_free(pes);
957         return 0;
958     }
959     return pes;
960 }
961
962 #define MAX_LEVEL 4
963 typedef struct {
964     AVFormatContext *s;
965     AVIOContext pb;
966     Mp4Descr *descr;
967     Mp4Descr *active_descr;
968     int descr_count;
969     int max_descr_count;
970     int level;
971 } MP4DescrParseContext;
972
973 static int init_MP4DescrParseContext(
974     MP4DescrParseContext *d, AVFormatContext *s, const uint8_t *buf,
975     unsigned size, Mp4Descr *descr, int max_descr_count)
976 {
977     int ret;
978     if (size > (1<<30))
979         return AVERROR_INVALIDDATA;
980
981     if ((ret = ffio_init_context(&d->pb, (unsigned char*)buf, size, 0,
982                           NULL, NULL, NULL, NULL)) < 0)
983         return ret;
984
985     d->s = s;
986     d->level = 0;
987     d->descr_count = 0;
988     d->descr = descr;
989     d->active_descr = NULL;
990     d->max_descr_count = max_descr_count;
991
992     return 0;
993 }
994
995 static void update_offsets(AVIOContext *pb, int64_t *off, int *len) {
996     int64_t new_off = avio_tell(pb);
997     (*len) -= new_off - *off;
998     *off = new_off;
999 }
1000
1001 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1002                            int target_tag);
1003
1004 static int parse_mp4_descr_arr(MP4DescrParseContext *d, int64_t off, int len)
1005 {
1006     while (len > 0) {
1007         if (parse_mp4_descr(d, off, len, 0) < 0)
1008             return -1;
1009         update_offsets(&d->pb, &off, &len);
1010     }
1011     return 0;
1012 }
1013
1014 static int parse_MP4IODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1015 {
1016     avio_rb16(&d->pb); // ID
1017     avio_r8(&d->pb);
1018     avio_r8(&d->pb);
1019     avio_r8(&d->pb);
1020     avio_r8(&d->pb);
1021     avio_r8(&d->pb);
1022     update_offsets(&d->pb, &off, &len);
1023     return parse_mp4_descr_arr(d, off, len);
1024 }
1025
1026 static int parse_MP4ODescrTag(MP4DescrParseContext *d, int64_t off, int len)
1027 {
1028     int id_flags;
1029     if (len < 2)
1030         return 0;
1031     id_flags = avio_rb16(&d->pb);
1032     if (!(id_flags & 0x0020)) { //URL_Flag
1033         update_offsets(&d->pb, &off, &len);
1034         return parse_mp4_descr_arr(d, off, len); //ES_Descriptor[]
1035     } else {
1036         return 0;
1037     }
1038 }
1039
1040 static int parse_MP4ESDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1041 {
1042     int es_id = 0;
1043     if (d->descr_count >= d->max_descr_count)
1044         return -1;
1045     ff_mp4_parse_es_descr(&d->pb, &es_id);
1046     d->active_descr = d->descr + (d->descr_count++);
1047
1048     d->active_descr->es_id = es_id;
1049     update_offsets(&d->pb, &off, &len);
1050     parse_mp4_descr(d, off, len, MP4DecConfigDescrTag);
1051     update_offsets(&d->pb, &off, &len);
1052     if (len > 0)
1053         parse_mp4_descr(d, off, len, MP4SLDescrTag);
1054     d->active_descr = NULL;
1055     return 0;
1056 }
1057
1058 static int parse_MP4DecConfigDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1059 {
1060     Mp4Descr *descr = d->active_descr;
1061     if (!descr)
1062         return -1;
1063     d->active_descr->dec_config_descr = av_malloc(len);
1064     if (!descr->dec_config_descr)
1065         return AVERROR(ENOMEM);
1066     descr->dec_config_descr_len = len;
1067     avio_read(&d->pb, descr->dec_config_descr, len);
1068     return 0;
1069 }
1070
1071 static int parse_MP4SLDescrTag(MP4DescrParseContext *d, int64_t off, int len)
1072 {
1073     Mp4Descr *descr = d->active_descr;
1074     int predefined;
1075     if (!descr)
1076         return -1;
1077
1078     predefined = avio_r8(&d->pb);
1079     if (!predefined) {
1080         int lengths;
1081         int flags = avio_r8(&d->pb);
1082         descr->sl.use_au_start       = !!(flags & 0x80);
1083         descr->sl.use_au_end         = !!(flags & 0x40);
1084         descr->sl.use_rand_acc_pt    = !!(flags & 0x20);
1085         descr->sl.use_padding        = !!(flags & 0x08);
1086         descr->sl.use_timestamps     = !!(flags & 0x04);
1087         descr->sl.use_idle           = !!(flags & 0x02);
1088         descr->sl.timestamp_res      = avio_rb32(&d->pb);
1089                                        avio_rb32(&d->pb);
1090         descr->sl.timestamp_len      = avio_r8(&d->pb);
1091         descr->sl.ocr_len            = avio_r8(&d->pb);
1092         descr->sl.au_len             = avio_r8(&d->pb);
1093         descr->sl.inst_bitrate_len   = avio_r8(&d->pb);
1094         lengths                      = avio_rb16(&d->pb);
1095         descr->sl.degr_prior_len     = lengths >> 12;
1096         descr->sl.au_seq_num_len     = (lengths >> 7) & 0x1f;
1097         descr->sl.packet_seq_num_len = (lengths >> 2) & 0x1f;
1098     } else {
1099         av_log_missing_feature(d->s, "Predefined SLConfigDescriptor\n", 0);
1100     }
1101     return 0;
1102 }
1103
1104 static int parse_mp4_descr(MP4DescrParseContext *d, int64_t off, int len,
1105                            int target_tag) {
1106     int tag;
1107     int len1 = ff_mp4_read_descr(d->s, &d->pb, &tag);
1108     update_offsets(&d->pb, &off, &len);
1109     if (len < 0 || len1 > len || len1 <= 0) {
1110         av_log(d->s, AV_LOG_ERROR, "Tag %x length violation new length %d bytes remaining %d\n", tag, len1, len);
1111         return -1;
1112     }
1113
1114     if (d->level++ >= MAX_LEVEL) {
1115         av_log(d->s, AV_LOG_ERROR, "Maximum MP4 descriptor level exceeded\n");
1116         goto done;
1117     }
1118
1119     if (target_tag && tag != target_tag) {
1120         av_log(d->s, AV_LOG_ERROR, "Found tag %x expected %x\n", tag, target_tag);
1121         goto done;
1122     }
1123
1124     switch (tag) {
1125     case MP4IODescrTag:
1126         parse_MP4IODescrTag(d, off, len1);
1127         break;
1128     case MP4ODescrTag:
1129         parse_MP4ODescrTag(d, off, len1);
1130         break;
1131     case MP4ESDescrTag:
1132         parse_MP4ESDescrTag(d, off, len1);
1133         break;
1134     case MP4DecConfigDescrTag:
1135         parse_MP4DecConfigDescrTag(d, off, len1);
1136         break;
1137     case MP4SLDescrTag:
1138         parse_MP4SLDescrTag(d, off, len1);
1139         break;
1140     }
1141
1142 done:
1143     d->level--;
1144     avio_seek(&d->pb, off + len1, SEEK_SET);
1145     return 0;
1146 }
1147
1148 static int mp4_read_iods(AVFormatContext *s, const uint8_t *buf, unsigned size,
1149                          Mp4Descr *descr, int *descr_count, int max_descr_count)
1150 {
1151     MP4DescrParseContext d;
1152     if (init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count) < 0)
1153         return -1;
1154
1155     parse_mp4_descr(&d, avio_tell(&d.pb), size, MP4IODescrTag);
1156
1157     *descr_count = d.descr_count;
1158     return 0;
1159 }
1160
1161 static int mp4_read_od(AVFormatContext *s, const uint8_t *buf, unsigned size,
1162                        Mp4Descr *descr, int *descr_count, int max_descr_count)
1163 {
1164     MP4DescrParseContext d;
1165     if (init_MP4DescrParseContext(&d, s, buf, size, descr, max_descr_count) < 0)
1166         return -1;
1167
1168     parse_mp4_descr_arr(&d, avio_tell(&d.pb), size);
1169
1170     *descr_count = d.descr_count;
1171     return 0;
1172 }
1173
1174 static void m4sl_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1175 {
1176     MpegTSContext *ts = filter->u.section_filter.opaque;
1177     SectionHeader h;
1178     const uint8_t *p, *p_end;
1179     AVIOContext pb;
1180     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = {{ 0 }};
1181     int mp4_descr_count = 0;
1182     int i, pid;
1183     AVFormatContext *s = ts->stream;
1184
1185     p_end = section + section_len - 4;
1186     p = section;
1187     if (parse_section_header(&h, &p, p_end) < 0)
1188         return;
1189     if (h.tid != M4OD_TID)
1190         return;
1191
1192     mp4_read_od(s, p, (unsigned)(p_end - p), mp4_descr, &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1193
1194     for (pid = 0; pid < NB_PID_MAX; pid++) {
1195         if (!ts->pids[pid])
1196              continue;
1197         for (i = 0; i < mp4_descr_count; i++) {
1198             PESContext *pes;
1199             AVStream *st;
1200             if (ts->pids[pid]->es_id != mp4_descr[i].es_id)
1201                 continue;
1202             if (!(ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES)) {
1203                 av_log(s, AV_LOG_ERROR, "pid %x is not PES\n", pid);
1204                 continue;
1205             }
1206             pes = ts->pids[pid]->u.pes_filter.opaque;
1207             st = pes->st;
1208             if (!st) {
1209                 continue;
1210             }
1211
1212             pes->sl = mp4_descr[i].sl;
1213
1214             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1215                               mp4_descr[i].dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1216             ff_mp4_read_dec_config_descr(s, st, &pb);
1217             if (st->codec->codec_id == CODEC_ID_AAC &&
1218                 st->codec->extradata_size > 0)
1219                 st->need_parsing = 0;
1220             if (st->codec->codec_id == CODEC_ID_H264 &&
1221                 st->codec->extradata_size > 0)
1222                 st->need_parsing = 0;
1223
1224             if (st->codec->codec_id <= CODEC_ID_NONE) {
1225             } else if (st->codec->codec_id < CODEC_ID_FIRST_AUDIO) {
1226                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
1227             } else if (st->codec->codec_id < CODEC_ID_FIRST_SUBTITLE) {
1228                 st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
1229             } else if (st->codec->codec_id < CODEC_ID_FIRST_UNKNOWN) {
1230                 st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
1231             }
1232         }
1233     }
1234     for (i = 0; i < mp4_descr_count; i++)
1235         av_free(mp4_descr[i].dec_config_descr);
1236 }
1237
1238 int ff_parse_mpeg2_descriptor(AVFormatContext *fc, AVStream *st, int stream_type,
1239                               const uint8_t **pp, const uint8_t *desc_list_end,
1240                               Mp4Descr *mp4_descr, int mp4_descr_count, int pid,
1241                               MpegTSContext *ts)
1242 {
1243     const uint8_t *desc_end;
1244     int desc_len, desc_tag, desc_es_id;
1245     char language[252];
1246     int i;
1247
1248     desc_tag = get8(pp, desc_list_end);
1249     if (desc_tag < 0)
1250         return -1;
1251     desc_len = get8(pp, desc_list_end);
1252     if (desc_len < 0)
1253         return -1;
1254     desc_end = *pp + desc_len;
1255     if (desc_end > desc_list_end)
1256         return -1;
1257
1258     av_dlog(fc, "tag: 0x%02x len=%d\n", desc_tag, desc_len);
1259
1260     if (st->codec->codec_id == CODEC_ID_NONE &&
1261         stream_type == STREAM_TYPE_PRIVATE_DATA)
1262         mpegts_find_stream_type(st, desc_tag, DESC_types);
1263
1264     switch(desc_tag) {
1265     case 0x1E: /* SL descriptor */
1266         desc_es_id = get16(pp, desc_end);
1267         if (ts && ts->pids[pid])
1268             ts->pids[pid]->es_id = desc_es_id;
1269         for (i = 0; i < mp4_descr_count; i++)
1270         if (mp4_descr[i].dec_config_descr_len &&
1271             mp4_descr[i].es_id == desc_es_id) {
1272             AVIOContext pb;
1273             ffio_init_context(&pb, mp4_descr[i].dec_config_descr,
1274                           mp4_descr[i].dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1275             ff_mp4_read_dec_config_descr(fc, st, &pb);
1276             if (st->codec->codec_id == CODEC_ID_AAC &&
1277                 st->codec->extradata_size > 0)
1278                 st->need_parsing = 0;
1279             if (st->codec->codec_id == CODEC_ID_MPEG4SYSTEMS)
1280                 mpegts_open_section_filter(ts, pid, m4sl_cb, ts, 1);
1281         }
1282         break;
1283     case 0x1F: /* FMC descriptor */
1284         get16(pp, desc_end);
1285         if (mp4_descr_count > 0 && st->codec->codec_id == CODEC_ID_AAC_LATM &&
1286             mp4_descr->dec_config_descr_len && mp4_descr->es_id == pid) {
1287             AVIOContext pb;
1288             ffio_init_context(&pb, mp4_descr->dec_config_descr,
1289                           mp4_descr->dec_config_descr_len, 0, NULL, NULL, NULL, NULL);
1290             ff_mp4_read_dec_config_descr(fc, st, &pb);
1291             if (st->codec->codec_id == CODEC_ID_AAC &&
1292                 st->codec->extradata_size > 0)
1293                 st->need_parsing = 0;
1294         }
1295         break;
1296     case 0x56: /* DVB teletext descriptor */
1297         language[0] = get8(pp, desc_end);
1298         language[1] = get8(pp, desc_end);
1299         language[2] = get8(pp, desc_end);
1300         language[3] = 0;
1301         av_dict_set(&st->metadata, "language", language, 0);
1302         break;
1303     case 0x59: /* subtitling descriptor */
1304         language[0] = get8(pp, desc_end);
1305         language[1] = get8(pp, desc_end);
1306         language[2] = get8(pp, desc_end);
1307         language[3] = 0;
1308         /* hearing impaired subtitles detection */
1309         switch(get8(pp, desc_end)) {
1310         case 0x20: /* DVB subtitles (for the hard of hearing) with no monitor aspect ratio criticality */
1311         case 0x21: /* DVB subtitles (for the hard of hearing) for display on 4:3 aspect ratio monitor */
1312         case 0x22: /* DVB subtitles (for the hard of hearing) for display on 16:9 aspect ratio monitor */
1313         case 0x23: /* DVB subtitles (for the hard of hearing) for display on 2.21:1 aspect ratio monitor */
1314         case 0x24: /* DVB subtitles (for the hard of hearing) for display on a high definition monitor */
1315         case 0x25: /* DVB subtitles (for the hard of hearing) with plano-stereoscopic disparity for display on a high definition monitor */
1316             st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED;
1317             break;
1318         }
1319         if (st->codec->extradata) {
1320             if (st->codec->extradata_size == 4 && memcmp(st->codec->extradata, *pp, 4))
1321                 av_log_ask_for_sample(fc, "DVB sub with multiple IDs\n");
1322         } else {
1323             st->codec->extradata = av_malloc(4 + FF_INPUT_BUFFER_PADDING_SIZE);
1324             if (st->codec->extradata) {
1325                 st->codec->extradata_size = 4;
1326                 memcpy(st->codec->extradata, *pp, 4);
1327             }
1328         }
1329         *pp += 4;
1330         av_dict_set(&st->metadata, "language", language, 0);
1331         break;
1332     case 0x0a: /* ISO 639 language descriptor */
1333         for (i = 0; i + 4 <= desc_len; i += 4) {
1334             language[i + 0] = get8(pp, desc_end);
1335             language[i + 1] = get8(pp, desc_end);
1336             language[i + 2] = get8(pp, desc_end);
1337             language[i + 3] = ',';
1338         switch (get8(pp, desc_end)) {
1339             case 0x01: st->disposition |= AV_DISPOSITION_CLEAN_EFFECTS; break;
1340             case 0x02: st->disposition |= AV_DISPOSITION_HEARING_IMPAIRED; break;
1341             case 0x03: st->disposition |= AV_DISPOSITION_VISUAL_IMPAIRED; break;
1342         }
1343         }
1344         if (i) {
1345             language[i - 1] = 0;
1346             av_dict_set(&st->metadata, "language", language, 0);
1347         }
1348         break;
1349     case 0x05: /* registration descriptor */
1350         st->codec->codec_tag = bytestream_get_le32(pp);
1351         av_dlog(fc, "reg_desc=%.4s\n", (char*)&st->codec->codec_tag);
1352         if (st->codec->codec_id == CODEC_ID_NONE)
1353             mpegts_find_stream_type(st, st->codec->codec_tag, REGD_types);
1354         break;
1355     default:
1356         break;
1357     }
1358     *pp = desc_end;
1359     return 0;
1360 }
1361
1362 static void pmt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1363 {
1364     MpegTSContext *ts = filter->u.section_filter.opaque;
1365     SectionHeader h1, *h = &h1;
1366     PESContext *pes;
1367     AVStream *st;
1368     const uint8_t *p, *p_end, *desc_list_end;
1369     int program_info_length, pcr_pid, pid, stream_type;
1370     int desc_list_len;
1371     uint32_t prog_reg_desc = 0; /* registration descriptor */
1372
1373     Mp4Descr mp4_descr[MAX_MP4_DESCR_COUNT] = {{ 0 }};
1374     int mp4_descr_count = 0;
1375     int i;
1376
1377     av_dlog(ts->stream, "PMT: len %i\n", section_len);
1378     hex_dump_debug(ts->stream, (uint8_t *)section, section_len);
1379
1380     p_end = section + section_len - 4;
1381     p = section;
1382     if (parse_section_header(h, &p, p_end) < 0)
1383         return;
1384
1385     av_dlog(ts->stream, "sid=0x%x sec_num=%d/%d\n",
1386            h->id, h->sec_num, h->last_sec_num);
1387
1388     if (h->tid != PMT_TID)
1389         return;
1390
1391     clear_program(ts, h->id);
1392     pcr_pid = get16(&p, p_end);
1393     if (pcr_pid < 0)
1394         return;
1395     pcr_pid &= 0x1fff;
1396     add_pid_to_pmt(ts, h->id, pcr_pid);
1397
1398     av_dlog(ts->stream, "pcr_pid=0x%x\n", pcr_pid);
1399
1400     program_info_length = get16(&p, p_end);
1401     if (program_info_length < 0)
1402         return;
1403     program_info_length &= 0xfff;
1404     while(program_info_length >= 2) {
1405         uint8_t tag, len;
1406         tag = get8(&p, p_end);
1407         len = get8(&p, p_end);
1408
1409         av_dlog(ts->stream, "program tag: 0x%02x len=%d\n", tag, len);
1410
1411         if(len > program_info_length - 2)
1412             //something else is broken, exit the program_descriptors_loop
1413             break;
1414         program_info_length -= len + 2;
1415         if (tag == 0x1d) { // IOD descriptor
1416             get8(&p, p_end); // scope
1417             get8(&p, p_end); // label
1418             len -= 2;
1419             mp4_read_iods(ts->stream, p, len, mp4_descr + mp4_descr_count,
1420                           &mp4_descr_count, MAX_MP4_DESCR_COUNT);
1421         } else if (tag == 0x05 && len >= 4) { // registration descriptor
1422             prog_reg_desc = bytestream_get_le32(&p);
1423             len -= 4;
1424         }
1425         p += len;
1426     }
1427     p += program_info_length;
1428     if (p >= p_end)
1429         goto out;
1430
1431     // stop parsing after pmt, we found header
1432     if (!ts->stream->nb_streams)
1433         ts->stop_parse = 1;
1434
1435     for(;;) {
1436         st = 0;
1437         pes = NULL;
1438         stream_type = get8(&p, p_end);
1439         if (stream_type < 0)
1440             break;
1441         pid = get16(&p, p_end);
1442         if (pid < 0)
1443             break;
1444         pid &= 0x1fff;
1445
1446         /* now create stream */
1447         if (ts->pids[pid] && ts->pids[pid]->type == MPEGTS_PES) {
1448             pes = ts->pids[pid]->u.pes_filter.opaque;
1449             if (!pes->st) {
1450                 pes->st = avformat_new_stream(pes->stream, NULL);
1451                 pes->st->id = pes->pid;
1452             }
1453             st = pes->st;
1454         } else if (stream_type != 0x13) {
1455             if (ts->pids[pid]) mpegts_close_filter(ts, ts->pids[pid]); //wrongly added sdt filter probably
1456             pes = add_pes_stream(ts, pid, pcr_pid);
1457             if (pes) {
1458                 st = avformat_new_stream(pes->stream, NULL);
1459                 st->id = pes->pid;
1460             }
1461         } else {
1462             int idx = ff_find_stream_index(ts->stream, pid);
1463             if (idx >= 0) {
1464                 st = ts->stream->streams[idx];
1465             } else {
1466                 st = avformat_new_stream(ts->stream, NULL);
1467                 st->id = pid;
1468                 st->codec->codec_type = AVMEDIA_TYPE_DATA;
1469             }
1470         }
1471
1472         if (!st)
1473             goto out;
1474
1475         if (pes && !pes->stream_type)
1476             mpegts_set_stream_info(st, pes, stream_type, prog_reg_desc);
1477
1478         add_pid_to_pmt(ts, h->id, pid);
1479
1480         ff_program_add_stream_index(ts->stream, h->id, st->index);
1481
1482         desc_list_len = get16(&p, p_end);
1483         if (desc_list_len < 0)
1484             break;
1485         desc_list_len &= 0xfff;
1486         desc_list_end = p + desc_list_len;
1487         if (desc_list_end > p_end)
1488             break;
1489         for(;;) {
1490             if (ff_parse_mpeg2_descriptor(ts->stream, st, stream_type, &p, desc_list_end,
1491                 mp4_descr, mp4_descr_count, pid, ts) < 0)
1492                 break;
1493
1494             if (pes && prog_reg_desc == AV_RL32("HDMV") && stream_type == 0x83 && pes->sub_st) {
1495                 ff_program_add_stream_index(ts->stream, h->id, pes->sub_st->index);
1496                 pes->sub_st->codec->codec_tag = st->codec->codec_tag;
1497             }
1498         }
1499         p = desc_list_end;
1500     }
1501
1502  out:
1503     for (i = 0; i < mp4_descr_count; i++)
1504         av_free(mp4_descr[i].dec_config_descr);
1505 }
1506
1507 static void pat_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1508 {
1509     MpegTSContext *ts = filter->u.section_filter.opaque;
1510     SectionHeader h1, *h = &h1;
1511     const uint8_t *p, *p_end;
1512     int sid, pmt_pid;
1513
1514     av_dlog(ts->stream, "PAT:\n");
1515     hex_dump_debug(ts->stream, (uint8_t *)section, section_len);
1516
1517     p_end = section + section_len - 4;
1518     p = section;
1519     if (parse_section_header(h, &p, p_end) < 0)
1520         return;
1521     if (h->tid != PAT_TID)
1522         return;
1523
1524     clear_programs(ts);
1525     for(;;) {
1526         sid = get16(&p, p_end);
1527         if (sid < 0)
1528             break;
1529         pmt_pid = get16(&p, p_end);
1530         if (pmt_pid < 0)
1531             break;
1532         pmt_pid &= 0x1fff;
1533
1534         av_dlog(ts->stream, "sid=0x%x pid=0x%x\n", sid, pmt_pid);
1535
1536         if (sid == 0x0000) {
1537             /* NIT info */
1538         } else {
1539             av_new_program(ts->stream, sid);
1540             if (ts->pids[pmt_pid])
1541                 mpegts_close_filter(ts, ts->pids[pmt_pid]);
1542             mpegts_open_section_filter(ts, pmt_pid, pmt_cb, ts, 1);
1543             add_pat_entry(ts, sid);
1544             add_pid_to_pmt(ts, sid, 0); //add pat pid to program
1545             add_pid_to_pmt(ts, sid, pmt_pid);
1546         }
1547     }
1548 }
1549
1550 static void sdt_cb(MpegTSFilter *filter, const uint8_t *section, int section_len)
1551 {
1552     MpegTSContext *ts = filter->u.section_filter.opaque;
1553     SectionHeader h1, *h = &h1;
1554     const uint8_t *p, *p_end, *desc_list_end, *desc_end;
1555     int onid, val, sid, desc_list_len, desc_tag, desc_len, service_type;
1556     char *name, *provider_name;
1557
1558     av_dlog(ts->stream, "SDT:\n");
1559     hex_dump_debug(ts->stream, (uint8_t *)section, section_len);
1560
1561     p_end = section + section_len - 4;
1562     p = section;
1563     if (parse_section_header(h, &p, p_end) < 0)
1564         return;
1565     if (h->tid != SDT_TID)
1566         return;
1567     onid = get16(&p, p_end);
1568     if (onid < 0)
1569         return;
1570     val = get8(&p, p_end);
1571     if (val < 0)
1572         return;
1573     for(;;) {
1574         sid = get16(&p, p_end);
1575         if (sid < 0)
1576             break;
1577         val = get8(&p, p_end);
1578         if (val < 0)
1579             break;
1580         desc_list_len = get16(&p, p_end);
1581         if (desc_list_len < 0)
1582             break;
1583         desc_list_len &= 0xfff;
1584         desc_list_end = p + desc_list_len;
1585         if (desc_list_end > p_end)
1586             break;
1587         for(;;) {
1588             desc_tag = get8(&p, desc_list_end);
1589             if (desc_tag < 0)
1590                 break;
1591             desc_len = get8(&p, desc_list_end);
1592             desc_end = p + desc_len;
1593             if (desc_end > desc_list_end)
1594                 break;
1595
1596             av_dlog(ts->stream, "tag: 0x%02x len=%d\n",
1597                    desc_tag, desc_len);
1598
1599             switch(desc_tag) {
1600             case 0x48:
1601                 service_type = get8(&p, p_end);
1602                 if (service_type < 0)
1603                     break;
1604                 provider_name = getstr8(&p, p_end);
1605                 if (!provider_name)
1606                     break;
1607                 name = getstr8(&p, p_end);
1608                 if (name) {
1609                     AVProgram *program = av_new_program(ts->stream, sid);
1610                     if(program) {
1611                         av_dict_set(&program->metadata, "service_name", name, 0);
1612                         av_dict_set(&program->metadata, "service_provider", provider_name, 0);
1613                     }
1614                 }
1615                 av_free(name);
1616                 av_free(provider_name);
1617                 break;
1618             default:
1619                 break;
1620             }
1621             p = desc_end;
1622         }
1623         p = desc_list_end;
1624     }
1625 }
1626
1627 /* handle one TS packet */
1628 static int handle_packet(MpegTSContext *ts, const uint8_t *packet)
1629 {
1630     AVFormatContext *s = ts->stream;
1631     MpegTSFilter *tss;
1632     int len, pid, cc, expected_cc, cc_ok, afc, is_start, is_discontinuity,
1633         has_adaptation, has_payload;
1634     const uint8_t *p, *p_end;
1635     int64_t pos;
1636
1637     pid = AV_RB16(packet + 1) & 0x1fff;
1638     if(pid && discard_pid(ts, pid))
1639         return 0;
1640     is_start = packet[1] & 0x40;
1641     tss = ts->pids[pid];
1642     if (ts->auto_guess && tss == NULL && is_start) {
1643         add_pes_stream(ts, pid, -1);
1644         tss = ts->pids[pid];
1645     }
1646     if (!tss)
1647         return 0;
1648
1649     afc = (packet[3] >> 4) & 3;
1650     if (afc == 0) /* reserved value */
1651         return 0;
1652     has_adaptation = afc & 2;
1653     has_payload = afc & 1;
1654     is_discontinuity = has_adaptation
1655                 && packet[4] != 0 /* with length > 0 */
1656                 && (packet[5] & 0x80); /* and discontinuity indicated */
1657
1658     /* continuity check (currently not used) */
1659     cc = (packet[3] & 0xf);
1660     expected_cc = has_payload ? (tss->last_cc + 1) & 0x0f : tss->last_cc;
1661     cc_ok = pid == 0x1FFF // null packet PID
1662             || is_discontinuity
1663             || tss->last_cc < 0
1664             || expected_cc == cc;
1665
1666     tss->last_cc = cc;
1667     if (!cc_ok) {
1668         av_log(ts->stream, AV_LOG_WARNING,
1669                "Continuity check failed for pid %d expected %d got %d\n",
1670                pid, expected_cc, cc);
1671         if(tss->type == MPEGTS_PES) {
1672             PESContext *pc = tss->u.pes_filter.opaque;
1673             pc->flags |= AV_PKT_FLAG_CORRUPT;
1674         }
1675     }
1676
1677     if (!has_payload)
1678         return 0;
1679     p = packet + 4;
1680     if (has_adaptation) {
1681         /* skip adaptation field */
1682         p += p[0] + 1;
1683     }
1684     /* if past the end of packet, ignore */
1685     p_end = packet + TS_PACKET_SIZE;
1686     if (p >= p_end)
1687         return 0;
1688
1689     pos = avio_tell(ts->stream->pb);
1690     ts->pos47= pos % ts->raw_packet_size;
1691
1692     if (tss->type == MPEGTS_SECTION) {
1693         if (is_start) {
1694             /* pointer field present */
1695             len = *p++;
1696             if (p + len > p_end)
1697                 return 0;
1698             if (len && cc_ok) {
1699                 /* write remaining section bytes */
1700                 write_section_data(s, tss,
1701                                    p, len, 0);
1702                 /* check whether filter has been closed */
1703                 if (!ts->pids[pid])
1704                     return 0;
1705             }
1706             p += len;
1707             if (p < p_end) {
1708                 write_section_data(s, tss,
1709                                    p, p_end - p, 1);
1710             }
1711         } else {
1712             if (cc_ok) {
1713                 write_section_data(s, tss,
1714                                    p, p_end - p, 0);
1715             }
1716         }
1717     } else {
1718         int ret;
1719         // Note: The position here points actually behind the current packet.
1720         if ((ret = tss->u.pes_filter.pes_cb(tss, p, p_end - p, is_start,
1721                                             pos - ts->raw_packet_size)) < 0)
1722             return ret;
1723     }
1724
1725     return 0;
1726 }
1727
1728 /* XXX: try to find a better synchro over several packets (use
1729    get_packet_size() ?) */
1730 static int mpegts_resync(AVFormatContext *s)
1731 {
1732     AVIOContext *pb = s->pb;
1733     int c, i;
1734
1735     for(i = 0;i < MAX_RESYNC_SIZE; i++) {
1736         c = avio_r8(pb);
1737         if (pb->eof_reached)
1738             return -1;
1739         if (c == 0x47) {
1740             avio_seek(pb, -1, SEEK_CUR);
1741             return 0;
1742         }
1743     }
1744     av_log(s, AV_LOG_ERROR, "max resync size reached, could not find sync byte\n");
1745     /* no sync found */
1746     return -1;
1747 }
1748
1749 /* return -1 if error or EOF. Return 0 if OK. */
1750 static int read_packet(AVFormatContext *s, uint8_t *buf, int raw_packet_size)
1751 {
1752     AVIOContext *pb = s->pb;
1753     int skip, len;
1754
1755     for(;;) {
1756         len = avio_read(pb, buf, TS_PACKET_SIZE);
1757         if (len != TS_PACKET_SIZE)
1758             return len < 0 ? len : AVERROR_EOF;
1759         /* check packet sync byte */
1760         if (buf[0] != 0x47) {
1761             /* find a new packet start */
1762             avio_seek(pb, -TS_PACKET_SIZE, SEEK_CUR);
1763             if (mpegts_resync(s) < 0)
1764                 return AVERROR(EAGAIN);
1765             else
1766                 continue;
1767         } else {
1768             skip = raw_packet_size - TS_PACKET_SIZE;
1769             if (skip > 0)
1770                 avio_skip(pb, skip);
1771             break;
1772         }
1773     }
1774     return 0;
1775 }
1776
1777 static int handle_packets(MpegTSContext *ts, int nb_packets)
1778 {
1779     AVFormatContext *s = ts->stream;
1780     uint8_t packet[TS_PACKET_SIZE+FF_INPUT_BUFFER_PADDING_SIZE];
1781     int packet_num, ret = 0;
1782
1783     if (avio_tell(s->pb) != ts->last_pos) {
1784         int i;
1785         av_dlog(ts->stream, "Skipping after seek\n");
1786         /* seek detected, flush pes buffer */
1787         for (i = 0; i < NB_PID_MAX; i++) {
1788             if (ts->pids[i]) {
1789                 if (ts->pids[i]->type == MPEGTS_PES) {
1790                    PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
1791                    av_freep(&pes->buffer);
1792                    pes->data_index = 0;
1793                    pes->state = MPEGTS_SKIP; /* skip until pes header */
1794                 }
1795                 ts->pids[i]->last_cc = -1;
1796             }
1797         }
1798     }
1799
1800     ts->stop_parse = 0;
1801     packet_num = 0;
1802     memset(packet + TS_PACKET_SIZE, 0, FF_INPUT_BUFFER_PADDING_SIZE);
1803     for(;;) {
1804         if (ts->stop_parse>0)
1805             break;
1806         packet_num++;
1807         if (nb_packets != 0 && packet_num >= nb_packets)
1808             break;
1809         ret = read_packet(s, packet, ts->raw_packet_size);
1810         if (ret != 0)
1811             break;
1812         ret = handle_packet(ts, packet);
1813         if (ret != 0)
1814             break;
1815     }
1816     ts->last_pos = avio_tell(s->pb);
1817     return ret;
1818 }
1819
1820 static int mpegts_probe(AVProbeData *p)
1821 {
1822 #if 1
1823     const int size= p->buf_size;
1824     int score, fec_score, dvhs_score;
1825     int check_count= size / TS_FEC_PACKET_SIZE;
1826 #define CHECK_COUNT 10
1827
1828     if (check_count < CHECK_COUNT)
1829         return -1;
1830
1831     score     = analyze(p->buf, TS_PACKET_SIZE     *check_count, TS_PACKET_SIZE     , NULL)*CHECK_COUNT/check_count;
1832     dvhs_score= analyze(p->buf, TS_DVHS_PACKET_SIZE*check_count, TS_DVHS_PACKET_SIZE, NULL)*CHECK_COUNT/check_count;
1833     fec_score = analyze(p->buf, TS_FEC_PACKET_SIZE *check_count, TS_FEC_PACKET_SIZE , NULL)*CHECK_COUNT/check_count;
1834 //    av_log(NULL, AV_LOG_DEBUG, "score: %d, dvhs_score: %d, fec_score: %d \n", score, dvhs_score, fec_score);
1835
1836 // we need a clear definition for the returned score otherwise things will become messy sooner or later
1837     if     (score > fec_score && score > dvhs_score && score > 6) return AVPROBE_SCORE_MAX + score     - CHECK_COUNT;
1838     else if(dvhs_score > score && dvhs_score > fec_score && dvhs_score > 6) return AVPROBE_SCORE_MAX + dvhs_score  - CHECK_COUNT;
1839     else if(                 fec_score > 6) return AVPROBE_SCORE_MAX + fec_score - CHECK_COUNT;
1840     else                                    return -1;
1841 #else
1842     /* only use the extension for safer guess */
1843     if (av_match_ext(p->filename, "ts"))
1844         return AVPROBE_SCORE_MAX;
1845     else
1846         return 0;
1847 #endif
1848 }
1849
1850 /* return the 90kHz PCR and the extension for the 27MHz PCR. return
1851    (-1) if not available */
1852 static int parse_pcr(int64_t *ppcr_high, int *ppcr_low,
1853                      const uint8_t *packet)
1854 {
1855     int afc, len, flags;
1856     const uint8_t *p;
1857     unsigned int v;
1858
1859     afc = (packet[3] >> 4) & 3;
1860     if (afc <= 1)
1861         return -1;
1862     p = packet + 4;
1863     len = p[0];
1864     p++;
1865     if (len == 0)
1866         return -1;
1867     flags = *p++;
1868     len--;
1869     if (!(flags & 0x10))
1870         return -1;
1871     if (len < 6)
1872         return -1;
1873     v = AV_RB32(p);
1874     *ppcr_high = ((int64_t)v << 1) | (p[4] >> 7);
1875     *ppcr_low = ((p[4] & 1) << 8) | p[5];
1876     return 0;
1877 }
1878
1879 static int mpegts_read_header(AVFormatContext *s)
1880 {
1881     MpegTSContext *ts = s->priv_data;
1882     AVIOContext *pb = s->pb;
1883     uint8_t buf[5*1024];
1884     int len;
1885     int64_t pos;
1886
1887     /* read the first 1024 bytes to get packet size */
1888     pos = avio_tell(pb);
1889     len = avio_read(pb, buf, sizeof(buf));
1890     if (len != sizeof(buf))
1891         goto fail;
1892     ts->raw_packet_size = get_packet_size(buf, sizeof(buf));
1893     if (ts->raw_packet_size <= 0)
1894         goto fail;
1895     ts->stream = s;
1896     ts->auto_guess = 0;
1897
1898     if (s->iformat == &ff_mpegts_demuxer) {
1899         /* normal demux */
1900
1901         /* first do a scan to get all the services */
1902         if (avio_seek(pb, pos, SEEK_SET) < 0 && pb->seekable)
1903             av_log(s, AV_LOG_ERROR, "Unable to seek back to the start\n");
1904
1905         mpegts_open_section_filter(ts, SDT_PID, sdt_cb, ts, 1);
1906
1907         mpegts_open_section_filter(ts, PAT_PID, pat_cb, ts, 1);
1908
1909         handle_packets(ts, s->probesize / ts->raw_packet_size);
1910         /* if could not find service, enable auto_guess */
1911
1912         ts->auto_guess = 1;
1913
1914         av_dlog(ts->stream, "tuning done\n");
1915
1916         s->ctx_flags |= AVFMTCTX_NOHEADER;
1917     } else {
1918         AVStream *st;
1919         int pcr_pid, pid, nb_packets, nb_pcrs, ret, pcr_l;
1920         int64_t pcrs[2], pcr_h;
1921         int packet_count[2];
1922         uint8_t packet[TS_PACKET_SIZE];
1923
1924         /* only read packets */
1925
1926         st = avformat_new_stream(s, NULL);
1927         if (!st)
1928             goto fail;
1929         avpriv_set_pts_info(st, 60, 1, 27000000);
1930         st->codec->codec_type = AVMEDIA_TYPE_DATA;
1931         st->codec->codec_id = CODEC_ID_MPEG2TS;
1932
1933         /* we iterate until we find two PCRs to estimate the bitrate */
1934         pcr_pid = -1;
1935         nb_pcrs = 0;
1936         nb_packets = 0;
1937         for(;;) {
1938             ret = read_packet(s, packet, ts->raw_packet_size);
1939             if (ret < 0)
1940                 return -1;
1941             pid = AV_RB16(packet + 1) & 0x1fff;
1942             if ((pcr_pid == -1 || pcr_pid == pid) &&
1943                 parse_pcr(&pcr_h, &pcr_l, packet) == 0) {
1944                 pcr_pid = pid;
1945                 packet_count[nb_pcrs] = nb_packets;
1946                 pcrs[nb_pcrs] = pcr_h * 300 + pcr_l;
1947                 nb_pcrs++;
1948                 if (nb_pcrs >= 2)
1949                     break;
1950             }
1951             nb_packets++;
1952         }
1953
1954         /* NOTE1: the bitrate is computed without the FEC */
1955         /* NOTE2: it is only the bitrate of the start of the stream */
1956         ts->pcr_incr = (pcrs[1] - pcrs[0]) / (packet_count[1] - packet_count[0]);
1957         ts->cur_pcr = pcrs[0] - ts->pcr_incr * packet_count[0];
1958         s->bit_rate = (TS_PACKET_SIZE * 8) * 27e6 / ts->pcr_incr;
1959         st->codec->bit_rate = s->bit_rate;
1960         st->start_time = ts->cur_pcr;
1961         av_dlog(ts->stream, "start=%0.3f pcr=%0.3f incr=%d\n",
1962                 st->start_time / 1000000.0, pcrs[0] / 27e6, ts->pcr_incr);
1963     }
1964
1965     avio_seek(pb, pos, SEEK_SET);
1966     return 0;
1967  fail:
1968     return -1;
1969 }
1970
1971 #define MAX_PACKET_READAHEAD ((128 * 1024) / 188)
1972
1973 static int mpegts_raw_read_packet(AVFormatContext *s,
1974                                   AVPacket *pkt)
1975 {
1976     MpegTSContext *ts = s->priv_data;
1977     int ret, i;
1978     int64_t pcr_h, next_pcr_h, pos;
1979     int pcr_l, next_pcr_l;
1980     uint8_t pcr_buf[12];
1981
1982     if (av_new_packet(pkt, TS_PACKET_SIZE) < 0)
1983         return AVERROR(ENOMEM);
1984     pkt->pos= avio_tell(s->pb);
1985     ret = read_packet(s, pkt->data, ts->raw_packet_size);
1986     if (ret < 0) {
1987         av_free_packet(pkt);
1988         return ret;
1989     }
1990     if (ts->mpeg2ts_compute_pcr) {
1991         /* compute exact PCR for each packet */
1992         if (parse_pcr(&pcr_h, &pcr_l, pkt->data) == 0) {
1993             /* we read the next PCR (XXX: optimize it by using a bigger buffer */
1994             pos = avio_tell(s->pb);
1995             for(i = 0; i < MAX_PACKET_READAHEAD; i++) {
1996                 avio_seek(s->pb, pos + i * ts->raw_packet_size, SEEK_SET);
1997                 avio_read(s->pb, pcr_buf, 12);
1998                 if (parse_pcr(&next_pcr_h, &next_pcr_l, pcr_buf) == 0) {
1999                     /* XXX: not precise enough */
2000                     ts->pcr_incr = ((next_pcr_h - pcr_h) * 300 + (next_pcr_l - pcr_l)) /
2001                         (i + 1);
2002                     break;
2003                 }
2004             }
2005             avio_seek(s->pb, pos, SEEK_SET);
2006             /* no next PCR found: we use previous increment */
2007             ts->cur_pcr = pcr_h * 300 + pcr_l;
2008         }
2009         pkt->pts = ts->cur_pcr;
2010         pkt->duration = ts->pcr_incr;
2011         ts->cur_pcr += ts->pcr_incr;
2012     }
2013     pkt->stream_index = 0;
2014     return 0;
2015 }
2016
2017 static int mpegts_read_packet(AVFormatContext *s,
2018                               AVPacket *pkt)
2019 {
2020     MpegTSContext *ts = s->priv_data;
2021     int ret, i;
2022
2023     pkt->size = -1;
2024     ts->pkt = pkt;
2025     ret = handle_packets(ts, 0);
2026     if (ret < 0) {
2027         /* flush pes data left */
2028         for (i = 0; i < NB_PID_MAX; i++) {
2029             if (ts->pids[i] && ts->pids[i]->type == MPEGTS_PES) {
2030                 PESContext *pes = ts->pids[i]->u.pes_filter.opaque;
2031                 if (pes->state == MPEGTS_PAYLOAD && pes->data_index > 0) {
2032                     new_pes_packet(pes, pkt);
2033                     pes->state = MPEGTS_SKIP;
2034                     ret = 0;
2035                     break;
2036                 }
2037             }
2038         }
2039     }
2040
2041     if (!ret && pkt->size < 0)
2042         ret = AVERROR(EINTR);
2043     return ret;
2044 }
2045
2046 static int mpegts_read_close(AVFormatContext *s)
2047 {
2048     MpegTSContext *ts = s->priv_data;
2049     int i;
2050
2051     clear_programs(ts);
2052
2053     for(i=0;i<NB_PID_MAX;i++)
2054         if (ts->pids[i]) mpegts_close_filter(ts, ts->pids[i]);
2055
2056     return 0;
2057 }
2058
2059 static int64_t mpegts_get_pcr(AVFormatContext *s, int stream_index,
2060                               int64_t *ppos, int64_t pos_limit)
2061 {
2062     MpegTSContext *ts = s->priv_data;
2063     int64_t pos, timestamp;
2064     uint8_t buf[TS_PACKET_SIZE];
2065     int pcr_l, pcr_pid = ((PESContext*)s->streams[stream_index]->priv_data)->pcr_pid;
2066     const int find_next= 1;
2067     pos = ((*ppos  + ts->raw_packet_size - 1 - ts->pos47) / ts->raw_packet_size) * ts->raw_packet_size + ts->pos47;
2068     if (find_next) {
2069         for(;;) {
2070             avio_seek(s->pb, pos, SEEK_SET);
2071             if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2072                 return AV_NOPTS_VALUE;
2073             if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2074                 parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2075                 break;
2076             }
2077             pos += ts->raw_packet_size;
2078         }
2079     } else {
2080         for(;;) {
2081             pos -= ts->raw_packet_size;
2082             if (pos < 0)
2083                 return AV_NOPTS_VALUE;
2084             avio_seek(s->pb, pos, SEEK_SET);
2085             if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2086                 return AV_NOPTS_VALUE;
2087             if ((pcr_pid < 0 || (AV_RB16(buf + 1) & 0x1fff) == pcr_pid) &&
2088                 parse_pcr(&timestamp, &pcr_l, buf) == 0) {
2089                 break;
2090             }
2091         }
2092     }
2093     *ppos = pos;
2094
2095     return timestamp;
2096 }
2097
2098 #ifdef USE_SYNCPOINT_SEARCH
2099
2100 static int read_seek2(AVFormatContext *s,
2101                       int stream_index,
2102                       int64_t min_ts,
2103                       int64_t target_ts,
2104                       int64_t max_ts,
2105                       int flags)
2106 {
2107     int64_t pos;
2108
2109     int64_t ts_ret, ts_adj;
2110     int stream_index_gen_search;
2111     AVStream *st;
2112     AVParserState *backup;
2113
2114     backup = ff_store_parser_state(s);
2115
2116     // detect direction of seeking for search purposes
2117     flags |= (target_ts - min_ts > (uint64_t)(max_ts - target_ts)) ?
2118              AVSEEK_FLAG_BACKWARD : 0;
2119
2120     if (flags & AVSEEK_FLAG_BYTE) {
2121         // use position directly, we will search starting from it
2122         pos = target_ts;
2123     } else {
2124         // search for some position with good timestamp match
2125         if (stream_index < 0) {
2126             stream_index_gen_search = av_find_default_stream_index(s);
2127             if (stream_index_gen_search < 0) {
2128                 ff_restore_parser_state(s, backup);
2129                 return -1;
2130             }
2131
2132             st = s->streams[stream_index_gen_search];
2133             // timestamp for default must be expressed in AV_TIME_BASE units
2134             ts_adj = av_rescale(target_ts,
2135                                 st->time_base.den,
2136                                 AV_TIME_BASE * (int64_t)st->time_base.num);
2137         } else {
2138             ts_adj = target_ts;
2139             stream_index_gen_search = stream_index;
2140         }
2141         pos = ff_gen_search(s, stream_index_gen_search, ts_adj,
2142                             0, INT64_MAX, -1,
2143                             AV_NOPTS_VALUE,
2144                             AV_NOPTS_VALUE,
2145                             flags, &ts_ret, mpegts_get_pcr);
2146         if (pos < 0) {
2147             ff_restore_parser_state(s, backup);
2148             return -1;
2149         }
2150     }
2151
2152     // search for actual matching keyframe/starting position for all streams
2153     if (ff_gen_syncpoint_search(s, stream_index, pos,
2154                                 min_ts, target_ts, max_ts,
2155                                 flags) < 0) {
2156         ff_restore_parser_state(s, backup);
2157         return -1;
2158     }
2159
2160     ff_free_parser_state(s, backup);
2161     return 0;
2162 }
2163
2164 static int read_seek(AVFormatContext *s, int stream_index, int64_t target_ts, int flags)
2165 {
2166     int ret;
2167     if (flags & AVSEEK_FLAG_BACKWARD) {
2168         flags &= ~AVSEEK_FLAG_BACKWARD;
2169         ret = read_seek2(s, stream_index, INT64_MIN, target_ts, target_ts, flags);
2170         if (ret < 0)
2171             // for compatibility reasons, seek to the best-fitting timestamp
2172             ret = read_seek2(s, stream_index, INT64_MIN, target_ts, INT64_MAX, flags);
2173     } else {
2174         ret = read_seek2(s, stream_index, target_ts, target_ts, INT64_MAX, flags);
2175         if (ret < 0)
2176             // for compatibility reasons, seek to the best-fitting timestamp
2177             ret = read_seek2(s, stream_index, INT64_MIN, target_ts, INT64_MAX, flags);
2178     }
2179     return ret;
2180 }
2181
2182 #else
2183
2184 static int read_seek(AVFormatContext *s, int stream_index, int64_t target_ts, int flags){
2185     MpegTSContext *ts = s->priv_data;
2186     uint8_t buf[TS_PACKET_SIZE];
2187     int64_t pos;
2188
2189     if (ff_seek_frame_binary(s, stream_index, target_ts, flags) < 0)
2190         return -1;
2191
2192     pos= avio_tell(s->pb);
2193
2194     for(;;) {
2195         avio_seek(s->pb, pos, SEEK_SET);
2196         if (avio_read(s->pb, buf, TS_PACKET_SIZE) != TS_PACKET_SIZE)
2197             return -1;
2198 //        pid = AV_RB16(buf + 1) & 0x1fff;
2199         if(buf[1] & 0x40) break;
2200         pos += ts->raw_packet_size;
2201     }
2202     avio_seek(s->pb, pos, SEEK_SET);
2203
2204     return 0;
2205 }
2206
2207 #endif
2208
2209 /**************************************************************/
2210 /* parsing functions - called from other demuxers such as RTP */
2211
2212 MpegTSContext *ff_mpegts_parse_open(AVFormatContext *s)
2213 {
2214     MpegTSContext *ts;
2215
2216     ts = av_mallocz(sizeof(MpegTSContext));
2217     if (!ts)
2218         return NULL;
2219     /* no stream case, currently used by RTP */
2220     ts->raw_packet_size = TS_PACKET_SIZE;
2221     ts->stream = s;
2222     ts->auto_guess = 1;
2223     return ts;
2224 }
2225
2226 /* return the consumed length if a packet was output, or -1 if no
2227    packet is output */
2228 int ff_mpegts_parse_packet(MpegTSContext *ts, AVPacket *pkt,
2229                         const uint8_t *buf, int len)
2230 {
2231     int len1;
2232
2233     len1 = len;
2234     ts->pkt = pkt;
2235     ts->stop_parse = 0;
2236     for(;;) {
2237         if (ts->stop_parse>0)
2238             break;
2239         if (len < TS_PACKET_SIZE)
2240             return -1;
2241         if (buf[0] != 0x47) {
2242             buf++;
2243             len--;
2244         } else {
2245             handle_packet(ts, buf);
2246             buf += TS_PACKET_SIZE;
2247             len -= TS_PACKET_SIZE;
2248         }
2249     }
2250     return len1 - len;
2251 }
2252
2253 void ff_mpegts_parse_close(MpegTSContext *ts)
2254 {
2255     int i;
2256
2257     for(i=0;i<NB_PID_MAX;i++)
2258         av_free(ts->pids[i]);
2259     av_free(ts);
2260 }
2261
2262 AVInputFormat ff_mpegts_demuxer = {
2263     .name           = "mpegts",
2264     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-2 transport stream format"),
2265     .priv_data_size = sizeof(MpegTSContext),
2266     .read_probe     = mpegts_probe,
2267     .read_header    = mpegts_read_header,
2268     .read_packet    = mpegts_read_packet,
2269     .read_close     = mpegts_read_close,
2270     .read_seek      = read_seek,
2271     .read_timestamp = mpegts_get_pcr,
2272     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2273 #ifdef USE_SYNCPOINT_SEARCH
2274     .read_seek2     = read_seek2,
2275 #endif
2276 };
2277
2278 AVInputFormat ff_mpegtsraw_demuxer = {
2279     .name           = "mpegtsraw",
2280     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-2 raw transport stream format"),
2281     .priv_data_size = sizeof(MpegTSContext),
2282     .read_header    = mpegts_read_header,
2283     .read_packet    = mpegts_raw_read_packet,
2284     .read_close     = mpegts_read_close,
2285     .read_seek      = read_seek,
2286     .read_timestamp = mpegts_get_pcr,
2287     .flags          = AVFMT_SHOW_IDS | AVFMT_TS_DISCONT,
2288 #ifdef USE_SYNCPOINT_SEARCH
2289     .read_seek2     = read_seek2,
2290 #endif
2291     .priv_class     = &mpegtsraw_class,
2292 };