matroskadec: don't care about the number of bytes read by ebml_read_element_id()
[ffmpeg.git] / libavformat / matroskadec.c
1 /*
2  * Matroska file demuxer (no muxer yet)
3  * Copyright (c) 2003-2004 The ffmpeg Project
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file matroskadec.c
24  * Matroska file demuxer
25  * by Ronald Bultje <rbultje@ronald.bitfreak.net>
26  * with a little help from Moritz Bunkus <moritz@bunkus.org>
27  * Specs available on the matroska project page:
28  * http://www.matroska.org/.
29  */
30
31 #include "avformat.h"
32 /* For codec_get_id(). */
33 #include "riff.h"
34 #include "isom.h"
35 #include "matroska.h"
36 #include "libavcodec/mpeg4audio.h"
37 #include "libavutil/intfloat_readwrite.h"
38 #include "libavutil/avstring.h"
39 #include "libavutil/lzo.h"
40 #ifdef CONFIG_ZLIB
41 #include <zlib.h>
42 #endif
43 #ifdef CONFIG_BZLIB
44 #include <bzlib.h>
45 #endif
46
47 typedef enum {
48     EBML_NONE,
49     EBML_UINT,
50     EBML_FLOAT,
51     EBML_STR,
52     EBML_UTF8,
53     EBML_BIN,
54     EBML_NEST,
55     EBML_PASS,
56     EBML_STOP,
57 } EbmlType;
58
59 typedef const struct EbmlSyntax {
60     uint32_t id;
61     EbmlType type;
62     int list_elem_size;
63     int data_offset;
64     union {
65         uint64_t    u;
66         double      f;
67         const char *s;
68         const struct EbmlSyntax *n;
69     } def;
70 } EbmlSyntax;
71
72 typedef struct {
73     int nb_elem;
74     void *elem;
75 } EbmlList;
76
77 typedef struct {
78     int      size;
79     uint8_t *data;
80     int64_t  pos;
81 } EbmlBin;
82
83 typedef struct {
84     uint64_t version;
85     uint64_t max_size;
86     uint64_t id_length;
87     char    *doctype;
88     uint64_t doctype_version;
89 } Ebml;
90
91 typedef struct {
92     uint64_t algo;
93     EbmlBin  settings;
94 } MatroskaTrackCompression;
95
96 typedef struct {
97     uint64_t scope;
98     uint64_t type;
99     MatroskaTrackCompression compression;
100 } MatroskaTrackEncoding;
101
102 typedef struct {
103     double   frame_rate;
104     uint64_t display_width;
105     uint64_t display_height;
106     uint64_t pixel_width;
107     uint64_t pixel_height;
108     uint64_t fourcc;
109 } MatroskaTrackVideo;
110
111 typedef struct {
112     double   samplerate;
113     double   out_samplerate;
114     uint64_t bitdepth;
115     uint64_t channels;
116
117     /* real audio header (extracted from extradata) */
118     int      coded_framesize;
119     int      sub_packet_h;
120     int      frame_size;
121     int      sub_packet_size;
122     int      sub_packet_cnt;
123     int      pkt_cnt;
124     uint8_t *buf;
125 } MatroskaTrackAudio;
126
127 typedef struct {
128     uint64_t num;
129     uint64_t type;
130     char    *codec_id;
131     EbmlBin  codec_priv;
132     char    *language;
133     double time_scale;
134     uint64_t default_duration;
135     uint64_t flag_default;
136     MatroskaTrackVideo video;
137     MatroskaTrackAudio audio;
138     EbmlList encodings;
139
140     AVStream *stream;
141 } MatroskaTrack;
142
143 typedef struct {
144     char *filename;
145     char *mime;
146     EbmlBin bin;
147 } MatroskaAttachement;
148
149 typedef struct {
150     uint64_t start;
151     uint64_t end;
152     uint64_t uid;
153     char    *title;
154 } MatroskaChapter;
155
156 typedef struct {
157     uint64_t track;
158     uint64_t pos;
159 } MatroskaIndexPos;
160
161 typedef struct {
162     uint64_t time;
163     EbmlList pos;
164 } MatroskaIndex;
165
166 typedef struct {
167     uint64_t id;
168     uint64_t pos;
169 } MatroskaSeekhead;
170
171 typedef struct {
172     uint64_t start;
173     uint64_t length;
174 } MatroskaLevel;
175
176 typedef struct {
177     AVFormatContext *ctx;
178
179     /* ebml stuff */
180     int num_levels;
181     MatroskaLevel levels[EBML_MAX_DEPTH];
182     int level_up;
183
184     uint64_t time_scale;
185     double   duration;
186     char    *title;
187     EbmlList tracks;
188     EbmlList attachments;
189     EbmlList chapters;
190     EbmlList index;
191     EbmlList seekhead;
192
193     /* num_streams is the number of streams that av_new_stream() was called
194      * for ( = that are available to the calling program). */
195     int num_streams;
196
197     /* cache for ID peeking */
198     uint32_t peek_id;
199
200     /* byte position of the segment inside the stream */
201     offset_t segment_start;
202
203     /* The packet queue. */
204     AVPacket **packets;
205     int num_packets;
206
207     int done;
208     int has_cluster_id;
209
210     /* What to skip before effectively reading a packet. */
211     int skip_to_keyframe;
212     AVStream *skip_to_stream;
213 } MatroskaDemuxContext;
214
215 typedef struct {
216     uint64_t duration;
217     int64_t  reference;
218     EbmlBin  bin;
219 } MatroskaBlock;
220
221 typedef struct {
222     uint64_t timecode;
223     EbmlList blocks;
224 } MatroskaCluster;
225
226 #define ARRAY_SIZE(x)  (sizeof(x)/sizeof(*x))
227
228 static EbmlSyntax ebml_header[] = {
229     { EBML_ID_EBMLREADVERSION,        EBML_UINT, 0, offsetof(Ebml,version), {.u=EBML_VERSION} },
230     { EBML_ID_EBMLMAXSIZELENGTH,      EBML_UINT, 0, offsetof(Ebml,max_size), {.u=8} },
231     { EBML_ID_EBMLMAXIDLENGTH,        EBML_UINT, 0, offsetof(Ebml,id_length), {.u=4} },
232     { EBML_ID_DOCTYPE,                EBML_STR,  0, offsetof(Ebml,doctype), {.s="(none)"} },
233     { EBML_ID_DOCTYPEREADVERSION,     EBML_UINT, 0, offsetof(Ebml,doctype_version), {.u=1} },
234     { EBML_ID_EBMLVERSION,            EBML_NONE },
235     { EBML_ID_DOCTYPEVERSION,         EBML_NONE },
236     { EBML_ID_VOID,                   EBML_NONE },
237     { 0 }
238 };
239
240 static EbmlSyntax ebml_syntax[] = {
241     { EBML_ID_HEADER,                 EBML_NEST, 0, 0, {.n=ebml_header} },
242     { 0 }
243 };
244
245 static EbmlSyntax matroska_info[] = {
246     { MATROSKA_ID_TIMECODESCALE,      EBML_UINT,  0, offsetof(MatroskaDemuxContext,time_scale), {.u=1000000} },
247     { MATROSKA_ID_DURATION,           EBML_FLOAT, 0, offsetof(MatroskaDemuxContext,duration) },
248     { MATROSKA_ID_TITLE,              EBML_UTF8,  0, offsetof(MatroskaDemuxContext,title) },
249     { MATROSKA_ID_WRITINGAPP,         EBML_NONE },
250     { MATROSKA_ID_MUXINGAPP,          EBML_NONE },
251     { MATROSKA_ID_DATEUTC,            EBML_NONE },
252     { MATROSKA_ID_SEGMENTUID,         EBML_NONE },
253     { EBML_ID_VOID,                   EBML_NONE },
254     { 0 }
255 };
256
257 static EbmlSyntax matroska_track_video[] = {
258     { MATROSKA_ID_VIDEOFRAMERATE,     EBML_FLOAT,0, offsetof(MatroskaTrackVideo,frame_rate) },
259     { MATROSKA_ID_VIDEODISPLAYWIDTH,  EBML_UINT, 0, offsetof(MatroskaTrackVideo,display_width) },
260     { MATROSKA_ID_VIDEODISPLAYHEIGHT, EBML_UINT, 0, offsetof(MatroskaTrackVideo,display_height) },
261     { MATROSKA_ID_VIDEOPIXELWIDTH,    EBML_UINT, 0, offsetof(MatroskaTrackVideo,pixel_width) },
262     { MATROSKA_ID_VIDEOPIXELHEIGHT,   EBML_UINT, 0, offsetof(MatroskaTrackVideo,pixel_height) },
263     { MATROSKA_ID_VIDEOCOLORSPACE,    EBML_UINT, 0, offsetof(MatroskaTrackVideo,fourcc) },
264     { MATROSKA_ID_VIDEOFLAGINTERLACED,EBML_NONE },
265     { MATROSKA_ID_VIDEOSTEREOMODE,    EBML_NONE },
266     { MATROSKA_ID_VIDEOASPECTRATIO,   EBML_NONE },
267     { EBML_ID_VOID,                   EBML_NONE },
268     { 0 }
269 };
270
271 static EbmlSyntax matroska_track_audio[] = {
272     { MATROSKA_ID_AUDIOSAMPLINGFREQ,  EBML_FLOAT,0, offsetof(MatroskaTrackAudio,samplerate), {.f=8000.0} },
273     { MATROSKA_ID_AUDIOOUTSAMPLINGFREQ,EBML_FLOAT,0,offsetof(MatroskaTrackAudio,out_samplerate) },
274     { MATROSKA_ID_AUDIOBITDEPTH,      EBML_UINT, 0, offsetof(MatroskaTrackAudio,bitdepth) },
275     { MATROSKA_ID_AUDIOCHANNELS,      EBML_UINT, 0, offsetof(MatroskaTrackAudio,channels), {.u=1} },
276     { EBML_ID_VOID,                   EBML_NONE },
277     { 0 }
278 };
279
280 static EbmlSyntax matroska_track_encoding_compression[] = {
281     { MATROSKA_ID_ENCODINGCOMPALGO,   EBML_UINT, 0, offsetof(MatroskaTrackCompression,algo), {.u=0} },
282     { MATROSKA_ID_ENCODINGCOMPSETTINGS,EBML_BIN, 0, offsetof(MatroskaTrackCompression,settings) },
283     { EBML_ID_VOID,                   EBML_NONE },
284     { 0 }
285 };
286
287 static EbmlSyntax matroska_track_encoding[] = {
288     { MATROSKA_ID_ENCODINGSCOPE,      EBML_UINT, 0, offsetof(MatroskaTrackEncoding,scope), {.u=1} },
289     { MATROSKA_ID_ENCODINGTYPE,       EBML_UINT, 0, offsetof(MatroskaTrackEncoding,type), {.u=0} },
290     { MATROSKA_ID_ENCODINGCOMPRESSION,EBML_NEST, 0, offsetof(MatroskaTrackEncoding,compression), {.n=matroska_track_encoding_compression} },
291     { EBML_ID_VOID,                   EBML_NONE },
292     { 0 }
293 };
294
295 static EbmlSyntax matroska_track_encodings[] = {
296     { MATROSKA_ID_TRACKCONTENTENCODING, EBML_NEST, sizeof(MatroskaTrackEncoding), offsetof(MatroskaTrack,encodings), {.n=matroska_track_encoding} },
297     { EBML_ID_VOID,                   EBML_NONE },
298     { 0 }
299 };
300
301 static EbmlSyntax matroska_track[] = {
302     { MATROSKA_ID_TRACKNUMBER,          EBML_UINT, 0, offsetof(MatroskaTrack,num) },
303     { MATROSKA_ID_TRACKTYPE,            EBML_UINT, 0, offsetof(MatroskaTrack,type) },
304     { MATROSKA_ID_CODECID,              EBML_STR,  0, offsetof(MatroskaTrack,codec_id) },
305     { MATROSKA_ID_CODECPRIVATE,         EBML_BIN,  0, offsetof(MatroskaTrack,codec_priv) },
306     { MATROSKA_ID_TRACKLANGUAGE,        EBML_UTF8, 0, offsetof(MatroskaTrack,language), {.s="eng"} },
307     { MATROSKA_ID_TRACKDEFAULTDURATION, EBML_UINT, 0, offsetof(MatroskaTrack,default_duration) },
308     { MATROSKA_ID_TRACKTIMECODESCALE,   EBML_FLOAT,0, offsetof(MatroskaTrack,time_scale), {.f=1.0} },
309     { MATROSKA_ID_TRACKFLAGDEFAULT,     EBML_UINT, 0, offsetof(MatroskaTrack,flag_default), {.u=1} },
310     { MATROSKA_ID_TRACKVIDEO,           EBML_NEST, 0, offsetof(MatroskaTrack,video), {.n=matroska_track_video} },
311     { MATROSKA_ID_TRACKAUDIO,           EBML_NEST, 0, offsetof(MatroskaTrack,audio), {.n=matroska_track_audio} },
312     { MATROSKA_ID_TRACKCONTENTENCODINGS,EBML_NEST, 0, 0, {.n=matroska_track_encodings} },
313     { MATROSKA_ID_TRACKUID,             EBML_NONE },
314     { MATROSKA_ID_TRACKNAME,            EBML_NONE },
315     { MATROSKA_ID_TRACKFLAGENABLED,     EBML_NONE },
316     { MATROSKA_ID_TRACKFLAGFORCED,      EBML_NONE },
317     { MATROSKA_ID_TRACKFLAGLACING,      EBML_NONE },
318     { MATROSKA_ID_CODECNAME,            EBML_NONE },
319     { MATROSKA_ID_CODECDECODEALL,       EBML_NONE },
320     { MATROSKA_ID_CODECINFOURL,         EBML_NONE },
321     { MATROSKA_ID_CODECDOWNLOADURL,     EBML_NONE },
322     { MATROSKA_ID_TRACKMINCACHE,        EBML_NONE },
323     { MATROSKA_ID_TRACKMAXCACHE,        EBML_NONE },
324     { EBML_ID_VOID,                     EBML_NONE },
325     { 0 }
326 };
327
328 static EbmlSyntax matroska_tracks[] = {
329     { MATROSKA_ID_TRACKENTRY,         EBML_NEST, sizeof(MatroskaTrack), offsetof(MatroskaDemuxContext,tracks), {.n=matroska_track} },
330     { EBML_ID_VOID,                   EBML_NONE },
331     { 0 }
332 };
333
334 static EbmlSyntax matroska_attachment[] = {
335     { MATROSKA_ID_FILENAME,           EBML_UTF8, 0, offsetof(MatroskaAttachement,filename) },
336     { MATROSKA_ID_FILEMIMETYPE,       EBML_STR,  0, offsetof(MatroskaAttachement,mime) },
337     { MATROSKA_ID_FILEDATA,           EBML_BIN,  0, offsetof(MatroskaAttachement,bin) },
338     { MATROSKA_ID_FILEUID,            EBML_NONE },
339     { EBML_ID_VOID,                   EBML_NONE },
340     { 0 }
341 };
342
343 static EbmlSyntax matroska_attachments[] = {
344     { MATROSKA_ID_ATTACHEDFILE,       EBML_NEST, sizeof(MatroskaAttachement), offsetof(MatroskaDemuxContext,attachments), {.n=matroska_attachment} },
345     { EBML_ID_VOID,                   EBML_NONE },
346     { 0 }
347 };
348
349 static EbmlSyntax matroska_chapter_display[] = {
350     { MATROSKA_ID_CHAPSTRING,         EBML_UTF8, 0, offsetof(MatroskaChapter,title) },
351     { EBML_ID_VOID,                   EBML_NONE },
352     { 0 }
353 };
354
355 static EbmlSyntax matroska_chapter_entry[] = {
356     { MATROSKA_ID_CHAPTERTIMESTART,   EBML_UINT, 0, offsetof(MatroskaChapter,start), {.u=AV_NOPTS_VALUE} },
357     { MATROSKA_ID_CHAPTERTIMEEND,     EBML_UINT, 0, offsetof(MatroskaChapter,end), {.u=AV_NOPTS_VALUE} },
358     { MATROSKA_ID_CHAPTERUID,         EBML_UINT, 0, offsetof(MatroskaChapter,uid) },
359     { MATROSKA_ID_CHAPTERDISPLAY,     EBML_NEST, 0, 0, {.n=matroska_chapter_display} },
360     { MATROSKA_ID_CHAPTERFLAGHIDDEN,  EBML_NONE },
361     { EBML_ID_VOID,                   EBML_NONE },
362     { 0 }
363 };
364
365 static EbmlSyntax matroska_chapter[] = {
366     { MATROSKA_ID_CHAPTERATOM,        EBML_NEST, sizeof(MatroskaChapter), offsetof(MatroskaDemuxContext,chapters), {.n=matroska_chapter_entry} },
367     { MATROSKA_ID_EDITIONUID,         EBML_NONE },
368     { MATROSKA_ID_EDITIONFLAGHIDDEN,  EBML_NONE },
369     { MATROSKA_ID_EDITIONFLAGDEFAULT, EBML_NONE },
370     { EBML_ID_VOID,                   EBML_NONE },
371     { 0 }
372 };
373
374 static EbmlSyntax matroska_chapters[] = {
375     { MATROSKA_ID_EDITIONENTRY,       EBML_NEST, 0, 0, {.n=matroska_chapter} },
376     { EBML_ID_VOID,                   EBML_NONE },
377     { 0 }
378 };
379
380 static EbmlSyntax matroska_index_pos[] = {
381     { MATROSKA_ID_CUETRACK,           EBML_UINT, 0, offsetof(MatroskaIndexPos,track) },
382     { MATROSKA_ID_CUECLUSTERPOSITION, EBML_UINT, 0, offsetof(MatroskaIndexPos,pos)   },
383     { EBML_ID_VOID,                   EBML_NONE },
384     { 0 }
385 };
386
387 static EbmlSyntax matroska_index_entry[] = {
388     { MATROSKA_ID_CUETIME,            EBML_UINT, 0, offsetof(MatroskaIndex,time) },
389     { MATROSKA_ID_CUETRACKPOSITION,   EBML_NEST, sizeof(MatroskaIndexPos), offsetof(MatroskaIndex,pos), {.n=matroska_index_pos} },
390     { EBML_ID_VOID,                   EBML_NONE },
391     { 0 }
392 };
393
394 static EbmlSyntax matroska_index[] = {
395     { MATROSKA_ID_POINTENTRY,         EBML_NEST, sizeof(MatroskaIndex), offsetof(MatroskaDemuxContext,index), {.n=matroska_index_entry} },
396     { EBML_ID_VOID,                   EBML_NONE },
397     { 0 }
398 };
399
400 static EbmlSyntax matroska_tags[] = {
401     { EBML_ID_VOID,                   EBML_NONE },
402     { 0 }
403 };
404
405 static EbmlSyntax matroska_seekhead_entry[] = {
406     { MATROSKA_ID_SEEKID,             EBML_UINT, 0, offsetof(MatroskaSeekhead,id) },
407     { MATROSKA_ID_SEEKPOSITION,       EBML_UINT, 0, offsetof(MatroskaSeekhead,pos), {.u=-1} },
408     { EBML_ID_VOID,                   EBML_NONE },
409     { 0 }
410 };
411
412 static EbmlSyntax matroska_seekhead[] = {
413     { MATROSKA_ID_SEEKENTRY,          EBML_NEST, sizeof(MatroskaSeekhead), offsetof(MatroskaDemuxContext,seekhead), {.n=matroska_seekhead_entry} },
414     { EBML_ID_VOID,                   EBML_NONE },
415     { 0 }
416 };
417
418 static EbmlSyntax matroska_segment[] = {
419     { MATROSKA_ID_INFO,           EBML_NEST, 0, 0, {.n=matroska_info       } },
420     { MATROSKA_ID_TRACKS,         EBML_NEST, 0, 0, {.n=matroska_tracks     } },
421     { MATROSKA_ID_ATTACHMENTS,    EBML_NEST, 0, 0, {.n=matroska_attachments} },
422     { MATROSKA_ID_CHAPTERS,       EBML_NEST, 0, 0, {.n=matroska_chapters   } },
423     { MATROSKA_ID_CUES,           EBML_NEST, 0, 0, {.n=matroska_index      } },
424     { MATROSKA_ID_TAGS,           EBML_NEST, 0, 0, {.n=matroska_tags       } },
425     { MATROSKA_ID_SEEKHEAD,       EBML_NEST, 0, 0, {.n=matroska_seekhead   } },
426     { MATROSKA_ID_CLUSTER,        EBML_STOP, 0, offsetof(MatroskaDemuxContext,has_cluster_id) },
427     { EBML_ID_VOID,               EBML_NONE },
428     { 0 }
429 };
430
431 static EbmlSyntax matroska_segments[] = {
432     { MATROSKA_ID_SEGMENT,        EBML_NEST, 0, 0, {.n=matroska_segment    } },
433     { 0 }
434 };
435
436 static EbmlSyntax matroska_blockgroup[] = {
437     { MATROSKA_ID_BLOCK,          EBML_BIN,  0, offsetof(MatroskaBlock,bin) },
438     { MATROSKA_ID_SIMPLEBLOCK,    EBML_BIN,  0, offsetof(MatroskaBlock,bin) },
439     { MATROSKA_ID_BLOCKDURATION,  EBML_UINT, 0, offsetof(MatroskaBlock,duration), {.u=AV_NOPTS_VALUE} },
440     { MATROSKA_ID_BLOCKREFERENCE, EBML_UINT, 0, offsetof(MatroskaBlock,reference) },
441     { EBML_ID_VOID,               EBML_NONE },
442     { 0 }
443 };
444
445 static EbmlSyntax matroska_cluster[] = {
446     { MATROSKA_ID_CLUSTERTIMECODE,EBML_UINT,0, offsetof(MatroskaCluster,timecode) },
447     { MATROSKA_ID_BLOCKGROUP,     EBML_NEST, sizeof(MatroskaBlock), offsetof(MatroskaCluster,blocks), {.n=matroska_blockgroup} },
448     { MATROSKA_ID_SIMPLEBLOCK,    EBML_PASS, sizeof(MatroskaBlock), offsetof(MatroskaCluster,blocks), {.n=matroska_blockgroup} },
449     { EBML_ID_VOID,               EBML_NONE },
450     { 0 }
451 };
452
453 static EbmlSyntax matroska_clusters[] = {
454     { MATROSKA_ID_CLUSTER,        EBML_NEST, 0, 0, {.n=matroska_cluster} },
455     { 0 }
456 };
457
458 /*
459  * Return: whether we reached the end of a level in the hierarchy or not
460  */
461 static int ebml_level_end(MatroskaDemuxContext *matroska)
462 {
463     ByteIOContext *pb = matroska->ctx->pb;
464     offset_t pos = url_ftell(pb);
465
466     if (matroska->num_levels > 0) {
467         MatroskaLevel *level = &matroska->levels[matroska->num_levels - 1];
468         if (pos - level->start >= level->length) {
469             matroska->num_levels--;
470             return 1;
471         }
472     }
473     return 0;
474 }
475
476 /*
477  * Read: an "EBML number", which is defined as a variable-length
478  * array of bytes. The first byte indicates the length by giving a
479  * number of 0-bits followed by a one. The position of the first
480  * "one" bit inside the first byte indicates the length of this
481  * number.
482  * Returns: num. of bytes read. < 0 on error.
483  */
484 static int ebml_read_num(MatroskaDemuxContext *matroska,
485                          int max_size, uint64_t *number)
486 {
487     ByteIOContext *pb = matroska->ctx->pb;
488     int len_mask = 0x80, read = 1, n = 1;
489     int64_t total = 0;
490
491     /* the first byte tells us the length in bytes - get_byte() can normally
492      * return 0, but since that's not a valid first ebmlID byte, we can
493      * use it safely here to catch EOS. */
494     if (!(total = get_byte(pb))) {
495         /* we might encounter EOS here */
496         if (!url_feof(pb)) {
497             offset_t pos = url_ftell(pb);
498             av_log(matroska->ctx, AV_LOG_ERROR,
499                    "Read error at pos. %"PRIu64" (0x%"PRIx64")\n",
500                    pos, pos);
501         }
502         return AVERROR(EIO); /* EOS or actual I/O error */
503     }
504
505     /* get the length of the EBML number */
506     while (read <= max_size && !(total & len_mask)) {
507         read++;
508         len_mask >>= 1;
509     }
510     if (read > max_size) {
511         offset_t pos = url_ftell(pb) - 1;
512         av_log(matroska->ctx, AV_LOG_ERROR,
513                "Invalid EBML number size tag 0x%02x at pos %"PRIu64" (0x%"PRIx64")\n",
514                (uint8_t) total, pos, pos);
515         return AVERROR_INVALIDDATA;
516     }
517
518     /* read out length */
519     total &= ~len_mask;
520     while (n++ < read)
521         total = (total << 8) | get_byte(pb);
522
523     *number = total;
524
525     return read;
526 }
527
528 /*
529  * Read: the element content data ID.
530  * 0 is success, < 0 is failure.
531  */
532 static int ebml_read_element_id(MatroskaDemuxContext *matroska, uint32_t *id)
533 {
534     int read;
535     uint64_t total;
536
537     /* if we re-call this, use our cached ID */
538     if (matroska->peek_id != 0) {
539         *id = matroska->peek_id;
540         return 0;
541     }
542
543     /* read out the "EBML number", include tag in ID */
544     if ((read = ebml_read_num(matroska, 4, &total)) < 0)
545         return read;
546     *id = matroska->peek_id  = total | (1 << (read * 7));
547
548     return 0;
549 }
550
551 /*
552  * Read: element content length.
553  * Return: the number of bytes read or < 0 on error.
554  */
555 static int ebml_read_element_length(MatroskaDemuxContext *matroska,
556                                     uint64_t *length)
557 {
558     /* clear cache since we're now beyond that data point */
559     matroska->peek_id = 0;
560
561     /* read out the "EBML number", include tag in ID */
562     return ebml_read_num(matroska, 8, length);
563 }
564
565 /*
566  * Seek to a given offset.
567  * 0 is success, -1 is failure.
568  */
569 static int ebml_read_seek(MatroskaDemuxContext *matroska, offset_t offset)
570 {
571     ByteIOContext *pb = matroska->ctx->pb;
572
573     /* clear ID cache, if any */
574     matroska->peek_id = 0;
575
576     return (url_fseek(pb, offset, SEEK_SET) == offset) ? 0 : -1;
577 }
578
579 /*
580  * Read the next element as an unsigned int.
581  * 0 is success, < 0 is failure.
582  */
583 static int ebml_read_uint(ByteIOContext *pb, int size, uint64_t *num)
584 {
585     int n = 0;
586
587     if (size < 1 || size > 8)
588         return AVERROR_INVALIDDATA;
589
590     /* big-endian ordening; build up number */
591     *num = 0;
592     while (n++ < size)
593         *num = (*num << 8) | get_byte(pb);
594
595     return 0;
596 }
597
598 /*
599  * Read the next element as a float.
600  * 0 is success, < 0 is failure.
601  */
602 static int ebml_read_float(ByteIOContext *pb, int size, double *num)
603 {
604     if (size == 4) {
605         *num= av_int2flt(get_be32(pb));
606     } else if(size==8){
607         *num= av_int2dbl(get_be64(pb));
608     } else
609         return AVERROR_INVALIDDATA;
610
611     return 0;
612 }
613
614 /*
615  * Read the next element as an ASCII string.
616  * 0 is success, < 0 is failure.
617  */
618 static int ebml_read_ascii(ByteIOContext *pb, int size, char **str)
619 {
620     av_free(*str);
621     /* ebml strings are usually not 0-terminated, so we allocate one
622      * byte more, read the string and NULL-terminate it ourselves. */
623     if (!(*str = av_malloc(size + 1)))
624         return AVERROR(ENOMEM);
625     if (get_buffer(pb, (uint8_t *) *str, size) != size) {
626         av_free(*str);
627         return AVERROR(EIO);
628     }
629     (*str)[size] = '\0';
630
631     return 0;
632 }
633
634 /*
635  * Read the next element, but only the header. The contents
636  * are supposed to be sub-elements which can be read separately.
637  * 0 is success, < 0 is failure.
638  */
639 static int ebml_read_master(MatroskaDemuxContext *matroska, int length)
640 {
641     ByteIOContext *pb = matroska->ctx->pb;
642     MatroskaLevel *level;
643
644     if (matroska->num_levels >= EBML_MAX_DEPTH) {
645         av_log(matroska->ctx, AV_LOG_ERROR,
646                "File moves beyond max. allowed depth (%d)\n", EBML_MAX_DEPTH);
647         return AVERROR(ENOSYS);
648     }
649
650     level = &matroska->levels[matroska->num_levels++];
651     level->start = url_ftell(pb);
652     level->length = length;
653
654     return 0;
655 }
656
657 /*
658  * Read the next element as binary data.
659  * 0 is success, < 0 is failure.
660  */
661 static int ebml_read_binary(ByteIOContext *pb, int length, EbmlBin *bin)
662 {
663     av_free(bin->data);
664     if (!(bin->data = av_malloc(length)))
665         return AVERROR(ENOMEM);
666
667     bin->size = length;
668     bin->pos  = url_ftell(pb);
669     if (get_buffer(pb, bin->data, length) != length)
670         return AVERROR(EIO);
671
672     return 0;
673 }
674
675 /*
676  * Read signed/unsigned "EBML" numbers.
677  * Return: number of bytes processed, < 0 on error.
678  * XXX: use ebml_read_num().
679  */
680 static int matroska_ebmlnum_uint(uint8_t *data, uint32_t size, uint64_t *num)
681 {
682     int len_mask = 0x80, read = 1, n = 1, num_ffs = 0;
683     uint64_t total;
684
685     if (size <= 0)
686         return AVERROR_INVALIDDATA;
687
688     total = data[0];
689     while (read <= 8 && !(total & len_mask)) {
690         read++;
691         len_mask >>= 1;
692     }
693     if (read > 8)
694         return AVERROR_INVALIDDATA;
695
696     if ((total &= (len_mask - 1)) == len_mask - 1)
697         num_ffs++;
698     if (size < read)
699         return AVERROR_INVALIDDATA;
700     while (n < read) {
701         if (data[n] == 0xff)
702             num_ffs++;
703         total = (total << 8) | data[n];
704         n++;
705     }
706
707     if (read == num_ffs)
708         *num = (uint64_t)-1;
709     else
710         *num = total;
711
712     return read;
713 }
714
715 /*
716  * Same as above, but signed.
717  */
718 static int matroska_ebmlnum_sint(uint8_t *data, uint32_t size, int64_t *num)
719 {
720     uint64_t unum;
721     int res;
722
723     /* read as unsigned number first */
724     if ((res = matroska_ebmlnum_uint(data, size, &unum)) < 0)
725         return res;
726
727     /* make signed (weird way) */
728     if (unum == (uint64_t)-1)
729         *num = INT64_MAX;
730     else
731         *num = unum - ((1LL << ((7 * res) - 1)) - 1);
732
733     return res;
734 }
735
736
737 static MatroskaTrack *matroska_find_track_by_num(MatroskaDemuxContext *matroska,
738                                                  int num)
739 {
740     MatroskaTrack *tracks = matroska->tracks.elem;
741     int i;
742
743     for (i=0; i < matroska->tracks.nb_elem; i++)
744         if (tracks[i].num == num)
745             return &tracks[i];
746
747     av_log(matroska->ctx, AV_LOG_ERROR, "Invalid track number %d\n", num);
748     return NULL;
749 }
750
751
752 /*
753  * Put one packet in an application-supplied AVPacket struct.
754  * Returns 0 on success or -1 on failure.
755  */
756 static int matroska_deliver_packet(MatroskaDemuxContext *matroska,
757                                    AVPacket *pkt)
758 {
759     if (matroska->num_packets > 0) {
760         memcpy(pkt, matroska->packets[0], sizeof(AVPacket));
761         av_free(matroska->packets[0]);
762         if (matroska->num_packets > 1) {
763             memmove(&matroska->packets[0], &matroska->packets[1],
764                     (matroska->num_packets - 1) * sizeof(AVPacket *));
765             matroska->packets =
766                 av_realloc(matroska->packets, (matroska->num_packets - 1) *
767                            sizeof(AVPacket *));
768         } else {
769             av_freep(&matroska->packets);
770         }
771         matroska->num_packets--;
772         return 0;
773     }
774
775     return -1;
776 }
777
778 /*
779  * Put a packet into our internal queue. Will be delivered to the
780  * user/application during the next get_packet() call.
781  */
782 static void matroska_queue_packet(MatroskaDemuxContext *matroska, AVPacket *pkt)
783 {
784     matroska->packets =
785         av_realloc(matroska->packets, (matroska->num_packets + 1) *
786                    sizeof(AVPacket *));
787     matroska->packets[matroska->num_packets] = pkt;
788     matroska->num_packets++;
789 }
790
791 /*
792  * Free all packets in our internal queue.
793  */
794 static void matroska_clear_queue(MatroskaDemuxContext *matroska)
795 {
796     if (matroska->packets) {
797         int n;
798         for (n = 0; n < matroska->num_packets; n++) {
799             av_free_packet(matroska->packets[n]);
800             av_free(matroska->packets[n]);
801         }
802         av_free(matroska->packets);
803         matroska->packets = NULL;
804         matroska->num_packets = 0;
805     }
806 }
807
808
809 /*
810  * Autodetecting...
811  */
812 static int matroska_probe(AVProbeData *p)
813 {
814     uint64_t total = 0;
815     int len_mask = 0x80, size = 1, n = 1;
816     char probe_data[] = "matroska";
817
818     /* ebml header? */
819     if (AV_RB32(p->buf) != EBML_ID_HEADER)
820         return 0;
821
822     /* length of header */
823     total = p->buf[4];
824     while (size <= 8 && !(total & len_mask)) {
825         size++;
826         len_mask >>= 1;
827     }
828     if (size > 8)
829       return 0;
830     total &= (len_mask - 1);
831     while (n < size)
832         total = (total << 8) | p->buf[4 + n++];
833
834     /* does the probe data contain the whole header? */
835     if (p->buf_size < 4 + size + total)
836       return 0;
837
838     /* the header must contain the document type 'matroska'. For now,
839      * we don't parse the whole header but simply check for the
840      * availability of that array of characters inside the header.
841      * Not fully fool-proof, but good enough. */
842     for (n = 4+size; n <= 4+size+total-(sizeof(probe_data)-1); n++)
843         if (!memcmp(p->buf+n, probe_data, sizeof(probe_data)-1))
844             return AVPROBE_SCORE_MAX;
845
846     return 0;
847 }
848
849 static int ebml_parse(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
850                       void *data, int once);
851
852 static int ebml_parse_elem(MatroskaDemuxContext *matroska,
853                            EbmlSyntax *syntax, void *data)
854 {
855     ByteIOContext *pb = matroska->ctx->pb;
856     uint32_t id = syntax->id;
857     uint64_t length;
858     int res;
859
860     data = (char *)data + syntax->data_offset;
861     if (syntax->list_elem_size) {
862         EbmlList *list = data;
863         list->elem = av_realloc(list->elem, (list->nb_elem+1)*syntax->list_elem_size);
864         data = (char*)list->elem + list->nb_elem*syntax->list_elem_size;
865         memset(data, 0, syntax->list_elem_size);
866         list->nb_elem++;
867     }
868
869     if (syntax->type != EBML_PASS && syntax->type != EBML_STOP)
870         if ((res = ebml_read_element_id(matroska, &id)) < 0 ||
871             (res = ebml_read_element_length(matroska, &length)) < 0)
872             return res;
873
874     switch (syntax->type) {
875     case EBML_UINT:  res = ebml_read_uint  (pb, length, data);  break;
876     case EBML_FLOAT: res = ebml_read_float (pb, length, data);  break;
877     case EBML_STR:
878     case EBML_UTF8:  res = ebml_read_ascii (pb, length, data);  break;
879     case EBML_BIN:   res = ebml_read_binary(pb, length, data);  break;
880     case EBML_NEST:  if ((res=ebml_read_master(matroska, length)) < 0)
881                          return res;
882                      if (id == MATROSKA_ID_SEGMENT)
883                          matroska->segment_start = url_ftell(matroska->ctx->pb);
884                      return ebml_parse(matroska, syntax->def.n, data, 0);
885     case EBML_PASS:  return ebml_parse(matroska, syntax->def.n, data, 1);
886     case EBML_STOP:  *(int *)data = 1;      return 1;
887     default:         url_fskip(pb, length); return 0;
888     }
889     if (res == AVERROR_INVALIDDATA)
890         av_log(matroska->ctx, AV_LOG_ERROR, "Invalid element\n");
891     else if (res == AVERROR(EIO))
892         av_log(matroska->ctx, AV_LOG_ERROR, "Read error\n");
893     return res;
894 }
895
896 static int ebml_parse_id(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
897                          uint32_t id, void *data)
898 {
899     int i;
900     for (i=0; syntax[i].id; i++)
901         if (id == syntax[i].id)
902             break;
903     if (!syntax[i].id)
904         av_log(matroska->ctx, AV_LOG_INFO, "Unknown entry 0x%X\n", id);
905     return ebml_parse_elem(matroska, &syntax[i], data);
906 }
907
908 static int ebml_parse(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
909                       void *data, int once)
910 {
911     int i, res = 0;
912     uint32_t id = 0;
913
914     for (i=0; syntax[i].id; i++)
915         switch (syntax[i].type) {
916         case EBML_UINT:
917             *(uint64_t *)((char *)data+syntax[i].data_offset) = syntax[i].def.u;
918             break;
919         case EBML_FLOAT:
920             *(double   *)((char *)data+syntax[i].data_offset) = syntax[i].def.f;
921             break;
922         case EBML_STR:
923         case EBML_UTF8:
924             *(char    **)((char *)data+syntax[i].data_offset) = av_strdup(syntax[i].def.s);
925             break;
926         }
927
928     while (!res && !ebml_level_end(matroska)) {
929         res = ebml_read_element_id(matroska, &id);
930         if (!res)
931         res = ebml_parse_id(matroska, syntax, id, data);
932         if (once)
933             break;
934     }
935
936     return res;
937 }
938
939 static void ebml_free(EbmlSyntax *syntax, void *data)
940 {
941     int i, j;
942     for (i=0; syntax[i].id; i++) {
943         void *data_off = (char *)data + syntax[i].data_offset;
944         switch (syntax[i].type) {
945         case EBML_STR:
946         case EBML_UTF8:  av_freep(data_off);                      break;
947         case EBML_BIN:   av_freep(&((EbmlBin *)data_off)->data);  break;
948         case EBML_NEST:
949             if (syntax[i].list_elem_size) {
950                 EbmlList *list = data_off;
951                 char *ptr = list->elem;
952                 for (j=0; j<list->nb_elem; j++, ptr+=syntax[i].list_elem_size)
953                     ebml_free(syntax[i].def.n, ptr);
954                 av_free(list->elem);
955             } else
956                 ebml_free(syntax[i].def.n, data_off);
957         default:  break;
958         }
959     }
960 }
961
962 static int matroska_decode_buffer(uint8_t** buf, int* buf_size,
963                                   MatroskaTrack *track)
964 {
965     MatroskaTrackEncoding *encodings = track->encodings.elem;
966     uint8_t* data = *buf;
967     int isize = *buf_size;
968     uint8_t* pkt_data = NULL;
969     int pkt_size = isize;
970     int result = 0;
971     int olen;
972
973     switch (encodings[0].compression.algo) {
974     case MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP:
975         return encodings[0].compression.settings.size;
976     case MATROSKA_TRACK_ENCODING_COMP_LZO:
977         do {
978             olen = pkt_size *= 3;
979             pkt_data = av_realloc(pkt_data,
980                                   pkt_size+LZO_OUTPUT_PADDING);
981             result = lzo1x_decode(pkt_data, &olen, data, &isize);
982         } while (result==LZO_OUTPUT_FULL && pkt_size<10000000);
983         if (result)
984             goto failed;
985         pkt_size -= olen;
986         break;
987 #ifdef CONFIG_ZLIB
988     case MATROSKA_TRACK_ENCODING_COMP_ZLIB: {
989         z_stream zstream = {0};
990         if (inflateInit(&zstream) != Z_OK)
991             return -1;
992         zstream.next_in = data;
993         zstream.avail_in = isize;
994         do {
995             pkt_size *= 3;
996             pkt_data = av_realloc(pkt_data, pkt_size);
997             zstream.avail_out = pkt_size - zstream.total_out;
998             zstream.next_out = pkt_data + zstream.total_out;
999             result = inflate(&zstream, Z_NO_FLUSH);
1000         } while (result==Z_OK && pkt_size<10000000);
1001         pkt_size = zstream.total_out;
1002         inflateEnd(&zstream);
1003         if (result != Z_STREAM_END)
1004             goto failed;
1005         break;
1006     }
1007 #endif
1008 #ifdef CONFIG_BZLIB
1009     case MATROSKA_TRACK_ENCODING_COMP_BZLIB: {
1010         bz_stream bzstream = {0};
1011         if (BZ2_bzDecompressInit(&bzstream, 0, 0) != BZ_OK)
1012             return -1;
1013         bzstream.next_in = data;
1014         bzstream.avail_in = isize;
1015         do {
1016             pkt_size *= 3;
1017             pkt_data = av_realloc(pkt_data, pkt_size);
1018             bzstream.avail_out = pkt_size - bzstream.total_out_lo32;
1019             bzstream.next_out = pkt_data + bzstream.total_out_lo32;
1020             result = BZ2_bzDecompress(&bzstream);
1021         } while (result==BZ_OK && pkt_size<10000000);
1022         pkt_size = bzstream.total_out_lo32;
1023         BZ2_bzDecompressEnd(&bzstream);
1024         if (result != BZ_STREAM_END)
1025             goto failed;
1026         break;
1027     }
1028 #endif
1029     }
1030
1031     *buf = pkt_data;
1032     *buf_size = pkt_size;
1033     return 0;
1034  failed:
1035     av_free(pkt_data);
1036     return -1;
1037 }
1038
1039 static void matroska_execute_seekhead(MatroskaDemuxContext *matroska)
1040 {
1041     EbmlList *seekhead_list = &matroska->seekhead;
1042     MatroskaSeekhead *seekhead = seekhead_list->elem;
1043     uint32_t peek_id_cache = matroska->peek_id;
1044     uint32_t level_up = matroska->level_up;
1045     offset_t before_pos = url_ftell(matroska->ctx->pb);
1046     MatroskaLevel level;
1047     int i;
1048
1049     for (i=0; i<seekhead_list->nb_elem; i++) {
1050         if (seekhead[i].pos <= before_pos
1051             || seekhead[i].id == MATROSKA_ID_SEEKHEAD
1052             || seekhead[i].id == MATROSKA_ID_CLUSTER)
1053             continue;
1054
1055         /* seek */
1056         if (ebml_read_seek(matroska,
1057                            seekhead[i].pos+matroska->segment_start) < 0)
1058             continue;
1059
1060         /* we don't want to lose our seekhead level, so we add
1061          * a dummy. This is a crude hack. */
1062         if (matroska->num_levels == EBML_MAX_DEPTH) {
1063             av_log(matroska->ctx, AV_LOG_INFO,
1064                    "Max EBML element depth (%d) reached, "
1065                    "cannot parse further.\n", EBML_MAX_DEPTH);
1066             break;
1067         }
1068
1069         level.start = 0;
1070         level.length = (uint64_t)-1;
1071         matroska->levels[matroska->num_levels] = level;
1072         matroska->num_levels++;
1073
1074         ebml_parse_id(matroska, matroska_segment, seekhead[i].id, matroska);
1075
1076         /* remove dummy level */
1077         while (matroska->num_levels) {
1078             uint64_t length = matroska->levels[--matroska->num_levels].length;
1079             if (length == (uint64_t)-1)
1080                 break;
1081         }
1082     }
1083
1084     /* seek back */
1085     ebml_read_seek(matroska, before_pos);
1086     matroska->peek_id = peek_id_cache;
1087     matroska->level_up = level_up;
1088 }
1089
1090 static int matroska_aac_profile(char *codec_id)
1091 {
1092     static const char *aac_profiles[] = { "MAIN", "LC", "SSR" };
1093     int profile;
1094
1095     for (profile=0; profile<ARRAY_SIZE(aac_profiles); profile++)
1096         if (strstr(codec_id, aac_profiles[profile]))
1097             break;
1098     return profile + 1;
1099 }
1100
1101 static int matroska_aac_sri(int samplerate)
1102 {
1103     int sri;
1104
1105     for (sri=0; sri<ARRAY_SIZE(ff_mpeg4audio_sample_rates); sri++)
1106         if (ff_mpeg4audio_sample_rates[sri] == samplerate)
1107             break;
1108     return sri;
1109 }
1110
1111 static int matroska_read_header(AVFormatContext *s, AVFormatParameters *ap)
1112 {
1113     MatroskaDemuxContext *matroska = s->priv_data;
1114     EbmlList *attachements_list = &matroska->attachments;
1115     MatroskaAttachement *attachements;
1116     EbmlList *chapters_list = &matroska->chapters;
1117     MatroskaChapter *chapters;
1118     MatroskaTrack *tracks;
1119     EbmlList *index_list;
1120     MatroskaIndex *index;
1121     Ebml ebml = { 0 };
1122     AVStream *st;
1123     int i, j;
1124
1125     matroska->ctx = s;
1126
1127     /* First read the EBML header. */
1128     if (ebml_parse(matroska, ebml_syntax, &ebml, 1)
1129         || ebml.version > EBML_VERSION       || ebml.max_size > sizeof(uint64_t)
1130         || ebml.id_length > sizeof(uint32_t) || strcmp(ebml.doctype, "matroska")
1131         || ebml.doctype_version > 2) {
1132         av_log(matroska->ctx, AV_LOG_ERROR,
1133                "EBML header using unsupported features\n"
1134                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
1135                ebml.version, ebml.doctype, ebml.doctype_version);
1136         return AVERROR_NOFMT;
1137     }
1138     ebml_free(ebml_syntax, &ebml);
1139
1140     /* The next thing is a segment. */
1141     if (ebml_parse(matroska, matroska_segments, matroska, 1) < 0)
1142         return -1;
1143     matroska_execute_seekhead(matroska);
1144
1145     if (matroska->duration)
1146         matroska->ctx->duration = matroska->duration * matroska->time_scale
1147                                   * 1000 / AV_TIME_BASE;
1148     if (matroska->title)
1149         strncpy(matroska->ctx->title, matroska->title,
1150                 sizeof(matroska->ctx->title)-1);
1151
1152     tracks = matroska->tracks.elem;
1153     for (i=0; i < matroska->tracks.nb_elem; i++) {
1154         MatroskaTrack *track = &tracks[i];
1155         enum CodecID codec_id = CODEC_ID_NONE;
1156         EbmlList *encodings_list = &tracks->encodings;
1157         MatroskaTrackEncoding *encodings = encodings_list->elem;
1158         uint8_t *extradata = NULL;
1159         int extradata_size = 0;
1160         int extradata_offset = 0;
1161
1162         /* Apply some sanity checks. */
1163         if (track->type != MATROSKA_TRACK_TYPE_VIDEO &&
1164             track->type != MATROSKA_TRACK_TYPE_AUDIO &&
1165             track->type != MATROSKA_TRACK_TYPE_SUBTITLE) {
1166             av_log(matroska->ctx, AV_LOG_INFO,
1167                    "Unknown or unsupported track type %"PRIu64"\n",
1168                    track->type);
1169             continue;
1170         }
1171         if (track->codec_id == NULL)
1172             continue;
1173
1174         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
1175             if (!track->default_duration)
1176                 track->default_duration = 1000000000/track->video.frame_rate;
1177             if (!track->video.display_width)
1178                 track->video.display_width = track->video.pixel_width;
1179             if (!track->video.display_height)
1180                 track->video.display_height = track->video.pixel_height;
1181         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
1182             if (!track->audio.out_samplerate)
1183                 track->audio.out_samplerate = track->audio.samplerate;
1184         }
1185         if (encodings_list->nb_elem > 1) {
1186             av_log(matroska->ctx, AV_LOG_ERROR,
1187                    "Multiple combined encodings no supported");
1188         } else if (encodings_list->nb_elem == 1) {
1189             if (encodings[0].type ||
1190                 (encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP &&
1191 #ifdef CONFIG_ZLIB
1192                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_ZLIB &&
1193 #endif
1194 #ifdef CONFIG_BZLIB
1195                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_BZLIB &&
1196 #endif
1197                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_LZO)) {
1198                 encodings[0].scope = 0;
1199                 av_log(matroska->ctx, AV_LOG_ERROR,
1200                        "Unsupported encoding type");
1201             } else if (track->codec_priv.size && encodings[0].scope&2) {
1202                 uint8_t *codec_priv = track->codec_priv.data;
1203                 int offset = matroska_decode_buffer(&track->codec_priv.data,
1204                                                     &track->codec_priv.size,
1205                                                     track);
1206                 if (offset < 0) {
1207                     track->codec_priv.data = NULL;
1208                     track->codec_priv.size = 0;
1209                     av_log(matroska->ctx, AV_LOG_ERROR,
1210                            "Failed to decode codec private data\n");
1211                 } else if (offset > 0) {
1212                     track->codec_priv.data = av_malloc(track->codec_priv.size + offset);
1213                     memcpy(track->codec_priv.data,
1214                            encodings[0].compression.settings.data, offset);
1215                     memcpy(track->codec_priv.data+offset, codec_priv,
1216                            track->codec_priv.size);
1217                     track->codec_priv.size += offset;
1218                 }
1219                 if (codec_priv != track->codec_priv.data)
1220                     av_free(codec_priv);
1221             }
1222         }
1223
1224         for(j=0; ff_mkv_codec_tags[j].id != CODEC_ID_NONE; j++){
1225             if(!strncmp(ff_mkv_codec_tags[j].str, track->codec_id,
1226                         strlen(ff_mkv_codec_tags[j].str))){
1227                 codec_id= ff_mkv_codec_tags[j].id;
1228                 break;
1229             }
1230         }
1231
1232         st = track->stream = av_new_stream(s, matroska->num_streams++);
1233         if (st == NULL)
1234             return AVERROR(ENOMEM);
1235
1236         if (!strcmp(track->codec_id, MATROSKA_CODEC_ID_VIDEO_VFW_FOURCC)
1237             && track->codec_priv.size >= 40
1238             && track->codec_priv.data != NULL) {
1239             track->video.fourcc = AV_RL32(track->codec_priv.data + 16);
1240             codec_id = codec_get_id(codec_bmp_tags, track->video.fourcc);
1241         } else if (!strcmp(track->codec_id, MATROSKA_CODEC_ID_AUDIO_ACM)
1242                    && track->codec_priv.size >= 18
1243                    && track->codec_priv.data != NULL) {
1244             uint16_t tag = AV_RL16(track->codec_priv.data);
1245             codec_id = codec_get_id(codec_wav_tags, tag);
1246         } else if (!strcmp(track->codec_id, "V_QUICKTIME")
1247                    && (track->codec_priv.size >= 86)
1248                    && (track->codec_priv.data != NULL)) {
1249             track->video.fourcc = AV_RL32(track->codec_priv.data);
1250             codec_id=codec_get_id(codec_movvideo_tags, track->video.fourcc);
1251         } else if (codec_id == CODEC_ID_AAC && !track->codec_priv.size) {
1252             int profile = matroska_aac_profile(track->codec_id);
1253             int sri = matroska_aac_sri(track->audio.samplerate);
1254             extradata = av_malloc(5);
1255             if (extradata == NULL)
1256                 return AVERROR(ENOMEM);
1257             extradata[0] = (profile << 3) | ((sri&0x0E) >> 1);
1258             extradata[1] = ((sri&0x01) << 7) | (track->audio.channels<<3);
1259             if (strstr(track->codec_id, "SBR")) {
1260                 sri = matroska_aac_sri(track->audio.out_samplerate);
1261                 extradata[2] = 0x56;
1262                 extradata[3] = 0xE5;
1263                 extradata[4] = 0x80 | (sri<<3);
1264                 extradata_size = 5;
1265             } else
1266                 extradata_size = 2;
1267         } else if (codec_id == CODEC_ID_TTA) {
1268             ByteIOContext b;
1269             extradata_size = 30;
1270             extradata = av_mallocz(extradata_size);
1271             if (extradata == NULL)
1272                 return AVERROR(ENOMEM);
1273             init_put_byte(&b, extradata, extradata_size, 1,
1274                           NULL, NULL, NULL, NULL);
1275             put_buffer(&b, "TTA1", 4);
1276             put_le16(&b, 1);
1277             put_le16(&b, track->audio.channels);
1278             put_le16(&b, track->audio.bitdepth);
1279             put_le32(&b, track->audio.out_samplerate);
1280             put_le32(&b, matroska->ctx->duration * track->audio.out_samplerate);
1281         } else if (codec_id == CODEC_ID_RV10 || codec_id == CODEC_ID_RV20 ||
1282                    codec_id == CODEC_ID_RV30 || codec_id == CODEC_ID_RV40) {
1283             extradata_offset = 26;
1284             track->codec_priv.size -= extradata_offset;
1285         } else if (codec_id == CODEC_ID_RA_144) {
1286             track->audio.out_samplerate = 8000;
1287             track->audio.channels = 1;
1288         } else if (codec_id == CODEC_ID_RA_288 || codec_id == CODEC_ID_COOK ||
1289                    codec_id == CODEC_ID_ATRAC3) {
1290             ByteIOContext b;
1291
1292             init_put_byte(&b, track->codec_priv.data,track->codec_priv.size,
1293                           0, NULL, NULL, NULL, NULL);
1294             url_fskip(&b, 24);
1295             track->audio.coded_framesize = get_be32(&b);
1296             url_fskip(&b, 12);
1297             track->audio.sub_packet_h    = get_be16(&b);
1298             track->audio.frame_size      = get_be16(&b);
1299             track->audio.sub_packet_size = get_be16(&b);
1300             track->audio.buf = av_malloc(track->audio.frame_size * track->audio.sub_packet_h);
1301             if (codec_id == CODEC_ID_RA_288) {
1302                 st->codec->block_align = track->audio.coded_framesize;
1303                 track->codec_priv.size = 0;
1304             } else {
1305                 st->codec->block_align = track->audio.sub_packet_size;
1306                 extradata_offset = 78;
1307                 track->codec_priv.size -= extradata_offset;
1308             }
1309         }
1310
1311         if (codec_id == CODEC_ID_NONE)
1312             av_log(matroska->ctx, AV_LOG_INFO,
1313                    "Unknown/unsupported CodecID %s.\n", track->codec_id);
1314
1315         av_set_pts_info(st, 64, matroska->time_scale*track->time_scale, 1000*1000*1000); /* 64 bit pts in ns */
1316
1317         st->codec->codec_id = codec_id;
1318         st->start_time = 0;
1319         if (strcmp(track->language, "und"))
1320             av_strlcpy(st->language, track->language, 4);
1321
1322         if (track->flag_default)
1323             st->disposition |= AV_DISPOSITION_DEFAULT;
1324
1325         if (track->default_duration)
1326             av_reduce(&st->codec->time_base.num, &st->codec->time_base.den,
1327                       track->default_duration, 1000000000, 30000);
1328
1329         if(extradata){
1330             st->codec->extradata = extradata;
1331             st->codec->extradata_size = extradata_size;
1332         } else if(track->codec_priv.data && track->codec_priv.size > 0){
1333             st->codec->extradata = av_malloc(track->codec_priv.size);
1334             if(st->codec->extradata == NULL)
1335                 return AVERROR(ENOMEM);
1336             st->codec->extradata_size = track->codec_priv.size;
1337             memcpy(st->codec->extradata,
1338                    track->codec_priv.data + extradata_offset,
1339                    track->codec_priv.size);
1340         }
1341
1342         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
1343             st->codec->codec_type = CODEC_TYPE_VIDEO;
1344             st->codec->codec_tag  = track->video.fourcc;
1345             st->codec->width  = track->video.pixel_width;
1346             st->codec->height = track->video.pixel_height;
1347             av_reduce(&st->codec->sample_aspect_ratio.num,
1348                       &st->codec->sample_aspect_ratio.den,
1349                       st->codec->height * track->video.display_width,
1350                       st->codec-> width * track->video.display_height,
1351                       255);
1352             st->need_parsing = AVSTREAM_PARSE_HEADERS;
1353         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
1354             st->codec->codec_type = CODEC_TYPE_AUDIO;
1355             st->codec->sample_rate = track->audio.out_samplerate;
1356             st->codec->channels = track->audio.channels;
1357         } else if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE) {
1358             st->codec->codec_type = CODEC_TYPE_SUBTITLE;
1359         }
1360     }
1361
1362     attachements = attachements_list->elem;
1363     for (j=0; j<attachements_list->nb_elem; j++) {
1364         if (!(attachements[j].filename && attachements[j].mime &&
1365               attachements[j].bin.data && attachements[j].bin.size > 0)) {
1366             av_log(matroska->ctx, AV_LOG_ERROR, "incomplete attachment\n");
1367         } else {
1368             AVStream *st = av_new_stream(s, matroska->num_streams++);
1369             if (st == NULL)
1370                 break;
1371             st->filename          = av_strdup(attachements[j].filename);
1372             st->codec->codec_id = CODEC_ID_NONE;
1373             st->codec->codec_type = CODEC_TYPE_ATTACHMENT;
1374             st->codec->extradata  = av_malloc(attachements[j].bin.size);
1375             if(st->codec->extradata == NULL)
1376                 break;
1377             st->codec->extradata_size = attachements[j].bin.size;
1378             memcpy(st->codec->extradata, attachements[j].bin.data, attachements[j].bin.size);
1379
1380             for (i=0; ff_mkv_mime_tags[i].id != CODEC_ID_NONE; i++) {
1381                 if (!strncmp(ff_mkv_mime_tags[i].str, attachements[j].mime,
1382                              strlen(ff_mkv_mime_tags[i].str))) {
1383                     st->codec->codec_id = ff_mkv_mime_tags[i].id;
1384                     break;
1385                 }
1386             }
1387         }
1388     }
1389
1390     chapters = chapters_list->elem;
1391     for (i=0; i<chapters_list->nb_elem; i++)
1392         if (chapters[i].start != AV_NOPTS_VALUE && chapters[i].uid)
1393             ff_new_chapter(s, chapters[i].uid, (AVRational){1, 1000000000},
1394                            chapters[i].start, chapters[i].end,
1395                            chapters[i].title);
1396
1397     index_list = &matroska->index;
1398     index = index_list->elem;
1399     for (i=0; i<index_list->nb_elem; i++) {
1400         EbmlList *pos_list = &index[i].pos;
1401         MatroskaIndexPos *pos = pos_list->elem;
1402         for (j=0; j<pos_list->nb_elem; j++) {
1403             MatroskaTrack *track = matroska_find_track_by_num(matroska,
1404                                                               pos[j].track);
1405             if (track && track->stream)
1406                 av_add_index_entry(track->stream,
1407                                    pos[j].pos + matroska->segment_start,
1408                                    index[i].time*matroska->time_scale/AV_TIME_BASE,
1409                                    0, 0, AVINDEX_KEYFRAME);
1410         }
1411     }
1412
1413     return 0;
1414 }
1415
1416 static int matroska_parse_block(MatroskaDemuxContext *matroska, uint8_t *data,
1417                                 int size, int64_t pos, uint64_t cluster_time,
1418                                 uint64_t duration, int is_keyframe)
1419 {
1420     MatroskaTrack *track;
1421     int res = 0;
1422     AVStream *st;
1423     AVPacket *pkt;
1424     int16_t block_time;
1425     uint32_t *lace_size = NULL;
1426     int n, flags, laces = 0;
1427     uint64_t num;
1428
1429     if ((n = matroska_ebmlnum_uint(data, size, &num)) < 0) {
1430         av_log(matroska->ctx, AV_LOG_ERROR, "EBML block data error\n");
1431         return res;
1432     }
1433     data += n;
1434     size -= n;
1435
1436     track = matroska_find_track_by_num(matroska, num);
1437     if (size <= 3 || !track || !track->stream) {
1438         av_log(matroska->ctx, AV_LOG_INFO,
1439                "Invalid stream %"PRIu64" or size %u\n", num, size);
1440         return res;
1441     }
1442     st = track->stream;
1443     if (st->discard >= AVDISCARD_ALL)
1444         return res;
1445     if (duration == AV_NOPTS_VALUE)
1446         duration = track->default_duration / matroska->time_scale;
1447
1448     block_time = AV_RB16(data);
1449     data += 2;
1450     flags = *data++;
1451     size -= 3;
1452     if (is_keyframe == -1)
1453         is_keyframe = flags & 0x80 ? PKT_FLAG_KEY : 0;
1454
1455     if (matroska->skip_to_keyframe) {
1456         if (!is_keyframe || st != matroska->skip_to_stream)
1457             return res;
1458         matroska->skip_to_keyframe = 0;
1459     }
1460
1461     switch ((flags & 0x06) >> 1) {
1462         case 0x0: /* no lacing */
1463             laces = 1;
1464             lace_size = av_mallocz(sizeof(int));
1465             lace_size[0] = size;
1466             break;
1467
1468         case 0x1: /* xiph lacing */
1469         case 0x2: /* fixed-size lacing */
1470         case 0x3: /* EBML lacing */
1471             assert(size>0); // size <=3 is checked before size-=3 above
1472             laces = (*data) + 1;
1473             data += 1;
1474             size -= 1;
1475             lace_size = av_mallocz(laces * sizeof(int));
1476
1477             switch ((flags & 0x06) >> 1) {
1478                 case 0x1: /* xiph lacing */ {
1479                     uint8_t temp;
1480                     uint32_t total = 0;
1481                     for (n = 0; res == 0 && n < laces - 1; n++) {
1482                         while (1) {
1483                             if (size == 0) {
1484                                 res = -1;
1485                                 break;
1486                             }
1487                             temp = *data;
1488                             lace_size[n] += temp;
1489                             data += 1;
1490                             size -= 1;
1491                             if (temp != 0xff)
1492                                 break;
1493                         }
1494                         total += lace_size[n];
1495                     }
1496                     lace_size[n] = size - total;
1497                     break;
1498                 }
1499
1500                 case 0x2: /* fixed-size lacing */
1501                     for (n = 0; n < laces; n++)
1502                         lace_size[n] = size / laces;
1503                     break;
1504
1505                 case 0x3: /* EBML lacing */ {
1506                     uint32_t total;
1507                     n = matroska_ebmlnum_uint(data, size, &num);
1508                     if (n < 0) {
1509                         av_log(matroska->ctx, AV_LOG_INFO,
1510                                "EBML block data error\n");
1511                         break;
1512                     }
1513                     data += n;
1514                     size -= n;
1515                     total = lace_size[0] = num;
1516                     for (n = 1; res == 0 && n < laces - 1; n++) {
1517                         int64_t snum;
1518                         int r;
1519                         r = matroska_ebmlnum_sint (data, size, &snum);
1520                         if (r < 0) {
1521                             av_log(matroska->ctx, AV_LOG_INFO,
1522                                    "EBML block data error\n");
1523                             break;
1524                         }
1525                         data += r;
1526                         size -= r;
1527                         lace_size[n] = lace_size[n - 1] + snum;
1528                         total += lace_size[n];
1529                     }
1530                     lace_size[n] = size - total;
1531                     break;
1532                 }
1533             }
1534             break;
1535     }
1536
1537     if (res == 0) {
1538         uint64_t timecode = AV_NOPTS_VALUE;
1539
1540         if (cluster_time != (uint64_t)-1
1541             && (block_time >= 0 || cluster_time >= -block_time))
1542             timecode = cluster_time + block_time;
1543
1544         for (n = 0; n < laces; n++) {
1545             if (st->codec->codec_id == CODEC_ID_RA_288 ||
1546                 st->codec->codec_id == CODEC_ID_COOK ||
1547                 st->codec->codec_id == CODEC_ID_ATRAC3) {
1548                 int a = st->codec->block_align;
1549                 int sps = track->audio.sub_packet_size;
1550                 int cfs = track->audio.coded_framesize;
1551                 int h = track->audio.sub_packet_h;
1552                 int y = track->audio.sub_packet_cnt;
1553                 int w = track->audio.frame_size;
1554                 int x;
1555
1556                 if (!track->audio.pkt_cnt) {
1557                     if (st->codec->codec_id == CODEC_ID_RA_288)
1558                         for (x=0; x<h/2; x++)
1559                             memcpy(track->audio.buf+x*2*w+y*cfs,
1560                                    data+x*cfs, cfs);
1561                     else
1562                         for (x=0; x<w/sps; x++)
1563                             memcpy(track->audio.buf+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), data+x*sps, sps);
1564
1565                     if (++track->audio.sub_packet_cnt >= h) {
1566                         track->audio.sub_packet_cnt = 0;
1567                         track->audio.pkt_cnt = h*w / a;
1568                     }
1569                 }
1570                 while (track->audio.pkt_cnt) {
1571                     pkt = av_mallocz(sizeof(AVPacket));
1572                     av_new_packet(pkt, a);
1573                     memcpy(pkt->data, track->audio.buf
1574                            + a * (h*w / a - track->audio.pkt_cnt--), a);
1575                     pkt->pos = pos;
1576                     pkt->stream_index = st->index;
1577                     matroska_queue_packet(matroska, pkt);
1578                 }
1579             } else {
1580                 MatroskaTrackEncoding *encodings = track->encodings.elem;
1581                 int offset = 0, pkt_size = lace_size[n];
1582                 uint8_t *pkt_data = data;
1583
1584                 if (encodings && encodings->scope & 1) {
1585                     offset = matroska_decode_buffer(&pkt_data,&pkt_size, track);
1586                     if (offset < 0)
1587                         continue;
1588                 }
1589
1590                 pkt = av_mallocz(sizeof(AVPacket));
1591                 /* XXX: prevent data copy... */
1592                 if (av_new_packet(pkt, pkt_size+offset) < 0) {
1593                     av_free(pkt);
1594                     res = AVERROR(ENOMEM);
1595                     n = laces-1;
1596                     break;
1597                 }
1598                 if (offset)
1599                     memcpy (pkt->data, encodings->compression.settings.data, offset);
1600                 memcpy (pkt->data+offset, pkt_data, pkt_size);
1601
1602                 if (pkt_data != data)
1603                     av_free(pkt_data);
1604
1605                 if (n == 0)
1606                     pkt->flags = is_keyframe;
1607                 pkt->stream_index = st->index;
1608
1609                 pkt->pts = timecode;
1610                 pkt->pos = pos;
1611                 pkt->duration = duration;
1612
1613                 matroska_queue_packet(matroska, pkt);
1614             }
1615
1616             if (timecode != AV_NOPTS_VALUE)
1617                 timecode = duration ? timecode + duration : AV_NOPTS_VALUE;
1618             data += lace_size[n];
1619         }
1620     }
1621
1622     av_free(lace_size);
1623     return res;
1624 }
1625
1626 static int matroska_parse_cluster(MatroskaDemuxContext *matroska)
1627 {
1628     MatroskaCluster cluster = { 0 };
1629     EbmlList *blocks_list;
1630     MatroskaBlock *blocks;
1631     int i, res = ebml_parse(matroska, matroska_clusters, &cluster, 1);
1632     blocks_list = &cluster.blocks;
1633     blocks = blocks_list->elem;
1634     for (i=0; !res && i<blocks_list->nb_elem; i++)
1635         if (blocks[i].bin.size > 0)
1636             res=matroska_parse_block(matroska,
1637                                      blocks[i].bin.data, blocks[i].bin.size,
1638                                      blocks[i].bin.pos,  cluster.timecode,
1639                                      blocks[i].duration, !blocks[i].reference);
1640     ebml_free(matroska_cluster, &cluster);
1641     return res;
1642 }
1643
1644 static int matroska_read_packet(AVFormatContext *s, AVPacket *pkt)
1645 {
1646     MatroskaDemuxContext *matroska = s->priv_data;
1647
1648     while (matroska_deliver_packet(matroska, pkt)) {
1649         if (matroska->done)
1650             return AVERROR(EIO);
1651         if (matroska_parse_cluster(matroska) < 0)
1652             matroska->done = 1;
1653     }
1654
1655     return 0;
1656 }
1657
1658 static int matroska_read_seek(AVFormatContext *s, int stream_index,
1659                               int64_t timestamp, int flags)
1660 {
1661     MatroskaDemuxContext *matroska = s->priv_data;
1662     AVStream *st = s->streams[stream_index];
1663     int index;
1664
1665     index = av_index_search_timestamp(st, timestamp, flags);
1666     if (index < 0)
1667         return 0;
1668
1669     matroska_clear_queue(matroska);
1670
1671     url_fseek(s->pb, st->index_entries[index].pos, SEEK_SET);
1672     matroska->skip_to_keyframe = !(flags & AVSEEK_FLAG_ANY);
1673     matroska->skip_to_stream = st;
1674     matroska->peek_id = 0;
1675     av_update_cur_dts(s, st, st->index_entries[index].timestamp);
1676     return 0;
1677 }
1678
1679 static int matroska_read_close(AVFormatContext *s)
1680 {
1681     MatroskaDemuxContext *matroska = s->priv_data;
1682     MatroskaTrack *tracks = matroska->tracks.elem;
1683     int n;
1684
1685     matroska_clear_queue(matroska);
1686
1687     for (n=0; n < matroska->tracks.nb_elem; n++)
1688         if (tracks[n].type == MATROSKA_TRACK_TYPE_AUDIO)
1689             av_free(tracks[n].audio.buf);
1690     ebml_free(matroska_segment, matroska);
1691
1692     return 0;
1693 }
1694
1695 AVInputFormat matroska_demuxer = {
1696     "matroska",
1697     NULL_IF_CONFIG_SMALL("Matroska file format"),
1698     sizeof(MatroskaDemuxContext),
1699     matroska_probe,
1700     matroska_read_header,
1701     matroska_read_packet,
1702     matroska_read_close,
1703     matroska_read_seek,
1704 };