f05ddd6de7ae161edd70b2580e81a207473704cf
[ffmpeg.git] / libavformat / matroskadec.c
1 /*
2  * Matroska file demuxer
3  * Copyright (c) 2003-2008 The FFmpeg Project
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Matroska file demuxer
25  * @author Ronald Bultje <rbultje@ronald.bitfreak.net>
26  * @author with a little help from Moritz Bunkus <moritz@bunkus.org>
27  * @author totally reworked by Aurelien Jacobs <aurel@gnuage.org>
28  * @see specs available on the Matroska project page: http://www.matroska.org/
29  */
30
31 #include "config.h"
32
33 #include <inttypes.h>
34 #include <stdio.h>
35
36 #include "libavutil/avstring.h"
37 #include "libavutil/base64.h"
38 #include "libavutil/dict.h"
39 #include "libavutil/intfloat.h"
40 #include "libavutil/intreadwrite.h"
41 #include "libavutil/lzo.h"
42 #include "libavutil/mathematics.h"
43 #include "libavutil/opt.h"
44 #include "libavutil/time_internal.h"
45
46 #include "libavcodec/bytestream.h"
47 #include "libavcodec/flac.h"
48 #include "libavcodec/mpeg4audio.h"
49
50 #include "avformat.h"
51 #include "avio_internal.h"
52 #include "internal.h"
53 #include "isom.h"
54 #include "matroska.h"
55 #include "oggdec.h"
56 /* For ff_codec_get_id(). */
57 #include "riff.h"
58 #include "rmsipr.h"
59
60 #if CONFIG_BZLIB
61 #include <bzlib.h>
62 #endif
63 #if CONFIG_ZLIB
64 #include <zlib.h>
65 #endif
66
67 typedef enum {
68     EBML_NONE,
69     EBML_UINT,
70     EBML_FLOAT,
71     EBML_STR,
72     EBML_UTF8,
73     EBML_BIN,
74     EBML_NEST,
75     EBML_LEVEL1,
76     EBML_PASS,
77     EBML_STOP,
78     EBML_SINT,
79     EBML_TYPE_COUNT
80 } EbmlType;
81
82 typedef const struct EbmlSyntax {
83     uint32_t id;
84     EbmlType type;
85     int list_elem_size;
86     int data_offset;
87     union {
88         uint64_t    u;
89         double      f;
90         const char *s;
91         const struct EbmlSyntax *n;
92     } def;
93 } EbmlSyntax;
94
95 typedef struct EbmlList {
96     int nb_elem;
97     void *elem;
98 } EbmlList;
99
100 typedef struct EbmlBin {
101     int      size;
102     uint8_t *data;
103     int64_t  pos;
104 } EbmlBin;
105
106 typedef struct Ebml {
107     uint64_t version;
108     uint64_t max_size;
109     uint64_t id_length;
110     char    *doctype;
111     uint64_t doctype_version;
112 } Ebml;
113
114 typedef struct MatroskaTrackCompression {
115     uint64_t algo;
116     EbmlBin  settings;
117 } MatroskaTrackCompression;
118
119 typedef struct MatroskaTrackEncryption {
120     uint64_t algo;
121     EbmlBin  key_id;
122 } MatroskaTrackEncryption;
123
124 typedef struct MatroskaTrackEncoding {
125     uint64_t scope;
126     uint64_t type;
127     MatroskaTrackCompression compression;
128     MatroskaTrackEncryption encryption;
129 } MatroskaTrackEncoding;
130
131 typedef struct MatroskaTrackVideo {
132     double   frame_rate;
133     uint64_t display_width;
134     uint64_t display_height;
135     uint64_t pixel_width;
136     uint64_t pixel_height;
137     EbmlBin color_space;
138     uint64_t stereo_mode;
139     uint64_t alpha_mode;
140 } MatroskaTrackVideo;
141
142 typedef struct MatroskaTrackAudio {
143     double   samplerate;
144     double   out_samplerate;
145     uint64_t bitdepth;
146     uint64_t channels;
147
148     /* real audio header (extracted from extradata) */
149     int      coded_framesize;
150     int      sub_packet_h;
151     int      frame_size;
152     int      sub_packet_size;
153     int      sub_packet_cnt;
154     int      pkt_cnt;
155     uint64_t buf_timecode;
156     uint8_t *buf;
157 } MatroskaTrackAudio;
158
159 typedef struct MatroskaTrackPlane {
160     uint64_t uid;
161     uint64_t type;
162 } MatroskaTrackPlane;
163
164 typedef struct MatroskaTrackOperation {
165     EbmlList combine_planes;
166 } MatroskaTrackOperation;
167
168 typedef struct MatroskaTrack {
169     uint64_t num;
170     uint64_t uid;
171     uint64_t type;
172     char    *name;
173     char    *codec_id;
174     EbmlBin  codec_priv;
175     char    *language;
176     double time_scale;
177     uint64_t default_duration;
178     uint64_t flag_default;
179     uint64_t flag_forced;
180     uint64_t seek_preroll;
181     MatroskaTrackVideo video;
182     MatroskaTrackAudio audio;
183     MatroskaTrackOperation operation;
184     EbmlList encodings;
185     uint64_t codec_delay;
186
187     AVStream *stream;
188     int64_t end_timecode;
189     int ms_compat;
190     uint64_t max_block_additional_id;
191 } MatroskaTrack;
192
193 typedef struct MatroskaAttachment {
194     uint64_t uid;
195     char *filename;
196     char *mime;
197     EbmlBin bin;
198
199     AVStream *stream;
200 } MatroskaAttachment;
201
202 typedef struct MatroskaChapter {
203     uint64_t start;
204     uint64_t end;
205     uint64_t uid;
206     char    *title;
207
208     AVChapter *chapter;
209 } MatroskaChapter;
210
211 typedef struct MatroskaIndexPos {
212     uint64_t track;
213     uint64_t pos;
214 } MatroskaIndexPos;
215
216 typedef struct MatroskaIndex {
217     uint64_t time;
218     EbmlList pos;
219 } MatroskaIndex;
220
221 typedef struct MatroskaTag {
222     char *name;
223     char *string;
224     char *lang;
225     uint64_t def;
226     EbmlList sub;
227 } MatroskaTag;
228
229 typedef struct MatroskaTagTarget {
230     char    *type;
231     uint64_t typevalue;
232     uint64_t trackuid;
233     uint64_t chapteruid;
234     uint64_t attachuid;
235 } MatroskaTagTarget;
236
237 typedef struct MatroskaTags {
238     MatroskaTagTarget target;
239     EbmlList tag;
240 } MatroskaTags;
241
242 typedef struct MatroskaSeekhead {
243     uint64_t id;
244     uint64_t pos;
245 } MatroskaSeekhead;
246
247 typedef struct MatroskaLevel {
248     uint64_t start;
249     uint64_t length;
250 } MatroskaLevel;
251
252 typedef struct MatroskaCluster {
253     uint64_t timecode;
254     EbmlList blocks;
255 } MatroskaCluster;
256
257 typedef struct MatroskaLevel1Element {
258     uint64_t id;
259     uint64_t pos;
260     int parsed;
261 } MatroskaLevel1Element;
262
263 typedef struct MatroskaDemuxContext {
264     const AVClass *class;
265     AVFormatContext *ctx;
266
267     /* EBML stuff */
268     int num_levels;
269     MatroskaLevel levels[EBML_MAX_DEPTH];
270     int level_up;
271     uint32_t current_id;
272
273     uint64_t time_scale;
274     double   duration;
275     char    *title;
276     char    *muxingapp;
277     EbmlBin date_utc;
278     EbmlList tracks;
279     EbmlList attachments;
280     EbmlList chapters;
281     EbmlList index;
282     EbmlList tags;
283     EbmlList seekhead;
284
285     /* byte position of the segment inside the stream */
286     int64_t segment_start;
287
288     /* the packet queue */
289     AVPacket **packets;
290     int num_packets;
291     AVPacket *prev_pkt;
292
293     int done;
294
295     /* What to skip before effectively reading a packet. */
296     int skip_to_keyframe;
297     uint64_t skip_to_timecode;
298
299     /* File has a CUES element, but we defer parsing until it is needed. */
300     int cues_parsing_deferred;
301
302     /* Level1 elements and whether they were read yet */
303     MatroskaLevel1Element level1_elems[64];
304     int num_level1_elems;
305
306     int current_cluster_num_blocks;
307     int64_t current_cluster_pos;
308     MatroskaCluster current_cluster;
309
310     /* File has SSA subtitles which prevent incremental cluster parsing. */
311     int contains_ssa;
312
313     /* WebM DASH Manifest live flag/ */
314     int is_live;
315 } MatroskaDemuxContext;
316
317 typedef struct MatroskaBlock {
318     uint64_t duration;
319     int64_t  reference;
320     uint64_t non_simple;
321     EbmlBin  bin;
322     uint64_t additional_id;
323     EbmlBin  additional;
324     int64_t discard_padding;
325 } MatroskaBlock;
326
327 static const EbmlSyntax ebml_header[] = {
328     { EBML_ID_EBMLREADVERSION,    EBML_UINT, 0, offsetof(Ebml, version),         { .u = EBML_VERSION } },
329     { EBML_ID_EBMLMAXSIZELENGTH,  EBML_UINT, 0, offsetof(Ebml, max_size),        { .u = 8 } },
330     { EBML_ID_EBMLMAXIDLENGTH,    EBML_UINT, 0, offsetof(Ebml, id_length),       { .u = 4 } },
331     { EBML_ID_DOCTYPE,            EBML_STR,  0, offsetof(Ebml, doctype),         { .s = "(none)" } },
332     { EBML_ID_DOCTYPEREADVERSION, EBML_UINT, 0, offsetof(Ebml, doctype_version), { .u = 1 } },
333     { EBML_ID_EBMLVERSION,        EBML_NONE },
334     { EBML_ID_DOCTYPEVERSION,     EBML_NONE },
335     { 0 }
336 };
337
338 static const EbmlSyntax ebml_syntax[] = {
339     { EBML_ID_HEADER, EBML_NEST, 0, 0, { .n = ebml_header } },
340     { 0 }
341 };
342
343 static const EbmlSyntax matroska_info[] = {
344     { MATROSKA_ID_TIMECODESCALE, EBML_UINT,  0, offsetof(MatroskaDemuxContext, time_scale), { .u = 1000000 } },
345     { MATROSKA_ID_DURATION,      EBML_FLOAT, 0, offsetof(MatroskaDemuxContext, duration) },
346     { MATROSKA_ID_TITLE,         EBML_UTF8,  0, offsetof(MatroskaDemuxContext, title) },
347     { MATROSKA_ID_WRITINGAPP,    EBML_NONE },
348     { MATROSKA_ID_MUXINGAPP,     EBML_UTF8, 0, offsetof(MatroskaDemuxContext, muxingapp) },
349     { MATROSKA_ID_DATEUTC,       EBML_BIN,  0, offsetof(MatroskaDemuxContext, date_utc) },
350     { MATROSKA_ID_SEGMENTUID,    EBML_NONE },
351     { 0 }
352 };
353
354 static const EbmlSyntax matroska_track_video[] = {
355     { MATROSKA_ID_VIDEOFRAMERATE,      EBML_FLOAT, 0, offsetof(MatroskaTrackVideo, frame_rate) },
356     { MATROSKA_ID_VIDEODISPLAYWIDTH,   EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_width), { .u=-1 } },
357     { MATROSKA_ID_VIDEODISPLAYHEIGHT,  EBML_UINT,  0, offsetof(MatroskaTrackVideo, display_height), { .u=-1 } },
358     { MATROSKA_ID_VIDEOPIXELWIDTH,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_width) },
359     { MATROSKA_ID_VIDEOPIXELHEIGHT,    EBML_UINT,  0, offsetof(MatroskaTrackVideo, pixel_height) },
360     { MATROSKA_ID_VIDEOCOLORSPACE,     EBML_BIN,   0, offsetof(MatroskaTrackVideo, color_space) },
361     { MATROSKA_ID_VIDEOALPHAMODE,      EBML_UINT,  0, offsetof(MatroskaTrackVideo, alpha_mode) },
362     { MATROSKA_ID_VIDEOPIXELCROPB,     EBML_NONE },
363     { MATROSKA_ID_VIDEOPIXELCROPT,     EBML_NONE },
364     { MATROSKA_ID_VIDEOPIXELCROPL,     EBML_NONE },
365     { MATROSKA_ID_VIDEOPIXELCROPR,     EBML_NONE },
366     { MATROSKA_ID_VIDEODISPLAYUNIT,    EBML_NONE },
367     { MATROSKA_ID_VIDEOFLAGINTERLACED, EBML_NONE },
368     { MATROSKA_ID_VIDEOSTEREOMODE,     EBML_UINT,  0, offsetof(MatroskaTrackVideo, stereo_mode), { .u = MATROSKA_VIDEO_STEREOMODE_TYPE_NB } },
369     { MATROSKA_ID_VIDEOASPECTRATIO,    EBML_NONE },
370     { 0 }
371 };
372
373 static const EbmlSyntax matroska_track_audio[] = {
374     { MATROSKA_ID_AUDIOSAMPLINGFREQ,    EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, samplerate), { .f = 8000.0 } },
375     { MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, EBML_FLOAT, 0, offsetof(MatroskaTrackAudio, out_samplerate) },
376     { MATROSKA_ID_AUDIOBITDEPTH,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, bitdepth) },
377     { MATROSKA_ID_AUDIOCHANNELS,        EBML_UINT,  0, offsetof(MatroskaTrackAudio, channels),   { .u = 1 } },
378     { 0 }
379 };
380
381 static const EbmlSyntax matroska_track_encoding_compression[] = {
382     { MATROSKA_ID_ENCODINGCOMPALGO,     EBML_UINT, 0, offsetof(MatroskaTrackCompression, algo), { .u = 0 } },
383     { MATROSKA_ID_ENCODINGCOMPSETTINGS, EBML_BIN,  0, offsetof(MatroskaTrackCompression, settings) },
384     { 0 }
385 };
386
387 static const EbmlSyntax matroska_track_encoding_encryption[] = {
388     { MATROSKA_ID_ENCODINGENCALGO,        EBML_UINT, 0, offsetof(MatroskaTrackEncryption,algo), {.u = 0} },
389     { MATROSKA_ID_ENCODINGENCKEYID,       EBML_BIN, 0, offsetof(MatroskaTrackEncryption,key_id) },
390     { MATROSKA_ID_ENCODINGENCAESSETTINGS, EBML_NONE },
391     { MATROSKA_ID_ENCODINGSIGALGO,        EBML_NONE },
392     { MATROSKA_ID_ENCODINGSIGHASHALGO,    EBML_NONE },
393     { MATROSKA_ID_ENCODINGSIGKEYID,       EBML_NONE },
394     { MATROSKA_ID_ENCODINGSIGNATURE,      EBML_NONE },
395     { 0 }
396 };
397 static const EbmlSyntax matroska_track_encoding[] = {
398     { MATROSKA_ID_ENCODINGSCOPE,       EBML_UINT, 0, offsetof(MatroskaTrackEncoding, scope),       { .u = 1 } },
399     { MATROSKA_ID_ENCODINGTYPE,        EBML_UINT, 0, offsetof(MatroskaTrackEncoding, type),        { .u = 0 } },
400     { MATROSKA_ID_ENCODINGCOMPRESSION, EBML_NEST, 0, offsetof(MatroskaTrackEncoding, compression), { .n = matroska_track_encoding_compression } },
401     { MATROSKA_ID_ENCODINGENCRYPTION,  EBML_NEST, 0, offsetof(MatroskaTrackEncoding, encryption),  { .n = matroska_track_encoding_encryption } },
402     { MATROSKA_ID_ENCODINGORDER,       EBML_NONE },
403     { 0 }
404 };
405
406 static const EbmlSyntax matroska_track_encodings[] = {
407     { MATROSKA_ID_TRACKCONTENTENCODING, EBML_NEST, sizeof(MatroskaTrackEncoding), offsetof(MatroskaTrack, encodings), { .n = matroska_track_encoding } },
408     { 0 }
409 };
410
411 static const EbmlSyntax matroska_track_plane[] = {
412     { MATROSKA_ID_TRACKPLANEUID,  EBML_UINT, 0, offsetof(MatroskaTrackPlane,uid) },
413     { MATROSKA_ID_TRACKPLANETYPE, EBML_UINT, 0, offsetof(MatroskaTrackPlane,type) },
414     { 0 }
415 };
416
417 static const EbmlSyntax matroska_track_combine_planes[] = {
418     { MATROSKA_ID_TRACKPLANE, EBML_NEST, sizeof(MatroskaTrackPlane), offsetof(MatroskaTrackOperation,combine_planes), {.n = matroska_track_plane} },
419     { 0 }
420 };
421
422 static const EbmlSyntax matroska_track_operation[] = {
423     { MATROSKA_ID_TRACKCOMBINEPLANES, EBML_NEST, 0, 0, {.n = matroska_track_combine_planes} },
424     { 0 }
425 };
426
427 static const EbmlSyntax matroska_track[] = {
428     { MATROSKA_ID_TRACKNUMBER,           EBML_UINT,  0, offsetof(MatroskaTrack, num) },
429     { MATROSKA_ID_TRACKNAME,             EBML_UTF8,  0, offsetof(MatroskaTrack, name) },
430     { MATROSKA_ID_TRACKUID,              EBML_UINT,  0, offsetof(MatroskaTrack, uid) },
431     { MATROSKA_ID_TRACKTYPE,             EBML_UINT,  0, offsetof(MatroskaTrack, type) },
432     { MATROSKA_ID_CODECID,               EBML_STR,   0, offsetof(MatroskaTrack, codec_id) },
433     { MATROSKA_ID_CODECPRIVATE,          EBML_BIN,   0, offsetof(MatroskaTrack, codec_priv) },
434     { MATROSKA_ID_CODECDELAY,            EBML_UINT,  0, offsetof(MatroskaTrack, codec_delay) },
435     { MATROSKA_ID_TRACKLANGUAGE,         EBML_UTF8,  0, offsetof(MatroskaTrack, language),     { .s = "eng" } },
436     { MATROSKA_ID_TRACKDEFAULTDURATION,  EBML_UINT,  0, offsetof(MatroskaTrack, default_duration) },
437     { MATROSKA_ID_TRACKTIMECODESCALE,    EBML_FLOAT, 0, offsetof(MatroskaTrack, time_scale),   { .f = 1.0 } },
438     { MATROSKA_ID_TRACKFLAGDEFAULT,      EBML_UINT,  0, offsetof(MatroskaTrack, flag_default), { .u = 1 } },
439     { MATROSKA_ID_TRACKFLAGFORCED,       EBML_UINT,  0, offsetof(MatroskaTrack, flag_forced),  { .u = 0 } },
440     { MATROSKA_ID_TRACKVIDEO,            EBML_NEST,  0, offsetof(MatroskaTrack, video),        { .n = matroska_track_video } },
441     { MATROSKA_ID_TRACKAUDIO,            EBML_NEST,  0, offsetof(MatroskaTrack, audio),        { .n = matroska_track_audio } },
442     { MATROSKA_ID_TRACKOPERATION,        EBML_NEST,  0, offsetof(MatroskaTrack, operation),    { .n = matroska_track_operation } },
443     { MATROSKA_ID_TRACKCONTENTENCODINGS, EBML_NEST,  0, 0,                                     { .n = matroska_track_encodings } },
444     { MATROSKA_ID_TRACKMAXBLKADDID,      EBML_UINT,  0, offsetof(MatroskaTrack, max_block_additional_id) },
445     { MATROSKA_ID_SEEKPREROLL,           EBML_UINT,  0, offsetof(MatroskaTrack, seek_preroll) },
446     { MATROSKA_ID_TRACKFLAGENABLED,      EBML_NONE },
447     { MATROSKA_ID_TRACKFLAGLACING,       EBML_NONE },
448     { MATROSKA_ID_CODECNAME,             EBML_NONE },
449     { MATROSKA_ID_CODECDECODEALL,        EBML_NONE },
450     { MATROSKA_ID_CODECINFOURL,          EBML_NONE },
451     { MATROSKA_ID_CODECDOWNLOADURL,      EBML_NONE },
452     { MATROSKA_ID_TRACKMINCACHE,         EBML_NONE },
453     { MATROSKA_ID_TRACKMAXCACHE,         EBML_NONE },
454     { 0 }
455 };
456
457 static const EbmlSyntax matroska_tracks[] = {
458     { MATROSKA_ID_TRACKENTRY, EBML_NEST, sizeof(MatroskaTrack), offsetof(MatroskaDemuxContext, tracks), { .n = matroska_track } },
459     { 0 }
460 };
461
462 static const EbmlSyntax matroska_attachment[] = {
463     { MATROSKA_ID_FILEUID,      EBML_UINT, 0, offsetof(MatroskaAttachment, uid) },
464     { MATROSKA_ID_FILENAME,     EBML_UTF8, 0, offsetof(MatroskaAttachment, filename) },
465     { MATROSKA_ID_FILEMIMETYPE, EBML_STR,  0, offsetof(MatroskaAttachment, mime) },
466     { MATROSKA_ID_FILEDATA,     EBML_BIN,  0, offsetof(MatroskaAttachment, bin) },
467     { MATROSKA_ID_FILEDESC,     EBML_NONE },
468     { 0 }
469 };
470
471 static const EbmlSyntax matroska_attachments[] = {
472     { MATROSKA_ID_ATTACHEDFILE, EBML_NEST, sizeof(MatroskaAttachment), offsetof(MatroskaDemuxContext, attachments), { .n = matroska_attachment } },
473     { 0 }
474 };
475
476 static const EbmlSyntax matroska_chapter_display[] = {
477     { MATROSKA_ID_CHAPSTRING,  EBML_UTF8, 0, offsetof(MatroskaChapter, title) },
478     { MATROSKA_ID_CHAPLANG,    EBML_NONE },
479     { MATROSKA_ID_CHAPCOUNTRY, EBML_NONE },
480     { 0 }
481 };
482
483 static const EbmlSyntax matroska_chapter_entry[] = {
484     { MATROSKA_ID_CHAPTERTIMESTART,   EBML_UINT, 0, offsetof(MatroskaChapter, start), { .u = AV_NOPTS_VALUE } },
485     { MATROSKA_ID_CHAPTERTIMEEND,     EBML_UINT, 0, offsetof(MatroskaChapter, end),   { .u = AV_NOPTS_VALUE } },
486     { MATROSKA_ID_CHAPTERUID,         EBML_UINT, 0, offsetof(MatroskaChapter, uid) },
487     { MATROSKA_ID_CHAPTERDISPLAY,     EBML_NEST, 0,                        0,         { .n = matroska_chapter_display } },
488     { MATROSKA_ID_CHAPTERFLAGHIDDEN,  EBML_NONE },
489     { MATROSKA_ID_CHAPTERFLAGENABLED, EBML_NONE },
490     { MATROSKA_ID_CHAPTERPHYSEQUIV,   EBML_NONE },
491     { MATROSKA_ID_CHAPTERATOM,        EBML_NONE },
492     { 0 }
493 };
494
495 static const EbmlSyntax matroska_chapter[] = {
496     { MATROSKA_ID_CHAPTERATOM,        EBML_NEST, sizeof(MatroskaChapter), offsetof(MatroskaDemuxContext, chapters), { .n = matroska_chapter_entry } },
497     { MATROSKA_ID_EDITIONUID,         EBML_NONE },
498     { MATROSKA_ID_EDITIONFLAGHIDDEN,  EBML_NONE },
499     { MATROSKA_ID_EDITIONFLAGDEFAULT, EBML_NONE },
500     { MATROSKA_ID_EDITIONFLAGORDERED, EBML_NONE },
501     { 0 }
502 };
503
504 static const EbmlSyntax matroska_chapters[] = {
505     { MATROSKA_ID_EDITIONENTRY, EBML_NEST, 0, 0, { .n = matroska_chapter } },
506     { 0 }
507 };
508
509 static const EbmlSyntax matroska_index_pos[] = {
510     { MATROSKA_ID_CUETRACK,           EBML_UINT, 0, offsetof(MatroskaIndexPos, track) },
511     { MATROSKA_ID_CUECLUSTERPOSITION, EBML_UINT, 0, offsetof(MatroskaIndexPos, pos) },
512     { MATROSKA_ID_CUERELATIVEPOSITION,EBML_NONE },
513     { MATROSKA_ID_CUEDURATION,        EBML_NONE },
514     { MATROSKA_ID_CUEBLOCKNUMBER,     EBML_NONE },
515     { 0 }
516 };
517
518 static const EbmlSyntax matroska_index_entry[] = {
519     { MATROSKA_ID_CUETIME,          EBML_UINT, 0,                        offsetof(MatroskaIndex, time) },
520     { MATROSKA_ID_CUETRACKPOSITION, EBML_NEST, sizeof(MatroskaIndexPos), offsetof(MatroskaIndex, pos), { .n = matroska_index_pos } },
521     { 0 }
522 };
523
524 static const EbmlSyntax matroska_index[] = {
525     { MATROSKA_ID_POINTENTRY, EBML_NEST, sizeof(MatroskaIndex), offsetof(MatroskaDemuxContext, index), { .n = matroska_index_entry } },
526     { 0 }
527 };
528
529 static const EbmlSyntax matroska_simpletag[] = {
530     { MATROSKA_ID_TAGNAME,        EBML_UTF8, 0,                   offsetof(MatroskaTag, name) },
531     { MATROSKA_ID_TAGSTRING,      EBML_UTF8, 0,                   offsetof(MatroskaTag, string) },
532     { MATROSKA_ID_TAGLANG,        EBML_STR,  0,                   offsetof(MatroskaTag, lang), { .s = "und" } },
533     { MATROSKA_ID_TAGDEFAULT,     EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
534     { MATROSKA_ID_TAGDEFAULT_BUG, EBML_UINT, 0,                   offsetof(MatroskaTag, def) },
535     { MATROSKA_ID_SIMPLETAG,      EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTag, sub),  { .n = matroska_simpletag } },
536     { 0 }
537 };
538
539 static const EbmlSyntax matroska_tagtargets[] = {
540     { MATROSKA_ID_TAGTARGETS_TYPE,       EBML_STR,  0, offsetof(MatroskaTagTarget, type) },
541     { MATROSKA_ID_TAGTARGETS_TYPEVALUE,  EBML_UINT, 0, offsetof(MatroskaTagTarget, typevalue), { .u = 50 } },
542     { MATROSKA_ID_TAGTARGETS_TRACKUID,   EBML_UINT, 0, offsetof(MatroskaTagTarget, trackuid) },
543     { MATROSKA_ID_TAGTARGETS_CHAPTERUID, EBML_UINT, 0, offsetof(MatroskaTagTarget, chapteruid) },
544     { MATROSKA_ID_TAGTARGETS_ATTACHUID,  EBML_UINT, 0, offsetof(MatroskaTagTarget, attachuid) },
545     { 0 }
546 };
547
548 static const EbmlSyntax matroska_tag[] = {
549     { MATROSKA_ID_SIMPLETAG,  EBML_NEST, sizeof(MatroskaTag), offsetof(MatroskaTags, tag),    { .n = matroska_simpletag } },
550     { MATROSKA_ID_TAGTARGETS, EBML_NEST, 0,                   offsetof(MatroskaTags, target), { .n = matroska_tagtargets } },
551     { 0 }
552 };
553
554 static const EbmlSyntax matroska_tags[] = {
555     { MATROSKA_ID_TAG, EBML_NEST, sizeof(MatroskaTags), offsetof(MatroskaDemuxContext, tags), { .n = matroska_tag } },
556     { 0 }
557 };
558
559 static const EbmlSyntax matroska_seekhead_entry[] = {
560     { MATROSKA_ID_SEEKID,       EBML_UINT, 0, offsetof(MatroskaSeekhead, id) },
561     { MATROSKA_ID_SEEKPOSITION, EBML_UINT, 0, offsetof(MatroskaSeekhead, pos), { .u = -1 } },
562     { 0 }
563 };
564
565 static const EbmlSyntax matroska_seekhead[] = {
566     { MATROSKA_ID_SEEKENTRY, EBML_NEST, sizeof(MatroskaSeekhead), offsetof(MatroskaDemuxContext, seekhead), { .n = matroska_seekhead_entry } },
567     { 0 }
568 };
569
570 static const EbmlSyntax matroska_segment[] = {
571     { MATROSKA_ID_INFO,        EBML_LEVEL1, 0, 0, { .n = matroska_info } },
572     { MATROSKA_ID_TRACKS,      EBML_LEVEL1, 0, 0, { .n = matroska_tracks } },
573     { MATROSKA_ID_ATTACHMENTS, EBML_LEVEL1, 0, 0, { .n = matroska_attachments } },
574     { MATROSKA_ID_CHAPTERS,    EBML_LEVEL1, 0, 0, { .n = matroska_chapters } },
575     { MATROSKA_ID_CUES,        EBML_LEVEL1, 0, 0, { .n = matroska_index } },
576     { MATROSKA_ID_TAGS,        EBML_LEVEL1, 0, 0, { .n = matroska_tags } },
577     { MATROSKA_ID_SEEKHEAD,    EBML_LEVEL1, 0, 0, { .n = matroska_seekhead } },
578     { MATROSKA_ID_CLUSTER,     EBML_STOP },
579     { 0 }
580 };
581
582 static const EbmlSyntax matroska_segments[] = {
583     { MATROSKA_ID_SEGMENT, EBML_NEST, 0, 0, { .n = matroska_segment } },
584     { 0 }
585 };
586
587 static const EbmlSyntax matroska_blockmore[] = {
588     { MATROSKA_ID_BLOCKADDID,      EBML_UINT, 0, offsetof(MatroskaBlock,additional_id) },
589     { MATROSKA_ID_BLOCKADDITIONAL, EBML_BIN,  0, offsetof(MatroskaBlock,additional) },
590     { 0 }
591 };
592
593 static const EbmlSyntax matroska_blockadditions[] = {
594     { MATROSKA_ID_BLOCKMORE, EBML_NEST, 0, 0, {.n = matroska_blockmore} },
595     { 0 }
596 };
597
598 static const EbmlSyntax matroska_blockgroup[] = {
599     { MATROSKA_ID_BLOCK,          EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
600     { MATROSKA_ID_BLOCKADDITIONS, EBML_NEST, 0, 0, { .n = matroska_blockadditions} },
601     { MATROSKA_ID_SIMPLEBLOCK,    EBML_BIN,  0, offsetof(MatroskaBlock, bin) },
602     { MATROSKA_ID_BLOCKDURATION,  EBML_UINT, 0, offsetof(MatroskaBlock, duration) },
603     { MATROSKA_ID_DISCARDPADDING, EBML_SINT, 0, offsetof(MatroskaBlock, discard_padding) },
604     { MATROSKA_ID_BLOCKREFERENCE, EBML_SINT, 0, offsetof(MatroskaBlock, reference) },
605     { MATROSKA_ID_CODECSTATE,     EBML_NONE },
606     {                          1, EBML_UINT, 0, offsetof(MatroskaBlock, non_simple), { .u = 1 } },
607     { 0 }
608 };
609
610 static const EbmlSyntax matroska_cluster[] = {
611     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0,                     offsetof(MatroskaCluster, timecode) },
612     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, sizeof(MatroskaBlock), offsetof(MatroskaCluster, blocks), { .n = matroska_blockgroup } },
613     { MATROSKA_ID_SIMPLEBLOCK,     EBML_PASS, sizeof(MatroskaBlock), offsetof(MatroskaCluster, blocks), { .n = matroska_blockgroup } },
614     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
615     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
616     { 0 }
617 };
618
619 static const EbmlSyntax matroska_clusters[] = {
620     { MATROSKA_ID_CLUSTER,  EBML_NEST, 0, 0, { .n = matroska_cluster } },
621     { MATROSKA_ID_INFO,     EBML_NONE },
622     { MATROSKA_ID_CUES,     EBML_NONE },
623     { MATROSKA_ID_TAGS,     EBML_NONE },
624     { MATROSKA_ID_SEEKHEAD, EBML_NONE },
625     { 0 }
626 };
627
628 static const EbmlSyntax matroska_cluster_incremental_parsing[] = {
629     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0,                     offsetof(MatroskaCluster, timecode) },
630     { MATROSKA_ID_BLOCKGROUP,      EBML_NEST, sizeof(MatroskaBlock), offsetof(MatroskaCluster, blocks), { .n = matroska_blockgroup } },
631     { MATROSKA_ID_SIMPLEBLOCK,     EBML_PASS, sizeof(MatroskaBlock), offsetof(MatroskaCluster, blocks), { .n = matroska_blockgroup } },
632     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
633     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
634     { MATROSKA_ID_INFO,            EBML_NONE },
635     { MATROSKA_ID_CUES,            EBML_NONE },
636     { MATROSKA_ID_TAGS,            EBML_NONE },
637     { MATROSKA_ID_SEEKHEAD,        EBML_NONE },
638     { MATROSKA_ID_CLUSTER,         EBML_STOP },
639     { 0 }
640 };
641
642 static const EbmlSyntax matroska_cluster_incremental[] = {
643     { MATROSKA_ID_CLUSTERTIMECODE, EBML_UINT, 0, offsetof(MatroskaCluster, timecode) },
644     { MATROSKA_ID_BLOCKGROUP,      EBML_STOP },
645     { MATROSKA_ID_SIMPLEBLOCK,     EBML_STOP },
646     { MATROSKA_ID_CLUSTERPOSITION, EBML_NONE },
647     { MATROSKA_ID_CLUSTERPREVSIZE, EBML_NONE },
648     { 0 }
649 };
650
651 static const EbmlSyntax matroska_clusters_incremental[] = {
652     { MATROSKA_ID_CLUSTER,  EBML_NEST, 0, 0, { .n = matroska_cluster_incremental } },
653     { MATROSKA_ID_INFO,     EBML_NONE },
654     { MATROSKA_ID_CUES,     EBML_NONE },
655     { MATROSKA_ID_TAGS,     EBML_NONE },
656     { MATROSKA_ID_SEEKHEAD, EBML_NONE },
657     { 0 }
658 };
659
660 static const char *const matroska_doctypes[] = { "matroska", "webm" };
661
662 static int matroska_resync(MatroskaDemuxContext *matroska, int64_t last_pos)
663 {
664     AVIOContext *pb = matroska->ctx->pb;
665     uint32_t id;
666     matroska->current_id = 0;
667     matroska->num_levels = 0;
668
669     /* seek to next position to resync from */
670     if (avio_seek(pb, last_pos + 1, SEEK_SET) < 0)
671         goto eof;
672
673     id = avio_rb32(pb);
674
675     // try to find a toplevel element
676     while (!avio_feof(pb)) {
677         if (id == MATROSKA_ID_INFO     || id == MATROSKA_ID_TRACKS      ||
678             id == MATROSKA_ID_CUES     || id == MATROSKA_ID_TAGS        ||
679             id == MATROSKA_ID_SEEKHEAD || id == MATROSKA_ID_ATTACHMENTS ||
680             id == MATROSKA_ID_CLUSTER  || id == MATROSKA_ID_CHAPTERS) {
681             matroska->current_id = id;
682             return 0;
683         }
684         id = (id << 8) | avio_r8(pb);
685     }
686
687 eof:
688     matroska->done = 1;
689     return AVERROR_EOF;
690 }
691
692 /*
693  * Return: Whether we reached the end of a level in the hierarchy or not.
694  */
695 static int ebml_level_end(MatroskaDemuxContext *matroska)
696 {
697     AVIOContext *pb = matroska->ctx->pb;
698     int64_t pos = avio_tell(pb);
699
700     if (matroska->num_levels > 0) {
701         MatroskaLevel *level = &matroska->levels[matroska->num_levels - 1];
702         if (pos - level->start >= level->length || matroska->current_id) {
703             matroska->num_levels--;
704             return 1;
705         }
706     }
707     return (matroska->is_live && matroska->ctx->pb->eof_reached) ? 1 : 0;
708 }
709
710 /*
711  * Read: an "EBML number", which is defined as a variable-length
712  * array of bytes. The first byte indicates the length by giving a
713  * number of 0-bits followed by a one. The position of the first
714  * "one" bit inside the first byte indicates the length of this
715  * number.
716  * Returns: number of bytes read, < 0 on error
717  */
718 static int ebml_read_num(MatroskaDemuxContext *matroska, AVIOContext *pb,
719                          int max_size, uint64_t *number)
720 {
721     int read = 1, n = 1;
722     uint64_t total = 0;
723
724     /* The first byte tells us the length in bytes - avio_r8() can normally
725      * return 0, but since that's not a valid first ebmlID byte, we can
726      * use it safely here to catch EOS. */
727     if (!(total = avio_r8(pb))) {
728         /* we might encounter EOS here */
729         if (!avio_feof(pb)) {
730             int64_t pos = avio_tell(pb);
731             av_log(matroska->ctx, AV_LOG_ERROR,
732                    "Read error at pos. %"PRIu64" (0x%"PRIx64")\n",
733                    pos, pos);
734             return pb->error ? pb->error : AVERROR(EIO);
735         }
736         return AVERROR_EOF;
737     }
738
739     /* get the length of the EBML number */
740     read = 8 - ff_log2_tab[total];
741     if (read > max_size) {
742         int64_t pos = avio_tell(pb) - 1;
743         av_log(matroska->ctx, AV_LOG_ERROR,
744                "Invalid EBML number size tag 0x%02x at pos %"PRIu64" (0x%"PRIx64")\n",
745                (uint8_t) total, pos, pos);
746         return AVERROR_INVALIDDATA;
747     }
748
749     /* read out length */
750     total ^= 1 << ff_log2_tab[total];
751     while (n++ < read)
752         total = (total << 8) | avio_r8(pb);
753
754     *number = total;
755
756     return read;
757 }
758
759 /**
760  * Read a EBML length value.
761  * This needs special handling for the "unknown length" case which has multiple
762  * encodings.
763  */
764 static int ebml_read_length(MatroskaDemuxContext *matroska, AVIOContext *pb,
765                             uint64_t *number)
766 {
767     int res = ebml_read_num(matroska, pb, 8, number);
768     if (res > 0 && *number + 1 == 1ULL << (7 * res))
769         *number = 0xffffffffffffffULL;
770     return res;
771 }
772
773 /*
774  * Read the next element as an unsigned int.
775  * 0 is success, < 0 is failure.
776  */
777 static int ebml_read_uint(AVIOContext *pb, int size, uint64_t *num)
778 {
779     int n = 0;
780
781     if (size > 8)
782         return AVERROR_INVALIDDATA;
783
784     /* big-endian ordering; build up number */
785     *num = 0;
786     while (n++ < size)
787         *num = (*num << 8) | avio_r8(pb);
788
789     return 0;
790 }
791
792 /*
793  * Read the next element as a signed int.
794  * 0 is success, < 0 is failure.
795  */
796 static int ebml_read_sint(AVIOContext *pb, int size, int64_t *num)
797 {
798     int n = 1;
799
800     if (size > 8)
801         return AVERROR_INVALIDDATA;
802
803     if (size == 0) {
804         *num = 0;
805     } else {
806         *num = sign_extend(avio_r8(pb), 8);
807
808         /* big-endian ordering; build up number */
809         while (n++ < size)
810             *num = ((uint64_t)*num << 8) | avio_r8(pb);
811     }
812
813     return 0;
814 }
815
816 /*
817  * Read the next element as a float.
818  * 0 is success, < 0 is failure.
819  */
820 static int ebml_read_float(AVIOContext *pb, int size, double *num)
821 {
822     if (size == 0)
823         *num = 0;
824     else if (size == 4)
825         *num = av_int2float(avio_rb32(pb));
826     else if (size == 8)
827         *num = av_int2double(avio_rb64(pb));
828     else
829         return AVERROR_INVALIDDATA;
830
831     return 0;
832 }
833
834 /*
835  * Read the next element as an ASCII string.
836  * 0 is success, < 0 is failure.
837  */
838 static int ebml_read_ascii(AVIOContext *pb, int size, char **str)
839 {
840     char *res;
841
842     /* EBML strings are usually not 0-terminated, so we allocate one
843      * byte more, read the string and NULL-terminate it ourselves. */
844     if (!(res = av_malloc(size + 1)))
845         return AVERROR(ENOMEM);
846     if (avio_read(pb, (uint8_t *) res, size) != size) {
847         av_free(res);
848         return AVERROR(EIO);
849     }
850     (res)[size] = '\0';
851     av_free(*str);
852     *str = res;
853
854     return 0;
855 }
856
857 /*
858  * Read the next element as binary data.
859  * 0 is success, < 0 is failure.
860  */
861 static int ebml_read_binary(AVIOContext *pb, int length, EbmlBin *bin)
862 {
863     av_fast_padded_malloc(&bin->data, &bin->size, length);
864     if (!bin->data)
865         return AVERROR(ENOMEM);
866
867     bin->size = length;
868     bin->pos  = avio_tell(pb);
869     if (avio_read(pb, bin->data, length) != length) {
870         av_freep(&bin->data);
871         bin->size = 0;
872         return AVERROR(EIO);
873     }
874
875     return 0;
876 }
877
878 /*
879  * Read the next element, but only the header. The contents
880  * are supposed to be sub-elements which can be read separately.
881  * 0 is success, < 0 is failure.
882  */
883 static int ebml_read_master(MatroskaDemuxContext *matroska, uint64_t length)
884 {
885     AVIOContext *pb = matroska->ctx->pb;
886     MatroskaLevel *level;
887
888     if (matroska->num_levels >= EBML_MAX_DEPTH) {
889         av_log(matroska->ctx, AV_LOG_ERROR,
890                "File moves beyond max. allowed depth (%d)\n", EBML_MAX_DEPTH);
891         return AVERROR(ENOSYS);
892     }
893
894     level         = &matroska->levels[matroska->num_levels++];
895     level->start  = avio_tell(pb);
896     level->length = length;
897
898     return 0;
899 }
900
901 /*
902  * Read signed/unsigned "EBML" numbers.
903  * Return: number of bytes processed, < 0 on error
904  */
905 static int matroska_ebmlnum_uint(MatroskaDemuxContext *matroska,
906                                  uint8_t *data, uint32_t size, uint64_t *num)
907 {
908     AVIOContext pb;
909     ffio_init_context(&pb, data, size, 0, NULL, NULL, NULL, NULL);
910     return ebml_read_num(matroska, &pb, FFMIN(size, 8), num);
911 }
912
913 /*
914  * Same as above, but signed.
915  */
916 static int matroska_ebmlnum_sint(MatroskaDemuxContext *matroska,
917                                  uint8_t *data, uint32_t size, int64_t *num)
918 {
919     uint64_t unum;
920     int res;
921
922     /* read as unsigned number first */
923     if ((res = matroska_ebmlnum_uint(matroska, data, size, &unum)) < 0)
924         return res;
925
926     /* make signed (weird way) */
927     *num = unum - ((1LL << (7 * res - 1)) - 1);
928
929     return res;
930 }
931
932 static int ebml_parse_elem(MatroskaDemuxContext *matroska,
933                            EbmlSyntax *syntax, void *data);
934
935 static int ebml_parse_id(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
936                          uint32_t id, void *data)
937 {
938     int i;
939     for (i = 0; syntax[i].id; i++)
940         if (id == syntax[i].id)
941             break;
942     if (!syntax[i].id && id == MATROSKA_ID_CLUSTER &&
943         matroska->num_levels > 0                   &&
944         matroska->levels[matroska->num_levels - 1].length == 0xffffffffffffff)
945         return 0;  // we reached the end of an unknown size cluster
946     if (!syntax[i].id && id != EBML_ID_VOID && id != EBML_ID_CRC32) {
947         av_log(matroska->ctx, AV_LOG_DEBUG, "Unknown entry 0x%"PRIX32"\n", id);
948     }
949     return ebml_parse_elem(matroska, &syntax[i], data);
950 }
951
952 static int ebml_parse(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
953                       void *data)
954 {
955     if (!matroska->current_id) {
956         uint64_t id;
957         int res = ebml_read_num(matroska, matroska->ctx->pb, 4, &id);
958         if (res < 0) {
959             // in live mode, finish parsing if EOF is reached.
960             return (matroska->is_live && matroska->ctx->pb->eof_reached &&
961                     res == AVERROR_EOF) ? 1 : res;
962         }
963         matroska->current_id = id | 1 << 7 * res;
964     }
965     return ebml_parse_id(matroska, syntax, matroska->current_id, data);
966 }
967
968 static int ebml_parse_nest(MatroskaDemuxContext *matroska, EbmlSyntax *syntax,
969                            void *data)
970 {
971     int i, res = 0;
972
973     for (i = 0; syntax[i].id; i++)
974         switch (syntax[i].type) {
975         case EBML_UINT:
976             *(uint64_t *) ((char *) data + syntax[i].data_offset) = syntax[i].def.u;
977             break;
978         case EBML_FLOAT:
979             *(double *) ((char *) data + syntax[i].data_offset) = syntax[i].def.f;
980             break;
981         case EBML_STR:
982         case EBML_UTF8:
983             // the default may be NULL
984             if (syntax[i].def.s) {
985                 uint8_t **dst = (uint8_t **) ((uint8_t *) data + syntax[i].data_offset);
986                 *dst = av_strdup(syntax[i].def.s);
987                 if (!*dst)
988                     return AVERROR(ENOMEM);
989             }
990             break;
991         }
992
993     while (!res && !ebml_level_end(matroska))
994         res = ebml_parse(matroska, syntax, data);
995
996     return res;
997 }
998
999 static int is_ebml_id_valid(uint32_t id)
1000 {
1001     // Due to endian nonsense in Matroska, the highest byte with any bits set
1002     // will contain the leading length bit. This bit in turn identifies the
1003     // total byte length of the element by its position within the byte.
1004     unsigned int bits = av_log2(id);
1005     return id && (bits + 7) / 8 ==  (8 - bits % 8);
1006 }
1007
1008 /*
1009  * Allocate and return the entry for the level1 element with the given ID. If
1010  * an entry already exists, return the existing entry.
1011  */
1012 static MatroskaLevel1Element *matroska_find_level1_elem(MatroskaDemuxContext *matroska,
1013                                                         uint32_t id)
1014 {
1015     int i;
1016     MatroskaLevel1Element *elem;
1017
1018     if (!is_ebml_id_valid(id))
1019         return NULL;
1020
1021     // Some files link to all clusters; useless.
1022     if (id == MATROSKA_ID_CLUSTER)
1023         return NULL;
1024
1025     // There can be multiple seekheads.
1026     if (id != MATROSKA_ID_SEEKHEAD) {
1027         for (i = 0; i < matroska->num_level1_elems; i++) {
1028             if (matroska->level1_elems[i].id == id)
1029                 return &matroska->level1_elems[i];
1030         }
1031     }
1032
1033     // Only a completely broken file would have more elements.
1034     // It also provides a low-effort way to escape from circular seekheads
1035     // (every iteration will add a level1 entry).
1036     if (matroska->num_level1_elems >= FF_ARRAY_ELEMS(matroska->level1_elems)) {
1037         av_log(matroska->ctx, AV_LOG_ERROR, "Too many level1 elements or circular seekheads.\n");
1038         return NULL;
1039     }
1040
1041     elem = &matroska->level1_elems[matroska->num_level1_elems++];
1042     *elem = (MatroskaLevel1Element){.id = id};
1043
1044     return elem;
1045 }
1046
1047 static int ebml_parse_elem(MatroskaDemuxContext *matroska,
1048                            EbmlSyntax *syntax, void *data)
1049 {
1050     static const uint64_t max_lengths[EBML_TYPE_COUNT] = {
1051         [EBML_UINT]  = 8,
1052         [EBML_FLOAT] = 8,
1053         // max. 16 MB for strings
1054         [EBML_STR]   = 0x1000000,
1055         [EBML_UTF8]  = 0x1000000,
1056         // max. 256 MB for binary data
1057         [EBML_BIN]   = 0x10000000,
1058         // no limits for anything else
1059     };
1060     AVIOContext *pb = matroska->ctx->pb;
1061     uint32_t id = syntax->id;
1062     uint64_t length;
1063     int res;
1064     void *newelem;
1065     MatroskaLevel1Element *level1_elem;
1066
1067     data = (char *) data + syntax->data_offset;
1068     if (syntax->list_elem_size) {
1069         EbmlList *list = data;
1070         newelem = av_realloc_array(list->elem, list->nb_elem + 1, syntax->list_elem_size);
1071         if (!newelem)
1072             return AVERROR(ENOMEM);
1073         list->elem = newelem;
1074         data = (char *) list->elem + list->nb_elem * syntax->list_elem_size;
1075         memset(data, 0, syntax->list_elem_size);
1076         list->nb_elem++;
1077     }
1078
1079     if (syntax->type != EBML_PASS && syntax->type != EBML_STOP) {
1080         matroska->current_id = 0;
1081         if ((res = ebml_read_length(matroska, pb, &length)) < 0)
1082             return res;
1083         if (max_lengths[syntax->type] && length > max_lengths[syntax->type]) {
1084             av_log(matroska->ctx, AV_LOG_ERROR,
1085                    "Invalid length 0x%"PRIx64" > 0x%"PRIx64" for syntax element %i\n",
1086                    length, max_lengths[syntax->type], syntax->type);
1087             return AVERROR_INVALIDDATA;
1088         }
1089     }
1090
1091     switch (syntax->type) {
1092     case EBML_UINT:
1093         res = ebml_read_uint(pb, length, data);
1094         break;
1095     case EBML_SINT:
1096         res = ebml_read_sint(pb, length, data);
1097         break;
1098     case EBML_FLOAT:
1099         res = ebml_read_float(pb, length, data);
1100         break;
1101     case EBML_STR:
1102     case EBML_UTF8:
1103         res = ebml_read_ascii(pb, length, data);
1104         break;
1105     case EBML_BIN:
1106         res = ebml_read_binary(pb, length, data);
1107         break;
1108     case EBML_LEVEL1:
1109     case EBML_NEST:
1110         if ((res = ebml_read_master(matroska, length)) < 0)
1111             return res;
1112         if (id == MATROSKA_ID_SEGMENT)
1113             matroska->segment_start = avio_tell(matroska->ctx->pb);
1114         if (id == MATROSKA_ID_CUES)
1115             matroska->cues_parsing_deferred = 0;
1116         if (syntax->type == EBML_LEVEL1 &&
1117             (level1_elem = matroska_find_level1_elem(matroska, syntax->id))) {
1118             if (level1_elem->parsed)
1119                 av_log(matroska->ctx, AV_LOG_ERROR, "Duplicate element\n");
1120             level1_elem->parsed = 1;
1121         }
1122         return ebml_parse_nest(matroska, syntax->def.n, data);
1123     case EBML_PASS:
1124         return ebml_parse_id(matroska, syntax->def.n, id, data);
1125     case EBML_STOP:
1126         return 1;
1127     default:
1128         if (ffio_limit(pb, length) != length)
1129             return AVERROR(EIO);
1130         return avio_skip(pb, length) < 0 ? AVERROR(EIO) : 0;
1131     }
1132     if (res == AVERROR_INVALIDDATA)
1133         av_log(matroska->ctx, AV_LOG_ERROR, "Invalid element\n");
1134     else if (res == AVERROR(EIO))
1135         av_log(matroska->ctx, AV_LOG_ERROR, "Read error\n");
1136     return res;
1137 }
1138
1139 static void ebml_free(EbmlSyntax *syntax, void *data)
1140 {
1141     int i, j;
1142     for (i = 0; syntax[i].id; i++) {
1143         void *data_off = (char *) data + syntax[i].data_offset;
1144         switch (syntax[i].type) {
1145         case EBML_STR:
1146         case EBML_UTF8:
1147             av_freep(data_off);
1148             break;
1149         case EBML_BIN:
1150             av_freep(&((EbmlBin *) data_off)->data);
1151             break;
1152         case EBML_LEVEL1:
1153         case EBML_NEST:
1154             if (syntax[i].list_elem_size) {
1155                 EbmlList *list = data_off;
1156                 char *ptr = list->elem;
1157                 for (j = 0; j < list->nb_elem;
1158                      j++, ptr += syntax[i].list_elem_size)
1159                     ebml_free(syntax[i].def.n, ptr);
1160                 av_freep(&list->elem);
1161             } else
1162                 ebml_free(syntax[i].def.n, data_off);
1163         default:
1164             break;
1165         }
1166     }
1167 }
1168
1169 /*
1170  * Autodetecting...
1171  */
1172 static int matroska_probe(AVProbeData *p)
1173 {
1174     uint64_t total = 0;
1175     int len_mask = 0x80, size = 1, n = 1, i;
1176
1177     /* EBML header? */
1178     if (AV_RB32(p->buf) != EBML_ID_HEADER)
1179         return 0;
1180
1181     /* length of header */
1182     total = p->buf[4];
1183     while (size <= 8 && !(total & len_mask)) {
1184         size++;
1185         len_mask >>= 1;
1186     }
1187     if (size > 8)
1188         return 0;
1189     total &= (len_mask - 1);
1190     while (n < size)
1191         total = (total << 8) | p->buf[4 + n++];
1192
1193     /* Does the probe data contain the whole header? */
1194     if (p->buf_size < 4 + size + total)
1195         return 0;
1196
1197     /* The header should contain a known document type. For now,
1198      * we don't parse the whole header but simply check for the
1199      * availability of that array of characters inside the header.
1200      * Not fully fool-proof, but good enough. */
1201     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++) {
1202         size_t probelen = strlen(matroska_doctypes[i]);
1203         if (total < probelen)
1204             continue;
1205         for (n = 4 + size; n <= 4 + size + total - probelen; n++)
1206             if (!memcmp(p->buf + n, matroska_doctypes[i], probelen))
1207                 return AVPROBE_SCORE_MAX;
1208     }
1209
1210     // probably valid EBML header but no recognized doctype
1211     return AVPROBE_SCORE_EXTENSION;
1212 }
1213
1214 static MatroskaTrack *matroska_find_track_by_num(MatroskaDemuxContext *matroska,
1215                                                  int num)
1216 {
1217     MatroskaTrack *tracks = matroska->tracks.elem;
1218     int i;
1219
1220     for (i = 0; i < matroska->tracks.nb_elem; i++)
1221         if (tracks[i].num == num)
1222             return &tracks[i];
1223
1224     av_log(matroska->ctx, AV_LOG_ERROR, "Invalid track number %d\n", num);
1225     return NULL;
1226 }
1227
1228 static int matroska_decode_buffer(uint8_t **buf, int *buf_size,
1229                                   MatroskaTrack *track)
1230 {
1231     MatroskaTrackEncoding *encodings = track->encodings.elem;
1232     uint8_t *data = *buf;
1233     int isize = *buf_size;
1234     uint8_t *pkt_data = NULL;
1235     uint8_t av_unused *newpktdata;
1236     int pkt_size = isize;
1237     int result = 0;
1238     int olen;
1239
1240     if (pkt_size >= 10000000U)
1241         return AVERROR_INVALIDDATA;
1242
1243     switch (encodings[0].compression.algo) {
1244     case MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP:
1245     {
1246         int header_size = encodings[0].compression.settings.size;
1247         uint8_t *header = encodings[0].compression.settings.data;
1248
1249         if (header_size && !header) {
1250             av_log(NULL, AV_LOG_ERROR, "Compression size but no data in headerstrip\n");
1251             return -1;
1252         }
1253
1254         if (!header_size)
1255             return 0;
1256
1257         pkt_size = isize + header_size;
1258         pkt_data = av_malloc(pkt_size);
1259         if (!pkt_data)
1260             return AVERROR(ENOMEM);
1261
1262         memcpy(pkt_data, header, header_size);
1263         memcpy(pkt_data + header_size, data, isize);
1264         break;
1265     }
1266 #if CONFIG_LZO
1267     case MATROSKA_TRACK_ENCODING_COMP_LZO:
1268         do {
1269             olen       = pkt_size *= 3;
1270             newpktdata = av_realloc(pkt_data, pkt_size + AV_LZO_OUTPUT_PADDING);
1271             if (!newpktdata) {
1272                 result = AVERROR(ENOMEM);
1273                 goto failed;
1274             }
1275             pkt_data = newpktdata;
1276             result   = av_lzo1x_decode(pkt_data, &olen, data, &isize);
1277         } while (result == AV_LZO_OUTPUT_FULL && pkt_size < 10000000);
1278         if (result) {
1279             result = AVERROR_INVALIDDATA;
1280             goto failed;
1281         }
1282         pkt_size -= olen;
1283         break;
1284 #endif
1285 #if CONFIG_ZLIB
1286     case MATROSKA_TRACK_ENCODING_COMP_ZLIB:
1287     {
1288         z_stream zstream = { 0 };
1289         if (inflateInit(&zstream) != Z_OK)
1290             return -1;
1291         zstream.next_in  = data;
1292         zstream.avail_in = isize;
1293         do {
1294             pkt_size  *= 3;
1295             newpktdata = av_realloc(pkt_data, pkt_size);
1296             if (!newpktdata) {
1297                 inflateEnd(&zstream);
1298                 result = AVERROR(ENOMEM);
1299                 goto failed;
1300             }
1301             pkt_data          = newpktdata;
1302             zstream.avail_out = pkt_size - zstream.total_out;
1303             zstream.next_out  = pkt_data + zstream.total_out;
1304             result = inflate(&zstream, Z_NO_FLUSH);
1305         } while (result == Z_OK && pkt_size < 10000000);
1306         pkt_size = zstream.total_out;
1307         inflateEnd(&zstream);
1308         if (result != Z_STREAM_END) {
1309             if (result == Z_MEM_ERROR)
1310                 result = AVERROR(ENOMEM);
1311             else
1312                 result = AVERROR_INVALIDDATA;
1313             goto failed;
1314         }
1315         break;
1316     }
1317 #endif
1318 #if CONFIG_BZLIB
1319     case MATROSKA_TRACK_ENCODING_COMP_BZLIB:
1320     {
1321         bz_stream bzstream = { 0 };
1322         if (BZ2_bzDecompressInit(&bzstream, 0, 0) != BZ_OK)
1323             return -1;
1324         bzstream.next_in  = data;
1325         bzstream.avail_in = isize;
1326         do {
1327             pkt_size  *= 3;
1328             newpktdata = av_realloc(pkt_data, pkt_size);
1329             if (!newpktdata) {
1330                 BZ2_bzDecompressEnd(&bzstream);
1331                 result = AVERROR(ENOMEM);
1332                 goto failed;
1333             }
1334             pkt_data           = newpktdata;
1335             bzstream.avail_out = pkt_size - bzstream.total_out_lo32;
1336             bzstream.next_out  = pkt_data + bzstream.total_out_lo32;
1337             result = BZ2_bzDecompress(&bzstream);
1338         } while (result == BZ_OK && pkt_size < 10000000);
1339         pkt_size = bzstream.total_out_lo32;
1340         BZ2_bzDecompressEnd(&bzstream);
1341         if (result != BZ_STREAM_END) {
1342             if (result == BZ_MEM_ERROR)
1343                 result = AVERROR(ENOMEM);
1344             else
1345                 result = AVERROR_INVALIDDATA;
1346             goto failed;
1347         }
1348         break;
1349     }
1350 #endif
1351     default:
1352         return AVERROR_INVALIDDATA;
1353     }
1354
1355     *buf      = pkt_data;
1356     *buf_size = pkt_size;
1357     return 0;
1358
1359 failed:
1360     av_free(pkt_data);
1361     return result;
1362 }
1363
1364 static void matroska_convert_tag(AVFormatContext *s, EbmlList *list,
1365                                  AVDictionary **metadata, char *prefix)
1366 {
1367     MatroskaTag *tags = list->elem;
1368     char key[1024];
1369     int i;
1370
1371     for (i = 0; i < list->nb_elem; i++) {
1372         const char *lang = tags[i].lang &&
1373                            strcmp(tags[i].lang, "und") ? tags[i].lang : NULL;
1374
1375         if (!tags[i].name) {
1376             av_log(s, AV_LOG_WARNING, "Skipping invalid tag with no TagName.\n");
1377             continue;
1378         }
1379         if (prefix)
1380             snprintf(key, sizeof(key), "%s/%s", prefix, tags[i].name);
1381         else
1382             av_strlcpy(key, tags[i].name, sizeof(key));
1383         if (tags[i].def || !lang) {
1384             av_dict_set(metadata, key, tags[i].string, 0);
1385             if (tags[i].sub.nb_elem)
1386                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1387         }
1388         if (lang) {
1389             av_strlcat(key, "-", sizeof(key));
1390             av_strlcat(key, lang, sizeof(key));
1391             av_dict_set(metadata, key, tags[i].string, 0);
1392             if (tags[i].sub.nb_elem)
1393                 matroska_convert_tag(s, &tags[i].sub, metadata, key);
1394         }
1395     }
1396     ff_metadata_conv(metadata, NULL, ff_mkv_metadata_conv);
1397 }
1398
1399 static void matroska_convert_tags(AVFormatContext *s)
1400 {
1401     MatroskaDemuxContext *matroska = s->priv_data;
1402     MatroskaTags *tags = matroska->tags.elem;
1403     int i, j;
1404
1405     for (i = 0; i < matroska->tags.nb_elem; i++) {
1406         if (tags[i].target.attachuid) {
1407             MatroskaAttachment *attachment = matroska->attachments.elem;
1408             for (j = 0; j < matroska->attachments.nb_elem; j++)
1409                 if (attachment[j].uid == tags[i].target.attachuid &&
1410                     attachment[j].stream)
1411                     matroska_convert_tag(s, &tags[i].tag,
1412                                          &attachment[j].stream->metadata, NULL);
1413         } else if (tags[i].target.chapteruid) {
1414             MatroskaChapter *chapter = matroska->chapters.elem;
1415             for (j = 0; j < matroska->chapters.nb_elem; j++)
1416                 if (chapter[j].uid == tags[i].target.chapteruid &&
1417                     chapter[j].chapter)
1418                     matroska_convert_tag(s, &tags[i].tag,
1419                                          &chapter[j].chapter->metadata, NULL);
1420         } else if (tags[i].target.trackuid) {
1421             MatroskaTrack *track = matroska->tracks.elem;
1422             for (j = 0; j < matroska->tracks.nb_elem; j++)
1423                 if (track[j].uid == tags[i].target.trackuid && track[j].stream)
1424                     matroska_convert_tag(s, &tags[i].tag,
1425                                          &track[j].stream->metadata, NULL);
1426         } else {
1427             matroska_convert_tag(s, &tags[i].tag, &s->metadata,
1428                                  tags[i].target.type);
1429         }
1430     }
1431 }
1432
1433 static int matroska_parse_seekhead_entry(MatroskaDemuxContext *matroska,
1434                                          uint64_t pos)
1435 {
1436     uint32_t level_up       = matroska->level_up;
1437     uint32_t saved_id       = matroska->current_id;
1438     int64_t before_pos = avio_tell(matroska->ctx->pb);
1439     MatroskaLevel level;
1440     int64_t offset;
1441     int ret = 0;
1442
1443     /* seek */
1444     offset = pos + matroska->segment_start;
1445     if (avio_seek(matroska->ctx->pb, offset, SEEK_SET) == offset) {
1446         /* We don't want to lose our seekhead level, so we add
1447          * a dummy. This is a crude hack. */
1448         if (matroska->num_levels == EBML_MAX_DEPTH) {
1449             av_log(matroska->ctx, AV_LOG_INFO,
1450                    "Max EBML element depth (%d) reached, "
1451                    "cannot parse further.\n", EBML_MAX_DEPTH);
1452             ret = AVERROR_INVALIDDATA;
1453         } else {
1454             level.start  = 0;
1455             level.length = (uint64_t) -1;
1456             matroska->levels[matroska->num_levels] = level;
1457             matroska->num_levels++;
1458             matroska->current_id                   = 0;
1459
1460             ret = ebml_parse(matroska, matroska_segment, matroska);
1461
1462             /* remove dummy level */
1463             while (matroska->num_levels) {
1464                 uint64_t length = matroska->levels[--matroska->num_levels].length;
1465                 if (length == (uint64_t) -1)
1466                     break;
1467             }
1468         }
1469     }
1470     /* seek back */
1471     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
1472     matroska->level_up   = level_up;
1473     matroska->current_id = saved_id;
1474
1475     return ret;
1476 }
1477
1478 static void matroska_execute_seekhead(MatroskaDemuxContext *matroska)
1479 {
1480     EbmlList *seekhead_list = &matroska->seekhead;
1481     int i;
1482
1483     // we should not do any seeking in the streaming case
1484     if (!matroska->ctx->pb->seekable)
1485         return;
1486
1487     for (i = 0; i < seekhead_list->nb_elem; i++) {
1488         MatroskaSeekhead *seekheads = seekhead_list->elem;
1489         uint32_t id  = seekheads[i].id;
1490         uint64_t pos = seekheads[i].pos;
1491
1492         MatroskaLevel1Element *elem = matroska_find_level1_elem(matroska, id);
1493         if (!elem || elem->parsed)
1494             continue;
1495
1496         elem->pos = pos;
1497
1498         // defer cues parsing until we actually need cue data.
1499         if (id == MATROSKA_ID_CUES)
1500             continue;
1501
1502         if (matroska_parse_seekhead_entry(matroska, pos) < 0) {
1503             // mark index as broken
1504             matroska->cues_parsing_deferred = -1;
1505             break;
1506         }
1507
1508         elem->parsed = 1;
1509     }
1510 }
1511
1512 static void matroska_add_index_entries(MatroskaDemuxContext *matroska)
1513 {
1514     EbmlList *index_list;
1515     MatroskaIndex *index;
1516     uint64_t index_scale = 1;
1517     int i, j;
1518
1519     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1520         return;
1521
1522     index_list = &matroska->index;
1523     index      = index_list->elem;
1524     if (index_list->nb_elem < 2)
1525         return;
1526     if (index[1].time > 1E14 / matroska->time_scale) {
1527         av_log(matroska->ctx, AV_LOG_WARNING, "Dropping apparently-broken index.\n");
1528         return;
1529     }
1530     for (i = 0; i < index_list->nb_elem; i++) {
1531         EbmlList *pos_list    = &index[i].pos;
1532         MatroskaIndexPos *pos = pos_list->elem;
1533         for (j = 0; j < pos_list->nb_elem; j++) {
1534             MatroskaTrack *track = matroska_find_track_by_num(matroska,
1535                                                               pos[j].track);
1536             if (track && track->stream)
1537                 av_add_index_entry(track->stream,
1538                                    pos[j].pos + matroska->segment_start,
1539                                    index[i].time / index_scale, 0, 0,
1540                                    AVINDEX_KEYFRAME);
1541         }
1542     }
1543 }
1544
1545 static void matroska_parse_cues(MatroskaDemuxContext *matroska) {
1546     int i;
1547
1548     if (matroska->ctx->flags & AVFMT_FLAG_IGNIDX)
1549         return;
1550
1551     for (i = 0; i < matroska->num_level1_elems; i++) {
1552         MatroskaLevel1Element *elem = &matroska->level1_elems[i];
1553         if (elem->id == MATROSKA_ID_CUES && !elem->parsed) {
1554             if (matroska_parse_seekhead_entry(matroska, elem->pos) < 0)
1555                 matroska->cues_parsing_deferred = -1;
1556             elem->parsed = 1;
1557             break;
1558         }
1559     }
1560
1561     matroska_add_index_entries(matroska);
1562 }
1563
1564 static int matroska_aac_profile(char *codec_id)
1565 {
1566     static const char *const aac_profiles[] = { "MAIN", "LC", "SSR" };
1567     int profile;
1568
1569     for (profile = 0; profile < FF_ARRAY_ELEMS(aac_profiles); profile++)
1570         if (strstr(codec_id, aac_profiles[profile]))
1571             break;
1572     return profile + 1;
1573 }
1574
1575 static int matroska_aac_sri(int samplerate)
1576 {
1577     int sri;
1578
1579     for (sri = 0; sri < FF_ARRAY_ELEMS(avpriv_mpeg4audio_sample_rates); sri++)
1580         if (avpriv_mpeg4audio_sample_rates[sri] == samplerate)
1581             break;
1582     return sri;
1583 }
1584
1585 static void matroska_metadata_creation_time(AVDictionary **metadata, int64_t date_utc)
1586 {
1587     char buffer[32];
1588     /* Convert to seconds and adjust by number of seconds between 2001-01-01 and Epoch */
1589     time_t creation_time = date_utc / 1000000000 + 978307200;
1590     struct tm tmpbuf, *ptm = gmtime_r(&creation_time, &tmpbuf);
1591     if (!ptm) return;
1592     if (strftime(buffer, sizeof(buffer), "%Y-%m-%d %H:%M:%S", ptm))
1593         av_dict_set(metadata, "creation_time", buffer, 0);
1594 }
1595
1596 static int matroska_parse_flac(AVFormatContext *s,
1597                                MatroskaTrack *track,
1598                                int *offset)
1599 {
1600     AVStream *st = track->stream;
1601     uint8_t *p = track->codec_priv.data;
1602     int size   = track->codec_priv.size;
1603
1604     if (size < 8 + FLAC_STREAMINFO_SIZE || p[4] & 0x7f) {
1605         av_log(s, AV_LOG_WARNING, "Invalid FLAC private data\n");
1606         track->codec_priv.size = 0;
1607         return 0;
1608     }
1609     *offset = 8;
1610     track->codec_priv.size = 8 + FLAC_STREAMINFO_SIZE;
1611
1612     p    += track->codec_priv.size;
1613     size -= track->codec_priv.size;
1614
1615     /* parse the remaining metadata blocks if present */
1616     while (size >= 4) {
1617         int block_last, block_type, block_size;
1618
1619         flac_parse_block_header(p, &block_last, &block_type, &block_size);
1620
1621         p    += 4;
1622         size -= 4;
1623         if (block_size > size)
1624             return 0;
1625
1626         /* check for the channel mask */
1627         if (block_type == FLAC_METADATA_TYPE_VORBIS_COMMENT) {
1628             AVDictionary *dict = NULL;
1629             AVDictionaryEntry *chmask;
1630
1631             ff_vorbis_comment(s, &dict, p, block_size, 0);
1632             chmask = av_dict_get(dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", NULL, 0);
1633             if (chmask) {
1634                 uint64_t mask = strtol(chmask->value, NULL, 0);
1635                 if (!mask || mask & ~0x3ffffULL) {
1636                     av_log(s, AV_LOG_WARNING,
1637                            "Invalid value of WAVEFORMATEXTENSIBLE_CHANNEL_MASK\n");
1638                 } else
1639                     st->codec->channel_layout = mask;
1640             }
1641             av_dict_free(&dict);
1642         }
1643
1644         p    += block_size;
1645         size -= block_size;
1646     }
1647
1648     return 0;
1649 }
1650
1651 static void mkv_stereo_mode_display_mul(int stereo_mode, int *h_width, int *h_height)
1652 {
1653     switch (stereo_mode) {
1654         case MATROSKA_VIDEO_STEREOMODE_TYPE_MONO:
1655         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_RL:
1656         case MATROSKA_VIDEO_STEREOMODE_TYPE_CHECKERBOARD_LR:
1657         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL:
1658         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_LR:
1659             break;
1660         case MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT:
1661         case MATROSKA_VIDEO_STEREOMODE_TYPE_LEFT_RIGHT:
1662         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_RL:
1663         case MATROSKA_VIDEO_STEREOMODE_TYPE_COL_INTERLEAVED_LR:
1664             *h_width = 2;
1665             break;
1666         case MATROSKA_VIDEO_STEREOMODE_TYPE_BOTTOM_TOP:
1667         case MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM:
1668         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_RL:
1669         case MATROSKA_VIDEO_STEREOMODE_TYPE_ROW_INTERLEAVED_LR:
1670             *h_height = 2;
1671             break;
1672     }
1673 }
1674
1675 static int matroska_parse_tracks(AVFormatContext *s)
1676 {
1677     MatroskaDemuxContext *matroska = s->priv_data;
1678     MatroskaTrack *tracks = matroska->tracks.elem;
1679     AVStream *st;
1680     int i, j, ret;
1681     int k;
1682
1683     for (i = 0; i < matroska->tracks.nb_elem; i++) {
1684         MatroskaTrack *track = &tracks[i];
1685         enum AVCodecID codec_id = AV_CODEC_ID_NONE;
1686         EbmlList *encodings_list = &track->encodings;
1687         MatroskaTrackEncoding *encodings = encodings_list->elem;
1688         uint8_t *extradata = NULL;
1689         int extradata_size = 0;
1690         int extradata_offset = 0;
1691         uint32_t fourcc = 0;
1692         AVIOContext b;
1693         char* key_id_base64 = NULL;
1694         int bit_depth = -1;
1695
1696         /* Apply some sanity checks. */
1697         if (track->type != MATROSKA_TRACK_TYPE_VIDEO &&
1698             track->type != MATROSKA_TRACK_TYPE_AUDIO &&
1699             track->type != MATROSKA_TRACK_TYPE_SUBTITLE &&
1700             track->type != MATROSKA_TRACK_TYPE_METADATA) {
1701             av_log(matroska->ctx, AV_LOG_INFO,
1702                    "Unknown or unsupported track type %"PRIu64"\n",
1703                    track->type);
1704             continue;
1705         }
1706         if (!track->codec_id)
1707             continue;
1708
1709         if (track->audio.samplerate < 0 || track->audio.samplerate > INT_MAX ||
1710             isnan(track->audio.samplerate)) {
1711             av_log(matroska->ctx, AV_LOG_WARNING,
1712                    "Invalid sample rate %f, defaulting to 8000 instead.\n",
1713                    track->audio.samplerate);
1714             track->audio.samplerate = 8000;
1715         }
1716
1717         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
1718             if (!track->default_duration && track->video.frame_rate > 0)
1719                 track->default_duration = 1000000000 / track->video.frame_rate;
1720             if (track->video.display_width == -1)
1721                 track->video.display_width = track->video.pixel_width;
1722             if (track->video.display_height == -1)
1723                 track->video.display_height = track->video.pixel_height;
1724             if (track->video.color_space.size == 4)
1725                 fourcc = AV_RL32(track->video.color_space.data);
1726         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
1727             if (!track->audio.out_samplerate)
1728                 track->audio.out_samplerate = track->audio.samplerate;
1729         }
1730         if (encodings_list->nb_elem > 1) {
1731             av_log(matroska->ctx, AV_LOG_ERROR,
1732                    "Multiple combined encodings not supported");
1733         } else if (encodings_list->nb_elem == 1) {
1734             if (encodings[0].type) {
1735                 if (encodings[0].encryption.key_id.size > 0) {
1736                     /* Save the encryption key id to be stored later as a
1737                        metadata tag. */
1738                     const int b64_size = AV_BASE64_SIZE(encodings[0].encryption.key_id.size);
1739                     key_id_base64 = av_malloc(b64_size);
1740                     if (key_id_base64 == NULL)
1741                         return AVERROR(ENOMEM);
1742
1743                     av_base64_encode(key_id_base64, b64_size,
1744                                      encodings[0].encryption.key_id.data,
1745                                      encodings[0].encryption.key_id.size);
1746                 } else {
1747                     encodings[0].scope = 0;
1748                     av_log(matroska->ctx, AV_LOG_ERROR,
1749                            "Unsupported encoding type");
1750                 }
1751             } else if (
1752 #if CONFIG_ZLIB
1753                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_ZLIB  &&
1754 #endif
1755 #if CONFIG_BZLIB
1756                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_BZLIB &&
1757 #endif
1758 #if CONFIG_LZO
1759                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_LZO   &&
1760 #endif
1761                  encodings[0].compression.algo != MATROSKA_TRACK_ENCODING_COMP_HEADERSTRIP) {
1762                 encodings[0].scope = 0;
1763                 av_log(matroska->ctx, AV_LOG_ERROR,
1764                        "Unsupported encoding type");
1765             } else if (track->codec_priv.size && encodings[0].scope & 2) {
1766                 uint8_t *codec_priv = track->codec_priv.data;
1767                 int ret = matroska_decode_buffer(&track->codec_priv.data,
1768                                                  &track->codec_priv.size,
1769                                                  track);
1770                 if (ret < 0) {
1771                     track->codec_priv.data = NULL;
1772                     track->codec_priv.size = 0;
1773                     av_log(matroska->ctx, AV_LOG_ERROR,
1774                            "Failed to decode codec private data\n");
1775                 }
1776
1777                 if (codec_priv != track->codec_priv.data)
1778                     av_free(codec_priv);
1779             }
1780         }
1781
1782         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
1783             if (!strncmp(ff_mkv_codec_tags[j].str, track->codec_id,
1784                          strlen(ff_mkv_codec_tags[j].str))) {
1785                 codec_id = ff_mkv_codec_tags[j].id;
1786                 break;
1787             }
1788         }
1789
1790         st = track->stream = avformat_new_stream(s, NULL);
1791         if (!st) {
1792             av_free(key_id_base64);
1793             return AVERROR(ENOMEM);
1794         }
1795
1796         if (key_id_base64) {
1797             /* export encryption key id as base64 metadata tag */
1798             av_dict_set(&st->metadata, "enc_key_id", key_id_base64, 0);
1799             av_freep(&key_id_base64);
1800         }
1801
1802         if (!strcmp(track->codec_id, "V_MS/VFW/FOURCC") &&
1803              track->codec_priv.size >= 40               &&
1804             track->codec_priv.data) {
1805             track->ms_compat    = 1;
1806             bit_depth           = AV_RL16(track->codec_priv.data + 14);
1807             fourcc              = AV_RL32(track->codec_priv.data + 16);
1808             codec_id            = ff_codec_get_id(ff_codec_bmp_tags,
1809                                                   fourcc);
1810             if (!codec_id)
1811                 codec_id        = ff_codec_get_id(ff_codec_movvideo_tags,
1812                                                   fourcc);
1813             extradata_offset    = 40;
1814         } else if (!strcmp(track->codec_id, "A_MS/ACM") &&
1815                    track->codec_priv.size >= 14         &&
1816                    track->codec_priv.data) {
1817             int ret;
1818             ffio_init_context(&b, track->codec_priv.data,
1819                               track->codec_priv.size,
1820                               0, NULL, NULL, NULL, NULL);
1821             ret = ff_get_wav_header(s, &b, st->codec, track->codec_priv.size, 0);
1822             if (ret < 0)
1823                 return ret;
1824             codec_id         = st->codec->codec_id;
1825             extradata_offset = FFMIN(track->codec_priv.size, 18);
1826         } else if (!strcmp(track->codec_id, "A_QUICKTIME")
1827                    && (track->codec_priv.size >= 86)
1828                    && (track->codec_priv.data)) {
1829             fourcc = AV_RL32(track->codec_priv.data + 4);
1830             codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
1831             if (ff_codec_get_id(ff_codec_movaudio_tags, AV_RL32(track->codec_priv.data))) {
1832                 fourcc = AV_RL32(track->codec_priv.data);
1833                 codec_id = ff_codec_get_id(ff_codec_movaudio_tags, fourcc);
1834             }
1835         } else if (!strcmp(track->codec_id, "V_QUICKTIME") &&
1836                    (track->codec_priv.size >= 21)          &&
1837                    (track->codec_priv.data)) {
1838             fourcc   = AV_RL32(track->codec_priv.data + 4);
1839             codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
1840             if (ff_codec_get_id(ff_codec_movvideo_tags, AV_RL32(track->codec_priv.data))) {
1841                 fourcc   = AV_RL32(track->codec_priv.data);
1842                 codec_id = ff_codec_get_id(ff_codec_movvideo_tags, fourcc);
1843             }
1844             if (codec_id == AV_CODEC_ID_NONE && AV_RL32(track->codec_priv.data+4) == AV_RL32("SMI "))
1845                 codec_id = AV_CODEC_ID_SVQ3;
1846             if (codec_id == AV_CODEC_ID_NONE) {
1847                 char buf[32];
1848                 av_get_codec_tag_string(buf, sizeof(buf), fourcc);
1849                 av_log(matroska->ctx, AV_LOG_ERROR,
1850                        "mov FourCC not found %s.\n", buf);
1851             }
1852         } else if (codec_id == AV_CODEC_ID_PCM_S16BE) {
1853             switch (track->audio.bitdepth) {
1854             case  8:
1855                 codec_id = AV_CODEC_ID_PCM_U8;
1856                 break;
1857             case 24:
1858                 codec_id = AV_CODEC_ID_PCM_S24BE;
1859                 break;
1860             case 32:
1861                 codec_id = AV_CODEC_ID_PCM_S32BE;
1862                 break;
1863             }
1864         } else if (codec_id == AV_CODEC_ID_PCM_S16LE) {
1865             switch (track->audio.bitdepth) {
1866             case  8:
1867                 codec_id = AV_CODEC_ID_PCM_U8;
1868                 break;
1869             case 24:
1870                 codec_id = AV_CODEC_ID_PCM_S24LE;
1871                 break;
1872             case 32:
1873                 codec_id = AV_CODEC_ID_PCM_S32LE;
1874                 break;
1875             }
1876         } else if (codec_id == AV_CODEC_ID_PCM_F32LE &&
1877                    track->audio.bitdepth == 64) {
1878             codec_id = AV_CODEC_ID_PCM_F64LE;
1879         } else if (codec_id == AV_CODEC_ID_AAC && !track->codec_priv.size) {
1880             int profile = matroska_aac_profile(track->codec_id);
1881             int sri     = matroska_aac_sri(track->audio.samplerate);
1882             extradata   = av_mallocz(5 + AV_INPUT_BUFFER_PADDING_SIZE);
1883             if (!extradata)
1884                 return AVERROR(ENOMEM);
1885             extradata[0] = (profile << 3) | ((sri & 0x0E) >> 1);
1886             extradata[1] = ((sri & 0x01) << 7) | (track->audio.channels << 3);
1887             if (strstr(track->codec_id, "SBR")) {
1888                 sri            = matroska_aac_sri(track->audio.out_samplerate);
1889                 extradata[2]   = 0x56;
1890                 extradata[3]   = 0xE5;
1891                 extradata[4]   = 0x80 | (sri << 3);
1892                 extradata_size = 5;
1893             } else
1894                 extradata_size = 2;
1895         } else if (codec_id == AV_CODEC_ID_ALAC && track->codec_priv.size && track->codec_priv.size < INT_MAX - 12 - AV_INPUT_BUFFER_PADDING_SIZE) {
1896             /* Only ALAC's magic cookie is stored in Matroska's track headers.
1897              * Create the "atom size", "tag", and "tag version" fields the
1898              * decoder expects manually. */
1899             extradata_size = 12 + track->codec_priv.size;
1900             extradata      = av_mallocz(extradata_size +
1901                                         AV_INPUT_BUFFER_PADDING_SIZE);
1902             if (!extradata)
1903                 return AVERROR(ENOMEM);
1904             AV_WB32(extradata, extradata_size);
1905             memcpy(&extradata[4], "alac", 4);
1906             AV_WB32(&extradata[8], 0);
1907             memcpy(&extradata[12], track->codec_priv.data,
1908                    track->codec_priv.size);
1909         } else if (codec_id == AV_CODEC_ID_TTA) {
1910             extradata_size = 30;
1911             extradata      = av_mallocz(extradata_size + AV_INPUT_BUFFER_PADDING_SIZE);
1912             if (!extradata)
1913                 return AVERROR(ENOMEM);
1914             ffio_init_context(&b, extradata, extradata_size, 1,
1915                               NULL, NULL, NULL, NULL);
1916             avio_write(&b, "TTA1", 4);
1917             avio_wl16(&b, 1);
1918             if (track->audio.channels > UINT16_MAX ||
1919                 track->audio.bitdepth > UINT16_MAX) {
1920                 av_log(matroska->ctx, AV_LOG_WARNING,
1921                        "Too large audio channel number %"PRIu64
1922                        " or bitdepth %"PRIu64". Skipping track.\n",
1923                        track->audio.channels, track->audio.bitdepth);
1924                 av_freep(&extradata);
1925                 if (matroska->ctx->error_recognition & AV_EF_EXPLODE)
1926                     return AVERROR_INVALIDDATA;
1927                 else
1928                     continue;
1929             }
1930             avio_wl16(&b, track->audio.channels);
1931             avio_wl16(&b, track->audio.bitdepth);
1932             if (track->audio.out_samplerate < 0 || track->audio.out_samplerate > INT_MAX)
1933                 return AVERROR_INVALIDDATA;
1934             avio_wl32(&b, track->audio.out_samplerate);
1935             avio_wl32(&b, av_rescale((matroska->duration * matroska->time_scale),
1936                                      track->audio.out_samplerate,
1937                                      AV_TIME_BASE * 1000));
1938         } else if (codec_id == AV_CODEC_ID_RV10 ||
1939                    codec_id == AV_CODEC_ID_RV20 ||
1940                    codec_id == AV_CODEC_ID_RV30 ||
1941                    codec_id == AV_CODEC_ID_RV40) {
1942             extradata_offset = 26;
1943         } else if (codec_id == AV_CODEC_ID_RA_144) {
1944             track->audio.out_samplerate = 8000;
1945             track->audio.channels       = 1;
1946         } else if ((codec_id == AV_CODEC_ID_RA_288 ||
1947                     codec_id == AV_CODEC_ID_COOK   ||
1948                     codec_id == AV_CODEC_ID_ATRAC3 ||
1949                     codec_id == AV_CODEC_ID_SIPR)
1950                       && track->codec_priv.data) {
1951             int flavor;
1952
1953             ffio_init_context(&b, track->codec_priv.data,
1954                               track->codec_priv.size,
1955                               0, NULL, NULL, NULL, NULL);
1956             avio_skip(&b, 22);
1957             flavor                       = avio_rb16(&b);
1958             track->audio.coded_framesize = avio_rb32(&b);
1959             avio_skip(&b, 12);
1960             track->audio.sub_packet_h    = avio_rb16(&b);
1961             track->audio.frame_size      = avio_rb16(&b);
1962             track->audio.sub_packet_size = avio_rb16(&b);
1963             if (flavor                        < 0 ||
1964                 track->audio.coded_framesize <= 0 ||
1965                 track->audio.sub_packet_h    <= 0 ||
1966                 track->audio.frame_size      <= 0 ||
1967                 track->audio.sub_packet_size <= 0)
1968                 return AVERROR_INVALIDDATA;
1969             track->audio.buf = av_malloc_array(track->audio.sub_packet_h,
1970                                                track->audio.frame_size);
1971             if (!track->audio.buf)
1972                 return AVERROR(ENOMEM);
1973             if (codec_id == AV_CODEC_ID_RA_288) {
1974                 st->codec->block_align = track->audio.coded_framesize;
1975                 track->codec_priv.size = 0;
1976             } else {
1977                 if (codec_id == AV_CODEC_ID_SIPR && flavor < 4) {
1978                     static const int sipr_bit_rate[4] = { 6504, 8496, 5000, 16000 };
1979                     track->audio.sub_packet_size = ff_sipr_subpk_size[flavor];
1980                     st->codec->bit_rate          = sipr_bit_rate[flavor];
1981                 }
1982                 st->codec->block_align = track->audio.sub_packet_size;
1983                 extradata_offset       = 78;
1984             }
1985         } else if (codec_id == AV_CODEC_ID_FLAC && track->codec_priv.size) {
1986             ret = matroska_parse_flac(s, track, &extradata_offset);
1987             if (ret < 0)
1988                 return ret;
1989         } else if (codec_id == AV_CODEC_ID_PRORES && track->codec_priv.size == 4) {
1990             fourcc = AV_RL32(track->codec_priv.data);
1991         }
1992         track->codec_priv.size -= extradata_offset;
1993
1994         if (codec_id == AV_CODEC_ID_NONE)
1995             av_log(matroska->ctx, AV_LOG_INFO,
1996                    "Unknown/unsupported AVCodecID %s.\n", track->codec_id);
1997
1998         if (track->time_scale < 0.01)
1999             track->time_scale = 1.0;
2000         avpriv_set_pts_info(st, 64, matroska->time_scale * track->time_scale,
2001                             1000 * 1000 * 1000);    /* 64 bit pts in ns */
2002
2003         /* convert the delay from ns to the track timebase */
2004         track->codec_delay = av_rescale_q(track->codec_delay,
2005                                           (AVRational){ 1, 1000000000 },
2006                                           st->time_base);
2007
2008         st->codec->codec_id = codec_id;
2009
2010         if (strcmp(track->language, "und"))
2011             av_dict_set(&st->metadata, "language", track->language, 0);
2012         av_dict_set(&st->metadata, "title", track->name, 0);
2013
2014         if (track->flag_default)
2015             st->disposition |= AV_DISPOSITION_DEFAULT;
2016         if (track->flag_forced)
2017             st->disposition |= AV_DISPOSITION_FORCED;
2018
2019         if (!st->codec->extradata) {
2020             if (extradata) {
2021                 st->codec->extradata      = extradata;
2022                 st->codec->extradata_size = extradata_size;
2023             } else if (track->codec_priv.data && track->codec_priv.size > 0) {
2024                 if (ff_alloc_extradata(st->codec, track->codec_priv.size))
2025                     return AVERROR(ENOMEM);
2026                 memcpy(st->codec->extradata,
2027                        track->codec_priv.data + extradata_offset,
2028                        track->codec_priv.size);
2029             }
2030         }
2031
2032         if (track->type == MATROSKA_TRACK_TYPE_VIDEO) {
2033             MatroskaTrackPlane *planes = track->operation.combine_planes.elem;
2034             int display_width_mul = 1;
2035             int display_height_mul = 1;
2036
2037             st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
2038             st->codec->codec_tag  = fourcc;
2039             if (bit_depth >= 0)
2040                 st->codec->bits_per_coded_sample = bit_depth;
2041             st->codec->width      = track->video.pixel_width;
2042             st->codec->height     = track->video.pixel_height;
2043
2044             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2045                 mkv_stereo_mode_display_mul(track->video.stereo_mode, &display_width_mul, &display_height_mul);
2046
2047             av_reduce(&st->sample_aspect_ratio.num,
2048                       &st->sample_aspect_ratio.den,
2049                       st->codec->height * track->video.display_width * display_width_mul,
2050                       st->codec->width  * track->video.display_height * display_height_mul,
2051                       255);
2052             if (st->codec->codec_id != AV_CODEC_ID_HEVC)
2053                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2054
2055             if (track->default_duration) {
2056                 av_reduce(&st->avg_frame_rate.num, &st->avg_frame_rate.den,
2057                           1000000000, track->default_duration, 30000);
2058 #if FF_API_R_FRAME_RATE
2059                 if (   st->avg_frame_rate.num < st->avg_frame_rate.den * 1000LL
2060                     && st->avg_frame_rate.num > st->avg_frame_rate.den * 5LL)
2061                     st->r_frame_rate = st->avg_frame_rate;
2062 #endif
2063             }
2064
2065             /* export stereo mode flag as metadata tag */
2066             if (track->video.stereo_mode && track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB)
2067                 av_dict_set(&st->metadata, "stereo_mode", ff_matroska_video_stereo_mode[track->video.stereo_mode], 0);
2068
2069             /* export alpha mode flag as metadata tag  */
2070             if (track->video.alpha_mode)
2071                 av_dict_set(&st->metadata, "alpha_mode", "1", 0);
2072
2073             /* if we have virtual track, mark the real tracks */
2074             for (j=0; j < track->operation.combine_planes.nb_elem; j++) {
2075                 char buf[32];
2076                 if (planes[j].type >= MATROSKA_VIDEO_STEREO_PLANE_COUNT)
2077                     continue;
2078                 snprintf(buf, sizeof(buf), "%s_%d",
2079                          ff_matroska_video_stereo_plane[planes[j].type], i);
2080                 for (k=0; k < matroska->tracks.nb_elem; k++)
2081                     if (planes[j].uid == tracks[k].uid && tracks[k].stream) {
2082                         av_dict_set(&tracks[k].stream->metadata,
2083                                     "stereo_mode", buf, 0);
2084                         break;
2085                     }
2086             }
2087             // add stream level stereo3d side data if it is a supported format
2088             if (track->video.stereo_mode < MATROSKA_VIDEO_STEREOMODE_TYPE_NB &&
2089                 track->video.stereo_mode != 10 && track->video.stereo_mode != 12) {
2090                 int ret = ff_mkv_stereo3d_conv(st, track->video.stereo_mode);
2091                 if (ret < 0)
2092                     return ret;
2093             }
2094         } else if (track->type == MATROSKA_TRACK_TYPE_AUDIO) {
2095             st->codec->codec_type  = AVMEDIA_TYPE_AUDIO;
2096             st->codec->sample_rate = track->audio.out_samplerate;
2097             st->codec->channels    = track->audio.channels;
2098             if (!st->codec->bits_per_coded_sample)
2099                 st->codec->bits_per_coded_sample = track->audio.bitdepth;
2100             if (st->codec->codec_id == AV_CODEC_ID_MP3)
2101                 st->need_parsing = AVSTREAM_PARSE_FULL;
2102             else if (st->codec->codec_id != AV_CODEC_ID_AAC)
2103                 st->need_parsing = AVSTREAM_PARSE_HEADERS;
2104             if (track->codec_delay > 0) {
2105                 st->codec->delay = av_rescale_q(track->codec_delay,
2106                                                 st->time_base,
2107                                                 (AVRational){1, st->codec->sample_rate});
2108             }
2109             if (track->seek_preroll > 0) {
2110                 av_codec_set_seek_preroll(st->codec,
2111                                           av_rescale_q(track->seek_preroll,
2112                                                        (AVRational){1, 1000000000},
2113                                                        (AVRational){1, st->codec->sample_rate}));
2114             }
2115         } else if (codec_id == AV_CODEC_ID_WEBVTT) {
2116             st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
2117
2118             if (!strcmp(track->codec_id, "D_WEBVTT/CAPTIONS")) {
2119                 st->disposition |= AV_DISPOSITION_CAPTIONS;
2120             } else if (!strcmp(track->codec_id, "D_WEBVTT/DESCRIPTIONS")) {
2121                 st->disposition |= AV_DISPOSITION_DESCRIPTIONS;
2122             } else if (!strcmp(track->codec_id, "D_WEBVTT/METADATA")) {
2123                 st->disposition |= AV_DISPOSITION_METADATA;
2124             }
2125         } else if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE) {
2126             st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
2127             if (st->codec->codec_id == AV_CODEC_ID_ASS)
2128                 matroska->contains_ssa = 1;
2129         }
2130     }
2131
2132     return 0;
2133 }
2134
2135 static int matroska_read_header(AVFormatContext *s)
2136 {
2137     MatroskaDemuxContext *matroska = s->priv_data;
2138     EbmlList *attachments_list = &matroska->attachments;
2139     EbmlList *chapters_list    = &matroska->chapters;
2140     MatroskaAttachment *attachments;
2141     MatroskaChapter *chapters;
2142     uint64_t max_start = 0;
2143     int64_t pos;
2144     Ebml ebml = { 0 };
2145     int i, j, res;
2146
2147     matroska->ctx = s;
2148     matroska->cues_parsing_deferred = 1;
2149
2150     /* First read the EBML header. */
2151     if (ebml_parse(matroska, ebml_syntax, &ebml) || !ebml.doctype) {
2152         av_log(matroska->ctx, AV_LOG_ERROR, "EBML header parsing failed\n");
2153         ebml_free(ebml_syntax, &ebml);
2154         return AVERROR_INVALIDDATA;
2155     }
2156     if (ebml.version         > EBML_VERSION      ||
2157         ebml.max_size        > sizeof(uint64_t)  ||
2158         ebml.id_length       > sizeof(uint32_t)  ||
2159         ebml.doctype_version > 3) {
2160         av_log(matroska->ctx, AV_LOG_ERROR,
2161                "EBML header using unsupported features\n"
2162                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2163                ebml.version, ebml.doctype, ebml.doctype_version);
2164         ebml_free(ebml_syntax, &ebml);
2165         return AVERROR_PATCHWELCOME;
2166     } else if (ebml.doctype_version == 3) {
2167         av_log(matroska->ctx, AV_LOG_WARNING,
2168                "EBML header using unsupported features\n"
2169                "(EBML version %"PRIu64", doctype %s, doc version %"PRIu64")\n",
2170                ebml.version, ebml.doctype, ebml.doctype_version);
2171     }
2172     for (i = 0; i < FF_ARRAY_ELEMS(matroska_doctypes); i++)
2173         if (!strcmp(ebml.doctype, matroska_doctypes[i]))
2174             break;
2175     if (i >= FF_ARRAY_ELEMS(matroska_doctypes)) {
2176         av_log(s, AV_LOG_WARNING, "Unknown EBML doctype '%s'\n", ebml.doctype);
2177         if (matroska->ctx->error_recognition & AV_EF_EXPLODE) {
2178             ebml_free(ebml_syntax, &ebml);
2179             return AVERROR_INVALIDDATA;
2180         }
2181     }
2182     ebml_free(ebml_syntax, &ebml);
2183
2184     /* The next thing is a segment. */
2185     pos = avio_tell(matroska->ctx->pb);
2186     res = ebml_parse(matroska, matroska_segments, matroska);
2187     // try resyncing until we find a EBML_STOP type element.
2188     while (res != 1) {
2189         res = matroska_resync(matroska, pos);
2190         if (res < 0)
2191             return res;
2192         pos = avio_tell(matroska->ctx->pb);
2193         res = ebml_parse(matroska, matroska_segment, matroska);
2194     }
2195     matroska_execute_seekhead(matroska);
2196
2197     if (!matroska->time_scale)
2198         matroska->time_scale = 1000000;
2199     if (matroska->duration)
2200         matroska->ctx->duration = matroska->duration * matroska->time_scale *
2201                                   1000 / AV_TIME_BASE;
2202     av_dict_set(&s->metadata, "title", matroska->title, 0);
2203     av_dict_set(&s->metadata, "encoder", matroska->muxingapp, 0);
2204
2205     if (matroska->date_utc.size == 8)
2206         matroska_metadata_creation_time(&s->metadata, AV_RB64(matroska->date_utc.data));
2207
2208     res = matroska_parse_tracks(s);
2209     if (res < 0)
2210         return res;
2211
2212     attachments = attachments_list->elem;
2213     for (j = 0; j < attachments_list->nb_elem; j++) {
2214         if (!(attachments[j].filename && attachments[j].mime &&
2215               attachments[j].bin.data && attachments[j].bin.size > 0)) {
2216             av_log(matroska->ctx, AV_LOG_ERROR, "incomplete attachment\n");
2217         } else {
2218             AVStream *st = avformat_new_stream(s, NULL);
2219             if (!st)
2220                 break;
2221             av_dict_set(&st->metadata, "filename", attachments[j].filename, 0);
2222             av_dict_set(&st->metadata, "mimetype", attachments[j].mime, 0);
2223             st->codec->codec_id   = AV_CODEC_ID_NONE;
2224
2225             for (i = 0; ff_mkv_image_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2226                 if (!strncmp(ff_mkv_image_mime_tags[i].str, attachments[j].mime,
2227                              strlen(ff_mkv_image_mime_tags[i].str))) {
2228                     st->codec->codec_id = ff_mkv_image_mime_tags[i].id;
2229                     break;
2230                 }
2231             }
2232
2233             attachments[j].stream = st;
2234
2235             if (st->codec->codec_id != AV_CODEC_ID_NONE) {
2236                 st->disposition      |= AV_DISPOSITION_ATTACHED_PIC;
2237                 st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
2238
2239                 av_init_packet(&st->attached_pic);
2240                 if ((res = av_new_packet(&st->attached_pic, attachments[j].bin.size)) < 0)
2241                     return res;
2242                 memcpy(st->attached_pic.data, attachments[j].bin.data, attachments[j].bin.size);
2243                 st->attached_pic.stream_index = st->index;
2244                 st->attached_pic.flags       |= AV_PKT_FLAG_KEY;
2245             } else {
2246                 st->codec->codec_type = AVMEDIA_TYPE_ATTACHMENT;
2247                 if (ff_alloc_extradata(st->codec, attachments[j].bin.size))
2248                     break;
2249                 memcpy(st->codec->extradata, attachments[j].bin.data,
2250                        attachments[j].bin.size);
2251
2252                 for (i = 0; ff_mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++) {
2253                     if (!strncmp(ff_mkv_mime_tags[i].str, attachments[j].mime,
2254                                 strlen(ff_mkv_mime_tags[i].str))) {
2255                         st->codec->codec_id = ff_mkv_mime_tags[i].id;
2256                         break;
2257                     }
2258                 }
2259             }
2260         }
2261     }
2262
2263     chapters = chapters_list->elem;
2264     for (i = 0; i < chapters_list->nb_elem; i++)
2265         if (chapters[i].start != AV_NOPTS_VALUE && chapters[i].uid &&
2266             (max_start == 0 || chapters[i].start > max_start)) {
2267             chapters[i].chapter =
2268                 avpriv_new_chapter(s, chapters[i].uid,
2269                                    (AVRational) { 1, 1000000000 },
2270                                    chapters[i].start, chapters[i].end,
2271                                    chapters[i].title);
2272             if (chapters[i].chapter) {
2273                 av_dict_set(&chapters[i].chapter->metadata,
2274                             "title", chapters[i].title, 0);
2275             }
2276             max_start = chapters[i].start;
2277         }
2278
2279     matroska_add_index_entries(matroska);
2280
2281     matroska_convert_tags(s);
2282
2283     return 0;
2284 }
2285
2286 /*
2287  * Put one packet in an application-supplied AVPacket struct.
2288  * Returns 0 on success or -1 on failure.
2289  */
2290 static int matroska_deliver_packet(MatroskaDemuxContext *matroska,
2291                                    AVPacket *pkt)
2292 {
2293     if (matroska->num_packets > 0) {
2294         memcpy(pkt, matroska->packets[0], sizeof(AVPacket));
2295         av_freep(&matroska->packets[0]);
2296         if (matroska->num_packets > 1) {
2297             void *newpackets;
2298             memmove(&matroska->packets[0], &matroska->packets[1],
2299                     (matroska->num_packets - 1) * sizeof(AVPacket *));
2300             newpackets = av_realloc(matroska->packets,
2301                                     (matroska->num_packets - 1) *
2302                                     sizeof(AVPacket *));
2303             if (newpackets)
2304                 matroska->packets = newpackets;
2305         } else {
2306             av_freep(&matroska->packets);
2307             matroska->prev_pkt = NULL;
2308         }
2309         matroska->num_packets--;
2310         return 0;
2311     }
2312
2313     return -1;
2314 }
2315
2316 /*
2317  * Free all packets in our internal queue.
2318  */
2319 static void matroska_clear_queue(MatroskaDemuxContext *matroska)
2320 {
2321     matroska->prev_pkt = NULL;
2322     if (matroska->packets) {
2323         int n;
2324         for (n = 0; n < matroska->num_packets; n++) {
2325             av_packet_unref(matroska->packets[n]);
2326             av_freep(&matroska->packets[n]);
2327         }
2328         av_freep(&matroska->packets);
2329         matroska->num_packets = 0;
2330     }
2331 }
2332
2333 static int matroska_parse_laces(MatroskaDemuxContext *matroska, uint8_t **buf,
2334                                 int *buf_size, int type,
2335                                 uint32_t **lace_buf, int *laces)
2336 {
2337     int res = 0, n, size = *buf_size;
2338     uint8_t *data = *buf;
2339     uint32_t *lace_size;
2340
2341     if (!type) {
2342         *laces    = 1;
2343         *lace_buf = av_mallocz(sizeof(int));
2344         if (!*lace_buf)
2345             return AVERROR(ENOMEM);
2346
2347         *lace_buf[0] = size;
2348         return 0;
2349     }
2350
2351     av_assert0(size > 0);
2352     *laces    = *data + 1;
2353     data     += 1;
2354     size     -= 1;
2355     lace_size = av_mallocz(*laces * sizeof(int));
2356     if (!lace_size)
2357         return AVERROR(ENOMEM);
2358
2359     switch (type) {
2360     case 0x1: /* Xiph lacing */
2361     {
2362         uint8_t temp;
2363         uint32_t total = 0;
2364         for (n = 0; res == 0 && n < *laces - 1; n++) {
2365             while (1) {
2366                 if (size <= total) {
2367                     res = AVERROR_INVALIDDATA;
2368                     break;
2369                 }
2370                 temp          = *data;
2371                 total        += temp;
2372                 lace_size[n] += temp;
2373                 data         += 1;
2374                 size         -= 1;
2375                 if (temp != 0xff)
2376                     break;
2377             }
2378         }
2379         if (size <= total) {
2380             res = AVERROR_INVALIDDATA;
2381             break;
2382         }
2383
2384         lace_size[n] = size - total;
2385         break;
2386     }
2387
2388     case 0x2: /* fixed-size lacing */
2389         if (size % (*laces)) {
2390             res = AVERROR_INVALIDDATA;
2391             break;
2392         }
2393         for (n = 0; n < *laces; n++)
2394             lace_size[n] = size / *laces;
2395         break;
2396
2397     case 0x3: /* EBML lacing */
2398     {
2399         uint64_t num;
2400         uint64_t total;
2401         n = matroska_ebmlnum_uint(matroska, data, size, &num);
2402         if (n < 0 || num > INT_MAX) {
2403             av_log(matroska->ctx, AV_LOG_INFO,
2404                    "EBML block data error\n");
2405             res = n<0 ? n : AVERROR_INVALIDDATA;
2406             break;
2407         }
2408         data += n;
2409         size -= n;
2410         total = lace_size[0] = num;
2411         for (n = 1; res == 0 && n < *laces - 1; n++) {
2412             int64_t snum;
2413             int r;
2414             r = matroska_ebmlnum_sint(matroska, data, size, &snum);
2415             if (r < 0 || lace_size[n - 1] + snum > (uint64_t)INT_MAX) {
2416                 av_log(matroska->ctx, AV_LOG_INFO,
2417                        "EBML block data error\n");
2418                 res = r<0 ? r : AVERROR_INVALIDDATA;
2419                 break;
2420             }
2421             data        += r;
2422             size        -= r;
2423             lace_size[n] = lace_size[n - 1] + snum;
2424             total       += lace_size[n];
2425         }
2426         if (size <= total) {
2427             res = AVERROR_INVALIDDATA;
2428             break;
2429         }
2430         lace_size[*laces - 1] = size - total;
2431         break;
2432     }
2433     }
2434
2435     *buf      = data;
2436     *lace_buf = lace_size;
2437     *buf_size = size;
2438
2439     return res;
2440 }
2441
2442 static int matroska_parse_rm_audio(MatroskaDemuxContext *matroska,
2443                                    MatroskaTrack *track, AVStream *st,
2444                                    uint8_t *data, int size, uint64_t timecode,
2445                                    int64_t pos)
2446 {
2447     int a = st->codec->block_align;
2448     int sps = track->audio.sub_packet_size;
2449     int cfs = track->audio.coded_framesize;
2450     int h   = track->audio.sub_packet_h;
2451     int y   = track->audio.sub_packet_cnt;
2452     int w   = track->audio.frame_size;
2453     int x;
2454
2455     if (!track->audio.pkt_cnt) {
2456         if (track->audio.sub_packet_cnt == 0)
2457             track->audio.buf_timecode = timecode;
2458         if (st->codec->codec_id == AV_CODEC_ID_RA_288) {
2459             if (size < cfs * h / 2) {
2460                 av_log(matroska->ctx, AV_LOG_ERROR,
2461                        "Corrupt int4 RM-style audio packet size\n");
2462                 return AVERROR_INVALIDDATA;
2463             }
2464             for (x = 0; x < h / 2; x++)
2465                 memcpy(track->audio.buf + x * 2 * w + y * cfs,
2466                        data + x * cfs, cfs);
2467         } else if (st->codec->codec_id == AV_CODEC_ID_SIPR) {
2468             if (size < w) {
2469                 av_log(matroska->ctx, AV_LOG_ERROR,
2470                        "Corrupt sipr RM-style audio packet size\n");
2471                 return AVERROR_INVALIDDATA;
2472             }
2473             memcpy(track->audio.buf + y * w, data, w);
2474         } else {
2475             if (size < sps * w / sps || h<=0 || w%sps) {
2476                 av_log(matroska->ctx, AV_LOG_ERROR,
2477                        "Corrupt generic RM-style audio packet size\n");
2478                 return AVERROR_INVALIDDATA;
2479             }
2480             for (x = 0; x < w / sps; x++)
2481                 memcpy(track->audio.buf +
2482                        sps * (h * x + ((h + 1) / 2) * (y & 1) + (y >> 1)),
2483                        data + x * sps, sps);
2484         }
2485
2486         if (++track->audio.sub_packet_cnt >= h) {
2487             if (st->codec->codec_id == AV_CODEC_ID_SIPR)
2488                 ff_rm_reorder_sipr_data(track->audio.buf, h, w);
2489             track->audio.sub_packet_cnt = 0;
2490             track->audio.pkt_cnt        = h * w / a;
2491         }
2492     }
2493
2494     while (track->audio.pkt_cnt) {
2495         int ret;
2496         AVPacket *pkt = av_mallocz(sizeof(AVPacket));
2497         if (!pkt)
2498             return AVERROR(ENOMEM);
2499
2500         ret = av_new_packet(pkt, a);
2501         if (ret < 0) {
2502             av_free(pkt);
2503             return ret;
2504         }
2505         memcpy(pkt->data,
2506                track->audio.buf + a * (h * w / a - track->audio.pkt_cnt--),
2507                a);
2508         pkt->pts                  = track->audio.buf_timecode;
2509         track->audio.buf_timecode = AV_NOPTS_VALUE;
2510         pkt->pos                  = pos;
2511         pkt->stream_index         = st->index;
2512         dynarray_add(&matroska->packets, &matroska->num_packets, pkt);
2513     }
2514
2515     return 0;
2516 }
2517
2518 /* reconstruct full wavpack blocks from mangled matroska ones */
2519 static int matroska_parse_wavpack(MatroskaTrack *track, uint8_t *src,
2520                                   uint8_t **pdst, int *size)
2521 {
2522     uint8_t *dst = NULL;
2523     int dstlen   = 0;
2524     int srclen   = *size;
2525     uint32_t samples;
2526     uint16_t ver;
2527     int ret, offset = 0;
2528
2529     if (srclen < 12 || track->stream->codec->extradata_size < 2)
2530         return AVERROR_INVALIDDATA;
2531
2532     ver = AV_RL16(track->stream->codec->extradata);
2533
2534     samples = AV_RL32(src);
2535     src    += 4;
2536     srclen -= 4;
2537
2538     while (srclen >= 8) {
2539         int multiblock;
2540         uint32_t blocksize;
2541         uint8_t *tmp;
2542
2543         uint32_t flags = AV_RL32(src);
2544         uint32_t crc   = AV_RL32(src + 4);
2545         src    += 8;
2546         srclen -= 8;
2547
2548         multiblock = (flags & 0x1800) != 0x1800;
2549         if (multiblock) {
2550             if (srclen < 4) {
2551                 ret = AVERROR_INVALIDDATA;
2552                 goto fail;
2553             }
2554             blocksize = AV_RL32(src);
2555             src      += 4;
2556             srclen   -= 4;
2557         } else
2558             blocksize = srclen;
2559
2560         if (blocksize > srclen) {
2561             ret = AVERROR_INVALIDDATA;
2562             goto fail;
2563         }
2564
2565         tmp = av_realloc(dst, dstlen + blocksize + 32);
2566         if (!tmp) {
2567             ret = AVERROR(ENOMEM);
2568             goto fail;
2569         }
2570         dst     = tmp;
2571         dstlen += blocksize + 32;
2572
2573         AV_WL32(dst + offset, MKTAG('w', 'v', 'p', 'k'));   // tag
2574         AV_WL32(dst + offset +  4, blocksize + 24);         // blocksize - 8
2575         AV_WL16(dst + offset +  8, ver);                    // version
2576         AV_WL16(dst + offset + 10, 0);                      // track/index_no
2577         AV_WL32(dst + offset + 12, 0);                      // total samples
2578         AV_WL32(dst + offset + 16, 0);                      // block index
2579         AV_WL32(dst + offset + 20, samples);                // number of samples
2580         AV_WL32(dst + offset + 24, flags);                  // flags
2581         AV_WL32(dst + offset + 28, crc);                    // crc
2582         memcpy(dst + offset + 32, src, blocksize);          // block data
2583
2584         src    += blocksize;
2585         srclen -= blocksize;
2586         offset += blocksize + 32;
2587     }
2588
2589     *pdst = dst;
2590     *size = dstlen;
2591
2592     return 0;
2593
2594 fail:
2595     av_freep(&dst);
2596     return ret;
2597 }
2598
2599 static int matroska_parse_webvtt(MatroskaDemuxContext *matroska,
2600                                  MatroskaTrack *track,
2601                                  AVStream *st,
2602                                  uint8_t *data, int data_len,
2603                                  uint64_t timecode,
2604                                  uint64_t duration,
2605                                  int64_t pos)
2606 {
2607     AVPacket *pkt;
2608     uint8_t *id, *settings, *text, *buf;
2609     int id_len, settings_len, text_len;
2610     uint8_t *p, *q;
2611     int err;
2612
2613     if (data_len <= 0)
2614         return AVERROR_INVALIDDATA;
2615
2616     p = data;
2617     q = data + data_len;
2618
2619     id = p;
2620     id_len = -1;
2621     while (p < q) {
2622         if (*p == '\r' || *p == '\n') {
2623             id_len = p - id;
2624             if (*p == '\r')
2625                 p++;
2626             break;
2627         }
2628         p++;
2629     }
2630
2631     if (p >= q || *p != '\n')
2632         return AVERROR_INVALIDDATA;
2633     p++;
2634
2635     settings = p;
2636     settings_len = -1;
2637     while (p < q) {
2638         if (*p == '\r' || *p == '\n') {
2639             settings_len = p - settings;
2640             if (*p == '\r')
2641                 p++;
2642             break;
2643         }
2644         p++;
2645     }
2646
2647     if (p >= q || *p != '\n')
2648         return AVERROR_INVALIDDATA;
2649     p++;
2650
2651     text = p;
2652     text_len = q - p;
2653     while (text_len > 0) {
2654         const int len = text_len - 1;
2655         const uint8_t c = p[len];
2656         if (c != '\r' && c != '\n')
2657             break;
2658         text_len = len;
2659     }
2660
2661     if (text_len <= 0)
2662         return AVERROR_INVALIDDATA;
2663
2664     pkt = av_mallocz(sizeof(*pkt));
2665     if (!pkt)
2666         return AVERROR(ENOMEM);
2667     err = av_new_packet(pkt, text_len);
2668     if (err < 0) {
2669         av_free(pkt);
2670         return AVERROR(err);
2671     }
2672
2673     memcpy(pkt->data, text, text_len);
2674
2675     if (id_len > 0) {
2676         buf = av_packet_new_side_data(pkt,
2677                                       AV_PKT_DATA_WEBVTT_IDENTIFIER,
2678                                       id_len);
2679         if (!buf) {
2680             av_free(pkt);
2681             return AVERROR(ENOMEM);
2682         }
2683         memcpy(buf, id, id_len);
2684     }
2685
2686     if (settings_len > 0) {
2687         buf = av_packet_new_side_data(pkt,
2688                                       AV_PKT_DATA_WEBVTT_SETTINGS,
2689                                       settings_len);
2690         if (!buf) {
2691             av_free(pkt);
2692             return AVERROR(ENOMEM);
2693         }
2694         memcpy(buf, settings, settings_len);
2695     }
2696
2697     // Do we need this for subtitles?
2698     // pkt->flags = AV_PKT_FLAG_KEY;
2699
2700     pkt->stream_index = st->index;
2701     pkt->pts = timecode;
2702
2703     // Do we need this for subtitles?
2704     // pkt->dts = timecode;
2705
2706     pkt->duration = duration;
2707     pkt->pos = pos;
2708
2709     dynarray_add(&matroska->packets, &matroska->num_packets, pkt);
2710     matroska->prev_pkt = pkt;
2711
2712     return 0;
2713 }
2714
2715 static int matroska_parse_frame(MatroskaDemuxContext *matroska,
2716                                 MatroskaTrack *track, AVStream *st,
2717                                 uint8_t *data, int pkt_size,
2718                                 uint64_t timecode, uint64_t lace_duration,
2719                                 int64_t pos, int is_keyframe,
2720                                 uint8_t *additional, uint64_t additional_id, int additional_size,
2721                                 int64_t discard_padding)
2722 {
2723     MatroskaTrackEncoding *encodings = track->encodings.elem;
2724     uint8_t *pkt_data = data;
2725     int offset = 0, res;
2726     AVPacket *pkt;
2727
2728     if (encodings && !encodings->type && encodings->scope & 1) {
2729         res = matroska_decode_buffer(&pkt_data, &pkt_size, track);
2730         if (res < 0)
2731             return res;
2732     }
2733
2734     if (st->codec->codec_id == AV_CODEC_ID_WAVPACK) {
2735         uint8_t *wv_data;
2736         res = matroska_parse_wavpack(track, pkt_data, &wv_data, &pkt_size);
2737         if (res < 0) {
2738             av_log(matroska->ctx, AV_LOG_ERROR,
2739                    "Error parsing a wavpack block.\n");
2740             goto fail;
2741         }
2742         if (pkt_data != data)
2743             av_freep(&pkt_data);
2744         pkt_data = wv_data;
2745     }
2746
2747     if (st->codec->codec_id == AV_CODEC_ID_PRORES &&
2748         AV_RB32(&data[4]) != MKBETAG('i', 'c', 'p', 'f'))
2749         offset = 8;
2750
2751     pkt = av_mallocz(sizeof(AVPacket));
2752     if (!pkt) {
2753         if (pkt_data != data)
2754             av_freep(&pkt_data);
2755         return AVERROR(ENOMEM);
2756     }
2757     /* XXX: prevent data copy... */
2758     if (av_new_packet(pkt, pkt_size + offset) < 0) {
2759         av_free(pkt);
2760         res = AVERROR(ENOMEM);
2761         goto fail;
2762     }
2763
2764     if (st->codec->codec_id == AV_CODEC_ID_PRORES && offset == 8) {
2765         uint8_t *buf = pkt->data;
2766         bytestream_put_be32(&buf, pkt_size);
2767         bytestream_put_be32(&buf, MKBETAG('i', 'c', 'p', 'f'));
2768     }
2769
2770     memcpy(pkt->data + offset, pkt_data, pkt_size);
2771
2772     if (pkt_data != data)
2773         av_freep(&pkt_data);
2774
2775     pkt->flags        = is_keyframe;
2776     pkt->stream_index = st->index;
2777
2778     if (additional_size > 0) {
2779         uint8_t *side_data = av_packet_new_side_data(pkt,
2780                                                      AV_PKT_DATA_MATROSKA_BLOCKADDITIONAL,
2781                                                      additional_size + 8);
2782         if (!side_data) {
2783             av_packet_unref(pkt);
2784             av_free(pkt);
2785             return AVERROR(ENOMEM);
2786         }
2787         AV_WB64(side_data, additional_id);
2788         memcpy(side_data + 8, additional, additional_size);
2789     }
2790
2791     if (discard_padding) {
2792         uint8_t *side_data = av_packet_new_side_data(pkt,
2793                                                      AV_PKT_DATA_SKIP_SAMPLES,
2794                                                      10);
2795         if (!side_data) {
2796             av_packet_unref(pkt);
2797             av_free(pkt);
2798             return AVERROR(ENOMEM);
2799         }
2800         AV_WL32(side_data, 0);
2801         AV_WL32(side_data + 4, av_rescale_q(discard_padding,
2802                                             (AVRational){1, 1000000000},
2803                                             (AVRational){1, st->codec->sample_rate}));
2804     }
2805
2806     if (track->ms_compat)
2807         pkt->dts = timecode;
2808     else
2809         pkt->pts = timecode;
2810     pkt->pos = pos;
2811     pkt->duration = lace_duration;
2812
2813 #if FF_API_CONVERGENCE_DURATION
2814 FF_DISABLE_DEPRECATION_WARNINGS
2815     if (st->codec->codec_id == AV_CODEC_ID_SUBRIP) {
2816         pkt->convergence_duration = lace_duration;
2817     }
2818 FF_ENABLE_DEPRECATION_WARNINGS
2819 #endif
2820
2821     dynarray_add(&matroska->packets, &matroska->num_packets, pkt);
2822     matroska->prev_pkt = pkt;
2823
2824     return 0;
2825
2826 fail:
2827     if (pkt_data != data)
2828         av_freep(&pkt_data);
2829     return res;
2830 }
2831
2832 static int matroska_parse_block(MatroskaDemuxContext *matroska, uint8_t *data,
2833                                 int size, int64_t pos, uint64_t cluster_time,
2834                                 uint64_t block_duration, int is_keyframe,
2835                                 uint8_t *additional, uint64_t additional_id, int additional_size,
2836                                 int64_t cluster_pos, int64_t discard_padding)
2837 {
2838     uint64_t timecode = AV_NOPTS_VALUE;
2839     MatroskaTrack *track;
2840     int res = 0;
2841     AVStream *st;
2842     int16_t block_time;
2843     uint32_t *lace_size = NULL;
2844     int n, flags, laces = 0;
2845     uint64_t num;
2846     int trust_default_duration = 1;
2847
2848     if ((n = matroska_ebmlnum_uint(matroska, data, size, &num)) < 0) {
2849         av_log(matroska->ctx, AV_LOG_ERROR, "EBML block data error\n");
2850         return n;
2851     }
2852     data += n;
2853     size -= n;
2854
2855     track = matroska_find_track_by_num(matroska, num);
2856     if (!track || !track->stream) {
2857         av_log(matroska->ctx, AV_LOG_INFO,
2858                "Invalid stream %"PRIu64" or size %u\n", num, size);
2859         return AVERROR_INVALIDDATA;
2860     } else if (size <= 3)
2861         return 0;
2862     st = track->stream;
2863     if (st->discard >= AVDISCARD_ALL)
2864         return res;
2865     av_assert1(block_duration != AV_NOPTS_VALUE);
2866
2867     block_time = sign_extend(AV_RB16(data), 16);
2868     data      += 2;
2869     flags      = *data++;
2870     size      -= 3;
2871     if (is_keyframe == -1)
2872         is_keyframe = flags & 0x80 ? AV_PKT_FLAG_KEY : 0;
2873
2874     if (cluster_time != (uint64_t) -1 &&
2875         (block_time >= 0 || cluster_time >= -block_time)) {
2876         timecode = cluster_time + block_time - track->codec_delay;
2877         if (track->type == MATROSKA_TRACK_TYPE_SUBTITLE &&
2878             timecode < track->end_timecode)
2879             is_keyframe = 0;  /* overlapping subtitles are not key frame */
2880         if (is_keyframe)
2881             av_add_index_entry(st, cluster_pos, timecode, 0, 0,
2882                                AVINDEX_KEYFRAME);
2883     }
2884
2885     if (matroska->skip_to_keyframe &&
2886         track->type != MATROSKA_TRACK_TYPE_SUBTITLE) {
2887         if (timecode < matroska->skip_to_timecode)
2888             return res;
2889         if (is_keyframe)
2890             matroska->skip_to_keyframe = 0;
2891         else if (!st->skip_to_keyframe) {
2892             av_log(matroska->ctx, AV_LOG_ERROR, "File is broken, keyframes not correctly marked!\n");
2893             matroska->skip_to_keyframe = 0;
2894         }
2895     }
2896
2897     res = matroska_parse_laces(matroska, &data, &size, (flags & 0x06) >> 1,
2898                                &lace_size, &laces);
2899
2900     if (res)
2901         goto end;
2902
2903     if (track->audio.samplerate == 8000) {
2904         // If this is needed for more codecs, then add them here
2905         if (st->codec->codec_id == AV_CODEC_ID_AC3) {
2906             if (track->audio.samplerate != st->codec->sample_rate || !st->codec->frame_size)
2907                 trust_default_duration = 0;
2908         }
2909     }
2910
2911     if (!block_duration && trust_default_duration)
2912         block_duration = track->default_duration * laces / matroska->time_scale;
2913
2914     if (cluster_time != (uint64_t)-1 && (block_time >= 0 || cluster_time >= -block_time))
2915         track->end_timecode =
2916             FFMAX(track->end_timecode, timecode + block_duration);
2917
2918     for (n = 0; n < laces; n++) {
2919         int64_t lace_duration = block_duration*(n+1) / laces - block_duration*n / laces;
2920
2921         if (lace_size[n] > size) {
2922             av_log(matroska->ctx, AV_LOG_ERROR, "Invalid packet size\n");
2923             break;
2924         }
2925
2926         if ((st->codec->codec_id == AV_CODEC_ID_RA_288 ||
2927              st->codec->codec_id == AV_CODEC_ID_COOK   ||
2928              st->codec->codec_id == AV_CODEC_ID_SIPR   ||
2929              st->codec->codec_id == AV_CODEC_ID_ATRAC3) &&
2930             st->codec->block_align && track->audio.sub_packet_size) {
2931             res = matroska_parse_rm_audio(matroska, track, st, data,
2932                                           lace_size[n],
2933                                           timecode, pos);
2934             if (res)
2935                 goto end;
2936
2937         } else if (st->codec->codec_id == AV_CODEC_ID_WEBVTT) {
2938             res = matroska_parse_webvtt(matroska, track, st,
2939                                         data, lace_size[n],
2940                                         timecode, lace_duration,
2941                                         pos);
2942             if (res)
2943                 goto end;
2944         } else {
2945             res = matroska_parse_frame(matroska, track, st, data, lace_size[n],
2946                                        timecode, lace_duration, pos,
2947                                        !n ? is_keyframe : 0,
2948                                        additional, additional_id, additional_size,
2949                                        discard_padding);
2950             if (res)
2951                 goto end;
2952         }
2953
2954         if (timecode != AV_NOPTS_VALUE)
2955             timecode = lace_duration ? timecode + lace_duration : AV_NOPTS_VALUE;
2956         data += lace_size[n];
2957         size -= lace_size[n];
2958     }
2959
2960 end:
2961     av_free(lace_size);
2962     return res;
2963 }
2964
2965 static int matroska_parse_cluster_incremental(MatroskaDemuxContext *matroska)
2966 {
2967     EbmlList *blocks_list;
2968     MatroskaBlock *blocks;
2969     int i, res;
2970     res = ebml_parse(matroska,
2971                      matroska_cluster_incremental_parsing,
2972                      &matroska->current_cluster);
2973     if (res == 1) {
2974         /* New Cluster */
2975         if (matroska->current_cluster_pos)
2976             ebml_level_end(matroska);
2977         ebml_free(matroska_cluster, &matroska->current_cluster);
2978         memset(&matroska->current_cluster, 0, sizeof(MatroskaCluster));
2979         matroska->current_cluster_num_blocks = 0;
2980         matroska->current_cluster_pos        = avio_tell(matroska->ctx->pb);
2981         matroska->prev_pkt                   = NULL;
2982         /* sizeof the ID which was already read */
2983         if (matroska->current_id)
2984             matroska->current_cluster_pos -= 4;
2985         res = ebml_parse(matroska,
2986                          matroska_clusters_incremental,
2987                          &matroska->current_cluster);
2988         /* Try parsing the block again. */
2989         if (res == 1)
2990             res = ebml_parse(matroska,
2991                              matroska_cluster_incremental_parsing,
2992                              &matroska->current_cluster);
2993     }
2994
2995     if (!res &&
2996         matroska->current_cluster_num_blocks <
2997         matroska->current_cluster.blocks.nb_elem) {
2998         blocks_list = &matroska->current_cluster.blocks;
2999         blocks      = blocks_list->elem;
3000
3001         matroska->current_cluster_num_blocks = blocks_list->nb_elem;
3002         i                                    = blocks_list->nb_elem - 1;
3003         if (blocks[i].bin.size > 0 && blocks[i].bin.data) {
3004             int is_keyframe = blocks[i].non_simple ? !blocks[i].reference : -1;
3005             uint8_t* additional = blocks[i].additional.size > 0 ?
3006                                     blocks[i].additional.data : NULL;
3007             if (!blocks[i].non_simple)
3008                 blocks[i].duration = 0;
3009             res = matroska_parse_block(matroska, blocks[i].bin.data,
3010                                        blocks[i].bin.size, blocks[i].bin.pos,
3011                                        matroska->current_cluster.timecode,
3012                                        blocks[i].duration, is_keyframe,
3013                                        additional, blocks[i].additional_id,
3014                                        blocks[i].additional.size,
3015                                        matroska->current_cluster_pos,
3016                                        blocks[i].discard_padding);
3017         }
3018     }
3019
3020     return res;
3021 }
3022
3023 static int matroska_parse_cluster(MatroskaDemuxContext *matroska)
3024 {
3025     MatroskaCluster cluster = { 0 };
3026     EbmlList *blocks_list;
3027     MatroskaBlock *blocks;
3028     int i, res;
3029     int64_t pos;
3030
3031     if (!matroska->contains_ssa)
3032         return matroska_parse_cluster_incremental(matroska);
3033     pos = avio_tell(matroska->ctx->pb);
3034     matroska->prev_pkt = NULL;
3035     if (matroska->current_id)
3036         pos -= 4;  /* sizeof the ID which was already read */
3037     res         = ebml_parse(matroska, matroska_clusters, &cluster);
3038     blocks_list = &cluster.blocks;
3039     blocks      = blocks_list->elem;
3040     for (i = 0; i < blocks_list->nb_elem; i++)
3041         if (blocks[i].bin.size > 0 && blocks[i].bin.data) {
3042             int is_keyframe = blocks[i].non_simple ? !blocks[i].reference : -1;
3043             res = matroska_parse_block(matroska, blocks[i].bin.data,
3044                                        blocks[i].bin.size, blocks[i].bin.pos,
3045                                        cluster.timecode, blocks[i].duration,
3046                                        is_keyframe, NULL, 0, 0, pos,
3047                                        blocks[i].discard_padding);
3048         }
3049     ebml_free(matroska_cluster, &cluster);
3050     return res;
3051 }
3052
3053 static int matroska_read_packet(AVFormatContext *s, AVPacket *pkt)
3054 {
3055     MatroskaDemuxContext *matroska = s->priv_data;
3056
3057     while (matroska_deliver_packet(matroska, pkt)) {
3058         int64_t pos = avio_tell(matroska->ctx->pb);
3059         if (matroska->done)
3060             return AVERROR_EOF;
3061         if (matroska_parse_cluster(matroska) < 0)
3062             matroska_resync(matroska, pos);
3063     }
3064
3065     return 0;
3066 }
3067
3068 static int matroska_read_seek(AVFormatContext *s, int stream_index,
3069                               int64_t timestamp, int flags)
3070 {
3071     MatroskaDemuxContext *matroska = s->priv_data;
3072     MatroskaTrack *tracks = NULL;
3073     AVStream *st = s->streams[stream_index];
3074     int i, index, index_sub, index_min;
3075
3076     /* Parse the CUES now since we need the index data to seek. */
3077     if (matroska->cues_parsing_deferred > 0) {
3078         matroska->cues_parsing_deferred = 0;
3079         matroska_parse_cues(matroska);
3080     }
3081
3082     if (!st->nb_index_entries)
3083         goto err;
3084     timestamp = FFMAX(timestamp, st->index_entries[0].timestamp);
3085
3086     if ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3087         avio_seek(s->pb, st->index_entries[st->nb_index_entries - 1].pos,
3088                   SEEK_SET);
3089         matroska->current_id = 0;
3090         while ((index = av_index_search_timestamp(st, timestamp, flags)) < 0 || index == st->nb_index_entries - 1) {
3091             matroska_clear_queue(matroska);
3092             if (matroska_parse_cluster(matroska) < 0)
3093                 break;
3094         }
3095     }
3096
3097     matroska_clear_queue(matroska);
3098     if (index < 0 || (matroska->cues_parsing_deferred < 0 && index == st->nb_index_entries - 1))
3099         goto err;
3100
3101     index_min = index;
3102     tracks = matroska->tracks.elem;
3103     for (i = 0; i < matroska->tracks.nb_elem; i++) {
3104         tracks[i].audio.pkt_cnt        = 0;
3105         tracks[i].audio.sub_packet_cnt = 0;
3106         tracks[i].audio.buf_timecode   = AV_NOPTS_VALUE;
3107         tracks[i].end_timecode         = 0;
3108         if (tracks[i].type == MATROSKA_TRACK_TYPE_SUBTITLE &&
3109             tracks[i].stream &&
3110             tracks[i].stream->discard != AVDISCARD_ALL) {
3111             index_sub = av_index_search_timestamp(
3112                 tracks[i].stream, st->index_entries[index].timestamp,
3113                 AVSEEK_FLAG_BACKWARD);
3114             while (index_sub >= 0 &&
3115                   index_min > 0 &&
3116                   tracks[i].stream->index_entries[index_sub].pos < st->index_entries[index_min].pos &&
3117                   st->index_entries[index].timestamp - tracks[i].stream->index_entries[index_sub].timestamp < 30000000000 / matroska->time_scale)
3118                 index_min--;
3119         }
3120     }
3121
3122     avio_seek(s->pb, st->index_entries[index_min].pos, SEEK_SET);
3123     matroska->current_id       = 0;
3124     if (flags & AVSEEK_FLAG_ANY) {
3125         st->skip_to_keyframe = 0;
3126         matroska->skip_to_timecode = timestamp;
3127     } else {
3128         st->skip_to_keyframe = 1;
3129         matroska->skip_to_timecode = st->index_entries[index].timestamp;
3130     }
3131     matroska->skip_to_keyframe = 1;
3132     matroska->done             = 0;
3133     matroska->num_levels       = 0;
3134     ff_update_cur_dts(s, st, st->index_entries[index].timestamp);
3135     return 0;
3136 err:
3137     // slightly hackish but allows proper fallback to
3138     // the generic seeking code.
3139     matroska_clear_queue(matroska);
3140     matroska->current_id = 0;
3141     st->skip_to_keyframe =
3142     matroska->skip_to_keyframe = 0;
3143     matroska->done = 0;
3144     matroska->num_levels = 0;
3145     return -1;
3146 }
3147
3148 static int matroska_read_close(AVFormatContext *s)
3149 {
3150     MatroskaDemuxContext *matroska = s->priv_data;
3151     MatroskaTrack *tracks = matroska->tracks.elem;
3152     int n;
3153
3154     matroska_clear_queue(matroska);
3155
3156     for (n = 0; n < matroska->tracks.nb_elem; n++)
3157         if (tracks[n].type == MATROSKA_TRACK_TYPE_AUDIO)
3158             av_freep(&tracks[n].audio.buf);
3159     ebml_free(matroska_cluster, &matroska->current_cluster);
3160     ebml_free(matroska_segment, matroska);
3161
3162     return 0;
3163 }
3164
3165 typedef struct {
3166     int64_t start_time_ns;
3167     int64_t end_time_ns;
3168     int64_t start_offset;
3169     int64_t end_offset;
3170 } CueDesc;
3171
3172 /* This function searches all the Cues and returns the CueDesc corresponding the
3173  * the timestamp ts. Returned CueDesc will be such that start_time_ns <= ts <
3174  * end_time_ns. All 4 fields will be set to -1 if ts >= file's duration.
3175  */
3176 static CueDesc get_cue_desc(AVFormatContext *s, int64_t ts, int64_t cues_start) {
3177     MatroskaDemuxContext *matroska = s->priv_data;
3178     CueDesc cue_desc;
3179     int i;
3180     int nb_index_entries = s->streams[0]->nb_index_entries;
3181     AVIndexEntry *index_entries = s->streams[0]->index_entries;
3182     if (ts >= matroska->duration * matroska->time_scale) return (CueDesc) {-1, -1, -1, -1};
3183     for (i = 1; i < nb_index_entries; i++) {
3184         if (index_entries[i - 1].timestamp * matroska->time_scale <= ts &&
3185             index_entries[i].timestamp * matroska->time_scale > ts) {
3186             break;
3187         }
3188     }
3189     --i;
3190     cue_desc.start_time_ns = index_entries[i].timestamp * matroska->time_scale;
3191     cue_desc.start_offset = index_entries[i].pos - matroska->segment_start;
3192     if (i != nb_index_entries - 1) {
3193         cue_desc.end_time_ns = index_entries[i + 1].timestamp * matroska->time_scale;
3194         cue_desc.end_offset = index_entries[i + 1].pos - matroska->segment_start;
3195     } else {
3196         cue_desc.end_time_ns = matroska->duration * matroska->time_scale;
3197         // FIXME: this needs special handling for files where Cues appear
3198         // before Clusters. the current logic assumes Cues appear after
3199         // Clusters.
3200         cue_desc.end_offset = cues_start - matroska->segment_start;
3201     }
3202     return cue_desc;
3203 }
3204
3205 static int webm_clusters_start_with_keyframe(AVFormatContext *s)
3206 {
3207     MatroskaDemuxContext *matroska = s->priv_data;
3208     int64_t cluster_pos, before_pos;
3209     int index, rv = 1;
3210     if (s->streams[0]->nb_index_entries <= 0) return 0;
3211     // seek to the first cluster using cues.
3212     index = av_index_search_timestamp(s->streams[0], 0, 0);
3213     if (index < 0)  return 0;
3214     cluster_pos = s->streams[0]->index_entries[index].pos;
3215     before_pos = avio_tell(s->pb);
3216     while (1) {
3217         int64_t cluster_id = 0, cluster_length = 0;
3218         AVPacket *pkt;
3219         avio_seek(s->pb, cluster_pos, SEEK_SET);
3220         // read cluster id and length
3221         ebml_read_num(matroska, matroska->ctx->pb, 4, &cluster_id);
3222         ebml_read_length(matroska, matroska->ctx->pb, &cluster_length);
3223         if (cluster_id != 0xF43B675) { // done with all clusters
3224             break;
3225         }
3226         avio_seek(s->pb, cluster_pos, SEEK_SET);
3227         matroska->current_id = 0;
3228         matroska_clear_queue(matroska);
3229         if (matroska_parse_cluster(matroska) < 0 ||
3230             matroska->num_packets <= 0) {
3231             break;
3232         }
3233         pkt = matroska->packets[0];
3234         cluster_pos += cluster_length + 12; // 12 is the offset of the cluster id and length.
3235         if (!(pkt->flags & AV_PKT_FLAG_KEY)) {
3236             rv = 0;
3237             break;
3238         }
3239     }
3240     avio_seek(s->pb, before_pos, SEEK_SET);
3241     return rv;
3242 }
3243
3244 static int buffer_size_after_time_downloaded(int64_t time_ns, double search_sec, int64_t bps,
3245                                              double min_buffer, double* buffer,
3246                                              double* sec_to_download, AVFormatContext *s,
3247                                              int64_t cues_start)
3248 {
3249     double nano_seconds_per_second = 1000000000.0;
3250     double time_sec = time_ns / nano_seconds_per_second;
3251     int rv = 0;
3252     int64_t time_to_search_ns = (int64_t)(search_sec * nano_seconds_per_second);
3253     int64_t end_time_ns = time_ns + time_to_search_ns;
3254     double sec_downloaded = 0.0;
3255     CueDesc desc_curr = get_cue_desc(s, time_ns, cues_start);
3256     if (desc_curr.start_time_ns == -1)
3257       return -1;
3258     *sec_to_download = 0.0;
3259
3260     // Check for non cue start time.
3261     if (time_ns > desc_curr.start_time_ns) {
3262       int64_t cue_nano = desc_curr.end_time_ns - time_ns;
3263       double percent = (double)(cue_nano) / (desc_curr.end_time_ns - desc_curr.start_time_ns);
3264       double cueBytes = (desc_curr.end_offset - desc_curr.start_offset) * percent;
3265       double timeToDownload = (cueBytes * 8.0) / bps;
3266
3267       sec_downloaded += (cue_nano / nano_seconds_per_second) - timeToDownload;
3268       *sec_to_download += timeToDownload;
3269
3270       // Check if the search ends within the first cue.
3271       if (desc_curr.end_time_ns >= end_time_ns) {
3272           double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3273           double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3274           sec_downloaded = percent_to_sub * sec_downloaded;
3275           *sec_to_download = percent_to_sub * *sec_to_download;
3276       }
3277
3278       if ((sec_downloaded + *buffer) <= min_buffer) {
3279           return 1;
3280       }
3281
3282       // Get the next Cue.
3283       desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3284     }
3285
3286     while (desc_curr.start_time_ns != -1) {
3287         int64_t desc_bytes = desc_curr.end_offset - desc_curr.start_offset;
3288         int64_t desc_ns = desc_curr.end_time_ns - desc_curr.start_time_ns;
3289         double desc_sec = desc_ns / nano_seconds_per_second;
3290         double bits = (desc_bytes * 8.0);
3291         double time_to_download = bits / bps;
3292
3293         sec_downloaded += desc_sec - time_to_download;
3294         *sec_to_download += time_to_download;
3295
3296         if (desc_curr.end_time_ns >= end_time_ns) {
3297             double desc_end_time_sec = desc_curr.end_time_ns / nano_seconds_per_second;
3298             double percent_to_sub = search_sec / (desc_end_time_sec - time_sec);
3299             sec_downloaded = percent_to_sub * sec_downloaded;
3300             *sec_to_download = percent_to_sub * *sec_to_download;
3301
3302             if ((sec_downloaded + *buffer) <= min_buffer)
3303                 rv = 1;
3304             break;
3305         }
3306
3307         if ((sec_downloaded + *buffer) <= min_buffer) {
3308             rv = 1;
3309             break;
3310         }
3311
3312         desc_curr = get_cue_desc(s, desc_curr.end_time_ns, cues_start);
3313     }
3314     *buffer = *buffer + sec_downloaded;
3315     return rv;
3316 }
3317
3318 /* This function computes the bandwidth of the WebM file with the help of
3319  * buffer_size_after_time_downloaded() function. Both of these functions are
3320  * adapted from WebM Tools project and are adapted to work with FFmpeg's
3321  * Matroska parsing mechanism.
3322  *
3323  * Returns the bandwidth of the file on success; -1 on error.
3324  * */
3325 static int64_t webm_dash_manifest_compute_bandwidth(AVFormatContext *s, int64_t cues_start)
3326 {
3327     MatroskaDemuxContext *matroska = s->priv_data;
3328     AVStream *st = s->streams[0];
3329     double bandwidth = 0.0;
3330     int i;
3331
3332     for (i = 0; i < st->nb_index_entries; i++) {
3333         int64_t prebuffer_ns = 1000000000;
3334         int64_t time_ns = st->index_entries[i].timestamp * matroska->time_scale;
3335         double nano_seconds_per_second = 1000000000.0;
3336         int64_t prebuffered_ns = time_ns + prebuffer_ns;
3337         double prebuffer_bytes = 0.0;
3338         int64_t temp_prebuffer_ns = prebuffer_ns;
3339         int64_t pre_bytes, pre_ns;
3340         double pre_sec, prebuffer, bits_per_second;
3341         CueDesc desc_beg = get_cue_desc(s, time_ns, cues_start);
3342
3343         // Start with the first Cue.
3344         CueDesc desc_end = desc_beg;
3345
3346         // Figure out how much data we have downloaded for the prebuffer. This will
3347         // be used later to adjust the bits per sample to try.
3348         while (desc_end.start_time_ns != -1 && desc_end.end_time_ns < prebuffered_ns) {
3349             // Prebuffered the entire Cue.
3350             prebuffer_bytes += desc_end.end_offset - desc_end.start_offset;
3351             temp_prebuffer_ns -= desc_end.end_time_ns - desc_end.start_time_ns;
3352             desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
3353         }
3354         if (desc_end.start_time_ns == -1) {
3355             // The prebuffer is larger than the duration.
3356             if (matroska->duration * matroska->time_scale >= prebuffered_ns)
3357               return -1;
3358             bits_per_second = 0.0;
3359         } else {
3360             // The prebuffer ends in the last Cue. Estimate how much data was
3361             // prebuffered.
3362             pre_bytes = desc_end.end_offset - desc_end.start_offset;
3363             pre_ns = desc_end.end_time_ns - desc_end.start_time_ns;
3364             pre_sec = pre_ns / nano_seconds_per_second;
3365             prebuffer_bytes +=
3366                 pre_bytes * ((temp_prebuffer_ns / nano_seconds_per_second) / pre_sec);
3367
3368             prebuffer = prebuffer_ns / nano_seconds_per_second;
3369
3370             // Set this to 0.0 in case our prebuffer buffers the entire video.
3371             bits_per_second = 0.0;
3372             do {
3373                 int64_t desc_bytes = desc_end.end_offset - desc_beg.start_offset;
3374                 int64_t desc_ns = desc_end.end_time_ns - desc_beg.start_time_ns;
3375                 double desc_sec = desc_ns / nano_seconds_per_second;
3376                 double calc_bits_per_second = (desc_bytes * 8) / desc_sec;
3377
3378                 // Drop the bps by the percentage of bytes buffered.
3379                 double percent = (desc_bytes - prebuffer_bytes) / desc_bytes;
3380                 double mod_bits_per_second = calc_bits_per_second * percent;
3381
3382                 if (prebuffer < desc_sec) {
3383                     double search_sec =
3384                         (double)(matroska->duration * matroska->time_scale) / nano_seconds_per_second;
3385
3386                     // Add 1 so the bits per second should be a little bit greater than file
3387                     // datarate.
3388                     int64_t bps = (int64_t)(mod_bits_per_second) + 1;
3389                     const double min_buffer = 0.0;
3390                     double buffer = prebuffer;
3391                     double sec_to_download = 0.0;
3392
3393                     int rv = buffer_size_after_time_downloaded(prebuffered_ns, search_sec, bps,
3394                                                                min_buffer, &buffer, &sec_to_download,
3395                                                                s, cues_start);
3396                     if (rv < 0) {
3397                         return -1;
3398                     } else if (rv == 0) {
3399                         bits_per_second = (double)(bps);
3400                         break;
3401                     }
3402                 }
3403
3404                 desc_end = get_cue_desc(s, desc_end.end_time_ns, cues_start);
3405             } while (desc_end.start_time_ns != -1);
3406         }
3407         if (bandwidth < bits_per_second) bandwidth = bits_per_second;
3408     }
3409     return (int64_t)bandwidth;
3410 }
3411
3412 static int webm_dash_manifest_cues(AVFormatContext *s)
3413 {
3414     MatroskaDemuxContext *matroska = s->priv_data;
3415     EbmlList *seekhead_list = &matroska->seekhead;
3416     MatroskaSeekhead *seekhead = seekhead_list->elem;
3417     char *buf;
3418     int64_t cues_start = -1, cues_end = -1, before_pos, bandwidth;
3419     int i;
3420
3421     // determine cues start and end positions
3422     for (i = 0; i < seekhead_list->nb_elem; i++)
3423         if (seekhead[i].id == MATROSKA_ID_CUES)
3424             break;
3425
3426     if (i >= seekhead_list->nb_elem) return -1;
3427
3428     before_pos = avio_tell(matroska->ctx->pb);
3429     cues_start = seekhead[i].pos + matroska->segment_start;
3430     if (avio_seek(matroska->ctx->pb, cues_start, SEEK_SET) == cues_start) {
3431         // cues_end is computed as cues_start + cues_length + length of the
3432         // Cues element ID + EBML length of the Cues element. cues_end is
3433         // inclusive and the above sum is reduced by 1.
3434         uint64_t cues_length = 0, cues_id = 0, bytes_read = 0;
3435         bytes_read += ebml_read_num(matroska, matroska->ctx->pb, 4, &cues_id);
3436         bytes_read += ebml_read_length(matroska, matroska->ctx->pb, &cues_length);
3437         cues_end = cues_start + cues_length + bytes_read - 1;
3438     }
3439     avio_seek(matroska->ctx->pb, before_pos, SEEK_SET);
3440     if (cues_start == -1 || cues_end == -1) return -1;
3441
3442     // parse the cues
3443     matroska_parse_cues(matroska);
3444
3445     // cues start
3446     av_dict_set_int(&s->streams[0]->metadata, CUES_START, cues_start, 0);
3447
3448     // cues end
3449     av_dict_set_int(&s->streams[0]->metadata, CUES_END, cues_end, 0);
3450
3451     // bandwidth
3452     bandwidth = webm_dash_manifest_compute_bandwidth(s, cues_start);
3453     if (bandwidth < 0) return -1;
3454     av_dict_set_int(&s->streams[0]->metadata, BANDWIDTH, bandwidth, 0);
3455
3456     // check if all clusters start with key frames
3457     av_dict_set_int(&s->streams[0]->metadata, CLUSTER_KEYFRAME, webm_clusters_start_with_keyframe(s), 0);
3458
3459     // store cue point timestamps as a comma separated list for checking subsegment alignment in
3460     // the muxer. assumes that each timestamp cannot be more than 20 characters long.
3461     buf = av_malloc_array(s->streams[0]->nb_index_entries, 20 * sizeof(char));
3462     if (!buf) return -1;
3463     strcpy(buf, "");
3464     for (i = 0; i < s->streams[0]->nb_index_entries; i++) {
3465         snprintf(buf, (i + 1) * 20 * sizeof(char),
3466                  "%s%" PRId64, buf, s->streams[0]->index_entries[i].timestamp);
3467         if (i != s->streams[0]->nb_index_entries - 1)
3468             strncat(buf, ",", sizeof(char));
3469     }
3470     av_dict_set(&s->streams[0]->metadata, CUE_TIMESTAMPS, buf, 0);
<