matroska: K&R formatting cosmetics
[ffmpeg.git] / libavformat / matroskaenc.c
1 /*
2  * Matroska muxer
3  * Copyright (c) 2007 David Conrad
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <stdint.h>
23
24 #include "avc.h"
25 #include "hevc.h"
26 #include "avformat.h"
27 #include "avlanguage.h"
28 #include "flacenc.h"
29 #include "internal.h"
30 #include "isom.h"
31 #include "matroska.h"
32 #include "riff.h"
33 #include "vorbiscomment.h"
34 #include "wv.h"
35
36 #include "libavutil/avstring.h"
37 #include "libavutil/channel_layout.h"
38 #include "libavutil/dict.h"
39 #include "libavutil/intfloat.h"
40 #include "libavutil/intreadwrite.h"
41 #include "libavutil/lfg.h"
42 #include "libavutil/mathematics.h"
43 #include "libavutil/opt.h"
44 #include "libavutil/random_seed.h"
45 #include "libavutil/samplefmt.h"
46
47 #include "libavcodec/xiph.h"
48 #include "libavcodec/mpeg4audio.h"
49
50 typedef struct ebml_master {
51     int64_t         pos;                ///< absolute offset in the file where the master's elements start
52     int             sizebytes;          ///< how many bytes were reserved for the size
53 } ebml_master;
54
55 typedef struct mkv_seekhead_entry {
56     unsigned int    elementid;
57     uint64_t        segmentpos;
58 } mkv_seekhead_entry;
59
60 typedef struct mkv_seekhead {
61     int64_t                 filepos;
62     int64_t                 segment_offset;     ///< the file offset to the beginning of the segment
63     int                     reserved_size;      ///< -1 if appending to file
64     int                     max_entries;
65     mkv_seekhead_entry      *entries;
66     int                     num_entries;
67 } mkv_seekhead;
68
69 typedef struct {
70     uint64_t        pts;
71     int             tracknum;
72     int64_t         cluster_pos;        ///< file offset of the cluster containing the block
73 } mkv_cuepoint;
74
75 typedef struct {
76     int64_t         segment_offset;
77     mkv_cuepoint    *entries;
78     int             num_entries;
79 } mkv_cues;
80
81 typedef struct {
82     int             write_dts;
83     int64_t         ts_offset;
84 } mkv_track;
85
86 #define MODE_MATROSKAv2 0x01
87 #define MODE_WEBM       0x02
88
89 typedef struct MatroskaMuxContext {
90     const AVClass  *class;
91     int             mode;
92     AVIOContext   *dyn_bc;
93     ebml_master     segment;
94     int64_t         segment_offset;
95     ebml_master     cluster;
96     int64_t         cluster_pos;        ///< file offset of the current cluster
97     int64_t         cluster_pts;
98     int64_t         duration_offset;
99     int64_t         duration;
100     mkv_seekhead    *main_seekhead;
101     mkv_cues        *cues;
102     mkv_track       *tracks;
103
104     AVPacket        cur_audio_pkt;
105
106     int have_attachments;
107
108     int reserve_cues_space;
109     int cluster_size_limit;
110     int64_t cues_pos;
111     int64_t cluster_time_limit;
112     int wrote_chapters;
113 } MatroskaMuxContext;
114
115
116 /** 2 bytes * 3 for EBML IDs, 3 1-byte EBML lengths, 8 bytes for 64 bit
117  * offset, 4 bytes for target EBML ID */
118 #define MAX_SEEKENTRY_SIZE 21
119
120 /** per-cuepoint-track - 3 1-byte EBML IDs, 3 1-byte EBML sizes, 2
121  * 8-byte uint max */
122 #define MAX_CUETRACKPOS_SIZE 22
123
124 /** per-cuepoint - 2 1-byte EBML IDs, 2 1-byte EBML sizes, 8-byte uint max */
125 #define MAX_CUEPOINT_SIZE(num_tracks) 12 + MAX_CUETRACKPOS_SIZE * num_tracks
126
127 static int ebml_id_size(unsigned int id)
128 {
129     return (av_log2(id + 1) - 1) / 7 + 1;
130 }
131
132 static void put_ebml_id(AVIOContext *pb, unsigned int id)
133 {
134     int i = ebml_id_size(id);
135     while (i--)
136         avio_w8(pb, id >> (i * 8));
137 }
138
139 /**
140  * Write an EBML size meaning "unknown size".
141  *
142  * @param bytes The number of bytes the size should occupy (maximum: 8).
143  */
144 static void put_ebml_size_unknown(AVIOContext *pb, int bytes)
145 {
146     assert(bytes <= 8);
147     avio_w8(pb, 0x1ff >> bytes);
148     while (--bytes)
149         avio_w8(pb, 0xff);
150 }
151
152 /**
153  * Calculate how many bytes are needed to represent a given number in EBML.
154  */
155 static int ebml_num_size(uint64_t num)
156 {
157     int bytes = 1;
158     while ((num + 1) >> bytes * 7)
159         bytes++;
160     return bytes;
161 }
162
163 /**
164  * Write a number in EBML variable length format.
165  *
166  * @param bytes The number of bytes that need to be used to write the number.
167  *              If zero, any number of bytes can be used.
168  */
169 static void put_ebml_num(AVIOContext *pb, uint64_t num, int bytes)
170 {
171     int i, needed_bytes = ebml_num_size(num);
172
173     // sizes larger than this are currently undefined in EBML
174     assert(num < (1ULL << 56) - 1);
175
176     if (bytes == 0)
177         // don't care how many bytes are used, so use the min
178         bytes = needed_bytes;
179     // the bytes needed to write the given size would exceed the bytes
180     // that we need to use, so write unknown size. This shouldn't happen.
181     assert(bytes >= needed_bytes);
182
183     num |= 1ULL << bytes * 7;
184     for (i = bytes - 1; i >= 0; i--)
185         avio_w8(pb, num >> i * 8);
186 }
187
188 static void put_ebml_uint(AVIOContext *pb, unsigned int elementid, uint64_t val)
189 {
190     int i, bytes = 1;
191     uint64_t tmp = val;
192     while (tmp >>= 8)
193         bytes++;
194
195     put_ebml_id(pb, elementid);
196     put_ebml_num(pb, bytes, 0);
197     for (i = bytes - 1; i >= 0; i--)
198         avio_w8(pb, val >> i * 8);
199 }
200
201 static void put_ebml_float(AVIOContext *pb, unsigned int elementid, double val)
202 {
203     put_ebml_id(pb, elementid);
204     put_ebml_num(pb, 8, 0);
205     avio_wb64(pb, av_double2int(val));
206 }
207
208 static void put_ebml_binary(AVIOContext *pb, unsigned int elementid,
209                             const void *buf, int size)
210 {
211     put_ebml_id(pb, elementid);
212     put_ebml_num(pb, size, 0);
213     avio_write(pb, buf, size);
214 }
215
216 static void put_ebml_string(AVIOContext *pb, unsigned int elementid,
217                             const char *str)
218 {
219     put_ebml_binary(pb, elementid, str, strlen(str));
220 }
221
222 /**
223  * Write a void element of a given size. Useful for reserving space in
224  * the file to be written to later.
225  *
226  * @param size The number of bytes to reserve, which must be at least 2.
227  */
228 static void put_ebml_void(AVIOContext *pb, uint64_t size)
229 {
230     int64_t currentpos = avio_tell(pb);
231
232     assert(size >= 2);
233
234     put_ebml_id(pb, EBML_ID_VOID);
235     // we need to subtract the length needed to store the size from the
236     // size we need to reserve so 2 cases, we use 8 bytes to store the
237     // size if possible, 1 byte otherwise
238     if (size < 10)
239         put_ebml_num(pb, size - 1, 0);
240     else
241         put_ebml_num(pb, size - 9, 8);
242     while (avio_tell(pb) < currentpos + size)
243         avio_w8(pb, 0);
244 }
245
246 static ebml_master start_ebml_master(AVIOContext *pb, unsigned int elementid,
247                                      uint64_t expectedsize)
248 {
249     int bytes = expectedsize ? ebml_num_size(expectedsize) : 8;
250     put_ebml_id(pb, elementid);
251     put_ebml_size_unknown(pb, bytes);
252     return (ebml_master) {avio_tell(pb), bytes };
253 }
254
255 static void end_ebml_master(AVIOContext *pb, ebml_master master)
256 {
257     int64_t pos = avio_tell(pb);
258
259     if (avio_seek(pb, master.pos - master.sizebytes, SEEK_SET) < 0)
260         return;
261     put_ebml_num(pb, pos - master.pos, master.sizebytes);
262     avio_seek(pb, pos, SEEK_SET);
263 }
264
265 static void put_xiph_size(AVIOContext *pb, int size)
266 {
267     int i;
268     for (i = 0; i < size / 255; i++)
269         avio_w8(pb, 255);
270     avio_w8(pb, size % 255);
271 }
272
273 /**
274  * Initialize a mkv_seekhead element to be ready to index level 1 Matroska
275  * elements. If a maximum number of elements is specified, enough space
276  * will be reserved at the current file location to write a seek head of
277  * that size.
278  *
279  * @param segment_offset The absolute offset to the position in the file
280  *                       where the segment begins.
281  * @param numelements The maximum number of elements that will be indexed
282  *                    by this seek head, 0 if unlimited.
283  */
284 static mkv_seekhead *mkv_start_seekhead(AVIOContext *pb, int64_t segment_offset,
285                                         int numelements)
286 {
287     mkv_seekhead *new_seekhead = av_mallocz(sizeof(mkv_seekhead));
288     if (new_seekhead == NULL)
289         return NULL;
290
291     new_seekhead->segment_offset = segment_offset;
292
293     if (numelements > 0) {
294         new_seekhead->filepos = avio_tell(pb);
295         // 21 bytes max for a seek entry, 10 bytes max for the SeekHead ID
296         // and size, and 3 bytes to guarantee that an EBML void element
297         // will fit afterwards
298         new_seekhead->reserved_size = numelements * MAX_SEEKENTRY_SIZE + 13;
299         new_seekhead->max_entries   = numelements;
300         put_ebml_void(pb, new_seekhead->reserved_size);
301     }
302     return new_seekhead;
303 }
304
305 static int mkv_add_seekhead_entry(mkv_seekhead *seekhead, unsigned int elementid, uint64_t filepos)
306 {
307     int err;
308
309     // don't store more elements than we reserved space for
310     if (seekhead->max_entries > 0 && seekhead->max_entries <= seekhead->num_entries)
311         return -1;
312
313     if ((err = av_reallocp_array(&seekhead->entries, seekhead->num_entries + 1,
314                                  sizeof(*seekhead->entries))) < 0) {
315         seekhead->num_entries = 0;
316         return err;
317     }
318
319     seekhead->entries[seekhead->num_entries].elementid    = elementid;
320     seekhead->entries[seekhead->num_entries++].segmentpos = filepos - seekhead->segment_offset;
321
322     return 0;
323 }
324
325 /**
326  * Write the seek head to the file and free it. If a maximum number of
327  * elements was specified to mkv_start_seekhead(), the seek head will
328  * be written at the location reserved for it. Otherwise, it is written
329  * at the current location in the file.
330  *
331  * @return The file offset where the seekhead was written,
332  * -1 if an error occurred.
333  */
334 static int64_t mkv_write_seekhead(AVIOContext *pb, mkv_seekhead *seekhead)
335 {
336     ebml_master metaseek, seekentry;
337     int64_t currentpos;
338     int i;
339
340     currentpos = avio_tell(pb);
341
342     if (seekhead->reserved_size > 0) {
343         if (avio_seek(pb, seekhead->filepos, SEEK_SET) < 0) {
344             currentpos = -1;
345             goto fail;
346         }
347     }
348
349     metaseek = start_ebml_master(pb, MATROSKA_ID_SEEKHEAD, seekhead->reserved_size);
350     for (i = 0; i < seekhead->num_entries; i++) {
351         mkv_seekhead_entry *entry = &seekhead->entries[i];
352
353         seekentry = start_ebml_master(pb, MATROSKA_ID_SEEKENTRY, MAX_SEEKENTRY_SIZE);
354
355         put_ebml_id(pb, MATROSKA_ID_SEEKID);
356         put_ebml_num(pb, ebml_id_size(entry->elementid), 0);
357         put_ebml_id(pb, entry->elementid);
358
359         put_ebml_uint(pb, MATROSKA_ID_SEEKPOSITION, entry->segmentpos);
360         end_ebml_master(pb, seekentry);
361     }
362     end_ebml_master(pb, metaseek);
363
364     if (seekhead->reserved_size > 0) {
365         uint64_t remaining = seekhead->filepos + seekhead->reserved_size - avio_tell(pb);
366         put_ebml_void(pb, remaining);
367         avio_seek(pb, currentpos, SEEK_SET);
368
369         currentpos = seekhead->filepos;
370     }
371 fail:
372     av_free(seekhead->entries);
373     av_free(seekhead);
374
375     return currentpos;
376 }
377
378 static mkv_cues *mkv_start_cues(int64_t segment_offset)
379 {
380     mkv_cues *cues = av_mallocz(sizeof(mkv_cues));
381     if (cues == NULL)
382         return NULL;
383
384     cues->segment_offset = segment_offset;
385     return cues;
386 }
387
388 static int mkv_add_cuepoint(mkv_cues *cues, int stream, int64_t ts, int64_t cluster_pos)
389 {
390     int err;
391
392     if (ts < 0)
393         return 0;
394
395     if ((err = av_reallocp_array(&cues->entries, cues->num_entries + 1,
396                                  sizeof(*cues->entries))) < 0) {
397         cues->num_entries = 0;
398         return err;
399     }
400
401     cues->entries[cues->num_entries].pts           = ts;
402     cues->entries[cues->num_entries].tracknum      = stream + 1;
403     cues->entries[cues->num_entries++].cluster_pos = cluster_pos - cues->segment_offset;
404
405     return 0;
406 }
407
408 static int64_t mkv_write_cues(AVIOContext *pb, mkv_cues *cues, int num_tracks)
409 {
410     ebml_master cues_element;
411     int64_t currentpos;
412     int i, j;
413
414     currentpos = avio_tell(pb);
415     cues_element = start_ebml_master(pb, MATROSKA_ID_CUES, 0);
416
417     for (i = 0; i < cues->num_entries; i++) {
418         ebml_master cuepoint, track_positions;
419         mkv_cuepoint *entry = &cues->entries[i];
420         uint64_t pts = entry->pts;
421
422         cuepoint = start_ebml_master(pb, MATROSKA_ID_POINTENTRY, MAX_CUEPOINT_SIZE(num_tracks));
423         put_ebml_uint(pb, MATROSKA_ID_CUETIME, pts);
424
425         // put all the entries from different tracks that have the exact same
426         // timestamp into the same CuePoint
427         for (j = 0; j < cues->num_entries - i && entry[j].pts == pts; j++) {
428             track_positions = start_ebml_master(pb, MATROSKA_ID_CUETRACKPOSITION, MAX_CUETRACKPOS_SIZE);
429             put_ebml_uint(pb, MATROSKA_ID_CUETRACK          , entry[j].tracknum   );
430             put_ebml_uint(pb, MATROSKA_ID_CUECLUSTERPOSITION, entry[j].cluster_pos);
431             end_ebml_master(pb, track_positions);
432         }
433         i += j - 1;
434         end_ebml_master(pb, cuepoint);
435     }
436     end_ebml_master(pb, cues_element);
437
438     return currentpos;
439 }
440
441 static int put_xiph_codecpriv(AVFormatContext *s, AVIOContext *pb, AVCodecContext *codec)
442 {
443     uint8_t *header_start[3];
444     int header_len[3];
445     int first_header_size;
446     int j;
447
448     if (codec->codec_id == AV_CODEC_ID_VORBIS)
449         first_header_size = 30;
450     else
451         first_header_size = 42;
452
453     if (avpriv_split_xiph_headers(codec->extradata, codec->extradata_size,
454                               first_header_size, header_start, header_len) < 0) {
455         av_log(s, AV_LOG_ERROR, "Extradata corrupt.\n");
456         return -1;
457     }
458
459     avio_w8(pb, 2);                    // number packets - 1
460     for (j = 0; j < 2; j++) {
461         put_xiph_size(pb, header_len[j]);
462     }
463     for (j = 0; j < 3; j++)
464         avio_write(pb, header_start[j], header_len[j]);
465
466     return 0;
467 }
468
469 static int put_wv_codecpriv(AVIOContext *pb, AVCodecContext *codec)
470 {
471     if (codec->extradata && codec->extradata_size == 2)
472         avio_write(pb, codec->extradata, 2);
473     else
474         avio_wl16(pb, 0x403); // fallback to the version mentioned in matroska specs
475     return 0;
476 }
477
478 static int put_flac_codecpriv(AVFormatContext *s,
479                               AVIOContext *pb, AVCodecContext *codec)
480 {
481     int write_comment = (codec->channel_layout &&
482                          !(codec->channel_layout & ~0x3ffffULL) &&
483                          !ff_flac_is_native_layout(codec->channel_layout));
484     int ret = ff_flac_write_header(pb, codec->extradata, codec->extradata_size,
485                                    !write_comment);
486
487     if (ret < 0)
488         return ret;
489
490     if (write_comment) {
491         const char *vendor = (s->flags & AVFMT_FLAG_BITEXACT) ?
492                              "Libav" : LIBAVFORMAT_IDENT;
493         AVDictionary *dict = NULL;
494         uint8_t buf[32], *data, *p;
495         int len;
496
497         snprintf(buf, sizeof(buf), "0x%"PRIx64, codec->channel_layout);
498         av_dict_set(&dict, "WAVEFORMATEXTENSIBLE_CHANNEL_MASK", buf, 0);
499
500         len = ff_vorbiscomment_length(dict, vendor);
501         data = av_malloc(len + 4);
502         if (!data) {
503             av_dict_free(&dict);
504             return AVERROR(ENOMEM);
505         }
506
507         data[0] = 0x84;
508         AV_WB24(data + 1, len);
509
510         p = data + 4;
511         ff_vorbiscomment_write(&p, &dict, vendor);
512
513         avio_write(pb, data, len + 4);
514
515         av_freep(&data);
516         av_dict_free(&dict);
517     }
518
519     return 0;
520 }
521
522 static void get_aac_sample_rates(AVFormatContext *s, AVCodecContext *codec,
523                                  int *sample_rate, int *output_sample_rate)
524 {
525     MPEG4AudioConfig mp4ac;
526
527     if (avpriv_mpeg4audio_get_config(&mp4ac, codec->extradata,
528                                      codec->extradata_size * 8, 1) < 0) {
529         av_log(s, AV_LOG_WARNING,
530                "Error parsing AAC extradata, unable to determine samplerate.\n");
531         return;
532     }
533
534     *sample_rate        = mp4ac.sample_rate;
535     *output_sample_rate = mp4ac.ext_sample_rate;
536 }
537
538 static int mkv_write_codecprivate(AVFormatContext *s, AVIOContext *pb,
539                                   AVCodecContext *codec, int native_id,
540                                   int qt_id)
541 {
542     AVIOContext *dyn_cp;
543     uint8_t *codecpriv;
544     int ret, codecpriv_size;
545
546     ret = avio_open_dyn_buf(&dyn_cp);
547     if (ret < 0)
548         return ret;
549
550     if (native_id) {
551         if (codec->codec_id == AV_CODEC_ID_VORBIS ||
552             codec->codec_id == AV_CODEC_ID_THEORA)
553             ret = put_xiph_codecpriv(s, dyn_cp, codec);
554         else if (codec->codec_id == AV_CODEC_ID_FLAC)
555             ret = put_flac_codecpriv(s, dyn_cp, codec);
556         else if (codec->codec_id == AV_CODEC_ID_WAVPACK)
557             ret = put_wv_codecpriv(dyn_cp, codec);
558         else if (codec->codec_id == AV_CODEC_ID_H264)
559             ret = ff_isom_write_avcc(dyn_cp, codec->extradata,
560                                      codec->extradata_size);
561         else if (codec->codec_id == AV_CODEC_ID_HEVC)
562             ret = ff_isom_write_hvcc(dyn_cp, codec->extradata,
563                                      codec->extradata_size, 0);
564         else if (codec->codec_id == AV_CODEC_ID_ALAC) {
565             if (codec->extradata_size < 36) {
566                 av_log(s, AV_LOG_ERROR,
567                        "Invalid extradata found, ALAC expects a 36-byte "
568                        "QuickTime atom.");
569                 ret = AVERROR_INVALIDDATA;
570             } else
571                 avio_write(dyn_cp, codec->extradata + 12,
572                            codec->extradata_size - 12);
573         } else if (codec->extradata_size)
574             avio_write(dyn_cp, codec->extradata, codec->extradata_size);
575     } else if (codec->codec_type == AVMEDIA_TYPE_VIDEO) {
576         if (qt_id) {
577             if (!codec->codec_tag)
578                 codec->codec_tag = ff_codec_get_tag(ff_codec_movvideo_tags,
579                                                     codec->codec_id);
580             if (codec->extradata_size)
581                 avio_write(dyn_cp, codec->extradata, codec->extradata_size);
582         } else {
583             if (!codec->codec_tag)
584                 codec->codec_tag = ff_codec_get_tag(ff_codec_bmp_tags,
585                                                     codec->codec_id);
586             if (!codec->codec_tag) {
587                 av_log(s, AV_LOG_ERROR, "No bmp codec ID found.\n");
588                 ret = -1;
589             }
590
591             ff_put_bmp_header(dyn_cp, codec, ff_codec_bmp_tags, 0);
592         }
593     } else if (codec->codec_type == AVMEDIA_TYPE_AUDIO) {
594         unsigned int tag;
595         tag = ff_codec_get_tag(ff_codec_wav_tags, codec->codec_id);
596         if (!tag) {
597             av_log(s, AV_LOG_ERROR, "No wav codec ID found.\n");
598             ret = -1;
599         }
600         if (!codec->codec_tag)
601             codec->codec_tag = tag;
602
603         ff_put_wav_header(dyn_cp, codec);
604     }
605
606     codecpriv_size = avio_close_dyn_buf(dyn_cp, &codecpriv);
607     if (codecpriv_size)
608         put_ebml_binary(pb, MATROSKA_ID_CODECPRIVATE, codecpriv,
609                         codecpriv_size);
610     av_free(codecpriv);
611     return ret;
612 }
613
614 static int mkv_write_tracks(AVFormatContext *s)
615 {
616     MatroskaMuxContext *mkv = s->priv_data;
617     AVIOContext *pb = s->pb;
618     ebml_master tracks;
619     int i, j, ret;
620
621     ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_TRACKS, avio_tell(pb));
622     if (ret < 0)
623         return ret;
624
625     tracks = start_ebml_master(pb, MATROSKA_ID_TRACKS, 0);
626     for (i = 0; i < s->nb_streams; i++) {
627         AVStream *st = s->streams[i];
628         AVCodecContext *codec = st->codec;
629         ebml_master subinfo, track;
630         int native_id = 0;
631         int qt_id = 0;
632         int bit_depth = av_get_bits_per_sample(codec->codec_id);
633         int sample_rate = codec->sample_rate;
634         int output_sample_rate = 0;
635         AVDictionaryEntry *tag;
636
637         // ms precision is the de-facto standard timescale for mkv files
638         avpriv_set_pts_info(st, 64, 1, 1000);
639
640         if (codec->codec_type == AVMEDIA_TYPE_ATTACHMENT) {
641             mkv->have_attachments = 1;
642             continue;
643         }
644
645         if (!bit_depth)
646             bit_depth = av_get_bytes_per_sample(codec->sample_fmt) << 3;
647
648         if (codec->codec_id == AV_CODEC_ID_AAC)
649             get_aac_sample_rates(s, codec, &sample_rate, &output_sample_rate);
650
651         track = start_ebml_master(pb, MATROSKA_ID_TRACKENTRY, 0);
652         put_ebml_uint (pb, MATROSKA_ID_TRACKNUMBER     , i + 1);
653         put_ebml_uint (pb, MATROSKA_ID_TRACKUID        , i + 1);
654         put_ebml_uint (pb, MATROSKA_ID_TRACKFLAGLACING , 0);    // no lacing (yet)
655
656         if ((tag = av_dict_get(st->metadata, "title", NULL, 0)))
657             put_ebml_string(pb, MATROSKA_ID_TRACKNAME, tag->value);
658         tag = av_dict_get(st->metadata, "language", NULL, 0);
659         put_ebml_string(pb, MATROSKA_ID_TRACKLANGUAGE, tag ? tag->value:"und");
660
661         // The default value for TRACKFLAGDEFAULT is 1, so add element
662         // if we need to clear it.
663         if (!(st->disposition & AV_DISPOSITION_DEFAULT))
664             put_ebml_uint(pb, MATROSKA_ID_TRACKFLAGDEFAULT, !!(st->disposition & AV_DISPOSITION_DEFAULT));
665
666         if (codec->codec_type == AVMEDIA_TYPE_AUDIO && codec->delay) {
667             mkv->tracks[i].ts_offset = av_rescale_q(codec->delay,
668                                                     (AVRational){ 1, codec->sample_rate },
669                                                     st->time_base);
670
671             put_ebml_uint(pb, MATROSKA_ID_CODECDELAY,
672                           av_rescale_q(codec->delay, (AVRational){ 1, codec->sample_rate },
673                                        (AVRational){ 1, 1000000000 }));
674         }
675
676         // look for a codec ID string specific to mkv to use,
677         // if none are found, use AVI codes
678         for (j = 0; ff_mkv_codec_tags[j].id != AV_CODEC_ID_NONE; j++) {
679             if (ff_mkv_codec_tags[j].id == codec->codec_id) {
680                 put_ebml_string(pb, MATROSKA_ID_CODECID, ff_mkv_codec_tags[j].str);
681                 native_id = 1;
682                 break;
683             }
684         }
685
686         if (mkv->mode == MODE_WEBM && !(codec->codec_id == AV_CODEC_ID_VP8 ||
687                                         codec->codec_id == AV_CODEC_ID_VP9 ||
688                                         codec->codec_id == AV_CODEC_ID_OPUS ||
689                                         codec->codec_id == AV_CODEC_ID_VORBIS)) {
690             av_log(s, AV_LOG_ERROR,
691                    "Only VP8 or VP9 video and Vorbis or Opus audio are supported for WebM.\n");
692             return AVERROR(EINVAL);
693         }
694
695         switch (codec->codec_type) {
696         case AVMEDIA_TYPE_VIDEO:
697             put_ebml_uint(pb, MATROSKA_ID_TRACKTYPE, MATROSKA_TRACK_TYPE_VIDEO);
698             if (st->avg_frame_rate.num > 0 && st->avg_frame_rate.den > 0)
699                 put_ebml_uint(pb, MATROSKA_ID_TRACKDEFAULTDURATION, 1E9 / av_q2d(st->avg_frame_rate));
700
701             if (!native_id &&
702                 ff_codec_get_tag(ff_codec_movvideo_tags, codec->codec_id) &&
703                 (!ff_codec_get_tag(ff_codec_bmp_tags,   codec->codec_id) ||
704                  codec->codec_id == AV_CODEC_ID_SVQ1 ||
705                  codec->codec_id == AV_CODEC_ID_SVQ3 ||
706                  codec->codec_id == AV_CODEC_ID_CINEPAK))
707                 qt_id = 1;
708
709             if (qt_id)
710                 put_ebml_string(pb, MATROSKA_ID_CODECID, "V_QUICKTIME");
711             else if (!native_id) {
712                 // if there is no mkv-specific codec ID, use VFW mode
713                 put_ebml_string(pb, MATROSKA_ID_CODECID, "V_MS/VFW/FOURCC");
714                 mkv->tracks[i].write_dts = 1;
715             }
716
717             subinfo = start_ebml_master(pb, MATROSKA_ID_TRACKVIDEO, 0);
718             // XXX: interlace flag?
719             put_ebml_uint (pb, MATROSKA_ID_VIDEOPIXELWIDTH , codec->width);
720             put_ebml_uint (pb, MATROSKA_ID_VIDEOPIXELHEIGHT, codec->height);
721             if ((tag = av_dict_get(s->metadata, "stereo_mode", NULL, 0))) {
722                 uint8_t stereo_fmt = atoi(tag->value);
723                 int valid_fmt = 0;
724
725                 switch (mkv->mode) {
726                 case MODE_WEBM:
727                     if (stereo_fmt <= MATROSKA_VIDEO_STEREOMODE_TYPE_TOP_BOTTOM ||
728                         stereo_fmt == MATROSKA_VIDEO_STEREOMODE_TYPE_RIGHT_LEFT)
729                         valid_fmt = 1;
730                     break;
731                 case MODE_MATROSKAv2:
732                     if (stereo_fmt <= MATROSKA_VIDEO_STEREOMODE_TYPE_BOTH_EYES_BLOCK_RL)
733                         valid_fmt = 1;
734                     break;
735                 }
736
737                 if (valid_fmt)
738                     put_ebml_uint (pb, MATROSKA_ID_VIDEOSTEREOMODE, stereo_fmt);
739             }
740             if (st->sample_aspect_ratio.num) {
741                 int d_width = codec->width*av_q2d(st->sample_aspect_ratio);
742                 put_ebml_uint(pb, MATROSKA_ID_VIDEODISPLAYWIDTH , d_width);
743                 put_ebml_uint(pb, MATROSKA_ID_VIDEODISPLAYHEIGHT, codec->height);
744                 put_ebml_uint(pb, MATROSKA_ID_VIDEODISPLAYUNIT, 3);
745             }
746             end_ebml_master(pb, subinfo);
747             break;
748
749         case AVMEDIA_TYPE_AUDIO:
750             put_ebml_uint(pb, MATROSKA_ID_TRACKTYPE, MATROSKA_TRACK_TYPE_AUDIO);
751
752             if (!native_id)
753                 // no mkv-specific ID, use ACM mode
754                 put_ebml_string(pb, MATROSKA_ID_CODECID, "A_MS/ACM");
755
756             subinfo = start_ebml_master(pb, MATROSKA_ID_TRACKAUDIO, 0);
757             put_ebml_uint  (pb, MATROSKA_ID_AUDIOCHANNELS    , codec->channels);
758             put_ebml_float (pb, MATROSKA_ID_AUDIOSAMPLINGFREQ, sample_rate);
759             if (output_sample_rate)
760                 put_ebml_float(pb, MATROSKA_ID_AUDIOOUTSAMPLINGFREQ, output_sample_rate);
761             if (bit_depth)
762                 put_ebml_uint(pb, MATROSKA_ID_AUDIOBITDEPTH, bit_depth);
763             end_ebml_master(pb, subinfo);
764             break;
765
766         case AVMEDIA_TYPE_SUBTITLE:
767             put_ebml_uint(pb, MATROSKA_ID_TRACKTYPE, MATROSKA_TRACK_TYPE_SUBTITLE);
768             if (!native_id) {
769                 av_log(s, AV_LOG_ERROR, "Subtitle codec %d is not supported.\n", codec->codec_id);
770                 return AVERROR(ENOSYS);
771             }
772             break;
773         default:
774             av_log(s, AV_LOG_ERROR, "Only audio, video, and subtitles are supported for Matroska.\n");
775             break;
776         }
777         ret = mkv_write_codecprivate(s, pb, codec, native_id, qt_id);
778         if (ret < 0)
779             return ret;
780
781         end_ebml_master(pb, track);
782     }
783     end_ebml_master(pb, tracks);
784     return 0;
785 }
786
787 static int mkv_write_chapters(AVFormatContext *s)
788 {
789     MatroskaMuxContext *mkv = s->priv_data;
790     AVIOContext *pb = s->pb;
791     ebml_master chapters, editionentry;
792     AVRational scale = {1, 1E9};
793     int i, ret;
794
795     if (!s->nb_chapters || mkv->wrote_chapters)
796         return 0;
797
798     ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_CHAPTERS, avio_tell(pb));
799     if (ret < 0) return ret;
800
801     chapters     = start_ebml_master(pb, MATROSKA_ID_CHAPTERS    , 0);
802     editionentry = start_ebml_master(pb, MATROSKA_ID_EDITIONENTRY, 0);
803     put_ebml_uint(pb, MATROSKA_ID_EDITIONFLAGDEFAULT, 1);
804     put_ebml_uint(pb, MATROSKA_ID_EDITIONFLAGHIDDEN , 0);
805     for (i = 0; i < s->nb_chapters; i++) {
806         ebml_master chapteratom, chapterdisplay;
807         AVChapter *c     = s->chapters[i];
808         AVDictionaryEntry *t = NULL;
809
810         chapteratom = start_ebml_master(pb, MATROSKA_ID_CHAPTERATOM, 0);
811         put_ebml_uint(pb, MATROSKA_ID_CHAPTERUID, c->id);
812         put_ebml_uint(pb, MATROSKA_ID_CHAPTERTIMESTART,
813                       av_rescale_q(c->start, c->time_base, scale));
814         put_ebml_uint(pb, MATROSKA_ID_CHAPTERTIMEEND,
815                       av_rescale_q(c->end,   c->time_base, scale));
816         put_ebml_uint(pb, MATROSKA_ID_CHAPTERFLAGHIDDEN , 0);
817         put_ebml_uint(pb, MATROSKA_ID_CHAPTERFLAGENABLED, 1);
818         if ((t = av_dict_get(c->metadata, "title", NULL, 0))) {
819             chapterdisplay = start_ebml_master(pb, MATROSKA_ID_CHAPTERDISPLAY, 0);
820             put_ebml_string(pb, MATROSKA_ID_CHAPSTRING, t->value);
821             put_ebml_string(pb, MATROSKA_ID_CHAPLANG  , "und");
822             end_ebml_master(pb, chapterdisplay);
823         }
824         end_ebml_master(pb, chapteratom);
825     }
826     end_ebml_master(pb, editionentry);
827     end_ebml_master(pb, chapters);
828
829     mkv->wrote_chapters = 1;
830     return 0;
831 }
832
833 static void mkv_write_simpletag(AVIOContext *pb, AVDictionaryEntry *t)
834 {
835     uint8_t *key = av_strdup(t->key);
836     uint8_t *p   = key;
837     const uint8_t *lang = NULL;
838     ebml_master tag;
839
840     if ((p = strrchr(p, '-')) &&
841         (lang = av_convert_lang_to(p + 1, AV_LANG_ISO639_2_BIBL)))
842         *p = 0;
843
844     p = key;
845     while (*p) {
846         if (*p == ' ')
847             *p = '_';
848         else if (*p >= 'a' && *p <= 'z')
849             *p -= 'a' - 'A';
850         p++;
851     }
852
853     tag = start_ebml_master(pb, MATROSKA_ID_SIMPLETAG, 0);
854     put_ebml_string(pb, MATROSKA_ID_TAGNAME, key);
855     if (lang)
856         put_ebml_string(pb, MATROSKA_ID_TAGLANG, lang);
857     put_ebml_string(pb, MATROSKA_ID_TAGSTRING, t->value);
858     end_ebml_master(pb, tag);
859
860     av_freep(&key);
861 }
862
863 static int mkv_write_tag(AVFormatContext *s, AVDictionary *m, unsigned int elementid,
864                          unsigned int uid, ebml_master *tags)
865 {
866     MatroskaMuxContext *mkv = s->priv_data;
867     ebml_master tag, targets;
868     AVDictionaryEntry *t = NULL;
869     int ret;
870
871     if (!tags->pos) {
872         ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_TAGS, avio_tell(s->pb));
873         if (ret < 0) return ret;
874
875         *tags = start_ebml_master(s->pb, MATROSKA_ID_TAGS, 0);
876     }
877
878     tag     = start_ebml_master(s->pb, MATROSKA_ID_TAG,        0);
879     targets = start_ebml_master(s->pb, MATROSKA_ID_TAGTARGETS, 0);
880     if (elementid)
881         put_ebml_uint(s->pb, elementid, uid);
882     end_ebml_master(s->pb, targets);
883
884     while ((t = av_dict_get(m, "", t, AV_DICT_IGNORE_SUFFIX)))
885         if (av_strcasecmp(t->key, "title") &&
886             av_strcasecmp(t->key, "encoding_tool"))
887             mkv_write_simpletag(s->pb, t);
888
889     end_ebml_master(s->pb, tag);
890     return 0;
891 }
892
893 static int mkv_write_tags(AVFormatContext *s)
894 {
895     ebml_master tags = {0};
896     int i, ret;
897
898     ff_metadata_conv_ctx(s, ff_mkv_metadata_conv, NULL);
899
900     if (av_dict_get(s->metadata, "", NULL, AV_DICT_IGNORE_SUFFIX)) {
901         ret = mkv_write_tag(s, s->metadata, 0, 0, &tags);
902         if (ret < 0) return ret;
903     }
904
905     for (i = 0; i < s->nb_streams; i++) {
906         AVStream *st = s->streams[i];
907
908         if (!av_dict_get(st->metadata, "", 0, AV_DICT_IGNORE_SUFFIX))
909             continue;
910
911         ret = mkv_write_tag(s, st->metadata, MATROSKA_ID_TAGTARGETS_TRACKUID, i + 1, &tags);
912         if (ret < 0) return ret;
913     }
914
915     for (i = 0; i < s->nb_chapters; i++) {
916         AVChapter *ch = s->chapters[i];
917
918         if (!av_dict_get(ch->metadata, "", NULL, AV_DICT_IGNORE_SUFFIX))
919             continue;
920
921         ret = mkv_write_tag(s, ch->metadata, MATROSKA_ID_TAGTARGETS_CHAPTERUID, ch->id, &tags);
922         if (ret < 0) return ret;
923     }
924
925     if (tags.pos)
926         end_ebml_master(s->pb, tags);
927     return 0;
928 }
929
930 static int mkv_write_attachments(AVFormatContext *s)
931 {
932     MatroskaMuxContext *mkv = s->priv_data;
933     AVIOContext *pb = s->pb;
934     ebml_master attachments;
935     AVLFG c;
936     int i, ret;
937
938     if (!mkv->have_attachments)
939         return 0;
940
941     av_lfg_init(&c, av_get_random_seed());
942
943     ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_ATTACHMENTS, avio_tell(pb));
944     if (ret < 0) return ret;
945
946     attachments = start_ebml_master(pb, MATROSKA_ID_ATTACHMENTS, 0);
947
948     for (i = 0; i < s->nb_streams; i++) {
949         AVStream *st = s->streams[i];
950         ebml_master attached_file;
951         AVDictionaryEntry *t;
952         const char *mimetype = NULL;
953
954         if (st->codec->codec_type != AVMEDIA_TYPE_ATTACHMENT)
955             continue;
956
957         attached_file = start_ebml_master(pb, MATROSKA_ID_ATTACHEDFILE, 0);
958
959         if (t = av_dict_get(st->metadata, "title", NULL, 0))
960             put_ebml_string(pb, MATROSKA_ID_FILEDESC, t->value);
961         if (!(t = av_dict_get(st->metadata, "filename", NULL, 0))) {
962             av_log(s, AV_LOG_ERROR, "Attachment stream %d has no filename tag.\n", i);
963             return AVERROR(EINVAL);
964         }
965         put_ebml_string(pb, MATROSKA_ID_FILENAME, t->value);
966         if (t = av_dict_get(st->metadata, "mimetype", NULL, 0))
967             mimetype = t->value;
968         else if (st->codec->codec_id != AV_CODEC_ID_NONE ) {
969             int i;
970             for (i = 0; ff_mkv_mime_tags[i].id != AV_CODEC_ID_NONE; i++)
971                 if (ff_mkv_mime_tags[i].id == st->codec->codec_id) {
972                     mimetype = ff_mkv_mime_tags[i].str;
973                     break;
974                 }
975         }
976         if (!mimetype) {
977             av_log(s, AV_LOG_ERROR, "Attachment stream %d has no mimetype tag and "
978                                     "it cannot be deduced from the codec id.\n", i);
979             return AVERROR(EINVAL);
980         }
981
982         put_ebml_string(pb, MATROSKA_ID_FILEMIMETYPE, mimetype);
983         put_ebml_binary(pb, MATROSKA_ID_FILEDATA, st->codec->extradata, st->codec->extradata_size);
984         put_ebml_uint(pb, MATROSKA_ID_FILEUID, av_lfg_get(&c));
985         end_ebml_master(pb, attached_file);
986     }
987     end_ebml_master(pb, attachments);
988
989     return 0;
990 }
991
992 static int mkv_write_header(AVFormatContext *s)
993 {
994     MatroskaMuxContext *mkv = s->priv_data;
995     AVIOContext *pb = s->pb;
996     ebml_master ebml_header, segment_info;
997     AVDictionaryEntry *tag;
998     int ret, i;
999
1000     if (!strcmp(s->oformat->name, "webm"))
1001         mkv->mode = MODE_WEBM;
1002     else
1003         mkv->mode = MODE_MATROSKAv2;
1004
1005     mkv->tracks = av_mallocz(s->nb_streams * sizeof(*mkv->tracks));
1006     if (!mkv->tracks)
1007         return AVERROR(ENOMEM);
1008
1009     ebml_header = start_ebml_master(pb, EBML_ID_HEADER, 0);
1010     put_ebml_uint   (pb, EBML_ID_EBMLVERSION        ,           1);
1011     put_ebml_uint   (pb, EBML_ID_EBMLREADVERSION    ,           1);
1012     put_ebml_uint   (pb, EBML_ID_EBMLMAXIDLENGTH    ,           4);
1013     put_ebml_uint   (pb, EBML_ID_EBMLMAXSIZELENGTH  ,           8);
1014     put_ebml_string (pb, EBML_ID_DOCTYPE            , s->oformat->name);
1015     put_ebml_uint   (pb, EBML_ID_DOCTYPEVERSION     ,           2);
1016     put_ebml_uint   (pb, EBML_ID_DOCTYPEREADVERSION ,           2);
1017     end_ebml_master(pb, ebml_header);
1018
1019     mkv->segment = start_ebml_master(pb, MATROSKA_ID_SEGMENT, 0);
1020     mkv->segment_offset = avio_tell(pb);
1021
1022     // we write 2 seek heads - one at the end of the file to point to each
1023     // cluster, and one at the beginning to point to all other level one
1024     // elements (including the seek head at the end of the file), which
1025     // isn't more than 10 elements if we only write one of each other
1026     // currently defined level 1 element
1027     mkv->main_seekhead    = mkv_start_seekhead(pb, mkv->segment_offset, 10);
1028     if (!mkv->main_seekhead)
1029         return AVERROR(ENOMEM);
1030
1031     ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_INFO, avio_tell(pb));
1032     if (ret < 0) return ret;
1033
1034     segment_info = start_ebml_master(pb, MATROSKA_ID_INFO, 0);
1035     put_ebml_uint(pb, MATROSKA_ID_TIMECODESCALE, 1000000);
1036     if ((tag = av_dict_get(s->metadata, "title", NULL, 0)))
1037         put_ebml_string(pb, MATROSKA_ID_TITLE, tag->value);
1038     if (!(s->flags & AVFMT_FLAG_BITEXACT)) {
1039         uint32_t segment_uid[4];
1040         AVLFG lfg;
1041
1042         av_lfg_init(&lfg, av_get_random_seed());
1043
1044         for (i = 0; i < 4; i++)
1045             segment_uid[i] = av_lfg_get(&lfg);
1046
1047         put_ebml_string(pb, MATROSKA_ID_MUXINGAPP, LIBAVFORMAT_IDENT);
1048         if ((tag = av_dict_get(s->metadata, "encoding_tool", NULL, 0)))
1049             put_ebml_string(pb, MATROSKA_ID_WRITINGAPP, tag->value);
1050         else
1051             put_ebml_string(pb, MATROSKA_ID_WRITINGAPP, LIBAVFORMAT_IDENT);
1052         put_ebml_binary(pb, MATROSKA_ID_SEGMENTUID, segment_uid, 16);
1053     }
1054
1055     // reserve space for the duration
1056     mkv->duration = 0;
1057     mkv->duration_offset = avio_tell(pb);
1058     put_ebml_void(pb, 11);                  // assumes double-precision float to be written
1059     end_ebml_master(pb, segment_info);
1060
1061     ret = mkv_write_tracks(s);
1062     if (ret < 0)
1063         return ret;
1064
1065     if (mkv->mode != MODE_WEBM) {
1066         ret = mkv_write_chapters(s);
1067         if (ret < 0)
1068             return ret;
1069
1070         ret = mkv_write_tags(s);
1071         if (ret < 0)
1072             return ret;
1073
1074         ret = mkv_write_attachments(s);
1075         if (ret < 0)
1076             return ret;
1077     }
1078
1079     if (!s->pb->seekable)
1080         mkv_write_seekhead(pb, mkv->main_seekhead);
1081
1082     mkv->cues = mkv_start_cues(mkv->segment_offset);
1083     if (mkv->cues == NULL)
1084         return AVERROR(ENOMEM);
1085
1086     if (pb->seekable && mkv->reserve_cues_space) {
1087         mkv->cues_pos = avio_tell(pb);
1088         put_ebml_void(pb, mkv->reserve_cues_space);
1089     }
1090
1091     av_init_packet(&mkv->cur_audio_pkt);
1092     mkv->cur_audio_pkt.size = 0;
1093
1094     avio_flush(pb);
1095
1096     // start a new cluster every 5 MB or 5 sec, or 32k / 1 sec for streaming or
1097     // after 4k and on a keyframe
1098     if (pb->seekable) {
1099         if (mkv->cluster_time_limit < 0)
1100             mkv->cluster_time_limit = 5000;
1101         if (mkv->cluster_size_limit < 0)
1102             mkv->cluster_size_limit = 5 * 1024 * 1024;
1103     } else {
1104         if (mkv->cluster_time_limit < 0)
1105             mkv->cluster_time_limit = 1000;
1106         if (mkv->cluster_size_limit < 0)
1107             mkv->cluster_size_limit = 32 * 1024;
1108     }
1109
1110     return 0;
1111 }
1112
1113 static int mkv_blockgroup_size(int pkt_size)
1114 {
1115     int size = pkt_size + 4;
1116     size += ebml_num_size(size);
1117     size += 2;              // EBML ID for block and block duration
1118     size += 8;              // max size of block duration
1119     size += ebml_num_size(size);
1120     size += 1;              // blockgroup EBML ID
1121     return size;
1122 }
1123
1124 static int ass_get_duration(const uint8_t *p)
1125 {
1126     int sh, sm, ss, sc, eh, em, es, ec;
1127     uint64_t start, end;
1128
1129     if (sscanf(p, "%*[^,],%d:%d:%d%*c%d,%d:%d:%d%*c%d",
1130                &sh, &sm, &ss, &sc, &eh, &em, &es, &ec) != 8)
1131         return 0;
1132     start = 3600000 * sh + 60000 * sm + 1000 * ss + 10 * sc;
1133     end   = 3600000 * eh + 60000 * em + 1000 * es + 10 * ec;
1134     return end - start;
1135 }
1136
1137 static int mkv_write_ass_blocks(AVFormatContext *s, AVIOContext *pb,
1138                                 AVPacket *pkt)
1139 {
1140     MatroskaMuxContext *mkv = s->priv_data;
1141     int i, layer = 0, max_duration = 0, size, line_size, data_size = pkt->size;
1142     uint8_t *start, *end, *data = pkt->data;
1143     ebml_master blockgroup;
1144     char buffer[2048];
1145
1146     while (data_size) {
1147         int duration = ass_get_duration(data);
1148         max_duration = FFMAX(duration, max_duration);
1149         end          = memchr(data, '\n', data_size);
1150         size         = line_size = end ? end - data + 1 : data_size;
1151         size        -= end ? (end[-1] == '\r') + 1 : 0;
1152         start        = data;
1153         for (i = 0; i < 3; i++, start++)
1154             if (!(start = memchr(start, ',', size - (start - data))))
1155                 return max_duration;
1156         size -= start - data;
1157         sscanf(data, "Dialogue: %d,", &layer);
1158         i = snprintf(buffer, sizeof(buffer), "%" PRId64 ",%d,",
1159                      s->streams[pkt->stream_index]->nb_frames, layer);
1160         size = FFMIN(i + size, sizeof(buffer));
1161         memcpy(buffer + i, start, size - i);
1162
1163         av_log(s, AV_LOG_DEBUG,
1164                "Writing block at offset %" PRIu64 ", size %d, "
1165                "pts %" PRId64 ", duration %d\n",
1166                avio_tell(pb), size, pkt->pts, duration);
1167         blockgroup = start_ebml_master(pb, MATROSKA_ID_BLOCKGROUP,
1168                                        mkv_blockgroup_size(size));
1169         put_ebml_id(pb, MATROSKA_ID_BLOCK);
1170         put_ebml_num(pb, size + 4, 0);
1171         // this assumes stream_index is less than 126
1172         avio_w8(pb, 0x80 | (pkt->stream_index + 1));
1173         avio_wb16(pb, pkt->pts - mkv->cluster_pts);
1174         avio_w8(pb, 0);
1175         avio_write(pb, buffer, size);
1176         put_ebml_uint(pb, MATROSKA_ID_BLOCKDURATION, duration);
1177         end_ebml_master(pb, blockgroup);
1178
1179         data      += line_size;
1180         data_size -= line_size;
1181     }
1182
1183     return max_duration;
1184 }
1185
1186 static int mkv_strip_wavpack(const uint8_t *src, uint8_t **pdst, int *size)
1187 {
1188     uint8_t *dst;
1189     int srclen = *size;
1190     int offset = 0;
1191     int ret;
1192
1193     dst = av_malloc(srclen);
1194     if (!dst)
1195         return AVERROR(ENOMEM);
1196
1197     while (srclen >= WV_HEADER_SIZE) {
1198         WvHeader header;
1199
1200         ret = ff_wv_parse_header(&header, src);
1201         if (ret < 0)
1202             goto fail;
1203         src    += WV_HEADER_SIZE;
1204         srclen -= WV_HEADER_SIZE;
1205
1206         if (srclen < header.blocksize) {
1207             ret = AVERROR_INVALIDDATA;
1208             goto fail;
1209         }
1210
1211         if (header.initial) {
1212             AV_WL32(dst + offset, header.samples);
1213             offset += 4;
1214         }
1215         AV_WL32(dst + offset,     header.flags);
1216         AV_WL32(dst + offset + 4, header.crc);
1217         offset += 8;
1218
1219         if (!(header.initial && header.final)) {
1220             AV_WL32(dst + offset, header.blocksize);
1221             offset += 4;
1222         }
1223
1224         memcpy(dst + offset, src, header.blocksize);
1225         src    += header.blocksize;
1226         srclen -= header.blocksize;
1227         offset += header.blocksize;
1228     }
1229
1230     *pdst = dst;
1231     *size = offset;
1232
1233     return 0;
1234 fail:
1235     av_freep(&dst);
1236     return ret;
1237 }
1238
1239 static void mkv_write_block(AVFormatContext *s, AVIOContext *pb,
1240                             unsigned int blockid, AVPacket *pkt, int flags)
1241 {
1242     MatroskaMuxContext *mkv = s->priv_data;
1243     AVCodecContext *codec = s->streams[pkt->stream_index]->codec;
1244     uint8_t *data = NULL;
1245     int offset = 0, size = pkt->size;
1246     int64_t ts = mkv->tracks[pkt->stream_index].write_dts ? pkt->dts : pkt->pts;
1247
1248     av_log(s, AV_LOG_DEBUG, "Writing block at offset %" PRIu64 ", size %d, "
1249            "pts %" PRId64 ", dts %" PRId64 ", duration %d, flags %d\n",
1250            avio_tell(pb), pkt->size, pkt->pts, pkt->dts, pkt->duration, flags);
1251     if (codec->codec_id == AV_CODEC_ID_H264 && codec->extradata_size > 0 &&
1252         (AV_RB24(codec->extradata) == 1 || AV_RB32(codec->extradata) == 1))
1253         ff_avc_parse_nal_units_buf(pkt->data, &data, &size);
1254     else if (codec->codec_id == AV_CODEC_ID_HEVC && codec->extradata_size > 6 &&
1255              (AV_RB24(codec->extradata) == 1 || AV_RB32(codec->extradata) == 1))
1256         /* extradata is Annex B, assume the bitstream is too and convert it */
1257         ff_hevc_annexb2mp4_buf(pkt->data, &data, &size, 0, NULL);
1258     else if (codec->codec_id == AV_CODEC_ID_WAVPACK) {
1259         int ret = mkv_strip_wavpack(pkt->data, &data, &size);
1260         if (ret < 0) {
1261             av_log(s, AV_LOG_ERROR, "Error stripping a WavPack packet.\n");
1262             return;
1263         }
1264     } else
1265         data = pkt->data;
1266
1267     if (codec->codec_id == AV_CODEC_ID_PRORES) {
1268         /* Matroska specification requires to remove the first QuickTime atom
1269          */
1270         size  -= 8;
1271         offset = 8;
1272     }
1273
1274     put_ebml_id(pb, blockid);
1275     put_ebml_num(pb, size + 4, 0);
1276     // this assumes stream_index is less than 126
1277     avio_w8(pb, 0x80 | (pkt->stream_index + 1));
1278     avio_wb16(pb, ts - mkv->cluster_pts);
1279     avio_w8(pb, flags);
1280     avio_write(pb, data + offset, size);
1281     if (data != pkt->data)
1282         av_free(data);
1283 }
1284
1285 static int srt_get_duration(uint8_t **buf)
1286 {
1287     int i, duration = 0;
1288
1289     for (i = 0; i < 2 && !duration; i++) {
1290         int s_hour, s_min, s_sec, s_hsec, e_hour, e_min, e_sec, e_hsec;
1291         if (sscanf(*buf, "%d:%2d:%2d%*1[,.]%3d --> %d:%2d:%2d%*1[,.]%3d",
1292                    &s_hour, &s_min, &s_sec, &s_hsec,
1293                    &e_hour, &e_min, &e_sec, &e_hsec) == 8) {
1294             s_min += 60 * s_hour;
1295             e_min += 60 * e_hour;
1296             s_sec += 60 * s_min;
1297
1298             e_sec  += 60 * e_min;
1299             s_hsec += 1000 * s_sec;
1300             e_hsec += 1000 * e_sec;
1301
1302             duration = e_hsec - s_hsec;
1303         }
1304         *buf += strcspn(*buf, "\n") + 1;
1305     }
1306     return duration;
1307 }
1308
1309 static int mkv_write_srt_blocks(AVFormatContext *s, AVIOContext *pb,
1310                                 AVPacket *pkt)
1311 {
1312     ebml_master blockgroup;
1313     AVPacket pkt2 = *pkt;
1314     int64_t duration = srt_get_duration(&pkt2.data);
1315     pkt2.size -= pkt2.data - pkt->data;
1316
1317     blockgroup = start_ebml_master(pb, MATROSKA_ID_BLOCKGROUP,
1318                                    mkv_blockgroup_size(pkt2.size));
1319     mkv_write_block(s, pb, MATROSKA_ID_BLOCK, &pkt2, 0);
1320     put_ebml_uint(pb, MATROSKA_ID_BLOCKDURATION, duration);
1321     end_ebml_master(pb, blockgroup);
1322
1323     return duration;
1324 }
1325
1326 static void mkv_flush_dynbuf(AVFormatContext *s)
1327 {
1328     MatroskaMuxContext *mkv = s->priv_data;
1329     int bufsize;
1330     uint8_t *dyn_buf;
1331
1332     if (!mkv->dyn_bc)
1333         return;
1334
1335     bufsize = avio_close_dyn_buf(mkv->dyn_bc, &dyn_buf);
1336     avio_write(s->pb, dyn_buf, bufsize);
1337     av_free(dyn_buf);
1338     mkv->dyn_bc = NULL;
1339 }
1340
1341 static int mkv_write_packet_internal(AVFormatContext *s, AVPacket *pkt)
1342 {
1343     MatroskaMuxContext *mkv = s->priv_data;
1344     AVIOContext *pb         = s->pb;
1345     AVCodecContext *codec   = s->streams[pkt->stream_index]->codec;
1346     int keyframe            = !!(pkt->flags & AV_PKT_FLAG_KEY);
1347     int duration            = pkt->duration;
1348     int ret;
1349     int64_t ts = mkv->tracks[pkt->stream_index].write_dts ? pkt->dts : pkt->pts;
1350
1351     if (ts == AV_NOPTS_VALUE) {
1352         av_log(s, AV_LOG_ERROR, "Can't write packet with unknown timestamp\n");
1353         return AVERROR(EINVAL);
1354     }
1355     ts += mkv->tracks[pkt->stream_index].ts_offset;
1356
1357     if (!s->pb->seekable) {
1358         if (!mkv->dyn_bc)
1359             avio_open_dyn_buf(&mkv->dyn_bc);
1360         pb = mkv->dyn_bc;
1361     }
1362
1363     if (!mkv->cluster_pos) {
1364         mkv->cluster_pos = avio_tell(s->pb);
1365         mkv->cluster     = start_ebml_master(pb, MATROSKA_ID_CLUSTER, 0);
1366         put_ebml_uint(pb, MATROSKA_ID_CLUSTERTIMECODE, FFMAX(0, ts));
1367         mkv->cluster_pts = FFMAX(0, ts);
1368     }
1369
1370     if (codec->codec_type != AVMEDIA_TYPE_SUBTITLE) {
1371         mkv_write_block(s, pb, MATROSKA_ID_SIMPLEBLOCK, pkt, keyframe << 7);
1372     } else if (codec->codec_id == AV_CODEC_ID_SSA) {
1373         duration = mkv_write_ass_blocks(s, pb, pkt);
1374     } else if (codec->codec_id == AV_CODEC_ID_SRT) {
1375         duration = mkv_write_srt_blocks(s, pb, pkt);
1376     } else {
1377         ebml_master blockgroup = start_ebml_master(pb, MATROSKA_ID_BLOCKGROUP,
1378                                                    mkv_blockgroup_size(pkt->size));
1379         duration = pkt->convergence_duration;
1380         mkv_write_block(s, pb, MATROSKA_ID_BLOCK, pkt, 0);
1381         put_ebml_uint(pb, MATROSKA_ID_BLOCKDURATION, duration);
1382         end_ebml_master(pb, blockgroup);
1383     }
1384
1385     if (codec->codec_type == AVMEDIA_TYPE_VIDEO && keyframe) {
1386         ret = mkv_add_cuepoint(mkv->cues, pkt->stream_index, ts,
1387                                mkv->cluster_pos);
1388         if (ret < 0)
1389             return ret;
1390     }
1391
1392     mkv->duration = FFMAX(mkv->duration, ts + duration);
1393     return 0;
1394 }
1395
1396 static int mkv_write_packet(AVFormatContext *s, AVPacket *pkt)
1397 {
1398     MatroskaMuxContext *mkv = s->priv_data;
1399     int codec_type          = s->streams[pkt->stream_index]->codec->codec_type;
1400     int keyframe            = !!(pkt->flags & AV_PKT_FLAG_KEY);
1401     int cluster_size;
1402     int64_t cluster_time;
1403     AVIOContext *pb;
1404     int ret;
1405
1406     if (mkv->tracks[pkt->stream_index].write_dts)
1407         cluster_time = pkt->dts - mkv->cluster_pts;
1408     else
1409         cluster_time = pkt->pts - mkv->cluster_pts;
1410     cluster_time += mkv->tracks[pkt->stream_index].ts_offset;
1411
1412     // start a new cluster every 5 MB or 5 sec, or 32k / 1 sec for streaming or
1413     // after 4k and on a keyframe
1414     if (s->pb->seekable) {
1415         pb = s->pb;
1416         cluster_size = avio_tell(pb) - mkv->cluster_pos;
1417     } else {
1418         pb = mkv->dyn_bc;
1419         cluster_size = avio_tell(pb);
1420     }
1421
1422     if (mkv->cluster_pos &&
1423         (cluster_size > mkv->cluster_size_limit ||
1424          cluster_time > mkv->cluster_time_limit ||
1425          (codec_type == AVMEDIA_TYPE_VIDEO && keyframe &&
1426           cluster_size > 4 * 1024))) {
1427         av_log(s, AV_LOG_DEBUG,
1428                "Starting new cluster at offset %" PRIu64 " bytes, "
1429                "pts %" PRIu64 "dts %" PRIu64 "\n",
1430                avio_tell(pb), pkt->pts, pkt->dts);
1431         end_ebml_master(pb, mkv->cluster);
1432         mkv->cluster_pos = 0;
1433         if (mkv->dyn_bc)
1434             mkv_flush_dynbuf(s);
1435         avio_flush(s->pb);
1436     }
1437
1438     // check if we have an audio packet cached
1439     if (mkv->cur_audio_pkt.size > 0) {
1440         ret = mkv_write_packet_internal(s, &mkv->cur_audio_pkt);
1441         av_free_packet(&mkv->cur_audio_pkt);
1442         if (ret < 0) {
1443             av_log(s, AV_LOG_ERROR,
1444                    "Could not write cached audio packet ret:%d\n", ret);
1445             return ret;
1446         }
1447     }
1448
1449     // buffer an audio packet to ensure the packet containing the video
1450     // keyframe's timecode is contained in the same cluster for WebM
1451     if (codec_type == AVMEDIA_TYPE_AUDIO) {
1452         mkv->cur_audio_pkt = *pkt;
1453         if (pkt->buf) {
1454             mkv->cur_audio_pkt.buf = av_buffer_ref(pkt->buf);
1455             ret = mkv->cur_audio_pkt.buf ? 0 : AVERROR(ENOMEM);
1456         } else
1457             ret = av_dup_packet(&mkv->cur_audio_pkt);
1458     } else
1459         ret = mkv_write_packet_internal(s, pkt);
1460     return ret;
1461 }
1462
1463 static int mkv_write_flush_packet(AVFormatContext *s, AVPacket *pkt)
1464 {
1465     MatroskaMuxContext *mkv = s->priv_data;
1466     AVIOContext *pb;
1467     if (s->pb->seekable)
1468         pb = s->pb;
1469     else
1470         pb = mkv->dyn_bc;
1471     if (!pkt) {
1472         if (mkv->cluster_pos) {
1473             av_log(s, AV_LOG_DEBUG,
1474                    "Flushing cluster at offset %" PRIu64 " bytes\n",
1475                    avio_tell(pb));
1476             end_ebml_master(pb, mkv->cluster);
1477             mkv->cluster_pos = 0;
1478             if (mkv->dyn_bc)
1479                 mkv_flush_dynbuf(s);
1480             avio_flush(s->pb);
1481         }
1482         return 0;
1483     }
1484     return mkv_write_packet(s, pkt);
1485 }
1486
1487 static int mkv_write_trailer(AVFormatContext *s)
1488 {
1489     MatroskaMuxContext *mkv = s->priv_data;
1490     AVIOContext *pb = s->pb;
1491     int64_t currentpos, cuespos;
1492     int ret;
1493
1494     // check if we have an audio packet cached
1495     if (mkv->cur_audio_pkt.size > 0) {
1496         ret = mkv_write_packet_internal(s, &mkv->cur_audio_pkt);
1497         av_free_packet(&mkv->cur_audio_pkt);
1498         if (ret < 0) {
1499             av_log(s, AV_LOG_ERROR,
1500                    "Could not write cached audio packet ret:%d\n", ret);
1501             return ret;
1502         }
1503     }
1504
1505     if (mkv->dyn_bc) {
1506         end_ebml_master(mkv->dyn_bc, mkv->cluster);
1507         mkv_flush_dynbuf(s);
1508     } else if (mkv->cluster_pos) {
1509         end_ebml_master(pb, mkv->cluster);
1510     }
1511
1512     if (mkv->mode != MODE_WEBM) {
1513         ret = mkv_write_chapters(s);
1514         if (ret < 0)
1515             return ret;
1516     }
1517
1518     if (pb->seekable) {
1519         if (mkv->cues->num_entries) {
1520             if (mkv->reserve_cues_space) {
1521                 int64_t cues_end;
1522
1523                 currentpos = avio_tell(pb);
1524                 avio_seek(pb, mkv->cues_pos, SEEK_SET);
1525
1526                 cuespos  = mkv_write_cues(pb, mkv->cues, s->nb_streams);
1527                 cues_end = avio_tell(pb);
1528                 if (cues_end > cuespos + mkv->reserve_cues_space) {
1529                     av_log(s, AV_LOG_ERROR,
1530                            "Insufficient space reserved for cues: %d "
1531                            "(needed: %" PRId64 ").\n",
1532                            mkv->reserve_cues_space, cues_end - cuespos);
1533                     return AVERROR(EINVAL);
1534                 }
1535
1536                 if (cues_end < cuespos + mkv->reserve_cues_space)
1537                     put_ebml_void(pb, mkv->reserve_cues_space -
1538                                   (cues_end - cuespos));
1539
1540                 avio_seek(pb, currentpos, SEEK_SET);
1541             } else {
1542                 cuespos = mkv_write_cues(pb, mkv->cues, s->nb_streams);
1543             }
1544
1545             ret = mkv_add_seekhead_entry(mkv->main_seekhead, MATROSKA_ID_CUES,
1546                                          cuespos);
1547             if (ret < 0)
1548                 return ret;
1549         }
1550
1551         mkv_write_seekhead(pb, mkv->main_seekhead);
1552
1553         // update the duration
1554         av_log(s, AV_LOG_DEBUG, "end duration = %" PRIu64 "\n", mkv->duration);
1555         currentpos = avio_tell(pb);
1556         avio_seek(pb, mkv->duration_offset, SEEK_SET);
1557         put_ebml_float(pb, MATROSKA_ID_DURATION, mkv->duration);
1558
1559         avio_seek(pb, currentpos, SEEK_SET);
1560     }
1561
1562     end_ebml_master(pb, mkv->segment);
1563     av_free(mkv->tracks);
1564     av_freep(&mkv->cues->entries);
1565     av_freep(&mkv->cues);
1566
1567     return 0;
1568 }
1569
1570 static int mkv_query_codec(enum AVCodecID codec_id, int std_compliance)
1571 {
1572     int i;
1573     for (i = 0; ff_mkv_codec_tags[i].id != AV_CODEC_ID_NONE; i++)
1574         if (ff_mkv_codec_tags[i].id == codec_id)
1575             return 1;
1576
1577     if (std_compliance < FF_COMPLIANCE_NORMAL) {
1578         enum AVMediaType type = avcodec_get_type(codec_id);
1579         // mkv theoretically supports any video/audio through VFW/ACM
1580         if (type == AVMEDIA_TYPE_VIDEO || type == AVMEDIA_TYPE_AUDIO)
1581             return 1;
1582     }
1583
1584     return 0;
1585 }
1586
1587 #define OFFSET(x) offsetof(MatroskaMuxContext, x)
1588 #define FLAGS AV_OPT_FLAG_ENCODING_PARAM
1589 static const AVOption options[] = {
1590     { "reserve_index_space", "Reserve a given amount of space (in bytes) at the beginning of the file for the index (cues).", OFFSET(reserve_cues_space), AV_OPT_TYPE_INT,   { .i64 = 0 },   0, INT_MAX,   FLAGS },
1591     { "cluster_size_limit",  "Store at most the provided amount of bytes in a cluster. ",                                     OFFSET(cluster_size_limit), AV_OPT_TYPE_INT  , { .i64 = -1 }, -1, INT_MAX,   FLAGS },
1592     { "cluster_time_limit",  "Store at most the provided number of milliseconds in a cluster.",                               OFFSET(cluster_time_limit), AV_OPT_TYPE_INT64, { .i64 = -1 }, -1, INT64_MAX, FLAGS },
1593     { NULL },
1594 };
1595
1596 #if CONFIG_MATROSKA_MUXER
1597 static const AVClass matroska_class = {
1598     .class_name = "matroska muxer",
1599     .item_name  = av_default_item_name,
1600     .option     = options,
1601     .version    = LIBAVUTIL_VERSION_INT,
1602 };
1603
1604 AVOutputFormat ff_matroska_muxer = {
1605     .name              = "matroska",
1606     .long_name         = NULL_IF_CONFIG_SMALL("Matroska"),
1607     .mime_type         = "video/x-matroska",
1608     .extensions        = "mkv",
1609     .priv_data_size    = sizeof(MatroskaMuxContext),
1610     .audio_codec       = CONFIG_LIBVORBIS_ENCODER ?
1611                          AV_CODEC_ID_VORBIS : AV_CODEC_ID_AC3,
1612     .video_codec       = CONFIG_LIBX264_ENCODER ?
1613                          AV_CODEC_ID_H264 : AV_CODEC_ID_MPEG4,
1614     .write_header      = mkv_write_header,
1615     .write_packet      = mkv_write_flush_packet,
1616     .write_trailer     = mkv_write_trailer,
1617     .flags             = AVFMT_GLOBALHEADER | AVFMT_VARIABLE_FPS |
1618                          AVFMT_TS_NONSTRICT | AVFMT_ALLOW_FLUSH,
1619     .codec_tag         = (const AVCodecTag* const []){
1620          ff_codec_bmp_tags, ff_codec_wav_tags, 0
1621     },
1622     .subtitle_codec    = AV_CODEC_ID_SSA,
1623     .query_codec       = mkv_query_codec,
1624     .priv_class        = &matroska_class,
1625 };
1626 #endif
1627
1628 #if CONFIG_WEBM_MUXER
1629 static const AVClass webm_class = {
1630     .class_name = "webm muxer",
1631     .item_name  = av_default_item_name,
1632     .option     = options,
1633     .version    = LIBAVUTIL_VERSION_INT,
1634 };
1635
1636 AVOutputFormat ff_webm_muxer = {
1637     .name              = "webm",
1638     .long_name         = NULL_IF_CONFIG_SMALL("WebM"),
1639     .mime_type         = "video/webm",
1640     .extensions        = "webm",
1641     .priv_data_size    = sizeof(MatroskaMuxContext),
1642     .audio_codec       = AV_CODEC_ID_VORBIS,
1643     .video_codec       = AV_CODEC_ID_VP8,
1644     .write_header      = mkv_write_header,
1645     .write_packet      = mkv_write_flush_packet,
1646     .write_trailer     = mkv_write_trailer,
1647     .flags             = AVFMT_GLOBALHEADER | AVFMT_VARIABLE_FPS |
1648                          AVFMT_TS_NONSTRICT | AVFMT_ALLOW_FLUSH,
1649     .priv_class        = &webm_class,
1650 };
1651 #endif
1652
1653 #if CONFIG_MATROSKA_AUDIO_MUXER
1654 static const AVClass mka_class = {
1655     .class_name = "matroska audio muxer",
1656     .item_name  = av_default_item_name,
1657     .option     = options,
1658     .version    = LIBAVUTIL_VERSION_INT,
1659 };
1660 AVOutputFormat ff_matroska_audio_muxer = {
1661     .name              = "matroska",
1662     .long_name         = NULL_IF_CONFIG_SMALL("Matroska"),
1663     .mime_type         = "audio/x-matroska",
1664     .extensions        = "mka",
1665     .priv_data_size    = sizeof(MatroskaMuxContext),
1666     .audio_codec       = CONFIG_LIBVORBIS_ENCODER ?
1667                          AV_CODEC_ID_VORBIS : AV_CODEC_ID_AC3,
1668     .video_codec       = AV_CODEC_ID_NONE,
1669     .write_header      = mkv_write_header,
1670     .write_packet      = mkv_write_flush_packet,
1671     .write_trailer     = mkv_write_trailer,
1672     .flags             = AVFMT_GLOBALHEADER | AVFMT_TS_NONSTRICT |
1673                          AVFMT_ALLOW_FLUSH,
1674     .codec_tag         = (const AVCodecTag* const []){ ff_codec_wav_tags, 0 },
1675     .priv_class        = &mka_class,
1676 };
1677 #endif