Merge commit 'e4dc1000d7bbbcb5b45cf9849fc5315f19578e37'
[ffmpeg.git] / libavformat / mux.c
1 /*
2  * muxing functions for use within FFmpeg
3  * Copyright (c) 2000, 2001, 2002 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avformat.h"
23 #include "avio_internal.h"
24 #include "internal.h"
25 #include "libavcodec/internal.h"
26 #include "libavcodec/bytestream.h"
27 #include "libavutil/opt.h"
28 #include "libavutil/dict.h"
29 #include "libavutil/pixdesc.h"
30 #include "libavutil/timestamp.h"
31 #include "metadata.h"
32 #include "id3v2.h"
33 #include "libavutil/avassert.h"
34 #include "libavutil/avstring.h"
35 #include "libavutil/internal.h"
36 #include "libavutil/mathematics.h"
37 #include "libavutil/parseutils.h"
38 #include "libavutil/time.h"
39 #include "riff.h"
40 #include "audiointerleave.h"
41 #include "url.h"
42 #include <stdarg.h>
43 #if CONFIG_NETWORK
44 #include "network.h"
45 #endif
46
47 #undef NDEBUG
48 #include <assert.h>
49
50 /**
51  * @file
52  * muxing functions for use within libavformat
53  */
54
55 /* fraction handling */
56
57 /**
58  * f = val + (num / den) + 0.5.
59  *
60  * 'num' is normalized so that it is such as 0 <= num < den.
61  *
62  * @param f fractional number
63  * @param val integer value
64  * @param num must be >= 0
65  * @param den must be >= 1
66  */
67 static void frac_init(AVFrac *f, int64_t val, int64_t num, int64_t den)
68 {
69     num += (den >> 1);
70     if (num >= den) {
71         val += num / den;
72         num  = num % den;
73     }
74     f->val = val;
75     f->num = num;
76     f->den = den;
77 }
78
79 /**
80  * Fractional addition to f: f = f + (incr / f->den).
81  *
82  * @param f fractional number
83  * @param incr increment, can be positive or negative
84  */
85 static void frac_add(AVFrac *f, int64_t incr)
86 {
87     int64_t num, den;
88
89     num = f->num + incr;
90     den = f->den;
91     if (num < 0) {
92         f->val += num / den;
93         num     = num % den;
94         if (num < 0) {
95             num += den;
96             f->val--;
97         }
98     } else if (num >= den) {
99         f->val += num / den;
100         num     = num % den;
101     }
102     f->num = num;
103 }
104
105 AVRational ff_choose_timebase(AVFormatContext *s, AVStream *st, int min_precision)
106 {
107     AVRational q;
108     int j;
109
110     if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
111         q = (AVRational){1, st->codec->sample_rate};
112     } else {
113         q = st->codec->time_base;
114     }
115     for (j=2; j<14; j+= 1+(j>2))
116         while (q.den / q.num < min_precision && q.num % j == 0)
117             q.num /= j;
118     while (q.den / q.num < min_precision && q.den < (1<<24))
119         q.den <<= 1;
120
121     return q;
122 }
123
124 int avformat_alloc_output_context2(AVFormatContext **avctx, AVOutputFormat *oformat,
125                                    const char *format, const char *filename)
126 {
127     AVFormatContext *s = avformat_alloc_context();
128     int ret = 0;
129
130     *avctx = NULL;
131     if (!s)
132         goto nomem;
133
134     if (!oformat) {
135         if (format) {
136             oformat = av_guess_format(format, NULL, NULL);
137             if (!oformat) {
138                 av_log(s, AV_LOG_ERROR, "Requested output format '%s' is not a suitable output format\n", format);
139                 ret = AVERROR(EINVAL);
140                 goto error;
141             }
142         } else {
143             oformat = av_guess_format(NULL, filename, NULL);
144             if (!oformat) {
145                 ret = AVERROR(EINVAL);
146                 av_log(s, AV_LOG_ERROR, "Unable to find a suitable output format for '%s'\n",
147                        filename);
148                 goto error;
149             }
150         }
151     }
152
153     s->oformat = oformat;
154     if (s->oformat->priv_data_size > 0) {
155         s->priv_data = av_mallocz(s->oformat->priv_data_size);
156         if (!s->priv_data)
157             goto nomem;
158         if (s->oformat->priv_class) {
159             *(const AVClass**)s->priv_data= s->oformat->priv_class;
160             av_opt_set_defaults(s->priv_data);
161         }
162     } else
163         s->priv_data = NULL;
164
165     if (filename)
166         av_strlcpy(s->filename, filename, sizeof(s->filename));
167     *avctx = s;
168     return 0;
169 nomem:
170     av_log(s, AV_LOG_ERROR, "Out of memory\n");
171     ret = AVERROR(ENOMEM);
172 error:
173     avformat_free_context(s);
174     return ret;
175 }
176
177 #if FF_API_ALLOC_OUTPUT_CONTEXT
178 AVFormatContext *avformat_alloc_output_context(const char *format,
179                                                AVOutputFormat *oformat, const char *filename)
180 {
181     AVFormatContext *avctx;
182     int ret = avformat_alloc_output_context2(&avctx, oformat, format, filename);
183     return ret < 0 ? NULL : avctx;
184 }
185 #endif
186
187 static int validate_codec_tag(AVFormatContext *s, AVStream *st)
188 {
189     const AVCodecTag *avctag;
190     int n;
191     enum AVCodecID id = AV_CODEC_ID_NONE;
192     int64_t tag  = -1;
193
194     /**
195      * Check that tag + id is in the table
196      * If neither is in the table -> OK
197      * If tag is in the table with another id -> FAIL
198      * If id is in the table with another tag -> FAIL unless strict < normal
199      */
200     for (n = 0; s->oformat->codec_tag[n]; n++) {
201         avctag = s->oformat->codec_tag[n];
202         while (avctag->id != AV_CODEC_ID_NONE) {
203             if (avpriv_toupper4(avctag->tag) == avpriv_toupper4(st->codec->codec_tag)) {
204                 id = avctag->id;
205                 if (id == st->codec->codec_id)
206                     return 1;
207             }
208             if (avctag->id == st->codec->codec_id)
209                 tag = avctag->tag;
210             avctag++;
211         }
212     }
213     if (id != AV_CODEC_ID_NONE)
214         return 0;
215     if (tag >= 0 && (st->codec->strict_std_compliance >= FF_COMPLIANCE_NORMAL))
216         return 0;
217     return 1;
218 }
219
220
221 static int init_muxer(AVFormatContext *s, AVDictionary **options)
222 {
223     int ret = 0, i;
224     AVStream *st;
225     AVDictionary *tmp = NULL;
226     AVCodecContext *codec = NULL;
227     AVOutputFormat *of = s->oformat;
228
229     if (options)
230         av_dict_copy(&tmp, *options, 0);
231
232     if ((ret = av_opt_set_dict(s, &tmp)) < 0)
233         goto fail;
234     if (s->priv_data && s->oformat->priv_class && *(const AVClass**)s->priv_data==s->oformat->priv_class &&
235         (ret = av_opt_set_dict2(s->priv_data, &tmp, AV_OPT_SEARCH_CHILDREN)) < 0)
236         goto fail;
237
238 #if FF_API_LAVF_BITEXACT
239     if (s->nb_streams && s->streams[0]->codec->flags & CODEC_FLAG_BITEXACT)
240         s->flags |= AVFMT_FLAG_BITEXACT;
241 #endif
242
243     // some sanity checks
244     if (s->nb_streams == 0 && !(of->flags & AVFMT_NOSTREAMS)) {
245         av_log(s, AV_LOG_ERROR, "No streams to mux were specified\n");
246         ret = AVERROR(EINVAL);
247         goto fail;
248     }
249
250     for (i = 0; i < s->nb_streams; i++) {
251         st    = s->streams[i];
252         codec = st->codec;
253
254         switch (codec->codec_type) {
255         case AVMEDIA_TYPE_AUDIO:
256             if (codec->sample_rate <= 0) {
257                 av_log(s, AV_LOG_ERROR, "sample rate not set\n");
258                 ret = AVERROR(EINVAL);
259                 goto fail;
260             }
261             if (!codec->block_align)
262                 codec->block_align = codec->channels *
263                                      av_get_bits_per_sample(codec->codec_id) >> 3;
264             break;
265         case AVMEDIA_TYPE_VIDEO:
266             if (codec->time_base.num <= 0 ||
267                 codec->time_base.den <= 0) { //FIXME audio too?
268                 av_log(s, AV_LOG_ERROR, "time base not set\n");
269                 ret = AVERROR(EINVAL);
270                 goto fail;
271             }
272
273             if ((codec->width <= 0 || codec->height <= 0) &&
274                 !(of->flags & AVFMT_NODIMENSIONS)) {
275                 av_log(s, AV_LOG_ERROR, "dimensions not set\n");
276                 ret = AVERROR(EINVAL);
277                 goto fail;
278             }
279             if (av_cmp_q(st->sample_aspect_ratio, codec->sample_aspect_ratio)
280                 && FFABS(av_q2d(st->sample_aspect_ratio) - av_q2d(codec->sample_aspect_ratio)) > 0.004*av_q2d(st->sample_aspect_ratio)
281             ) {
282                 if (st->sample_aspect_ratio.num != 0 &&
283                     st->sample_aspect_ratio.den != 0 &&
284                     codec->sample_aspect_ratio.den != 0 &&
285                     codec->sample_aspect_ratio.den != 0) {
286                     av_log(s, AV_LOG_ERROR, "Aspect ratio mismatch between muxer "
287                            "(%d/%d) and encoder layer (%d/%d)\n",
288                            st->sample_aspect_ratio.num, st->sample_aspect_ratio.den,
289                            codec->sample_aspect_ratio.num,
290                            codec->sample_aspect_ratio.den);
291                     ret = AVERROR(EINVAL);
292                     goto fail;
293                 }
294             }
295             break;
296         }
297
298         if (of->codec_tag) {
299             if (   codec->codec_tag
300                 && codec->codec_id == AV_CODEC_ID_RAWVIDEO
301                 && (   av_codec_get_tag(of->codec_tag, codec->codec_id) == 0
302                     || av_codec_get_tag(of->codec_tag, codec->codec_id) == MKTAG('r', 'a', 'w', ' '))
303                 && !validate_codec_tag(s, st)) {
304                 // the current rawvideo encoding system ends up setting
305                 // the wrong codec_tag for avi/mov, we override it here
306                 codec->codec_tag = 0;
307             }
308             if (codec->codec_tag) {
309                 if (!validate_codec_tag(s, st)) {
310                     char tagbuf[32], tagbuf2[32];
311                     av_get_codec_tag_string(tagbuf, sizeof(tagbuf), codec->codec_tag);
312                     av_get_codec_tag_string(tagbuf2, sizeof(tagbuf2), av_codec_get_tag(s->oformat->codec_tag, codec->codec_id));
313                     av_log(s, AV_LOG_ERROR,
314                            "Tag %s/0x%08x incompatible with output codec id '%d' (%s)\n",
315                            tagbuf, codec->codec_tag, codec->codec_id, tagbuf2);
316                     ret = AVERROR_INVALIDDATA;
317                     goto fail;
318                 }
319             } else
320                 codec->codec_tag = av_codec_get_tag(of->codec_tag, codec->codec_id);
321         }
322
323         if (of->flags & AVFMT_GLOBALHEADER &&
324             !(codec->flags & CODEC_FLAG_GLOBAL_HEADER))
325             av_log(s, AV_LOG_WARNING,
326                    "Codec for stream %d does not use global headers "
327                    "but container format requires global headers\n", i);
328
329         if (codec->codec_type != AVMEDIA_TYPE_ATTACHMENT)
330             s->internal->nb_interleaved_streams++;
331     }
332
333     if (!s->priv_data && of->priv_data_size > 0) {
334         s->priv_data = av_mallocz(of->priv_data_size);
335         if (!s->priv_data) {
336             ret = AVERROR(ENOMEM);
337             goto fail;
338         }
339         if (of->priv_class) {
340             *(const AVClass **)s->priv_data = of->priv_class;
341             av_opt_set_defaults(s->priv_data);
342             if ((ret = av_opt_set_dict2(s->priv_data, &tmp, AV_OPT_SEARCH_CHILDREN)) < 0)
343                 goto fail;
344         }
345     }
346
347     /* set muxer identification string */
348     if (!(s->flags & AVFMT_FLAG_BITEXACT)) {
349         av_dict_set(&s->metadata, "encoder", LIBAVFORMAT_IDENT, 0);
350     } else {
351         av_dict_set(&s->metadata, "encoder", NULL, 0);
352     }
353
354     if (options) {
355          av_dict_free(options);
356          *options = tmp;
357     }
358
359     return 0;
360
361 fail:
362     av_dict_free(&tmp);
363     return ret;
364 }
365
366 static int init_pts(AVFormatContext *s)
367 {
368     int i;
369     AVStream *st;
370
371     /* init PTS generation */
372     for (i = 0; i < s->nb_streams; i++) {
373         int64_t den = AV_NOPTS_VALUE;
374         st = s->streams[i];
375
376         switch (st->codec->codec_type) {
377         case AVMEDIA_TYPE_AUDIO:
378             den = (int64_t)st->time_base.num * st->codec->sample_rate;
379             break;
380         case AVMEDIA_TYPE_VIDEO:
381             den = (int64_t)st->time_base.num * st->codec->time_base.den;
382             break;
383         default:
384             break;
385         }
386         if (den != AV_NOPTS_VALUE) {
387             if (den <= 0)
388                 return AVERROR_INVALIDDATA;
389
390             frac_init(&st->pts, 0, 0, den);
391         }
392     }
393
394     return 0;
395 }
396
397 int avformat_write_header(AVFormatContext *s, AVDictionary **options)
398 {
399     int ret = 0;
400
401     if (ret = init_muxer(s, options))
402         return ret;
403
404     if (s->oformat->write_header) {
405         ret = s->oformat->write_header(s);
406         if (ret >= 0 && s->pb && s->pb->error < 0)
407             ret = s->pb->error;
408         if (ret < 0)
409             return ret;
410     }
411
412     if ((ret = init_pts(s)) < 0)
413         return ret;
414
415     if (s->avoid_negative_ts < 0) {
416         if (s->oformat->flags & (AVFMT_TS_NEGATIVE | AVFMT_NOTIMESTAMPS)) {
417             s->avoid_negative_ts = 0;
418         } else
419             s->avoid_negative_ts = 1;
420     }
421
422     return 0;
423 }
424
425 #define AV_PKT_FLAG_UNCODED_FRAME 0x2000
426
427 /* Note: using sizeof(AVFrame) from outside lavu is unsafe in general, but
428    it is only being used internally to this file as a consistency check.
429    The value is chosen to be very unlikely to appear on its own and to cause
430    immediate failure if used anywhere as a real size. */
431 #define UNCODED_FRAME_PACKET_SIZE (INT_MIN / 3 * 2 + (int)sizeof(AVFrame))
432
433
434 //FIXME merge with compute_pkt_fields
435 static int compute_pkt_fields2(AVFormatContext *s, AVStream *st, AVPacket *pkt)
436 {
437     int delay = FFMAX(st->codec->has_b_frames, st->codec->max_b_frames > 0);
438     int num, den, frame_size, i;
439
440     av_dlog(s, "compute_pkt_fields2: pts:%s dts:%s cur_dts:%s b:%d size:%d st:%d\n",
441             av_ts2str(pkt->pts), av_ts2str(pkt->dts), av_ts2str(st->cur_dts), delay, pkt->size, pkt->stream_index);
442
443     if (pkt->duration < 0 && st->codec->codec_type != AVMEDIA_TYPE_SUBTITLE) {
444         av_log(s, AV_LOG_WARNING, "Packet with invalid duration %d in stream %d\n",
445                pkt->duration, pkt->stream_index);
446         pkt->duration = 0;
447     }
448
449     /* duration field */
450     if (pkt->duration == 0) {
451         ff_compute_frame_duration(&num, &den, st, NULL, pkt);
452         if (den && num) {
453             pkt->duration = av_rescale(1, num * (int64_t)st->time_base.den * st->codec->ticks_per_frame, den * (int64_t)st->time_base.num);
454         }
455     }
456
457     if (pkt->pts == AV_NOPTS_VALUE && pkt->dts != AV_NOPTS_VALUE && delay == 0)
458         pkt->pts = pkt->dts;
459
460     //XXX/FIXME this is a temporary hack until all encoders output pts
461     if ((pkt->pts == 0 || pkt->pts == AV_NOPTS_VALUE) && pkt->dts == AV_NOPTS_VALUE && !delay) {
462         static int warned;
463         if (!warned) {
464             av_log(s, AV_LOG_WARNING, "Encoder did not produce proper pts, making some up.\n");
465             warned = 1;
466         }
467         pkt->dts =
468 //        pkt->pts= st->cur_dts;
469             pkt->pts = st->pts.val;
470     }
471
472     //calculate dts from pts
473     if (pkt->pts != AV_NOPTS_VALUE && pkt->dts == AV_NOPTS_VALUE && delay <= MAX_REORDER_DELAY) {
474         st->pts_buffer[0] = pkt->pts;
475         for (i = 1; i < delay + 1 && st->pts_buffer[i] == AV_NOPTS_VALUE; i++)
476             st->pts_buffer[i] = pkt->pts + (i - delay - 1) * pkt->duration;
477         for (i = 0; i<delay && st->pts_buffer[i] > st->pts_buffer[i + 1]; i++)
478             FFSWAP(int64_t, st->pts_buffer[i], st->pts_buffer[i + 1]);
479
480         pkt->dts = st->pts_buffer[0];
481     }
482
483     if (st->cur_dts && st->cur_dts != AV_NOPTS_VALUE &&
484         ((!(s->oformat->flags & AVFMT_TS_NONSTRICT) &&
485           st->cur_dts >= pkt->dts) || st->cur_dts > pkt->dts)) {
486         av_log(s, AV_LOG_ERROR,
487                "Application provided invalid, non monotonically increasing dts to muxer in stream %d: %s >= %s\n",
488                st->index, av_ts2str(st->cur_dts), av_ts2str(pkt->dts));
489         return AVERROR(EINVAL);
490     }
491     if (pkt->dts != AV_NOPTS_VALUE && pkt->pts != AV_NOPTS_VALUE && pkt->pts < pkt->dts) {
492         av_log(s, AV_LOG_ERROR, "pts (%s) < dts (%s) in stream %d\n",
493                av_ts2str(pkt->pts), av_ts2str(pkt->dts), st->index);
494         return AVERROR(EINVAL);
495     }
496
497     av_dlog(s, "av_write_frame: pts2:%s dts2:%s\n",
498             av_ts2str(pkt->pts), av_ts2str(pkt->dts));
499     st->cur_dts = pkt->dts;
500     st->pts.val = pkt->dts;
501
502     /* update pts */
503     switch (st->codec->codec_type) {
504     case AVMEDIA_TYPE_AUDIO:
505         frame_size = (pkt->flags & AV_PKT_FLAG_UNCODED_FRAME) ?
506                      ((AVFrame *)pkt->data)->nb_samples :
507                      ff_get_audio_frame_size(st->codec, pkt->size, 1);
508
509         /* HACK/FIXME, we skip the initial 0 size packets as they are most
510          * likely equal to the encoder delay, but it would be better if we
511          * had the real timestamps from the encoder */
512         if (frame_size >= 0 && (pkt->size || st->pts.num != st->pts.den >> 1 || st->pts.val)) {
513             frac_add(&st->pts, (int64_t)st->time_base.den * frame_size);
514         }
515         break;
516     case AVMEDIA_TYPE_VIDEO:
517         frac_add(&st->pts, (int64_t)st->time_base.den * st->codec->time_base.num);
518         break;
519     default:
520         break;
521     }
522     return 0;
523 }
524
525 /**
526  * Make timestamps non negative, move side data from payload to internal struct, call muxer, and restore
527  * sidedata.
528  *
529  * FIXME: this function should NEVER get undefined pts/dts beside when the
530  * AVFMT_NOTIMESTAMPS is set.
531  * Those additional safety checks should be dropped once the correct checks
532  * are set in the callers.
533  */
534 static int write_packet(AVFormatContext *s, AVPacket *pkt)
535 {
536     int ret, did_split;
537
538     if (s->output_ts_offset) {
539         AVStream *st = s->streams[pkt->stream_index];
540         int64_t offset = av_rescale_q(s->output_ts_offset, AV_TIME_BASE_Q, st->time_base);
541
542         if (pkt->dts != AV_NOPTS_VALUE)
543             pkt->dts += offset;
544         if (pkt->pts != AV_NOPTS_VALUE)
545             pkt->pts += offset;
546     }
547
548     if (s->avoid_negative_ts > 0) {
549         AVStream *st = s->streams[pkt->stream_index];
550         int64_t offset = st->mux_ts_offset;
551
552         if ((pkt->dts < 0 || s->avoid_negative_ts == 2) && pkt->dts != AV_NOPTS_VALUE && !s->offset) {
553             s->offset = -pkt->dts;
554             s->offset_timebase = st->time_base;
555         }
556
557         if (s->offset && !offset) {
558             offset = st->mux_ts_offset =
559                 av_rescale_q_rnd(s->offset,
560                                  s->offset_timebase,
561                                  st->time_base,
562                                  AV_ROUND_UP);
563         }
564
565         if (pkt->dts != AV_NOPTS_VALUE)
566             pkt->dts += offset;
567         if (pkt->pts != AV_NOPTS_VALUE)
568             pkt->pts += offset;
569
570         av_assert2(pkt->dts == AV_NOPTS_VALUE || pkt->dts >= 0);
571     }
572
573     did_split = av_packet_split_side_data(pkt);
574     if ((pkt->flags & AV_PKT_FLAG_UNCODED_FRAME)) {
575         AVFrame *frame = (AVFrame *)pkt->data;
576         av_assert0(pkt->size == UNCODED_FRAME_PACKET_SIZE);
577         ret = s->oformat->write_uncoded_frame(s, pkt->stream_index, &frame, 0);
578         av_frame_free(&frame);
579     } else {
580         ret = s->oformat->write_packet(s, pkt);
581     }
582
583     if (s->flush_packets && s->pb && ret >= 0 && s->flags & AVFMT_FLAG_FLUSH_PACKETS)
584         avio_flush(s->pb);
585
586     if (did_split)
587         av_packet_merge_side_data(pkt);
588
589     return ret;
590 }
591
592 static int check_packet(AVFormatContext *s, AVPacket *pkt)
593 {
594     if (!pkt)
595         return 0;
596
597     if (pkt->stream_index < 0 || pkt->stream_index >= s->nb_streams) {
598         av_log(s, AV_LOG_ERROR, "Invalid packet stream index: %d\n",
599                pkt->stream_index);
600         return AVERROR(EINVAL);
601     }
602
603     if (s->streams[pkt->stream_index]->codec->codec_type == AVMEDIA_TYPE_ATTACHMENT) {
604         av_log(s, AV_LOG_ERROR, "Received a packet for an attachment stream.\n");
605         return AVERROR(EINVAL);
606     }
607
608     return 0;
609 }
610
611 int av_write_frame(AVFormatContext *s, AVPacket *pkt)
612 {
613     int ret;
614
615     ret = check_packet(s, pkt);
616     if (ret < 0)
617         return ret;
618
619     if (!pkt) {
620         if (s->oformat->flags & AVFMT_ALLOW_FLUSH) {
621             ret = s->oformat->write_packet(s, NULL);
622             if (s->flush_packets && s->pb && s->pb->error >= 0)
623                 avio_flush(s->pb);
624             if (ret >= 0 && s->pb && s->pb->error < 0)
625                 ret = s->pb->error;
626             return ret;
627         }
628         return 1;
629     }
630
631     ret = compute_pkt_fields2(s, s->streams[pkt->stream_index], pkt);
632
633     if (ret < 0 && !(s->oformat->flags & AVFMT_NOTIMESTAMPS))
634         return ret;
635
636     ret = write_packet(s, pkt);
637     if (ret >= 0 && s->pb && s->pb->error < 0)
638         ret = s->pb->error;
639
640     if (ret >= 0)
641         s->streams[pkt->stream_index]->nb_frames++;
642     return ret;
643 }
644
645 #define CHUNK_START 0x1000
646
647 int ff_interleave_add_packet(AVFormatContext *s, AVPacket *pkt,
648                               int (*compare)(AVFormatContext *, AVPacket *, AVPacket *))
649 {
650     AVPacketList **next_point, *this_pktl;
651     AVStream *st   = s->streams[pkt->stream_index];
652     int chunked    = s->max_chunk_size || s->max_chunk_duration;
653     int ret;
654
655     this_pktl      = av_mallocz(sizeof(AVPacketList));
656     if (!this_pktl)
657         return AVERROR(ENOMEM);
658     this_pktl->pkt = *pkt;
659 #if FF_API_DESTRUCT_PACKET
660 FF_DISABLE_DEPRECATION_WARNINGS
661     pkt->destruct  = NULL;           // do not free original but only the copy
662 FF_ENABLE_DEPRECATION_WARNINGS
663 #endif
664     pkt->buf       = NULL;
665     if ((pkt->flags & AV_PKT_FLAG_UNCODED_FRAME)) {
666         av_assert0(pkt->size == UNCODED_FRAME_PACKET_SIZE);
667         av_assert0(((AVFrame *)pkt->data)->buf);
668     } else {
669         // duplicate the packet if it uses non-allocated memory
670         if ((ret = av_dup_packet(&this_pktl->pkt)) < 0) {
671             av_free(this_pktl);
672             return ret;
673         }
674         av_copy_packet_side_data(&this_pktl->pkt, &this_pktl->pkt); // copy side data
675     }
676
677     if (s->streams[pkt->stream_index]->last_in_packet_buffer) {
678         next_point = &(st->last_in_packet_buffer->next);
679     } else {
680         next_point = &s->packet_buffer;
681     }
682
683     if (chunked) {
684         uint64_t max= av_rescale_q_rnd(s->max_chunk_duration, AV_TIME_BASE_Q, st->time_base, AV_ROUND_UP);
685         st->interleaver_chunk_size     += pkt->size;
686         st->interleaver_chunk_duration += pkt->duration;
687         if (   (s->max_chunk_size && st->interleaver_chunk_size > s->max_chunk_size)
688             || (max && st->interleaver_chunk_duration           > max)) {
689             st->interleaver_chunk_size      = 0;
690             this_pktl->pkt.flags |= CHUNK_START;
691             if (max && st->interleaver_chunk_duration > max) {
692                 int64_t syncoffset = (st->codec->codec_type == AVMEDIA_TYPE_VIDEO)*max/2;
693                 int64_t syncto = av_rescale(pkt->dts + syncoffset, 1, max)*max - syncoffset;
694
695                 st->interleaver_chunk_duration += (pkt->dts - syncto)/8 - max;
696             } else
697                 st->interleaver_chunk_duration = 0;
698         }
699     }
700     if (*next_point) {
701         if (chunked && !(this_pktl->pkt.flags & CHUNK_START))
702             goto next_non_null;
703
704         if (compare(s, &s->packet_buffer_end->pkt, pkt)) {
705             while (   *next_point
706                    && ((chunked && !((*next_point)->pkt.flags&CHUNK_START))
707                        || !compare(s, &(*next_point)->pkt, pkt)))
708                 next_point = &(*next_point)->next;
709             if (*next_point)
710                 goto next_non_null;
711         } else {
712             next_point = &(s->packet_buffer_end->next);
713         }
714     }
715     av_assert1(!*next_point);
716
717     s->packet_buffer_end = this_pktl;
718 next_non_null:
719
720     this_pktl->next = *next_point;
721
722     s->streams[pkt->stream_index]->last_in_packet_buffer =
723         *next_point                                      = this_pktl;
724     return 0;
725 }
726
727 static int interleave_compare_dts(AVFormatContext *s, AVPacket *next,
728                                   AVPacket *pkt)
729 {
730     AVStream *st  = s->streams[pkt->stream_index];
731     AVStream *st2 = s->streams[next->stream_index];
732     int comp      = av_compare_ts(next->dts, st2->time_base, pkt->dts,
733                                   st->time_base);
734     if (s->audio_preload && ((st->codec->codec_type == AVMEDIA_TYPE_AUDIO) != (st2->codec->codec_type == AVMEDIA_TYPE_AUDIO))) {
735         int64_t ts = av_rescale_q(pkt ->dts, st ->time_base, AV_TIME_BASE_Q) - s->audio_preload*(st ->codec->codec_type == AVMEDIA_TYPE_AUDIO);
736         int64_t ts2= av_rescale_q(next->dts, st2->time_base, AV_TIME_BASE_Q) - s->audio_preload*(st2->codec->codec_type == AVMEDIA_TYPE_AUDIO);
737         if (ts == ts2) {
738             ts= ( pkt ->dts* st->time_base.num*AV_TIME_BASE - s->audio_preload*(int64_t)(st ->codec->codec_type == AVMEDIA_TYPE_AUDIO)* st->time_base.den)*st2->time_base.den
739                -( next->dts*st2->time_base.num*AV_TIME_BASE - s->audio_preload*(int64_t)(st2->codec->codec_type == AVMEDIA_TYPE_AUDIO)*st2->time_base.den)* st->time_base.den;
740             ts2=0;
741         }
742         comp= (ts>ts2) - (ts<ts2);
743     }
744
745     if (comp == 0)
746         return pkt->stream_index < next->stream_index;
747     return comp > 0;
748 }
749
750 int ff_interleave_packet_per_dts(AVFormatContext *s, AVPacket *out,
751                                  AVPacket *pkt, int flush)
752 {
753     AVPacketList *pktl;
754     int stream_count = 0, noninterleaved_count = 0;
755     int i, ret;
756
757     if (pkt) {
758         ret = ff_interleave_add_packet(s, pkt, interleave_compare_dts);
759         if (ret < 0)
760             return ret;
761     }
762
763     for (i = 0; i < s->nb_streams; i++) {
764         if (s->streams[i]->last_in_packet_buffer) {
765             ++stream_count;
766         } else if (s->streams[i]->codec->codec_type == AVMEDIA_TYPE_SUBTITLE) {
767             ++noninterleaved_count;
768         }
769     }
770
771     if (s->internal->nb_interleaved_streams == stream_count)
772         flush = 1;
773
774     if (s->max_interleave_delta > 0 && s->packet_buffer && !flush) {
775         AVPacket *top_pkt = &s->packet_buffer->pkt;
776         int64_t delta_dts = INT64_MIN;
777         int64_t top_dts = av_rescale_q(top_pkt->dts,
778                                        s->streams[top_pkt->stream_index]->time_base,
779                                        AV_TIME_BASE_Q);
780
781         for (i = 0; i < s->nb_streams; i++) {
782             int64_t last_dts;
783             const AVPacketList *last = s->streams[i]->last_in_packet_buffer;
784
785             if (!last)
786                 continue;
787
788             last_dts = av_rescale_q(last->pkt.dts,
789                                     s->streams[i]->time_base,
790                                     AV_TIME_BASE_Q);
791             delta_dts = FFMAX(delta_dts, last_dts - top_dts);
792         }
793
794         if (delta_dts > s->max_interleave_delta) {
795             av_log(s, AV_LOG_DEBUG,
796                    "Delay between the first packet and last packet in the "
797                    "muxing queue is %"PRId64" > %"PRId64": forcing output\n",
798                    delta_dts, s->max_interleave_delta);
799             flush = 1;
800         }
801     }
802
803     if (stream_count && flush) {
804         AVStream *st;
805         pktl = s->packet_buffer;
806         *out = pktl->pkt;
807         st   = s->streams[out->stream_index];
808
809         s->packet_buffer = pktl->next;
810         if (!s->packet_buffer)
811             s->packet_buffer_end = NULL;
812
813         if (st->last_in_packet_buffer == pktl)
814             st->last_in_packet_buffer = NULL;
815         av_freep(&pktl);
816
817         return 1;
818     } else {
819         av_init_packet(out);
820         return 0;
821     }
822 }
823
824 /**
825  * Interleave an AVPacket correctly so it can be muxed.
826  * @param out the interleaved packet will be output here
827  * @param in the input packet
828  * @param flush 1 if no further packets are available as input and all
829  *              remaining packets should be output
830  * @return 1 if a packet was output, 0 if no packet could be output,
831  *         < 0 if an error occurred
832  */
833 static int interleave_packet(AVFormatContext *s, AVPacket *out, AVPacket *in, int flush)
834 {
835     if (s->oformat->interleave_packet) {
836         int ret = s->oformat->interleave_packet(s, out, in, flush);
837         if (in)
838             av_free_packet(in);
839         return ret;
840     } else
841         return ff_interleave_packet_per_dts(s, out, in, flush);
842 }
843
844 int av_interleaved_write_frame(AVFormatContext *s, AVPacket *pkt)
845 {
846     int ret, flush = 0;
847
848     ret = check_packet(s, pkt);
849     if (ret < 0)
850         goto fail;
851
852     if (pkt) {
853         AVStream *st = s->streams[pkt->stream_index];
854
855         av_dlog(s, "av_interleaved_write_frame size:%d dts:%s pts:%s\n",
856                 pkt->size, av_ts2str(pkt->dts), av_ts2str(pkt->pts));
857         if ((ret = compute_pkt_fields2(s, st, pkt)) < 0 && !(s->oformat->flags & AVFMT_NOTIMESTAMPS))
858             goto fail;
859
860         if (pkt->dts == AV_NOPTS_VALUE && !(s->oformat->flags & AVFMT_NOTIMESTAMPS)) {
861             ret = AVERROR(EINVAL);
862             goto fail;
863         }
864     } else {
865         av_dlog(s, "av_interleaved_write_frame FLUSH\n");
866         flush = 1;
867     }
868
869     for (;; ) {
870         AVPacket opkt;
871         int ret = interleave_packet(s, &opkt, pkt, flush);
872         if (pkt) {
873             memset(pkt, 0, sizeof(*pkt));
874             av_init_packet(pkt);
875             pkt = NULL;
876         }
877         if (ret <= 0) //FIXME cleanup needed for ret<0 ?
878             return ret;
879
880         ret = write_packet(s, &opkt);
881         if (ret >= 0)
882             s->streams[opkt.stream_index]->nb_frames++;
883
884         av_free_packet(&opkt);
885
886         if (ret < 0)
887             return ret;
888         if(s->pb && s->pb->error)
889             return s->pb->error;
890     }
891 fail:
892     av_packet_unref(pkt);
893     return ret;
894 }
895
896 int av_write_trailer(AVFormatContext *s)
897 {
898     int ret, i;
899
900     for (;; ) {
901         AVPacket pkt;
902         ret = interleave_packet(s, &pkt, NULL, 1);
903         if (ret < 0) //FIXME cleanup needed for ret<0 ?
904             goto fail;
905         if (!ret)
906             break;
907
908         ret = write_packet(s, &pkt);
909         if (ret >= 0)
910             s->streams[pkt.stream_index]->nb_frames++;
911
912         av_free_packet(&pkt);
913
914         if (ret < 0)
915             goto fail;
916         if(s->pb && s->pb->error)
917             goto fail;
918     }
919
920     if (s->oformat->write_trailer)
921         ret = s->oformat->write_trailer(s);
922
923 fail:
924     if (s->pb)
925        avio_flush(s->pb);
926     if (ret == 0)
927        ret = s->pb ? s->pb->error : 0;
928     for (i = 0; i < s->nb_streams; i++) {
929         av_freep(&s->streams[i]->priv_data);
930         av_freep(&s->streams[i]->index_entries);
931     }
932     if (s->oformat->priv_class)
933         av_opt_free(s->priv_data);
934     av_freep(&s->priv_data);
935     return ret;
936 }
937
938 int av_get_output_timestamp(struct AVFormatContext *s, int stream,
939                             int64_t *dts, int64_t *wall)
940 {
941     if (!s->oformat || !s->oformat->get_output_timestamp)
942         return AVERROR(ENOSYS);
943     s->oformat->get_output_timestamp(s, stream, dts, wall);
944     return 0;
945 }
946
947 int ff_write_chained(AVFormatContext *dst, int dst_stream, AVPacket *pkt,
948                      AVFormatContext *src)
949 {
950     AVPacket local_pkt;
951
952     local_pkt = *pkt;
953     local_pkt.stream_index = dst_stream;
954     if (pkt->pts != AV_NOPTS_VALUE)
955         local_pkt.pts = av_rescale_q(pkt->pts,
956                                      src->streams[pkt->stream_index]->time_base,
957                                      dst->streams[dst_stream]->time_base);
958     if (pkt->dts != AV_NOPTS_VALUE)
959         local_pkt.dts = av_rescale_q(pkt->dts,
960                                      src->streams[pkt->stream_index]->time_base,
961                                      dst->streams[dst_stream]->time_base);
962     if (pkt->duration)
963         local_pkt.duration = av_rescale_q(pkt->duration,
964                                           src->streams[pkt->stream_index]->time_base,
965                                           dst->streams[dst_stream]->time_base);
966     return av_write_frame(dst, &local_pkt);
967 }
968
969 static int av_write_uncoded_frame_internal(AVFormatContext *s, int stream_index,
970                                            AVFrame *frame, int interleaved)
971 {
972     AVPacket pkt, *pktp;
973
974     av_assert0(s->oformat);
975     if (!s->oformat->write_uncoded_frame)
976         return AVERROR(ENOSYS);
977
978     if (!frame) {
979         pktp = NULL;
980     } else {
981         pktp = &pkt;
982         av_init_packet(&pkt);
983         pkt.data = (void *)frame;
984         pkt.size         = UNCODED_FRAME_PACKET_SIZE;
985         pkt.pts          =
986         pkt.dts          = frame->pts;
987         pkt.duration     = av_frame_get_pkt_duration(frame);
988         pkt.stream_index = stream_index;
989         pkt.flags |= AV_PKT_FLAG_UNCODED_FRAME;
990     }
991
992     return interleaved ? av_interleaved_write_frame(s, pktp) :
993                          av_write_frame(s, pktp);
994 }
995
996 int av_write_uncoded_frame(AVFormatContext *s, int stream_index,
997                            AVFrame *frame)
998 {
999     return av_write_uncoded_frame_internal(s, stream_index, frame, 0);
1000 }
1001
1002 int av_interleaved_write_uncoded_frame(AVFormatContext *s, int stream_index,
1003                                        AVFrame *frame)
1004 {
1005     return av_write_uncoded_frame_internal(s, stream_index, frame, 1);
1006 }
1007
1008 int av_write_uncoded_frame_query(AVFormatContext *s, int stream_index)
1009 {
1010     av_assert0(s->oformat);
1011     if (!s->oformat->write_uncoded_frame)
1012         return AVERROR(ENOSYS);
1013     return s->oformat->write_uncoded_frame(s, stream_index, NULL,
1014                                            AV_WRITE_UNCODED_FRAME_QUERY);
1015 }