76bf008c73c2fb1a7f04067e81e2858523746e7d
[ffmpeg.git] / ffmpeg.c
1 /*
2  * Copyright (c) 2000-2003 Fabrice Bellard
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * multimedia converter based on the FFmpeg libraries
24  */
25
26 #include "config.h"
27 #include <ctype.h>
28 #include <string.h>
29 #include <math.h>
30 #include <stdlib.h>
31 #include <errno.h>
32 #include <limits.h>
33 #include <stdatomic.h>
34 #include <stdint.h>
35
36 #if HAVE_IO_H
37 #include <io.h>
38 #endif
39 #if HAVE_UNISTD_H
40 #include <unistd.h>
41 #endif
42
43 #include "libavformat/avformat.h"
44 #include "libavdevice/avdevice.h"
45 #include "libswresample/swresample.h"
46 #include "libavutil/opt.h"
47 #include "libavutil/channel_layout.h"
48 #include "libavutil/parseutils.h"
49 #include "libavutil/samplefmt.h"
50 #include "libavutil/fifo.h"
51 #include "libavutil/hwcontext.h"
52 #include "libavutil/internal.h"
53 #include "libavutil/intreadwrite.h"
54 #include "libavutil/dict.h"
55 #include "libavutil/display.h"
56 #include "libavutil/mathematics.h"
57 #include "libavutil/pixdesc.h"
58 #include "libavutil/avstring.h"
59 #include "libavutil/libm.h"
60 #include "libavutil/imgutils.h"
61 #include "libavutil/timestamp.h"
62 #include "libavutil/bprint.h"
63 #include "libavutil/time.h"
64 #include "libavutil/threadmessage.h"
65 #include "libavcodec/mathops.h"
66 #include "libavformat/os_support.h"
67
68 # include "libavfilter/avfilter.h"
69 # include "libavfilter/buffersrc.h"
70 # include "libavfilter/buffersink.h"
71
72 #if HAVE_SYS_RESOURCE_H
73 #include <sys/time.h>
74 #include <sys/types.h>
75 #include <sys/resource.h>
76 #elif HAVE_GETPROCESSTIMES
77 #include <windows.h>
78 #endif
79 #if HAVE_GETPROCESSMEMORYINFO
80 #include <windows.h>
81 #include <psapi.h>
82 #endif
83 #if HAVE_SETCONSOLECTRLHANDLER
84 #include <windows.h>
85 #endif
86
87
88 #if HAVE_SYS_SELECT_H
89 #include <sys/select.h>
90 #endif
91
92 #if HAVE_TERMIOS_H
93 #include <fcntl.h>
94 #include <sys/ioctl.h>
95 #include <sys/time.h>
96 #include <termios.h>
97 #elif HAVE_KBHIT
98 #include <conio.h>
99 #endif
100
101 #if HAVE_PTHREADS
102 #include <pthread.h>
103 #endif
104
105 #include <time.h>
106
107 #include "ffmpeg.h"
108 #include "cmdutils.h"
109
110 #include "libavutil/avassert.h"
111
112 const char program_name[] = "ffmpeg";
113 const int program_birth_year = 2000;
114
115 static FILE *vstats_file;
116
117 const char *const forced_keyframes_const_names[] = {
118     "n",
119     "n_forced",
120     "prev_forced_n",
121     "prev_forced_t",
122     "t",
123     NULL
124 };
125
126 static void do_video_stats(OutputStream *ost, int frame_size);
127 static int64_t getutime(void);
128 static int64_t getmaxrss(void);
129 static int ifilter_has_all_input_formats(FilterGraph *fg);
130
131 static int run_as_daemon  = 0;
132 static int nb_frames_dup = 0;
133 static unsigned dup_warning = 1000;
134 static int nb_frames_drop = 0;
135 static int64_t decode_error_stat[2];
136
137 static int want_sdp = 1;
138
139 static int current_time;
140 AVIOContext *progress_avio = NULL;
141
142 static uint8_t *subtitle_out;
143
144 InputStream **input_streams = NULL;
145 int        nb_input_streams = 0;
146 InputFile   **input_files   = NULL;
147 int        nb_input_files   = 0;
148
149 OutputStream **output_streams = NULL;
150 int         nb_output_streams = 0;
151 OutputFile   **output_files   = NULL;
152 int         nb_output_files   = 0;
153
154 FilterGraph **filtergraphs;
155 int        nb_filtergraphs;
156
157 #if HAVE_TERMIOS_H
158
159 /* init terminal so that we can grab keys */
160 static struct termios oldtty;
161 static int restore_tty;
162 #endif
163
164 #if HAVE_PTHREADS
165 static void free_input_threads(void);
166 #endif
167
168 /* sub2video hack:
169    Convert subtitles to video with alpha to insert them in filter graphs.
170    This is a temporary solution until libavfilter gets real subtitles support.
171  */
172
173 static int sub2video_get_blank_frame(InputStream *ist)
174 {
175     int ret;
176     AVFrame *frame = ist->sub2video.frame;
177
178     av_frame_unref(frame);
179     ist->sub2video.frame->width  = ist->dec_ctx->width  ? ist->dec_ctx->width  : ist->sub2video.w;
180     ist->sub2video.frame->height = ist->dec_ctx->height ? ist->dec_ctx->height : ist->sub2video.h;
181     ist->sub2video.frame->format = AV_PIX_FMT_RGB32;
182     if ((ret = av_frame_get_buffer(frame, 32)) < 0)
183         return ret;
184     memset(frame->data[0], 0, frame->height * frame->linesize[0]);
185     return 0;
186 }
187
188 static void sub2video_copy_rect(uint8_t *dst, int dst_linesize, int w, int h,
189                                 AVSubtitleRect *r)
190 {
191     uint32_t *pal, *dst2;
192     uint8_t *src, *src2;
193     int x, y;
194
195     if (r->type != SUBTITLE_BITMAP) {
196         av_log(NULL, AV_LOG_WARNING, "sub2video: non-bitmap subtitle\n");
197         return;
198     }
199     if (r->x < 0 || r->x + r->w > w || r->y < 0 || r->y + r->h > h) {
200         av_log(NULL, AV_LOG_WARNING, "sub2video: rectangle (%d %d %d %d) overflowing %d %d\n",
201             r->x, r->y, r->w, r->h, w, h
202         );
203         return;
204     }
205
206     dst += r->y * dst_linesize + r->x * 4;
207     src = r->data[0];
208     pal = (uint32_t *)r->data[1];
209     for (y = 0; y < r->h; y++) {
210         dst2 = (uint32_t *)dst;
211         src2 = src;
212         for (x = 0; x < r->w; x++)
213             *(dst2++) = pal[*(src2++)];
214         dst += dst_linesize;
215         src += r->linesize[0];
216     }
217 }
218
219 static void sub2video_push_ref(InputStream *ist, int64_t pts)
220 {
221     AVFrame *frame = ist->sub2video.frame;
222     int i;
223
224     av_assert1(frame->data[0]);
225     ist->sub2video.last_pts = frame->pts = pts;
226     for (i = 0; i < ist->nb_filters; i++)
227         av_buffersrc_add_frame_flags(ist->filters[i]->filter, frame,
228                                      AV_BUFFERSRC_FLAG_KEEP_REF |
229                                      AV_BUFFERSRC_FLAG_PUSH);
230 }
231
232 void sub2video_update(InputStream *ist, AVSubtitle *sub)
233 {
234     AVFrame *frame = ist->sub2video.frame;
235     int8_t *dst;
236     int     dst_linesize;
237     int num_rects, i;
238     int64_t pts, end_pts;
239
240     if (!frame)
241         return;
242     if (sub) {
243         pts       = av_rescale_q(sub->pts + sub->start_display_time * 1000LL,
244                                  AV_TIME_BASE_Q, ist->st->time_base);
245         end_pts   = av_rescale_q(sub->pts + sub->end_display_time   * 1000LL,
246                                  AV_TIME_BASE_Q, ist->st->time_base);
247         num_rects = sub->num_rects;
248     } else {
249         pts       = ist->sub2video.end_pts;
250         end_pts   = INT64_MAX;
251         num_rects = 0;
252     }
253     if (sub2video_get_blank_frame(ist) < 0) {
254         av_log(ist->dec_ctx, AV_LOG_ERROR,
255                "Impossible to get a blank canvas.\n");
256         return;
257     }
258     dst          = frame->data    [0];
259     dst_linesize = frame->linesize[0];
260     for (i = 0; i < num_rects; i++)
261         sub2video_copy_rect(dst, dst_linesize, frame->width, frame->height, sub->rects[i]);
262     sub2video_push_ref(ist, pts);
263     ist->sub2video.end_pts = end_pts;
264 }
265
266 static void sub2video_heartbeat(InputStream *ist, int64_t pts)
267 {
268     InputFile *infile = input_files[ist->file_index];
269     int i, j, nb_reqs;
270     int64_t pts2;
271
272     /* When a frame is read from a file, examine all sub2video streams in
273        the same file and send the sub2video frame again. Otherwise, decoded
274        video frames could be accumulating in the filter graph while a filter
275        (possibly overlay) is desperately waiting for a subtitle frame. */
276     for (i = 0; i < infile->nb_streams; i++) {
277         InputStream *ist2 = input_streams[infile->ist_index + i];
278         if (!ist2->sub2video.frame)
279             continue;
280         /* subtitles seem to be usually muxed ahead of other streams;
281            if not, subtracting a larger time here is necessary */
282         pts2 = av_rescale_q(pts, ist->st->time_base, ist2->st->time_base) - 1;
283         /* do not send the heartbeat frame if the subtitle is already ahead */
284         if (pts2 <= ist2->sub2video.last_pts)
285             continue;
286         if (pts2 >= ist2->sub2video.end_pts || !ist2->sub2video.frame->data[0])
287             sub2video_update(ist2, NULL);
288         for (j = 0, nb_reqs = 0; j < ist2->nb_filters; j++)
289             nb_reqs += av_buffersrc_get_nb_failed_requests(ist2->filters[j]->filter);
290         if (nb_reqs)
291             sub2video_push_ref(ist2, pts2);
292     }
293 }
294
295 static void sub2video_flush(InputStream *ist)
296 {
297     int i;
298
299     if (ist->sub2video.end_pts < INT64_MAX)
300         sub2video_update(ist, NULL);
301     for (i = 0; i < ist->nb_filters; i++)
302         av_buffersrc_add_frame(ist->filters[i]->filter, NULL);
303 }
304
305 /* end of sub2video hack */
306
307 static void term_exit_sigsafe(void)
308 {
309 #if HAVE_TERMIOS_H
310     if(restore_tty)
311         tcsetattr (0, TCSANOW, &oldtty);
312 #endif
313 }
314
315 void term_exit(void)
316 {
317     av_log(NULL, AV_LOG_QUIET, "%s", "");
318     term_exit_sigsafe();
319 }
320
321 static volatile int received_sigterm = 0;
322 static volatile int received_nb_signals = 0;
323 static atomic_int transcode_init_done = ATOMIC_VAR_INIT(0);
324 static volatile int ffmpeg_exited = 0;
325 static int main_return_code = 0;
326
327 static void
328 sigterm_handler(int sig)
329 {
330     received_sigterm = sig;
331     received_nb_signals++;
332     term_exit_sigsafe();
333     if(received_nb_signals > 3) {
334         write(2/*STDERR_FILENO*/, "Received > 3 system signals, hard exiting\n",
335                            strlen("Received > 3 system signals, hard exiting\n"));
336
337         exit(123);
338     }
339 }
340
341 #if HAVE_SETCONSOLECTRLHANDLER
342 static BOOL WINAPI CtrlHandler(DWORD fdwCtrlType)
343 {
344     av_log(NULL, AV_LOG_DEBUG, "\nReceived windows signal %ld\n", fdwCtrlType);
345
346     switch (fdwCtrlType)
347     {
348     case CTRL_C_EVENT:
349     case CTRL_BREAK_EVENT:
350         sigterm_handler(SIGINT);
351         return TRUE;
352
353     case CTRL_CLOSE_EVENT:
354     case CTRL_LOGOFF_EVENT:
355     case CTRL_SHUTDOWN_EVENT:
356         sigterm_handler(SIGTERM);
357         /* Basically, with these 3 events, when we return from this method the
358            process is hard terminated, so stall as long as we need to
359            to try and let the main thread(s) clean up and gracefully terminate
360            (we have at most 5 seconds, but should be done far before that). */
361         while (!ffmpeg_exited) {
362             Sleep(0);
363         }
364         return TRUE;
365
366     default:
367         av_log(NULL, AV_LOG_ERROR, "Received unknown windows signal %ld\n", fdwCtrlType);
368         return FALSE;
369     }
370 }
371 #endif
372
373 void term_init(void)
374 {
375 #if HAVE_TERMIOS_H
376     if (!run_as_daemon && stdin_interaction) {
377         struct termios tty;
378         if (tcgetattr (0, &tty) == 0) {
379             oldtty = tty;
380             restore_tty = 1;
381
382             tty.c_iflag &= ~(IGNBRK|BRKINT|PARMRK|ISTRIP
383                              |INLCR|IGNCR|ICRNL|IXON);
384             tty.c_oflag |= OPOST;
385             tty.c_lflag &= ~(ECHO|ECHONL|ICANON|IEXTEN);
386             tty.c_cflag &= ~(CSIZE|PARENB);
387             tty.c_cflag |= CS8;
388             tty.c_cc[VMIN] = 1;
389             tty.c_cc[VTIME] = 0;
390
391             tcsetattr (0, TCSANOW, &tty);
392         }
393         signal(SIGQUIT, sigterm_handler); /* Quit (POSIX).  */
394     }
395 #endif
396
397     signal(SIGINT , sigterm_handler); /* Interrupt (ANSI).    */
398     signal(SIGTERM, sigterm_handler); /* Termination (ANSI).  */
399 #ifdef SIGXCPU
400     signal(SIGXCPU, sigterm_handler);
401 #endif
402 #if HAVE_SETCONSOLECTRLHANDLER
403     SetConsoleCtrlHandler((PHANDLER_ROUTINE) CtrlHandler, TRUE);
404 #endif
405 }
406
407 /* read a key without blocking */
408 static int read_key(void)
409 {
410     unsigned char ch;
411 #if HAVE_TERMIOS_H
412     int n = 1;
413     struct timeval tv;
414     fd_set rfds;
415
416     FD_ZERO(&rfds);
417     FD_SET(0, &rfds);
418     tv.tv_sec = 0;
419     tv.tv_usec = 0;
420     n = select(1, &rfds, NULL, NULL, &tv);
421     if (n > 0) {
422         n = read(0, &ch, 1);
423         if (n == 1)
424             return ch;
425
426         return n;
427     }
428 #elif HAVE_KBHIT
429 #    if HAVE_PEEKNAMEDPIPE
430     static int is_pipe;
431     static HANDLE input_handle;
432     DWORD dw, nchars;
433     if(!input_handle){
434         input_handle = GetStdHandle(STD_INPUT_HANDLE);
435         is_pipe = !GetConsoleMode(input_handle, &dw);
436     }
437
438     if (is_pipe) {
439         /* When running under a GUI, you will end here. */
440         if (!PeekNamedPipe(input_handle, NULL, 0, NULL, &nchars, NULL)) {
441             // input pipe may have been closed by the program that ran ffmpeg
442             return -1;
443         }
444         //Read it
445         if(nchars != 0) {
446             read(0, &ch, 1);
447             return ch;
448         }else{
449             return -1;
450         }
451     }
452 #    endif
453     if(kbhit())
454         return(getch());
455 #endif
456     return -1;
457 }
458
459 static int decode_interrupt_cb(void *ctx)
460 {
461     return received_nb_signals > atomic_load(&transcode_init_done);
462 }
463
464 const AVIOInterruptCB int_cb = { decode_interrupt_cb, NULL };
465
466 static void ffmpeg_cleanup(int ret)
467 {
468     int i, j;
469
470     if (do_benchmark) {
471         int maxrss = getmaxrss() / 1024;
472         av_log(NULL, AV_LOG_INFO, "bench: maxrss=%ikB\n", maxrss);
473     }
474
475     for (i = 0; i < nb_filtergraphs; i++) {
476         FilterGraph *fg = filtergraphs[i];
477         avfilter_graph_free(&fg->graph);
478         for (j = 0; j < fg->nb_inputs; j++) {
479             while (av_fifo_size(fg->inputs[j]->frame_queue)) {
480                 AVFrame *frame;
481                 av_fifo_generic_read(fg->inputs[j]->frame_queue, &frame,
482                                      sizeof(frame), NULL);
483                 av_frame_free(&frame);
484             }
485             av_fifo_freep(&fg->inputs[j]->frame_queue);
486             if (fg->inputs[j]->ist->sub2video.sub_queue) {
487                 while (av_fifo_size(fg->inputs[j]->ist->sub2video.sub_queue)) {
488                     AVSubtitle sub;
489                     av_fifo_generic_read(fg->inputs[j]->ist->sub2video.sub_queue,
490                                          &sub, sizeof(sub), NULL);
491                     avsubtitle_free(&sub);
492                 }
493                 av_fifo_freep(&fg->inputs[j]->ist->sub2video.sub_queue);
494             }
495             av_buffer_unref(&fg->inputs[j]->hw_frames_ctx);
496             av_freep(&fg->inputs[j]->name);
497             av_freep(&fg->inputs[j]);
498         }
499         av_freep(&fg->inputs);
500         for (j = 0; j < fg->nb_outputs; j++) {
501             av_freep(&fg->outputs[j]->name);
502             av_freep(&fg->outputs[j]->formats);
503             av_freep(&fg->outputs[j]->channel_layouts);
504             av_freep(&fg->outputs[j]->sample_rates);
505             av_freep(&fg->outputs[j]);
506         }
507         av_freep(&fg->outputs);
508         av_freep(&fg->graph_desc);
509
510         av_freep(&filtergraphs[i]);
511     }
512     av_freep(&filtergraphs);
513
514     av_freep(&subtitle_out);
515
516     /* close files */
517     for (i = 0; i < nb_output_files; i++) {
518         OutputFile *of = output_files[i];
519         AVFormatContext *s;
520         if (!of)
521             continue;
522         s = of->ctx;
523         if (s && s->oformat && !(s->oformat->flags & AVFMT_NOFILE))
524             avio_closep(&s->pb);
525         avformat_free_context(s);
526         av_dict_free(&of->opts);
527
528         av_freep(&output_files[i]);
529     }
530     for (i = 0; i < nb_output_streams; i++) {
531         OutputStream *ost = output_streams[i];
532
533         if (!ost)
534             continue;
535
536         for (j = 0; j < ost->nb_bitstream_filters; j++)
537             av_bsf_free(&ost->bsf_ctx[j]);
538         av_freep(&ost->bsf_ctx);
539         av_freep(&ost->bsf_extradata_updated);
540
541         av_frame_free(&ost->filtered_frame);
542         av_frame_free(&ost->last_frame);
543         av_dict_free(&ost->encoder_opts);
544
545         av_parser_close(ost->parser);
546         avcodec_free_context(&ost->parser_avctx);
547
548         av_freep(&ost->forced_keyframes);
549         av_expr_free(ost->forced_keyframes_pexpr);
550         av_freep(&ost->avfilter);
551         av_freep(&ost->logfile_prefix);
552
553         av_freep(&ost->audio_channels_map);
554         ost->audio_channels_mapped = 0;
555
556         av_dict_free(&ost->sws_dict);
557
558         avcodec_free_context(&ost->enc_ctx);
559         avcodec_parameters_free(&ost->ref_par);
560
561         if (ost->muxing_queue) {
562             while (av_fifo_size(ost->muxing_queue)) {
563                 AVPacket pkt;
564                 av_fifo_generic_read(ost->muxing_queue, &pkt, sizeof(pkt), NULL);
565                 av_packet_unref(&pkt);
566             }
567             av_fifo_freep(&ost->muxing_queue);
568         }
569
570         av_freep(&output_streams[i]);
571     }
572 #if HAVE_PTHREADS
573     free_input_threads();
574 #endif
575     for (i = 0; i < nb_input_files; i++) {
576         avformat_close_input(&input_files[i]->ctx);
577         av_freep(&input_files[i]);
578     }
579     for (i = 0; i < nb_input_streams; i++) {
580         InputStream *ist = input_streams[i];
581
582         av_frame_free(&ist->decoded_frame);
583         av_frame_free(&ist->filter_frame);
584         av_dict_free(&ist->decoder_opts);
585         avsubtitle_free(&ist->prev_sub.subtitle);
586         av_frame_free(&ist->sub2video.frame);
587         av_freep(&ist->filters);
588         av_freep(&ist->hwaccel_device);
589         av_freep(&ist->dts_buffer);
590
591         avcodec_free_context(&ist->dec_ctx);
592
593         av_freep(&input_streams[i]);
594     }
595
596     if (vstats_file) {
597         if (fclose(vstats_file))
598             av_log(NULL, AV_LOG_ERROR,
599                    "Error closing vstats file, loss of information possible: %s\n",
600                    av_err2str(AVERROR(errno)));
601     }
602     av_freep(&vstats_filename);
603
604     av_freep(&input_streams);
605     av_freep(&input_files);
606     av_freep(&output_streams);
607     av_freep(&output_files);
608
609     uninit_opts();
610
611     avformat_network_deinit();
612
613     if (received_sigterm) {
614         av_log(NULL, AV_LOG_INFO, "Exiting normally, received signal %d.\n",
615                (int) received_sigterm);
616     } else if (ret && atomic_load(&transcode_init_done)) {
617         av_log(NULL, AV_LOG_INFO, "Conversion failed!\n");
618     }
619     term_exit();
620     ffmpeg_exited = 1;
621 }
622
623 void remove_avoptions(AVDictionary **a, AVDictionary *b)
624 {
625     AVDictionaryEntry *t = NULL;
626
627     while ((t = av_dict_get(b, "", t, AV_DICT_IGNORE_SUFFIX))) {
628         av_dict_set(a, t->key, NULL, AV_DICT_MATCH_CASE);
629     }
630 }
631
632 void assert_avoptions(AVDictionary *m)
633 {
634     AVDictionaryEntry *t;
635     if ((t = av_dict_get(m, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
636         av_log(NULL, AV_LOG_FATAL, "Option %s not found.\n", t->key);
637         exit_program(1);
638     }
639 }
640
641 static void abort_codec_experimental(AVCodec *c, int encoder)
642 {
643     exit_program(1);
644 }
645
646 static void update_benchmark(const char *fmt, ...)
647 {
648     if (do_benchmark_all) {
649         int64_t t = getutime();
650         va_list va;
651         char buf[1024];
652
653         if (fmt) {
654             va_start(va, fmt);
655             vsnprintf(buf, sizeof(buf), fmt, va);
656             va_end(va);
657             av_log(NULL, AV_LOG_INFO, "bench: %8"PRIu64" %s \n", t - current_time, buf);
658         }
659         current_time = t;
660     }
661 }
662
663 static void close_all_output_streams(OutputStream *ost, OSTFinished this_stream, OSTFinished others)
664 {
665     int i;
666     for (i = 0; i < nb_output_streams; i++) {
667         OutputStream *ost2 = output_streams[i];
668         ost2->finished |= ost == ost2 ? this_stream : others;
669     }
670 }
671
672 static void write_packet(OutputFile *of, AVPacket *pkt, OutputStream *ost, int unqueue)
673 {
674     AVFormatContext *s = of->ctx;
675     AVStream *st = ost->st;
676     int ret;
677
678     /*
679      * Audio encoders may split the packets --  #frames in != #packets out.
680      * But there is no reordering, so we can limit the number of output packets
681      * by simply dropping them here.
682      * Counting encoded video frames needs to be done separately because of
683      * reordering, see do_video_out().
684      * Do not count the packet when unqueued because it has been counted when queued.
685      */
686     if (!(st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO && ost->encoding_needed) && !unqueue) {
687         if (ost->frame_number >= ost->max_frames) {
688             av_packet_unref(pkt);
689             return;
690         }
691         ost->frame_number++;
692     }
693
694     if (!of->header_written) {
695         AVPacket tmp_pkt = {0};
696         /* the muxer is not initialized yet, buffer the packet */
697         if (!av_fifo_space(ost->muxing_queue)) {
698             int new_size = FFMIN(2 * av_fifo_size(ost->muxing_queue),
699                                  ost->max_muxing_queue_size);
700             if (new_size <= av_fifo_size(ost->muxing_queue)) {
701                 av_log(NULL, AV_LOG_ERROR,
702                        "Too many packets buffered for output stream %d:%d.\n",
703                        ost->file_index, ost->st->index);
704                 exit_program(1);
705             }
706             ret = av_fifo_realloc2(ost->muxing_queue, new_size);
707             if (ret < 0)
708                 exit_program(1);
709         }
710         ret = av_packet_ref(&tmp_pkt, pkt);
711         if (ret < 0)
712             exit_program(1);
713         av_fifo_generic_write(ost->muxing_queue, &tmp_pkt, sizeof(tmp_pkt), NULL);
714         av_packet_unref(pkt);
715         return;
716     }
717
718     if ((st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO && video_sync_method == VSYNC_DROP) ||
719         (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && audio_sync_method < 0))
720         pkt->pts = pkt->dts = AV_NOPTS_VALUE;
721
722     if (st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) {
723         int i;
724         uint8_t *sd = av_packet_get_side_data(pkt, AV_PKT_DATA_QUALITY_STATS,
725                                               NULL);
726         ost->quality = sd ? AV_RL32(sd) : -1;
727         ost->pict_type = sd ? sd[4] : AV_PICTURE_TYPE_NONE;
728
729         for (i = 0; i<FF_ARRAY_ELEMS(ost->error); i++) {
730             if (sd && i < sd[5])
731                 ost->error[i] = AV_RL64(sd + 8 + 8*i);
732             else
733                 ost->error[i] = -1;
734         }
735
736         if (ost->frame_rate.num && ost->is_cfr) {
737             if (pkt->duration > 0)
738                 av_log(NULL, AV_LOG_WARNING, "Overriding packet duration by frame rate, this should not happen\n");
739             pkt->duration = av_rescale_q(1, av_inv_q(ost->frame_rate),
740                                          ost->mux_timebase);
741         }
742     }
743
744     av_packet_rescale_ts(pkt, ost->mux_timebase, ost->st->time_base);
745
746     if (!(s->oformat->flags & AVFMT_NOTIMESTAMPS)) {
747         if (pkt->dts != AV_NOPTS_VALUE &&
748             pkt->pts != AV_NOPTS_VALUE &&
749             pkt->dts > pkt->pts) {
750             av_log(s, AV_LOG_WARNING, "Invalid DTS: %"PRId64" PTS: %"PRId64" in output stream %d:%d, replacing by guess\n",
751                    pkt->dts, pkt->pts,
752                    ost->file_index, ost->st->index);
753             pkt->pts =
754             pkt->dts = pkt->pts + pkt->dts + ost->last_mux_dts + 1
755                      - FFMIN3(pkt->pts, pkt->dts, ost->last_mux_dts + 1)
756                      - FFMAX3(pkt->pts, pkt->dts, ost->last_mux_dts + 1);
757         }
758         if ((st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO || st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) &&
759             pkt->dts != AV_NOPTS_VALUE &&
760             !(st->codecpar->codec_id == AV_CODEC_ID_VP9 && ost->stream_copy) &&
761             ost->last_mux_dts != AV_NOPTS_VALUE) {
762             int64_t max = ost->last_mux_dts + !(s->oformat->flags & AVFMT_TS_NONSTRICT);
763             if (pkt->dts < max) {
764                 int loglevel = max - pkt->dts > 2 || st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO ? AV_LOG_WARNING : AV_LOG_DEBUG;
765                 av_log(s, loglevel, "Non-monotonous DTS in output stream "
766                        "%d:%d; previous: %"PRId64", current: %"PRId64"; ",
767                        ost->file_index, ost->st->index, ost->last_mux_dts, pkt->dts);
768                 if (exit_on_error) {
769                     av_log(NULL, AV_LOG_FATAL, "aborting.\n");
770                     exit_program(1);
771                 }
772                 av_log(s, loglevel, "changing to %"PRId64". This may result "
773                        "in incorrect timestamps in the output file.\n",
774                        max);
775                 if (pkt->pts >= pkt->dts)
776                     pkt->pts = FFMAX(pkt->pts, max);
777                 pkt->dts = max;
778             }
779         }
780     }
781     ost->last_mux_dts = pkt->dts;
782
783     ost->data_size += pkt->size;
784     ost->packets_written++;
785
786     pkt->stream_index = ost->index;
787
788     if (debug_ts) {
789         av_log(NULL, AV_LOG_INFO, "muxer <- type:%s "
790                 "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s size:%d\n",
791                 av_get_media_type_string(ost->enc_ctx->codec_type),
792                 av_ts2str(pkt->pts), av_ts2timestr(pkt->pts, &ost->st->time_base),
793                 av_ts2str(pkt->dts), av_ts2timestr(pkt->dts, &ost->st->time_base),
794                 pkt->size
795               );
796     }
797
798     ret = av_interleaved_write_frame(s, pkt);
799     if (ret < 0) {
800         print_error("av_interleaved_write_frame()", ret);
801         main_return_code = 1;
802         close_all_output_streams(ost, MUXER_FINISHED | ENCODER_FINISHED, ENCODER_FINISHED);
803     }
804     av_packet_unref(pkt);
805 }
806
807 static void close_output_stream(OutputStream *ost)
808 {
809     OutputFile *of = output_files[ost->file_index];
810
811     ost->finished |= ENCODER_FINISHED;
812     if (of->shortest) {
813         int64_t end = av_rescale_q(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, AV_TIME_BASE_Q);
814         of->recording_time = FFMIN(of->recording_time, end);
815     }
816 }
817
818 static void output_packet(OutputFile *of, AVPacket *pkt, OutputStream *ost)
819 {
820     int ret = 0;
821
822     /* apply the output bitstream filters, if any */
823     if (ost->nb_bitstream_filters) {
824         int idx;
825
826         ret = av_bsf_send_packet(ost->bsf_ctx[0], pkt);
827         if (ret < 0)
828             goto finish;
829
830         idx = 1;
831         while (idx) {
832             /* get a packet from the previous filter up the chain */
833             ret = av_bsf_receive_packet(ost->bsf_ctx[idx - 1], pkt);
834             if (ret == AVERROR(EAGAIN)) {
835                 ret = 0;
836                 idx--;
837                 continue;
838             } else if (ret < 0)
839                 goto finish;
840             /* HACK! - aac_adtstoasc updates extradata after filtering the first frame when
841              * the api states this shouldn't happen after init(). Propagate it here to the
842              * muxer and to the next filters in the chain to workaround this.
843              * TODO/FIXME - Make aac_adtstoasc use new packet side data instead of changing
844              * par_out->extradata and adapt muxers accordingly to get rid of this. */
845             if (!(ost->bsf_extradata_updated[idx - 1] & 1)) {
846                 ret = avcodec_parameters_copy(ost->st->codecpar, ost->bsf_ctx[idx - 1]->par_out);
847                 if (ret < 0)
848                     goto finish;
849                 ost->bsf_extradata_updated[idx - 1] |= 1;
850             }
851
852             /* send it to the next filter down the chain or to the muxer */
853             if (idx < ost->nb_bitstream_filters) {
854                 /* HACK/FIXME! - See above */
855                 if (!(ost->bsf_extradata_updated[idx] & 2)) {
856                     ret = avcodec_parameters_copy(ost->bsf_ctx[idx]->par_out, ost->bsf_ctx[idx - 1]->par_out);
857                     if (ret < 0)
858                         goto finish;
859                     ost->bsf_extradata_updated[idx] |= 2;
860                 }
861                 ret = av_bsf_send_packet(ost->bsf_ctx[idx], pkt);
862                 if (ret < 0)
863                     goto finish;
864                 idx++;
865             } else
866                 write_packet(of, pkt, ost, 0);
867         }
868     } else
869         write_packet(of, pkt, ost, 0);
870
871 finish:
872     if (ret < 0 && ret != AVERROR_EOF) {
873         av_log(NULL, AV_LOG_ERROR, "Error applying bitstream filters to an output "
874                "packet for stream #%d:%d.\n", ost->file_index, ost->index);
875         if(exit_on_error)
876             exit_program(1);
877     }
878 }
879
880 static int check_recording_time(OutputStream *ost)
881 {
882     OutputFile *of = output_files[ost->file_index];
883
884     if (of->recording_time != INT64_MAX &&
885         av_compare_ts(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, of->recording_time,
886                       AV_TIME_BASE_Q) >= 0) {
887         close_output_stream(ost);
888         return 0;
889     }
890     return 1;
891 }
892
893 static void do_audio_out(OutputFile *of, OutputStream *ost,
894                          AVFrame *frame)
895 {
896     AVCodecContext *enc = ost->enc_ctx;
897     AVPacket pkt;
898     int ret;
899
900     av_init_packet(&pkt);
901     pkt.data = NULL;
902     pkt.size = 0;
903
904     if (!check_recording_time(ost))
905         return;
906
907     if (frame->pts == AV_NOPTS_VALUE || audio_sync_method < 0)
908         frame->pts = ost->sync_opts;
909     ost->sync_opts = frame->pts + frame->nb_samples;
910     ost->samples_encoded += frame->nb_samples;
911     ost->frames_encoded++;
912
913     av_assert0(pkt.size || !pkt.data);
914     update_benchmark(NULL);
915     if (debug_ts) {
916         av_log(NULL, AV_LOG_INFO, "encoder <- type:audio "
917                "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
918                av_ts2str(frame->pts), av_ts2timestr(frame->pts, &enc->time_base),
919                enc->time_base.num, enc->time_base.den);
920     }
921
922     ret = avcodec_send_frame(enc, frame);
923     if (ret < 0)
924         goto error;
925
926     while (1) {
927         ret = avcodec_receive_packet(enc, &pkt);
928         if (ret == AVERROR(EAGAIN))
929             break;
930         if (ret < 0)
931             goto error;
932
933         update_benchmark("encode_audio %d.%d", ost->file_index, ost->index);
934
935         av_packet_rescale_ts(&pkt, enc->time_base, ost->mux_timebase);
936
937         if (debug_ts) {
938             av_log(NULL, AV_LOG_INFO, "encoder -> type:audio "
939                    "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
940                    av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &enc->time_base),
941                    av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &enc->time_base));
942         }
943
944         output_packet(of, &pkt, ost);
945     }
946
947     return;
948 error:
949     av_log(NULL, AV_LOG_FATAL, "Audio encoding failed\n");
950     exit_program(1);
951 }
952
953 static void do_subtitle_out(OutputFile *of,
954                             OutputStream *ost,
955                             AVSubtitle *sub)
956 {
957     int subtitle_out_max_size = 1024 * 1024;
958     int subtitle_out_size, nb, i;
959     AVCodecContext *enc;
960     AVPacket pkt;
961     int64_t pts;
962
963     if (sub->pts == AV_NOPTS_VALUE) {
964         av_log(NULL, AV_LOG_ERROR, "Subtitle packets must have a pts\n");
965         if (exit_on_error)
966             exit_program(1);
967         return;
968     }
969
970     enc = ost->enc_ctx;
971
972     if (!subtitle_out) {
973         subtitle_out = av_malloc(subtitle_out_max_size);
974         if (!subtitle_out) {
975             av_log(NULL, AV_LOG_FATAL, "Failed to allocate subtitle_out\n");
976             exit_program(1);
977         }
978     }
979
980     /* Note: DVB subtitle need one packet to draw them and one other
981        packet to clear them */
982     /* XXX: signal it in the codec context ? */
983     if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
984         nb = 2;
985     else
986         nb = 1;
987
988     /* shift timestamp to honor -ss and make check_recording_time() work with -t */
989     pts = sub->pts;
990     if (output_files[ost->file_index]->start_time != AV_NOPTS_VALUE)
991         pts -= output_files[ost->file_index]->start_time;
992     for (i = 0; i < nb; i++) {
993         unsigned save_num_rects = sub->num_rects;
994
995         ost->sync_opts = av_rescale_q(pts, AV_TIME_BASE_Q, enc->time_base);
996         if (!check_recording_time(ost))
997             return;
998
999         sub->pts = pts;
1000         // start_display_time is required to be 0
1001         sub->pts               += av_rescale_q(sub->start_display_time, (AVRational){ 1, 1000 }, AV_TIME_BASE_Q);
1002         sub->end_display_time  -= sub->start_display_time;
1003         sub->start_display_time = 0;
1004         if (i == 1)
1005             sub->num_rects = 0;
1006
1007         ost->frames_encoded++;
1008
1009         subtitle_out_size = avcodec_encode_subtitle(enc, subtitle_out,
1010                                                     subtitle_out_max_size, sub);
1011         if (i == 1)
1012             sub->num_rects = save_num_rects;
1013         if (subtitle_out_size < 0) {
1014             av_log(NULL, AV_LOG_FATAL, "Subtitle encoding failed\n");
1015             exit_program(1);
1016         }
1017
1018         av_init_packet(&pkt);
1019         pkt.data = subtitle_out;
1020         pkt.size = subtitle_out_size;
1021         pkt.pts  = av_rescale_q(sub->pts, AV_TIME_BASE_Q, ost->mux_timebase);
1022         pkt.duration = av_rescale_q(sub->end_display_time, (AVRational){ 1, 1000 }, ost->mux_timebase);
1023         if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE) {
1024             /* XXX: the pts correction is handled here. Maybe handling
1025                it in the codec would be better */
1026             if (i == 0)
1027                 pkt.pts += av_rescale_q(sub->start_display_time, (AVRational){ 1, 1000 }, ost->mux_timebase);
1028             else
1029                 pkt.pts += av_rescale_q(sub->end_display_time, (AVRational){ 1, 1000 }, ost->mux_timebase);
1030         }
1031         pkt.dts = pkt.pts;
1032         output_packet(of, &pkt, ost);
1033     }
1034 }
1035
1036 static void do_video_out(OutputFile *of,
1037                          OutputStream *ost,
1038                          AVFrame *next_picture,
1039                          double sync_ipts)
1040 {
1041     int ret, format_video_sync;
1042     AVPacket pkt;
1043     AVCodecContext *enc = ost->enc_ctx;
1044     AVCodecParameters *mux_par = ost->st->codecpar;
1045     AVRational frame_rate;
1046     int nb_frames, nb0_frames, i;
1047     double delta, delta0;
1048     double duration = 0;
1049     int frame_size = 0;
1050     InputStream *ist = NULL;
1051     AVFilterContext *filter = ost->filter->filter;
1052
1053     if (ost->source_index >= 0)
1054         ist = input_streams[ost->source_index];
1055
1056     frame_rate = av_buffersink_get_frame_rate(filter);
1057     if (frame_rate.num > 0 && frame_rate.den > 0)
1058         duration = 1/(av_q2d(frame_rate) * av_q2d(enc->time_base));
1059
1060     if(ist && ist->st->start_time != AV_NOPTS_VALUE && ist->st->first_dts != AV_NOPTS_VALUE && ost->frame_rate.num)
1061         duration = FFMIN(duration, 1/(av_q2d(ost->frame_rate) * av_q2d(enc->time_base)));
1062
1063     if (!ost->filters_script &&
1064         !ost->filters &&
1065         next_picture &&
1066         ist &&
1067         lrintf(next_picture->pkt_duration * av_q2d(ist->st->time_base) / av_q2d(enc->time_base)) > 0) {
1068         duration = lrintf(next_picture->pkt_duration * av_q2d(ist->st->time_base) / av_q2d(enc->time_base));
1069     }
1070
1071     if (!next_picture) {
1072         //end, flushing
1073         nb0_frames = nb_frames = mid_pred(ost->last_nb0_frames[0],
1074                                           ost->last_nb0_frames[1],
1075                                           ost->last_nb0_frames[2]);
1076     } else {
1077         delta0 = sync_ipts - ost->sync_opts; // delta0 is the "drift" between the input frame (next_picture) and where it would fall in the output.
1078         delta  = delta0 + duration;
1079
1080         /* by default, we output a single frame */
1081         nb0_frames = 0; // tracks the number of times the PREVIOUS frame should be duplicated, mostly for variable framerate (VFR)
1082         nb_frames = 1;
1083
1084         format_video_sync = video_sync_method;
1085         if (format_video_sync == VSYNC_AUTO) {
1086             if(!strcmp(of->ctx->oformat->name, "avi")) {
1087                 format_video_sync = VSYNC_VFR;
1088             } else
1089                 format_video_sync = (of->ctx->oformat->flags & AVFMT_VARIABLE_FPS) ? ((of->ctx->oformat->flags & AVFMT_NOTIMESTAMPS) ? VSYNC_PASSTHROUGH : VSYNC_VFR) : VSYNC_CFR;
1090             if (   ist
1091                 && format_video_sync == VSYNC_CFR
1092                 && input_files[ist->file_index]->ctx->nb_streams == 1
1093                 && input_files[ist->file_index]->input_ts_offset == 0) {
1094                 format_video_sync = VSYNC_VSCFR;
1095             }
1096             if (format_video_sync == VSYNC_CFR && copy_ts) {
1097                 format_video_sync = VSYNC_VSCFR;
1098             }
1099         }
1100         ost->is_cfr = (format_video_sync == VSYNC_CFR || format_video_sync == VSYNC_VSCFR);
1101
1102         if (delta0 < 0 &&
1103             delta > 0 &&
1104             format_video_sync != VSYNC_PASSTHROUGH &&
1105             format_video_sync != VSYNC_DROP) {
1106             if (delta0 < -0.6) {
1107                 av_log(NULL, AV_LOG_WARNING, "Past duration %f too large\n", -delta0);
1108             } else
1109                 av_log(NULL, AV_LOG_DEBUG, "Clipping frame in rate conversion by %f\n", -delta0);
1110             sync_ipts = ost->sync_opts;
1111             duration += delta0;
1112             delta0 = 0;
1113         }
1114
1115         switch (format_video_sync) {
1116         case VSYNC_VSCFR:
1117             if (ost->frame_number == 0 && delta0 >= 0.5) {
1118                 av_log(NULL, AV_LOG_DEBUG, "Not duplicating %d initial frames\n", (int)lrintf(delta0));
1119                 delta = duration;
1120                 delta0 = 0;
1121                 ost->sync_opts = lrint(sync_ipts);
1122             }
1123         case VSYNC_CFR:
1124             // FIXME set to 0.5 after we fix some dts/pts bugs like in avidec.c
1125             if (frame_drop_threshold && delta < frame_drop_threshold && ost->frame_number) {
1126                 nb_frames = 0;
1127             } else if (delta < -1.1)
1128                 nb_frames = 0;
1129             else if (delta > 1.1) {
1130                 nb_frames = lrintf(delta);
1131                 if (delta0 > 1.1)
1132                     nb0_frames = lrintf(delta0 - 0.6);
1133             }
1134             break;
1135         case VSYNC_VFR:
1136             if (delta <= -0.6)
1137                 nb_frames = 0;
1138             else if (delta > 0.6)
1139                 ost->sync_opts = lrint(sync_ipts);
1140             break;
1141         case VSYNC_DROP:
1142         case VSYNC_PASSTHROUGH:
1143             ost->sync_opts = lrint(sync_ipts);
1144             break;
1145         default:
1146             av_assert0(0);
1147         }
1148     }
1149
1150     nb_frames = FFMIN(nb_frames, ost->max_frames - ost->frame_number);
1151     nb0_frames = FFMIN(nb0_frames, nb_frames);
1152
1153     memmove(ost->last_nb0_frames + 1,
1154             ost->last_nb0_frames,
1155             sizeof(ost->last_nb0_frames[0]) * (FF_ARRAY_ELEMS(ost->last_nb0_frames) - 1));
1156     ost->last_nb0_frames[0] = nb0_frames;
1157
1158     if (nb0_frames == 0 && ost->last_dropped) {
1159         nb_frames_drop++;
1160         av_log(NULL, AV_LOG_VERBOSE,
1161                "*** dropping frame %d from stream %d at ts %"PRId64"\n",
1162                ost->frame_number, ost->st->index, ost->last_frame->pts);
1163     }
1164     if (nb_frames > (nb0_frames && ost->last_dropped) + (nb_frames > nb0_frames)) {
1165         if (nb_frames > dts_error_threshold * 30) {
1166             av_log(NULL, AV_LOG_ERROR, "%d frame duplication too large, skipping\n", nb_frames - 1);
1167             nb_frames_drop++;
1168             return;
1169         }
1170         nb_frames_dup += nb_frames - (nb0_frames && ost->last_dropped) - (nb_frames > nb0_frames);
1171         av_log(NULL, AV_LOG_VERBOSE, "*** %d dup!\n", nb_frames - 1);
1172         if (nb_frames_dup > dup_warning) {
1173             av_log(NULL, AV_LOG_WARNING, "More than %d frames duplicated\n", dup_warning);
1174             dup_warning *= 10;
1175         }
1176     }
1177     ost->last_dropped = nb_frames == nb0_frames && next_picture;
1178
1179   /* duplicates frame if needed */
1180   for (i = 0; i < nb_frames; i++) {
1181     AVFrame *in_picture;
1182     av_init_packet(&pkt);
1183     pkt.data = NULL;
1184     pkt.size = 0;
1185
1186     if (i < nb0_frames && ost->last_frame) {
1187         in_picture = ost->last_frame;
1188     } else
1189         in_picture = next_picture;
1190
1191     if (!in_picture)
1192         return;
1193
1194     in_picture->pts = ost->sync_opts;
1195
1196 #if 1
1197     if (!check_recording_time(ost))
1198 #else
1199     if (ost->frame_number >= ost->max_frames)
1200 #endif
1201         return;
1202
1203 #if FF_API_LAVF_FMT_RAWPICTURE
1204     if (of->ctx->oformat->flags & AVFMT_RAWPICTURE &&
1205         enc->codec->id == AV_CODEC_ID_RAWVIDEO) {
1206         /* raw pictures are written as AVPicture structure to
1207            avoid any copies. We support temporarily the older
1208            method. */
1209         if (in_picture->interlaced_frame)
1210             mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
1211         else
1212             mux_par->field_order = AV_FIELD_PROGRESSIVE;
1213         pkt.data   = (uint8_t *)in_picture;
1214         pkt.size   =  sizeof(AVPicture);
1215         pkt.pts    = av_rescale_q(in_picture->pts, enc->time_base, ost->mux_timebase);
1216         pkt.flags |= AV_PKT_FLAG_KEY;
1217
1218         output_packet(of, &pkt, ost);
1219     } else
1220 #endif
1221     {
1222         int forced_keyframe = 0;
1223         double pts_time;
1224
1225         if (enc->flags & (AV_CODEC_FLAG_INTERLACED_DCT | AV_CODEC_FLAG_INTERLACED_ME) &&
1226             ost->top_field_first >= 0)
1227             in_picture->top_field_first = !!ost->top_field_first;
1228
1229         if (in_picture->interlaced_frame) {
1230             if (enc->codec->id == AV_CODEC_ID_MJPEG)
1231                 mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TT:AV_FIELD_BB;
1232             else
1233                 mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
1234         } else
1235             mux_par->field_order = AV_FIELD_PROGRESSIVE;
1236
1237         in_picture->quality = enc->global_quality;
1238         in_picture->pict_type = 0;
1239
1240         pts_time = in_picture->pts != AV_NOPTS_VALUE ?
1241             in_picture->pts * av_q2d(enc->time_base) : NAN;
1242         if (ost->forced_kf_index < ost->forced_kf_count &&
1243             in_picture->pts >= ost->forced_kf_pts[ost->forced_kf_index]) {
1244             ost->forced_kf_index++;
1245             forced_keyframe = 1;
1246         } else if (ost->forced_keyframes_pexpr) {
1247             double res;
1248             ost->forced_keyframes_expr_const_values[FKF_T] = pts_time;
1249             res = av_expr_eval(ost->forced_keyframes_pexpr,
1250                                ost->forced_keyframes_expr_const_values, NULL);
1251             ff_dlog(NULL, "force_key_frame: n:%f n_forced:%f prev_forced_n:%f t:%f prev_forced_t:%f -> res:%f\n",
1252                     ost->forced_keyframes_expr_const_values[FKF_N],
1253                     ost->forced_keyframes_expr_const_values[FKF_N_FORCED],
1254                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N],
1255                     ost->forced_keyframes_expr_const_values[FKF_T],
1256                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T],
1257                     res);
1258             if (res) {
1259                 forced_keyframe = 1;
1260                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] =
1261                     ost->forced_keyframes_expr_const_values[FKF_N];
1262                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] =
1263                     ost->forced_keyframes_expr_const_values[FKF_T];
1264                 ost->forced_keyframes_expr_const_values[FKF_N_FORCED] += 1;
1265             }
1266
1267             ost->forced_keyframes_expr_const_values[FKF_N] += 1;
1268         } else if (   ost->forced_keyframes
1269                    && !strncmp(ost->forced_keyframes, "source", 6)
1270                    && in_picture->key_frame==1) {
1271             forced_keyframe = 1;
1272         }
1273
1274         if (forced_keyframe) {
1275             in_picture->pict_type = AV_PICTURE_TYPE_I;
1276             av_log(NULL, AV_LOG_DEBUG, "Forced keyframe at time %f\n", pts_time);
1277         }
1278
1279         update_benchmark(NULL);
1280         if (debug_ts) {
1281             av_log(NULL, AV_LOG_INFO, "encoder <- type:video "
1282                    "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
1283                    av_ts2str(in_picture->pts), av_ts2timestr(in_picture->pts, &enc->time_base),
1284                    enc->time_base.num, enc->time_base.den);
1285         }
1286
1287         ost->frames_encoded++;
1288
1289         ret = avcodec_send_frame(enc, in_picture);
1290         if (ret < 0)
1291             goto error;
1292
1293         while (1) {
1294             ret = avcodec_receive_packet(enc, &pkt);
1295             update_benchmark("encode_video %d.%d", ost->file_index, ost->index);
1296             if (ret == AVERROR(EAGAIN))
1297                 break;
1298             if (ret < 0)
1299                 goto error;
1300
1301             if (debug_ts) {
1302                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1303                        "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1304                        av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &enc->time_base),
1305                        av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &enc->time_base));
1306             }
1307
1308             if (pkt.pts == AV_NOPTS_VALUE && !(enc->codec->capabilities & AV_CODEC_CAP_DELAY))
1309                 pkt.pts = ost->sync_opts;
1310
1311             av_packet_rescale_ts(&pkt, enc->time_base, ost->mux_timebase);
1312
1313             if (debug_ts) {
1314                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1315                     "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1316                     av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ost->mux_timebase),
1317                     av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ost->mux_timebase));
1318             }
1319
1320             frame_size = pkt.size;
1321             output_packet(of, &pkt, ost);
1322
1323             /* if two pass, output log */
1324             if (ost->logfile && enc->stats_out) {
1325                 fprintf(ost->logfile, "%s", enc->stats_out);
1326             }
1327         }
1328     }
1329     ost->sync_opts++;
1330     /*
1331      * For video, number of frames in == number of packets out.
1332      * But there may be reordering, so we can't throw away frames on encoder
1333      * flush, we need to limit them here, before they go into encoder.
1334      */
1335     ost->frame_number++;
1336
1337     if (vstats_filename && frame_size)
1338         do_video_stats(ost, frame_size);
1339   }
1340
1341     if (!ost->last_frame)
1342         ost->last_frame = av_frame_alloc();
1343     av_frame_unref(ost->last_frame);
1344     if (next_picture && ost->last_frame)
1345         av_frame_ref(ost->last_frame, next_picture);
1346     else
1347         av_frame_free(&ost->last_frame);
1348
1349     return;
1350 error:
1351     av_log(NULL, AV_LOG_FATAL, "Video encoding failed\n");
1352     exit_program(1);
1353 }
1354
1355 static double psnr(double d)
1356 {
1357     return -10.0 * log10(d);
1358 }
1359
1360 static void do_video_stats(OutputStream *ost, int frame_size)
1361 {
1362     AVCodecContext *enc;
1363     int frame_number;
1364     double ti1, bitrate, avg_bitrate;
1365
1366     /* this is executed just the first time do_video_stats is called */
1367     if (!vstats_file) {
1368         vstats_file = fopen(vstats_filename, "w");
1369         if (!vstats_file) {
1370             perror("fopen");
1371             exit_program(1);
1372         }
1373     }
1374
1375     enc = ost->enc_ctx;
1376     if (enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1377         frame_number = ost->st->nb_frames;
1378         if (vstats_version <= 1) {
1379             fprintf(vstats_file, "frame= %5d q= %2.1f ", frame_number,
1380                     ost->quality / (float)FF_QP2LAMBDA);
1381         } else  {
1382             fprintf(vstats_file, "out= %2d st= %2d frame= %5d q= %2.1f ", ost->file_index, ost->index, frame_number,
1383                     ost->quality / (float)FF_QP2LAMBDA);
1384         }
1385
1386         if (ost->error[0]>=0 && (enc->flags & AV_CODEC_FLAG_PSNR))
1387             fprintf(vstats_file, "PSNR= %6.2f ", psnr(ost->error[0] / (enc->width * enc->height * 255.0 * 255.0)));
1388
1389         fprintf(vstats_file,"f_size= %6d ", frame_size);
1390         /* compute pts value */
1391         ti1 = av_stream_get_end_pts(ost->st) * av_q2d(ost->st->time_base);
1392         if (ti1 < 0.01)
1393             ti1 = 0.01;
1394
1395         bitrate     = (frame_size * 8) / av_q2d(enc->time_base) / 1000.0;
1396         avg_bitrate = (double)(ost->data_size * 8) / ti1 / 1000.0;
1397         fprintf(vstats_file, "s_size= %8.0fkB time= %0.3f br= %7.1fkbits/s avg_br= %7.1fkbits/s ",
1398                (double)ost->data_size / 1024, ti1, bitrate, avg_bitrate);
1399         fprintf(vstats_file, "type= %c\n", av_get_picture_type_char(ost->pict_type));
1400     }
1401 }
1402
1403 static int init_output_stream(OutputStream *ost, char *error, int error_len);
1404
1405 static void finish_output_stream(OutputStream *ost)
1406 {
1407     OutputFile *of = output_files[ost->file_index];
1408     int i;
1409
1410     ost->finished = ENCODER_FINISHED | MUXER_FINISHED;
1411
1412     if (of->shortest) {
1413         for (i = 0; i < of->ctx->nb_streams; i++)
1414             output_streams[of->ost_index + i]->finished = ENCODER_FINISHED | MUXER_FINISHED;
1415     }
1416 }
1417
1418 /**
1419  * Get and encode new output from any of the filtergraphs, without causing
1420  * activity.
1421  *
1422  * @return  0 for success, <0 for severe errors
1423  */
1424 static int reap_filters(int flush)
1425 {
1426     AVFrame *filtered_frame = NULL;
1427     int i;
1428
1429     /* Reap all buffers present in the buffer sinks */
1430     for (i = 0; i < nb_output_streams; i++) {
1431         OutputStream *ost = output_streams[i];
1432         OutputFile    *of = output_files[ost->file_index];
1433         AVFilterContext *filter;
1434         AVCodecContext *enc = ost->enc_ctx;
1435         int ret = 0;
1436
1437         if (!ost->filter || !ost->filter->graph->graph)
1438             continue;
1439         filter = ost->filter->filter;
1440
1441         if (!ost->initialized) {
1442             char error[1024] = "";
1443             ret = init_output_stream(ost, error, sizeof(error));
1444             if (ret < 0) {
1445                 av_log(NULL, AV_LOG_ERROR, "Error initializing output stream %d:%d -- %s\n",
1446                        ost->file_index, ost->index, error);
1447                 exit_program(1);
1448             }
1449         }
1450
1451         if (!ost->filtered_frame && !(ost->filtered_frame = av_frame_alloc())) {
1452             return AVERROR(ENOMEM);
1453         }
1454         filtered_frame = ost->filtered_frame;
1455
1456         while (1) {
1457             double float_pts = AV_NOPTS_VALUE; // this is identical to filtered_frame.pts but with higher precision
1458             ret = av_buffersink_get_frame_flags(filter, filtered_frame,
1459                                                AV_BUFFERSINK_FLAG_NO_REQUEST);
1460             if (ret < 0) {
1461                 if (ret != AVERROR(EAGAIN) && ret != AVERROR_EOF) {
1462                     av_log(NULL, AV_LOG_WARNING,
1463                            "Error in av_buffersink_get_frame_flags(): %s\n", av_err2str(ret));
1464                 } else if (flush && ret == AVERROR_EOF) {
1465                     if (av_buffersink_get_type(filter) == AVMEDIA_TYPE_VIDEO)
1466                         do_video_out(of, ost, NULL, AV_NOPTS_VALUE);
1467                 }
1468                 break;
1469             }
1470             if (ost->finished) {
1471                 av_frame_unref(filtered_frame);
1472                 continue;
1473             }
1474             if (filtered_frame->pts != AV_NOPTS_VALUE) {
1475                 int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1476                 AVRational filter_tb = av_buffersink_get_time_base(filter);
1477                 AVRational tb = enc->time_base;
1478                 int extra_bits = av_clip(29 - av_log2(tb.den), 0, 16);
1479
1480                 tb.den <<= extra_bits;
1481                 float_pts =
1482                     av_rescale_q(filtered_frame->pts, filter_tb, tb) -
1483                     av_rescale_q(start_time, AV_TIME_BASE_Q, tb);
1484                 float_pts /= 1 << extra_bits;
1485                 // avoid exact midoints to reduce the chance of rounding differences, this can be removed in case the fps code is changed to work with integers
1486                 float_pts += FFSIGN(float_pts) * 1.0 / (1<<17);
1487
1488                 filtered_frame->pts =
1489                     av_rescale_q(filtered_frame->pts, filter_tb, enc->time_base) -
1490                     av_rescale_q(start_time, AV_TIME_BASE_Q, enc->time_base);
1491             }
1492             //if (ost->source_index >= 0)
1493             //    *filtered_frame= *input_streams[ost->source_index]->decoded_frame; //for me_threshold
1494
1495             switch (av_buffersink_get_type(filter)) {
1496             case AVMEDIA_TYPE_VIDEO:
1497                 if (!ost->frame_aspect_ratio.num)
1498                     enc->sample_aspect_ratio = filtered_frame->sample_aspect_ratio;
1499
1500                 if (debug_ts) {
1501                     av_log(NULL, AV_LOG_INFO, "filter -> pts:%s pts_time:%s exact:%f time_base:%d/%d\n",
1502                             av_ts2str(filtered_frame->pts), av_ts2timestr(filtered_frame->pts, &enc->time_base),
1503                             float_pts,
1504                             enc->time_base.num, enc->time_base.den);
1505                 }
1506
1507                 do_video_out(of, ost, filtered_frame, float_pts);
1508                 break;
1509             case AVMEDIA_TYPE_AUDIO:
1510                 if (!(enc->codec->capabilities & AV_CODEC_CAP_PARAM_CHANGE) &&
1511                     enc->channels != filtered_frame->channels) {
1512                     av_log(NULL, AV_LOG_ERROR,
1513                            "Audio filter graph output is not normalized and encoder does not support parameter changes\n");
1514                     break;
1515                 }
1516                 do_audio_out(of, ost, filtered_frame);
1517                 break;
1518             default:
1519                 // TODO support subtitle filters
1520                 av_assert0(0);
1521             }
1522
1523             av_frame_unref(filtered_frame);
1524         }
1525     }
1526
1527     return 0;
1528 }
1529
1530 static void print_final_stats(int64_t total_size)
1531 {
1532     uint64_t video_size = 0, audio_size = 0, extra_size = 0, other_size = 0;
1533     uint64_t subtitle_size = 0;
1534     uint64_t data_size = 0;
1535     float percent = -1.0;
1536     int i, j;
1537     int pass1_used = 1;
1538
1539     for (i = 0; i < nb_output_streams; i++) {
1540         OutputStream *ost = output_streams[i];
1541         switch (ost->enc_ctx->codec_type) {
1542             case AVMEDIA_TYPE_VIDEO: video_size += ost->data_size; break;
1543             case AVMEDIA_TYPE_AUDIO: audio_size += ost->data_size; break;
1544             case AVMEDIA_TYPE_SUBTITLE: subtitle_size += ost->data_size; break;
1545             default:                 other_size += ost->data_size; break;
1546         }
1547         extra_size += ost->enc_ctx->extradata_size;
1548         data_size  += ost->data_size;
1549         if (   (ost->enc_ctx->flags & (AV_CODEC_FLAG_PASS1 | AV_CODEC_FLAG_PASS2))
1550             != AV_CODEC_FLAG_PASS1)
1551             pass1_used = 0;
1552     }
1553
1554     if (data_size && total_size>0 && total_size >= data_size)
1555         percent = 100.0 * (total_size - data_size) / data_size;
1556
1557     av_log(NULL, AV_LOG_INFO, "video:%1.0fkB audio:%1.0fkB subtitle:%1.0fkB other streams:%1.0fkB global headers:%1.0fkB muxing overhead: ",
1558            video_size / 1024.0,
1559            audio_size / 1024.0,
1560            subtitle_size / 1024.0,
1561            other_size / 1024.0,
1562            extra_size / 1024.0);
1563     if (percent >= 0.0)
1564         av_log(NULL, AV_LOG_INFO, "%f%%", percent);
1565     else
1566         av_log(NULL, AV_LOG_INFO, "unknown");
1567     av_log(NULL, AV_LOG_INFO, "\n");
1568
1569     /* print verbose per-stream stats */
1570     for (i = 0; i < nb_input_files; i++) {
1571         InputFile *f = input_files[i];
1572         uint64_t total_packets = 0, total_size = 0;
1573
1574         av_log(NULL, AV_LOG_VERBOSE, "Input file #%d (%s):\n",
1575                i, f->ctx->filename);
1576
1577         for (j = 0; j < f->nb_streams; j++) {
1578             InputStream *ist = input_streams[f->ist_index + j];
1579             enum AVMediaType type = ist->dec_ctx->codec_type;
1580
1581             total_size    += ist->data_size;
1582             total_packets += ist->nb_packets;
1583
1584             av_log(NULL, AV_LOG_VERBOSE, "  Input stream #%d:%d (%s): ",
1585                    i, j, media_type_string(type));
1586             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets read (%"PRIu64" bytes); ",
1587                    ist->nb_packets, ist->data_size);
1588
1589             if (ist->decoding_needed) {
1590                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames decoded",
1591                        ist->frames_decoded);
1592                 if (type == AVMEDIA_TYPE_AUDIO)
1593                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ist->samples_decoded);
1594                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1595             }
1596
1597             av_log(NULL, AV_LOG_VERBOSE, "\n");
1598         }
1599
1600         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) demuxed\n",
1601                total_packets, total_size);
1602     }
1603
1604     for (i = 0; i < nb_output_files; i++) {
1605         OutputFile *of = output_files[i];
1606         uint64_t total_packets = 0, total_size = 0;
1607
1608         av_log(NULL, AV_LOG_VERBOSE, "Output file #%d (%s):\n",
1609                i, of->ctx->filename);
1610
1611         for (j = 0; j < of->ctx->nb_streams; j++) {
1612             OutputStream *ost = output_streams[of->ost_index + j];
1613             enum AVMediaType type = ost->enc_ctx->codec_type;
1614
1615             total_size    += ost->data_size;
1616             total_packets += ost->packets_written;
1617
1618             av_log(NULL, AV_LOG_VERBOSE, "  Output stream #%d:%d (%s): ",
1619                    i, j, media_type_string(type));
1620             if (ost->encoding_needed) {
1621                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames encoded",
1622                        ost->frames_encoded);
1623                 if (type == AVMEDIA_TYPE_AUDIO)
1624                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ost->samples_encoded);
1625                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1626             }
1627
1628             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets muxed (%"PRIu64" bytes); ",
1629                    ost->packets_written, ost->data_size);
1630
1631             av_log(NULL, AV_LOG_VERBOSE, "\n");
1632         }
1633
1634         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) muxed\n",
1635                total_packets, total_size);
1636     }
1637     if(video_size + data_size + audio_size + subtitle_size + extra_size == 0){
1638         av_log(NULL, AV_LOG_WARNING, "Output file is empty, nothing was encoded ");
1639         if (pass1_used) {
1640             av_log(NULL, AV_LOG_WARNING, "\n");
1641         } else {
1642             av_log(NULL, AV_LOG_WARNING, "(check -ss / -t / -frames parameters if used)\n");
1643         }
1644     }
1645 }
1646
1647 static void print_report(int is_last_report, int64_t timer_start, int64_t cur_time)
1648 {
1649     char buf[1024];
1650     AVBPrint buf_script;
1651     OutputStream *ost;
1652     AVFormatContext *oc;
1653     int64_t total_size;
1654     AVCodecContext *enc;
1655     int frame_number, vid, i;
1656     double bitrate;
1657     double speed;
1658     int64_t pts = INT64_MIN + 1;
1659     static int64_t last_time = -1;
1660     static int qp_histogram[52];
1661     int hours, mins, secs, us;
1662     int ret;
1663     float t;
1664
1665     if (!print_stats && !is_last_report && !progress_avio)
1666         return;
1667
1668     if (!is_last_report) {
1669         if (last_time == -1) {
1670             last_time = cur_time;
1671             return;
1672         }
1673         if ((cur_time - last_time) < 500000)
1674             return;
1675         last_time = cur_time;
1676     }
1677
1678     t = (cur_time-timer_start) / 1000000.0;
1679
1680
1681     oc = output_files[0]->ctx;
1682
1683     total_size = avio_size(oc->pb);
1684     if (total_size <= 0) // FIXME improve avio_size() so it works with non seekable output too
1685         total_size = avio_tell(oc->pb);
1686
1687     buf[0] = '\0';
1688     vid = 0;
1689     av_bprint_init(&buf_script, 0, 1);
1690     for (i = 0; i < nb_output_streams; i++) {
1691         float q = -1;
1692         ost = output_streams[i];
1693         enc = ost->enc_ctx;
1694         if (!ost->stream_copy)
1695             q = ost->quality / (float) FF_QP2LAMBDA;
1696
1697         if (vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1698             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "q=%2.1f ", q);
1699             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1700                        ost->file_index, ost->index, q);
1701         }
1702         if (!vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1703             float fps;
1704
1705             frame_number = ost->frame_number;
1706             fps = t > 1 ? frame_number / t : 0;
1707             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "frame=%5d fps=%3.*f q=%3.1f ",
1708                      frame_number, fps < 9.95, fps, q);
1709             av_bprintf(&buf_script, "frame=%d\n", frame_number);
1710             av_bprintf(&buf_script, "fps=%.1f\n", fps);
1711             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1712                        ost->file_index, ost->index, q);
1713             if (is_last_report)
1714                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "L");
1715             if (qp_hist) {
1716                 int j;
1717                 int qp = lrintf(q);
1718                 if (qp >= 0 && qp < FF_ARRAY_ELEMS(qp_histogram))
1719                     qp_histogram[qp]++;
1720                 for (j = 0; j < 32; j++)
1721                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%X", av_log2(qp_histogram[j] + 1));
1722             }
1723
1724             if ((enc->flags & AV_CODEC_FLAG_PSNR) && (ost->pict_type != AV_PICTURE_TYPE_NONE || is_last_report)) {
1725                 int j;
1726                 double error, error_sum = 0;
1727                 double scale, scale_sum = 0;
1728                 double p;
1729                 char type[3] = { 'Y','U','V' };
1730                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "PSNR=");
1731                 for (j = 0; j < 3; j++) {
1732                     if (is_last_report) {
1733                         error = enc->error[j];
1734                         scale = enc->width * enc->height * 255.0 * 255.0 * frame_number;
1735                     } else {
1736                         error = ost->error[j];
1737                         scale = enc->width * enc->height * 255.0 * 255.0;
1738                     }
1739                     if (j)
1740                         scale /= 4;
1741                     error_sum += error;
1742                     scale_sum += scale;
1743                     p = psnr(error / scale);
1744                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%c:%2.2f ", type[j], p);
1745                     av_bprintf(&buf_script, "stream_%d_%d_psnr_%c=%2.2f\n",
1746                                ost->file_index, ost->index, type[j] | 32, p);
1747                 }
1748                 p = psnr(error_sum / scale_sum);
1749                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "*:%2.2f ", psnr(error_sum / scale_sum));
1750                 av_bprintf(&buf_script, "stream_%d_%d_psnr_all=%2.2f\n",
1751                            ost->file_index, ost->index, p);
1752             }
1753             vid = 1;
1754         }
1755         /* compute min output value */
1756         if (av_stream_get_end_pts(ost->st) != AV_NOPTS_VALUE)
1757             pts = FFMAX(pts, av_rescale_q(av_stream_get_end_pts(ost->st),
1758                                           ost->st->time_base, AV_TIME_BASE_Q));
1759         if (is_last_report)
1760             nb_frames_drop += ost->last_dropped;
1761     }
1762
1763     secs = FFABS(pts) / AV_TIME_BASE;
1764     us = FFABS(pts) % AV_TIME_BASE;
1765     mins = secs / 60;
1766     secs %= 60;
1767     hours = mins / 60;
1768     mins %= 60;
1769
1770     bitrate = pts && total_size >= 0 ? total_size * 8 / (pts / 1000.0) : -1;
1771     speed = t != 0.0 ? (double)pts / AV_TIME_BASE / t : -1;
1772
1773     if (total_size < 0) snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1774                                  "size=N/A time=");
1775     else                snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1776                                  "size=%8.0fkB time=", total_size / 1024.0);
1777     if (pts < 0)
1778         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "-");
1779     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1780              "%02d:%02d:%02d.%02d ", hours, mins, secs,
1781              (100 * us) / AV_TIME_BASE);
1782
1783     if (bitrate < 0) {
1784         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),"bitrate=N/A");
1785         av_bprintf(&buf_script, "bitrate=N/A\n");
1786     }else{
1787         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),"bitrate=%6.1fkbits/s", bitrate);
1788         av_bprintf(&buf_script, "bitrate=%6.1fkbits/s\n", bitrate);
1789     }
1790
1791     if (total_size < 0) av_bprintf(&buf_script, "total_size=N/A\n");
1792     else                av_bprintf(&buf_script, "total_size=%"PRId64"\n", total_size);
1793     av_bprintf(&buf_script, "out_time_ms=%"PRId64"\n", pts);
1794     av_bprintf(&buf_script, "out_time=%02d:%02d:%02d.%06d\n",
1795                hours, mins, secs, us);
1796
1797     if (nb_frames_dup || nb_frames_drop)
1798         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), " dup=%d drop=%d",
1799                 nb_frames_dup, nb_frames_drop);
1800     av_bprintf(&buf_script, "dup_frames=%d\n", nb_frames_dup);
1801     av_bprintf(&buf_script, "drop_frames=%d\n", nb_frames_drop);
1802
1803     if (speed < 0) {
1804         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf)," speed=N/A");
1805         av_bprintf(&buf_script, "speed=N/A\n");
1806     } else {
1807         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf)," speed=%4.3gx", speed);
1808         av_bprintf(&buf_script, "speed=%4.3gx\n", speed);
1809     }
1810
1811     if (print_stats || is_last_report) {
1812         const char end = is_last_report ? '\n' : '\r';
1813         if (print_stats==1 && AV_LOG_INFO > av_log_get_level()) {
1814             fprintf(stderr, "%s    %c", buf, end);
1815         } else
1816             av_log(NULL, AV_LOG_INFO, "%s    %c", buf, end);
1817
1818     fflush(stderr);
1819     }
1820
1821     if (progress_avio) {
1822         av_bprintf(&buf_script, "progress=%s\n",
1823                    is_last_report ? "end" : "continue");
1824         avio_write(progress_avio, buf_script.str,
1825                    FFMIN(buf_script.len, buf_script.size - 1));
1826         avio_flush(progress_avio);
1827         av_bprint_finalize(&buf_script, NULL);
1828         if (is_last_report) {
1829             if ((ret = avio_closep(&progress_avio)) < 0)
1830                 av_log(NULL, AV_LOG_ERROR,
1831                        "Error closing progress log, loss of information possible: %s\n", av_err2str(ret));
1832         }
1833     }
1834
1835     if (is_last_report)
1836         print_final_stats(total_size);
1837 }
1838
1839 static void flush_encoders(void)
1840 {
1841     int i, ret;
1842
1843     for (i = 0; i < nb_output_streams; i++) {
1844         OutputStream   *ost = output_streams[i];
1845         AVCodecContext *enc = ost->enc_ctx;
1846         OutputFile      *of = output_files[ost->file_index];
1847
1848         if (!ost->encoding_needed)
1849             continue;
1850
1851         // Try to enable encoding with no input frames.
1852         // Maybe we should just let encoding fail instead.
1853         if (!ost->initialized) {
1854             FilterGraph *fg = ost->filter->graph;
1855             char error[1024] = "";
1856
1857             av_log(NULL, AV_LOG_WARNING,
1858                    "Finishing stream %d:%d without any data written to it.\n",
1859                    ost->file_index, ost->st->index);
1860
1861             if (ost->filter && !fg->graph) {
1862                 int x;
1863                 for (x = 0; x < fg->nb_inputs; x++) {
1864                     InputFilter *ifilter = fg->inputs[x];
1865                     if (ifilter->format < 0) {
1866                         AVCodecParameters *par = ifilter->ist->st->codecpar;
1867                         // We never got any input. Set a fake format, which will
1868                         // come from libavformat.
1869                         ifilter->format                 = par->format;
1870                         ifilter->sample_rate            = par->sample_rate;
1871                         ifilter->channels               = par->channels;
1872                         ifilter->channel_layout         = par->channel_layout;
1873                         ifilter->width                  = par->width;
1874                         ifilter->height                 = par->height;
1875                         ifilter->sample_aspect_ratio    = par->sample_aspect_ratio;
1876                     }
1877                 }
1878
1879                 if (!ifilter_has_all_input_formats(fg))
1880                     continue;
1881
1882                 ret = configure_filtergraph(fg);
1883                 if (ret < 0) {
1884                     av_log(NULL, AV_LOG_ERROR, "Error configuring filter graph\n");
1885                     exit_program(1);
1886                 }
1887
1888                 finish_output_stream(ost);
1889             }
1890
1891             ret = init_output_stream(ost, error, sizeof(error));
1892             if (ret < 0) {
1893                 av_log(NULL, AV_LOG_ERROR, "Error initializing output stream %d:%d -- %s\n",
1894                        ost->file_index, ost->index, error);
1895                 exit_program(1);
1896             }
1897         }
1898
1899         if (enc->codec_type == AVMEDIA_TYPE_AUDIO && enc->frame_size <= 1)
1900             continue;
1901 #if FF_API_LAVF_FMT_RAWPICTURE
1902         if (enc->codec_type == AVMEDIA_TYPE_VIDEO && (of->ctx->oformat->flags & AVFMT_RAWPICTURE) && enc->codec->id == AV_CODEC_ID_RAWVIDEO)
1903             continue;
1904 #endif
1905
1906         if (enc->codec_type != AVMEDIA_TYPE_VIDEO && enc->codec_type != AVMEDIA_TYPE_AUDIO)
1907             continue;
1908
1909         for (;;) {
1910             const char *desc = NULL;
1911             AVPacket pkt;
1912             int pkt_size;
1913
1914             switch (enc->codec_type) {
1915             case AVMEDIA_TYPE_AUDIO:
1916                 desc   = "audio";
1917                 break;
1918             case AVMEDIA_TYPE_VIDEO:
1919                 desc   = "video";
1920                 break;
1921             default:
1922                 av_assert0(0);
1923             }
1924
1925                 av_init_packet(&pkt);
1926                 pkt.data = NULL;
1927                 pkt.size = 0;
1928
1929                 update_benchmark(NULL);
1930
1931                 while ((ret = avcodec_receive_packet(enc, &pkt)) == AVERROR(EAGAIN)) {
1932                     ret = avcodec_send_frame(enc, NULL);
1933                     if (ret < 0) {
1934                         av_log(NULL, AV_LOG_FATAL, "%s encoding failed: %s\n",
1935                                desc,
1936                                av_err2str(ret));
1937                         exit_program(1);
1938                     }
1939                 }
1940
1941                 update_benchmark("flush_%s %d.%d", desc, ost->file_index, ost->index);
1942                 if (ret < 0 && ret != AVERROR_EOF) {
1943                     av_log(NULL, AV_LOG_FATAL, "%s encoding failed: %s\n",
1944                            desc,
1945                            av_err2str(ret));
1946                     exit_program(1);
1947                 }
1948                 if (ost->logfile && enc->stats_out) {
1949                     fprintf(ost->logfile, "%s", enc->stats_out);
1950                 }
1951                 if (ret == AVERROR_EOF) {
1952                     break;
1953                 }
1954                 if (ost->finished & MUXER_FINISHED) {
1955                     av_packet_unref(&pkt);
1956                     continue;
1957                 }
1958                 av_packet_rescale_ts(&pkt, enc->time_base, ost->mux_timebase);
1959                 pkt_size = pkt.size;
1960                 output_packet(of, &pkt, ost);
1961                 if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO && vstats_filename) {
1962                     do_video_stats(ost, pkt_size);
1963                 }
1964         }
1965     }
1966 }
1967
1968 /*
1969  * Check whether a packet from ist should be written into ost at this time
1970  */
1971 static int check_output_constraints(InputStream *ist, OutputStream *ost)
1972 {
1973     OutputFile *of = output_files[ost->file_index];
1974     int ist_index  = input_files[ist->file_index]->ist_index + ist->st->index;
1975
1976     if (ost->source_index != ist_index)
1977         return 0;
1978
1979     if (ost->finished)
1980         return 0;
1981
1982     if (of->start_time != AV_NOPTS_VALUE && ist->pts < of->start_time)
1983         return 0;
1984
1985     return 1;
1986 }
1987
1988 static void do_streamcopy(InputStream *ist, OutputStream *ost, const AVPacket *pkt)
1989 {
1990     OutputFile *of = output_files[ost->file_index];
1991     InputFile   *f = input_files [ist->file_index];
1992     int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1993     int64_t ost_tb_start_time = av_rescale_q(start_time, AV_TIME_BASE_Q, ost->mux_timebase);
1994     AVPicture pict;
1995     AVPacket opkt;
1996
1997     av_init_packet(&opkt);
1998
1999     if ((!ost->frame_number && !(pkt->flags & AV_PKT_FLAG_KEY)) &&
2000         !ost->copy_initial_nonkeyframes)
2001         return;
2002
2003     if (!ost->frame_number && !ost->copy_prior_start) {
2004         int64_t comp_start = start_time;
2005         if (copy_ts && f->start_time != AV_NOPTS_VALUE)
2006             comp_start = FFMAX(start_time, f->start_time + f->ts_offset);
2007         if (pkt->pts == AV_NOPTS_VALUE ?
2008             ist->pts < comp_start :
2009             pkt->pts < av_rescale_q(comp_start, AV_TIME_BASE_Q, ist->st->time_base))
2010             return;
2011     }
2012
2013     if (of->recording_time != INT64_MAX &&
2014         ist->pts >= of->recording_time + start_time) {
2015         close_output_stream(ost);
2016         return;
2017     }
2018
2019     if (f->recording_time != INT64_MAX) {
2020         start_time = f->ctx->start_time;
2021         if (f->start_time != AV_NOPTS_VALUE && copy_ts)
2022             start_time += f->start_time;
2023         if (ist->pts >= f->recording_time + start_time) {
2024             close_output_stream(ost);
2025             return;
2026         }
2027     }
2028
2029     /* force the input stream PTS */
2030     if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO)
2031         ost->sync_opts++;
2032
2033     if (pkt->pts != AV_NOPTS_VALUE)
2034         opkt.pts = av_rescale_q(pkt->pts, ist->st->time_base, ost->mux_timebase) - ost_tb_start_time;
2035     else
2036         opkt.pts = AV_NOPTS_VALUE;
2037
2038     if (pkt->dts == AV_NOPTS_VALUE)
2039         opkt.dts = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ost->mux_timebase);
2040     else
2041         opkt.dts = av_rescale_q(pkt->dts, ist->st->time_base, ost->mux_timebase);
2042     opkt.dts -= ost_tb_start_time;
2043
2044     if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && pkt->dts != AV_NOPTS_VALUE) {
2045         int duration = av_get_audio_frame_duration(ist->dec_ctx, pkt->size);
2046         if(!duration)
2047             duration = ist->dec_ctx->frame_size;
2048         opkt.dts = opkt.pts = av_rescale_delta(ist->st->time_base, pkt->dts,
2049                                                (AVRational){1, ist->dec_ctx->sample_rate}, duration, &ist->filter_in_rescale_delta_last,
2050                                                ost->mux_timebase) - ost_tb_start_time;
2051     }
2052
2053     opkt.duration = av_rescale_q(pkt->duration, ist->st->time_base, ost->mux_timebase);
2054
2055     opkt.flags    = pkt->flags;
2056     // FIXME remove the following 2 lines they shall be replaced by the bitstream filters
2057     if (  ost->st->codecpar->codec_id != AV_CODEC_ID_H264
2058        && ost->st->codecpar->codec_id != AV_CODEC_ID_MPEG1VIDEO
2059        && ost->st->codecpar->codec_id != AV_CODEC_ID_MPEG2VIDEO
2060        && ost->st->codecpar->codec_id != AV_CODEC_ID_VC1
2061        ) {
2062         int ret = av_parser_change(ost->parser, ost->parser_avctx,
2063                              &opkt.data, &opkt.size,
2064                              pkt->data, pkt->size,
2065                              pkt->flags & AV_PKT_FLAG_KEY);
2066         if (ret < 0) {
2067             av_log(NULL, AV_LOG_FATAL, "av_parser_change failed: %s\n",
2068                    av_err2str(ret));
2069             exit_program(1);
2070         }
2071         if (ret) {
2072             opkt.buf = av_buffer_create(opkt.data, opkt.size, av_buffer_default_free, NULL, 0);
2073             if (!opkt.buf)
2074                 exit_program(1);
2075         }
2076     } else {
2077         opkt.data = pkt->data;
2078         opkt.size = pkt->size;
2079     }
2080     av_copy_packet_side_data(&opkt, pkt);
2081
2082 #if FF_API_LAVF_FMT_RAWPICTURE
2083     if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO &&
2084         ost->st->codecpar->codec_id == AV_CODEC_ID_RAWVIDEO &&
2085         (of->ctx->oformat->flags & AVFMT_RAWPICTURE)) {
2086         /* store AVPicture in AVPacket, as expected by the output format */
2087         int ret = avpicture_fill(&pict, opkt.data, ost->st->codecpar->format, ost->st->codecpar->width, ost->st->codecpar->height);
2088         if (ret < 0) {
2089             av_log(NULL, AV_LOG_FATAL, "avpicture_fill failed: %s\n",
2090                    av_err2str(ret));
2091             exit_program(1);
2092         }
2093         opkt.data = (uint8_t *)&pict;
2094         opkt.size = sizeof(AVPicture);
2095         opkt.flags |= AV_PKT_FLAG_KEY;
2096     }
2097 #endif
2098
2099     output_packet(of, &opkt, ost);
2100 }
2101
2102 int guess_input_channel_layout(InputStream *ist)
2103 {
2104     AVCodecContext *dec = ist->dec_ctx;
2105
2106     if (!dec->channel_layout) {
2107         char layout_name[256];
2108
2109         if (dec->channels > ist->guess_layout_max)
2110             return 0;
2111         dec->channel_layout = av_get_default_channel_layout(dec->channels);
2112         if (!dec->channel_layout)
2113             return 0;
2114         av_get_channel_layout_string(layout_name, sizeof(layout_name),
2115                                      dec->channels, dec->channel_layout);
2116         av_log(NULL, AV_LOG_WARNING, "Guessed Channel Layout for Input Stream "
2117                "#%d.%d : %s\n", ist->file_index, ist->st->index, layout_name);
2118     }
2119     return 1;
2120 }
2121
2122 static void check_decode_result(InputStream *ist, int *got_output, int ret)
2123 {
2124     if (*got_output || ret<0)
2125         decode_error_stat[ret<0] ++;
2126
2127     if (ret < 0 && exit_on_error)
2128         exit_program(1);
2129
2130     if (exit_on_error && *got_output && ist) {
2131         if (ist->decoded_frame->decode_error_flags || (ist->decoded_frame->flags & AV_FRAME_FLAG_CORRUPT)) {
2132             av_log(NULL, AV_LOG_FATAL, "%s: corrupt decoded frame in stream %d\n", input_files[ist->file_index]->ctx->filename, ist->st->index);
2133             exit_program(1);
2134         }
2135     }
2136 }
2137
2138 // Filters can be configured only if the formats of all inputs are known.
2139 static int ifilter_has_all_input_formats(FilterGraph *fg)
2140 {
2141     int i;
2142     for (i = 0; i < fg->nb_inputs; i++) {
2143         if (fg->inputs[i]->format < 0 && (fg->inputs[i]->type == AVMEDIA_TYPE_AUDIO ||
2144                                           fg->inputs[i]->type == AVMEDIA_TYPE_VIDEO))
2145             return 0;
2146     }
2147     return 1;
2148 }
2149
2150 static int ifilter_send_frame(InputFilter *ifilter, AVFrame *frame)
2151 {
2152     FilterGraph *fg = ifilter->graph;
2153     int need_reinit, ret, i;
2154
2155     /* determine if the parameters for this input changed */
2156     need_reinit = ifilter->format != frame->format;
2157     if (!!ifilter->hw_frames_ctx != !!frame->hw_frames_ctx ||
2158         (ifilter->hw_frames_ctx && ifilter->hw_frames_ctx->data != frame->hw_frames_ctx->data))
2159         need_reinit = 1;
2160
2161     switch (ifilter->ist->st->codecpar->codec_type) {
2162     case AVMEDIA_TYPE_AUDIO:
2163         need_reinit |= ifilter->sample_rate    != frame->sample_rate ||
2164                        ifilter->channels       != frame->channels ||
2165                        ifilter->channel_layout != frame->channel_layout;
2166         break;
2167     case AVMEDIA_TYPE_VIDEO:
2168         need_reinit |= ifilter->width  != frame->width ||
2169                        ifilter->height != frame->height;
2170         break;
2171     }
2172
2173     if (need_reinit) {
2174         ret = ifilter_parameters_from_frame(ifilter, frame);
2175         if (ret < 0)
2176             return ret;
2177     }
2178
2179     /* (re)init the graph if possible, otherwise buffer the frame and return */
2180     if (need_reinit || !fg->graph) {
2181         for (i = 0; i < fg->nb_inputs; i++) {
2182             if (!ifilter_has_all_input_formats(fg)) {
2183                 AVFrame *tmp = av_frame_clone(frame);
2184                 if (!tmp)
2185                     return AVERROR(ENOMEM);
2186                 av_frame_unref(frame);
2187
2188                 if (!av_fifo_space(ifilter->frame_queue)) {
2189                     ret = av_fifo_realloc2(ifilter->frame_queue, 2 * av_fifo_size(ifilter->frame_queue));
2190                     if (ret < 0) {
2191                         av_frame_free(&tmp);
2192                         return ret;
2193                     }
2194                 }
2195                 av_fifo_generic_write(ifilter->frame_queue, &tmp, sizeof(tmp), NULL);
2196                 return 0;
2197             }
2198         }
2199
2200         ret = reap_filters(1);
2201         if (ret < 0 && ret != AVERROR_EOF) {
2202             char errbuf[128];
2203             av_strerror(ret, errbuf, sizeof(errbuf));
2204
2205             av_log(NULL, AV_LOG_ERROR, "Error while filtering: %s\n", errbuf);
2206             return ret;
2207         }
2208
2209         ret = configure_filtergraph(fg);
2210         if (ret < 0) {
2211             av_log(NULL, AV_LOG_ERROR, "Error reinitializing filters!\n");
2212             return ret;
2213         }
2214     }
2215
2216     ret = av_buffersrc_add_frame_flags(ifilter->filter, frame, AV_BUFFERSRC_FLAG_PUSH);
2217     if (ret < 0) {
2218         if (ret != AVERROR_EOF)
2219             av_log(NULL, AV_LOG_ERROR, "Error while filtering: %s\n", av_err2str(ret));
2220         return ret;
2221     }
2222
2223     return 0;
2224 }
2225
2226 static int ifilter_send_eof(InputFilter *ifilter)
2227 {
2228     int i, j, ret;
2229
2230     ifilter->eof = 1;
2231
2232     if (ifilter->filter) {
2233         ret = av_buffersrc_add_frame_flags(ifilter->filter, NULL, AV_BUFFERSRC_FLAG_PUSH);
2234         if (ret < 0)
2235             return ret;
2236     } else {
2237         // the filtergraph was never configured
2238         FilterGraph *fg = ifilter->graph;
2239         for (i = 0; i < fg->nb_inputs; i++)
2240             if (!fg->inputs[i]->eof)
2241                 break;
2242         if (i == fg->nb_inputs) {
2243             // All the input streams have finished without the filtergraph
2244             // ever being configured.
2245             // Mark the output streams as finished.
2246             for (j = 0; j < fg->nb_outputs; j++)
2247                 finish_output_stream(fg->outputs[j]->ost);
2248         }
2249     }
2250
2251     return 0;
2252 }
2253
2254 // This does not quite work like avcodec_decode_audio4/avcodec_decode_video2.
2255 // There is the following difference: if you got a frame, you must call
2256 // it again with pkt=NULL. pkt==NULL is treated differently from pkt.size==0
2257 // (pkt==NULL means get more output, pkt.size==0 is a flush/drain packet)
2258 static int decode(AVCodecContext *avctx, AVFrame *frame, int *got_frame, AVPacket *pkt)
2259 {
2260     int ret;
2261
2262     *got_frame = 0;
2263
2264     if (pkt) {
2265         ret = avcodec_send_packet(avctx, pkt);
2266         // In particular, we don't expect AVERROR(EAGAIN), because we read all
2267         // decoded frames with avcodec_receive_frame() until done.
2268         if (ret < 0 && ret != AVERROR_EOF)
2269             return ret;
2270     }
2271
2272     ret = avcodec_receive_frame(avctx, frame);
2273     if (ret < 0 && ret != AVERROR(EAGAIN))
2274         return ret;
2275     if (ret >= 0)
2276         *got_frame = 1;
2277
2278     return 0;
2279 }
2280
2281 static int send_frame_to_filters(InputStream *ist, AVFrame *decoded_frame)
2282 {
2283     int i, ret;
2284     AVFrame *f;
2285
2286     av_assert1(ist->nb_filters > 0); /* ensure ret is initialized */
2287     for (i = 0; i < ist->nb_filters; i++) {
2288         if (i < ist->nb_filters - 1) {
2289             f = ist->filter_frame;
2290             ret = av_frame_ref(f, decoded_frame);
2291             if (ret < 0)
2292                 break;
2293         } else
2294             f = decoded_frame;
2295         ret = ifilter_send_frame(ist->filters[i], f);
2296         if (ret == AVERROR_EOF)
2297             ret = 0; /* ignore */
2298         if (ret < 0) {
2299             av_log(NULL, AV_LOG_ERROR,
2300                    "Failed to inject frame into filter network: %s\n", av_err2str(ret));
2301             break;
2302         }
2303     }
2304     return ret;
2305 }
2306
2307 static int decode_audio(InputStream *ist, AVPacket *pkt, int *got_output,
2308                         int *decode_failed)
2309 {
2310     AVFrame *decoded_frame;
2311     AVCodecContext *avctx = ist->dec_ctx;
2312     int ret, err = 0;
2313     AVRational decoded_frame_tb;
2314
2315     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
2316         return AVERROR(ENOMEM);
2317     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
2318         return AVERROR(ENOMEM);
2319     decoded_frame = ist->decoded_frame;
2320
2321     update_benchmark(NULL);
2322     ret = decode(avctx, decoded_frame, got_output, pkt);
2323     update_benchmark("decode_audio %d.%d", ist->file_index, ist->st->index);
2324     if (ret < 0)
2325         *decode_failed = 1;
2326
2327     if (ret >= 0 && avctx->sample_rate <= 0) {
2328         av_log(avctx, AV_LOG_ERROR, "Sample rate %d invalid\n", avctx->sample_rate);
2329         ret = AVERROR_INVALIDDATA;
2330     }
2331
2332     if (ret != AVERROR_EOF)
2333         check_decode_result(ist, got_output, ret);
2334
2335     if (!*got_output || ret < 0)
2336         return ret;
2337
2338     ist->samples_decoded += decoded_frame->nb_samples;
2339     ist->frames_decoded++;
2340
2341 #if 1
2342     /* increment next_dts to use for the case where the input stream does not
2343        have timestamps or there are multiple frames in the packet */
2344     ist->next_pts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
2345                      avctx->sample_rate;
2346     ist->next_dts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
2347                      avctx->sample_rate;
2348 #endif
2349
2350     if (decoded_frame->pts != AV_NOPTS_VALUE) {
2351         decoded_frame_tb   = ist->st->time_base;
2352     } else if (pkt && pkt->pts != AV_NOPTS_VALUE) {
2353         decoded_frame->pts = pkt->pts;
2354         decoded_frame_tb   = ist->st->time_base;
2355     }else {
2356         decoded_frame->pts = ist->dts;
2357         decoded_frame_tb   = AV_TIME_BASE_Q;
2358     }
2359     if (decoded_frame->pts != AV_NOPTS_VALUE)
2360         decoded_frame->pts = av_rescale_delta(decoded_frame_tb, decoded_frame->pts,
2361                                               (AVRational){1, avctx->sample_rate}, decoded_frame->nb_samples, &ist->filter_in_rescale_delta_last,
2362                                               (AVRational){1, avctx->sample_rate});
2363     ist->nb_samples = decoded_frame->nb_samples;
2364     err = send_frame_to_filters(ist, decoded_frame);
2365
2366     av_frame_unref(ist->filter_frame);
2367     av_frame_unref(decoded_frame);
2368     return err < 0 ? err : ret;
2369 }
2370
2371 static int decode_video(InputStream *ist, AVPacket *pkt, int *got_output, int eof,
2372                         int *decode_failed)
2373 {
2374     AVFrame *decoded_frame;
2375     int i, ret = 0, err = 0;
2376     int64_t best_effort_timestamp;
2377     int64_t dts = AV_NOPTS_VALUE;
2378     AVPacket avpkt;
2379
2380     // With fate-indeo3-2, we're getting 0-sized packets before EOF for some
2381     // reason. This seems like a semi-critical bug. Don't trigger EOF, and
2382     // skip the packet.
2383     if (!eof && pkt && pkt->size == 0)
2384         return 0;
2385
2386     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
2387         return AVERROR(ENOMEM);
2388     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
2389         return AVERROR(ENOMEM);
2390     decoded_frame = ist->decoded_frame;
2391     if (ist->dts != AV_NOPTS_VALUE)
2392         dts = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ist->st->time_base);
2393     if (pkt) {
2394         avpkt = *pkt;
2395         avpkt.dts = dts; // ffmpeg.c probably shouldn't do this
2396     }
2397
2398     // The old code used to set dts on the drain packet, which does not work
2399     // with the new API anymore.
2400     if (eof) {
2401         void *new = av_realloc_array(ist->dts_buffer, ist->nb_dts_buffer + 1, sizeof(ist->dts_buffer[0]));
2402         if (!new)
2403             return AVERROR(ENOMEM);
2404         ist->dts_buffer = new;
2405         ist->dts_buffer[ist->nb_dts_buffer++] = dts;
2406     }
2407
2408     update_benchmark(NULL);
2409     ret = decode(ist->dec_ctx, decoded_frame, got_output, pkt ? &avpkt : NULL);
2410     update_benchmark("decode_video %d.%d", ist->file_index, ist->st->index);
2411     if (ret < 0)
2412         *decode_failed = 1;
2413
2414     // The following line may be required in some cases where there is no parser
2415     // or the parser does not has_b_frames correctly
2416     if (ist->st->codecpar->video_delay < ist->dec_ctx->has_b_frames) {
2417         if (ist->dec_ctx->codec_id == AV_CODEC_ID_H264) {
2418             ist->st->codecpar->video_delay = ist->dec_ctx->has_b_frames;
2419         } else
2420             av_log(ist->dec_ctx, AV_LOG_WARNING,
2421                    "video_delay is larger in decoder than demuxer %d > %d.\n"
2422                    "If you want to help, upload a sample "
2423                    "of this file to ftp://upload.ffmpeg.org/incoming/ "
2424                    "and contact the ffmpeg-devel mailing list. (ffmpeg-devel@ffmpeg.org)\n",
2425                    ist->dec_ctx->has_b_frames,
2426                    ist->st->codecpar->video_delay);
2427     }
2428
2429     if (ret != AVERROR_EOF)
2430         check_decode_result(ist, got_output, ret);
2431
2432     if (*got_output && ret >= 0) {
2433         if (ist->dec_ctx->width  != decoded_frame->width ||
2434             ist->dec_ctx->height != decoded_frame->height ||
2435             ist->dec_ctx->pix_fmt != decoded_frame->format) {
2436             av_log(NULL, AV_LOG_DEBUG, "Frame parameters mismatch context %d,%d,%d != %d,%d,%d\n",
2437                 decoded_frame->width,
2438                 decoded_frame->height,
2439                 decoded_frame->format,
2440                 ist->dec_ctx->width,
2441                 ist->dec_ctx->height,
2442                 ist->dec_ctx->pix_fmt);
2443         }
2444     }
2445
2446     if (!*got_output || ret < 0)
2447         return ret;
2448
2449     if(ist->top_field_first>=0)
2450         decoded_frame->top_field_first = ist->top_field_first;
2451
2452     ist->frames_decoded++;
2453
2454     if (ist->hwaccel_retrieve_data && decoded_frame->format == ist->hwaccel_pix_fmt) {
2455         err = ist->hwaccel_retrieve_data(ist->dec_ctx, decoded_frame);
2456         if (err < 0)
2457             goto fail;
2458     }
2459     ist->hwaccel_retrieved_pix_fmt = decoded_frame->format;
2460
2461     best_effort_timestamp= decoded_frame->best_effort_timestamp;
2462
2463     if (ist->framerate.num)
2464         best_effort_timestamp = ist->cfr_next_pts++;
2465
2466     if (eof && best_effort_timestamp == AV_NOPTS_VALUE && ist->nb_dts_buffer > 0) {
2467         best_effort_timestamp = ist->dts_buffer[0];
2468
2469         for (i = 0; i < ist->nb_dts_buffer - 1; i++)
2470             ist->dts_buffer[i] = ist->dts_buffer[i + 1];
2471         ist->nb_dts_buffer--;
2472     }
2473
2474     if(best_effort_timestamp != AV_NOPTS_VALUE) {
2475         int64_t ts = av_rescale_q(decoded_frame->pts = best_effort_timestamp, ist->st->time_base, AV_TIME_BASE_Q);
2476
2477         if (ts != AV_NOPTS_VALUE)
2478             ist->next_pts = ist->pts = ts;
2479     }
2480
2481     if (debug_ts) {
2482         av_log(NULL, AV_LOG_INFO, "decoder -> ist_index:%d type:video "
2483                "frame_pts:%s frame_pts_time:%s best_effort_ts:%"PRId64" best_effort_ts_time:%s keyframe:%d frame_type:%d time_base:%d/%d\n",
2484                ist->st->index, av_ts2str(decoded_frame->pts),
2485                av_ts2timestr(decoded_frame->pts, &ist->st->time_base),
2486                best_effort_timestamp,
2487                av_ts2timestr(best_effort_timestamp, &ist->st->time_base),
2488                decoded_frame->key_frame, decoded_frame->pict_type,
2489                ist->st->time_base.num, ist->st->time_base.den);
2490     }
2491
2492     if (ist->st->sample_aspect_ratio.num)
2493         decoded_frame->sample_aspect_ratio = ist->st->sample_aspect_ratio;
2494
2495     err = send_frame_to_filters(ist, decoded_frame);
2496
2497 fail:
2498     av_frame_unref(ist->filter_frame);
2499     av_frame_unref(decoded_frame);
2500     return err < 0 ? err : ret;
2501 }
2502
2503 static int transcode_subtitles(InputStream *ist, AVPacket *pkt, int *got_output,
2504                                int *decode_failed)
2505 {
2506     AVSubtitle subtitle;
2507     int free_sub = 1;
2508     int i, ret = avcodec_decode_subtitle2(ist->dec_ctx,
2509                                           &subtitle, got_output, pkt);
2510
2511     check_decode_result(NULL, got_output, ret);
2512
2513     if (ret < 0 || !*got_output) {
2514         *decode_failed = 1;
2515         if (!pkt->size)
2516             sub2video_flush(ist);
2517         return ret;
2518     }
2519
2520     if (ist->fix_sub_duration) {
2521         int end = 1;
2522         if (ist->prev_sub.got_output) {
2523             end = av_rescale(subtitle.pts - ist->prev_sub.subtitle.pts,
2524                              1000, AV_TIME_BASE);
2525             if (end < ist->prev_sub.subtitle.end_display_time) {
2526                 av_log(ist->dec_ctx, AV_LOG_DEBUG,
2527                        "Subtitle duration reduced from %"PRId32" to %d%s\n",
2528                        ist->prev_sub.subtitle.end_display_time, end,
2529                        end <= 0 ? ", dropping it" : "");
2530                 ist->prev_sub.subtitle.end_display_time = end;
2531             }
2532         }
2533         FFSWAP(int,        *got_output, ist->prev_sub.got_output);
2534         FFSWAP(int,        ret,         ist->prev_sub.ret);
2535         FFSWAP(AVSubtitle, subtitle,    ist->prev_sub.subtitle);
2536         if (end <= 0)
2537             goto out;
2538     }
2539
2540     if (!*got_output)
2541         return ret;
2542
2543     if (ist->sub2video.frame) {
2544         sub2video_update(ist, &subtitle);
2545     } else if (ist->nb_filters) {
2546         if (!ist->sub2video.sub_queue)
2547             ist->sub2video.sub_queue = av_fifo_alloc(8 * sizeof(AVSubtitle));
2548         if (!ist->sub2video.sub_queue)
2549             exit_program(1);
2550         if (!av_fifo_space(ist->sub2video.sub_queue)) {
2551             ret = av_fifo_realloc2(ist->sub2video.sub_queue, 2 * av_fifo_size(ist->sub2video.sub_queue));
2552             if (ret < 0)
2553                 exit_program(1);
2554         }
2555         av_fifo_generic_write(ist->sub2video.sub_queue, &subtitle, sizeof(subtitle), NULL);
2556         free_sub = 0;
2557     }
2558
2559     if (!subtitle.num_rects)
2560         goto out;
2561
2562     ist->frames_decoded++;
2563
2564     for (i = 0; i < nb_output_streams; i++) {
2565         OutputStream *ost = output_streams[i];
2566
2567         if (!check_output_constraints(ist, ost) || !ost->encoding_needed
2568             || ost->enc->type != AVMEDIA_TYPE_SUBTITLE)
2569             continue;
2570
2571         do_subtitle_out(output_files[ost->file_index], ost, &subtitle);
2572     }
2573
2574 out:
2575     if (free_sub)
2576         avsubtitle_free(&subtitle);
2577     return ret;
2578 }
2579
2580 static int send_filter_eof(InputStream *ist)
2581 {
2582     int i, ret;
2583     for (i = 0; i < ist->nb_filters; i++) {
2584         ret = ifilter_send_eof(ist->filters[i]);
2585         if (ret < 0)
2586             return ret;
2587     }
2588     return 0;
2589 }
2590
2591 /* pkt = NULL means EOF (needed to flush decoder buffers) */
2592 static int process_input_packet(InputStream *ist, const AVPacket *pkt, int no_eof)
2593 {
2594     int ret = 0, i;
2595     int repeating = 0;
2596     int eof_reached = 0;
2597
2598     AVPacket avpkt;
2599     if (!ist->saw_first_ts) {
2600         ist->dts = ist->st->avg_frame_rate.num ? - ist->dec_ctx->has_b_frames * AV_TIME_BASE / av_q2d(ist->st->avg_frame_rate) : 0;
2601         ist->pts = 0;
2602         if (pkt && pkt->pts != AV_NOPTS_VALUE && !ist->decoding_needed) {
2603             ist->dts += av_rescale_q(pkt->pts, ist->st->time_base, AV_TIME_BASE_Q);
2604             ist->pts = ist->dts; //unused but better to set it to a value thats not totally wrong
2605         }
2606         ist->saw_first_ts = 1;
2607     }
2608
2609     if (ist->next_dts == AV_NOPTS_VALUE)
2610         ist->next_dts = ist->dts;
2611     if (ist->next_pts == AV_NOPTS_VALUE)
2612         ist->next_pts = ist->pts;
2613
2614     if (!pkt) {
2615         /* EOF handling */
2616         av_init_packet(&avpkt);
2617         avpkt.data = NULL;
2618         avpkt.size = 0;
2619     } else {
2620         avpkt = *pkt;
2621     }
2622
2623     if (pkt && pkt->dts != AV_NOPTS_VALUE) {
2624         ist->next_dts = ist->dts = av_rescale_q(pkt->dts, ist->st->time_base, AV_TIME_BASE_Q);
2625         if (ist->dec_ctx->codec_type != AVMEDIA_TYPE_VIDEO || !ist->decoding_needed)
2626             ist->next_pts = ist->pts = ist->dts;
2627     }
2628
2629     // while we have more to decode or while the decoder did output something on EOF
2630     while (ist->decoding_needed) {
2631         int64_t duration = 0;
2632         int got_output = 0;
2633         int decode_failed = 0;
2634
2635         ist->pts = ist->next_pts;
2636         ist->dts = ist->next_dts;
2637
2638         switch (ist->dec_ctx->codec_type) {
2639         case AVMEDIA_TYPE_AUDIO:
2640             ret = decode_audio    (ist, repeating ? NULL : &avpkt, &got_output,
2641                                    &decode_failed);
2642             break;
2643         case AVMEDIA_TYPE_VIDEO:
2644             ret = decode_video    (ist, repeating ? NULL : &avpkt, &got_output, !pkt,
2645                                    &decode_failed);
2646             if (!repeating || !pkt || got_output) {
2647                 if (pkt && pkt->duration) {
2648                     duration = av_rescale_q(pkt->duration, ist->st->time_base, AV_TIME_BASE_Q);
2649                 } else if(ist->dec_ctx->framerate.num != 0 && ist->dec_ctx->framerate.den != 0) {
2650                     int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict+1 : ist->dec_ctx->ticks_per_frame;
2651                     duration = ((int64_t)AV_TIME_BASE *
2652                                     ist->dec_ctx->framerate.den * ticks) /
2653                                     ist->dec_ctx->framerate.num / ist->dec_ctx->ticks_per_frame;
2654                 }
2655
2656                 if(ist->dts != AV_NOPTS_VALUE && duration) {
2657                     ist->next_dts += duration;
2658                 }else
2659                     ist->next_dts = AV_NOPTS_VALUE;
2660             }
2661
2662             if (got_output)
2663                 ist->next_pts += duration; //FIXME the duration is not correct in some cases
2664             break;
2665         case AVMEDIA_TYPE_SUBTITLE:
2666             if (repeating)
2667                 break;
2668             ret = transcode_subtitles(ist, &avpkt, &got_output, &decode_failed);
2669             if (!pkt && ret >= 0)
2670                 ret = AVERROR_EOF;
2671             break;
2672         default:
2673             return -1;
2674         }
2675
2676         if (ret == AVERROR_EOF) {
2677             eof_reached = 1;
2678             break;
2679         }
2680
2681         if (ret < 0) {
2682             if (decode_failed) {
2683                 av_log(NULL, AV_LOG_ERROR, "Error while decoding stream #%d:%d: %s\n",
2684                        ist->file_index, ist->st->index, av_err2str(ret));
2685             } else {
2686                 av_log(NULL, AV_LOG_FATAL, "Error while processing the decoded "
2687                        "data for stream #%d:%d\n", ist->file_index, ist->st->index);
2688             }
2689             if (!decode_failed || exit_on_error)
2690                 exit_program(1);
2691             break;
2692         }
2693
2694         if (got_output)
2695             ist->got_output = 1;
2696
2697         if (!got_output)
2698             break;
2699
2700         // During draining, we might get multiple output frames in this loop.
2701         // ffmpeg.c does not drain the filter chain on configuration changes,
2702         // which means if we send multiple frames at once to the filters, and
2703         // one of those frames changes configuration, the buffered frames will
2704         // be lost. This can upset certain FATE tests.
2705         // Decode only 1 frame per call on EOF to appease these FATE tests.
2706         // The ideal solution would be to rewrite decoding to use the new
2707         // decoding API in a better way.
2708         if (!pkt)
2709             break;
2710
2711         repeating = 1;
2712     }
2713
2714     /* after flushing, send an EOF on all the filter inputs attached to the stream */
2715     /* except when looping we need to flush but not to send an EOF */
2716     if (!pkt && ist->decoding_needed && eof_reached && !no_eof) {
2717         int ret = send_filter_eof(ist);
2718         if (ret < 0) {
2719             av_log(NULL, AV_LOG_FATAL, "Error marking filters as finished\n");
2720             exit_program(1);
2721         }
2722     }
2723
2724     /* handle stream copy */
2725     if (!ist->decoding_needed) {
2726         ist->dts = ist->next_dts;
2727         switch (ist->dec_ctx->codec_type) {
2728         case AVMEDIA_TYPE_AUDIO:
2729             ist->next_dts += ((int64_t)AV_TIME_BASE * ist->dec_ctx->frame_size) /
2730                              ist->dec_ctx->sample_rate;
2731             break;
2732         case AVMEDIA_TYPE_VIDEO:
2733             if (ist->framerate.num) {
2734                 // TODO: Remove work-around for c99-to-c89 issue 7
2735                 AVRational time_base_q = AV_TIME_BASE_Q;
2736                 int64_t next_dts = av_rescale_q(ist->next_dts, time_base_q, av_inv_q(ist->framerate));
2737                 ist->next_dts = av_rescale_q(next_dts + 1, av_inv_q(ist->framerate), time_base_q);
2738             } else if (pkt->duration) {
2739                 ist->next_dts += av_rescale_q(pkt->duration, ist->st->time_base, AV_TIME_BASE_Q);
2740             } else if(ist->dec_ctx->framerate.num != 0) {
2741                 int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict + 1 : ist->dec_ctx->ticks_per_frame;
2742                 ist->next_dts += ((int64_t)AV_TIME_BASE *
2743                                   ist->dec_ctx->framerate.den * ticks) /
2744                                   ist->dec_ctx->framerate.num / ist->dec_ctx->ticks_per_frame;
2745             }
2746             break;
2747         }
2748         ist->pts = ist->dts;
2749         ist->next_pts = ist->next_dts;
2750     }
2751     for (i = 0; pkt && i < nb_output_streams; i++) {
2752         OutputStream *ost = output_streams[i];
2753
2754         if (!check_output_constraints(ist, ost) || ost->encoding_needed)
2755             continue;
2756
2757         do_streamcopy(ist, ost, pkt);
2758     }
2759
2760     return !eof_reached;
2761 }
2762
2763 static void print_sdp(void)
2764 {
2765     char sdp[16384];
2766     int i;
2767     int j;
2768     AVIOContext *sdp_pb;
2769     AVFormatContext **avc;
2770
2771     for (i = 0; i < nb_output_files; i++) {
2772         if (!output_files[i]->header_written)
2773             return;
2774     }
2775
2776     avc = av_malloc_array(nb_output_files, sizeof(*avc));
2777     if (!avc)
2778         exit_program(1);
2779     for (i = 0, j = 0; i < nb_output_files; i++) {
2780         if (!strcmp(output_files[i]->ctx->oformat->name, "rtp")) {
2781             avc[j] = output_files[i]->ctx;
2782             j++;
2783         }
2784     }
2785
2786     if (!j)
2787         goto fail;
2788
2789     av_sdp_create(avc, j, sdp, sizeof(sdp));
2790
2791     if (!sdp_filename) {
2792         printf("SDP:\n%s\n", sdp);
2793         fflush(stdout);
2794     } else {
2795         if (avio_open2(&sdp_pb, sdp_filename, AVIO_FLAG_WRITE, &int_cb, NULL) < 0) {
2796             av_log(NULL, AV_LOG_ERROR, "Failed to open sdp file '%s'\n", sdp_filename);
2797         } else {
2798             avio_printf(sdp_pb, "SDP:\n%s", sdp);
2799             avio_closep(&sdp_pb);
2800             av_freep(&sdp_filename);
2801         }
2802     }
2803
2804 fail:
2805     av_freep(&avc);
2806 }
2807
2808 static const HWAccel *get_hwaccel(enum AVPixelFormat pix_fmt)
2809 {
2810     int i;
2811     for (i = 0; hwaccels[i].name; i++)
2812         if (hwaccels[i].pix_fmt == pix_fmt)
2813             return &hwaccels[i];
2814     return NULL;
2815 }
2816
2817 static enum AVPixelFormat get_format(AVCodecContext *s, const enum AVPixelFormat *pix_fmts)
2818 {
2819     InputStream *ist = s->opaque;
2820     const enum AVPixelFormat *p;
2821     int ret;
2822
2823     for (p = pix_fmts; *p != -1; p++) {
2824         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(*p);
2825         const HWAccel *hwaccel;
2826
2827         if (!(desc->flags & AV_PIX_FMT_FLAG_HWACCEL))
2828             break;
2829
2830         hwaccel = get_hwaccel(*p);
2831         if (!hwaccel ||
2832             (ist->active_hwaccel_id && ist->active_hwaccel_id != hwaccel->id) ||
2833             (ist->hwaccel_id != HWACCEL_AUTO && ist->hwaccel_id != hwaccel->id))
2834             continue;
2835
2836         ret = hwaccel->init(s);
2837         if (ret < 0) {
2838             if (ist->hwaccel_id == hwaccel->id) {
2839                 av_log(NULL, AV_LOG_FATAL,
2840                        "%s hwaccel requested for input stream #%d:%d, "
2841                        "but cannot be initialized.\n", hwaccel->name,
2842                        ist->file_index, ist->st->index);
2843                 return AV_PIX_FMT_NONE;
2844             }
2845             continue;
2846         }
2847
2848         if (ist->hw_frames_ctx) {
2849             s->hw_frames_ctx = av_buffer_ref(ist->hw_frames_ctx);
2850             if (!s->hw_frames_ctx)
2851                 return AV_PIX_FMT_NONE;
2852         }
2853
2854         ist->active_hwaccel_id = hwaccel->id;
2855         ist->hwaccel_pix_fmt   = *p;
2856         break;
2857     }
2858
2859     return *p;
2860 }
2861
2862 static int get_buffer(AVCodecContext *s, AVFrame *frame, int flags)
2863 {
2864     InputStream *ist = s->opaque;
2865
2866     if (ist->hwaccel_get_buffer && frame->format == ist->hwaccel_pix_fmt)
2867         return ist->hwaccel_get_buffer(s, frame, flags);
2868
2869     return avcodec_default_get_buffer2(s, frame, flags);
2870 }
2871
2872 static int init_input_stream(int ist_index, char *error, int error_len)
2873 {
2874     int ret;
2875     InputStream *ist = input_streams[ist_index];
2876
2877     if (ist->decoding_needed) {
2878         AVCodec *codec = ist->dec;
2879         if (!codec) {
2880             snprintf(error, error_len, "Decoder (codec %s) not found for input stream #%d:%d",
2881                     avcodec_get_name(ist->dec_ctx->codec_id), ist->file_index, ist->st->index);
2882             return AVERROR(EINVAL);
2883         }
2884
2885         ist->dec_ctx->opaque                = ist;
2886         ist->dec_ctx->get_format            = get_format;
2887         ist->dec_ctx->get_buffer2           = get_buffer;
2888         ist->dec_ctx->thread_safe_callbacks = 1;
2889
2890         av_opt_set_int(ist->dec_ctx, "refcounted_frames", 1, 0);
2891         if (ist->dec_ctx->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
2892            (ist->decoding_needed & DECODING_FOR_OST)) {
2893             av_dict_set(&ist->decoder_opts, "compute_edt", "1", AV_DICT_DONT_OVERWRITE);
2894             if (ist->decoding_needed & DECODING_FOR_FILTER)
2895                 av_log(NULL, AV_LOG_WARNING, "Warning using DVB subtitles for filtering and output at the same time is not fully supported, also see -compute_edt [0|1]\n");
2896         }
2897
2898         av_dict_set(&ist->decoder_opts, "sub_text_format", "ass", AV_DICT_DONT_OVERWRITE);
2899
2900         /* Useful for subtitles retiming by lavf (FIXME), skipping samples in
2901          * audio, and video decoders such as cuvid or mediacodec */
2902         av_codec_set_pkt_timebase(ist->dec_ctx, ist->st->time_base);
2903
2904         if (!av_dict_get(ist->decoder_opts, "threads", NULL, 0))
2905             av_dict_set(&ist->decoder_opts, "threads", "auto", 0);
2906         if ((ret = avcodec_open2(ist->dec_ctx, codec, &ist->decoder_opts)) < 0) {
2907             if (ret == AVERROR_EXPERIMENTAL)
2908                 abort_codec_experimental(codec, 0);
2909
2910             snprintf(error, error_len,
2911                      "Error while opening decoder for input stream "
2912                      "#%d:%d : %s",
2913                      ist->file_index, ist->st->index, av_err2str(ret));
2914             return ret;
2915         }
2916         assert_avoptions(ist->decoder_opts);
2917     }
2918
2919     ist->next_pts = AV_NOPTS_VALUE;
2920     ist->next_dts = AV_NOPTS_VALUE;
2921
2922     return 0;
2923 }
2924
2925 static InputStream *get_input_stream(OutputStream *ost)
2926 {
2927     if (ost->source_index >= 0)
2928         return input_streams[ost->source_index];
2929     return NULL;
2930 }
2931
2932 static int compare_int64(const void *a, const void *b)
2933 {
2934     return FFDIFFSIGN(*(const int64_t *)a, *(const int64_t *)b);
2935 }
2936
2937 /* open the muxer when all the streams are initialized */
2938 static int check_init_output_file(OutputFile *of, int file_index)
2939 {
2940     int ret, i;
2941
2942     for (i = 0; i < of->ctx->nb_streams; i++) {
2943         OutputStream *ost = output_streams[of->ost_index + i];
2944         if (!ost->initialized)
2945             return 0;
2946     }
2947
2948     of->ctx->interrupt_callback = int_cb;
2949
2950     ret = avformat_write_header(of->ctx, &of->opts);
2951     if (ret < 0) {
2952         av_log(NULL, AV_LOG_ERROR,
2953                "Could not write header for output file #%d "
2954                "(incorrect codec parameters ?): %s\n",
2955                file_index, av_err2str(ret));
2956         return ret;
2957     }
2958     //assert_avoptions(of->opts);
2959     of->header_written = 1;
2960
2961     av_dump_format(of->ctx, file_index, of->ctx->filename, 1);
2962
2963     if (sdp_filename || want_sdp)
2964         print_sdp();
2965
2966     /* flush the muxing queues */
2967     for (i = 0; i < of->ctx->nb_streams; i++) {
2968         OutputStream *ost = output_streams[of->ost_index + i];
2969
2970         /* try to improve muxing time_base (only possible if nothing has been written yet) */
2971         if (!av_fifo_size(ost->muxing_queue))
2972             ost->mux_timebase = ost->st->time_base;
2973
2974         while (av_fifo_size(ost->muxing_queue)) {
2975             AVPacket pkt;
2976             av_fifo_generic_read(ost->muxing_queue, &pkt, sizeof(pkt), NULL);
2977             write_packet(of, &pkt, ost, 1);
2978         }
2979     }
2980
2981     return 0;
2982 }
2983
2984 static int init_output_bsfs(OutputStream *ost)
2985 {
2986     AVBSFContext *ctx;
2987     int i, ret;
2988
2989     if (!ost->nb_bitstream_filters)
2990         return 0;
2991
2992     for (i = 0; i < ost->nb_bitstream_filters; i++) {
2993         ctx = ost->bsf_ctx[i];
2994
2995         ret = avcodec_parameters_copy(ctx->par_in,
2996                                       i ? ost->bsf_ctx[i - 1]->par_out : ost->st->codecpar);
2997         if (ret < 0)
2998             return ret;
2999
3000         ctx->time_base_in = i ? ost->bsf_ctx[i - 1]->time_base_out : ost->st->time_base;
3001
3002         ret = av_bsf_init(ctx);
3003         if (ret < 0) {
3004             av_log(NULL, AV_LOG_ERROR, "Error initializing bitstream filter: %s\n",
3005                    ost->bsf_ctx[i]->filter->name);
3006             return ret;
3007         }
3008     }
3009
3010     ctx = ost->bsf_ctx[ost->nb_bitstream_filters - 1];
3011     ret = avcodec_parameters_copy(ost->st->codecpar, ctx->par_out);
3012     if (ret < 0)
3013         return ret;
3014
3015     ost->st->time_base = ctx->time_base_out;
3016
3017     return 0;
3018 }
3019
3020 static int init_output_stream_streamcopy(OutputStream *ost)
3021 {
3022     OutputFile *of = output_files[ost->file_index];
3023     InputStream *ist = get_input_stream(ost);
3024     AVCodecParameters *par_dst = ost->st->codecpar;
3025     AVCodecParameters *par_src = ost->ref_par;
3026     AVRational sar;
3027     int i, ret;
3028     uint32_t codec_tag = par_dst->codec_tag;
3029
3030     av_assert0(ist && !ost->filter);
3031
3032     ret = avcodec_parameters_to_context(ost->enc_ctx, ist->st->codecpar);
3033     if (ret >= 0)
3034         ret = av_opt_set_dict(ost->enc_ctx, &ost->encoder_opts);
3035     if (ret < 0) {
3036         av_log(NULL, AV_LOG_FATAL,
3037                "Error setting up codec context options.\n");
3038         return ret;
3039     }
3040     avcodec_parameters_from_context(par_src, ost->enc_ctx);
3041
3042     if (!codec_tag) {
3043         unsigned int codec_tag_tmp;
3044         if (!of->ctx->oformat->codec_tag ||
3045             av_codec_get_id (of->ctx->oformat->codec_tag, par_src->codec_tag) == par_src->codec_id ||
3046             !av_codec_get_tag2(of->ctx->oformat->codec_tag, par_src->codec_id, &codec_tag_tmp))
3047             codec_tag = par_src->codec_tag;
3048     }
3049
3050     ret = avcodec_parameters_copy(par_dst, par_src);
3051     if (ret < 0)
3052         return ret;
3053
3054     par_dst->codec_tag = codec_tag;
3055
3056     if (!ost->frame_rate.num)
3057         ost->frame_rate = ist->framerate;
3058     ost->st->avg_frame_rate = ost->frame_rate;
3059
3060     ret = avformat_transfer_internal_stream_timing_info(of->ctx->oformat, ost->st, ist->st, copy_tb);
3061     if (ret < 0)
3062         return ret;
3063
3064     // copy timebase while removing common factors
3065     if (ost->st->time_base.num <= 0 || ost->st->time_base.den <= 0)
3066         ost->st->time_base = av_add_q(av_stream_get_codec_timebase(ost->st), (AVRational){0, 1});
3067
3068     // copy estimated duration as a hint to the muxer
3069     if (ost->st->duration <= 0 && ist->st->duration > 0)
3070         ost->st->duration = av_rescale_q(ist->st->duration, ist->st->time_base, ost->st->time_base);
3071
3072     // copy disposition
3073     ost->st->disposition = ist->st->disposition;
3074
3075     if (ist->st->nb_side_data) {
3076         for (i = 0; i < ist->st->nb_side_data; i++) {
3077             const AVPacketSideData *sd_src = &ist->st->side_data[i];
3078             uint8_t *dst_data;
3079
3080             dst_data = av_stream_new_side_data(ost->st, sd_src->type, sd_src->size);
3081             if (!dst_data)
3082                 return AVERROR(ENOMEM);
3083             memcpy(dst_data, sd_src->data, sd_src->size);
3084         }
3085     }
3086
3087     if (ost->rotate_overridden) {
3088         uint8_t *sd = av_stream_new_side_data(ost->st, AV_PKT_DATA_DISPLAYMATRIX,
3089                                               sizeof(int32_t) * 9);
3090         if (sd)
3091             av_display_rotation_set((int32_t *)sd, -ost->rotate_override_value);
3092     }
3093
3094     ost->parser = av_parser_init(par_dst->codec_id);
3095     ost->parser_avctx = avcodec_alloc_context3(NULL);
3096     if (!ost->parser_avctx)
3097         return AVERROR(ENOMEM);
3098
3099     switch (par_dst->codec_type) {
3100     case AVMEDIA_TYPE_AUDIO:
3101         if (audio_volume != 256) {
3102             av_log(NULL, AV_LOG_FATAL, "-acodec copy and -vol are incompatible (frames are not decoded)\n");
3103             exit_program(1);
3104         }
3105         if((par_dst->block_align == 1 || par_dst->block_align == 1152 || par_dst->block_align == 576) && par_dst->codec_id == AV_CODEC_ID_MP3)
3106             par_dst->block_align= 0;
3107         if(par_dst->codec_id == AV_CODEC_ID_AC3)
3108             par_dst->block_align= 0;
3109         break;
3110     case AVMEDIA_TYPE_VIDEO:
3111         if (ost->frame_aspect_ratio.num) { // overridden by the -aspect cli option
3112             sar =
3113                 av_mul_q(ost->frame_aspect_ratio,
3114                          (AVRational){ par_dst->height, par_dst->width });
3115             av_log(NULL, AV_LOG_WARNING, "Overriding aspect ratio "
3116                    "with stream copy may produce invalid files\n");
3117             }
3118         else if (ist->st->sample_aspect_ratio.num)
3119             sar = ist->st->sample_aspect_ratio;
3120         else
3121             sar = par_src->sample_aspect_ratio;
3122         ost->st->sample_aspect_ratio = par_dst->sample_aspect_ratio = sar;
3123         ost->st->avg_frame_rate = ist->st->avg_frame_rate;
3124         ost->st->r_frame_rate = ist->st->r_frame_rate;
3125         break;
3126     }
3127
3128     ost->mux_timebase = ist->st->time_base;
3129
3130     return 0;
3131 }
3132
3133 static void set_encoder_id(OutputFile *of, OutputStream *ost)
3134 {
3135     AVDictionaryEntry *e;
3136
3137     uint8_t *encoder_string;
3138     int encoder_string_len;
3139     int format_flags = 0;
3140     int codec_flags = 0;
3141
3142     if (av_dict_get(ost->st->metadata, "encoder",  NULL, 0))
3143         return;
3144
3145     e = av_dict_get(of->opts, "fflags", NULL, 0);
3146     if (e) {
3147         const AVOption *o = av_opt_find(of->ctx, "fflags", NULL, 0, 0);
3148         if (!o)
3149             return;
3150         av_opt_eval_flags(of->ctx, o, e->value, &format_flags);
3151     }
3152     e = av_dict_get(ost->encoder_opts, "flags", NULL, 0);
3153     if (e) {
3154         const AVOption *o = av_opt_find(ost->enc_ctx, "flags", NULL, 0, 0);
3155         if (!o)
3156             return;
3157         av_opt_eval_flags(ost->enc_ctx, o, e->value, &codec_flags);
3158     }
3159
3160     encoder_string_len = sizeof(LIBAVCODEC_IDENT) + strlen(ost->enc->name) + 2;
3161     encoder_string     = av_mallocz(encoder_string_len);
3162     if (!encoder_string)
3163         exit_program(1);
3164
3165     if (!(format_flags & AVFMT_FLAG_BITEXACT) && !(codec_flags & AV_CODEC_FLAG_BITEXACT))
3166         av_strlcpy(encoder_string, LIBAVCODEC_IDENT " ", encoder_string_len);
3167     else
3168         av_strlcpy(encoder_string, "Lavc ", encoder_string_len);
3169     av_strlcat(encoder_string, ost->enc->name, encoder_string_len);
3170     av_dict_set(&ost->st->metadata, "encoder",  encoder_string,
3171                 AV_DICT_DONT_STRDUP_VAL | AV_DICT_DONT_OVERWRITE);
3172 }
3173
3174 static void parse_forced_key_frames(char *kf, OutputStream *ost,
3175                                     AVCodecContext *avctx)
3176 {
3177     char *p;
3178     int n = 1, i, size, index = 0;
3179     int64_t t, *pts;
3180
3181     for (p = kf; *p; p++)
3182         if (*p == ',')
3183             n++;
3184     size = n;
3185     pts = av_malloc_array(size, sizeof(*pts));
3186     if (!pts) {
3187         av_log(NULL, AV_LOG_FATAL, "Could not allocate forced key frames array.\n");
3188         exit_program(1);
3189     }
3190
3191     p = kf;
3192     for (i = 0; i < n; i++) {
3193         char *next = strchr(p, ',');
3194
3195         if (next)
3196             *next++ = 0;
3197
3198         if (!memcmp(p, "chapters", 8)) {
3199
3200             AVFormatContext *avf = output_files[ost->file_index]->ctx;
3201             int j;
3202
3203             if (avf->nb_chapters > INT_MAX - size ||
3204                 !(pts = av_realloc_f(pts, size += avf->nb_chapters - 1,
3205                                      sizeof(*pts)))) {
3206                 av_log(NULL, AV_LOG_FATAL,
3207                        "Could not allocate forced key frames array.\n");
3208                 exit_program(1);
3209             }
3210             t = p[8] ? parse_time_or_die("force_key_frames", p + 8, 1) : 0;
3211             t = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
3212
3213             for (j = 0; j < avf->nb_chapters; j++) {
3214                 AVChapter *c = avf->chapters[j];
3215                 av_assert1(index < size);
3216                 pts[index++] = av_rescale_q(c->start, c->time_base,
3217                                             avctx->time_base) + t;
3218             }
3219
3220         } else {
3221
3222             t = parse_time_or_die("force_key_frames", p, 1);
3223             av_assert1(index < size);
3224             pts[index++] = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
3225
3226         }
3227
3228         p = next;
3229     }
3230
3231     av_assert0(index == size);
3232     qsort(pts, size, sizeof(*pts), compare_int64);
3233     ost->forced_kf_count = size;
3234     ost->forced_kf_pts   = pts;
3235 }
3236
3237 static void init_encoder_time_base(OutputStream *ost, AVRational default_time_base)
3238 {
3239     InputStream *ist = get_input_stream(ost);
3240     AVCodecContext *enc_ctx = ost->enc_ctx;
3241     AVFormatContext *oc;
3242
3243     if (ost->enc_timebase.num > 0) {
3244         enc_ctx->time_base = ost->enc_timebase;
3245         return;
3246     }
3247
3248     if (ost->enc_timebase.num < 0) {
3249         if (ist) {
3250             enc_ctx->time_base = ist->st->time_base;
3251             return;
3252         }
3253
3254         oc = output_files[ost->file_index]->ctx;
3255         av_log(oc, AV_LOG_WARNING, "Input stream data not available, using default time base\n");
3256     }
3257
3258     enc_ctx->time_base = default_time_base;
3259 }
3260
3261 static int init_output_stream_encode(OutputStream *ost)
3262 {
3263     InputStream *ist = get_input_stream(ost);
3264     AVCodecContext *enc_ctx = ost->enc_ctx;
3265     AVCodecContext *dec_ctx = NULL;
3266     AVFormatContext *oc = output_files[ost->file_index]->ctx;
3267     int j, ret;
3268
3269     set_encoder_id(output_files[ost->file_index], ost);
3270
3271     // Muxers use AV_PKT_DATA_DISPLAYMATRIX to signal rotation. On the other
3272     // hand, the legacy API makes demuxers set "rotate" metadata entries,
3273     // which have to be filtered out to prevent leaking them to output files.
3274     av_dict_set(&ost->st->metadata, "rotate", NULL, 0);
3275
3276     if (ist) {
3277         ost->st->disposition          = ist->st->disposition;
3278
3279         dec_ctx = ist->dec_ctx;
3280
3281         enc_ctx->chroma_sample_location = dec_ctx->chroma_sample_location;
3282     } else {
3283         for (j = 0; j < oc->nb_streams; j++) {
3284             AVStream *st = oc->streams[j];
3285             if (st != ost->st && st->codecpar->codec_type == ost->st->codecpar->codec_type)
3286                 break;
3287         }
3288         if (j == oc->nb_streams)
3289             if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO ||
3290                 ost->st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
3291                 ost->st->disposition = AV_DISPOSITION_DEFAULT;
3292     }
3293
3294     if (enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO) {
3295         if (!ost->frame_rate.num)
3296             ost->frame_rate = av_buffersink_get_frame_rate(ost->filter->filter);
3297         if (ist && !ost->frame_rate.num)
3298             ost->frame_rate = ist->framerate;
3299         if (ist && !ost->frame_rate.num)
3300             ost->frame_rate = ist->st->r_frame_rate;
3301         if (ist && !ost->frame_rate.num) {
3302             ost->frame_rate = (AVRational){25, 1};
3303             av_log(NULL, AV_LOG_WARNING,
3304                    "No information "
3305                    "about the input framerate is available. Falling "
3306                    "back to a default value of 25fps for output stream #%d:%d. Use the -r option "
3307                    "if you want a different framerate.\n",
3308                    ost->file_index, ost->index);
3309         }
3310 //      ost->frame_rate = ist->st->avg_frame_rate.num ? ist->st->avg_frame_rate : (AVRational){25, 1};
3311         if (ost->enc->supported_framerates && !ost->force_fps) {
3312             int idx = av_find_nearest_q_idx(ost->frame_rate, ost->enc->supported_framerates);
3313             ost->frame_rate = ost->enc->supported_framerates[idx];
3314         }
3315         // reduce frame rate for mpeg4 to be within the spec limits
3316         if (enc_ctx->codec_id == AV_CODEC_ID_MPEG4) {
3317             av_reduce(&ost->frame_rate.num, &ost->frame_rate.den,
3318                       ost->frame_rate.num, ost->frame_rate.den, 65535);
3319         }
3320     }
3321
3322     switch (enc_ctx->codec_type) {
3323     case AVMEDIA_TYPE_AUDIO:
3324         enc_ctx->sample_fmt     = av_buffersink_get_format(ost->filter->filter);
3325         if (dec_ctx)
3326             enc_ctx->bits_per_raw_sample = FFMIN(dec_ctx->bits_per_raw_sample,
3327                                                  av_get_bytes_per_sample(enc_ctx->sample_fmt) << 3);
3328         enc_ctx->sample_rate    = av_buffersink_get_sample_rate(ost->filter->filter);
3329         enc_ctx->channel_layout = av_buffersink_get_channel_layout(ost->filter->filter);
3330         enc_ctx->channels       = av_buffersink_get_channels(ost->filter->filter);
3331
3332         init_encoder_time_base(ost, av_make_q(1, enc_ctx->sample_rate));
3333         break;
3334
3335     case AVMEDIA_TYPE_VIDEO:
3336         init_encoder_time_base(ost, av_inv_q(ost->frame_rate));
3337
3338         if (!(enc_ctx->time_base.num && enc_ctx->time_base.den))
3339             enc_ctx->time_base = av_buffersink_get_time_base(ost->filter->filter);
3340         if (   av_q2d(enc_ctx->time_base) < 0.001 && video_sync_method != VSYNC_PASSTHROUGH
3341            && (video_sync_method == VSYNC_CFR || video_sync_method == VSYNC_VSCFR || (video_sync_method == VSYNC_AUTO && !(oc->oformat->flags & AVFMT_VARIABLE_FPS)))){
3342             av_log(oc, AV_LOG_WARNING, "Frame rate very high for a muxer not efficiently supporting it.\n"
3343                                        "Please consider specifying a lower framerate, a different muxer or -vsync 2\n");
3344         }
3345         for (j = 0; j < ost->forced_kf_count; j++)
3346             ost->forced_kf_pts[j] = av_rescale_q(ost->forced_kf_pts[j],
3347                                                  AV_TIME_BASE_Q,
3348                                                  enc_ctx->time_base);
3349
3350         enc_ctx->width  = av_buffersink_get_w(ost->filter->filter);
3351         enc_ctx->height = av_buffersink_get_h(ost->filter->filter);
3352         enc_ctx->sample_aspect_ratio = ost->st->sample_aspect_ratio =
3353             ost->frame_aspect_ratio.num ? // overridden by the -aspect cli option
3354             av_mul_q(ost->frame_aspect_ratio, (AVRational){ enc_ctx->height, enc_ctx->width }) :
3355             av_buffersink_get_sample_aspect_ratio(ost->filter->filter);
3356         if (!strncmp(ost->enc->name, "libx264", 7) &&
3357             enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
3358             av_buffersink_get_format(ost->filter->filter) != AV_PIX_FMT_YUV420P)
3359             av_log(NULL, AV_LOG_WARNING,
3360                    "No pixel format specified, %s for H.264 encoding chosen.\n"
3361                    "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
3362                    av_get_pix_fmt_name(av_buffersink_get_format(ost->filter->filter)));
3363         if (!strncmp(ost->enc->name, "mpeg2video", 10) &&
3364             enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
3365             av_buffersink_get_format(ost->filter->filter) != AV_PIX_FMT_YUV420P)
3366             av_log(NULL, AV_LOG_WARNING,
3367                    "No pixel format specified, %s for MPEG-2 encoding chosen.\n"
3368                    "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
3369                    av_get_pix_fmt_name(av_buffersink_get_format(ost->filter->filter)));
3370         enc_ctx->pix_fmt = av_buffersink_get_format(ost->filter->filter);
3371         if (dec_ctx)
3372             enc_ctx->bits_per_raw_sample = FFMIN(dec_ctx->bits_per_raw_sample,
3373                                                  av_pix_fmt_desc_get(enc_ctx->pix_fmt)->comp[0].depth);
3374
3375         enc_ctx->framerate = ost->frame_rate;
3376
3377         ost->st->avg_frame_rate = ost->frame_rate;
3378
3379         if (!dec_ctx ||
3380             enc_ctx->width   != dec_ctx->width  ||
3381             enc_ctx->height  != dec_ctx->height ||
3382             enc_ctx->pix_fmt != dec_ctx->pix_fmt) {
3383             enc_ctx->bits_per_raw_sample = frame_bits_per_raw_sample;
3384         }
3385
3386         if (ost->forced_keyframes) {
3387             if (!strncmp(ost->forced_keyframes, "expr:", 5)) {
3388                 ret = av_expr_parse(&ost->forced_keyframes_pexpr, ost->forced_keyframes+5,
3389                                     forced_keyframes_const_names, NULL, NULL, NULL, NULL, 0, NULL);
3390                 if (ret < 0) {
3391                     av_log(NULL, AV_LOG_ERROR,
3392                            "Invalid force_key_frames expression '%s'\n", ost->forced_keyframes+5);
3393                     return ret;
3394                 }
3395                 ost->forced_keyframes_expr_const_values[FKF_N] = 0;
3396                 ost->forced_keyframes_expr_const_values[FKF_N_FORCED] = 0;
3397                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] = NAN;
3398                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] = NAN;
3399
3400             // Don't parse the 'forced_keyframes' in case of 'keep-source-keyframes',
3401             // parse it only for static kf timings
3402             } else if(strncmp(ost->forced_keyframes, "source", 6)) {
3403                 parse_forced_key_frames(ost->forced_keyframes, ost, ost->enc_ctx);
3404             }
3405         }
3406         break;
3407     case AVMEDIA_TYPE_SUBTITLE:
3408         enc_ctx->time_base = AV_TIME_BASE_Q;
3409         if (!enc_ctx->width) {
3410             enc_ctx->width     = input_streams[ost->source_index]->st->codecpar->width;
3411             enc_ctx->height    = input_streams[ost->source_index]->st->codecpar->height;
3412         }
3413         break;
3414     case AVMEDIA_TYPE_DATA:
3415         break;
3416     default:
3417         abort();
3418         break;
3419     }
3420
3421     ost->mux_timebase = enc_ctx->time_base;
3422
3423     return 0;
3424 }
3425
3426 static int init_output_stream(OutputStream *ost, char *error, int error_len)
3427 {
3428     int ret = 0;
3429
3430     if (ost->encoding_needed) {
3431         AVCodec      *codec = ost->enc;
3432         AVCodecContext *dec = NULL;
3433         InputStream *ist;
3434
3435         ret = init_output_stream_encode(ost);
3436         if (ret < 0)
3437             return ret;
3438
3439         if ((ist = get_input_stream(ost)))
3440             dec = ist->dec_ctx;
3441         if (dec && dec->subtitle_header) {
3442             /* ASS code assumes this buffer is null terminated so add extra byte. */
3443             ost->enc_ctx->subtitle_header = av_mallocz(dec->subtitle_header_size + 1);
3444             if (!ost->enc_ctx->subtitle_header)
3445                 return AVERROR(ENOMEM);
3446             memcpy(ost->enc_ctx->subtitle_header, dec->subtitle_header, dec->subtitle_header_size);
3447             ost->enc_ctx->subtitle_header_size = dec->subtitle_header_size;
3448         }
3449         if (!av_dict_get(ost->encoder_opts, "threads", NULL, 0))
3450             av_dict_set(&ost->encoder_opts, "threads", "auto", 0);
3451         if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
3452             !codec->defaults &&
3453             !av_dict_get(ost->encoder_opts, "b", NULL, 0) &&
3454             !av_dict_get(ost->encoder_opts, "ab", NULL, 0))
3455             av_dict_set(&ost->encoder_opts, "b", "128000", 0);
3456
3457         if (ost->filter && av_buffersink_get_hw_frames_ctx(ost->filter->filter) &&
3458             ((AVHWFramesContext*)av_buffersink_get_hw_frames_ctx(ost->filter->filter)->data)->format ==
3459             av_buffersink_get_format(ost->filter->filter)) {
3460             ost->enc_ctx->hw_frames_ctx = av_buffer_ref(av_buffersink_get_hw_frames_ctx(ost->filter->filter));
3461             if (!ost->enc_ctx->hw_frames_ctx)
3462                 return AVERROR(ENOMEM);
3463         }
3464
3465         if ((ret = avcodec_open2(ost->enc_ctx, codec, &ost->encoder_opts)) < 0) {
3466             if (ret == AVERROR_EXPERIMENTAL)
3467                 abort_codec_experimental(codec, 1);
3468             snprintf(error, error_len,
3469                      "Error while opening encoder for output stream #%d:%d - "
3470                      "maybe incorrect parameters such as bit_rate, rate, width or height",
3471                     ost->file_index, ost->index);
3472             return ret;
3473         }
3474         if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
3475             !(ost->enc->capabilities & AV_CODEC_CAP_VARIABLE_FRAME_SIZE))
3476             av_buffersink_set_frame_size(ost->filter->filter,
3477                                             ost->enc_ctx->frame_size);
3478         assert_avoptions(ost->encoder_opts);
3479         if (ost->enc_ctx->bit_rate && ost->enc_ctx->bit_rate < 1000)
3480             av_log(NULL, AV_LOG_WARNING, "The bitrate parameter is set too low."
3481                                          " It takes bits/s as argument, not kbits/s\n");
3482
3483         ret = avcodec_parameters_from_context(ost->st->codecpar, ost->enc_ctx);
3484         if (ret < 0) {
3485             av_log(NULL, AV_LOG_FATAL,
3486                    "Error initializing the output stream codec context.\n");
3487             exit_program(1);
3488         }
3489         /*
3490          * FIXME: ost->st->codec should't be needed here anymore.
3491          */
3492         ret = avcodec_copy_context(ost->st->codec, ost->enc_ctx);
3493         if (ret < 0)
3494             return ret;
3495
3496         if (ost->enc_ctx->nb_coded_side_data) {
3497             int i;
3498
3499             for (i = 0; i < ost->enc_ctx->nb_coded_side_data; i++) {
3500                 const AVPacketSideData *sd_src = &ost->enc_ctx->coded_side_data[i];
3501                 uint8_t *dst_data;
3502
3503                 dst_data = av_stream_new_side_data(ost->st, sd_src->type, sd_src->size);
3504                 if (!dst_data)
3505                     return AVERROR(ENOMEM);
3506                 memcpy(dst_data, sd_src->data, sd_src->size);
3507             }
3508         }
3509
3510         /*
3511          * Add global input side data. For now this is naive, and copies it
3512          * from the input stream's global side data. All side data should
3513          * really be funneled over AVFrame and libavfilter, then added back to
3514          * packet side data, and then potentially using the first packet for
3515          * global side data.
3516          */
3517         if (ist) {
3518             int i;
3519             for (i = 0; i < ist->st->nb_side_data; i++) {
3520                 AVPacketSideData *sd = &ist->st->side_data[i];
3521                 uint8_t *dst = av_stream_new_side_data(ost->st, sd->type, sd->size);
3522                 if (!dst)
3523                     return AVERROR(ENOMEM);
3524                 memcpy(dst, sd->data, sd->size);
3525                 if (ist->autorotate && sd->type == AV_PKT_DATA_DISPLAYMATRIX)
3526                     av_display_rotation_set((uint32_t *)dst, 0);
3527             }
3528         }
3529
3530         // copy timebase while removing common factors
3531         if (ost->st->time_base.num <= 0 || ost->st->time_base.den <= 0)
3532             ost->st->time_base = av_add_q(ost->enc_ctx->time_base, (AVRational){0, 1});
3533
3534         // copy estimated duration as a hint to the muxer
3535         if (ost->st->duration <= 0 && ist && ist->st->duration > 0)
3536             ost->st->duration = av_rescale_q(ist->st->duration, ist->st->time_base, ost->st->time_base);
3537
3538         ost->st->codec->codec= ost->enc_ctx->codec;
3539     } else if (ost->stream_copy) {
3540         ret = init_output_stream_streamcopy(ost);
3541         if (ret < 0)
3542             return ret;
3543
3544         /*
3545          * FIXME: will the codec context used by the parser during streamcopy
3546          * This should go away with the new parser API.
3547          */
3548         ret = avcodec_parameters_to_context(ost->parser_avctx, ost->st->codecpar);
3549         if (ret < 0)
3550             return ret;
3551     }
3552
3553     // parse user provided disposition, and update stream values
3554     if (ost->disposition) {
3555         static const AVOption opts[] = {
3556             { "disposition"         , NULL, 0, AV_OPT_TYPE_FLAGS, { .i64 = 0 }, INT64_MIN, INT64_MAX, .unit = "flags" },
3557             { "default"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DEFAULT           },    .unit = "flags" },
3558             { "dub"                 , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DUB               },    .unit = "flags" },
3559             { "original"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_ORIGINAL          },    .unit = "flags" },
3560             { "comment"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_COMMENT           },    .unit = "flags" },
3561             { "lyrics"              , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_LYRICS            },    .unit = "flags" },
3562             { "karaoke"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_KARAOKE           },    .unit = "flags" },
3563             { "forced"              , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_FORCED            },    .unit = "flags" },
3564             { "hearing_impaired"    , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_HEARING_IMPAIRED  },    .unit = "flags" },
3565             { "visual_impaired"     , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_VISUAL_IMPAIRED   },    .unit = "flags" },
3566             { "clean_effects"       , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_CLEAN_EFFECTS     },    .unit = "flags" },
3567             { "captions"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_CAPTIONS          },    .unit = "flags" },
3568             { "descriptions"        , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DESCRIPTIONS      },    .unit = "flags" },
3569             { "metadata"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_METADATA          },    .unit = "flags" },
3570             { NULL },
3571         };
3572         static const AVClass class = {
3573             .class_name = "",
3574             .item_name  = av_default_item_name,
3575             .option     = opts,
3576             .version    = LIBAVUTIL_VERSION_INT,
3577         };
3578         const AVClass *pclass = &class;
3579
3580         ret = av_opt_eval_flags(&pclass, &opts[0], ost->disposition, &ost->st->disposition);
3581         if (ret < 0)
3582             return ret;
3583     }
3584
3585     /* initialize bitstream filters for the output stream
3586      * needs to be done here, because the codec id for streamcopy is not
3587      * known until now */
3588     ret = init_output_bsfs(ost);
3589     if (ret < 0)
3590         return ret;
3591
3592     ost->initialized = 1;
3593
3594     ret = check_init_output_file(output_files[ost->file_index], ost->file_index);
3595     if (ret < 0)
3596         return ret;
3597
3598     return ret;
3599 }
3600
3601 static void report_new_stream(int input_index, AVPacket *pkt)
3602 {
3603     InputFile *file = input_files[input_index];
3604     AVStream *st = file->ctx->streams[pkt->stream_index];
3605
3606     if (pkt->stream_index < file->nb_streams_warn)
3607         return;
3608     av_log(file->ctx, AV_LOG_WARNING,
3609            "New %s stream %d:%d at pos:%"PRId64" and DTS:%ss\n",
3610            av_get_media_type_string(st->codecpar->codec_type),
3611            input_index, pkt->stream_index,
3612            pkt->pos, av_ts2timestr(pkt->dts, &st->time_base));
3613     file->nb_streams_warn = pkt->stream_index + 1;
3614 }
3615
3616 static int transcode_init(void)
3617 {
3618     int ret = 0, i, j, k;
3619     AVFormatContext *oc;
3620     OutputStream *ost;
3621     InputStream *ist;
3622     char error[1024] = {0};
3623
3624     for (i = 0; i < nb_filtergraphs; i++) {
3625         FilterGraph *fg = filtergraphs[i];
3626         for (j = 0; j < fg->nb_outputs; j++) {
3627             OutputFilter *ofilter = fg->outputs[j];
3628             if (!ofilter->ost || ofilter->ost->source_index >= 0)
3629                 continue;
3630             if (fg->nb_inputs != 1)
3631                 continue;
3632             for (k = nb_input_streams-1; k >= 0 ; k--)
3633                 if (fg->inputs[0]->ist == input_streams[k])
3634                     break;
3635             ofilter->ost->source_index = k;
3636         }
3637     }
3638
3639     /* init framerate emulation */
3640     for (i = 0; i < nb_input_files; i++) {
3641         InputFile *ifile = input_files[i];
3642         if (ifile->rate_emu)
3643             for (j = 0; j < ifile->nb_streams; j++)
3644                 input_streams[j + ifile->ist_index]->start = av_gettime_relative();
3645     }
3646
3647     /* init input streams */
3648     for (i = 0; i < nb_input_streams; i++)
3649         if ((ret = init_input_stream(i, error, sizeof(error))) < 0) {
3650             for (i = 0; i < nb_output_streams; i++) {
3651                 ost = output_streams[i];
3652                 avcodec_close(ost->enc_ctx);
3653             }
3654             goto dump_format;
3655         }
3656
3657     /* open each encoder */
3658     for (i = 0; i < nb_output_streams; i++) {
3659         // skip streams fed from filtergraphs until we have a frame for them
3660         if (output_streams[i]->filter)
3661             continue;
3662
3663         ret = init_output_stream(output_streams[i], error, sizeof(error));
3664         if (ret < 0)
3665             goto dump_format;
3666     }
3667
3668     /* discard unused programs */
3669     for (i = 0; i < nb_input_files; i++) {
3670         InputFile *ifile = input_files[i];
3671         for (j = 0; j < ifile->ctx->nb_programs; j++) {
3672             AVProgram *p = ifile->ctx->programs[j];
3673             int discard  = AVDISCARD_ALL;
3674
3675             for (k = 0; k < p->nb_stream_indexes; k++)
3676                 if (!input_streams[ifile->ist_index + p->stream_index[k]]->discard) {
3677                     discard = AVDISCARD_DEFAULT;
3678                     break;
3679                 }
3680             p->discard = discard;
3681         }
3682     }
3683
3684     /* write headers for files with no streams */
3685     for (i = 0; i < nb_output_files; i++) {
3686         oc = output_files[i]->ctx;
3687         if (oc->oformat->flags & AVFMT_NOSTREAMS && oc->nb_streams == 0) {
3688             ret = check_init_output_file(output_files[i], i);
3689             if (ret < 0)
3690                 goto dump_format;
3691         }
3692     }