ffmpeg: pass output stream duration as a hint to the muxer
[ffmpeg.git] / ffmpeg.c
1 /*
2  * Copyright (c) 2000-2003 Fabrice Bellard
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * multimedia converter based on the FFmpeg libraries
24  */
25
26 #include "config.h"
27 #include <ctype.h>
28 #include <string.h>
29 #include <math.h>
30 #include <stdlib.h>
31 #include <errno.h>
32 #include <limits.h>
33 #include <stdint.h>
34
35 #if HAVE_IO_H
36 #include <io.h>
37 #endif
38 #if HAVE_UNISTD_H
39 #include <unistd.h>
40 #endif
41
42 #include "libavformat/avformat.h"
43 #include "libavdevice/avdevice.h"
44 #include "libswresample/swresample.h"
45 #include "libavutil/opt.h"
46 #include "libavutil/channel_layout.h"
47 #include "libavutil/parseutils.h"
48 #include "libavutil/samplefmt.h"
49 #include "libavutil/fifo.h"
50 #include "libavutil/internal.h"
51 #include "libavutil/intreadwrite.h"
52 #include "libavutil/dict.h"
53 #include "libavutil/mathematics.h"
54 #include "libavutil/pixdesc.h"
55 #include "libavutil/avstring.h"
56 #include "libavutil/libm.h"
57 #include "libavutil/imgutils.h"
58 #include "libavutil/timestamp.h"
59 #include "libavutil/bprint.h"
60 #include "libavutil/time.h"
61 #include "libavutil/threadmessage.h"
62 #include "libavcodec/mathops.h"
63 #include "libavformat/os_support.h"
64
65 # include "libavfilter/avfilter.h"
66 # include "libavfilter/buffersrc.h"
67 # include "libavfilter/buffersink.h"
68
69 #if HAVE_SYS_RESOURCE_H
70 #include <sys/time.h>
71 #include <sys/types.h>
72 #include <sys/resource.h>
73 #elif HAVE_GETPROCESSTIMES
74 #include <windows.h>
75 #endif
76 #if HAVE_GETPROCESSMEMORYINFO
77 #include <windows.h>
78 #include <psapi.h>
79 #endif
80 #if HAVE_SETCONSOLECTRLHANDLER
81 #include <windows.h>
82 #endif
83
84
85 #if HAVE_SYS_SELECT_H
86 #include <sys/select.h>
87 #endif
88
89 #if HAVE_TERMIOS_H
90 #include <fcntl.h>
91 #include <sys/ioctl.h>
92 #include <sys/time.h>
93 #include <termios.h>
94 #elif HAVE_KBHIT
95 #include <conio.h>
96 #endif
97
98 #if HAVE_PTHREADS
99 #include <pthread.h>
100 #endif
101
102 #include <time.h>
103
104 #include "ffmpeg.h"
105 #include "cmdutils.h"
106
107 #include "libavutil/avassert.h"
108
109 const char program_name[] = "ffmpeg";
110 const int program_birth_year = 2000;
111
112 static FILE *vstats_file;
113
114 const char *const forced_keyframes_const_names[] = {
115     "n",
116     "n_forced",
117     "prev_forced_n",
118     "prev_forced_t",
119     "t",
120     NULL
121 };
122
123 static void do_video_stats(OutputStream *ost, int frame_size);
124 static int64_t getutime(void);
125 static int64_t getmaxrss(void);
126
127 static int run_as_daemon  = 0;
128 static int nb_frames_dup = 0;
129 static unsigned dup_warning = 1000;
130 static int nb_frames_drop = 0;
131 static int64_t decode_error_stat[2];
132
133 static int want_sdp = 1;
134
135 static int current_time;
136 AVIOContext *progress_avio = NULL;
137
138 static uint8_t *subtitle_out;
139
140 InputStream **input_streams = NULL;
141 int        nb_input_streams = 0;
142 InputFile   **input_files   = NULL;
143 int        nb_input_files   = 0;
144
145 OutputStream **output_streams = NULL;
146 int         nb_output_streams = 0;
147 OutputFile   **output_files   = NULL;
148 int         nb_output_files   = 0;
149
150 FilterGraph **filtergraphs;
151 int        nb_filtergraphs;
152
153 #if HAVE_TERMIOS_H
154
155 /* init terminal so that we can grab keys */
156 static struct termios oldtty;
157 static int restore_tty;
158 #endif
159
160 #if HAVE_PTHREADS
161 static void free_input_threads(void);
162 #endif
163
164 /* sub2video hack:
165    Convert subtitles to video with alpha to insert them in filter graphs.
166    This is a temporary solution until libavfilter gets real subtitles support.
167  */
168
169 static int sub2video_get_blank_frame(InputStream *ist)
170 {
171     int ret;
172     AVFrame *frame = ist->sub2video.frame;
173
174     av_frame_unref(frame);
175     ist->sub2video.frame->width  = ist->dec_ctx->width  ? ist->dec_ctx->width  : ist->sub2video.w;
176     ist->sub2video.frame->height = ist->dec_ctx->height ? ist->dec_ctx->height : ist->sub2video.h;
177     ist->sub2video.frame->format = AV_PIX_FMT_RGB32;
178     if ((ret = av_frame_get_buffer(frame, 32)) < 0)
179         return ret;
180     memset(frame->data[0], 0, frame->height * frame->linesize[0]);
181     return 0;
182 }
183
184 static void sub2video_copy_rect(uint8_t *dst, int dst_linesize, int w, int h,
185                                 AVSubtitleRect *r)
186 {
187     uint32_t *pal, *dst2;
188     uint8_t *src, *src2;
189     int x, y;
190
191     if (r->type != SUBTITLE_BITMAP) {
192         av_log(NULL, AV_LOG_WARNING, "sub2video: non-bitmap subtitle\n");
193         return;
194     }
195     if (r->x < 0 || r->x + r->w > w || r->y < 0 || r->y + r->h > h) {
196         av_log(NULL, AV_LOG_WARNING, "sub2video: rectangle (%d %d %d %d) overflowing %d %d\n",
197             r->x, r->y, r->w, r->h, w, h
198         );
199         return;
200     }
201
202     dst += r->y * dst_linesize + r->x * 4;
203     src = r->data[0];
204     pal = (uint32_t *)r->data[1];
205     for (y = 0; y < r->h; y++) {
206         dst2 = (uint32_t *)dst;
207         src2 = src;
208         for (x = 0; x < r->w; x++)
209             *(dst2++) = pal[*(src2++)];
210         dst += dst_linesize;
211         src += r->linesize[0];
212     }
213 }
214
215 static void sub2video_push_ref(InputStream *ist, int64_t pts)
216 {
217     AVFrame *frame = ist->sub2video.frame;
218     int i;
219
220     av_assert1(frame->data[0]);
221     ist->sub2video.last_pts = frame->pts = pts;
222     for (i = 0; i < ist->nb_filters; i++)
223         av_buffersrc_add_frame_flags(ist->filters[i]->filter, frame,
224                                      AV_BUFFERSRC_FLAG_KEEP_REF |
225                                      AV_BUFFERSRC_FLAG_PUSH);
226 }
227
228 static void sub2video_update(InputStream *ist, AVSubtitle *sub)
229 {
230     AVFrame *frame = ist->sub2video.frame;
231     int8_t *dst;
232     int     dst_linesize;
233     int num_rects, i;
234     int64_t pts, end_pts;
235
236     if (!frame)
237         return;
238     if (sub) {
239         pts       = av_rescale_q(sub->pts + sub->start_display_time * 1000LL,
240                                  AV_TIME_BASE_Q, ist->st->time_base);
241         end_pts   = av_rescale_q(sub->pts + sub->end_display_time   * 1000LL,
242                                  AV_TIME_BASE_Q, ist->st->time_base);
243         num_rects = sub->num_rects;
244     } else {
245         pts       = ist->sub2video.end_pts;
246         end_pts   = INT64_MAX;
247         num_rects = 0;
248     }
249     if (sub2video_get_blank_frame(ist) < 0) {
250         av_log(ist->dec_ctx, AV_LOG_ERROR,
251                "Impossible to get a blank canvas.\n");
252         return;
253     }
254     dst          = frame->data    [0];
255     dst_linesize = frame->linesize[0];
256     for (i = 0; i < num_rects; i++)
257         sub2video_copy_rect(dst, dst_linesize, frame->width, frame->height, sub->rects[i]);
258     sub2video_push_ref(ist, pts);
259     ist->sub2video.end_pts = end_pts;
260 }
261
262 static void sub2video_heartbeat(InputStream *ist, int64_t pts)
263 {
264     InputFile *infile = input_files[ist->file_index];
265     int i, j, nb_reqs;
266     int64_t pts2;
267
268     /* When a frame is read from a file, examine all sub2video streams in
269        the same file and send the sub2video frame again. Otherwise, decoded
270        video frames could be accumulating in the filter graph while a filter
271        (possibly overlay) is desperately waiting for a subtitle frame. */
272     for (i = 0; i < infile->nb_streams; i++) {
273         InputStream *ist2 = input_streams[infile->ist_index + i];
274         if (!ist2->sub2video.frame)
275             continue;
276         /* subtitles seem to be usually muxed ahead of other streams;
277            if not, subtracting a larger time here is necessary */
278         pts2 = av_rescale_q(pts, ist->st->time_base, ist2->st->time_base) - 1;
279         /* do not send the heartbeat frame if the subtitle is already ahead */
280         if (pts2 <= ist2->sub2video.last_pts)
281             continue;
282         if (pts2 >= ist2->sub2video.end_pts || !ist2->sub2video.frame->data[0])
283             sub2video_update(ist2, NULL);
284         for (j = 0, nb_reqs = 0; j < ist2->nb_filters; j++)
285             nb_reqs += av_buffersrc_get_nb_failed_requests(ist2->filters[j]->filter);
286         if (nb_reqs)
287             sub2video_push_ref(ist2, pts2);
288     }
289 }
290
291 static void sub2video_flush(InputStream *ist)
292 {
293     int i;
294
295     if (ist->sub2video.end_pts < INT64_MAX)
296         sub2video_update(ist, NULL);
297     for (i = 0; i < ist->nb_filters; i++)
298         av_buffersrc_add_frame(ist->filters[i]->filter, NULL);
299 }
300
301 /* end of sub2video hack */
302
303 static void term_exit_sigsafe(void)
304 {
305 #if HAVE_TERMIOS_H
306     if(restore_tty)
307         tcsetattr (0, TCSANOW, &oldtty);
308 #endif
309 }
310
311 void term_exit(void)
312 {
313     av_log(NULL, AV_LOG_QUIET, "%s", "");
314     term_exit_sigsafe();
315 }
316
317 static volatile int received_sigterm = 0;
318 static volatile int received_nb_signals = 0;
319 static volatile int transcode_init_done = 0;
320 static volatile int ffmpeg_exited = 0;
321 static int main_return_code = 0;
322
323 static void
324 sigterm_handler(int sig)
325 {
326     received_sigterm = sig;
327     received_nb_signals++;
328     term_exit_sigsafe();
329     if(received_nb_signals > 3) {
330         write(2/*STDERR_FILENO*/, "Received > 3 system signals, hard exiting\n",
331                            strlen("Received > 3 system signals, hard exiting\n"));
332
333         exit(123);
334     }
335 }
336
337 #if HAVE_SETCONSOLECTRLHANDLER
338 static BOOL WINAPI CtrlHandler(DWORD fdwCtrlType)
339 {
340     av_log(NULL, AV_LOG_DEBUG, "\nReceived windows signal %ld\n", fdwCtrlType);
341
342     switch (fdwCtrlType)
343     {
344     case CTRL_C_EVENT:
345     case CTRL_BREAK_EVENT:
346         sigterm_handler(SIGINT);
347         return TRUE;
348
349     case CTRL_CLOSE_EVENT:
350     case CTRL_LOGOFF_EVENT:
351     case CTRL_SHUTDOWN_EVENT:
352         sigterm_handler(SIGTERM);
353         /* Basically, with these 3 events, when we return from this method the
354            process is hard terminated, so stall as long as we need to
355            to try and let the main thread(s) clean up and gracefully terminate
356            (we have at most 5 seconds, but should be done far before that). */
357         while (!ffmpeg_exited) {
358             Sleep(0);
359         }
360         return TRUE;
361
362     default:
363         av_log(NULL, AV_LOG_ERROR, "Received unknown windows signal %ld\n", fdwCtrlType);
364         return FALSE;
365     }
366 }
367 #endif
368
369 void term_init(void)
370 {
371 #if HAVE_TERMIOS_H
372     if (!run_as_daemon && stdin_interaction) {
373         struct termios tty;
374         if (tcgetattr (0, &tty) == 0) {
375             oldtty = tty;
376             restore_tty = 1;
377
378             tty.c_iflag &= ~(IGNBRK|BRKINT|PARMRK|ISTRIP
379                              |INLCR|IGNCR|ICRNL|IXON);
380             tty.c_oflag |= OPOST;
381             tty.c_lflag &= ~(ECHO|ECHONL|ICANON|IEXTEN);
382             tty.c_cflag &= ~(CSIZE|PARENB);
383             tty.c_cflag |= CS8;
384             tty.c_cc[VMIN] = 1;
385             tty.c_cc[VTIME] = 0;
386
387             tcsetattr (0, TCSANOW, &tty);
388         }
389         signal(SIGQUIT, sigterm_handler); /* Quit (POSIX).  */
390     }
391 #endif
392
393     signal(SIGINT , sigterm_handler); /* Interrupt (ANSI).    */
394     signal(SIGTERM, sigterm_handler); /* Termination (ANSI).  */
395 #ifdef SIGXCPU
396     signal(SIGXCPU, sigterm_handler);
397 #endif
398 #if HAVE_SETCONSOLECTRLHANDLER
399     SetConsoleCtrlHandler((PHANDLER_ROUTINE) CtrlHandler, TRUE);
400 #endif
401 }
402
403 /* read a key without blocking */
404 static int read_key(void)
405 {
406     unsigned char ch;
407 #if HAVE_TERMIOS_H
408     int n = 1;
409     struct timeval tv;
410     fd_set rfds;
411
412     FD_ZERO(&rfds);
413     FD_SET(0, &rfds);
414     tv.tv_sec = 0;
415     tv.tv_usec = 0;
416     n = select(1, &rfds, NULL, NULL, &tv);
417     if (n > 0) {
418         n = read(0, &ch, 1);
419         if (n == 1)
420             return ch;
421
422         return n;
423     }
424 #elif HAVE_KBHIT
425 #    if HAVE_PEEKNAMEDPIPE
426     static int is_pipe;
427     static HANDLE input_handle;
428     DWORD dw, nchars;
429     if(!input_handle){
430         input_handle = GetStdHandle(STD_INPUT_HANDLE);
431         is_pipe = !GetConsoleMode(input_handle, &dw);
432     }
433
434     if (is_pipe) {
435         /* When running under a GUI, you will end here. */
436         if (!PeekNamedPipe(input_handle, NULL, 0, NULL, &nchars, NULL)) {
437             // input pipe may have been closed by the program that ran ffmpeg
438             return -1;
439         }
440         //Read it
441         if(nchars != 0) {
442             read(0, &ch, 1);
443             return ch;
444         }else{
445             return -1;
446         }
447     }
448 #    endif
449     if(kbhit())
450         return(getch());
451 #endif
452     return -1;
453 }
454
455 static int decode_interrupt_cb(void *ctx)
456 {
457     return received_nb_signals > transcode_init_done;
458 }
459
460 const AVIOInterruptCB int_cb = { decode_interrupt_cb, NULL };
461
462 static void ffmpeg_cleanup(int ret)
463 {
464     int i, j;
465
466     if (do_benchmark) {
467         int maxrss = getmaxrss() / 1024;
468         av_log(NULL, AV_LOG_INFO, "bench: maxrss=%ikB\n", maxrss);
469     }
470
471     for (i = 0; i < nb_filtergraphs; i++) {
472         FilterGraph *fg = filtergraphs[i];
473         avfilter_graph_free(&fg->graph);
474         for (j = 0; j < fg->nb_inputs; j++) {
475             av_buffer_unref(&fg->inputs[j]->hw_frames_ctx);
476             av_freep(&fg->inputs[j]->name);
477             av_freep(&fg->inputs[j]);
478         }
479         av_freep(&fg->inputs);
480         for (j = 0; j < fg->nb_outputs; j++) {
481             av_freep(&fg->outputs[j]->name);
482             av_freep(&fg->outputs[j]->formats);
483             av_freep(&fg->outputs[j]->channel_layouts);
484             av_freep(&fg->outputs[j]->sample_rates);
485             av_freep(&fg->outputs[j]);
486         }
487         av_freep(&fg->outputs);
488         av_freep(&fg->graph_desc);
489
490         av_freep(&filtergraphs[i]);
491     }
492     av_freep(&filtergraphs);
493
494     av_freep(&subtitle_out);
495
496     /* close files */
497     for (i = 0; i < nb_output_files; i++) {
498         OutputFile *of = output_files[i];
499         AVFormatContext *s;
500         if (!of)
501             continue;
502         s = of->ctx;
503         if (s && s->oformat && !(s->oformat->flags & AVFMT_NOFILE))
504             avio_closep(&s->pb);
505         avformat_free_context(s);
506         av_dict_free(&of->opts);
507
508         av_freep(&output_files[i]);
509     }
510     for (i = 0; i < nb_output_streams; i++) {
511         OutputStream *ost = output_streams[i];
512
513         if (!ost)
514             continue;
515
516         for (j = 0; j < ost->nb_bitstream_filters; j++)
517             av_bsf_free(&ost->bsf_ctx[j]);
518         av_freep(&ost->bsf_ctx);
519         av_freep(&ost->bsf_extradata_updated);
520
521         av_frame_free(&ost->filtered_frame);
522         av_frame_free(&ost->last_frame);
523         av_dict_free(&ost->encoder_opts);
524
525         av_parser_close(ost->parser);
526         avcodec_free_context(&ost->parser_avctx);
527
528         av_freep(&ost->forced_keyframes);
529         av_expr_free(ost->forced_keyframes_pexpr);
530         av_freep(&ost->avfilter);
531         av_freep(&ost->logfile_prefix);
532
533         av_freep(&ost->audio_channels_map);
534         ost->audio_channels_mapped = 0;
535
536         av_dict_free(&ost->sws_dict);
537
538         avcodec_free_context(&ost->enc_ctx);
539         avcodec_parameters_free(&ost->ref_par);
540
541         while (ost->muxing_queue && av_fifo_size(ost->muxing_queue)) {
542             AVPacket pkt;
543             av_fifo_generic_read(ost->muxing_queue, &pkt, sizeof(pkt), NULL);
544             av_packet_unref(&pkt);
545         }
546         av_fifo_freep(&ost->muxing_queue);
547
548         av_freep(&output_streams[i]);
549     }
550 #if HAVE_PTHREADS
551     free_input_threads();
552 #endif
553     for (i = 0; i < nb_input_files; i++) {
554         avformat_close_input(&input_files[i]->ctx);
555         av_freep(&input_files[i]);
556     }
557     for (i = 0; i < nb_input_streams; i++) {
558         InputStream *ist = input_streams[i];
559
560         av_frame_free(&ist->decoded_frame);
561         av_frame_free(&ist->filter_frame);
562         av_dict_free(&ist->decoder_opts);
563         avsubtitle_free(&ist->prev_sub.subtitle);
564         av_frame_free(&ist->sub2video.frame);
565         av_freep(&ist->filters);
566         av_freep(&ist->hwaccel_device);
567         av_freep(&ist->dts_buffer);
568
569         avcodec_free_context(&ist->dec_ctx);
570
571         av_freep(&input_streams[i]);
572     }
573
574     if (vstats_file) {
575         if (fclose(vstats_file))
576             av_log(NULL, AV_LOG_ERROR,
577                    "Error closing vstats file, loss of information possible: %s\n",
578                    av_err2str(AVERROR(errno)));
579     }
580     av_freep(&vstats_filename);
581
582     av_freep(&input_streams);
583     av_freep(&input_files);
584     av_freep(&output_streams);
585     av_freep(&output_files);
586
587     uninit_opts();
588
589     avformat_network_deinit();
590
591     if (received_sigterm) {
592         av_log(NULL, AV_LOG_INFO, "Exiting normally, received signal %d.\n",
593                (int) received_sigterm);
594     } else if (ret && transcode_init_done) {
595         av_log(NULL, AV_LOG_INFO, "Conversion failed!\n");
596     }
597     term_exit();
598     ffmpeg_exited = 1;
599 }
600
601 void remove_avoptions(AVDictionary **a, AVDictionary *b)
602 {
603     AVDictionaryEntry *t = NULL;
604
605     while ((t = av_dict_get(b, "", t, AV_DICT_IGNORE_SUFFIX))) {
606         av_dict_set(a, t->key, NULL, AV_DICT_MATCH_CASE);
607     }
608 }
609
610 void assert_avoptions(AVDictionary *m)
611 {
612     AVDictionaryEntry *t;
613     if ((t = av_dict_get(m, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
614         av_log(NULL, AV_LOG_FATAL, "Option %s not found.\n", t->key);
615         exit_program(1);
616     }
617 }
618
619 static void abort_codec_experimental(AVCodec *c, int encoder)
620 {
621     exit_program(1);
622 }
623
624 static void update_benchmark(const char *fmt, ...)
625 {
626     if (do_benchmark_all) {
627         int64_t t = getutime();
628         va_list va;
629         char buf[1024];
630
631         if (fmt) {
632             va_start(va, fmt);
633             vsnprintf(buf, sizeof(buf), fmt, va);
634             va_end(va);
635             av_log(NULL, AV_LOG_INFO, "bench: %8"PRIu64" %s \n", t - current_time, buf);
636         }
637         current_time = t;
638     }
639 }
640
641 static void close_all_output_streams(OutputStream *ost, OSTFinished this_stream, OSTFinished others)
642 {
643     int i;
644     for (i = 0; i < nb_output_streams; i++) {
645         OutputStream *ost2 = output_streams[i];
646         ost2->finished |= ost == ost2 ? this_stream : others;
647     }
648 }
649
650 static void write_packet(OutputFile *of, AVPacket *pkt, OutputStream *ost)
651 {
652     AVFormatContext *s = of->ctx;
653     AVStream *st = ost->st;
654     int ret;
655
656     if (!of->header_written) {
657         AVPacket tmp_pkt;
658         /* the muxer is not initialized yet, buffer the packet */
659         if (!av_fifo_space(ost->muxing_queue)) {
660             int new_size = FFMIN(2 * av_fifo_size(ost->muxing_queue),
661                                  ost->max_muxing_queue_size);
662             if (new_size <= av_fifo_size(ost->muxing_queue)) {
663                 av_log(NULL, AV_LOG_ERROR,
664                        "Too many packets buffered for output stream %d:%d.\n",
665                        ost->file_index, ost->st->index);
666                 exit_program(1);
667             }
668             ret = av_fifo_realloc2(ost->muxing_queue, new_size);
669             if (ret < 0)
670                 exit_program(1);
671         }
672         av_packet_move_ref(&tmp_pkt, pkt);
673         av_fifo_generic_write(ost->muxing_queue, &tmp_pkt, sizeof(tmp_pkt), NULL);
674         return;
675     }
676
677     if ((st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO && video_sync_method == VSYNC_DROP) ||
678         (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && audio_sync_method < 0))
679         pkt->pts = pkt->dts = AV_NOPTS_VALUE;
680
681     /*
682      * Audio encoders may split the packets --  #frames in != #packets out.
683      * But there is no reordering, so we can limit the number of output packets
684      * by simply dropping them here.
685      * Counting encoded video frames needs to be done separately because of
686      * reordering, see do_video_out()
687      */
688     if (!(st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO && ost->encoding_needed)) {
689         if (ost->frame_number >= ost->max_frames) {
690             av_packet_unref(pkt);
691             return;
692         }
693         ost->frame_number++;
694     }
695     if (st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) {
696         int i;
697         uint8_t *sd = av_packet_get_side_data(pkt, AV_PKT_DATA_QUALITY_STATS,
698                                               NULL);
699         ost->quality = sd ? AV_RL32(sd) : -1;
700         ost->pict_type = sd ? sd[4] : AV_PICTURE_TYPE_NONE;
701
702         for (i = 0; i<FF_ARRAY_ELEMS(ost->error); i++) {
703             if (sd && i < sd[5])
704                 ost->error[i] = AV_RL64(sd + 8 + 8*i);
705             else
706                 ost->error[i] = -1;
707         }
708
709         if (ost->frame_rate.num && ost->is_cfr) {
710             if (pkt->duration > 0)
711                 av_log(NULL, AV_LOG_WARNING, "Overriding packet duration by frame rate, this should not happen\n");
712             pkt->duration = av_rescale_q(1, av_inv_q(ost->frame_rate),
713                                          ost->st->time_base);
714         }
715     }
716
717     if (!(s->oformat->flags & AVFMT_NOTIMESTAMPS)) {
718         if (pkt->dts != AV_NOPTS_VALUE &&
719             pkt->pts != AV_NOPTS_VALUE &&
720             pkt->dts > pkt->pts) {
721             av_log(s, AV_LOG_WARNING, "Invalid DTS: %"PRId64" PTS: %"PRId64" in output stream %d:%d, replacing by guess\n",
722                    pkt->dts, pkt->pts,
723                    ost->file_index, ost->st->index);
724             pkt->pts =
725             pkt->dts = pkt->pts + pkt->dts + ost->last_mux_dts + 1
726                      - FFMIN3(pkt->pts, pkt->dts, ost->last_mux_dts + 1)
727                      - FFMAX3(pkt->pts, pkt->dts, ost->last_mux_dts + 1);
728         }
729         if ((st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO || st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) &&
730             pkt->dts != AV_NOPTS_VALUE &&
731             !(st->codecpar->codec_id == AV_CODEC_ID_VP9 && ost->stream_copy) &&
732             ost->last_mux_dts != AV_NOPTS_VALUE) {
733             int64_t max = ost->last_mux_dts + !(s->oformat->flags & AVFMT_TS_NONSTRICT);
734             if (pkt->dts < max) {
735                 int loglevel = max - pkt->dts > 2 || st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO ? AV_LOG_WARNING : AV_LOG_DEBUG;
736                 av_log(s, loglevel, "Non-monotonous DTS in output stream "
737                        "%d:%d; previous: %"PRId64", current: %"PRId64"; ",
738                        ost->file_index, ost->st->index, ost->last_mux_dts, pkt->dts);
739                 if (exit_on_error) {
740                     av_log(NULL, AV_LOG_FATAL, "aborting.\n");
741                     exit_program(1);
742                 }
743                 av_log(s, loglevel, "changing to %"PRId64". This may result "
744                        "in incorrect timestamps in the output file.\n",
745                        max);
746                 if (pkt->pts >= pkt->dts)
747                     pkt->pts = FFMAX(pkt->pts, max);
748                 pkt->dts = max;
749             }
750         }
751     }
752     ost->last_mux_dts = pkt->dts;
753
754     ost->data_size += pkt->size;
755     ost->packets_written++;
756
757     pkt->stream_index = ost->index;
758
759     if (debug_ts) {
760         av_log(NULL, AV_LOG_INFO, "muxer <- type:%s "
761                 "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s size:%d\n",
762                 av_get_media_type_string(ost->enc_ctx->codec_type),
763                 av_ts2str(pkt->pts), av_ts2timestr(pkt->pts, &ost->st->time_base),
764                 av_ts2str(pkt->dts), av_ts2timestr(pkt->dts, &ost->st->time_base),
765                 pkt->size
766               );
767     }
768
769     ret = av_interleaved_write_frame(s, pkt);
770     if (ret < 0) {
771         print_error("av_interleaved_write_frame()", ret);
772         main_return_code = 1;
773         close_all_output_streams(ost, MUXER_FINISHED | ENCODER_FINISHED, ENCODER_FINISHED);
774     }
775     av_packet_unref(pkt);
776 }
777
778 static void close_output_stream(OutputStream *ost)
779 {
780     OutputFile *of = output_files[ost->file_index];
781
782     ost->finished |= ENCODER_FINISHED;
783     if (of->shortest) {
784         int64_t end = av_rescale_q(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, AV_TIME_BASE_Q);
785         of->recording_time = FFMIN(of->recording_time, end);
786     }
787 }
788
789 static void output_packet(OutputFile *of, AVPacket *pkt, OutputStream *ost)
790 {
791     int ret = 0;
792
793     /* apply the output bitstream filters, if any */
794     if (ost->nb_bitstream_filters) {
795         int idx;
796
797         av_packet_split_side_data(pkt);
798         ret = av_bsf_send_packet(ost->bsf_ctx[0], pkt);
799         if (ret < 0)
800             goto finish;
801
802         idx = 1;
803         while (idx) {
804             /* get a packet from the previous filter up the chain */
805             ret = av_bsf_receive_packet(ost->bsf_ctx[idx - 1], pkt);
806             if (ret == AVERROR(EAGAIN)) {
807                 ret = 0;
808                 idx--;
809                 continue;
810             } else if (ret < 0)
811                 goto finish;
812             /* HACK! - aac_adtstoasc updates extradata after filtering the first frame when
813              * the api states this shouldn't happen after init(). Propagate it here to the
814              * muxer and to the next filters in the chain to workaround this.
815              * TODO/FIXME - Make aac_adtstoasc use new packet side data instead of changing
816              * par_out->extradata and adapt muxers accordingly to get rid of this. */
817             if (!(ost->bsf_extradata_updated[idx - 1] & 1)) {
818                 ret = avcodec_parameters_copy(ost->st->codecpar, ost->bsf_ctx[idx - 1]->par_out);
819                 if (ret < 0)
820                     goto finish;
821                 ost->bsf_extradata_updated[idx - 1] |= 1;
822             }
823
824             /* send it to the next filter down the chain or to the muxer */
825             if (idx < ost->nb_bitstream_filters) {
826                 /* HACK/FIXME! - See above */
827                 if (!(ost->bsf_extradata_updated[idx] & 2)) {
828                     ret = avcodec_parameters_copy(ost->bsf_ctx[idx]->par_out, ost->bsf_ctx[idx - 1]->par_out);
829                     if (ret < 0)
830                         goto finish;
831                     ost->bsf_extradata_updated[idx] |= 2;
832                 }
833                 ret = av_bsf_send_packet(ost->bsf_ctx[idx], pkt);
834                 if (ret < 0)
835                     goto finish;
836                 idx++;
837             } else
838                 write_packet(of, pkt, ost);
839         }
840     } else
841         write_packet(of, pkt, ost);
842
843 finish:
844     if (ret < 0 && ret != AVERROR_EOF) {
845         av_log(NULL, AV_LOG_ERROR, "Error applying bitstream filters to an output "
846                "packet for stream #%d:%d.\n", ost->file_index, ost->index);
847         if(exit_on_error)
848             exit_program(1);
849     }
850 }
851
852 static int check_recording_time(OutputStream *ost)
853 {
854     OutputFile *of = output_files[ost->file_index];
855
856     if (of->recording_time != INT64_MAX &&
857         av_compare_ts(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, of->recording_time,
858                       AV_TIME_BASE_Q) >= 0) {
859         close_output_stream(ost);
860         return 0;
861     }
862     return 1;
863 }
864
865 static void do_audio_out(OutputFile *of, OutputStream *ost,
866                          AVFrame *frame)
867 {
868     AVCodecContext *enc = ost->enc_ctx;
869     AVPacket pkt;
870     int ret;
871
872     av_init_packet(&pkt);
873     pkt.data = NULL;
874     pkt.size = 0;
875
876     if (!check_recording_time(ost))
877         return;
878
879     if (frame->pts == AV_NOPTS_VALUE || audio_sync_method < 0)
880         frame->pts = ost->sync_opts;
881     ost->sync_opts = frame->pts + frame->nb_samples;
882     ost->samples_encoded += frame->nb_samples;
883     ost->frames_encoded++;
884
885     av_assert0(pkt.size || !pkt.data);
886     update_benchmark(NULL);
887     if (debug_ts) {
888         av_log(NULL, AV_LOG_INFO, "encoder <- type:audio "
889                "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
890                av_ts2str(frame->pts), av_ts2timestr(frame->pts, &enc->time_base),
891                enc->time_base.num, enc->time_base.den);
892     }
893
894     ret = avcodec_send_frame(enc, frame);
895     if (ret < 0)
896         goto error;
897
898     while (1) {
899         ret = avcodec_receive_packet(enc, &pkt);
900         if (ret == AVERROR(EAGAIN))
901             break;
902         if (ret < 0)
903             goto error;
904
905         update_benchmark("encode_audio %d.%d", ost->file_index, ost->index);
906
907         av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
908
909         if (debug_ts) {
910             av_log(NULL, AV_LOG_INFO, "encoder -> type:audio "
911                    "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
912                    av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ost->st->time_base),
913                    av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ost->st->time_base));
914         }
915
916         output_packet(of, &pkt, ost);
917     }
918
919     return;
920 error:
921     av_log(NULL, AV_LOG_FATAL, "Audio encoding failed\n");
922     exit_program(1);
923 }
924
925 static void do_subtitle_out(OutputFile *of,
926                             OutputStream *ost,
927                             AVSubtitle *sub)
928 {
929     int subtitle_out_max_size = 1024 * 1024;
930     int subtitle_out_size, nb, i;
931     AVCodecContext *enc;
932     AVPacket pkt;
933     int64_t pts;
934
935     if (sub->pts == AV_NOPTS_VALUE) {
936         av_log(NULL, AV_LOG_ERROR, "Subtitle packets must have a pts\n");
937         if (exit_on_error)
938             exit_program(1);
939         return;
940     }
941
942     enc = ost->enc_ctx;
943
944     if (!subtitle_out) {
945         subtitle_out = av_malloc(subtitle_out_max_size);
946         if (!subtitle_out) {
947             av_log(NULL, AV_LOG_FATAL, "Failed to allocate subtitle_out\n");
948             exit_program(1);
949         }
950     }
951
952     /* Note: DVB subtitle need one packet to draw them and one other
953        packet to clear them */
954     /* XXX: signal it in the codec context ? */
955     if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
956         nb = 2;
957     else
958         nb = 1;
959
960     /* shift timestamp to honor -ss and make check_recording_time() work with -t */
961     pts = sub->pts;
962     if (output_files[ost->file_index]->start_time != AV_NOPTS_VALUE)
963         pts -= output_files[ost->file_index]->start_time;
964     for (i = 0; i < nb; i++) {
965         unsigned save_num_rects = sub->num_rects;
966
967         ost->sync_opts = av_rescale_q(pts, AV_TIME_BASE_Q, enc->time_base);
968         if (!check_recording_time(ost))
969             return;
970
971         sub->pts = pts;
972         // start_display_time is required to be 0
973         sub->pts               += av_rescale_q(sub->start_display_time, (AVRational){ 1, 1000 }, AV_TIME_BASE_Q);
974         sub->end_display_time  -= sub->start_display_time;
975         sub->start_display_time = 0;
976         if (i == 1)
977             sub->num_rects = 0;
978
979         ost->frames_encoded++;
980
981         subtitle_out_size = avcodec_encode_subtitle(enc, subtitle_out,
982                                                     subtitle_out_max_size, sub);
983         if (i == 1)
984             sub->num_rects = save_num_rects;
985         if (subtitle_out_size < 0) {
986             av_log(NULL, AV_LOG_FATAL, "Subtitle encoding failed\n");
987             exit_program(1);
988         }
989
990         av_init_packet(&pkt);
991         pkt.data = subtitle_out;
992         pkt.size = subtitle_out_size;
993         pkt.pts  = av_rescale_q(sub->pts, AV_TIME_BASE_Q, ost->st->time_base);
994         pkt.duration = av_rescale_q(sub->end_display_time, (AVRational){ 1, 1000 }, ost->st->time_base);
995         if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE) {
996             /* XXX: the pts correction is handled here. Maybe handling
997                it in the codec would be better */
998             if (i == 0)
999                 pkt.pts += 90 * sub->start_display_time;
1000             else
1001                 pkt.pts += 90 * sub->end_display_time;
1002         }
1003         pkt.dts = pkt.pts;
1004         output_packet(of, &pkt, ost);
1005     }
1006 }
1007
1008 static void do_video_out(OutputFile *of,
1009                          OutputStream *ost,
1010                          AVFrame *next_picture,
1011                          double sync_ipts)
1012 {
1013     int ret, format_video_sync;
1014     AVPacket pkt;
1015     AVCodecContext *enc = ost->enc_ctx;
1016     AVCodecParameters *mux_par = ost->st->codecpar;
1017     AVRational frame_rate;
1018     int nb_frames, nb0_frames, i;
1019     double delta, delta0;
1020     double duration = 0;
1021     int frame_size = 0;
1022     InputStream *ist = NULL;
1023     AVFilterContext *filter = ost->filter->filter;
1024
1025     if (ost->source_index >= 0)
1026         ist = input_streams[ost->source_index];
1027
1028     frame_rate = av_buffersink_get_frame_rate(filter);
1029     if (frame_rate.num > 0 && frame_rate.den > 0)
1030         duration = 1/(av_q2d(frame_rate) * av_q2d(enc->time_base));
1031
1032     if(ist && ist->st->start_time != AV_NOPTS_VALUE && ist->st->first_dts != AV_NOPTS_VALUE && ost->frame_rate.num)
1033         duration = FFMIN(duration, 1/(av_q2d(ost->frame_rate) * av_q2d(enc->time_base)));
1034
1035     if (!ost->filters_script &&
1036         !ost->filters &&
1037         next_picture &&
1038         ist &&
1039         lrintf(av_frame_get_pkt_duration(next_picture) * av_q2d(ist->st->time_base) / av_q2d(enc->time_base)) > 0) {
1040         duration = lrintf(av_frame_get_pkt_duration(next_picture) * av_q2d(ist->st->time_base) / av_q2d(enc->time_base));
1041     }
1042
1043     if (!next_picture) {
1044         //end, flushing
1045         nb0_frames = nb_frames = mid_pred(ost->last_nb0_frames[0],
1046                                           ost->last_nb0_frames[1],
1047                                           ost->last_nb0_frames[2]);
1048     } else {
1049         delta0 = sync_ipts - ost->sync_opts; // delta0 is the "drift" between the input frame (next_picture) and where it would fall in the output.
1050         delta  = delta0 + duration;
1051
1052         /* by default, we output a single frame */
1053         nb0_frames = 0; // tracks the number of times the PREVIOUS frame should be duplicated, mostly for variable framerate (VFR)
1054         nb_frames = 1;
1055
1056         format_video_sync = video_sync_method;
1057         if (format_video_sync == VSYNC_AUTO) {
1058             if(!strcmp(of->ctx->oformat->name, "avi")) {
1059                 format_video_sync = VSYNC_VFR;
1060             } else
1061                 format_video_sync = (of->ctx->oformat->flags & AVFMT_VARIABLE_FPS) ? ((of->ctx->oformat->flags & AVFMT_NOTIMESTAMPS) ? VSYNC_PASSTHROUGH : VSYNC_VFR) : VSYNC_CFR;
1062             if (   ist
1063                 && format_video_sync == VSYNC_CFR
1064                 && input_files[ist->file_index]->ctx->nb_streams == 1
1065                 && input_files[ist->file_index]->input_ts_offset == 0) {
1066                 format_video_sync = VSYNC_VSCFR;
1067             }
1068             if (format_video_sync == VSYNC_CFR && copy_ts) {
1069                 format_video_sync = VSYNC_VSCFR;
1070             }
1071         }
1072         ost->is_cfr = (format_video_sync == VSYNC_CFR || format_video_sync == VSYNC_VSCFR);
1073
1074         if (delta0 < 0 &&
1075             delta > 0 &&
1076             format_video_sync != VSYNC_PASSTHROUGH &&
1077             format_video_sync != VSYNC_DROP) {
1078             if (delta0 < -0.6) {
1079                 av_log(NULL, AV_LOG_WARNING, "Past duration %f too large\n", -delta0);
1080             } else
1081                 av_log(NULL, AV_LOG_DEBUG, "Clipping frame in rate conversion by %f\n", -delta0);
1082             sync_ipts = ost->sync_opts;
1083             duration += delta0;
1084             delta0 = 0;
1085         }
1086
1087         switch (format_video_sync) {
1088         case VSYNC_VSCFR:
1089             if (ost->frame_number == 0 && delta0 >= 0.5) {
1090                 av_log(NULL, AV_LOG_DEBUG, "Not duplicating %d initial frames\n", (int)lrintf(delta0));
1091                 delta = duration;
1092                 delta0 = 0;
1093                 ost->sync_opts = lrint(sync_ipts);
1094             }
1095         case VSYNC_CFR:
1096             // FIXME set to 0.5 after we fix some dts/pts bugs like in avidec.c
1097             if (frame_drop_threshold && delta < frame_drop_threshold && ost->frame_number) {
1098                 nb_frames = 0;
1099             } else if (delta < -1.1)
1100                 nb_frames = 0;
1101             else if (delta > 1.1) {
1102                 nb_frames = lrintf(delta);
1103                 if (delta0 > 1.1)
1104                     nb0_frames = lrintf(delta0 - 0.6);
1105             }
1106             break;
1107         case VSYNC_VFR:
1108             if (delta <= -0.6)
1109                 nb_frames = 0;
1110             else if (delta > 0.6)
1111                 ost->sync_opts = lrint(sync_ipts);
1112             break;
1113         case VSYNC_DROP:
1114         case VSYNC_PASSTHROUGH:
1115             ost->sync_opts = lrint(sync_ipts);
1116             break;
1117         default:
1118             av_assert0(0);
1119         }
1120     }
1121
1122     nb_frames = FFMIN(nb_frames, ost->max_frames - ost->frame_number);
1123     nb0_frames = FFMIN(nb0_frames, nb_frames);
1124
1125     memmove(ost->last_nb0_frames + 1,
1126             ost->last_nb0_frames,
1127             sizeof(ost->last_nb0_frames[0]) * (FF_ARRAY_ELEMS(ost->last_nb0_frames) - 1));
1128     ost->last_nb0_frames[0] = nb0_frames;
1129
1130     if (nb0_frames == 0 && ost->last_dropped) {
1131         nb_frames_drop++;
1132         av_log(NULL, AV_LOG_VERBOSE,
1133                "*** dropping frame %d from stream %d at ts %"PRId64"\n",
1134                ost->frame_number, ost->st->index, ost->last_frame->pts);
1135     }
1136     if (nb_frames > (nb0_frames && ost->last_dropped) + (nb_frames > nb0_frames)) {
1137         if (nb_frames > dts_error_threshold * 30) {
1138             av_log(NULL, AV_LOG_ERROR, "%d frame duplication too large, skipping\n", nb_frames - 1);
1139             nb_frames_drop++;
1140             return;
1141         }
1142         nb_frames_dup += nb_frames - (nb0_frames && ost->last_dropped) - (nb_frames > nb0_frames);
1143         av_log(NULL, AV_LOG_VERBOSE, "*** %d dup!\n", nb_frames - 1);
1144         if (nb_frames_dup > dup_warning) {
1145             av_log(NULL, AV_LOG_WARNING, "More than %d frames duplicated\n", dup_warning);
1146             dup_warning *= 10;
1147         }
1148     }
1149     ost->last_dropped = nb_frames == nb0_frames && next_picture;
1150
1151   /* duplicates frame if needed */
1152   for (i = 0; i < nb_frames; i++) {
1153     AVFrame *in_picture;
1154     av_init_packet(&pkt);
1155     pkt.data = NULL;
1156     pkt.size = 0;
1157
1158     if (i < nb0_frames && ost->last_frame) {
1159         in_picture = ost->last_frame;
1160     } else
1161         in_picture = next_picture;
1162
1163     if (!in_picture)
1164         return;
1165
1166     in_picture->pts = ost->sync_opts;
1167
1168 #if 1
1169     if (!check_recording_time(ost))
1170 #else
1171     if (ost->frame_number >= ost->max_frames)
1172 #endif
1173         return;
1174
1175 #if FF_API_LAVF_FMT_RAWPICTURE
1176     if (of->ctx->oformat->flags & AVFMT_RAWPICTURE &&
1177         enc->codec->id == AV_CODEC_ID_RAWVIDEO) {
1178         /* raw pictures are written as AVPicture structure to
1179            avoid any copies. We support temporarily the older
1180            method. */
1181         if (in_picture->interlaced_frame)
1182             mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
1183         else
1184             mux_par->field_order = AV_FIELD_PROGRESSIVE;
1185         pkt.data   = (uint8_t *)in_picture;
1186         pkt.size   =  sizeof(AVPicture);
1187         pkt.pts    = av_rescale_q(in_picture->pts, enc->time_base, ost->st->time_base);
1188         pkt.flags |= AV_PKT_FLAG_KEY;
1189
1190         output_packet(of, &pkt, ost);
1191     } else
1192 #endif
1193     {
1194         int forced_keyframe = 0;
1195         double pts_time;
1196
1197         if (enc->flags & (AV_CODEC_FLAG_INTERLACED_DCT | AV_CODEC_FLAG_INTERLACED_ME) &&
1198             ost->top_field_first >= 0)
1199             in_picture->top_field_first = !!ost->top_field_first;
1200
1201         if (in_picture->interlaced_frame) {
1202             if (enc->codec->id == AV_CODEC_ID_MJPEG)
1203                 mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TT:AV_FIELD_BB;
1204             else
1205                 mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
1206         } else
1207             mux_par->field_order = AV_FIELD_PROGRESSIVE;
1208
1209         in_picture->quality = enc->global_quality;
1210         in_picture->pict_type = 0;
1211
1212         pts_time = in_picture->pts != AV_NOPTS_VALUE ?
1213             in_picture->pts * av_q2d(enc->time_base) : NAN;
1214         if (ost->forced_kf_index < ost->forced_kf_count &&
1215             in_picture->pts >= ost->forced_kf_pts[ost->forced_kf_index]) {
1216             ost->forced_kf_index++;
1217             forced_keyframe = 1;
1218         } else if (ost->forced_keyframes_pexpr) {
1219             double res;
1220             ost->forced_keyframes_expr_const_values[FKF_T] = pts_time;
1221             res = av_expr_eval(ost->forced_keyframes_pexpr,
1222                                ost->forced_keyframes_expr_const_values, NULL);
1223             ff_dlog(NULL, "force_key_frame: n:%f n_forced:%f prev_forced_n:%f t:%f prev_forced_t:%f -> res:%f\n",
1224                     ost->forced_keyframes_expr_const_values[FKF_N],
1225                     ost->forced_keyframes_expr_const_values[FKF_N_FORCED],
1226                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N],
1227                     ost->forced_keyframes_expr_const_values[FKF_T],
1228                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T],
1229                     res);
1230             if (res) {
1231                 forced_keyframe = 1;
1232                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] =
1233                     ost->forced_keyframes_expr_const_values[FKF_N];
1234                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] =
1235                     ost->forced_keyframes_expr_const_values[FKF_T];
1236                 ost->forced_keyframes_expr_const_values[FKF_N_FORCED] += 1;
1237             }
1238
1239             ost->forced_keyframes_expr_const_values[FKF_N] += 1;
1240         } else if (   ost->forced_keyframes
1241                    && !strncmp(ost->forced_keyframes, "source", 6)
1242                    && in_picture->key_frame==1) {
1243             forced_keyframe = 1;
1244         }
1245
1246         if (forced_keyframe) {
1247             in_picture->pict_type = AV_PICTURE_TYPE_I;
1248             av_log(NULL, AV_LOG_DEBUG, "Forced keyframe at time %f\n", pts_time);
1249         }
1250
1251         update_benchmark(NULL);
1252         if (debug_ts) {
1253             av_log(NULL, AV_LOG_INFO, "encoder <- type:video "
1254                    "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
1255                    av_ts2str(in_picture->pts), av_ts2timestr(in_picture->pts, &enc->time_base),
1256                    enc->time_base.num, enc->time_base.den);
1257         }
1258
1259         ost->frames_encoded++;
1260
1261         ret = avcodec_send_frame(enc, in_picture);
1262         if (ret < 0)
1263             goto error;
1264
1265         while (1) {
1266             ret = avcodec_receive_packet(enc, &pkt);
1267             update_benchmark("encode_video %d.%d", ost->file_index, ost->index);
1268             if (ret == AVERROR(EAGAIN))
1269                 break;
1270             if (ret < 0)
1271                 goto error;
1272
1273             if (debug_ts) {
1274                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1275                        "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1276                        av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &enc->time_base),
1277                        av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &enc->time_base));
1278             }
1279
1280             if (pkt.pts == AV_NOPTS_VALUE && !(enc->codec->capabilities & AV_CODEC_CAP_DELAY))
1281                 pkt.pts = ost->sync_opts;
1282
1283             av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
1284
1285             if (debug_ts) {
1286                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1287                     "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1288                     av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ost->st->time_base),
1289                     av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ost->st->time_base));
1290             }
1291
1292             frame_size = pkt.size;
1293             output_packet(of, &pkt, ost);
1294
1295             /* if two pass, output log */
1296             if (ost->logfile && enc->stats_out) {
1297                 fprintf(ost->logfile, "%s", enc->stats_out);
1298             }
1299         }
1300     }
1301     ost->sync_opts++;
1302     /*
1303      * For video, number of frames in == number of packets out.
1304      * But there may be reordering, so we can't throw away frames on encoder
1305      * flush, we need to limit them here, before they go into encoder.
1306      */
1307     ost->frame_number++;
1308
1309     if (vstats_filename && frame_size)
1310         do_video_stats(ost, frame_size);
1311   }
1312
1313     if (!ost->last_frame)
1314         ost->last_frame = av_frame_alloc();
1315     av_frame_unref(ost->last_frame);
1316     if (next_picture && ost->last_frame)
1317         av_frame_ref(ost->last_frame, next_picture);
1318     else
1319         av_frame_free(&ost->last_frame);
1320
1321     return;
1322 error:
1323     av_log(NULL, AV_LOG_FATAL, "Video encoding failed\n");
1324     exit_program(1);
1325 }
1326
1327 static double psnr(double d)
1328 {
1329     return -10.0 * log10(d);
1330 }
1331
1332 static void do_video_stats(OutputStream *ost, int frame_size)
1333 {
1334     AVCodecContext *enc;
1335     int frame_number;
1336     double ti1, bitrate, avg_bitrate;
1337
1338     /* this is executed just the first time do_video_stats is called */
1339     if (!vstats_file) {
1340         vstats_file = fopen(vstats_filename, "w");
1341         if (!vstats_file) {
1342             perror("fopen");
1343             exit_program(1);
1344         }
1345     }
1346
1347     enc = ost->enc_ctx;
1348     if (enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1349         frame_number = ost->st->nb_frames;
1350         fprintf(vstats_file, "frame= %5d q= %2.1f ", frame_number,
1351                 ost->quality / (float)FF_QP2LAMBDA);
1352
1353         if (ost->error[0]>=0 && (enc->flags & AV_CODEC_FLAG_PSNR))
1354             fprintf(vstats_file, "PSNR= %6.2f ", psnr(ost->error[0] / (enc->width * enc->height * 255.0 * 255.0)));
1355
1356         fprintf(vstats_file,"f_size= %6d ", frame_size);
1357         /* compute pts value */
1358         ti1 = av_stream_get_end_pts(ost->st) * av_q2d(ost->st->time_base);
1359         if (ti1 < 0.01)
1360             ti1 = 0.01;
1361
1362         bitrate     = (frame_size * 8) / av_q2d(enc->time_base) / 1000.0;
1363         avg_bitrate = (double)(ost->data_size * 8) / ti1 / 1000.0;
1364         fprintf(vstats_file, "s_size= %8.0fkB time= %0.3f br= %7.1fkbits/s avg_br= %7.1fkbits/s ",
1365                (double)ost->data_size / 1024, ti1, bitrate, avg_bitrate);
1366         fprintf(vstats_file, "type= %c\n", av_get_picture_type_char(ost->pict_type));
1367     }
1368 }
1369
1370 static void finish_output_stream(OutputStream *ost)
1371 {
1372     OutputFile *of = output_files[ost->file_index];
1373     int i;
1374
1375     ost->finished = ENCODER_FINISHED | MUXER_FINISHED;
1376
1377     if (of->shortest) {
1378         for (i = 0; i < of->ctx->nb_streams; i++)
1379             output_streams[of->ost_index + i]->finished = ENCODER_FINISHED | MUXER_FINISHED;
1380     }
1381 }
1382
1383 /**
1384  * Get and encode new output from any of the filtergraphs, without causing
1385  * activity.
1386  *
1387  * @return  0 for success, <0 for severe errors
1388  */
1389 static int reap_filters(int flush)
1390 {
1391     AVFrame *filtered_frame = NULL;
1392     int i;
1393
1394     /* Reap all buffers present in the buffer sinks */
1395     for (i = 0; i < nb_output_streams; i++) {
1396         OutputStream *ost = output_streams[i];
1397         OutputFile    *of = output_files[ost->file_index];
1398         AVFilterContext *filter;
1399         AVCodecContext *enc = ost->enc_ctx;
1400         int ret = 0;
1401
1402         if (!ost->filter)
1403             continue;
1404         filter = ost->filter->filter;
1405
1406         if (!ost->filtered_frame && !(ost->filtered_frame = av_frame_alloc())) {
1407             return AVERROR(ENOMEM);
1408         }
1409         filtered_frame = ost->filtered_frame;
1410
1411         while (1) {
1412             double float_pts = AV_NOPTS_VALUE; // this is identical to filtered_frame.pts but with higher precision
1413             ret = av_buffersink_get_frame_flags(filter, filtered_frame,
1414                                                AV_BUFFERSINK_FLAG_NO_REQUEST);
1415             if (ret < 0) {
1416                 if (ret != AVERROR(EAGAIN) && ret != AVERROR_EOF) {
1417                     av_log(NULL, AV_LOG_WARNING,
1418                            "Error in av_buffersink_get_frame_flags(): %s\n", av_err2str(ret));
1419                 } else if (flush && ret == AVERROR_EOF) {
1420                     if (av_buffersink_get_type(filter) == AVMEDIA_TYPE_VIDEO)
1421                         do_video_out(of, ost, NULL, AV_NOPTS_VALUE);
1422                 }
1423                 break;
1424             }
1425             if (ost->finished) {
1426                 av_frame_unref(filtered_frame);
1427                 continue;
1428             }
1429             if (filtered_frame->pts != AV_NOPTS_VALUE) {
1430                 int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1431                 AVRational filter_tb = av_buffersink_get_time_base(filter);
1432                 AVRational tb = enc->time_base;
1433                 int extra_bits = av_clip(29 - av_log2(tb.den), 0, 16);
1434
1435                 tb.den <<= extra_bits;
1436                 float_pts =
1437                     av_rescale_q(filtered_frame->pts, filter_tb, tb) -
1438                     av_rescale_q(start_time, AV_TIME_BASE_Q, tb);
1439                 float_pts /= 1 << extra_bits;
1440                 // avoid exact midoints to reduce the chance of rounding differences, this can be removed in case the fps code is changed to work with integers
1441                 float_pts += FFSIGN(float_pts) * 1.0 / (1<<17);
1442
1443                 filtered_frame->pts =
1444                     av_rescale_q(filtered_frame->pts, filter_tb, enc->time_base) -
1445                     av_rescale_q(start_time, AV_TIME_BASE_Q, enc->time_base);
1446             }
1447             //if (ost->source_index >= 0)
1448             //    *filtered_frame= *input_streams[ost->source_index]->decoded_frame; //for me_threshold
1449
1450             switch (av_buffersink_get_type(filter)) {
1451             case AVMEDIA_TYPE_VIDEO:
1452                 if (!ost->frame_aspect_ratio.num)
1453                     enc->sample_aspect_ratio = filtered_frame->sample_aspect_ratio;
1454
1455                 if (debug_ts) {
1456                     av_log(NULL, AV_LOG_INFO, "filter -> pts:%s pts_time:%s exact:%f time_base:%d/%d\n",
1457                             av_ts2str(filtered_frame->pts), av_ts2timestr(filtered_frame->pts, &enc->time_base),
1458                             float_pts,
1459                             enc->time_base.num, enc->time_base.den);
1460                 }
1461
1462                 do_video_out(of, ost, filtered_frame, float_pts);
1463                 break;
1464             case AVMEDIA_TYPE_AUDIO:
1465                 if (!(enc->codec->capabilities & AV_CODEC_CAP_PARAM_CHANGE) &&
1466                     enc->channels != av_frame_get_channels(filtered_frame)) {
1467                     av_log(NULL, AV_LOG_ERROR,
1468                            "Audio filter graph output is not normalized and encoder does not support parameter changes\n");
1469                     break;
1470                 }
1471                 do_audio_out(of, ost, filtered_frame);
1472                 break;
1473             default:
1474                 // TODO support subtitle filters
1475                 av_assert0(0);
1476             }
1477
1478             av_frame_unref(filtered_frame);
1479         }
1480     }
1481
1482     return 0;
1483 }
1484
1485 static void print_final_stats(int64_t total_size)
1486 {
1487     uint64_t video_size = 0, audio_size = 0, extra_size = 0, other_size = 0;
1488     uint64_t subtitle_size = 0;
1489     uint64_t data_size = 0;
1490     float percent = -1.0;
1491     int i, j;
1492     int pass1_used = 1;
1493
1494     for (i = 0; i < nb_output_streams; i++) {
1495         OutputStream *ost = output_streams[i];
1496         switch (ost->enc_ctx->codec_type) {
1497             case AVMEDIA_TYPE_VIDEO: video_size += ost->data_size; break;
1498             case AVMEDIA_TYPE_AUDIO: audio_size += ost->data_size; break;
1499             case AVMEDIA_TYPE_SUBTITLE: subtitle_size += ost->data_size; break;
1500             default:                 other_size += ost->data_size; break;
1501         }
1502         extra_size += ost->enc_ctx->extradata_size;
1503         data_size  += ost->data_size;
1504         if (   (ost->enc_ctx->flags & (AV_CODEC_FLAG_PASS1 | CODEC_FLAG_PASS2))
1505             != AV_CODEC_FLAG_PASS1)
1506             pass1_used = 0;
1507     }
1508
1509     if (data_size && total_size>0 && total_size >= data_size)
1510         percent = 100.0 * (total_size - data_size) / data_size;
1511
1512     av_log(NULL, AV_LOG_INFO, "video:%1.0fkB audio:%1.0fkB subtitle:%1.0fkB other streams:%1.0fkB global headers:%1.0fkB muxing overhead: ",
1513            video_size / 1024.0,
1514            audio_size / 1024.0,
1515            subtitle_size / 1024.0,
1516            other_size / 1024.0,
1517            extra_size / 1024.0);
1518     if (percent >= 0.0)
1519         av_log(NULL, AV_LOG_INFO, "%f%%", percent);
1520     else
1521         av_log(NULL, AV_LOG_INFO, "unknown");
1522     av_log(NULL, AV_LOG_INFO, "\n");
1523
1524     /* print verbose per-stream stats */
1525     for (i = 0; i < nb_input_files; i++) {
1526         InputFile *f = input_files[i];
1527         uint64_t total_packets = 0, total_size = 0;
1528
1529         av_log(NULL, AV_LOG_VERBOSE, "Input file #%d (%s):\n",
1530                i, f->ctx->filename);
1531
1532         for (j = 0; j < f->nb_streams; j++) {
1533             InputStream *ist = input_streams[f->ist_index + j];
1534             enum AVMediaType type = ist->dec_ctx->codec_type;
1535
1536             total_size    += ist->data_size;
1537             total_packets += ist->nb_packets;
1538
1539             av_log(NULL, AV_LOG_VERBOSE, "  Input stream #%d:%d (%s): ",
1540                    i, j, media_type_string(type));
1541             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets read (%"PRIu64" bytes); ",
1542                    ist->nb_packets, ist->data_size);
1543
1544             if (ist->decoding_needed) {
1545                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames decoded",
1546                        ist->frames_decoded);
1547                 if (type == AVMEDIA_TYPE_AUDIO)
1548                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ist->samples_decoded);
1549                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1550             }
1551
1552             av_log(NULL, AV_LOG_VERBOSE, "\n");
1553         }
1554
1555         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) demuxed\n",
1556                total_packets, total_size);
1557     }
1558
1559     for (i = 0; i < nb_output_files; i++) {
1560         OutputFile *of = output_files[i];
1561         uint64_t total_packets = 0, total_size = 0;
1562
1563         av_log(NULL, AV_LOG_VERBOSE, "Output file #%d (%s):\n",
1564                i, of->ctx->filename);
1565
1566         for (j = 0; j < of->ctx->nb_streams; j++) {
1567             OutputStream *ost = output_streams[of->ost_index + j];
1568             enum AVMediaType type = ost->enc_ctx->codec_type;
1569
1570             total_size    += ost->data_size;
1571             total_packets += ost->packets_written;
1572
1573             av_log(NULL, AV_LOG_VERBOSE, "  Output stream #%d:%d (%s): ",
1574                    i, j, media_type_string(type));
1575             if (ost->encoding_needed) {
1576                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames encoded",
1577                        ost->frames_encoded);
1578                 if (type == AVMEDIA_TYPE_AUDIO)
1579                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ost->samples_encoded);
1580                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1581             }
1582
1583             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets muxed (%"PRIu64" bytes); ",
1584                    ost->packets_written, ost->data_size);
1585
1586             av_log(NULL, AV_LOG_VERBOSE, "\n");
1587         }
1588
1589         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) muxed\n",
1590                total_packets, total_size);
1591     }
1592     if(video_size + data_size + audio_size + subtitle_size + extra_size == 0){
1593         av_log(NULL, AV_LOG_WARNING, "Output file is empty, nothing was encoded ");
1594         if (pass1_used) {
1595             av_log(NULL, AV_LOG_WARNING, "\n");
1596         } else {
1597             av_log(NULL, AV_LOG_WARNING, "(check -ss / -t / -frames parameters if used)\n");
1598         }
1599     }
1600 }
1601
1602 static void print_report(int is_last_report, int64_t timer_start, int64_t cur_time)
1603 {
1604     char buf[1024];
1605     AVBPrint buf_script;
1606     OutputStream *ost;
1607     AVFormatContext *oc;
1608     int64_t total_size;
1609     AVCodecContext *enc;
1610     int frame_number, vid, i;
1611     double bitrate;
1612     double speed;
1613     int64_t pts = INT64_MIN + 1;
1614     static int64_t last_time = -1;
1615     static int qp_histogram[52];
1616     int hours, mins, secs, us;
1617     int ret;
1618     float t;
1619
1620     if (!print_stats && !is_last_report && !progress_avio)
1621         return;
1622
1623     if (!is_last_report) {
1624         if (last_time == -1) {
1625             last_time = cur_time;
1626             return;
1627         }
1628         if ((cur_time - last_time) < 500000)
1629             return;
1630         last_time = cur_time;
1631     }
1632
1633     t = (cur_time-timer_start) / 1000000.0;
1634
1635
1636     oc = output_files[0]->ctx;
1637
1638     total_size = avio_size(oc->pb);
1639     if (total_size <= 0) // FIXME improve avio_size() so it works with non seekable output too
1640         total_size = avio_tell(oc->pb);
1641
1642     buf[0] = '\0';
1643     vid = 0;
1644     av_bprint_init(&buf_script, 0, 1);
1645     for (i = 0; i < nb_output_streams; i++) {
1646         float q = -1;
1647         ost = output_streams[i];
1648         enc = ost->enc_ctx;
1649         if (!ost->stream_copy)
1650             q = ost->quality / (float) FF_QP2LAMBDA;
1651
1652         if (vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1653             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "q=%2.1f ", q);
1654             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1655                        ost->file_index, ost->index, q);
1656         }
1657         if (!vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1658             float fps;
1659
1660             frame_number = ost->frame_number;
1661             fps = t > 1 ? frame_number / t : 0;
1662             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "frame=%5d fps=%3.*f q=%3.1f ",
1663                      frame_number, fps < 9.95, fps, q);
1664             av_bprintf(&buf_script, "frame=%d\n", frame_number);
1665             av_bprintf(&buf_script, "fps=%.1f\n", fps);
1666             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1667                        ost->file_index, ost->index, q);
1668             if (is_last_report)
1669                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "L");
1670             if (qp_hist) {
1671                 int j;
1672                 int qp = lrintf(q);
1673                 if (qp >= 0 && qp < FF_ARRAY_ELEMS(qp_histogram))
1674                     qp_histogram[qp]++;
1675                 for (j = 0; j < 32; j++)
1676                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%X", av_log2(qp_histogram[j] + 1));
1677             }
1678
1679             if ((enc->flags & AV_CODEC_FLAG_PSNR) && (ost->pict_type != AV_PICTURE_TYPE_NONE || is_last_report)) {
1680                 int j;
1681                 double error, error_sum = 0;
1682                 double scale, scale_sum = 0;
1683                 double p;
1684                 char type[3] = { 'Y','U','V' };
1685                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "PSNR=");
1686                 for (j = 0; j < 3; j++) {
1687                     if (is_last_report) {
1688                         error = enc->error[j];
1689                         scale = enc->width * enc->height * 255.0 * 255.0 * frame_number;
1690                     } else {
1691                         error = ost->error[j];
1692                         scale = enc->width * enc->height * 255.0 * 255.0;
1693                     }
1694                     if (j)
1695                         scale /= 4;
1696                     error_sum += error;
1697                     scale_sum += scale;
1698                     p = psnr(error / scale);
1699                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%c:%2.2f ", type[j], p);
1700                     av_bprintf(&buf_script, "stream_%d_%d_psnr_%c=%2.2f\n",
1701                                ost->file_index, ost->index, type[j] | 32, p);
1702                 }
1703                 p = psnr(error_sum / scale_sum);
1704                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "*:%2.2f ", psnr(error_sum / scale_sum));
1705                 av_bprintf(&buf_script, "stream_%d_%d_psnr_all=%2.2f\n",
1706                            ost->file_index, ost->index, p);
1707             }
1708             vid = 1;
1709         }
1710         /* compute min output value */
1711         if (av_stream_get_end_pts(ost->st) != AV_NOPTS_VALUE)
1712             pts = FFMAX(pts, av_rescale_q(av_stream_get_end_pts(ost->st),
1713                                           ost->st->time_base, AV_TIME_BASE_Q));
1714         if (is_last_report)
1715             nb_frames_drop += ost->last_dropped;
1716     }
1717
1718     secs = FFABS(pts) / AV_TIME_BASE;
1719     us = FFABS(pts) % AV_TIME_BASE;
1720     mins = secs / 60;
1721     secs %= 60;
1722     hours = mins / 60;
1723     mins %= 60;
1724
1725     bitrate = pts && total_size >= 0 ? total_size * 8 / (pts / 1000.0) : -1;
1726     speed = t != 0.0 ? (double)pts / AV_TIME_BASE / t : -1;
1727
1728     if (total_size < 0) snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1729                                  "size=N/A time=");
1730     else                snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1731                                  "size=%8.0fkB time=", total_size / 1024.0);
1732     if (pts < 0)
1733         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "-");
1734     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1735              "%02d:%02d:%02d.%02d ", hours, mins, secs,
1736              (100 * us) / AV_TIME_BASE);
1737
1738     if (bitrate < 0) {
1739         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),"bitrate=N/A");
1740         av_bprintf(&buf_script, "bitrate=N/A\n");
1741     }else{
1742         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),"bitrate=%6.1fkbits/s", bitrate);
1743         av_bprintf(&buf_script, "bitrate=%6.1fkbits/s\n", bitrate);
1744     }
1745
1746     if (total_size < 0) av_bprintf(&buf_script, "total_size=N/A\n");
1747     else                av_bprintf(&buf_script, "total_size=%"PRId64"\n", total_size);
1748     av_bprintf(&buf_script, "out_time_ms=%"PRId64"\n", pts);
1749     av_bprintf(&buf_script, "out_time=%02d:%02d:%02d.%06d\n",
1750                hours, mins, secs, us);
1751
1752     if (nb_frames_dup || nb_frames_drop)
1753         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), " dup=%d drop=%d",
1754                 nb_frames_dup, nb_frames_drop);
1755     av_bprintf(&buf_script, "dup_frames=%d\n", nb_frames_dup);
1756     av_bprintf(&buf_script, "drop_frames=%d\n", nb_frames_drop);
1757
1758     if (speed < 0) {
1759         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf)," speed=N/A");
1760         av_bprintf(&buf_script, "speed=N/A\n");
1761     } else {
1762         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf)," speed=%4.3gx", speed);
1763         av_bprintf(&buf_script, "speed=%4.3gx\n", speed);
1764     }
1765
1766     if (print_stats || is_last_report) {
1767         const char end = is_last_report ? '\n' : '\r';
1768         if (print_stats==1 && AV_LOG_INFO > av_log_get_level()) {
1769             fprintf(stderr, "%s    %c", buf, end);
1770         } else
1771             av_log(NULL, AV_LOG_INFO, "%s    %c", buf, end);
1772
1773     fflush(stderr);
1774     }
1775
1776     if (progress_avio) {
1777         av_bprintf(&buf_script, "progress=%s\n",
1778                    is_last_report ? "end" : "continue");
1779         avio_write(progress_avio, buf_script.str,
1780                    FFMIN(buf_script.len, buf_script.size - 1));
1781         avio_flush(progress_avio);
1782         av_bprint_finalize(&buf_script, NULL);
1783         if (is_last_report) {
1784             if ((ret = avio_closep(&progress_avio)) < 0)
1785                 av_log(NULL, AV_LOG_ERROR,
1786                        "Error closing progress log, loss of information possible: %s\n", av_err2str(ret));
1787         }
1788     }
1789
1790     if (is_last_report)
1791         print_final_stats(total_size);
1792 }
1793
1794 static void flush_encoders(void)
1795 {
1796     int i, ret;
1797
1798     for (i = 0; i < nb_output_streams; i++) {
1799         OutputStream   *ost = output_streams[i];
1800         AVCodecContext *enc = ost->enc_ctx;
1801         OutputFile      *of = output_files[ost->file_index];
1802
1803         if (!ost->encoding_needed)
1804             continue;
1805
1806         if (enc->codec_type == AVMEDIA_TYPE_AUDIO && enc->frame_size <= 1)
1807             continue;
1808 #if FF_API_LAVF_FMT_RAWPICTURE
1809         if (enc->codec_type == AVMEDIA_TYPE_VIDEO && (of->ctx->oformat->flags & AVFMT_RAWPICTURE) && enc->codec->id == AV_CODEC_ID_RAWVIDEO)
1810             continue;
1811 #endif
1812
1813         if (enc->codec_type != AVMEDIA_TYPE_VIDEO && enc->codec_type != AVMEDIA_TYPE_AUDIO)
1814             continue;
1815
1816         avcodec_send_frame(enc, NULL);
1817
1818         for (;;) {
1819             const char *desc = NULL;
1820             AVPacket pkt;
1821             int pkt_size;
1822
1823             switch (enc->codec_type) {
1824             case AVMEDIA_TYPE_AUDIO:
1825                 desc   = "audio";
1826                 break;
1827             case AVMEDIA_TYPE_VIDEO:
1828                 desc   = "video";
1829                 break;
1830             default:
1831                 av_assert0(0);
1832             }
1833
1834                 av_init_packet(&pkt);
1835                 pkt.data = NULL;
1836                 pkt.size = 0;
1837
1838                 update_benchmark(NULL);
1839                 ret = avcodec_receive_packet(enc, &pkt);
1840                 update_benchmark("flush_%s %d.%d", desc, ost->file_index, ost->index);
1841                 if (ret < 0 && ret != AVERROR_EOF) {
1842                     av_log(NULL, AV_LOG_FATAL, "%s encoding failed: %s\n",
1843                            desc,
1844                            av_err2str(ret));
1845                     exit_program(1);
1846                 }
1847                 if (ost->logfile && enc->stats_out) {
1848                     fprintf(ost->logfile, "%s", enc->stats_out);
1849                 }
1850                 if (ret == AVERROR_EOF) {
1851                     break;
1852                 }
1853                 if (ost->finished & MUXER_FINISHED) {
1854                     av_packet_unref(&pkt);
1855                     continue;
1856                 }
1857                 av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
1858                 pkt_size = pkt.size;
1859                 output_packet(of, &pkt, ost);
1860                 if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO && vstats_filename) {
1861                     do_video_stats(ost, pkt_size);
1862                 }
1863         }
1864     }
1865 }
1866
1867 /*
1868  * Check whether a packet from ist should be written into ost at this time
1869  */
1870 static int check_output_constraints(InputStream *ist, OutputStream *ost)
1871 {
1872     OutputFile *of = output_files[ost->file_index];
1873     int ist_index  = input_files[ist->file_index]->ist_index + ist->st->index;
1874
1875     if (ost->source_index != ist_index)
1876         return 0;
1877
1878     if (ost->finished)
1879         return 0;
1880
1881     if (of->start_time != AV_NOPTS_VALUE && ist->pts < of->start_time)
1882         return 0;
1883
1884     return 1;
1885 }
1886
1887 static void do_streamcopy(InputStream *ist, OutputStream *ost, const AVPacket *pkt)
1888 {
1889     OutputFile *of = output_files[ost->file_index];
1890     InputFile   *f = input_files [ist->file_index];
1891     int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1892     int64_t ost_tb_start_time = av_rescale_q(start_time, AV_TIME_BASE_Q, ost->st->time_base);
1893     AVPicture pict;
1894     AVPacket opkt;
1895
1896     av_init_packet(&opkt);
1897
1898     if ((!ost->frame_number && !(pkt->flags & AV_PKT_FLAG_KEY)) &&
1899         !ost->copy_initial_nonkeyframes)
1900         return;
1901
1902     if (!ost->frame_number && !ost->copy_prior_start) {
1903         int64_t comp_start = start_time;
1904         if (copy_ts && f->start_time != AV_NOPTS_VALUE)
1905             comp_start = FFMAX(start_time, f->start_time + f->ts_offset);
1906         if (pkt->pts == AV_NOPTS_VALUE ?
1907             ist->pts < comp_start :
1908             pkt->pts < av_rescale_q(comp_start, AV_TIME_BASE_Q, ist->st->time_base))
1909             return;
1910     }
1911
1912     if (of->recording_time != INT64_MAX &&
1913         ist->pts >= of->recording_time + start_time) {
1914         close_output_stream(ost);
1915         return;
1916     }
1917
1918     if (f->recording_time != INT64_MAX) {
1919         start_time = f->ctx->start_time;
1920         if (f->start_time != AV_NOPTS_VALUE && copy_ts)
1921             start_time += f->start_time;
1922         if (ist->pts >= f->recording_time + start_time) {
1923             close_output_stream(ost);
1924             return;
1925         }
1926     }
1927
1928     /* force the input stream PTS */
1929     if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO)
1930         ost->sync_opts++;
1931
1932     if (pkt->pts != AV_NOPTS_VALUE)
1933         opkt.pts = av_rescale_q(pkt->pts, ist->st->time_base, ost->st->time_base) - ost_tb_start_time;
1934     else
1935         opkt.pts = AV_NOPTS_VALUE;
1936
1937     if (pkt->dts == AV_NOPTS_VALUE)
1938         opkt.dts = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ost->st->time_base);
1939     else
1940         opkt.dts = av_rescale_q(pkt->dts, ist->st->time_base, ost->st->time_base);
1941     opkt.dts -= ost_tb_start_time;
1942
1943     if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && pkt->dts != AV_NOPTS_VALUE) {
1944         int duration = av_get_audio_frame_duration(ist->dec_ctx, pkt->size);
1945         if(!duration)
1946             duration = ist->dec_ctx->frame_size;
1947         opkt.dts = opkt.pts = av_rescale_delta(ist->st->time_base, pkt->dts,
1948                                                (AVRational){1, ist->dec_ctx->sample_rate}, duration, &ist->filter_in_rescale_delta_last,
1949                                                ost->st->time_base) - ost_tb_start_time;
1950     }
1951
1952     opkt.duration = av_rescale_q(pkt->duration, ist->st->time_base, ost->st->time_base);
1953     opkt.flags    = pkt->flags;
1954     // FIXME remove the following 2 lines they shall be replaced by the bitstream filters
1955     if (  ost->st->codecpar->codec_id != AV_CODEC_ID_H264
1956        && ost->st->codecpar->codec_id != AV_CODEC_ID_MPEG1VIDEO
1957        && ost->st->codecpar->codec_id != AV_CODEC_ID_MPEG2VIDEO
1958        && ost->st->codecpar->codec_id != AV_CODEC_ID_VC1
1959        ) {
1960         int ret = av_parser_change(ost->parser, ost->parser_avctx,
1961                              &opkt.data, &opkt.size,
1962                              pkt->data, pkt->size,
1963                              pkt->flags & AV_PKT_FLAG_KEY);
1964         if (ret < 0) {
1965             av_log(NULL, AV_LOG_FATAL, "av_parser_change failed: %s\n",
1966                    av_err2str(ret));
1967             exit_program(1);
1968         }
1969         if (ret) {
1970             opkt.buf = av_buffer_create(opkt.data, opkt.size, av_buffer_default_free, NULL, 0);
1971             if (!opkt.buf)
1972                 exit_program(1);
1973         }
1974     } else {
1975         opkt.data = pkt->data;
1976         opkt.size = pkt->size;
1977     }
1978     av_copy_packet_side_data(&opkt, pkt);
1979
1980 #if FF_API_LAVF_FMT_RAWPICTURE
1981     if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO &&
1982         ost->st->codecpar->codec_id == AV_CODEC_ID_RAWVIDEO &&
1983         (of->ctx->oformat->flags & AVFMT_RAWPICTURE)) {
1984         /* store AVPicture in AVPacket, as expected by the output format */
1985         int ret = avpicture_fill(&pict, opkt.data, ost->st->codecpar->format, ost->st->codecpar->width, ost->st->codecpar->height);
1986         if (ret < 0) {
1987             av_log(NULL, AV_LOG_FATAL, "avpicture_fill failed: %s\n",
1988                    av_err2str(ret));
1989             exit_program(1);
1990         }
1991         opkt.data = (uint8_t *)&pict;
1992         opkt.size = sizeof(AVPicture);
1993         opkt.flags |= AV_PKT_FLAG_KEY;
1994     }
1995 #endif
1996
1997     output_packet(of, &opkt, ost);
1998 }
1999
2000 int guess_input_channel_layout(InputStream *ist)
2001 {
2002     AVCodecContext *dec = ist->dec_ctx;
2003
2004     if (!dec->channel_layout) {
2005         char layout_name[256];
2006
2007         if (dec->channels > ist->guess_layout_max)
2008             return 0;
2009         dec->channel_layout = av_get_default_channel_layout(dec->channels);
2010         if (!dec->channel_layout)
2011             return 0;
2012         av_get_channel_layout_string(layout_name, sizeof(layout_name),
2013                                      dec->channels, dec->channel_layout);
2014         av_log(NULL, AV_LOG_WARNING, "Guessed Channel Layout for Input Stream "
2015                "#%d.%d : %s\n", ist->file_index, ist->st->index, layout_name);
2016     }
2017     return 1;
2018 }
2019
2020 static void check_decode_result(InputStream *ist, int *got_output, int ret)
2021 {
2022     if (*got_output || ret<0)
2023         decode_error_stat[ret<0] ++;
2024
2025     if (ret < 0 && exit_on_error)
2026         exit_program(1);
2027
2028     if (exit_on_error && *got_output && ist) {
2029         if (av_frame_get_decode_error_flags(ist->decoded_frame) || (ist->decoded_frame->flags & AV_FRAME_FLAG_CORRUPT)) {
2030             av_log(NULL, AV_LOG_FATAL, "%s: corrupt decoded frame in stream %d\n", input_files[ist->file_index]->ctx->filename, ist->st->index);
2031             exit_program(1);
2032         }
2033     }
2034 }
2035
2036 // This does not quite work like avcodec_decode_audio4/avcodec_decode_video2.
2037 // There is the following difference: if you got a frame, you must call
2038 // it again with pkt=NULL. pkt==NULL is treated differently from pkt.size==0
2039 // (pkt==NULL means get more output, pkt.size==0 is a flush/drain packet)
2040 static int decode(AVCodecContext *avctx, AVFrame *frame, int *got_frame, AVPacket *pkt)
2041 {
2042     int ret;
2043
2044     *got_frame = 0;
2045
2046     if (pkt) {
2047         ret = avcodec_send_packet(avctx, pkt);
2048         // In particular, we don't expect AVERROR(EAGAIN), because we read all
2049         // decoded frames with avcodec_receive_frame() until done.
2050         if (ret < 0 && ret != AVERROR_EOF)
2051             return ret;
2052     }
2053
2054     ret = avcodec_receive_frame(avctx, frame);
2055     if (ret < 0 && ret != AVERROR(EAGAIN))
2056         return ret;
2057     if (ret >= 0)
2058         *got_frame = 1;
2059
2060     return 0;
2061 }
2062
2063 static int send_frame_to_filters(InputStream *ist, AVFrame *decoded_frame)
2064 {
2065     int i, ret;
2066     AVFrame *f;
2067
2068     av_assert1(ist->nb_filters > 0); /* ensure ret is initialized */
2069     for (i = 0; i < ist->nb_filters; i++) {
2070         if (i < ist->nb_filters - 1) {
2071             f = ist->filter_frame;
2072             ret = av_frame_ref(f, decoded_frame);
2073             if (ret < 0)
2074                 break;
2075         } else
2076             f = decoded_frame;
2077         ret = av_buffersrc_add_frame_flags(ist->filters[i]->filter, f,
2078                                            AV_BUFFERSRC_FLAG_PUSH);
2079         if (ret == AVERROR_EOF)
2080             ret = 0; /* ignore */
2081         if (ret < 0) {
2082             av_log(NULL, AV_LOG_ERROR,
2083                    "Failed to inject frame into filter network: %s\n", av_err2str(ret));
2084             break;
2085         }
2086     }
2087     return ret;
2088 }
2089
2090 static int decode_audio(InputStream *ist, AVPacket *pkt, int *got_output)
2091 {
2092     AVFrame *decoded_frame;
2093     AVCodecContext *avctx = ist->dec_ctx;
2094     int i, ret, err = 0, resample_changed;
2095     AVRational decoded_frame_tb;
2096
2097     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
2098         return AVERROR(ENOMEM);
2099     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
2100         return AVERROR(ENOMEM);
2101     decoded_frame = ist->decoded_frame;
2102
2103     update_benchmark(NULL);
2104     ret = decode(avctx, decoded_frame, got_output, pkt);
2105     update_benchmark("decode_audio %d.%d", ist->file_index, ist->st->index);
2106
2107     if (ret >= 0 && avctx->sample_rate <= 0) {
2108         av_log(avctx, AV_LOG_ERROR, "Sample rate %d invalid\n", avctx->sample_rate);
2109         ret = AVERROR_INVALIDDATA;
2110     }
2111
2112     if (ret != AVERROR_EOF)
2113         check_decode_result(ist, got_output, ret);
2114
2115     if (!*got_output || ret < 0)
2116         return ret;
2117
2118     ist->samples_decoded += decoded_frame->nb_samples;
2119     ist->frames_decoded++;
2120
2121 #if 1
2122     /* increment next_dts to use for the case where the input stream does not
2123        have timestamps or there are multiple frames in the packet */
2124     ist->next_pts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
2125                      avctx->sample_rate;
2126     ist->next_dts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
2127                      avctx->sample_rate;
2128 #endif
2129
2130     resample_changed = ist->resample_sample_fmt     != decoded_frame->format         ||
2131                        ist->resample_channels       != avctx->channels               ||
2132                        ist->resample_channel_layout != decoded_frame->channel_layout ||
2133                        ist->resample_sample_rate    != decoded_frame->sample_rate;
2134     if (resample_changed) {
2135         char layout1[64], layout2[64];
2136
2137         if (!guess_input_channel_layout(ist)) {
2138             av_log(NULL, AV_LOG_FATAL, "Unable to find default channel "
2139                    "layout for Input Stream #%d.%d\n", ist->file_index,
2140                    ist->st->index);
2141             exit_program(1);
2142         }
2143         decoded_frame->channel_layout = avctx->channel_layout;
2144
2145         av_get_channel_layout_string(layout1, sizeof(layout1), ist->resample_channels,
2146                                      ist->resample_channel_layout);
2147         av_get_channel_layout_string(layout2, sizeof(layout2), avctx->channels,
2148                                      decoded_frame->channel_layout);
2149
2150         av_log(NULL, AV_LOG_INFO,
2151                "Input stream #%d:%d frame changed from rate:%d fmt:%s ch:%d chl:%s to rate:%d fmt:%s ch:%d chl:%s\n",
2152                ist->file_index, ist->st->index,
2153                ist->resample_sample_rate,  av_get_sample_fmt_name(ist->resample_sample_fmt),
2154                ist->resample_channels, layout1,
2155                decoded_frame->sample_rate, av_get_sample_fmt_name(decoded_frame->format),
2156                avctx->channels, layout2);
2157
2158         ist->resample_sample_fmt     = decoded_frame->format;
2159         ist->resample_sample_rate    = decoded_frame->sample_rate;
2160         ist->resample_channel_layout = decoded_frame->channel_layout;
2161         ist->resample_channels       = avctx->channels;
2162
2163         for (i = 0; i < ist->nb_filters; i++) {
2164             err = ifilter_parameters_from_frame(ist->filters[i], decoded_frame);
2165             if (err < 0) {
2166                 av_log(NULL, AV_LOG_ERROR,
2167                        "Error reconfiguring input stream %d:%d filter %d\n",
2168                        ist->file_index, ist->st->index, i);
2169                 goto fail;
2170             }
2171         }
2172
2173         for (i = 0; i < nb_filtergraphs; i++)
2174             if (ist_in_filtergraph(filtergraphs[i], ist)) {
2175                 FilterGraph *fg = filtergraphs[i];
2176                 if (configure_filtergraph(fg) < 0) {
2177                     av_log(NULL, AV_LOG_FATAL, "Error reinitializing filters!\n");
2178                     exit_program(1);
2179                 }
2180             }
2181     }
2182
2183     if (decoded_frame->pts != AV_NOPTS_VALUE) {
2184         decoded_frame_tb   = ist->st->time_base;
2185     } else if (pkt && pkt->pts != AV_NOPTS_VALUE) {
2186         decoded_frame->pts = pkt->pts;
2187         decoded_frame_tb   = ist->st->time_base;
2188     }else {
2189         decoded_frame->pts = ist->dts;
2190         decoded_frame_tb   = AV_TIME_BASE_Q;
2191     }
2192     if (decoded_frame->pts != AV_NOPTS_VALUE)
2193         decoded_frame->pts = av_rescale_delta(decoded_frame_tb, decoded_frame->pts,
2194                                               (AVRational){1, avctx->sample_rate}, decoded_frame->nb_samples, &ist->filter_in_rescale_delta_last,
2195                                               (AVRational){1, avctx->sample_rate});
2196     ist->nb_samples = decoded_frame->nb_samples;
2197     err = send_frame_to_filters(ist, decoded_frame);
2198     decoded_frame->pts = AV_NOPTS_VALUE;
2199
2200 fail:
2201     av_frame_unref(ist->filter_frame);
2202     av_frame_unref(decoded_frame);
2203     return err < 0 ? err : ret;
2204 }
2205
2206 static int decode_video(InputStream *ist, AVPacket *pkt, int *got_output, int eof)
2207 {
2208     AVFrame *decoded_frame;
2209     int i, ret = 0, err = 0, resample_changed;
2210     int64_t best_effort_timestamp;
2211     int64_t dts = AV_NOPTS_VALUE;
2212     AVPacket avpkt;
2213
2214     // With fate-indeo3-2, we're getting 0-sized packets before EOF for some
2215     // reason. This seems like a semi-critical bug. Don't trigger EOF, and
2216     // skip the packet.
2217     if (!eof && pkt && pkt->size == 0)
2218         return 0;
2219
2220     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
2221         return AVERROR(ENOMEM);
2222     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
2223         return AVERROR(ENOMEM);
2224     decoded_frame = ist->decoded_frame;
2225     if (ist->dts != AV_NOPTS_VALUE)
2226         dts = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ist->st->time_base);
2227     if (pkt) {
2228         avpkt = *pkt;
2229         avpkt.dts = dts; // ffmpeg.c probably shouldn't do this
2230     }
2231
2232     // The old code used to set dts on the drain packet, which does not work
2233     // with the new API anymore.
2234     if (eof) {
2235         void *new = av_realloc_array(ist->dts_buffer, ist->nb_dts_buffer + 1, sizeof(ist->dts_buffer[0]));
2236         if (!new)
2237             return AVERROR(ENOMEM);
2238         ist->dts_buffer = new;
2239         ist->dts_buffer[ist->nb_dts_buffer++] = dts;
2240     }
2241
2242     update_benchmark(NULL);
2243     ret = decode(ist->dec_ctx, decoded_frame, got_output, pkt ? &avpkt : NULL);
2244     update_benchmark("decode_video %d.%d", ist->file_index, ist->st->index);
2245
2246     // The following line may be required in some cases where there is no parser
2247     // or the parser does not has_b_frames correctly
2248     if (ist->st->codecpar->video_delay < ist->dec_ctx->has_b_frames) {
2249         if (ist->dec_ctx->codec_id == AV_CODEC_ID_H264) {
2250             ist->st->codecpar->video_delay = ist->dec_ctx->has_b_frames;
2251         } else
2252             av_log(ist->dec_ctx, AV_LOG_WARNING,
2253                    "video_delay is larger in decoder than demuxer %d > %d.\n"
2254                    "If you want to help, upload a sample "
2255                    "of this file to ftp://upload.ffmpeg.org/incoming/ "
2256                    "and contact the ffmpeg-devel mailing list. (ffmpeg-devel@ffmpeg.org)",
2257                    ist->dec_ctx->has_b_frames,
2258                    ist->st->codecpar->video_delay);
2259     }
2260
2261     if (ret != AVERROR_EOF)
2262         check_decode_result(ist, got_output, ret);
2263
2264     if (*got_output && ret >= 0) {
2265         if (ist->dec_ctx->width  != decoded_frame->width ||
2266             ist->dec_ctx->height != decoded_frame->height ||
2267             ist->dec_ctx->pix_fmt != decoded_frame->format) {
2268             av_log(NULL, AV_LOG_DEBUG, "Frame parameters mismatch context %d,%d,%d != %d,%d,%d\n",
2269                 decoded_frame->width,
2270                 decoded_frame->height,
2271                 decoded_frame->format,
2272                 ist->dec_ctx->width,
2273                 ist->dec_ctx->height,
2274                 ist->dec_ctx->pix_fmt);
2275         }
2276     }
2277
2278     if (!*got_output || ret < 0)
2279         return ret;
2280
2281     if(ist->top_field_first>=0)
2282         decoded_frame->top_field_first = ist->top_field_first;
2283
2284     ist->frames_decoded++;
2285
2286     if (ist->hwaccel_retrieve_data && decoded_frame->format == ist->hwaccel_pix_fmt) {
2287         err = ist->hwaccel_retrieve_data(ist->dec_ctx, decoded_frame);
2288         if (err < 0)
2289             goto fail;
2290     }
2291     ist->hwaccel_retrieved_pix_fmt = decoded_frame->format;
2292
2293     best_effort_timestamp= av_frame_get_best_effort_timestamp(decoded_frame);
2294
2295     if (eof && best_effort_timestamp == AV_NOPTS_VALUE && ist->nb_dts_buffer > 0) {
2296         best_effort_timestamp = ist->dts_buffer[0];
2297
2298         for (i = 0; i < ist->nb_dts_buffer - 1; i++)
2299             ist->dts_buffer[i] = ist->dts_buffer[i + 1];
2300         ist->nb_dts_buffer--;
2301     }
2302
2303     if(best_effort_timestamp != AV_NOPTS_VALUE) {
2304         int64_t ts = av_rescale_q(decoded_frame->pts = best_effort_timestamp, ist->st->time_base, AV_TIME_BASE_Q);
2305
2306         if (ts != AV_NOPTS_VALUE)
2307             ist->next_pts = ist->pts = ts;
2308     }
2309
2310     if (debug_ts) {
2311         av_log(NULL, AV_LOG_INFO, "decoder -> ist_index:%d type:video "
2312                "frame_pts:%s frame_pts_time:%s best_effort_ts:%"PRId64" best_effort_ts_time:%s keyframe:%d frame_type:%d time_base:%d/%d\n",
2313                ist->st->index, av_ts2str(decoded_frame->pts),
2314                av_ts2timestr(decoded_frame->pts, &ist->st->time_base),
2315                best_effort_timestamp,
2316                av_ts2timestr(best_effort_timestamp, &ist->st->time_base),
2317                decoded_frame->key_frame, decoded_frame->pict_type,
2318                ist->st->time_base.num, ist->st->time_base.den);
2319     }
2320
2321     if (ist->st->sample_aspect_ratio.num)
2322         decoded_frame->sample_aspect_ratio = ist->st->sample_aspect_ratio;
2323
2324     resample_changed = ist->resample_width   != decoded_frame->width  ||
2325                        ist->resample_height  != decoded_frame->height ||
2326                        ist->resample_pix_fmt != decoded_frame->format;
2327     if (resample_changed) {
2328         av_log(NULL, AV_LOG_INFO,
2329                "Input stream #%d:%d frame changed from size:%dx%d fmt:%s to size:%dx%d fmt:%s\n",
2330                ist->file_index, ist->st->index,
2331                ist->resample_width,  ist->resample_height,  av_get_pix_fmt_name(ist->resample_pix_fmt),
2332                decoded_frame->width, decoded_frame->height, av_get_pix_fmt_name(decoded_frame->format));
2333
2334         ist->resample_width   = decoded_frame->width;
2335         ist->resample_height  = decoded_frame->height;
2336         ist->resample_pix_fmt = decoded_frame->format;
2337
2338         for (i = 0; i < ist->nb_filters; i++) {
2339             err = ifilter_parameters_from_frame(ist->filters[i], decoded_frame);
2340             if (err < 0) {
2341                 av_log(NULL, AV_LOG_ERROR,
2342                        "Error reconfiguring input stream %d:%d filter %d\n",
2343                        ist->file_index, ist->st->index, i);
2344                 goto fail;
2345             }
2346         }
2347
2348         for (i = 0; i < nb_filtergraphs; i++) {
2349             if (ist_in_filtergraph(filtergraphs[i], ist) && ist->reinit_filters &&
2350                 configure_filtergraph(filtergraphs[i]) < 0) {
2351                 av_log(NULL, AV_LOG_FATAL, "Error reinitializing filters!\n");
2352                 exit_program(1);
2353             }
2354         }
2355     }
2356
2357     err = send_frame_to_filters(ist, decoded_frame);
2358
2359 fail:
2360     av_frame_unref(ist->filter_frame);
2361     av_frame_unref(decoded_frame);
2362     return err < 0 ? err : ret;
2363 }
2364
2365 static int transcode_subtitles(InputStream *ist, AVPacket *pkt, int *got_output)
2366 {
2367     AVSubtitle subtitle;
2368     int i, ret = avcodec_decode_subtitle2(ist->dec_ctx,
2369                                           &subtitle, got_output, pkt);
2370
2371     check_decode_result(NULL, got_output, ret);
2372
2373     if (ret < 0 || !*got_output) {
2374         if (!pkt->size)
2375             sub2video_flush(ist);
2376         return ret;
2377     }
2378
2379     if (ist->fix_sub_duration) {
2380         int end = 1;
2381         if (ist->prev_sub.got_output) {
2382             end = av_rescale(subtitle.pts - ist->prev_sub.subtitle.pts,
2383                              1000, AV_TIME_BASE);
2384             if (end < ist->prev_sub.subtitle.end_display_time) {
2385                 av_log(ist->dec_ctx, AV_LOG_DEBUG,
2386                        "Subtitle duration reduced from %d to %d%s\n",
2387                        ist->prev_sub.subtitle.end_display_time, end,
2388                        end <= 0 ? ", dropping it" : "");
2389                 ist->prev_sub.subtitle.end_display_time = end;
2390             }
2391         }
2392         FFSWAP(int,        *got_output, ist->prev_sub.got_output);
2393         FFSWAP(int,        ret,         ist->prev_sub.ret);
2394         FFSWAP(AVSubtitle, subtitle,    ist->prev_sub.subtitle);
2395         if (end <= 0)
2396             goto out;
2397     }
2398
2399     if (!*got_output)
2400         return ret;
2401
2402     sub2video_update(ist, &subtitle);
2403
2404     if (!subtitle.num_rects)
2405         goto out;
2406
2407     ist->frames_decoded++;
2408
2409     for (i = 0; i < nb_output_streams; i++) {
2410         OutputStream *ost = output_streams[i];
2411
2412         if (!check_output_constraints(ist, ost) || !ost->encoding_needed
2413             || ost->enc->type != AVMEDIA_TYPE_SUBTITLE)
2414             continue;
2415
2416         do_subtitle_out(output_files[ost->file_index], ost, &subtitle);
2417     }
2418
2419 out:
2420     avsubtitle_free(&subtitle);
2421     return ret;
2422 }
2423
2424 static int send_filter_eof(InputStream *ist)
2425 {
2426     int i, ret;
2427     for (i = 0; i < ist->nb_filters; i++) {
2428         ret = av_buffersrc_add_frame(ist->filters[i]->filter, NULL);
2429         if (ret < 0)
2430             return ret;
2431     }
2432     return 0;
2433 }
2434
2435 /* pkt = NULL means EOF (needed to flush decoder buffers) */
2436 static int process_input_packet(InputStream *ist, const AVPacket *pkt, int no_eof)
2437 {
2438     int ret = 0, i;
2439     int repeating = 0;
2440     int eof_reached = 0;
2441
2442     AVPacket avpkt;
2443     if (!ist->saw_first_ts) {
2444         ist->dts = ist->st->avg_frame_rate.num ? - ist->dec_ctx->has_b_frames * AV_TIME_BASE / av_q2d(ist->st->avg_frame_rate) : 0;
2445         ist->pts = 0;
2446         if (pkt && pkt->pts != AV_NOPTS_VALUE && !ist->decoding_needed) {
2447             ist->dts += av_rescale_q(pkt->pts, ist->st->time_base, AV_TIME_BASE_Q);
2448             ist->pts = ist->dts; //unused but better to set it to a value thats not totally wrong
2449         }
2450         ist->saw_first_ts = 1;
2451     }
2452
2453     if (ist->next_dts == AV_NOPTS_VALUE)
2454         ist->next_dts = ist->dts;
2455     if (ist->next_pts == AV_NOPTS_VALUE)
2456         ist->next_pts = ist->pts;
2457
2458     if (!pkt) {
2459         /* EOF handling */
2460         av_init_packet(&avpkt);
2461         avpkt.data = NULL;
2462         avpkt.size = 0;
2463     } else {
2464         avpkt = *pkt;
2465     }
2466
2467     if (pkt && pkt->dts != AV_NOPTS_VALUE) {
2468         ist->next_dts = ist->dts = av_rescale_q(pkt->dts, ist->st->time_base, AV_TIME_BASE_Q);
2469         if (ist->dec_ctx->codec_type != AVMEDIA_TYPE_VIDEO || !ist->decoding_needed)
2470             ist->next_pts = ist->pts = ist->dts;
2471     }
2472
2473     // while we have more to decode or while the decoder did output something on EOF
2474     while (ist->decoding_needed) {
2475         int duration = 0;
2476         int got_output = 0;
2477
2478         ist->pts = ist->next_pts;
2479         ist->dts = ist->next_dts;
2480
2481         switch (ist->dec_ctx->codec_type) {
2482         case AVMEDIA_TYPE_AUDIO:
2483             ret = decode_audio    (ist, repeating ? NULL : &avpkt, &got_output);
2484             break;
2485         case AVMEDIA_TYPE_VIDEO:
2486             ret = decode_video    (ist, repeating ? NULL : &avpkt, &got_output, !pkt);
2487             if (!repeating || !pkt || got_output) {
2488                 if (pkt && pkt->duration) {
2489                     duration = av_rescale_q(pkt->duration, ist->st->time_base, AV_TIME_BASE_Q);
2490                 } else if(ist->dec_ctx->framerate.num != 0 && ist->dec_ctx->framerate.den != 0) {
2491                     int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict+1 : ist->dec_ctx->ticks_per_frame;
2492                     duration = ((int64_t)AV_TIME_BASE *
2493                                     ist->dec_ctx->framerate.den * ticks) /
2494                                     ist->dec_ctx->framerate.num / ist->dec_ctx->ticks_per_frame;
2495                 }
2496
2497                 if(ist->dts != AV_NOPTS_VALUE && duration) {
2498                     ist->next_dts += duration;
2499                 }else
2500                     ist->next_dts = AV_NOPTS_VALUE;
2501             }
2502
2503             if (got_output)
2504                 ist->next_pts += duration; //FIXME the duration is not correct in some cases
2505             break;
2506         case AVMEDIA_TYPE_SUBTITLE:
2507             if (repeating)
2508                 break;
2509             ret = transcode_subtitles(ist, &avpkt, &got_output);
2510             if (!pkt && ret >= 0)
2511                 ret = AVERROR_EOF;
2512             break;
2513         default:
2514             return -1;
2515         }
2516
2517         if (ret == AVERROR_EOF) {
2518             eof_reached = 1;
2519             break;
2520         }
2521
2522         if (ret < 0) {
2523             av_log(NULL, AV_LOG_ERROR, "Error while decoding stream #%d:%d: %s\n",
2524                    ist->file_index, ist->st->index, av_err2str(ret));
2525             if (exit_on_error)
2526                 exit_program(1);
2527             // Decoding might not terminate if we're draining the decoder, and
2528             // the decoder keeps returning an error.
2529             // This should probably be considered a libavcodec issue.
2530             // Sample: fate-vsynth1-dnxhd-720p-hr-lb
2531             if (!pkt)
2532                 eof_reached = 1;
2533             break;
2534         }
2535
2536         if (!got_output)
2537             break;
2538
2539         // During draining, we might get multiple output frames in this loop.
2540         // ffmpeg.c does not drain the filter chain on configuration changes,
2541         // which means if we send multiple frames at once to the filters, and
2542         // one of those frames changes configuration, the buffered frames will
2543         // be lost. This can upset certain FATE tests.
2544         // Decode only 1 frame per call on EOF to appease these FATE tests.
2545         // The ideal solution would be to rewrite decoding to use the new
2546         // decoding API in a better way.
2547         if (!pkt)
2548             break;
2549
2550         repeating = 1;
2551     }
2552
2553     /* after flushing, send an EOF on all the filter inputs attached to the stream */
2554     /* except when looping we need to flush but not to send an EOF */
2555     if (!pkt && ist->decoding_needed && eof_reached && !no_eof) {
2556         int ret = send_filter_eof(ist);
2557         if (ret < 0) {
2558             av_log(NULL, AV_LOG_FATAL, "Error marking filters as finished\n");
2559             exit_program(1);
2560         }
2561     }
2562
2563     /* handle stream copy */
2564     if (!ist->decoding_needed) {
2565         ist->dts = ist->next_dts;
2566         switch (ist->dec_ctx->codec_type) {
2567         case AVMEDIA_TYPE_AUDIO:
2568             ist->next_dts += ((int64_t)AV_TIME_BASE * ist->dec_ctx->frame_size) /
2569                              ist->dec_ctx->sample_rate;
2570             break;
2571         case AVMEDIA_TYPE_VIDEO:
2572             if (ist->framerate.num) {
2573                 // TODO: Remove work-around for c99-to-c89 issue 7
2574                 AVRational time_base_q = AV_TIME_BASE_Q;
2575                 int64_t next_dts = av_rescale_q(ist->next_dts, time_base_q, av_inv_q(ist->framerate));
2576                 ist->next_dts = av_rescale_q(next_dts + 1, av_inv_q(ist->framerate), time_base_q);
2577             } else if (pkt->duration) {
2578                 ist->next_dts += av_rescale_q(pkt->duration, ist->st->time_base, AV_TIME_BASE_Q);
2579             } else if(ist->dec_ctx->framerate.num != 0) {
2580                 int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict + 1 : ist->dec_ctx->ticks_per_frame;
2581                 ist->next_dts += ((int64_t)AV_TIME_BASE *
2582                                   ist->dec_ctx->framerate.den * ticks) /
2583                                   ist->dec_ctx->framerate.num / ist->dec_ctx->ticks_per_frame;
2584             }
2585             break;
2586         }
2587         ist->pts = ist->dts;
2588         ist->next_pts = ist->next_dts;
2589     }
2590     for (i = 0; pkt && i < nb_output_streams; i++) {
2591         OutputStream *ost = output_streams[i];
2592
2593         if (!check_output_constraints(ist, ost) || ost->encoding_needed)
2594             continue;
2595
2596         do_streamcopy(ist, ost, pkt);
2597     }
2598
2599     return !eof_reached;
2600 }
2601
2602 static void print_sdp(void)
2603 {
2604     char sdp[16384];
2605     int i;
2606     int j;
2607     AVIOContext *sdp_pb;
2608     AVFormatContext **avc;
2609
2610     for (i = 0; i < nb_output_files; i++) {
2611         if (!output_files[i]->header_written)
2612             return;
2613     }
2614
2615     avc = av_malloc_array(nb_output_files, sizeof(*avc));
2616     if (!avc)
2617         exit_program(1);
2618     for (i = 0, j = 0; i < nb_output_files; i++) {
2619         if (!strcmp(output_files[i]->ctx->oformat->name, "rtp")) {
2620             avc[j] = output_files[i]->ctx;
2621             j++;
2622         }
2623     }
2624
2625     if (!j)
2626         goto fail;
2627
2628     av_sdp_create(avc, j, sdp, sizeof(sdp));
2629
2630     if (!sdp_filename) {
2631         printf("SDP:\n%s\n", sdp);
2632         fflush(stdout);
2633     } else {
2634         if (avio_open2(&sdp_pb, sdp_filename, AVIO_FLAG_WRITE, &int_cb, NULL) < 0) {
2635             av_log(NULL, AV_LOG_ERROR, "Failed to open sdp file '%s'\n", sdp_filename);
2636         } else {
2637             avio_printf(sdp_pb, "SDP:\n%s", sdp);
2638             avio_closep(&sdp_pb);
2639             av_freep(&sdp_filename);
2640         }
2641     }
2642
2643 fail:
2644     av_freep(&avc);
2645 }
2646
2647 static const HWAccel *get_hwaccel(enum AVPixelFormat pix_fmt)
2648 {
2649     int i;
2650     for (i = 0; hwaccels[i].name; i++)
2651         if (hwaccels[i].pix_fmt == pix_fmt)
2652             return &hwaccels[i];
2653     return NULL;
2654 }
2655
2656 static enum AVPixelFormat get_format(AVCodecContext *s, const enum AVPixelFormat *pix_fmts)
2657 {
2658     InputStream *ist = s->opaque;
2659     const enum AVPixelFormat *p;
2660     int ret;
2661
2662     for (p = pix_fmts; *p != -1; p++) {
2663         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(*p);
2664         const HWAccel *hwaccel;
2665
2666         if (!(desc->flags & AV_PIX_FMT_FLAG_HWACCEL))
2667             break;
2668
2669         hwaccel = get_hwaccel(*p);
2670         if (!hwaccel ||
2671             (ist->active_hwaccel_id && ist->active_hwaccel_id != hwaccel->id) ||
2672             (ist->hwaccel_id != HWACCEL_AUTO && ist->hwaccel_id != hwaccel->id))
2673             continue;
2674
2675         ret = hwaccel->init(s);
2676         if (ret < 0) {
2677             if (ist->hwaccel_id == hwaccel->id) {
2678                 av_log(NULL, AV_LOG_FATAL,
2679                        "%s hwaccel requested for input stream #%d:%d, "
2680                        "but cannot be initialized.\n", hwaccel->name,
2681                        ist->file_index, ist->st->index);
2682                 return AV_PIX_FMT_NONE;
2683             }
2684             continue;
2685         }
2686
2687         if (ist->hw_frames_ctx) {
2688             s->hw_frames_ctx = av_buffer_ref(ist->hw_frames_ctx);
2689             if (!s->hw_frames_ctx)
2690                 return AV_PIX_FMT_NONE;
2691         }
2692
2693         ist->active_hwaccel_id = hwaccel->id;
2694         ist->hwaccel_pix_fmt   = *p;
2695         break;
2696     }
2697
2698     return *p;
2699 }
2700
2701 static int get_buffer(AVCodecContext *s, AVFrame *frame, int flags)
2702 {
2703     InputStream *ist = s->opaque;
2704
2705     if (ist->hwaccel_get_buffer && frame->format == ist->hwaccel_pix_fmt)
2706         return ist->hwaccel_get_buffer(s, frame, flags);
2707
2708     return avcodec_default_get_buffer2(s, frame, flags);
2709 }
2710
2711 static int init_input_stream(int ist_index, char *error, int error_len)
2712 {
2713     int i, ret;
2714     InputStream *ist = input_streams[ist_index];
2715
2716     for (i = 0; i < ist->nb_filters; i++) {
2717         ret = ifilter_parameters_from_decoder(ist->filters[i], ist->dec_ctx);
2718         if (ret < 0) {
2719             av_log(NULL, AV_LOG_FATAL, "Error initializing filter input\n");
2720             return ret;
2721         }
2722     }
2723
2724     if (ist->decoding_needed) {
2725         AVCodec *codec = ist->dec;
2726         if (!codec) {
2727             snprintf(error, error_len, "Decoder (codec %s) not found for input stream #%d:%d",
2728                     avcodec_get_name(ist->dec_ctx->codec_id), ist->file_index, ist->st->index);
2729             return AVERROR(EINVAL);
2730         }
2731
2732         ist->dec_ctx->opaque                = ist;
2733         ist->dec_ctx->get_format            = get_format;
2734         ist->dec_ctx->get_buffer2           = get_buffer;
2735         ist->dec_ctx->thread_safe_callbacks = 1;
2736
2737         av_opt_set_int(ist->dec_ctx, "refcounted_frames", 1, 0);
2738         if (ist->dec_ctx->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
2739            (ist->decoding_needed & DECODING_FOR_OST)) {
2740             av_dict_set(&ist->decoder_opts, "compute_edt", "1", AV_DICT_DONT_OVERWRITE);
2741             if (ist->decoding_needed & DECODING_FOR_FILTER)
2742                 av_log(NULL, AV_LOG_WARNING, "Warning using DVB subtitles for filtering and output at the same time is not fully supported, also see -compute_edt [0|1]\n");
2743         }
2744
2745         av_dict_set(&ist->decoder_opts, "sub_text_format", "ass", AV_DICT_DONT_OVERWRITE);
2746
2747         /* Useful for subtitles retiming by lavf (FIXME), skipping samples in
2748          * audio, and video decoders such as cuvid or mediacodec */
2749         av_codec_set_pkt_timebase(ist->dec_ctx, ist->st->time_base);
2750
2751         if (!av_dict_get(ist->decoder_opts, "threads", NULL, 0))
2752             av_dict_set(&ist->decoder_opts, "threads", "auto", 0);
2753         if ((ret = avcodec_open2(ist->dec_ctx, codec, &ist->decoder_opts)) < 0) {
2754             if (ret == AVERROR_EXPERIMENTAL)
2755                 abort_codec_experimental(codec, 0);
2756
2757             snprintf(error, error_len,
2758                      "Error while opening decoder for input stream "
2759                      "#%d:%d : %s",
2760                      ist->file_index, ist->st->index, av_err2str(ret));
2761             return ret;
2762         }
2763         assert_avoptions(ist->decoder_opts);
2764     }
2765
2766     ist->next_pts = AV_NOPTS_VALUE;
2767     ist->next_dts = AV_NOPTS_VALUE;
2768
2769     return 0;
2770 }
2771
2772 static InputStream *get_input_stream(OutputStream *ost)
2773 {
2774     if (ost->source_index >= 0)
2775         return input_streams[ost->source_index];
2776     return NULL;
2777 }
2778
2779 static int compare_int64(const void *a, const void *b)
2780 {
2781     return FFDIFFSIGN(*(const int64_t *)a, *(const int64_t *)b);
2782 }
2783
2784 /* open the muxer when all the streams are initialized */
2785 static int check_init_output_file(OutputFile *of, int file_index)
2786 {
2787     int ret, i;
2788
2789     for (i = 0; i < of->ctx->nb_streams; i++) {
2790         OutputStream *ost = output_streams[of->ost_index + i];
2791         if (!ost->initialized)
2792             return 0;
2793     }
2794
2795     of->ctx->interrupt_callback = int_cb;
2796
2797     ret = avformat_write_header(of->ctx, &of->opts);
2798     if (ret < 0) {
2799         av_log(NULL, AV_LOG_ERROR,
2800                "Could not write header for output file #%d "
2801                "(incorrect codec parameters ?): %s\n",
2802                file_index, av_err2str(ret));
2803         return ret;
2804     }
2805     //assert_avoptions(of->opts);
2806     of->header_written = 1;
2807
2808     av_dump_format(of->ctx, file_index, of->ctx->filename, 1);
2809
2810     if (sdp_filename || want_sdp)
2811         print_sdp();
2812
2813     /* flush the muxing queues */
2814     for (i = 0; i < of->ctx->nb_streams; i++) {
2815         OutputStream *ost = output_streams[of->ost_index + i];
2816
2817         while (av_fifo_size(ost->muxing_queue)) {
2818             AVPacket pkt;
2819             av_fifo_generic_read(ost->muxing_queue, &pkt, sizeof(pkt), NULL);
2820             write_packet(of, &pkt, ost);
2821         }
2822     }
2823
2824     return 0;
2825 }
2826
2827 static int init_output_bsfs(OutputStream *ost)
2828 {
2829     AVBSFContext *ctx;
2830     int i, ret;
2831
2832     if (!ost->nb_bitstream_filters)
2833         return 0;
2834
2835     for (i = 0; i < ost->nb_bitstream_filters; i++) {
2836         ctx = ost->bsf_ctx[i];
2837
2838         ret = avcodec_parameters_copy(ctx->par_in,
2839                                       i ? ost->bsf_ctx[i - 1]->par_out : ost->st->codecpar);
2840         if (ret < 0)
2841             return ret;
2842
2843         ctx->time_base_in = i ? ost->bsf_ctx[i - 1]->time_base_out : ost->st->time_base;
2844
2845         ret = av_bsf_init(ctx);
2846         if (ret < 0) {
2847             av_log(NULL, AV_LOG_ERROR, "Error initializing bitstream filter: %s\n",
2848                    ost->bsf_ctx[i]->filter->name);
2849             return ret;
2850         }
2851     }
2852
2853     ctx = ost->bsf_ctx[ost->nb_bitstream_filters - 1];
2854     ret = avcodec_parameters_copy(ost->st->codecpar, ctx->par_out);
2855     if (ret < 0)
2856         return ret;
2857
2858     ost->st->time_base = ctx->time_base_out;
2859
2860     return 0;
2861 }
2862
2863 static int init_output_stream_streamcopy(OutputStream *ost)
2864 {
2865     OutputFile *of = output_files[ost->file_index];
2866     InputStream *ist = get_input_stream(ost);
2867     AVCodecParameters *par_dst = ost->st->codecpar;
2868     AVCodecParameters *par_src = ost->ref_par;
2869     AVRational sar;
2870     int i, ret;
2871     uint32_t codec_tag = par_dst->codec_tag;
2872
2873     av_assert0(ist && !ost->filter);
2874
2875     ret = avcodec_parameters_to_context(ost->enc_ctx, ist->st->codecpar);
2876     if (ret >= 0)
2877         ret = av_opt_set_dict(ost->enc_ctx, &ost->encoder_opts);
2878     if (ret < 0) {
2879         av_log(NULL, AV_LOG_FATAL,
2880                "Error setting up codec context options.\n");
2881         return ret;
2882     }
2883     avcodec_parameters_from_context(par_src, ost->enc_ctx);
2884
2885     if (!codec_tag) {
2886         unsigned int codec_tag_tmp;
2887         if (!of->ctx->oformat->codec_tag ||
2888             av_codec_get_id (of->ctx->oformat->codec_tag, par_src->codec_tag) == par_src->codec_id ||
2889             !av_codec_get_tag2(of->ctx->oformat->codec_tag, par_src->codec_id, &codec_tag_tmp))
2890             codec_tag = par_src->codec_tag;
2891     }
2892
2893     ret = avcodec_parameters_copy(par_dst, par_src);
2894     if (ret < 0)
2895         return ret;
2896
2897     par_dst->codec_tag = codec_tag;
2898
2899     if (!ost->frame_rate.num)
2900         ost->frame_rate = ist->framerate;
2901     ost->st->avg_frame_rate = ost->frame_rate;
2902
2903     ret = avformat_transfer_internal_stream_timing_info(of->ctx->oformat, ost->st, ist->st, copy_tb);
2904     if (ret < 0)
2905         return ret;
2906
2907     // copy timebase while removing common factors
2908     if (ost->st->time_base.num <= 0 || ost->st->time_base.den <= 0)
2909         ost->st->time_base = av_add_q(av_stream_get_codec_timebase(ost->st), (AVRational){0, 1});
2910
2911     // copy estimated duration as a hint to the muxer
2912     if (ost->st->duration <= 0 && ist->st->duration > 0)
2913         ost->st->duration = av_rescale_q(ist->st->duration, ist->st->time_base, ost->st->time_base);
2914
2915     // copy disposition
2916     ost->st->disposition = ist->st->disposition;
2917
2918     if (ist->st->nb_side_data) {
2919         ost->st->side_data = av_realloc_array(NULL, ist->st->nb_side_data,
2920                                               sizeof(*ist->st->side_data));
2921         if (!ost->st->side_data)
2922             return AVERROR(ENOMEM);
2923
2924         ost->st->nb_side_data = 0;
2925         for (i = 0; i < ist->st->nb_side_data; i++) {
2926             const AVPacketSideData *sd_src = &ist->st->side_data[i];
2927             AVPacketSideData *sd_dst = &ost->st->side_data[ost->st->nb_side_data];
2928
2929             if (ost->rotate_overridden && sd_src->type == AV_PKT_DATA_DISPLAYMATRIX)
2930                 continue;
2931
2932             sd_dst->data = av_malloc(sd_src->size);
2933             if (!sd_dst->data)
2934                 return AVERROR(ENOMEM);
2935             memcpy(sd_dst->data, sd_src->data, sd_src->size);
2936             sd_dst->size = sd_src->size;
2937             sd_dst->type = sd_src->type;
2938             ost->st->nb_side_data++;
2939         }
2940     }
2941
2942     ost->parser = av_parser_init(par_dst->codec_id);
2943     ost->parser_avctx = avcodec_alloc_context3(NULL);
2944     if (!ost->parser_avctx)
2945         return AVERROR(ENOMEM);
2946
2947     switch (par_dst->codec_type) {
2948     case AVMEDIA_TYPE_AUDIO:
2949         if (audio_volume != 256) {
2950             av_log(NULL, AV_LOG_FATAL, "-acodec copy and -vol are incompatible (frames are not decoded)\n");
2951             exit_program(1);
2952         }
2953         if((par_dst->block_align == 1 || par_dst->block_align == 1152 || par_dst->block_align == 576) && par_dst->codec_id == AV_CODEC_ID_MP3)
2954             par_dst->block_align= 0;
2955         if(par_dst->codec_id == AV_CODEC_ID_AC3)
2956             par_dst->block_align= 0;
2957         break;
2958     case AVMEDIA_TYPE_VIDEO:
2959         if (ost->frame_aspect_ratio.num) { // overridden by the -aspect cli option
2960             sar =
2961                 av_mul_q(ost->frame_aspect_ratio,
2962                          (AVRational){ par_dst->height, par_dst->width });
2963             av_log(NULL, AV_LOG_WARNING, "Overriding aspect ratio "
2964                    "with stream copy may produce invalid files\n");
2965             }
2966         else if (ist->st->sample_aspect_ratio.num)
2967             sar = ist->st->sample_aspect_ratio;
2968         else
2969             sar = par_src->sample_aspect_ratio;
2970         ost->st->sample_aspect_ratio = par_dst->sample_aspect_ratio = sar;
2971         ost->st->avg_frame_rate = ist->st->avg_frame_rate;
2972         ost->st->r_frame_rate = ist->st->r_frame_rate;
2973         break;
2974     }
2975
2976     return 0;
2977 }
2978
2979 static void set_encoder_id(OutputFile *of, OutputStream *ost)
2980 {
2981     AVDictionaryEntry *e;
2982
2983     uint8_t *encoder_string;
2984     int encoder_string_len;
2985     int format_flags = 0;
2986     int codec_flags = 0;
2987
2988     if (av_dict_get(ost->st->metadata, "encoder",  NULL, 0))
2989         return;
2990
2991     e = av_dict_get(of->opts, "fflags", NULL, 0);
2992     if (e) {
2993         const AVOption *o = av_opt_find(of->ctx, "fflags", NULL, 0, 0);
2994         if (!o)
2995             return;
2996         av_opt_eval_flags(of->ctx, o, e->value, &format_flags);
2997     }
2998     e = av_dict_get(ost->encoder_opts, "flags", NULL, 0);
2999     if (e) {
3000         const AVOption *o = av_opt_find(ost->enc_ctx, "flags", NULL, 0, 0);
3001         if (!o)
3002             return;
3003         av_opt_eval_flags(ost->enc_ctx, o, e->value, &codec_flags);
3004     }
3005
3006     encoder_string_len = sizeof(LIBAVCODEC_IDENT) + strlen(ost->enc->name) + 2;
3007     encoder_string     = av_mallocz(encoder_string_len);
3008     if (!encoder_string)
3009         exit_program(1);
3010
3011     if (!(format_flags & AVFMT_FLAG_BITEXACT) && !(codec_flags & AV_CODEC_FLAG_BITEXACT))
3012         av_strlcpy(encoder_string, LIBAVCODEC_IDENT " ", encoder_string_len);
3013     else
3014         av_strlcpy(encoder_string, "Lavc ", encoder_string_len);
3015     av_strlcat(encoder_string, ost->enc->name, encoder_string_len);
3016     av_dict_set(&ost->st->metadata, "encoder",  encoder_string,
3017                 AV_DICT_DONT_STRDUP_VAL | AV_DICT_DONT_OVERWRITE);
3018 }
3019
3020 static void parse_forced_key_frames(char *kf, OutputStream *ost,
3021                                     AVCodecContext *avctx)
3022 {
3023     char *p;
3024     int n = 1, i, size, index = 0;
3025     int64_t t, *pts;
3026
3027     for (p = kf; *p; p++)
3028         if (*p == ',')
3029             n++;
3030     size = n;
3031     pts = av_malloc_array(size, sizeof(*pts));
3032     if (!pts) {
3033         av_log(NULL, AV_LOG_FATAL, "Could not allocate forced key frames array.\n");
3034         exit_program(1);
3035     }
3036
3037     p = kf;
3038     for (i = 0; i < n; i++) {
3039         char *next = strchr(p, ',');
3040
3041         if (next)
3042             *next++ = 0;
3043
3044         if (!memcmp(p, "chapters", 8)) {
3045
3046             AVFormatContext *avf = output_files[ost->file_index]->ctx;
3047             int j;
3048
3049             if (avf->nb_chapters > INT_MAX - size ||
3050                 !(pts = av_realloc_f(pts, size += avf->nb_chapters - 1,
3051                                      sizeof(*pts)))) {
3052                 av_log(NULL, AV_LOG_FATAL,
3053                        "Could not allocate forced key frames array.\n");
3054                 exit_program(1);
3055             }
3056             t = p[8] ? parse_time_or_die("force_key_frames", p + 8, 1) : 0;
3057             t = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
3058
3059             for (j = 0; j < avf->nb_chapters; j++) {
3060                 AVChapter *c = avf->chapters[j];
3061                 av_assert1(index < size);
3062                 pts[index++] = av_rescale_q(c->start, c->time_base,
3063                                             avctx->time_base) + t;
3064             }
3065
3066         } else {
3067
3068             t = parse_time_or_die("force_key_frames", p, 1);
3069             av_assert1(index < size);
3070             pts[index++] = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
3071
3072         }
3073
3074         p = next;
3075     }
3076
3077     av_assert0(index == size);
3078     qsort(pts, size, sizeof(*pts), compare_int64);
3079     ost->forced_kf_count = size;
3080     ost->forced_kf_pts   = pts;
3081 }
3082
3083 static int init_output_stream_encode(OutputStream *ost)
3084 {
3085     InputStream *ist = get_input_stream(ost);
3086     AVCodecContext *enc_ctx = ost->enc_ctx;
3087     AVCodecContext *dec_ctx = NULL;
3088     AVFormatContext *oc = output_files[ost->file_index]->ctx;
3089     int j, ret;
3090
3091     set_encoder_id(output_files[ost->file_index], ost);
3092
3093     if (ist) {
3094         ost->st->disposition          = ist->st->disposition;
3095
3096         dec_ctx = ist->dec_ctx;
3097
3098         enc_ctx->chroma_sample_location = dec_ctx->chroma_sample_location;
3099     } else {
3100         for (j = 0; j < oc->nb_streams; j++) {
3101             AVStream *st = oc->streams[j];
3102             if (st != ost->st && st->codecpar->codec_type == ost->st->codecpar->codec_type)
3103                 break;
3104         }
3105         if (j == oc->nb_streams)
3106             if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO ||
3107                 ost->st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
3108                 ost->st->disposition = AV_DISPOSITION_DEFAULT;
3109     }
3110
3111     if ((enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
3112          enc_ctx->codec_type == AVMEDIA_TYPE_AUDIO) &&
3113          filtergraph_is_simple(ost->filter->graph)) {
3114             FilterGraph *fg = ost->filter->graph;
3115
3116             if (configure_filtergraph(fg)) {
3117                 av_log(NULL, AV_LOG_FATAL, "Error opening filters!\n");
3118                 exit_program(1);
3119             }
3120     }
3121
3122     if (enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO) {
3123         if (!ost->frame_rate.num)
3124             ost->frame_rate = av_buffersink_get_frame_rate(ost->filter->filter);
3125         if (ist && !ost->frame_rate.num)
3126             ost->frame_rate = ist->framerate;
3127         if (ist && !ost->frame_rate.num)
3128             ost->frame_rate = ist->st->r_frame_rate;
3129         if (ist && !ost->frame_rate.num) {
3130             ost->frame_rate = (AVRational){25, 1};
3131             av_log(NULL, AV_LOG_WARNING,
3132                    "No information "
3133                    "about the input framerate is available. Falling "
3134                    "back to a default value of 25fps for output stream #%d:%d. Use the -r option "
3135                    "if you want a different framerate.\n",
3136                    ost->file_index, ost->index);
3137         }
3138 //      ost->frame_rate = ist->st->avg_frame_rate.num ? ist->st->avg_frame_rate : (AVRational){25, 1};
3139         if (ost->enc && ost->enc->supported_framerates && !ost->force_fps) {
3140             int idx = av_find_nearest_q_idx(ost->frame_rate, ost->enc->supported_framerates);
3141             ost->frame_rate = ost->enc->supported_framerates[idx];
3142         }
3143         // reduce frame rate for mpeg4 to be within the spec limits
3144         if (enc_ctx->codec_id == AV_CODEC_ID_MPEG4) {
3145             av_reduce(&ost->frame_rate.num, &ost->frame_rate.den,
3146                       ost->frame_rate.num, ost->frame_rate.den, 65535);
3147         }
3148     }
3149
3150     switch (enc_ctx->codec_type) {
3151     case AVMEDIA_TYPE_AUDIO:
3152         enc_ctx->sample_fmt     = av_buffersink_get_format(ost->filter->filter);
3153         if (dec_ctx)
3154             enc_ctx->bits_per_raw_sample = FFMIN(dec_ctx->bits_per_raw_sample,
3155                                                  av_get_bytes_per_sample(enc_ctx->sample_fmt) << 3);
3156         enc_ctx->sample_rate    = av_buffersink_get_sample_rate(ost->filter->filter);
3157         enc_ctx->channel_layout = av_buffersink_get_channel_layout(ost->filter->filter);
3158         enc_ctx->channels       = av_buffersink_get_channels(ost->filter->filter);
3159         enc_ctx->time_base      = (AVRational){ 1, enc_ctx->sample_rate };
3160         break;
3161     case AVMEDIA_TYPE_VIDEO:
3162         enc_ctx->time_base = av_inv_q(ost->frame_rate);
3163         if (!(enc_ctx->time_base.num && enc_ctx->time_base.den))
3164             enc_ctx->time_base = av_buffersink_get_time_base(ost->filter->filter);
3165         if (   av_q2d(enc_ctx->time_base) < 0.001 && video_sync_method != VSYNC_PASSTHROUGH
3166            && (video_sync_method == VSYNC_CFR || video_sync_method == VSYNC_VSCFR || (video_sync_method == VSYNC_AUTO && !(oc->oformat->flags & AVFMT_VARIABLE_FPS)))){
3167             av_log(oc, AV_LOG_WARNING, "Frame rate very high for a muxer not efficiently supporting it.\n"
3168                                        "Please consider specifying a lower framerate, a different muxer or -vsync 2\n");
3169         }
3170         for (j = 0; j < ost->forced_kf_count; j++)
3171             ost->forced_kf_pts[j] = av_rescale_q(ost->forced_kf_pts[j],
3172                                                  AV_TIME_BASE_Q,
3173                                                  enc_ctx->time_base);
3174
3175         enc_ctx->width  = av_buffersink_get_w(ost->filter->filter);
3176         enc_ctx->height = av_buffersink_get_h(ost->filter->filter);
3177         enc_ctx->sample_aspect_ratio = ost->st->sample_aspect_ratio =
3178             ost->frame_aspect_ratio.num ? // overridden by the -aspect cli option
3179             av_mul_q(ost->frame_aspect_ratio, (AVRational){ enc_ctx->height, enc_ctx->width }) :
3180             av_buffersink_get_sample_aspect_ratio(ost->filter->filter);
3181         if (!strncmp(ost->enc->name, "libx264", 7) &&
3182             enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
3183             av_buffersink_get_format(ost->filter->filter) != AV_PIX_FMT_YUV420P)
3184             av_log(NULL, AV_LOG_WARNING,
3185                    "No pixel format specified, %s for H.264 encoding chosen.\n"
3186                    "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
3187                    av_get_pix_fmt_name(av_buffersink_get_format(ost->filter->filter)));
3188         if (!strncmp(ost->enc->name, "mpeg2video", 10) &&
3189             enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
3190             av_buffersink_get_format(ost->filter->filter) != AV_PIX_FMT_YUV420P)
3191             av_log(NULL, AV_LOG_WARNING,
3192                    "No pixel format specified, %s for MPEG-2 encoding chosen.\n"
3193                    "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
3194                    av_get_pix_fmt_name(av_buffersink_get_format(ost->filter->filter)));
3195         enc_ctx->pix_fmt = av_buffersink_get_format(ost->filter->filter);
3196         if (dec_ctx)
3197             enc_ctx->bits_per_raw_sample = FFMIN(dec_ctx->bits_per_raw_sample,
3198                                                  av_pix_fmt_desc_get(enc_ctx->pix_fmt)->comp[0].depth);
3199
3200         ost->st->avg_frame_rate = ost->frame_rate;
3201
3202         if (!dec_ctx ||
3203             enc_ctx->width   != dec_ctx->width  ||
3204             enc_ctx->height  != dec_ctx->height ||
3205             enc_ctx->pix_fmt != dec_ctx->pix_fmt) {
3206             enc_ctx->bits_per_raw_sample = frame_bits_per_raw_sample;
3207         }
3208
3209         if (ost->forced_keyframes) {
3210             if (!strncmp(ost->forced_keyframes, "expr:", 5)) {
3211                 ret = av_expr_parse(&ost->forced_keyframes_pexpr, ost->forced_keyframes+5,
3212                                     forced_keyframes_const_names, NULL, NULL, NULL, NULL, 0, NULL);
3213                 if (ret < 0) {
3214                     av_log(NULL, AV_LOG_ERROR,
3215                            "Invalid force_key_frames expression '%s'\n", ost->forced_keyframes+5);
3216                     return ret;
3217                 }
3218                 ost->forced_keyframes_expr_const_values[FKF_N] = 0;
3219                 ost->forced_keyframes_expr_const_values[FKF_N_FORCED] = 0;
3220                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] = NAN;
3221                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] = NAN;
3222
3223             // Don't parse the 'forced_keyframes' in case of 'keep-source-keyframes',
3224             // parse it only for static kf timings
3225             } else if(strncmp(ost->forced_keyframes, "source", 6)) {
3226                 parse_forced_key_frames(ost->forced_keyframes, ost, ost->enc_ctx);
3227             }
3228         }
3229         break;
3230     case AVMEDIA_TYPE_SUBTITLE:
3231         enc_ctx->time_base = (AVRational){1, 1000};
3232         if (!enc_ctx->width) {
3233             enc_ctx->width     = input_streams[ost->source_index]->st->codecpar->width;
3234             enc_ctx->height    = input_streams[ost->source_index]->st->codecpar->height;
3235         }
3236         break;
3237     case AVMEDIA_TYPE_DATA:
3238         break;
3239     default:
3240         abort();
3241         break;
3242     }
3243
3244     return 0;
3245 }
3246
3247 static int init_output_stream(OutputStream *ost, char *error, int error_len)
3248 {
3249     int ret = 0;
3250
3251     if (ost->encoding_needed) {
3252         AVCodec      *codec = ost->enc;
3253         AVCodecContext *dec = NULL;
3254         InputStream *ist;
3255
3256         ret = init_output_stream_encode(ost);
3257         if (ret < 0)
3258             return ret;
3259
3260         if ((ist = get_input_stream(ost)))
3261             dec = ist->dec_ctx;
3262         if (dec && dec->subtitle_header) {
3263             /* ASS code assumes this buffer is null terminated so add extra byte. */
3264             ost->enc_ctx->subtitle_header = av_mallocz(dec->subtitle_header_size + 1);
3265             if (!ost->enc_ctx->subtitle_header)
3266                 return AVERROR(ENOMEM);
3267             memcpy(ost->enc_ctx->subtitle_header, dec->subtitle_header, dec->subtitle_header_size);
3268             ost->enc_ctx->subtitle_header_size = dec->subtitle_header_size;
3269         }
3270         if (!av_dict_get(ost->encoder_opts, "threads", NULL, 0))
3271             av_dict_set(&ost->encoder_opts, "threads", "auto", 0);
3272         if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
3273             !codec->defaults &&
3274             !av_dict_get(ost->encoder_opts, "b", NULL, 0) &&
3275             !av_dict_get(ost->encoder_opts, "ab", NULL, 0))
3276             av_dict_set(&ost->encoder_opts, "b", "128000", 0);
3277
3278         if (ost->filter && av_buffersink_get_hw_frames_ctx(ost->filter->filter)) {
3279             ost->enc_ctx->hw_frames_ctx = av_buffer_ref(av_buffersink_get_hw_frames_ctx(ost->filter->filter));
3280             if (!ost->enc_ctx->hw_frames_ctx)
3281                 return AVERROR(ENOMEM);
3282         }
3283
3284         if ((ret = avcodec_open2(ost->enc_ctx, codec, &ost->encoder_opts)) < 0) {
3285             if (ret == AVERROR_EXPERIMENTAL)
3286                 abort_codec_experimental(codec, 1);
3287             snprintf(error, error_len,
3288                      "Error while opening encoder for output stream #%d:%d - "
3289                      "maybe incorrect parameters such as bit_rate, rate, width or height",
3290                     ost->file_index, ost->index);
3291             return ret;
3292         }
3293         if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
3294             !(ost->enc->capabilities & AV_CODEC_CAP_VARIABLE_FRAME_SIZE))
3295             av_buffersink_set_frame_size(ost->filter->filter,
3296                                             ost->enc_ctx->frame_size);
3297         assert_avoptions(ost->encoder_opts);
3298         if (ost->enc_ctx->bit_rate && ost->enc_ctx->bit_rate < 1000)
3299             av_log(NULL, AV_LOG_WARNING, "The bitrate parameter is set too low."
3300                                          " It takes bits/s as argument, not kbits/s\n");
3301
3302         ret = avcodec_parameters_from_context(ost->st->codecpar, ost->enc_ctx);
3303         if (ret < 0) {
3304             av_log(NULL, AV_LOG_FATAL,
3305                    "Error initializing the output stream codec context.\n");
3306             exit_program(1);
3307         }
3308         /*
3309          * FIXME: ost->st->codec should't be needed here anymore.
3310          */
3311         ret = avcodec_copy_context(ost->st->codec, ost->enc_ctx);
3312         if (ret < 0)
3313             return ret;
3314
3315         if (ost->enc_ctx->nb_coded_side_data) {
3316             int i;
3317
3318             ost->st->side_data = av_realloc_array(NULL, ost->enc_ctx->nb_coded_side_data,
3319                                                   sizeof(*ost->st->side_data));
3320             if (!ost->st->side_data)
3321                 return AVERROR(ENOMEM);
3322
3323             for (i = 0; i < ost->enc_ctx->nb_coded_side_data; i++) {
3324                 const AVPacketSideData *sd_src = &ost->enc_ctx->coded_side_data[i];
3325                 AVPacketSideData *sd_dst = &ost->st->side_data[i];
3326
3327                 sd_dst->data = av_malloc(sd_src->size);
3328                 if (!sd_dst->data)
3329                     return AVERROR(ENOMEM);
3330                 memcpy(sd_dst->data, sd_src->data, sd_src->size);
3331                 sd_dst->size = sd_src->size;
3332                 sd_dst->type = sd_src->type;
3333                 ost->st->nb_side_data++;
3334             }
3335         }
3336
3337         // copy timebase while removing common factors
3338         if (ost->st->time_base.num <= 0 || ost->st->time_base.den <= 0)
3339             ost->st->time_base = av_add_q(ost->enc_ctx->time_base, (AVRational){0, 1});
3340
3341         // copy estimated duration as a hint to the muxer
3342         if (ost->st->duration <= 0 && ist && ist->st->duration > 0)
3343             ost->st->duration = av_rescale_q(ist->st->duration, ist->st->time_base, ost->st->time_base);
3344
3345         ost->st->codec->codec= ost->enc_ctx->codec;
3346     } else if (ost->stream_copy) {
3347         ret = init_output_stream_streamcopy(ost);
3348         if (ret < 0)
3349             return ret;
3350
3351         /*
3352          * FIXME: will the codec context used by the parser during streamcopy
3353          * This should go away with the new parser API.
3354          */
3355         ret = avcodec_parameters_to_context(ost->parser_avctx, ost->st->codecpar);
3356         if (ret < 0)
3357             return ret;
3358     }
3359
3360     // parse user provided disposition, and update stream values
3361     if (ost->disposition) {
3362         static const AVOption opts[] = {
3363             { "disposition"         , NULL, 0, AV_OPT_TYPE_FLAGS, { .i64 = 0 }, INT64_MIN, INT64_MAX, .unit = "flags" },
3364             { "default"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DEFAULT           },    .unit = "flags" },
3365             { "dub"                 , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DUB               },    .unit = "flags" },
3366             { "original"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_ORIGINAL          },    .unit = "flags" },
3367             { "comment"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_COMMENT           },    .unit = "flags" },
3368             { "lyrics"              , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_LYRICS            },    .unit = "flags" },
3369             { "karaoke"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_KARAOKE           },    .unit = "flags" },
3370             { "forced"              , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_FORCED            },    .unit = "flags" },
3371             { "hearing_impaired"    , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_HEARING_IMPAIRED  },    .unit = "flags" },
3372             { "visual_impaired"     , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_VISUAL_IMPAIRED   },    .unit = "flags" },
3373             { "clean_effects"       , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_CLEAN_EFFECTS     },    .unit = "flags" },
3374             { "captions"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_CAPTIONS          },    .unit = "flags" },
3375             { "descriptions"        , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DESCRIPTIONS      },    .unit = "flags" },
3376             { "metadata"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_METADATA          },    .unit = "flags" },
3377             { NULL },
3378         };
3379         static const AVClass class = {
3380             .class_name = "",
3381             .item_name  = av_default_item_name,
3382             .option     = opts,
3383             .version    = LIBAVUTIL_VERSION_INT,
3384         };
3385         const AVClass *pclass = &class;
3386
3387         ret = av_opt_eval_flags(&pclass, &opts[0], ost->disposition, &ost->st->disposition);
3388         if (ret < 0)
3389             return ret;
3390     }
3391
3392     /* initialize bitstream filters for the output stream
3393      * needs to be done here, because the codec id for streamcopy is not
3394      * known until now */
3395     ret = init_output_bsfs(ost);
3396     if (ret < 0)
3397         return ret;
3398
3399     ost->initialized = 1;
3400
3401     ret = check_init_output_file(output_files[ost->file_index], ost->file_index);
3402     if (ret < 0)
3403         return ret;
3404
3405     return ret;
3406 }
3407
3408 static void report_new_stream(int input_index, AVPacket *pkt)
3409 {
3410     InputFile *file = input_files[input_index];
3411     AVStream *st = file->ctx->streams[pkt->stream_index];
3412
3413     if (pkt->stream_index < file->nb_streams_warn)
3414         return;
3415     av_log(file->ctx, AV_LOG_WARNING,
3416            "New %s stream %d:%d at pos:%"PRId64" and DTS:%ss\n",
3417            av_get_media_type_string(st->codecpar->codec_type),
3418            input_index, pkt->stream_index,
3419            pkt->pos, av_ts2timestr(pkt->dts, &st->time_base));
3420     file->nb_streams_warn = pkt->stream_index + 1;
3421 }
3422
3423 static int transcode_init(void)
3424 {
3425     int ret = 0, i, j, k;
3426     AVFormatContext *oc;
3427     OutputStream *ost;
3428     InputStream *ist;
3429     char error[1024] = {0};
3430
3431     for (i = 0; i < nb_filtergraphs; i++) {
3432         FilterGraph *fg = filtergraphs[i];
3433         for (j = 0; j < fg->nb_outputs; j++) {
3434             OutputFilter *ofilter = fg->outputs[j];
3435             if (!ofilter->ost || ofilter->ost->source_index >= 0)
3436                 continue;
3437             if (fg->nb_inputs != 1)
3438                 continue;
3439             for (k = nb_input_streams-1; k >= 0 ; k--)
3440                 if (fg->inputs[0]->ist == input_streams[k])
3441                     break;
3442             ofilter->ost->source_index = k;
3443         }
3444     }
3445
3446     /* init framerate emulation */
3447     for (i = 0; i < nb_input_files; i++) {
3448         InputFile *ifile = input_files[i];
3449         if (ifile->rate_emu)
3450             for (j = 0; j < ifile->nb_streams; j++)
3451                 input_streams[j + ifile->ist_index]->start = av_gettime_relative();
3452     }
3453
3454     /* hwaccel transcoding */
3455     for (i = 0; i < nb_output_streams; i++) {
3456         ost = output_streams[i];
3457
3458         if (!ost->stream_copy) {
3459 #if CONFIG_LIBMFX
3460             if (qsv_transcode_init(ost))
3461                 exit_program(1);
3462 #endif
3463
3464 #if CONFIG_CUVID
3465             if (cuvid_transcode_init(ost))
3466                 exit_program(1);
3467 #endif
3468         }
3469     }
3470
3471     /* init input streams */
3472     for (i = 0; i < nb_input_streams; i++)
3473         if ((ret = init_input_stream(i, error, sizeof(error))) < 0) {
3474             for (i = 0; i < nb_output_streams; i++) {
3475                 ost = output_streams[i];
3476                 avcodec_close(ost->enc_ctx);
3477             }
3478             goto dump_format;
3479         }
3480
3481     /* open each encoder */
3482     for (i = 0; i < nb_output_streams; i++) {
3483         ret = init_output_stream(output_streams[i], error, sizeof(error));
3484         if (ret < 0)
3485             goto dump_format;
3486     }
3487
3488     /* discard unused programs */
3489     for (i = 0; i < nb_input_files; i++) {
3490         InputFile *ifile = input_files[i];
3491         for (j = 0; j < ifile->ctx->nb_programs; j++) {
3492             AVProgram *p = ifile->ctx->programs[j];
3493             int discard  = AVDISCARD_ALL;
3494
3495             for (k = 0; k < p->nb_stream_indexes; k++)
3496                 if (!input_streams[ifile->ist_index + p->stream_index[k]]->discard) {
3497                     discard = AVDISCARD_DEFAULT;
3498                     break;
3499                 }
3500             p->discard = discard;
3501         }
3502     }
3503
3504     /* write headers for files with no streams */
3505     for (i = 0; i < nb_output_files; i++) {
3506         oc = output_files[i]->ctx;
3507         if (oc->oformat->flags & AVFMT_NOSTREAMS && oc->nb_streams == 0) {
3508             ret = check_init_output_file(output_files[i], i);
3509             if (ret < 0)
3510                 goto dump_format;
3511         }
3512     }
3513
3514  dump_format:
3515     /* dump the stream mapping */
3516     av_log(NULL, AV_LOG_INFO, "Stream mapping:\n");
3517     for (i = 0; i < nb_input_streams; i++) {
3518         ist = input_streams[i];
3519
3520         for (j = 0; j < ist->nb_filters; j++) {
3521             if (!filtergraph_is_simple(ist->filters[j]->graph)) {
3522                 av_log(NULL, AV_LOG_INFO, "  Stream #%d:%d (%s) -> %s",
3523                        ist->file_index, ist->st->index, ist->dec ? ist->dec->name : "?",
3524                        ist->filters[j]->name);
3525                 if (nb_filtergraphs > 1)
3526                     av_log(NULL, AV_LOG_INFO, " (graph %d)", ist->filters[j]->graph->index);
3527                 av_log(NULL, AV_LOG_INFO, "\n");
3528             }
3529         }
3530     }
3531
3532     for (i = 0; i < nb_output_streams; i++) {
3533         ost = output_streams[i];
3534
3535         if (ost->attachment_filename) {
3536             /* an attached file */
3537             av_log(NULL, AV_LOG_INFO, "  File %s -> Stream #%d:%d\n",
3538                    ost->attachment_filename, ost->file_index, ost->index);
3539             continue;
3540         }
3541
3542         if (ost->filter && !filtergraph_is_simple(ost->filter->graph)) {
3543             /* output from a complex graph */
3544             av_log(NULL, AV_LOG_INFO, "  %s", ost->filter->name);
3545             if (nb_filtergraphs > 1)
3546                 av_log(NULL, AV_LOG_INFO, " (graph %d)", ost->filter->graph->index);
3547
3548             av_log(NULL, AV_LOG_INFO, " -> Stream #%d:%d (%s)\n", ost->file_index,
3549                    ost->index, ost->enc ? ost->enc->name : "?");
3550             continue;
3551         }
3552
3553         av_log(NULL, AV_LOG_INFO, "  Stream #%d:%d -> #%d:%d",
3554                input_streams[ost->source_index]->file_index,
3555                input_streams[ost->source_index]->st->index,
3556                ost->file_index,
3557                ost->index);
3558         if (ost->sync_ist != input_streams[ost->source_index])
3559             av_log(NULL, AV_LOG_INFO, " [sync #%d:%d]",
3560                    ost->sync_ist->file_index,
3561                    ost->sync_ist->st->index);
3562         if (ost->stream_copy)
3563             av_log(NULL, AV_LOG_INFO, " (copy)");
3564         else {
3565             const AVCodec *in_codec    = input_streams[ost->source_index]->dec;
3566             const AVCodec *out_codec   = ost->enc;
3567             const char *decoder_name   = "?";
3568             const char *in_codec_name  = "?";
3569             const char *encoder_name   = "?";
3570             const char *out_codec_name = "?";
3571             const AVCodecDescriptor *desc;
3572
3573             if (in_codec) {
3574                 decoder_name  = in_codec->name;
3575                 desc = avcodec_descriptor_get(in_codec->id);
3576                 if (desc)
3577                     in_codec_name = desc->name;
3578                 if (!strcmp(decoder_name, in_codec_name))
3579                     decoder_name = "native";
3580             }
3581
3582             if (out_codec) {
3583                 encoder_name   = out_codec->name;
3584                 desc = avcodec_descriptor_get(out_codec->id);
3585                 if (desc)
3586                     out_codec_name = desc->name;
3587                 if (!strcmp(encoder_name, out_codec_name))
3588                     encoder_name = "native";
3589             }
3590
3591             av_log(NULL, AV_LOG_INFO, " (%s (%s) -> %s (%s))",
3592                    in_codec_name, decoder_name,
3593                    out_codec_name, encoder_name);
3594         }
3595         av_log(NULL, AV_LOG_INFO, "\n");
3596     }
3597
3598     if (ret) {
3599         av_log(NULL, AV_LOG_ERROR, "%s\n", error);
3600         return ret;
3601     }
3602
3603     transcode_init_done = 1;
3604
3605     return 0;
3606 }
3607
3608 /* Return 1 if there remain streams where more output is wanted, 0 otherwise. */
3609 static int need_output(void)
3610 {
3611     int i;
3612
3613     for (i = 0; i < nb_output_streams; i++) {
3614         OutputStream *ost    = output_streams[i];
3615         OutputFile *of       = output_files[ost->file_index];
3616         AVFormatContext *os  = output_files[ost->file_index]->ctx;
3617
3618         if (ost->finished ||
3619             (os->pb && avio_tell(os->pb) >= of->limit_filesize))
3620             continue;
3621         if (ost->frame_number >= ost->max_frames) {
3622             int j;
3623             for (j = 0; j < of->ctx->nb_streams; j++)
3624                 close_output_stream(output_streams[of->ost_index + j]);
3625             continue;
3626         }
3627
3628         return 1;
3629     }
3630
3631     return 0;
3632 }
3633
3634 /**
3635  * Select the output stream to process.
3636  *
3637  * @return  selected output stream, or NULL if none available
3638  */
3639 static OutputStream *choose_output(void)
3640 {
3641     int i;
3642     int64_t opts_min = INT64_MAX;
3643     OutputStream *ost_min = NULL;
3644
3645     for (i = 0; i < nb_output_streams; i++) {
3646         OutputStream *ost = output_streams[i];
3647         int64_t opts = ost->st->cur_dts == AV_NOPTS_VALUE ? INT64_MIN :
3648                        av_rescale_q(ost->st->cur_dts, ost->st->time_base,
3649                                     AV_TIME_BASE_Q);
3650         if (ost->st->cur_dts == AV_NOPTS_VALUE)
3651             av_log(NULL, AV_LOG_DEBUG, "cur_dts is invalid (this is harmless if it occurs once at the start per stream)\n");
3652
3653         if (!ost->finished && opts < opts_min) {
3654             opts_min = opts;
3655             ost_min  = ost->unavailable ? NULL : ost;
3656         }
3657     }
3658     return ost_min;
3659 }
3660
3661 static void set_tty_echo(int on)
3662 {
3663 #if HAVE_TERMIOS_H
3664     struct termios tty;
3665     if (tcgetattr(0, &tty) == 0) {
3666         if (on) tty.c_lflag |= ECHO;
3667         else    tty.c_lflag &= ~ECHO;
3668         tcsetattr(0, TCSANOW, &tty);
3669     }
3670 #endif
3671 }
3672
3673 static int check_keyboard_interaction(int64_t cur_time)
3674 {
3675     int i, ret, key;
3676     static int64_t last_time;
3677     if (received_nb_signals)
3678         return AVERROR_EXIT;
3679     /* read_key() returns 0 on EOF */
3680     if(cur_time - last_time >= 100000 && !run_as_daemon){
3681         key =  read_key();
3682         last_time = cur_time;
3683     }else
3684         key = -1;
3685     if (key == 'q')
3686         return AVERROR_EXIT;
3687     if (key == '+') av_log_set_level(av_log_get_level()+10);
3688     if (key == '-') av_log_set_level(av_log_get_level()-10);
3689     if (key == 's') qp_hist     ^= 1;
3690     if (key == 'h'){
3691         if (do_hex_dump){
3692             do_hex_dump = do_pkt_dump = 0;
3693         } else if(do_pkt_dump){
3694             do_hex_dump = 1;
3695         } else
3696             do_pkt_dump = 1;
3697         av_log_set_level(AV_LOG_DEBUG);
3698     }
3699     if (key == 'c' || key == 'C'){
3700         char buf[4096], target[64], command[256], arg[256] = {0};
3701         double time;
3702         int k, n = 0;
3703         fprintf(stderr, "\nEnter command: <target>|all <time>|-1 <command>[ <argument>]\n");
3704         i = 0;
3705         set_tty_echo(1);
3706         while ((k = read_key()) != '\n' && k != '\r' && i < sizeof(buf)-1)
3707             if (k > 0)
3708                 buf[i++] = k;
3709         buf[i] = 0;
3710         set_tty_echo(0);
3711         fprintf(stderr, "\n");
3712         if (k > 0 &&
3713             (n = sscanf(buf, "%63[^ ] %lf %255[^ ] %255[^\n]", target, &time, command, arg)) >= 3) {
3714             av_log(NULL, AV_LOG_DEBUG, "Processing command target:%s time:%f command:%s arg:%s",
3715                    target, time, command, arg);
3716             for (i = 0; i < nb_filtergraphs; i++) {
3717                 FilterGraph *fg = filtergraphs[i];
3718                 if (fg->graph) {
3719                     if (time < 0) {
3720                         ret = avfilter_graph_send_command(fg->graph, target, command, arg, buf, sizeof(buf),
3721                                                           key == 'c' ? AVFILTER_CMD_FLAG_ONE : 0);
3722                         fprintf(stderr, "Command reply for stream %d: ret:%d res:\n%s", i, ret, buf);
3723                     } else if (key == 'c') {
3724                         fprintf(stderr, "Queuing commands only on filters supporting the specific command is unsupported\n");
3725                         ret = AVERROR_PATCHWELCOME;
3726                     } else {
3727                         ret = avfilter_graph_queue_command(fg->graph, target, command, arg, 0, time);
3728                         if (ret < 0)
3729                             fprintf(stderr, "Queuing command failed with error %s\n", av_err2str(ret));
3730                     }
3731                 }
3732             }
3733         } else {
3734             av_log(NULL, AV_LOG_ERROR,
3735                    "Parse error, at least 3 arguments were expected, "
3736                    "only %d given in string '%s'\n", n, buf);
3737         }
3738     }
3739     if (key == 'd' || key == 'D'){
3740         int debug=0;
3741         if(key == 'D') {
3742             debug = input_streams[0]->st->codec->debug<<1;
3743             if(!debug) debug = 1;
3744             while(debug & (FF_DEBUG_DCT_COEFF|FF_DEBUG_VIS_QP|FF_DEBUG_VIS_MB_TYPE)) //unsupported, would just crash
3745                 debug += debug;
3746         }else{
3747             char buf[32];
3748             int k = 0;
3749             i = 0;
3750             set_tty_echo(1);
3751             while ((k = read_key()) != '\n' && k != '\r' && i < sizeof(buf)-1)
3752                 if (k > 0)
3753                     buf[i++] = k;
3754             buf[i] = 0;
3755             set_tty_echo(0);
3756             fprintf(stderr, "\n");
3757             if (k <= 0 || sscanf(buf, "%d", &debug)!=1)
3758                 fprintf(stderr,"error parsing debug value\n");
3759         }
3760         for(i=0;i<nb_input_streams;i++) {
3761             input_streams[i]->st->codec->debug = debug;
3762         }
3763         for(i=0;i<nb_output_streams;i++) {
3764             OutputStream *ost = output_streams[i];
3765             ost->enc_ctx->debug = debug;
3766         }
3767         if(debug) av_log_set_level(AV_LOG_DEBUG);
3768         fprintf(stderr,"debug=%d\n", debug);
3769     }
3770     if (key == '?'){
3771         fprintf(stderr, "key    function\n"
3772                         "?      show this help\n"
3773                         "+      increase verbosity\n"
3774                         "-      decrease verbosity\n"
3775                         "c      Send command to first matching filter supporting it\n"
3776                         "C      Send/Queue command to all matching filters\n"
3777                         "D      cycle through available debug modes\n"
3778                         "h      dump packets/hex press to cycle through the 3 states\n"
3779                         "q      quit\n"
3780                         "s      Show QP histogram\n"
3781         );
3782     }
3783     return 0;
3784 }
3785
3786 #if HAVE_PTHREADS
3787 static void *input_thread(void *arg)
3788 {
3789     InputFile *f = arg;
3790     unsigned flags = f->non_blocking ? AV_THREAD_MESSAGE_NONBLOCK : 0;
3791     int ret = 0;
3792
3793     while (1) {
3794         AVPacket pkt;
3795         ret = av_read_frame(f->ctx, &pkt);
3796
3797         if (ret == AVERROR(EAGAIN)) {
3798             av_usleep(10000);
3799             continue;
3800         }
3801         if (ret < 0) {
3802             av_thread_message_queue_set_err_recv(f->in_thread_queue, ret);
3803             break;
3804         }
3805         ret = av_thread_message_queue_send(f->in_thread_queue, &pkt, flags);
3806         if (flags && ret == AVERROR(EAGAIN)) {
3807             flags = 0;
3808             ret = av_thread_message_queue_send(f->in_thread_queue, &pkt, flags);
3809             av_log(f->ctx, AV_LOG_WARNING,
3810                    "Thread message queue blocking; consider raising the "
3811                    "thread_queue_size option (current value: %d)\n",
3812                    f->thread_queue_size);
3813         }
3814         if (ret < 0) {
3815             if (ret != AVERROR_EOF)
3816                 av_log(f->ctx, AV_LOG_ERROR,
3817                        "Unable to send packet to main thread: %s\n",
3818                        av_err2str(ret));
3819             av_packet_unref(&pkt);
3820             av_thread_message_queue_set_err_recv(f->in_thread_queue, ret);
3821             break;
3822         }
3823     }
3824
3825     return NULL;
3826 }
3827
3828 static void free_input_threads(void)
3829 {
3830     int i;
3831
3832     for (i = 0; i < nb_input_files; i++) {
3833         InputFile *f = input_files[i];
3834         AVPacket pkt;
3835
3836         if (!f || !f->in_thread_queue)
3837             continue;
3838         av_thread_message_queue_set_err_send(f->in_thread_queue, AVERROR_EOF);
3839         while (av_thread_message_queue_recv(f->in_thread_queue, &pkt, 0) >= 0)
3840             av_packet_unref(&pkt);
3841
3842         pthread_join(f->thread, NULL);
3843         f->joined = 1;
3844         av_thread_message_queue_free(&f->in_thread_queue);
3845     }
3846 }
3847
3848 static int init_input_threads(void)
3849 {
3850     int i, ret;
3851
3852     if (nb_input_files == 1)
3853         return 0;
3854
3855     for (i = 0; i < nb_input_files; i++) {
3856         InputFile *f = input_files[i];
3857
3858         if (f->ctx->pb ? !f->ctx->pb->seekable :
3859             strcmp(f->ctx->iformat->name, "lavfi"))
3860             f->non_blocking = 1;
3861         ret = av_thread_message_queue_alloc(&f->in_thread_queue,
3862                                             f->thread_queue_size, sizeof(AVPacket));
3863         if (ret < 0)
3864             return ret;
3865
3866         if ((ret = pthread_create(&f->thread, NULL, input_thread, f))) {
3867             av_log(NULL, AV_LOG_ERROR, "pthread_create failed: %s. Try to increase `ulimit -v` or decrease `ulimit -s`.\n", strerror(ret));
3868             av_thread_message_queue_free(&f->in_thread_queue);
3869             return AVERROR(ret);
3870         }
3871     }
3872     return 0;
3873 }
3874
3875 static int get_input_packet_mt(InputFile *f, AVPacket *pkt)
3876 {
3877     return av_thread_message_queue_recv(f->in_thread_queue, pkt,
3878                                         f->non_blocking ?
3879                                         AV_THREAD_MESSAGE_NONBLOCK : 0);
3880 }
3881 #endif
3882
3883 static int get_input_packet(InputFile *f, AVPacket *pkt)
3884 {
3885     if (f->rate_emu) {
3886         int i;
3887         for (i = 0; i < f->nb_streams; i++) {
3888             InputStream *ist = input_streams[f->ist_index + i];
3889             int64_t pts = av_rescale(ist->dts, 1000000, AV_TIME_BASE);
3890             int64_t now = av_gettime_relative() - ist->start;
3891             if (pts > now)
3892                 return AVERROR(EAGAIN);
3893         }
3894     }
3895
3896 #if HAVE_PTHREADS
3897     if (nb_input_files > 1)
3898         return get_input_packet_mt(f, pkt);
3899 #endif
3900     return av_read_frame(f->ctx, pkt);
3901 }
3902
3903 static int got_eagain(void)
3904 {
3905     int i;
3906     for (i = 0; i < nb_output_streams; i++)
3907         if (output_streams[i]->unavailable)
3908             return 1;
3909     return 0;
3910 }
3911
3912 static void reset_eagain(void)
3913 {
3914     int i;
3915     for (i = 0; i < nb_input_files; i++)
3916         input_files[i]->eagain = 0;
3917     for (i = 0; i < nb_output_streams; i++)
3918         output_streams[i]->unavailable = 0;
3919 }
3920
3921 // set duration to max(tmp, duration) in a proper time base and return duration's time_base
3922 static AVRational duration_max(int64_t tmp, int64_t *duration, AVRational tmp_time_base,
3923                                 AVRational time_base)
3924 {
3925     int ret;
3926
3927     if (!*duration) {
3928         *duration = tmp;
3929         return tmp_time_base;
3930     }
3931
3932     ret = av_compare_ts(*duration, time_base, tmp, tmp_time_base);
3933     if (ret < 0) {
3934         *duration = tmp;
3935         return tmp_time_base;
3936     }
3937
3938     return time_base;
3939 }
3940
3941 static int seek_to_start(InputFile *ifile, AVFormatContext *is)
3942 {
3943     InputStream *ist;
3944     AVCodecContext *avctx;
3945     int i, ret, has_audio = 0;
3946     int64_t duration = 0;
3947
3948     ret = av_seek_frame(is, -1, is->start_time, 0);
3949     if (ret < 0)
3950         return ret;
3951
3952     for (i = 0; i < ifile->nb_streams; i++) {
3953         ist   = input_streams[ifile->ist_index + i];
3954         avctx = ist->dec_ctx;
3955
3956         // flush decoders
3957         if (ist->decoding_needed) {
3958             process_input_packet(ist, NULL, 1);
3959             avcodec_flush_buffers(avctx);
3960         }
3961
3962         /* duration is the length of the last frame in a stream
3963          * when audio stream is present we don't care about
3964          * last video frame length because it's not defined exactly */
3965         if (avctx->codec_type == AVMEDIA_TYPE_AUDIO && ist->nb_samples)
3966             has_audio = 1;
3967     }
3968
3969     for (i = 0; i < ifile->nb_streams; i++) {
3970         ist   = input_streams[ifile->ist_index + i];
3971         avctx = ist->dec_ctx;
3972
3973         if (has_audio) {
3974             if (avctx->codec_type == AVMEDIA_TYPE_AUDIO && ist->nb_samples) {
3975                 AVRational sample_rate = {1, avctx->sample_rate};
3976
3977                 duration = av_rescale_q(ist->nb_samples, sample_rate, ist->st->time_base);
3978             } else
3979                 continue;
3980         } else {
3981             if (ist->framerate.num) {
3982                 duration = av_rescale_q(1, ist->framerate, ist->st->time_base);
3983             } else if (ist->st->avg_frame_rate.num) {
3984                 duration = av_rescale_q(1, ist->st->avg_frame_rate, ist->st->time_base);
3985             } else duration = 1;
3986         }
3987         if (!ifile->duration)
3988             ifile->time_base = ist->st->time_base;
3989         /* the total duration of the stream, max_pts - min_pts is
3990          * the duration of the stream without the last frame */
3991         duration += ist->max_pts - ist->min_pts;
3992         ifile->time_base = duration_max(duration, &ifile->duration, ist->st->time_base,
3993                                         ifile->time_base);
3994     }
3995
3996     if (ifile->loop > 0)
3997         ifile->loop--;
3998
3999     return ret;
4000 }
4001
4002 /*
4003  * Return
4004  * - 0 -- one packet was read and processed
4005  * - AVERROR(EAGAIN) -- no packets were available for selected file,
4006  *   this function should be called again
4007  * - AVERROR_EOF -- this function should not be called again
4008  */
4009 static int process_input(int file_index)
4010 {
4011     InputFile *ifile = input_files[file_index];
4012     AVFormatContext *is;
4013     InputStream *ist;
4014     AVPacket pkt;
4015     int ret, i, j;
4016     int64_t duration;
4017     int64_t pkt_dts;
4018
4019     is  = ifile->ctx;
4020     ret = get_input_packet(ifile, &pkt);
4021
4022     if (ret == AVERROR(EAGAIN)) {
4023         ifile->eagain = 1;
4024         return ret;
4025     }
4026     if (ret < 0 && ifile->loop) {
4027         if ((ret = seek_to_start(ifile, is)) < 0)
4028             return ret;
4029         ret = get_input_packet(ifile, &pkt);
4030         if (ret == AVERROR(EAGAIN)) {
4031             ifile->eagain = 1;
4032             return ret;
4033         }
4034     }
4035     if (ret < 0) {
4036         if (ret != AVERROR_EOF) {
4037             print_error(is->filename, ret);
4038             if (exit_on_error)
4039                 exit_program(1);
4040         }
4041
4042         for (i = 0; i < ifile->nb_streams; i++) {
4043             ist = input_streams[ifile->ist_index + i];
4044             if (ist->decoding_needed) {
4045                 ret = process_input_packet(ist, NULL, 0);
4046                 if (ret>0)
4047                     return 0;
4048             }
4049
4050             /* mark all outputs that don't go through lavfi as finished */
4051             for (j = 0; j < nb_output_streams; j++) {
4052                 OutputStream *ost = output_streams[j];
4053
4054                 if (ost->source_index == ifile->ist_index + i &&
4055                     (ost->stream_copy || ost->enc->type == AVMEDIA_TYPE_SUBTITLE))
4056                     finish_output_stream(ost);
4057             }
4058         }
4059
4060         ifile->eof_reached = 1;
4061         return AVERROR(EAGAIN);
4062     }
4063
4064     reset_eagain();
4065
4066     if (do_pkt_dump) {
4067         av_pkt_dump_log2(NULL, AV_LOG_INFO, &pkt, do_hex_dump,
4068                          is->streams[pkt.stream_index]);
4069     }
4070     /* the following test is needed in case new streams appear
4071        dynamically in stream : we ignore them */
4072     if (pkt.stream_index >= ifile->nb_streams) {
4073         report_new_stream(file_index, &pkt);
4074         goto discard_packet;
4075     }
4076
4077     ist = input_streams[ifile->ist_index + pkt.stream_index];
4078
4079     ist->data_size += pkt.size;
4080     ist->nb_packets++;
4081
4082     if (ist->discard)
4083         goto discard_packet;
4084
4085     if (exit_on_error && (pkt.flags & AV_PKT_FLAG_CORRUPT)) {
4086         av_log(NULL, AV_LOG_FATAL, "%s: corrupt input packet in stream %d\n", is->filename, pkt.stream_index);
4087         exit_program(1);
4088     }
4089
4090     if (debug_ts) {
4091         av_log(NULL, AV_LOG_INFO, "demuxer -> ist_index:%d type:%s "
4092                "next_dts:%s next_dts_time:%s next_pts:%s next_pts_time:%s pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s off:%s off_time:%s\n",
4093                ifile->ist_index + pkt.stream_index, av_get_media_type_string(ist->dec_ctx->codec_type),
4094                av_ts2str(ist->next_dts), av_ts2timestr(ist->next_dts, &AV_TIME_BASE_Q),
4095                av_ts2str(ist->next_pts), av_ts2timestr(ist->next_pts, &AV_TIME_BASE_Q),
4096                av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ist->st->time_base),
4097                av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ist->st->time_base),
4098                av_ts2str(input_files[ist->file_index]->ts_offset),
4099                av_ts2timestr(input_files[ist->file_index]->ts_offset, &AV_TIME_BASE_Q));
4100     }
4101
4102     if(!ist->wrap_correction_done && is->start_time != AV_NOPTS_VALUE && ist->st->pts_wrap_bits < 64){
4103         int64_t stime, stime2;
4104         // Correcting starttime based on the enabled streams
4105         // FIXME this ideally should be done before the first use of starttime but we do not know which are the enabled streams at that point.
4106         //       so we instead do it here as part of discontinuity handling
4107         if (   ist->next_dts == AV_NOPTS_VALUE
4108             && ifile->ts_offset == -is->start_time
4109             && (is->iformat->flags & AVFMT_TS_DISCONT)) {
4110             int64_t new_start_time = INT64_MAX;
4111             for (i=0; i<is->nb_streams; i++) {
4112                 AVStream *st = is->streams[i];
4113                 if(st->discard == AVDISCARD_ALL || st->start_time == AV_NOPTS_VALUE)
4114                     continue;
4115                 new_start_time = FFMIN(new_start_time, av_rescale_q(st->start_time, st->time_base, AV_TIME_BASE_Q));
4116             }
4117             if (new_start_time > is->start_time) {
4118                 av_log(is, AV_LOG_VERBOSE, "Correcting start time by %"PRId64"\n", new_start_time - is->start_time);
4119                 ifile->ts_offset = -new_start_time;
4120             }
4121         }
4122
4123         stime = av_rescale_q(is->start_time, AV_TIME_BASE_Q, ist->st->time_base);
4124         stime2= stime + (1ULL<<ist->st->pts_wrap_bits);
4125         ist->wrap_correction_done = 1;
4126
4127         if(stime2 > stime && pkt.dts != AV_NOPTS_VALUE && pkt.dts > stime + (1LL<<(ist->st->pts_wrap_bits-1))) {
4128             pkt.dts -= 1ULL<<ist->st->pts_wrap_bits;
4129             ist->wrap_correction_done = 0;
4130         }
4131         if(stime2 > stime && pkt.pts != AV_NOPTS_VALUE && pkt.pts > stime + (1LL<<(ist->st->pts_wrap_bits-1))) {
4132             pkt.pts -= 1ULL<<ist->st->pts_wrap_bits;
4133             ist->wrap_correction_done = 0;
4134         }
4135     }
4136
4137     /* add the stream-global side data to the first packet */
4138     if (ist->nb_packets == 1) {
4139         if (ist->st->nb_side_data)
4140             av_packet_split_side_data(&pkt);
4141         for (i = 0; i < ist->st->nb_side_data; i++) {
4142             AVPacketSideData *src_sd = &ist->st->side_data[i];
4143             uint8_t *dst_data;
4144
4145             if (av_packet_get_side_data(&pkt, src_sd->type, NULL))
4146                 continue;
4147             if (ist->autorotate && src_sd->type == AV_PKT_DATA_DISPLAYMATRIX)
4148                 continue;
4149
4150             dst_data = av_packet_new_side_data(&pkt, src_sd->type, src_sd->size);
4151             if (!dst_data)
4152                 exit_program(1);
4153
4154             memcpy(dst_data, src_sd->data, src_sd->size);
4155         }
4156     }
4157
4158     if (pkt.dts != AV_NOPTS_VALUE)
4159         pkt.dts += av_rescale_q(ifile->ts_offset, AV_TIME_BASE_Q, ist->st->time_base);
4160     if (pkt.pts != AV_NOPTS_VALUE)
4161         pkt.pts += av_rescale_q(ifile->ts_offset, AV_TIME_BASE_Q, ist->st->time_base);
4162
4163     if (pkt.pts != AV_NOPTS_VALUE)
4164         pkt.pts *= ist->ts_scale;
4165     if (pkt.dts != AV_NOPTS_VALUE)
4166         pkt.dts *= ist->ts_scale;
4167
4168     pkt_dts = av_rescale_q_rnd(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q, AV_ROUND_NEAR_INF|AV_ROUND_PASS_MINMAX);
4169     if ((ist->dec_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
4170          ist->dec_ctx->codec_type == AVMEDIA_TYPE_AUDIO) &&
4171         pkt_dts != AV_NOPTS_VALUE && ist->next_dts == AV_NOPTS_VALUE && !copy_ts
4172         && (is->iformat->flags & AVFMT_TS_DISCONT) && ifile->last_ts != AV_NOPTS_VALUE) {
4173         int64_t delta   = pkt_dts - ifile->last_ts;
4174         if (delta < -1LL*dts_delta_threshold*AV_TIME_BASE ||
4175             delta >  1LL*dts_delta_threshold*AV_TIME_BASE){
4176             ifile->ts_offset -= delta;
4177             av_log(NULL, AV_LOG_DEBUG,
4178                    "Inter stream timestamp discontinuity %"PRId64", new offset= %"PRId64"\n",
4179                    delta, ifile->ts_offset);
4180             pkt.dts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
4181             if (pkt.pts != AV_NOPTS_VALUE)
4182                 pkt.pts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
4183         }
4184     }
4185
4186     duration = av_rescale_q(ifile->duration, ifile->time_base, ist->st->time_base);
4187     if (pkt.pts != AV_NOPTS_VALUE) {
4188         pkt.pts += duration;
4189         ist->max_pts = FFMAX(pkt.pts, ist->max_pts);
4190         ist->min_pts = FFMIN(pkt.pts, ist->min_pts);
4191     }
4192
4193     if (pkt.dts != AV_NOPTS_VALUE)
4194         pkt.dts += duration;
4195
4196     pkt_dts = av_rescale_q_rnd(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q, AV_ROUND_NEAR_INF|AV_ROUND_PASS_MINMAX);
4197     if ((ist->dec_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
4198          ist->dec_ctx->codec_type == AVMEDIA_TYPE_AUDIO) &&
4199          pkt_dts != AV_NOPTS_VALUE && ist->next_dts != AV_NOPTS_VALUE &&
4200         !copy_ts) {
4201         int64_t delta   = pkt_dts - ist->next_dts;
4202         if (is->iformat->flags & AVFMT_TS_DISCONT) {
4203             if (delta < -1LL*dts_delta_threshold*AV_TIME_BASE ||
4204                 delta >  1LL*dts_delta_threshold*AV_TIME_BASE ||
4205                 pkt_dts + AV_TIME_BASE/10 < FFMAX(ist->pts, ist->dts)) {
4206                 ifile->ts_offset -= delta;
4207                 av_log(NULL, AV_LOG_DEBUG,
4208                        "timestamp discontinuity %"PRId64", new offset= %"PRId64"\n",
4209                        delta, ifile->ts_offset);
4210                 pkt.dts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
4211                 if (pkt.pts != AV_NOPTS_VALUE)
4212                     pkt.pts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
4213             }
4214         } else {
4215             if ( delta < -1LL*dts_error_threshold*AV_TIME_BASE ||
4216                  delta >  1LL*dts_error_threshold*AV_TIME_BASE) {
4217                 av_log(NULL, AV_LOG_WARNING, "DTS %"PRId64", next:%"PRId64" st:%d invalid dropping\n", pkt.dts, ist->next_dts, pkt.stream_index);
4218                 pkt.dts = AV_NOPTS_VALUE;
4219             }
4220             if (pkt.pts != AV_NOPTS_VALUE){
4221                 int64_t pkt_pts = av_rescale_q(pkt.pts, ist->st->time_base, AV_TIME_BASE_Q);
4222                 delta   = pkt_pts - ist->next_dts;
4223                 if ( delta < -1LL*dts_error_threshold*AV_TIME_BASE ||
4224                      delta >  1LL*dts_error_threshold*AV_TIME_BASE) {
4225                     av_log(NULL, AV_LOG_WARNING, "PTS %"PRId64", next:%"PRId64" invalid dropping st:%d\n", pkt.pts, ist->next_dts, pkt.stream_index);
4226                     pkt.pts = AV_NOPTS_VALUE;
4227                 }
4228             }
4229         }
4230     }
4231
4232     if (pkt.dts != AV_NOPTS_VALUE)
4233         ifile->last_ts = av_rescale_q(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q);
4234
4235     if (debug_ts) {
4236         av_log(NULL, AV_LOG_INFO, "demuxer+ffmpeg -> ist_index:%d type:%s pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s off:%s off_time:%s\n",
4237                ifile->ist_index + pkt.stream_index, av_get_media_type_string(ist->dec_ctx->codec_type),
4238                av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ist->st->time_base),
4239                av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ist->st->time_base),
4240                av_ts2str(input_files[ist->file_index]->ts_offset),
4241                av_ts2timestr(input_files[ist->file_index]->ts_offset, &AV_TIME_BASE_Q));
4242     }
4243
4244     sub2video_heartbeat(ist, pkt.pts);
4245
4246     process_input_packet(ist, &pkt, 0);
4247
4248 discard_packet:
4249     av_packet_unref(&pkt);
4250
4251     return 0;
4252 }
4253
4254 /**
4255  * Perform a step of transcoding for the specified filter graph.
4256  *
4257  * @param[in]  graph     filter graph to consider
4258  * @param[out] best_ist  input stream where a frame would allow to continue
4259  * @return  0 for success, <0 for error
4260  */
4261 static int transcode_from_filter(FilterGraph *graph, InputStream **best_ist)
4262 {
4263     int i, ret;
4264     int nb_requests, nb_requests_max = 0;
4265     InputFilter *ifilter;
4266     InputStream *ist;
4267
4268     *best_ist = NULL;
4269     ret = avfilter_graph_request_oldest(graph->graph);
4270     if (ret >= 0)
4271         return reap_filters(0);
4272
4273     if (ret == AVERROR_EOF) {
4274         ret = reap_filters(1);
4275         for (i = 0; i < graph->nb_outputs; i++)
4276             close_output_stream(graph->outputs[i]->ost);
4277         return ret;
4278     }
4279     if (ret != AVERROR(EAGAIN))
4280         return ret;
4281
4282     for (i = 0; i < graph->nb_inputs; i++) {
4283         ifilter = graph->inputs[i];
4284         ist = ifilter->ist;
4285         if (input_files[ist->file_index]->eagain ||
4286             input_files[ist->file_index]->eof_reached)
4287             continue;
4288         nb_requests = av_buffersrc_get_nb_failed_requests(ifilter->filter);
4289         if (nb_requests > nb_requests_max) {
4290             nb_requests_max = nb_requests;
4291             *best_ist = ist;
4292         }
4293     }
4294
4295     if (!*best_ist)
4296         for (i = 0; i < graph->nb_outputs; i++)
4297             graph->outputs[i]->ost->unavailable = 1;
4298
4299     return 0;
4300 }
4301
4302 /**
4303  * Run a single step of transcoding.
4304  *
4305  * @return  0 for success, <0 for error
4306  */
4307 static int transcode_step(void)
4308 {
4309     OutputStream *ost;
4310     InputStream  *ist;
4311     int ret;
4312
4313     ost = choose_output();
4314     if (!ost) {
4315         if (got_eagain()) {
4316             reset_eagain();
4317             av_usleep(10000);
4318             return 0;
4319         }
4320         av_log(NULL, AV_LOG_VERBOSE, "No more inputs to read from, finishing.\n");
4321         return AVERROR_EOF;
4322     }
4323
4324     if (ost->filter) {
4325         if ((ret = transcode_from_filter(ost->filter->graph, &ist)) < 0)
4326             return ret;
4327         if (!ist)
4328             return 0;
4329     } else {
4330         av_assert0(ost->source_index >= 0);
4331         ist = input_streams[ost->source_index];
4332     }
4333
4334     ret = process_input(ist->file_index);
4335     if (ret == AVERROR(EAGAIN)) {
4336         if (input_files[ist->file_index]->eagain)
4337             ost->unavailable = 1;
4338         return 0;
4339     }
4340
4341     if (ret < 0)
4342         return ret == AVERROR_EOF ? 0 : ret;
4343
4344     return reap_filters(0);
4345 }
4346
4347 /*