Merge commit 'b0f36a0043d76436cc7ab8ff92ab99c94595d3c0'
[ffmpeg.git] / ffmpeg.c
1 /*
2  * Copyright (c) 2000-2003 Fabrice Bellard
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * multimedia converter based on the FFmpeg libraries
24  */
25
26 #include "config.h"
27 #include <ctype.h>
28 #include <string.h>
29 #include <math.h>
30 #include <stdlib.h>
31 #include <errno.h>
32 #include <limits.h>
33 #include <stdint.h>
34
35 #if HAVE_IO_H
36 #include <io.h>
37 #endif
38 #if HAVE_UNISTD_H
39 #include <unistd.h>
40 #endif
41
42 #include "libavformat/avformat.h"
43 #include "libavdevice/avdevice.h"
44 #include "libswresample/swresample.h"
45 #include "libavutil/opt.h"
46 #include "libavutil/channel_layout.h"
47 #include "libavutil/parseutils.h"
48 #include "libavutil/samplefmt.h"
49 #include "libavutil/fifo.h"
50 #include "libavutil/internal.h"
51 #include "libavutil/intreadwrite.h"
52 #include "libavutil/dict.h"
53 #include "libavutil/mathematics.h"
54 #include "libavutil/pixdesc.h"
55 #include "libavutil/avstring.h"
56 #include "libavutil/libm.h"
57 #include "libavutil/imgutils.h"
58 #include "libavutil/timestamp.h"
59 #include "libavutil/bprint.h"
60 #include "libavutil/time.h"
61 #include "libavutil/threadmessage.h"
62 #include "libavcodec/mathops.h"
63 #include "libavformat/os_support.h"
64
65 # include "libavfilter/avfilter.h"
66 # include "libavfilter/buffersrc.h"
67 # include "libavfilter/buffersink.h"
68
69 #if HAVE_SYS_RESOURCE_H
70 #include <sys/time.h>
71 #include <sys/types.h>
72 #include <sys/resource.h>
73 #elif HAVE_GETPROCESSTIMES
74 #include <windows.h>
75 #endif
76 #if HAVE_GETPROCESSMEMORYINFO
77 #include <windows.h>
78 #include <psapi.h>
79 #endif
80 #if HAVE_SETCONSOLECTRLHANDLER
81 #include <windows.h>
82 #endif
83
84
85 #if HAVE_SYS_SELECT_H
86 #include <sys/select.h>
87 #endif
88
89 #if HAVE_TERMIOS_H
90 #include <fcntl.h>
91 #include <sys/ioctl.h>
92 #include <sys/time.h>
93 #include <termios.h>
94 #elif HAVE_KBHIT
95 #include <conio.h>
96 #endif
97
98 #if HAVE_PTHREADS
99 #include <pthread.h>
100 #endif
101
102 #include <time.h>
103
104 #include "ffmpeg.h"
105 #include "cmdutils.h"
106
107 #include "libavutil/avassert.h"
108
109 const char program_name[] = "ffmpeg";
110 const int program_birth_year = 2000;
111
112 static FILE *vstats_file;
113
114 const char *const forced_keyframes_const_names[] = {
115     "n",
116     "n_forced",
117     "prev_forced_n",
118     "prev_forced_t",
119     "t",
120     NULL
121 };
122
123 static void do_video_stats(OutputStream *ost, int frame_size);
124 static int64_t getutime(void);
125 static int64_t getmaxrss(void);
126 static int ifilter_has_all_input_formats(FilterGraph *fg);
127
128 static int run_as_daemon  = 0;
129 static int nb_frames_dup = 0;
130 static unsigned dup_warning = 1000;
131 static int nb_frames_drop = 0;
132 static int64_t decode_error_stat[2];
133
134 static int want_sdp = 1;
135
136 static int current_time;
137 AVIOContext *progress_avio = NULL;
138
139 static uint8_t *subtitle_out;
140
141 InputStream **input_streams = NULL;
142 int        nb_input_streams = 0;
143 InputFile   **input_files   = NULL;
144 int        nb_input_files   = 0;
145
146 OutputStream **output_streams = NULL;
147 int         nb_output_streams = 0;
148 OutputFile   **output_files   = NULL;
149 int         nb_output_files   = 0;
150
151 FilterGraph **filtergraphs;
152 int        nb_filtergraphs;
153
154 #if HAVE_TERMIOS_H
155
156 /* init terminal so that we can grab keys */
157 static struct termios oldtty;
158 static int restore_tty;
159 #endif
160
161 #if HAVE_PTHREADS
162 static void free_input_threads(void);
163 #endif
164
165 /* sub2video hack:
166    Convert subtitles to video with alpha to insert them in filter graphs.
167    This is a temporary solution until libavfilter gets real subtitles support.
168  */
169
170 static int sub2video_get_blank_frame(InputStream *ist)
171 {
172     int ret;
173     AVFrame *frame = ist->sub2video.frame;
174
175     av_frame_unref(frame);
176     ist->sub2video.frame->width  = ist->dec_ctx->width  ? ist->dec_ctx->width  : ist->sub2video.w;
177     ist->sub2video.frame->height = ist->dec_ctx->height ? ist->dec_ctx->height : ist->sub2video.h;
178     ist->sub2video.frame->format = AV_PIX_FMT_RGB32;
179     if ((ret = av_frame_get_buffer(frame, 32)) < 0)
180         return ret;
181     memset(frame->data[0], 0, frame->height * frame->linesize[0]);
182     return 0;
183 }
184
185 static void sub2video_copy_rect(uint8_t *dst, int dst_linesize, int w, int h,
186                                 AVSubtitleRect *r)
187 {
188     uint32_t *pal, *dst2;
189     uint8_t *src, *src2;
190     int x, y;
191
192     if (r->type != SUBTITLE_BITMAP) {
193         av_log(NULL, AV_LOG_WARNING, "sub2video: non-bitmap subtitle\n");
194         return;
195     }
196     if (r->x < 0 || r->x + r->w > w || r->y < 0 || r->y + r->h > h) {
197         av_log(NULL, AV_LOG_WARNING, "sub2video: rectangle (%d %d %d %d) overflowing %d %d\n",
198             r->x, r->y, r->w, r->h, w, h
199         );
200         return;
201     }
202
203     dst += r->y * dst_linesize + r->x * 4;
204     src = r->data[0];
205     pal = (uint32_t *)r->data[1];
206     for (y = 0; y < r->h; y++) {
207         dst2 = (uint32_t *)dst;
208         src2 = src;
209         for (x = 0; x < r->w; x++)
210             *(dst2++) = pal[*(src2++)];
211         dst += dst_linesize;
212         src += r->linesize[0];
213     }
214 }
215
216 static void sub2video_push_ref(InputStream *ist, int64_t pts)
217 {
218     AVFrame *frame = ist->sub2video.frame;
219     int i;
220
221     av_assert1(frame->data[0]);
222     ist->sub2video.last_pts = frame->pts = pts;
223     for (i = 0; i < ist->nb_filters; i++)
224         av_buffersrc_add_frame_flags(ist->filters[i]->filter, frame,
225                                      AV_BUFFERSRC_FLAG_KEEP_REF |
226                                      AV_BUFFERSRC_FLAG_PUSH);
227 }
228
229 void sub2video_update(InputStream *ist, AVSubtitle *sub)
230 {
231     AVFrame *frame = ist->sub2video.frame;
232     int8_t *dst;
233     int     dst_linesize;
234     int num_rects, i;
235     int64_t pts, end_pts;
236
237     if (!frame)
238         return;
239     if (sub) {
240         pts       = av_rescale_q(sub->pts + sub->start_display_time * 1000LL,
241                                  AV_TIME_BASE_Q, ist->st->time_base);
242         end_pts   = av_rescale_q(sub->pts + sub->end_display_time   * 1000LL,
243                                  AV_TIME_BASE_Q, ist->st->time_base);
244         num_rects = sub->num_rects;
245     } else {
246         pts       = ist->sub2video.end_pts;
247         end_pts   = INT64_MAX;
248         num_rects = 0;
249     }
250     if (sub2video_get_blank_frame(ist) < 0) {
251         av_log(ist->dec_ctx, AV_LOG_ERROR,
252                "Impossible to get a blank canvas.\n");
253         return;
254     }
255     dst          = frame->data    [0];
256     dst_linesize = frame->linesize[0];
257     for (i = 0; i < num_rects; i++)
258         sub2video_copy_rect(dst, dst_linesize, frame->width, frame->height, sub->rects[i]);
259     sub2video_push_ref(ist, pts);
260     ist->sub2video.end_pts = end_pts;
261 }
262
263 static void sub2video_heartbeat(InputStream *ist, int64_t pts)
264 {
265     InputFile *infile = input_files[ist->file_index];
266     int i, j, nb_reqs;
267     int64_t pts2;
268
269     /* When a frame is read from a file, examine all sub2video streams in
270        the same file and send the sub2video frame again. Otherwise, decoded
271        video frames could be accumulating in the filter graph while a filter
272        (possibly overlay) is desperately waiting for a subtitle frame. */
273     for (i = 0; i < infile->nb_streams; i++) {
274         InputStream *ist2 = input_streams[infile->ist_index + i];
275         if (!ist2->sub2video.frame)
276             continue;
277         /* subtitles seem to be usually muxed ahead of other streams;
278            if not, subtracting a larger time here is necessary */
279         pts2 = av_rescale_q(pts, ist->st->time_base, ist2->st->time_base) - 1;
280         /* do not send the heartbeat frame if the subtitle is already ahead */
281         if (pts2 <= ist2->sub2video.last_pts)
282             continue;
283         if (pts2 >= ist2->sub2video.end_pts || !ist2->sub2video.frame->data[0])
284             sub2video_update(ist2, NULL);
285         for (j = 0, nb_reqs = 0; j < ist2->nb_filters; j++)
286             nb_reqs += av_buffersrc_get_nb_failed_requests(ist2->filters[j]->filter);
287         if (nb_reqs)
288             sub2video_push_ref(ist2, pts2);
289     }
290 }
291
292 static void sub2video_flush(InputStream *ist)
293 {
294     int i;
295
296     if (ist->sub2video.end_pts < INT64_MAX)
297         sub2video_update(ist, NULL);
298     for (i = 0; i < ist->nb_filters; i++)
299         av_buffersrc_add_frame(ist->filters[i]->filter, NULL);
300 }
301
302 /* end of sub2video hack */
303
304 static void term_exit_sigsafe(void)
305 {
306 #if HAVE_TERMIOS_H
307     if(restore_tty)
308         tcsetattr (0, TCSANOW, &oldtty);
309 #endif
310 }
311
312 void term_exit(void)
313 {
314     av_log(NULL, AV_LOG_QUIET, "%s", "");
315     term_exit_sigsafe();
316 }
317
318 static volatile int received_sigterm = 0;
319 static volatile int received_nb_signals = 0;
320 static volatile int transcode_init_done = 0;
321 static volatile int ffmpeg_exited = 0;
322 static int main_return_code = 0;
323
324 static void
325 sigterm_handler(int sig)
326 {
327     received_sigterm = sig;
328     received_nb_signals++;
329     term_exit_sigsafe();
330     if(received_nb_signals > 3) {
331         write(2/*STDERR_FILENO*/, "Received > 3 system signals, hard exiting\n",
332                            strlen("Received > 3 system signals, hard exiting\n"));
333
334         exit(123);
335     }
336 }
337
338 #if HAVE_SETCONSOLECTRLHANDLER
339 static BOOL WINAPI CtrlHandler(DWORD fdwCtrlType)
340 {
341     av_log(NULL, AV_LOG_DEBUG, "\nReceived windows signal %ld\n", fdwCtrlType);
342
343     switch (fdwCtrlType)
344     {
345     case CTRL_C_EVENT:
346     case CTRL_BREAK_EVENT:
347         sigterm_handler(SIGINT);
348         return TRUE;
349
350     case CTRL_CLOSE_EVENT:
351     case CTRL_LOGOFF_EVENT:
352     case CTRL_SHUTDOWN_EVENT:
353         sigterm_handler(SIGTERM);
354         /* Basically, with these 3 events, when we return from this method the
355            process is hard terminated, so stall as long as we need to
356            to try and let the main thread(s) clean up and gracefully terminate
357            (we have at most 5 seconds, but should be done far before that). */
358         while (!ffmpeg_exited) {
359             Sleep(0);
360         }
361         return TRUE;
362
363     default:
364         av_log(NULL, AV_LOG_ERROR, "Received unknown windows signal %ld\n", fdwCtrlType);
365         return FALSE;
366     }
367 }
368 #endif
369
370 void term_init(void)
371 {
372 #if HAVE_TERMIOS_H
373     if (!run_as_daemon && stdin_interaction) {
374         struct termios tty;
375         if (tcgetattr (0, &tty) == 0) {
376             oldtty = tty;
377             restore_tty = 1;
378
379             tty.c_iflag &= ~(IGNBRK|BRKINT|PARMRK|ISTRIP
380                              |INLCR|IGNCR|ICRNL|IXON);
381             tty.c_oflag |= OPOST;
382             tty.c_lflag &= ~(ECHO|ECHONL|ICANON|IEXTEN);
383             tty.c_cflag &= ~(CSIZE|PARENB);
384             tty.c_cflag |= CS8;
385             tty.c_cc[VMIN] = 1;
386             tty.c_cc[VTIME] = 0;
387
388             tcsetattr (0, TCSANOW, &tty);
389         }
390         signal(SIGQUIT, sigterm_handler); /* Quit (POSIX).  */
391     }
392 #endif
393
394     signal(SIGINT , sigterm_handler); /* Interrupt (ANSI).    */
395     signal(SIGTERM, sigterm_handler); /* Termination (ANSI).  */
396 #ifdef SIGXCPU
397     signal(SIGXCPU, sigterm_handler);
398 #endif
399 #if HAVE_SETCONSOLECTRLHANDLER
400     SetConsoleCtrlHandler((PHANDLER_ROUTINE) CtrlHandler, TRUE);
401 #endif
402 }
403
404 /* read a key without blocking */
405 static int read_key(void)
406 {
407     unsigned char ch;
408 #if HAVE_TERMIOS_H
409     int n = 1;
410     struct timeval tv;
411     fd_set rfds;
412
413     FD_ZERO(&rfds);
414     FD_SET(0, &rfds);
415     tv.tv_sec = 0;
416     tv.tv_usec = 0;
417     n = select(1, &rfds, NULL, NULL, &tv);
418     if (n > 0) {
419         n = read(0, &ch, 1);
420         if (n == 1)
421             return ch;
422
423         return n;
424     }
425 #elif HAVE_KBHIT
426 #    if HAVE_PEEKNAMEDPIPE
427     static int is_pipe;
428     static HANDLE input_handle;
429     DWORD dw, nchars;
430     if(!input_handle){
431         input_handle = GetStdHandle(STD_INPUT_HANDLE);
432         is_pipe = !GetConsoleMode(input_handle, &dw);
433     }
434
435     if (is_pipe) {
436         /* When running under a GUI, you will end here. */
437         if (!PeekNamedPipe(input_handle, NULL, 0, NULL, &nchars, NULL)) {
438             // input pipe may have been closed by the program that ran ffmpeg
439             return -1;
440         }
441         //Read it
442         if(nchars != 0) {
443             read(0, &ch, 1);
444             return ch;
445         }else{
446             return -1;
447         }
448     }
449 #    endif
450     if(kbhit())
451         return(getch());
452 #endif
453     return -1;
454 }
455
456 static int decode_interrupt_cb(void *ctx)
457 {
458     return received_nb_signals > transcode_init_done;
459 }
460
461 const AVIOInterruptCB int_cb = { decode_interrupt_cb, NULL };
462
463 static void ffmpeg_cleanup(int ret)
464 {
465     int i, j;
466
467     if (do_benchmark) {
468         int maxrss = getmaxrss() / 1024;
469         av_log(NULL, AV_LOG_INFO, "bench: maxrss=%ikB\n", maxrss);
470     }
471
472     for (i = 0; i < nb_filtergraphs; i++) {
473         FilterGraph *fg = filtergraphs[i];
474         avfilter_graph_free(&fg->graph);
475         for (j = 0; j < fg->nb_inputs; j++) {
476             while (av_fifo_size(fg->inputs[j]->frame_queue)) {
477                 AVFrame *frame;
478                 av_fifo_generic_read(fg->inputs[j]->frame_queue, &frame,
479                                      sizeof(frame), NULL);
480                 av_frame_free(&frame);
481             }
482             av_fifo_free(fg->inputs[j]->frame_queue);
483             if (fg->inputs[j]->ist->sub2video.sub_queue) {
484                 while (av_fifo_size(fg->inputs[j]->ist->sub2video.sub_queue)) {
485                     AVSubtitle sub;
486                     av_fifo_generic_read(fg->inputs[j]->ist->sub2video.sub_queue,
487                                          &sub, sizeof(sub), NULL);
488                     avsubtitle_free(&sub);
489                 }
490                 av_fifo_free(fg->inputs[j]->ist->sub2video.sub_queue);
491             }
492             av_buffer_unref(&fg->inputs[j]->hw_frames_ctx);
493             av_freep(&fg->inputs[j]->name);
494             av_freep(&fg->inputs[j]);
495         }
496         av_freep(&fg->inputs);
497         for (j = 0; j < fg->nb_outputs; j++) {
498             av_freep(&fg->outputs[j]->name);
499             av_freep(&fg->outputs[j]->formats);
500             av_freep(&fg->outputs[j]->channel_layouts);
501             av_freep(&fg->outputs[j]->sample_rates);
502             av_freep(&fg->outputs[j]);
503         }
504         av_freep(&fg->outputs);
505         av_freep(&fg->graph_desc);
506
507         av_freep(&filtergraphs[i]);
508     }
509     av_freep(&filtergraphs);
510
511     av_freep(&subtitle_out);
512
513     /* close files */
514     for (i = 0; i < nb_output_files; i++) {
515         OutputFile *of = output_files[i];
516         AVFormatContext *s;
517         if (!of)
518             continue;
519         s = of->ctx;
520         if (s && s->oformat && !(s->oformat->flags & AVFMT_NOFILE))
521             avio_closep(&s->pb);
522         avformat_free_context(s);
523         av_dict_free(&of->opts);
524
525         av_freep(&output_files[i]);
526     }
527     for (i = 0; i < nb_output_streams; i++) {
528         OutputStream *ost = output_streams[i];
529
530         if (!ost)
531             continue;
532
533         for (j = 0; j < ost->nb_bitstream_filters; j++)
534             av_bsf_free(&ost->bsf_ctx[j]);
535         av_freep(&ost->bsf_ctx);
536         av_freep(&ost->bsf_extradata_updated);
537
538         av_frame_free(&ost->filtered_frame);
539         av_frame_free(&ost->last_frame);
540         av_dict_free(&ost->encoder_opts);
541
542         av_parser_close(ost->parser);
543         avcodec_free_context(&ost->parser_avctx);
544
545         av_freep(&ost->forced_keyframes);
546         av_expr_free(ost->forced_keyframes_pexpr);
547         av_freep(&ost->avfilter);
548         av_freep(&ost->logfile_prefix);
549
550         av_freep(&ost->audio_channels_map);
551         ost->audio_channels_mapped = 0;
552
553         av_dict_free(&ost->sws_dict);
554
555         avcodec_free_context(&ost->enc_ctx);
556         avcodec_parameters_free(&ost->ref_par);
557
558         while (ost->muxing_queue && av_fifo_size(ost->muxing_queue)) {
559             AVPacket pkt;
560             av_fifo_generic_read(ost->muxing_queue, &pkt, sizeof(pkt), NULL);
561             av_packet_unref(&pkt);
562         }
563         av_fifo_freep(&ost->muxing_queue);
564
565         av_freep(&output_streams[i]);
566     }
567 #if HAVE_PTHREADS
568     free_input_threads();
569 #endif
570     for (i = 0; i < nb_input_files; i++) {
571         avformat_close_input(&input_files[i]->ctx);
572         av_freep(&input_files[i]);
573     }
574     for (i = 0; i < nb_input_streams; i++) {
575         InputStream *ist = input_streams[i];
576
577         av_frame_free(&ist->decoded_frame);
578         av_frame_free(&ist->filter_frame);
579         av_dict_free(&ist->decoder_opts);
580         avsubtitle_free(&ist->prev_sub.subtitle);
581         av_frame_free(&ist->sub2video.frame);
582         av_freep(&ist->filters);
583         av_freep(&ist->hwaccel_device);
584         av_freep(&ist->dts_buffer);
585
586         avcodec_free_context(&ist->dec_ctx);
587
588         av_freep(&input_streams[i]);
589     }
590
591     if (vstats_file) {
592         if (fclose(vstats_file))
593             av_log(NULL, AV_LOG_ERROR,
594                    "Error closing vstats file, loss of information possible: %s\n",
595                    av_err2str(AVERROR(errno)));
596     }
597     av_freep(&vstats_filename);
598
599     av_freep(&input_streams);
600     av_freep(&input_files);
601     av_freep(&output_streams);
602     av_freep(&output_files);
603
604     uninit_opts();
605
606     avformat_network_deinit();
607
608     if (received_sigterm) {
609         av_log(NULL, AV_LOG_INFO, "Exiting normally, received signal %d.\n",
610                (int) received_sigterm);
611     } else if (ret && transcode_init_done) {
612         av_log(NULL, AV_LOG_INFO, "Conversion failed!\n");
613     }
614     term_exit();
615     ffmpeg_exited = 1;
616 }
617
618 void remove_avoptions(AVDictionary **a, AVDictionary *b)
619 {
620     AVDictionaryEntry *t = NULL;
621
622     while ((t = av_dict_get(b, "", t, AV_DICT_IGNORE_SUFFIX))) {
623         av_dict_set(a, t->key, NULL, AV_DICT_MATCH_CASE);
624     }
625 }
626
627 void assert_avoptions(AVDictionary *m)
628 {
629     AVDictionaryEntry *t;
630     if ((t = av_dict_get(m, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
631         av_log(NULL, AV_LOG_FATAL, "Option %s not found.\n", t->key);
632         exit_program(1);
633     }
634 }
635
636 static void abort_codec_experimental(AVCodec *c, int encoder)
637 {
638     exit_program(1);
639 }
640
641 static void update_benchmark(const char *fmt, ...)
642 {
643     if (do_benchmark_all) {
644         int64_t t = getutime();
645         va_list va;
646         char buf[1024];
647
648         if (fmt) {
649             va_start(va, fmt);
650             vsnprintf(buf, sizeof(buf), fmt, va);
651             va_end(va);
652             av_log(NULL, AV_LOG_INFO, "bench: %8"PRIu64" %s \n", t - current_time, buf);
653         }
654         current_time = t;
655     }
656 }
657
658 static void close_all_output_streams(OutputStream *ost, OSTFinished this_stream, OSTFinished others)
659 {
660     int i;
661     for (i = 0; i < nb_output_streams; i++) {
662         OutputStream *ost2 = output_streams[i];
663         ost2->finished |= ost == ost2 ? this_stream : others;
664     }
665 }
666
667 static void write_packet(OutputFile *of, AVPacket *pkt, OutputStream *ost)
668 {
669     AVFormatContext *s = of->ctx;
670     AVStream *st = ost->st;
671     int ret;
672
673     if (!of->header_written) {
674         AVPacket tmp_pkt = {0};
675         /* the muxer is not initialized yet, buffer the packet */
676         if (!av_fifo_space(ost->muxing_queue)) {
677             int new_size = FFMIN(2 * av_fifo_size(ost->muxing_queue),
678                                  ost->max_muxing_queue_size);
679             if (new_size <= av_fifo_size(ost->muxing_queue)) {
680                 av_log(NULL, AV_LOG_ERROR,
681                        "Too many packets buffered for output stream %d:%d.\n",
682                        ost->file_index, ost->st->index);
683                 exit_program(1);
684             }
685             ret = av_fifo_realloc2(ost->muxing_queue, new_size);
686             if (ret < 0)
687                 exit_program(1);
688         }
689         ret = av_packet_ref(&tmp_pkt, pkt);
690         if (ret < 0)
691             exit_program(1);
692         av_fifo_generic_write(ost->muxing_queue, &tmp_pkt, sizeof(tmp_pkt), NULL);
693         av_packet_unref(pkt);
694         return;
695     }
696
697     if ((st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO && video_sync_method == VSYNC_DROP) ||
698         (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && audio_sync_method < 0))
699         pkt->pts = pkt->dts = AV_NOPTS_VALUE;
700
701     /*
702      * Audio encoders may split the packets --  #frames in != #packets out.
703      * But there is no reordering, so we can limit the number of output packets
704      * by simply dropping them here.
705      * Counting encoded video frames needs to be done separately because of
706      * reordering, see do_video_out()
707      */
708     if (!(st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO && ost->encoding_needed)) {
709         if (ost->frame_number >= ost->max_frames) {
710             av_packet_unref(pkt);
711             return;
712         }
713         ost->frame_number++;
714     }
715     if (st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) {
716         int i;
717         uint8_t *sd = av_packet_get_side_data(pkt, AV_PKT_DATA_QUALITY_STATS,
718                                               NULL);
719         ost->quality = sd ? AV_RL32(sd) : -1;
720         ost->pict_type = sd ? sd[4] : AV_PICTURE_TYPE_NONE;
721
722         for (i = 0; i<FF_ARRAY_ELEMS(ost->error); i++) {
723             if (sd && i < sd[5])
724                 ost->error[i] = AV_RL64(sd + 8 + 8*i);
725             else
726                 ost->error[i] = -1;
727         }
728
729         if (ost->frame_rate.num && ost->is_cfr) {
730             if (pkt->duration > 0)
731                 av_log(NULL, AV_LOG_WARNING, "Overriding packet duration by frame rate, this should not happen\n");
732             pkt->duration = av_rescale_q(1, av_inv_q(ost->frame_rate),
733                                          ost->mux_timebase);
734         }
735     }
736
737     av_packet_rescale_ts(pkt, ost->mux_timebase, ost->st->time_base);
738
739     if (!(s->oformat->flags & AVFMT_NOTIMESTAMPS)) {
740         if (pkt->dts != AV_NOPTS_VALUE &&
741             pkt->pts != AV_NOPTS_VALUE &&
742             pkt->dts > pkt->pts) {
743             av_log(s, AV_LOG_WARNING, "Invalid DTS: %"PRId64" PTS: %"PRId64" in output stream %d:%d, replacing by guess\n",
744                    pkt->dts, pkt->pts,
745                    ost->file_index, ost->st->index);
746             pkt->pts =
747             pkt->dts = pkt->pts + pkt->dts + ost->last_mux_dts + 1
748                      - FFMIN3(pkt->pts, pkt->dts, ost->last_mux_dts + 1)
749                      - FFMAX3(pkt->pts, pkt->dts, ost->last_mux_dts + 1);
750         }
751         if ((st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO || st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) &&
752             pkt->dts != AV_NOPTS_VALUE &&
753             !(st->codecpar->codec_id == AV_CODEC_ID_VP9 && ost->stream_copy) &&
754             ost->last_mux_dts != AV_NOPTS_VALUE) {
755             int64_t max = ost->last_mux_dts + !(s->oformat->flags & AVFMT_TS_NONSTRICT);
756             if (pkt->dts < max) {
757                 int loglevel = max - pkt->dts > 2 || st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO ? AV_LOG_WARNING : AV_LOG_DEBUG;
758                 av_log(s, loglevel, "Non-monotonous DTS in output stream "
759                        "%d:%d; previous: %"PRId64", current: %"PRId64"; ",
760                        ost->file_index, ost->st->index, ost->last_mux_dts, pkt->dts);
761                 if (exit_on_error) {
762                     av_log(NULL, AV_LOG_FATAL, "aborting.\n");
763                     exit_program(1);
764                 }
765                 av_log(s, loglevel, "changing to %"PRId64". This may result "
766                        "in incorrect timestamps in the output file.\n",
767                        max);
768                 if (pkt->pts >= pkt->dts)
769                     pkt->pts = FFMAX(pkt->pts, max);
770                 pkt->dts = max;
771             }
772         }
773     }
774     ost->last_mux_dts = pkt->dts;
775
776     ost->data_size += pkt->size;
777     ost->packets_written++;
778
779     pkt->stream_index = ost->index;
780
781     if (debug_ts) {
782         av_log(NULL, AV_LOG_INFO, "muxer <- type:%s "
783                 "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s size:%d\n",
784                 av_get_media_type_string(ost->enc_ctx->codec_type),
785                 av_ts2str(pkt->pts), av_ts2timestr(pkt->pts, &ost->st->time_base),
786                 av_ts2str(pkt->dts), av_ts2timestr(pkt->dts, &ost->st->time_base),
787                 pkt->size
788               );
789     }
790
791     ret = av_interleaved_write_frame(s, pkt);
792     if (ret < 0) {
793         print_error("av_interleaved_write_frame()", ret);
794         main_return_code = 1;
795         close_all_output_streams(ost, MUXER_FINISHED | ENCODER_FINISHED, ENCODER_FINISHED);
796     }
797     av_packet_unref(pkt);
798 }
799
800 static void close_output_stream(OutputStream *ost)
801 {
802     OutputFile *of = output_files[ost->file_index];
803
804     ost->finished |= ENCODER_FINISHED;
805     if (of->shortest) {
806         int64_t end = av_rescale_q(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, AV_TIME_BASE_Q);
807         of->recording_time = FFMIN(of->recording_time, end);
808     }
809 }
810
811 static void output_packet(OutputFile *of, AVPacket *pkt, OutputStream *ost)
812 {
813     int ret = 0;
814
815     /* apply the output bitstream filters, if any */
816     if (ost->nb_bitstream_filters) {
817         int idx;
818
819         av_packet_split_side_data(pkt);
820         ret = av_bsf_send_packet(ost->bsf_ctx[0], pkt);
821         if (ret < 0)
822             goto finish;
823
824         idx = 1;
825         while (idx) {
826             /* get a packet from the previous filter up the chain */
827             ret = av_bsf_receive_packet(ost->bsf_ctx[idx - 1], pkt);
828             if (ret == AVERROR(EAGAIN)) {
829                 ret = 0;
830                 idx--;
831                 continue;
832             } else if (ret < 0)
833                 goto finish;
834             /* HACK! - aac_adtstoasc updates extradata after filtering the first frame when
835              * the api states this shouldn't happen after init(). Propagate it here to the
836              * muxer and to the next filters in the chain to workaround this.
837              * TODO/FIXME - Make aac_adtstoasc use new packet side data instead of changing
838              * par_out->extradata and adapt muxers accordingly to get rid of this. */
839             if (!(ost->bsf_extradata_updated[idx - 1] & 1)) {
840                 ret = avcodec_parameters_copy(ost->st->codecpar, ost->bsf_ctx[idx - 1]->par_out);
841                 if (ret < 0)
842                     goto finish;
843                 ost->bsf_extradata_updated[idx - 1] |= 1;
844             }
845
846             /* send it to the next filter down the chain or to the muxer */
847             if (idx < ost->nb_bitstream_filters) {
848                 /* HACK/FIXME! - See above */
849                 if (!(ost->bsf_extradata_updated[idx] & 2)) {
850                     ret = avcodec_parameters_copy(ost->bsf_ctx[idx]->par_out, ost->bsf_ctx[idx - 1]->par_out);
851                     if (ret < 0)
852                         goto finish;
853                     ost->bsf_extradata_updated[idx] |= 2;
854                 }
855                 ret = av_bsf_send_packet(ost->bsf_ctx[idx], pkt);
856                 if (ret < 0)
857                     goto finish;
858                 idx++;
859             } else
860                 write_packet(of, pkt, ost);
861         }
862     } else
863         write_packet(of, pkt, ost);
864
865 finish:
866     if (ret < 0 && ret != AVERROR_EOF) {
867         av_log(NULL, AV_LOG_ERROR, "Error applying bitstream filters to an output "
868                "packet for stream #%d:%d.\n", ost->file_index, ost->index);
869         if(exit_on_error)
870             exit_program(1);
871     }
872 }
873
874 static int check_recording_time(OutputStream *ost)
875 {
876     OutputFile *of = output_files[ost->file_index];
877
878     if (of->recording_time != INT64_MAX &&
879         av_compare_ts(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, of->recording_time,
880                       AV_TIME_BASE_Q) >= 0) {
881         close_output_stream(ost);
882         return 0;
883     }
884     return 1;
885 }
886
887 static void do_audio_out(OutputFile *of, OutputStream *ost,
888                          AVFrame *frame)
889 {
890     AVCodecContext *enc = ost->enc_ctx;
891     AVPacket pkt;
892     int ret;
893
894     av_init_packet(&pkt);
895     pkt.data = NULL;
896     pkt.size = 0;
897
898     if (!check_recording_time(ost))
899         return;
900
901     if (frame->pts == AV_NOPTS_VALUE || audio_sync_method < 0)
902         frame->pts = ost->sync_opts;
903     ost->sync_opts = frame->pts + frame->nb_samples;
904     ost->samples_encoded += frame->nb_samples;
905     ost->frames_encoded++;
906
907     av_assert0(pkt.size || !pkt.data);
908     update_benchmark(NULL);
909     if (debug_ts) {
910         av_log(NULL, AV_LOG_INFO, "encoder <- type:audio "
911                "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
912                av_ts2str(frame->pts), av_ts2timestr(frame->pts, &enc->time_base),
913                enc->time_base.num, enc->time_base.den);
914     }
915
916     ret = avcodec_send_frame(enc, frame);
917     if (ret < 0)
918         goto error;
919
920     while (1) {
921         ret = avcodec_receive_packet(enc, &pkt);
922         if (ret == AVERROR(EAGAIN))
923             break;
924         if (ret < 0)
925             goto error;
926
927         update_benchmark("encode_audio %d.%d", ost->file_index, ost->index);
928
929         av_packet_rescale_ts(&pkt, enc->time_base, ost->mux_timebase);
930
931         if (debug_ts) {
932             av_log(NULL, AV_LOG_INFO, "encoder -> type:audio "
933                    "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
934                    av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &enc->time_base),
935                    av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &enc->time_base));
936         }
937
938         output_packet(of, &pkt, ost);
939     }
940
941     return;
942 error:
943     av_log(NULL, AV_LOG_FATAL, "Audio encoding failed\n");
944     exit_program(1);
945 }
946
947 static void do_subtitle_out(OutputFile *of,
948                             OutputStream *ost,
949                             AVSubtitle *sub)
950 {
951     int subtitle_out_max_size = 1024 * 1024;
952     int subtitle_out_size, nb, i;
953     AVCodecContext *enc;
954     AVPacket pkt;
955     int64_t pts;
956
957     if (sub->pts == AV_NOPTS_VALUE) {
958         av_log(NULL, AV_LOG_ERROR, "Subtitle packets must have a pts\n");
959         if (exit_on_error)
960             exit_program(1);
961         return;
962     }
963
964     enc = ost->enc_ctx;
965
966     if (!subtitle_out) {
967         subtitle_out = av_malloc(subtitle_out_max_size);
968         if (!subtitle_out) {
969             av_log(NULL, AV_LOG_FATAL, "Failed to allocate subtitle_out\n");
970             exit_program(1);
971         }
972     }
973
974     /* Note: DVB subtitle need one packet to draw them and one other
975        packet to clear them */
976     /* XXX: signal it in the codec context ? */
977     if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
978         nb = 2;
979     else
980         nb = 1;
981
982     /* shift timestamp to honor -ss and make check_recording_time() work with -t */
983     pts = sub->pts;
984     if (output_files[ost->file_index]->start_time != AV_NOPTS_VALUE)
985         pts -= output_files[ost->file_index]->start_time;
986     for (i = 0; i < nb; i++) {
987         unsigned save_num_rects = sub->num_rects;
988
989         ost->sync_opts = av_rescale_q(pts, AV_TIME_BASE_Q, enc->time_base);
990         if (!check_recording_time(ost))
991             return;
992
993         sub->pts = pts;
994         // start_display_time is required to be 0
995         sub->pts               += av_rescale_q(sub->start_display_time, (AVRational){ 1, 1000 }, AV_TIME_BASE_Q);
996         sub->end_display_time  -= sub->start_display_time;
997         sub->start_display_time = 0;
998         if (i == 1)
999             sub->num_rects = 0;
1000
1001         ost->frames_encoded++;
1002
1003         subtitle_out_size = avcodec_encode_subtitle(enc, subtitle_out,
1004                                                     subtitle_out_max_size, sub);
1005         if (i == 1)
1006             sub->num_rects = save_num_rects;
1007         if (subtitle_out_size < 0) {
1008             av_log(NULL, AV_LOG_FATAL, "Subtitle encoding failed\n");
1009             exit_program(1);
1010         }
1011
1012         av_init_packet(&pkt);
1013         pkt.data = subtitle_out;
1014         pkt.size = subtitle_out_size;
1015         pkt.pts  = av_rescale_q(sub->pts, AV_TIME_BASE_Q, ost->mux_timebase);
1016         pkt.duration = av_rescale_q(sub->end_display_time, (AVRational){ 1, 1000 }, ost->mux_timebase);
1017         if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE) {
1018             /* XXX: the pts correction is handled here. Maybe handling
1019                it in the codec would be better */
1020             if (i == 0)
1021                 pkt.pts += av_rescale_q(sub->start_display_time, (AVRational){ 1, 1000 }, ost->mux_timebase);
1022             else
1023                 pkt.pts += av_rescale_q(sub->end_display_time, (AVRational){ 1, 1000 }, ost->mux_timebase);
1024         }
1025         pkt.dts = pkt.pts;
1026         output_packet(of, &pkt, ost);
1027     }
1028 }
1029
1030 static void do_video_out(OutputFile *of,
1031                          OutputStream *ost,
1032                          AVFrame *next_picture,
1033                          double sync_ipts)
1034 {
1035     int ret, format_video_sync;
1036     AVPacket pkt;
1037     AVCodecContext *enc = ost->enc_ctx;
1038     AVCodecParameters *mux_par = ost->st->codecpar;
1039     AVRational frame_rate;
1040     int nb_frames, nb0_frames, i;
1041     double delta, delta0;
1042     double duration = 0;
1043     int frame_size = 0;
1044     InputStream *ist = NULL;
1045     AVFilterContext *filter = ost->filter->filter;
1046
1047     if (ost->source_index >= 0)
1048         ist = input_streams[ost->source_index];
1049
1050     frame_rate = av_buffersink_get_frame_rate(filter);
1051     if (frame_rate.num > 0 && frame_rate.den > 0)
1052         duration = 1/(av_q2d(frame_rate) * av_q2d(enc->time_base));
1053
1054     if(ist && ist->st->start_time != AV_NOPTS_VALUE && ist->st->first_dts != AV_NOPTS_VALUE && ost->frame_rate.num)
1055         duration = FFMIN(duration, 1/(av_q2d(ost->frame_rate) * av_q2d(enc->time_base)));
1056
1057     if (!ost->filters_script &&
1058         !ost->filters &&
1059         next_picture &&
1060         ist &&
1061         lrintf(av_frame_get_pkt_duration(next_picture) * av_q2d(ist->st->time_base) / av_q2d(enc->time_base)) > 0) {
1062         duration = lrintf(av_frame_get_pkt_duration(next_picture) * av_q2d(ist->st->time_base) / av_q2d(enc->time_base));
1063     }
1064
1065     if (!next_picture) {
1066         //end, flushing
1067         nb0_frames = nb_frames = mid_pred(ost->last_nb0_frames[0],
1068                                           ost->last_nb0_frames[1],
1069                                           ost->last_nb0_frames[2]);
1070     } else {
1071         delta0 = sync_ipts - ost->sync_opts; // delta0 is the "drift" between the input frame (next_picture) and where it would fall in the output.
1072         delta  = delta0 + duration;
1073
1074         /* by default, we output a single frame */
1075         nb0_frames = 0; // tracks the number of times the PREVIOUS frame should be duplicated, mostly for variable framerate (VFR)
1076         nb_frames = 1;
1077
1078         format_video_sync = video_sync_method;
1079         if (format_video_sync == VSYNC_AUTO) {
1080             if(!strcmp(of->ctx->oformat->name, "avi")) {
1081                 format_video_sync = VSYNC_VFR;
1082             } else
1083                 format_video_sync = (of->ctx->oformat->flags & AVFMT_VARIABLE_FPS) ? ((of->ctx->oformat->flags & AVFMT_NOTIMESTAMPS) ? VSYNC_PASSTHROUGH : VSYNC_VFR) : VSYNC_CFR;
1084             if (   ist
1085                 && format_video_sync == VSYNC_CFR
1086                 && input_files[ist->file_index]->ctx->nb_streams == 1
1087                 && input_files[ist->file_index]->input_ts_offset == 0) {
1088                 format_video_sync = VSYNC_VSCFR;
1089             }
1090             if (format_video_sync == VSYNC_CFR && copy_ts) {
1091                 format_video_sync = VSYNC_VSCFR;
1092             }
1093         }
1094         ost->is_cfr = (format_video_sync == VSYNC_CFR || format_video_sync == VSYNC_VSCFR);
1095
1096         if (delta0 < 0 &&
1097             delta > 0 &&
1098             format_video_sync != VSYNC_PASSTHROUGH &&
1099             format_video_sync != VSYNC_DROP) {
1100             if (delta0 < -0.6) {
1101                 av_log(NULL, AV_LOG_WARNING, "Past duration %f too large\n", -delta0);
1102             } else
1103                 av_log(NULL, AV_LOG_DEBUG, "Clipping frame in rate conversion by %f\n", -delta0);
1104             sync_ipts = ost->sync_opts;
1105             duration += delta0;
1106             delta0 = 0;
1107         }
1108
1109         switch (format_video_sync) {
1110         case VSYNC_VSCFR:
1111             if (ost->frame_number == 0 && delta0 >= 0.5) {
1112                 av_log(NULL, AV_LOG_DEBUG, "Not duplicating %d initial frames\n", (int)lrintf(delta0));
1113                 delta = duration;
1114                 delta0 = 0;
1115                 ost->sync_opts = lrint(sync_ipts);
1116             }
1117         case VSYNC_CFR:
1118             // FIXME set to 0.5 after we fix some dts/pts bugs like in avidec.c
1119             if (frame_drop_threshold && delta < frame_drop_threshold && ost->frame_number) {
1120                 nb_frames = 0;
1121             } else if (delta < -1.1)
1122                 nb_frames = 0;
1123             else if (delta > 1.1) {
1124                 nb_frames = lrintf(delta);
1125                 if (delta0 > 1.1)
1126                     nb0_frames = lrintf(delta0 - 0.6);
1127             }
1128             break;
1129         case VSYNC_VFR:
1130             if (delta <= -0.6)
1131                 nb_frames = 0;
1132             else if (delta > 0.6)
1133                 ost->sync_opts = lrint(sync_ipts);
1134             break;
1135         case VSYNC_DROP:
1136         case VSYNC_PASSTHROUGH:
1137             ost->sync_opts = lrint(sync_ipts);
1138             break;
1139         default:
1140             av_assert0(0);
1141         }
1142     }
1143
1144     nb_frames = FFMIN(nb_frames, ost->max_frames - ost->frame_number);
1145     nb0_frames = FFMIN(nb0_frames, nb_frames);
1146
1147     memmove(ost->last_nb0_frames + 1,
1148             ost->last_nb0_frames,
1149             sizeof(ost->last_nb0_frames[0]) * (FF_ARRAY_ELEMS(ost->last_nb0_frames) - 1));
1150     ost->last_nb0_frames[0] = nb0_frames;
1151
1152     if (nb0_frames == 0 && ost->last_dropped) {
1153         nb_frames_drop++;
1154         av_log(NULL, AV_LOG_VERBOSE,
1155                "*** dropping frame %d from stream %d at ts %"PRId64"\n",
1156                ost->frame_number, ost->st->index, ost->last_frame->pts);
1157     }
1158     if (nb_frames > (nb0_frames && ost->last_dropped) + (nb_frames > nb0_frames)) {
1159         if (nb_frames > dts_error_threshold * 30) {
1160             av_log(NULL, AV_LOG_ERROR, "%d frame duplication too large, skipping\n", nb_frames - 1);
1161             nb_frames_drop++;
1162             return;
1163         }
1164         nb_frames_dup += nb_frames - (nb0_frames && ost->last_dropped) - (nb_frames > nb0_frames);
1165         av_log(NULL, AV_LOG_VERBOSE, "*** %d dup!\n", nb_frames - 1);
1166         if (nb_frames_dup > dup_warning) {
1167             av_log(NULL, AV_LOG_WARNING, "More than %d frames duplicated\n", dup_warning);
1168             dup_warning *= 10;
1169         }
1170     }
1171     ost->last_dropped = nb_frames == nb0_frames && next_picture;
1172
1173   /* duplicates frame if needed */
1174   for (i = 0; i < nb_frames; i++) {
1175     AVFrame *in_picture;
1176     av_init_packet(&pkt);
1177     pkt.data = NULL;
1178     pkt.size = 0;
1179
1180     if (i < nb0_frames && ost->last_frame) {
1181         in_picture = ost->last_frame;
1182     } else
1183         in_picture = next_picture;
1184
1185     if (!in_picture)
1186         return;
1187
1188     in_picture->pts = ost->sync_opts;
1189
1190 #if 1
1191     if (!check_recording_time(ost))
1192 #else
1193     if (ost->frame_number >= ost->max_frames)
1194 #endif
1195         return;
1196
1197 #if FF_API_LAVF_FMT_RAWPICTURE
1198     if (of->ctx->oformat->flags & AVFMT_RAWPICTURE &&
1199         enc->codec->id == AV_CODEC_ID_RAWVIDEO) {
1200         /* raw pictures are written as AVPicture structure to
1201            avoid any copies. We support temporarily the older
1202            method. */
1203         if (in_picture->interlaced_frame)
1204             mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
1205         else
1206             mux_par->field_order = AV_FIELD_PROGRESSIVE;
1207         pkt.data   = (uint8_t *)in_picture;
1208         pkt.size   =  sizeof(AVPicture);
1209         pkt.pts    = av_rescale_q(in_picture->pts, enc->time_base, ost->mux_timebase);
1210         pkt.flags |= AV_PKT_FLAG_KEY;
1211
1212         output_packet(of, &pkt, ost);
1213     } else
1214 #endif
1215     {
1216         int forced_keyframe = 0;
1217         double pts_time;
1218
1219         if (enc->flags & (AV_CODEC_FLAG_INTERLACED_DCT | AV_CODEC_FLAG_INTERLACED_ME) &&
1220             ost->top_field_first >= 0)
1221             in_picture->top_field_first = !!ost->top_field_first;
1222
1223         if (in_picture->interlaced_frame) {
1224             if (enc->codec->id == AV_CODEC_ID_MJPEG)
1225                 mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TT:AV_FIELD_BB;
1226             else
1227                 mux_par->field_order = in_picture->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
1228         } else
1229             mux_par->field_order = AV_FIELD_PROGRESSIVE;
1230
1231         in_picture->quality = enc->global_quality;
1232         in_picture->pict_type = 0;
1233
1234         pts_time = in_picture->pts != AV_NOPTS_VALUE ?
1235             in_picture->pts * av_q2d(enc->time_base) : NAN;
1236         if (ost->forced_kf_index < ost->forced_kf_count &&
1237             in_picture->pts >= ost->forced_kf_pts[ost->forced_kf_index]) {
1238             ost->forced_kf_index++;
1239             forced_keyframe = 1;
1240         } else if (ost->forced_keyframes_pexpr) {
1241             double res;
1242             ost->forced_keyframes_expr_const_values[FKF_T] = pts_time;
1243             res = av_expr_eval(ost->forced_keyframes_pexpr,
1244                                ost->forced_keyframes_expr_const_values, NULL);
1245             ff_dlog(NULL, "force_key_frame: n:%f n_forced:%f prev_forced_n:%f t:%f prev_forced_t:%f -> res:%f\n",
1246                     ost->forced_keyframes_expr_const_values[FKF_N],
1247                     ost->forced_keyframes_expr_const_values[FKF_N_FORCED],
1248                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N],
1249                     ost->forced_keyframes_expr_const_values[FKF_T],
1250                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T],
1251                     res);
1252             if (res) {
1253                 forced_keyframe = 1;
1254                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] =
1255                     ost->forced_keyframes_expr_const_values[FKF_N];
1256                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] =
1257                     ost->forced_keyframes_expr_const_values[FKF_T];
1258                 ost->forced_keyframes_expr_const_values[FKF_N_FORCED] += 1;
1259             }
1260
1261             ost->forced_keyframes_expr_const_values[FKF_N] += 1;
1262         } else if (   ost->forced_keyframes
1263                    && !strncmp(ost->forced_keyframes, "source", 6)
1264                    && in_picture->key_frame==1) {
1265             forced_keyframe = 1;
1266         }
1267
1268         if (forced_keyframe) {
1269             in_picture->pict_type = AV_PICTURE_TYPE_I;
1270             av_log(NULL, AV_LOG_DEBUG, "Forced keyframe at time %f\n", pts_time);
1271         }
1272
1273         update_benchmark(NULL);
1274         if (debug_ts) {
1275             av_log(NULL, AV_LOG_INFO, "encoder <- type:video "
1276                    "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
1277                    av_ts2str(in_picture->pts), av_ts2timestr(in_picture->pts, &enc->time_base),
1278                    enc->time_base.num, enc->time_base.den);
1279         }
1280
1281         ost->frames_encoded++;
1282
1283         ret = avcodec_send_frame(enc, in_picture);
1284         if (ret < 0)
1285             goto error;
1286
1287         while (1) {
1288             ret = avcodec_receive_packet(enc, &pkt);
1289             update_benchmark("encode_video %d.%d", ost->file_index, ost->index);
1290             if (ret == AVERROR(EAGAIN))
1291                 break;
1292             if (ret < 0)
1293                 goto error;
1294
1295             if (debug_ts) {
1296                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1297                        "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1298                        av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &enc->time_base),
1299                        av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &enc->time_base));
1300             }
1301
1302             if (pkt.pts == AV_NOPTS_VALUE && !(enc->codec->capabilities & AV_CODEC_CAP_DELAY))
1303                 pkt.pts = ost->sync_opts;
1304
1305             av_packet_rescale_ts(&pkt, enc->time_base, ost->mux_timebase);
1306
1307             if (debug_ts) {
1308                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1309                     "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1310                     av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ost->mux_timebase),
1311                     av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ost->mux_timebase));
1312             }
1313
1314             frame_size = pkt.size;
1315             output_packet(of, &pkt, ost);
1316
1317             /* if two pass, output log */
1318             if (ost->logfile && enc->stats_out) {
1319                 fprintf(ost->logfile, "%s", enc->stats_out);
1320             }
1321         }
1322     }
1323     ost->sync_opts++;
1324     /*
1325      * For video, number of frames in == number of packets out.
1326      * But there may be reordering, so we can't throw away frames on encoder
1327      * flush, we need to limit them here, before they go into encoder.
1328      */
1329     ost->frame_number++;
1330
1331     if (vstats_filename && frame_size)
1332         do_video_stats(ost, frame_size);
1333   }
1334
1335     if (!ost->last_frame)
1336         ost->last_frame = av_frame_alloc();
1337     av_frame_unref(ost->last_frame);
1338     if (next_picture && ost->last_frame)
1339         av_frame_ref(ost->last_frame, next_picture);
1340     else
1341         av_frame_free(&ost->last_frame);
1342
1343     return;
1344 error:
1345     av_log(NULL, AV_LOG_FATAL, "Video encoding failed\n");
1346     exit_program(1);
1347 }
1348
1349 static double psnr(double d)
1350 {
1351     return -10.0 * log10(d);
1352 }
1353
1354 static void do_video_stats(OutputStream *ost, int frame_size)
1355 {
1356     AVCodecContext *enc;
1357     int frame_number;
1358     double ti1, bitrate, avg_bitrate;
1359
1360     /* this is executed just the first time do_video_stats is called */
1361     if (!vstats_file) {
1362         vstats_file = fopen(vstats_filename, "w");
1363         if (!vstats_file) {
1364             perror("fopen");
1365             exit_program(1);
1366         }
1367     }
1368
1369     enc = ost->enc_ctx;
1370     if (enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1371         frame_number = ost->st->nb_frames;
1372         if (vstats_version <= 1) {
1373             fprintf(vstats_file, "frame= %5d q= %2.1f ", frame_number,
1374                     ost->quality / (float)FF_QP2LAMBDA);
1375         } else  {
1376             fprintf(vstats_file, "out= %2d st= %2d frame= %5d q= %2.1f ", ost->file_index, ost->index, frame_number,
1377                     ost->quality / (float)FF_QP2LAMBDA);
1378         }
1379
1380         if (ost->error[0]>=0 && (enc->flags & AV_CODEC_FLAG_PSNR))
1381             fprintf(vstats_file, "PSNR= %6.2f ", psnr(ost->error[0] / (enc->width * enc->height * 255.0 * 255.0)));
1382
1383         fprintf(vstats_file,"f_size= %6d ", frame_size);
1384         /* compute pts value */
1385         ti1 = av_stream_get_end_pts(ost->st) * av_q2d(ost->st->time_base);
1386         if (ti1 < 0.01)
1387             ti1 = 0.01;
1388
1389         bitrate     = (frame_size * 8) / av_q2d(enc->time_base) / 1000.0;
1390         avg_bitrate = (double)(ost->data_size * 8) / ti1 / 1000.0;
1391         fprintf(vstats_file, "s_size= %8.0fkB time= %0.3f br= %7.1fkbits/s avg_br= %7.1fkbits/s ",
1392                (double)ost->data_size / 1024, ti1, bitrate, avg_bitrate);
1393         fprintf(vstats_file, "type= %c\n", av_get_picture_type_char(ost->pict_type));
1394     }
1395 }
1396
1397 static int init_output_stream(OutputStream *ost, char *error, int error_len);
1398
1399 static void finish_output_stream(OutputStream *ost)
1400 {
1401     OutputFile *of = output_files[ost->file_index];
1402     int i;
1403
1404     ost->finished = ENCODER_FINISHED | MUXER_FINISHED;
1405
1406     if (of->shortest) {
1407         for (i = 0; i < of->ctx->nb_streams; i++)
1408             output_streams[of->ost_index + i]->finished = ENCODER_FINISHED | MUXER_FINISHED;
1409     }
1410 }
1411
1412 /**
1413  * Get and encode new output from any of the filtergraphs, without causing
1414  * activity.
1415  *
1416  * @return  0 for success, <0 for severe errors
1417  */
1418 static int reap_filters(int flush)
1419 {
1420     AVFrame *filtered_frame = NULL;
1421     int i;
1422
1423     /* Reap all buffers present in the buffer sinks */
1424     for (i = 0; i < nb_output_streams; i++) {
1425         OutputStream *ost = output_streams[i];
1426         OutputFile    *of = output_files[ost->file_index];
1427         AVFilterContext *filter;
1428         AVCodecContext *enc = ost->enc_ctx;
1429         int ret = 0;
1430
1431         if (!ost->filter || !ost->filter->graph->graph)
1432             continue;
1433         filter = ost->filter->filter;
1434
1435         if (!ost->initialized) {
1436             char error[1024];
1437             ret = init_output_stream(ost, error, sizeof(error));
1438             if (ret < 0) {
1439                 av_log(NULL, AV_LOG_ERROR, "Error initializing output stream %d:%d -- %s\n",
1440                        ost->file_index, ost->index, error);
1441                 exit_program(1);
1442             }
1443         }
1444
1445         if (!ost->filtered_frame && !(ost->filtered_frame = av_frame_alloc())) {
1446             return AVERROR(ENOMEM);
1447         }
1448         filtered_frame = ost->filtered_frame;
1449
1450         while (1) {
1451             double float_pts = AV_NOPTS_VALUE; // this is identical to filtered_frame.pts but with higher precision
1452             ret = av_buffersink_get_frame_flags(filter, filtered_frame,
1453                                                AV_BUFFERSINK_FLAG_NO_REQUEST);
1454             if (ret < 0) {
1455                 if (ret != AVERROR(EAGAIN) && ret != AVERROR_EOF) {
1456                     av_log(NULL, AV_LOG_WARNING,
1457                            "Error in av_buffersink_get_frame_flags(): %s\n", av_err2str(ret));
1458                 } else if (flush && ret == AVERROR_EOF) {
1459                     if (av_buffersink_get_type(filter) == AVMEDIA_TYPE_VIDEO)
1460                         do_video_out(of, ost, NULL, AV_NOPTS_VALUE);
1461                 }
1462                 break;
1463             }
1464             if (ost->finished) {
1465                 av_frame_unref(filtered_frame);
1466                 continue;
1467             }
1468             if (filtered_frame->pts != AV_NOPTS_VALUE) {
1469                 int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1470                 AVRational filter_tb = av_buffersink_get_time_base(filter);
1471                 AVRational tb = enc->time_base;
1472                 int extra_bits = av_clip(29 - av_log2(tb.den), 0, 16);
1473
1474                 tb.den <<= extra_bits;
1475                 float_pts =
1476                     av_rescale_q(filtered_frame->pts, filter_tb, tb) -
1477                     av_rescale_q(start_time, AV_TIME_BASE_Q, tb);
1478                 float_pts /= 1 << extra_bits;
1479                 // avoid exact midoints to reduce the chance of rounding differences, this can be removed in case the fps code is changed to work with integers
1480                 float_pts += FFSIGN(float_pts) * 1.0 / (1<<17);
1481
1482                 filtered_frame->pts =
1483                     av_rescale_q(filtered_frame->pts, filter_tb, enc->time_base) -
1484                     av_rescale_q(start_time, AV_TIME_BASE_Q, enc->time_base);
1485             }
1486             //if (ost->source_index >= 0)
1487             //    *filtered_frame= *input_streams[ost->source_index]->decoded_frame; //for me_threshold
1488
1489             switch (av_buffersink_get_type(filter)) {
1490             case AVMEDIA_TYPE_VIDEO:
1491                 if (!ost->frame_aspect_ratio.num)
1492                     enc->sample_aspect_ratio = filtered_frame->sample_aspect_ratio;
1493
1494                 if (debug_ts) {
1495                     av_log(NULL, AV_LOG_INFO, "filter -> pts:%s pts_time:%s exact:%f time_base:%d/%d\n",
1496                             av_ts2str(filtered_frame->pts), av_ts2timestr(filtered_frame->pts, &enc->time_base),
1497                             float_pts,
1498                             enc->time_base.num, enc->time_base.den);
1499                 }
1500
1501                 do_video_out(of, ost, filtered_frame, float_pts);
1502                 break;
1503             case AVMEDIA_TYPE_AUDIO:
1504                 if (!(enc->codec->capabilities & AV_CODEC_CAP_PARAM_CHANGE) &&
1505                     enc->channels != av_frame_get_channels(filtered_frame)) {
1506                     av_log(NULL, AV_LOG_ERROR,
1507                            "Audio filter graph output is not normalized and encoder does not support parameter changes\n");
1508                     break;
1509                 }
1510                 do_audio_out(of, ost, filtered_frame);
1511                 break;
1512             default:
1513                 // TODO support subtitle filters
1514                 av_assert0(0);
1515             }
1516
1517             av_frame_unref(filtered_frame);
1518         }
1519     }
1520
1521     return 0;
1522 }
1523
1524 static void print_final_stats(int64_t total_size)
1525 {
1526     uint64_t video_size = 0, audio_size = 0, extra_size = 0, other_size = 0;
1527     uint64_t subtitle_size = 0;
1528     uint64_t data_size = 0;
1529     float percent = -1.0;
1530     int i, j;
1531     int pass1_used = 1;
1532
1533     for (i = 0; i < nb_output_streams; i++) {
1534         OutputStream *ost = output_streams[i];
1535         switch (ost->enc_ctx->codec_type) {
1536             case AVMEDIA_TYPE_VIDEO: video_size += ost->data_size; break;
1537             case AVMEDIA_TYPE_AUDIO: audio_size += ost->data_size; break;
1538             case AVMEDIA_TYPE_SUBTITLE: subtitle_size += ost->data_size; break;
1539             default:                 other_size += ost->data_size; break;
1540         }
1541         extra_size += ost->enc_ctx->extradata_size;
1542         data_size  += ost->data_size;
1543         if (   (ost->enc_ctx->flags & (AV_CODEC_FLAG_PASS1 | CODEC_FLAG_PASS2))
1544             != AV_CODEC_FLAG_PASS1)
1545             pass1_used = 0;
1546     }
1547
1548     if (data_size && total_size>0 && total_size >= data_size)
1549         percent = 100.0 * (total_size - data_size) / data_size;
1550
1551     av_log(NULL, AV_LOG_INFO, "video:%1.0fkB audio:%1.0fkB subtitle:%1.0fkB other streams:%1.0fkB global headers:%1.0fkB muxing overhead: ",
1552            video_size / 1024.0,
1553            audio_size / 1024.0,
1554            subtitle_size / 1024.0,
1555            other_size / 1024.0,
1556            extra_size / 1024.0);
1557     if (percent >= 0.0)
1558         av_log(NULL, AV_LOG_INFO, "%f%%", percent);
1559     else
1560         av_log(NULL, AV_LOG_INFO, "unknown");
1561     av_log(NULL, AV_LOG_INFO, "\n");
1562
1563     /* print verbose per-stream stats */
1564     for (i = 0; i < nb_input_files; i++) {
1565         InputFile *f = input_files[i];
1566         uint64_t total_packets = 0, total_size = 0;
1567
1568         av_log(NULL, AV_LOG_VERBOSE, "Input file #%d (%s):\n",
1569                i, f->ctx->filename);
1570
1571         for (j = 0; j < f->nb_streams; j++) {
1572             InputStream *ist = input_streams[f->ist_index + j];
1573             enum AVMediaType type = ist->dec_ctx->codec_type;
1574
1575             total_size    += ist->data_size;
1576             total_packets += ist->nb_packets;
1577
1578             av_log(NULL, AV_LOG_VERBOSE, "  Input stream #%d:%d (%s): ",
1579                    i, j, media_type_string(type));
1580             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets read (%"PRIu64" bytes); ",
1581                    ist->nb_packets, ist->data_size);
1582
1583             if (ist->decoding_needed) {
1584                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames decoded",
1585                        ist->frames_decoded);
1586                 if (type == AVMEDIA_TYPE_AUDIO)
1587                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ist->samples_decoded);
1588                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1589             }
1590
1591             av_log(NULL, AV_LOG_VERBOSE, "\n");
1592         }
1593
1594         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) demuxed\n",
1595                total_packets, total_size);
1596     }
1597
1598     for (i = 0; i < nb_output_files; i++) {
1599         OutputFile *of = output_files[i];
1600         uint64_t total_packets = 0, total_size = 0;
1601
1602         av_log(NULL, AV_LOG_VERBOSE, "Output file #%d (%s):\n",
1603                i, of->ctx->filename);
1604
1605         for (j = 0; j < of->ctx->nb_streams; j++) {
1606             OutputStream *ost = output_streams[of->ost_index + j];
1607             enum AVMediaType type = ost->enc_ctx->codec_type;
1608
1609             total_size    += ost->data_size;
1610             total_packets += ost->packets_written;
1611
1612             av_log(NULL, AV_LOG_VERBOSE, "  Output stream #%d:%d (%s): ",
1613                    i, j, media_type_string(type));
1614             if (ost->encoding_needed) {
1615                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames encoded",
1616                        ost->frames_encoded);
1617                 if (type == AVMEDIA_TYPE_AUDIO)
1618                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ost->samples_encoded);
1619                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1620             }
1621
1622             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets muxed (%"PRIu64" bytes); ",
1623                    ost->packets_written, ost->data_size);
1624
1625             av_log(NULL, AV_LOG_VERBOSE, "\n");
1626         }
1627
1628         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) muxed\n",
1629                total_packets, total_size);
1630     }
1631     if(video_size + data_size + audio_size + subtitle_size + extra_size == 0){
1632         av_log(NULL, AV_LOG_WARNING, "Output file is empty, nothing was encoded ");
1633         if (pass1_used) {
1634             av_log(NULL, AV_LOG_WARNING, "\n");
1635         } else {
1636             av_log(NULL, AV_LOG_WARNING, "(check -ss / -t / -frames parameters if used)\n");
1637         }
1638     }
1639 }
1640
1641 static void print_report(int is_last_report, int64_t timer_start, int64_t cur_time)
1642 {
1643     char buf[1024];
1644     AVBPrint buf_script;
1645     OutputStream *ost;
1646     AVFormatContext *oc;
1647     int64_t total_size;
1648     AVCodecContext *enc;
1649     int frame_number, vid, i;
1650     double bitrate;
1651     double speed;
1652     int64_t pts = INT64_MIN + 1;
1653     static int64_t last_time = -1;
1654     static int qp_histogram[52];
1655     int hours, mins, secs, us;
1656     int ret;
1657     float t;
1658
1659     if (!print_stats && !is_last_report && !progress_avio)
1660         return;
1661
1662     if (!is_last_report) {
1663         if (last_time == -1) {
1664             last_time = cur_time;
1665             return;
1666         }
1667         if ((cur_time - last_time) < 500000)
1668             return;
1669         last_time = cur_time;
1670     }
1671
1672     t = (cur_time-timer_start) / 1000000.0;
1673
1674
1675     oc = output_files[0]->ctx;
1676
1677     total_size = avio_size(oc->pb);
1678     if (total_size <= 0) // FIXME improve avio_size() so it works with non seekable output too
1679         total_size = avio_tell(oc->pb);
1680
1681     buf[0] = '\0';
1682     vid = 0;
1683     av_bprint_init(&buf_script, 0, 1);
1684     for (i = 0; i < nb_output_streams; i++) {
1685         float q = -1;
1686         ost = output_streams[i];
1687         enc = ost->enc_ctx;
1688         if (!ost->stream_copy)
1689             q = ost->quality / (float) FF_QP2LAMBDA;
1690
1691         if (vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1692             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "q=%2.1f ", q);
1693             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1694                        ost->file_index, ost->index, q);
1695         }
1696         if (!vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1697             float fps;
1698
1699             frame_number = ost->frame_number;
1700             fps = t > 1 ? frame_number / t : 0;
1701             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "frame=%5d fps=%3.*f q=%3.1f ",
1702                      frame_number, fps < 9.95, fps, q);
1703             av_bprintf(&buf_script, "frame=%d\n", frame_number);
1704             av_bprintf(&buf_script, "fps=%.1f\n", fps);
1705             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1706                        ost->file_index, ost->index, q);
1707             if (is_last_report)
1708                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "L");
1709             if (qp_hist) {
1710                 int j;
1711                 int qp = lrintf(q);
1712                 if (qp >= 0 && qp < FF_ARRAY_ELEMS(qp_histogram))
1713                     qp_histogram[qp]++;
1714                 for (j = 0; j < 32; j++)
1715                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%X", av_log2(qp_histogram[j] + 1));
1716             }
1717
1718             if ((enc->flags & AV_CODEC_FLAG_PSNR) && (ost->pict_type != AV_PICTURE_TYPE_NONE || is_last_report)) {
1719                 int j;
1720                 double error, error_sum = 0;
1721                 double scale, scale_sum = 0;
1722                 double p;
1723                 char type[3] = { 'Y','U','V' };
1724                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "PSNR=");
1725                 for (j = 0; j < 3; j++) {
1726                     if (is_last_report) {
1727                         error = enc->error[j];
1728                         scale = enc->width * enc->height * 255.0 * 255.0 * frame_number;
1729                     } else {
1730                         error = ost->error[j];
1731                         scale = enc->width * enc->height * 255.0 * 255.0;
1732                     }
1733                     if (j)
1734                         scale /= 4;
1735                     error_sum += error;
1736                     scale_sum += scale;
1737                     p = psnr(error / scale);
1738                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%c:%2.2f ", type[j], p);
1739                     av_bprintf(&buf_script, "stream_%d_%d_psnr_%c=%2.2f\n",
1740                                ost->file_index, ost->index, type[j] | 32, p);
1741                 }
1742                 p = psnr(error_sum / scale_sum);
1743                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "*:%2.2f ", psnr(error_sum / scale_sum));
1744                 av_bprintf(&buf_script, "stream_%d_%d_psnr_all=%2.2f\n",
1745                            ost->file_index, ost->index, p);
1746             }
1747             vid = 1;
1748         }
1749         /* compute min output value */
1750         if (av_stream_get_end_pts(ost->st) != AV_NOPTS_VALUE)
1751             pts = FFMAX(pts, av_rescale_q(av_stream_get_end_pts(ost->st),
1752                                           ost->st->time_base, AV_TIME_BASE_Q));
1753         if (is_last_report)
1754             nb_frames_drop += ost->last_dropped;
1755     }
1756
1757     secs = FFABS(pts) / AV_TIME_BASE;
1758     us = FFABS(pts) % AV_TIME_BASE;
1759     mins = secs / 60;
1760     secs %= 60;
1761     hours = mins / 60;
1762     mins %= 60;
1763
1764     bitrate = pts && total_size >= 0 ? total_size * 8 / (pts / 1000.0) : -1;
1765     speed = t != 0.0 ? (double)pts / AV_TIME_BASE / t : -1;
1766
1767     if (total_size < 0) snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1768                                  "size=N/A time=");
1769     else                snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1770                                  "size=%8.0fkB time=", total_size / 1024.0);
1771     if (pts < 0)
1772         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "-");
1773     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1774              "%02d:%02d:%02d.%02d ", hours, mins, secs,
1775              (100 * us) / AV_TIME_BASE);
1776
1777     if (bitrate < 0) {
1778         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),"bitrate=N/A");
1779         av_bprintf(&buf_script, "bitrate=N/A\n");
1780     }else{
1781         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),"bitrate=%6.1fkbits/s", bitrate);
1782         av_bprintf(&buf_script, "bitrate=%6.1fkbits/s\n", bitrate);
1783     }
1784
1785     if (total_size < 0) av_bprintf(&buf_script, "total_size=N/A\n");
1786     else                av_bprintf(&buf_script, "total_size=%"PRId64"\n", total_size);
1787     av_bprintf(&buf_script, "out_time_ms=%"PRId64"\n", pts);
1788     av_bprintf(&buf_script, "out_time=%02d:%02d:%02d.%06d\n",
1789                hours, mins, secs, us);
1790
1791     if (nb_frames_dup || nb_frames_drop)
1792         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), " dup=%d drop=%d",
1793                 nb_frames_dup, nb_frames_drop);
1794     av_bprintf(&buf_script, "dup_frames=%d\n", nb_frames_dup);
1795     av_bprintf(&buf_script, "drop_frames=%d\n", nb_frames_drop);
1796
1797     if (speed < 0) {
1798         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf)," speed=N/A");
1799         av_bprintf(&buf_script, "speed=N/A\n");
1800     } else {
1801         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf)," speed=%4.3gx", speed);
1802         av_bprintf(&buf_script, "speed=%4.3gx\n", speed);
1803     }
1804
1805     if (print_stats || is_last_report) {
1806         const char end = is_last_report ? '\n' : '\r';
1807         if (print_stats==1 && AV_LOG_INFO > av_log_get_level()) {
1808             fprintf(stderr, "%s    %c", buf, end);
1809         } else
1810             av_log(NULL, AV_LOG_INFO, "%s    %c", buf, end);
1811
1812     fflush(stderr);
1813     }
1814
1815     if (progress_avio) {
1816         av_bprintf(&buf_script, "progress=%s\n",
1817                    is_last_report ? "end" : "continue");
1818         avio_write(progress_avio, buf_script.str,
1819                    FFMIN(buf_script.len, buf_script.size - 1));
1820         avio_flush(progress_avio);
1821         av_bprint_finalize(&buf_script, NULL);
1822         if (is_last_report) {
1823             if ((ret = avio_closep(&progress_avio)) < 0)
1824                 av_log(NULL, AV_LOG_ERROR,
1825                        "Error closing progress log, loss of information possible: %s\n", av_err2str(ret));
1826         }
1827     }
1828
1829     if (is_last_report)
1830         print_final_stats(total_size);
1831 }
1832
1833 static void flush_encoders(void)
1834 {
1835     int i, ret;
1836
1837     for (i = 0; i < nb_output_streams; i++) {
1838         OutputStream   *ost = output_streams[i];
1839         AVCodecContext *enc = ost->enc_ctx;
1840         OutputFile      *of = output_files[ost->file_index];
1841
1842         if (!ost->encoding_needed)
1843             continue;
1844
1845         // Try to enable encoding with no input frames.
1846         // Maybe we should just let encoding fail instead.
1847         if (!ost->initialized) {
1848             FilterGraph *fg = ost->filter->graph;
1849             char error[1024];
1850
1851             av_log(NULL, AV_LOG_WARNING,
1852                    "Finishing stream %d:%d without any data written to it.\n",
1853                    ost->file_index, ost->st->index);
1854
1855             if (ost->filter && !fg->graph) {
1856                 int x;
1857                 for (x = 0; x < fg->nb_inputs; x++) {
1858                     InputFilter *ifilter = fg->inputs[x];
1859                     if (ifilter->format < 0) {
1860                         AVCodecParameters *par = ifilter->ist->st->codecpar;
1861                         // We never got any input. Set a fake format, which will
1862                         // come from libavformat.
1863                         ifilter->format                 = par->format;
1864                         ifilter->sample_rate            = par->sample_rate;
1865                         ifilter->channels               = par->channels;
1866                         ifilter->channel_layout         = par->channel_layout;
1867                         ifilter->width                  = par->width;
1868                         ifilter->height                 = par->height;
1869                         ifilter->sample_aspect_ratio    = par->sample_aspect_ratio;
1870                     }
1871                 }
1872
1873                 if (!ifilter_has_all_input_formats(fg))
1874                     continue;
1875
1876                 ret = configure_filtergraph(fg);
1877                 if (ret < 0) {
1878                     av_log(NULL, AV_LOG_ERROR, "Error configuring filter graph\n");
1879                     exit_program(1);
1880                 }
1881
1882                 finish_output_stream(ost);
1883             }
1884
1885             ret = init_output_stream(ost, error, sizeof(error));
1886             if (ret < 0) {
1887                 av_log(NULL, AV_LOG_ERROR, "Error initializing output stream %d:%d -- %s\n",
1888                        ost->file_index, ost->index, error);
1889                 exit_program(1);
1890             }
1891         }
1892
1893         if (enc->codec_type == AVMEDIA_TYPE_AUDIO && enc->frame_size <= 1)
1894             continue;
1895 #if FF_API_LAVF_FMT_RAWPICTURE
1896         if (enc->codec_type == AVMEDIA_TYPE_VIDEO && (of->ctx->oformat->flags & AVFMT_RAWPICTURE) && enc->codec->id == AV_CODEC_ID_RAWVIDEO)
1897             continue;
1898 #endif
1899
1900         if (enc->codec_type != AVMEDIA_TYPE_VIDEO && enc->codec_type != AVMEDIA_TYPE_AUDIO)
1901             continue;
1902
1903         avcodec_send_frame(enc, NULL);
1904
1905         for (;;) {
1906             const char *desc = NULL;
1907             AVPacket pkt;
1908             int pkt_size;
1909
1910             switch (enc->codec_type) {
1911             case AVMEDIA_TYPE_AUDIO:
1912                 desc   = "audio";
1913                 break;
1914             case AVMEDIA_TYPE_VIDEO:
1915                 desc   = "video";
1916                 break;
1917             default:
1918                 av_assert0(0);
1919             }
1920
1921                 av_init_packet(&pkt);
1922                 pkt.data = NULL;
1923                 pkt.size = 0;
1924
1925                 update_benchmark(NULL);
1926                 ret = avcodec_receive_packet(enc, &pkt);
1927                 update_benchmark("flush_%s %d.%d", desc, ost->file_index, ost->index);
1928                 if (ret < 0 && ret != AVERROR_EOF) {
1929                     av_log(NULL, AV_LOG_FATAL, "%s encoding failed: %s\n",
1930                            desc,
1931                            av_err2str(ret));
1932                     exit_program(1);
1933                 }
1934                 if (ost->logfile && enc->stats_out) {
1935                     fprintf(ost->logfile, "%s", enc->stats_out);
1936                 }
1937                 if (ret == AVERROR_EOF) {
1938                     break;
1939                 }
1940                 if (ost->finished & MUXER_FINISHED) {
1941                     av_packet_unref(&pkt);
1942                     continue;
1943                 }
1944                 av_packet_rescale_ts(&pkt, enc->time_base, ost->mux_timebase);
1945                 pkt_size = pkt.size;
1946                 output_packet(of, &pkt, ost);
1947                 if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO && vstats_filename) {
1948                     do_video_stats(ost, pkt_size);
1949                 }
1950         }
1951     }
1952 }
1953
1954 /*
1955  * Check whether a packet from ist should be written into ost at this time
1956  */
1957 static int check_output_constraints(InputStream *ist, OutputStream *ost)
1958 {
1959     OutputFile *of = output_files[ost->file_index];
1960     int ist_index  = input_files[ist->file_index]->ist_index + ist->st->index;
1961
1962     if (ost->source_index != ist_index)
1963         return 0;
1964
1965     if (ost->finished)
1966         return 0;
1967
1968     if (of->start_time != AV_NOPTS_VALUE && ist->pts < of->start_time)
1969         return 0;
1970
1971     return 1;
1972 }
1973
1974 static void do_streamcopy(InputStream *ist, OutputStream *ost, const AVPacket *pkt)
1975 {
1976     OutputFile *of = output_files[ost->file_index];
1977     InputFile   *f = input_files [ist->file_index];
1978     int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1979     int64_t ost_tb_start_time = av_rescale_q(start_time, AV_TIME_BASE_Q, ost->mux_timebase);
1980     AVPicture pict;
1981     AVPacket opkt;
1982
1983     av_init_packet(&opkt);
1984
1985     if ((!ost->frame_number && !(pkt->flags & AV_PKT_FLAG_KEY)) &&
1986         !ost->copy_initial_nonkeyframes)
1987         return;
1988
1989     if (!ost->frame_number && !ost->copy_prior_start) {
1990         int64_t comp_start = start_time;
1991         if (copy_ts && f->start_time != AV_NOPTS_VALUE)
1992             comp_start = FFMAX(start_time, f->start_time + f->ts_offset);
1993         if (pkt->pts == AV_NOPTS_VALUE ?
1994             ist->pts < comp_start :
1995             pkt->pts < av_rescale_q(comp_start, AV_TIME_BASE_Q, ist->st->time_base))
1996             return;
1997     }
1998
1999     if (of->recording_time != INT64_MAX &&
2000         ist->pts >= of->recording_time + start_time) {
2001         close_output_stream(ost);
2002         return;
2003     }
2004
2005     if (f->recording_time != INT64_MAX) {
2006         start_time = f->ctx->start_time;
2007         if (f->start_time != AV_NOPTS_VALUE && copy_ts)
2008             start_time += f->start_time;
2009         if (ist->pts >= f->recording_time + start_time) {
2010             close_output_stream(ost);
2011             return;
2012         }
2013     }
2014
2015     /* force the input stream PTS */
2016     if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO)
2017         ost->sync_opts++;
2018
2019     if (pkt->pts != AV_NOPTS_VALUE)
2020         opkt.pts = av_rescale_q(pkt->pts, ist->st->time_base, ost->mux_timebase) - ost_tb_start_time;
2021     else
2022         opkt.pts = AV_NOPTS_VALUE;
2023
2024     if (pkt->dts == AV_NOPTS_VALUE)
2025         opkt.dts = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ost->mux_timebase);
2026     else
2027         opkt.dts = av_rescale_q(pkt->dts, ist->st->time_base, ost->mux_timebase);
2028     opkt.dts -= ost_tb_start_time;
2029
2030     if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && pkt->dts != AV_NOPTS_VALUE) {
2031         int duration = av_get_audio_frame_duration(ist->dec_ctx, pkt->size);
2032         if(!duration)
2033             duration = ist->dec_ctx->frame_size;
2034         opkt.dts = opkt.pts = av_rescale_delta(ist->st->time_base, pkt->dts,
2035                                                (AVRational){1, ist->dec_ctx->sample_rate}, duration, &ist->filter_in_rescale_delta_last,
2036                                                ost->mux_timebase) - ost_tb_start_time;
2037     }
2038
2039     opkt.duration = av_rescale_q(pkt->duration, ist->st->time_base, ost->mux_timebase);
2040
2041     opkt.flags    = pkt->flags;
2042     // FIXME remove the following 2 lines they shall be replaced by the bitstream filters
2043     if (  ost->st->codecpar->codec_id != AV_CODEC_ID_H264
2044        && ost->st->codecpar->codec_id != AV_CODEC_ID_MPEG1VIDEO
2045        && ost->st->codecpar->codec_id != AV_CODEC_ID_MPEG2VIDEO
2046        && ost->st->codecpar->codec_id != AV_CODEC_ID_VC1
2047        ) {
2048         int ret = av_parser_change(ost->parser, ost->parser_avctx,
2049                              &opkt.data, &opkt.size,
2050                              pkt->data, pkt->size,
2051                              pkt->flags & AV_PKT_FLAG_KEY);
2052         if (ret < 0) {
2053             av_log(NULL, AV_LOG_FATAL, "av_parser_change failed: %s\n",
2054                    av_err2str(ret));
2055             exit_program(1);
2056         }
2057         if (ret) {
2058             opkt.buf = av_buffer_create(opkt.data, opkt.size, av_buffer_default_free, NULL, 0);
2059             if (!opkt.buf)
2060                 exit_program(1);
2061         }
2062     } else {
2063         opkt.data = pkt->data;
2064         opkt.size = pkt->size;
2065     }
2066     av_copy_packet_side_data(&opkt, pkt);
2067
2068 #if FF_API_LAVF_FMT_RAWPICTURE
2069     if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO &&
2070         ost->st->codecpar->codec_id == AV_CODEC_ID_RAWVIDEO &&
2071         (of->ctx->oformat->flags & AVFMT_RAWPICTURE)) {
2072         /* store AVPicture in AVPacket, as expected by the output format */
2073         int ret = avpicture_fill(&pict, opkt.data, ost->st->codecpar->format, ost->st->codecpar->width, ost->st->codecpar->height);
2074         if (ret < 0) {
2075             av_log(NULL, AV_LOG_FATAL, "avpicture_fill failed: %s\n",
2076                    av_err2str(ret));
2077             exit_program(1);
2078         }
2079         opkt.data = (uint8_t *)&pict;
2080         opkt.size = sizeof(AVPicture);
2081         opkt.flags |= AV_PKT_FLAG_KEY;
2082     }
2083 #endif
2084
2085     output_packet(of, &opkt, ost);
2086 }
2087
2088 int guess_input_channel_layout(InputStream *ist)
2089 {
2090     AVCodecContext *dec = ist->dec_ctx;
2091
2092     if (!dec->channel_layout) {
2093         char layout_name[256];
2094
2095         if (dec->channels > ist->guess_layout_max)
2096             return 0;
2097         dec->channel_layout = av_get_default_channel_layout(dec->channels);
2098         if (!dec->channel_layout)
2099             return 0;
2100         av_get_channel_layout_string(layout_name, sizeof(layout_name),
2101                                      dec->channels, dec->channel_layout);
2102         av_log(NULL, AV_LOG_WARNING, "Guessed Channel Layout for Input Stream "
2103                "#%d.%d : %s\n", ist->file_index, ist->st->index, layout_name);
2104     }
2105     return 1;
2106 }
2107
2108 static void check_decode_result(InputStream *ist, int *got_output, int ret)
2109 {
2110     if (*got_output || ret<0)
2111         decode_error_stat[ret<0] ++;
2112
2113     if (ret < 0 && exit_on_error)
2114         exit_program(1);
2115
2116     if (exit_on_error && *got_output && ist) {
2117         if (av_frame_get_decode_error_flags(ist->decoded_frame) || (ist->decoded_frame->flags & AV_FRAME_FLAG_CORRUPT)) {
2118             av_log(NULL, AV_LOG_FATAL, "%s: corrupt decoded frame in stream %d\n", input_files[ist->file_index]->ctx->filename, ist->st->index);
2119             exit_program(1);
2120         }
2121     }
2122 }
2123
2124 // Filters can be configured only if the formats of all inputs are known.
2125 static int ifilter_has_all_input_formats(FilterGraph *fg)
2126 {
2127     int i;
2128     for (i = 0; i < fg->nb_inputs; i++) {
2129         if (fg->inputs[i]->format < 0 && (fg->inputs[i]->type == AVMEDIA_TYPE_AUDIO ||
2130                                           fg->inputs[i]->type == AVMEDIA_TYPE_VIDEO))
2131             return 0;
2132     }
2133     return 1;
2134 }
2135
2136 static int ifilter_send_frame(InputFilter *ifilter, AVFrame *frame)
2137 {
2138     FilterGraph *fg = ifilter->graph;
2139     int need_reinit, ret, i;
2140
2141     /* determine if the parameters for this input changed */
2142     need_reinit = ifilter->format != frame->format;
2143     if (!!ifilter->hw_frames_ctx != !!frame->hw_frames_ctx ||
2144         (ifilter->hw_frames_ctx && ifilter->hw_frames_ctx->data != frame->hw_frames_ctx->data))
2145         need_reinit = 1;
2146
2147     switch (ifilter->ist->st->codecpar->codec_type) {
2148     case AVMEDIA_TYPE_AUDIO:
2149         need_reinit |= ifilter->sample_rate    != frame->sample_rate ||
2150                        ifilter->channels       != frame->channels ||
2151                        ifilter->channel_layout != frame->channel_layout;
2152         break;
2153     case AVMEDIA_TYPE_VIDEO:
2154         need_reinit |= ifilter->width  != frame->width ||
2155                        ifilter->height != frame->height;
2156         break;
2157     }
2158
2159     if (need_reinit) {
2160         ret = ifilter_parameters_from_frame(ifilter, frame);
2161         if (ret < 0)
2162             return ret;
2163     }
2164
2165     /* (re)init the graph if possible, otherwise buffer the frame and return */
2166     if (need_reinit || !fg->graph) {
2167         for (i = 0; i < fg->nb_inputs; i++) {
2168             if (!ifilter_has_all_input_formats(fg)) {
2169                 AVFrame *tmp = av_frame_clone(frame);
2170                 if (!tmp)
2171                     return AVERROR(ENOMEM);
2172                 av_frame_unref(frame);
2173
2174                 if (!av_fifo_space(ifilter->frame_queue)) {
2175                     ret = av_fifo_realloc2(ifilter->frame_queue, 2 * av_fifo_size(ifilter->frame_queue));
2176                     if (ret < 0)
2177                         return ret;
2178                 }
2179                 av_fifo_generic_write(ifilter->frame_queue, &tmp, sizeof(tmp), NULL);
2180                 return 0;
2181             }
2182         }
2183
2184         ret = reap_filters(1);
2185         if (ret < 0 && ret != AVERROR_EOF) {
2186             char errbuf[128];
2187             av_strerror(ret, errbuf, sizeof(errbuf));
2188
2189             av_log(NULL, AV_LOG_ERROR, "Error while filtering: %s\n", errbuf);
2190             return ret;
2191         }
2192
2193         ret = configure_filtergraph(fg);
2194         if (ret < 0) {
2195             av_log(NULL, AV_LOG_ERROR, "Error reinitializing filters!\n");
2196             return ret;
2197         }
2198     }
2199
2200     ret = av_buffersrc_add_frame_flags(ifilter->filter, frame, AV_BUFFERSRC_FLAG_PUSH);
2201     if (ret < 0) {
2202         av_log(NULL, AV_LOG_ERROR, "Error while filtering\n");
2203         return ret;
2204     }
2205
2206     return 0;
2207 }
2208
2209 static int ifilter_send_eof(InputFilter *ifilter)
2210 {
2211     int i, j, ret;
2212
2213     ifilter->eof = 1;
2214
2215     if (ifilter->filter) {
2216         ret = av_buffersrc_add_frame_flags(ifilter->filter, NULL, AV_BUFFERSRC_FLAG_PUSH);
2217         if (ret < 0)
2218             return ret;
2219     } else {
2220         // the filtergraph was never configured
2221         FilterGraph *fg = ifilter->graph;
2222         for (i = 0; i < fg->nb_inputs; i++)
2223             if (!fg->inputs[i]->eof)
2224                 break;
2225         if (i == fg->nb_inputs) {
2226             // All the input streams have finished without the filtergraph
2227             // ever being configured.
2228             // Mark the output streams as finished.
2229             for (j = 0; j < fg->nb_outputs; j++)
2230                 finish_output_stream(fg->outputs[j]->ost);
2231         }
2232     }
2233
2234     return 0;
2235 }
2236
2237 // This does not quite work like avcodec_decode_audio4/avcodec_decode_video2.
2238 // There is the following difference: if you got a frame, you must call
2239 // it again with pkt=NULL. pkt==NULL is treated differently from pkt.size==0
2240 // (pkt==NULL means get more output, pkt.size==0 is a flush/drain packet)
2241 static int decode(AVCodecContext *avctx, AVFrame *frame, int *got_frame, AVPacket *pkt)
2242 {
2243     int ret;
2244
2245     *got_frame = 0;
2246
2247     if (pkt) {
2248         ret = avcodec_send_packet(avctx, pkt);
2249         // In particular, we don't expect AVERROR(EAGAIN), because we read all
2250         // decoded frames with avcodec_receive_frame() until done.
2251         if (ret < 0 && ret != AVERROR_EOF)
2252             return ret;
2253     }
2254
2255     ret = avcodec_receive_frame(avctx, frame);
2256     if (ret < 0 && ret != AVERROR(EAGAIN))
2257         return ret;
2258     if (ret >= 0)
2259         *got_frame = 1;
2260
2261     return 0;
2262 }
2263
2264 static int send_frame_to_filters(InputStream *ist, AVFrame *decoded_frame)
2265 {
2266     int i, ret;
2267     AVFrame *f;
2268
2269     av_assert1(ist->nb_filters > 0); /* ensure ret is initialized */
2270     for (i = 0; i < ist->nb_filters; i++) {
2271         if (i < ist->nb_filters - 1) {
2272             f = ist->filter_frame;
2273             ret = av_frame_ref(f, decoded_frame);
2274             if (ret < 0)
2275                 break;
2276         } else
2277             f = decoded_frame;
2278         ret = ifilter_send_frame(ist->filters[i], f);
2279         if (ret == AVERROR_EOF)
2280             ret = 0; /* ignore */
2281         if (ret < 0) {
2282             av_log(NULL, AV_LOG_ERROR,
2283                    "Failed to inject frame into filter network: %s\n", av_err2str(ret));
2284             break;
2285         }
2286     }
2287     return ret;
2288 }
2289
2290 static int decode_audio(InputStream *ist, AVPacket *pkt, int *got_output)
2291 {
2292     AVFrame *decoded_frame;
2293     AVCodecContext *avctx = ist->dec_ctx;
2294     int ret, err = 0;
2295     AVRational decoded_frame_tb;
2296
2297     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
2298         return AVERROR(ENOMEM);
2299     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
2300         return AVERROR(ENOMEM);
2301     decoded_frame = ist->decoded_frame;
2302
2303     update_benchmark(NULL);
2304     ret = decode(avctx, decoded_frame, got_output, pkt);
2305     update_benchmark("decode_audio %d.%d", ist->file_index, ist->st->index);
2306
2307     if (ret >= 0 && avctx->sample_rate <= 0) {
2308         av_log(avctx, AV_LOG_ERROR, "Sample rate %d invalid\n", avctx->sample_rate);
2309         ret = AVERROR_INVALIDDATA;
2310     }
2311
2312     if (ret != AVERROR_EOF)
2313         check_decode_result(ist, got_output, ret);
2314
2315     if (!*got_output || ret < 0)
2316         return ret;
2317
2318     ist->samples_decoded += decoded_frame->nb_samples;
2319     ist->frames_decoded++;
2320
2321 #if 1
2322     /* increment next_dts to use for the case where the input stream does not
2323        have timestamps or there are multiple frames in the packet */
2324     ist->next_pts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
2325                      avctx->sample_rate;
2326     ist->next_dts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
2327                      avctx->sample_rate;
2328 #endif
2329
2330     if (decoded_frame->pts != AV_NOPTS_VALUE) {
2331         decoded_frame_tb   = ist->st->time_base;
2332     } else if (pkt && pkt->pts != AV_NOPTS_VALUE) {
2333         decoded_frame->pts = pkt->pts;
2334         decoded_frame_tb   = ist->st->time_base;
2335     }else {
2336         decoded_frame->pts = ist->dts;
2337         decoded_frame_tb   = AV_TIME_BASE_Q;
2338     }
2339     if (decoded_frame->pts != AV_NOPTS_VALUE)
2340         decoded_frame->pts = av_rescale_delta(decoded_frame_tb, decoded_frame->pts,
2341                                               (AVRational){1, avctx->sample_rate}, decoded_frame->nb_samples, &ist->filter_in_rescale_delta_last,
2342                                               (AVRational){1, avctx->sample_rate});
2343     ist->nb_samples = decoded_frame->nb_samples;
2344     err = send_frame_to_filters(ist, decoded_frame);
2345
2346     av_frame_unref(ist->filter_frame);
2347     av_frame_unref(decoded_frame);
2348     return err < 0 ? err : ret;
2349 }
2350
2351 static int decode_video(InputStream *ist, AVPacket *pkt, int *got_output, int eof)
2352 {
2353     AVFrame *decoded_frame;
2354     int i, ret = 0, err = 0;
2355     int64_t best_effort_timestamp;
2356     int64_t dts = AV_NOPTS_VALUE;
2357     AVPacket avpkt;
2358
2359     // With fate-indeo3-2, we're getting 0-sized packets before EOF for some
2360     // reason. This seems like a semi-critical bug. Don't trigger EOF, and
2361     // skip the packet.
2362     if (!eof && pkt && pkt->size == 0)
2363         return 0;
2364
2365     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
2366         return AVERROR(ENOMEM);
2367     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
2368         return AVERROR(ENOMEM);
2369     decoded_frame = ist->decoded_frame;
2370     if (ist->dts != AV_NOPTS_VALUE)
2371         dts = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ist->st->time_base);
2372     if (pkt) {
2373         avpkt = *pkt;
2374         avpkt.dts = dts; // ffmpeg.c probably shouldn't do this
2375     }
2376
2377     // The old code used to set dts on the drain packet, which does not work
2378     // with the new API anymore.
2379     if (eof) {
2380         void *new = av_realloc_array(ist->dts_buffer, ist->nb_dts_buffer + 1, sizeof(ist->dts_buffer[0]));
2381         if (!new)
2382             return AVERROR(ENOMEM);
2383         ist->dts_buffer = new;
2384         ist->dts_buffer[ist->nb_dts_buffer++] = dts;
2385     }
2386
2387     update_benchmark(NULL);
2388     ret = decode(ist->dec_ctx, decoded_frame, got_output, pkt ? &avpkt : NULL);
2389     update_benchmark("decode_video %d.%d", ist->file_index, ist->st->index);
2390
2391     // The following line may be required in some cases where there is no parser
2392     // or the parser does not has_b_frames correctly
2393     if (ist->st->codecpar->video_delay < ist->dec_ctx->has_b_frames) {
2394         if (ist->dec_ctx->codec_id == AV_CODEC_ID_H264) {
2395             ist->st->codecpar->video_delay = ist->dec_ctx->has_b_frames;
2396         } else
2397             av_log(ist->dec_ctx, AV_LOG_WARNING,
2398                    "video_delay is larger in decoder than demuxer %d > %d.\n"
2399                    "If you want to help, upload a sample "
2400                    "of this file to ftp://upload.ffmpeg.org/incoming/ "
2401                    "and contact the ffmpeg-devel mailing list. (ffmpeg-devel@ffmpeg.org)\n",
2402                    ist->dec_ctx->has_b_frames,
2403                    ist->st->codecpar->video_delay);
2404     }
2405
2406     if (ret != AVERROR_EOF)
2407         check_decode_result(ist, got_output, ret);
2408
2409     if (*got_output && ret >= 0) {
2410         if (ist->dec_ctx->width  != decoded_frame->width ||
2411             ist->dec_ctx->height != decoded_frame->height ||
2412             ist->dec_ctx->pix_fmt != decoded_frame->format) {
2413             av_log(NULL, AV_LOG_DEBUG, "Frame parameters mismatch context %d,%d,%d != %d,%d,%d\n",
2414                 decoded_frame->width,
2415                 decoded_frame->height,
2416                 decoded_frame->format,
2417                 ist->dec_ctx->width,
2418                 ist->dec_ctx->height,
2419                 ist->dec_ctx->pix_fmt);
2420         }
2421     }
2422
2423     if (!*got_output || ret < 0)
2424         return ret;
2425
2426     if(ist->top_field_first>=0)
2427         decoded_frame->top_field_first = ist->top_field_first;
2428
2429     ist->frames_decoded++;
2430
2431     if (ist->hwaccel_retrieve_data && decoded_frame->format == ist->hwaccel_pix_fmt) {
2432         err = ist->hwaccel_retrieve_data(ist->dec_ctx, decoded_frame);
2433         if (err < 0)
2434             goto fail;
2435     }
2436     ist->hwaccel_retrieved_pix_fmt = decoded_frame->format;
2437
2438     best_effort_timestamp= av_frame_get_best_effort_timestamp(decoded_frame);
2439
2440     if (ist->framerate.num)
2441         best_effort_timestamp = ist->cfr_next_pts++;
2442
2443     if (eof && best_effort_timestamp == AV_NOPTS_VALUE && ist->nb_dts_buffer > 0) {
2444         best_effort_timestamp = ist->dts_buffer[0];
2445
2446         for (i = 0; i < ist->nb_dts_buffer - 1; i++)
2447             ist->dts_buffer[i] = ist->dts_buffer[i + 1];
2448         ist->nb_dts_buffer--;
2449     }
2450
2451     if(best_effort_timestamp != AV_NOPTS_VALUE) {
2452         int64_t ts = av_rescale_q(decoded_frame->pts = best_effort_timestamp, ist->st->time_base, AV_TIME_BASE_Q);
2453
2454         if (ts != AV_NOPTS_VALUE)
2455             ist->next_pts = ist->pts = ts;
2456     }
2457
2458     if (debug_ts) {
2459         av_log(NULL, AV_LOG_INFO, "decoder -> ist_index:%d type:video "
2460                "frame_pts:%s frame_pts_time:%s best_effort_ts:%"PRId64" best_effort_ts_time:%s keyframe:%d frame_type:%d time_base:%d/%d\n",
2461                ist->st->index, av_ts2str(decoded_frame->pts),
2462                av_ts2timestr(decoded_frame->pts, &ist->st->time_base),
2463                best_effort_timestamp,
2464                av_ts2timestr(best_effort_timestamp, &ist->st->time_base),
2465                decoded_frame->key_frame, decoded_frame->pict_type,
2466                ist->st->time_base.num, ist->st->time_base.den);
2467     }
2468
2469     if (ist->st->sample_aspect_ratio.num)
2470         decoded_frame->sample_aspect_ratio = ist->st->sample_aspect_ratio;
2471
2472     err = send_frame_to_filters(ist, decoded_frame);
2473
2474 fail:
2475     av_frame_unref(ist->filter_frame);
2476     av_frame_unref(decoded_frame);
2477     return err < 0 ? err : ret;
2478 }
2479
2480 static int transcode_subtitles(InputStream *ist, AVPacket *pkt, int *got_output)
2481 {
2482     AVSubtitle subtitle;
2483     int free_sub = 1;
2484     int i, ret = avcodec_decode_subtitle2(ist->dec_ctx,
2485                                           &subtitle, got_output, pkt);
2486
2487     check_decode_result(NULL, got_output, ret);
2488
2489     if (ret < 0 || !*got_output) {
2490         if (!pkt->size)
2491             sub2video_flush(ist);
2492         return ret;
2493     }
2494
2495     if (ist->fix_sub_duration) {
2496         int end = 1;
2497         if (ist->prev_sub.got_output) {
2498             end = av_rescale(subtitle.pts - ist->prev_sub.subtitle.pts,
2499                              1000, AV_TIME_BASE);
2500             if (end < ist->prev_sub.subtitle.end_display_time) {
2501                 av_log(ist->dec_ctx, AV_LOG_DEBUG,
2502                        "Subtitle duration reduced from %d to %d%s\n",
2503                        ist->prev_sub.subtitle.end_display_time, end,
2504                        end <= 0 ? ", dropping it" : "");
2505                 ist->prev_sub.subtitle.end_display_time = end;
2506             }
2507         }
2508         FFSWAP(int,        *got_output, ist->prev_sub.got_output);
2509         FFSWAP(int,        ret,         ist->prev_sub.ret);
2510         FFSWAP(AVSubtitle, subtitle,    ist->prev_sub.subtitle);
2511         if (end <= 0)
2512             goto out;
2513     }
2514
2515     if (!*got_output)
2516         return ret;
2517
2518     if (ist->sub2video.frame) {
2519         sub2video_update(ist, &subtitle);
2520     } else if (ist->nb_filters) {
2521         if (!ist->sub2video.sub_queue)
2522             ist->sub2video.sub_queue = av_fifo_alloc(8 * sizeof(AVSubtitle));
2523         if (!ist->sub2video.sub_queue)
2524             exit_program(1);
2525         if (!av_fifo_space(ist->sub2video.sub_queue)) {
2526             ret = av_fifo_realloc2(ist->sub2video.sub_queue, 2 * av_fifo_size(ist->sub2video.sub_queue));
2527             if (ret < 0)
2528                 exit_program(1);
2529         }
2530         av_fifo_generic_write(ist->sub2video.sub_queue, &subtitle, sizeof(subtitle), NULL);
2531         free_sub = 0;
2532     }
2533
2534     if (!subtitle.num_rects)
2535         goto out;
2536
2537     ist->frames_decoded++;
2538
2539     for (i = 0; i < nb_output_streams; i++) {
2540         OutputStream *ost = output_streams[i];
2541
2542         if (!check_output_constraints(ist, ost) || !ost->encoding_needed
2543             || ost->enc->type != AVMEDIA_TYPE_SUBTITLE)
2544             continue;
2545
2546         do_subtitle_out(output_files[ost->file_index], ost, &subtitle);
2547     }
2548
2549 out:
2550     if (free_sub)
2551         avsubtitle_free(&subtitle);
2552     return ret;
2553 }
2554
2555 static int send_filter_eof(InputStream *ist)
2556 {
2557     int i, ret;
2558     for (i = 0; i < ist->nb_filters; i++) {
2559         ret = ifilter_send_eof(ist->filters[i]);
2560         if (ret < 0)
2561             return ret;
2562     }
2563     return 0;
2564 }
2565
2566 /* pkt = NULL means EOF (needed to flush decoder buffers) */
2567 static int process_input_packet(InputStream *ist, const AVPacket *pkt, int no_eof)
2568 {
2569     int ret = 0, i;
2570     int repeating = 0;
2571     int eof_reached = 0;
2572
2573     AVPacket avpkt;
2574     if (!ist->saw_first_ts) {
2575         ist->dts = ist->st->avg_frame_rate.num ? - ist->dec_ctx->has_b_frames * AV_TIME_BASE / av_q2d(ist->st->avg_frame_rate) : 0;
2576         ist->pts = 0;
2577         if (pkt && pkt->pts != AV_NOPTS_VALUE && !ist->decoding_needed) {
2578             ist->dts += av_rescale_q(pkt->pts, ist->st->time_base, AV_TIME_BASE_Q);
2579             ist->pts = ist->dts; //unused but better to set it to a value thats not totally wrong
2580         }
2581         ist->saw_first_ts = 1;
2582     }
2583
2584     if (ist->next_dts == AV_NOPTS_VALUE)
2585         ist->next_dts = ist->dts;
2586     if (ist->next_pts == AV_NOPTS_VALUE)
2587         ist->next_pts = ist->pts;
2588
2589     if (!pkt) {
2590         /* EOF handling */
2591         av_init_packet(&avpkt);
2592         avpkt.data = NULL;
2593         avpkt.size = 0;
2594     } else {
2595         avpkt = *pkt;
2596     }
2597
2598     if (pkt && pkt->dts != AV_NOPTS_VALUE) {
2599         ist->next_dts = ist->dts = av_rescale_q(pkt->dts, ist->st->time_base, AV_TIME_BASE_Q);
2600         if (ist->dec_ctx->codec_type != AVMEDIA_TYPE_VIDEO || !ist->decoding_needed)
2601             ist->next_pts = ist->pts = ist->dts;
2602     }
2603
2604     // while we have more to decode or while the decoder did output something on EOF
2605     while (ist->decoding_needed) {
2606         int duration = 0;
2607         int got_output = 0;
2608
2609         ist->pts = ist->next_pts;
2610         ist->dts = ist->next_dts;
2611
2612         switch (ist->dec_ctx->codec_type) {
2613         case AVMEDIA_TYPE_AUDIO:
2614             ret = decode_audio    (ist, repeating ? NULL : &avpkt, &got_output);
2615             break;
2616         case AVMEDIA_TYPE_VIDEO:
2617             ret = decode_video    (ist, repeating ? NULL : &avpkt, &got_output, !pkt);
2618             if (!repeating || !pkt || got_output) {
2619                 if (pkt && pkt->duration) {
2620                     duration = av_rescale_q(pkt->duration, ist->st->time_base, AV_TIME_BASE_Q);
2621                 } else if(ist->dec_ctx->framerate.num != 0 && ist->dec_ctx->framerate.den != 0) {
2622                     int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict+1 : ist->dec_ctx->ticks_per_frame;
2623                     duration = ((int64_t)AV_TIME_BASE *
2624                                     ist->dec_ctx->framerate.den * ticks) /
2625                                     ist->dec_ctx->framerate.num / ist->dec_ctx->ticks_per_frame;
2626                 }
2627
2628                 if(ist->dts != AV_NOPTS_VALUE && duration) {
2629                     ist->next_dts += duration;
2630                 }else
2631                     ist->next_dts = AV_NOPTS_VALUE;
2632             }
2633
2634             if (got_output)
2635                 ist->next_pts += duration; //FIXME the duration is not correct in some cases
2636             break;
2637         case AVMEDIA_TYPE_SUBTITLE:
2638             if (repeating)
2639                 break;
2640             ret = transcode_subtitles(ist, &avpkt, &got_output);
2641             if (!pkt && ret >= 0)
2642                 ret = AVERROR_EOF;
2643             break;
2644         default:
2645             return -1;
2646         }
2647
2648         if (ret == AVERROR_EOF) {
2649             eof_reached = 1;
2650             break;
2651         }
2652
2653         if (ret < 0) {
2654             av_log(NULL, AV_LOG_ERROR, "Error while decoding stream #%d:%d: %s\n",
2655                    ist->file_index, ist->st->index, av_err2str(ret));
2656             if (exit_on_error)
2657                 exit_program(1);
2658             break;
2659         }
2660
2661         if (got_output)
2662             ist->got_output = 1;
2663
2664         if (!got_output)
2665             break;
2666
2667         // During draining, we might get multiple output frames in this loop.
2668         // ffmpeg.c does not drain the filter chain on configuration changes,
2669         // which means if we send multiple frames at once to the filters, and
2670         // one of those frames changes configuration, the buffered frames will
2671         // be lost. This can upset certain FATE tests.
2672         // Decode only 1 frame per call on EOF to appease these FATE tests.
2673         // The ideal solution would be to rewrite decoding to use the new
2674         // decoding API in a better way.
2675         if (!pkt)
2676             break;
2677
2678         repeating = 1;
2679     }
2680
2681     /* after flushing, send an EOF on all the filter inputs attached to the stream */
2682     /* except when looping we need to flush but not to send an EOF */
2683     if (!pkt && ist->decoding_needed && eof_reached && !no_eof) {
2684         int ret = send_filter_eof(ist);
2685         if (ret < 0) {
2686             av_log(NULL, AV_LOG_FATAL, "Error marking filters as finished\n");
2687             exit_program(1);
2688         }
2689     }
2690
2691     /* handle stream copy */
2692     if (!ist->decoding_needed) {
2693         ist->dts = ist->next_dts;
2694         switch (ist->dec_ctx->codec_type) {
2695         case AVMEDIA_TYPE_AUDIO:
2696             ist->next_dts += ((int64_t)AV_TIME_BASE * ist->dec_ctx->frame_size) /
2697                              ist->dec_ctx->sample_rate;
2698             break;
2699         case AVMEDIA_TYPE_VIDEO:
2700             if (ist->framerate.num) {
2701                 // TODO: Remove work-around for c99-to-c89 issue 7
2702                 AVRational time_base_q = AV_TIME_BASE_Q;
2703                 int64_t next_dts = av_rescale_q(ist->next_dts, time_base_q, av_inv_q(ist->framerate));
2704                 ist->next_dts = av_rescale_q(next_dts + 1, av_inv_q(ist->framerate), time_base_q);
2705             } else if (pkt->duration) {
2706                 ist->next_dts += av_rescale_q(pkt->duration, ist->st->time_base, AV_TIME_BASE_Q);
2707             } else if(ist->dec_ctx->framerate.num != 0) {
2708                 int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict + 1 : ist->dec_ctx->ticks_per_frame;
2709                 ist->next_dts += ((int64_t)AV_TIME_BASE *
2710                                   ist->dec_ctx->framerate.den * ticks) /
2711                                   ist->dec_ctx->framerate.num / ist->dec_ctx->ticks_per_frame;
2712             }
2713             break;
2714         }
2715         ist->pts = ist->dts;
2716         ist->next_pts = ist->next_dts;
2717     }
2718     for (i = 0; pkt && i < nb_output_streams; i++) {
2719         OutputStream *ost = output_streams[i];
2720
2721         if (!check_output_constraints(ist, ost) || ost->encoding_needed)
2722             continue;
2723
2724         do_streamcopy(ist, ost, pkt);
2725     }
2726
2727     return !eof_reached;
2728 }
2729
2730 static void print_sdp(void)
2731 {
2732     char sdp[16384];
2733     int i;
2734     int j;
2735     AVIOContext *sdp_pb;
2736     AVFormatContext **avc;
2737
2738     for (i = 0; i < nb_output_files; i++) {
2739         if (!output_files[i]->header_written)
2740             return;
2741     }
2742
2743     avc = av_malloc_array(nb_output_files, sizeof(*avc));
2744     if (!avc)
2745         exit_program(1);
2746     for (i = 0, j = 0; i < nb_output_files; i++) {
2747         if (!strcmp(output_files[i]->ctx->oformat->name, "rtp")) {
2748             avc[j] = output_files[i]->ctx;
2749             j++;
2750         }
2751     }
2752
2753     if (!j)
2754         goto fail;
2755
2756     av_sdp_create(avc, j, sdp, sizeof(sdp));
2757
2758     if (!sdp_filename) {
2759         printf("SDP:\n%s\n", sdp);
2760         fflush(stdout);
2761     } else {
2762         if (avio_open2(&sdp_pb, sdp_filename, AVIO_FLAG_WRITE, &int_cb, NULL) < 0) {
2763             av_log(NULL, AV_LOG_ERROR, "Failed to open sdp file '%s'\n", sdp_filename);
2764         } else {
2765             avio_printf(sdp_pb, "SDP:\n%s", sdp);
2766             avio_closep(&sdp_pb);
2767             av_freep(&sdp_filename);
2768         }
2769     }
2770
2771 fail:
2772     av_freep(&avc);
2773 }
2774
2775 static const HWAccel *get_hwaccel(enum AVPixelFormat pix_fmt)
2776 {
2777     int i;
2778     for (i = 0; hwaccels[i].name; i++)
2779         if (hwaccels[i].pix_fmt == pix_fmt)
2780             return &hwaccels[i];
2781     return NULL;
2782 }
2783
2784 static enum AVPixelFormat get_format(AVCodecContext *s, const enum AVPixelFormat *pix_fmts)
2785 {
2786     InputStream *ist = s->opaque;
2787     const enum AVPixelFormat *p;
2788     int ret;
2789
2790     for (p = pix_fmts; *p != -1; p++) {
2791         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(*p);
2792         const HWAccel *hwaccel;
2793
2794         if (!(desc->flags & AV_PIX_FMT_FLAG_HWACCEL))
2795             break;
2796
2797         hwaccel = get_hwaccel(*p);
2798         if (!hwaccel ||
2799             (ist->active_hwaccel_id && ist->active_hwaccel_id != hwaccel->id) ||
2800             (ist->hwaccel_id != HWACCEL_AUTO && ist->hwaccel_id != hwaccel->id))
2801             continue;
2802
2803         ret = hwaccel->init(s);
2804         if (ret < 0) {
2805             if (ist->hwaccel_id == hwaccel->id) {
2806                 av_log(NULL, AV_LOG_FATAL,
2807                        "%s hwaccel requested for input stream #%d:%d, "
2808                        "but cannot be initialized.\n", hwaccel->name,
2809                        ist->file_index, ist->st->index);
2810                 return AV_PIX_FMT_NONE;
2811             }
2812             continue;
2813         }
2814
2815         if (ist->hw_frames_ctx) {
2816             s->hw_frames_ctx = av_buffer_ref(ist->hw_frames_ctx);
2817             if (!s->hw_frames_ctx)
2818                 return AV_PIX_FMT_NONE;
2819         }
2820
2821         ist->active_hwaccel_id = hwaccel->id;
2822         ist->hwaccel_pix_fmt   = *p;
2823         break;
2824     }
2825
2826     return *p;
2827 }
2828
2829 static int get_buffer(AVCodecContext *s, AVFrame *frame, int flags)
2830 {
2831     InputStream *ist = s->opaque;
2832
2833     if (ist->hwaccel_get_buffer && frame->format == ist->hwaccel_pix_fmt)
2834         return ist->hwaccel_get_buffer(s, frame, flags);
2835
2836     return avcodec_default_get_buffer2(s, frame, flags);
2837 }
2838
2839 static int init_input_stream(int ist_index, char *error, int error_len)
2840 {
2841     int ret;
2842     InputStream *ist = input_streams[ist_index];
2843
2844     if (ist->decoding_needed) {
2845         AVCodec *codec = ist->dec;
2846         if (!codec) {
2847             snprintf(error, error_len, "Decoder (codec %s) not found for input stream #%d:%d",
2848                     avcodec_get_name(ist->dec_ctx->codec_id), ist->file_index, ist->st->index);
2849             return AVERROR(EINVAL);
2850         }
2851
2852         ist->dec_ctx->opaque                = ist;
2853         ist->dec_ctx->get_format            = get_format;
2854         ist->dec_ctx->get_buffer2           = get_buffer;
2855         ist->dec_ctx->thread_safe_callbacks = 1;
2856
2857         av_opt_set_int(ist->dec_ctx, "refcounted_frames", 1, 0);
2858         if (ist->dec_ctx->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
2859            (ist->decoding_needed & DECODING_FOR_OST)) {
2860             av_dict_set(&ist->decoder_opts, "compute_edt", "1", AV_DICT_DONT_OVERWRITE);
2861             if (ist->decoding_needed & DECODING_FOR_FILTER)
2862                 av_log(NULL, AV_LOG_WARNING, "Warning using DVB subtitles for filtering and output at the same time is not fully supported, also see -compute_edt [0|1]\n");
2863         }
2864
2865         av_dict_set(&ist->decoder_opts, "sub_text_format", "ass", AV_DICT_DONT_OVERWRITE);
2866
2867         /* Useful for subtitles retiming by lavf (FIXME), skipping samples in
2868          * audio, and video decoders such as cuvid or mediacodec */
2869         av_codec_set_pkt_timebase(ist->dec_ctx, ist->st->time_base);
2870
2871         if (!av_dict_get(ist->decoder_opts, "threads", NULL, 0))
2872             av_dict_set(&ist->decoder_opts, "threads", "auto", 0);
2873         if ((ret = avcodec_open2(ist->dec_ctx, codec, &ist->decoder_opts)) < 0) {
2874             if (ret == AVERROR_EXPERIMENTAL)
2875                 abort_codec_experimental(codec, 0);
2876
2877             snprintf(error, error_len,
2878                      "Error while opening decoder for input stream "
2879                      "#%d:%d : %s",
2880                      ist->file_index, ist->st->index, av_err2str(ret));
2881             return ret;
2882         }
2883         assert_avoptions(ist->decoder_opts);
2884     }
2885
2886     ist->next_pts = AV_NOPTS_VALUE;
2887     ist->next_dts = AV_NOPTS_VALUE;
2888
2889     return 0;
2890 }
2891
2892 static InputStream *get_input_stream(OutputStream *ost)
2893 {
2894     if (ost->source_index >= 0)
2895         return input_streams[ost->source_index];
2896     return NULL;
2897 }
2898
2899 static int compare_int64(const void *a, const void *b)
2900 {
2901     return FFDIFFSIGN(*(const int64_t *)a, *(const int64_t *)b);
2902 }
2903
2904 /* open the muxer when all the streams are initialized */
2905 static int check_init_output_file(OutputFile *of, int file_index)
2906 {
2907     int ret, i;
2908
2909     for (i = 0; i < of->ctx->nb_streams; i++) {
2910         OutputStream *ost = output_streams[of->ost_index + i];
2911         if (!ost->initialized)
2912             return 0;
2913     }
2914
2915     of->ctx->interrupt_callback = int_cb;
2916
2917     ret = avformat_write_header(of->ctx, &of->opts);
2918     if (ret < 0) {
2919         av_log(NULL, AV_LOG_ERROR,
2920                "Could not write header for output file #%d "
2921                "(incorrect codec parameters ?): %s\n",
2922                file_index, av_err2str(ret));
2923         return ret;
2924     }
2925     //assert_avoptions(of->opts);
2926     of->header_written = 1;
2927
2928     av_dump_format(of->ctx, file_index, of->ctx->filename, 1);
2929
2930     if (sdp_filename || want_sdp)
2931         print_sdp();
2932
2933     /* flush the muxing queues */
2934     for (i = 0; i < of->ctx->nb_streams; i++) {
2935         OutputStream *ost = output_streams[of->ost_index + i];
2936
2937         /* try to improve muxing time_base (only possible if nothing has been written yet) */
2938         if (!av_fifo_size(ost->muxing_queue))
2939             ost->mux_timebase = ost->st->time_base;
2940
2941         while (av_fifo_size(ost->muxing_queue)) {
2942             AVPacket pkt;
2943             av_fifo_generic_read(ost->muxing_queue, &pkt, sizeof(pkt), NULL);
2944             write_packet(of, &pkt, ost);
2945         }
2946     }
2947
2948     return 0;
2949 }
2950
2951 static int init_output_bsfs(OutputStream *ost)
2952 {
2953     AVBSFContext *ctx;
2954     int i, ret;
2955
2956     if (!ost->nb_bitstream_filters)
2957         return 0;
2958
2959     for (i = 0; i < ost->nb_bitstream_filters; i++) {
2960         ctx = ost->bsf_ctx[i];
2961
2962         ret = avcodec_parameters_copy(ctx->par_in,
2963                                       i ? ost->bsf_ctx[i - 1]->par_out : ost->st->codecpar);
2964         if (ret < 0)
2965             return ret;
2966
2967         ctx->time_base_in = i ? ost->bsf_ctx[i - 1]->time_base_out : ost->st->time_base;
2968
2969         ret = av_bsf_init(ctx);
2970         if (ret < 0) {
2971             av_log(NULL, AV_LOG_ERROR, "Error initializing bitstream filter: %s\n",
2972                    ost->bsf_ctx[i]->filter->name);
2973             return ret;
2974         }
2975     }
2976
2977     ctx = ost->bsf_ctx[ost->nb_bitstream_filters - 1];
2978     ret = avcodec_parameters_copy(ost->st->codecpar, ctx->par_out);
2979     if (ret < 0)
2980         return ret;
2981
2982     ost->st->time_base = ctx->time_base_out;
2983
2984     return 0;
2985 }
2986
2987 static int init_output_stream_streamcopy(OutputStream *ost)
2988 {
2989     OutputFile *of = output_files[ost->file_index];
2990     InputStream *ist = get_input_stream(ost);
2991     AVCodecParameters *par_dst = ost->st->codecpar;
2992     AVCodecParameters *par_src = ost->ref_par;
2993     AVRational sar;
2994     int i, ret;
2995     uint32_t codec_tag = par_dst->codec_tag;
2996
2997     av_assert0(ist && !ost->filter);
2998
2999     ret = avcodec_parameters_to_context(ost->enc_ctx, ist->st->codecpar);
3000     if (ret >= 0)
3001         ret = av_opt_set_dict(ost->enc_ctx, &ost->encoder_opts);
3002     if (ret < 0) {
3003         av_log(NULL, AV_LOG_FATAL,
3004                "Error setting up codec context options.\n");
3005         return ret;
3006     }
3007     avcodec_parameters_from_context(par_src, ost->enc_ctx);
3008
3009     if (!codec_tag) {
3010         unsigned int codec_tag_tmp;
3011         if (!of->ctx->oformat->codec_tag ||
3012             av_codec_get_id (of->ctx->oformat->codec_tag, par_src->codec_tag) == par_src->codec_id ||
3013             !av_codec_get_tag2(of->ctx->oformat->codec_tag, par_src->codec_id, &codec_tag_tmp))
3014             codec_tag = par_src->codec_tag;
3015     }
3016
3017     ret = avcodec_parameters_copy(par_dst, par_src);
3018     if (ret < 0)
3019         return ret;
3020
3021     par_dst->codec_tag = codec_tag;
3022
3023     if (!ost->frame_rate.num)
3024         ost->frame_rate = ist->framerate;
3025     ost->st->avg_frame_rate = ost->frame_rate;
3026
3027     ret = avformat_transfer_internal_stream_timing_info(of->ctx->oformat, ost->st, ist->st, copy_tb);
3028     if (ret < 0)
3029         return ret;
3030
3031     // copy timebase while removing common factors
3032     if (ost->st->time_base.num <= 0 || ost->st->time_base.den <= 0)
3033         ost->st->time_base = av_add_q(av_stream_get_codec_timebase(ost->st), (AVRational){0, 1});
3034
3035     // copy estimated duration as a hint to the muxer
3036     if (ost->st->duration <= 0 && ist->st->duration > 0)
3037         ost->st->duration = av_rescale_q(ist->st->duration, ist->st->time_base, ost->st->time_base);
3038
3039     // copy disposition
3040     ost->st->disposition = ist->st->disposition;
3041
3042     if (ist->st->nb_side_data) {
3043         ost->st->side_data = av_realloc_array(NULL, ist->st->nb_side_data,
3044                                               sizeof(*ist->st->side_data));
3045         if (!ost->st->side_data)
3046             return AVERROR(ENOMEM);
3047
3048         ost->st->nb_side_data = 0;
3049         for (i = 0; i < ist->st->nb_side_data; i++) {
3050             const AVPacketSideData *sd_src = &ist->st->side_data[i];
3051             AVPacketSideData *sd_dst = &ost->st->side_data[ost->st->nb_side_data];
3052
3053             if (ost->rotate_overridden && sd_src->type == AV_PKT_DATA_DISPLAYMATRIX)
3054                 continue;
3055
3056             sd_dst->data = av_malloc(sd_src->size);
3057             if (!sd_dst->data)
3058                 return AVERROR(ENOMEM);
3059             memcpy(sd_dst->data, sd_src->data, sd_src->size);
3060             sd_dst->size = sd_src->size;
3061             sd_dst->type = sd_src->type;
3062             ost->st->nb_side_data++;
3063         }
3064     }
3065
3066     ost->parser = av_parser_init(par_dst->codec_id);
3067     ost->parser_avctx = avcodec_alloc_context3(NULL);
3068     if (!ost->parser_avctx)
3069         return AVERROR(ENOMEM);
3070
3071     switch (par_dst->codec_type) {
3072     case AVMEDIA_TYPE_AUDIO:
3073         if (audio_volume != 256) {
3074             av_log(NULL, AV_LOG_FATAL, "-acodec copy and -vol are incompatible (frames are not decoded)\n");
3075             exit_program(1);
3076         }
3077         if((par_dst->block_align == 1 || par_dst->block_align == 1152 || par_dst->block_align == 576) && par_dst->codec_id == AV_CODEC_ID_MP3)
3078             par_dst->block_align= 0;
3079         if(par_dst->codec_id == AV_CODEC_ID_AC3)
3080             par_dst->block_align= 0;
3081         break;
3082     case AVMEDIA_TYPE_VIDEO:
3083         if (ost->frame_aspect_ratio.num) { // overridden by the -aspect cli option
3084             sar =
3085                 av_mul_q(ost->frame_aspect_ratio,
3086                          (AVRational){ par_dst->height, par_dst->width });
3087             av_log(NULL, AV_LOG_WARNING, "Overriding aspect ratio "
3088                    "with stream copy may produce invalid files\n");
3089             }
3090         else if (ist->st->sample_aspect_ratio.num)
3091             sar = ist->st->sample_aspect_ratio;
3092         else
3093             sar = par_src->sample_aspect_ratio;
3094         ost->st->sample_aspect_ratio = par_dst->sample_aspect_ratio = sar;
3095         ost->st->avg_frame_rate = ist->st->avg_frame_rate;
3096         ost->st->r_frame_rate = ist->st->r_frame_rate;
3097         break;
3098     }
3099
3100     ost->mux_timebase = ist->st->time_base;
3101
3102     return 0;
3103 }
3104
3105 static void set_encoder_id(OutputFile *of, OutputStream *ost)
3106 {
3107     AVDictionaryEntry *e;
3108
3109     uint8_t *encoder_string;
3110     int encoder_string_len;
3111     int format_flags = 0;
3112     int codec_flags = 0;
3113
3114     if (av_dict_get(ost->st->metadata, "encoder",  NULL, 0))
3115         return;
3116
3117     e = av_dict_get(of->opts, "fflags", NULL, 0);
3118     if (e) {
3119         const AVOption *o = av_opt_find(of->ctx, "fflags", NULL, 0, 0);
3120         if (!o)
3121             return;
3122         av_opt_eval_flags(of->ctx, o, e->value, &format_flags);
3123     }
3124     e = av_dict_get(ost->encoder_opts, "flags", NULL, 0);
3125     if (e) {
3126         const AVOption *o = av_opt_find(ost->enc_ctx, "flags", NULL, 0, 0);
3127         if (!o)
3128             return;
3129         av_opt_eval_flags(ost->enc_ctx, o, e->value, &codec_flags);
3130     }
3131
3132     encoder_string_len = sizeof(LIBAVCODEC_IDENT) + strlen(ost->enc->name) + 2;
3133     encoder_string     = av_mallocz(encoder_string_len);
3134     if (!encoder_string)
3135         exit_program(1);
3136
3137     if (!(format_flags & AVFMT_FLAG_BITEXACT) && !(codec_flags & AV_CODEC_FLAG_BITEXACT))
3138         av_strlcpy(encoder_string, LIBAVCODEC_IDENT " ", encoder_string_len);
3139     else
3140         av_strlcpy(encoder_string, "Lavc ", encoder_string_len);
3141     av_strlcat(encoder_string, ost->enc->name, encoder_string_len);
3142     av_dict_set(&ost->st->metadata, "encoder",  encoder_string,
3143                 AV_DICT_DONT_STRDUP_VAL | AV_DICT_DONT_OVERWRITE);
3144 }
3145
3146 static void parse_forced_key_frames(char *kf, OutputStream *ost,
3147                                     AVCodecContext *avctx)
3148 {
3149     char *p;
3150     int n = 1, i, size, index = 0;
3151     int64_t t, *pts;
3152
3153     for (p = kf; *p; p++)
3154         if (*p == ',')
3155             n++;
3156     size = n;
3157     pts = av_malloc_array(size, sizeof(*pts));
3158     if (!pts) {
3159         av_log(NULL, AV_LOG_FATAL, "Could not allocate forced key frames array.\n");
3160         exit_program(1);
3161     }
3162
3163     p = kf;
3164     for (i = 0; i < n; i++) {
3165         char *next = strchr(p, ',');
3166
3167         if (next)
3168             *next++ = 0;
3169
3170         if (!memcmp(p, "chapters", 8)) {
3171
3172             AVFormatContext *avf = output_files[ost->file_index]->ctx;
3173             int j;
3174
3175             if (avf->nb_chapters > INT_MAX - size ||
3176                 !(pts = av_realloc_f(pts, size += avf->nb_chapters - 1,
3177                                      sizeof(*pts)))) {
3178                 av_log(NULL, AV_LOG_FATAL,
3179                        "Could not allocate forced key frames array.\n");
3180                 exit_program(1);
3181             }
3182             t = p[8] ? parse_time_or_die("force_key_frames", p + 8, 1) : 0;
3183             t = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
3184
3185             for (j = 0; j < avf->nb_chapters; j++) {
3186                 AVChapter *c = avf->chapters[j];
3187                 av_assert1(index < size);
3188                 pts[index++] = av_rescale_q(c->start, c->time_base,
3189                                             avctx->time_base) + t;
3190             }
3191
3192         } else {
3193
3194             t = parse_time_or_die("force_key_frames", p, 1);
3195             av_assert1(index < size);
3196             pts[index++] = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
3197
3198         }
3199
3200         p = next;
3201     }
3202
3203     av_assert0(index == size);
3204     qsort(pts, size, sizeof(*pts), compare_int64);
3205     ost->forced_kf_count = size;
3206     ost->forced_kf_pts   = pts;
3207 }
3208
3209 static int init_output_stream_encode(OutputStream *ost)
3210 {
3211     InputStream *ist = get_input_stream(ost);
3212     AVCodecContext *enc_ctx = ost->enc_ctx;
3213     AVCodecContext *dec_ctx = NULL;
3214     AVFormatContext *oc = output_files[ost->file_index]->ctx;
3215     int j, ret;
3216
3217     set_encoder_id(output_files[ost->file_index], ost);
3218
3219     if (ist) {
3220         ost->st->disposition          = ist->st->disposition;
3221
3222         dec_ctx = ist->dec_ctx;
3223
3224         enc_ctx->chroma_sample_location = dec_ctx->chroma_sample_location;
3225     } else {
3226         for (j = 0; j < oc->nb_streams; j++) {
3227             AVStream *st = oc->streams[j];
3228             if (st != ost->st && st->codecpar->codec_type == ost->st->codecpar->codec_type)
3229                 break;
3230         }
3231         if (j == oc->nb_streams)
3232             if (ost->st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO ||
3233                 ost->st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO)
3234                 ost->st->disposition = AV_DISPOSITION_DEFAULT;
3235     }
3236
3237     if (enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO) {
3238         if (!ost->frame_rate.num)
3239             ost->frame_rate = av_buffersink_get_frame_rate(ost->filter->filter);
3240         if (ist && !ost->frame_rate.num)
3241             ost->frame_rate = ist->framerate;
3242         if (ist && !ost->frame_rate.num)
3243             ost->frame_rate = ist->st->r_frame_rate;
3244         if (ist && !ost->frame_rate.num) {
3245             ost->frame_rate = (AVRational){25, 1};
3246             av_log(NULL, AV_LOG_WARNING,
3247                    "No information "
3248                    "about the input framerate is available. Falling "
3249                    "back to a default value of 25fps for output stream #%d:%d. Use the -r option "
3250                    "if you want a different framerate.\n",
3251                    ost->file_index, ost->index);
3252         }
3253 //      ost->frame_rate = ist->st->avg_frame_rate.num ? ist->st->avg_frame_rate : (AVRational){25, 1};
3254         if (ost->enc->supported_framerates && !ost->force_fps) {
3255             int idx = av_find_nearest_q_idx(ost->frame_rate, ost->enc->supported_framerates);
3256             ost->frame_rate = ost->enc->supported_framerates[idx];
3257         }
3258         // reduce frame rate for mpeg4 to be within the spec limits
3259         if (enc_ctx->codec_id == AV_CODEC_ID_MPEG4) {
3260             av_reduce(&ost->frame_rate.num, &ost->frame_rate.den,
3261                       ost->frame_rate.num, ost->frame_rate.den, 65535);
3262         }
3263     }
3264
3265     switch (enc_ctx->codec_type) {
3266     case AVMEDIA_TYPE_AUDIO:
3267         enc_ctx->sample_fmt     = av_buffersink_get_format(ost->filter->filter);
3268         if (dec_ctx)
3269             enc_ctx->bits_per_raw_sample = FFMIN(dec_ctx->bits_per_raw_sample,
3270                                                  av_get_bytes_per_sample(enc_ctx->sample_fmt) << 3);
3271         enc_ctx->sample_rate    = av_buffersink_get_sample_rate(ost->filter->filter);
3272         enc_ctx->channel_layout = av_buffersink_get_channel_layout(ost->filter->filter);
3273         enc_ctx->channels       = av_buffersink_get_channels(ost->filter->filter);
3274         enc_ctx->time_base      = (AVRational){ 1, enc_ctx->sample_rate };
3275         break;
3276     case AVMEDIA_TYPE_VIDEO:
3277         enc_ctx->time_base = av_inv_q(ost->frame_rate);
3278         if (!(enc_ctx->time_base.num && enc_ctx->time_base.den))
3279             enc_ctx->time_base = av_buffersink_get_time_base(ost->filter->filter);
3280         if (   av_q2d(enc_ctx->time_base) < 0.001 && video_sync_method != VSYNC_PASSTHROUGH
3281            && (video_sync_method == VSYNC_CFR || video_sync_method == VSYNC_VSCFR || (video_sync_method == VSYNC_AUTO && !(oc->oformat->flags & AVFMT_VARIABLE_FPS)))){
3282             av_log(oc, AV_LOG_WARNING, "Frame rate very high for a muxer not efficiently supporting it.\n"
3283                                        "Please consider specifying a lower framerate, a different muxer or -vsync 2\n");
3284         }
3285         for (j = 0; j < ost->forced_kf_count; j++)
3286             ost->forced_kf_pts[j] = av_rescale_q(ost->forced_kf_pts[j],
3287                                                  AV_TIME_BASE_Q,
3288                                                  enc_ctx->time_base);
3289
3290         enc_ctx->width  = av_buffersink_get_w(ost->filter->filter);
3291         enc_ctx->height = av_buffersink_get_h(ost->filter->filter);
3292         enc_ctx->sample_aspect_ratio = ost->st->sample_aspect_ratio =
3293             ost->frame_aspect_ratio.num ? // overridden by the -aspect cli option
3294             av_mul_q(ost->frame_aspect_ratio, (AVRational){ enc_ctx->height, enc_ctx->width }) :
3295             av_buffersink_get_sample_aspect_ratio(ost->filter->filter);
3296         if (!strncmp(ost->enc->name, "libx264", 7) &&
3297             enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
3298             av_buffersink_get_format(ost->filter->filter) != AV_PIX_FMT_YUV420P)
3299             av_log(NULL, AV_LOG_WARNING,
3300                    "No pixel format specified, %s for H.264 encoding chosen.\n"
3301                    "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
3302                    av_get_pix_fmt_name(av_buffersink_get_format(ost->filter->filter)));
3303         if (!strncmp(ost->enc->name, "mpeg2video", 10) &&
3304             enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
3305             av_buffersink_get_format(ost->filter->filter) != AV_PIX_FMT_YUV420P)
3306             av_log(NULL, AV_LOG_WARNING,
3307                    "No pixel format specified, %s for MPEG-2 encoding chosen.\n"
3308                    "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
3309                    av_get_pix_fmt_name(av_buffersink_get_format(ost->filter->filter)));
3310         enc_ctx->pix_fmt = av_buffersink_get_format(ost->filter->filter);
3311         if (dec_ctx)
3312             enc_ctx->bits_per_raw_sample = FFMIN(dec_ctx->bits_per_raw_sample,
3313                                                  av_pix_fmt_desc_get(enc_ctx->pix_fmt)->comp[0].depth);
3314
3315         ost->st->avg_frame_rate = ost->frame_rate;
3316
3317         if (!dec_ctx ||
3318             enc_ctx->width   != dec_ctx->width  ||
3319             enc_ctx->height  != dec_ctx->height ||
3320             enc_ctx->pix_fmt != dec_ctx->pix_fmt) {
3321             enc_ctx->bits_per_raw_sample = frame_bits_per_raw_sample;
3322         }
3323
3324         if (ost->forced_keyframes) {
3325             if (!strncmp(ost->forced_keyframes, "expr:", 5)) {
3326                 ret = av_expr_parse(&ost->forced_keyframes_pexpr, ost->forced_keyframes+5,
3327                                     forced_keyframes_const_names, NULL, NULL, NULL, NULL, 0, NULL);
3328                 if (ret < 0) {
3329                     av_log(NULL, AV_LOG_ERROR,
3330                            "Invalid force_key_frames expression '%s'\n", ost->forced_keyframes+5);
3331                     return ret;
3332                 }
3333                 ost->forced_keyframes_expr_const_values[FKF_N] = 0;
3334                 ost->forced_keyframes_expr_const_values[FKF_N_FORCED] = 0;
3335                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] = NAN;
3336                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] = NAN;
3337
3338             // Don't parse the 'forced_keyframes' in case of 'keep-source-keyframes',
3339             // parse it only for static kf timings
3340             } else if(strncmp(ost->forced_keyframes, "source", 6)) {
3341                 parse_forced_key_frames(ost->forced_keyframes, ost, ost->enc_ctx);
3342             }
3343         }
3344         break;
3345     case AVMEDIA_TYPE_SUBTITLE:
3346         enc_ctx->time_base = AV_TIME_BASE_Q;
3347         if (!enc_ctx->width) {
3348             enc_ctx->width     = input_streams[ost->source_index]->st->codecpar->width;
3349             enc_ctx->height    = input_streams[ost->source_index]->st->codecpar->height;
3350         }
3351         break;
3352     case AVMEDIA_TYPE_DATA:
3353         break;
3354     default:
3355         abort();
3356         break;
3357     }
3358
3359     ost->mux_timebase = enc_ctx->time_base;
3360
3361     return 0;
3362 }
3363
3364 static int init_output_stream(OutputStream *ost, char *error, int error_len)
3365 {
3366     int ret = 0;
3367
3368     if (ost->encoding_needed) {
3369         AVCodec      *codec = ost->enc;
3370         AVCodecContext *dec = NULL;
3371         InputStream *ist;
3372
3373         ret = init_output_stream_encode(ost);
3374         if (ret < 0)
3375             return ret;
3376
3377         if ((ist = get_input_stream(ost)))
3378             dec = ist->dec_ctx;
3379         if (dec && dec->subtitle_header) {
3380             /* ASS code assumes this buffer is null terminated so add extra byte. */
3381             ost->enc_ctx->subtitle_header = av_mallocz(dec->subtitle_header_size + 1);
3382             if (!ost->enc_ctx->subtitle_header)
3383                 return AVERROR(ENOMEM);
3384             memcpy(ost->enc_ctx->subtitle_header, dec->subtitle_header, dec->subtitle_header_size);
3385             ost->enc_ctx->subtitle_header_size = dec->subtitle_header_size;
3386         }
3387         if (!av_dict_get(ost->encoder_opts, "threads", NULL, 0))
3388             av_dict_set(&ost->encoder_opts, "threads", "auto", 0);
3389         if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
3390             !codec->defaults &&
3391             !av_dict_get(ost->encoder_opts, "b", NULL, 0) &&
3392             !av_dict_get(ost->encoder_opts, "ab", NULL, 0))
3393             av_dict_set(&ost->encoder_opts, "b", "128000", 0);
3394
3395         if (ost->filter && av_buffersink_get_hw_frames_ctx(ost->filter->filter)) {
3396             ost->enc_ctx->hw_frames_ctx = av_buffer_ref(av_buffersink_get_hw_frames_ctx(ost->filter->filter));
3397             if (!ost->enc_ctx->hw_frames_ctx)
3398                 return AVERROR(ENOMEM);
3399         }
3400
3401         if ((ret = avcodec_open2(ost->enc_ctx, codec, &ost->encoder_opts)) < 0) {
3402             if (ret == AVERROR_EXPERIMENTAL)
3403                 abort_codec_experimental(codec, 1);
3404             snprintf(error, error_len,
3405                      "Error while opening encoder for output stream #%d:%d - "
3406                      "maybe incorrect parameters such as bit_rate, rate, width or height",
3407                     ost->file_index, ost->index);
3408             return ret;
3409         }
3410         if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
3411             !(ost->enc->capabilities & AV_CODEC_CAP_VARIABLE_FRAME_SIZE))
3412             av_buffersink_set_frame_size(ost->filter->filter,
3413                                             ost->enc_ctx->frame_size);
3414         assert_avoptions(ost->encoder_opts);
3415         if (ost->enc_ctx->bit_rate && ost->enc_ctx->bit_rate < 1000)
3416             av_log(NULL, AV_LOG_WARNING, "The bitrate parameter is set too low."
3417                                          " It takes bits/s as argument, not kbits/s\n");
3418
3419         ret = avcodec_parameters_from_context(ost->st->codecpar, ost->enc_ctx);
3420         if (ret < 0) {
3421             av_log(NULL, AV_LOG_FATAL,
3422                    "Error initializing the output stream codec context.\n");
3423             exit_program(1);
3424         }
3425         /*
3426          * FIXME: ost->st->codec should't be needed here anymore.
3427          */
3428         ret = avcodec_copy_context(ost->st->codec, ost->enc_ctx);
3429         if (ret < 0)
3430             return ret;
3431
3432         if (ost->enc_ctx->nb_coded_side_data) {
3433             int i;
3434
3435             ost->st->side_data = av_realloc_array(NULL, ost->enc_ctx->nb_coded_side_data,
3436                                                   sizeof(*ost->st->side_data));
3437             if (!ost->st->side_data)
3438                 return AVERROR(ENOMEM);
3439
3440             for (i = 0; i < ost->enc_ctx->nb_coded_side_data; i++) {
3441                 const AVPacketSideData *sd_src = &ost->enc_ctx->coded_side_data[i];
3442                 AVPacketSideData *sd_dst = &ost->st->side_data[i];
3443
3444                 sd_dst->data = av_malloc(sd_src->size);
3445                 if (!sd_dst->data)
3446                     return AVERROR(ENOMEM);
3447                 memcpy(sd_dst->data, sd_src->data, sd_src->size);
3448                 sd_dst->size = sd_src->size;
3449                 sd_dst->type = sd_src->type;
3450                 ost->st->nb_side_data++;
3451             }
3452         }
3453
3454         // copy timebase while removing common factors
3455         if (ost->st->time_base.num <= 0 || ost->st->time_base.den <= 0)
3456             ost->st->time_base = av_add_q(ost->enc_ctx->time_base, (AVRational){0, 1});
3457
3458         // copy estimated duration as a hint to the muxer
3459         if (ost->st->duration <= 0 && ist && ist->st->duration > 0)
3460             ost->st->duration = av_rescale_q(ist->st->duration, ist->st->time_base, ost->st->time_base);
3461
3462         ost->st->codec->codec= ost->enc_ctx->codec;
3463     } else if (ost->stream_copy) {
3464         ret = init_output_stream_streamcopy(ost);
3465         if (ret < 0)
3466             return ret;
3467
3468         /*
3469          * FIXME: will the codec context used by the parser during streamcopy
3470          * This should go away with the new parser API.
3471          */
3472         ret = avcodec_parameters_to_context(ost->parser_avctx, ost->st->codecpar);
3473         if (ret < 0)
3474             return ret;
3475     }
3476
3477     // parse user provided disposition, and update stream values
3478     if (ost->disposition) {
3479         static const AVOption opts[] = {
3480             { "disposition"         , NULL, 0, AV_OPT_TYPE_FLAGS, { .i64 = 0 }, INT64_MIN, INT64_MAX, .unit = "flags" },
3481             { "default"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DEFAULT           },    .unit = "flags" },
3482             { "dub"                 , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DUB               },    .unit = "flags" },
3483             { "original"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_ORIGINAL          },    .unit = "flags" },
3484             { "comment"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_COMMENT           },    .unit = "flags" },
3485             { "lyrics"              , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_LYRICS            },    .unit = "flags" },
3486             { "karaoke"             , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_KARAOKE           },    .unit = "flags" },
3487             { "forced"              , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_FORCED            },    .unit = "flags" },
3488             { "hearing_impaired"    , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_HEARING_IMPAIRED  },    .unit = "flags" },
3489             { "visual_impaired"     , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_VISUAL_IMPAIRED   },    .unit = "flags" },
3490             { "clean_effects"       , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_CLEAN_EFFECTS     },    .unit = "flags" },
3491             { "captions"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_CAPTIONS          },    .unit = "flags" },
3492             { "descriptions"        , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_DESCRIPTIONS      },    .unit = "flags" },
3493             { "metadata"            , NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AV_DISPOSITION_METADATA          },    .unit = "flags" },
3494             { NULL },
3495         };
3496         static const AVClass class = {
3497             .class_name = "",
3498             .item_name  = av_default_item_name,
3499             .option     = opts,
3500             .version    = LIBAVUTIL_VERSION_INT,
3501         };
3502         const AVClass *pclass = &class;
3503
3504         ret = av_opt_eval_flags(&pclass, &opts[0], ost->disposition, &ost->st->disposition);
3505         if (ret < 0)
3506             return ret;
3507     }
3508
3509     /* initialize bitstream filters for the output stream
3510      * needs to be done here, because the codec id for streamcopy is not
3511      * known until now */
3512     ret = init_output_bsfs(ost);
3513     if (ret < 0)
3514         return ret;
3515
3516     ost->initialized = 1;
3517
3518     ret = check_init_output_file(output_files[ost->file_index], ost->file_index);
3519     if (ret < 0)
3520         return ret;
3521
3522     return ret;
3523 }
3524
3525 static void report_new_stream(int input_index, AVPacket *pkt)
3526 {
3527     InputFile *file = input_files[input_index];
3528     AVStream *st = file->ctx->streams[pkt->stream_index];
3529
3530     if (pkt->stream_index < file->nb_streams_warn)
3531         return;
3532     av_log(file->ctx, AV_LOG_WARNING,
3533            "New %s stream %d:%d at pos:%"PRId64" and DTS:%ss\n",
3534            av_get_media_type_string(st->codecpar->codec_type),
3535            input_index, pkt->stream_index,
3536            pkt->pos, av_ts2timestr(pkt->dts, &st->time_base));
3537     file->nb_streams_warn = pkt->stream_index + 1;
3538 }
3539
3540 static int transcode_init(void)
3541 {
3542     int ret = 0, i, j, k;
3543     AVFormatContext *oc;
3544     OutputStream *ost;
3545     InputStream *ist;
3546     char error[1024] = {0};
3547
3548     for (i = 0; i < nb_filtergraphs; i++) {
3549         FilterGraph *fg = filtergraphs[i];
3550         for (j = 0; j < fg->nb_outputs; j++) {
3551             OutputFilter *ofilter = fg->outputs[j];
3552             if (!ofilter->ost || ofilter->ost->source_index >= 0)
3553                 continue;
3554             if (fg->nb_inputs != 1)
3555                 continue;
3556             for (k = nb_input_streams-1; k >= 0 ; k--)
3557                 if (fg->inputs[0]->ist == input_streams[k])
3558                     break;
3559             ofilter->ost->source_index = k;
3560         }
3561     }
3562
3563     /* init framerate emulation */
3564     for (i = 0; i < nb_input_files; i++) {
3565         InputFile *ifile = input_files[i];
3566         if (ifile->rate_emu)
3567             for (j = 0; j < ifile->nb_streams; j++)
3568                 input_streams[j + ifile->ist_index]->start = av_gettime_relative();
3569     }
3570
3571     /* init input streams */
3572     for (i = 0; i < nb_input_streams; i++)
3573         if ((ret = init_input_stream(i, error, sizeof(error))) < 0) {
3574             for (i = 0; i < nb_output_streams; i++) {
3575                 ost = output_streams[i];
3576                 avcodec_close(ost->enc_ctx);
3577             }
3578             goto dump_format;
3579         }
3580
3581     /* open each encoder */
3582     for (i = 0; i < nb_output_streams; i++) {
3583         // skip streams fed from filtergraphs until we have a frame for them
3584         if (output_streams[i]->filter)
3585             continue;
3586
3587         ret = init_output_stream(output_streams[i], error, sizeof(error));
3588         if (ret < 0)
3589             goto dump_format;
3590     }
3591
3592     /* discard unused programs */
3593     for (i = 0; i < nb_input_files; i++) {
3594         InputFile *ifile = input_files[i];
3595         for (j = 0; j < ifile->ctx->nb_programs; j++) {
3596             AVProgram *p = ifile->ctx->programs[j];
3597             int discard  = AVDISCARD_ALL;
3598
3599             for (k = 0; k < p->nb_stream_indexes; k++)
3600                 if (!input_streams[ifile->ist_index + p->stream_index[k]]->discard) {
3601                     discard = AVDISCARD_DEFAULT;
3602                     break;
3603                 }
3604             p->discard = discard;
3605         }
3606     }
3607
3608     /* write headers for files with no streams */
3609     for (i = 0; i < nb_output_files; i++) {
3610         oc = output_files[i]->ctx;
3611         if (oc->oformat->flags & AVFMT_NOSTREAMS && oc->nb_streams == 0) {
3612             ret = check_init_output_file(output_files[i], i);
3613             if (ret < 0)
3614                 goto dump_format;
3615         }
3616     }
3617
3618  dump_format:
3619     /* dump the stream mapping */
3620     av_log(NULL, AV_LOG_INFO, "Stream mapping:\n");
3621     for (i = 0; i < nb_input_streams; i++) {
3622         ist = input_streams[i];
3623
3624         for (j = 0; j < ist->nb_filters; j++) {
3625             if (!filtergraph_is_simple(ist->filters[j]->graph)) {
3626                 av_log(NULL, AV_LOG_INFO, "  Stream #%d:%d (%s) -> %s",
3627                        ist->file_index, ist->st->index, ist->dec ? ist->dec->name : "?",
3628                        ist->filters[j]->name);
3629                 if (nb_filtergraphs > 1)
3630                     av_log(NULL, AV_LOG_INFO, " (graph %d)", ist->filters[j]->graph->index);
3631                 av_log(NULL, AV_LOG_INFO, "\n");
3632             }
3633         }
3634     }
3635
3636     for (i = 0; i < nb_output_streams; i++) {
3637         ost = output_streams[i];
3638
3639         if (ost->attachment_filename) {
3640             /* an attached file */
3641             av_log(NULL, AV_LOG_INFO, "  File %s -> Stream #%d:%d\n",
3642                    ost->attachment_filename, ost->file_index, ost->index);
3643             continue;
3644         }
3645
3646         if (ost->filter && !filtergraph_is_simple(ost->filter->graph)) {
3647             /* output from a complex graph */
3648             av_log(NULL, AV_LOG_INFO, "  %s", ost->filter->name);
3649             if (nb_filtergraphs > 1)
3650                 av_log(NULL, AV_LOG_INFO, " (graph %d)", ost->filter->graph->index);
3651
3652             av_log(NULL, AV_LOG_INFO, " -> Stream #%d:%d (%s)\n", ost->file_index,
3653                    ost->index, ost->enc ? ost->enc->name : "?");
3654             continue;
3655         }
3656
3657         av_log(NULL, AV_LOG_INFO, "  Stream #%d:%d -> #%d:%d",
3658                input_streams[ost->source_index]->file_index,
3659                input_streams[ost->source_index]->st->index,
3660                ost->file_index,
3661                ost->index);
3662         if (ost->sync_ist != input_streams[ost->source_index])
3663             av_log(NULL, AV_LOG_INFO, " [sync #%d:%d]",
3664                    ost->sync_ist->file_index,
3665                    ost->sync_ist->st->index);
3666         if (ost->stream_copy)
3667             av_log(NULL, AV_LOG_INFO, " (copy)");
3668         else {
3669             const AVCodec *in_codec    = input_streams[ost->source_index]->dec;
3670             const AVCodec *out_codec   = ost->enc;
3671             const char *decoder_name   = "?";
3672             const char *in_codec_name  = "?";
3673             const char *encoder_name   = "?";
3674             const char *out_codec_name = "?";
3675             const AVCodecDescriptor *desc;
3676
3677             if (in_codec) {
3678                 decoder_name  = in_codec->name;
3679                 desc = avcodec_descriptor_get(in_codec->id);
3680                 if (desc)
3681                     in_codec_name = desc->name;
3682                 if (!strcmp(decoder_name, in_codec_name))
3683                     decoder_name = "native";
3684             }
3685
3686             if (out_codec) {
3687                 encoder_name   = out_codec->name;
3688                 desc = avcodec_descriptor_get(out_codec->id);
3689                 if (desc)
3690                     out_codec_name = desc->name;
3691                 if (!strcmp(encoder_name, out_codec_name))
3692                     encoder_name = "native";
3693             }
3694
3695             av_log(NULL, AV_LOG_INFO, " (%s (%s) -> %s (%s))",
3696                    in_codec_name, decoder_name,
3697                    out_codec_name, encoder_name);
3698         }
3699         av_log(NULL, AV_LOG_INFO, "\n");
3700     }
3701
3702     if (ret) {
3703         av_log(NULL, AV_LOG_ERROR, "%s\n", error);
3704         return ret;
3705     }
3706
3707     transcode_init_done = 1;
3708
3709     return 0;
3710 }
3711
3712 /* Return 1 if there remain streams where more output is wanted, 0 otherwise. */
3713 static int need_output(void)
3714 {
3715     int i;
3716
3717     for (i = 0; i < nb_output_streams; i++) {
3718         OutputStream *ost    = output_streams[i];
3719         OutputFile *of       = output_files[ost->file_index];
3720         AVFormatContext *os  = output_files[ost->file_index]->ctx;
3721
3722         if (ost->finished ||
3723             (os->pb && avio_tell(os->pb) >= of->limit_filesize))
3724             continue;
3725         if (ost->frame_number >= ost->max_frames) {
3726             int j;
3727             for (j = 0; j < of->ctx->nb_streams; j++)
3728                 close_output_stream(output_streams[of->ost_index + j]);
3729             continue;
3730         }
3731
3732         return 1;
3733     }
3734
3735     return 0;
3736 }
3737
3738 /**
3739  * Select the output stream to process.
3740  *
3741  * @return  selected output stream, or NULL if none available
3742  */
3743 static OutputStream *choose_output(void)
3744 {
3745     int i;
3746     int64_t opts_min = INT64_MAX;
3747     OutputStream *ost_min = NULL;
3748
3749     for (i = 0; i < nb_output_streams; i++) {
3750         OutputStream *ost = output_streams[i];
3751         int64_t opts = ost->st->cur_dts == AV_NOPTS_VALUE ? INT64_MIN :
3752                        av_rescale_q(ost->st->cur_dts, ost->st->time_base,
3753                                     AV_TIME_BASE_Q);
3754         if (ost->st->cur_dts == AV_NOPTS_VALUE)
3755             av_log(NULL, AV_LOG_DEBUG, "cur_dts is invalid (this is harmless if it occurs once at the start per stream)\n");
3756
3757         if (!ost->initialized && !ost->inputs_done)
3758             return ost;
3759
3760         if (!ost->finished && opts < opts_min) {
3761             opts_min = opts;
3762             ost_min  = ost->unavailable ? NULL : ost;
3763         }
3764     }
3765     return ost_min;
3766 }
3767
3768 static void set_tty_echo(int on)
3769 {
3770 #if HAVE_TERMIOS_H
3771     struct termios tty;
3772     if (tcgetattr(0, &tty) == 0) {
3773         if (on) tty.c_lflag |= ECHO;
3774         else    tty.c_lflag &= ~ECHO;
3775         tcsetattr(0, TCSANOW, &tty);
3776     }
3777 #endif
3778 }
3779
3780 static int check_keyboard_interaction(int64_t cur_time)
3781 {
3782     int i, ret, key;
3783     static int64_t last_time;
3784     if (received_nb_signals)
3785         return AVERROR_EXIT;
3786     /* read_key() returns 0 on EOF */
3787     if(cur_time - last_time >= 100000 && !run_as_daemon){
3788         key =  read_key();
3789         last_time = cur_time;
3790     }else
3791         key = -1;
3792     if (key == 'q')
3793         return AVERROR_EXIT;
3794     if (key == '+') av_log_set_level(av_log_get_level()+10);
3795     if (key == '-') av_log_set_level(av_log_get_level()-10);
3796     if (key == 's') qp_hist     ^= 1;
3797     if (key == 'h'){
3798         if (do_hex_dump){
3799             do_hex_dump = do_pkt_dump = 0;
3800         } else if(do_pkt_dump){
3801             do_hex_dump = 1;
3802         } else
3803             do_pkt_dump = 1;
3804         av_log_set_level(AV_LOG_DEBUG);
3805     }
3806     if (key == 'c' || key == 'C'){
3807         char buf[4096], target[64], command[256], arg[256] = {0};
3808         double time;
3809         int k, n = 0;
3810         fprintf(stderr, "\nEnter command: <target>|all <time>|-1 <command>[ <argument>]\n");
3811         i = 0;
3812         set_tty_echo(1);
3813         while ((k = read_key()) != '\n' && k != '\r' && i < sizeof(buf)-1)
3814             if (k > 0)
3815                 buf[i++] = k;
3816         buf[i] = 0;
3817         set_tty_echo(0);
3818         fprintf(stderr, "\n");
3819         if (k > 0 &&
3820             (n = sscanf(buf, "%63[^ ] %lf %255[^ ] %255[^\n]", target, &time, command, arg)) >= 3) {
3821             av_log(NULL, AV_LOG_DEBUG, "Processing command target:%s time:%f command:%s arg:%s",
3822                    target, time, command, arg);
3823             for (i = 0; i < nb_filtergraphs; i++) {
3824                 FilterGraph *fg = filtergraphs[i];
3825                 if (fg->graph) {
3826                     if (time < 0) {
3827                         ret = avfilter_graph_send_command(fg->graph, target, command, arg, buf, sizeof(buf),
3828                                                           key == 'c' ? AVFILTER_CMD_FLAG_ONE : 0);
3829                         fprintf(stderr, "Command reply for stream %d: ret:%d res:\n%s", i, ret, buf);
3830                     } else if (key == 'c') {
3831                         fprintf(stderr, "Queuing commands only on filters supporting the specific command is unsupported\n");
3832                         ret = AVERROR_PATCHWELCOME;
3833                     } else {
3834                         ret = avfilter_graph_queue_command(fg->graph, target, command, arg, 0, time);
3835                         if (ret < 0)
3836                             fprintf(stderr, "Queuing command failed with error %s\n", av_err2str(ret));
3837                     }
3838                 }
3839             }
3840         } else {
3841             av_log(NULL, AV_LOG_ERROR,
3842                    "Parse error, at least 3 arguments were expected, "
3843                    "only %d given in string '%s'\n", n, buf);
3844         }
3845     }
3846     if (key == 'd' || key == 'D'){
3847         int debug=0;
3848         if(key == 'D') {
3849             debug = input_streams[0]->st->codec->debug<<1;
3850             if(!debug) debug = 1;
3851             while(debug & (FF_DEBUG_DCT_COEFF|FF_DEBUG_VIS_QP|FF_DEBUG_VIS_MB_TYPE)) //unsupported, would just crash
3852                 debug += debug;
3853         }else{
3854             char buf[32];
3855             int k = 0;
3856             i = 0;
3857             set_tty_echo(1);
3858             while ((k = read_key()) != '\n' && k != '\r' && i < sizeof(buf)-1)
3859                 if (k > 0)
3860                     buf[i++] = k;
3861             buf[i] = 0;
3862             set_tty_echo(0);
3863             fprintf(stderr, "\n");
3864             if (k <= 0 || sscanf(buf, "%d", &debug)!=1)
3865                 fprintf(stderr,"error parsing debug value\n");
3866         }
3867         for(i=0;i<nb_input_streams;i++) {
3868             input_streams[i]->st->codec->debug = debug;
3869         }
3870         for(i=0;i<nb_output_streams;i++) {
3871             OutputStream *ost = output_streams[i];
3872             ost->enc_ctx->debug = debug;
3873         }
3874         if(debug) av_log_set_level(AV_LOG_DEBUG);
3875         fprintf(stderr,"debug=%d\n", debug);
3876     }
3877     if (key == '?'){
3878         fprintf(stderr, "key    function\n"
3879                         "?      show this help\n"
3880                         "+      increase verbosity\n"
3881                         "-      decrease verbosity\n"
3882                         "c      Send command to first matching filter supporting it\n"
3883                         "C      Send/Queue command to all matching filters\n"
3884                         "D      cycle through available debug modes\n"
3885                         "h      dump packets/hex press to cycle through the 3 states\n"
3886                         "q      quit\n"
3887                         "s      Show QP histogram\n"
3888         );
3889     }
3890     return 0;
3891 }
3892
3893 #if HAVE_PTHREADS
3894 static void *input_thread(void *arg)
3895 {
3896     InputFile *f = arg;
3897     unsigned flags = f->non_blocking ? AV_THREAD_MESSAGE_NONBLOCK : 0;
3898     int ret = 0;
3899
3900     while (1) {
3901         AVPacket pkt;
3902         ret = av_read_frame(f->ctx, &pkt);
3903
3904         if (ret == AVERROR(EAGAIN)) {
3905             av_usleep(10000);
3906             continue;
3907         }
3908         if (ret < 0) {
3909             av_thread_message_queue_set_err_recv(f->in_thread_queue, ret);
3910             break;
3911         }
3912         ret = av_thread_message_queue_send(f->in_thread_queue, &pkt, flags);
3913         if (flags && ret == AVERROR(EAGAIN)) {
3914             flags = 0;
3915             ret = av_thread_message_queue_send(f->in_thread_queue, &pkt, flags);
3916             av_log(f->ctx, AV_LOG_WARNING,
3917                    "Thread message queue blocking; consider raising the "
3918                    "thread_queue_size option (current value: %d)\n",
3919                    f->thread_queue_size);
3920         }
3921         if (ret < 0) {
3922             if (ret != AVERROR_EOF)
3923                 av_log(f->ctx, AV_LOG_ERROR,
3924                        "Unable to send packet to main thread: %s\n",
3925                        av_err2str(ret));
3926             av_packet_unref(&pkt);
3927             av_thread_message_queue_set_err_recv(f->in_thread_queue, ret);
3928             break;
3929         }
3930     }
3931
3932     return NULL;
3933 }
3934
3935 static void free_input_threads(void)
3936 {
3937     int i;
3938
3939     for (i = 0; i < nb_input_files; i++) {
3940         InputFile *f = input_files[i];
3941         AVPacket pkt;
3942
3943         if (!f || !f->in_thread_queue)
3944             continue;
3945         av_thread_message_queue_set_err_send(f->in_thread_queue, AVERROR_EOF);
3946         while (av_thread_message_queue_recv(f->in_thread_queue, &pkt, 0) >= 0)
3947             av_packet_unref(&pkt);
3948
3949         pthread_join(f->thread, NULL);
3950         f->joined = 1;
3951         av_thread_message_queue_free(&f->in_thread_queue);
3952     }
3953 }
3954
3955 static int init_input_threads(void)
3956 {
3957     int i, ret;
3958
3959     if (nb_input_files == 1)
3960         return 0;
3961
3962     for (i = 0; i < nb_input_files; i++) {
3963         InputFile *f = input_files[i];
3964
3965         if (f->ctx->pb ? !f->ctx->pb->seekable :
3966             strcmp(f->ctx->iformat->name, "lavfi"))
3967             f->non_blocking = 1;
3968         ret = av_thread_message_queue_alloc(&f->in_thread_queue,
3969                                             f->thread_queue_size, sizeof(AVPacket));
3970         if (ret < 0)
3971             return ret;
3972
3973         if ((ret = pthread_create(&f->thread, NULL, input_thread, f))) {
3974             av_log(NULL, AV_LOG_ERROR, "pthread_create failed: %s. Try to increase `ulimit -v` or decrease `ulimit -s`.\n", strerror(ret));
3975             av_thread_message_queue_free(&f->in_thread_queue);
3976             return AVERROR(ret);
3977         }
3978     }
3979     return 0;
3980 }
3981
3982 static int get_input_packet_mt(InputFile *f, AVPacket *pkt)
3983 {
3984     return av_thread_message_queue_recv(f->in_thread_queue, pkt,
3985                                         f->non_blocking ?
3986                                         AV_THREAD_MESSAGE_NONBLOCK : 0);
3987 }
3988 #endif
3989
3990 static int get_input_packet(InputFile *f, AVPacket *pkt)
3991 {
3992     if (f->rate_emu) {
3993         int i;
3994         for (i = 0; i < f->nb_streams; i++) {
3995             InputStream *ist = input_streams[f->ist_index + i];
3996             int64_t pts = av_rescale(ist->dts, 1000000, AV_TIME_BASE);
3997             int64_t now = av_gettime_relative() - ist->start;
3998             if (pts > now)
3999                 return AVERROR(EAGAIN);
4000         }
4001     }
4002
4003 #if HAVE_PTHREADS
4004     if (nb_input_files > 1)
4005         return get_input_packet_mt(f, pkt);
4006 #endif
4007     return av_read_frame(f->ctx, pkt);
4008 }
4009
4010 static int got_eagain(void)
4011 {
4012     int i;
4013     for (i = 0; i < nb_output_streams; i++)
4014         if (output_streams[i]->unavailable)
4015             return 1;
4016     return 0;
4017 }
4018
4019 static void reset_eagain(void)
4020 {
4021     int i;
4022     for (i = 0; i < nb_input_files; i++)
4023         input_files[i]->eagain = 0;
4024     for (i = 0; i < nb_output_streams; i++)
4025         output_streams[i]->unavailable = 0;
4026 }
4027
4028 // set duration to max(tmp, duration) in a proper time base and return duration's time_base
4029 static AVRational duration_max(int64_t tmp, int64_t *duration, AVRational tmp_time_base,
4030                                 AVRational time_base)
4031 {
4032     int ret;
4033
4034     if (!*duration) {
4035         *duration = tmp;
4036         return tmp_time_base;
4037     }
4038
4039     ret = av_compare_ts(*duration, time_base, tmp, tmp_time_base);
4040     if (ret < 0) {
4041         *duration = tmp;
4042         return tmp_time_base;
4043     }
4044
4045     return time_base;
4046 }
4047
4048 static int seek_to_start(InputFile *ifile, AVFormatContext *is)
4049 {
4050     InputStream *ist;
4051     AVCodecContext *avctx;
4052     int i, ret, has_audio = 0;
4053     int64_t duration = 0;
4054
4055     ret = av_seek_frame(is, -1, is->start_time, 0);
4056     if (ret < 0)
4057         return ret;
4058
4059     for (i = 0; i < ifile->nb_streams; i++) {
4060         ist   = input_streams[ifile->ist_index + i];
4061         avctx = ist->dec_ctx;
4062
4063         // flush decoders
4064         if (ist->decoding_needed) {
4065             process_input_packet(ist, NULL, 1);
4066             avcodec_flush_buffers(avctx);
4067         }
4068
4069         /* duration is the length of the last frame in a stream
4070          * when audio stream is present we don't care about
4071          * last video frame length because it's not defined exactly */
4072         if (avctx->codec_type == AVMEDIA_TYPE_AUDIO && ist->nb_samples)
4073             has_audio = 1;
4074     }
4075
4076     for (i = 0; i < ifile->nb_streams; i++) {
4077         ist   = input_streams[ifile->ist_index + i];
4078         avctx = ist->dec_ctx;
4079
4080         if (has_audio) {
4081             if (avctx->codec_type == AVMEDIA_TYPE_AUDIO && ist->nb_samples) {
4082                 AVRational sample_rate = {1, avctx->sample_rate};
4083
4084                 duration = av_rescale_q(ist->nb_samples, sample_rate, ist->st->time_base);
4085             } else
4086                 continue;
4087         } else {
4088             if (ist->framerate.num) {
4089                 duration = av_rescale_q(1, ist->framerate, ist->st->time_base);
4090             } else if (ist->st->avg_frame_rate.num) {
4091                 duration = av_rescale_q(1, ist->st->avg_frame_rate, ist->st->time_base);
4092             } else duration = 1;
4093         }
4094         if (!ifile->duration)
4095             ifile->time_base = ist->st->time_base;
4096         /* the total duration of the stream, max_pts - min_pts is
4097          * the duration of the stream without the last frame */
4098         duration += ist->max_pts - ist->min_pts;
4099         ifile->time_base = duration_max(duration, &ifile->duration, ist->st->time_base,
4100                                         ifile->time_base);
4101     }
4102
4103     if (ifile->loop > 0)
4104         ifile->loop--;
4105
4106     return ret;
4107 }
4108
4109 /*
4110  * Return
4111  * - 0 -- one packet was read and processed
4112  * - AVERROR(EAGAIN) -- no packets were available for selected file,
4113  *   this function should be called again
4114  * - AVERROR_EOF -- this function should not be called again
4115  */
4116 static int process_input(int file_index)
4117 {
4118     InputFile *ifile = input_files[file_index];
4119     AVFormatContext *is;
4120     InputStream *ist;
4121     AVPacket pkt;
4122     int ret, i, j;
4123     int64_t duration;
4124     int64_t pkt_dts;
4125
4126     is  = ifile->ctx;
4127     ret = get_input_packet(ifile, &pkt);
4128
4129     if (ret == AVERROR(EAGAIN)) {
4130         ifile->eagain = 1;
4131         return ret;
4132     }
4133     if (ret < 0 && ifile->loop) {
4134         if ((ret = seek_to_start(ifile, is)) < 0)
4135             return ret;
4136         ret = get_input_packet(ifile, &pkt);
4137         if (ret == AVERROR(EAGAIN)) {
4138             ifile->eagain = 1;
4139             return ret;
4140         }
4141     }
4142     if (ret < 0) {
4143         if (ret != AVERROR_EOF) {
4144             print_error(is->filename, ret);
4145             if (exit_on_error)
4146                 exit_program(1);
4147         }
4148
4149         for (i = 0; i < ifile->nb_streams; i++) {
4150             ist = input_streams[ifile->ist_index + i];
4151             if (ist->decoding_needed) {
4152                 ret = process_input_packet(ist, NULL, 0);
4153                 if (ret>0)
4154                     return 0;
4155             }
4156
4157             /* mark all outputs that don't go through lavfi as finished */
4158             for (j = 0; j < nb_output_streams; j++) {
4159                 OutputStream *ost = output_streams[j];
4160
4161                 if (ost->source_index == ifile->ist_index + i &&
4162                     (ost->stream_copy || ost->enc->type == AVMEDIA_TYPE_SUBTITLE))
4163                     finish_output_stream(ost);
4164             }
4165         }
4166
4167         ifile->eof_reached = 1;
4168         return AVERROR(EAGAIN);
4169     }
4170
4171     reset_eagain();
4172
4173     if (do_pkt_dump) {
4174         av_pkt_dump_log2(NULL, AV_LOG_INFO, &pkt, do_hex_dump,
4175                          is->streams[pkt.stream_index]);
4176     }
4177     /* the following test is needed in case new streams appear
4178        dynamically in stream : we ignore them */
4179     if (pkt.stream_index >= ifile->nb_streams) {
4180         report_new_stream(file_index, &pkt);
4181         goto discard_packet;
4182     }
4183
4184     ist = input_streams[ifile->ist_index + pkt.stream_index];
4185
4186     ist->data_size += pkt.size;
4187     ist->nb_packets++;
4188
4189     if (ist->discard)
4190         goto discard_packet;
4191
4192     if (exit_on_error && (pkt.flags & AV_PKT_FLAG_CORRUPT)) {
4193         av_log(NULL, AV_LOG_FATAL, "%s: corrupt input packet in stream %d\n", is->filename, pkt.stream_index);
4194         exit_program(1);
4195     }
4196
4197     if (debug_ts) {
4198         av_log(NULL, AV_LOG_INFO, "demuxer -> ist_index:%d type:%s "
4199                "next_dts:%s next_dts_time:%s next_pts:%s next_pts_time:%s pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s off:%s off_time:%s\n",
4200                ifile->ist_index + pkt.stream_index, av_get_media_type_string(ist->dec_ctx->codec_type),
4201                av_ts2str(ist->next_dts), av_ts2timestr(ist->next_dts, &AV_TIME_BASE_Q),
4202                av_ts2str(ist->next_pts), av_ts2timestr(ist->next_pts, &AV_TIME_BASE_Q),
4203                av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ist->st->time_base),
4204                av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ist->st->time_base),
4205                av_ts2str(input_files[ist->file_index]->ts_offset),
4206                av_ts2timestr(input_files[ist->file_index]->ts_offset, &AV_TIME_BASE_Q));
4207     }
4208
4209     if(!ist->wrap_correction_done && is->start_time != AV_NOPTS_VALUE && ist->st->pts_wrap_bits < 64){
4210         int64_t stime, stime2;
4211         // Correcting starttime based on the enabled streams
4212         // FIXME this ideally should be done before the first use of starttime but we do not know which are the enabled streams at that point.
4213         //       so we instead do it here as part of discontinuity handling
4214         if (   ist->next_dts == AV_NOPTS_VALUE
4215             && ifile->ts_offset == -is->start_time
4216             && (is->iformat->flags & AVFMT_TS_DISCONT)) {
4217             int64_t new_start_time = INT64_MAX;
4218             for (i=0; i<is->nb_streams; i++) {
4219                 AVStream *st = is->streams[i];
4220                 if(st->discard == AVDISCARD_ALL || st->start_time == AV_NOPTS_VALUE)
4221                     continue;
4222                 new_start_time = FFMIN(new_start_time, av_rescale_q(st->start_time, st->time_base, AV_TIME_BASE_Q));
4223             }
4224             if (new_start_time > is->start_time) {
4225                 av_log(is, AV_LOG_VERBOSE, "Correcting start time by %"PRId64"\n", new_start_time - is->start_time);
4226                 ifile->ts_offset = -new_start_time;
4227             }
4228         }
4229
4230         stime = av_rescale_q(is->start_time, AV_TIME_BASE_Q, ist->st->time_base);
4231         stime2= stime + (1ULL<<ist->st->pts_wrap_bits);
4232         ist->wrap_correction_done = 1;
4233
4234         if(stime2 > stime && pkt.dts != AV_NOPTS_VALUE && pkt.dts > stime + (1LL<<(ist->st->pts_wrap_bits-1))) {
4235             pkt.dts -= 1ULL<<ist->st->pts_wrap_bits;
4236             ist->wrap_correction_done = 0;
4237         }
4238         if(stime2 > stime && pkt.pts != AV_NOPTS_VALUE && pkt.pts > stime + (1LL<<(ist->st->pts_wrap_bits-1))) {
4239             pkt.pts -= 1ULL<<ist->st->pts_wrap_bits;
4240             ist->wrap_correction_done = 0;
4241         }
4242     }
4243
4244     /* add the stream-global side data to the first packet */
4245     if (ist->nb_packets == 1) {
4246         if (ist->st->nb_side_data)
4247             av_packet_split_side_data(&pkt);
4248         for (i = 0; i < ist->st->nb_side_data; i++) {
4249             AVPacketSideData *src_sd = &ist->st->side_data[i];
4250             uint8_t *dst_data;
4251
4252             if (av_packet_get_side_data(&pkt, src_sd->type, NULL))
4253                 continue;
4254             if (ist->autorotate && src_sd->type == AV_PKT_DATA_DISPLAYMATRIX)
4255                 continue;
4256
4257             dst_data = av_packet_new_side_data(&pkt, src_sd->type, src_sd->size);
4258             if (!dst_data)
4259                 exit_program(1);
4260
4261             memcpy(dst_data, src_sd->data, src_sd->size);
4262         }
4263     }
4264
4265     if (pkt.dts != AV_NOPTS_VALUE)
4266         pkt.dts += av_rescale_q(ifile->ts_offset, AV_TIME_BASE_Q, ist->st->time_base);
4267     if (pkt.pts != AV_NOPTS_VALUE)
4268         pkt.pts += av_rescale_q(ifile->ts_offset, AV_TIME_BASE_Q, ist->st->time_base);
4269
4270     if (pkt.pts != AV_NOPTS_VALUE)
4271         pkt.pts *= ist->ts_scale;
4272     if (pkt.dts != AV_NOPTS_VALUE)
4273         pkt.dts *= ist->ts_scale;
4274
4275     pkt_dts = av_rescale_q_rnd(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q, AV_ROUND_NEAR_INF|AV_ROUND_PASS_MINMAX);
4276     if ((ist->dec_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
4277          ist->dec_ctx->codec_type == AVMEDIA_TYPE_AUDIO) &&
4278         pkt_dts != AV_NOPTS_VALUE && ist->next_dts == AV_NOPTS_VALUE && !copy_ts
4279         && (is->iformat->flags & AVFMT_TS_DISCONT) && ifile->last_ts != AV_NOPTS_VALUE) {
4280         int64_t delta   = pkt_dts - ifile->last_ts;
4281         if (delta < -1LL*dts_delta_threshold*AV_TIME_BASE ||
4282             delta >  1LL*dts_delta_threshold*AV_TIME_BASE){
4283             ifile->ts_offset -= delta;
4284             av_log(NULL, AV_LOG_DEBUG,
4285                    "Inter stream timestamp discontinuity %"PRId64", new offset= %"PRId64"\n",
4286                    delta, ifile->ts_offset);
4287             pkt.dts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
4288             if (pkt.pts != AV_NOPTS_VALUE)
4289                 pkt.pts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
4290         }
4291     }
4292
4293     duration = av_rescale_q(ifile->duration, ifile->time_base, ist->st->time_base);
4294     if (pkt.pts != AV_NOPTS_VALUE) {
4295         pkt.pts += duration;
4296         ist->max_pts = FFMAX(pkt.pts, ist->max_pts);
4297         ist->min_pts = FFMIN(pkt.pts, ist->min_pts);
4298     }
4299
4300     if (pkt.dts != AV_NOPTS_VALUE)
4301         pkt.dts += duration;
4302
4303     pkt_dts = av_rescale_q_rnd(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q, AV_ROUND_NEAR_INF|AV_ROUND_PASS_MINMAX);
4304     if ((ist->dec_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
4305          ist->dec_ctx->codec_type == AVMEDIA_TYPE_AUDIO) &&
4306          pkt_dts != AV_NOPTS_VALUE && ist->next_dts != AV_NOPTS_VALUE &&
4307         !copy_ts) {
4308         int64_t delta   = pkt_dts - ist->next_dts;
4309         if (is->iformat->flags & AVFMT_TS_DISCONT) {
4310             if (delta < -1LL*dts_delta_threshold*AV_TIME_BASE ||
4311                 delta >  1LL*dts_delta_threshold*AV_TIME_BASE ||
4312                 pkt_dts + AV_TIME_BASE/10 < FFMAX(ist->pts, ist->dts)) {
4313                 ifile->ts_offset -= delta;
4314                 av_log(NULL, AV_LOG_DEBUG,
4315                        "timestamp discontinuity %"PRId64", new offset= %"PRId64"\n",
4316                        delta, ifile->ts_offset);
4317                 pkt.dts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
4318                 if (pkt.pts != AV_NOPTS_VALUE)
4319                     pkt.pts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
4320             }
4321         } else {
4322             if ( delta < -1LL*dts_error_threshold*AV_TIME_BASE ||
4323                  delta >  1LL*dts_error_threshold*AV_TIME_BASE) {
4324                 av_log(NULL, AV_LOG_WARNING, "DTS %"PRId64", next:%"PRId64" st:%d invalid dropping\n", pkt.dts, ist->next_dts, pkt.stream_index);
4325                 pkt.dts = AV_NOPTS_VALUE;
4326             }
4327             if (pkt.pts != AV_NOPTS_VALUE){
4328                 int64_t pkt_pts = av_rescale_q(pkt.pts, ist->st->time_base, AV_TIME_BASE_Q);
4329                 delta   = pkt_pts - ist->next_dts;
4330                 if ( delta < -1LL*dts_error_threshold*AV_TIME_BASE ||
4331                      delta >  1LL*dts_error_threshold*AV_TIME_BASE) {
4332                     av_log(NULL, AV_LOG_WARNING, "PTS %"PRId64", next:%"PRId64" invalid dropping st:%d\n", pkt.pts, ist->next_dts, pkt.stream_index);
4333                     pkt.pts = AV_NOPTS_VALUE;
4334                 }