configure: Check for nanosleep in headers as well, not only in libs
[ffmpeg.git] / ffmpeg.c
1 /*
2  * Copyright (c) 2000-2003 Fabrice Bellard
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * multimedia converter based on the FFmpeg libraries
24  */
25
26 #include "config.h"
27 #include <ctype.h>
28 #include <string.h>
29 #include <math.h>
30 #include <stdlib.h>
31 #include <errno.h>
32 #include <limits.h>
33 #include <stdint.h>
34
35 #if HAVE_ISATTY
36 #if HAVE_IO_H
37 #include <io.h>
38 #endif
39 #if HAVE_UNISTD_H
40 #include <unistd.h>
41 #endif
42 #endif
43
44 #include "libavformat/avformat.h"
45 #include "libavdevice/avdevice.h"
46 #include "libswresample/swresample.h"
47 #include "libavutil/opt.h"
48 #include "libavutil/channel_layout.h"
49 #include "libavutil/parseutils.h"
50 #include "libavutil/samplefmt.h"
51 #include "libavutil/fifo.h"
52 #include "libavutil/intreadwrite.h"
53 #include "libavutil/dict.h"
54 #include "libavutil/mathematics.h"
55 #include "libavutil/pixdesc.h"
56 #include "libavutil/avstring.h"
57 #include "libavutil/libm.h"
58 #include "libavutil/imgutils.h"
59 #include "libavutil/timestamp.h"
60 #include "libavutil/bprint.h"
61 #include "libavutil/time.h"
62 #include "libavutil/threadmessage.h"
63 #include "libavformat/os_support.h"
64
65 #include "libavformat/ffm.h" // not public API
66
67 # include "libavfilter/avcodec.h"
68 # include "libavfilter/avfilter.h"
69 # include "libavfilter/buffersrc.h"
70 # include "libavfilter/buffersink.h"
71
72 #if HAVE_SYS_RESOURCE_H
73 #include <sys/time.h>
74 #include <sys/types.h>
75 #include <sys/resource.h>
76 #elif HAVE_GETPROCESSTIMES
77 #include <windows.h>
78 #endif
79 #if HAVE_GETPROCESSMEMORYINFO
80 #include <windows.h>
81 #include <psapi.h>
82 #endif
83
84 #if HAVE_SYS_SELECT_H
85 #include <sys/select.h>
86 #endif
87
88 #if HAVE_TERMIOS_H
89 #include <fcntl.h>
90 #include <sys/ioctl.h>
91 #include <sys/time.h>
92 #include <termios.h>
93 #elif HAVE_KBHIT
94 #include <conio.h>
95 #endif
96
97 #if HAVE_PTHREADS
98 #include <pthread.h>
99 #endif
100
101 #include <time.h>
102
103 #include "ffmpeg.h"
104 #include "cmdutils.h"
105
106 #include "libavutil/avassert.h"
107
108 const char program_name[] = "ffmpeg";
109 const int program_birth_year = 2000;
110
111 static FILE *vstats_file;
112
113 const char *const forced_keyframes_const_names[] = {
114     "n",
115     "n_forced",
116     "prev_forced_n",
117     "prev_forced_t",
118     "t",
119     NULL
120 };
121
122 static void do_video_stats(OutputStream *ost, int frame_size);
123 static int64_t getutime(void);
124 static int64_t getmaxrss(void);
125
126 static int run_as_daemon  = 0;
127 static int nb_frames_dup = 0;
128 static int nb_frames_drop = 0;
129 static int64_t decode_error_stat[2];
130
131 static int current_time;
132 AVIOContext *progress_avio = NULL;
133
134 static uint8_t *subtitle_out;
135
136 #define DEFAULT_PASS_LOGFILENAME_PREFIX "ffmpeg2pass"
137
138 InputStream **input_streams = NULL;
139 int        nb_input_streams = 0;
140 InputFile   **input_files   = NULL;
141 int        nb_input_files   = 0;
142
143 OutputStream **output_streams = NULL;
144 int         nb_output_streams = 0;
145 OutputFile   **output_files   = NULL;
146 int         nb_output_files   = 0;
147
148 FilterGraph **filtergraphs;
149 int        nb_filtergraphs;
150
151 #if HAVE_TERMIOS_H
152
153 /* init terminal so that we can grab keys */
154 static struct termios oldtty;
155 static int restore_tty;
156 #endif
157
158 static void free_input_threads(void);
159
160
161 /* sub2video hack:
162    Convert subtitles to video with alpha to insert them in filter graphs.
163    This is a temporary solution until libavfilter gets real subtitles support.
164  */
165
166 static int sub2video_get_blank_frame(InputStream *ist)
167 {
168     int ret;
169     AVFrame *frame = ist->sub2video.frame;
170
171     av_frame_unref(frame);
172     ist->sub2video.frame->width  = ist->sub2video.w;
173     ist->sub2video.frame->height = ist->sub2video.h;
174     ist->sub2video.frame->format = AV_PIX_FMT_RGB32;
175     if ((ret = av_frame_get_buffer(frame, 32)) < 0)
176         return ret;
177     memset(frame->data[0], 0, frame->height * frame->linesize[0]);
178     return 0;
179 }
180
181 static void sub2video_copy_rect(uint8_t *dst, int dst_linesize, int w, int h,
182                                 AVSubtitleRect *r)
183 {
184     uint32_t *pal, *dst2;
185     uint8_t *src, *src2;
186     int x, y;
187
188     if (r->type != SUBTITLE_BITMAP) {
189         av_log(NULL, AV_LOG_WARNING, "sub2video: non-bitmap subtitle\n");
190         return;
191     }
192     if (r->x < 0 || r->x + r->w > w || r->y < 0 || r->y + r->h > h) {
193         av_log(NULL, AV_LOG_WARNING, "sub2video: rectangle overflowing\n");
194         return;
195     }
196
197     dst += r->y * dst_linesize + r->x * 4;
198     src = r->pict.data[0];
199     pal = (uint32_t *)r->pict.data[1];
200     for (y = 0; y < r->h; y++) {
201         dst2 = (uint32_t *)dst;
202         src2 = src;
203         for (x = 0; x < r->w; x++)
204             *(dst2++) = pal[*(src2++)];
205         dst += dst_linesize;
206         src += r->pict.linesize[0];
207     }
208 }
209
210 static void sub2video_push_ref(InputStream *ist, int64_t pts)
211 {
212     AVFrame *frame = ist->sub2video.frame;
213     int i;
214
215     av_assert1(frame->data[0]);
216     ist->sub2video.last_pts = frame->pts = pts;
217     for (i = 0; i < ist->nb_filters; i++)
218         av_buffersrc_add_frame_flags(ist->filters[i]->filter, frame,
219                                      AV_BUFFERSRC_FLAG_KEEP_REF |
220                                      AV_BUFFERSRC_FLAG_PUSH);
221 }
222
223 static void sub2video_update(InputStream *ist, AVSubtitle *sub)
224 {
225     int w = ist->sub2video.w, h = ist->sub2video.h;
226     AVFrame *frame = ist->sub2video.frame;
227     int8_t *dst;
228     int     dst_linesize;
229     int num_rects, i;
230     int64_t pts, end_pts;
231
232     if (!frame)
233         return;
234     if (sub) {
235         pts       = av_rescale_q(sub->pts + sub->start_display_time * 1000LL,
236                                  AV_TIME_BASE_Q, ist->st->time_base);
237         end_pts   = av_rescale_q(sub->pts + sub->end_display_time   * 1000LL,
238                                  AV_TIME_BASE_Q, ist->st->time_base);
239         num_rects = sub->num_rects;
240     } else {
241         pts       = ist->sub2video.end_pts;
242         end_pts   = INT64_MAX;
243         num_rects = 0;
244     }
245     if (sub2video_get_blank_frame(ist) < 0) {
246         av_log(ist->dec_ctx, AV_LOG_ERROR,
247                "Impossible to get a blank canvas.\n");
248         return;
249     }
250     dst          = frame->data    [0];
251     dst_linesize = frame->linesize[0];
252     for (i = 0; i < num_rects; i++)
253         sub2video_copy_rect(dst, dst_linesize, w, h, sub->rects[i]);
254     sub2video_push_ref(ist, pts);
255     ist->sub2video.end_pts = end_pts;
256 }
257
258 static void sub2video_heartbeat(InputStream *ist, int64_t pts)
259 {
260     InputFile *infile = input_files[ist->file_index];
261     int i, j, nb_reqs;
262     int64_t pts2;
263
264     /* When a frame is read from a file, examine all sub2video streams in
265        the same file and send the sub2video frame again. Otherwise, decoded
266        video frames could be accumulating in the filter graph while a filter
267        (possibly overlay) is desperately waiting for a subtitle frame. */
268     for (i = 0; i < infile->nb_streams; i++) {
269         InputStream *ist2 = input_streams[infile->ist_index + i];
270         if (!ist2->sub2video.frame)
271             continue;
272         /* subtitles seem to be usually muxed ahead of other streams;
273            if not, subtracting a larger time here is necessary */
274         pts2 = av_rescale_q(pts, ist->st->time_base, ist2->st->time_base) - 1;
275         /* do not send the heartbeat frame if the subtitle is already ahead */
276         if (pts2 <= ist2->sub2video.last_pts)
277             continue;
278         if (pts2 >= ist2->sub2video.end_pts || !ist2->sub2video.frame->data[0])
279             sub2video_update(ist2, NULL);
280         for (j = 0, nb_reqs = 0; j < ist2->nb_filters; j++)
281             nb_reqs += av_buffersrc_get_nb_failed_requests(ist2->filters[j]->filter);
282         if (nb_reqs)
283             sub2video_push_ref(ist2, pts2);
284     }
285 }
286
287 static void sub2video_flush(InputStream *ist)
288 {
289     int i;
290
291     if (ist->sub2video.end_pts < INT64_MAX)
292         sub2video_update(ist, NULL);
293     for (i = 0; i < ist->nb_filters; i++)
294         av_buffersrc_add_ref(ist->filters[i]->filter, NULL, 0);
295 }
296
297 /* end of sub2video hack */
298
299 static void term_exit_sigsafe(void)
300 {
301 #if HAVE_TERMIOS_H
302     if(restore_tty)
303         tcsetattr (0, TCSANOW, &oldtty);
304 #endif
305 }
306
307 void term_exit(void)
308 {
309     av_log(NULL, AV_LOG_QUIET, "%s", "");
310     term_exit_sigsafe();
311 }
312
313 static volatile int received_sigterm = 0;
314 static volatile int received_nb_signals = 0;
315 static volatile int transcode_init_done = 0;
316 static int main_return_code = 0;
317
318 static void
319 sigterm_handler(int sig)
320 {
321     received_sigterm = sig;
322     received_nb_signals++;
323     term_exit_sigsafe();
324     if(received_nb_signals > 3)
325         exit(123);
326 }
327
328 void term_init(void)
329 {
330 #if HAVE_TERMIOS_H
331     if(!run_as_daemon){
332         struct termios tty;
333         int istty = 1;
334 #if HAVE_ISATTY
335         istty = isatty(0) && isatty(2);
336 #endif
337         if (istty && tcgetattr (0, &tty) == 0) {
338             oldtty = tty;
339             restore_tty = 1;
340
341             tty.c_iflag &= ~(IGNBRK|BRKINT|PARMRK|ISTRIP
342                              |INLCR|IGNCR|ICRNL|IXON);
343             tty.c_oflag |= OPOST;
344             tty.c_lflag &= ~(ECHO|ECHONL|ICANON|IEXTEN);
345             tty.c_cflag &= ~(CSIZE|PARENB);
346             tty.c_cflag |= CS8;
347             tty.c_cc[VMIN] = 1;
348             tty.c_cc[VTIME] = 0;
349
350             tcsetattr (0, TCSANOW, &tty);
351         }
352         signal(SIGQUIT, sigterm_handler); /* Quit (POSIX).  */
353     }
354 #endif
355     avformat_network_deinit();
356
357     signal(SIGINT , sigterm_handler); /* Interrupt (ANSI).    */
358     signal(SIGTERM, sigterm_handler); /* Termination (ANSI).  */
359 #ifdef SIGXCPU
360     signal(SIGXCPU, sigterm_handler);
361 #endif
362 }
363
364 /* read a key without blocking */
365 static int read_key(void)
366 {
367     unsigned char ch;
368 #if HAVE_TERMIOS_H
369     int n = 1;
370     struct timeval tv;
371     fd_set rfds;
372
373     FD_ZERO(&rfds);
374     FD_SET(0, &rfds);
375     tv.tv_sec = 0;
376     tv.tv_usec = 0;
377     n = select(1, &rfds, NULL, NULL, &tv);
378     if (n > 0) {
379         n = read(0, &ch, 1);
380         if (n == 1)
381             return ch;
382
383         return n;
384     }
385 #elif HAVE_KBHIT
386 #    if HAVE_PEEKNAMEDPIPE
387     static int is_pipe;
388     static HANDLE input_handle;
389     DWORD dw, nchars;
390     if(!input_handle){
391         input_handle = GetStdHandle(STD_INPUT_HANDLE);
392         is_pipe = !GetConsoleMode(input_handle, &dw);
393     }
394
395     if (stdin->_cnt > 0) {
396         read(0, &ch, 1);
397         return ch;
398     }
399     if (is_pipe) {
400         /* When running under a GUI, you will end here. */
401         if (!PeekNamedPipe(input_handle, NULL, 0, NULL, &nchars, NULL)) {
402             // input pipe may have been closed by the program that ran ffmpeg
403             return -1;
404         }
405         //Read it
406         if(nchars != 0) {
407             read(0, &ch, 1);
408             return ch;
409         }else{
410             return -1;
411         }
412     }
413 #    endif
414     if(kbhit())
415         return(getch());
416 #endif
417     return -1;
418 }
419
420 static int decode_interrupt_cb(void *ctx)
421 {
422     return received_nb_signals > transcode_init_done;
423 }
424
425 const AVIOInterruptCB int_cb = { decode_interrupt_cb, NULL };
426
427 static void ffmpeg_cleanup(int ret)
428 {
429     int i, j;
430
431     if (do_benchmark) {
432         int maxrss = getmaxrss() / 1024;
433         printf("bench: maxrss=%ikB\n", maxrss);
434     }
435
436     for (i = 0; i < nb_filtergraphs; i++) {
437         FilterGraph *fg = filtergraphs[i];
438         avfilter_graph_free(&fg->graph);
439         for (j = 0; j < fg->nb_inputs; j++) {
440             av_freep(&fg->inputs[j]->name);
441             av_freep(&fg->inputs[j]);
442         }
443         av_freep(&fg->inputs);
444         for (j = 0; j < fg->nb_outputs; j++) {
445             av_freep(&fg->outputs[j]->name);
446             av_freep(&fg->outputs[j]);
447         }
448         av_freep(&fg->outputs);
449         av_freep(&fg->graph_desc);
450
451         av_freep(&filtergraphs[i]);
452     }
453     av_freep(&filtergraphs);
454
455     av_freep(&subtitle_out);
456
457     /* close files */
458     for (i = 0; i < nb_output_files; i++) {
459         OutputFile *of = output_files[i];
460         AVFormatContext *s = of->ctx;
461         if (s && s->oformat && !(s->oformat->flags & AVFMT_NOFILE) && s->pb)
462             avio_close(s->pb);
463         avformat_free_context(s);
464         av_dict_free(&of->opts);
465
466         av_freep(&output_files[i]);
467     }
468     for (i = 0; i < nb_output_streams; i++) {
469         OutputStream *ost = output_streams[i];
470         AVBitStreamFilterContext *bsfc = ost->bitstream_filters;
471         while (bsfc) {
472             AVBitStreamFilterContext *next = bsfc->next;
473             av_bitstream_filter_close(bsfc);
474             bsfc = next;
475         }
476         ost->bitstream_filters = NULL;
477         av_frame_free(&ost->filtered_frame);
478
479         av_parser_close(ost->parser);
480
481         av_freep(&ost->forced_keyframes);
482         av_expr_free(ost->forced_keyframes_pexpr);
483         av_freep(&ost->avfilter);
484         av_freep(&ost->logfile_prefix);
485
486         avcodec_free_context(&ost->enc_ctx);
487
488         av_freep(&output_streams[i]);
489     }
490 #if HAVE_PTHREADS
491     free_input_threads();
492 #endif
493     for (i = 0; i < nb_input_files; i++) {
494         avformat_close_input(&input_files[i]->ctx);
495         av_freep(&input_files[i]);
496     }
497     for (i = 0; i < nb_input_streams; i++) {
498         InputStream *ist = input_streams[i];
499
500         av_frame_free(&ist->decoded_frame);
501         av_frame_free(&ist->filter_frame);
502         av_dict_free(&ist->decoder_opts);
503         avsubtitle_free(&ist->prev_sub.subtitle);
504         av_frame_free(&ist->sub2video.frame);
505         av_freep(&ist->filters);
506         av_freep(&ist->hwaccel_device);
507
508         avcodec_free_context(&ist->dec_ctx);
509
510         av_freep(&input_streams[i]);
511     }
512
513     if (vstats_file)
514         fclose(vstats_file);
515     av_free(vstats_filename);
516
517     av_freep(&input_streams);
518     av_freep(&input_files);
519     av_freep(&output_streams);
520     av_freep(&output_files);
521
522     uninit_opts();
523
524     avformat_network_deinit();
525
526     if (received_sigterm) {
527         av_log(NULL, AV_LOG_INFO, "Received signal %d: terminating.\n",
528                (int) received_sigterm);
529     } else if (ret && transcode_init_done) {
530         av_log(NULL, AV_LOG_INFO, "Conversion failed!\n");
531     }
532     term_exit();
533 }
534
535 void remove_avoptions(AVDictionary **a, AVDictionary *b)
536 {
537     AVDictionaryEntry *t = NULL;
538
539     while ((t = av_dict_get(b, "", t, AV_DICT_IGNORE_SUFFIX))) {
540         av_dict_set(a, t->key, NULL, AV_DICT_MATCH_CASE);
541     }
542 }
543
544 void assert_avoptions(AVDictionary *m)
545 {
546     AVDictionaryEntry *t;
547     if ((t = av_dict_get(m, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
548         av_log(NULL, AV_LOG_FATAL, "Option %s not found.\n", t->key);
549         exit_program(1);
550     }
551 }
552
553 static void abort_codec_experimental(AVCodec *c, int encoder)
554 {
555     exit_program(1);
556 }
557
558 static void update_benchmark(const char *fmt, ...)
559 {
560     if (do_benchmark_all) {
561         int64_t t = getutime();
562         va_list va;
563         char buf[1024];
564
565         if (fmt) {
566             va_start(va, fmt);
567             vsnprintf(buf, sizeof(buf), fmt, va);
568             va_end(va);
569             printf("bench: %8"PRIu64" %s \n", t - current_time, buf);
570         }
571         current_time = t;
572     }
573 }
574
575 static void close_all_output_streams(OutputStream *ost, OSTFinished this_stream, OSTFinished others)
576 {
577     int i;
578     for (i = 0; i < nb_output_streams; i++) {
579         OutputStream *ost2 = output_streams[i];
580         ost2->finished |= ost == ost2 ? this_stream : others;
581     }
582 }
583
584 static void write_frame(AVFormatContext *s, AVPacket *pkt, OutputStream *ost)
585 {
586     AVBitStreamFilterContext *bsfc = ost->bitstream_filters;
587     AVCodecContext          *avctx = ost->st->codec;
588     int ret;
589
590     if ((avctx->codec_type == AVMEDIA_TYPE_VIDEO && video_sync_method == VSYNC_DROP) ||
591         (avctx->codec_type == AVMEDIA_TYPE_AUDIO && audio_sync_method < 0))
592         pkt->pts = pkt->dts = AV_NOPTS_VALUE;
593
594     /*
595      * Audio encoders may split the packets --  #frames in != #packets out.
596      * But there is no reordering, so we can limit the number of output packets
597      * by simply dropping them here.
598      * Counting encoded video frames needs to be done separately because of
599      * reordering, see do_video_out()
600      */
601     if (!(avctx->codec_type == AVMEDIA_TYPE_VIDEO && avctx->codec)) {
602         if (ost->frame_number >= ost->max_frames) {
603             av_free_packet(pkt);
604             return;
605         }
606         ost->frame_number++;
607     }
608
609     if (bsfc)
610         av_packet_split_side_data(pkt);
611
612     while (bsfc) {
613         AVPacket new_pkt = *pkt;
614         int a = av_bitstream_filter_filter(bsfc, avctx, NULL,
615                                            &new_pkt.data, &new_pkt.size,
616                                            pkt->data, pkt->size,
617                                            pkt->flags & AV_PKT_FLAG_KEY);
618         if(a == 0 && new_pkt.data != pkt->data && new_pkt.destruct) {
619             uint8_t *t = av_malloc(new_pkt.size + FF_INPUT_BUFFER_PADDING_SIZE); //the new should be a subset of the old so cannot overflow
620             if(t) {
621                 memcpy(t, new_pkt.data, new_pkt.size);
622                 memset(t + new_pkt.size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
623                 new_pkt.data = t;
624                 new_pkt.buf = NULL;
625                 a = 1;
626             } else
627                 a = AVERROR(ENOMEM);
628         }
629         if (a > 0) {
630             av_free_packet(pkt);
631             new_pkt.buf = av_buffer_create(new_pkt.data, new_pkt.size,
632                                            av_buffer_default_free, NULL, 0);
633             if (!new_pkt.buf)
634                 exit_program(1);
635         } else if (a < 0) {
636             av_log(NULL, AV_LOG_ERROR, "Failed to open bitstream filter %s for stream %d with codec %s",
637                    bsfc->filter->name, pkt->stream_index,
638                    avctx->codec ? avctx->codec->name : "copy");
639             print_error("", a);
640             if (exit_on_error)
641                 exit_program(1);
642         }
643         *pkt = new_pkt;
644
645         bsfc = bsfc->next;
646     }
647
648     if (!(s->oformat->flags & AVFMT_NOTIMESTAMPS)) {
649      if(
650         (avctx->codec_type == AVMEDIA_TYPE_AUDIO || avctx->codec_type == AVMEDIA_TYPE_VIDEO) &&
651         pkt->dts != AV_NOPTS_VALUE &&
652         ost->last_mux_dts != AV_NOPTS_VALUE) {
653       int64_t max = ost->last_mux_dts + !(s->oformat->flags & AVFMT_TS_NONSTRICT);
654       if (pkt->dts < max) {
655         int loglevel = max - pkt->dts > 2 || avctx->codec_type == AVMEDIA_TYPE_VIDEO ? AV_LOG_WARNING : AV_LOG_DEBUG;
656         av_log(s, loglevel, "Non-monotonous DTS in output stream "
657                "%d:%d; previous: %"PRId64", current: %"PRId64"; ",
658                ost->file_index, ost->st->index, ost->last_mux_dts, pkt->dts);
659         if (exit_on_error) {
660             av_log(NULL, AV_LOG_FATAL, "aborting.\n");
661             exit_program(1);
662         }
663         av_log(s, loglevel, "changing to %"PRId64". This may result "
664                "in incorrect timestamps in the output file.\n",
665                max);
666         if(pkt->pts >= pkt->dts)
667             pkt->pts = FFMAX(pkt->pts, max);
668         pkt->dts = max;
669       }
670      }
671         if (pkt->dts != AV_NOPTS_VALUE &&
672             pkt->pts != AV_NOPTS_VALUE &&
673             pkt->dts > pkt->pts) {
674             av_log(s, AV_LOG_WARNING, "Invalid DTS: %"PRId64" PTS: %"PRId64" in output stream %d:%d\n",
675                    pkt->dts, pkt->pts,
676                    ost->file_index, ost->st->index);
677             pkt->pts = AV_NOPTS_VALUE;
678             pkt->dts = AV_NOPTS_VALUE;
679         }
680     }
681     ost->last_mux_dts = pkt->dts;
682
683     ost->data_size += pkt->size;
684     ost->packets_written++;
685
686     pkt->stream_index = ost->index;
687
688     if (debug_ts) {
689         av_log(NULL, AV_LOG_INFO, "muxer <- type:%s "
690                 "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s size:%d\n",
691                 av_get_media_type_string(ost->enc_ctx->codec_type),
692                 av_ts2str(pkt->pts), av_ts2timestr(pkt->pts, &ost->st->time_base),
693                 av_ts2str(pkt->dts), av_ts2timestr(pkt->dts, &ost->st->time_base),
694                 pkt->size
695               );
696     }
697
698     ret = av_interleaved_write_frame(s, pkt);
699     if (ret < 0) {
700         print_error("av_interleaved_write_frame()", ret);
701         main_return_code = 1;
702         close_all_output_streams(ost, MUXER_FINISHED | ENCODER_FINISHED, ENCODER_FINISHED);
703     }
704     av_free_packet(pkt);
705 }
706
707 static void close_output_stream(OutputStream *ost)
708 {
709     OutputFile *of = output_files[ost->file_index];
710
711     ost->finished |= ENCODER_FINISHED;
712     if (of->shortest) {
713         int64_t end = av_rescale_q(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, AV_TIME_BASE_Q);
714         of->recording_time = FFMIN(of->recording_time, end);
715     }
716 }
717
718 static int check_recording_time(OutputStream *ost)
719 {
720     OutputFile *of = output_files[ost->file_index];
721
722     if (of->recording_time != INT64_MAX &&
723         av_compare_ts(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, of->recording_time,
724                       AV_TIME_BASE_Q) >= 0) {
725         close_output_stream(ost);
726         return 0;
727     }
728     return 1;
729 }
730
731 static void do_audio_out(AVFormatContext *s, OutputStream *ost,
732                          AVFrame *frame)
733 {
734     AVCodecContext *enc = ost->enc_ctx;
735     AVPacket pkt;
736     int got_packet = 0;
737
738     av_init_packet(&pkt);
739     pkt.data = NULL;
740     pkt.size = 0;
741
742     if (!check_recording_time(ost))
743         return;
744
745     if (frame->pts == AV_NOPTS_VALUE || audio_sync_method < 0)
746         frame->pts = ost->sync_opts;
747     ost->sync_opts = frame->pts + frame->nb_samples;
748     ost->samples_encoded += frame->nb_samples;
749     ost->frames_encoded++;
750
751     av_assert0(pkt.size || !pkt.data);
752     update_benchmark(NULL);
753     if (debug_ts) {
754         av_log(NULL, AV_LOG_INFO, "encoder <- type:audio "
755                "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
756                av_ts2str(frame->pts), av_ts2timestr(frame->pts, &enc->time_base),
757                enc->time_base.num, enc->time_base.den);
758     }
759
760     if (avcodec_encode_audio2(enc, &pkt, frame, &got_packet) < 0) {
761         av_log(NULL, AV_LOG_FATAL, "Audio encoding failed (avcodec_encode_audio2)\n");
762         exit_program(1);
763     }
764     update_benchmark("encode_audio %d.%d", ost->file_index, ost->index);
765
766     if (got_packet) {
767         av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
768
769         if (debug_ts) {
770             av_log(NULL, AV_LOG_INFO, "encoder -> type:audio "
771                    "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
772                    av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ost->st->time_base),
773                    av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ost->st->time_base));
774         }
775
776         write_frame(s, &pkt, ost);
777     }
778 }
779
780 static void do_subtitle_out(AVFormatContext *s,
781                             OutputStream *ost,
782                             InputStream *ist,
783                             AVSubtitle *sub)
784 {
785     int subtitle_out_max_size = 1024 * 1024;
786     int subtitle_out_size, nb, i;
787     AVCodecContext *enc;
788     AVPacket pkt;
789     int64_t pts;
790
791     if (sub->pts == AV_NOPTS_VALUE) {
792         av_log(NULL, AV_LOG_ERROR, "Subtitle packets must have a pts\n");
793         if (exit_on_error)
794             exit_program(1);
795         return;
796     }
797
798     enc = ost->enc_ctx;
799
800     if (!subtitle_out) {
801         subtitle_out = av_malloc(subtitle_out_max_size);
802     }
803
804     /* Note: DVB subtitle need one packet to draw them and one other
805        packet to clear them */
806     /* XXX: signal it in the codec context ? */
807     if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
808         nb = 2;
809     else
810         nb = 1;
811
812     /* shift timestamp to honor -ss and make check_recording_time() work with -t */
813     pts = sub->pts;
814     if (output_files[ost->file_index]->start_time != AV_NOPTS_VALUE)
815         pts -= output_files[ost->file_index]->start_time;
816     for (i = 0; i < nb; i++) {
817         unsigned save_num_rects = sub->num_rects;
818
819         ost->sync_opts = av_rescale_q(pts, AV_TIME_BASE_Q, enc->time_base);
820         if (!check_recording_time(ost))
821             return;
822
823         sub->pts = pts;
824         // start_display_time is required to be 0
825         sub->pts               += av_rescale_q(sub->start_display_time, (AVRational){ 1, 1000 }, AV_TIME_BASE_Q);
826         sub->end_display_time  -= sub->start_display_time;
827         sub->start_display_time = 0;
828         if (i == 1)
829             sub->num_rects = 0;
830
831         ost->frames_encoded++;
832
833         subtitle_out_size = avcodec_encode_subtitle(enc, subtitle_out,
834                                                     subtitle_out_max_size, sub);
835         if (i == 1)
836             sub->num_rects = save_num_rects;
837         if (subtitle_out_size < 0) {
838             av_log(NULL, AV_LOG_FATAL, "Subtitle encoding failed\n");
839             exit_program(1);
840         }
841
842         av_init_packet(&pkt);
843         pkt.data = subtitle_out;
844         pkt.size = subtitle_out_size;
845         pkt.pts  = av_rescale_q(sub->pts, AV_TIME_BASE_Q, ost->st->time_base);
846         pkt.duration = av_rescale_q(sub->end_display_time, (AVRational){ 1, 1000 }, ost->st->time_base);
847         if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE) {
848             /* XXX: the pts correction is handled here. Maybe handling
849                it in the codec would be better */
850             if (i == 0)
851                 pkt.pts += 90 * sub->start_display_time;
852             else
853                 pkt.pts += 90 * sub->end_display_time;
854         }
855         pkt.dts = pkt.pts;
856         write_frame(s, &pkt, ost);
857     }
858 }
859
860 static void do_video_out(AVFormatContext *s,
861                          OutputStream *ost,
862                          AVFrame *in_picture)
863 {
864     int ret, format_video_sync;
865     AVPacket pkt;
866     AVCodecContext *enc = ost->enc_ctx;
867     AVCodecContext *mux_enc = ost->st->codec;
868     int nb_frames, i;
869     double sync_ipts, delta;
870     double duration = 0;
871     int frame_size = 0;
872     InputStream *ist = NULL;
873
874     if (ost->source_index >= 0)
875         ist = input_streams[ost->source_index];
876
877     if(ist && ist->st->start_time != AV_NOPTS_VALUE && ist->st->first_dts != AV_NOPTS_VALUE && ost->frame_rate.num)
878         duration = 1/(av_q2d(ost->frame_rate) * av_q2d(enc->time_base));
879
880     sync_ipts = in_picture->pts;
881     delta = sync_ipts - ost->sync_opts + duration;
882
883     /* by default, we output a single frame */
884     nb_frames = 1;
885
886     format_video_sync = video_sync_method;
887     if (format_video_sync == VSYNC_AUTO) {
888         if(!strcmp(s->oformat->name, "avi")) {
889             format_video_sync = VSYNC_VFR;
890         } else
891             format_video_sync = (s->oformat->flags & AVFMT_VARIABLE_FPS) ? ((s->oformat->flags & AVFMT_NOTIMESTAMPS) ? VSYNC_PASSTHROUGH : VSYNC_VFR) : VSYNC_CFR;
892         if (   ist
893             && format_video_sync == VSYNC_CFR
894             && input_files[ist->file_index]->ctx->nb_streams == 1
895             && input_files[ist->file_index]->input_ts_offset == 0) {
896             format_video_sync = VSYNC_VSCFR;
897         }
898         if (format_video_sync == VSYNC_CFR && copy_ts) {
899             format_video_sync = VSYNC_VSCFR;
900         }
901     }
902
903     switch (format_video_sync) {
904     case VSYNC_VSCFR:
905         if (ost->frame_number == 0 && delta - duration >= 0.5) {
906             av_log(NULL, AV_LOG_DEBUG, "Not duplicating %d initial frames\n", (int)lrintf(delta - duration));
907             delta = duration;
908             ost->sync_opts = lrint(sync_ipts);
909         }
910     case VSYNC_CFR:
911         // FIXME set to 0.5 after we fix some dts/pts bugs like in avidec.c
912         if (delta < -1.1)
913             nb_frames = 0;
914         else if (delta > 1.1)
915             nb_frames = lrintf(delta);
916         break;
917     case VSYNC_VFR:
918         if (delta <= -0.6)
919             nb_frames = 0;
920         else if (delta > 0.6)
921             ost->sync_opts = lrint(sync_ipts);
922         break;
923     case VSYNC_DROP:
924     case VSYNC_PASSTHROUGH:
925         ost->sync_opts = lrint(sync_ipts);
926         break;
927     default:
928         av_assert0(0);
929     }
930
931     nb_frames = FFMIN(nb_frames, ost->max_frames - ost->frame_number);
932     if (nb_frames == 0) {
933         nb_frames_drop++;
934         av_log(NULL, AV_LOG_VERBOSE,
935                "*** dropping frame %d from stream %d at ts %"PRId64"\n",
936                ost->frame_number, ost->st->index, in_picture->pts);
937         return;
938     } else if (nb_frames > 1) {
939         if (nb_frames > dts_error_threshold * 30) {
940             av_log(NULL, AV_LOG_ERROR, "%d frame duplication too large, skipping\n", nb_frames - 1);
941             nb_frames_drop++;
942             return;
943         }
944         nb_frames_dup += nb_frames - 1;
945         av_log(NULL, AV_LOG_VERBOSE, "*** %d dup!\n", nb_frames - 1);
946     }
947
948   /* duplicates frame if needed */
949   for (i = 0; i < nb_frames; i++) {
950     av_init_packet(&pkt);
951     pkt.data = NULL;
952     pkt.size = 0;
953
954     in_picture->pts = ost->sync_opts;
955
956 #if 1
957     if (!check_recording_time(ost))
958 #else
959     if (ost->frame_number >= ost->max_frames)
960 #endif
961         return;
962
963     if (s->oformat->flags & AVFMT_RAWPICTURE &&
964         enc->codec->id == AV_CODEC_ID_RAWVIDEO) {
965         /* raw pictures are written as AVPicture structure to
966            avoid any copies. We support temporarily the older
967            method. */
968         mux_enc->coded_frame->interlaced_frame = in_picture->interlaced_frame;
969         mux_enc->coded_frame->top_field_first  = in_picture->top_field_first;
970         if (mux_enc->coded_frame->interlaced_frame)
971             mux_enc->field_order = mux_enc->coded_frame->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
972         else
973             mux_enc->field_order = AV_FIELD_PROGRESSIVE;
974         pkt.data   = (uint8_t *)in_picture;
975         pkt.size   =  sizeof(AVPicture);
976         pkt.pts    = av_rescale_q(in_picture->pts, enc->time_base, ost->st->time_base);
977         pkt.flags |= AV_PKT_FLAG_KEY;
978
979         write_frame(s, &pkt, ost);
980     } else {
981         int got_packet, forced_keyframe = 0;
982         double pts_time;
983
984         if (enc->flags & (CODEC_FLAG_INTERLACED_DCT|CODEC_FLAG_INTERLACED_ME) &&
985             ost->top_field_first >= 0)
986             in_picture->top_field_first = !!ost->top_field_first;
987
988         if (in_picture->interlaced_frame) {
989             if (enc->codec->id == AV_CODEC_ID_MJPEG)
990                 mux_enc->field_order = in_picture->top_field_first ? AV_FIELD_TT:AV_FIELD_BB;
991             else
992                 mux_enc->field_order = in_picture->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
993         } else
994             mux_enc->field_order = AV_FIELD_PROGRESSIVE;
995
996         in_picture->quality = enc->global_quality;
997         if (!enc->me_threshold)
998             in_picture->pict_type = 0;
999
1000         pts_time = in_picture->pts != AV_NOPTS_VALUE ?
1001             in_picture->pts * av_q2d(enc->time_base) : NAN;
1002         if (ost->forced_kf_index < ost->forced_kf_count &&
1003             in_picture->pts >= ost->forced_kf_pts[ost->forced_kf_index]) {
1004             ost->forced_kf_index++;
1005             forced_keyframe = 1;
1006         } else if (ost->forced_keyframes_pexpr) {
1007             double res;
1008             ost->forced_keyframes_expr_const_values[FKF_T] = pts_time;
1009             res = av_expr_eval(ost->forced_keyframes_pexpr,
1010                                ost->forced_keyframes_expr_const_values, NULL);
1011             av_dlog(NULL, "force_key_frame: n:%f n_forced:%f prev_forced_n:%f t:%f prev_forced_t:%f -> res:%f\n",
1012                     ost->forced_keyframes_expr_const_values[FKF_N],
1013                     ost->forced_keyframes_expr_const_values[FKF_N_FORCED],
1014                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N],
1015                     ost->forced_keyframes_expr_const_values[FKF_T],
1016                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T],
1017                     res);
1018             if (res) {
1019                 forced_keyframe = 1;
1020                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] =
1021                     ost->forced_keyframes_expr_const_values[FKF_N];
1022                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] =
1023                     ost->forced_keyframes_expr_const_values[FKF_T];
1024                 ost->forced_keyframes_expr_const_values[FKF_N_FORCED] += 1;
1025             }
1026
1027             ost->forced_keyframes_expr_const_values[FKF_N] += 1;
1028         }
1029
1030         if (forced_keyframe) {
1031             in_picture->pict_type = AV_PICTURE_TYPE_I;
1032             av_log(NULL, AV_LOG_DEBUG, "Forced keyframe at time %f\n", pts_time);
1033         }
1034
1035         update_benchmark(NULL);
1036         if (debug_ts) {
1037             av_log(NULL, AV_LOG_INFO, "encoder <- type:video "
1038                    "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
1039                    av_ts2str(in_picture->pts), av_ts2timestr(in_picture->pts, &enc->time_base),
1040                    enc->time_base.num, enc->time_base.den);
1041         }
1042
1043         ost->frames_encoded++;
1044
1045         ret = avcodec_encode_video2(enc, &pkt, in_picture, &got_packet);
1046         update_benchmark("encode_video %d.%d", ost->file_index, ost->index);
1047         if (ret < 0) {
1048             av_log(NULL, AV_LOG_FATAL, "Video encoding failed\n");
1049             exit_program(1);
1050         }
1051
1052         if (got_packet) {
1053             if (debug_ts) {
1054                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1055                        "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1056                        av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &enc->time_base),
1057                        av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &enc->time_base));
1058             }
1059
1060             if (pkt.pts == AV_NOPTS_VALUE && !(enc->codec->capabilities & CODEC_CAP_DELAY))
1061                 pkt.pts = ost->sync_opts;
1062
1063             av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
1064
1065             if (debug_ts) {
1066                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1067                     "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1068                     av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ost->st->time_base),
1069                     av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ost->st->time_base));
1070             }
1071
1072             frame_size = pkt.size;
1073             write_frame(s, &pkt, ost);
1074
1075             /* if two pass, output log */
1076             if (ost->logfile && enc->stats_out) {
1077                 fprintf(ost->logfile, "%s", enc->stats_out);
1078             }
1079         }
1080     }
1081     ost->sync_opts++;
1082     /*
1083      * For video, number of frames in == number of packets out.
1084      * But there may be reordering, so we can't throw away frames on encoder
1085      * flush, we need to limit them here, before they go into encoder.
1086      */
1087     ost->frame_number++;
1088
1089     if (vstats_filename && frame_size)
1090         do_video_stats(ost, frame_size);
1091   }
1092 }
1093
1094 static double psnr(double d)
1095 {
1096     return -10.0 * log(d) / log(10.0);
1097 }
1098
1099 static void do_video_stats(OutputStream *ost, int frame_size)
1100 {
1101     AVCodecContext *enc;
1102     int frame_number;
1103     double ti1, bitrate, avg_bitrate;
1104
1105     /* this is executed just the first time do_video_stats is called */
1106     if (!vstats_file) {
1107         vstats_file = fopen(vstats_filename, "w");
1108         if (!vstats_file) {
1109             perror("fopen");
1110             exit_program(1);
1111         }
1112     }
1113
1114     enc = ost->enc_ctx;
1115     if (enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1116         frame_number = ost->st->nb_frames;
1117         fprintf(vstats_file, "frame= %5d q= %2.1f ", frame_number, enc->coded_frame->quality / (float)FF_QP2LAMBDA);
1118         if (enc->flags&CODEC_FLAG_PSNR)
1119             fprintf(vstats_file, "PSNR= %6.2f ", psnr(enc->coded_frame->error[0] / (enc->width * enc->height * 255.0 * 255.0)));
1120
1121         fprintf(vstats_file,"f_size= %6d ", frame_size);
1122         /* compute pts value */
1123         ti1 = av_stream_get_end_pts(ost->st) * av_q2d(ost->st->time_base);
1124         if (ti1 < 0.01)
1125             ti1 = 0.01;
1126
1127         bitrate     = (frame_size * 8) / av_q2d(enc->time_base) / 1000.0;
1128         avg_bitrate = (double)(ost->data_size * 8) / ti1 / 1000.0;
1129         fprintf(vstats_file, "s_size= %8.0fkB time= %0.3f br= %7.1fkbits/s avg_br= %7.1fkbits/s ",
1130                (double)ost->data_size / 1024, ti1, bitrate, avg_bitrate);
1131         fprintf(vstats_file, "type= %c\n", av_get_picture_type_char(enc->coded_frame->pict_type));
1132     }
1133 }
1134
1135 static void finish_output_stream(OutputStream *ost)
1136 {
1137     OutputFile *of = output_files[ost->file_index];
1138     int i;
1139
1140     ost->finished = ENCODER_FINISHED | MUXER_FINISHED;
1141
1142     if (of->shortest) {
1143         for (i = 0; i < of->ctx->nb_streams; i++)
1144             output_streams[of->ost_index + i]->finished = ENCODER_FINISHED | MUXER_FINISHED;
1145     }
1146 }
1147
1148 /**
1149  * Get and encode new output from any of the filtergraphs, without causing
1150  * activity.
1151  *
1152  * @return  0 for success, <0 for severe errors
1153  */
1154 static int reap_filters(void)
1155 {
1156     AVFrame *filtered_frame = NULL;
1157     int i;
1158     int64_t frame_pts;
1159
1160     /* Reap all buffers present in the buffer sinks */
1161     for (i = 0; i < nb_output_streams; i++) {
1162         OutputStream *ost = output_streams[i];
1163         OutputFile    *of = output_files[ost->file_index];
1164         AVFilterContext *filter;
1165         AVCodecContext *enc = ost->enc_ctx;
1166         int ret = 0;
1167
1168         if (!ost->filter)
1169             continue;
1170         filter = ost->filter->filter;
1171
1172         if (!ost->filtered_frame && !(ost->filtered_frame = av_frame_alloc())) {
1173             return AVERROR(ENOMEM);
1174         }
1175         filtered_frame = ost->filtered_frame;
1176
1177         while (1) {
1178             ret = av_buffersink_get_frame_flags(filter, filtered_frame,
1179                                                AV_BUFFERSINK_FLAG_NO_REQUEST);
1180             if (ret < 0) {
1181                 if (ret != AVERROR(EAGAIN) && ret != AVERROR_EOF) {
1182                     av_log(NULL, AV_LOG_WARNING,
1183                            "Error in av_buffersink_get_frame_flags(): %s\n", av_err2str(ret));
1184                 }
1185                 break;
1186             }
1187             if (ost->finished) {
1188                 av_frame_unref(filtered_frame);
1189                 continue;
1190             }
1191             frame_pts = AV_NOPTS_VALUE;
1192             if (filtered_frame->pts != AV_NOPTS_VALUE) {
1193                 int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1194                 filtered_frame->pts = frame_pts =
1195                     av_rescale_q(filtered_frame->pts, filter->inputs[0]->time_base, enc->time_base) -
1196                     av_rescale_q(start_time, AV_TIME_BASE_Q, enc->time_base);
1197             }
1198             //if (ost->source_index >= 0)
1199             //    *filtered_frame= *input_streams[ost->source_index]->decoded_frame; //for me_threshold
1200
1201             switch (filter->inputs[0]->type) {
1202             case AVMEDIA_TYPE_VIDEO:
1203                 filtered_frame->pts = frame_pts;
1204                 if (!ost->frame_aspect_ratio.num)
1205                     enc->sample_aspect_ratio = filtered_frame->sample_aspect_ratio;
1206
1207                 if (debug_ts) {
1208                     av_log(NULL, AV_LOG_INFO, "filter -> pts:%s pts_time:%s time_base:%d/%d\n",
1209                             av_ts2str(filtered_frame->pts), av_ts2timestr(filtered_frame->pts, &enc->time_base),
1210                             enc->time_base.num, enc->time_base.den);
1211                 }
1212
1213                 do_video_out(of->ctx, ost, filtered_frame);
1214                 break;
1215             case AVMEDIA_TYPE_AUDIO:
1216                 filtered_frame->pts = frame_pts;
1217                 if (!(enc->codec->capabilities & CODEC_CAP_PARAM_CHANGE) &&
1218                     enc->channels != av_frame_get_channels(filtered_frame)) {
1219                     av_log(NULL, AV_LOG_ERROR,
1220                            "Audio filter graph output is not normalized and encoder does not support parameter changes\n");
1221                     break;
1222                 }
1223                 do_audio_out(of->ctx, ost, filtered_frame);
1224                 break;
1225             default:
1226                 // TODO support subtitle filters
1227                 av_assert0(0);
1228             }
1229
1230             av_frame_unref(filtered_frame);
1231         }
1232     }
1233
1234     return 0;
1235 }
1236
1237 static void print_final_stats(int64_t total_size)
1238 {
1239     uint64_t video_size = 0, audio_size = 0, extra_size = 0, other_size = 0;
1240     uint64_t subtitle_size = 0;
1241     uint64_t data_size = 0;
1242     float percent = -1.0;
1243     int i, j;
1244
1245     for (i = 0; i < nb_output_streams; i++) {
1246         OutputStream *ost = output_streams[i];
1247         switch (ost->enc_ctx->codec_type) {
1248             case AVMEDIA_TYPE_VIDEO: video_size += ost->data_size; break;
1249             case AVMEDIA_TYPE_AUDIO: audio_size += ost->data_size; break;
1250             case AVMEDIA_TYPE_SUBTITLE: subtitle_size += ost->data_size; break;
1251             default:                 other_size += ost->data_size; break;
1252         }
1253         extra_size += ost->enc_ctx->extradata_size;
1254         data_size  += ost->data_size;
1255     }
1256
1257     if (data_size && total_size>0 && total_size >= data_size)
1258         percent = 100.0 * (total_size - data_size) / data_size;
1259
1260     av_log(NULL, AV_LOG_INFO, "\n");
1261     av_log(NULL, AV_LOG_INFO, "video:%1.0fkB audio:%1.0fkB subtitle:%1.0fkB other streams:%1.0fkB global headers:%1.0fkB muxing overhead: ",
1262            video_size / 1024.0,
1263            audio_size / 1024.0,
1264            subtitle_size / 1024.0,
1265            other_size / 1024.0,
1266            extra_size / 1024.0);
1267     if (percent >= 0.0)
1268         av_log(NULL, AV_LOG_INFO, "%f%%", percent);
1269     else
1270         av_log(NULL, AV_LOG_INFO, "unknown");
1271     av_log(NULL, AV_LOG_INFO, "\n");
1272
1273     /* print verbose per-stream stats */
1274     for (i = 0; i < nb_input_files; i++) {
1275         InputFile *f = input_files[i];
1276         uint64_t total_packets = 0, total_size = 0;
1277
1278         av_log(NULL, AV_LOG_VERBOSE, "Input file #%d (%s):\n",
1279                i, f->ctx->filename);
1280
1281         for (j = 0; j < f->nb_streams; j++) {
1282             InputStream *ist = input_streams[f->ist_index + j];
1283             enum AVMediaType type = ist->dec_ctx->codec_type;
1284
1285             total_size    += ist->data_size;
1286             total_packets += ist->nb_packets;
1287
1288             av_log(NULL, AV_LOG_VERBOSE, "  Input stream #%d:%d (%s): ",
1289                    i, j, media_type_string(type));
1290             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets read (%"PRIu64" bytes); ",
1291                    ist->nb_packets, ist->data_size);
1292
1293             if (ist->decoding_needed) {
1294                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames decoded",
1295                        ist->frames_decoded);
1296                 if (type == AVMEDIA_TYPE_AUDIO)
1297                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ist->samples_decoded);
1298                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1299             }
1300
1301             av_log(NULL, AV_LOG_VERBOSE, "\n");
1302         }
1303
1304         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) demuxed\n",
1305                total_packets, total_size);
1306     }
1307
1308     for (i = 0; i < nb_output_files; i++) {
1309         OutputFile *of = output_files[i];
1310         uint64_t total_packets = 0, total_size = 0;
1311
1312         av_log(NULL, AV_LOG_VERBOSE, "Output file #%d (%s):\n",
1313                i, of->ctx->filename);
1314
1315         for (j = 0; j < of->ctx->nb_streams; j++) {
1316             OutputStream *ost = output_streams[of->ost_index + j];
1317             enum AVMediaType type = ost->enc_ctx->codec_type;
1318
1319             total_size    += ost->data_size;
1320             total_packets += ost->packets_written;
1321
1322             av_log(NULL, AV_LOG_VERBOSE, "  Output stream #%d:%d (%s): ",
1323                    i, j, media_type_string(type));
1324             if (ost->encoding_needed) {
1325                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames encoded",
1326                        ost->frames_encoded);
1327                 if (type == AVMEDIA_TYPE_AUDIO)
1328                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ost->samples_encoded);
1329                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1330             }
1331
1332             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets muxed (%"PRIu64" bytes); ",
1333                    ost->packets_written, ost->data_size);
1334
1335             av_log(NULL, AV_LOG_VERBOSE, "\n");
1336         }
1337
1338         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) muxed\n",
1339                total_packets, total_size);
1340     }
1341     if(video_size + data_size + audio_size + subtitle_size + extra_size == 0){
1342         av_log(NULL, AV_LOG_WARNING, "Output file is empty, nothing was encoded (check -ss / -t / -frames parameters if used)\n");
1343     }
1344 }
1345
1346 static void print_report(int is_last_report, int64_t timer_start, int64_t cur_time)
1347 {
1348     char buf[1024];
1349     AVBPrint buf_script;
1350     OutputStream *ost;
1351     AVFormatContext *oc;
1352     int64_t total_size;
1353     AVCodecContext *enc;
1354     int frame_number, vid, i;
1355     double bitrate;
1356     int64_t pts = INT64_MIN;
1357     static int64_t last_time = -1;
1358     static int qp_histogram[52];
1359     int hours, mins, secs, us;
1360
1361     if (!print_stats && !is_last_report && !progress_avio)
1362         return;
1363
1364     if (!is_last_report) {
1365         if (last_time == -1) {
1366             last_time = cur_time;
1367             return;
1368         }
1369         if ((cur_time - last_time) < 500000)
1370             return;
1371         last_time = cur_time;
1372     }
1373
1374
1375     oc = output_files[0]->ctx;
1376
1377     total_size = avio_size(oc->pb);
1378     if (total_size <= 0) // FIXME improve avio_size() so it works with non seekable output too
1379         total_size = avio_tell(oc->pb);
1380
1381     buf[0] = '\0';
1382     vid = 0;
1383     av_bprint_init(&buf_script, 0, 1);
1384     for (i = 0; i < nb_output_streams; i++) {
1385         float q = -1;
1386         ost = output_streams[i];
1387         enc = ost->enc_ctx;
1388         if (!ost->stream_copy && enc->coded_frame)
1389             q = enc->coded_frame->quality / (float)FF_QP2LAMBDA;
1390         if (vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1391             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "q=%2.1f ", q);
1392             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1393                        ost->file_index, ost->index, q);
1394         }
1395         if (!vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1396             float fps, t = (cur_time-timer_start) / 1000000.0;
1397
1398             frame_number = ost->frame_number;
1399             fps = t > 1 ? frame_number / t : 0;
1400             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "frame=%5d fps=%3.*f q=%3.1f ",
1401                      frame_number, fps < 9.95, fps, q);
1402             av_bprintf(&buf_script, "frame=%d\n", frame_number);
1403             av_bprintf(&buf_script, "fps=%.1f\n", fps);
1404             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1405                        ost->file_index, ost->index, q);
1406             if (is_last_report)
1407                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "L");
1408             if (qp_hist) {
1409                 int j;
1410                 int qp = lrintf(q);
1411                 if (qp >= 0 && qp < FF_ARRAY_ELEMS(qp_histogram))
1412                     qp_histogram[qp]++;
1413                 for (j = 0; j < 32; j++)
1414                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%X", (int)lrintf(log2(qp_histogram[j] + 1)));
1415             }
1416             if ((enc->flags&CODEC_FLAG_PSNR) && (enc->coded_frame || is_last_report)) {
1417                 int j;
1418                 double error, error_sum = 0;
1419                 double scale, scale_sum = 0;
1420                 double p;
1421                 char type[3] = { 'Y','U','V' };
1422                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "PSNR=");
1423                 for (j = 0; j < 3; j++) {
1424                     if (is_last_report) {
1425                         error = enc->error[j];
1426                         scale = enc->width * enc->height * 255.0 * 255.0 * frame_number;
1427                     } else {
1428                         error = enc->coded_frame->error[j];
1429                         scale = enc->width * enc->height * 255.0 * 255.0;
1430                     }
1431                     if (j)
1432                         scale /= 4;
1433                     error_sum += error;
1434                     scale_sum += scale;
1435                     p = psnr(error / scale);
1436                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%c:%2.2f ", type[j], p);
1437                     av_bprintf(&buf_script, "stream_%d_%d_psnr_%c=%2.2f\n",
1438                                ost->file_index, ost->index, type[j] | 32, p);
1439                 }
1440                 p = psnr(error_sum / scale_sum);
1441                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "*:%2.2f ", psnr(error_sum / scale_sum));
1442                 av_bprintf(&buf_script, "stream_%d_%d_psnr_all=%2.2f\n",
1443                            ost->file_index, ost->index, p);
1444             }
1445             vid = 1;
1446         }
1447         /* compute min output value */
1448         if (av_stream_get_end_pts(ost->st) != AV_NOPTS_VALUE)
1449             pts = FFMAX(pts, av_rescale_q(av_stream_get_end_pts(ost->st),
1450                                           ost->st->time_base, AV_TIME_BASE_Q));
1451     }
1452
1453     secs = pts / AV_TIME_BASE;
1454     us = pts % AV_TIME_BASE;
1455     mins = secs / 60;
1456     secs %= 60;
1457     hours = mins / 60;
1458     mins %= 60;
1459
1460     bitrate = pts && total_size >= 0 ? total_size * 8 / (pts / 1000.0) : -1;
1461
1462     if (total_size < 0) snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1463                                  "size=N/A time=");
1464     else                snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1465                                  "size=%8.0fkB time=", total_size / 1024.0);
1466     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1467              "%02d:%02d:%02d.%02d ", hours, mins, secs,
1468              (100 * us) / AV_TIME_BASE);
1469     if (bitrate < 0) snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1470                               "bitrate=N/A");
1471     else             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1472                               "bitrate=%6.1fkbits/s", bitrate);
1473     if (total_size < 0) av_bprintf(&buf_script, "total_size=N/A\n");
1474     else                av_bprintf(&buf_script, "total_size=%"PRId64"\n", total_size);
1475     av_bprintf(&buf_script, "out_time_ms=%"PRId64"\n", pts);
1476     av_bprintf(&buf_script, "out_time=%02d:%02d:%02d.%06d\n",
1477                hours, mins, secs, us);
1478
1479     if (nb_frames_dup || nb_frames_drop)
1480         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), " dup=%d drop=%d",
1481                 nb_frames_dup, nb_frames_drop);
1482     av_bprintf(&buf_script, "dup_frames=%d\n", nb_frames_dup);
1483     av_bprintf(&buf_script, "drop_frames=%d\n", nb_frames_drop);
1484
1485     if (print_stats || is_last_report) {
1486         if (print_stats==1 && AV_LOG_INFO > av_log_get_level()) {
1487             fprintf(stderr, "%s    \r", buf);
1488         } else
1489             av_log(NULL, AV_LOG_INFO, "%s    \r", buf);
1490
1491     fflush(stderr);
1492     }
1493
1494     if (progress_avio) {
1495         av_bprintf(&buf_script, "progress=%s\n",
1496                    is_last_report ? "end" : "continue");
1497         avio_write(progress_avio, buf_script.str,
1498                    FFMIN(buf_script.len, buf_script.size - 1));
1499         avio_flush(progress_avio);
1500         av_bprint_finalize(&buf_script, NULL);
1501         if (is_last_report) {
1502             avio_close(progress_avio);
1503             progress_avio = NULL;
1504         }
1505     }
1506
1507     if (is_last_report)
1508         print_final_stats(total_size);
1509 }
1510
1511 static void flush_encoders(void)
1512 {
1513     int i, ret;
1514
1515     for (i = 0; i < nb_output_streams; i++) {
1516         OutputStream   *ost = output_streams[i];
1517         AVCodecContext *enc = ost->enc_ctx;
1518         AVFormatContext *os = output_files[ost->file_index]->ctx;
1519         int stop_encoding = 0;
1520
1521         if (!ost->encoding_needed)
1522             continue;
1523
1524         if (enc->codec_type == AVMEDIA_TYPE_AUDIO && enc->frame_size <= 1)
1525             continue;
1526         if (enc->codec_type == AVMEDIA_TYPE_VIDEO && (os->oformat->flags & AVFMT_RAWPICTURE) && enc->codec->id == AV_CODEC_ID_RAWVIDEO)
1527             continue;
1528
1529         for (;;) {
1530             int (*encode)(AVCodecContext*, AVPacket*, const AVFrame*, int*) = NULL;
1531             const char *desc;
1532
1533             switch (enc->codec_type) {
1534             case AVMEDIA_TYPE_AUDIO:
1535                 encode = avcodec_encode_audio2;
1536                 desc   = "Audio";
1537                 break;
1538             case AVMEDIA_TYPE_VIDEO:
1539                 encode = avcodec_encode_video2;
1540                 desc   = "Video";
1541                 break;
1542             default:
1543                 stop_encoding = 1;
1544             }
1545
1546             if (encode) {
1547                 AVPacket pkt;
1548                 int pkt_size;
1549                 int got_packet;
1550                 av_init_packet(&pkt);
1551                 pkt.data = NULL;
1552                 pkt.size = 0;
1553
1554                 update_benchmark(NULL);
1555                 ret = encode(enc, &pkt, NULL, &got_packet);
1556                 update_benchmark("flush %s %d.%d", desc, ost->file_index, ost->index);
1557                 if (ret < 0) {
1558                     av_log(NULL, AV_LOG_FATAL, "%s encoding failed\n", desc);
1559                     exit_program(1);
1560                 }
1561                 if (ost->logfile && enc->stats_out) {
1562                     fprintf(ost->logfile, "%s", enc->stats_out);
1563                 }
1564                 if (!got_packet) {
1565                     stop_encoding = 1;
1566                     break;
1567                 }
1568                 if (ost->finished & MUXER_FINISHED) {
1569                     av_free_packet(&pkt);
1570                     continue;
1571                 }
1572                 av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
1573                 pkt_size = pkt.size;
1574                 write_frame(os, &pkt, ost);
1575                 if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO && vstats_filename) {
1576                     do_video_stats(ost, pkt_size);
1577                 }
1578             }
1579
1580             if (stop_encoding)
1581                 break;
1582         }
1583     }
1584 }
1585
1586 /*
1587  * Check whether a packet from ist should be written into ost at this time
1588  */
1589 static int check_output_constraints(InputStream *ist, OutputStream *ost)
1590 {
1591     OutputFile *of = output_files[ost->file_index];
1592     int ist_index  = input_files[ist->file_index]->ist_index + ist->st->index;
1593
1594     if (ost->source_index != ist_index)
1595         return 0;
1596
1597     if (ost->finished)
1598         return 0;
1599
1600     if (of->start_time != AV_NOPTS_VALUE && ist->pts < of->start_time)
1601         return 0;
1602
1603     return 1;
1604 }
1605
1606 static void do_streamcopy(InputStream *ist, OutputStream *ost, const AVPacket *pkt)
1607 {
1608     OutputFile *of = output_files[ost->file_index];
1609     InputFile   *f = input_files [ist->file_index];
1610     int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1611     int64_t ost_tb_start_time = av_rescale_q(start_time, AV_TIME_BASE_Q, ost->st->time_base);
1612     int64_t ist_tb_start_time = av_rescale_q(start_time, AV_TIME_BASE_Q, ist->st->time_base);
1613     AVPicture pict;
1614     AVPacket opkt;
1615
1616     av_init_packet(&opkt);
1617
1618     if ((!ost->frame_number && !(pkt->flags & AV_PKT_FLAG_KEY)) &&
1619         !ost->copy_initial_nonkeyframes)
1620         return;
1621
1622     if (pkt->pts == AV_NOPTS_VALUE) {
1623         if (!ost->frame_number && ist->pts < start_time &&
1624             !ost->copy_prior_start)
1625             return;
1626     } else {
1627         if (!ost->frame_number && pkt->pts < ist_tb_start_time &&
1628             !ost->copy_prior_start)
1629             return;
1630     }
1631
1632     if (of->recording_time != INT64_MAX &&
1633         ist->pts >= of->recording_time + start_time) {
1634         close_output_stream(ost);
1635         return;
1636     }
1637
1638     if (f->recording_time != INT64_MAX) {
1639         start_time = f->ctx->start_time;
1640         if (f->start_time != AV_NOPTS_VALUE)
1641             start_time += f->start_time;
1642         if (ist->pts >= f->recording_time + start_time) {
1643             close_output_stream(ost);
1644             return;
1645         }
1646     }
1647
1648     /* force the input stream PTS */
1649     if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO)
1650         ost->sync_opts++;
1651
1652     if (pkt->pts != AV_NOPTS_VALUE)
1653         opkt.pts = av_rescale_q(pkt->pts, ist->st->time_base, ost->st->time_base) - ost_tb_start_time;
1654     else
1655         opkt.pts = AV_NOPTS_VALUE;
1656
1657     if (pkt->dts == AV_NOPTS_VALUE)
1658         opkt.dts = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ost->st->time_base);
1659     else
1660         opkt.dts = av_rescale_q(pkt->dts, ist->st->time_base, ost->st->time_base);
1661     opkt.dts -= ost_tb_start_time;
1662
1663     if (ost->st->codec->codec_type == AVMEDIA_TYPE_AUDIO && pkt->dts != AV_NOPTS_VALUE) {
1664         int duration = av_get_audio_frame_duration(ist->dec_ctx, pkt->size);
1665         if(!duration)
1666             duration = ist->dec_ctx->frame_size;
1667         opkt.dts = opkt.pts = av_rescale_delta(ist->st->time_base, pkt->dts,
1668                                                (AVRational){1, ist->dec_ctx->sample_rate}, duration, &ist->filter_in_rescale_delta_last,
1669                                                ost->st->time_base) - ost_tb_start_time;
1670     }
1671
1672     opkt.duration = av_rescale_q(pkt->duration, ist->st->time_base, ost->st->time_base);
1673     opkt.flags    = pkt->flags;
1674
1675     // FIXME remove the following 2 lines they shall be replaced by the bitstream filters
1676     if (  ost->enc_ctx->codec_id != AV_CODEC_ID_H264
1677        && ost->enc_ctx->codec_id != AV_CODEC_ID_MPEG1VIDEO
1678        && ost->enc_ctx->codec_id != AV_CODEC_ID_MPEG2VIDEO
1679        && ost->enc_ctx->codec_id != AV_CODEC_ID_VC1
1680        ) {
1681         if (av_parser_change(ost->parser, ost->st->codec,
1682                              &opkt.data, &opkt.size,
1683                              pkt->data, pkt->size,
1684                              pkt->flags & AV_PKT_FLAG_KEY)) {
1685             opkt.buf = av_buffer_create(opkt.data, opkt.size, av_buffer_default_free, NULL, 0);
1686             if (!opkt.buf)
1687                 exit_program(1);
1688         }
1689     } else {
1690         opkt.data = pkt->data;
1691         opkt.size = pkt->size;
1692     }
1693     av_copy_packet_side_data(&opkt, pkt);
1694
1695     if (ost->st->codec->codec_type == AVMEDIA_TYPE_VIDEO && (of->ctx->oformat->flags & AVFMT_RAWPICTURE)) {
1696         /* store AVPicture in AVPacket, as expected by the output format */
1697         avpicture_fill(&pict, opkt.data, ost->st->codec->pix_fmt, ost->st->codec->width, ost->st->codec->height);
1698         opkt.data = (uint8_t *)&pict;
1699         opkt.size = sizeof(AVPicture);
1700         opkt.flags |= AV_PKT_FLAG_KEY;
1701     }
1702
1703     write_frame(of->ctx, &opkt, ost);
1704 }
1705
1706 int guess_input_channel_layout(InputStream *ist)
1707 {
1708     AVCodecContext *dec = ist->dec_ctx;
1709
1710     if (!dec->channel_layout) {
1711         char layout_name[256];
1712
1713         if (dec->channels > ist->guess_layout_max)
1714             return 0;
1715         dec->channel_layout = av_get_default_channel_layout(dec->channels);
1716         if (!dec->channel_layout)
1717             return 0;
1718         av_get_channel_layout_string(layout_name, sizeof(layout_name),
1719                                      dec->channels, dec->channel_layout);
1720         av_log(NULL, AV_LOG_WARNING, "Guessed Channel Layout for  Input Stream "
1721                "#%d.%d : %s\n", ist->file_index, ist->st->index, layout_name);
1722     }
1723     return 1;
1724 }
1725
1726 static int decode_audio(InputStream *ist, AVPacket *pkt, int *got_output)
1727 {
1728     AVFrame *decoded_frame, *f;
1729     AVCodecContext *avctx = ist->dec_ctx;
1730     int i, ret, err = 0, resample_changed;
1731     AVRational decoded_frame_tb;
1732
1733     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
1734         return AVERROR(ENOMEM);
1735     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
1736         return AVERROR(ENOMEM);
1737     decoded_frame = ist->decoded_frame;
1738
1739     update_benchmark(NULL);
1740     ret = avcodec_decode_audio4(avctx, decoded_frame, got_output, pkt);
1741     update_benchmark("decode_audio %d.%d", ist->file_index, ist->st->index);
1742
1743     if (ret >= 0 && avctx->sample_rate <= 0) {
1744         av_log(avctx, AV_LOG_ERROR, "Sample rate %d invalid\n", avctx->sample_rate);
1745         ret = AVERROR_INVALIDDATA;
1746     }
1747
1748     if (*got_output || ret<0 || pkt->size)
1749         decode_error_stat[ret<0] ++;
1750
1751     if (!*got_output || ret < 0) {
1752         if (!pkt->size) {
1753             for (i = 0; i < ist->nb_filters; i++)
1754 #if 1
1755                 av_buffersrc_add_ref(ist->filters[i]->filter, NULL, 0);
1756 #else
1757                 av_buffersrc_add_frame(ist->filters[i]->filter, NULL);
1758 #endif
1759         }
1760         return ret;
1761     }
1762
1763     ist->samples_decoded += decoded_frame->nb_samples;
1764     ist->frames_decoded++;
1765
1766 #if 1
1767     /* increment next_dts to use for the case where the input stream does not
1768        have timestamps or there are multiple frames in the packet */
1769     ist->next_pts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
1770                      avctx->sample_rate;
1771     ist->next_dts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
1772                      avctx->sample_rate;
1773 #endif
1774
1775     resample_changed = ist->resample_sample_fmt     != decoded_frame->format         ||
1776                        ist->resample_channels       != avctx->channels               ||
1777                        ist->resample_channel_layout != decoded_frame->channel_layout ||
1778                        ist->resample_sample_rate    != decoded_frame->sample_rate;
1779     if (resample_changed) {
1780         char layout1[64], layout2[64];
1781
1782         if (!guess_input_channel_layout(ist)) {
1783             av_log(NULL, AV_LOG_FATAL, "Unable to find default channel "
1784                    "layout for Input Stream #%d.%d\n", ist->file_index,
1785                    ist->st->index);
1786             exit_program(1);
1787         }
1788         decoded_frame->channel_layout = avctx->channel_layout;
1789
1790         av_get_channel_layout_string(layout1, sizeof(layout1), ist->resample_channels,
1791                                      ist->resample_channel_layout);
1792         av_get_channel_layout_string(layout2, sizeof(layout2), avctx->channels,
1793                                      decoded_frame->channel_layout);
1794
1795         av_log(NULL, AV_LOG_INFO,
1796                "Input stream #%d:%d frame changed from rate:%d fmt:%s ch:%d chl:%s to rate:%d fmt:%s ch:%d chl:%s\n",
1797                ist->file_index, ist->st->index,
1798                ist->resample_sample_rate,  av_get_sample_fmt_name(ist->resample_sample_fmt),
1799                ist->resample_channels, layout1,
1800                decoded_frame->sample_rate, av_get_sample_fmt_name(decoded_frame->format),
1801                avctx->channels, layout2);
1802
1803         ist->resample_sample_fmt     = decoded_frame->format;
1804         ist->resample_sample_rate    = decoded_frame->sample_rate;
1805         ist->resample_channel_layout = decoded_frame->channel_layout;
1806         ist->resample_channels       = avctx->channels;
1807
1808         for (i = 0; i < nb_filtergraphs; i++)
1809             if (ist_in_filtergraph(filtergraphs[i], ist)) {
1810                 FilterGraph *fg = filtergraphs[i];
1811                 int j;
1812                 if (configure_filtergraph(fg) < 0) {
1813                     av_log(NULL, AV_LOG_FATAL, "Error reinitializing filters!\n");
1814                     exit_program(1);
1815                 }
1816                 for (j = 0; j < fg->nb_outputs; j++) {
1817                     OutputStream *ost = fg->outputs[j]->ost;
1818                     if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
1819                         !(ost->enc->capabilities & CODEC_CAP_VARIABLE_FRAME_SIZE))
1820                         av_buffersink_set_frame_size(ost->filter->filter,
1821                                                      ost->enc_ctx->frame_size);
1822                 }
1823             }
1824     }
1825
1826     /* if the decoder provides a pts, use it instead of the last packet pts.
1827        the decoder could be delaying output by a packet or more. */
1828     if (decoded_frame->pts != AV_NOPTS_VALUE) {
1829         ist->dts = ist->next_dts = ist->pts = ist->next_pts = av_rescale_q(decoded_frame->pts, avctx->time_base, AV_TIME_BASE_Q);
1830         decoded_frame_tb   = avctx->time_base;
1831     } else if (decoded_frame->pkt_pts != AV_NOPTS_VALUE) {
1832         decoded_frame->pts = decoded_frame->pkt_pts;
1833         decoded_frame_tb   = ist->st->time_base;
1834     } else if (pkt->pts != AV_NOPTS_VALUE) {
1835         decoded_frame->pts = pkt->pts;
1836         decoded_frame_tb   = ist->st->time_base;
1837     }else {
1838         decoded_frame->pts = ist->dts;
1839         decoded_frame_tb   = AV_TIME_BASE_Q;
1840     }
1841     pkt->pts           = AV_NOPTS_VALUE;
1842     if (decoded_frame->pts != AV_NOPTS_VALUE)
1843         decoded_frame->pts = av_rescale_delta(decoded_frame_tb, decoded_frame->pts,
1844                                               (AVRational){1, avctx->sample_rate}, decoded_frame->nb_samples, &ist->filter_in_rescale_delta_last,
1845                                               (AVRational){1, avctx->sample_rate});
1846     for (i = 0; i < ist->nb_filters; i++) {
1847         if (i < ist->nb_filters - 1) {
1848             f = ist->filter_frame;
1849             err = av_frame_ref(f, decoded_frame);
1850             if (err < 0)
1851                 break;
1852         } else
1853             f = decoded_frame;
1854         err = av_buffersrc_add_frame_flags(ist->filters[i]->filter, f,
1855                                      AV_BUFFERSRC_FLAG_PUSH);
1856         if (err == AVERROR_EOF)
1857             err = 0; /* ignore */
1858         if (err < 0)
1859             break;
1860     }
1861     decoded_frame->pts = AV_NOPTS_VALUE;
1862
1863     av_frame_unref(ist->filter_frame);
1864     av_frame_unref(decoded_frame);
1865     return err < 0 ? err : ret;
1866 }
1867
1868 static int decode_video(InputStream *ist, AVPacket *pkt, int *got_output)
1869 {
1870     AVFrame *decoded_frame, *f;
1871     int i, ret = 0, err = 0, resample_changed;
1872     int64_t best_effort_timestamp;
1873     AVRational *frame_sample_aspect;
1874
1875     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
1876         return AVERROR(ENOMEM);
1877     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
1878         return AVERROR(ENOMEM);
1879     decoded_frame = ist->decoded_frame;
1880     pkt->dts  = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ist->st->time_base);
1881
1882     update_benchmark(NULL);
1883     ret = avcodec_decode_video2(ist->dec_ctx,
1884                                 decoded_frame, got_output, pkt);
1885     update_benchmark("decode_video %d.%d", ist->file_index, ist->st->index);
1886
1887     // The following line may be required in some cases where there is no parser
1888     // or the parser does not has_b_frames correctly
1889     if (ist->st->codec->has_b_frames < ist->dec_ctx->has_b_frames) {
1890         if (ist->dec_ctx->codec_id == AV_CODEC_ID_H264) {
1891             ist->st->codec->has_b_frames = ist->dec_ctx->has_b_frames;
1892         } else
1893             av_log_ask_for_sample(
1894                 ist->dec_ctx,
1895                 "has_b_frames is larger in decoder than demuxer %d > %d ",
1896                 ist->dec_ctx->has_b_frames,
1897                 ist->st->codec->has_b_frames
1898             );
1899     }
1900
1901     if (*got_output || ret<0 || pkt->size)
1902         decode_error_stat[ret<0] ++;
1903
1904     if (!*got_output || ret < 0) {
1905         if (!pkt->size) {
1906             for (i = 0; i < ist->nb_filters; i++)
1907 #if 1
1908                 av_buffersrc_add_ref(ist->filters[i]->filter, NULL, 0);
1909 #else
1910                 av_buffersrc_add_frame(ist->filters[i]->filter, NULL);
1911 #endif
1912         }
1913         return ret;
1914     }
1915
1916     if(ist->top_field_first>=0)
1917         decoded_frame->top_field_first = ist->top_field_first;
1918
1919     ist->frames_decoded++;
1920
1921     if (ist->hwaccel_retrieve_data && decoded_frame->format == ist->hwaccel_pix_fmt) {
1922         err = ist->hwaccel_retrieve_data(ist->dec_ctx, decoded_frame);
1923         if (err < 0)
1924             goto fail;
1925     }
1926     ist->hwaccel_retrieved_pix_fmt = decoded_frame->format;
1927
1928     best_effort_timestamp= av_frame_get_best_effort_timestamp(decoded_frame);
1929     if(best_effort_timestamp != AV_NOPTS_VALUE)
1930         ist->next_pts = ist->pts = av_rescale_q(decoded_frame->pts = best_effort_timestamp, ist->st->time_base, AV_TIME_BASE_Q);
1931
1932     if (debug_ts) {
1933         av_log(NULL, AV_LOG_INFO, "decoder -> ist_index:%d type:video "
1934                "frame_pts:%s frame_pts_time:%s best_effort_ts:%"PRId64" best_effort_ts_time:%s keyframe:%d frame_type:%d time_base:%d/%d\n",
1935                ist->st->index, av_ts2str(decoded_frame->pts),
1936                av_ts2timestr(decoded_frame->pts, &ist->st->time_base),
1937                best_effort_timestamp,
1938                av_ts2timestr(best_effort_timestamp, &ist->st->time_base),
1939                decoded_frame->key_frame, decoded_frame->pict_type,
1940                ist->st->time_base.num, ist->st->time_base.den);
1941     }
1942
1943     pkt->size = 0;
1944
1945     if (ist->st->sample_aspect_ratio.num)
1946         decoded_frame->sample_aspect_ratio = ist->st->sample_aspect_ratio;
1947
1948     resample_changed = ist->resample_width   != decoded_frame->width  ||
1949                        ist->resample_height  != decoded_frame->height ||
1950                        ist->resample_pix_fmt != decoded_frame->format;
1951     if (resample_changed) {
1952         av_log(NULL, AV_LOG_INFO,
1953                "Input stream #%d:%d frame changed from size:%dx%d fmt:%s to size:%dx%d fmt:%s\n",
1954                ist->file_index, ist->st->index,
1955                ist->resample_width,  ist->resample_height,  av_get_pix_fmt_name(ist->resample_pix_fmt),
1956                decoded_frame->width, decoded_frame->height, av_get_pix_fmt_name(decoded_frame->format));
1957
1958         ist->resample_width   = decoded_frame->width;
1959         ist->resample_height  = decoded_frame->height;
1960         ist->resample_pix_fmt = decoded_frame->format;
1961
1962         for (i = 0; i < nb_filtergraphs; i++) {
1963             if (ist_in_filtergraph(filtergraphs[i], ist) && ist->reinit_filters &&
1964                 configure_filtergraph(filtergraphs[i]) < 0) {
1965                 av_log(NULL, AV_LOG_FATAL, "Error reinitializing filters!\n");
1966                 exit_program(1);
1967             }
1968         }
1969     }
1970
1971     frame_sample_aspect= av_opt_ptr(avcodec_get_frame_class(), decoded_frame, "sample_aspect_ratio");
1972     for (i = 0; i < ist->nb_filters; i++) {
1973         if (!frame_sample_aspect->num)
1974             *frame_sample_aspect = ist->st->sample_aspect_ratio;
1975
1976         if (i < ist->nb_filters - 1) {
1977             f = ist->filter_frame;
1978             err = av_frame_ref(f, decoded_frame);
1979             if (err < 0)
1980                 break;
1981         } else
1982             f = decoded_frame;
1983         ret = av_buffersrc_add_frame_flags(ist->filters[i]->filter, f, AV_BUFFERSRC_FLAG_PUSH);
1984         if (ret == AVERROR_EOF) {
1985             ret = 0; /* ignore */
1986         } else if (ret < 0) {
1987             av_log(NULL, AV_LOG_FATAL,
1988                    "Failed to inject frame into filter network: %s\n", av_err2str(ret));
1989             exit_program(1);
1990         }
1991     }
1992
1993 fail:
1994     av_frame_unref(ist->filter_frame);
1995     av_frame_unref(decoded_frame);
1996     return err < 0 ? err : ret;
1997 }
1998
1999 static int transcode_subtitles(InputStream *ist, AVPacket *pkt, int *got_output)
2000 {
2001     AVSubtitle subtitle;
2002     int i, ret = avcodec_decode_subtitle2(ist->dec_ctx,
2003                                           &subtitle, got_output, pkt);
2004
2005     if (*got_output || ret<0 || pkt->size)
2006         decode_error_stat[ret<0] ++;
2007
2008     if (ret < 0 || !*got_output) {
2009         if (!pkt->size)
2010             sub2video_flush(ist);
2011         return ret;
2012     }
2013
2014     if (ist->fix_sub_duration) {
2015         int end = 1;
2016         if (ist->prev_sub.got_output) {
2017             end = av_rescale(subtitle.pts - ist->prev_sub.subtitle.pts,
2018                              1000, AV_TIME_BASE);
2019             if (end < ist->prev_sub.subtitle.end_display_time) {
2020                 av_log(ist->dec_ctx, AV_LOG_DEBUG,
2021                        "Subtitle duration reduced from %d to %d%s\n",
2022                        ist->prev_sub.subtitle.end_display_time, end,
2023                        end <= 0 ? ", dropping it" : "");
2024                 ist->prev_sub.subtitle.end_display_time = end;
2025             }
2026         }
2027         FFSWAP(int,        *got_output, ist->prev_sub.got_output);
2028         FFSWAP(int,        ret,         ist->prev_sub.ret);
2029         FFSWAP(AVSubtitle, subtitle,    ist->prev_sub.subtitle);
2030         if (end <= 0)
2031             goto out;
2032     }
2033
2034     if (!*got_output)
2035         return ret;
2036
2037     sub2video_update(ist, &subtitle);
2038
2039     if (!subtitle.num_rects)
2040         goto out;
2041
2042     ist->frames_decoded++;
2043
2044     for (i = 0; i < nb_output_streams; i++) {
2045         OutputStream *ost = output_streams[i];
2046
2047         if (!check_output_constraints(ist, ost) || !ost->encoding_needed
2048             || ost->enc->type != AVMEDIA_TYPE_SUBTITLE)
2049             continue;
2050
2051         do_subtitle_out(output_files[ost->file_index]->ctx, ost, ist, &subtitle);
2052     }
2053
2054 out:
2055     avsubtitle_free(&subtitle);
2056     return ret;
2057 }
2058
2059 /* pkt = NULL means EOF (needed to flush decoder buffers) */
2060 static int output_packet(InputStream *ist, const AVPacket *pkt)
2061 {
2062     int ret = 0, i;
2063     int got_output = 0;
2064
2065     AVPacket avpkt;
2066     if (!ist->saw_first_ts) {
2067         ist->dts = ist->st->avg_frame_rate.num ? - ist->dec_ctx->has_b_frames * AV_TIME_BASE / av_q2d(ist->st->avg_frame_rate) : 0;
2068         ist->pts = 0;
2069         if (pkt != NULL && pkt->pts != AV_NOPTS_VALUE && !ist->decoding_needed) {
2070             ist->dts += av_rescale_q(pkt->pts, ist->st->time_base, AV_TIME_BASE_Q);
2071             ist->pts = ist->dts; //unused but better to set it to a value thats not totally wrong
2072         }
2073         ist->saw_first_ts = 1;
2074     }
2075
2076     if (ist->next_dts == AV_NOPTS_VALUE)
2077         ist->next_dts = ist->dts;
2078     if (ist->next_pts == AV_NOPTS_VALUE)
2079         ist->next_pts = ist->pts;
2080
2081     if (pkt == NULL) {
2082         /* EOF handling */
2083         av_init_packet(&avpkt);
2084         avpkt.data = NULL;
2085         avpkt.size = 0;
2086         goto handle_eof;
2087     } else {
2088         avpkt = *pkt;
2089     }
2090
2091     if (pkt->dts != AV_NOPTS_VALUE) {
2092         ist->next_dts = ist->dts = av_rescale_q(pkt->dts, ist->st->time_base, AV_TIME_BASE_Q);
2093         if (ist->dec_ctx->codec_type != AVMEDIA_TYPE_VIDEO || !ist->decoding_needed)
2094             ist->next_pts = ist->pts = ist->dts;
2095     }
2096
2097     // while we have more to decode or while the decoder did output something on EOF
2098     while (ist->decoding_needed && (avpkt.size > 0 || (!pkt && got_output))) {
2099         int duration;
2100     handle_eof:
2101
2102         ist->pts = ist->next_pts;
2103         ist->dts = ist->next_dts;
2104
2105         if (avpkt.size && avpkt.size != pkt->size &&
2106             !(ist->dec->capabilities & CODEC_CAP_SUBFRAMES)) {
2107             av_log(NULL, ist->showed_multi_packet_warning ? AV_LOG_VERBOSE : AV_LOG_WARNING,
2108                    "Multiple frames in a packet from stream %d\n", pkt->stream_index);
2109             ist->showed_multi_packet_warning = 1;
2110         }
2111
2112         switch (ist->dec_ctx->codec_type) {
2113         case AVMEDIA_TYPE_AUDIO:
2114             ret = decode_audio    (ist, &avpkt, &got_output);
2115             break;
2116         case AVMEDIA_TYPE_VIDEO:
2117             ret = decode_video    (ist, &avpkt, &got_output);
2118             if (avpkt.duration) {
2119                 duration = av_rescale_q(avpkt.duration, ist->st->time_base, AV_TIME_BASE_Q);
2120             } else if(ist->dec_ctx->time_base.num != 0 && ist->dec_ctx->time_base.den != 0) {
2121                 int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict+1 : ist->dec_ctx->ticks_per_frame;
2122                 duration = ((int64_t)AV_TIME_BASE *
2123                                 ist->dec_ctx->time_base.num * ticks) /
2124                                 ist->dec_ctx->time_base.den;
2125             } else
2126                 duration = 0;
2127
2128             if(ist->dts != AV_NOPTS_VALUE && duration) {
2129                 ist->next_dts += duration;
2130             }else
2131                 ist->next_dts = AV_NOPTS_VALUE;
2132
2133             if (got_output)
2134                 ist->next_pts += duration; //FIXME the duration is not correct in some cases
2135             break;
2136         case AVMEDIA_TYPE_SUBTITLE:
2137             ret = transcode_subtitles(ist, &avpkt, &got_output);
2138             break;
2139         default:
2140             return -1;
2141         }
2142
2143         if (ret < 0)
2144             return ret;
2145
2146         avpkt.dts=
2147         avpkt.pts= AV_NOPTS_VALUE;
2148
2149         // touch data and size only if not EOF
2150         if (pkt) {
2151             if(ist->dec_ctx->codec_type != AVMEDIA_TYPE_AUDIO)
2152                 ret = avpkt.size;
2153             avpkt.data += ret;
2154             avpkt.size -= ret;
2155         }
2156         if (!got_output) {
2157             continue;
2158         }
2159         if (got_output && !pkt)
2160             break;
2161     }
2162
2163     /* handle stream copy */
2164     if (!ist->decoding_needed) {
2165         ist->dts = ist->next_dts;
2166         switch (ist->dec_ctx->codec_type) {
2167         case AVMEDIA_TYPE_AUDIO:
2168             ist->next_dts += ((int64_t)AV_TIME_BASE * ist->dec_ctx->frame_size) /
2169                              ist->dec_ctx->sample_rate;
2170             break;
2171         case AVMEDIA_TYPE_VIDEO:
2172             if (ist->framerate.num) {
2173                 // TODO: Remove work-around for c99-to-c89 issue 7
2174                 AVRational time_base_q = AV_TIME_BASE_Q;
2175                 int64_t next_dts = av_rescale_q(ist->next_dts, time_base_q, av_inv_q(ist->framerate));
2176                 ist->next_dts = av_rescale_q(next_dts + 1, av_inv_q(ist->framerate), time_base_q);
2177             } else if (pkt->duration) {
2178                 ist->next_dts += av_rescale_q(pkt->duration, ist->st->time_base, AV_TIME_BASE_Q);
2179             } else if(ist->dec_ctx->time_base.num != 0) {
2180                 int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict + 1 : ist->dec_ctx->ticks_per_frame;
2181                 ist->next_dts += ((int64_t)AV_TIME_BASE *
2182                                   ist->dec_ctx->time_base.num * ticks) /
2183                                   ist->dec_ctx->time_base.den;
2184             }
2185             break;
2186         }
2187         ist->pts = ist->dts;
2188         ist->next_pts = ist->next_dts;
2189     }
2190     for (i = 0; pkt && i < nb_output_streams; i++) {
2191         OutputStream *ost = output_streams[i];
2192
2193         if (!check_output_constraints(ist, ost) || ost->encoding_needed)
2194             continue;
2195
2196         do_streamcopy(ist, ost, pkt);
2197     }
2198
2199     return got_output;
2200 }
2201
2202 static void print_sdp(void)
2203 {
2204     char sdp[16384];
2205     int i;
2206     AVFormatContext **avc = av_malloc_array(nb_output_files, sizeof(*avc));
2207
2208     if (!avc)
2209         exit_program(1);
2210     for (i = 0; i < nb_output_files; i++)
2211         avc[i] = output_files[i]->ctx;
2212
2213     av_sdp_create(avc, nb_output_files, sdp, sizeof(sdp));
2214     printf("SDP:\n%s\n", sdp);
2215     fflush(stdout);
2216     av_freep(&avc);
2217 }
2218
2219 static const HWAccel *get_hwaccel(enum AVPixelFormat pix_fmt)
2220 {
2221     int i;
2222     for (i = 0; hwaccels[i].name; i++)
2223         if (hwaccels[i].pix_fmt == pix_fmt)
2224             return &hwaccels[i];
2225     return NULL;
2226 }
2227
2228 static enum AVPixelFormat get_format(AVCodecContext *s, const enum AVPixelFormat *pix_fmts)
2229 {
2230     InputStream *ist = s->opaque;
2231     const enum AVPixelFormat *p;
2232     int ret;
2233
2234     for (p = pix_fmts; *p != -1; p++) {
2235         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(*p);
2236         const HWAccel *hwaccel;
2237
2238         if (!(desc->flags & AV_PIX_FMT_FLAG_HWACCEL))
2239             break;
2240
2241         hwaccel = get_hwaccel(*p);
2242         if (!hwaccel ||
2243             (ist->active_hwaccel_id && ist->active_hwaccel_id != hwaccel->id) ||
2244             (ist->hwaccel_id != HWACCEL_AUTO && ist->hwaccel_id != hwaccel->id))
2245             continue;
2246
2247         ret = hwaccel->init(s);
2248         if (ret < 0) {
2249             if (ist->hwaccel_id == hwaccel->id) {
2250                 av_log(NULL, AV_LOG_FATAL,
2251                        "%s hwaccel requested for input stream #%d:%d, "
2252                        "but cannot be initialized.\n", hwaccel->name,
2253                        ist->file_index, ist->st->index);
2254                 exit_program(1);
2255             }
2256             continue;
2257         }
2258         ist->active_hwaccel_id = hwaccel->id;
2259         ist->hwaccel_pix_fmt   = *p;
2260         break;
2261     }
2262
2263     return *p;
2264 }
2265
2266 static int get_buffer(AVCodecContext *s, AVFrame *frame, int flags)
2267 {
2268     InputStream *ist = s->opaque;
2269
2270     if (ist->hwaccel_get_buffer && frame->format == ist->hwaccel_pix_fmt)
2271         return ist->hwaccel_get_buffer(s, frame, flags);
2272
2273     return avcodec_default_get_buffer2(s, frame, flags);
2274 }
2275
2276 static int init_input_stream(int ist_index, char *error, int error_len)
2277 {
2278     int ret;
2279     InputStream *ist = input_streams[ist_index];
2280
2281     if (ist->decoding_needed) {
2282         AVCodec *codec = ist->dec;
2283         if (!codec) {
2284             snprintf(error, error_len, "Decoder (codec %s) not found for input stream #%d:%d",
2285                     avcodec_get_name(ist->dec_ctx->codec_id), ist->file_index, ist->st->index);
2286             return AVERROR(EINVAL);
2287         }
2288
2289         ist->dec_ctx->opaque                = ist;
2290         ist->dec_ctx->get_format            = get_format;
2291         ist->dec_ctx->get_buffer2           = get_buffer;
2292         ist->dec_ctx->thread_safe_callbacks = 1;
2293
2294         av_opt_set_int(ist->dec_ctx, "refcounted_frames", 1, 0);
2295         if(ist->dec_ctx->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
2296             av_dict_set(&ist->decoder_opts, "compute_edt", "1", 0);
2297
2298         if (!av_dict_get(ist->decoder_opts, "threads", NULL, 0))
2299             av_dict_set(&ist->decoder_opts, "threads", "auto", 0);
2300         if ((ret = avcodec_open2(ist->dec_ctx, codec, &ist->decoder_opts)) < 0) {
2301             if (ret == AVERROR_EXPERIMENTAL)
2302                 abort_codec_experimental(codec, 0);
2303
2304             snprintf(error, error_len,
2305                      "Error while opening decoder for input stream "
2306                      "#%d:%d : %s",
2307                      ist->file_index, ist->st->index, av_err2str(ret));
2308             return ret;
2309         }
2310         assert_avoptions(ist->decoder_opts);
2311     }
2312
2313     ist->next_pts = AV_NOPTS_VALUE;
2314     ist->next_dts = AV_NOPTS_VALUE;
2315
2316     return 0;
2317 }
2318
2319 static InputStream *get_input_stream(OutputStream *ost)
2320 {
2321     if (ost->source_index >= 0)
2322         return input_streams[ost->source_index];
2323     return NULL;
2324 }
2325
2326 static int compare_int64(const void *a, const void *b)
2327 {
2328     int64_t va = *(int64_t *)a, vb = *(int64_t *)b;
2329     return va < vb ? -1 : va > vb ? +1 : 0;
2330 }
2331
2332 static void parse_forced_key_frames(char *kf, OutputStream *ost,
2333                                     AVCodecContext *avctx)
2334 {
2335     char *p;
2336     int n = 1, i, size, index = 0;
2337     int64_t t, *pts;
2338
2339     for (p = kf; *p; p++)
2340         if (*p == ',')
2341             n++;
2342     size = n;
2343     pts = av_malloc_array(size, sizeof(*pts));
2344     if (!pts) {
2345         av_log(NULL, AV_LOG_FATAL, "Could not allocate forced key frames array.\n");
2346         exit_program(1);
2347     }
2348
2349     p = kf;
2350     for (i = 0; i < n; i++) {
2351         char *next = strchr(p, ',');
2352
2353         if (next)
2354             *next++ = 0;
2355
2356         if (!memcmp(p, "chapters", 8)) {
2357
2358             AVFormatContext *avf = output_files[ost->file_index]->ctx;
2359             int j;
2360
2361             if (avf->nb_chapters > INT_MAX - size ||
2362                 !(pts = av_realloc_f(pts, size += avf->nb_chapters - 1,
2363                                      sizeof(*pts)))) {
2364                 av_log(NULL, AV_LOG_FATAL,
2365                        "Could not allocate forced key frames array.\n");
2366                 exit_program(1);
2367             }
2368             t = p[8] ? parse_time_or_die("force_key_frames", p + 8, 1) : 0;
2369             t = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
2370
2371             for (j = 0; j < avf->nb_chapters; j++) {
2372                 AVChapter *c = avf->chapters[j];
2373                 av_assert1(index < size);
2374                 pts[index++] = av_rescale_q(c->start, c->time_base,
2375                                             avctx->time_base) + t;
2376             }
2377
2378         } else {
2379
2380             t = parse_time_or_die("force_key_frames", p, 1);
2381             av_assert1(index < size);
2382             pts[index++] = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
2383
2384         }
2385
2386         p = next;
2387     }
2388
2389     av_assert0(index == size);
2390     qsort(pts, size, sizeof(*pts), compare_int64);
2391     ost->forced_kf_count = size;
2392     ost->forced_kf_pts   = pts;
2393 }
2394
2395 static void report_new_stream(int input_index, AVPacket *pkt)
2396 {
2397     InputFile *file = input_files[input_index];
2398     AVStream *st = file->ctx->streams[pkt->stream_index];
2399
2400     if (pkt->stream_index < file->nb_streams_warn)
2401         return;
2402     av_log(file->ctx, AV_LOG_WARNING,
2403            "New %s stream %d:%d at pos:%"PRId64" and DTS:%ss\n",
2404            av_get_media_type_string(st->codec->codec_type),
2405            input_index, pkt->stream_index,
2406            pkt->pos, av_ts2timestr(pkt->dts, &st->time_base));
2407     file->nb_streams_warn = pkt->stream_index + 1;
2408 }
2409
2410 static void set_encoder_id(OutputFile *of, OutputStream *ost)
2411 {
2412     AVDictionaryEntry *e;
2413
2414     uint8_t *encoder_string;
2415     int encoder_string_len;
2416     int format_flags = 0;
2417     int codec_flags = 0;
2418
2419     if (av_dict_get(ost->st->metadata, "encoder",  NULL, 0))
2420         return;
2421
2422     e = av_dict_get(of->opts, "fflags", NULL, 0);
2423     if (e) {
2424         const AVOption *o = av_opt_find(of->ctx, "fflags", NULL, 0, 0);
2425         if (!o)
2426             return;
2427         av_opt_eval_flags(of->ctx, o, e->value, &format_flags);
2428     }
2429     e = av_dict_get(ost->encoder_opts, "flags", NULL, 0);
2430     if (e) {
2431         const AVOption *o = av_opt_find(ost->enc_ctx, "flags", NULL, 0, 0);
2432         if (!o)
2433             return;
2434         av_opt_eval_flags(ost->enc_ctx, o, e->value, &codec_flags);
2435     }
2436
2437     encoder_string_len = sizeof(LIBAVCODEC_IDENT) + strlen(ost->enc->name) + 2;
2438     encoder_string     = av_mallocz(encoder_string_len);
2439     if (!encoder_string)
2440         exit_program(1);
2441
2442     if (!(format_flags & AVFMT_FLAG_BITEXACT) && !(codec_flags & CODEC_FLAG_BITEXACT))
2443         av_strlcpy(encoder_string, LIBAVCODEC_IDENT " ", encoder_string_len);
2444     else
2445         av_strlcpy(encoder_string, "Lavc ", encoder_string_len);
2446     av_strlcat(encoder_string, ost->enc->name, encoder_string_len);
2447     av_dict_set(&ost->st->metadata, "encoder",  encoder_string,
2448                 AV_DICT_DONT_STRDUP_VAL | AV_DICT_DONT_OVERWRITE);
2449 }
2450
2451 static int transcode_init(void)
2452 {
2453     int ret = 0, i, j, k;
2454     AVFormatContext *oc;
2455     OutputStream *ost;
2456     InputStream *ist;
2457     char error[1024];
2458     int want_sdp = 1;
2459
2460     for (i = 0; i < nb_filtergraphs; i++) {
2461         FilterGraph *fg = filtergraphs[i];
2462         for (j = 0; j < fg->nb_outputs; j++) {
2463             OutputFilter *ofilter = fg->outputs[j];
2464             if (!ofilter->ost || ofilter->ost->source_index >= 0)
2465                 continue;
2466             if (fg->nb_inputs != 1)
2467                 continue;
2468             for (k = nb_input_streams-1; k >= 0 ; k--)
2469                 if (fg->inputs[0]->ist == input_streams[k])
2470                     break;
2471             ofilter->ost->source_index = k;
2472         }
2473     }
2474
2475     /* init framerate emulation */
2476     for (i = 0; i < nb_input_files; i++) {
2477         InputFile *ifile = input_files[i];
2478         if (ifile->rate_emu)
2479             for (j = 0; j < ifile->nb_streams; j++)
2480                 input_streams[j + ifile->ist_index]->start = av_gettime_relative();
2481     }
2482
2483     /* output stream init */
2484     for (i = 0; i < nb_output_files; i++) {
2485         oc = output_files[i]->ctx;
2486         if (!oc->nb_streams && !(oc->oformat->flags & AVFMT_NOSTREAMS)) {
2487             av_dump_format(oc, i, oc->filename, 1);
2488             av_log(NULL, AV_LOG_ERROR, "Output file #%d does not contain any stream\n", i);
2489             return AVERROR(EINVAL);
2490         }
2491     }
2492
2493     /* init complex filtergraphs */
2494     for (i = 0; i < nb_filtergraphs; i++)
2495         if ((ret = avfilter_graph_config(filtergraphs[i]->graph, NULL)) < 0)
2496             return ret;
2497
2498     /* for each output stream, we compute the right encoding parameters */
2499     for (i = 0; i < nb_output_streams; i++) {
2500         AVCodecContext *enc_ctx;
2501         AVCodecContext *dec_ctx = NULL;
2502         ost = output_streams[i];
2503         oc  = output_files[ost->file_index]->ctx;
2504         ist = get_input_stream(ost);
2505
2506         if (ost->attachment_filename)
2507             continue;
2508
2509         enc_ctx = ost->enc_ctx;
2510
2511         if (ist) {
2512             dec_ctx = ist->dec_ctx;
2513
2514             ost->st->disposition          = ist->st->disposition;
2515             enc_ctx->bits_per_raw_sample    = dec_ctx->bits_per_raw_sample;
2516             enc_ctx->chroma_sample_location = dec_ctx->chroma_sample_location;
2517         } else {
2518             for (j=0; j<oc->nb_streams; j++) {
2519                 AVStream *st = oc->streams[j];
2520                 if (st != ost->st && st->codec->codec_type == enc_ctx->codec_type)
2521                     break;
2522             }
2523             if (j == oc->nb_streams)
2524                 if (enc_ctx->codec_type == AVMEDIA_TYPE_AUDIO || enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO)
2525                     ost->st->disposition = AV_DISPOSITION_DEFAULT;
2526         }
2527
2528         if (ost->stream_copy) {
2529             AVRational sar;
2530             uint64_t extra_size;
2531
2532             av_assert0(ist && !ost->filter);
2533
2534             extra_size = (uint64_t)dec_ctx->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE;
2535
2536             if (extra_size > INT_MAX) {
2537                 return AVERROR(EINVAL);
2538             }
2539
2540             /* if stream_copy is selected, no need to decode or encode */
2541             enc_ctx->codec_id   = dec_ctx->codec_id;
2542             enc_ctx->codec_type = dec_ctx->codec_type;
2543
2544             if (!enc_ctx->codec_tag) {
2545                 unsigned int codec_tag;
2546                 if (!oc->oformat->codec_tag ||
2547                      av_codec_get_id (oc->oformat->codec_tag, dec_ctx->codec_tag) == enc_ctx->codec_id ||
2548                      !av_codec_get_tag2(oc->oformat->codec_tag, dec_ctx->codec_id, &codec_tag))
2549                     enc_ctx->codec_tag = dec_ctx->codec_tag;
2550             }
2551
2552             enc_ctx->bit_rate       = dec_ctx->bit_rate;
2553             enc_ctx->rc_max_rate    = dec_ctx->rc_max_rate;
2554             enc_ctx->rc_buffer_size = dec_ctx->rc_buffer_size;
2555             enc_ctx->field_order    = dec_ctx->field_order;
2556             enc_ctx->extradata      = av_mallocz(extra_size);
2557             if (!enc_ctx->extradata) {
2558                 return AVERROR(ENOMEM);
2559             }
2560             memcpy(enc_ctx->extradata, dec_ctx->extradata, dec_ctx->extradata_size);
2561             enc_ctx->extradata_size= dec_ctx->extradata_size;
2562             enc_ctx->bits_per_coded_sample  = dec_ctx->bits_per_coded_sample;
2563
2564             enc_ctx->time_base = ist->st->time_base;
2565             /*
2566              * Avi is a special case here because it supports variable fps but
2567              * having the fps and timebase differe significantly adds quite some
2568              * overhead
2569              */
2570             if(!strcmp(oc->oformat->name, "avi")) {
2571                 if ( copy_tb<0 && av_q2d(ist->st->r_frame_rate) >= av_q2d(ist->st->avg_frame_rate)
2572                                && 0.5/av_q2d(ist->st->r_frame_rate) > av_q2d(ist->st->time_base)
2573                                && 0.5/av_q2d(ist->st->r_frame_rate) > av_q2d(dec_ctx->time_base)
2574                                && av_q2d(ist->st->time_base) < 1.0/500 && av_q2d(dec_ctx->time_base) < 1.0/500
2575                      || copy_tb==2){
2576                     enc_ctx->time_base.num = ist->st->r_frame_rate.den;
2577                     enc_ctx->time_base.den = 2*ist->st->r_frame_rate.num;
2578                     enc_ctx->ticks_per_frame = 2;
2579                 } else if (   copy_tb<0 && av_q2d(dec_ctx->time_base)*dec_ctx->ticks_per_frame > 2*av_q2d(ist->st->time_base)
2580                                  && av_q2d(ist->st->time_base) < 1.0/500
2581                     || copy_tb==0){
2582                     enc_ctx->time_base = dec_ctx->time_base;
2583                     enc_ctx->time_base.num *= dec_ctx->ticks_per_frame;
2584                     enc_ctx->time_base.den *= 2;
2585                     enc_ctx->ticks_per_frame = 2;
2586                 }
2587             } else if(!(oc->oformat->flags & AVFMT_VARIABLE_FPS)
2588                       && strcmp(oc->oformat->name, "mov") && strcmp(oc->oformat->name, "mp4") && strcmp(oc->oformat->name, "3gp")
2589                       && strcmp(oc->oformat->name, "3g2") && strcmp(oc->oformat->name, "psp") && strcmp(oc->oformat->name, "ipod")
2590                       && strcmp(oc->oformat->name, "f4v")
2591             ) {
2592                 if(   copy_tb<0 && dec_ctx->time_base.den
2593                                 && av_q2d(dec_ctx->time_base)*dec_ctx->ticks_per_frame > av_q2d(ist->st->time_base)
2594                                 && av_q2d(ist->st->time_base) < 1.0/500
2595                    || copy_tb==0){
2596                     enc_ctx->time_base = dec_ctx->time_base;
2597                     enc_ctx->time_base.num *= dec_ctx->ticks_per_frame;
2598                 }
2599             }
2600             if (   enc_ctx->codec_tag == AV_RL32("tmcd")
2601                 && dec_ctx->time_base.num < dec_ctx->time_base.den
2602                 && dec_ctx->time_base.num > 0
2603                 && 121LL*dec_ctx->time_base.num > dec_ctx->time_base.den) {
2604                 enc_ctx->time_base = dec_ctx->time_base;
2605             }
2606
2607             if (ist && !ost->frame_rate.num)
2608                 ost->frame_rate = ist->framerate;
2609             if(ost->frame_rate.num)
2610                 enc_ctx->time_base = av_inv_q(ost->frame_rate);
2611
2612             av_reduce(&enc_ctx->time_base.num, &enc_ctx->time_base.den,
2613                         enc_ctx->time_base.num, enc_ctx->time_base.den, INT_MAX);
2614
2615             ost->parser = av_parser_init(enc_ctx->codec_id);
2616
2617             switch (enc_ctx->codec_type) {
2618             case AVMEDIA_TYPE_AUDIO:
2619                 if (audio_volume != 256) {
2620                     av_log(NULL, AV_LOG_FATAL, "-acodec copy and -vol are incompatible (frames are not decoded)\n");
2621                     exit_program(1);
2622                 }
2623                 enc_ctx->channel_layout     = dec_ctx->channel_layout;
2624                 enc_ctx->sample_rate        = dec_ctx->sample_rate;
2625                 enc_ctx->channels           = dec_ctx->channels;
2626                 enc_ctx->frame_size         = dec_ctx->frame_size;
2627                 enc_ctx->audio_service_type = dec_ctx->audio_service_type;
2628                 enc_ctx->block_align        = dec_ctx->block_align;
2629                 enc_ctx->delay              = dec_ctx->delay;
2630                 if((enc_ctx->block_align == 1 || enc_ctx->block_align == 1152 || enc_ctx->block_align == 576) && enc_ctx->codec_id == AV_CODEC_ID_MP3)
2631                     enc_ctx->block_align= 0;
2632                 if(enc_ctx->codec_id == AV_CODEC_ID_AC3)
2633                     enc_ctx->block_align= 0;
2634                 break;
2635             case AVMEDIA_TYPE_VIDEO:
2636                 enc_ctx->pix_fmt            = dec_ctx->pix_fmt;
2637                 enc_ctx->width              = dec_ctx->width;
2638                 enc_ctx->height             = dec_ctx->height;
2639                 enc_ctx->has_b_frames       = dec_ctx->has_b_frames;
2640                 if (ost->frame_aspect_ratio.num) { // overridden by the -aspect cli option
2641                     sar =
2642                         av_mul_q(ost->frame_aspect_ratio,
2643                                  (AVRational){ enc_ctx->height, enc_ctx->width });
2644                     av_log(NULL, AV_LOG_WARNING, "Overriding aspect ratio "
2645                            "with stream copy may produce invalid files\n");
2646                 }
2647                 else if (ist->st->sample_aspect_ratio.num)
2648                     sar = ist->st->sample_aspect_ratio;
2649                 else
2650                     sar = dec_ctx->sample_aspect_ratio;
2651                 ost->st->sample_aspect_ratio = enc_ctx->sample_aspect_ratio = sar;
2652                 ost->st->avg_frame_rate = ist->st->avg_frame_rate;
2653                 break;
2654             case AVMEDIA_TYPE_SUBTITLE:
2655                 enc_ctx->width  = dec_ctx->width;
2656                 enc_ctx->height = dec_ctx->height;
2657                 break;
2658             case AVMEDIA_TYPE_DATA:
2659             case AVMEDIA_TYPE_ATTACHMENT:
2660                 break;
2661             default:
2662                 abort();
2663             }
2664         } else {
2665             if (!ost->enc)
2666                 ost->enc = avcodec_find_encoder(enc_ctx->codec_id);
2667             if (!ost->enc) {
2668                 /* should only happen when a default codec is not present. */
2669                 snprintf(error, sizeof(error), "Encoder (codec %s) not found for output stream #%d:%d",
2670                          avcodec_get_name(ost->st->codec->codec_id), ost->file_index, ost->index);
2671                 ret = AVERROR(EINVAL);
2672                 goto dump_format;
2673             }
2674
2675             if (ist)
2676                 ist->decoding_needed++;
2677             ost->encoding_needed = 1;
2678
2679             set_encoder_id(output_files[ost->file_index], ost);
2680
2681             if (!ost->filter &&
2682                 (enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
2683                  enc_ctx->codec_type == AVMEDIA_TYPE_AUDIO)) {
2684                     FilterGraph *fg;
2685                     fg = init_simple_filtergraph(ist, ost);
2686                     if (configure_filtergraph(fg)) {
2687                         av_log(NULL, AV_LOG_FATAL, "Error opening filters!\n");
2688                         exit_program(1);
2689                     }
2690             }
2691
2692             if (enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO) {
2693                 if (ost->filter && !ost->frame_rate.num)
2694                     ost->frame_rate = av_buffersink_get_frame_rate(ost->filter->filter);
2695                 if (ist && !ost->frame_rate.num)
2696                     ost->frame_rate = ist->framerate;
2697                 if (ist && !ost->frame_rate.num)
2698                     ost->frame_rate = ist->st->r_frame_rate;
2699                 if (ist && !ost->frame_rate.num) {
2700                     ost->frame_rate = (AVRational){25, 1};
2701                     av_log(NULL, AV_LOG_WARNING,
2702                            "No information "
2703                            "about the input framerate is available. Falling "
2704                            "back to a default value of 25fps for output stream #%d:%d. Use the -r option "
2705                            "if you want a different framerate.\n",
2706                            ost->file_index, ost->index);
2707                 }
2708 //                    ost->frame_rate = ist->st->avg_frame_rate.num ? ist->st->avg_frame_rate : (AVRational){25, 1};
2709                 if (ost->enc && ost->enc->supported_framerates && !ost->force_fps) {
2710                     int idx = av_find_nearest_q_idx(ost->frame_rate, ost->enc->supported_framerates);
2711                     ost->frame_rate = ost->enc->supported_framerates[idx];
2712                 }
2713                 if (enc_ctx->codec_id == AV_CODEC_ID_MPEG4) {
2714                     av_reduce(&ost->frame_rate.num, &ost->frame_rate.den,
2715                               ost->frame_rate.num, ost->frame_rate.den, 65535);
2716                 }
2717             }
2718
2719             switch (enc_ctx->codec_type) {
2720             case AVMEDIA_TYPE_AUDIO:
2721                 enc_ctx->sample_fmt     = ost->filter->filter->inputs[0]->format;
2722                 enc_ctx->sample_rate    = ost->filter->filter->inputs[0]->sample_rate;
2723                 enc_ctx->channel_layout = ost->filter->filter->inputs[0]->channel_layout;
2724                 enc_ctx->channels       = avfilter_link_get_channels(ost->filter->filter->inputs[0]);
2725                 enc_ctx->time_base      = (AVRational){ 1, enc_ctx->sample_rate };
2726                 break;
2727             case AVMEDIA_TYPE_VIDEO:
2728                 enc_ctx->time_base = av_inv_q(ost->frame_rate);
2729                 if (ost->filter && !(enc_ctx->time_base.num && enc_ctx->time_base.den))
2730                     enc_ctx->time_base = ost->filter->filter->inputs[0]->time_base;
2731                 if (   av_q2d(enc_ctx->time_base) < 0.001 && video_sync_method != VSYNC_PASSTHROUGH
2732                    && (video_sync_method == VSYNC_CFR || video_sync_method == VSYNC_VSCFR || (video_sync_method == VSYNC_AUTO && !(oc->oformat->flags & AVFMT_VARIABLE_FPS)))){
2733                     av_log(oc, AV_LOG_WARNING, "Frame rate very high for a muxer not efficiently supporting it.\n"
2734                                                "Please consider specifying a lower framerate, a different muxer or -vsync 2\n");
2735                 }
2736                 for (j = 0; j < ost->forced_kf_count; j++)
2737                     ost->forced_kf_pts[j] = av_rescale_q(ost->forced_kf_pts[j],
2738                                                          AV_TIME_BASE_Q,
2739                                                          enc_ctx->time_base);
2740
2741                 enc_ctx->width  = ost->filter->filter->inputs[0]->w;
2742                 enc_ctx->height = ost->filter->filter->inputs[0]->h;
2743                 enc_ctx->sample_aspect_ratio = ost->st->sample_aspect_ratio =
2744                     ost->frame_aspect_ratio.num ? // overridden by the -aspect cli option
2745                     av_mul_q(ost->frame_aspect_ratio, (AVRational){ enc_ctx->height, enc_ctx->width }) :
2746                     ost->filter->filter->inputs[0]->sample_aspect_ratio;
2747                 if (!strncmp(ost->enc->name, "libx264", 7) &&
2748                     enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
2749                     ost->filter->filter->inputs[0]->format != AV_PIX_FMT_YUV420P)
2750                     av_log(NULL, AV_LOG_WARNING,
2751                            "No pixel format specified, %s for H.264 encoding chosen.\n"
2752                            "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
2753                            av_get_pix_fmt_name(ost->filter->filter->inputs[0]->format));
2754                 if (!strncmp(ost->enc->name, "mpeg2video", 10) &&
2755                     enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
2756                     ost->filter->filter->inputs[0]->format != AV_PIX_FMT_YUV420P)
2757                     av_log(NULL, AV_LOG_WARNING,
2758                            "No pixel format specified, %s for MPEG-2 encoding chosen.\n"
2759                            "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
2760                            av_get_pix_fmt_name(ost->filter->filter->inputs[0]->format));
2761                 enc_ctx->pix_fmt = ost->filter->filter->inputs[0]->format;
2762
2763                 ost->st->avg_frame_rate = ost->frame_rate;
2764
2765                 if (!dec_ctx ||
2766                     enc_ctx->width   != dec_ctx->width  ||
2767                     enc_ctx->height  != dec_ctx->height ||
2768                     enc_ctx->pix_fmt != dec_ctx->pix_fmt) {
2769                     enc_ctx->bits_per_raw_sample = frame_bits_per_raw_sample;
2770                 }
2771
2772                 if (ost->forced_keyframes) {
2773                     if (!strncmp(ost->forced_keyframes, "expr:", 5)) {
2774                         ret = av_expr_parse(&ost->forced_keyframes_pexpr, ost->forced_keyframes+5,
2775                                             forced_keyframes_const_names, NULL, NULL, NULL, NULL, 0, NULL);
2776                         if (ret < 0) {
2777                             av_log(NULL, AV_LOG_ERROR,
2778                                    "Invalid force_key_frames expression '%s'\n", ost->forced_keyframes+5);
2779                             return ret;
2780                         }
2781                         ost->forced_keyframes_expr_const_values[FKF_N] = 0;
2782                         ost->forced_keyframes_expr_const_values[FKF_N_FORCED] = 0;
2783                         ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] = NAN;
2784                         ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] = NAN;
2785                     } else {
2786                         parse_forced_key_frames(ost->forced_keyframes, ost, ost->enc_ctx);
2787                     }
2788                 }
2789                 break;
2790             case AVMEDIA_TYPE_SUBTITLE:
2791                 enc_ctx->time_base = (AVRational){1, 1000};
2792                 if (!enc_ctx->width) {
2793                     enc_ctx->width     = input_streams[ost->source_index]->st->codec->width;
2794                     enc_ctx->height    = input_streams[ost->source_index]->st->codec->height;
2795                 }
2796                 break;
2797             default:
2798                 abort();
2799                 break;
2800             }
2801             /* two pass mode */
2802             if (enc_ctx->flags & (CODEC_FLAG_PASS1 | CODEC_FLAG_PASS2)) {
2803                 char logfilename[1024];
2804                 FILE *f;
2805
2806                 snprintf(logfilename, sizeof(logfilename), "%s-%d.log",
2807                          ost->logfile_prefix ? ost->logfile_prefix :
2808                                                DEFAULT_PASS_LOGFILENAME_PREFIX,
2809                          i);
2810                 if (!strcmp(ost->enc->name, "libx264")) {
2811                     av_dict_set(&ost->encoder_opts, "stats", logfilename, AV_DICT_DONT_OVERWRITE);
2812                 } else {
2813                     if (enc_ctx->flags & CODEC_FLAG_PASS2) {
2814                         char  *logbuffer;
2815                         size_t logbuffer_size;
2816                         if (cmdutils_read_file(logfilename, &logbuffer, &logbuffer_size) < 0) {
2817                             av_log(NULL, AV_LOG_FATAL, "Error reading log file '%s' for pass-2 encoding\n",
2818                                    logfilename);
2819                             exit_program(1);
2820                         }
2821                         enc_ctx->stats_in = logbuffer;
2822                     }
2823                     if (enc_ctx->flags & CODEC_FLAG_PASS1) {
2824                         f = av_fopen_utf8(logfilename, "wb");
2825                         if (!f) {
2826                             av_log(NULL, AV_LOG_FATAL, "Cannot write log file '%s' for pass-1 encoding: %s\n",
2827                                 logfilename, strerror(errno));
2828                             exit_program(1);
2829                         }
2830                         ost->logfile = f;
2831                     }
2832                 }
2833             }
2834         }
2835     }
2836
2837     /* open each encoder */
2838     for (i = 0; i < nb_output_streams; i++) {
2839         ost = output_streams[i];
2840         if (ost->encoding_needed) {
2841             AVCodec      *codec = ost->enc;
2842             AVCodecContext *dec = NULL;
2843
2844             if ((ist = get_input_stream(ost)))
2845                 dec = ist->dec_ctx;
2846             if (dec && dec->subtitle_header) {
2847                 /* ASS code assumes this buffer is null terminated so add extra byte. */
2848                 ost->enc_ctx->subtitle_header = av_mallocz(dec->subtitle_header_size + 1);
2849                 if (!ost->enc_ctx->subtitle_header) {
2850                     ret = AVERROR(ENOMEM);
2851                     goto dump_format;
2852                 }
2853                 memcpy(ost->enc_ctx->subtitle_header, dec->subtitle_header, dec->subtitle_header_size);
2854                 ost->enc_ctx->subtitle_header_size = dec->subtitle_header_size;
2855             }
2856             if (!av_dict_get(ost->encoder_opts, "threads", NULL, 0))
2857                 av_dict_set(&ost->encoder_opts, "threads", "auto", 0);
2858             av_dict_set(&ost->encoder_opts, "side_data_only_packets", "1", 0);
2859
2860             if ((ret = avcodec_open2(ost->enc_ctx, codec, &ost->encoder_opts)) < 0) {
2861                 if (ret == AVERROR_EXPERIMENTAL)
2862                     abort_codec_experimental(codec, 1);
2863                 snprintf(error, sizeof(error), "Error while opening encoder for output stream #%d:%d - maybe incorrect parameters such as bit_rate, rate, width or height",
2864                         ost->file_index, ost->index);
2865                 goto dump_format;
2866             }
2867             if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
2868                 !(ost->enc->capabilities & CODEC_CAP_VARIABLE_FRAME_SIZE))
2869                 av_buffersink_set_frame_size(ost->filter->filter,
2870                                              ost->enc_ctx->frame_size);
2871             assert_avoptions(ost->encoder_opts);
2872             if (ost->enc_ctx->bit_rate && ost->enc_ctx->bit_rate < 1000)
2873                 av_log(NULL, AV_LOG_WARNING, "The bitrate parameter is set too low."
2874                                              " It takes bits/s as argument, not kbits/s\n");
2875         } else {
2876             if (av_opt_set_dict(ost->enc_ctx, &ost->encoder_opts) < 0) {
2877                 av_log(NULL, AV_LOG_FATAL,
2878                     "Error setting up codec context options.\n");
2879                 exit_program(1);
2880             }
2881         }
2882
2883         ret = avcodec_copy_context(ost->st->codec, ost->enc_ctx);
2884         if (ret < 0) {
2885             av_log(NULL, AV_LOG_FATAL,
2886                    "Error initializing the output stream codec context.\n");
2887             exit_program(1);
2888         }
2889         ost->st->codec->codec= ost->enc_ctx->codec;
2890
2891         // copy timebase while removing common factors
2892         ost->st->time_base = av_add_q(ost->enc_ctx->time_base, (AVRational){0, 1});
2893     }
2894
2895     /* init input streams */
2896     for (i = 0; i < nb_input_streams; i++)
2897         if ((ret = init_input_stream(i, error, sizeof(error))) < 0) {
2898             for (i = 0; i < nb_output_streams; i++) {
2899                 ost = output_streams[i];
2900                 avcodec_close(ost->enc_ctx);
2901             }
2902             goto dump_format;
2903         }
2904
2905     /* discard unused programs */
2906     for (i = 0; i < nb_input_files; i++) {
2907         InputFile *ifile = input_files[i];
2908         for (j = 0; j < ifile->ctx->nb_programs; j++) {
2909             AVProgram *p = ifile->ctx->programs[j];
2910             int discard  = AVDISCARD_ALL;
2911
2912             for (k = 0; k < p->nb_stream_indexes; k++)
2913                 if (!input_streams[ifile->ist_index + p->stream_index[k]]->discard) {
2914                     discard = AVDISCARD_DEFAULT;
2915                     break;
2916                 }
2917             p->discard = discard;
2918         }
2919     }
2920
2921     /* open files and write file headers */
2922     for (i = 0; i < nb_output_files; i++) {
2923         oc = output_files[i]->ctx;
2924         oc->interrupt_callback = int_cb;
2925         if ((ret = avformat_write_header(oc, &output_files[i]->opts)) < 0) {
2926             snprintf(error, sizeof(error),
2927                      "Could not write header for output file #%d "
2928                      "(incorrect codec parameters ?): %s",
2929                      i, av_err2str(ret));
2930             ret = AVERROR(EINVAL);
2931             goto dump_format;
2932         }
2933 //         assert_avoptions(output_files[i]->opts);
2934         if (strcmp(oc->oformat->name, "rtp")) {
2935             want_sdp = 0;
2936         }
2937     }
2938
2939  dump_format:
2940     /* dump the file output parameters - cannot be done before in case
2941        of stream copy */
2942     for (i = 0; i < nb_output_files; i++) {
2943         av_dump_format(output_files[i]->ctx, i, output_files[i]->ctx->filename, 1);
2944     }
2945
2946     /* dump the stream mapping */
2947     av_log(NULL, AV_LOG_INFO, "Stream mapping:\n");
2948     for (i = 0; i < nb_input_streams; i++) {
2949         ist = input_streams[i];
2950
2951         for (j = 0; j < ist->nb_filters; j++) {
2952             if (ist->filters[j]->graph->graph_desc) {
2953                 av_log(NULL, AV_LOG_INFO, "  Stream #%d:%d (%s) -> %s",
2954                        ist->file_index, ist->st->index, ist->dec ? ist->dec->name : "?",
2955                        ist->filters[j]->name);
2956                 if (nb_filtergraphs > 1)
2957                     av_log(NULL, AV_LOG_INFO, " (graph %d)", ist->filters[j]->graph->index);
2958                 av_log(NULL, AV_LOG_INFO, "\n");
2959             }
2960         }
2961     }
2962
2963     for (i = 0; i < nb_output_streams; i++) {
2964         ost = output_streams[i];
2965
2966         if (ost->attachment_filename) {
2967             /* an attached file */
2968             av_log(NULL, AV_LOG_INFO, "  File %s -> Stream #%d:%d\n",
2969                    ost->attachment_filename, ost->file_index, ost->index);
2970             continue;
2971         }
2972
2973         if (ost->filter && ost->filter->graph->graph_desc) {
2974             /* output from a complex graph */
2975             av_log(NULL, AV_LOG_INFO, "  %s", ost->filter->name);
2976             if (nb_filtergraphs > 1)
2977                 av_log(NULL, AV_LOG_INFO, " (graph %d)", ost->filter->graph->index);
2978
2979             av_log(NULL, AV_LOG_INFO, " -> Stream #%d:%d (%s)\n", ost->file_index,
2980                    ost->index, ost->enc ? ost->enc->name : "?");
2981             continue;
2982         }
2983
2984         av_log(NULL, AV_LOG_INFO, "  Stream #%d:%d -> #%d:%d",
2985                input_streams[ost->source_index]->file_index,
2986                input_streams[ost->source_index]->st->index,
2987                ost->file_index,
2988                ost->index);
2989         if (ost->sync_ist != input_streams[ost->source_index])
2990             av_log(NULL, AV_LOG_INFO, " [sync #%d:%d]",
2991                    ost->sync_ist->file_index,
2992                    ost->sync_ist->st->index);
2993         if (ost->stream_copy)
2994             av_log(NULL, AV_LOG_INFO, " (copy)");
2995         else {
2996             const AVCodec *in_codec    = input_streams[ost->source_index]->dec;
2997             const AVCodec *out_codec   = ost->enc;
2998             const char *decoder_name   = "?";
2999             const char *in_codec_name  = "?";
3000             const char *encoder_name   = "?";
3001             const char *out_codec_name = "?";
3002
3003             if (in_codec) {
3004                 decoder_name  = in_codec->name;
3005                 in_codec_name = avcodec_descriptor_get(in_codec->id)->name;
3006                 if (!strcmp(decoder_name, in_codec_name))
3007                     decoder_name = "native";
3008             }
3009
3010             if (out_codec) {
3011                 encoder_name   = out_codec->name;
3012                 out_codec_name = avcodec_descriptor_get(out_codec->id)->name;
3013                 if (!strcmp(encoder_name, out_codec_name))
3014                     encoder_name = "native";
3015             }
3016
3017             av_log(NULL, AV_LOG_INFO, " (%s (%s) -> %s (%s))",
3018                    in_codec_name, decoder_name,
3019                    out_codec_name, encoder_name);
3020         }
3021         av_log(NULL, AV_LOG_INFO, "\n");
3022     }
3023
3024     if (ret) {
3025         av_log(NULL, AV_LOG_ERROR, "%s\n", error);
3026         return ret;
3027     }
3028
3029     if (want_sdp) {
3030         print_sdp();
3031     }
3032
3033     transcode_init_done = 1;
3034
3035     return 0;
3036 }
3037
3038 /* Return 1 if there remain streams where more output is wanted, 0 otherwise. */
3039 static int need_output(void)
3040 {
3041     int i;
3042
3043     for (i = 0; i < nb_output_streams; i++) {
3044         OutputStream *ost    = output_streams[i];
3045         OutputFile *of       = output_files[ost->file_index];
3046         AVFormatContext *os  = output_files[ost->file_index]->ctx;
3047
3048         if (ost->finished ||
3049             (os->pb && avio_tell(os->pb) >= of->limit_filesize))
3050             continue;
3051         if (ost->frame_number >= ost->max_frames) {
3052             int j;
3053             for (j = 0; j < of->ctx->nb_streams; j++)
3054                 close_output_stream(output_streams[of->ost_index + j]);
3055             continue;
3056         }
3057
3058         return 1;
3059     }
3060
3061     return 0;
3062 }
3063
3064 /**
3065  * Select the output stream to process.
3066  *
3067  * @return  selected output stream, or NULL if none available
3068  */
3069 static OutputStream *choose_output(void)
3070 {
3071     int i;
3072     int64_t opts_min = INT64_MAX;
3073     OutputStream *ost_min = NULL;
3074
3075     for (i = 0; i < nb_output_streams; i++) {
3076         OutputStream *ost = output_streams[i];
3077         int64_t opts = av_rescale_q(ost->st->cur_dts, ost->st->time_base,
3078                                     AV_TIME_BASE_Q);
3079         if (!ost->unavailable && !ost->finished && opts < opts_min) {
3080             opts_min = opts;
3081             ost_min  = ost;
3082         }
3083     }
3084     return ost_min;
3085 }
3086
3087 static int check_keyboard_interaction(int64_t cur_time)
3088 {
3089     int i, ret, key;
3090     static int64_t last_time;
3091     if (received_nb_signals)
3092         return AVERROR_EXIT;
3093     /* read_key() returns 0 on EOF */
3094     if(cur_time - last_time >= 100000 && !run_as_daemon){
3095         key =  read_key();
3096         last_time = cur_time;
3097     }else
3098         key = -1;
3099     if (key == 'q')
3100         return AVERROR_EXIT;
3101     if (key == '+') av_log_set_level(av_log_get_level()+10);
3102     if (key == '-') av_log_set_level(av_log_get_level()-10);
3103     if (key == 's') qp_hist     ^= 1;
3104     if (key == 'h'){
3105         if (do_hex_dump){
3106             do_hex_dump = do_pkt_dump = 0;
3107         } else if(do_pkt_dump){
3108             do_hex_dump = 1;
3109         } else
3110             do_pkt_dump = 1;
3111         av_log_set_level(AV_LOG_DEBUG);
3112     }
3113     if (key == 'c' || key == 'C'){
3114         char buf[4096], target[64], command[256], arg[256] = {0};
3115         double time;
3116         int k, n = 0;
3117         fprintf(stderr, "\nEnter command: <target>|all <time>|-1 <command>[ <argument>]\n");
3118         i = 0;
3119         while ((k = read_key()) != '\n' && k != '\r' && i < sizeof(buf)-1)
3120             if (k > 0)
3121                 buf[i++] = k;
3122         buf[i] = 0;
3123         if (k > 0 &&
3124             (n = sscanf(buf, "%63[^ ] %lf %255[^ ] %255[^\n]", target, &time, command, arg)) >= 3) {
3125             av_log(NULL, AV_LOG_DEBUG, "Processing command target:%s time:%f command:%s arg:%s",
3126                    target, time, command, arg);
3127             for (i = 0; i < nb_filtergraphs; i++) {
3128                 FilterGraph *fg = filtergraphs[i];
3129                 if (fg->graph) {
3130                     if (time < 0) {
3131                         ret = avfilter_graph_send_command(fg->graph, target, command, arg, buf, sizeof(buf),
3132                                                           key == 'c' ? AVFILTER_CMD_FLAG_ONE : 0);
3133                         fprintf(stderr, "Command reply for stream %d: ret:%d res:\n%s", i, ret, buf);
3134                     } else if (key == 'c') {
3135                         fprintf(stderr, "Queing commands only on filters supporting the specific command is unsupported\n");
3136                         ret = AVERROR_PATCHWELCOME;
3137                     } else {
3138                         ret = avfilter_graph_queue_command(fg->graph, target, command, arg, 0, time);
3139                     }
3140                 }
3141             }
3142         } else {
3143             av_log(NULL, AV_LOG_ERROR,
3144                    "Parse error, at least 3 arguments were expected, "
3145                    "only %d given in string '%s'\n", n, buf);
3146         }
3147     }
3148     if (key == 'd' || key == 'D'){
3149         int debug=0;
3150         if(key == 'D') {
3151             debug = input_streams[0]->st->codec->debug<<1;
3152             if(!debug) debug = 1;
3153             while(debug & (FF_DEBUG_DCT_COEFF|FF_DEBUG_VIS_QP|FF_DEBUG_VIS_MB_TYPE)) //unsupported, would just crash
3154                 debug += debug;
3155         }else
3156             if(scanf("%d", &debug)!=1)
3157                 fprintf(stderr,"error parsing debug value\n");
3158         for(i=0;i<nb_input_streams;i++) {
3159             input_streams[i]->st->codec->debug = debug;
3160         }
3161         for(i=0;i<nb_output_streams;i++) {
3162             OutputStream *ost = output_streams[i];
3163             ost->enc_ctx->debug = debug;
3164         }
3165         if(debug) av_log_set_level(AV_LOG_DEBUG);
3166         fprintf(stderr,"debug=%d\n", debug);
3167     }
3168     if (key == '?'){
3169         fprintf(stderr, "key    function\n"
3170                         "?      show this help\n"
3171                         "+      increase verbosity\n"
3172                         "-      decrease verbosity\n"
3173                         "c      Send command to first matching filter supporting it\n"
3174                         "C      Send/Que command to all matching filters\n"
3175                         "D      cycle through available debug modes\n"
3176                         "h      dump packets/hex press to cycle through the 3 states\n"
3177                         "q      quit\n"
3178                         "s      Show QP histogram\n"
3179         );
3180     }
3181     return 0;
3182 }
3183
3184 #if HAVE_PTHREADS
3185 static void *input_thread(void *arg)
3186 {
3187     InputFile *f = arg;
3188     int ret = 0;
3189
3190     while (1) {
3191         AVPacket pkt;
3192         ret = av_read_frame(f->ctx, &pkt);
3193
3194         if (ret == AVERROR(EAGAIN)) {
3195             av_usleep(10000);
3196             continue;
3197         }
3198         if (ret < 0) {
3199             av_thread_message_queue_set_err_recv(f->in_thread_queue, ret);
3200             break;
3201         }
3202         av_dup_packet(&pkt);
3203         ret = av_thread_message_queue_send(f->in_thread_queue, &pkt, 0);
3204         if (ret < 0) {
3205             if (ret != AVERROR_EOF)
3206                 av_log(f->ctx, AV_LOG_ERROR,
3207                        "Unable to send packet to main thread: %s\n",
3208                        av_err2str(ret));
3209             av_free_packet(&pkt);
3210             av_thread_message_queue_set_err_recv(f->in_thread_queue, ret);
3211             break;
3212         }
3213     }
3214
3215     return NULL;
3216 }
3217
3218 static void free_input_threads(void)
3219 {
3220     int i;
3221
3222     for (i = 0; i < nb_input_files; i++) {
3223         InputFile *f = input_files[i];
3224         AVPacket pkt;
3225
3226         if (!f->in_thread_queue)
3227             continue;
3228         av_thread_message_queue_set_err_send(f->in_thread_queue, AVERROR_EOF);
3229         while (av_thread_message_queue_recv(f->in_thread_queue, &pkt, 0) >= 0)
3230             av_free_packet(&pkt);
3231
3232         pthread_join(f->thread, NULL);
3233         f->joined = 1;
3234         av_thread_message_queue_free(&f->in_thread_queue);
3235     }
3236 }
3237
3238 static int init_input_threads(void)
3239 {
3240     int i, ret;
3241
3242     if (nb_input_files == 1)
3243         return 0;
3244
3245     for (i = 0; i < nb_input_files; i++) {
3246         InputFile *f = input_files[i];
3247
3248         if (f->ctx->pb ? !f->ctx->pb->seekable :
3249             strcmp(f->ctx->iformat->name, "lavfi"))
3250             f->non_blocking = 1;
3251         ret = av_thread_message_queue_alloc(&f->in_thread_queue,
3252                                             8, sizeof(AVPacket));
3253         if (ret < 0)
3254             return ret;
3255
3256         if ((ret = pthread_create(&f->thread, NULL, input_thread, f))) {
3257             av_log(NULL, AV_LOG_ERROR, "pthread_create failed: %s. Try to increase `ulimit -v` or decrease `ulimit -s`.\n", strerror(ret));
3258             av_thread_message_queue_free(&f->in_thread_queue);
3259             return AVERROR(ret);
3260         }
3261     }
3262     return 0;
3263 }
3264
3265 static int get_input_packet_mt(InputFile *f, AVPacket *pkt)
3266 {
3267     return av_thread_message_queue_recv(f->in_thread_queue, pkt,
3268                                         f->non_blocking ?
3269                                         AV_THREAD_MESSAGE_NONBLOCK : 0);
3270 }
3271 #endif
3272
3273 static int get_input_packet(InputFile *f, AVPacket *pkt)
3274 {
3275     if (f->rate_emu) {
3276         int i;
3277         for (i = 0; i < f->nb_streams; i++) {
3278             InputStream *ist = input_streams[f->ist_index + i];
3279             int64_t pts = av_rescale(ist->dts, 1000000, AV_TIME_BASE);
3280             int64_t now = av_gettime_relative() - ist->start;
3281             if (pts > now)
3282                 return AVERROR(EAGAIN);
3283         }
3284     }
3285
3286 #if HAVE_PTHREADS
3287     if (nb_input_files > 1)
3288         return get_input_packet_mt(f, pkt);
3289 #endif
3290     return av_read_frame(f->ctx, pkt);
3291 }
3292
3293 static int got_eagain(void)
3294 {
3295     int i;
3296     for (i = 0; i < nb_output_streams; i++)
3297         if (output_streams[i]->unavailable)
3298             return 1;
3299     return 0;
3300 }
3301
3302 static void reset_eagain(void)
3303 {
3304     int i;
3305     for (i = 0; i < nb_input_files; i++)
3306         input_files[i]->eagain = 0;
3307     for (i = 0; i < nb_output_streams; i++)
3308         output_streams[i]->unavailable = 0;
3309 }
3310
3311 /*
3312  * Return
3313  * - 0 -- one packet was read and processed
3314  * - AVERROR(EAGAIN) -- no packets were available for selected file,
3315  *   this function should be called again
3316  * - AVERROR_EOF -- this function should not be called again
3317  */
3318 static int process_input(int file_index)
3319 {
3320     InputFile *ifile = input_files[file_index];
3321     AVFormatContext *is;
3322     InputStream *ist;
3323     AVPacket pkt;
3324     int ret, i, j;
3325
3326     is  = ifile->ctx;
3327     ret = get_input_packet(ifile, &pkt);
3328
3329     if (ret == AVERROR(EAGAIN)) {
3330         ifile->eagain = 1;
3331         return ret;
3332     }
3333     if (ret < 0) {
3334         if (ret != AVERROR_EOF) {
3335             print_error(is->filename, ret);
3336             if (exit_on_error)
3337                 exit_program(1);
3338         }
3339
3340         for (i = 0; i < ifile->nb_streams; i++) {
3341             ist = input_streams[ifile->ist_index + i];
3342             if (ist->decoding_needed) {
3343                 ret = output_packet(ist, NULL);
3344                 if (ret>0)
3345                     return 0;
3346             }
3347
3348             /* mark all outputs that don't go through lavfi as finished */
3349             for (j = 0; j < nb_output_streams; j++) {
3350                 OutputStream *ost = output_streams[j];
3351
3352                 if (ost->source_index == ifile->ist_index + i &&
3353                     (ost->stream_copy || ost->enc->type == AVMEDIA_TYPE_SUBTITLE))
3354                     finish_output_stream(ost);
3355             }
3356         }
3357
3358         ifile->eof_reached = 1;
3359         return AVERROR(EAGAIN);
3360     }
3361
3362     reset_eagain();
3363
3364     if (do_pkt_dump) {
3365         av_pkt_dump_log2(NULL, AV_LOG_DEBUG, &pkt, do_hex_dump,
3366                          is->streams[pkt.stream_index]);
3367     }
3368     /* the following test is needed in case new streams appear
3369        dynamically in stream : we ignore them */
3370     if (pkt.stream_index >= ifile->nb_streams) {
3371         report_new_stream(file_index, &pkt);
3372         goto discard_packet;
3373     }
3374
3375     ist = input_streams[ifile->ist_index + pkt.stream_index];
3376
3377     ist->data_size += pkt.size;
3378     ist->nb_packets++;
3379
3380     if (ist->discard)
3381         goto discard_packet;
3382
3383     if (debug_ts) {
3384         av_log(NULL, AV_LOG_INFO, "demuxer -> ist_index:%d type:%s "
3385                "next_dts:%s next_dts_time:%s next_pts:%s next_pts_time:%s pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s off:%s off_time:%s\n",
3386                ifile->ist_index + pkt.stream_index, av_get_media_type_string(ist->dec_ctx->codec_type),
3387                av_ts2str(ist->next_dts), av_ts2timestr(ist->next_dts, &AV_TIME_BASE_Q),
3388                av_ts2str(ist->next_pts), av_ts2timestr(ist->next_pts, &AV_TIME_BASE_Q),
3389                av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ist->st->time_base),
3390                av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ist->st->time_base),
3391                av_ts2str(input_files[ist->file_index]->ts_offset),
3392                av_ts2timestr(input_files[ist->file_index]->ts_offset, &AV_TIME_BASE_Q));
3393     }
3394
3395     if(!ist->wrap_correction_done && is->start_time != AV_NOPTS_VALUE && ist->st->pts_wrap_bits < 64){
3396         int64_t stime, stime2;
3397         // Correcting starttime based on the enabled streams
3398         // FIXME this ideally should be done before the first use of starttime but we do not know which are the enabled streams at that point.
3399         //       so we instead do it here as part of discontinuity handling
3400         if (   ist->next_dts == AV_NOPTS_VALUE
3401             && ifile->ts_offset == -is->start_time
3402             && (is->iformat->flags & AVFMT_TS_DISCONT)) {
3403             int64_t new_start_time = INT64_MAX;
3404             for (i=0; i<is->nb_streams; i++) {
3405                 AVStream *st = is->streams[i];
3406                 if(st->discard == AVDISCARD_ALL || st->start_time == AV_NOPTS_VALUE)
3407                     continue;
3408                 new_start_time = FFMIN(new_start_time, av_rescale_q(st->start_time, st->time_base, AV_TIME_BASE_Q));
3409             }
3410             if (new_start_time > is->start_time) {
3411                 av_log(is, AV_LOG_VERBOSE, "Correcting start time by %"PRId64"\n", new_start_time - is->start_time);
3412                 ifile->ts_offset = -new_start_time;
3413             }
3414         }
3415
3416         stime = av_rescale_q(is->start_time, AV_TIME_BASE_Q, ist->st->time_base);
3417         stime2= stime + (1ULL<<ist->st->pts_wrap_bits);
3418         ist->wrap_correction_done = 1;
3419
3420         if(stime2 > stime && pkt.dts != AV_NOPTS_VALUE && pkt.dts > stime + (1LL<<(ist->st->pts_wrap_bits-1))) {
3421             pkt.dts -= 1ULL<<ist->st->pts_wrap_bits;
3422             ist->wrap_correction_done = 0;
3423         }
3424         if(stime2 > stime && pkt.pts != AV_NOPTS_VALUE && pkt.pts > stime + (1LL<<(ist->st->pts_wrap_bits-1))) {
3425             pkt.pts -= 1ULL<<ist->st->pts_wrap_bits;
3426             ist->wrap_correction_done = 0;
3427         }
3428     }
3429
3430     /* add the stream-global side data to the first packet */
3431     if (ist->nb_packets == 1)
3432         if (ist->st->nb_side_data)
3433             av_packet_split_side_data(&pkt);
3434         for (i = 0; i < ist->st->nb_side_data; i++) {
3435             AVPacketSideData *src_sd = &ist->st->side_data[i];
3436             uint8_t *dst_data;
3437
3438             if (av_packet_get_side_data(&pkt, src_sd->type, NULL))
3439                 continue;
3440
3441             dst_data = av_packet_new_side_data(&pkt, src_sd->type, src_sd->size);
3442             if (!dst_data)
3443                 exit_program(1);
3444
3445             memcpy(dst_data, src_sd->data, src_sd->size);
3446         }
3447
3448     if (pkt.dts != AV_NOPTS_VALUE)
3449         pkt.dts += av_rescale_q(ifile->ts_offset, AV_TIME_BASE_Q, ist->st->time_base);
3450     if (pkt.pts != AV_NOPTS_VALUE)
3451         pkt.pts += av_rescale_q(ifile->ts_offset, AV_TIME_BASE_Q, ist->st->time_base);
3452
3453     if (pkt.pts != AV_NOPTS_VALUE)
3454         pkt.pts *= ist->ts_scale;
3455     if (pkt.dts != AV_NOPTS_VALUE)
3456         pkt.dts *= ist->ts_scale;
3457
3458     if (pkt.dts != AV_NOPTS_VALUE && ist->next_dts == AV_NOPTS_VALUE && !copy_ts
3459         && (is->iformat->flags & AVFMT_TS_DISCONT) && ifile->last_ts != AV_NOPTS_VALUE) {
3460         int64_t pkt_dts = av_rescale_q(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q);
3461         int64_t delta   = pkt_dts - ifile->last_ts;
3462         if(delta < -1LL*dts_delta_threshold*AV_TIME_BASE ||
3463             (delta > 1LL*dts_delta_threshold*AV_TIME_BASE &&
3464                 ist->dec_ctx->codec_type != AVMEDIA_TYPE_SUBTITLE)){
3465             ifile->ts_offset -= delta;
3466             av_log(NULL, AV_LOG_DEBUG,
3467                    "Inter stream timestamp discontinuity %"PRId64", new offset= %"PRId64"\n",
3468                    delta, ifile->ts_offset);
3469             pkt.dts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
3470             if (pkt.pts != AV_NOPTS_VALUE)
3471                 pkt.pts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
3472         }
3473     }
3474
3475     if (pkt.dts != AV_NOPTS_VALUE && ist->next_dts != AV_NOPTS_VALUE &&
3476         !copy_ts) {
3477         int64_t pkt_dts = av_rescale_q(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q);
3478         int64_t delta   = pkt_dts - ist->next_dts;
3479         if (is->iformat->flags & AVFMT_TS_DISCONT) {
3480             if (delta < -1LL*dts_delta_threshold*AV_TIME_BASE ||
3481                 (delta > 1LL*dts_delta_threshold*AV_TIME_BASE &&
3482                  ist->dec_ctx->codec_type != AVMEDIA_TYPE_SUBTITLE) ||
3483                 pkt_dts + AV_TIME_BASE/10 < FFMAX(ist->pts, ist->dts)) {
3484                 ifile->ts_offset -= delta;
3485                 av_log(NULL, AV_LOG_DEBUG,
3486                        "timestamp discontinuity %"PRId64", new offset= %"PRId64"\n",
3487                        delta, ifile->ts_offset);
3488                 pkt.dts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
3489                 if (pkt.pts != AV_NOPTS_VALUE)
3490                     pkt.pts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
3491             }
3492         } else {
3493             if ( delta < -1LL*dts_error_threshold*AV_TIME_BASE ||
3494                 (delta > 1LL*dts_error_threshold*AV_TIME_BASE && ist->dec_ctx->codec_type != AVMEDIA_TYPE_SUBTITLE)) {
3495                 av_log(NULL, AV_LOG_WARNING, "DTS %"PRId64", next:%"PRId64" st:%d invalid dropping\n", pkt.dts, ist->next_dts, pkt.stream_index);
3496                 pkt.dts = AV_NOPTS_VALUE;
3497             }
3498             if (pkt.pts != AV_NOPTS_VALUE){
3499                 int64_t pkt_pts = av_rescale_q(pkt.pts, ist->st->time_base, AV_TIME_BASE_Q);
3500                 delta   = pkt_pts - ist->next_dts;
3501                 if ( delta < -1LL*dts_error_threshold*AV_TIME_BASE ||
3502                     (delta > 1LL*dts_error_threshold*AV_TIME_BASE && ist->dec_ctx->codec_type != AVMEDIA_TYPE_SUBTITLE)) {
3503                     av_log(NULL, AV_LOG_WARNING, "PTS %"PRId64", next:%"PRId64" invalid dropping st:%d\n", pkt.pts, ist->next_dts, pkt.stream_index);
3504                     pkt.pts = AV_NOPTS_VALUE;
3505                 }
3506             }
3507         }
3508     }
3509
3510     if (pkt.dts != AV_NOPTS_VALUE)
3511         ifile->last_ts = av_rescale_q(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q);
3512
3513     if (debug_ts) {
3514         av_log(NULL, AV_LOG_INFO, "demuxer+ffmpeg -> ist_index:%d type:%s pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s off:%s off_time:%s\n",
3515                ifile->ist_index + pkt.stream_index, av_get_media_type_string(ist->dec_ctx->codec_type),
3516                av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ist->st->time_base),
3517                av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ist->st->time_base),
3518                av_ts2str(input_files[ist->file_index]->ts_offset),
3519                av_ts2timestr(input_files[ist->file_index]->ts_offset, &AV_TIME_BASE_Q));
3520     }
3521
3522     sub2video_heartbeat(ist, pkt.pts);
3523
3524     ret = output_packet(ist, &pkt);
3525     if (ret < 0) {
3526         av_log(NULL, AV_LOG_ERROR, "Error while decoding stream #%d:%d: %s\n",
3527                ist->file_index, ist->st->index, av_err2str(ret));
3528         if (exit_on_error)
3529             exit_program(1);
3530     }
3531
3532 discard_packet:
3533     av_free_packet(&pkt);
3534
3535     return 0;
3536 }
3537
3538 /**
3539  * Perform a step of transcoding for the specified filter graph.
3540  *
3541  * @param[in]  graph     filter graph to consider
3542  * @param[out] best_ist  input stream where a frame would allow to continue
3543  * @return  0 for success, <0 for error
3544  */
3545 static int transcode_from_filter(FilterGraph *graph, InputStream **best_ist)
3546 {
3547     int i, ret;
3548     int nb_requests, nb_requests_max = 0;
3549     InputFilter *ifilter;
3550     InputStream *ist;
3551
3552     *best_ist = NULL;
3553     ret = avfilter_graph_request_oldest(graph->graph);
3554     if (ret >= 0)
3555         return reap_filters();
3556
3557     if (ret == AVERROR_EOF) {
3558         ret = reap_filters();
3559         for (i = 0; i < graph->nb_outputs; i++)
3560             close_output_stream(graph->outputs[i]->ost);
3561         return ret;
3562     }
3563     if (ret != AVERROR(EAGAIN))
3564         return ret;
3565
3566     for (i = 0; i < graph->nb_inputs; i++) {
3567         ifilter = graph->inputs[i];
3568         ist = ifilter->ist;
3569         if (input_files[ist->file_index]->eagain ||
3570             input_files[ist->file_index]->eof_reached)
3571             continue;
3572         nb_requests = av_buffersrc_get_nb_failed_requests(ifilter->filter);
3573         if (nb_requests > nb_requests_max) {
3574             nb_requests_max = nb_requests;
3575             *best_ist = ist;
3576         }
3577     }
3578
3579     if (!*best_ist)
3580         for (i = 0; i < graph->nb_outputs; i++)
3581             graph->outputs[i]->ost->unavailable = 1;
3582
3583     return 0;
3584 }
3585
3586 /**
3587  * Run a single step of transcoding.
3588  *
3589  * @return  0 for success, <0 for error
3590  */
3591 static int transcode_step(void)
3592 {
3593     OutputStream *ost;
3594     InputStream  *ist;
3595     int ret;
3596
3597     ost = choose_output();
3598     if (!ost) {
3599         if (got_eagain()) {
3600             reset_eagain();
3601             av_usleep(10000);
3602             return 0;
3603         }
3604         av_log(NULL, AV_LOG_VERBOSE, "No more inputs to read from, finishing.\n");
3605         return AVERROR_EOF;
3606     }
3607
3608     if (ost->filter) {
3609         if ((ret = transcode_from_filter(ost->filter->graph, &ist)) < 0)
3610             return ret;
3611         if (!ist)
3612             return 0;
3613     } else {
3614         av_assert0(ost->source_index >= 0);
3615         ist = input_streams[ost->source_index];
3616     }
3617
3618     ret = process_input(ist->file_index);
3619     if (ret == AVERROR(EAGAIN)) {
3620         if (input_files[ist->file_index]->eagain)
3621             ost->unavailable = 1;
3622         return 0;
3623     }
3624     if (ret < 0)
3625         return ret == AVERROR_EOF ? 0 : ret;
3626
3627     return reap_filters();
3628 }
3629
3630 /*
3631  * The following code is the main loop of the file converter
3632  */
3633 static int transcode(void)
3634 {
3635     int ret, i;
3636     AVFormatContext *os;
3637     OutputStream *ost;
3638     InputStream *ist;
3639     int64_t timer_start;
3640