e51e789b03d774e4fee0bbc2ea2d90273ac4cffa
[ffmpeg.git] / ffmpeg.c
1 /*
2  * Copyright (c) 2000-2003 Fabrice Bellard
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * multimedia converter based on the FFmpeg libraries
24  */
25
26 #include "config.h"
27 #include <ctype.h>
28 #include <string.h>
29 #include <math.h>
30 #include <stdlib.h>
31 #include <errno.h>
32 #include <limits.h>
33 #include <stdint.h>
34
35 #if HAVE_ISATTY
36 #if HAVE_IO_H
37 #include <io.h>
38 #endif
39 #if HAVE_UNISTD_H
40 #include <unistd.h>
41 #endif
42 #endif
43
44 #include "libavformat/avformat.h"
45 #include "libavdevice/avdevice.h"
46 #include "libswresample/swresample.h"
47 #include "libavutil/opt.h"
48 #include "libavutil/channel_layout.h"
49 #include "libavutil/parseutils.h"
50 #include "libavutil/samplefmt.h"
51 #include "libavutil/fifo.h"
52 #include "libavutil/intreadwrite.h"
53 #include "libavutil/dict.h"
54 #include "libavutil/mathematics.h"
55 #include "libavutil/pixdesc.h"
56 #include "libavutil/avstring.h"
57 #include "libavutil/libm.h"
58 #include "libavutil/imgutils.h"
59 #include "libavutil/timestamp.h"
60 #include "libavutil/bprint.h"
61 #include "libavutil/time.h"
62 #include "libavutil/threadmessage.h"
63 #include "libavformat/os_support.h"
64
65 #include "libavformat/ffm.h" // not public API
66
67 # include "libavfilter/avcodec.h"
68 # include "libavfilter/avfilter.h"
69 # include "libavfilter/buffersrc.h"
70 # include "libavfilter/buffersink.h"
71
72 #if HAVE_SYS_RESOURCE_H
73 #include <sys/time.h>
74 #include <sys/types.h>
75 #include <sys/resource.h>
76 #elif HAVE_GETPROCESSTIMES
77 #include <windows.h>
78 #endif
79 #if HAVE_GETPROCESSMEMORYINFO
80 #include <windows.h>
81 #include <psapi.h>
82 #endif
83
84 #if HAVE_SYS_SELECT_H
85 #include <sys/select.h>
86 #endif
87
88 #if HAVE_TERMIOS_H
89 #include <fcntl.h>
90 #include <sys/ioctl.h>
91 #include <sys/time.h>
92 #include <termios.h>
93 #elif HAVE_KBHIT
94 #include <conio.h>
95 #endif
96
97 #if HAVE_PTHREADS
98 #include <pthread.h>
99 #endif
100
101 #include <time.h>
102
103 #include "ffmpeg.h"
104 #include "cmdutils.h"
105
106 #include "libavutil/avassert.h"
107
108 const char program_name[] = "ffmpeg";
109 const int program_birth_year = 2000;
110
111 static FILE *vstats_file;
112
113 const char *const forced_keyframes_const_names[] = {
114     "n",
115     "n_forced",
116     "prev_forced_n",
117     "prev_forced_t",
118     "t",
119     NULL
120 };
121
122 static void do_video_stats(OutputStream *ost, int frame_size);
123 static int64_t getutime(void);
124 static int64_t getmaxrss(void);
125
126 static int run_as_daemon  = 0;
127 static int nb_frames_dup = 0;
128 static int nb_frames_drop = 0;
129 static int64_t decode_error_stat[2];
130
131 static int current_time;
132 AVIOContext *progress_avio = NULL;
133
134 static uint8_t *subtitle_out;
135
136 #define DEFAULT_PASS_LOGFILENAME_PREFIX "ffmpeg2pass"
137
138 InputStream **input_streams = NULL;
139 int        nb_input_streams = 0;
140 InputFile   **input_files   = NULL;
141 int        nb_input_files   = 0;
142
143 OutputStream **output_streams = NULL;
144 int         nb_output_streams = 0;
145 OutputFile   **output_files   = NULL;
146 int         nb_output_files   = 0;
147
148 FilterGraph **filtergraphs;
149 int        nb_filtergraphs;
150
151 #if HAVE_TERMIOS_H
152
153 /* init terminal so that we can grab keys */
154 static struct termios oldtty;
155 static int restore_tty;
156 #endif
157
158 static void free_input_threads(void);
159
160
161 /* sub2video hack:
162    Convert subtitles to video with alpha to insert them in filter graphs.
163    This is a temporary solution until libavfilter gets real subtitles support.
164  */
165
166 static int sub2video_get_blank_frame(InputStream *ist)
167 {
168     int ret;
169     AVFrame *frame = ist->sub2video.frame;
170
171     av_frame_unref(frame);
172     ist->sub2video.frame->width  = ist->sub2video.w;
173     ist->sub2video.frame->height = ist->sub2video.h;
174     ist->sub2video.frame->format = AV_PIX_FMT_RGB32;
175     if ((ret = av_frame_get_buffer(frame, 32)) < 0)
176         return ret;
177     memset(frame->data[0], 0, frame->height * frame->linesize[0]);
178     return 0;
179 }
180
181 static void sub2video_copy_rect(uint8_t *dst, int dst_linesize, int w, int h,
182                                 AVSubtitleRect *r)
183 {
184     uint32_t *pal, *dst2;
185     uint8_t *src, *src2;
186     int x, y;
187
188     if (r->type != SUBTITLE_BITMAP) {
189         av_log(NULL, AV_LOG_WARNING, "sub2video: non-bitmap subtitle\n");
190         return;
191     }
192     if (r->x < 0 || r->x + r->w > w || r->y < 0 || r->y + r->h > h) {
193         av_log(NULL, AV_LOG_WARNING, "sub2video: rectangle overflowing\n");
194         return;
195     }
196
197     dst += r->y * dst_linesize + r->x * 4;
198     src = r->pict.data[0];
199     pal = (uint32_t *)r->pict.data[1];
200     for (y = 0; y < r->h; y++) {
201         dst2 = (uint32_t *)dst;
202         src2 = src;
203         for (x = 0; x < r->w; x++)
204             *(dst2++) = pal[*(src2++)];
205         dst += dst_linesize;
206         src += r->pict.linesize[0];
207     }
208 }
209
210 static void sub2video_push_ref(InputStream *ist, int64_t pts)
211 {
212     AVFrame *frame = ist->sub2video.frame;
213     int i;
214
215     av_assert1(frame->data[0]);
216     ist->sub2video.last_pts = frame->pts = pts;
217     for (i = 0; i < ist->nb_filters; i++)
218         av_buffersrc_add_frame_flags(ist->filters[i]->filter, frame,
219                                      AV_BUFFERSRC_FLAG_KEEP_REF |
220                                      AV_BUFFERSRC_FLAG_PUSH);
221 }
222
223 static void sub2video_update(InputStream *ist, AVSubtitle *sub)
224 {
225     int w = ist->sub2video.w, h = ist->sub2video.h;
226     AVFrame *frame = ist->sub2video.frame;
227     int8_t *dst;
228     int     dst_linesize;
229     int num_rects, i;
230     int64_t pts, end_pts;
231
232     if (!frame)
233         return;
234     if (sub) {
235         pts       = av_rescale_q(sub->pts + sub->start_display_time * 1000LL,
236                                  AV_TIME_BASE_Q, ist->st->time_base);
237         end_pts   = av_rescale_q(sub->pts + sub->end_display_time   * 1000LL,
238                                  AV_TIME_BASE_Q, ist->st->time_base);
239         num_rects = sub->num_rects;
240     } else {
241         pts       = ist->sub2video.end_pts;
242         end_pts   = INT64_MAX;
243         num_rects = 0;
244     }
245     if (sub2video_get_blank_frame(ist) < 0) {
246         av_log(ist->dec_ctx, AV_LOG_ERROR,
247                "Impossible to get a blank canvas.\n");
248         return;
249     }
250     dst          = frame->data    [0];
251     dst_linesize = frame->linesize[0];
252     for (i = 0; i < num_rects; i++)
253         sub2video_copy_rect(dst, dst_linesize, w, h, sub->rects[i]);
254     sub2video_push_ref(ist, pts);
255     ist->sub2video.end_pts = end_pts;
256 }
257
258 static void sub2video_heartbeat(InputStream *ist, int64_t pts)
259 {
260     InputFile *infile = input_files[ist->file_index];
261     int i, j, nb_reqs;
262     int64_t pts2;
263
264     /* When a frame is read from a file, examine all sub2video streams in
265        the same file and send the sub2video frame again. Otherwise, decoded
266        video frames could be accumulating in the filter graph while a filter
267        (possibly overlay) is desperately waiting for a subtitle frame. */
268     for (i = 0; i < infile->nb_streams; i++) {
269         InputStream *ist2 = input_streams[infile->ist_index + i];
270         if (!ist2->sub2video.frame)
271             continue;
272         /* subtitles seem to be usually muxed ahead of other streams;
273            if not, subtracting a larger time here is necessary */
274         pts2 = av_rescale_q(pts, ist->st->time_base, ist2->st->time_base) - 1;
275         /* do not send the heartbeat frame if the subtitle is already ahead */
276         if (pts2 <= ist2->sub2video.last_pts)
277             continue;
278         if (pts2 >= ist2->sub2video.end_pts || !ist2->sub2video.frame->data[0])
279             sub2video_update(ist2, NULL);
280         for (j = 0, nb_reqs = 0; j < ist2->nb_filters; j++)
281             nb_reqs += av_buffersrc_get_nb_failed_requests(ist2->filters[j]->filter);
282         if (nb_reqs)
283             sub2video_push_ref(ist2, pts2);
284     }
285 }
286
287 static void sub2video_flush(InputStream *ist)
288 {
289     int i;
290
291     if (ist->sub2video.end_pts < INT64_MAX)
292         sub2video_update(ist, NULL);
293     for (i = 0; i < ist->nb_filters; i++)
294         av_buffersrc_add_ref(ist->filters[i]->filter, NULL, 0);
295 }
296
297 /* end of sub2video hack */
298
299 static void term_exit_sigsafe(void)
300 {
301 #if HAVE_TERMIOS_H
302     if(restore_tty)
303         tcsetattr (0, TCSANOW, &oldtty);
304 #endif
305 }
306
307 void term_exit(void)
308 {
309     av_log(NULL, AV_LOG_QUIET, "%s", "");
310     term_exit_sigsafe();
311 }
312
313 static volatile int received_sigterm = 0;
314 static volatile int received_nb_signals = 0;
315 static volatile int transcode_init_done = 0;
316 static int main_return_code = 0;
317
318 static void
319 sigterm_handler(int sig)
320 {
321     received_sigterm = sig;
322     received_nb_signals++;
323     term_exit_sigsafe();
324     if(received_nb_signals > 3)
325         exit(123);
326 }
327
328 void term_init(void)
329 {
330 #if HAVE_TERMIOS_H
331     if(!run_as_daemon){
332         struct termios tty;
333         int istty = 1;
334 #if HAVE_ISATTY
335         istty = isatty(0) && isatty(2);
336 #endif
337         if (istty && tcgetattr (0, &tty) == 0) {
338             oldtty = tty;
339             restore_tty = 1;
340
341             tty.c_iflag &= ~(IGNBRK|BRKINT|PARMRK|ISTRIP
342                              |INLCR|IGNCR|ICRNL|IXON);
343             tty.c_oflag |= OPOST;
344             tty.c_lflag &= ~(ECHO|ECHONL|ICANON|IEXTEN);
345             tty.c_cflag &= ~(CSIZE|PARENB);
346             tty.c_cflag |= CS8;
347             tty.c_cc[VMIN] = 1;
348             tty.c_cc[VTIME] = 0;
349
350             tcsetattr (0, TCSANOW, &tty);
351         }
352         signal(SIGQUIT, sigterm_handler); /* Quit (POSIX).  */
353     }
354 #endif
355     avformat_network_deinit();
356
357     signal(SIGINT , sigterm_handler); /* Interrupt (ANSI).    */
358     signal(SIGTERM, sigterm_handler); /* Termination (ANSI).  */
359 #ifdef SIGXCPU
360     signal(SIGXCPU, sigterm_handler);
361 #endif
362 }
363
364 /* read a key without blocking */
365 static int read_key(void)
366 {
367     unsigned char ch;
368 #if HAVE_TERMIOS_H
369     int n = 1;
370     struct timeval tv;
371     fd_set rfds;
372
373     FD_ZERO(&rfds);
374     FD_SET(0, &rfds);
375     tv.tv_sec = 0;
376     tv.tv_usec = 0;
377     n = select(1, &rfds, NULL, NULL, &tv);
378     if (n > 0) {
379         n = read(0, &ch, 1);
380         if (n == 1)
381             return ch;
382
383         return n;
384     }
385 #elif HAVE_KBHIT
386 #    if HAVE_PEEKNAMEDPIPE
387     static int is_pipe;
388     static HANDLE input_handle;
389     DWORD dw, nchars;
390     if(!input_handle){
391         input_handle = GetStdHandle(STD_INPUT_HANDLE);
392         is_pipe = !GetConsoleMode(input_handle, &dw);
393     }
394
395     if (stdin->_cnt > 0) {
396         read(0, &ch, 1);
397         return ch;
398     }
399     if (is_pipe) {
400         /* When running under a GUI, you will end here. */
401         if (!PeekNamedPipe(input_handle, NULL, 0, NULL, &nchars, NULL)) {
402             // input pipe may have been closed by the program that ran ffmpeg
403             return -1;
404         }
405         //Read it
406         if(nchars != 0) {
407             read(0, &ch, 1);
408             return ch;
409         }else{
410             return -1;
411         }
412     }
413 #    endif
414     if(kbhit())
415         return(getch());
416 #endif
417     return -1;
418 }
419
420 static int decode_interrupt_cb(void *ctx)
421 {
422     return received_nb_signals > transcode_init_done;
423 }
424
425 const AVIOInterruptCB int_cb = { decode_interrupt_cb, NULL };
426
427 static void ffmpeg_cleanup(int ret)
428 {
429     int i, j;
430
431     if (do_benchmark) {
432         int maxrss = getmaxrss() / 1024;
433         printf("bench: maxrss=%ikB\n", maxrss);
434     }
435
436     for (i = 0; i < nb_filtergraphs; i++) {
437         FilterGraph *fg = filtergraphs[i];
438         avfilter_graph_free(&fg->graph);
439         for (j = 0; j < fg->nb_inputs; j++) {
440             av_freep(&fg->inputs[j]->name);
441             av_freep(&fg->inputs[j]);
442         }
443         av_freep(&fg->inputs);
444         for (j = 0; j < fg->nb_outputs; j++) {
445             av_freep(&fg->outputs[j]->name);
446             av_freep(&fg->outputs[j]);
447         }
448         av_freep(&fg->outputs);
449         av_freep(&fg->graph_desc);
450
451         av_freep(&filtergraphs[i]);
452     }
453     av_freep(&filtergraphs);
454
455     av_freep(&subtitle_out);
456
457     /* close files */
458     for (i = 0; i < nb_output_files; i++) {
459         OutputFile *of = output_files[i];
460         AVFormatContext *s = of->ctx;
461         if (s && s->oformat && !(s->oformat->flags & AVFMT_NOFILE) && s->pb)
462             avio_close(s->pb);
463         avformat_free_context(s);
464         av_dict_free(&of->opts);
465
466         av_freep(&output_files[i]);
467     }
468     for (i = 0; i < nb_output_streams; i++) {
469         OutputStream *ost = output_streams[i];
470         AVBitStreamFilterContext *bsfc = ost->bitstream_filters;
471         while (bsfc) {
472             AVBitStreamFilterContext *next = bsfc->next;
473             av_bitstream_filter_close(bsfc);
474             bsfc = next;
475         }
476         ost->bitstream_filters = NULL;
477         av_frame_free(&ost->filtered_frame);
478         av_frame_free(&ost->last_frame);
479
480         av_parser_close(ost->parser);
481
482         av_freep(&ost->forced_keyframes);
483         av_expr_free(ost->forced_keyframes_pexpr);
484         av_freep(&ost->avfilter);
485         av_freep(&ost->logfile_prefix);
486
487         av_freep(&ost->audio_channels_map);
488         ost->audio_channels_mapped = 0;
489
490         avcodec_free_context(&ost->enc_ctx);
491
492         av_freep(&output_streams[i]);
493     }
494 #if HAVE_PTHREADS
495     free_input_threads();
496 #endif
497     for (i = 0; i < nb_input_files; i++) {
498         avformat_close_input(&input_files[i]->ctx);
499         av_freep(&input_files[i]);
500     }
501     for (i = 0; i < nb_input_streams; i++) {
502         InputStream *ist = input_streams[i];
503
504         av_frame_free(&ist->decoded_frame);
505         av_frame_free(&ist->filter_frame);
506         av_dict_free(&ist->decoder_opts);
507         avsubtitle_free(&ist->prev_sub.subtitle);
508         av_frame_free(&ist->sub2video.frame);
509         av_freep(&ist->filters);
510         av_freep(&ist->hwaccel_device);
511
512         avcodec_free_context(&ist->dec_ctx);
513
514         av_freep(&input_streams[i]);
515     }
516
517     if (vstats_file)
518         fclose(vstats_file);
519     av_free(vstats_filename);
520
521     av_freep(&input_streams);
522     av_freep(&input_files);
523     av_freep(&output_streams);
524     av_freep(&output_files);
525
526     uninit_opts();
527
528     avformat_network_deinit();
529
530     if (received_sigterm) {
531         av_log(NULL, AV_LOG_INFO, "Received signal %d: terminating.\n",
532                (int) received_sigterm);
533     } else if (ret && transcode_init_done) {
534         av_log(NULL, AV_LOG_INFO, "Conversion failed!\n");
535     }
536     term_exit();
537 }
538
539 void remove_avoptions(AVDictionary **a, AVDictionary *b)
540 {
541     AVDictionaryEntry *t = NULL;
542
543     while ((t = av_dict_get(b, "", t, AV_DICT_IGNORE_SUFFIX))) {
544         av_dict_set(a, t->key, NULL, AV_DICT_MATCH_CASE);
545     }
546 }
547
548 void assert_avoptions(AVDictionary *m)
549 {
550     AVDictionaryEntry *t;
551     if ((t = av_dict_get(m, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
552         av_log(NULL, AV_LOG_FATAL, "Option %s not found.\n", t->key);
553         exit_program(1);
554     }
555 }
556
557 static void abort_codec_experimental(AVCodec *c, int encoder)
558 {
559     exit_program(1);
560 }
561
562 static void update_benchmark(const char *fmt, ...)
563 {
564     if (do_benchmark_all) {
565         int64_t t = getutime();
566         va_list va;
567         char buf[1024];
568
569         if (fmt) {
570             va_start(va, fmt);
571             vsnprintf(buf, sizeof(buf), fmt, va);
572             va_end(va);
573             printf("bench: %8"PRIu64" %s \n", t - current_time, buf);
574         }
575         current_time = t;
576     }
577 }
578
579 static void close_all_output_streams(OutputStream *ost, OSTFinished this_stream, OSTFinished others)
580 {
581     int i;
582     for (i = 0; i < nb_output_streams; i++) {
583         OutputStream *ost2 = output_streams[i];
584         ost2->finished |= ost == ost2 ? this_stream : others;
585     }
586 }
587
588 static void write_frame(AVFormatContext *s, AVPacket *pkt, OutputStream *ost)
589 {
590     AVBitStreamFilterContext *bsfc = ost->bitstream_filters;
591     AVCodecContext          *avctx = ost->st->codec;
592     int ret;
593
594     if (!ost->st->codec->extradata_size && ost->enc_ctx->extradata_size) {
595         ost->st->codec->extradata = av_mallocz(ost->enc_ctx->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
596         if (ost->st->codec->extradata) {
597             memcpy(ost->st->codec->extradata, ost->enc_ctx->extradata, ost->enc_ctx->extradata_size);
598             ost->st->codec->extradata_size = ost->enc_ctx->extradata_size;
599         }
600     }
601
602     if ((avctx->codec_type == AVMEDIA_TYPE_VIDEO && video_sync_method == VSYNC_DROP) ||
603         (avctx->codec_type == AVMEDIA_TYPE_AUDIO && audio_sync_method < 0))
604         pkt->pts = pkt->dts = AV_NOPTS_VALUE;
605
606     /*
607      * Audio encoders may split the packets --  #frames in != #packets out.
608      * But there is no reordering, so we can limit the number of output packets
609      * by simply dropping them here.
610      * Counting encoded video frames needs to be done separately because of
611      * reordering, see do_video_out()
612      */
613     if (!(avctx->codec_type == AVMEDIA_TYPE_VIDEO && avctx->codec)) {
614         if (ost->frame_number >= ost->max_frames) {
615             av_free_packet(pkt);
616             return;
617         }
618         ost->frame_number++;
619     }
620
621     if (bsfc)
622         av_packet_split_side_data(pkt);
623
624     while (bsfc) {
625         AVPacket new_pkt = *pkt;
626         int a = av_bitstream_filter_filter(bsfc, avctx, NULL,
627                                            &new_pkt.data, &new_pkt.size,
628                                            pkt->data, pkt->size,
629                                            pkt->flags & AV_PKT_FLAG_KEY);
630         if(a == 0 && new_pkt.data != pkt->data && new_pkt.destruct) {
631             uint8_t *t = av_malloc(new_pkt.size + FF_INPUT_BUFFER_PADDING_SIZE); //the new should be a subset of the old so cannot overflow
632             if(t) {
633                 memcpy(t, new_pkt.data, new_pkt.size);
634                 memset(t + new_pkt.size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
635                 new_pkt.data = t;
636                 new_pkt.buf = NULL;
637                 a = 1;
638             } else
639                 a = AVERROR(ENOMEM);
640         }
641         if (a > 0) {
642             pkt->side_data = NULL;
643             pkt->side_data_elems = 0;
644             av_free_packet(pkt);
645             new_pkt.buf = av_buffer_create(new_pkt.data, new_pkt.size,
646                                            av_buffer_default_free, NULL, 0);
647             if (!new_pkt.buf)
648                 exit_program(1);
649         } else if (a < 0) {
650             av_log(NULL, AV_LOG_ERROR, "Failed to open bitstream filter %s for stream %d with codec %s",
651                    bsfc->filter->name, pkt->stream_index,
652                    avctx->codec ? avctx->codec->name : "copy");
653             print_error("", a);
654             if (exit_on_error)
655                 exit_program(1);
656         }
657         *pkt = new_pkt;
658
659         bsfc = bsfc->next;
660     }
661
662     if (!(s->oformat->flags & AVFMT_NOTIMESTAMPS)) {
663         if (pkt->dts != AV_NOPTS_VALUE &&
664             pkt->pts != AV_NOPTS_VALUE &&
665             pkt->dts > pkt->pts) {
666             av_log(s, AV_LOG_WARNING, "Invalid DTS: %"PRId64" PTS: %"PRId64" in output stream %d:%d, replacing by guess\n",
667                    pkt->dts, pkt->pts,
668                    ost->file_index, ost->st->index);
669             pkt->pts =
670             pkt->dts = pkt->pts + pkt->dts + ost->last_mux_dts + 1
671                      - FFMIN3(pkt->pts, pkt->dts, ost->last_mux_dts + 1)
672                      - FFMAX3(pkt->pts, pkt->dts, ost->last_mux_dts + 1);
673         }
674      if(
675         (avctx->codec_type == AVMEDIA_TYPE_AUDIO || avctx->codec_type == AVMEDIA_TYPE_VIDEO) &&
676         pkt->dts != AV_NOPTS_VALUE &&
677         ost->last_mux_dts != AV_NOPTS_VALUE) {
678       int64_t max = ost->last_mux_dts + !(s->oformat->flags & AVFMT_TS_NONSTRICT);
679       if (pkt->dts < max) {
680         int loglevel = max - pkt->dts > 2 || avctx->codec_type == AVMEDIA_TYPE_VIDEO ? AV_LOG_WARNING : AV_LOG_DEBUG;
681         av_log(s, loglevel, "Non-monotonous DTS in output stream "
682                "%d:%d; previous: %"PRId64", current: %"PRId64"; ",
683                ost->file_index, ost->st->index, ost->last_mux_dts, pkt->dts);
684         if (exit_on_error) {
685             av_log(NULL, AV_LOG_FATAL, "aborting.\n");
686             exit_program(1);
687         }
688         av_log(s, loglevel, "changing to %"PRId64". This may result "
689                "in incorrect timestamps in the output file.\n",
690                max);
691         if(pkt->pts >= pkt->dts)
692             pkt->pts = FFMAX(pkt->pts, max);
693         pkt->dts = max;
694       }
695      }
696     }
697     ost->last_mux_dts = pkt->dts;
698
699     ost->data_size += pkt->size;
700     ost->packets_written++;
701
702     pkt->stream_index = ost->index;
703
704     if (debug_ts) {
705         av_log(NULL, AV_LOG_INFO, "muxer <- type:%s "
706                 "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s size:%d\n",
707                 av_get_media_type_string(ost->enc_ctx->codec_type),
708                 av_ts2str(pkt->pts), av_ts2timestr(pkt->pts, &ost->st->time_base),
709                 av_ts2str(pkt->dts), av_ts2timestr(pkt->dts, &ost->st->time_base),
710                 pkt->size
711               );
712     }
713
714     ret = av_interleaved_write_frame(s, pkt);
715     if (ret < 0) {
716         print_error("av_interleaved_write_frame()", ret);
717         main_return_code = 1;
718         close_all_output_streams(ost, MUXER_FINISHED | ENCODER_FINISHED, ENCODER_FINISHED);
719     }
720     av_free_packet(pkt);
721 }
722
723 static void close_output_stream(OutputStream *ost)
724 {
725     OutputFile *of = output_files[ost->file_index];
726
727     ost->finished |= ENCODER_FINISHED;
728     if (of->shortest) {
729         int64_t end = av_rescale_q(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, AV_TIME_BASE_Q);
730         of->recording_time = FFMIN(of->recording_time, end);
731     }
732 }
733
734 static int check_recording_time(OutputStream *ost)
735 {
736     OutputFile *of = output_files[ost->file_index];
737
738     if (of->recording_time != INT64_MAX &&
739         av_compare_ts(ost->sync_opts - ost->first_pts, ost->enc_ctx->time_base, of->recording_time,
740                       AV_TIME_BASE_Q) >= 0) {
741         close_output_stream(ost);
742         return 0;
743     }
744     return 1;
745 }
746
747 static void do_audio_out(AVFormatContext *s, OutputStream *ost,
748                          AVFrame *frame)
749 {
750     AVCodecContext *enc = ost->enc_ctx;
751     AVPacket pkt;
752     int got_packet = 0;
753
754     av_init_packet(&pkt);
755     pkt.data = NULL;
756     pkt.size = 0;
757
758     if (!check_recording_time(ost))
759         return;
760
761     if (frame->pts == AV_NOPTS_VALUE || audio_sync_method < 0)
762         frame->pts = ost->sync_opts;
763     ost->sync_opts = frame->pts + frame->nb_samples;
764     ost->samples_encoded += frame->nb_samples;
765     ost->frames_encoded++;
766
767     av_assert0(pkt.size || !pkt.data);
768     update_benchmark(NULL);
769     if (debug_ts) {
770         av_log(NULL, AV_LOG_INFO, "encoder <- type:audio "
771                "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
772                av_ts2str(frame->pts), av_ts2timestr(frame->pts, &enc->time_base),
773                enc->time_base.num, enc->time_base.den);
774     }
775
776     if (avcodec_encode_audio2(enc, &pkt, frame, &got_packet) < 0) {
777         av_log(NULL, AV_LOG_FATAL, "Audio encoding failed (avcodec_encode_audio2)\n");
778         exit_program(1);
779     }
780     update_benchmark("encode_audio %d.%d", ost->file_index, ost->index);
781
782     if (got_packet) {
783         av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
784
785         if (debug_ts) {
786             av_log(NULL, AV_LOG_INFO, "encoder -> type:audio "
787                    "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
788                    av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ost->st->time_base),
789                    av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ost->st->time_base));
790         }
791
792         write_frame(s, &pkt, ost);
793     }
794 }
795
796 static void do_subtitle_out(AVFormatContext *s,
797                             OutputStream *ost,
798                             InputStream *ist,
799                             AVSubtitle *sub)
800 {
801     int subtitle_out_max_size = 1024 * 1024;
802     int subtitle_out_size, nb, i;
803     AVCodecContext *enc;
804     AVPacket pkt;
805     int64_t pts;
806
807     if (sub->pts == AV_NOPTS_VALUE) {
808         av_log(NULL, AV_LOG_ERROR, "Subtitle packets must have a pts\n");
809         if (exit_on_error)
810             exit_program(1);
811         return;
812     }
813
814     enc = ost->enc_ctx;
815
816     if (!subtitle_out) {
817         subtitle_out = av_malloc(subtitle_out_max_size);
818     }
819
820     /* Note: DVB subtitle need one packet to draw them and one other
821        packet to clear them */
822     /* XXX: signal it in the codec context ? */
823     if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE)
824         nb = 2;
825     else
826         nb = 1;
827
828     /* shift timestamp to honor -ss and make check_recording_time() work with -t */
829     pts = sub->pts;
830     if (output_files[ost->file_index]->start_time != AV_NOPTS_VALUE)
831         pts -= output_files[ost->file_index]->start_time;
832     for (i = 0; i < nb; i++) {
833         unsigned save_num_rects = sub->num_rects;
834
835         ost->sync_opts = av_rescale_q(pts, AV_TIME_BASE_Q, enc->time_base);
836         if (!check_recording_time(ost))
837             return;
838
839         sub->pts = pts;
840         // start_display_time is required to be 0
841         sub->pts               += av_rescale_q(sub->start_display_time, (AVRational){ 1, 1000 }, AV_TIME_BASE_Q);
842         sub->end_display_time  -= sub->start_display_time;
843         sub->start_display_time = 0;
844         if (i == 1)
845             sub->num_rects = 0;
846
847         ost->frames_encoded++;
848
849         subtitle_out_size = avcodec_encode_subtitle(enc, subtitle_out,
850                                                     subtitle_out_max_size, sub);
851         if (i == 1)
852             sub->num_rects = save_num_rects;
853         if (subtitle_out_size < 0) {
854             av_log(NULL, AV_LOG_FATAL, "Subtitle encoding failed\n");
855             exit_program(1);
856         }
857
858         av_init_packet(&pkt);
859         pkt.data = subtitle_out;
860         pkt.size = subtitle_out_size;
861         pkt.pts  = av_rescale_q(sub->pts, AV_TIME_BASE_Q, ost->st->time_base);
862         pkt.duration = av_rescale_q(sub->end_display_time, (AVRational){ 1, 1000 }, ost->st->time_base);
863         if (enc->codec_id == AV_CODEC_ID_DVB_SUBTITLE) {
864             /* XXX: the pts correction is handled here. Maybe handling
865                it in the codec would be better */
866             if (i == 0)
867                 pkt.pts += 90 * sub->start_display_time;
868             else
869                 pkt.pts += 90 * sub->end_display_time;
870         }
871         pkt.dts = pkt.pts;
872         write_frame(s, &pkt, ost);
873     }
874 }
875
876 static void do_video_out(AVFormatContext *s,
877                          OutputStream *ost,
878                          AVFrame *next_picture)
879 {
880     int ret, format_video_sync;
881     AVPacket pkt;
882     AVCodecContext *enc = ost->enc_ctx;
883     AVCodecContext *mux_enc = ost->st->codec;
884     int nb_frames, nb0_frames, i;
885     double sync_ipts, delta, delta0;
886     double duration = 0;
887     int frame_size = 0;
888     InputStream *ist = NULL;
889
890     if (ost->source_index >= 0)
891         ist = input_streams[ost->source_index];
892
893     if(ist && ist->st->start_time != AV_NOPTS_VALUE && ist->st->first_dts != AV_NOPTS_VALUE && ost->frame_rate.num)
894         duration = 1/(av_q2d(ost->frame_rate) * av_q2d(enc->time_base));
895
896     if (!ost->filters_script &&
897         !ost->filters &&
898         next_picture &&
899         ist &&
900         lrintf(av_frame_get_pkt_duration(next_picture) * av_q2d(ist->st->time_base) / av_q2d(enc->time_base)) > 0) {
901         duration = lrintf(av_frame_get_pkt_duration(next_picture) * av_q2d(ist->st->time_base) / av_q2d(enc->time_base));
902     }
903
904     sync_ipts = next_picture->pts;
905     delta0 = sync_ipts - ost->sync_opts;
906     delta  = delta0 + duration;
907     if (delta0 < 0 && delta > 0) {
908         double cor = FFMIN(-delta0, duration);
909         av_log(NULL, AV_LOG_WARNING, "Past duration %f too large\n", -delta0);
910         sync_ipts += cor;
911         duration -= cor;
912         delta0 += cor;
913     }
914
915     /* by default, we output a single frame */
916     nb0_frames = 0;
917     nb_frames = 1;
918
919     format_video_sync = video_sync_method;
920     if (format_video_sync == VSYNC_AUTO) {
921         if(!strcmp(s->oformat->name, "avi")) {
922             format_video_sync = VSYNC_VFR;
923         } else
924             format_video_sync = (s->oformat->flags & AVFMT_VARIABLE_FPS) ? ((s->oformat->flags & AVFMT_NOTIMESTAMPS) ? VSYNC_PASSTHROUGH : VSYNC_VFR) : VSYNC_CFR;
925         if (   ist
926             && format_video_sync == VSYNC_CFR
927             && input_files[ist->file_index]->ctx->nb_streams == 1
928             && input_files[ist->file_index]->input_ts_offset == 0) {
929             format_video_sync = VSYNC_VSCFR;
930         }
931         if (format_video_sync == VSYNC_CFR && copy_ts) {
932             format_video_sync = VSYNC_VSCFR;
933         }
934     }
935
936     switch (format_video_sync) {
937     case VSYNC_VSCFR:
938         if (ost->frame_number == 0 && delta - duration >= 0.5) {
939             av_log(NULL, AV_LOG_DEBUG, "Not duplicating %d initial frames\n", (int)lrintf(delta - duration));
940             delta = duration;
941             delta0 = 0;
942             ost->sync_opts = lrint(sync_ipts);
943         }
944     case VSYNC_CFR:
945         // FIXME set to 0.5 after we fix some dts/pts bugs like in avidec.c
946         if (delta < -1.1)
947             nb_frames = 0;
948         else if (delta > 1.1) {
949             nb_frames = lrintf(delta);
950             if (delta0 > 1.1)
951                 nb0_frames = lrintf(delta0 - 0.6);
952         }
953         break;
954     case VSYNC_VFR:
955         if (delta <= -0.6)
956             nb_frames = 0;
957         else if (delta > 0.6)
958             ost->sync_opts = lrint(sync_ipts);
959         break;
960     case VSYNC_DROP:
961     case VSYNC_PASSTHROUGH:
962         ost->sync_opts = lrint(sync_ipts);
963         break;
964     default:
965         av_assert0(0);
966     }
967
968     nb_frames = FFMIN(nb_frames, ost->max_frames - ost->frame_number);
969     nb0_frames = FFMIN(nb0_frames, nb_frames);
970     if (nb0_frames == 0 && ost->last_droped) {
971         nb_frames_drop++;
972         av_log(NULL, AV_LOG_VERBOSE,
973                "*** dropping frame %d from stream %d at ts %"PRId64"\n",
974                ost->frame_number, ost->st->index, ost->last_frame->pts);
975     }
976     if (nb_frames > (nb0_frames && ost->last_droped) + (nb_frames > nb0_frames)) {
977         if (nb_frames > dts_error_threshold * 30) {
978             av_log(NULL, AV_LOG_ERROR, "%d frame duplication too large, skipping\n", nb_frames - 1);
979             nb_frames_drop++;
980             return;
981         }
982         nb_frames_dup += nb_frames - (nb0_frames && ost->last_droped) - (nb_frames > nb0_frames);
983         av_log(NULL, AV_LOG_VERBOSE, "*** %d dup!\n", nb_frames - 1);
984     }
985     ost->last_droped = nb_frames == nb0_frames;
986
987   /* duplicates frame if needed */
988   for (i = 0; i < nb_frames; i++) {
989     AVFrame *in_picture;
990     av_init_packet(&pkt);
991     pkt.data = NULL;
992     pkt.size = 0;
993
994     if (i < nb0_frames && ost->last_frame) {
995         in_picture = ost->last_frame;
996     } else
997         in_picture = next_picture;
998
999     in_picture->pts = ost->sync_opts;
1000
1001 #if 1
1002     if (!check_recording_time(ost))
1003 #else
1004     if (ost->frame_number >= ost->max_frames)
1005 #endif
1006         return;
1007
1008     if (s->oformat->flags & AVFMT_RAWPICTURE &&
1009         enc->codec->id == AV_CODEC_ID_RAWVIDEO) {
1010         /* raw pictures are written as AVPicture structure to
1011            avoid any copies. We support temporarily the older
1012            method. */
1013         mux_enc->coded_frame->interlaced_frame = in_picture->interlaced_frame;
1014         mux_enc->coded_frame->top_field_first  = in_picture->top_field_first;
1015         if (mux_enc->coded_frame->interlaced_frame)
1016             mux_enc->field_order = mux_enc->coded_frame->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
1017         else
1018             mux_enc->field_order = AV_FIELD_PROGRESSIVE;
1019         pkt.data   = (uint8_t *)in_picture;
1020         pkt.size   =  sizeof(AVPicture);
1021         pkt.pts    = av_rescale_q(in_picture->pts, enc->time_base, ost->st->time_base);
1022         pkt.flags |= AV_PKT_FLAG_KEY;
1023
1024         write_frame(s, &pkt, ost);
1025     } else {
1026         int got_packet, forced_keyframe = 0;
1027         double pts_time;
1028
1029         if (enc->flags & (CODEC_FLAG_INTERLACED_DCT|CODEC_FLAG_INTERLACED_ME) &&
1030             ost->top_field_first >= 0)
1031             in_picture->top_field_first = !!ost->top_field_first;
1032
1033         if (in_picture->interlaced_frame) {
1034             if (enc->codec->id == AV_CODEC_ID_MJPEG)
1035                 mux_enc->field_order = in_picture->top_field_first ? AV_FIELD_TT:AV_FIELD_BB;
1036             else
1037                 mux_enc->field_order = in_picture->top_field_first ? AV_FIELD_TB:AV_FIELD_BT;
1038         } else
1039             mux_enc->field_order = AV_FIELD_PROGRESSIVE;
1040
1041         in_picture->quality = enc->global_quality;
1042         in_picture->pict_type = 0;
1043
1044         pts_time = in_picture->pts != AV_NOPTS_VALUE ?
1045             in_picture->pts * av_q2d(enc->time_base) : NAN;
1046         if (ost->forced_kf_index < ost->forced_kf_count &&
1047             in_picture->pts >= ost->forced_kf_pts[ost->forced_kf_index]) {
1048             ost->forced_kf_index++;
1049             forced_keyframe = 1;
1050         } else if (ost->forced_keyframes_pexpr) {
1051             double res;
1052             ost->forced_keyframes_expr_const_values[FKF_T] = pts_time;
1053             res = av_expr_eval(ost->forced_keyframes_pexpr,
1054                                ost->forced_keyframes_expr_const_values, NULL);
1055             av_dlog(NULL, "force_key_frame: n:%f n_forced:%f prev_forced_n:%f t:%f prev_forced_t:%f -> res:%f\n",
1056                     ost->forced_keyframes_expr_const_values[FKF_N],
1057                     ost->forced_keyframes_expr_const_values[FKF_N_FORCED],
1058                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N],
1059                     ost->forced_keyframes_expr_const_values[FKF_T],
1060                     ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T],
1061                     res);
1062             if (res) {
1063                 forced_keyframe = 1;
1064                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] =
1065                     ost->forced_keyframes_expr_const_values[FKF_N];
1066                 ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] =
1067                     ost->forced_keyframes_expr_const_values[FKF_T];
1068                 ost->forced_keyframes_expr_const_values[FKF_N_FORCED] += 1;
1069             }
1070
1071             ost->forced_keyframes_expr_const_values[FKF_N] += 1;
1072         }
1073
1074         if (forced_keyframe) {
1075             in_picture->pict_type = AV_PICTURE_TYPE_I;
1076             av_log(NULL, AV_LOG_DEBUG, "Forced keyframe at time %f\n", pts_time);
1077         }
1078
1079         update_benchmark(NULL);
1080         if (debug_ts) {
1081             av_log(NULL, AV_LOG_INFO, "encoder <- type:video "
1082                    "frame_pts:%s frame_pts_time:%s time_base:%d/%d\n",
1083                    av_ts2str(in_picture->pts), av_ts2timestr(in_picture->pts, &enc->time_base),
1084                    enc->time_base.num, enc->time_base.den);
1085         }
1086
1087         ost->frames_encoded++;
1088
1089         ret = avcodec_encode_video2(enc, &pkt, in_picture, &got_packet);
1090         update_benchmark("encode_video %d.%d", ost->file_index, ost->index);
1091         if (ret < 0) {
1092             av_log(NULL, AV_LOG_FATAL, "Video encoding failed\n");
1093             exit_program(1);
1094         }
1095
1096         if (got_packet) {
1097             if (debug_ts) {
1098                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1099                        "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1100                        av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &enc->time_base),
1101                        av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &enc->time_base));
1102             }
1103
1104             if (pkt.pts == AV_NOPTS_VALUE && !(enc->codec->capabilities & CODEC_CAP_DELAY))
1105                 pkt.pts = ost->sync_opts;
1106
1107             av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
1108
1109             if (debug_ts) {
1110                 av_log(NULL, AV_LOG_INFO, "encoder -> type:video "
1111                     "pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s\n",
1112                     av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ost->st->time_base),
1113                     av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ost->st->time_base));
1114             }
1115
1116             frame_size = pkt.size;
1117             write_frame(s, &pkt, ost);
1118
1119             /* if two pass, output log */
1120             if (ost->logfile && enc->stats_out) {
1121                 fprintf(ost->logfile, "%s", enc->stats_out);
1122             }
1123         }
1124     }
1125     ost->sync_opts++;
1126     /*
1127      * For video, number of frames in == number of packets out.
1128      * But there may be reordering, so we can't throw away frames on encoder
1129      * flush, we need to limit them here, before they go into encoder.
1130      */
1131     ost->frame_number++;
1132
1133     if (vstats_filename && frame_size)
1134         do_video_stats(ost, frame_size);
1135   }
1136
1137     if (!ost->last_frame)
1138         ost->last_frame = av_frame_alloc();
1139     av_frame_unref(ost->last_frame);
1140     av_frame_ref(ost->last_frame, next_picture);
1141 }
1142
1143 static double psnr(double d)
1144 {
1145     return -10.0 * log(d) / log(10.0);
1146 }
1147
1148 static void do_video_stats(OutputStream *ost, int frame_size)
1149 {
1150     AVCodecContext *enc;
1151     int frame_number;
1152     double ti1, bitrate, avg_bitrate;
1153
1154     /* this is executed just the first time do_video_stats is called */
1155     if (!vstats_file) {
1156         vstats_file = fopen(vstats_filename, "w");
1157         if (!vstats_file) {
1158             perror("fopen");
1159             exit_program(1);
1160         }
1161     }
1162
1163     enc = ost->enc_ctx;
1164     if (enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1165         frame_number = ost->st->nb_frames;
1166         fprintf(vstats_file, "frame= %5d q= %2.1f ", frame_number, enc->coded_frame->quality / (float)FF_QP2LAMBDA);
1167         if (enc->flags&CODEC_FLAG_PSNR)
1168             fprintf(vstats_file, "PSNR= %6.2f ", psnr(enc->coded_frame->error[0] / (enc->width * enc->height * 255.0 * 255.0)));
1169
1170         fprintf(vstats_file,"f_size= %6d ", frame_size);
1171         /* compute pts value */
1172         ti1 = av_stream_get_end_pts(ost->st) * av_q2d(ost->st->time_base);
1173         if (ti1 < 0.01)
1174             ti1 = 0.01;
1175
1176         bitrate     = (frame_size * 8) / av_q2d(enc->time_base) / 1000.0;
1177         avg_bitrate = (double)(ost->data_size * 8) / ti1 / 1000.0;
1178         fprintf(vstats_file, "s_size= %8.0fkB time= %0.3f br= %7.1fkbits/s avg_br= %7.1fkbits/s ",
1179                (double)ost->data_size / 1024, ti1, bitrate, avg_bitrate);
1180         fprintf(vstats_file, "type= %c\n", av_get_picture_type_char(enc->coded_frame->pict_type));
1181     }
1182 }
1183
1184 static void finish_output_stream(OutputStream *ost)
1185 {
1186     OutputFile *of = output_files[ost->file_index];
1187     int i;
1188
1189     ost->finished = ENCODER_FINISHED | MUXER_FINISHED;
1190
1191     if (of->shortest) {
1192         for (i = 0; i < of->ctx->nb_streams; i++)
1193             output_streams[of->ost_index + i]->finished = ENCODER_FINISHED | MUXER_FINISHED;
1194     }
1195 }
1196
1197 /**
1198  * Get and encode new output from any of the filtergraphs, without causing
1199  * activity.
1200  *
1201  * @return  0 for success, <0 for severe errors
1202  */
1203 static int reap_filters(void)
1204 {
1205     AVFrame *filtered_frame = NULL;
1206     int i;
1207     int64_t frame_pts;
1208
1209     /* Reap all buffers present in the buffer sinks */
1210     for (i = 0; i < nb_output_streams; i++) {
1211         OutputStream *ost = output_streams[i];
1212         OutputFile    *of = output_files[ost->file_index];
1213         AVFilterContext *filter;
1214         AVCodecContext *enc = ost->enc_ctx;
1215         int ret = 0;
1216
1217         if (!ost->filter)
1218             continue;
1219         filter = ost->filter->filter;
1220
1221         if (!ost->filtered_frame && !(ost->filtered_frame = av_frame_alloc())) {
1222             return AVERROR(ENOMEM);
1223         }
1224         filtered_frame = ost->filtered_frame;
1225
1226         while (1) {
1227             ret = av_buffersink_get_frame_flags(filter, filtered_frame,
1228                                                AV_BUFFERSINK_FLAG_NO_REQUEST);
1229             if (ret < 0) {
1230                 if (ret != AVERROR(EAGAIN) && ret != AVERROR_EOF) {
1231                     av_log(NULL, AV_LOG_WARNING,
1232                            "Error in av_buffersink_get_frame_flags(): %s\n", av_err2str(ret));
1233                 }
1234                 break;
1235             }
1236             if (ost->finished) {
1237                 av_frame_unref(filtered_frame);
1238                 continue;
1239             }
1240             frame_pts = AV_NOPTS_VALUE;
1241             if (filtered_frame->pts != AV_NOPTS_VALUE) {
1242                 int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1243                 filtered_frame->pts = frame_pts =
1244                     av_rescale_q(filtered_frame->pts, filter->inputs[0]->time_base, enc->time_base) -
1245                     av_rescale_q(start_time, AV_TIME_BASE_Q, enc->time_base);
1246             }
1247             //if (ost->source_index >= 0)
1248             //    *filtered_frame= *input_streams[ost->source_index]->decoded_frame; //for me_threshold
1249
1250             switch (filter->inputs[0]->type) {
1251             case AVMEDIA_TYPE_VIDEO:
1252                 filtered_frame->pts = frame_pts;
1253                 if (!ost->frame_aspect_ratio.num)
1254                     enc->sample_aspect_ratio = filtered_frame->sample_aspect_ratio;
1255
1256                 if (debug_ts) {
1257                     av_log(NULL, AV_LOG_INFO, "filter -> pts:%s pts_time:%s time_base:%d/%d\n",
1258                             av_ts2str(filtered_frame->pts), av_ts2timestr(filtered_frame->pts, &enc->time_base),
1259                             enc->time_base.num, enc->time_base.den);
1260                 }
1261
1262                 do_video_out(of->ctx, ost, filtered_frame);
1263                 break;
1264             case AVMEDIA_TYPE_AUDIO:
1265                 filtered_frame->pts = frame_pts;
1266                 if (!(enc->codec->capabilities & CODEC_CAP_PARAM_CHANGE) &&
1267                     enc->channels != av_frame_get_channels(filtered_frame)) {
1268                     av_log(NULL, AV_LOG_ERROR,
1269                            "Audio filter graph output is not normalized and encoder does not support parameter changes\n");
1270                     break;
1271                 }
1272                 do_audio_out(of->ctx, ost, filtered_frame);
1273                 break;
1274             default:
1275                 // TODO support subtitle filters
1276                 av_assert0(0);
1277             }
1278
1279             av_frame_unref(filtered_frame);
1280         }
1281     }
1282
1283     return 0;
1284 }
1285
1286 static void print_final_stats(int64_t total_size)
1287 {
1288     uint64_t video_size = 0, audio_size = 0, extra_size = 0, other_size = 0;
1289     uint64_t subtitle_size = 0;
1290     uint64_t data_size = 0;
1291     float percent = -1.0;
1292     int i, j;
1293
1294     for (i = 0; i < nb_output_streams; i++) {
1295         OutputStream *ost = output_streams[i];
1296         switch (ost->enc_ctx->codec_type) {
1297             case AVMEDIA_TYPE_VIDEO: video_size += ost->data_size; break;
1298             case AVMEDIA_TYPE_AUDIO: audio_size += ost->data_size; break;
1299             case AVMEDIA_TYPE_SUBTITLE: subtitle_size += ost->data_size; break;
1300             default:                 other_size += ost->data_size; break;
1301         }
1302         extra_size += ost->enc_ctx->extradata_size;
1303         data_size  += ost->data_size;
1304     }
1305
1306     if (data_size && total_size>0 && total_size >= data_size)
1307         percent = 100.0 * (total_size - data_size) / data_size;
1308
1309     av_log(NULL, AV_LOG_INFO, "video:%1.0fkB audio:%1.0fkB subtitle:%1.0fkB other streams:%1.0fkB global headers:%1.0fkB muxing overhead: ",
1310            video_size / 1024.0,
1311            audio_size / 1024.0,
1312            subtitle_size / 1024.0,
1313            other_size / 1024.0,
1314            extra_size / 1024.0);
1315     if (percent >= 0.0)
1316         av_log(NULL, AV_LOG_INFO, "%f%%", percent);
1317     else
1318         av_log(NULL, AV_LOG_INFO, "unknown");
1319     av_log(NULL, AV_LOG_INFO, "\n");
1320
1321     /* print verbose per-stream stats */
1322     for (i = 0; i < nb_input_files; i++) {
1323         InputFile *f = input_files[i];
1324         uint64_t total_packets = 0, total_size = 0;
1325
1326         av_log(NULL, AV_LOG_VERBOSE, "Input file #%d (%s):\n",
1327                i, f->ctx->filename);
1328
1329         for (j = 0; j < f->nb_streams; j++) {
1330             InputStream *ist = input_streams[f->ist_index + j];
1331             enum AVMediaType type = ist->dec_ctx->codec_type;
1332
1333             total_size    += ist->data_size;
1334             total_packets += ist->nb_packets;
1335
1336             av_log(NULL, AV_LOG_VERBOSE, "  Input stream #%d:%d (%s): ",
1337                    i, j, media_type_string(type));
1338             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets read (%"PRIu64" bytes); ",
1339                    ist->nb_packets, ist->data_size);
1340
1341             if (ist->decoding_needed) {
1342                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames decoded",
1343                        ist->frames_decoded);
1344                 if (type == AVMEDIA_TYPE_AUDIO)
1345                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ist->samples_decoded);
1346                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1347             }
1348
1349             av_log(NULL, AV_LOG_VERBOSE, "\n");
1350         }
1351
1352         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) demuxed\n",
1353                total_packets, total_size);
1354     }
1355
1356     for (i = 0; i < nb_output_files; i++) {
1357         OutputFile *of = output_files[i];
1358         uint64_t total_packets = 0, total_size = 0;
1359
1360         av_log(NULL, AV_LOG_VERBOSE, "Output file #%d (%s):\n",
1361                i, of->ctx->filename);
1362
1363         for (j = 0; j < of->ctx->nb_streams; j++) {
1364             OutputStream *ost = output_streams[of->ost_index + j];
1365             enum AVMediaType type = ost->enc_ctx->codec_type;
1366
1367             total_size    += ost->data_size;
1368             total_packets += ost->packets_written;
1369
1370             av_log(NULL, AV_LOG_VERBOSE, "  Output stream #%d:%d (%s): ",
1371                    i, j, media_type_string(type));
1372             if (ost->encoding_needed) {
1373                 av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" frames encoded",
1374                        ost->frames_encoded);
1375                 if (type == AVMEDIA_TYPE_AUDIO)
1376                     av_log(NULL, AV_LOG_VERBOSE, " (%"PRIu64" samples)", ost->samples_encoded);
1377                 av_log(NULL, AV_LOG_VERBOSE, "; ");
1378             }
1379
1380             av_log(NULL, AV_LOG_VERBOSE, "%"PRIu64" packets muxed (%"PRIu64" bytes); ",
1381                    ost->packets_written, ost->data_size);
1382
1383             av_log(NULL, AV_LOG_VERBOSE, "\n");
1384         }
1385
1386         av_log(NULL, AV_LOG_VERBOSE, "  Total: %"PRIu64" packets (%"PRIu64" bytes) muxed\n",
1387                total_packets, total_size);
1388     }
1389     if(video_size + data_size + audio_size + subtitle_size + extra_size == 0){
1390         av_log(NULL, AV_LOG_WARNING, "Output file is empty, nothing was encoded (check -ss / -t / -frames parameters if used)\n");
1391     }
1392 }
1393
1394 static void print_report(int is_last_report, int64_t timer_start, int64_t cur_time)
1395 {
1396     char buf[1024];
1397     AVBPrint buf_script;
1398     OutputStream *ost;
1399     AVFormatContext *oc;
1400     int64_t total_size;
1401     AVCodecContext *enc;
1402     int frame_number, vid, i;
1403     double bitrate;
1404     int64_t pts = INT64_MIN;
1405     static int64_t last_time = -1;
1406     static int qp_histogram[52];
1407     int hours, mins, secs, us;
1408
1409     if (!print_stats && !is_last_report && !progress_avio)
1410         return;
1411
1412     if (!is_last_report) {
1413         if (last_time == -1) {
1414             last_time = cur_time;
1415             return;
1416         }
1417         if ((cur_time - last_time) < 500000)
1418             return;
1419         last_time = cur_time;
1420     }
1421
1422
1423     oc = output_files[0]->ctx;
1424
1425     total_size = avio_size(oc->pb);
1426     if (total_size <= 0) // FIXME improve avio_size() so it works with non seekable output too
1427         total_size = avio_tell(oc->pb);
1428
1429     buf[0] = '\0';
1430     vid = 0;
1431     av_bprint_init(&buf_script, 0, 1);
1432     for (i = 0; i < nb_output_streams; i++) {
1433         float q = -1;
1434         ost = output_streams[i];
1435         enc = ost->enc_ctx;
1436         if (!ost->stream_copy && enc->coded_frame)
1437             q = enc->coded_frame->quality / (float)FF_QP2LAMBDA;
1438         if (vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1439             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "q=%2.1f ", q);
1440             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1441                        ost->file_index, ost->index, q);
1442         }
1443         if (!vid && enc->codec_type == AVMEDIA_TYPE_VIDEO) {
1444             float fps, t = (cur_time-timer_start) / 1000000.0;
1445
1446             frame_number = ost->frame_number;
1447             fps = t > 1 ? frame_number / t : 0;
1448             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "frame=%5d fps=%3.*f q=%3.1f ",
1449                      frame_number, fps < 9.95, fps, q);
1450             av_bprintf(&buf_script, "frame=%d\n", frame_number);
1451             av_bprintf(&buf_script, "fps=%.1f\n", fps);
1452             av_bprintf(&buf_script, "stream_%d_%d_q=%.1f\n",
1453                        ost->file_index, ost->index, q);
1454             if (is_last_report)
1455                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "L");
1456             if (qp_hist) {
1457                 int j;
1458                 int qp = lrintf(q);
1459                 if (qp >= 0 && qp < FF_ARRAY_ELEMS(qp_histogram))
1460                     qp_histogram[qp]++;
1461                 for (j = 0; j < 32; j++)
1462                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%X", (int)lrintf(log2(qp_histogram[j] + 1)));
1463             }
1464             if ((enc->flags&CODEC_FLAG_PSNR) && (enc->coded_frame || is_last_report)) {
1465                 int j;
1466                 double error, error_sum = 0;
1467                 double scale, scale_sum = 0;
1468                 double p;
1469                 char type[3] = { 'Y','U','V' };
1470                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "PSNR=");
1471                 for (j = 0; j < 3; j++) {
1472                     if (is_last_report) {
1473                         error = enc->error[j];
1474                         scale = enc->width * enc->height * 255.0 * 255.0 * frame_number;
1475                     } else {
1476                         error = enc->coded_frame->error[j];
1477                         scale = enc->width * enc->height * 255.0 * 255.0;
1478                     }
1479                     if (j)
1480                         scale /= 4;
1481                     error_sum += error;
1482                     scale_sum += scale;
1483                     p = psnr(error / scale);
1484                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "%c:%2.2f ", type[j], p);
1485                     av_bprintf(&buf_script, "stream_%d_%d_psnr_%c=%2.2f\n",
1486                                ost->file_index, ost->index, type[j] | 32, p);
1487                 }
1488                 p = psnr(error_sum / scale_sum);
1489                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), "*:%2.2f ", psnr(error_sum / scale_sum));
1490                 av_bprintf(&buf_script, "stream_%d_%d_psnr_all=%2.2f\n",
1491                            ost->file_index, ost->index, p);
1492             }
1493             vid = 1;
1494         }
1495         /* compute min output value */
1496         if (av_stream_get_end_pts(ost->st) != AV_NOPTS_VALUE)
1497             pts = FFMAX(pts, av_rescale_q(av_stream_get_end_pts(ost->st),
1498                                           ost->st->time_base, AV_TIME_BASE_Q));
1499         if (is_last_report)
1500             nb_frames_drop += ost->last_droped;
1501     }
1502
1503     secs = pts / AV_TIME_BASE;
1504     us = pts % AV_TIME_BASE;
1505     mins = secs / 60;
1506     secs %= 60;
1507     hours = mins / 60;
1508     mins %= 60;
1509
1510     bitrate = pts && total_size >= 0 ? total_size * 8 / (pts / 1000.0) : -1;
1511
1512     if (total_size < 0) snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1513                                  "size=N/A time=");
1514     else                snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1515                                  "size=%8.0fkB time=", total_size / 1024.0);
1516     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1517              "%02d:%02d:%02d.%02d ", hours, mins, secs,
1518              (100 * us) / AV_TIME_BASE);
1519     if (bitrate < 0) snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1520                               "bitrate=N/A");
1521     else             snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1522                               "bitrate=%6.1fkbits/s", bitrate);
1523     if (total_size < 0) av_bprintf(&buf_script, "total_size=N/A\n");
1524     else                av_bprintf(&buf_script, "total_size=%"PRId64"\n", total_size);
1525     av_bprintf(&buf_script, "out_time_ms=%"PRId64"\n", pts);
1526     av_bprintf(&buf_script, "out_time=%02d:%02d:%02d.%06d\n",
1527                hours, mins, secs, us);
1528
1529     if (nb_frames_dup || nb_frames_drop)
1530         snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf), " dup=%d drop=%d",
1531                 nb_frames_dup, nb_frames_drop);
1532     av_bprintf(&buf_script, "dup_frames=%d\n", nb_frames_dup);
1533     av_bprintf(&buf_script, "drop_frames=%d\n", nb_frames_drop);
1534
1535     if (print_stats || is_last_report) {
1536         const char end = is_last_report ? '\n' : '\r';
1537         if (print_stats==1 && AV_LOG_INFO > av_log_get_level()) {
1538             fprintf(stderr, "%s    %c", buf, end);
1539         } else
1540             av_log(NULL, AV_LOG_INFO, "%s    %c", buf, end);
1541
1542     fflush(stderr);
1543     }
1544
1545     if (progress_avio) {
1546         av_bprintf(&buf_script, "progress=%s\n",
1547                    is_last_report ? "end" : "continue");
1548         avio_write(progress_avio, buf_script.str,
1549                    FFMIN(buf_script.len, buf_script.size - 1));
1550         avio_flush(progress_avio);
1551         av_bprint_finalize(&buf_script, NULL);
1552         if (is_last_report) {
1553             avio_close(progress_avio);
1554             progress_avio = NULL;
1555         }
1556     }
1557
1558     if (is_last_report)
1559         print_final_stats(total_size);
1560 }
1561
1562 static void flush_encoders(void)
1563 {
1564     int i, ret;
1565
1566     for (i = 0; i < nb_output_streams; i++) {
1567         OutputStream   *ost = output_streams[i];
1568         AVCodecContext *enc = ost->enc_ctx;
1569         AVFormatContext *os = output_files[ost->file_index]->ctx;
1570         int stop_encoding = 0;
1571
1572         if (!ost->encoding_needed)
1573             continue;
1574
1575         if (enc->codec_type == AVMEDIA_TYPE_AUDIO && enc->frame_size <= 1)
1576             continue;
1577         if (enc->codec_type == AVMEDIA_TYPE_VIDEO && (os->oformat->flags & AVFMT_RAWPICTURE) && enc->codec->id == AV_CODEC_ID_RAWVIDEO)
1578             continue;
1579
1580         for (;;) {
1581             int (*encode)(AVCodecContext*, AVPacket*, const AVFrame*, int*) = NULL;
1582             const char *desc;
1583
1584             switch (enc->codec_type) {
1585             case AVMEDIA_TYPE_AUDIO:
1586                 encode = avcodec_encode_audio2;
1587                 desc   = "Audio";
1588                 break;
1589             case AVMEDIA_TYPE_VIDEO:
1590                 encode = avcodec_encode_video2;
1591                 desc   = "Video";
1592                 break;
1593             default:
1594                 stop_encoding = 1;
1595             }
1596
1597             if (encode) {
1598                 AVPacket pkt;
1599                 int pkt_size;
1600                 int got_packet;
1601                 av_init_packet(&pkt);
1602                 pkt.data = NULL;
1603                 pkt.size = 0;
1604
1605                 update_benchmark(NULL);
1606                 ret = encode(enc, &pkt, NULL, &got_packet);
1607                 update_benchmark("flush %s %d.%d", desc, ost->file_index, ost->index);
1608                 if (ret < 0) {
1609                     av_log(NULL, AV_LOG_FATAL, "%s encoding failed\n", desc);
1610                     exit_program(1);
1611                 }
1612                 if (ost->logfile && enc->stats_out) {
1613                     fprintf(ost->logfile, "%s", enc->stats_out);
1614                 }
1615                 if (!got_packet) {
1616                     stop_encoding = 1;
1617                     break;
1618                 }
1619                 if (ost->finished & MUXER_FINISHED) {
1620                     av_free_packet(&pkt);
1621                     continue;
1622                 }
1623                 av_packet_rescale_ts(&pkt, enc->time_base, ost->st->time_base);
1624                 pkt_size = pkt.size;
1625                 write_frame(os, &pkt, ost);
1626                 if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO && vstats_filename) {
1627                     do_video_stats(ost, pkt_size);
1628                 }
1629             }
1630
1631             if (stop_encoding)
1632                 break;
1633         }
1634     }
1635 }
1636
1637 /*
1638  * Check whether a packet from ist should be written into ost at this time
1639  */
1640 static int check_output_constraints(InputStream *ist, OutputStream *ost)
1641 {
1642     OutputFile *of = output_files[ost->file_index];
1643     int ist_index  = input_files[ist->file_index]->ist_index + ist->st->index;
1644
1645     if (ost->source_index != ist_index)
1646         return 0;
1647
1648     if (ost->finished)
1649         return 0;
1650
1651     if (of->start_time != AV_NOPTS_VALUE && ist->pts < of->start_time)
1652         return 0;
1653
1654     return 1;
1655 }
1656
1657 static void do_streamcopy(InputStream *ist, OutputStream *ost, const AVPacket *pkt)
1658 {
1659     OutputFile *of = output_files[ost->file_index];
1660     InputFile   *f = input_files [ist->file_index];
1661     int64_t start_time = (of->start_time == AV_NOPTS_VALUE) ? 0 : of->start_time;
1662     int64_t ost_tb_start_time = av_rescale_q(start_time, AV_TIME_BASE_Q, ost->st->time_base);
1663     int64_t ist_tb_start_time = av_rescale_q(start_time, AV_TIME_BASE_Q, ist->st->time_base);
1664     AVPicture pict;
1665     AVPacket opkt;
1666
1667     av_init_packet(&opkt);
1668
1669     if ((!ost->frame_number && !(pkt->flags & AV_PKT_FLAG_KEY)) &&
1670         !ost->copy_initial_nonkeyframes)
1671         return;
1672
1673     if (pkt->pts == AV_NOPTS_VALUE) {
1674         if (!ost->frame_number && ist->pts < start_time &&
1675             !ost->copy_prior_start)
1676             return;
1677     } else {
1678         if (!ost->frame_number && pkt->pts < ist_tb_start_time &&
1679             !ost->copy_prior_start)
1680             return;
1681     }
1682
1683     if (of->recording_time != INT64_MAX &&
1684         ist->pts >= of->recording_time + start_time) {
1685         close_output_stream(ost);
1686         return;
1687     }
1688
1689     if (f->recording_time != INT64_MAX) {
1690         start_time = f->ctx->start_time;
1691         if (f->start_time != AV_NOPTS_VALUE)
1692             start_time += f->start_time;
1693         if (ist->pts >= f->recording_time + start_time) {
1694             close_output_stream(ost);
1695             return;
1696         }
1697     }
1698
1699     /* force the input stream PTS */
1700     if (ost->enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO)
1701         ost->sync_opts++;
1702
1703     if (pkt->pts != AV_NOPTS_VALUE)
1704         opkt.pts = av_rescale_q(pkt->pts, ist->st->time_base, ost->st->time_base) - ost_tb_start_time;
1705     else
1706         opkt.pts = AV_NOPTS_VALUE;
1707
1708     if (pkt->dts == AV_NOPTS_VALUE)
1709         opkt.dts = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ost->st->time_base);
1710     else
1711         opkt.dts = av_rescale_q(pkt->dts, ist->st->time_base, ost->st->time_base);
1712     opkt.dts -= ost_tb_start_time;
1713
1714     if (ost->st->codec->codec_type == AVMEDIA_TYPE_AUDIO && pkt->dts != AV_NOPTS_VALUE) {
1715         int duration = av_get_audio_frame_duration(ist->dec_ctx, pkt->size);
1716         if(!duration)
1717             duration = ist->dec_ctx->frame_size;
1718         opkt.dts = opkt.pts = av_rescale_delta(ist->st->time_base, pkt->dts,
1719                                                (AVRational){1, ist->dec_ctx->sample_rate}, duration, &ist->filter_in_rescale_delta_last,
1720                                                ost->st->time_base) - ost_tb_start_time;
1721     }
1722
1723     opkt.duration = av_rescale_q(pkt->duration, ist->st->time_base, ost->st->time_base);
1724     opkt.flags    = pkt->flags;
1725
1726     // FIXME remove the following 2 lines they shall be replaced by the bitstream filters
1727     if (  ost->enc_ctx->codec_id != AV_CODEC_ID_H264
1728        && ost->enc_ctx->codec_id != AV_CODEC_ID_MPEG1VIDEO
1729        && ost->enc_ctx->codec_id != AV_CODEC_ID_MPEG2VIDEO
1730        && ost->enc_ctx->codec_id != AV_CODEC_ID_VC1
1731        ) {
1732         if (av_parser_change(ost->parser, ost->st->codec,
1733                              &opkt.data, &opkt.size,
1734                              pkt->data, pkt->size,
1735                              pkt->flags & AV_PKT_FLAG_KEY)) {
1736             opkt.buf = av_buffer_create(opkt.data, opkt.size, av_buffer_default_free, NULL, 0);
1737             if (!opkt.buf)
1738                 exit_program(1);
1739         }
1740     } else {
1741         opkt.data = pkt->data;
1742         opkt.size = pkt->size;
1743     }
1744     av_copy_packet_side_data(&opkt, pkt);
1745
1746     if (ost->st->codec->codec_type == AVMEDIA_TYPE_VIDEO && (of->ctx->oformat->flags & AVFMT_RAWPICTURE)) {
1747         /* store AVPicture in AVPacket, as expected by the output format */
1748         avpicture_fill(&pict, opkt.data, ost->st->codec->pix_fmt, ost->st->codec->width, ost->st->codec->height);
1749         opkt.data = (uint8_t *)&pict;
1750         opkt.size = sizeof(AVPicture);
1751         opkt.flags |= AV_PKT_FLAG_KEY;
1752     }
1753
1754     write_frame(of->ctx, &opkt, ost);
1755 }
1756
1757 int guess_input_channel_layout(InputStream *ist)
1758 {
1759     AVCodecContext *dec = ist->dec_ctx;
1760
1761     if (!dec->channel_layout) {
1762         char layout_name[256];
1763
1764         if (dec->channels > ist->guess_layout_max)
1765             return 0;
1766         dec->channel_layout = av_get_default_channel_layout(dec->channels);
1767         if (!dec->channel_layout)
1768             return 0;
1769         av_get_channel_layout_string(layout_name, sizeof(layout_name),
1770                                      dec->channels, dec->channel_layout);
1771         av_log(NULL, AV_LOG_WARNING, "Guessed Channel Layout for  Input Stream "
1772                "#%d.%d : %s\n", ist->file_index, ist->st->index, layout_name);
1773     }
1774     return 1;
1775 }
1776
1777 static int decode_audio(InputStream *ist, AVPacket *pkt, int *got_output)
1778 {
1779     AVFrame *decoded_frame, *f;
1780     AVCodecContext *avctx = ist->dec_ctx;
1781     int i, ret, err = 0, resample_changed;
1782     AVRational decoded_frame_tb;
1783
1784     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
1785         return AVERROR(ENOMEM);
1786     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
1787         return AVERROR(ENOMEM);
1788     decoded_frame = ist->decoded_frame;
1789
1790     update_benchmark(NULL);
1791     ret = avcodec_decode_audio4(avctx, decoded_frame, got_output, pkt);
1792     update_benchmark("decode_audio %d.%d", ist->file_index, ist->st->index);
1793
1794     if (ret >= 0 && avctx->sample_rate <= 0) {
1795         av_log(avctx, AV_LOG_ERROR, "Sample rate %d invalid\n", avctx->sample_rate);
1796         ret = AVERROR_INVALIDDATA;
1797     }
1798
1799     if (*got_output || ret<0 || pkt->size)
1800         decode_error_stat[ret<0] ++;
1801
1802     if (!*got_output || ret < 0) {
1803         if (!pkt->size) {
1804             for (i = 0; i < ist->nb_filters; i++)
1805 #if 1
1806                 av_buffersrc_add_ref(ist->filters[i]->filter, NULL, 0);
1807 #else
1808                 av_buffersrc_add_frame(ist->filters[i]->filter, NULL);
1809 #endif
1810         }
1811         return ret;
1812     }
1813
1814     ist->samples_decoded += decoded_frame->nb_samples;
1815     ist->frames_decoded++;
1816
1817 #if 1
1818     /* increment next_dts to use for the case where the input stream does not
1819        have timestamps or there are multiple frames in the packet */
1820     ist->next_pts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
1821                      avctx->sample_rate;
1822     ist->next_dts += ((int64_t)AV_TIME_BASE * decoded_frame->nb_samples) /
1823                      avctx->sample_rate;
1824 #endif
1825
1826     resample_changed = ist->resample_sample_fmt     != decoded_frame->format         ||
1827                        ist->resample_channels       != avctx->channels               ||
1828                        ist->resample_channel_layout != decoded_frame->channel_layout ||
1829                        ist->resample_sample_rate    != decoded_frame->sample_rate;
1830     if (resample_changed) {
1831         char layout1[64], layout2[64];
1832
1833         if (!guess_input_channel_layout(ist)) {
1834             av_log(NULL, AV_LOG_FATAL, "Unable to find default channel "
1835                    "layout for Input Stream #%d.%d\n", ist->file_index,
1836                    ist->st->index);
1837             exit_program(1);
1838         }
1839         decoded_frame->channel_layout = avctx->channel_layout;
1840
1841         av_get_channel_layout_string(layout1, sizeof(layout1), ist->resample_channels,
1842                                      ist->resample_channel_layout);
1843         av_get_channel_layout_string(layout2, sizeof(layout2), avctx->channels,
1844                                      decoded_frame->channel_layout);
1845
1846         av_log(NULL, AV_LOG_INFO,
1847                "Input stream #%d:%d frame changed from rate:%d fmt:%s ch:%d chl:%s to rate:%d fmt:%s ch:%d chl:%s\n",
1848                ist->file_index, ist->st->index,
1849                ist->resample_sample_rate,  av_get_sample_fmt_name(ist->resample_sample_fmt),
1850                ist->resample_channels, layout1,
1851                decoded_frame->sample_rate, av_get_sample_fmt_name(decoded_frame->format),
1852                avctx->channels, layout2);
1853
1854         ist->resample_sample_fmt     = decoded_frame->format;
1855         ist->resample_sample_rate    = decoded_frame->sample_rate;
1856         ist->resample_channel_layout = decoded_frame->channel_layout;
1857         ist->resample_channels       = avctx->channels;
1858
1859         for (i = 0; i < nb_filtergraphs; i++)
1860             if (ist_in_filtergraph(filtergraphs[i], ist)) {
1861                 FilterGraph *fg = filtergraphs[i];
1862                 if (configure_filtergraph(fg) < 0) {
1863                     av_log(NULL, AV_LOG_FATAL, "Error reinitializing filters!\n");
1864                     exit_program(1);
1865                 }
1866             }
1867     }
1868
1869     /* if the decoder provides a pts, use it instead of the last packet pts.
1870        the decoder could be delaying output by a packet or more. */
1871     if (decoded_frame->pts != AV_NOPTS_VALUE) {
1872         ist->dts = ist->next_dts = ist->pts = ist->next_pts = av_rescale_q(decoded_frame->pts, avctx->time_base, AV_TIME_BASE_Q);
1873         decoded_frame_tb   = avctx->time_base;
1874     } else if (decoded_frame->pkt_pts != AV_NOPTS_VALUE) {
1875         decoded_frame->pts = decoded_frame->pkt_pts;
1876         decoded_frame_tb   = ist->st->time_base;
1877     } else if (pkt->pts != AV_NOPTS_VALUE) {
1878         decoded_frame->pts = pkt->pts;
1879         decoded_frame_tb   = ist->st->time_base;
1880     }else {
1881         decoded_frame->pts = ist->dts;
1882         decoded_frame_tb   = AV_TIME_BASE_Q;
1883     }
1884     pkt->pts           = AV_NOPTS_VALUE;
1885     if (decoded_frame->pts != AV_NOPTS_VALUE)
1886         decoded_frame->pts = av_rescale_delta(decoded_frame_tb, decoded_frame->pts,
1887                                               (AVRational){1, avctx->sample_rate}, decoded_frame->nb_samples, &ist->filter_in_rescale_delta_last,
1888                                               (AVRational){1, avctx->sample_rate});
1889     for (i = 0; i < ist->nb_filters; i++) {
1890         if (i < ist->nb_filters - 1) {
1891             f = ist->filter_frame;
1892             err = av_frame_ref(f, decoded_frame);
1893             if (err < 0)
1894                 break;
1895         } else
1896             f = decoded_frame;
1897         err = av_buffersrc_add_frame_flags(ist->filters[i]->filter, f,
1898                                      AV_BUFFERSRC_FLAG_PUSH);
1899         if (err == AVERROR_EOF)
1900             err = 0; /* ignore */
1901         if (err < 0)
1902             break;
1903     }
1904     decoded_frame->pts = AV_NOPTS_VALUE;
1905
1906     av_frame_unref(ist->filter_frame);
1907     av_frame_unref(decoded_frame);
1908     return err < 0 ? err : ret;
1909 }
1910
1911 static int decode_video(InputStream *ist, AVPacket *pkt, int *got_output)
1912 {
1913     AVFrame *decoded_frame, *f;
1914     int i, ret = 0, err = 0, resample_changed;
1915     int64_t best_effort_timestamp;
1916     AVRational *frame_sample_aspect;
1917
1918     if (!ist->decoded_frame && !(ist->decoded_frame = av_frame_alloc()))
1919         return AVERROR(ENOMEM);
1920     if (!ist->filter_frame && !(ist->filter_frame = av_frame_alloc()))
1921         return AVERROR(ENOMEM);
1922     decoded_frame = ist->decoded_frame;
1923     pkt->dts  = av_rescale_q(ist->dts, AV_TIME_BASE_Q, ist->st->time_base);
1924
1925     update_benchmark(NULL);
1926     ret = avcodec_decode_video2(ist->dec_ctx,
1927                                 decoded_frame, got_output, pkt);
1928     update_benchmark("decode_video %d.%d", ist->file_index, ist->st->index);
1929
1930     // The following line may be required in some cases where there is no parser
1931     // or the parser does not has_b_frames correctly
1932     if (ist->st->codec->has_b_frames < ist->dec_ctx->has_b_frames) {
1933         if (ist->dec_ctx->codec_id == AV_CODEC_ID_H264) {
1934             ist->st->codec->has_b_frames = ist->dec_ctx->has_b_frames;
1935         } else
1936             av_log_ask_for_sample(
1937                 ist->dec_ctx,
1938                 "has_b_frames is larger in decoder than demuxer %d > %d ",
1939                 ist->dec_ctx->has_b_frames,
1940                 ist->st->codec->has_b_frames
1941             );
1942     }
1943
1944     if (*got_output || ret<0 || pkt->size)
1945         decode_error_stat[ret<0] ++;
1946
1947     if (!*got_output || ret < 0) {
1948         if (!pkt->size) {
1949             for (i = 0; i < ist->nb_filters; i++)
1950 #if 1
1951                 av_buffersrc_add_ref(ist->filters[i]->filter, NULL, 0);
1952 #else
1953                 av_buffersrc_add_frame(ist->filters[i]->filter, NULL);
1954 #endif
1955         }
1956         return ret;
1957     }
1958
1959     if(ist->top_field_first>=0)
1960         decoded_frame->top_field_first = ist->top_field_first;
1961
1962     ist->frames_decoded++;
1963
1964     if (ist->hwaccel_retrieve_data && decoded_frame->format == ist->hwaccel_pix_fmt) {
1965         err = ist->hwaccel_retrieve_data(ist->dec_ctx, decoded_frame);
1966         if (err < 0)
1967             goto fail;
1968     }
1969     ist->hwaccel_retrieved_pix_fmt = decoded_frame->format;
1970
1971     best_effort_timestamp= av_frame_get_best_effort_timestamp(decoded_frame);
1972     if(best_effort_timestamp != AV_NOPTS_VALUE)
1973         ist->next_pts = ist->pts = av_rescale_q(decoded_frame->pts = best_effort_timestamp, ist->st->time_base, AV_TIME_BASE_Q);
1974
1975     if (debug_ts) {
1976         av_log(NULL, AV_LOG_INFO, "decoder -> ist_index:%d type:video "
1977                "frame_pts:%s frame_pts_time:%s best_effort_ts:%"PRId64" best_effort_ts_time:%s keyframe:%d frame_type:%d time_base:%d/%d\n",
1978                ist->st->index, av_ts2str(decoded_frame->pts),
1979                av_ts2timestr(decoded_frame->pts, &ist->st->time_base),
1980                best_effort_timestamp,
1981                av_ts2timestr(best_effort_timestamp, &ist->st->time_base),
1982                decoded_frame->key_frame, decoded_frame->pict_type,
1983                ist->st->time_base.num, ist->st->time_base.den);
1984     }
1985
1986     pkt->size = 0;
1987
1988     if (ist->st->sample_aspect_ratio.num)
1989         decoded_frame->sample_aspect_ratio = ist->st->sample_aspect_ratio;
1990
1991     resample_changed = ist->resample_width   != decoded_frame->width  ||
1992                        ist->resample_height  != decoded_frame->height ||
1993                        ist->resample_pix_fmt != decoded_frame->format;
1994     if (resample_changed) {
1995         av_log(NULL, AV_LOG_INFO,
1996                "Input stream #%d:%d frame changed from size:%dx%d fmt:%s to size:%dx%d fmt:%s\n",
1997                ist->file_index, ist->st->index,
1998                ist->resample_width,  ist->resample_height,  av_get_pix_fmt_name(ist->resample_pix_fmt),
1999                decoded_frame->width, decoded_frame->height, av_get_pix_fmt_name(decoded_frame->format));
2000
2001         ist->resample_width   = decoded_frame->width;
2002         ist->resample_height  = decoded_frame->height;
2003         ist->resample_pix_fmt = decoded_frame->format;
2004
2005         for (i = 0; i < nb_filtergraphs; i++) {
2006             if (ist_in_filtergraph(filtergraphs[i], ist) && ist->reinit_filters &&
2007                 configure_filtergraph(filtergraphs[i]) < 0) {
2008                 av_log(NULL, AV_LOG_FATAL, "Error reinitializing filters!\n");
2009                 exit_program(1);
2010             }
2011         }
2012     }
2013
2014     frame_sample_aspect= av_opt_ptr(avcodec_get_frame_class(), decoded_frame, "sample_aspect_ratio");
2015     for (i = 0; i < ist->nb_filters; i++) {
2016         if (!frame_sample_aspect->num)
2017             *frame_sample_aspect = ist->st->sample_aspect_ratio;
2018
2019         if (i < ist->nb_filters - 1) {
2020             f = ist->filter_frame;
2021             err = av_frame_ref(f, decoded_frame);
2022             if (err < 0)
2023                 break;
2024         } else
2025             f = decoded_frame;
2026         ret = av_buffersrc_add_frame_flags(ist->filters[i]->filter, f, AV_BUFFERSRC_FLAG_PUSH);
2027         if (ret == AVERROR_EOF) {
2028             ret = 0; /* ignore */
2029         } else if (ret < 0) {
2030             av_log(NULL, AV_LOG_FATAL,
2031                    "Failed to inject frame into filter network: %s\n", av_err2str(ret));
2032             exit_program(1);
2033         }
2034     }
2035
2036 fail:
2037     av_frame_unref(ist->filter_frame);
2038     av_frame_unref(decoded_frame);
2039     return err < 0 ? err : ret;
2040 }
2041
2042 static int transcode_subtitles(InputStream *ist, AVPacket *pkt, int *got_output)
2043 {
2044     AVSubtitle subtitle;
2045     int i, ret = avcodec_decode_subtitle2(ist->dec_ctx,
2046                                           &subtitle, got_output, pkt);
2047
2048     if (*got_output || ret<0 || pkt->size)
2049         decode_error_stat[ret<0] ++;
2050
2051     if (ret < 0 || !*got_output) {
2052         if (!pkt->size)
2053             sub2video_flush(ist);
2054         return ret;
2055     }
2056
2057     if (ist->fix_sub_duration) {
2058         int end = 1;
2059         if (ist->prev_sub.got_output) {
2060             end = av_rescale(subtitle.pts - ist->prev_sub.subtitle.pts,
2061                              1000, AV_TIME_BASE);
2062             if (end < ist->prev_sub.subtitle.end_display_time) {
2063                 av_log(ist->dec_ctx, AV_LOG_DEBUG,
2064                        "Subtitle duration reduced from %d to %d%s\n",
2065                        ist->prev_sub.subtitle.end_display_time, end,
2066                        end <= 0 ? ", dropping it" : "");
2067                 ist->prev_sub.subtitle.end_display_time = end;
2068             }
2069         }
2070         FFSWAP(int,        *got_output, ist->prev_sub.got_output);
2071         FFSWAP(int,        ret,         ist->prev_sub.ret);
2072         FFSWAP(AVSubtitle, subtitle,    ist->prev_sub.subtitle);
2073         if (end <= 0)
2074             goto out;
2075     }
2076
2077     if (!*got_output)
2078         return ret;
2079
2080     sub2video_update(ist, &subtitle);
2081
2082     if (!subtitle.num_rects)
2083         goto out;
2084
2085     ist->frames_decoded++;
2086
2087     for (i = 0; i < nb_output_streams; i++) {
2088         OutputStream *ost = output_streams[i];
2089
2090         if (!check_output_constraints(ist, ost) || !ost->encoding_needed
2091             || ost->enc->type != AVMEDIA_TYPE_SUBTITLE)
2092             continue;
2093
2094         do_subtitle_out(output_files[ost->file_index]->ctx, ost, ist, &subtitle);
2095     }
2096
2097 out:
2098     avsubtitle_free(&subtitle);
2099     return ret;
2100 }
2101
2102 /* pkt = NULL means EOF (needed to flush decoder buffers) */
2103 static int process_input_packet(InputStream *ist, const AVPacket *pkt)
2104 {
2105     int ret = 0, i;
2106     int got_output = 0;
2107
2108     AVPacket avpkt;
2109     if (!ist->saw_first_ts) {
2110         ist->dts = ist->st->avg_frame_rate.num ? - ist->dec_ctx->has_b_frames * AV_TIME_BASE / av_q2d(ist->st->avg_frame_rate) : 0;
2111         ist->pts = 0;
2112         if (pkt && pkt->pts != AV_NOPTS_VALUE && !ist->decoding_needed) {
2113             ist->dts += av_rescale_q(pkt->pts, ist->st->time_base, AV_TIME_BASE_Q);
2114             ist->pts = ist->dts; //unused but better to set it to a value thats not totally wrong
2115         }
2116         ist->saw_first_ts = 1;
2117     }
2118
2119     if (ist->next_dts == AV_NOPTS_VALUE)
2120         ist->next_dts = ist->dts;
2121     if (ist->next_pts == AV_NOPTS_VALUE)
2122         ist->next_pts = ist->pts;
2123
2124     if (!pkt) {
2125         /* EOF handling */
2126         av_init_packet(&avpkt);
2127         avpkt.data = NULL;
2128         avpkt.size = 0;
2129         goto handle_eof;
2130     } else {
2131         avpkt = *pkt;
2132     }
2133
2134     if (pkt->dts != AV_NOPTS_VALUE) {
2135         ist->next_dts = ist->dts = av_rescale_q(pkt->dts, ist->st->time_base, AV_TIME_BASE_Q);
2136         if (ist->dec_ctx->codec_type != AVMEDIA_TYPE_VIDEO || !ist->decoding_needed)
2137             ist->next_pts = ist->pts = ist->dts;
2138     }
2139
2140     // while we have more to decode or while the decoder did output something on EOF
2141     while (ist->decoding_needed && (avpkt.size > 0 || (!pkt && got_output))) {
2142         int duration;
2143     handle_eof:
2144
2145         ist->pts = ist->next_pts;
2146         ist->dts = ist->next_dts;
2147
2148         if (avpkt.size && avpkt.size != pkt->size &&
2149             !(ist->dec->capabilities & CODEC_CAP_SUBFRAMES)) {
2150             av_log(NULL, ist->showed_multi_packet_warning ? AV_LOG_VERBOSE : AV_LOG_WARNING,
2151                    "Multiple frames in a packet from stream %d\n", pkt->stream_index);
2152             ist->showed_multi_packet_warning = 1;
2153         }
2154
2155         switch (ist->dec_ctx->codec_type) {
2156         case AVMEDIA_TYPE_AUDIO:
2157             ret = decode_audio    (ist, &avpkt, &got_output);
2158             break;
2159         case AVMEDIA_TYPE_VIDEO:
2160             ret = decode_video    (ist, &avpkt, &got_output);
2161             if (avpkt.duration) {
2162                 duration = av_rescale_q(avpkt.duration, ist->st->time_base, AV_TIME_BASE_Q);
2163             } else if(ist->dec_ctx->framerate.num != 0 && ist->dec_ctx->framerate.den != 0) {
2164                 int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict+1 : ist->dec_ctx->ticks_per_frame;
2165                 duration = ((int64_t)AV_TIME_BASE *
2166                                 ist->dec_ctx->framerate.den * ticks) /
2167                                 ist->dec_ctx->framerate.num / ist->dec_ctx->ticks_per_frame;
2168             } else
2169                 duration = 0;
2170
2171             if(ist->dts != AV_NOPTS_VALUE && duration) {
2172                 ist->next_dts += duration;
2173             }else
2174                 ist->next_dts = AV_NOPTS_VALUE;
2175
2176             if (got_output)
2177                 ist->next_pts += duration; //FIXME the duration is not correct in some cases
2178             break;
2179         case AVMEDIA_TYPE_SUBTITLE:
2180             ret = transcode_subtitles(ist, &avpkt, &got_output);
2181             break;
2182         default:
2183             return -1;
2184         }
2185
2186         if (ret < 0)
2187             return ret;
2188
2189         avpkt.dts=
2190         avpkt.pts= AV_NOPTS_VALUE;
2191
2192         // touch data and size only if not EOF
2193         if (pkt) {
2194             if(ist->dec_ctx->codec_type != AVMEDIA_TYPE_AUDIO)
2195                 ret = avpkt.size;
2196             avpkt.data += ret;
2197             avpkt.size -= ret;
2198         }
2199         if (!got_output) {
2200             continue;
2201         }
2202         if (got_output && !pkt)
2203             break;
2204     }
2205
2206     /* handle stream copy */
2207     if (!ist->decoding_needed) {
2208         ist->dts = ist->next_dts;
2209         switch (ist->dec_ctx->codec_type) {
2210         case AVMEDIA_TYPE_AUDIO:
2211             ist->next_dts += ((int64_t)AV_TIME_BASE * ist->dec_ctx->frame_size) /
2212                              ist->dec_ctx->sample_rate;
2213             break;
2214         case AVMEDIA_TYPE_VIDEO:
2215             if (ist->framerate.num) {
2216                 // TODO: Remove work-around for c99-to-c89 issue 7
2217                 AVRational time_base_q = AV_TIME_BASE_Q;
2218                 int64_t next_dts = av_rescale_q(ist->next_dts, time_base_q, av_inv_q(ist->framerate));
2219                 ist->next_dts = av_rescale_q(next_dts + 1, av_inv_q(ist->framerate), time_base_q);
2220             } else if (pkt->duration) {
2221                 ist->next_dts += av_rescale_q(pkt->duration, ist->st->time_base, AV_TIME_BASE_Q);
2222             } else if(ist->dec_ctx->framerate.num != 0) {
2223                 int ticks= av_stream_get_parser(ist->st) ? av_stream_get_parser(ist->st)->repeat_pict + 1 : ist->dec_ctx->ticks_per_frame;
2224                 ist->next_dts += ((int64_t)AV_TIME_BASE *
2225                                   ist->dec_ctx->framerate.den * ticks) /
2226                                   ist->dec_ctx->framerate.num / ist->dec_ctx->ticks_per_frame;
2227             }
2228             break;
2229         }
2230         ist->pts = ist->dts;
2231         ist->next_pts = ist->next_dts;
2232     }
2233     for (i = 0; pkt && i < nb_output_streams; i++) {
2234         OutputStream *ost = output_streams[i];
2235
2236         if (!check_output_constraints(ist, ost) || ost->encoding_needed)
2237             continue;
2238
2239         do_streamcopy(ist, ost, pkt);
2240     }
2241
2242     return got_output;
2243 }
2244
2245 static void print_sdp(void)
2246 {
2247     char sdp[16384];
2248     int i;
2249     AVFormatContext **avc = av_malloc_array(nb_output_files, sizeof(*avc));
2250
2251     if (!avc)
2252         exit_program(1);
2253     for (i = 0; i < nb_output_files; i++)
2254         avc[i] = output_files[i]->ctx;
2255
2256     av_sdp_create(avc, nb_output_files, sdp, sizeof(sdp));
2257     printf("SDP:\n%s\n", sdp);
2258     fflush(stdout);
2259     av_freep(&avc);
2260 }
2261
2262 static const HWAccel *get_hwaccel(enum AVPixelFormat pix_fmt)
2263 {
2264     int i;
2265     for (i = 0; hwaccels[i].name; i++)
2266         if (hwaccels[i].pix_fmt == pix_fmt)
2267             return &hwaccels[i];
2268     return NULL;
2269 }
2270
2271 static enum AVPixelFormat get_format(AVCodecContext *s, const enum AVPixelFormat *pix_fmts)
2272 {
2273     InputStream *ist = s->opaque;
2274     const enum AVPixelFormat *p;
2275     int ret;
2276
2277     for (p = pix_fmts; *p != -1; p++) {
2278         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(*p);
2279         const HWAccel *hwaccel;
2280
2281         if (!(desc->flags & AV_PIX_FMT_FLAG_HWACCEL))
2282             break;
2283
2284         hwaccel = get_hwaccel(*p);
2285         if (!hwaccel ||
2286             (ist->active_hwaccel_id && ist->active_hwaccel_id != hwaccel->id) ||
2287             (ist->hwaccel_id != HWACCEL_AUTO && ist->hwaccel_id != hwaccel->id))
2288             continue;
2289
2290         ret = hwaccel->init(s);
2291         if (ret < 0) {
2292             if (ist->hwaccel_id == hwaccel->id) {
2293                 av_log(NULL, AV_LOG_FATAL,
2294                        "%s hwaccel requested for input stream #%d:%d, "
2295                        "but cannot be initialized.\n", hwaccel->name,
2296                        ist->file_index, ist->st->index);
2297                 exit_program(1);
2298             }
2299             continue;
2300         }
2301         ist->active_hwaccel_id = hwaccel->id;
2302         ist->hwaccel_pix_fmt   = *p;
2303         break;
2304     }
2305
2306     return *p;
2307 }
2308
2309 static int get_buffer(AVCodecContext *s, AVFrame *frame, int flags)
2310 {
2311     InputStream *ist = s->opaque;
2312
2313     if (ist->hwaccel_get_buffer && frame->format == ist->hwaccel_pix_fmt)
2314         return ist->hwaccel_get_buffer(s, frame, flags);
2315
2316     return avcodec_default_get_buffer2(s, frame, flags);
2317 }
2318
2319 static int init_input_stream(int ist_index, char *error, int error_len)
2320 {
2321     int ret;
2322     InputStream *ist = input_streams[ist_index];
2323
2324     if (ist->decoding_needed) {
2325         AVCodec *codec = ist->dec;
2326         if (!codec) {
2327             snprintf(error, error_len, "Decoder (codec %s) not found for input stream #%d:%d",
2328                     avcodec_get_name(ist->dec_ctx->codec_id), ist->file_index, ist->st->index);
2329             return AVERROR(EINVAL);
2330         }
2331
2332         ist->dec_ctx->opaque                = ist;
2333         ist->dec_ctx->get_format            = get_format;
2334         ist->dec_ctx->get_buffer2           = get_buffer;
2335         ist->dec_ctx->thread_safe_callbacks = 1;
2336
2337         av_opt_set_int(ist->dec_ctx, "refcounted_frames", 1, 0);
2338         if (ist->dec_ctx->codec_id == AV_CODEC_ID_DVB_SUBTITLE &&
2339            (ist->decoding_needed & DECODING_FOR_OST)) {
2340             av_dict_set(&ist->decoder_opts, "compute_edt", "1", AV_DICT_DONT_OVERWRITE);
2341             if (ist->decoding_needed & DECODING_FOR_FILTER)
2342                 av_log(NULL, AV_LOG_WARNING, "Warning using DVB subtitles for filtering and output at the same time is not fully supported, also see -compute_edt [0|1]\n");
2343         }
2344
2345         if (!av_dict_get(ist->decoder_opts, "threads", NULL, 0))
2346             av_dict_set(&ist->decoder_opts, "threads", "auto", 0);
2347         if ((ret = avcodec_open2(ist->dec_ctx, codec, &ist->decoder_opts)) < 0) {
2348             if (ret == AVERROR_EXPERIMENTAL)
2349                 abort_codec_experimental(codec, 0);
2350
2351             snprintf(error, error_len,
2352                      "Error while opening decoder for input stream "
2353                      "#%d:%d : %s",
2354                      ist->file_index, ist->st->index, av_err2str(ret));
2355             return ret;
2356         }
2357         assert_avoptions(ist->decoder_opts);
2358     }
2359
2360     ist->next_pts = AV_NOPTS_VALUE;
2361     ist->next_dts = AV_NOPTS_VALUE;
2362
2363     return 0;
2364 }
2365
2366 static InputStream *get_input_stream(OutputStream *ost)
2367 {
2368     if (ost->source_index >= 0)
2369         return input_streams[ost->source_index];
2370     return NULL;
2371 }
2372
2373 static int compare_int64(const void *a, const void *b)
2374 {
2375     int64_t va = *(int64_t *)a, vb = *(int64_t *)b;
2376     return va < vb ? -1 : va > vb ? +1 : 0;
2377 }
2378
2379 static void parse_forced_key_frames(char *kf, OutputStream *ost,
2380                                     AVCodecContext *avctx)
2381 {
2382     char *p;
2383     int n = 1, i, size, index = 0;
2384     int64_t t, *pts;
2385
2386     for (p = kf; *p; p++)
2387         if (*p == ',')
2388             n++;
2389     size = n;
2390     pts = av_malloc_array(size, sizeof(*pts));
2391     if (!pts) {
2392         av_log(NULL, AV_LOG_FATAL, "Could not allocate forced key frames array.\n");
2393         exit_program(1);
2394     }
2395
2396     p = kf;
2397     for (i = 0; i < n; i++) {
2398         char *next = strchr(p, ',');
2399
2400         if (next)
2401             *next++ = 0;
2402
2403         if (!memcmp(p, "chapters", 8)) {
2404
2405             AVFormatContext *avf = output_files[ost->file_index]->ctx;
2406             int j;
2407
2408             if (avf->nb_chapters > INT_MAX - size ||
2409                 !(pts = av_realloc_f(pts, size += avf->nb_chapters - 1,
2410                                      sizeof(*pts)))) {
2411                 av_log(NULL, AV_LOG_FATAL,
2412                        "Could not allocate forced key frames array.\n");
2413                 exit_program(1);
2414             }
2415             t = p[8] ? parse_time_or_die("force_key_frames", p + 8, 1) : 0;
2416             t = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
2417
2418             for (j = 0; j < avf->nb_chapters; j++) {
2419                 AVChapter *c = avf->chapters[j];
2420                 av_assert1(index < size);
2421                 pts[index++] = av_rescale_q(c->start, c->time_base,
2422                                             avctx->time_base) + t;
2423             }
2424
2425         } else {
2426
2427             t = parse_time_or_die("force_key_frames", p, 1);
2428             av_assert1(index < size);
2429             pts[index++] = av_rescale_q(t, AV_TIME_BASE_Q, avctx->time_base);
2430
2431         }
2432
2433         p = next;
2434     }
2435
2436     av_assert0(index == size);
2437     qsort(pts, size, sizeof(*pts), compare_int64);
2438     ost->forced_kf_count = size;
2439     ost->forced_kf_pts   = pts;
2440 }
2441
2442 static void report_new_stream(int input_index, AVPacket *pkt)
2443 {
2444     InputFile *file = input_files[input_index];
2445     AVStream *st = file->ctx->streams[pkt->stream_index];
2446
2447     if (pkt->stream_index < file->nb_streams_warn)
2448         return;
2449     av_log(file->ctx, AV_LOG_WARNING,
2450            "New %s stream %d:%d at pos:%"PRId64" and DTS:%ss\n",
2451            av_get_media_type_string(st->codec->codec_type),
2452            input_index, pkt->stream_index,
2453            pkt->pos, av_ts2timestr(pkt->dts, &st->time_base));
2454     file->nb_streams_warn = pkt->stream_index + 1;
2455 }
2456
2457 static void set_encoder_id(OutputFile *of, OutputStream *ost)
2458 {
2459     AVDictionaryEntry *e;
2460
2461     uint8_t *encoder_string;
2462     int encoder_string_len;
2463     int format_flags = 0;
2464     int codec_flags = 0;
2465
2466     if (av_dict_get(ost->st->metadata, "encoder",  NULL, 0))
2467         return;
2468
2469     e = av_dict_get(of->opts, "fflags", NULL, 0);
2470     if (e) {
2471         const AVOption *o = av_opt_find(of->ctx, "fflags", NULL, 0, 0);
2472         if (!o)
2473             return;
2474         av_opt_eval_flags(of->ctx, o, e->value, &format_flags);
2475     }
2476     e = av_dict_get(ost->encoder_opts, "flags", NULL, 0);
2477     if (e) {
2478         const AVOption *o = av_opt_find(ost->enc_ctx, "flags", NULL, 0, 0);
2479         if (!o)
2480             return;
2481         av_opt_eval_flags(ost->enc_ctx, o, e->value, &codec_flags);
2482     }
2483
2484     encoder_string_len = sizeof(LIBAVCODEC_IDENT) + strlen(ost->enc->name) + 2;
2485     encoder_string     = av_mallocz(encoder_string_len);
2486     if (!encoder_string)
2487         exit_program(1);
2488
2489     if (!(format_flags & AVFMT_FLAG_BITEXACT) && !(codec_flags & CODEC_FLAG_BITEXACT))
2490         av_strlcpy(encoder_string, LIBAVCODEC_IDENT " ", encoder_string_len);
2491     else
2492         av_strlcpy(encoder_string, "Lavc ", encoder_string_len);
2493     av_strlcat(encoder_string, ost->enc->name, encoder_string_len);
2494     av_dict_set(&ost->st->metadata, "encoder",  encoder_string,
2495                 AV_DICT_DONT_STRDUP_VAL | AV_DICT_DONT_OVERWRITE);
2496 }
2497
2498 static int transcode_init(void)
2499 {
2500     int ret = 0, i, j, k;
2501     AVFormatContext *oc;
2502     OutputStream *ost;
2503     InputStream *ist;
2504     char error[1024];
2505     int want_sdp = 1;
2506
2507     for (i = 0; i < nb_filtergraphs; i++) {
2508         FilterGraph *fg = filtergraphs[i];
2509         for (j = 0; j < fg->nb_outputs; j++) {
2510             OutputFilter *ofilter = fg->outputs[j];
2511             if (!ofilter->ost || ofilter->ost->source_index >= 0)
2512                 continue;
2513             if (fg->nb_inputs != 1)
2514                 continue;
2515             for (k = nb_input_streams-1; k >= 0 ; k--)
2516                 if (fg->inputs[0]->ist == input_streams[k])
2517                     break;
2518             ofilter->ost->source_index = k;
2519         }
2520     }
2521
2522     /* init framerate emulation */
2523     for (i = 0; i < nb_input_files; i++) {
2524         InputFile *ifile = input_files[i];
2525         if (ifile->rate_emu)
2526             for (j = 0; j < ifile->nb_streams; j++)
2527                 input_streams[j + ifile->ist_index]->start = av_gettime_relative();
2528     }
2529
2530     /* output stream init */
2531     for (i = 0; i < nb_output_files; i++) {
2532         oc = output_files[i]->ctx;
2533         if (!oc->nb_streams && !(oc->oformat->flags & AVFMT_NOSTREAMS)) {
2534             av_dump_format(oc, i, oc->filename, 1);
2535             av_log(NULL, AV_LOG_ERROR, "Output file #%d does not contain any stream\n", i);
2536             return AVERROR(EINVAL);
2537         }
2538     }
2539
2540     /* init complex filtergraphs */
2541     for (i = 0; i < nb_filtergraphs; i++)
2542         if ((ret = avfilter_graph_config(filtergraphs[i]->graph, NULL)) < 0)
2543             return ret;
2544
2545     /* for each output stream, we compute the right encoding parameters */
2546     for (i = 0; i < nb_output_streams; i++) {
2547         AVCodecContext *enc_ctx;
2548         AVCodecContext *dec_ctx = NULL;
2549         ost = output_streams[i];
2550         oc  = output_files[ost->file_index]->ctx;
2551         ist = get_input_stream(ost);
2552
2553         if (ost->attachment_filename)
2554             continue;
2555
2556         enc_ctx = ost->enc_ctx;
2557
2558         if (ist) {
2559             dec_ctx = ist->dec_ctx;
2560
2561             ost->st->disposition          = ist->st->disposition;
2562             enc_ctx->bits_per_raw_sample    = dec_ctx->bits_per_raw_sample;
2563             enc_ctx->chroma_sample_location = dec_ctx->chroma_sample_location;
2564         } else {
2565             for (j=0; j<oc->nb_streams; j++) {
2566                 AVStream *st = oc->streams[j];
2567                 if (st != ost->st && st->codec->codec_type == enc_ctx->codec_type)
2568                     break;
2569             }
2570             if (j == oc->nb_streams)
2571                 if (enc_ctx->codec_type == AVMEDIA_TYPE_AUDIO || enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO)
2572                     ost->st->disposition = AV_DISPOSITION_DEFAULT;
2573         }
2574
2575         if (ost->stream_copy) {
2576             AVRational sar;
2577             uint64_t extra_size;
2578
2579             av_assert0(ist && !ost->filter);
2580
2581             extra_size = (uint64_t)dec_ctx->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE;
2582
2583             if (extra_size > INT_MAX) {
2584                 return AVERROR(EINVAL);
2585             }
2586
2587             /* if stream_copy is selected, no need to decode or encode */
2588             enc_ctx->codec_id   = dec_ctx->codec_id;
2589             enc_ctx->codec_type = dec_ctx->codec_type;
2590
2591             if (!enc_ctx->codec_tag) {
2592                 unsigned int codec_tag;
2593                 if (!oc->oformat->codec_tag ||
2594                      av_codec_get_id (oc->oformat->codec_tag, dec_ctx->codec_tag) == enc_ctx->codec_id ||
2595                      !av_codec_get_tag2(oc->oformat->codec_tag, dec_ctx->codec_id, &codec_tag))
2596                     enc_ctx->codec_tag = dec_ctx->codec_tag;
2597             }
2598
2599             enc_ctx->bit_rate       = dec_ctx->bit_rate;
2600             enc_ctx->rc_max_rate    = dec_ctx->rc_max_rate;
2601             enc_ctx->rc_buffer_size = dec_ctx->rc_buffer_size;
2602             enc_ctx->field_order    = dec_ctx->field_order;
2603             enc_ctx->extradata      = av_mallocz(extra_size);
2604             if (!enc_ctx->extradata) {
2605                 return AVERROR(ENOMEM);
2606             }
2607             memcpy(enc_ctx->extradata, dec_ctx->extradata, dec_ctx->extradata_size);
2608             enc_ctx->extradata_size= dec_ctx->extradata_size;
2609             enc_ctx->bits_per_coded_sample  = dec_ctx->bits_per_coded_sample;
2610
2611             enc_ctx->time_base = ist->st->time_base;
2612             /*
2613              * Avi is a special case here because it supports variable fps but
2614              * having the fps and timebase differe significantly adds quite some
2615              * overhead
2616              */
2617             if(!strcmp(oc->oformat->name, "avi")) {
2618                 if ( copy_tb<0 && av_q2d(ist->st->r_frame_rate) >= av_q2d(ist->st->avg_frame_rate)
2619                                && 0.5/av_q2d(ist->st->r_frame_rate) > av_q2d(ist->st->time_base)
2620                                && 0.5/av_q2d(ist->st->r_frame_rate) > av_q2d(dec_ctx->time_base)
2621                                && av_q2d(ist->st->time_base) < 1.0/500 && av_q2d(dec_ctx->time_base) < 1.0/500
2622                      || copy_tb==2){
2623                     enc_ctx->time_base.num = ist->st->r_frame_rate.den;
2624                     enc_ctx->time_base.den = 2*ist->st->r_frame_rate.num;
2625                     enc_ctx->ticks_per_frame = 2;
2626                 } else if (   copy_tb<0 && av_q2d(dec_ctx->time_base)*dec_ctx->ticks_per_frame > 2*av_q2d(ist->st->time_base)
2627                                  && av_q2d(ist->st->time_base) < 1.0/500
2628                     || copy_tb==0){
2629                     enc_ctx->time_base = dec_ctx->time_base;
2630                     enc_ctx->time_base.num *= dec_ctx->ticks_per_frame;
2631                     enc_ctx->time_base.den *= 2;
2632                     enc_ctx->ticks_per_frame = 2;
2633                 }
2634             } else if(!(oc->oformat->flags & AVFMT_VARIABLE_FPS)
2635                       && strcmp(oc->oformat->name, "mov") && strcmp(oc->oformat->name, "mp4") && strcmp(oc->oformat->name, "3gp")
2636                       && strcmp(oc->oformat->name, "3g2") && strcmp(oc->oformat->name, "psp") && strcmp(oc->oformat->name, "ipod")
2637                       && strcmp(oc->oformat->name, "f4v")
2638             ) {
2639                 if(   copy_tb<0 && dec_ctx->time_base.den
2640                                 && av_q2d(dec_ctx->time_base)*dec_ctx->ticks_per_frame > av_q2d(ist->st->time_base)
2641                                 && av_q2d(ist->st->time_base) < 1.0/500
2642                    || copy_tb==0){
2643                     enc_ctx->time_base = dec_ctx->time_base;
2644                     enc_ctx->time_base.num *= dec_ctx->ticks_per_frame;
2645                 }
2646             }
2647             if (   enc_ctx->codec_tag == AV_RL32("tmcd")
2648                 && dec_ctx->time_base.num < dec_ctx->time_base.den
2649                 && dec_ctx->time_base.num > 0
2650                 && 121LL*dec_ctx->time_base.num > dec_ctx->time_base.den) {
2651                 enc_ctx->time_base = dec_ctx->time_base;
2652             }
2653
2654             if (ist && !ost->frame_rate.num)
2655                 ost->frame_rate = ist->framerate;
2656             if(ost->frame_rate.num)
2657                 enc_ctx->time_base = av_inv_q(ost->frame_rate);
2658
2659             av_reduce(&enc_ctx->time_base.num, &enc_ctx->time_base.den,
2660                         enc_ctx->time_base.num, enc_ctx->time_base.den, INT_MAX);
2661
2662             if (ist->st->nb_side_data) {
2663                 ost->st->side_data = av_realloc_array(NULL, ist->st->nb_side_data,
2664                                                       sizeof(*ist->st->side_data));
2665                 if (!ost->st->side_data)
2666                     return AVERROR(ENOMEM);
2667
2668                 for (j = 0; j < ist->st->nb_side_data; j++) {
2669                     const AVPacketSideData *sd_src = &ist->st->side_data[j];
2670                     AVPacketSideData *sd_dst = &ost->st->side_data[j];
2671
2672                     sd_dst->data = av_malloc(sd_src->size);
2673                     if (!sd_dst->data)
2674                         return AVERROR(ENOMEM);
2675                     memcpy(sd_dst->data, sd_src->data, sd_src->size);
2676                     sd_dst->size = sd_src->size;
2677                     sd_dst->type = sd_src->type;
2678                     ost->st->nb_side_data++;
2679                 }
2680             }
2681
2682             ost->parser = av_parser_init(enc_ctx->codec_id);
2683
2684             switch (enc_ctx->codec_type) {
2685             case AVMEDIA_TYPE_AUDIO:
2686                 if (audio_volume != 256) {
2687                     av_log(NULL, AV_LOG_FATAL, "-acodec copy and -vol are incompatible (frames are not decoded)\n");
2688                     exit_program(1);
2689                 }
2690                 enc_ctx->channel_layout     = dec_ctx->channel_layout;
2691                 enc_ctx->sample_rate        = dec_ctx->sample_rate;
2692                 enc_ctx->channels           = dec_ctx->channels;
2693                 enc_ctx->frame_size         = dec_ctx->frame_size;
2694                 enc_ctx->audio_service_type = dec_ctx->audio_service_type;
2695                 enc_ctx->block_align        = dec_ctx->block_align;
2696                 enc_ctx->initial_padding    = dec_ctx->delay;
2697 #if FF_API_AUDIOENC_DELAY
2698                 enc_ctx->delay              = dec_ctx->delay;
2699 #endif
2700                 if((enc_ctx->block_align == 1 || enc_ctx->block_align == 1152 || enc_ctx->block_align == 576) && enc_ctx->codec_id == AV_CODEC_ID_MP3)
2701                     enc_ctx->block_align= 0;
2702                 if(enc_ctx->codec_id == AV_CODEC_ID_AC3)
2703                     enc_ctx->block_align= 0;
2704                 break;
2705             case AVMEDIA_TYPE_VIDEO:
2706                 enc_ctx->pix_fmt            = dec_ctx->pix_fmt;
2707                 enc_ctx->width              = dec_ctx->width;
2708                 enc_ctx->height             = dec_ctx->height;
2709                 enc_ctx->has_b_frames       = dec_ctx->has_b_frames;
2710                 if (ost->frame_aspect_ratio.num) { // overridden by the -aspect cli option
2711                     sar =
2712                         av_mul_q(ost->frame_aspect_ratio,
2713                                  (AVRational){ enc_ctx->height, enc_ctx->width });
2714                     av_log(NULL, AV_LOG_WARNING, "Overriding aspect ratio "
2715                            "with stream copy may produce invalid files\n");
2716                 }
2717                 else if (ist->st->sample_aspect_ratio.num)
2718                     sar = ist->st->sample_aspect_ratio;
2719                 else
2720                     sar = dec_ctx->sample_aspect_ratio;
2721                 ost->st->sample_aspect_ratio = enc_ctx->sample_aspect_ratio = sar;
2722                 ost->st->avg_frame_rate = ist->st->avg_frame_rate;
2723                 break;
2724             case AVMEDIA_TYPE_SUBTITLE:
2725                 enc_ctx->width  = dec_ctx->width;
2726                 enc_ctx->height = dec_ctx->height;
2727                 break;
2728             case AVMEDIA_TYPE_DATA:
2729             case AVMEDIA_TYPE_ATTACHMENT:
2730                 break;
2731             default:
2732                 abort();
2733             }
2734         } else {
2735             if (!ost->enc)
2736                 ost->enc = avcodec_find_encoder(enc_ctx->codec_id);
2737             if (!ost->enc) {
2738                 /* should only happen when a default codec is not present. */
2739                 snprintf(error, sizeof(error), "Encoder (codec %s) not found for output stream #%d:%d",
2740                          avcodec_get_name(ost->st->codec->codec_id), ost->file_index, ost->index);
2741                 ret = AVERROR(EINVAL);
2742                 goto dump_format;
2743             }
2744
2745             if (ist)
2746                 ist->decoding_needed |= DECODING_FOR_OST;
2747             ost->encoding_needed = 1;
2748
2749             set_encoder_id(output_files[ost->file_index], ost);
2750
2751             if (!ost->filter &&
2752                 (enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
2753                  enc_ctx->codec_type == AVMEDIA_TYPE_AUDIO)) {
2754                     FilterGraph *fg;
2755                     fg = init_simple_filtergraph(ist, ost);
2756                     if (configure_filtergraph(fg)) {
2757                         av_log(NULL, AV_LOG_FATAL, "Error opening filters!\n");
2758                         exit_program(1);
2759                     }
2760             }
2761
2762             if (enc_ctx->codec_type == AVMEDIA_TYPE_VIDEO) {
2763                 if (ost->filter && !ost->frame_rate.num)
2764                     ost->frame_rate = av_buffersink_get_frame_rate(ost->filter->filter);
2765                 if (ist && !ost->frame_rate.num)
2766                     ost->frame_rate = ist->framerate;
2767                 if (ist && !ost->frame_rate.num)
2768                     ost->frame_rate = ist->st->r_frame_rate;
2769                 if (ist && !ost->frame_rate.num) {
2770                     ost->frame_rate = (AVRational){25, 1};
2771                     av_log(NULL, AV_LOG_WARNING,
2772                            "No information "
2773                            "about the input framerate is available. Falling "
2774                            "back to a default value of 25fps for output stream #%d:%d. Use the -r option "
2775                            "if you want a different framerate.\n",
2776                            ost->file_index, ost->index);
2777                 }
2778 //                    ost->frame_rate = ist->st->avg_frame_rate.num ? ist->st->avg_frame_rate : (AVRational){25, 1};
2779                 if (ost->enc && ost->enc->supported_framerates && !ost->force_fps) {
2780                     int idx = av_find_nearest_q_idx(ost->frame_rate, ost->enc->supported_framerates);
2781                     ost->frame_rate = ost->enc->supported_framerates[idx];
2782                 }
2783                 if (enc_ctx->codec_id == AV_CODEC_ID_MPEG4) {
2784                     av_reduce(&ost->frame_rate.num, &ost->frame_rate.den,
2785                               ost->frame_rate.num, ost->frame_rate.den, 65535);
2786                 }
2787             }
2788
2789             switch (enc_ctx->codec_type) {
2790             case AVMEDIA_TYPE_AUDIO:
2791                 enc_ctx->sample_fmt     = ost->filter->filter->inputs[0]->format;
2792                 enc_ctx->sample_rate    = ost->filter->filter->inputs[0]->sample_rate;
2793                 enc_ctx->channel_layout = ost->filter->filter->inputs[0]->channel_layout;
2794                 enc_ctx->channels       = avfilter_link_get_channels(ost->filter->filter->inputs[0]);
2795                 enc_ctx->time_base      = (AVRational){ 1, enc_ctx->sample_rate };
2796                 break;
2797             case AVMEDIA_TYPE_VIDEO:
2798                 enc_ctx->time_base = av_inv_q(ost->frame_rate);
2799                 if (ost->filter && !(enc_ctx->time_base.num && enc_ctx->time_base.den))
2800                     enc_ctx->time_base = ost->filter->filter->inputs[0]->time_base;
2801                 if (   av_q2d(enc_ctx->time_base) < 0.001 && video_sync_method != VSYNC_PASSTHROUGH
2802                    && (video_sync_method == VSYNC_CFR || video_sync_method == VSYNC_VSCFR || (video_sync_method == VSYNC_AUTO && !(oc->oformat->flags & AVFMT_VARIABLE_FPS)))){
2803                     av_log(oc, AV_LOG_WARNING, "Frame rate very high for a muxer not efficiently supporting it.\n"
2804                                                "Please consider specifying a lower framerate, a different muxer or -vsync 2\n");
2805                 }
2806                 for (j = 0; j < ost->forced_kf_count; j++)
2807                     ost->forced_kf_pts[j] = av_rescale_q(ost->forced_kf_pts[j],
2808                                                          AV_TIME_BASE_Q,
2809                                                          enc_ctx->time_base);
2810
2811                 enc_ctx->width  = ost->filter->filter->inputs[0]->w;
2812                 enc_ctx->height = ost->filter->filter->inputs[0]->h;
2813                 enc_ctx->sample_aspect_ratio = ost->st->sample_aspect_ratio =
2814                     ost->frame_aspect_ratio.num ? // overridden by the -aspect cli option
2815                     av_mul_q(ost->frame_aspect_ratio, (AVRational){ enc_ctx->height, enc_ctx->width }) :
2816                     ost->filter->filter->inputs[0]->sample_aspect_ratio;
2817                 if (!strncmp(ost->enc->name, "libx264", 7) &&
2818                     enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
2819                     ost->filter->filter->inputs[0]->format != AV_PIX_FMT_YUV420P)
2820                     av_log(NULL, AV_LOG_WARNING,
2821                            "No pixel format specified, %s for H.264 encoding chosen.\n"
2822                            "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
2823                            av_get_pix_fmt_name(ost->filter->filter->inputs[0]->format));
2824                 if (!strncmp(ost->enc->name, "mpeg2video", 10) &&
2825                     enc_ctx->pix_fmt == AV_PIX_FMT_NONE &&
2826                     ost->filter->filter->inputs[0]->format != AV_PIX_FMT_YUV420P)
2827                     av_log(NULL, AV_LOG_WARNING,
2828                            "No pixel format specified, %s for MPEG-2 encoding chosen.\n"
2829                            "Use -pix_fmt yuv420p for compatibility with outdated media players.\n",
2830                            av_get_pix_fmt_name(ost->filter->filter->inputs[0]->format));
2831                 enc_ctx->pix_fmt = ost->filter->filter->inputs[0]->format;
2832
2833                 ost->st->avg_frame_rate = ost->frame_rate;
2834
2835                 if (!dec_ctx ||
2836                     enc_ctx->width   != dec_ctx->width  ||
2837                     enc_ctx->height  != dec_ctx->height ||
2838                     enc_ctx->pix_fmt != dec_ctx->pix_fmt) {
2839                     enc_ctx->bits_per_raw_sample = frame_bits_per_raw_sample;
2840                 }
2841
2842                 if (ost->forced_keyframes) {
2843                     if (!strncmp(ost->forced_keyframes, "expr:", 5)) {
2844                         ret = av_expr_parse(&ost->forced_keyframes_pexpr, ost->forced_keyframes+5,
2845                                             forced_keyframes_const_names, NULL, NULL, NULL, NULL, 0, NULL);
2846                         if (ret < 0) {
2847                             av_log(NULL, AV_LOG_ERROR,
2848                                    "Invalid force_key_frames expression '%s'\n", ost->forced_keyframes+5);
2849                             return ret;
2850                         }
2851                         ost->forced_keyframes_expr_const_values[FKF_N] = 0;
2852                         ost->forced_keyframes_expr_const_values[FKF_N_FORCED] = 0;
2853                         ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_N] = NAN;
2854                         ost->forced_keyframes_expr_const_values[FKF_PREV_FORCED_T] = NAN;
2855                     } else {
2856                         parse_forced_key_frames(ost->forced_keyframes, ost, ost->enc_ctx);
2857                     }
2858                 }
2859                 break;
2860             case AVMEDIA_TYPE_SUBTITLE:
2861                 enc_ctx->time_base = (AVRational){1, 1000};
2862                 if (!enc_ctx->width) {
2863                     enc_ctx->width     = input_streams[ost->source_index]->st->codec->width;
2864                     enc_ctx->height    = input_streams[ost->source_index]->st->codec->height;
2865                 }
2866                 break;
2867             default:
2868                 abort();
2869                 break;
2870             }
2871             /* two pass mode */
2872             if (enc_ctx->flags & (CODEC_FLAG_PASS1 | CODEC_FLAG_PASS2)) {
2873                 char logfilename[1024];
2874                 FILE *f;
2875
2876                 snprintf(logfilename, sizeof(logfilename), "%s-%d.log",
2877                          ost->logfile_prefix ? ost->logfile_prefix :
2878                                                DEFAULT_PASS_LOGFILENAME_PREFIX,
2879                          i);
2880                 if (!strcmp(ost->enc->name, "libx264")) {
2881                     av_dict_set(&ost->encoder_opts, "stats", logfilename, AV_DICT_DONT_OVERWRITE);
2882                 } else {
2883                     if (enc_ctx->flags & CODEC_FLAG_PASS2) {
2884                         char  *logbuffer;
2885                         size_t logbuffer_size;
2886                         if (cmdutils_read_file(logfilename, &logbuffer, &logbuffer_size) < 0) {
2887                             av_log(NULL, AV_LOG_FATAL, "Error reading log file '%s' for pass-2 encoding\n",
2888                                    logfilename);
2889                             exit_program(1);
2890                         }
2891                         enc_ctx->stats_in = logbuffer;
2892                     }
2893                     if (enc_ctx->flags & CODEC_FLAG_PASS1) {
2894                         f = av_fopen_utf8(logfilename, "wb");
2895                         if (!f) {
2896                             av_log(NULL, AV_LOG_FATAL, "Cannot write log file '%s' for pass-1 encoding: %s\n",
2897                                 logfilename, strerror(errno));
2898                             exit_program(1);
2899                         }
2900                         ost->logfile = f;
2901                     }
2902                 }
2903             }
2904         }
2905     }
2906
2907     /* open each encoder */
2908     for (i = 0; i < nb_output_streams; i++) {
2909         ost = output_streams[i];
2910         if (ost->encoding_needed) {
2911             AVCodec      *codec = ost->enc;
2912             AVCodecContext *dec = NULL;
2913
2914             if ((ist = get_input_stream(ost)))
2915                 dec = ist->dec_ctx;
2916             if (dec && dec->subtitle_header) {
2917                 /* ASS code assumes this buffer is null terminated so add extra byte. */
2918                 ost->enc_ctx->subtitle_header = av_mallocz(dec->subtitle_header_size + 1);
2919                 if (!ost->enc_ctx->subtitle_header) {
2920                     ret = AVERROR(ENOMEM);
2921                     goto dump_format;
2922                 }
2923                 memcpy(ost->enc_ctx->subtitle_header, dec->subtitle_header, dec->subtitle_header_size);
2924                 ost->enc_ctx->subtitle_header_size = dec->subtitle_header_size;
2925             }
2926             if (!av_dict_get(ost->encoder_opts, "threads", NULL, 0))
2927                 av_dict_set(&ost->encoder_opts, "threads", "auto", 0);
2928             av_dict_set(&ost->encoder_opts, "side_data_only_packets", "1", 0);
2929
2930             if ((ret = avcodec_open2(ost->enc_ctx, codec, &ost->encoder_opts)) < 0) {
2931                 if (ret == AVERROR_EXPERIMENTAL)
2932                     abort_codec_experimental(codec, 1);
2933                 snprintf(error, sizeof(error), "Error while opening encoder for output stream #%d:%d - maybe incorrect parameters such as bit_rate, rate, width or height",
2934                         ost->file_index, ost->index);
2935                 goto dump_format;
2936             }
2937             if (ost->enc->type == AVMEDIA_TYPE_AUDIO &&
2938                 !(ost->enc->capabilities & CODEC_CAP_VARIABLE_FRAME_SIZE))
2939                 av_buffersink_set_frame_size(ost->filter->filter,
2940                                              ost->enc_ctx->frame_size);
2941             assert_avoptions(ost->encoder_opts);
2942             if (ost->enc_ctx->bit_rate && ost->enc_ctx->bit_rate < 1000)
2943                 av_log(NULL, AV_LOG_WARNING, "The bitrate parameter is set too low."
2944                                              " It takes bits/s as argument, not kbits/s\n");
2945         } else {
2946             ret = av_opt_set_dict(ost->enc_ctx, &ost->encoder_opts);
2947             if (ret < 0) {
2948                 av_log(NULL, AV_LOG_FATAL,
2949                     "Error setting up codec context options.\n");
2950                 return ret;
2951             }
2952         }
2953
2954         ret = avcodec_copy_context(ost->st->codec, ost->enc_ctx);
2955         if (ret < 0) {
2956             av_log(NULL, AV_LOG_FATAL,
2957                    "Error initializing the output stream codec context.\n");
2958             exit_program(1);
2959         }
2960         ost->st->codec->codec= ost->enc_ctx->codec;
2961
2962         // copy timebase while removing common factors
2963         ost->st->time_base = av_add_q(ost->enc_ctx->time_base, (AVRational){0, 1});
2964     }
2965
2966     /* init input streams */
2967     for (i = 0; i < nb_input_streams; i++)
2968         if ((ret = init_input_stream(i, error, sizeof(error))) < 0) {
2969             for (i = 0; i < nb_output_streams; i++) {
2970                 ost = output_streams[i];
2971                 avcodec_close(ost->enc_ctx);
2972             }
2973             goto dump_format;
2974         }
2975
2976     /* discard unused programs */
2977     for (i = 0; i < nb_input_files; i++) {
2978         InputFile *ifile = input_files[i];
2979         for (j = 0; j < ifile->ctx->nb_programs; j++) {
2980             AVProgram *p = ifile->ctx->programs[j];
2981             int discard  = AVDISCARD_ALL;
2982
2983             for (k = 0; k < p->nb_stream_indexes; k++)
2984                 if (!input_streams[ifile->ist_index + p->stream_index[k]]->discard) {
2985                     discard = AVDISCARD_DEFAULT;
2986                     break;
2987                 }
2988             p->discard = discard;
2989         }
2990     }
2991
2992     /* open files and write file headers */
2993     for (i = 0; i < nb_output_files; i++) {
2994         oc = output_files[i]->ctx;
2995         oc->interrupt_callback = int_cb;
2996         if ((ret = avformat_write_header(oc, &output_files[i]->opts)) < 0) {
2997             snprintf(error, sizeof(error),
2998                      "Could not write header for output file #%d "
2999                      "(incorrect codec parameters ?): %s",
3000                      i, av_err2str(ret));
3001             ret = AVERROR(EINVAL);
3002             goto dump_format;
3003         }
3004 //         assert_avoptions(output_files[i]->opts);
3005         if (strcmp(oc->oformat->name, "rtp")) {
3006             want_sdp = 0;
3007         }
3008     }
3009
3010  dump_format:
3011     /* dump the file output parameters - cannot be done before in case
3012        of stream copy */
3013     for (i = 0; i < nb_output_files; i++) {
3014         av_dump_format(output_files[i]->ctx, i, output_files[i]->ctx->filename, 1);
3015     }
3016
3017     /* dump the stream mapping */
3018     av_log(NULL, AV_LOG_INFO, "Stream mapping:\n");
3019     for (i = 0; i < nb_input_streams; i++) {
3020         ist = input_streams[i];
3021
3022         for (j = 0; j < ist->nb_filters; j++) {
3023             if (ist->filters[j]->graph->graph_desc) {
3024                 av_log(NULL, AV_LOG_INFO, "  Stream #%d:%d (%s) -> %s",
3025                        ist->file_index, ist->st->index, ist->dec ? ist->dec->name : "?",
3026                        ist->filters[j]->name);
3027                 if (nb_filtergraphs > 1)
3028                     av_log(NULL, AV_LOG_INFO, " (graph %d)", ist->filters[j]->graph->index);
3029                 av_log(NULL, AV_LOG_INFO, "\n");
3030             }
3031         }
3032     }
3033
3034     for (i = 0; i < nb_output_streams; i++) {
3035         ost = output_streams[i];
3036
3037         if (ost->attachment_filename) {
3038             /* an attached file */
3039             av_log(NULL, AV_LOG_INFO, "  File %s -> Stream #%d:%d\n",
3040                    ost->attachment_filename, ost->file_index, ost->index);
3041             continue;
3042         }
3043
3044         if (ost->filter && ost->filter->graph->graph_desc) {
3045             /* output from a complex graph */
3046             av_log(NULL, AV_LOG_INFO, "  %s", ost->filter->name);
3047             if (nb_filtergraphs > 1)
3048                 av_log(NULL, AV_LOG_INFO, " (graph %d)", ost->filter->graph->index);
3049
3050             av_log(NULL, AV_LOG_INFO, " -> Stream #%d:%d (%s)\n", ost->file_index,
3051                    ost->index, ost->enc ? ost->enc->name : "?");
3052             continue;
3053         }
3054
3055         av_log(NULL, AV_LOG_INFO, "  Stream #%d:%d -> #%d:%d",
3056                input_streams[ost->source_index]->file_index,
3057                input_streams[ost->source_index]->st->index,
3058                ost->file_index,
3059                ost->index);
3060         if (ost->sync_ist != input_streams[ost->source_index])
3061             av_log(NULL, AV_LOG_INFO, " [sync #%d:%d]",
3062                    ost->sync_ist->file_index,
3063                    ost->sync_ist->st->index);
3064         if (ost->stream_copy)
3065             av_log(NULL, AV_LOG_INFO, " (copy)");
3066         else {
3067             const AVCodec *in_codec    = input_streams[ost->source_index]->dec;
3068             const AVCodec *out_codec   = ost->enc;
3069             const char *decoder_name   = "?";
3070             const char *in_codec_name  = "?";
3071             const char *encoder_name   = "?";
3072             const char *out_codec_name = "?";
3073
3074             if (in_codec) {
3075                 decoder_name  = in_codec->name;
3076                 in_codec_name = avcodec_descriptor_get(in_codec->id)->name;
3077                 if (!strcmp(decoder_name, in_codec_name))
3078                     decoder_name = "native";
3079             }
3080
3081             if (out_codec) {
3082                 encoder_name   = out_codec->name;
3083                 out_codec_name = avcodec_descriptor_get(out_codec->id)->name;
3084                 if (!strcmp(encoder_name, out_codec_name))
3085                     encoder_name = "native";
3086             }
3087
3088             av_log(NULL, AV_LOG_INFO, " (%s (%s) -> %s (%s))",
3089                    in_codec_name, decoder_name,
3090                    out_codec_name, encoder_name);
3091         }
3092         av_log(NULL, AV_LOG_INFO, "\n");
3093     }
3094
3095     if (ret) {
3096         av_log(NULL, AV_LOG_ERROR, "%s\n", error);
3097         return ret;
3098     }
3099
3100     if (want_sdp) {
3101         print_sdp();
3102     }
3103
3104     transcode_init_done = 1;
3105
3106     return 0;
3107 }
3108
3109 /* Return 1 if there remain streams where more output is wanted, 0 otherwise. */
3110 static int need_output(void)
3111 {
3112     int i;
3113
3114     for (i = 0; i < nb_output_streams; i++) {
3115         OutputStream *ost    = output_streams[i];
3116         OutputFile *of       = output_files[ost->file_index];
3117         AVFormatContext *os  = output_files[ost->file_index]->ctx;
3118
3119         if (ost->finished ||
3120             (os->pb && avio_tell(os->pb) >= of->limit_filesize))
3121             continue;
3122         if (ost->frame_number >= ost->max_frames) {
3123             int j;
3124             for (j = 0; j < of->ctx->nb_streams; j++)
3125                 close_output_stream(output_streams[of->ost_index + j]);
3126             continue;
3127         }
3128
3129         return 1;
3130     }
3131
3132     return 0;
3133 }
3134
3135 /**
3136  * Select the output stream to process.
3137  *
3138  * @return  selected output stream, or NULL if none available
3139  */
3140 static OutputStream *choose_output(void)
3141 {
3142     int i;
3143     int64_t opts_min = INT64_MAX;
3144     OutputStream *ost_min = NULL;
3145
3146     for (i = 0; i < nb_output_streams; i++) {
3147         OutputStream *ost = output_streams[i];
3148         int64_t opts = av_rescale_q(ost->st->cur_dts, ost->st->time_base,
3149                                     AV_TIME_BASE_Q);
3150         if (!ost->finished && opts < opts_min) {
3151             opts_min = opts;
3152             ost_min  = ost->unavailable ? NULL : ost;
3153         }
3154     }
3155     return ost_min;
3156 }
3157
3158 static int check_keyboard_interaction(int64_t cur_time)
3159 {
3160     int i, ret, key;
3161     static int64_t last_time;
3162     if (received_nb_signals)
3163         return AVERROR_EXIT;
3164     /* read_key() returns 0 on EOF */
3165     if(cur_time - last_time >= 100000 && !run_as_daemon){
3166         key =  read_key();
3167         last_time = cur_time;
3168     }else
3169         key = -1;
3170     if (key == 'q')
3171         return AVERROR_EXIT;
3172     if (key == '+') av_log_set_level(av_log_get_level()+10);
3173     if (key == '-') av_log_set_level(av_log_get_level()-10);
3174     if (key == 's') qp_hist     ^= 1;
3175     if (key == 'h'){
3176         if (do_hex_dump){
3177             do_hex_dump = do_pkt_dump = 0;
3178         } else if(do_pkt_dump){
3179             do_hex_dump = 1;
3180         } else
3181             do_pkt_dump = 1;
3182         av_log_set_level(AV_LOG_DEBUG);
3183     }
3184     if (key == 'c' || key == 'C'){
3185         char buf[4096], target[64], command[256], arg[256] = {0};
3186         double time;
3187         int k, n = 0;
3188         fprintf(stderr, "\nEnter command: <target>|all <time>|-1 <command>[ <argument>]\n");
3189         i = 0;
3190         while ((k = read_key()) != '\n' && k != '\r' && i < sizeof(buf)-1)
3191             if (k > 0)
3192                 buf[i++] = k;
3193         buf[i] = 0;
3194         if (k > 0 &&
3195             (n = sscanf(buf, "%63[^ ] %lf %255[^ ] %255[^\n]", target, &time, command, arg)) >= 3) {
3196             av_log(NULL, AV_LOG_DEBUG, "Processing command target:%s time:%f command:%s arg:%s",
3197                    target, time, command, arg);
3198             for (i = 0; i < nb_filtergraphs; i++) {
3199                 FilterGraph *fg = filtergraphs[i];
3200                 if (fg->graph) {
3201                     if (time < 0) {
3202                         ret = avfilter_graph_send_command(fg->graph, target, command, arg, buf, sizeof(buf),
3203                                                           key == 'c' ? AVFILTER_CMD_FLAG_ONE : 0);
3204                         fprintf(stderr, "Command reply for stream %d: ret:%d res:\n%s", i, ret, buf);
3205                     } else if (key == 'c') {
3206                         fprintf(stderr, "Queing commands only on filters supporting the specific command is unsupported\n");
3207                         ret = AVERROR_PATCHWELCOME;
3208                     } else {
3209                         ret = avfilter_graph_queue_command(fg->graph, target, command, arg, 0, time);
3210                     }
3211                 }
3212             }
3213         } else {
3214             av_log(NULL, AV_LOG_ERROR,
3215                    "Parse error, at least 3 arguments were expected, "
3216                    "only %d given in string '%s'\n", n, buf);
3217         }
3218     }
3219     if (key == 'd' || key == 'D'){
3220         int debug=0;
3221         if(key == 'D') {
3222             debug = input_streams[0]->st->codec->debug<<1;
3223             if(!debug) debug = 1;
3224             while(debug & (FF_DEBUG_DCT_COEFF|FF_DEBUG_VIS_QP|FF_DEBUG_VIS_MB_TYPE)) //unsupported, would just crash
3225                 debug += debug;
3226         }else
3227             if(scanf("%d", &debug)!=1)
3228                 fprintf(stderr,"error parsing debug value\n");
3229         for(i=0;i<nb_input_streams;i++) {
3230             input_streams[i]->st->codec->debug = debug;
3231         }
3232         for(i=0;i<nb_output_streams;i++) {
3233             OutputStream *ost = output_streams[i];
3234             ost->enc_ctx->debug = debug;
3235         }
3236         if(debug) av_log_set_level(AV_LOG_DEBUG);
3237         fprintf(stderr,"debug=%d\n", debug);
3238     }
3239     if (key == '?'){
3240         fprintf(stderr, "key    function\n"
3241                         "?      show this help\n"
3242                         "+      increase verbosity\n"
3243                         "-      decrease verbosity\n"
3244                         "c      Send command to first matching filter supporting it\n"
3245                         "C      Send/Que command to all matching filters\n"
3246                         "D      cycle through available debug modes\n"
3247                         "h      dump packets/hex press to cycle through the 3 states\n"
3248                         "q      quit\n"
3249                         "s      Show QP histogram\n"
3250         );
3251     }
3252     return 0;
3253 }
3254
3255 #if HAVE_PTHREADS
3256 static void *input_thread(void *arg)
3257 {
3258     InputFile *f = arg;
3259     int ret = 0;
3260
3261     while (1) {
3262         AVPacket pkt;
3263         ret = av_read_frame(f->ctx, &pkt);
3264
3265         if (ret == AVERROR(EAGAIN)) {
3266             av_usleep(10000);
3267             continue;
3268         }
3269         if (ret < 0) {
3270             av_thread_message_queue_set_err_recv(f->in_thread_queue, ret);
3271             break;
3272         }
3273         av_dup_packet(&pkt);
3274         ret = av_thread_message_queue_send(f->in_thread_queue, &pkt, 0);
3275         if (ret < 0) {
3276             if (ret != AVERROR_EOF)
3277                 av_log(f->ctx, AV_LOG_ERROR,
3278                        "Unable to send packet to main thread: %s\n",
3279                        av_err2str(ret));
3280             av_free_packet(&pkt);
3281             av_thread_message_queue_set_err_recv(f->in_thread_queue, ret);
3282             break;
3283         }
3284     }
3285
3286     return NULL;
3287 }
3288
3289 static void free_input_threads(void)
3290 {
3291     int i;
3292
3293     for (i = 0; i < nb_input_files; i++) {
3294         InputFile *f = input_files[i];
3295         AVPacket pkt;
3296
3297         if (!f->in_thread_queue)
3298             continue;
3299         av_thread_message_queue_set_err_send(f->in_thread_queue, AVERROR_EOF);
3300         while (av_thread_message_queue_recv(f->in_thread_queue, &pkt, 0) >= 0)
3301             av_free_packet(&pkt);
3302
3303         pthread_join(f->thread, NULL);
3304         f->joined = 1;
3305         av_thread_message_queue_free(&f->in_thread_queue);
3306     }
3307 }
3308
3309 static int init_input_threads(void)
3310 {
3311     int i, ret;
3312
3313     if (nb_input_files == 1)
3314         return 0;
3315
3316     for (i = 0; i < nb_input_files; i++) {
3317         InputFile *f = input_files[i];
3318
3319         if (f->ctx->pb ? !f->ctx->pb->seekable :
3320             strcmp(f->ctx->iformat->name, "lavfi"))
3321             f->non_blocking = 1;
3322         ret = av_thread_message_queue_alloc(&f->in_thread_queue,
3323                                             8, sizeof(AVPacket));
3324         if (ret < 0)
3325             return ret;
3326
3327         if ((ret = pthread_create(&f->thread, NULL, input_thread, f))) {
3328             av_log(NULL, AV_LOG_ERROR, "pthread_create failed: %s. Try to increase `ulimit -v` or decrease `ulimit -s`.\n", strerror(ret));
3329             av_thread_message_queue_free(&f->in_thread_queue);
3330             return AVERROR(ret);
3331         }
3332     }
3333     return 0;
3334 }
3335
3336 static int get_input_packet_mt(InputFile *f, AVPacket *pkt)
3337 {
3338     return av_thread_message_queue_recv(f->in_thread_queue, pkt,
3339                                         f->non_blocking ?
3340                                         AV_THREAD_MESSAGE_NONBLOCK : 0);
3341 }
3342 #endif
3343
3344 static int get_input_packet(InputFile *f, AVPacket *pkt)
3345 {
3346     if (f->rate_emu) {
3347         int i;
3348         for (i = 0; i < f->nb_streams; i++) {
3349             InputStream *ist = input_streams[f->ist_index + i];
3350             int64_t pts = av_rescale(ist->dts, 1000000, AV_TIME_BASE);
3351             int64_t now = av_gettime_relative() - ist->start;
3352             if (pts > now)
3353                 return AVERROR(EAGAIN);
3354         }
3355     }
3356
3357 #if HAVE_PTHREADS
3358     if (nb_input_files > 1)
3359         return get_input_packet_mt(f, pkt);
3360 #endif
3361     return av_read_frame(f->ctx, pkt);
3362 }
3363
3364 static int got_eagain(void)
3365 {
3366     int i;
3367     for (i = 0; i < nb_output_streams; i++)
3368         if (output_streams[i]->unavailable)
3369             return 1;
3370     return 0;
3371 }
3372
3373 static void reset_eagain(void)
3374 {
3375     int i;
3376     for (i = 0; i < nb_input_files; i++)
3377         input_files[i]->eagain = 0;
3378     for (i = 0; i < nb_output_streams; i++)
3379         output_streams[i]->unavailable = 0;
3380 }
3381
3382 /*
3383  * Return
3384  * - 0 -- one packet was read and processed
3385  * - AVERROR(EAGAIN) -- no packets were available for selected file,
3386  *   this function should be called again
3387  * - AVERROR_EOF -- this function should not be called again
3388  */
3389 static int process_input(int file_index)
3390 {
3391     InputFile *ifile = input_files[file_index];
3392     AVFormatContext *is;
3393     InputStream *ist;
3394     AVPacket pkt;
3395     int ret, i, j;
3396
3397     is  = ifile->ctx;
3398     ret = get_input_packet(ifile, &pkt);
3399
3400     if (ret == AVERROR(EAGAIN)) {
3401         ifile->eagain = 1;
3402         return ret;
3403     }
3404     if (ret < 0) {
3405         if (ret != AVERROR_EOF) {
3406             print_error(is->filename, ret);
3407             if (exit_on_error)
3408                 exit_program(1);
3409         }
3410
3411         for (i = 0; i < ifile->nb_streams; i++) {
3412             ist = input_streams[ifile->ist_index + i];
3413             if (ist->decoding_needed) {
3414                 ret = process_input_packet(ist, NULL);
3415                 if (ret>0)
3416                     return 0;
3417             }
3418
3419             /* mark all outputs that don't go through lavfi as finished */
3420             for (j = 0; j < nb_output_streams; j++) {
3421                 OutputStream *ost = output_streams[j];
3422
3423                 if (ost->source_index == ifile->ist_index + i &&
3424                     (ost->stream_copy || ost->enc->type == AVMEDIA_TYPE_SUBTITLE))
3425                     finish_output_stream(ost);
3426             }
3427         }
3428
3429         ifile->eof_reached = 1;
3430         return AVERROR(EAGAIN);
3431     }
3432
3433     reset_eagain();
3434
3435     if (do_pkt_dump) {
3436         av_pkt_dump_log2(NULL, AV_LOG_DEBUG, &pkt, do_hex_dump,
3437                          is->streams[pkt.stream_index]);
3438     }
3439     /* the following test is needed in case new streams appear
3440        dynamically in stream : we ignore them */
3441     if (pkt.stream_index >= ifile->nb_streams) {
3442         report_new_stream(file_index, &pkt);
3443         goto discard_packet;
3444     }
3445
3446     ist = input_streams[ifile->ist_index + pkt.stream_index];
3447
3448     ist->data_size += pkt.size;
3449     ist->nb_packets++;
3450
3451     if (ist->discard)
3452         goto discard_packet;
3453
3454     if (debug_ts) {
3455         av_log(NULL, AV_LOG_INFO, "demuxer -> ist_index:%d type:%s "
3456                "next_dts:%s next_dts_time:%s next_pts:%s next_pts_time:%s pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s off:%s off_time:%s\n",
3457                ifile->ist_index + pkt.stream_index, av_get_media_type_string(ist->dec_ctx->codec_type),
3458                av_ts2str(ist->next_dts), av_ts2timestr(ist->next_dts, &AV_TIME_BASE_Q),
3459                av_ts2str(ist->next_pts), av_ts2timestr(ist->next_pts, &AV_TIME_BASE_Q),
3460                av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ist->st->time_base),
3461                av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ist->st->time_base),
3462                av_ts2str(input_files[ist->file_index]->ts_offset),
3463                av_ts2timestr(input_files[ist->file_index]->ts_offset, &AV_TIME_BASE_Q));
3464     }
3465
3466     if(!ist->wrap_correction_done && is->start_time != AV_NOPTS_VALUE && ist->st->pts_wrap_bits < 64){
3467         int64_t stime, stime2;
3468         // Correcting starttime based on the enabled streams
3469         // FIXME this ideally should be done before the first use of starttime but we do not know which are the enabled streams at that point.
3470         //       so we instead do it here as part of discontinuity handling
3471         if (   ist->next_dts == AV_NOPTS_VALUE
3472             && ifile->ts_offset == -is->start_time
3473             && (is->iformat->flags & AVFMT_TS_DISCONT)) {
3474             int64_t new_start_time = INT64_MAX;
3475             for (i=0; i<is->nb_streams; i++) {
3476                 AVStream *st = is->streams[i];
3477                 if(st->discard == AVDISCARD_ALL || st->start_time == AV_NOPTS_VALUE)
3478                     continue;
3479                 new_start_time = FFMIN(new_start_time, av_rescale_q(st->start_time, st->time_base, AV_TIME_BASE_Q));
3480             }
3481             if (new_start_time > is->start_time) {
3482                 av_log(is, AV_LOG_VERBOSE, "Correcting start time by %"PRId64"\n", new_start_time - is->start_time);
3483                 ifile->ts_offset = -new_start_time;
3484             }
3485         }
3486
3487         stime = av_rescale_q(is->start_time, AV_TIME_BASE_Q, ist->st->time_base);
3488         stime2= stime + (1ULL<<ist->st->pts_wrap_bits);
3489         ist->wrap_correction_done = 1;
3490
3491         if(stime2 > stime && pkt.dts != AV_NOPTS_VALUE && pkt.dts > stime + (1LL<<(ist->st->pts_wrap_bits-1))) {
3492             pkt.dts -= 1ULL<<ist->st->pts_wrap_bits;
3493             ist->wrap_correction_done = 0;
3494         }
3495         if(stime2 > stime && pkt.pts != AV_NOPTS_VALUE && pkt.pts > stime + (1LL<<(ist->st->pts_wrap_bits-1))) {
3496             pkt.pts -= 1ULL<<ist->st->pts_wrap_bits;
3497             ist->wrap_correction_done = 0;
3498         }
3499     }
3500
3501     /* add the stream-global side data to the first packet */
3502     if (ist->nb_packets == 1) {
3503         if (ist->st->nb_side_data)
3504             av_packet_split_side_data(&pkt);
3505         for (i = 0; i < ist->st->nb_side_data; i++) {
3506             AVPacketSideData *src_sd = &ist->st->side_data[i];
3507             uint8_t *dst_data;
3508
3509             if (av_packet_get_side_data(&pkt, src_sd->type, NULL))
3510                 continue;
3511
3512             dst_data = av_packet_new_side_data(&pkt, src_sd->type, src_sd->size);
3513             if (!dst_data)
3514                 exit_program(1);
3515
3516             memcpy(dst_data, src_sd->data, src_sd->size);
3517         }
3518     }
3519
3520     if (pkt.dts != AV_NOPTS_VALUE)
3521         pkt.dts += av_rescale_q(ifile->ts_offset, AV_TIME_BASE_Q, ist->st->time_base);
3522     if (pkt.pts != AV_NOPTS_VALUE)
3523         pkt.pts += av_rescale_q(ifile->ts_offset, AV_TIME_BASE_Q, ist->st->time_base);
3524
3525     if (pkt.pts != AV_NOPTS_VALUE)
3526         pkt.pts *= ist->ts_scale;
3527     if (pkt.dts != AV_NOPTS_VALUE)
3528         pkt.dts *= ist->ts_scale;
3529
3530     if ((ist->dec_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
3531          ist->dec_ctx->codec_type == AVMEDIA_TYPE_AUDIO) &&
3532         pkt.dts != AV_NOPTS_VALUE && ist->next_dts == AV_NOPTS_VALUE && !copy_ts
3533         && (is->iformat->flags & AVFMT_TS_DISCONT) && ifile->last_ts != AV_NOPTS_VALUE) {
3534         int64_t pkt_dts = av_rescale_q(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q);
3535         int64_t delta   = pkt_dts - ifile->last_ts;
3536         if (delta < -1LL*dts_delta_threshold*AV_TIME_BASE ||
3537             delta >  1LL*dts_delta_threshold*AV_TIME_BASE){
3538             ifile->ts_offset -= delta;
3539             av_log(NULL, AV_LOG_DEBUG,
3540                    "Inter stream timestamp discontinuity %"PRId64", new offset= %"PRId64"\n",
3541                    delta, ifile->ts_offset);
3542             pkt.dts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
3543             if (pkt.pts != AV_NOPTS_VALUE)
3544                 pkt.pts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
3545         }
3546     }
3547
3548     if ((ist->dec_ctx->codec_type == AVMEDIA_TYPE_VIDEO ||
3549          ist->dec_ctx->codec_type == AVMEDIA_TYPE_AUDIO) &&
3550          pkt.dts != AV_NOPTS_VALUE && ist->next_dts != AV_NOPTS_VALUE &&
3551         !copy_ts) {
3552         int64_t pkt_dts = av_rescale_q(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q);
3553         int64_t delta   = pkt_dts - ist->next_dts;
3554         if (is->iformat->flags & AVFMT_TS_DISCONT) {
3555             if (delta < -1LL*dts_delta_threshold*AV_TIME_BASE ||
3556                 delta >  1LL*dts_delta_threshold*AV_TIME_BASE ||
3557                 pkt_dts + AV_TIME_BASE/10 < FFMAX(ist->pts, ist->dts)) {
3558                 ifile->ts_offset -= delta;
3559                 av_log(NULL, AV_LOG_DEBUG,
3560                        "timestamp discontinuity %"PRId64", new offset= %"PRId64"\n",
3561                        delta, ifile->ts_offset);
3562                 pkt.dts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
3563                 if (pkt.pts != AV_NOPTS_VALUE)
3564                     pkt.pts -= av_rescale_q(delta, AV_TIME_BASE_Q, ist->st->time_base);
3565             }
3566         } else {
3567             if ( delta < -1LL*dts_error_threshold*AV_TIME_BASE ||
3568                  delta >  1LL*dts_error_threshold*AV_TIME_BASE) {
3569                 av_log(NULL, AV_LOG_WARNING, "DTS %"PRId64", next:%"PRId64" st:%d invalid dropping\n", pkt.dts, ist->next_dts, pkt.stream_index);
3570                 pkt.dts = AV_NOPTS_VALUE;
3571             }
3572             if (pkt.pts != AV_NOPTS_VALUE){
3573                 int64_t pkt_pts = av_rescale_q(pkt.pts, ist->st->time_base, AV_TIME_BASE_Q);
3574                 delta   = pkt_pts - ist->next_dts;
3575                 if ( delta < -1LL*dts_error_threshold*AV_TIME_BASE ||
3576                      delta >  1LL*dts_error_threshold*AV_TIME_BASE) {
3577                     av_log(NULL, AV_LOG_WARNING, "PTS %"PRId64", next:%"PRId64" invalid dropping st:%d\n", pkt.pts, ist->next_dts, pkt.stream_index);
3578                     pkt.pts = AV_NOPTS_VALUE;
3579                 }
3580             }
3581         }
3582     }
3583
3584     if (pkt.dts != AV_NOPTS_VALUE)
3585         ifile->last_ts = av_rescale_q(pkt.dts, ist->st->time_base, AV_TIME_BASE_Q);
3586
3587     if (debug_ts) {
3588         av_log(NULL, AV_LOG_INFO, "demuxer+ffmpeg -> ist_index:%d type:%s pkt_pts:%s pkt_pts_time:%s pkt_dts:%s pkt_dts_time:%s off:%s off_time:%s\n",
3589                ifile->ist_index + pkt.stream_index, av_get_media_type_string(ist->dec_ctx->codec_type),
3590                av_ts2str(pkt.pts), av_ts2timestr(pkt.pts, &ist->st->time_base),
3591                av_ts2str(pkt.dts), av_ts2timestr(pkt.dts, &ist->st->time_base),
3592                av_ts2str(input_files[ist->file_index]->ts_offset),
3593                av_ts2timestr(input_files[ist->file_index]->ts_offset, &AV_TIME_BASE_Q));
3594     }
3595
3596     sub2video_heartbeat(ist, pkt.pts);
3597
3598     ret = process_input_packet(ist, &pkt);
3599     if (ret < 0) {
3600         av_log(NULL, AV_LOG_ERROR, "Error while decoding stream #%d:%d: %s\n",
3601                ist->file_index, ist->st->index, av_err2str(ret));
3602         if (exit_on_error)
3603             exit_program(1);
3604     }
3605
3606 discard_packet:
3607     av_free_packet(&pkt);
3608
3609     return 0;
3610 }
3611
3612 /**
3613  * Perform a step of transcoding for the specified filter graph.
3614  *
3615  * @param[in]  graph     filter graph to consider
3616  * @param[out] best_ist  input stream where a frame would allow to continue
3617  * @return  0 for success, <0 for error
3618  */
3619 static int transcode_from_filter(FilterGraph *graph, InputStream **best_ist)
3620 {
3621     int i, ret;
3622     int nb_requests, nb_requests_max = 0;
3623     InputFilter *ifilter;
3624     InputStream *ist;
3625
3626     *best_ist = NULL;
3627     ret = avfilter_graph_request_oldest(graph->graph);
3628     if (ret >= 0)
3629         return reap_filters();
3630
3631     if (ret == AVERROR_EOF) {
3632         ret = reap_filters();
3633         for (i = 0; i < graph->nb_outputs; i++)
3634             close_output_stream(graph->outputs[i]->ost);
3635         return ret;
3636     }
3637     if (ret != AVERROR(EAGAIN))
3638         return ret;
3639
3640     for (i = 0; i < graph->nb_inputs; i++) {
3641         ifilter = graph->inputs[i];
3642         ist = ifilter->ist;
3643         if (input_files[ist->file_index]->eagain ||
3644             input_files[ist->file_index]->eof_reached)
3645             continue;
3646         nb_requests = av_buffersrc_get_nb_failed_requests(ifilter->filter);
3647         if (nb_requests > nb_requests_max) {
3648             nb_requests_max = nb_requests;
3649             *best_ist = ist;
3650         }
3651     }
3652
3653     if (!*best_ist)
3654         for (i = 0; i < graph->nb_outputs; i++)
3655             graph->outputs[i]->ost->unavailable = 1;
3656
3657     return 0;
3658 }
3659
3660 /**
3661  * Run a single step of transcoding.
3662  *
3663  * @return  0 for success, <0 for error
3664  */
3665 static int transcode_step(void)
3666 {
3667     OutputStream *ost;
3668     InputStream  *ist;
3669     int ret;
3670
3671     ost = choose_output();
3672     if (!ost) {
3673         if (got_eagain()) {
3674             reset_eagain();
3675             av_usleep(10000);
3676             return 0;
3677         }
3678         av_log(NULL, AV_LOG_VERBOSE, "No more inputs to read from, finishing.\n");
3679         return AVERROR_EOF;
3680     }
3681
3682     if (ost->filter) {
3683         if ((ret = transcode_from_filter(ost->filter->graph, &ist)) < 0)
3684             return ret;
3685         if (!ist)
3686             return 0;
3687     } else {
3688         av_assert0(ost->source_index >= 0);
3689         ist = input_streams[ost->source_index];
3690     }
3691
3692     ret = process_input(ist->file_index);
3693     if (ret == AVERROR(EAGAIN)) {
3694         if (input_files[ist->file_index]->eagain)
3695             ost->unavailable = 1;
3696         return 0;
3697     }
3698     if (ret < 0)
3699         return ret == AVERROR_EOF ? 0 : ret;
3700
3701     return reap_filters();
3702 }
3703
3704 /*
3705  * The following code is the main loop of the file converter
3706  */
3707 static int transcode(void)
3708 {
3709     int ret, i;
3710     AVFormatContext *os;
3711     OutputStream *ost;
3712     InputStream *ist;
3713     int64_t timer_start;
3714
3715     ret = transcode_init();
3716     if (ret < 0)
3717         goto fail;
3718
3719     if (stdin_interaction) {
3720         av_log(NULL, AV_LOG_INFO, "Press [q] to stop, [?] for help\n");
3721     }
3722
3723     timer_start = av_gettime_relative();
3724
3725 #if HAVE_PTHREADS
3726     if ((ret = init_input_threads()) < 0)
3727         goto fail;
3728 #endif
3729
3730     while (!received_sigterm) {
3731         int64_t cur_time= av_gettime_relative();
3732
3733         /* if 'q' pressed, exits */
3734         if (stdin_interaction)
3735             if (check_keyboard_interaction(cur_time) < 0)
3736                 break;
3737
3738         /* check if there's any stream where output is still needed */
3739         if (!need_output()) {
3740             av_log(NULL, AV_LOG_VERBOSE, "No more output streams to write to, finishing.\n");
3741             break;
3742         }
3743
3744         ret = transcode_step();
3745         if (ret < 0) {
3746             if (ret == AVERROR_EOF || ret == AVERROR(EAGAIN))
3747                 continue;
3748
3749             av_log(NULL, AV_LOG_ERROR, "Error while filtering.\n");
3750             break;
3751         }
3752
3753         /* dump report by using the output first video and audio streams */
3754         print_report(0, timer_start, cur_time);
3755     }
3756 #if HAVE_PTHREADS
3757     free_input_threads();
3758 #endif
3759
3760     /* at the end of stream, we must flush the decoder buffers */
3761     for (i = 0; i < nb_input_streams; i++) {
3762         ist = input_streams[i];
3763         if (!input_files[ist->file_index]->eof_reached && ist->decoding_needed) {
3764             process_input_packet(ist, NULL);
3765         }
3766     }
3767     flush_encoders();
3768
3769     term_exit();
3770
3771     /* write the trailer if needed and close file */
3772     for (i = 0; i < nb_output_files; i++) {
3773         os = output_files[i]->ctx;
3774         av_write_trailer(os);
3775     }
3776
3777     /* dump report by using the first video and audio streams */
3778     print_report(1, timer_start, av_gettime_relative());
3779
3780     /* close each encoder */
3781     for (i = 0; i < nb_output_streams; i++) {
3782         ost = output_streams[i];
3783         if (ost->encoding_needed) {
3784             av_freep(&ost->enc_ctx->stats_in);
3785         }
3786     }
3787
3788     /* close each decoder */
3789     for (i = 0; i < nb_input_streams; i++) {
3790         ist = input_streams[i];
3791         if (ist->decoding_needed) {
3792             avcodec_close(ist->dec_ctx);
3793             if (ist->hwaccel_uninit)
3794                 ist->hwaccel_uninit(ist->dec_ctx);
3795         }
3796     }
3797
3798     /* finished ! */
3799     ret = 0;
3800
3801  fail:
3802 #if HAVE_PTHREADS
3803     free_input_threads();
3804 #endif
3805
3806     if (output_streams) {
3807         for (i = 0; i < nb_output_streams; i++) {
3808             ost = output_streams[i];
3809             if (ost) {
3810                 if (ost->logfile) {
3811                     fclose(ost->logfile);
3812                     ost->logfile = NULL;
3813                 }
3814                 av_freep(&ost->forced_kf_pts);
3815                 av_freep(&ost->apad);
3816                 av_dict_free(&ost->encoder_opts);
3817                 av_dict_free(&ost->swr_opts);
3818                 av_dict_free(&ost->resample_opts);
3819             }
3820         }
3821     }
3822     return ret;
3823 }
3824
3825
3826 static int64_t getutime(void)
3827 {
3828 #if HAVE_GETRUSAGE
3829     struct rusage rusage;
3830
3831     getrusage(RUSAGE_SELF, &rusage);
3832     return (rusage.ru_utime.tv_sec * 1000000LL) + rusage.ru_utime.tv_usec;
3833 #elif HAVE_GETPROCESSTIMES
3834     HANDLE proc;
3835     FILETIME c, e, k, u;
3836     proc = GetCurrentProcess();
3837     GetProcessTimes(proc, &c, &e, &k, &u);
3838     return ((int64_t) u.dwHighDateTime << 32 | u.dwLowDateTime) / 10;
3839 #else
3840     return av_gettime_relative();
3841 #endif
3842 }
3843
3844 static int64_t getmaxrss(void)
3845 {
3846 #if HAVE_GETRUSAGE && HAVE_STRUCT_RUSAGE_RU_MAXRSS
3847     struct rusage rusage;
3848     getrusage(RUSAGE_SELF, &rusage);
3849     return (int64_t)rusage.ru_maxrss * 1024;
3850 #elif HAVE_GETPROCESSMEMORYINFO
3851     HANDLE proc;
3852     PROCESS_MEMORY_COUNTERS memcounters;
3853     proc = GetCurrentProcess();
3854     memcounters.cb = sizeof(memcounters);
3855     GetProcessMemoryInfo(proc, &memcounters, sizeof(memcounters));
3856     return memcounters.PeakPagefileUsage;
3857 #else
3858     return 0;
3859 #endif
3860 }
3861
3862 static void log_callback_null(void *ptr, int level, const char *fmt, va_list vl)
3863 {
3864 }
3865
3866 int main(int argc, char **argv)
3867 {
3868     int ret;
3869     int64_t ti;
3870
3871     register_exit(ffmpeg_cleanup);
3872
3873     setvbuf(stderr,NULL,_IONBF,0); /* win32 runtime needs this */
3874
3875     av_log_set_flags(AV_LOG_SKIP_REPEATED);
3876     parse_loglevel(argc, argv, options);
3877
3878     if(argc>1 && !strcmp(argv[1], "-d")){
3879         run_as_daemon=1;
3880         av_log_set_callback(log_callback_null);
3881         argc--;
3882         argv++;
3883     }
3884
3885     avcodec_register_all();
3886 #if CONFIG_AVDEVICE
3887     avdevice_register_all();
3888 #endif
3889     avfilter_register_all();
3890     av_register_all();
3891     avformat_network_init();
3892
3893     show_banner(argc, argv, options);
3894
3895     term_init();
3896
3897     /* parse options and open all input/output files */
3898     ret = ffmpeg_parse_options(argc, argv);
3899     if (ret < 0)
3900         exit_program(1);
3901
3902     if (nb_output_files <= 0 && nb_input_files == 0) {
3903         show_usage();
3904         av_log(NULL, AV_LOG_WARNING, "Use -h to get full help or, even better, run 'man %s'\n", program_name);
3905         exit_program(1);
3906     }
3907
3908     /* file converter / grab */
3909     if (nb_output_files <= 0) {
3910         av_log(NULL, AV_LOG_FATAL, "At least one output file must be specified\n");
3911         exit_program(1);
3912     }
3913
3914 //     if (nb_input_files == 0) {
3915 //         av_log(NULL, AV_LOG_FATAL, "At least one input file must be specified\n");
3916 //         exit_program(1);
3917 //     }
3918
3919     current_time = ti = getutime();
3920     if (transcode() < 0)
3921         exit_program(1);
3922     ti = getutime() - ti;
3923     if (do_benchmark) {
3924         printf("bench: utime=%0.3fs\n", ti / 1000000.0);
3925     }
3926     av_log(NULL, AV_LOG_DEBUG, "%"PRIu64" frames successfully decoded, %"PRIu64" decoding errors\n",
3927            decode_error_stat[0], decode_error_stat[1]);
3928     if ((decode_error_stat[0] + decode_error_stat[1]) * max_error_rate < decode_error_stat[1])
3929         exit_program(69);
3930
3931     exit_program(received_nb_signals ? 255 : main_return_code);
3932     return main_return_code;
3933 }