Merge commit '07a844f32ebb78503981df017fa3ebfedb75fe1c'
[ffmpeg.git] / libavfilter / avfilter.c
1 /*
2  * filter layer
3  * Copyright (c) 2007 Bobby Bingham
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/atomic.h"
23 #include "libavutil/avassert.h"
24 #include "libavutil/avstring.h"
25 #include "libavutil/buffer.h"
26 #include "libavutil/channel_layout.h"
27 #include "libavutil/common.h"
28 #include "libavutil/eval.h"
29 #include "libavutil/hwcontext.h"
30 #include "libavutil/imgutils.h"
31 #include "libavutil/internal.h"
32 #include "libavutil/opt.h"
33 #include "libavutil/pixdesc.h"
34 #include "libavutil/rational.h"
35 #include "libavutil/samplefmt.h"
36
37 #include "audio.h"
38 #include "avfilter.h"
39 #include "formats.h"
40 #include "internal.h"
41
42 #include "libavutil/ffversion.h"
43 const char av_filter_ffversion[] = "FFmpeg version " FFMPEG_VERSION;
44
45 static int ff_filter_frame_framed(AVFilterLink *link, AVFrame *frame);
46
47 void ff_tlog_ref(void *ctx, AVFrame *ref, int end)
48 {
49     av_unused char buf[16];
50     ff_tlog(ctx,
51             "ref[%p buf:%p data:%p linesize[%d, %d, %d, %d] pts:%"PRId64" pos:%"PRId64,
52             ref, ref->buf, ref->data[0],
53             ref->linesize[0], ref->linesize[1], ref->linesize[2], ref->linesize[3],
54             ref->pts, av_frame_get_pkt_pos(ref));
55
56     if (ref->width) {
57         ff_tlog(ctx, " a:%d/%d s:%dx%d i:%c iskey:%d type:%c",
58                 ref->sample_aspect_ratio.num, ref->sample_aspect_ratio.den,
59                 ref->width, ref->height,
60                 !ref->interlaced_frame     ? 'P' :         /* Progressive  */
61                 ref->top_field_first ? 'T' : 'B',    /* Top / Bottom */
62                 ref->key_frame,
63                 av_get_picture_type_char(ref->pict_type));
64     }
65     if (ref->nb_samples) {
66         ff_tlog(ctx, " cl:%"PRId64"d n:%d r:%d",
67                 ref->channel_layout,
68                 ref->nb_samples,
69                 ref->sample_rate);
70     }
71
72     ff_tlog(ctx, "]%s", end ? "\n" : "");
73 }
74
75 unsigned avfilter_version(void)
76 {
77     av_assert0(LIBAVFILTER_VERSION_MICRO >= 100);
78     return LIBAVFILTER_VERSION_INT;
79 }
80
81 const char *avfilter_configuration(void)
82 {
83     return FFMPEG_CONFIGURATION;
84 }
85
86 const char *avfilter_license(void)
87 {
88 #define LICENSE_PREFIX "libavfilter license: "
89     return LICENSE_PREFIX FFMPEG_LICENSE + sizeof(LICENSE_PREFIX) - 1;
90 }
91
92 void ff_command_queue_pop(AVFilterContext *filter)
93 {
94     AVFilterCommand *c= filter->command_queue;
95     av_freep(&c->arg);
96     av_freep(&c->command);
97     filter->command_queue= c->next;
98     av_free(c);
99 }
100
101 int ff_insert_pad(unsigned idx, unsigned *count, size_t padidx_off,
102                    AVFilterPad **pads, AVFilterLink ***links,
103                    AVFilterPad *newpad)
104 {
105     AVFilterLink **newlinks;
106     AVFilterPad *newpads;
107     unsigned i;
108
109     idx = FFMIN(idx, *count);
110
111     newpads  = av_realloc_array(*pads,  *count + 1, sizeof(AVFilterPad));
112     newlinks = av_realloc_array(*links, *count + 1, sizeof(AVFilterLink*));
113     if (newpads)
114         *pads  = newpads;
115     if (newlinks)
116         *links = newlinks;
117     if (!newpads || !newlinks)
118         return AVERROR(ENOMEM);
119
120     memmove(*pads  + idx + 1, *pads  + idx, sizeof(AVFilterPad)   * (*count - idx));
121     memmove(*links + idx + 1, *links + idx, sizeof(AVFilterLink*) * (*count - idx));
122     memcpy(*pads + idx, newpad, sizeof(AVFilterPad));
123     (*links)[idx] = NULL;
124
125     (*count)++;
126     for (i = idx + 1; i < *count; i++)
127         if ((*links)[i])
128             (*(unsigned *)((uint8_t *) (*links)[i] + padidx_off))++;
129
130     return 0;
131 }
132
133 int avfilter_link(AVFilterContext *src, unsigned srcpad,
134                   AVFilterContext *dst, unsigned dstpad)
135 {
136     AVFilterLink *link;
137
138     if (src->nb_outputs <= srcpad || dst->nb_inputs <= dstpad ||
139         src->outputs[srcpad]      || dst->inputs[dstpad])
140         return AVERROR(EINVAL);
141
142     if (src->output_pads[srcpad].type != dst->input_pads[dstpad].type) {
143         av_log(src, AV_LOG_ERROR,
144                "Media type mismatch between the '%s' filter output pad %d (%s) and the '%s' filter input pad %d (%s)\n",
145                src->name, srcpad, (char *)av_x_if_null(av_get_media_type_string(src->output_pads[srcpad].type), "?"),
146                dst->name, dstpad, (char *)av_x_if_null(av_get_media_type_string(dst-> input_pads[dstpad].type), "?"));
147         return AVERROR(EINVAL);
148     }
149
150     link = av_mallocz(sizeof(*link));
151     if (!link)
152         return AVERROR(ENOMEM);
153
154     src->outputs[srcpad] = dst->inputs[dstpad] = link;
155
156     link->src     = src;
157     link->dst     = dst;
158     link->srcpad  = &src->output_pads[srcpad];
159     link->dstpad  = &dst->input_pads[dstpad];
160     link->type    = src->output_pads[srcpad].type;
161     av_assert0(AV_PIX_FMT_NONE == -1 && AV_SAMPLE_FMT_NONE == -1);
162     link->format  = -1;
163
164     return 0;
165 }
166
167 void avfilter_link_free(AVFilterLink **link)
168 {
169     if (!*link)
170         return;
171
172     av_frame_free(&(*link)->partial_buf);
173     ff_video_frame_pool_uninit((FFVideoFramePool**)&(*link)->video_frame_pool);
174
175     av_freep(link);
176 }
177
178 int avfilter_link_get_channels(AVFilterLink *link)
179 {
180     return link->channels;
181 }
182
183 void ff_avfilter_link_set_in_status(AVFilterLink *link, int status, int64_t pts)
184 {
185     ff_avfilter_link_set_out_status(link, status, pts);
186 }
187
188 void ff_avfilter_link_set_out_status(AVFilterLink *link, int status, int64_t pts)
189 {
190     link->status = status;
191     link->frame_wanted_in = link->frame_wanted_out = 0;
192     ff_update_link_current_pts(link, pts);
193 }
194
195 void avfilter_link_set_closed(AVFilterLink *link, int closed)
196 {
197     ff_avfilter_link_set_out_status(link, closed ? AVERROR_EOF : 0, AV_NOPTS_VALUE);
198 }
199
200 int avfilter_insert_filter(AVFilterLink *link, AVFilterContext *filt,
201                            unsigned filt_srcpad_idx, unsigned filt_dstpad_idx)
202 {
203     int ret;
204     unsigned dstpad_idx = link->dstpad - link->dst->input_pads;
205
206     av_log(link->dst, AV_LOG_VERBOSE, "auto-inserting filter '%s' "
207            "between the filter '%s' and the filter '%s'\n",
208            filt->name, link->src->name, link->dst->name);
209
210     link->dst->inputs[dstpad_idx] = NULL;
211     if ((ret = avfilter_link(filt, filt_dstpad_idx, link->dst, dstpad_idx)) < 0) {
212         /* failed to link output filter to new filter */
213         link->dst->inputs[dstpad_idx] = link;
214         return ret;
215     }
216
217     /* re-hookup the link to the new destination filter we inserted */
218     link->dst                     = filt;
219     link->dstpad                  = &filt->input_pads[filt_srcpad_idx];
220     filt->inputs[filt_srcpad_idx] = link;
221
222     /* if any information on supported media formats already exists on the
223      * link, we need to preserve that */
224     if (link->out_formats)
225         ff_formats_changeref(&link->out_formats,
226                              &filt->outputs[filt_dstpad_idx]->out_formats);
227     if (link->out_samplerates)
228         ff_formats_changeref(&link->out_samplerates,
229                              &filt->outputs[filt_dstpad_idx]->out_samplerates);
230     if (link->out_channel_layouts)
231         ff_channel_layouts_changeref(&link->out_channel_layouts,
232                                      &filt->outputs[filt_dstpad_idx]->out_channel_layouts);
233
234     return 0;
235 }
236
237 int avfilter_config_links(AVFilterContext *filter)
238 {
239     int (*config_link)(AVFilterLink *);
240     unsigned i;
241     int ret;
242
243     for (i = 0; i < filter->nb_inputs; i ++) {
244         AVFilterLink *link = filter->inputs[i];
245         AVFilterLink *inlink;
246
247         if (!link) continue;
248         if (!link->src || !link->dst) {
249             av_log(filter, AV_LOG_ERROR,
250                    "Not all input and output are properly linked (%d).\n", i);
251             return AVERROR(EINVAL);
252         }
253
254         inlink = link->src->nb_inputs ? link->src->inputs[0] : NULL;
255         link->current_pts =
256         link->current_pts_us = AV_NOPTS_VALUE;
257
258         switch (link->init_state) {
259         case AVLINK_INIT:
260             continue;
261         case AVLINK_STARTINIT:
262             av_log(filter, AV_LOG_INFO, "circular filter chain detected\n");
263             return 0;
264         case AVLINK_UNINIT:
265             link->init_state = AVLINK_STARTINIT;
266
267             if ((ret = avfilter_config_links(link->src)) < 0)
268                 return ret;
269
270             if (!(config_link = link->srcpad->config_props)) {
271                 if (link->src->nb_inputs != 1) {
272                     av_log(link->src, AV_LOG_ERROR, "Source filters and filters "
273                                                     "with more than one input "
274                                                     "must set config_props() "
275                                                     "callbacks on all outputs\n");
276                     return AVERROR(EINVAL);
277                 }
278             } else if ((ret = config_link(link)) < 0) {
279                 av_log(link->src, AV_LOG_ERROR,
280                        "Failed to configure output pad on %s\n",
281                        link->src->name);
282                 return ret;
283             }
284
285             switch (link->type) {
286             case AVMEDIA_TYPE_VIDEO:
287                 if (!link->time_base.num && !link->time_base.den)
288                     link->time_base = inlink ? inlink->time_base : AV_TIME_BASE_Q;
289
290                 if (!link->sample_aspect_ratio.num && !link->sample_aspect_ratio.den)
291                     link->sample_aspect_ratio = inlink ?
292                         inlink->sample_aspect_ratio : (AVRational){1,1};
293
294                 if (inlink) {
295                     if (!link->frame_rate.num && !link->frame_rate.den)
296                         link->frame_rate = inlink->frame_rate;
297                     if (!link->w)
298                         link->w = inlink->w;
299                     if (!link->h)
300                         link->h = inlink->h;
301                 } else if (!link->w || !link->h) {
302                     av_log(link->src, AV_LOG_ERROR,
303                            "Video source filters must set their output link's "
304                            "width and height\n");
305                     return AVERROR(EINVAL);
306                 }
307                 break;
308
309             case AVMEDIA_TYPE_AUDIO:
310                 if (inlink) {
311                     if (!link->time_base.num && !link->time_base.den)
312                         link->time_base = inlink->time_base;
313                 }
314
315                 if (!link->time_base.num && !link->time_base.den)
316                     link->time_base = (AVRational) {1, link->sample_rate};
317             }
318
319             if ((config_link = link->dstpad->config_props))
320                 if ((ret = config_link(link)) < 0) {
321                     av_log(link->dst, AV_LOG_ERROR,
322                            "Failed to configure input pad on %s\n",
323                            link->dst->name);
324                     return ret;
325                 }
326
327             if (link->src->nb_inputs && link->src->inputs[0]->hw_frames_ctx &&
328                 !link->hw_frames_ctx) {
329                 AVHWFramesContext *input_ctx = (AVHWFramesContext*)link->src->inputs[0]->hw_frames_ctx->data;
330
331                 if (input_ctx->format == link->format) {
332                     link->hw_frames_ctx = av_buffer_ref(link->src->inputs[0]->hw_frames_ctx);
333                     if (!link->hw_frames_ctx)
334                         return AVERROR(ENOMEM);
335                 }
336             }
337
338             link->init_state = AVLINK_INIT;
339         }
340     }
341
342     return 0;
343 }
344
345 void ff_tlog_link(void *ctx, AVFilterLink *link, int end)
346 {
347     if (link->type == AVMEDIA_TYPE_VIDEO) {
348         ff_tlog(ctx,
349                 "link[%p s:%dx%d fmt:%s %s->%s]%s",
350                 link, link->w, link->h,
351                 av_get_pix_fmt_name(link->format),
352                 link->src ? link->src->filter->name : "",
353                 link->dst ? link->dst->filter->name : "",
354                 end ? "\n" : "");
355     } else {
356         char buf[128];
357         av_get_channel_layout_string(buf, sizeof(buf), -1, link->channel_layout);
358
359         ff_tlog(ctx,
360                 "link[%p r:%d cl:%s fmt:%s %s->%s]%s",
361                 link, (int)link->sample_rate, buf,
362                 av_get_sample_fmt_name(link->format),
363                 link->src ? link->src->filter->name : "",
364                 link->dst ? link->dst->filter->name : "",
365                 end ? "\n" : "");
366     }
367 }
368
369 int ff_request_frame(AVFilterLink *link)
370 {
371     FF_TPRINTF_START(NULL, request_frame); ff_tlog_link(NULL, link, 1);
372
373     if (link->status)
374         return link->status;
375     link->frame_wanted_in = 1;
376     link->frame_wanted_out = 1;
377     return 0;
378 }
379
380 int ff_request_frame_to_filter(AVFilterLink *link)
381 {
382     int ret = -1;
383
384     FF_TPRINTF_START(NULL, request_frame_to_filter); ff_tlog_link(NULL, link, 1);
385     link->frame_wanted_in = 0;
386     if (link->srcpad->request_frame)
387         ret = link->srcpad->request_frame(link);
388     else if (link->src->inputs[0])
389         ret = ff_request_frame(link->src->inputs[0]);
390     if (ret == AVERROR_EOF && link->partial_buf) {
391         AVFrame *pbuf = link->partial_buf;
392         link->partial_buf = NULL;
393         ret = ff_filter_frame_framed(link, pbuf);
394         ff_avfilter_link_set_in_status(link, AVERROR_EOF, AV_NOPTS_VALUE);
395         link->frame_wanted_out = 0;
396         return ret;
397     }
398     if (ret < 0) {
399         if (ret != AVERROR(EAGAIN) && ret != link->status)
400             ff_avfilter_link_set_in_status(link, ret, AV_NOPTS_VALUE);
401     }
402     return ret;
403 }
404
405 int ff_poll_frame(AVFilterLink *link)
406 {
407     int i, min = INT_MAX;
408
409     if (link->srcpad->poll_frame)
410         return link->srcpad->poll_frame(link);
411
412     for (i = 0; i < link->src->nb_inputs; i++) {
413         int val;
414         if (!link->src->inputs[i])
415             return AVERROR(EINVAL);
416         val = ff_poll_frame(link->src->inputs[i]);
417         min = FFMIN(min, val);
418     }
419
420     return min;
421 }
422
423 static const char *const var_names[] = {
424     "t",
425     "n",
426     "pos",
427     "w",
428     "h",
429     NULL
430 };
431
432 enum {
433     VAR_T,
434     VAR_N,
435     VAR_POS,
436     VAR_W,
437     VAR_H,
438     VAR_VARS_NB
439 };
440
441 static int set_enable_expr(AVFilterContext *ctx, const char *expr)
442 {
443     int ret;
444     char *expr_dup;
445     AVExpr *old = ctx->enable;
446
447     if (!(ctx->filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE)) {
448         av_log(ctx, AV_LOG_ERROR, "Timeline ('enable' option) not supported "
449                "with filter '%s'\n", ctx->filter->name);
450         return AVERROR_PATCHWELCOME;
451     }
452
453     expr_dup = av_strdup(expr);
454     if (!expr_dup)
455         return AVERROR(ENOMEM);
456
457     if (!ctx->var_values) {
458         ctx->var_values = av_calloc(VAR_VARS_NB, sizeof(*ctx->var_values));
459         if (!ctx->var_values) {
460             av_free(expr_dup);
461             return AVERROR(ENOMEM);
462         }
463     }
464
465     ret = av_expr_parse((AVExpr**)&ctx->enable, expr_dup, var_names,
466                         NULL, NULL, NULL, NULL, 0, ctx->priv);
467     if (ret < 0) {
468         av_log(ctx->priv, AV_LOG_ERROR,
469                "Error when evaluating the expression '%s' for enable\n",
470                expr_dup);
471         av_free(expr_dup);
472         return ret;
473     }
474
475     av_expr_free(old);
476     av_free(ctx->enable_str);
477     ctx->enable_str = expr_dup;
478     return 0;
479 }
480
481 void ff_update_link_current_pts(AVFilterLink *link, int64_t pts)
482 {
483     if (pts == AV_NOPTS_VALUE)
484         return;
485     link->current_pts = pts;
486     link->current_pts_us = av_rescale_q(pts, link->time_base, AV_TIME_BASE_Q);
487     /* TODO use duration */
488     if (link->graph && link->age_index >= 0)
489         ff_avfilter_graph_update_heap(link->graph, link);
490 }
491
492 int avfilter_process_command(AVFilterContext *filter, const char *cmd, const char *arg, char *res, int res_len, int flags)
493 {
494     if(!strcmp(cmd, "ping")){
495         char local_res[256] = {0};
496
497         if (!res) {
498             res = local_res;
499             res_len = sizeof(local_res);
500         }
501         av_strlcatf(res, res_len, "pong from:%s %s\n", filter->filter->name, filter->name);
502         if (res == local_res)
503             av_log(filter, AV_LOG_INFO, "%s", res);
504         return 0;
505     }else if(!strcmp(cmd, "enable")) {
506         return set_enable_expr(filter, arg);
507     }else if(filter->filter->process_command) {
508         return filter->filter->process_command(filter, cmd, arg, res, res_len, flags);
509     }
510     return AVERROR(ENOSYS);
511 }
512
513 static AVFilter *first_filter;
514 static AVFilter **last_filter = &first_filter;
515
516 #if !FF_API_NOCONST_GET_NAME
517 const
518 #endif
519 AVFilter *avfilter_get_by_name(const char *name)
520 {
521     const AVFilter *f = NULL;
522
523     if (!name)
524         return NULL;
525
526     while ((f = avfilter_next(f)))
527         if (!strcmp(f->name, name))
528             return (AVFilter *)f;
529
530     return NULL;
531 }
532
533 int avfilter_register(AVFilter *filter)
534 {
535     AVFilter **f = last_filter;
536
537     /* the filter must select generic or internal exclusively */
538     av_assert0((filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE) != AVFILTER_FLAG_SUPPORT_TIMELINE);
539
540     filter->next = NULL;
541
542     while(*f || avpriv_atomic_ptr_cas((void * volatile *)f, NULL, filter))
543         f = &(*f)->next;
544     last_filter = &filter->next;
545
546     return 0;
547 }
548
549 const AVFilter *avfilter_next(const AVFilter *prev)
550 {
551     return prev ? prev->next : first_filter;
552 }
553
554 #if FF_API_OLD_FILTER_REGISTER
555 AVFilter **av_filter_next(AVFilter **filter)
556 {
557     return filter ? &(*filter)->next : &first_filter;
558 }
559
560 void avfilter_uninit(void)
561 {
562 }
563 #endif
564
565 int avfilter_pad_count(const AVFilterPad *pads)
566 {
567     int count;
568
569     if (!pads)
570         return 0;
571
572     for (count = 0; pads->name; count++)
573         pads++;
574     return count;
575 }
576
577 static const char *default_filter_name(void *filter_ctx)
578 {
579     AVFilterContext *ctx = filter_ctx;
580     return ctx->name ? ctx->name : ctx->filter->name;
581 }
582
583 static void *filter_child_next(void *obj, void *prev)
584 {
585     AVFilterContext *ctx = obj;
586     if (!prev && ctx->filter && ctx->filter->priv_class && ctx->priv)
587         return ctx->priv;
588     return NULL;
589 }
590
591 static const AVClass *filter_child_class_next(const AVClass *prev)
592 {
593     const AVFilter *f = NULL;
594
595     /* find the filter that corresponds to prev */
596     while (prev && (f = avfilter_next(f)))
597         if (f->priv_class == prev)
598             break;
599
600     /* could not find filter corresponding to prev */
601     if (prev && !f)
602         return NULL;
603
604     /* find next filter with specific options */
605     while ((f = avfilter_next(f)))
606         if (f->priv_class)
607             return f->priv_class;
608
609     return NULL;
610 }
611
612 #define OFFSET(x) offsetof(AVFilterContext, x)
613 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM
614 static const AVOption avfilter_options[] = {
615     { "thread_type", "Allowed thread types", OFFSET(thread_type), AV_OPT_TYPE_FLAGS,
616         { .i64 = AVFILTER_THREAD_SLICE }, 0, INT_MAX, FLAGS, "thread_type" },
617         { "slice", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = AVFILTER_THREAD_SLICE }, .unit = "thread_type" },
618     { "enable", "set enable expression", OFFSET(enable_str), AV_OPT_TYPE_STRING, {.str=NULL}, .flags = FLAGS },
619     { NULL },
620 };
621
622 static const AVClass avfilter_class = {
623     .class_name = "AVFilter",
624     .item_name  = default_filter_name,
625     .version    = LIBAVUTIL_VERSION_INT,
626     .category   = AV_CLASS_CATEGORY_FILTER,
627     .child_next = filter_child_next,
628     .child_class_next = filter_child_class_next,
629     .option           = avfilter_options,
630 };
631
632 static int default_execute(AVFilterContext *ctx, avfilter_action_func *func, void *arg,
633                            int *ret, int nb_jobs)
634 {
635     int i;
636
637     for (i = 0; i < nb_jobs; i++) {
638         int r = func(ctx, arg, i, nb_jobs);
639         if (ret)
640             ret[i] = r;
641     }
642     return 0;
643 }
644
645 AVFilterContext *ff_filter_alloc(const AVFilter *filter, const char *inst_name)
646 {
647     AVFilterContext *ret;
648
649     if (!filter)
650         return NULL;
651
652     ret = av_mallocz(sizeof(AVFilterContext));
653     if (!ret)
654         return NULL;
655
656     ret->av_class = &avfilter_class;
657     ret->filter   = filter;
658     ret->name     = inst_name ? av_strdup(inst_name) : NULL;
659     if (filter->priv_size) {
660         ret->priv     = av_mallocz(filter->priv_size);
661         if (!ret->priv)
662             goto err;
663     }
664
665     av_opt_set_defaults(ret);
666     if (filter->priv_class) {
667         *(const AVClass**)ret->priv = filter->priv_class;
668         av_opt_set_defaults(ret->priv);
669     }
670
671     ret->internal = av_mallocz(sizeof(*ret->internal));
672     if (!ret->internal)
673         goto err;
674     ret->internal->execute = default_execute;
675
676     ret->nb_inputs = avfilter_pad_count(filter->inputs);
677     if (ret->nb_inputs ) {
678         ret->input_pads   = av_malloc_array(ret->nb_inputs, sizeof(AVFilterPad));
679         if (!ret->input_pads)
680             goto err;
681         memcpy(ret->input_pads, filter->inputs, sizeof(AVFilterPad) * ret->nb_inputs);
682         ret->inputs       = av_mallocz_array(ret->nb_inputs, sizeof(AVFilterLink*));
683         if (!ret->inputs)
684             goto err;
685     }
686
687     ret->nb_outputs = avfilter_pad_count(filter->outputs);
688     if (ret->nb_outputs) {
689         ret->output_pads  = av_malloc_array(ret->nb_outputs, sizeof(AVFilterPad));
690         if (!ret->output_pads)
691             goto err;
692         memcpy(ret->output_pads, filter->outputs, sizeof(AVFilterPad) * ret->nb_outputs);
693         ret->outputs      = av_mallocz_array(ret->nb_outputs, sizeof(AVFilterLink*));
694         if (!ret->outputs)
695             goto err;
696     }
697
698     return ret;
699
700 err:
701     av_freep(&ret->inputs);
702     av_freep(&ret->input_pads);
703     ret->nb_inputs = 0;
704     av_freep(&ret->outputs);
705     av_freep(&ret->output_pads);
706     ret->nb_outputs = 0;
707     av_freep(&ret->priv);
708     av_freep(&ret->internal);
709     av_free(ret);
710     return NULL;
711 }
712
713 #if FF_API_AVFILTER_OPEN
714 int avfilter_open(AVFilterContext **filter_ctx, AVFilter *filter, const char *inst_name)
715 {
716     *filter_ctx = ff_filter_alloc(filter, inst_name);
717     return *filter_ctx ? 0 : AVERROR(ENOMEM);
718 }
719 #endif
720
721 static void free_link(AVFilterLink *link)
722 {
723     if (!link)
724         return;
725
726     if (link->src)
727         link->src->outputs[link->srcpad - link->src->output_pads] = NULL;
728     if (link->dst)
729         link->dst->inputs[link->dstpad - link->dst->input_pads] = NULL;
730
731     av_buffer_unref(&link->hw_frames_ctx);
732
733     ff_formats_unref(&link->in_formats);
734     ff_formats_unref(&link->out_formats);
735     ff_formats_unref(&link->in_samplerates);
736     ff_formats_unref(&link->out_samplerates);
737     ff_channel_layouts_unref(&link->in_channel_layouts);
738     ff_channel_layouts_unref(&link->out_channel_layouts);
739     avfilter_link_free(&link);
740 }
741
742 void avfilter_free(AVFilterContext *filter)
743 {
744     int i;
745
746     if (!filter)
747         return;
748
749     if (filter->graph)
750         ff_filter_graph_remove_filter(filter->graph, filter);
751
752     if (filter->filter->uninit)
753         filter->filter->uninit(filter);
754
755     for (i = 0; i < filter->nb_inputs; i++) {
756         free_link(filter->inputs[i]);
757     }
758     for (i = 0; i < filter->nb_outputs; i++) {
759         free_link(filter->outputs[i]);
760     }
761
762     if (filter->filter->priv_class)
763         av_opt_free(filter->priv);
764
765     av_buffer_unref(&filter->hw_device_ctx);
766
767     av_freep(&filter->name);
768     av_freep(&filter->input_pads);
769     av_freep(&filter->output_pads);
770     av_freep(&filter->inputs);
771     av_freep(&filter->outputs);
772     av_freep(&filter->priv);
773     while(filter->command_queue){
774         ff_command_queue_pop(filter);
775     }
776     av_opt_free(filter);
777     av_expr_free(filter->enable);
778     filter->enable = NULL;
779     av_freep(&filter->var_values);
780     av_freep(&filter->internal);
781     av_free(filter);
782 }
783
784 static int process_options(AVFilterContext *ctx, AVDictionary **options,
785                            const char *args)
786 {
787     const AVOption *o = NULL;
788     int ret, count = 0;
789     char *av_uninit(parsed_key), *av_uninit(value);
790     const char *key;
791     int offset= -1;
792
793     if (!args)
794         return 0;
795
796     while (*args) {
797         const char *shorthand = NULL;
798
799         o = av_opt_next(ctx->priv, o);
800         if (o) {
801             if (o->type == AV_OPT_TYPE_CONST || o->offset == offset)
802                 continue;
803             offset = o->offset;
804             shorthand = o->name;
805         }
806
807         ret = av_opt_get_key_value(&args, "=", ":",
808                                    shorthand ? AV_OPT_FLAG_IMPLICIT_KEY : 0,
809                                    &parsed_key, &value);
810         if (ret < 0) {
811             if (ret == AVERROR(EINVAL))
812                 av_log(ctx, AV_LOG_ERROR, "No option name near '%s'\n", args);
813             else
814                 av_log(ctx, AV_LOG_ERROR, "Unable to parse '%s': %s\n", args,
815                        av_err2str(ret));
816             return ret;
817         }
818         if (*args)
819             args++;
820         if (parsed_key) {
821             key = parsed_key;
822             while ((o = av_opt_next(ctx->priv, o))); /* discard all remaining shorthand */
823         } else {
824             key = shorthand;
825         }
826
827         av_log(ctx, AV_LOG_DEBUG, "Setting '%s' to value '%s'\n", key, value);
828
829         if (av_opt_find(ctx, key, NULL, 0, 0)) {
830             ret = av_opt_set(ctx, key, value, 0);
831             if (ret < 0) {
832                 av_free(value);
833                 av_free(parsed_key);
834                 return ret;
835             }
836         } else {
837         av_dict_set(options, key, value, 0);
838         if ((ret = av_opt_set(ctx->priv, key, value, 0)) < 0) {
839             if (!av_opt_find(ctx->priv, key, NULL, 0, AV_OPT_SEARCH_CHILDREN | AV_OPT_SEARCH_FAKE_OBJ)) {
840             if (ret == AVERROR_OPTION_NOT_FOUND)
841                 av_log(ctx, AV_LOG_ERROR, "Option '%s' not found\n", key);
842             av_free(value);
843             av_free(parsed_key);
844             return ret;
845             }
846         }
847         }
848
849         av_free(value);
850         av_free(parsed_key);
851         count++;
852     }
853
854     if (ctx->enable_str) {
855         ret = set_enable_expr(ctx, ctx->enable_str);
856         if (ret < 0)
857             return ret;
858     }
859     return count;
860 }
861
862 #if FF_API_AVFILTER_INIT_FILTER
863 int avfilter_init_filter(AVFilterContext *filter, const char *args, void *opaque)
864 {
865     return avfilter_init_str(filter, args);
866 }
867 #endif
868
869 int avfilter_init_dict(AVFilterContext *ctx, AVDictionary **options)
870 {
871     int ret = 0;
872
873     ret = av_opt_set_dict(ctx, options);
874     if (ret < 0) {
875         av_log(ctx, AV_LOG_ERROR, "Error applying generic filter options.\n");
876         return ret;
877     }
878
879     if (ctx->filter->flags & AVFILTER_FLAG_SLICE_THREADS &&
880         ctx->thread_type & ctx->graph->thread_type & AVFILTER_THREAD_SLICE &&
881         ctx->graph->internal->thread_execute) {
882         ctx->thread_type       = AVFILTER_THREAD_SLICE;
883         ctx->internal->execute = ctx->graph->internal->thread_execute;
884     } else {
885         ctx->thread_type = 0;
886     }
887
888     if (ctx->filter->priv_class) {
889         ret = av_opt_set_dict(ctx->priv, options);
890         if (ret < 0) {
891             av_log(ctx, AV_LOG_ERROR, "Error applying options to the filter.\n");
892             return ret;
893         }
894     }
895
896     if (ctx->filter->init_opaque)
897         ret = ctx->filter->init_opaque(ctx, NULL);
898     else if (ctx->filter->init)
899         ret = ctx->filter->init(ctx);
900     else if (ctx->filter->init_dict)
901         ret = ctx->filter->init_dict(ctx, options);
902
903     return ret;
904 }
905
906 int avfilter_init_str(AVFilterContext *filter, const char *args)
907 {
908     AVDictionary *options = NULL;
909     AVDictionaryEntry *e;
910     int ret = 0;
911
912     if (args && *args) {
913         if (!filter->filter->priv_class) {
914             av_log(filter, AV_LOG_ERROR, "This filter does not take any "
915                    "options, but options were provided: %s.\n", args);
916             return AVERROR(EINVAL);
917         }
918
919 #if FF_API_OLD_FILTER_OPTS || FF_API_OLD_FILTER_OPTS_ERROR
920             if (   !strcmp(filter->filter->name, "format")     ||
921                    !strcmp(filter->filter->name, "noformat")   ||
922                    !strcmp(filter->filter->name, "frei0r")     ||
923                    !strcmp(filter->filter->name, "frei0r_src") ||
924                    !strcmp(filter->filter->name, "ocv")        ||
925                    !strcmp(filter->filter->name, "pan")        ||
926                    !strcmp(filter->filter->name, "pp")         ||
927                    !strcmp(filter->filter->name, "aevalsrc")) {
928             /* a hack for compatibility with the old syntax
929              * replace colons with |s */
930             char *copy = av_strdup(args);
931             char *p    = copy;
932             int nb_leading = 0; // number of leading colons to skip
933             int deprecated = 0;
934
935             if (!copy) {
936                 ret = AVERROR(ENOMEM);
937                 goto fail;
938             }
939
940             if (!strcmp(filter->filter->name, "frei0r") ||
941                 !strcmp(filter->filter->name, "ocv"))
942                 nb_leading = 1;
943             else if (!strcmp(filter->filter->name, "frei0r_src"))
944                 nb_leading = 3;
945
946             while (nb_leading--) {
947                 p = strchr(p, ':');
948                 if (!p) {
949                     p = copy + strlen(copy);
950                     break;
951                 }
952                 p++;
953             }
954
955             deprecated = strchr(p, ':') != NULL;
956
957             if (!strcmp(filter->filter->name, "aevalsrc")) {
958                 deprecated = 0;
959                 while ((p = strchr(p, ':')) && p[1] != ':') {
960                     const char *epos = strchr(p + 1, '=');
961                     const char *spos = strchr(p + 1, ':');
962                     const int next_token_is_opt = epos && (!spos || epos < spos);
963                     if (next_token_is_opt) {
964                         p++;
965                         break;
966                     }
967                     /* next token does not contain a '=', assume a channel expression */
968                     deprecated = 1;
969                     *p++ = '|';
970                 }
971                 if (p && *p == ':') { // double sep '::' found
972                     deprecated = 1;
973                     memmove(p, p + 1, strlen(p));
974                 }
975             } else
976             while ((p = strchr(p, ':')))
977                 *p++ = '|';
978
979 #if FF_API_OLD_FILTER_OPTS
980             if (deprecated)
981                 av_log(filter, AV_LOG_WARNING, "This syntax is deprecated. Use "
982                        "'|' to separate the list items.\n");
983
984             av_log(filter, AV_LOG_DEBUG, "compat: called with args=[%s]\n", copy);
985             ret = process_options(filter, &options, copy);
986 #else
987             if (deprecated) {
988                 av_log(filter, AV_LOG_ERROR, "This syntax is deprecated. Use "
989                        "'|' to separate the list items ('%s' instead of '%s')\n",
990                        copy, args);
991                 ret = AVERROR(EINVAL);
992             } else {
993                 ret = process_options(filter, &options, copy);
994             }
995 #endif
996             av_freep(&copy);
997
998             if (ret < 0)
999                 goto fail;
1000         } else
1001 #endif
1002         {
1003             ret = process_options(filter, &options, args);
1004             if (ret < 0)
1005                 goto fail;
1006         }
1007     }
1008
1009     ret = avfilter_init_dict(filter, &options);
1010     if (ret < 0)
1011         goto fail;
1012
1013     if ((e = av_dict_get(options, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
1014         av_log(filter, AV_LOG_ERROR, "No such option: %s.\n", e->key);
1015         ret = AVERROR_OPTION_NOT_FOUND;
1016         goto fail;
1017     }
1018
1019 fail:
1020     av_dict_free(&options);
1021
1022     return ret;
1023 }
1024
1025 const char *avfilter_pad_get_name(const AVFilterPad *pads, int pad_idx)
1026 {
1027     return pads[pad_idx].name;
1028 }
1029
1030 enum AVMediaType avfilter_pad_get_type(const AVFilterPad *pads, int pad_idx)
1031 {
1032     return pads[pad_idx].type;
1033 }
1034
1035 static int default_filter_frame(AVFilterLink *link, AVFrame *frame)
1036 {
1037     return ff_filter_frame(link->dst->outputs[0], frame);
1038 }
1039
1040 static int ff_filter_frame_framed(AVFilterLink *link, AVFrame *frame)
1041 {
1042     int (*filter_frame)(AVFilterLink *, AVFrame *);
1043     AVFilterContext *dstctx = link->dst;
1044     AVFilterPad *dst = link->dstpad;
1045     AVFrame *out = NULL;
1046     int ret;
1047     AVFilterCommand *cmd= link->dst->command_queue;
1048     int64_t pts;
1049
1050     if (link->status) {
1051         av_frame_free(&frame);
1052         return link->status;
1053     }
1054
1055     if (!(filter_frame = dst->filter_frame))
1056         filter_frame = default_filter_frame;
1057
1058     /* copy the frame if needed */
1059     if (dst->needs_writable && !av_frame_is_writable(frame)) {
1060         av_log(link->dst, AV_LOG_DEBUG, "Copying data in avfilter.\n");
1061
1062         switch (link->type) {
1063         case AVMEDIA_TYPE_VIDEO:
1064             out = ff_get_video_buffer(link, link->w, link->h);
1065             break;
1066         case AVMEDIA_TYPE_AUDIO:
1067             out = ff_get_audio_buffer(link, frame->nb_samples);
1068             break;
1069         default:
1070             ret = AVERROR(EINVAL);
1071             goto fail;
1072         }
1073         if (!out) {
1074             ret = AVERROR(ENOMEM);
1075             goto fail;
1076         }
1077
1078         ret = av_frame_copy_props(out, frame);
1079         if (ret < 0)
1080             goto fail;
1081
1082         switch (link->type) {
1083         case AVMEDIA_TYPE_VIDEO:
1084             av_image_copy(out->data, out->linesize, (const uint8_t **)frame->data, frame->linesize,
1085                           frame->format, frame->width, frame->height);
1086             break;
1087         case AVMEDIA_TYPE_AUDIO:
1088             av_samples_copy(out->extended_data, frame->extended_data,
1089                             0, 0, frame->nb_samples,
1090                             av_get_channel_layout_nb_channels(frame->channel_layout),
1091                             frame->format);
1092             break;
1093         default:
1094             ret = AVERROR(EINVAL);
1095             goto fail;
1096         }
1097
1098         av_frame_free(&frame);
1099     } else
1100         out = frame;
1101
1102     while(cmd && cmd->time <= out->pts * av_q2d(link->time_base)){
1103         av_log(link->dst, AV_LOG_DEBUG,
1104                "Processing command time:%f command:%s arg:%s\n",
1105                cmd->time, cmd->command, cmd->arg);
1106         avfilter_process_command(link->dst, cmd->command, cmd->arg, 0, 0, cmd->flags);
1107         ff_command_queue_pop(link->dst);
1108         cmd= link->dst->command_queue;
1109     }
1110
1111     pts = out->pts;
1112     if (dstctx->enable_str) {
1113         int64_t pos = av_frame_get_pkt_pos(out);
1114         dstctx->var_values[VAR_N] = link->frame_count;
1115         dstctx->var_values[VAR_T] = pts == AV_NOPTS_VALUE ? NAN : pts * av_q2d(link->time_base);
1116         dstctx->var_values[VAR_W] = link->w;
1117         dstctx->var_values[VAR_H] = link->h;
1118         dstctx->var_values[VAR_POS] = pos == -1 ? NAN : pos;
1119
1120         dstctx->is_disabled = fabs(av_expr_eval(dstctx->enable, dstctx->var_values, NULL)) < 0.5;
1121         if (dstctx->is_disabled &&
1122             (dstctx->filter->flags & AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC))
1123             filter_frame = default_filter_frame;
1124     }
1125     ret = filter_frame(link, out);
1126     link->frame_count++;
1127     ff_update_link_current_pts(link, pts);
1128     return ret;
1129
1130 fail:
1131     av_frame_free(&out);
1132     av_frame_free(&frame);
1133     return ret;
1134 }
1135
1136 static int ff_filter_frame_needs_framing(AVFilterLink *link, AVFrame *frame)
1137 {
1138     int insamples = frame->nb_samples, inpos = 0, nb_samples;
1139     AVFrame *pbuf = link->partial_buf;
1140     int nb_channels = av_frame_get_channels(frame);
1141     int ret = 0;
1142
1143     /* Handle framing (min_samples, max_samples) */
1144     while (insamples) {
1145         if (!pbuf) {
1146             AVRational samples_tb = { 1, link->sample_rate };
1147             pbuf = ff_get_audio_buffer(link, link->partial_buf_size);
1148             if (!pbuf) {
1149                 av_log(link->dst, AV_LOG_WARNING,
1150                        "Samples dropped due to memory allocation failure.\n");
1151                 return 0;
1152             }
1153             av_frame_copy_props(pbuf, frame);
1154             pbuf->pts = frame->pts;
1155             if (pbuf->pts != AV_NOPTS_VALUE)
1156                 pbuf->pts += av_rescale_q(inpos, samples_tb, link->time_base);
1157             pbuf->nb_samples = 0;
1158         }
1159         nb_samples = FFMIN(insamples,
1160                            link->partial_buf_size - pbuf->nb_samples);
1161         av_samples_copy(pbuf->extended_data, frame->extended_data,
1162                         pbuf->nb_samples, inpos,
1163                         nb_samples, nb_channels, link->format);
1164         inpos                   += nb_samples;
1165         insamples               -= nb_samples;
1166         pbuf->nb_samples += nb_samples;
1167         if (pbuf->nb_samples >= link->min_samples) {
1168             ret = ff_filter_frame_framed(link, pbuf);
1169             pbuf = NULL;
1170         } else {
1171             if (link->frame_wanted_out)
1172                 link->frame_wanted_in = 1;
1173         }
1174     }
1175     av_frame_free(&frame);
1176     link->partial_buf = pbuf;
1177     return ret;
1178 }
1179
1180 int ff_filter_frame(AVFilterLink *link, AVFrame *frame)
1181 {
1182     FF_TPRINTF_START(NULL, filter_frame); ff_tlog_link(NULL, link, 1); ff_tlog(NULL, " "); ff_tlog_ref(NULL, frame, 1);
1183
1184     /* Consistency checks */
1185     if (link->type == AVMEDIA_TYPE_VIDEO) {
1186         if (strcmp(link->dst->filter->name, "buffersink") &&
1187             strcmp(link->dst->filter->name, "format") &&
1188             strcmp(link->dst->filter->name, "idet") &&
1189             strcmp(link->dst->filter->name, "null") &&
1190             strcmp(link->dst->filter->name, "scale")) {
1191             av_assert1(frame->format                 == link->format);
1192             av_assert1(frame->width               == link->w);
1193             av_assert1(frame->height               == link->h);
1194         }
1195     } else {
1196         if (frame->format != link->format) {
1197             av_log(link->dst, AV_LOG_ERROR, "Format change is not supported\n");
1198             goto error;
1199         }
1200         if (av_frame_get_channels(frame) != link->channels) {
1201             av_log(link->dst, AV_LOG_ERROR, "Channel count change is not supported\n");
1202             goto error;
1203         }
1204         if (frame->channel_layout != link->channel_layout) {
1205             av_log(link->dst, AV_LOG_ERROR, "Channel layout change is not supported\n");
1206             goto error;
1207         }
1208         if (frame->sample_rate != link->sample_rate) {
1209             av_log(link->dst, AV_LOG_ERROR, "Sample rate change is not supported\n");
1210             goto error;
1211         }
1212     }
1213
1214     link->frame_wanted_out = 0;
1215     /* Go directly to actual filtering if possible */
1216     if (link->type == AVMEDIA_TYPE_AUDIO &&
1217         link->min_samples &&
1218         (link->partial_buf ||
1219          frame->nb_samples < link->min_samples ||
1220          frame->nb_samples > link->max_samples)) {
1221         return ff_filter_frame_needs_framing(link, frame);
1222     } else {
1223         return ff_filter_frame_framed(link, frame);
1224     }
1225 error:
1226     av_frame_free(&frame);
1227     return AVERROR_PATCHWELCOME;
1228 }
1229
1230 const AVClass *avfilter_get_class(void)
1231 {
1232     return &avfilter_class;
1233 }