avfilter/af_sofalizer: speed up fast convolution
[ffmpeg.git] / libavfilter / vf_stack.c
1 /*
2  * Copyright (c) 2015 Paul B. Mahol
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/avstring.h"
22 #include "libavutil/imgutils.h"
23 #include "libavutil/opt.h"
24 #include "libavutil/pixdesc.h"
25
26 #include "avfilter.h"
27 #include "formats.h"
28 #include "internal.h"
29 #include "framesync.h"
30 #include "video.h"
31
32 typedef struct StackItem {
33     int x[4], y[4];
34     int linesize[4];
35     int height[4];
36 } StackItem;
37
38 typedef struct StackContext {
39     const AVClass *class;
40     const AVPixFmtDescriptor *desc;
41     int nb_inputs;
42     char *layout;
43     int shortest;
44     int is_vertical;
45     int is_horizontal;
46     int nb_planes;
47
48     StackItem *items;
49     AVFrame **frames;
50     FFFrameSync fs;
51 } StackContext;
52
53 static int query_formats(AVFilterContext *ctx)
54 {
55     AVFilterFormats *pix_fmts = NULL;
56     int fmt, ret;
57
58     for (fmt = 0; av_pix_fmt_desc_get(fmt); fmt++) {
59         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(fmt);
60         if (!(desc->flags & AV_PIX_FMT_FLAG_PAL ||
61               desc->flags & AV_PIX_FMT_FLAG_HWACCEL ||
62               desc->flags & AV_PIX_FMT_FLAG_BITSTREAM) &&
63             (ret = ff_add_format(&pix_fmts, fmt)) < 0)
64             return ret;
65     }
66
67     return ff_set_common_formats(ctx, pix_fmts);
68 }
69
70 static av_cold int init(AVFilterContext *ctx)
71 {
72     StackContext *s = ctx->priv;
73     int i, ret;
74
75     if (!strcmp(ctx->filter->name, "vstack"))
76         s->is_vertical = 1;
77
78     if (!strcmp(ctx->filter->name, "hstack"))
79         s->is_horizontal = 1;
80
81     s->frames = av_calloc(s->nb_inputs, sizeof(*s->frames));
82     if (!s->frames)
83         return AVERROR(ENOMEM);
84
85     if (!strcmp(ctx->filter->name, "xstack")) {
86         s->items = av_calloc(s->nb_inputs, sizeof(*s->items));
87         if (!s->items)
88             return AVERROR(ENOMEM);
89     }
90
91     for (i = 0; i < s->nb_inputs; i++) {
92         AVFilterPad pad = { 0 };
93
94         pad.type = AVMEDIA_TYPE_VIDEO;
95         pad.name = av_asprintf("input%d", i);
96         if (!pad.name)
97             return AVERROR(ENOMEM);
98
99         if ((ret = ff_insert_inpad(ctx, i, &pad)) < 0) {
100             av_freep(&pad.name);
101             return ret;
102         }
103     }
104
105     return 0;
106 }
107
108 static int process_frame(FFFrameSync *fs)
109 {
110     AVFilterContext *ctx = fs->parent;
111     AVFilterLink *outlink = ctx->outputs[0];
112     StackContext *s = fs->opaque;
113     AVFrame **in = s->frames;
114     AVFrame *out;
115     int i, p, ret, offset[4] = { 0 };
116
117     for (i = 0; i < s->nb_inputs; i++) {
118         if ((ret = ff_framesync_get_frame(&s->fs, i, &in[i], 0)) < 0)
119             return ret;
120     }
121
122     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
123     if (!out)
124         return AVERROR(ENOMEM);
125     out->pts = av_rescale_q(s->fs.pts, s->fs.time_base, outlink->time_base);
126     out->sample_aspect_ratio = outlink->sample_aspect_ratio;
127
128     for (i = 0; i < s->nb_inputs; i++) {
129         AVFilterLink *inlink = ctx->inputs[i];
130         int linesize[4];
131         int height[4];
132
133         if (s->is_horizontal || s->is_vertical) {
134             if ((ret = av_image_fill_linesizes(linesize, inlink->format, inlink->w)) < 0) {
135                 av_frame_free(&out);
136                 return ret;
137             }
138
139             height[1] = height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
140             height[0] = height[3] = inlink->h;
141         }
142
143         for (p = 0; p < s->nb_planes; p++) {
144             if (s->is_vertical) {
145                 av_image_copy_plane(out->data[p] + offset[p] * out->linesize[p],
146                                     out->linesize[p],
147                                     in[i]->data[p],
148                                     in[i]->linesize[p],
149                                     linesize[p], height[p]);
150                 offset[p] += height[p];
151             } else if (s->is_horizontal) {
152                 av_image_copy_plane(out->data[p] + offset[p],
153                                     out->linesize[p],
154                                     in[i]->data[p],
155                                     in[i]->linesize[p],
156                                     linesize[p], height[p]);
157                 offset[p] += linesize[p];
158             } else {
159                 StackItem *item = &s->items[i];
160
161                 av_image_copy_plane(out->data[p] + out->linesize[p] * item->y[p] + item->x[p],
162                                     out->linesize[p],
163                                     in[i]->data[p],
164                                     in[i]->linesize[p],
165                                     item->linesize[p], item->height[p]);
166             }
167         }
168     }
169
170     return ff_filter_frame(outlink, out);
171 }
172
173 static int config_output(AVFilterLink *outlink)
174 {
175     AVFilterContext *ctx = outlink->src;
176     StackContext *s = ctx->priv;
177     AVRational time_base = ctx->inputs[0]->time_base;
178     AVRational frame_rate = ctx->inputs[0]->frame_rate;
179     AVRational sar = ctx->inputs[0]->sample_aspect_ratio;
180     int height = ctx->inputs[0]->h;
181     int width = ctx->inputs[0]->w;
182     FFFrameSyncIn *in;
183     int i, ret;
184
185     s->desc = av_pix_fmt_desc_get(outlink->format);
186     if (!s->desc)
187         return AVERROR_BUG;
188
189     if (s->is_vertical) {
190         for (i = 1; i < s->nb_inputs; i++) {
191             if (ctx->inputs[i]->w != width) {
192                 av_log(ctx, AV_LOG_ERROR, "Input %d width %d does not match input %d width %d.\n", i, ctx->inputs[i]->w, 0, width);
193                 return AVERROR(EINVAL);
194             }
195             height += ctx->inputs[i]->h;
196         }
197     } else if (s->is_horizontal) {
198         for (i = 1; i < s->nb_inputs; i++) {
199             if (ctx->inputs[i]->h != height) {
200                 av_log(ctx, AV_LOG_ERROR, "Input %d height %d does not match input %d height %d.\n", i, ctx->inputs[i]->h, 0, height);
201                 return AVERROR(EINVAL);
202             }
203             width += ctx->inputs[i]->w;
204         }
205     } else {
206         char *arg, *p = s->layout, *saveptr = NULL;
207         char *arg2, *p2, *saveptr2 = NULL;
208         char *arg3, *p3, *saveptr3 = NULL;
209         int inw, inh, size;
210
211         for (i = 0; i < s->nb_inputs; i++) {
212             AVFilterLink *inlink = ctx->inputs[i];
213             StackItem *item = &s->items[i];
214
215             if (!(arg = av_strtok(p, "|", &saveptr)))
216                 return AVERROR(EINVAL);
217
218             p = NULL;
219
220             if ((ret = av_image_fill_linesizes(item->linesize, inlink->format, inlink->w)) < 0) {
221                 return ret;
222             }
223
224             item->height[1] = item->height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
225             item->height[0] = item->height[3] = inlink->h;
226
227             p2 = arg;
228             inw = inh = 0;
229
230             for (int j = 0; j < 2; j++) {
231                 if (!(arg2 = av_strtok(p2, "_", &saveptr2)))
232                     return AVERROR(EINVAL);
233
234                 p2 = NULL;
235                 p3 = arg2;
236                 while ((arg3 = av_strtok(p3, "+", &saveptr3))) {
237                     p3 = NULL;
238                     if (sscanf(arg3, "w%d", &size) == 1) {
239                         if (size == i || size < 0 || size >= s->nb_inputs)
240                             return AVERROR(EINVAL);
241
242                         if (!j)
243                             inw += ctx->inputs[size]->w;
244                         else
245                             inh += ctx->inputs[size]->w;
246                     } else if (sscanf(arg3, "h%d", &size) == 1) {
247                         if (size == i || size < 0 || size >= s->nb_inputs)
248                             return AVERROR(EINVAL);
249
250                         if (!j)
251                             inw += ctx->inputs[size]->h;
252                         else
253                             inh += ctx->inputs[size]->h;
254                     } else if (sscanf(arg3, "%d", &size) == 1) {
255                         if (size < 0)
256                             return AVERROR(EINVAL);
257
258                         if (!j)
259                             inw += size;
260                         else
261                             inh += size;
262                     } else {
263                         return AVERROR(EINVAL);
264                     }
265                 }
266             }
267
268             if ((ret = av_image_fill_linesizes(item->x, inlink->format, inw)) < 0) {
269                 return ret;
270             }
271
272             item->y[1] = item->y[2] = AV_CEIL_RSHIFT(inh, s->desc->log2_chroma_h);
273             item->y[0] = item->y[3] = inh;
274
275             width  = FFMAX(width,  inlink->w + inw);
276             height = FFMAX(height, inlink->h + inh);
277         }
278     }
279
280     s->nb_planes = av_pix_fmt_count_planes(outlink->format);
281
282     outlink->w          = width;
283     outlink->h          = height;
284     outlink->time_base  = time_base;
285     outlink->frame_rate = frame_rate;
286     outlink->sample_aspect_ratio = sar;
287
288     if ((ret = ff_framesync_init(&s->fs, ctx, s->nb_inputs)) < 0)
289         return ret;
290
291     in = s->fs.in;
292     s->fs.opaque = s;
293     s->fs.on_event = process_frame;
294
295     for (i = 0; i < s->nb_inputs; i++) {
296         AVFilterLink *inlink = ctx->inputs[i];
297
298         in[i].time_base = inlink->time_base;
299         in[i].sync   = 1;
300         in[i].before = EXT_STOP;
301         in[i].after  = s->shortest ? EXT_STOP : EXT_INFINITY;
302     }
303
304     return ff_framesync_configure(&s->fs);
305 }
306
307 static av_cold void uninit(AVFilterContext *ctx)
308 {
309     StackContext *s = ctx->priv;
310     int i;
311
312     ff_framesync_uninit(&s->fs);
313     av_freep(&s->frames);
314     av_freep(&s->items);
315
316     for (i = 0; i < ctx->nb_inputs; i++)
317         av_freep(&ctx->input_pads[i].name);
318 }
319
320 static int activate(AVFilterContext *ctx)
321 {
322     StackContext *s = ctx->priv;
323     return ff_framesync_activate(&s->fs);
324 }
325
326 #define OFFSET(x) offsetof(StackContext, x)
327 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_FILTERING_PARAM
328 static const AVOption stack_options[] = {
329     { "inputs", "set number of inputs", OFFSET(nb_inputs), AV_OPT_TYPE_INT, {.i64=2}, 2, INT_MAX, .flags = FLAGS },
330     { "shortest", "force termination when the shortest input terminates", OFFSET(shortest), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, .flags = FLAGS },
331     { NULL },
332 };
333
334 static const AVFilterPad outputs[] = {
335     {
336         .name          = "default",
337         .type          = AVMEDIA_TYPE_VIDEO,
338         .config_props  = config_output,
339     },
340     { NULL }
341 };
342
343 #if CONFIG_HSTACK_FILTER
344
345 #define hstack_options stack_options
346 AVFILTER_DEFINE_CLASS(hstack);
347
348 AVFilter ff_vf_hstack = {
349     .name          = "hstack",
350     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs horizontally."),
351     .priv_size     = sizeof(StackContext),
352     .priv_class    = &hstack_class,
353     .query_formats = query_formats,
354     .outputs       = outputs,
355     .init          = init,
356     .uninit        = uninit,
357     .activate      = activate,
358     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS,
359 };
360
361 #endif /* CONFIG_HSTACK_FILTER */
362
363 #if CONFIG_VSTACK_FILTER
364
365 #define vstack_options stack_options
366 AVFILTER_DEFINE_CLASS(vstack);
367
368 AVFilter ff_vf_vstack = {
369     .name          = "vstack",
370     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs vertically."),
371     .priv_size     = sizeof(StackContext),
372     .priv_class    = &vstack_class,
373     .query_formats = query_formats,
374     .outputs       = outputs,
375     .init          = init,
376     .uninit        = uninit,
377     .activate      = activate,
378     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS,
379 };
380
381 #endif /* CONFIG_VSTACK_FILTER */
382
383 #if CONFIG_XSTACK_FILTER
384
385 static const AVOption xstack_options[] = {
386     { "inputs", "set number of inputs", OFFSET(nb_inputs), AV_OPT_TYPE_INT, {.i64=2}, 2, INT_MAX, .flags = FLAGS },
387     { "layout", "set custom layout", OFFSET(layout), AV_OPT_TYPE_STRING, {.str="0_0|w0_0"}, 0, 0, .flags = FLAGS },
388     { "shortest", "force termination when the shortest input terminates", OFFSET(shortest), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, .flags = FLAGS },
389     { NULL },
390 };
391
392 AVFILTER_DEFINE_CLASS(xstack);
393
394 AVFilter ff_vf_xstack = {
395     .name          = "xstack",
396     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs into custom layout."),
397     .priv_size     = sizeof(StackContext),
398     .priv_class    = &xstack_class,
399     .query_formats = query_formats,
400     .outputs       = outputs,
401     .init          = init,
402     .uninit        = uninit,
403     .activate      = activate,
404     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS,
405 };
406
407 #endif /* CONFIG_XSTACK_FILTER */