avfilter/avf_concat: check ff_insert_pad() for failure
[ffmpeg.git] / libavfilter / vf_stack.c
1 /*
2  * Copyright (c) 2015 Paul B. Mahol
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/avstring.h"
22 #include "libavutil/imgutils.h"
23 #include "libavutil/opt.h"
24 #include "libavutil/pixdesc.h"
25
26 #include "avfilter.h"
27 #include "formats.h"
28 #include "internal.h"
29 #include "framesync2.h"
30 #include "video.h"
31
32 typedef struct StackContext {
33     const AVClass *class;
34     const AVPixFmtDescriptor *desc;
35     int nb_inputs;
36     int shortest;
37     int is_vertical;
38     int nb_planes;
39
40     AVFrame **frames;
41     FFFrameSync fs;
42 } StackContext;
43
44 static int query_formats(AVFilterContext *ctx)
45 {
46     AVFilterFormats *pix_fmts = NULL;
47     int fmt, ret;
48
49     for (fmt = 0; av_pix_fmt_desc_get(fmt); fmt++) {
50         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(fmt);
51         if (!(desc->flags & AV_PIX_FMT_FLAG_PAL ||
52               desc->flags & AV_PIX_FMT_FLAG_HWACCEL ||
53               desc->flags & AV_PIX_FMT_FLAG_BITSTREAM) &&
54             (ret = ff_add_format(&pix_fmts, fmt)) < 0)
55             return ret;
56     }
57
58     return ff_set_common_formats(ctx, pix_fmts);
59 }
60
61 static av_cold int init(AVFilterContext *ctx)
62 {
63     StackContext *s = ctx->priv;
64     int i, ret;
65
66     if (!strcmp(ctx->filter->name, "vstack"))
67         s->is_vertical = 1;
68
69     s->frames = av_calloc(s->nb_inputs, sizeof(*s->frames));
70     if (!s->frames)
71         return AVERROR(ENOMEM);
72
73     for (i = 0; i < s->nb_inputs; i++) {
74         AVFilterPad pad = { 0 };
75
76         pad.type = AVMEDIA_TYPE_VIDEO;
77         pad.name = av_asprintf("input%d", i);
78         if (!pad.name)
79             return AVERROR(ENOMEM);
80
81         if ((ret = ff_insert_inpad(ctx, i, &pad)) < 0) {
82             av_freep(&pad.name);
83             return ret;
84         }
85     }
86
87     return 0;
88 }
89
90 static int process_frame(FFFrameSync *fs)
91 {
92     AVFilterContext *ctx = fs->parent;
93     AVFilterLink *outlink = ctx->outputs[0];
94     StackContext *s = fs->opaque;
95     AVFrame **in = s->frames;
96     AVFrame *out;
97     int i, p, ret, offset[4] = { 0 };
98
99     for (i = 0; i < s->nb_inputs; i++) {
100         if ((ret = ff_framesync2_get_frame(&s->fs, i, &in[i], 0)) < 0)
101             return ret;
102     }
103
104     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
105     if (!out)
106         return AVERROR(ENOMEM);
107     out->pts = av_rescale_q(s->fs.pts, s->fs.time_base, outlink->time_base);
108
109     for (i = 0; i < s->nb_inputs; i++) {
110         AVFilterLink *inlink = ctx->inputs[i];
111         int linesize[4];
112         int height[4];
113
114         if ((ret = av_image_fill_linesizes(linesize, inlink->format, inlink->w)) < 0) {
115             av_frame_free(&out);
116             return ret;
117         }
118
119         height[1] = height[2] = AV_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
120         height[0] = height[3] = inlink->h;
121
122         for (p = 0; p < s->nb_planes; p++) {
123             if (s->is_vertical) {
124                 av_image_copy_plane(out->data[p] + offset[p] * out->linesize[p],
125                                     out->linesize[p],
126                                     in[i]->data[p],
127                                     in[i]->linesize[p],
128                                     linesize[p], height[p]);
129                 offset[p] += height[p];
130             } else {
131                 av_image_copy_plane(out->data[p] + offset[p],
132                                     out->linesize[p],
133                                     in[i]->data[p],
134                                     in[i]->linesize[p],
135                                     linesize[p], height[p]);
136                 offset[p] += linesize[p];
137             }
138         }
139     }
140
141     return ff_filter_frame(outlink, out);
142 }
143
144 static int config_output(AVFilterLink *outlink)
145 {
146     AVFilterContext *ctx = outlink->src;
147     StackContext *s = ctx->priv;
148     AVRational time_base = ctx->inputs[0]->time_base;
149     AVRational frame_rate = ctx->inputs[0]->frame_rate;
150     int height = ctx->inputs[0]->h;
151     int width = ctx->inputs[0]->w;
152     FFFrameSyncIn *in;
153     int i, ret;
154
155     if (s->is_vertical) {
156         for (i = 1; i < s->nb_inputs; i++) {
157             if (ctx->inputs[i]->w != width) {
158                 av_log(ctx, AV_LOG_ERROR, "Input %d width %d does not match input %d width %d.\n", i, ctx->inputs[i]->w, 0, width);
159                 return AVERROR(EINVAL);
160             }
161             height += ctx->inputs[i]->h;
162         }
163     } else {
164         for (i = 1; i < s->nb_inputs; i++) {
165             if (ctx->inputs[i]->h != height) {
166                 av_log(ctx, AV_LOG_ERROR, "Input %d height %d does not match input %d height %d.\n", i, ctx->inputs[i]->h, 0, height);
167                 return AVERROR(EINVAL);
168             }
169             width += ctx->inputs[i]->w;
170         }
171     }
172
173     s->desc = av_pix_fmt_desc_get(outlink->format);
174     if (!s->desc)
175         return AVERROR_BUG;
176     s->nb_planes = av_pix_fmt_count_planes(outlink->format);
177
178     outlink->w          = width;
179     outlink->h          = height;
180     outlink->time_base  = time_base;
181     outlink->frame_rate = frame_rate;
182
183     if ((ret = ff_framesync2_init(&s->fs, ctx, s->nb_inputs)) < 0)
184         return ret;
185
186     in = s->fs.in;
187     s->fs.opaque = s;
188     s->fs.on_event = process_frame;
189
190     for (i = 0; i < s->nb_inputs; i++) {
191         AVFilterLink *inlink = ctx->inputs[i];
192
193         in[i].time_base = inlink->time_base;
194         in[i].sync   = 1;
195         in[i].before = EXT_STOP;
196         in[i].after  = s->shortest ? EXT_STOP : EXT_INFINITY;
197     }
198
199     return ff_framesync2_configure(&s->fs);
200 }
201
202 static av_cold void uninit(AVFilterContext *ctx)
203 {
204     StackContext *s = ctx->priv;
205     int i;
206
207     ff_framesync2_uninit(&s->fs);
208     av_freep(&s->frames);
209
210     for (i = 0; i < ctx->nb_inputs; i++)
211         av_freep(&ctx->input_pads[i].name);
212 }
213
214 static int activate(AVFilterContext *ctx)
215 {
216     StackContext *s = ctx->priv;
217     return ff_framesync2_activate(&s->fs);
218 }
219
220 #define OFFSET(x) offsetof(StackContext, x)
221 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_FILTERING_PARAM
222 static const AVOption stack_options[] = {
223     { "inputs", "set number of inputs", OFFSET(nb_inputs), AV_OPT_TYPE_INT, {.i64=2}, 2, INT_MAX, .flags = FLAGS },
224     { "shortest", "force termination when the shortest input terminates", OFFSET(shortest), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, .flags = FLAGS },
225     { NULL },
226 };
227
228 static const AVFilterPad outputs[] = {
229     {
230         .name          = "default",
231         .type          = AVMEDIA_TYPE_VIDEO,
232         .config_props  = config_output,
233     },
234     { NULL }
235 };
236
237 #if CONFIG_HSTACK_FILTER
238
239 #define hstack_options stack_options
240 AVFILTER_DEFINE_CLASS(hstack);
241
242 AVFilter ff_vf_hstack = {
243     .name          = "hstack",
244     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs horizontally."),
245     .priv_size     = sizeof(StackContext),
246     .priv_class    = &hstack_class,
247     .query_formats = query_formats,
248     .outputs       = outputs,
249     .init          = init,
250     .uninit        = uninit,
251     .activate      = activate,
252     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS,
253 };
254
255 #endif /* CONFIG_HSTACK_FILTER */
256
257 #if CONFIG_VSTACK_FILTER
258
259 #define vstack_options stack_options
260 AVFILTER_DEFINE_CLASS(vstack);
261
262 AVFilter ff_vf_vstack = {
263     .name          = "vstack",
264     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs vertically."),
265     .priv_size     = sizeof(StackContext),
266     .priv_class    = &vstack_class,
267     .query_formats = query_formats,
268     .outputs       = outputs,
269     .init          = init,
270     .uninit        = uninit,
271     .activate      = activate,
272     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS,
273 };
274
275 #endif /* CONFIG_VSTACK_FILTER */