avfilter/all: propagate errors of functions from avfilter/formats
[ffmpeg.git] / libavfilter / vf_stack.c
1 /*
2  * Copyright (c) 2015 Paul B. Mahol
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/avstring.h"
22 #include "libavutil/imgutils.h"
23 #include "libavutil/opt.h"
24 #include "libavutil/pixdesc.h"
25
26 #include "avfilter.h"
27 #include "formats.h"
28 #include "internal.h"
29 #include "framesync.h"
30 #include "video.h"
31
32 typedef struct StackContext {
33     const AVClass *class;
34     const AVPixFmtDescriptor *desc;
35     int nb_inputs;
36     int is_vertical;
37     int nb_planes;
38
39     AVFrame **frames;
40     FFFrameSync fs;
41 } StackContext;
42
43 static int query_formats(AVFilterContext *ctx)
44 {
45     AVFilterFormats *pix_fmts = NULL;
46     int fmt, ret;
47
48     for (fmt = 0; av_pix_fmt_desc_get(fmt); fmt++) {
49         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(fmt);
50         if (!(desc->flags & AV_PIX_FMT_FLAG_PAL ||
51               desc->flags & AV_PIX_FMT_FLAG_HWACCEL ||
52               desc->flags & AV_PIX_FMT_FLAG_BITSTREAM) &&
53             (ret = ff_add_format(&pix_fmts, fmt)) < 0)
54             return ret;
55     }
56
57     return ff_set_common_formats(ctx, pix_fmts);
58 }
59
60 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
61 {
62     StackContext *s = inlink->dst->priv;
63     return ff_framesync_filter_frame(&s->fs, inlink, in);
64 }
65
66 static av_cold int init(AVFilterContext *ctx)
67 {
68     StackContext *s = ctx->priv;
69     int i, ret;
70
71     if (!strcmp(ctx->filter->name, "vstack"))
72         s->is_vertical = 1;
73
74     s->frames = av_calloc(s->nb_inputs, sizeof(*s->frames));
75     if (!s->frames)
76         return AVERROR(ENOMEM);
77
78     for (i = 0; i < s->nb_inputs; i++) {
79         AVFilterPad pad = { 0 };
80
81         pad.type = AVMEDIA_TYPE_VIDEO;
82         pad.name = av_asprintf("input%d", i);
83         if (!pad.name)
84             return AVERROR(ENOMEM);
85         pad.filter_frame = filter_frame;
86
87         if ((ret = ff_insert_inpad(ctx, i, &pad)) < 0) {
88             av_freep(&pad.name);
89             return ret;
90         }
91     }
92
93     return 0;
94 }
95
96 static int process_frame(FFFrameSync *fs)
97 {
98     AVFilterContext *ctx = fs->parent;
99     AVFilterLink *outlink = ctx->outputs[0];
100     StackContext *s = fs->opaque;
101     AVFrame **in = s->frames;
102     AVFrame *out;
103     int i, p, ret, offset[4] = { 0 };
104
105     for (i = 0; i < s->nb_inputs; i++) {
106         if ((ret = ff_framesync_get_frame(&s->fs, i, &in[i], 0)) < 0)
107             return ret;
108     }
109
110     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
111     if (!out)
112         return AVERROR(ENOMEM);
113     out->pts = av_rescale_q(s->fs.pts, s->fs.time_base, outlink->time_base);
114
115     for (i = 0; i < s->nb_inputs; i++) {
116         AVFilterLink *inlink = ctx->inputs[i];
117         int linesize[4];
118         int height[4];
119
120         if ((ret = av_image_fill_linesizes(linesize, inlink->format, inlink->w)) < 0) {
121             av_frame_free(&out);
122             return ret;
123         }
124
125         height[1] = height[2] = FF_CEIL_RSHIFT(inlink->h, s->desc->log2_chroma_h);
126         height[0] = height[3] = inlink->h;
127
128         for (p = 0; p < s->nb_planes; p++) {
129             if (s->is_vertical) {
130                 av_image_copy_plane(out->data[p] + offset[p] * out->linesize[p],
131                                     out->linesize[p],
132                                     in[i]->data[p],
133                                     in[i]->linesize[p],
134                                     linesize[p], height[p]);
135                 offset[p] += height[p];
136             } else {
137                 av_image_copy_plane(out->data[p] + offset[p],
138                                     out->linesize[p],
139                                     in[i]->data[p],
140                                     in[i]->linesize[p],
141                                     linesize[p], height[p]);
142                 offset[p] += linesize[p];
143             }
144         }
145     }
146
147     return ff_filter_frame(outlink, out);
148 }
149
150 static int config_output(AVFilterLink *outlink)
151 {
152     AVFilterContext *ctx = outlink->src;
153     StackContext *s = ctx->priv;
154     AVRational time_base = ctx->inputs[0]->time_base;
155     AVRational frame_rate = ctx->inputs[0]->frame_rate;
156     int height = ctx->inputs[0]->h;
157     int width = ctx->inputs[0]->w;
158     FFFrameSyncIn *in;
159     int i, ret;
160
161     if (s->is_vertical) {
162         for (i = 1; i < s->nb_inputs; i++) {
163             if (ctx->inputs[i]->w != width) {
164                 av_log(ctx, AV_LOG_ERROR, "Input %d width %d does not match input %d width %d.\n", i, ctx->inputs[i]->w, 0, width);
165                 return AVERROR(EINVAL);
166             }
167             height += ctx->inputs[i]->h;
168         }
169     } else {
170         for (i = 1; i < s->nb_inputs; i++) {
171             if (ctx->inputs[i]->h != height) {
172                 av_log(ctx, AV_LOG_ERROR, "Input %d height %d does not match input %d height %d.\n", i, ctx->inputs[i]->h, 0, height);
173                 return AVERROR(EINVAL);
174             }
175             width += ctx->inputs[i]->w;
176         }
177     }
178
179     s->desc = av_pix_fmt_desc_get(outlink->format);
180     if (!s->desc)
181         return AVERROR_BUG;
182     s->nb_planes = av_pix_fmt_count_planes(outlink->format);
183
184     outlink->w          = width;
185     outlink->h          = height;
186     outlink->time_base  = time_base;
187     outlink->frame_rate = frame_rate;
188
189     if ((ret = ff_framesync_init(&s->fs, ctx, s->nb_inputs)) < 0)
190         return ret;
191
192     in = s->fs.in;
193     s->fs.opaque = s;
194     s->fs.on_event = process_frame;
195
196     for (i = 0; i < s->nb_inputs; i++) {
197         AVFilterLink *inlink = ctx->inputs[i];
198
199         in[i].time_base = inlink->time_base;
200         in[i].sync   = 1;
201         in[i].before = EXT_STOP;
202         in[i].after  = EXT_INFINITY;
203     }
204
205     return ff_framesync_configure(&s->fs);
206 }
207
208 static int request_frame(AVFilterLink *outlink)
209 {
210     StackContext *s = outlink->src->priv;
211     return ff_framesync_request_frame(&s->fs, outlink);
212 }
213
214 static av_cold void uninit(AVFilterContext *ctx)
215 {
216     StackContext *s = ctx->priv;
217     ff_framesync_uninit(&s->fs);
218     av_freep(&s->frames);
219 }
220
221 #define OFFSET(x) offsetof(StackContext, x)
222 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_FILTERING_PARAM
223 static const AVOption stack_options[] = {
224     { "inputs", "set number of inputs", OFFSET(nb_inputs), AV_OPT_TYPE_INT, {.i64=2}, 2, INT_MAX, .flags = FLAGS },
225     { NULL },
226 };
227
228 static const AVFilterPad outputs[] = {
229     {
230         .name          = "default",
231         .type          = AVMEDIA_TYPE_VIDEO,
232         .config_props  = config_output,
233         .request_frame = request_frame,
234     },
235     { NULL }
236 };
237
238 #if CONFIG_HSTACK_FILTER
239
240 #define hstack_options stack_options
241 AVFILTER_DEFINE_CLASS(hstack);
242
243 AVFilter ff_vf_hstack = {
244     .name          = "hstack",
245     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs horizontally."),
246     .priv_size     = sizeof(StackContext),
247     .priv_class    = &hstack_class,
248     .query_formats = query_formats,
249     .outputs       = outputs,
250     .init          = init,
251     .uninit        = uninit,
252     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS,
253 };
254
255 #endif /* CONFIG_HSTACK_FILTER */
256
257 #if CONFIG_VSTACK_FILTER
258
259 #define vstack_options stack_options
260 AVFILTER_DEFINE_CLASS(vstack);
261
262 AVFilter ff_vf_vstack = {
263     .name          = "vstack",
264     .description   = NULL_IF_CONFIG_SMALL("Stack video inputs vertically."),
265     .priv_size     = sizeof(StackContext),
266     .priv_class    = &vstack_class,
267     .query_formats = query_formats,
268     .outputs       = outputs,
269     .init          = init,
270     .uninit        = uninit,
271     .flags         = AVFILTER_FLAG_DYNAMIC_INPUTS,
272 };
273
274 #endif /* CONFIG_VSTACK_FILTER */