Fix memleak
[ffmpeg.git] / libavfilter / vf_crop.c
1 /*
2  * Copyright (c) 2007 Bobby Bingham
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * video crop filter
24  */
25
26 /* #define DEBUG */
27
28 #include "avfilter.h"
29 #include "libavutil/eval.h"
30 #include "libavutil/avstring.h"
31 #include "libavutil/libm.h"
32 #include "libavutil/imgutils.h"
33
34 static const char *var_names[] = {
35     "E",
36     "PHI",
37     "PI",
38     "in_w", "iw",   ///< width  of the input video
39     "in_h", "ih",   ///< height of the input video
40     "out_w", "ow",  ///< width  of the cropped video
41     "out_h", "oh",  ///< height of the cropped video
42     "x",
43     "y",
44     "n",            ///< number of frame
45     "pos",          ///< position in the file
46     "t",            ///< timestamp expressed in seconds
47     NULL
48 };
49
50 enum var_name {
51     VAR_E,
52     VAR_PHI,
53     VAR_PI,
54     VAR_IN_W,  VAR_IW,
55     VAR_IN_H,  VAR_IH,
56     VAR_OUT_W, VAR_OW,
57     VAR_OUT_H, VAR_OH,
58     VAR_X,
59     VAR_Y,
60     VAR_N,
61     VAR_POS,
62     VAR_T,
63     VAR_VARS_NB
64 };
65
66 typedef struct {
67     int  x;             ///< x offset of the non-cropped area with respect to the input area
68     int  y;             ///< y offset of the non-cropped area with respect to the input area
69     int  w;             ///< width of the cropped area
70     int  h;             ///< height of the cropped area
71
72     int max_step[4];    ///< max pixel step for each plane, expressed as a number of bytes
73     int hsub, vsub;     ///< chroma subsampling
74     char x_expr[256], y_expr[256], ow_expr[256], oh_expr[256];
75     AVExpr *x_pexpr, *y_pexpr;  /* parsed expressions for x and y */
76     double var_values[VAR_VARS_NB];
77 } CropContext;
78
79 static int query_formats(AVFilterContext *ctx)
80 {
81     static const enum PixelFormat pix_fmts[] = {
82         PIX_FMT_RGB48BE,      PIX_FMT_RGB48LE,
83         PIX_FMT_BGR48BE,      PIX_FMT_BGR48LE,
84         PIX_FMT_ARGB,         PIX_FMT_RGBA,
85         PIX_FMT_ABGR,         PIX_FMT_BGRA,
86         PIX_FMT_RGB24,        PIX_FMT_BGR24,
87         PIX_FMT_RGB565BE,     PIX_FMT_RGB565LE,
88         PIX_FMT_RGB555BE,     PIX_FMT_RGB555LE,
89         PIX_FMT_BGR565BE,     PIX_FMT_BGR565LE,
90         PIX_FMT_BGR555BE,     PIX_FMT_BGR555LE,
91         PIX_FMT_GRAY16BE,     PIX_FMT_GRAY16LE,
92         PIX_FMT_YUV420P16LE,  PIX_FMT_YUV420P16BE,
93         PIX_FMT_YUV422P16LE,  PIX_FMT_YUV422P16BE,
94         PIX_FMT_YUV444P16LE,  PIX_FMT_YUV444P16BE,
95         PIX_FMT_YUV444P,      PIX_FMT_YUV422P,
96         PIX_FMT_YUV420P,      PIX_FMT_YUV411P,
97         PIX_FMT_YUV410P,      PIX_FMT_YUV440P,
98         PIX_FMT_YUVJ444P,     PIX_FMT_YUVJ422P,
99         PIX_FMT_YUVJ420P,     PIX_FMT_YUVJ440P,
100         PIX_FMT_YUVA420P,
101         PIX_FMT_RGB8,         PIX_FMT_BGR8,
102         PIX_FMT_RGB4_BYTE,    PIX_FMT_BGR4_BYTE,
103         PIX_FMT_PAL8,         PIX_FMT_GRAY8,
104         PIX_FMT_NONE
105     };
106
107     avfilter_set_common_formats(ctx, avfilter_make_format_list(pix_fmts));
108
109     return 0;
110 }
111
112 static av_cold int init(AVFilterContext *ctx, const char *args, void *opaque)
113 {
114     CropContext *crop = ctx->priv;
115
116     av_strlcpy(crop->ow_expr, "iw", sizeof(crop->ow_expr));
117     av_strlcpy(crop->oh_expr, "ih", sizeof(crop->oh_expr));
118     av_strlcpy(crop->x_expr, "(in_w-out_w)/2", sizeof(crop->x_expr));
119     av_strlcpy(crop->y_expr, "(in_h-out_h)/2", sizeof(crop->y_expr));
120
121     if (args)
122         sscanf(args, "%255[^:]:%255[^:]:%255[^:]:%255[^:]", crop->ow_expr, crop->oh_expr, crop->x_expr, crop->y_expr);
123
124     return 0;
125 }
126
127 static av_cold void uninit(AVFilterContext *ctx)
128 {
129     CropContext *crop = ctx->priv;
130
131     av_expr_free(crop->x_pexpr); crop->x_pexpr = NULL;
132     av_expr_free(crop->y_pexpr); crop->y_pexpr = NULL;
133 }
134
135 static inline int normalize_double(int *n, double d)
136 {
137     int ret = 0;
138
139     if (isnan(d)) {
140         ret = AVERROR(EINVAL);
141     } else if (d > INT_MAX || d < INT_MIN) {
142         *n = d > INT_MAX ? INT_MAX : INT_MIN;
143         ret = AVERROR(EINVAL);
144     } else
145         *n = round(d);
146
147     return ret;
148 }
149
150 static int config_input(AVFilterLink *link)
151 {
152     AVFilterContext *ctx = link->dst;
153     CropContext *crop = ctx->priv;
154     const AVPixFmtDescriptor *pix_desc = &av_pix_fmt_descriptors[link->format];
155     int ret;
156     const char *expr;
157     double res;
158
159     crop->var_values[VAR_E]     = M_E;
160     crop->var_values[VAR_PHI]   = M_PHI;
161     crop->var_values[VAR_PI]    = M_PI;
162     crop->var_values[VAR_IN_W]  = crop->var_values[VAR_IW] = ctx->inputs[0]->w;
163     crop->var_values[VAR_IN_H]  = crop->var_values[VAR_IH] = ctx->inputs[0]->h;
164     crop->var_values[VAR_X]     = NAN;
165     crop->var_values[VAR_Y]     = NAN;
166     crop->var_values[VAR_OUT_W] = crop->var_values[VAR_OW] = NAN;
167     crop->var_values[VAR_OUT_H] = crop->var_values[VAR_OH] = NAN;
168     crop->var_values[VAR_N]     = 0;
169     crop->var_values[VAR_T]     = NAN;
170     crop->var_values[VAR_POS]   = NAN;
171
172     av_image_fill_max_pixsteps(crop->max_step, NULL, pix_desc);
173     crop->hsub = av_pix_fmt_descriptors[link->format].log2_chroma_w;
174     crop->vsub = av_pix_fmt_descriptors[link->format].log2_chroma_h;
175
176     if ((ret = av_expr_parse_and_eval(&res, (expr = crop->ow_expr),
177                                       var_names, crop->var_values,
178                                       NULL, NULL, NULL, NULL, NULL, 0, ctx)) < 0) goto fail_expr;
179     crop->var_values[VAR_OUT_W] = crop->var_values[VAR_OW] = res;
180     if ((ret = av_expr_parse_and_eval(&res, (expr = crop->oh_expr),
181                                       var_names, crop->var_values,
182                                       NULL, NULL, NULL, NULL, NULL, 0, ctx)) < 0) goto fail_expr;
183     crop->var_values[VAR_OUT_H] = crop->var_values[VAR_OH] = res;
184     /* evaluate again ow as it may depend on oh */
185     if ((ret = av_expr_parse_and_eval(&res, (expr = crop->ow_expr),
186                                       var_names, crop->var_values,
187                                       NULL, NULL, NULL, NULL, NULL, 0, ctx)) < 0) goto fail_expr;
188     crop->var_values[VAR_OUT_W] = crop->var_values[VAR_OW] = res;
189     if (normalize_double(&crop->w, crop->var_values[VAR_OUT_W]) < 0 ||
190         normalize_double(&crop->h, crop->var_values[VAR_OUT_H]) < 0) {
191         av_log(ctx, AV_LOG_ERROR,
192                "Too big value or invalid expression for out_w/ow or out_h/oh. "
193                "Maybe the expression for out_w:'%s' or for out_h:'%s' is self-referencing.\n",
194                crop->ow_expr, crop->oh_expr);
195         return AVERROR(EINVAL);
196     }
197     crop->w &= ~((1 << crop->hsub) - 1);
198     crop->h &= ~((1 << crop->vsub) - 1);
199
200     if ((ret = av_expr_parse(&crop->x_pexpr, crop->x_expr, var_names,
201                              NULL, NULL, NULL, NULL, 0, ctx)) < 0 ||
202         (ret = av_expr_parse(&crop->y_pexpr, crop->y_expr, var_names,
203                              NULL, NULL, NULL, NULL, 0, ctx)) < 0)
204         return AVERROR(EINVAL);
205
206     av_log(ctx, AV_LOG_INFO, "w:%d h:%d -> w:%d h:%d\n",
207            link->w, link->h, crop->w, crop->h);
208
209     if (crop->w <= 0 || crop->h <= 0 ||
210         crop->w > link->w || crop->h > link->h) {
211         av_log(ctx, AV_LOG_ERROR,
212                "Invalid too big or non positive size for width '%d' or height '%d'\n",
213                crop->w, crop->h);
214         return AVERROR(EINVAL);
215     }
216
217     /* set default, required in the case the first computed value for x/y is NAN */
218     crop->x = (link->w - crop->w) / 2;
219     crop->y = (link->h - crop->h) / 2;
220     crop->x &= ~((1 << crop->hsub) - 1);
221     crop->y &= ~((1 << crop->vsub) - 1);
222     return 0;
223
224 fail_expr:
225     av_log(NULL, AV_LOG_ERROR, "Error when evaluating the expression '%s'\n", expr);
226     return ret;
227 }
228
229 static int config_output(AVFilterLink *link)
230 {
231     CropContext *crop = link->src->priv;
232
233     link->w = crop->w;
234     link->h = crop->h;
235
236     return 0;
237 }
238
239 static void start_frame(AVFilterLink *link, AVFilterBufferRef *picref)
240 {
241     AVFilterContext *ctx = link->dst;
242     CropContext *crop = ctx->priv;
243     AVFilterBufferRef *ref2;
244     int i;
245
246     ref2 = avfilter_ref_buffer(picref, ~0);
247     ref2->video->w = crop->w;
248     ref2->video->h = crop->h;
249
250     crop->var_values[VAR_T] = picref->pts == AV_NOPTS_VALUE ?
251         NAN : picref->pts * av_q2d(link->time_base);
252     crop->var_values[VAR_POS] = picref->pos == -1 ? NAN : picref->pos;
253     crop->var_values[VAR_X] = av_expr_eval(crop->x_pexpr, crop->var_values, NULL);
254     crop->var_values[VAR_Y] = av_expr_eval(crop->y_pexpr, crop->var_values, NULL);
255     crop->var_values[VAR_X] = av_expr_eval(crop->x_pexpr, crop->var_values, NULL);
256
257     normalize_double(&crop->x, crop->var_values[VAR_X]);
258     normalize_double(&crop->y, crop->var_values[VAR_Y]);
259
260     if (crop->x < 0) crop->x = 0;
261     if (crop->y < 0) crop->y = 0;
262     if ((unsigned)crop->x + (unsigned)crop->w > link->w) crop->x = link->w - crop->w;
263     if ((unsigned)crop->y + (unsigned)crop->h > link->h) crop->y = link->h - crop->h;
264     crop->x &= ~((1 << crop->hsub) - 1);
265     crop->y &= ~((1 << crop->vsub) - 1);
266
267 #ifdef DEBUG
268     av_log(ctx, AV_LOG_DEBUG,
269            "n:%d t:%f x:%d y:%d x+w:%d y+h:%d\n",
270            (int)crop->var_values[VAR_N], crop->var_values[VAR_T], crop->x, crop->y, crop->x+crop->w, crop->y+crop->h);
271 #endif
272
273     ref2->data[0] += crop->y * ref2->linesize[0];
274     ref2->data[0] += crop->x * crop->max_step[0];
275
276     if (!(av_pix_fmt_descriptors[link->format].flags & PIX_FMT_PAL)) {
277         for (i = 1; i < 3; i ++) {
278             if (ref2->data[i]) {
279                 ref2->data[i] += (crop->y >> crop->vsub) * ref2->linesize[i];
280                 ref2->data[i] += (crop->x * crop->max_step[i]) >> crop->hsub;
281             }
282         }
283     }
284
285     /* alpha plane */
286     if (ref2->data[3]) {
287         ref2->data[3] += crop->y * ref2->linesize[3];
288         ref2->data[3] += crop->x * crop->max_step[3];
289     }
290
291     avfilter_start_frame(link->dst->outputs[0], ref2);
292 }
293
294 static void draw_slice(AVFilterLink *link, int y, int h, int slice_dir)
295 {
296     AVFilterContext *ctx = link->dst;
297     CropContext *crop = ctx->priv;
298
299     if (y >= crop->y + crop->h || y + h <= crop->y)
300         return;
301
302     if (y < crop->y) {
303         h -= crop->y - y;
304         y  = crop->y;
305     }
306     if (y + h > crop->y + crop->h)
307         h = crop->y + crop->h - y;
308
309     avfilter_draw_slice(ctx->outputs[0], y - crop->y, h, slice_dir);
310 }
311
312 static void end_frame(AVFilterLink *link)
313 {
314     CropContext *crop = link->dst->priv;
315
316     crop->var_values[VAR_N] += 1.0;
317     avfilter_unref_buffer(link->cur_buf);
318     avfilter_end_frame(link->dst->outputs[0]);
319 }
320
321 AVFilter avfilter_vf_crop = {
322     .name      = "crop",
323     .description = NULL_IF_CONFIG_SMALL("Crop the input video to width:height:x:y."),
324
325     .priv_size = sizeof(CropContext),
326
327     .query_formats = query_formats,
328     .init          = init,
329     .uninit        = uninit,
330
331     .inputs    = (AVFilterPad[]) {{ .name             = "default",
332                                     .type             = AVMEDIA_TYPE_VIDEO,
333                                     .start_frame      = start_frame,
334                                     .draw_slice       = draw_slice,
335                                     .end_frame        = end_frame,
336                                     .get_video_buffer = avfilter_null_get_video_buffer,
337                                     .config_props     = config_input, },
338                                   { .name = NULL}},
339     .outputs   = (AVFilterPad[]) {{ .name             = "default",
340                                     .type             = AVMEDIA_TYPE_VIDEO,
341                                     .config_props     = config_output, },
342                                   { .name = NULL}},
343 };