lavfi/hue: set to NULL freed pointers
[ffmpeg.git] / libavfilter / vf_hue.c
1 /*
2  * Copyright (c) 2003 Michael Niedermayer
3  * Copyright (c) 2012 Jeremy Tran
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU General Public License as published by
9  * the Free Software Foundation; either version 2 of the License, or
10  * (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15  * GNU General Public License for more details.
16  *
17  * You should have received a copy of the GNU General Public License along
18  * with FFmpeg; if not, write to the Free Software Foundation, Inc.,
19  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
20  */
21
22 /**
23  * @file
24  * Apply a hue/saturation filter to the input video
25  * Ported from MPlayer libmpcodecs/vf_hue.c.
26  */
27
28 #include <float.h>
29 #include "libavutil/eval.h"
30 #include "libavutil/imgutils.h"
31 #include "libavutil/opt.h"
32 #include "libavutil/pixdesc.h"
33
34 #include "avfilter.h"
35 #include "formats.h"
36 #include "internal.h"
37 #include "video.h"
38
39 #define HUE_DEFAULT_VAL 0
40 #define SAT_DEFAULT_VAL 1
41
42 #define HUE_DEFAULT_VAL_STRING AV_STRINGIFY(HUE_DEFAULT_VAL)
43 #define SAT_DEFAULT_VAL_STRING AV_STRINGIFY(SAT_DEFAULT_VAL)
44
45 #define SAT_MIN_VAL -10
46 #define SAT_MAX_VAL 10
47
48 static const char *const var_names[] = {
49     "n",   // frame count
50     "pts", // presentation timestamp expressed in AV_TIME_BASE units
51     "r",   // frame rate
52     "t",   // timestamp expressed in seconds
53     "tb",  // timebase
54     NULL
55 };
56
57 enum var_name {
58     VAR_N,
59     VAR_PTS,
60     VAR_R,
61     VAR_T,
62     VAR_TB,
63     VAR_NB
64 };
65
66 typedef struct {
67     const    AVClass *class;
68     float    hue_deg; /* hue expressed in degrees */
69     float    hue; /* hue expressed in radians */
70     char     *hue_deg_expr;
71     char     *hue_expr;
72     AVExpr   *hue_deg_pexpr;
73     AVExpr   *hue_pexpr;
74     float    saturation;
75     char     *saturation_expr;
76     AVExpr   *saturation_pexpr;
77     int      hsub;
78     int      vsub;
79     int32_t hue_sin;
80     int32_t hue_cos;
81     int      flat_syntax;
82     double   var_values[VAR_NB];
83 } HueContext;
84
85 #define OFFSET(x) offsetof(HueContext, x)
86 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM|AV_OPT_FLAG_FILTERING_PARAM
87 static const AVOption hue_options[] = {
88     { "h", "set the hue angle degrees expression", OFFSET(hue_deg_expr), AV_OPT_TYPE_STRING,
89       { .str = NULL }, .flags = FLAGS },
90     { "H", "set the hue angle radians expression", OFFSET(hue_expr), AV_OPT_TYPE_STRING,
91       { .str = NULL }, .flags = FLAGS },
92     { "s", "set the saturation expression", OFFSET(saturation_expr), AV_OPT_TYPE_STRING,
93       { .str = NULL }, .flags = FLAGS },
94     { NULL }
95 };
96
97 AVFILTER_DEFINE_CLASS(hue);
98
99 static inline void compute_sin_and_cos(HueContext *hue)
100 {
101     /*
102      * Scale the value to the norm of the resulting (U,V) vector, that is
103      * the saturation.
104      * This will be useful in the process_chrominance function.
105      */
106     hue->hue_sin = rint(sin(hue->hue) * (1 << 16) * hue->saturation);
107     hue->hue_cos = rint(cos(hue->hue) * (1 << 16) * hue->saturation);
108 }
109
110 #define PARSE_EXPRESSION(attr, name)                                              \
111     do {                                                                          \
112         if ((ret = av_expr_parse(&hue->attr##_pexpr, hue->attr##_expr, var_names, \
113                                  NULL, NULL, NULL, NULL, 0, ctx)) < 0) {          \
114             av_log(ctx, AV_LOG_ERROR,                                             \
115                    "Parsing failed for expression " #name "='%s'",                \
116                    hue->attr##_expr);                                             \
117             hue->attr##_expr  = old_##attr##_expr;                                \
118             hue->attr##_pexpr = old_##attr##_pexpr;                               \
119             return AVERROR(EINVAL);                                               \
120         } else if (old_##attr##_pexpr) {                                          \
121             av_freep(&old_##attr##_expr);                                         \
122             av_expr_free(old_##attr##_pexpr);                                     \
123             old_##attr##_pexpr = NULL;                                            \
124         }                                                                         \
125     } while (0)
126
127 static inline int set_options(AVFilterContext *ctx, const char *args)
128 {
129     HueContext *hue = ctx->priv;
130     int n, ret;
131     char c1 = 0, c2 = 0;
132     char   *old_hue_expr,  *old_hue_deg_expr,  *old_saturation_expr;
133     AVExpr *old_hue_pexpr, *old_hue_deg_pexpr, *old_saturation_pexpr;
134
135     if (args) {
136         /* named options syntax */
137         if (strchr(args, '=')) {
138             old_hue_expr        = hue->hue_expr;
139             old_hue_deg_expr    = hue->hue_deg_expr;
140             old_saturation_expr = hue->saturation_expr;
141
142             old_hue_pexpr        = hue->hue_pexpr;
143             old_hue_deg_pexpr    = hue->hue_deg_pexpr;
144             old_saturation_pexpr = hue->saturation_pexpr;
145
146             hue->hue_expr     = NULL;
147             hue->hue_deg_expr = NULL;
148             hue->saturation_expr = NULL;
149
150             if ((ret = av_set_options_string(hue, args, "=", ":")) < 0)
151                 return ret;
152             if (hue->hue_expr && hue->hue_deg_expr) {
153                 av_log(ctx, AV_LOG_ERROR,
154                        "H and h options are incompatible and cannot be specified "
155                        "at the same time\n");
156                 hue->hue_expr     = old_hue_expr;
157                 hue->hue_deg_expr = old_hue_deg_expr;
158
159                 return AVERROR(EINVAL);
160             }
161
162             /*
163              * if both 'H' and 'h' options have not been specified, restore the
164              * old values
165              */
166             if (!hue->hue_expr && !hue->hue_deg_expr) {
167                 hue->hue_expr     = old_hue_expr;
168                 hue->hue_deg_expr = old_hue_deg_expr;
169             }
170
171             if (hue->hue_deg_expr)
172                 PARSE_EXPRESSION(hue_deg, h);
173             if (hue->hue_expr)
174                 PARSE_EXPRESSION(hue, H);
175             if (hue->saturation_expr)
176                 PARSE_EXPRESSION(saturation, s);
177
178             hue->flat_syntax = 0;
179
180             av_log(ctx, AV_LOG_VERBOSE,
181                    "H_expr:%s h_deg_expr:%s s_expr:%s\n",
182                    hue->hue_expr, hue->hue_deg_expr, hue->saturation_expr);
183
184         /* compatibility h:s syntax */
185         } else {
186             n = sscanf(args, "%f%c%f%c", &hue->hue_deg, &c1, &hue->saturation, &c2);
187             if (n != 1 && (n != 3 || c1 != ':')) {
188                 av_log(ctx, AV_LOG_ERROR,
189                        "Invalid syntax for argument '%s': "
190                        "must be in the form 'hue[:saturation]'\n", args);
191                 return AVERROR(EINVAL);
192             }
193
194             if (hue->saturation < SAT_MIN_VAL || hue->saturation > SAT_MAX_VAL) {
195                 av_log(ctx, AV_LOG_ERROR,
196                        "Invalid value for saturation %0.1f: "
197                        "must be included between range %d and +%d\n",
198                        hue->saturation, SAT_MIN_VAL, SAT_MAX_VAL);
199                 return AVERROR(EINVAL);
200             }
201
202             hue->hue = hue->hue_deg * M_PI / 180;
203             hue->flat_syntax = 1;
204
205             av_log(ctx, AV_LOG_VERBOSE,
206                    "H:%0.1f h:%0.1f s:%0.1f\n",
207                    hue->hue, hue->hue_deg, hue->saturation);
208         }
209     }
210
211     compute_sin_and_cos(hue);
212
213     return 0;
214 }
215
216 static av_cold int init(AVFilterContext *ctx, const char *args)
217 {
218     HueContext *hue = ctx->priv;
219
220     hue->class = &hue_class;
221     av_opt_set_defaults(hue);
222
223     hue->saturation    = SAT_DEFAULT_VAL;
224     hue->hue           = HUE_DEFAULT_VAL;
225     hue->hue_deg_pexpr = NULL;
226     hue->hue_pexpr     = NULL;
227     hue->flat_syntax   = 1;
228
229     return set_options(ctx, args);
230 }
231
232 static av_cold void uninit(AVFilterContext *ctx)
233 {
234     HueContext *hue = ctx->priv;
235
236     av_opt_free(hue);
237
238     av_free(hue->hue_deg_expr);
239     av_expr_free(hue->hue_deg_pexpr);
240     av_free(hue->hue_expr);
241     av_expr_free(hue->hue_pexpr);
242     av_free(hue->saturation_expr);
243     av_expr_free(hue->saturation_pexpr);
244 }
245
246 static int query_formats(AVFilterContext *ctx)
247 {
248     static const enum PixelFormat pix_fmts[] = {
249         PIX_FMT_YUV444P,      PIX_FMT_YUV422P,
250         PIX_FMT_YUV420P,      PIX_FMT_YUV411P,
251         PIX_FMT_YUV410P,      PIX_FMT_YUV440P,
252         PIX_FMT_YUVA420P,
253         PIX_FMT_NONE
254     };
255
256     ff_set_common_formats(ctx, ff_make_format_list(pix_fmts));
257
258     return 0;
259 }
260
261 static int config_props(AVFilterLink *inlink)
262 {
263     HueContext *hue = inlink->dst->priv;
264     const AVPixFmtDescriptor *desc = &av_pix_fmt_descriptors[inlink->format];
265
266     hue->hsub = desc->log2_chroma_w;
267     hue->vsub = desc->log2_chroma_h;
268
269     hue->var_values[VAR_N]  = 0;
270     hue->var_values[VAR_TB] = av_q2d(inlink->time_base);
271     hue->var_values[VAR_R]  = inlink->frame_rate.num == 0 || inlink->frame_rate.den == 0 ?
272         NAN : av_q2d(inlink->frame_rate);
273
274     return 0;
275 }
276
277 static void process_chrominance(uint8_t *udst, uint8_t *vdst, const int dst_linesize,
278                                 uint8_t *usrc, uint8_t *vsrc, const int src_linesize,
279                                 int w, int h,
280                                 const int32_t c, const int32_t s)
281 {
282     int32_t u, v, new_u, new_v;
283     int i;
284
285     /*
286      * If we consider U and V as the components of a 2D vector then its angle
287      * is the hue and the norm is the saturation
288      */
289     while (h--) {
290         for (i = 0; i < w; i++) {
291             /* Normalize the components from range [16;140] to [-112;112] */
292             u = usrc[i] - 128;
293             v = vsrc[i] - 128;
294             /*
295              * Apply the rotation of the vector : (c * u) - (s * v)
296              *                                    (s * u) + (c * v)
297              * De-normalize the components (without forgetting to scale 128
298              * by << 16)
299              * Finally scale back the result by >> 16
300              */
301             new_u = ((c * u) - (s * v) + (1 << 15) + (128 << 16)) >> 16;
302             new_v = ((s * u) + (c * v) + (1 << 15) + (128 << 16)) >> 16;
303
304             /* Prevent a potential overflow */
305             udst[i] = av_clip_uint8_c(new_u);
306             vdst[i] = av_clip_uint8_c(new_v);
307         }
308
309         usrc += src_linesize;
310         vsrc += src_linesize;
311         udst += dst_linesize;
312         vdst += dst_linesize;
313     }
314 }
315
316 #define TS2D(ts) ((ts) == AV_NOPTS_VALUE ? NAN : (double)(ts))
317 #define TS2T(ts, tb) ((ts) == AV_NOPTS_VALUE ? NAN : (double)(ts) * av_q2d(tb))
318
319 static int start_frame(AVFilterLink *inlink, AVFilterBufferRef *inpic)
320 {
321     HueContext *hue = inlink->dst->priv;
322     AVFilterLink *outlink = inlink->dst->outputs[0];
323     AVFilterBufferRef *buf_out;
324
325     outlink->out_buf = ff_get_video_buffer(outlink, AV_PERM_WRITE, outlink->w, outlink->h);
326     if (!outlink->out_buf)
327         return AVERROR(ENOMEM);
328
329     avfilter_copy_buffer_ref_props(outlink->out_buf, inpic);
330     outlink->out_buf->video->w = outlink->w;
331     outlink->out_buf->video->h = outlink->h;
332     buf_out = avfilter_ref_buffer(outlink->out_buf, ~0);
333     if (!buf_out)
334         return AVERROR(ENOMEM);
335
336     if (!hue->flat_syntax) {
337         hue->var_values[VAR_T]   = TS2T(inpic->pts, inlink->time_base);
338         hue->var_values[VAR_PTS] = TS2D(inpic->pts);
339
340         if (hue->saturation_expr) {
341             hue->saturation = av_expr_eval(hue->saturation_pexpr, hue->var_values, NULL);
342
343             if (hue->saturation < SAT_MIN_VAL || hue->saturation > SAT_MAX_VAL) {
344                 hue->saturation = av_clip(hue->saturation, SAT_MIN_VAL, SAT_MAX_VAL);
345                 av_log(inlink->dst, AV_LOG_WARNING,
346                        "Saturation value not in range [%d,%d]: clipping value to %0.1f\n",
347                        SAT_MIN_VAL, SAT_MAX_VAL, hue->saturation);
348             }
349         }
350
351         if (hue->hue_deg_expr) {
352             hue->hue_deg = av_expr_eval(hue->hue_deg_pexpr, hue->var_values, NULL);
353             hue->hue = hue->hue_deg * M_PI / 180;
354         } else if (hue->hue_expr) {
355             hue->hue = av_expr_eval(hue->hue_pexpr, hue->var_values, NULL);
356         }
357
358         av_log(inlink->dst, AV_LOG_DEBUG,
359                "H:%0.1f s:%0.f t:%0.1f n:%d\n",
360                hue->hue, hue->saturation,
361                hue->var_values[VAR_T], (int)hue->var_values[VAR_N]);
362
363         compute_sin_and_cos(hue);
364     }
365
366     hue->var_values[VAR_N] += 1;
367
368     return ff_start_frame(outlink, buf_out);
369 }
370
371 static int draw_slice(AVFilterLink *inlink, int y, int h, int slice_dir)
372 {
373     HueContext        *hue    = inlink->dst->priv;
374     AVFilterBufferRef *inpic  = inlink->cur_buf;
375     AVFilterBufferRef *outpic = inlink->dst->outputs[0]->out_buf;
376     uint8_t *inrow[3], *outrow[3]; // 0 : Y, 1 : U, 2 : V
377     int plane;
378
379     inrow[0]  = inpic->data[0]  + y * inpic->linesize[0];
380     outrow[0] = outpic->data[0] + y * outpic->linesize[0];
381
382     for (plane = 1; plane < 3; plane++) {
383         inrow[plane]  = inpic->data[plane]  + (y >> hue->vsub) * inpic->linesize[plane];
384         outrow[plane] = outpic->data[plane] + (y >> hue->vsub) * outpic->linesize[plane];
385     }
386
387     av_image_copy_plane(outrow[0], outpic->linesize[0],
388                         inrow[0],  inpic->linesize[0],
389                         inlink->w, inlink->h);
390
391     process_chrominance(outrow[1], outrow[2], outpic->linesize[1],
392                         inrow[1], inrow[2], inpic->linesize[1],
393                         inlink->w >> hue->hsub, inlink->h >> hue->vsub,
394                         hue->hue_cos, hue->hue_sin);
395
396     return ff_draw_slice(inlink->dst->outputs[0], y, h, slice_dir);
397 }
398
399 static int process_command(AVFilterContext *ctx, const char *cmd, const char *args,
400                            char *res, int res_len, int flags)
401 {
402     if (!strcmp(cmd, "reinit"))
403         return set_options(ctx, args);
404     else
405         return AVERROR(ENOSYS);
406 }
407
408 AVFilter avfilter_vf_hue = {
409     .name        = "hue",
410     .description = NULL_IF_CONFIG_SMALL("Adjust the hue and saturation of the input video."),
411
412     .priv_size = sizeof(HueContext),
413
414     .init          = init,
415     .uninit        = uninit,
416     .query_formats = query_formats,
417     .process_command = process_command,
418
419     .inputs = (const AVFilterPad[]) {
420         {
421             .name         = "default",
422             .type         = AVMEDIA_TYPE_VIDEO,
423             .start_frame  = start_frame,
424             .draw_slice   = draw_slice,
425             .config_props = config_props,
426             .min_perms    = AV_PERM_READ,
427         },
428         { .name = NULL }
429     },
430     .outputs = (const AVFilterPad[]) {
431         {
432             .name         = "default",
433             .type         = AVMEDIA_TYPE_VIDEO,
434         },
435         { .name = NULL }
436     },
437     .priv_class = &hue_class,
438 };