lavfi/hue: fix crash when resetting the saturation expression
[ffmpeg.git] / libavfilter / vf_hue.c
1 /*
2  * Copyright (c) 2003 Michael Niedermayer
3  * Copyright (c) 2012 Jeremy Tran
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU General Public License as published by
9  * the Free Software Foundation; either version 2 of the License, or
10  * (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15  * GNU General Public License for more details.
16  *
17  * You should have received a copy of the GNU General Public License along
18  * with FFmpeg; if not, write to the Free Software Foundation, Inc.,
19  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
20  */
21
22 /**
23  * @file
24  * Apply a hue/saturation filter to the input video
25  * Ported from MPlayer libmpcodecs/vf_hue.c.
26  */
27
28 #include <float.h>
29 #include "libavutil/eval.h"
30 #include "libavutil/imgutils.h"
31 #include "libavutil/opt.h"
32 #include "libavutil/pixdesc.h"
33
34 #include "avfilter.h"
35 #include "formats.h"
36 #include "internal.h"
37 #include "video.h"
38
39 #define HUE_DEFAULT_VAL 0
40 #define SAT_DEFAULT_VAL 1
41
42 #define HUE_DEFAULT_VAL_STRING AV_STRINGIFY(HUE_DEFAULT_VAL)
43 #define SAT_DEFAULT_VAL_STRING AV_STRINGIFY(SAT_DEFAULT_VAL)
44
45 #define SAT_MIN_VAL -10
46 #define SAT_MAX_VAL 10
47
48 static const char *const var_names[] = {
49     "n",   // frame count
50     "pts", // presentation timestamp expressed in AV_TIME_BASE units
51     "r",   // frame rate
52     "t",   // timestamp expressed in seconds
53     "tb",  // timebase
54     NULL
55 };
56
57 enum var_name {
58     VAR_N,
59     VAR_PTS,
60     VAR_R,
61     VAR_T,
62     VAR_TB,
63     VAR_NB
64 };
65
66 typedef struct {
67     const    AVClass *class;
68     float    hue_deg; /* hue expressed in degrees */
69     float    hue; /* hue expressed in radians */
70     char     *hue_deg_expr;
71     char     *hue_expr;
72     AVExpr   *hue_deg_pexpr;
73     AVExpr   *hue_pexpr;
74     float    saturation;
75     char     *saturation_expr;
76     AVExpr   *saturation_pexpr;
77     int      hsub;
78     int      vsub;
79     int32_t hue_sin;
80     int32_t hue_cos;
81     int      flat_syntax;
82     double   var_values[VAR_NB];
83 } HueContext;
84
85 #define OFFSET(x) offsetof(HueContext, x)
86 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM|AV_OPT_FLAG_FILTERING_PARAM
87 static const AVOption hue_options[] = {
88     { "h", "set the hue angle degrees expression", OFFSET(hue_deg_expr), AV_OPT_TYPE_STRING,
89       { .str = NULL }, .flags = FLAGS },
90     { "H", "set the hue angle radians expression", OFFSET(hue_expr), AV_OPT_TYPE_STRING,
91       { .str = NULL }, .flags = FLAGS },
92     { "s", "set the saturation expression", OFFSET(saturation_expr), AV_OPT_TYPE_STRING,
93       { .str = NULL }, .flags = FLAGS },
94     { NULL }
95 };
96
97 AVFILTER_DEFINE_CLASS(hue);
98
99 static inline void compute_sin_and_cos(HueContext *hue)
100 {
101     /*
102      * Scale the value to the norm of the resulting (U,V) vector, that is
103      * the saturation.
104      * This will be useful in the process_chrominance function.
105      */
106     hue->hue_sin = rint(sin(hue->hue) * (1 << 16) * hue->saturation);
107     hue->hue_cos = rint(cos(hue->hue) * (1 << 16) * hue->saturation);
108 }
109
110 #define PARSE_EXPRESSION(attr, name)                                              \
111     do {                                                                          \
112         if ((ret = av_expr_parse(&hue->attr##_pexpr, hue->attr##_expr, var_names, \
113                                  NULL, NULL, NULL, NULL, 0, ctx)) < 0) {          \
114             av_log(ctx, AV_LOG_ERROR,                                             \
115                    "Parsing failed for expression " #name "='%s'",                \
116                    hue->attr##_expr);                                             \
117             hue->attr##_expr  = old_##attr##_expr;                                \
118             hue->attr##_pexpr = old_##attr##_pexpr;                               \
119             return AVERROR(EINVAL);                                               \
120         } else if (old_##attr##_pexpr) {                                          \
121             av_free(old_##attr##_expr);                                           \
122             av_expr_free(old_##attr##_pexpr);                                     \
123         }                                                                         \
124     } while (0)
125
126 static inline int set_options(AVFilterContext *ctx, const char *args)
127 {
128     HueContext *hue = ctx->priv;
129     int n, ret;
130     char c1 = 0, c2 = 0;
131     char   *old_hue_expr,  *old_hue_deg_expr,  *old_saturation_expr;
132     AVExpr *old_hue_pexpr, *old_hue_deg_pexpr, *old_saturation_pexpr;
133
134     if (args) {
135         /* named options syntax */
136         if (strchr(args, '=')) {
137             old_hue_expr        = hue->hue_expr;
138             old_hue_deg_expr    = hue->hue_deg_expr;
139             old_saturation_expr = hue->saturation_expr;
140
141             old_hue_pexpr        = hue->hue_pexpr;
142             old_hue_deg_pexpr    = hue->hue_deg_pexpr;
143             old_saturation_pexpr = hue->saturation_pexpr;
144
145             hue->hue_expr     = NULL;
146             hue->hue_deg_expr = NULL;
147             hue->saturation_expr = NULL;
148
149             if ((ret = av_set_options_string(hue, args, "=", ":")) < 0)
150                 return ret;
151             if (hue->hue_expr && hue->hue_deg_expr) {
152                 av_log(ctx, AV_LOG_ERROR,
153                        "H and h options are incompatible and cannot be specified "
154                        "at the same time\n");
155                 hue->hue_expr     = old_hue_expr;
156                 hue->hue_deg_expr = old_hue_deg_expr;
157
158                 return AVERROR(EINVAL);
159             }
160
161             /*
162              * if both 'H' and 'h' options have not been specified, restore the
163              * old values
164              */
165             if (!hue->hue_expr && !hue->hue_deg_expr) {
166                 hue->hue_expr     = old_hue_expr;
167                 hue->hue_deg_expr = old_hue_deg_expr;
168             }
169
170             if (hue->hue_deg_expr)
171                 PARSE_EXPRESSION(hue_deg, h);
172             if (hue->hue_expr)
173                 PARSE_EXPRESSION(hue, H);
174             if (hue->saturation_expr)
175                 PARSE_EXPRESSION(saturation, s);
176
177             hue->flat_syntax = 0;
178
179             av_log(ctx, AV_LOG_VERBOSE,
180                    "H_expr:%s h_deg_expr:%s s_expr:%s\n",
181                    hue->hue_expr, hue->hue_deg_expr, hue->saturation_expr);
182
183         /* compatibility h:s syntax */
184         } else {
185             n = sscanf(args, "%f%c%f%c", &hue->hue_deg, &c1, &hue->saturation, &c2);
186             if (n != 1 && (n != 3 || c1 != ':')) {
187                 av_log(ctx, AV_LOG_ERROR,
188                        "Invalid syntax for argument '%s': "
189                        "must be in the form 'hue[:saturation]'\n", args);
190                 return AVERROR(EINVAL);
191             }
192
193             if (hue->saturation < SAT_MIN_VAL || hue->saturation > SAT_MAX_VAL) {
194                 av_log(ctx, AV_LOG_ERROR,
195                        "Invalid value for saturation %0.1f: "
196                        "must be included between range %d and +%d\n",
197                        hue->saturation, SAT_MIN_VAL, SAT_MAX_VAL);
198                 return AVERROR(EINVAL);
199             }
200
201             hue->hue = hue->hue_deg * M_PI / 180;
202             hue->flat_syntax = 1;
203
204             av_log(ctx, AV_LOG_VERBOSE,
205                    "H:%0.1f h:%0.1f s:%0.1f\n",
206                    hue->hue, hue->hue_deg, hue->saturation);
207         }
208     }
209
210     compute_sin_and_cos(hue);
211
212     return 0;
213 }
214
215 static av_cold int init(AVFilterContext *ctx, const char *args)
216 {
217     HueContext *hue = ctx->priv;
218
219     hue->class = &hue_class;
220     av_opt_set_defaults(hue);
221
222     hue->saturation    = SAT_DEFAULT_VAL;
223     hue->hue           = HUE_DEFAULT_VAL;
224     hue->hue_deg_pexpr = NULL;
225     hue->hue_pexpr     = NULL;
226     hue->flat_syntax   = 1;
227
228     return set_options(ctx, args);
229 }
230
231 static av_cold void uninit(AVFilterContext *ctx)
232 {
233     HueContext *hue = ctx->priv;
234
235     av_opt_free(hue);
236
237     av_free(hue->hue_deg_expr);
238     av_expr_free(hue->hue_deg_pexpr);
239     av_free(hue->hue_expr);
240     av_expr_free(hue->hue_pexpr);
241     av_free(hue->saturation_expr);
242     av_expr_free(hue->saturation_pexpr);
243 }
244
245 static int query_formats(AVFilterContext *ctx)
246 {
247     static const enum PixelFormat pix_fmts[] = {
248         PIX_FMT_YUV444P,      PIX_FMT_YUV422P,
249         PIX_FMT_YUV420P,      PIX_FMT_YUV411P,
250         PIX_FMT_YUV410P,      PIX_FMT_YUV440P,
251         PIX_FMT_YUVA420P,
252         PIX_FMT_NONE
253     };
254
255     ff_set_common_formats(ctx, ff_make_format_list(pix_fmts));
256
257     return 0;
258 }
259
260 static int config_props(AVFilterLink *inlink)
261 {
262     HueContext *hue = inlink->dst->priv;
263     const AVPixFmtDescriptor *desc = &av_pix_fmt_descriptors[inlink->format];
264
265     hue->hsub = desc->log2_chroma_w;
266     hue->vsub = desc->log2_chroma_h;
267
268     hue->var_values[VAR_N]  = 0;
269     hue->var_values[VAR_TB] = av_q2d(inlink->time_base);
270     hue->var_values[VAR_R]  = inlink->frame_rate.num == 0 || inlink->frame_rate.den == 0 ?
271         NAN : av_q2d(inlink->frame_rate);
272
273     return 0;
274 }
275
276 static void process_chrominance(uint8_t *udst, uint8_t *vdst, const int dst_linesize,
277                                 uint8_t *usrc, uint8_t *vsrc, const int src_linesize,
278                                 int w, int h,
279                                 const int32_t c, const int32_t s)
280 {
281     int32_t u, v, new_u, new_v;
282     int i;
283
284     /*
285      * If we consider U and V as the components of a 2D vector then its angle
286      * is the hue and the norm is the saturation
287      */
288     while (h--) {
289         for (i = 0; i < w; i++) {
290             /* Normalize the components from range [16;140] to [-112;112] */
291             u = usrc[i] - 128;
292             v = vsrc[i] - 128;
293             /*
294              * Apply the rotation of the vector : (c * u) - (s * v)
295              *                                    (s * u) + (c * v)
296              * De-normalize the components (without forgetting to scale 128
297              * by << 16)
298              * Finally scale back the result by >> 16
299              */
300             new_u = ((c * u) - (s * v) + (1 << 15) + (128 << 16)) >> 16;
301             new_v = ((s * u) + (c * v) + (1 << 15) + (128 << 16)) >> 16;
302
303             /* Prevent a potential overflow */
304             udst[i] = av_clip_uint8_c(new_u);
305             vdst[i] = av_clip_uint8_c(new_v);
306         }
307
308         usrc += src_linesize;
309         vsrc += src_linesize;
310         udst += dst_linesize;
311         vdst += dst_linesize;
312     }
313 }
314
315 #define TS2D(ts) ((ts) == AV_NOPTS_VALUE ? NAN : (double)(ts))
316 #define TS2T(ts, tb) ((ts) == AV_NOPTS_VALUE ? NAN : (double)(ts) * av_q2d(tb))
317
318 static int start_frame(AVFilterLink *inlink, AVFilterBufferRef *inpic)
319 {
320     HueContext *hue = inlink->dst->priv;
321     AVFilterLink *outlink = inlink->dst->outputs[0];
322     AVFilterBufferRef *buf_out;
323
324     outlink->out_buf = ff_get_video_buffer(outlink, AV_PERM_WRITE, outlink->w, outlink->h);
325     if (!outlink->out_buf)
326         return AVERROR(ENOMEM);
327
328     avfilter_copy_buffer_ref_props(outlink->out_buf, inpic);
329     outlink->out_buf->video->w = outlink->w;
330     outlink->out_buf->video->h = outlink->h;
331     buf_out = avfilter_ref_buffer(outlink->out_buf, ~0);
332     if (!buf_out)
333         return AVERROR(ENOMEM);
334
335     if (!hue->flat_syntax) {
336         hue->var_values[VAR_T]   = TS2T(inpic->pts, inlink->time_base);
337         hue->var_values[VAR_PTS] = TS2D(inpic->pts);
338
339         if (hue->saturation_expr) {
340             hue->saturation = av_expr_eval(hue->saturation_pexpr, hue->var_values, NULL);
341
342             if (hue->saturation < SAT_MIN_VAL || hue->saturation > SAT_MAX_VAL) {
343                 hue->saturation = av_clip(hue->saturation, SAT_MIN_VAL, SAT_MAX_VAL);
344                 av_log(inlink->dst, AV_LOG_WARNING,
345                        "Saturation value not in range [%d,%d]: clipping value to %0.1f\n",
346                        SAT_MIN_VAL, SAT_MAX_VAL, hue->saturation);
347             }
348         }
349
350         if (hue->hue_deg_expr) {
351             hue->hue_deg = av_expr_eval(hue->hue_deg_pexpr, hue->var_values, NULL);
352             hue->hue = hue->hue_deg * M_PI / 180;
353         } else if (hue->hue_expr) {
354             hue->hue = av_expr_eval(hue->hue_pexpr, hue->var_values, NULL);
355         }
356
357         av_log(inlink->dst, AV_LOG_DEBUG,
358                "H:%0.1f s:%0.f t:%0.1f n:%d\n",
359                hue->hue, hue->saturation,
360                hue->var_values[VAR_T], (int)hue->var_values[VAR_N]);
361
362         compute_sin_and_cos(hue);
363     }
364
365     hue->var_values[VAR_N] += 1;
366
367     return ff_start_frame(outlink, buf_out);
368 }
369
370 static int draw_slice(AVFilterLink *inlink, int y, int h, int slice_dir)
371 {
372     HueContext        *hue    = inlink->dst->priv;
373     AVFilterBufferRef *inpic  = inlink->cur_buf;
374     AVFilterBufferRef *outpic = inlink->dst->outputs[0]->out_buf;
375     uint8_t *inrow[3], *outrow[3]; // 0 : Y, 1 : U, 2 : V
376     int plane;
377
378     inrow[0]  = inpic->data[0]  + y * inpic->linesize[0];
379     outrow[0] = outpic->data[0] + y * outpic->linesize[0];
380
381     for (plane = 1; plane < 3; plane++) {
382         inrow[plane]  = inpic->data[plane]  + (y >> hue->vsub) * inpic->linesize[plane];
383         outrow[plane] = outpic->data[plane] + (y >> hue->vsub) * outpic->linesize[plane];
384     }
385
386     av_image_copy_plane(outrow[0], outpic->linesize[0],
387                         inrow[0],  inpic->linesize[0],
388                         inlink->w, inlink->h);
389
390     process_chrominance(outrow[1], outrow[2], outpic->linesize[1],
391                         inrow[1], inrow[2], inpic->linesize[1],
392                         inlink->w >> hue->hsub, inlink->h >> hue->vsub,
393                         hue->hue_cos, hue->hue_sin);
394
395     return ff_draw_slice(inlink->dst->outputs[0], y, h, slice_dir);
396 }
397
398 static int process_command(AVFilterContext *ctx, const char *cmd, const char *args,
399                            char *res, int res_len, int flags)
400 {
401     if (!strcmp(cmd, "reinit"))
402         return set_options(ctx, args);
403     else
404         return AVERROR(ENOSYS);
405 }
406
407 AVFilter avfilter_vf_hue = {
408     .name        = "hue",
409     .description = NULL_IF_CONFIG_SMALL("Adjust the hue and saturation of the input video."),
410
411     .priv_size = sizeof(HueContext),
412
413     .init          = init,
414     .uninit        = uninit,
415     .query_formats = query_formats,
416     .process_command = process_command,
417
418     .inputs = (const AVFilterPad[]) {
419         {
420             .name         = "default",
421             .type         = AVMEDIA_TYPE_VIDEO,
422             .start_frame  = start_frame,
423             .draw_slice   = draw_slice,
424             .config_props = config_props,
425             .min_perms    = AV_PERM_READ,
426         },
427         { .name = NULL }
428     },
429     .outputs = (const AVFilterPad[]) {
430         {
431             .name         = "default",
432             .type         = AVMEDIA_TYPE_VIDEO,
433         },
434         { .name = NULL }
435     },
436     .priv_class = &hue_class,
437 };