vf_drawbox: use the name 's' for the pointer to the private context
[ffmpeg.git] / libavfilter / vf_lut.c
1 /*
2  * Copyright (c) 2011 Stefano Sabatini
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * Compute a look-up table for binding the input value to the output
24  * value, and apply it to input video.
25  */
26
27 #include "libavutil/attributes.h"
28 #include "libavutil/common.h"
29 #include "libavutil/eval.h"
30 #include "libavutil/mathematics.h"
31 #include "libavutil/opt.h"
32 #include "libavutil/pixdesc.h"
33 #include "avfilter.h"
34 #include "formats.h"
35 #include "internal.h"
36 #include "video.h"
37
38 static const char *const var_names[] = {
39     "E",
40     "PHI",
41     "PI",
42     "w",        ///< width of the input video
43     "h",        ///< height of the input video
44     "val",      ///< input value for the pixel
45     "maxval",   ///< max value for the pixel
46     "minval",   ///< min value for the pixel
47     "negval",   ///< negated value
48     "clipval",
49     NULL
50 };
51
52 enum var_name {
53     VAR_E,
54     VAR_PHI,
55     VAR_PI,
56     VAR_W,
57     VAR_H,
58     VAR_VAL,
59     VAR_MAXVAL,
60     VAR_MINVAL,
61     VAR_NEGVAL,
62     VAR_CLIPVAL,
63     VAR_VARS_NB
64 };
65
66 typedef struct {
67     const AVClass *class;
68     uint8_t lut[4][256];  ///< lookup table for each component
69     char   *comp_expr_str[4];
70     AVExpr *comp_expr[4];
71     int hsub, vsub;
72     double var_values[VAR_VARS_NB];
73     int is_rgb, is_yuv;
74     int rgba_map[4];
75     int step;
76     int negate_alpha; /* only used by negate */
77 } LutContext;
78
79 #define Y 0
80 #define U 1
81 #define V 2
82 #define R 0
83 #define G 1
84 #define B 2
85 #define A 3
86
87 #define OFFSET(x) offsetof(LutContext, x)
88 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM
89
90 static const AVOption lut_options[] = {
91     { "c0", "set component #0 expression", OFFSET(comp_expr_str[0]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
92     { "c1", "set component #1 expression", OFFSET(comp_expr_str[1]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
93     { "c2", "set component #2 expression", OFFSET(comp_expr_str[2]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
94     { "c3", "set component #3 expression", OFFSET(comp_expr_str[3]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
95     { "y",  "set Y expression",            OFFSET(comp_expr_str[Y]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
96     { "u",  "set U expression",            OFFSET(comp_expr_str[U]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
97     { "v",  "set V expression",            OFFSET(comp_expr_str[V]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
98     { "r",  "set R expression",            OFFSET(comp_expr_str[R]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
99     { "g",  "set G expression",            OFFSET(comp_expr_str[G]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
100     { "b",  "set B expression",            OFFSET(comp_expr_str[B]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
101     { "a",  "set A expression",            OFFSET(comp_expr_str[A]),  AV_OPT_TYPE_STRING, { .str = "val" }, .flags = FLAGS },
102     { NULL },
103 };
104
105 static av_cold int init(AVFilterContext *ctx)
106 {
107     LutContext *lut = ctx->priv;
108
109     lut->var_values[VAR_PHI] = M_PHI;
110     lut->var_values[VAR_PI]  = M_PI;
111     lut->var_values[VAR_E ]  = M_E;
112
113     lut->is_rgb = !strcmp(ctx->filter->name, "lutrgb");
114     lut->is_yuv = !strcmp(ctx->filter->name, "lutyuv");
115
116     return 0;
117 }
118
119 static av_cold void uninit(AVFilterContext *ctx)
120 {
121     LutContext *lut = ctx->priv;
122     int i;
123
124     for (i = 0; i < 4; i++) {
125         av_expr_free(lut->comp_expr[i]);
126         lut->comp_expr[i] = NULL;
127         av_freep(&lut->comp_expr_str[i]);
128     }
129 }
130
131 #define YUV_FORMATS                                         \
132     AV_PIX_FMT_YUV444P,  AV_PIX_FMT_YUV422P,  AV_PIX_FMT_YUV420P,    \
133     AV_PIX_FMT_YUV411P,  AV_PIX_FMT_YUV410P,  AV_PIX_FMT_YUV440P,    \
134     AV_PIX_FMT_YUVA420P,                                       \
135     AV_PIX_FMT_YUVJ444P, AV_PIX_FMT_YUVJ422P, AV_PIX_FMT_YUVJ420P,   \
136     AV_PIX_FMT_YUVJ440P
137
138 #define RGB_FORMATS                             \
139     AV_PIX_FMT_ARGB,         AV_PIX_FMT_RGBA,         \
140     AV_PIX_FMT_ABGR,         AV_PIX_FMT_BGRA,         \
141     AV_PIX_FMT_RGB24,        AV_PIX_FMT_BGR24
142
143 static enum AVPixelFormat yuv_pix_fmts[] = { YUV_FORMATS, AV_PIX_FMT_NONE };
144 static enum AVPixelFormat rgb_pix_fmts[] = { RGB_FORMATS, AV_PIX_FMT_NONE };
145 static enum AVPixelFormat all_pix_fmts[] = { RGB_FORMATS, YUV_FORMATS, AV_PIX_FMT_NONE };
146
147 static int query_formats(AVFilterContext *ctx)
148 {
149     LutContext *lut = ctx->priv;
150
151     enum AVPixelFormat *pix_fmts = lut->is_rgb ? rgb_pix_fmts :
152                                  lut->is_yuv ? yuv_pix_fmts : all_pix_fmts;
153
154     ff_set_common_formats(ctx, ff_make_format_list(pix_fmts));
155     return 0;
156 }
157
158 /**
159  * Clip value val in the minval - maxval range.
160  */
161 static double clip(void *opaque, double val)
162 {
163     LutContext *lut = opaque;
164     double minval = lut->var_values[VAR_MINVAL];
165     double maxval = lut->var_values[VAR_MAXVAL];
166
167     return av_clip(val, minval, maxval);
168 }
169
170 /**
171  * Compute gamma correction for value val, assuming the minval-maxval
172  * range, val is clipped to a value contained in the same interval.
173  */
174 static double compute_gammaval(void *opaque, double gamma)
175 {
176     LutContext *lut = opaque;
177     double val    = lut->var_values[VAR_CLIPVAL];
178     double minval = lut->var_values[VAR_MINVAL];
179     double maxval = lut->var_values[VAR_MAXVAL];
180
181     return pow((val-minval)/(maxval-minval), gamma) * (maxval-minval)+minval;
182 }
183
184 static double (* const funcs1[])(void *, double) = {
185     clip,
186     compute_gammaval,
187     NULL
188 };
189
190 static const char * const funcs1_names[] = {
191     "clip",
192     "gammaval",
193     NULL
194 };
195
196 static int config_props(AVFilterLink *inlink)
197 {
198     AVFilterContext *ctx = inlink->dst;
199     LutContext *lut = ctx->priv;
200     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(inlink->format);
201     int min[4], max[4];
202     int val, comp, ret;
203
204     lut->hsub = desc->log2_chroma_w;
205     lut->vsub = desc->log2_chroma_h;
206
207     lut->var_values[VAR_W] = inlink->w;
208     lut->var_values[VAR_H] = inlink->h;
209
210     switch (inlink->format) {
211     case AV_PIX_FMT_YUV410P:
212     case AV_PIX_FMT_YUV411P:
213     case AV_PIX_FMT_YUV420P:
214     case AV_PIX_FMT_YUV422P:
215     case AV_PIX_FMT_YUV440P:
216     case AV_PIX_FMT_YUV444P:
217     case AV_PIX_FMT_YUVA420P:
218         min[Y] = min[U] = min[V] = 16;
219         max[Y] = 235;
220         max[U] = max[V] = 240;
221         min[A] = 0; max[A] = 255;
222         break;
223     default:
224         min[0] = min[1] = min[2] = min[3] = 0;
225         max[0] = max[1] = max[2] = max[3] = 255;
226     }
227
228     lut->is_yuv = lut->is_rgb = 0;
229     if      (ff_fmt_is_in(inlink->format, yuv_pix_fmts)) lut->is_yuv = 1;
230     else if (ff_fmt_is_in(inlink->format, rgb_pix_fmts)) lut->is_rgb = 1;
231
232     if (lut->is_rgb) {
233         switch (inlink->format) {
234         case AV_PIX_FMT_ARGB:  lut->rgba_map[A] = 0; lut->rgba_map[R] = 1; lut->rgba_map[G] = 2; lut->rgba_map[B] = 3; break;
235         case AV_PIX_FMT_ABGR:  lut->rgba_map[A] = 0; lut->rgba_map[B] = 1; lut->rgba_map[G] = 2; lut->rgba_map[R] = 3; break;
236         case AV_PIX_FMT_RGBA:
237         case AV_PIX_FMT_RGB24: lut->rgba_map[R] = 0; lut->rgba_map[G] = 1; lut->rgba_map[B] = 2; lut->rgba_map[A] = 3; break;
238         case AV_PIX_FMT_BGRA:
239         case AV_PIX_FMT_BGR24: lut->rgba_map[B] = 0; lut->rgba_map[G] = 1; lut->rgba_map[R] = 2; lut->rgba_map[A] = 3; break;
240         }
241         lut->step = av_get_bits_per_pixel(desc) >> 3;
242     }
243
244     for (comp = 0; comp < desc->nb_components; comp++) {
245         double res;
246
247         /* create the parsed expression */
248         ret = av_expr_parse(&lut->comp_expr[comp], lut->comp_expr_str[comp],
249                             var_names, funcs1_names, funcs1, NULL, NULL, 0, ctx);
250         if (ret < 0) {
251             av_log(ctx, AV_LOG_ERROR,
252                    "Error when parsing the expression '%s' for the component %d.\n",
253                    lut->comp_expr_str[comp], comp);
254             return AVERROR(EINVAL);
255         }
256
257         /* compute the lut */
258         lut->var_values[VAR_MAXVAL] = max[comp];
259         lut->var_values[VAR_MINVAL] = min[comp];
260
261         for (val = 0; val < 256; val++) {
262             lut->var_values[VAR_VAL] = val;
263             lut->var_values[VAR_CLIPVAL] = av_clip(val, min[comp], max[comp]);
264             lut->var_values[VAR_NEGVAL] =
265                 av_clip(min[comp] + max[comp] - lut->var_values[VAR_VAL],
266                         min[comp], max[comp]);
267
268             res = av_expr_eval(lut->comp_expr[comp], lut->var_values, lut);
269             if (isnan(res)) {
270                 av_log(ctx, AV_LOG_ERROR,
271                        "Error when evaluating the expression '%s' for the value %d for the component #%d.\n",
272                        lut->comp_expr_str[comp], val, comp);
273                 return AVERROR(EINVAL);
274             }
275             lut->lut[comp][val] = av_clip((int)res, min[comp], max[comp]);
276             av_log(ctx, AV_LOG_DEBUG, "val[%d][%d] = %d\n", comp, val, lut->lut[comp][val]);
277         }
278     }
279
280     return 0;
281 }
282
283 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
284 {
285     AVFilterContext *ctx = inlink->dst;
286     LutContext *lut = ctx->priv;
287     AVFilterLink *outlink = ctx->outputs[0];
288     AVFrame *out;
289     uint8_t *inrow, *outrow, *inrow0, *outrow0;
290     int i, j, k, plane;
291
292     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
293     if (!out) {
294         av_frame_free(&in);
295         return AVERROR(ENOMEM);
296     }
297     av_frame_copy_props(out, in);
298
299     if (lut->is_rgb) {
300         /* packed */
301         inrow0  = in ->data[0];
302         outrow0 = out->data[0];
303
304         for (i = 0; i < in->height; i ++) {
305             inrow  = inrow0;
306             outrow = outrow0;
307             for (j = 0; j < inlink->w; j++) {
308                 for (k = 0; k < lut->step; k++)
309                     outrow[k] = lut->lut[lut->rgba_map[k]][inrow[k]];
310                 outrow += lut->step;
311                 inrow  += lut->step;
312             }
313             inrow0  += in ->linesize[0];
314             outrow0 += out->linesize[0];
315         }
316     } else {
317         /* planar */
318         for (plane = 0; plane < 4 && in->data[plane]; plane++) {
319             int vsub = plane == 1 || plane == 2 ? lut->vsub : 0;
320             int hsub = plane == 1 || plane == 2 ? lut->hsub : 0;
321
322             inrow  = in ->data[plane];
323             outrow = out->data[plane];
324
325             for (i = 0; i < in->height >> vsub; i ++) {
326                 for (j = 0; j < inlink->w>>hsub; j++)
327                     outrow[j] = lut->lut[plane][inrow[j]];
328                 inrow  += in ->linesize[plane];
329                 outrow += out->linesize[plane];
330             }
331         }
332     }
333
334     av_frame_free(&in);
335     return ff_filter_frame(outlink, out);
336 }
337
338 static const AVFilterPad inputs[] = {
339     { .name            = "default",
340       .type            = AVMEDIA_TYPE_VIDEO,
341       .filter_frame    = filter_frame,
342       .config_props    = config_props,
343     },
344     { .name = NULL}
345 };
346 static const AVFilterPad outputs[] = {
347     { .name            = "default",
348       .type            = AVMEDIA_TYPE_VIDEO, },
349     { .name = NULL}
350 };
351 #define DEFINE_LUT_FILTER(name_, description_, init_, options)          \
352     static const AVClass name_ ## _class = {                            \
353         .class_name = #name_,                                           \
354         .item_name  = av_default_item_name,                             \
355         .option     = options,                                          \
356         .version    = LIBAVUTIL_VERSION_INT,                            \
357     };                                                                  \
358     AVFilter avfilter_vf_##name_ = {                                    \
359         .name          = #name_,                                        \
360         .description   = NULL_IF_CONFIG_SMALL(description_),            \
361         .priv_size     = sizeof(LutContext),                            \
362         .priv_class    = &name_ ## _class,                              \
363                                                                         \
364         .init          = init_,                                         \
365         .uninit        = uninit,                                        \
366         .query_formats = query_formats,                                 \
367                                                                         \
368         .inputs        = inputs,                                        \
369         .outputs       = outputs,                                       \
370     }
371
372 #if CONFIG_LUT_FILTER
373 DEFINE_LUT_FILTER(lut,    "Compute and apply a lookup table to the RGB/YUV input video.", init, lut_options);
374 #endif
375 #if CONFIG_LUTYUV_FILTER
376 DEFINE_LUT_FILTER(lutyuv, "Compute and apply a lookup table to the YUV input video.",     init, lut_options);
377 #endif
378 #if CONFIG_LUTRGB_FILTER
379 DEFINE_LUT_FILTER(lutrgb, "Compute and apply a lookup table to the RGB input video.",     init, lut_options);
380 #endif
381
382 #if CONFIG_NEGATE_FILTER
383
384 static const AVOption negate_options[] = {
385     { "negate_alpha", NULL, OFFSET(negate_alpha), AV_OPT_TYPE_INT, { .i64 = 0 }, .flags = FLAGS },
386     { NULL },
387 };
388
389 static av_cold int negate_init(AVFilterContext *ctx)
390 {
391     LutContext *lut = ctx->priv;
392     int i;
393
394     av_log(ctx, AV_LOG_DEBUG, "negate_alpha:%d\n", lut->negate_alpha);
395
396     for (i = 0; i < 4; i++) {
397         lut->comp_expr_str[i] = av_strdup((i == 3 && lut->negate_alpha) ?
398                                           "val" : "negval");
399         if (!lut->comp_expr_str[i]) {
400             uninit(ctx);
401             return AVERROR(ENOMEM);
402         }
403     }
404
405     return init(ctx);
406 }
407
408 DEFINE_LUT_FILTER(negate, "Negate input video.", negate_init, negate_options);
409
410 #endif