lavfi: add haldclut filter.
[ffmpeg.git] / libavfilter / vf_lut3d.c
1 /*
2  * Copyright (c) 2013 Clément Bœsch
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * 3D Lookup table filter
24  */
25
26 #include "libavutil/opt.h"
27 #include "libavutil/file.h"
28 #include "libavutil/intreadwrite.h"
29 #include "libavutil/avassert.h"
30 #include "libavutil/pixdesc.h"
31 #include "libavutil/avstring.h"
32 #include "avfilter.h"
33 #include "drawutils.h"
34 #include "dualinput.h"
35 #include "formats.h"
36 #include "internal.h"
37 #include "video.h"
38
39 #define R 0
40 #define G 1
41 #define B 2
42 #define A 3
43
44 enum interp_mode {
45     INTERPOLATE_NEAREST,
46     INTERPOLATE_TRILINEAR,
47     INTERPOLATE_TETRAHEDRAL,
48     NB_INTERP_MODE
49 };
50
51 struct rgbvec {
52     float r, g, b;
53 };
54
55 /* 3D LUT don't often go up to level 32, but it is common to have a Hald CLUT
56  * of 512x512 (64x64x64) */
57 #define MAX_LEVEL 64
58
59 typedef struct LUT3DContext {
60     const AVClass *class;
61     enum interp_mode interpolation;
62     char *file;
63     uint8_t rgba_map[4];
64     int step;
65     int is16bit;
66     struct rgbvec (*interp_8) (const struct LUT3DContext*, uint8_t,  uint8_t,  uint8_t);
67     struct rgbvec (*interp_16)(const struct LUT3DContext*, uint16_t, uint16_t, uint16_t);
68     struct rgbvec lut[MAX_LEVEL][MAX_LEVEL][MAX_LEVEL];
69     int lutsize;
70 #if CONFIG_HALDCLUT_FILTER
71     uint8_t clut_rgba_map[4];
72     int clut_step;
73     int clut_is16bit;
74     int clut_width;
75     FFDualInputContext dinput;
76 #endif
77 } LUT3DContext;
78
79 #define OFFSET(x) offsetof(LUT3DContext, x)
80 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
81 #define COMMON_OPTIONS \
82     { "interp", "select interpolation mode", OFFSET(interpolation), AV_OPT_TYPE_INT, {.i64=INTERPOLATE_TETRAHEDRAL}, 0, NB_INTERP_MODE-1, FLAGS, "interp_mode" }, \
83         { "nearest",     "use values from the nearest defined points",            0, AV_OPT_TYPE_CONST, {.i64=INTERPOLATE_NEAREST},     INT_MIN, INT_MAX, FLAGS, "interp_mode" }, \
84         { "trilinear",   "interpolate values using the 8 points defining a cube", 0, AV_OPT_TYPE_CONST, {.i64=INTERPOLATE_TRILINEAR},   INT_MIN, INT_MAX, FLAGS, "interp_mode" }, \
85         { "tetrahedral", "interpolate values using a tetrahedron",                0, AV_OPT_TYPE_CONST, {.i64=INTERPOLATE_TETRAHEDRAL}, INT_MIN, INT_MAX, FLAGS, "interp_mode" }, \
86     { NULL }
87
88 static inline float lerpf(float v0, float v1, float f)
89 {
90     return v0 + (v1 - v0) * f;
91 }
92
93 static inline struct rgbvec lerp(const struct rgbvec *v0, const struct rgbvec *v1, float f)
94 {
95     struct rgbvec v = {
96         lerpf(v0->r, v1->r, f), lerpf(v0->g, v1->g, f), lerpf(v0->b, v1->b, f)
97     };
98     return v;
99 }
100
101 #define NEAR(x) ((int)((x) + .5))
102 #define PREV(x) ((int)(x))
103 #define NEXT(x) (FFMIN((int)(x) + 1, lut3d->lutsize - 1))
104
105 /**
106  * Get the nearest defined point
107  */
108 static inline struct rgbvec interp_nearest(const LUT3DContext *lut3d,
109                                            const struct rgbvec *s)
110 {
111     return lut3d->lut[NEAR(s->r)][NEAR(s->g)][NEAR(s->b)];
112 }
113
114 /**
115  * Interpolate using the 8 vertices of a cube
116  * @see https://en.wikipedia.org/wiki/Trilinear_interpolation
117  */
118 static inline struct rgbvec interp_trilinear(const LUT3DContext *lut3d,
119                                              const struct rgbvec *s)
120 {
121     const int prev[] = {PREV(s->r), PREV(s->g), PREV(s->b)};
122     const int next[] = {NEXT(s->r), NEXT(s->g), NEXT(s->b)};
123     const struct rgbvec d = {s->r - prev[0], s->g - prev[1], s->b - prev[2]};
124     const struct rgbvec c000 = lut3d->lut[prev[0]][prev[1]][prev[2]];
125     const struct rgbvec c001 = lut3d->lut[prev[0]][prev[1]][next[2]];
126     const struct rgbvec c010 = lut3d->lut[prev[0]][next[1]][prev[2]];
127     const struct rgbvec c011 = lut3d->lut[prev[0]][next[1]][next[2]];
128     const struct rgbvec c100 = lut3d->lut[next[0]][prev[1]][prev[2]];
129     const struct rgbvec c101 = lut3d->lut[next[0]][prev[1]][next[2]];
130     const struct rgbvec c110 = lut3d->lut[next[0]][next[1]][prev[2]];
131     const struct rgbvec c111 = lut3d->lut[next[0]][next[1]][next[2]];
132     const struct rgbvec c00  = lerp(&c000, &c100, d.r);
133     const struct rgbvec c10  = lerp(&c010, &c110, d.r);
134     const struct rgbvec c01  = lerp(&c001, &c101, d.r);
135     const struct rgbvec c11  = lerp(&c011, &c111, d.r);
136     const struct rgbvec c0   = lerp(&c00,  &c10,  d.g);
137     const struct rgbvec c1   = lerp(&c01,  &c11,  d.g);
138     const struct rgbvec c    = lerp(&c0,   &c1,   d.b);
139     return c;
140 }
141
142 /**
143  * Tetrahedral interpolation. Based on code found in Truelight Software Library paper.
144  * @see http://www.filmlight.ltd.uk/pdf/whitepapers/FL-TL-TN-0057-SoftwareLib.pdf
145  */
146 static inline struct rgbvec interp_tetrahedral(const LUT3DContext *lut3d,
147                                                const struct rgbvec *s)
148 {
149     const int prev[] = {PREV(s->r), PREV(s->g), PREV(s->b)};
150     const int next[] = {NEXT(s->r), NEXT(s->g), NEXT(s->b)};
151     const struct rgbvec d = {s->r - prev[0], s->g - prev[1], s->b - prev[2]};
152     const struct rgbvec c000 = lut3d->lut[prev[0]][prev[1]][prev[2]];
153     const struct rgbvec c111 = lut3d->lut[next[0]][next[1]][next[2]];
154     struct rgbvec c;
155     if (d.r > d.g) {
156         if (d.g > d.b) {
157             const struct rgbvec c100 = lut3d->lut[next[0]][prev[1]][prev[2]];
158             const struct rgbvec c110 = lut3d->lut[next[0]][next[1]][prev[2]];
159             c.r = (1-d.r) * c000.r + (d.r-d.g) * c100.r + (d.g-d.b) * c110.r + (d.b) * c111.r;
160             c.g = (1-d.r) * c000.g + (d.r-d.g) * c100.g + (d.g-d.b) * c110.g + (d.b) * c111.g;
161             c.b = (1-d.r) * c000.b + (d.r-d.g) * c100.b + (d.g-d.b) * c110.b + (d.b) * c111.b;
162         } else if (d.r > d.b) {
163             const struct rgbvec c100 = lut3d->lut[next[0]][prev[1]][prev[2]];
164             const struct rgbvec c101 = lut3d->lut[next[0]][prev[1]][next[2]];
165             c.r = (1-d.r) * c000.r + (d.r-d.b) * c100.r + (d.b-d.g) * c101.r + (d.g) * c111.r;
166             c.g = (1-d.r) * c000.g + (d.r-d.b) * c100.g + (d.b-d.g) * c101.g + (d.g) * c111.g;
167             c.b = (1-d.r) * c000.b + (d.r-d.b) * c100.b + (d.b-d.g) * c101.b + (d.g) * c111.b;
168         } else {
169             const struct rgbvec c001 = lut3d->lut[prev[0]][prev[1]][next[2]];
170             const struct rgbvec c101 = lut3d->lut[next[0]][prev[1]][next[2]];
171             c.r = (1-d.b) * c000.r + (d.b-d.r) * c001.r + (d.r-d.g) * c101.r + (d.g) * c111.r;
172             c.g = (1-d.b) * c000.g + (d.b-d.r) * c001.g + (d.r-d.g) * c101.g + (d.g) * c111.g;
173             c.b = (1-d.b) * c000.b + (d.b-d.r) * c001.b + (d.r-d.g) * c101.b + (d.g) * c111.b;
174         }
175     } else {
176         if (d.b > d.g) {
177             const struct rgbvec c001 = lut3d->lut[prev[0]][prev[1]][next[2]];
178             const struct rgbvec c011 = lut3d->lut[prev[0]][next[1]][next[2]];
179             c.r = (1-d.b) * c000.r + (d.b-d.g) * c001.r + (d.g-d.r) * c011.r + (d.r) * c111.r;
180             c.g = (1-d.b) * c000.g + (d.b-d.g) * c001.g + (d.g-d.r) * c011.g + (d.r) * c111.g;
181             c.b = (1-d.b) * c000.b + (d.b-d.g) * c001.b + (d.g-d.r) * c011.b + (d.r) * c111.b;
182         } else if (d.b > d.r) {
183             const struct rgbvec c010 = lut3d->lut[prev[0]][next[1]][prev[2]];
184             const struct rgbvec c011 = lut3d->lut[prev[0]][next[1]][next[2]];
185             c.r = (1-d.g) * c000.r + (d.g-d.b) * c010.r + (d.b-d.r) * c011.r + (d.r) * c111.r;
186             c.g = (1-d.g) * c000.g + (d.g-d.b) * c010.g + (d.b-d.r) * c011.g + (d.r) * c111.g;
187             c.b = (1-d.g) * c000.b + (d.g-d.b) * c010.b + (d.b-d.r) * c011.b + (d.r) * c111.b;
188         } else {
189             const struct rgbvec c010 = lut3d->lut[prev[0]][next[1]][prev[2]];
190             const struct rgbvec c110 = lut3d->lut[next[0]][next[1]][prev[2]];
191             c.r = (1-d.g) * c000.r + (d.g-d.r) * c010.r + (d.r-d.b) * c110.r + (d.b) * c111.r;
192             c.g = (1-d.g) * c000.g + (d.g-d.r) * c010.g + (d.r-d.b) * c110.g + (d.b) * c111.g;
193             c.b = (1-d.g) * c000.b + (d.g-d.r) * c010.b + (d.r-d.b) * c110.b + (d.b) * c111.b;
194         }
195     }
196     return c;
197 }
198
199 #define DEFINE_INTERP_FUNC(name, nbits)                                     \
200 static struct rgbvec interp_##nbits##_##name(const LUT3DContext *lut3d,     \
201                                              uint##nbits##_t r,             \
202                                              uint##nbits##_t g,             \
203                                              uint##nbits##_t b)             \
204 {                                                                           \
205     const float scale = (1. / ((1<<nbits) - 1)) * (lut3d->lutsize - 1);     \
206     const struct rgbvec scaled_rgb = {r * scale, g * scale, b * scale};     \
207     return interp_##name(lut3d, &scaled_rgb);                               \
208 }
209
210 DEFINE_INTERP_FUNC(nearest,     8)
211 DEFINE_INTERP_FUNC(trilinear,   8)
212 DEFINE_INTERP_FUNC(tetrahedral, 8)
213
214 DEFINE_INTERP_FUNC(nearest,     16)
215 DEFINE_INTERP_FUNC(trilinear,   16)
216 DEFINE_INTERP_FUNC(tetrahedral, 16)
217
218 #define MAX_LINE_SIZE 512
219
220 static int skip_line(const char *p)
221 {
222     while (*p && av_isspace(*p))
223         p++;
224     return !*p || *p == '#';
225 }
226
227 #define NEXT_LINE(loop_cond) do {                           \
228     if (!fgets(line, sizeof(line), f)) {                    \
229         av_log(ctx, AV_LOG_ERROR, "Unexpected EOF\n");      \
230         return AVERROR_INVALIDDATA;                         \
231     }                                                       \
232 } while (loop_cond)
233
234 /* Basically r g and b float values on each line; seems to be generated by
235  * Davinci */
236 static int parse_dat(AVFilterContext *ctx, FILE *f)
237 {
238     LUT3DContext *lut3d = ctx->priv;
239     const int size = lut3d->lutsize;
240     int i, j, k;
241
242     for (k = 0; k < size; k++) {
243         for (j = 0; j < size; j++) {
244             for (i = 0; i < size; i++) {
245                 char line[MAX_LINE_SIZE];
246                 struct rgbvec *vec = &lut3d->lut[k][j][i];
247                 NEXT_LINE(skip_line(line));
248                 sscanf(line, "%f %f %f", &vec->r, &vec->g, &vec->b);
249             }
250         }
251     }
252     return 0;
253 }
254
255 /* Iridas format */
256 static int parse_cube(AVFilterContext *ctx, FILE *f)
257 {
258     LUT3DContext *lut3d = ctx->priv;
259     char line[MAX_LINE_SIZE];
260     float min[3] = {0.0, 0.0, 0.0};
261     float max[3] = {1.0, 1.0, 1.0};
262
263     while (fgets(line, sizeof(line), f)) {
264         if (!strncmp(line, "LUT_3D_SIZE ", 12)) {
265             int i, j, k;
266             const int size = strtol(line + 12, NULL, 0);
267
268             if (size > MAX_LEVEL) {
269                 av_log(ctx, AV_LOG_ERROR, "Too large 3D LUT\n");
270                 return AVERROR(EINVAL);
271             }
272             lut3d->lutsize = size;
273             for (k = 0; k < size; k++) {
274                 for (j = 0; j < size; j++) {
275                     for (i = 0; i < size; i++) {
276                         struct rgbvec *vec = &lut3d->lut[k][j][i];
277
278                         do {
279                             NEXT_LINE(0);
280                             if (!strncmp(line, "DOMAIN_", 7)) {
281                                 float *vals = NULL;
282                                 if      (!strncmp(line + 7, "MIN ", 4)) vals = min;
283                                 else if (!strncmp(line + 7, "MAX ", 4)) vals = max;
284                                 if (!vals)
285                                     return AVERROR_INVALIDDATA;
286                                 sscanf(line + 11, "%f %f %f", vals, vals + 1, vals + 2);
287                                 av_log(ctx, AV_LOG_DEBUG, "min: %f %f %f | max: %f %f %f\n",
288                                        min[0], min[1], min[2], max[0], max[1], max[2]);
289                                 continue;
290                             }
291                         } while (skip_line(line));
292                         if (sscanf(line, "%f %f %f", &vec->r, &vec->g, &vec->b) != 3)
293                             return AVERROR_INVALIDDATA;
294                         vec->r *= max[0] - min[0];
295                         vec->g *= max[1] - min[1];
296                         vec->b *= max[2] - min[2];
297                     }
298                 }
299             }
300             break;
301         }
302     }
303     return 0;
304 }
305
306 /* Assume 17x17x17 LUT with a 16-bit depth
307  * FIXME: it seems there are various 3dl formats */
308 static int parse_3dl(AVFilterContext *ctx, FILE *f)
309 {
310     char line[MAX_LINE_SIZE];
311     LUT3DContext *lut3d = ctx->priv;
312     int i, j, k;
313     const int size = 17;
314     const float scale = 16*16*16;
315
316     lut3d->lutsize = size;
317     if (!fgets(line, sizeof(line), f))
318         return AVERROR_INVALIDDATA;
319     for (k = 0; k < size; k++) {
320         for (j = 0; j < size; j++) {
321             for (i = 0; i < size; i++) {
322                 int r, g, b;
323                 struct rgbvec *vec = &lut3d->lut[k][j][i];
324
325                 NEXT_LINE(skip_line(line));
326                 if (sscanf(line, "%d %d %d", &r, &g, &b) != 3)
327                     return AVERROR_INVALIDDATA;
328                 vec->r = r / scale;
329                 vec->g = g / scale;
330                 vec->b = b / scale;
331             }
332         }
333     }
334     return 0;
335 }
336
337 /* Pandora format */
338 static int parse_m3d(AVFilterContext *ctx, FILE *f)
339 {
340     LUT3DContext *lut3d = ctx->priv;
341     float scale;
342     int i, j, k, size, in = -1, out = -1;
343     char line[MAX_LINE_SIZE];
344     uint8_t rgb_map[3] = {0, 1, 2};
345
346     while (fgets(line, sizeof(line), f)) {
347         if      (!strncmp(line, "in",  2)) in  = strtol(line + 2, NULL, 0);
348         else if (!strncmp(line, "out", 3)) out = strtol(line + 3, NULL, 0);
349         else if (!strncmp(line, "values", 6)) {
350             const char *p = line + 6;
351 #define SET_COLOR(id) do {                  \
352     while (av_isspace(*p))                  \
353         p++;                                \
354     switch (*p) {                           \
355     case 'r': rgb_map[id] = 0; break;       \
356     case 'g': rgb_map[id] = 1; break;       \
357     case 'b': rgb_map[id] = 2; break;       \
358     }                                       \
359     while (*p && !av_isspace(*p))           \
360         p++;                                \
361 } while (0)
362             SET_COLOR(0);
363             SET_COLOR(1);
364             SET_COLOR(2);
365             break;
366         }
367     }
368
369     if (in == -1 || out == -1) {
370         av_log(ctx, AV_LOG_ERROR, "in and out must be defined\n");
371         return AVERROR_INVALIDDATA;
372     }
373     for (size = 1; size*size*size < in; size++);
374     lut3d->lutsize = size;
375     scale = 1. / (out - 1);
376
377     for (k = 0; k < size; k++) {
378         for (j = 0; j < size; j++) {
379             for (i = 0; i < size; i++) {
380                 struct rgbvec *vec = &lut3d->lut[k][j][i];
381                 float val[3];
382
383                 NEXT_LINE(0);
384                 if (sscanf(line, "%f %f %f", val, val + 1, val + 2) != 3)
385                     return AVERROR_INVALIDDATA;
386                 vec->r = val[rgb_map[0]] * scale;
387                 vec->g = val[rgb_map[1]] * scale;
388                 vec->b = val[rgb_map[2]] * scale;
389             }
390         }
391     }
392     return 0;
393 }
394
395 static void set_identity_matrix(LUT3DContext *lut3d, int size)
396 {
397     int i, j, k;
398     const float c = 1. / (size - 1);
399
400     lut3d->lutsize = size;
401     for (k = 0; k < size; k++) {
402         for (j = 0; j < size; j++) {
403             for (i = 0; i < size; i++) {
404                 struct rgbvec *vec = &lut3d->lut[k][j][i];
405                 vec->r = k * c;
406                 vec->g = j * c;
407                 vec->b = i * c;
408             }
409         }
410     }
411 }
412
413 #if CONFIG_LUT3D_FILTER
414 /* TODO: move to the CONFIG_LUT3D_FILTER definition scope at the bottom */
415 static av_cold int lut3d_init(AVFilterContext *ctx)
416 {
417     int ret;
418     FILE *f;
419     const char *ext;
420     LUT3DContext *lut3d = ctx->priv;
421
422     if (!lut3d->file) {
423         set_identity_matrix(lut3d, 32);
424         return 0;
425     }
426
427     f = fopen(lut3d->file, "r");
428     if (!f) {
429         ret = AVERROR(errno);
430         av_log(ctx, AV_LOG_ERROR, "%s: %s\n", lut3d->file, av_err2str(ret));
431         return ret;
432     }
433
434     ext = strrchr(lut3d->file, '.');
435     if (!ext) {
436         av_log(ctx, AV_LOG_ERROR, "Unable to guess the format from the extension\n");
437         ret = AVERROR_INVALIDDATA;
438         goto end;
439     }
440     ext++;
441
442     if (!av_strcasecmp(ext, "dat")) {
443         lut3d->lutsize = 33;
444         ret = parse_dat(ctx, f);
445     } else if (!av_strcasecmp(ext, "3dl")) {
446         ret = parse_3dl(ctx, f);
447     } else if (!av_strcasecmp(ext, "cube")) {
448         ret = parse_cube(ctx, f);
449     } else if (!av_strcasecmp(ext, "m3d")) {
450         ret = parse_m3d(ctx, f);
451     } else {
452         av_log(ctx, AV_LOG_ERROR, "Unrecognized '.%s' file type\n", ext);
453         ret = AVERROR(EINVAL);
454     }
455
456     if (!ret && !lut3d->lutsize) {
457         av_log(ctx, AV_LOG_ERROR, "3D LUT is empty\n");
458         ret = AVERROR_INVALIDDATA;
459     }
460
461 end:
462     fclose(f);
463     return ret;
464 }
465 #endif
466
467 static int query_formats(AVFilterContext *ctx)
468 {
469     static const enum AVPixelFormat pix_fmts[] = {
470         AV_PIX_FMT_RGB24,  AV_PIX_FMT_BGR24,
471         AV_PIX_FMT_RGBA,   AV_PIX_FMT_BGRA,
472         AV_PIX_FMT_ARGB,   AV_PIX_FMT_ABGR,
473         AV_PIX_FMT_0RGB,   AV_PIX_FMT_0BGR,
474         AV_PIX_FMT_RGB0,   AV_PIX_FMT_BGR0,
475         AV_PIX_FMT_RGB48,  AV_PIX_FMT_BGR48,
476         AV_PIX_FMT_RGBA64, AV_PIX_FMT_BGRA64,
477         AV_PIX_FMT_NONE
478     };
479     ff_set_common_formats(ctx, ff_make_format_list(pix_fmts));
480     return 0;
481 }
482
483 static int config_input(AVFilterLink *inlink)
484 {
485     LUT3DContext *lut3d = inlink->dst->priv;
486     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(inlink->format);
487
488     switch (inlink->format) {
489     case AV_PIX_FMT_RGB48:
490     case AV_PIX_FMT_BGR48:
491     case AV_PIX_FMT_RGBA64:
492     case AV_PIX_FMT_BGRA64:
493         lut3d->is16bit = 1;
494     }
495
496     ff_fill_rgba_map(lut3d->rgba_map, inlink->format);
497     lut3d->step = av_get_padded_bits_per_pixel(desc) >> (3 + lut3d->is16bit);
498
499 #define SET_FUNC(name) do {                                     \
500     if (lut3d->is16bit) lut3d->interp_16 = interp_16_##name;    \
501     else                lut3d->interp_8  = interp_8_##name;     \
502 } while (0)
503
504     switch (lut3d->interpolation) {
505     case INTERPOLATE_NEAREST:     SET_FUNC(nearest);        break;
506     case INTERPOLATE_TRILINEAR:   SET_FUNC(trilinear);      break;
507     case INTERPOLATE_TETRAHEDRAL: SET_FUNC(tetrahedral);    break;
508     default:
509         av_assert0(0);
510     }
511
512     return 0;
513 }
514
515 #define FILTER(nbits) do {                                                                          \
516     uint8_t       *dstrow = out->data[0];                                                           \
517     const uint8_t *srcrow = in ->data[0];                                                           \
518                                                                                                     \
519     for (y = 0; y < inlink->h; y++) {                                                               \
520         uint##nbits##_t *dst = (uint##nbits##_t *)dstrow;                                           \
521         const uint##nbits##_t *src = (const uint##nbits##_t *)srcrow;                               \
522         for (x = 0; x < inlink->w * step; x += step) {                                              \
523             struct rgbvec vec = lut3d->interp_##nbits(lut3d, src[x + r], src[x + g], src[x + b]);   \
524             dst[x + r] = av_clip_uint##nbits(vec.r * (float)((1<<nbits) - 1));                      \
525             dst[x + g] = av_clip_uint##nbits(vec.g * (float)((1<<nbits) - 1));                      \
526             dst[x + b] = av_clip_uint##nbits(vec.b * (float)((1<<nbits) - 1));                      \
527             if (!direct && step == 4)                                                               \
528                 dst[x + a] = src[x + a];                                                            \
529         }                                                                                           \
530         dstrow += out->linesize[0];                                                                 \
531         srcrow += in ->linesize[0];                                                                 \
532     }                                                                                               \
533 } while (0)
534
535 static AVFrame *apply_lut(AVFilterLink *inlink, AVFrame *in)
536 {
537     int x, y, direct = 0;
538     AVFilterContext *ctx = inlink->dst;
539     LUT3DContext *lut3d = ctx->priv;
540     AVFilterLink *outlink = inlink->dst->outputs[0];
541     AVFrame *out;
542     const int step = lut3d->step;
543     const uint8_t r = lut3d->rgba_map[R];
544     const uint8_t g = lut3d->rgba_map[G];
545     const uint8_t b = lut3d->rgba_map[B];
546     const uint8_t a = lut3d->rgba_map[A];
547
548     if (av_frame_is_writable(in)) {
549         direct = 1;
550         out = in;
551     } else {
552         out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
553         if (!out) {
554             av_frame_free(&in);
555             return NULL;
556         }
557         av_frame_copy_props(out, in);
558     }
559
560     if (lut3d->is16bit) FILTER(16);
561     else                FILTER(8);
562
563     if (!direct)
564         av_frame_free(&in);
565
566     return out;
567 }
568
569 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
570 {
571     AVFilterLink *outlink = inlink->dst->outputs[0];
572     AVFrame *out = apply_lut(inlink, in);
573     if (!out)
574         return AVERROR(ENOMEM);
575     return ff_filter_frame(outlink, out);
576 }
577
578 #if CONFIG_LUT3D_FILTER
579 static const AVOption lut3d_options[] = {
580     { "file", "set 3D LUT file name", OFFSET(file), AV_OPT_TYPE_STRING, {.str=NULL}, .flags = FLAGS },
581     COMMON_OPTIONS
582 };
583
584 AVFILTER_DEFINE_CLASS(lut3d);
585
586 static const AVFilterPad lut3d_inputs[] = {
587     {
588         .name         = "default",
589         .type         = AVMEDIA_TYPE_VIDEO,
590         .filter_frame = filter_frame,
591         .config_props = config_input,
592     },
593     { NULL }
594 };
595
596 static const AVFilterPad lut3d_outputs[] = {
597      {
598          .name = "default",
599          .type = AVMEDIA_TYPE_VIDEO,
600      },
601      { NULL }
602 };
603
604 AVFilter avfilter_vf_lut3d = {
605     .name          = "lut3d",
606     .description   = NULL_IF_CONFIG_SMALL("Adjust colors using a 3D LUT."),
607     .priv_size     = sizeof(LUT3DContext),
608     .init          = lut3d_init,
609     .query_formats = query_formats,
610     .inputs        = lut3d_inputs,
611     .outputs       = lut3d_outputs,
612     .priv_class    = &lut3d_class,
613     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC,
614 };
615 #endif
616
617 #if CONFIG_HALDCLUT_FILTER
618
619 static void update_clut(LUT3DContext *lut3d, const AVFrame *frame)
620 {
621     const uint8_t *data = frame->data[0];
622     const int linesize  = frame->linesize[0];
623     const int w = lut3d->clut_width;
624     const int step = lut3d->clut_step;
625     const uint8_t *rgba_map = lut3d->clut_rgba_map;
626     const int level = lut3d->lutsize;
627
628 #define LOAD_CLUT(nbits) do {                                           \
629     int i, j, k, x = 0, y = 0;                                          \
630                                                                         \
631     for (k = 0; k < level; k++) {                                       \
632         for (j = 0; j < level; j++) {                                   \
633             for (i = 0; i < level; i++) {                               \
634                 const uint##nbits##_t *src = (const uint##nbits##_t *)  \
635                     (data + y*linesize + x*step);                       \
636                 struct rgbvec *vec = &lut3d->lut[k][j][i];              \
637                 vec->r = src[rgba_map[0]] / (float)((1<<(nbits)) - 1);  \
638                 vec->g = src[rgba_map[1]] / (float)((1<<(nbits)) - 1);  \
639                 vec->b = src[rgba_map[2]] / (float)((1<<(nbits)) - 1);  \
640                 if (++x == w) {                                         \
641                     x = 0;                                              \
642                     y++;                                                \
643                 }                                                       \
644             }                                                           \
645         }                                                               \
646     }                                                                   \
647 } while (0)
648
649     if (!lut3d->clut_is16bit) LOAD_CLUT(8);
650     else                      LOAD_CLUT(16);
651 }
652
653
654 static int config_output(AVFilterLink *outlink)
655 {
656     AVFilterContext *ctx = outlink->src;
657
658     outlink->w = ctx->inputs[0]->w;
659     outlink->h = ctx->inputs[0]->h;
660     outlink->time_base = ctx->inputs[0]->time_base;
661     return 0;
662 }
663
664 static int filter_frame_main(AVFilterLink *inlink, AVFrame *inpicref)
665 {
666     LUT3DContext *s = inlink->dst->priv;
667     return ff_dualinput_filter_frame_main(&s->dinput, inlink, inpicref);
668 }
669
670 static int filter_frame_clut(AVFilterLink *inlink, AVFrame *inpicref)
671 {
672     LUT3DContext *s = inlink->dst->priv;
673     return ff_dualinput_filter_frame_second(&s->dinput, inlink, inpicref);
674 }
675
676 static int request_frame(AVFilterLink *outlink)
677 {
678     LUT3DContext *s = outlink->src->priv;
679     return ff_dualinput_request_frame(&s->dinput, outlink);
680 }
681
682 static int config_clut(AVFilterLink *inlink)
683 {
684     int size, level, w, h;
685     AVFilterContext *ctx = inlink->dst;
686     LUT3DContext *lut3d = ctx->priv;
687     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(inlink->format);
688
689     lut3d->clut_is16bit = 0;
690     switch (inlink->format) {
691     case AV_PIX_FMT_RGB48:
692     case AV_PIX_FMT_BGR48:
693     case AV_PIX_FMT_RGBA64:
694     case AV_PIX_FMT_BGRA64:
695         lut3d->clut_is16bit = 1;
696     }
697
698     lut3d->clut_step = av_get_padded_bits_per_pixel(desc) >> 3;
699     ff_fill_rgba_map(lut3d->clut_rgba_map, inlink->format);
700
701     if (inlink->w > inlink->h)
702         av_log(ctx, AV_LOG_INFO, "Padding on the right (%dpx) of the "
703                "Hald CLUT will be ignored\n", inlink->w - inlink->h);
704     else if (inlink->w < inlink->h)
705         av_log(ctx, AV_LOG_INFO, "Padding at the bottom (%dpx) of the "
706                "Hald CLUT will be ignored\n", inlink->h - inlink->w);
707     lut3d->clut_width = w = h = FFMIN(inlink->w, inlink->h);
708
709     for (level = 1; level*level*level < w; level++);
710     size = level*level*level;
711     if (size != w) {
712         av_log(ctx, AV_LOG_WARNING, "The Hald CLUT width does not match the level\n");
713         return AVERROR_INVALIDDATA;
714     }
715     av_assert0(w == h && w == size);
716     level *= level;
717     if (level > MAX_LEVEL) {
718         const int max_clut_level = sqrt(MAX_LEVEL);
719         const int max_clut_size  = max_clut_level*max_clut_level*max_clut_level;
720         av_log(ctx, AV_LOG_ERROR, "Too large Hald CLUT "
721                "(maximum level is %d, or %dx%d CLUT)\n",
722                max_clut_level, max_clut_size, max_clut_size);
723         return AVERROR(EINVAL);
724     }
725     lut3d->lutsize = level;
726
727     return 0;
728 }
729
730 static AVFrame *update_apply_clut(AVFilterContext *ctx, AVFrame *main,
731                                   const AVFrame *second)
732 {
733     AVFilterLink *inlink = ctx->inputs[0];
734     update_clut(ctx->priv, second);
735     return apply_lut(inlink, main);
736 }
737
738 static av_cold int haldclut_init(AVFilterContext *ctx)
739 {
740     LUT3DContext *lut3d = ctx->priv;
741     lut3d->dinput.process = update_apply_clut;
742     return 0;
743 }
744
745 static av_cold void haldclut_uninit(AVFilterContext *ctx)
746 {
747     LUT3DContext *lut3d = ctx->priv;
748     ff_dualinput_uninit(&lut3d->dinput);
749 }
750
751 static const AVOption haldclut_options[] = {
752     { "shortest",   "force termination when the shortest input terminates", OFFSET(dinput.shortest),   AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, FLAGS },
753     { "repeatlast", "continue applying the last clut after eos",            OFFSET(dinput.repeatlast), AV_OPT_TYPE_INT, { .i64 = 1 }, 0, 1, FLAGS },
754     COMMON_OPTIONS
755 };
756
757 AVFILTER_DEFINE_CLASS(haldclut);
758
759 static const AVFilterPad haldclut_inputs[] = {
760     {
761         .name         = "main",
762         .type         = AVMEDIA_TYPE_VIDEO,
763         .filter_frame = filter_frame_main,
764         .config_props = config_input,
765     },{
766         .name         = "clut",
767         .type         = AVMEDIA_TYPE_VIDEO,
768         .filter_frame = filter_frame_clut,
769         .config_props = config_clut,
770     },
771     { NULL }
772 };
773
774 static const AVFilterPad haldclut_outputs[] = {
775     {
776         .name = "default",
777         .type = AVMEDIA_TYPE_VIDEO,
778         .request_frame = request_frame,
779         .config_props = config_output,
780     },
781     { NULL }
782 };
783
784 AVFilter avfilter_vf_haldclut = {
785     .name          = "haldclut",
786     .description   = NULL_IF_CONFIG_SMALL("Adjust colors using a Hald CLUT."),
787     .priv_size     = sizeof(LUT3DContext),
788     .init          = haldclut_init,
789     .uninit        = haldclut_uninit,
790     .query_formats = query_formats,
791     .inputs        = haldclut_inputs,
792     .outputs       = haldclut_outputs,
793     .priv_class    = &haldclut_class,
794     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_INTERNAL,
795 };
796 #endif