avfilter/vf_ssim: fix temp size calculation
[ffmpeg.git] / libavfilter / vf_histogram.c
1 /*
2  * Copyright (c) 2012-2013 Paul B Mahol
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/avassert.h"
22 #include "libavutil/opt.h"
23 #include "libavutil/parseutils.h"
24 #include "libavutil/pixdesc.h"
25 #include "libavutil/imgutils.h"
26 #include "libavutil/intreadwrite.h"
27 #include "avfilter.h"
28 #include "formats.h"
29 #include "internal.h"
30 #include "video.h"
31
32 typedef struct HistogramContext {
33     const AVClass *class;               ///< AVClass context for log and options purpose
34     unsigned       histogram[256*256];
35     int            histogram_size;
36     int            mult;
37     int            ncomp;
38     int            dncomp;
39     uint8_t        bg_color[4];
40     uint8_t        fg_color[4];
41     int            level_height;
42     int            scale_height;
43     int            display_mode;
44     int            levels_mode;
45     const AVPixFmtDescriptor *desc, *odesc;
46     int            components;
47     float          fgopacity;
48     float          bgopacity;
49     int            planewidth[4];
50     int            planeheight[4];
51 } HistogramContext;
52
53 #define OFFSET(x) offsetof(HistogramContext, x)
54 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
55
56 static const AVOption histogram_options[] = {
57     { "level_height", "set level height", OFFSET(level_height), AV_OPT_TYPE_INT, {.i64=200}, 50, 2048, FLAGS},
58     { "scale_height", "set scale height", OFFSET(scale_height), AV_OPT_TYPE_INT, {.i64=12}, 0, 40, FLAGS},
59     { "display_mode", "set display mode", OFFSET(display_mode), AV_OPT_TYPE_INT, {.i64=2}, 0, 2, FLAGS, "display_mode"},
60     { "d",            "set display mode", OFFSET(display_mode), AV_OPT_TYPE_INT, {.i64=2}, 0, 2, FLAGS, "display_mode"},
61         { "overlay", NULL, 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, FLAGS, "display_mode" },
62         { "parade",  NULL, 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, FLAGS, "display_mode" },
63         { "stack",   NULL, 0, AV_OPT_TYPE_CONST, {.i64=2}, 0, 0, FLAGS, "display_mode" },
64     { "levels_mode", "set levels mode", OFFSET(levels_mode), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS, "levels_mode"},
65     { "m",           "set levels mode", OFFSET(levels_mode), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS, "levels_mode"},
66         { "linear",      NULL, 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, FLAGS, "levels_mode" },
67         { "logarithmic", NULL, 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, FLAGS, "levels_mode" },
68     { "components", "set color components to display", OFFSET(components), AV_OPT_TYPE_INT, {.i64=7}, 1, 15, FLAGS},
69     { "c",          "set color components to display", OFFSET(components), AV_OPT_TYPE_INT, {.i64=7}, 1, 15, FLAGS},
70     { "fgopacity", "set foreground opacity", OFFSET(fgopacity), AV_OPT_TYPE_FLOAT, {.dbl=0.7}, 0, 1, FLAGS},
71     { "f",         "set foreground opacity", OFFSET(fgopacity), AV_OPT_TYPE_FLOAT, {.dbl=0.7}, 0, 1, FLAGS},
72     { "bgopacity", "set background opacity", OFFSET(bgopacity), AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0, 1, FLAGS},
73     { "b",         "set background opacity", OFFSET(bgopacity), AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0, 1, FLAGS},
74     { NULL }
75 };
76
77 AVFILTER_DEFINE_CLASS(histogram);
78
79 static const enum AVPixelFormat levels_in_pix_fmts[] = {
80     AV_PIX_FMT_YUVA420P, AV_PIX_FMT_YUV420P, AV_PIX_FMT_YUVJ420P,
81     AV_PIX_FMT_YUVA422P, AV_PIX_FMT_YUV422P, AV_PIX_FMT_YUVJ422P,
82     AV_PIX_FMT_YUV411P,  AV_PIX_FMT_YUVJ411P,
83     AV_PIX_FMT_YUV440P,  AV_PIX_FMT_YUV410P,
84     AV_PIX_FMT_YUVA444P, AV_PIX_FMT_YUV444P, AV_PIX_FMT_YUVJ444P,
85     AV_PIX_FMT_YUV420P9, AV_PIX_FMT_YUV422P9, AV_PIX_FMT_YUV444P9,
86     AV_PIX_FMT_YUVA420P9, AV_PIX_FMT_YUVA422P9, AV_PIX_FMT_YUVA444P9,
87     AV_PIX_FMT_YUV420P10, AV_PIX_FMT_YUV422P10, AV_PIX_FMT_YUV444P10,
88     AV_PIX_FMT_YUVA420P10, AV_PIX_FMT_YUVA422P10, AV_PIX_FMT_YUVA444P10,
89     AV_PIX_FMT_YUV420P12, AV_PIX_FMT_YUV422P12, AV_PIX_FMT_YUV444P12, AV_PIX_FMT_YUV440P12,
90     AV_PIX_FMT_GBRAP,    AV_PIX_FMT_GBRP,
91     AV_PIX_FMT_GBRP9,    AV_PIX_FMT_GBRP10,
92     AV_PIX_FMT_GBRP12,   AV_PIX_FMT_GBRAP12,
93     AV_PIX_FMT_GRAY8,
94     AV_PIX_FMT_NONE
95 };
96
97 static const enum AVPixelFormat levels_out_yuv8_pix_fmts[] = {
98     AV_PIX_FMT_YUVA444P, AV_PIX_FMT_YUV444P,
99     AV_PIX_FMT_NONE
100 };
101
102 static const enum AVPixelFormat levels_out_yuv9_pix_fmts[] = {
103     AV_PIX_FMT_YUVA444P9, AV_PIX_FMT_YUV444P9,
104     AV_PIX_FMT_NONE
105 };
106
107 static const enum AVPixelFormat levels_out_yuv10_pix_fmts[] = {
108     AV_PIX_FMT_YUVA444P10, AV_PIX_FMT_YUV444P10,
109     AV_PIX_FMT_NONE
110 };
111
112 static const enum AVPixelFormat levels_out_yuv12_pix_fmts[] = {
113     AV_PIX_FMT_YUV444P12,
114     AV_PIX_FMT_NONE
115 };
116
117 static const enum AVPixelFormat levels_out_rgb8_pix_fmts[] = {
118     AV_PIX_FMT_GBRAP,    AV_PIX_FMT_GBRP,
119     AV_PIX_FMT_NONE
120 };
121
122 static const enum AVPixelFormat levels_out_rgb9_pix_fmts[] = {
123     AV_PIX_FMT_GBRP9,
124     AV_PIX_FMT_NONE
125 };
126
127 static const enum AVPixelFormat levels_out_rgb10_pix_fmts[] = {
128     AV_PIX_FMT_GBRP10,
129     AV_PIX_FMT_NONE
130 };
131
132 static const enum AVPixelFormat levels_out_rgb12_pix_fmts[] = {
133     AV_PIX_FMT_GBRP12, AV_PIX_FMT_GBRAP12,
134     AV_PIX_FMT_NONE
135 };
136
137 static int query_formats(AVFilterContext *ctx)
138 {
139     AVFilterFormats *avff;
140     const AVPixFmtDescriptor *desc;
141     const enum AVPixelFormat *out_pix_fmts;
142     int rgb, i, bits;
143     int ret;
144
145     if (!ctx->inputs[0]->in_formats ||
146         !ctx->inputs[0]->in_formats->nb_formats) {
147         return AVERROR(EAGAIN);
148     }
149
150     if (!ctx->inputs[0]->out_formats)
151         if ((ret = ff_formats_ref(ff_make_format_list(levels_in_pix_fmts), &ctx->inputs[0]->out_formats)) < 0)
152             return ret;
153     avff = ctx->inputs[0]->in_formats;
154     desc = av_pix_fmt_desc_get(avff->formats[0]);
155     rgb = desc->flags & AV_PIX_FMT_FLAG_RGB;
156     bits = desc->comp[0].depth;
157     for (i = 1; i < avff->nb_formats; i++) {
158         desc = av_pix_fmt_desc_get(avff->formats[i]);
159         if ((rgb != (desc->flags & AV_PIX_FMT_FLAG_RGB)) ||
160             (bits != desc->comp[0].depth))
161             return AVERROR(EAGAIN);
162     }
163
164     if (rgb && bits == 8)
165         out_pix_fmts = levels_out_rgb8_pix_fmts;
166     else if (rgb && bits == 9)
167         out_pix_fmts = levels_out_rgb9_pix_fmts;
168     else if (rgb && bits == 10)
169         out_pix_fmts = levels_out_rgb10_pix_fmts;
170     else if (rgb && bits == 12)
171         out_pix_fmts = levels_out_rgb12_pix_fmts;
172     else if (bits == 8)
173         out_pix_fmts = levels_out_yuv8_pix_fmts;
174     else if (bits == 9)
175         out_pix_fmts = levels_out_yuv9_pix_fmts;
176     else if (bits == 10)
177         out_pix_fmts = levels_out_yuv10_pix_fmts;
178     else if (bits == 12)
179         out_pix_fmts = levels_out_yuv12_pix_fmts;
180     else
181         return AVERROR(EAGAIN);
182     if ((ret = ff_formats_ref(ff_make_format_list(out_pix_fmts), &ctx->outputs[0]->in_formats)) < 0)
183         return ret;
184
185     return 0;
186 }
187
188 static const uint8_t black_yuva_color[4] = { 0, 127, 127, 255 };
189 static const uint8_t black_gbrp_color[4] = { 0, 0, 0, 255 };
190 static const uint8_t white_yuva_color[4] = { 255, 127, 127, 255 };
191 static const uint8_t white_gbrp_color[4] = { 255, 255, 255, 255 };
192
193 static int config_input(AVFilterLink *inlink)
194 {
195     HistogramContext *h = inlink->dst->priv;
196
197     h->desc  = av_pix_fmt_desc_get(inlink->format);
198     h->ncomp = h->desc->nb_components;
199     h->histogram_size = 1 << h->desc->comp[0].depth;
200     h->mult = h->histogram_size / 256;
201
202     switch (inlink->format) {
203     case AV_PIX_FMT_GBRP12:
204     case AV_PIX_FMT_GBRP10:
205     case AV_PIX_FMT_GBRP9:
206     case AV_PIX_FMT_GBRAP:
207     case AV_PIX_FMT_GBRP:
208         memcpy(h->bg_color, black_gbrp_color, 4);
209         memcpy(h->fg_color, white_gbrp_color, 4);
210         break;
211     default:
212         memcpy(h->bg_color, black_yuva_color, 4);
213         memcpy(h->fg_color, white_yuva_color, 4);
214     }
215
216     h->fg_color[3] = h->fgopacity * 255;
217     h->bg_color[3] = h->bgopacity * 255;
218
219     h->planeheight[1] = h->planeheight[2] = AV_CEIL_RSHIFT(inlink->h, h->desc->log2_chroma_h);
220     h->planeheight[0] = h->planeheight[3] = inlink->h;
221     h->planewidth[1]  = h->planewidth[2]  = AV_CEIL_RSHIFT(inlink->w, h->desc->log2_chroma_w);
222     h->planewidth[0]  = h->planewidth[3]  = inlink->w;
223
224     return 0;
225 }
226
227 static int config_output(AVFilterLink *outlink)
228 {
229     AVFilterContext *ctx = outlink->src;
230     HistogramContext *h = ctx->priv;
231     int ncomp = 0, i;
232
233     for (i = 0; i < h->ncomp; i++) {
234         if ((1 << i) & h->components)
235             ncomp++;
236     }
237     outlink->w = h->histogram_size * FFMAX(ncomp * (h->display_mode == 1), 1);
238     outlink->h = (h->level_height + h->scale_height) * FFMAX(ncomp * (h->display_mode == 2), 1);
239
240     h->odesc = av_pix_fmt_desc_get(outlink->format);
241     h->dncomp = h->odesc->nb_components;
242     outlink->sample_aspect_ratio = (AVRational){1,1};
243
244     return 0;
245 }
246
247 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
248 {
249     HistogramContext *h   = inlink->dst->priv;
250     AVFilterContext *ctx  = inlink->dst;
251     AVFilterLink *outlink = ctx->outputs[0];
252     AVFrame *out;
253     int i, j, k, l, m;
254
255     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
256     if (!out) {
257         av_frame_free(&in);
258         return AVERROR(ENOMEM);
259     }
260
261     out->pts = in->pts;
262
263     for (k = 0; k < 4 && out->data[k]; k++) {
264         const int is_chroma = (k == 1 || k == 2);
265         const int dst_h = AV_CEIL_RSHIFT(outlink->h, (is_chroma ? h->odesc->log2_chroma_h : 0));
266         const int dst_w = AV_CEIL_RSHIFT(outlink->w, (is_chroma ? h->odesc->log2_chroma_w : 0));
267
268         if (h->histogram_size <= 256) {
269             for (i = 0; i < dst_h ; i++)
270                 memset(out->data[h->odesc->comp[k].plane] +
271                        i * out->linesize[h->odesc->comp[k].plane],
272                        h->bg_color[k], dst_w);
273         } else {
274             const int mult = h->mult;
275
276             for (i = 0; i < dst_h ; i++)
277                 for (j = 0; j < dst_w; j++)
278                     AV_WN16(out->data[h->odesc->comp[k].plane] +
279                         i * out->linesize[h->odesc->comp[k].plane] + j * 2,
280                         h->bg_color[k] * mult);
281         }
282     }
283
284     for (m = 0, k = 0; k < h->ncomp; k++) {
285         const int p = h->desc->comp[k].plane;
286         const int height = h->planeheight[p];
287         const int width = h->planewidth[p];
288         double max_hval_log;
289         unsigned max_hval = 0;
290         int start, startx;
291
292         if (!((1 << k) & h->components))
293             continue;
294         startx = m * h->histogram_size * (h->display_mode == 1);
295         start = m++ * (h->level_height + h->scale_height) * (h->display_mode == 2);
296
297         if (h->histogram_size <= 256) {
298             for (i = 0; i < height; i++) {
299                 const uint8_t *src = in->data[p] + i * in->linesize[p];
300                 for (j = 0; j < width; j++)
301                     h->histogram[src[j]]++;
302             }
303         } else {
304             for (i = 0; i < height; i++) {
305                 const uint16_t *src = (const uint16_t *)(in->data[p] + i * in->linesize[p]);
306                 for (j = 0; j < width; j++)
307                     h->histogram[src[j]]++;
308             }
309         }
310
311         for (i = 0; i < h->histogram_size; i++)
312             max_hval = FFMAX(max_hval, h->histogram[i]);
313         max_hval_log = log2(max_hval + 1);
314
315         for (i = 0; i < h->histogram_size; i++) {
316             int col_height;
317
318             if (h->levels_mode)
319                 col_height = lrint(h->level_height * (1. - (log2(h->histogram[i] + 1) / max_hval_log)));
320             else
321                 col_height = h->level_height - (h->histogram[i] * (int64_t)h->level_height + max_hval - 1) / max_hval;
322
323             if (h->histogram_size <= 256) {
324                 for (j = h->level_height - 1; j >= col_height; j--) {
325                     if (h->display_mode) {
326                         for (l = 0; l < h->dncomp; l++)
327                             out->data[l][(j + start) * out->linesize[l] + startx + i] = h->fg_color[l];
328                     } else {
329                         out->data[p][(j + start) * out->linesize[p] + startx + i] = 255;
330                     }
331                 }
332                 for (j = h->level_height + h->scale_height - 1; j >= h->level_height; j--)
333                     out->data[p][(j + start) * out->linesize[p] + startx + i] = i;
334             } else {
335                 const int mult = h->mult;
336
337                 for (j = h->level_height - 1; j >= col_height; j--) {
338                     if (h->display_mode) {
339                         for (l = 0; l < h->dncomp; l++)
340                             AV_WN16(out->data[l] + (j + start) * out->linesize[l] + startx * 2 + i * 2, h->fg_color[l] * mult);
341                     } else {
342                         AV_WN16(out->data[p] + (j + start) * out->linesize[p] + startx * 2 + i * 2, 255 * mult);
343                     }
344                 }
345                 for (j = h->level_height + h->scale_height - 1; j >= h->level_height; j--)
346                     AV_WN16(out->data[p] + (j + start) * out->linesize[p] + startx * 2 + i * 2, i);
347             }
348         }
349
350         memset(h->histogram, 0, h->histogram_size * sizeof(unsigned));
351     }
352
353     av_frame_free(&in);
354     return ff_filter_frame(outlink, out);
355 }
356
357 static const AVFilterPad inputs[] = {
358     {
359         .name         = "default",
360         .type         = AVMEDIA_TYPE_VIDEO,
361         .filter_frame = filter_frame,
362         .config_props = config_input,
363     },
364     { NULL }
365 };
366
367 static const AVFilterPad outputs[] = {
368     {
369         .name         = "default",
370         .type         = AVMEDIA_TYPE_VIDEO,
371         .config_props = config_output,
372     },
373     { NULL }
374 };
375
376 AVFilter ff_vf_histogram = {
377     .name          = "histogram",
378     .description   = NULL_IF_CONFIG_SMALL("Compute and draw a histogram."),
379     .priv_size     = sizeof(HistogramContext),
380     .query_formats = query_formats,
381     .inputs        = inputs,
382     .outputs       = outputs,
383     .priv_class    = &histogram_class,
384 };