avfilter: add support for gray14 format
[ffmpeg.git] / libavfilter / vf_limiter.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "libavutil/attributes.h"
20 #include "libavutil/common.h"
21 #include "libavutil/eval.h"
22 #include "libavutil/imgutils.h"
23 #include "libavutil/opt.h"
24 #include "libavutil/pixdesc.h"
25 #include "avfilter.h"
26 #include "formats.h"
27 #include "internal.h"
28 #include "limiter.h"
29 #include "video.h"
30
31 typedef struct LimiterContext {
32     const AVClass *class;
33     int min;
34     int max;
35     int planes;
36     int nb_planes;
37     int linesize[4];
38     int width[4];
39     int height[4];
40
41     LimiterDSPContext dsp;
42 } LimiterContext;
43
44 #define OFFSET(x) offsetof(LimiterContext, x)
45 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
46
47 static const AVOption limiter_options[] = {
48     { "min",    "set min value", OFFSET(min),    AV_OPT_TYPE_INT, {.i64=0},     0, 65535, .flags = FLAGS },
49     { "max",    "set max value", OFFSET(max),    AV_OPT_TYPE_INT, {.i64=65535}, 0, 65535, .flags = FLAGS },
50     { "planes", "set planes",    OFFSET(planes), AV_OPT_TYPE_INT, {.i64=15},    0,    15, .flags = FLAGS },
51     { NULL }
52 };
53
54 AVFILTER_DEFINE_CLASS(limiter);
55
56 static av_cold int init(AVFilterContext *ctx)
57 {
58     LimiterContext *s = ctx->priv;
59
60     if (s->min > s->max)
61         return AVERROR(EINVAL);
62     return 0;
63 }
64
65 static int query_formats(AVFilterContext *ctx)
66 {
67     static const enum AVPixelFormat pix_fmts[] = {
68         AV_PIX_FMT_YUVA444P, AV_PIX_FMT_YUV444P, AV_PIX_FMT_YUV440P,
69         AV_PIX_FMT_YUVJ444P, AV_PIX_FMT_YUVJ440P,
70         AV_PIX_FMT_YUVA422P, AV_PIX_FMT_YUV422P, AV_PIX_FMT_YUVA420P, AV_PIX_FMT_YUV420P,
71         AV_PIX_FMT_YUVJ422P, AV_PIX_FMT_YUVJ420P,
72         AV_PIX_FMT_YUVJ411P, AV_PIX_FMT_YUV411P, AV_PIX_FMT_YUV410P,
73         AV_PIX_FMT_YUV420P9, AV_PIX_FMT_YUV422P9, AV_PIX_FMT_YUV444P9,
74         AV_PIX_FMT_YUV420P10, AV_PIX_FMT_YUV422P10, AV_PIX_FMT_YUV444P10,
75         AV_PIX_FMT_YUV420P12, AV_PIX_FMT_YUV422P12, AV_PIX_FMT_YUV444P12, AV_PIX_FMT_YUV440P12,
76         AV_PIX_FMT_YUV420P14, AV_PIX_FMT_YUV422P14, AV_PIX_FMT_YUV444P14,
77         AV_PIX_FMT_YUV420P16, AV_PIX_FMT_YUV422P16, AV_PIX_FMT_YUV444P16,
78         AV_PIX_FMT_YUVA420P9, AV_PIX_FMT_YUVA422P9, AV_PIX_FMT_YUVA444P9,
79         AV_PIX_FMT_YUVA420P10, AV_PIX_FMT_YUVA422P10, AV_PIX_FMT_YUVA444P10,
80         AV_PIX_FMT_YUVA420P16, AV_PIX_FMT_YUVA422P16, AV_PIX_FMT_YUVA444P16,
81         AV_PIX_FMT_GBRP, AV_PIX_FMT_GBRP9, AV_PIX_FMT_GBRP10,
82         AV_PIX_FMT_GBRP12, AV_PIX_FMT_GBRP14, AV_PIX_FMT_GBRP16,
83         AV_PIX_FMT_GBRAP, AV_PIX_FMT_GBRAP10, AV_PIX_FMT_GBRAP12, AV_PIX_FMT_GBRAP16,
84         AV_PIX_FMT_GRAY8, AV_PIX_FMT_GRAY9, AV_PIX_FMT_GRAY10, AV_PIX_FMT_GRAY12, AV_PIX_FMT_GRAY14, AV_PIX_FMT_GRAY16,
85         AV_PIX_FMT_NONE
86     };
87
88     AVFilterFormats *fmts_list = ff_make_format_list(pix_fmts);
89     if (!fmts_list)
90         return AVERROR(ENOMEM);
91     return ff_set_common_formats(ctx, fmts_list);
92 }
93
94 static void limiter8(const uint8_t *src, uint8_t *dst,
95                      ptrdiff_t slinesize, ptrdiff_t dlinesize,
96                      int w, int h, int min, int max)
97 {
98     int x, y;
99
100     for (y = 0; y < h; y++) {
101         for (x = 0; x < w; x++) {
102             dst[x] = av_clip(src[x], min, max);
103         }
104
105         dst += dlinesize;
106         src += slinesize;
107     }
108 }
109
110 static void limiter16(const uint8_t *ssrc, uint8_t *ddst,
111                       ptrdiff_t slinesize, ptrdiff_t dlinesize,
112                       int w, int h, int min, int max)
113 {
114     const uint16_t *src = (const uint16_t *)ssrc;
115     uint16_t *dst = (uint16_t *)ddst;
116     int x, y;
117
118     dlinesize /= 2;
119     slinesize /= 2;
120
121     for (y = 0; y < h; y++) {
122         for (x = 0; x < w; x++) {
123             dst[x] = av_clip(src[x], min, max);
124         }
125
126         dst += dlinesize;
127         src += slinesize;
128     }
129 }
130
131 static int config_props(AVFilterLink *inlink)
132 {
133     AVFilterContext *ctx = inlink->dst;
134     LimiterContext *s = ctx->priv;
135     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(inlink->format);
136     int vsub, hsub, ret;
137
138     s->nb_planes = av_pix_fmt_count_planes(inlink->format);
139
140     if ((ret = av_image_fill_linesizes(s->linesize, inlink->format, inlink->w)) < 0)
141         return ret;
142
143     hsub = desc->log2_chroma_w;
144     vsub = desc->log2_chroma_h;
145     s->height[1] = s->height[2] = AV_CEIL_RSHIFT(inlink->h, vsub);
146     s->height[0] = s->height[3] = inlink->h;
147     s->width[1]  = s->width[2]  = AV_CEIL_RSHIFT(inlink->w, hsub);
148     s->width[0]  = s->width[3]  = inlink->w;
149
150     if (desc->comp[0].depth == 8) {
151         s->dsp.limiter = limiter8;
152         s->max = FFMIN(s->max, 255);
153         s->min = FFMIN(s->min, 255);
154     } else {
155         s->dsp.limiter = limiter16;
156     }
157
158     if (ARCH_X86)
159         ff_limiter_init_x86(&s->dsp, desc->comp[0].depth);
160
161     return 0;
162 }
163
164 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
165 {
166     AVFilterContext *ctx = inlink->dst;
167     LimiterContext *s = ctx->priv;
168     AVFilterLink *outlink = ctx->outputs[0];
169     AVFrame *out;
170     int p;
171
172     if (av_frame_is_writable(in)) {
173         out = in;
174     } else {
175         out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
176         if (!out) {
177             av_frame_free(&in);
178             return AVERROR(ENOMEM);
179         }
180         av_frame_copy_props(out, in);
181     }
182
183     for (p = 0; p < s->nb_planes; p++) {
184         if (!((1 << p) & s->planes)) {
185             if (out != in)
186                 av_image_copy_plane(out->data[p], out->linesize[p], in->data[p], in->linesize[p],
187                                     s->linesize[p], s->height[p]);
188             continue;
189         }
190
191         s->dsp.limiter(in->data[p], out->data[p],
192                        in->linesize[p], out->linesize[p],
193                        s->width[p], s->height[p],
194                        s->min, s->max);
195     }
196
197     if (out != in)
198         av_frame_free(&in);
199
200     return ff_filter_frame(outlink, out);
201 }
202
203 static const AVFilterPad inputs[] = {
204     {
205         .name         = "default",
206         .type         = AVMEDIA_TYPE_VIDEO,
207         .filter_frame = filter_frame,
208         .config_props = config_props,
209     },
210     { NULL }
211 };
212
213 static const AVFilterPad outputs[] = {
214     {
215         .name = "default",
216         .type = AVMEDIA_TYPE_VIDEO,
217     },
218     { NULL }
219 };
220
221 AVFilter ff_vf_limiter = {
222     .name          = "limiter",
223     .description   = NULL_IF_CONFIG_SMALL("Limit pixels components to the specified range."),
224     .priv_size     = sizeof(LimiterContext),
225     .priv_class    = &limiter_class,
226     .init          = init,
227     .query_formats = query_formats,
228     .inputs        = inputs,
229     .outputs       = outputs,
230     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC,
231 };