Allow remaining 32bit RGB packed pix_fmts in kerndeint filter.
[ffmpeg.git] / libavfilter / vf_kerndeint.c
1 /*
2  * Copyright (c) 2012 Jeremy Tran
3  * Copyright (c) 2004 Tobias Diedrich
4  * Copyright (c) 2003 Donald A. Graft
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or modify
9  * it under the terms of the GNU General Public License as published by
10  * the Free Software Foundation; either version 2 of the License, or
11  * (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  * GNU General Public License for more details.
17  *
18  * You should have received a copy of the GNU General Public License along
19  * with FFmpeg; if not, write to the Free Software Foundation, Inc.,
20  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
21  */
22
23 /**
24  * @file
25  * Kernel Deinterlacer
26  * Ported from MPlayer libmpcodecs/vf_kerndeint.c.
27  */
28
29 #include "libavutil/imgutils.h"
30 #include "libavutil/intreadwrite.h"
31 #include "libavutil/opt.h"
32 #include "libavutil/pixdesc.h"
33
34 #include "avfilter.h"
35 #include "formats.h"
36 #include "internal.h"
37
38 typedef struct {
39     const AVClass *class;
40     int           frame; ///< frame count, starting from 0
41     int           thresh, map, order, sharp, twoway;
42     int           vsub;
43     uint8_t       *tmp_data [4];  ///< temporary plane data buffer
44     int           tmp_bwidth[4];  ///< temporary plane byte width
45     int           pixel_step;
46 } KerndeintContext;
47
48 #define OFFSET(x) offsetof(KerndeintContext, x)
49 #define FLAGS AV_OPT_FLAG_VIDEO_PARAM|AV_OPT_FLAG_FILTERING_PARAM
50 static const AVOption kerndeint_options[] = {
51     { "thresh", "set the threshold", OFFSET(thresh), AV_OPT_TYPE_INT, {.i64=10}, 0, 255, FLAGS },
52     { "map",    "set the map", OFFSET(map), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS },
53     { "order",  "set the order", OFFSET(order), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS },
54     { "sharp",  "enable sharpening", OFFSET(sharp), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS },
55     { "twoway", "enable twoway", OFFSET(twoway), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS },
56     { NULL }
57 };
58
59 AVFILTER_DEFINE_CLASS(kerndeint);
60
61 static av_cold int init(AVFilterContext *ctx, const char *args)
62 {
63     KerndeintContext *kerndeint = ctx->priv;
64     const char const * shorthand[] = { "thresh", "map", "order", "sharp", "twoway", NULL };
65
66     kerndeint->class = &kerndeint_class;
67     av_opt_set_defaults(kerndeint);
68
69     return av_opt_set_from_string(kerndeint, args, shorthand, "=", ":");
70 }
71
72 static av_cold void uninit(AVFilterContext *ctx)
73 {
74     KerndeintContext *kerndeint = ctx->priv;
75
76     av_free(kerndeint->tmp_data[0]);
77     av_opt_free(kerndeint);
78 }
79
80 static int query_formats(AVFilterContext *ctx)
81 {
82     static const enum PixelFormat pix_fmts[] = {
83         AV_PIX_FMT_YUV420P,
84         AV_PIX_FMT_YUYV422,
85         AV_PIX_FMT_ARGB, AV_PIX_FMT_0RGB,
86         AV_PIX_FMT_ABGR, AV_PIX_FMT_0BGR,
87         AV_PIX_FMT_RGBA, AV_PIX_FMT_RGB0,
88         AV_PIX_FMT_BGRA, AV_PIX_FMT_BGR0,
89         AV_PIX_FMT_NONE
90     };
91
92     ff_set_common_formats(ctx, ff_make_format_list(pix_fmts));
93
94     return 0;
95 }
96
97 static int config_props(AVFilterLink *inlink)
98 {
99     KerndeintContext *kerndeint = inlink->dst->priv;
100     const AVPixFmtDescriptor *desc = &av_pix_fmt_descriptors[inlink->format];
101
102     kerndeint->vsub = desc->log2_chroma_h;
103     kerndeint->pixel_step = av_get_bits_per_pixel(desc) >> 3;
104
105     return av_image_alloc(kerndeint->tmp_data, kerndeint->tmp_bwidth,
106                           inlink->w, inlink->h, inlink->format, 1);
107 }
108
109 static int filter_frame(AVFilterLink *inlink, AVFilterBufferRef *inpic)
110 {
111     KerndeintContext *kerndeint = inlink->dst->priv;
112     AVFilterLink *outlink = inlink->dst->outputs[0];
113     AVFilterBufferRef *outpic;
114     const uint8_t *prvp;   ///< Previous field's pixel line number n
115     const uint8_t *prvpp;  ///< Previous field's pixel line number (n - 1)
116     const uint8_t *prvpn;  ///< Previous field's pixel line number (n + 1)
117     const uint8_t *prvppp; ///< Previous field's pixel line number (n - 2)
118     const uint8_t *prvpnn; ///< Previous field's pixel line number (n + 2)
119     const uint8_t *prvp4p; ///< Previous field's pixel line number (n - 4)
120     const uint8_t *prvp4n; ///< Previous field's pixel line number (n + 4)
121
122     const uint8_t *srcp;   ///< Current field's pixel line number n
123     const uint8_t *srcpp;  ///< Current field's pixel line number (n - 1)
124     const uint8_t *srcpn;  ///< Current field's pixel line number (n + 1)
125     const uint8_t *srcppp; ///< Current field's pixel line number (n - 2)
126     const uint8_t *srcpnn; ///< Current field's pixel line number (n + 2)
127     const uint8_t *srcp3p; ///< Current field's pixel line number (n - 3)
128     const uint8_t *srcp3n; ///< Current field's pixel line number (n + 3)
129     const uint8_t *srcp4p; ///< Current field's pixel line number (n - 4)
130     const uint8_t *srcp4n; ///< Current field's pixel line number (n + 4)
131
132     uint8_t *dstp, *dstp_saved;
133     const uint8_t *srcp_saved;
134
135     int src_linesize, psrc_linesize, dst_linesize, bwidth;
136     int x, y, plane, val, hi, lo, g, h, n = kerndeint->frame++;
137     double valf;
138
139     const int thresh = kerndeint->thresh;
140     const int order  = kerndeint->order;
141     const int map    = kerndeint->map;
142     const int sharp  = kerndeint->sharp;
143     const int twoway = kerndeint->twoway;
144
145     outpic = ff_get_video_buffer(outlink, AV_PERM_WRITE|AV_PERM_ALIGN, outlink->w, outlink->h);
146     if (!outpic) {
147         avfilter_unref_bufferp(&inpic);
148         return AVERROR(ENOMEM);
149     }
150     avfilter_copy_buffer_ref_props(outpic, inpic);
151     outpic->video->interlaced = 0;
152
153     for (plane = 0; inpic->data[plane] && plane < 4; plane++) {
154         h = plane == 0 ? inlink->h : inlink->h >> kerndeint->vsub;
155         bwidth = kerndeint->tmp_bwidth[plane];
156
157         srcp = srcp_saved = inpic->data[plane];
158         src_linesize      = inpic->linesize[plane];
159         psrc_linesize     = outpic->linesize[plane];
160         dstp = dstp_saved = outpic->data[plane];
161         dst_linesize      = outpic->linesize[plane];
162         srcp              = srcp_saved + (1 - order) * src_linesize;
163         dstp              = dstp_saved + (1 - order) * dst_linesize;
164
165         for (y = 0; y < h; y += 2) {
166             memcpy(dstp, srcp, bwidth);
167             srcp += 2 * src_linesize;
168             dstp += 2 * dst_linesize;
169         }
170
171         // Copy through the lines that will be missed below.
172         memcpy(dstp_saved + order            * dst_linesize, srcp_saved + (1 -     order) * src_linesize, bwidth);
173         memcpy(dstp_saved + (2 + order    )  * dst_linesize, srcp_saved + (3 -     order) * src_linesize, bwidth);
174         memcpy(dstp_saved + (h - 2 + order)  * dst_linesize, srcp_saved + (h - 1 - order) * src_linesize, bwidth);
175         memcpy(dstp_saved + (h - 4 + order)  * dst_linesize, srcp_saved + (h - 3 - order) * src_linesize, bwidth);
176
177         /* For the other field choose adaptively between using the previous field
178            or the interpolant from the current field. */
179         prvp   = kerndeint->tmp_data[plane] + 5 * psrc_linesize - (1 - order) * psrc_linesize;
180         prvpp  = prvp - psrc_linesize;
181         prvppp = prvp - 2 * psrc_linesize;
182         prvp4p = prvp - 4 * psrc_linesize;
183         prvpn  = prvp + psrc_linesize;
184         prvpnn = prvp + 2 * psrc_linesize;
185         prvp4n = prvp + 4 * psrc_linesize;
186
187         srcp   = srcp_saved + 5 * src_linesize - (1 - order) * src_linesize;
188         srcpp  = srcp - src_linesize;
189         srcppp = srcp - 2 * src_linesize;
190         srcp3p = srcp - 3 * src_linesize;
191         srcp4p = srcp - 4 * src_linesize;
192
193         srcpn  = srcp + src_linesize;
194         srcpnn = srcp + 2 * src_linesize;
195         srcp3n = srcp + 3 * src_linesize;
196         srcp4n = srcp + 4 * src_linesize;
197
198         dstp   = dstp_saved + 5 * dst_linesize - (1 - order) * dst_linesize;
199
200         for (y = 5 - (1 - order); y <= h - 5 - (1 - order); y += 2) {
201             for (x = 0; x < bwidth; x++) {
202                 if (thresh == 0 || n == 0 ||
203                     (abs((int)prvp[x]  - (int)srcp[x])  > thresh) ||
204                     (abs((int)prvpp[x] - (int)srcpp[x]) > thresh) ||
205                     (abs((int)prvpn[x] - (int)srcpn[x]) > thresh)) {
206                     int is_packed_rgb = av_pix_fmt_desc_get(inlink->format)->flags & PIX_FMT_RGB;
207                     if (map) {
208                         g = x & ~3;
209
210                         if (is_packed_rgb) {
211                             AV_WB32(dstp + g, 0xffffffff);
212                             x = g + 3;
213                         } else if (inlink->format == AV_PIX_FMT_YUYV422) {
214                             // y <- 235, u <- 128, y <- 235, v <- 128
215                             AV_WB32(dstp + g, 0xeb80eb80);
216                             x = g + 3;
217                         } else {
218                             dstp[x] = plane == 0 ? 235 : 128;
219                         }
220                     } else {
221                         if (is_packed_rgb) {
222                             hi = 255;
223                             lo = 0;
224                         } else if (inlink->format == AV_PIX_FMT_YUYV422) {
225                             hi = x & 1 ? 240 : 235;
226                             lo = 16;
227                         } else {
228                             hi = plane == 0 ? 235 : 240;
229                             lo = 16;
230                         }
231
232                         if (sharp) {
233                             if (twoway) {
234                                 valf = + 0.526 * ((int)srcpp[x] + (int)srcpn[x])
235                                     + 0.170 * ((int)srcp[x] + (int)prvp[x])
236                                     - 0.116 * ((int)srcppp[x] + (int)srcpnn[x] + (int)prvppp[x] + (int)prvpnn[x])
237                                     - 0.026 * ((int)srcp3p[x] + (int)srcp3n[x])
238                                     + 0.031 * ((int)srcp4p[x] + (int)srcp4n[x] + (int)prvp4p[x] + (int)prvp4n[x]);
239                             } else {
240                                 valf = + 0.526 * ((int)srcpp[x] + (int)srcpn[x])
241                                     + 0.170 * ((int)prvp[x])
242                                     - 0.116 * ((int)prvppp[x] + (int)prvpnn[x])
243                                     - 0.026 * ((int)srcp3p[x] + (int)srcp3n[x])
244                                     + 0.031 * ((int)prvp4p[x] + (int)prvp4p[x]);
245                             }
246                             dstp[x] = av_clip(valf, lo, hi);
247                         } else {
248                             if (twoway) {
249                                 val = (8 * ((int)srcpp[x] + (int)srcpn[x]) + 2 * ((int)srcp[x] + (int)prvp[x])
250                                        - (int)(srcppp[x]) - (int)(srcpnn[x])
251                                        - (int)(prvppp[x]) - (int)(prvpnn[x])) >> 4;
252                             } else {
253                                 val = (8 * ((int)srcpp[x] + (int)srcpn[x]) + 2 * ((int)prvp[x])
254                                        - (int)(prvppp[x]) - (int)(prvpnn[x])) >> 4;
255                             }
256                             dstp[x] = av_clip(val, lo, hi);
257                         }
258                     }
259                 } else {
260                     dstp[x] = srcp[x];
261                 }
262             }
263             prvp   += 2 * psrc_linesize;
264             prvpp  += 2 * psrc_linesize;
265             prvppp += 2 * psrc_linesize;
266             prvpn  += 2 * psrc_linesize;
267             prvpnn += 2 * psrc_linesize;
268             prvp4p += 2 * psrc_linesize;
269             prvp4n += 2 * psrc_linesize;
270             srcp   += 2 * src_linesize;
271             srcpp  += 2 * src_linesize;
272             srcppp += 2 * src_linesize;
273             srcp3p += 2 * src_linesize;
274             srcp4p += 2 * src_linesize;
275             srcpn  += 2 * src_linesize;
276             srcpnn += 2 * src_linesize;
277             srcp3n += 2 * src_linesize;
278             srcp4n += 2 * src_linesize;
279             dstp   += 2 * dst_linesize;
280         }
281
282         srcp = inpic->data[plane];
283         dstp = kerndeint->tmp_data[plane];
284         av_image_copy_plane(dstp, psrc_linesize, srcp, src_linesize, bwidth, h);
285     }
286
287     avfilter_unref_buffer(inpic);
288     return ff_filter_frame(outlink, outpic);
289 }
290
291 static const AVFilterPad kerndeint_inputs[] = {
292     {
293         .name         = "default",
294         .type         = AVMEDIA_TYPE_VIDEO,
295         .filter_frame = filter_frame,
296         .config_props = config_props,
297         .min_perms    = AV_PERM_READ,
298     },
299     { NULL }
300 };
301
302 static const AVFilterPad kerndeint_outputs[] = {
303     {
304         .name = "default",
305         .type = AVMEDIA_TYPE_VIDEO,
306     },
307     { NULL }
308 };
309
310 AVFilter avfilter_vf_kerndeint = {
311     .name          = "kerndeint",
312     .description   = NULL_IF_CONFIG_SMALL("Apply kernel deinterlacing to the input."),
313     .priv_size     = sizeof(KerndeintContext),
314     .init          = init,
315     .uninit        = uninit,
316     .query_formats = query_formats,
317
318     .inputs        = kerndeint_inputs,
319     .outputs       = kerndeint_outputs,
320
321     .priv_class = &kerndeint_class,
322 };