avfilter/vf_hflip: refactor plane dimensions calculation
[ffmpeg.git] / libavfilter / vf_hflip.c
1 /*
2  * Copyright (c) 2007 Benoit Fouet
3  * Copyright (c) 2010 Stefano Sabatini
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * horizontal flip filter
25  */
26
27 #include <string.h>
28
29 #include "avfilter.h"
30 #include "formats.h"
31 #include "internal.h"
32 #include "video.h"
33 #include "libavutil/pixdesc.h"
34 #include "libavutil/internal.h"
35 #include "libavutil/intreadwrite.h"
36 #include "libavutil/imgutils.h"
37
38 typedef struct {
39     int max_step[4];    ///< max pixel step for each plane, expressed as a number of bytes
40     int planewidth[4];  ///< width of each plane
41     int planeheight[4]; ///< height of each plane
42 } FlipContext;
43
44 static int query_formats(AVFilterContext *ctx)
45 {
46     AVFilterFormats *pix_fmts = NULL;
47     int fmt;
48
49     for (fmt = 0; fmt < AV_PIX_FMT_NB; fmt++) {
50         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(fmt);
51         if (!(desc->flags & AV_PIX_FMT_FLAG_HWACCEL ||
52               desc->flags & AV_PIX_FMT_FLAG_BITSTREAM ||
53               (desc->log2_chroma_w != desc->log2_chroma_h &&
54                desc->comp[0].plane == desc->comp[1].plane)))
55             ff_add_format(&pix_fmts, fmt);
56     }
57
58     ff_set_common_formats(ctx, pix_fmts);
59     return 0;
60 }
61
62 static int config_props(AVFilterLink *inlink)
63 {
64     FlipContext *s = inlink->dst->priv;
65     const AVPixFmtDescriptor *pix_desc = av_pix_fmt_desc_get(inlink->format);
66     const int hsub = pix_desc->log2_chroma_w;
67     const int vsub = pix_desc->log2_chroma_h;
68
69     av_image_fill_max_pixsteps(s->max_step, NULL, pix_desc);
70     s->planewidth[0]  = s->planewidth[3]  = inlink->w;
71     s->planewidth[1]  = s->planewidth[2]  = FF_CEIL_RSHIFT(inlink->w, hsub);
72     s->planeheight[0] = s->planeheight[3] = inlink->h;
73     s->planeheight[1] = s->planeheight[2] = FF_CEIL_RSHIFT(inlink->h, vsub);
74
75     return 0;
76 }
77
78 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
79 {
80     AVFilterContext *ctx  = inlink->dst;
81     FlipContext *s     = ctx->priv;
82     AVFilterLink *outlink = ctx->outputs[0];
83     AVFrame *out;
84     uint8_t *inrow, *outrow;
85     int i, j, plane, step;
86
87     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
88     if (!out) {
89         av_frame_free(&in);
90         return AVERROR(ENOMEM);
91     }
92     av_frame_copy_props(out, in);
93
94     /* copy palette if required */
95     if (av_pix_fmt_desc_get(inlink->format)->flags & AV_PIX_FMT_FLAG_PAL)
96         memcpy(out->data[1], in->data[1], AVPALETTE_SIZE);
97
98     for (plane = 0; plane < 4 && in->data[plane] && in->linesize[plane]; plane++) {
99         const int width  = s->planewidth[plane];
100         const int height = s->planeheight[plane];
101         step = s->max_step[plane];
102
103         outrow = out->data[plane];
104         inrow  = in ->data[plane] + (width - 1) * step;
105         for (i = 0; i < height; i++) {
106             switch (step) {
107             case 1:
108                 for (j = 0; j < width; j++)
109                     outrow[j] = inrow[-j];
110             break;
111
112             case 2:
113             {
114                 uint16_t *outrow16 = (uint16_t *)outrow;
115                 uint16_t * inrow16 = (uint16_t *) inrow;
116                 for (j = 0; j < width; j++)
117                     outrow16[j] = inrow16[-j];
118             }
119             break;
120
121             case 3:
122             {
123                 uint8_t *in  =  inrow;
124                 uint8_t *out = outrow;
125                 for (j = 0; j < width; j++, out += 3, in -= 3) {
126                     int32_t v = AV_RB24(in);
127                     AV_WB24(out, v);
128                 }
129             }
130             break;
131
132             case 4:
133             {
134                 uint32_t *outrow32 = (uint32_t *)outrow;
135                 uint32_t * inrow32 = (uint32_t *) inrow;
136                 for (j = 0; j < width; j++)
137                     outrow32[j] = inrow32[-j];
138             }
139             break;
140
141             default:
142                 for (j = 0; j < width; j++)
143                     memcpy(outrow + j*step, inrow - j*step, step);
144             }
145
146             inrow  += in ->linesize[plane];
147             outrow += out->linesize[plane];
148         }
149     }
150
151     av_frame_free(&in);
152     return ff_filter_frame(outlink, out);
153 }
154
155 static const AVFilterPad avfilter_vf_hflip_inputs[] = {
156     {
157         .name         = "default",
158         .type         = AVMEDIA_TYPE_VIDEO,
159         .filter_frame = filter_frame,
160         .config_props = config_props,
161     },
162     { NULL }
163 };
164
165 static const AVFilterPad avfilter_vf_hflip_outputs[] = {
166     {
167         .name = "default",
168         .type = AVMEDIA_TYPE_VIDEO,
169     },
170     { NULL }
171 };
172
173 AVFilter avfilter_vf_hflip = {
174     .name          = "hflip",
175     .description   = NULL_IF_CONFIG_SMALL("Horizontally flip the input video."),
176     .priv_size     = sizeof(FlipContext),
177     .query_formats = query_formats,
178     .inputs        = avfilter_vf_hflip_inputs,
179     .outputs       = avfilter_vf_hflip_outputs,
180 };