lavfi/il: remove pointless store
[ffmpeg.git] / libavfilter / vf_il.c
1 /*
2  * Copyright (c) 2002 Michael Niedermayer <michaelni@gmx.at>
3  * Copyright (c) 2013 Paul B Mahol
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * (de)interleave fields filter
25  */
26
27 #include "libavutil/opt.h"
28 #include "libavutil/imgutils.h"
29 #include "libavutil/pixdesc.h"
30 #include "avfilter.h"
31 #include "internal.h"
32
33 enum FilterMode {
34     MODE_NONE,
35     MODE_INTERLEAVE,
36     MODE_DEINTERLEAVE
37 };
38
39 typedef struct {
40     const AVClass *class;
41     enum FilterMode luma_mode, chroma_mode, alpha_mode;
42     int luma_swap, chroma_swap, alpha_swap;
43     int nb_planes;
44     int linesize[4], chroma_height;
45     int has_alpha;
46 } IlContext;
47
48 #define OFFSET(x) offsetof(IlContext, x)
49 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
50
51 static const AVOption il_options[] = {
52     {"luma_mode",   "select luma mode", OFFSET(luma_mode), AV_OPT_TYPE_INT, {.i64=MODE_NONE}, MODE_NONE, MODE_DEINTERLEAVE, FLAGS, "luma_mode"},
53     {"l",           "select luma mode", OFFSET(luma_mode), AV_OPT_TYPE_INT, {.i64=MODE_NONE}, MODE_NONE, MODE_DEINTERLEAVE, FLAGS, "luma_mode"},
54     {"none",         NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_NONE},         0, 0, FLAGS, "luma_mode"},
55     {"interleave",   NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_INTERLEAVE},   0, 0, FLAGS, "luma_mode"},
56     {"i",            NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_INTERLEAVE},   0, 0, FLAGS, "luma_mode"},
57     {"deinterleave", NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_DEINTERLEAVE}, 0, 0, FLAGS, "luma_mode"},
58     {"d",            NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_DEINTERLEAVE}, 0, 0, FLAGS, "luma_mode"},
59     {"chroma_mode", "select chroma mode", OFFSET(chroma_mode), AV_OPT_TYPE_INT, {.i64=MODE_NONE}, MODE_NONE, MODE_DEINTERLEAVE, FLAGS, "chroma_mode"},
60     {"c",           "select chroma mode", OFFSET(chroma_mode), AV_OPT_TYPE_INT, {.i64=MODE_NONE}, MODE_NONE, MODE_DEINTERLEAVE, FLAGS, "chroma_mode"},
61     {"none",         NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_NONE},         0, 0, FLAGS, "chroma_mode"},
62     {"interleave",   NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_INTERLEAVE},   0, 0, FLAGS, "chroma_mode"},
63     {"i",            NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_INTERLEAVE},   0, 0, FLAGS, "chroma_mode"},
64     {"deinterleave", NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_DEINTERLEAVE}, 0, 0, FLAGS, "chroma_mode"},
65     {"d",            NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_DEINTERLEAVE}, 0, 0, FLAGS, "chroma_mode"},
66     {"alpha_mode", "select alpha mode", OFFSET(alpha_mode), AV_OPT_TYPE_INT, {.i64=MODE_NONE}, MODE_NONE, MODE_DEINTERLEAVE, FLAGS, "alpha_mode"},
67     {"a",          "select alpha mode", OFFSET(alpha_mode), AV_OPT_TYPE_INT, {.i64=MODE_NONE}, MODE_NONE, MODE_DEINTERLEAVE, FLAGS, "alpha_mode"},
68     {"none",         NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_NONE},         0, 0, FLAGS, "alpha_mode"},
69     {"interleave",   NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_INTERLEAVE},   0, 0, FLAGS, "alpha_mode"},
70     {"i",            NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_INTERLEAVE},   0, 0, FLAGS, "alpha_mode"},
71     {"deinterleave", NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_DEINTERLEAVE}, 0, 0, FLAGS, "alpha_mode"},
72     {"d",            NULL, 0, AV_OPT_TYPE_CONST, {.i64=MODE_DEINTERLEAVE}, 0, 0, FLAGS, "alpha_mode"},
73     {"luma_swap",   "swap luma fields",   OFFSET(luma_swap),   AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS},
74     {"ls",          "swap luma fields",   OFFSET(luma_swap),   AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS},
75     {"chroma_swap", "swap chroma fields", OFFSET(chroma_swap), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS},
76     {"cs",          "swap chroma fields", OFFSET(chroma_swap), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS},
77     {"alpha_swap",  "swap alpha fields",  OFFSET(alpha_swap),  AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS},
78     {"as",          "swap alpha fields",  OFFSET(alpha_swap),  AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS},
79     {NULL}
80 };
81
82 AVFILTER_DEFINE_CLASS(il);
83
84 static int query_formats(AVFilterContext *ctx)
85 {
86     AVFilterFormats *formats = NULL;
87     int fmt;
88
89     for (fmt = 0; fmt < AV_PIX_FMT_NB; fmt++) {
90         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(fmt);
91         if (!(desc->flags & PIX_FMT_PAL) && !(desc->flags & PIX_FMT_HWACCEL))
92             ff_add_format(&formats, fmt);
93     }
94
95     ff_set_common_formats(ctx, formats);
96     return 0;
97 }
98
99 static int config_input(AVFilterLink *inlink)
100 {
101     IlContext *il = inlink->dst->priv;
102     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(inlink->format);
103     int i, ret;
104
105     for (i = 0; i < desc->nb_components; i++)
106         il->nb_planes = FFMAX(il->nb_planes, desc->comp[i].plane);
107     il->nb_planes++;
108
109     il->has_alpha = !!(desc->flags & PIX_FMT_ALPHA);
110     if ((ret = av_image_fill_linesizes(il->linesize, inlink->format, inlink->w)) < 0)
111         return ret;
112
113     il->chroma_height = inlink->h >> desc->log2_chroma_h;
114
115     return 0;
116 }
117
118 static void interleave(uint8_t *dst, uint8_t *src, int w, int h,
119                        int dst_linesize, int src_linesize,
120                        enum FilterMode mode, int swap)
121 {
122     const int a = swap;
123     const int b = 1 - a;
124     const int m = h >> 1;
125     int y;
126
127     switch (mode) {
128     case MODE_DEINTERLEAVE:
129         for (y = 0; y < m; y++) {
130             memcpy(dst + dst_linesize *  y     , src + src_linesize * (y * 2 + a), w);
131             memcpy(dst + dst_linesize * (y + m), src + src_linesize * (y * 2 + b), w);
132         }
133         break;
134     case MODE_NONE:
135         for (y = 0; y < m; y++) {
136             memcpy(dst + dst_linesize *  y * 2     , src + src_linesize * (y * 2 + a), w);
137             memcpy(dst + dst_linesize * (y * 2 + 1), src + src_linesize * (y * 2 + b), w);
138         }
139         break;
140     case MODE_INTERLEAVE:
141         for (y = 0; y < m; y++) {
142             memcpy(dst + dst_linesize * (y * 2 + a), src + src_linesize *  y     , w);
143             memcpy(dst + dst_linesize * (y * 2 + b), src + src_linesize * (y + m), w);
144         }
145         break;
146     }
147 }
148
149 static int filter_frame(AVFilterLink *inlink, AVFrame *inpicref)
150 {
151     IlContext *il = inlink->dst->priv;
152     AVFilterLink *outlink = inlink->dst->outputs[0];
153     AVFrame *out;
154     int comp;
155
156     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
157     if (!out) {
158         av_frame_free(&inpicref);
159         return AVERROR(ENOMEM);
160     }
161     av_frame_copy_props(out, inpicref);
162
163     interleave(out->data[0], inpicref->data[0],
164                il->linesize[0], inlink->h,
165                out->linesize[0], inpicref->linesize[0],
166                il->luma_mode, il->luma_swap);
167
168     for (comp = 1; comp < (il->nb_planes - il->has_alpha); comp++) {
169         interleave(out->data[comp], inpicref->data[comp],
170                    il->linesize[comp], il->chroma_height,
171                    out->linesize[comp], inpicref->linesize[comp],
172                    il->chroma_mode, il->chroma_swap);
173     }
174
175     if (il->has_alpha) {
176         comp = il->nb_planes - 1;
177         interleave(out->data[comp], inpicref->data[comp],
178                    il->linesize[comp], inlink->h,
179                    out->linesize[comp], inpicref->linesize[comp],
180                    il->alpha_mode, il->alpha_swap);
181     }
182
183     av_frame_free(&inpicref);
184     return ff_filter_frame(outlink, out);
185 }
186
187 static const AVFilterPad inputs[] = {
188     {
189         .name             = "default",
190         .type             = AVMEDIA_TYPE_VIDEO,
191         .get_video_buffer = ff_null_get_video_buffer,
192         .filter_frame     = filter_frame,
193         .config_props     = config_input,
194     },
195     { NULL }
196 };
197
198 static const AVFilterPad outputs[] = {
199     {
200         .name          = "default",
201         .type          = AVMEDIA_TYPE_VIDEO,
202     },
203     { NULL }
204 };
205
206 AVFilter avfilter_vf_il = {
207     .name          = "il",
208     .description   = NULL_IF_CONFIG_SMALL("Deinterleave or interleave fields."),
209     .priv_size     = sizeof(IlContext),
210     .query_formats = query_formats,
211     .inputs        = inputs,
212     .outputs       = outputs,
213     .priv_class    = &il_class,
214 };