Merge commit 'a6653787a4b1e89170ff7962312dd110769c83a3'
[ffmpeg.git] / libavfilter / vf_format.c
1 /*
2  * Copyright (c) 2007 Bobby Bingham
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * format and noformat video filters
24  */
25
26 #include <string.h>
27
28 #include "libavutil/internal.h"
29 #include "libavutil/mem.h"
30 #include "libavutil/pixdesc.h"
31 #include "libavutil/opt.h"
32
33 #include "avfilter.h"
34 #include "formats.h"
35 #include "internal.h"
36 #include "video.h"
37
38 typedef struct FormatContext {
39     const AVClass *class;
40     char *pix_fmts;
41
42     /**
43      * pix_fmts parsed into AVPixelFormats and terminated with
44      * AV_PIX_FMT_NONE
45      */
46     enum AVPixelFormat *formats;
47 } FormatContext;
48
49 static av_cold void uninit(AVFilterContext *ctx)
50 {
51     FormatContext *s = ctx->priv;
52     av_freep(&s->formats);
53 }
54
55 static av_cold int init(AVFilterContext *ctx)
56 {
57     FormatContext *s = ctx->priv;
58     char *cur, *sep;
59     int nb_formats = 1;
60     int i;
61     int ret;
62
63     if (!s->pix_fmts) {
64         av_log(ctx, AV_LOG_ERROR, "Empty output format string.\n");
65         return AVERROR(EINVAL);
66     }
67
68     /* count the formats */
69     cur = s->pix_fmts;
70     while ((cur = strchr(cur, '|'))) {
71         nb_formats++;
72         if (*cur)
73             cur++;
74     }
75
76     s->formats = av_malloc_array(nb_formats + 1, sizeof(*s->formats));
77     if (!s->formats)
78         return AVERROR(ENOMEM);
79
80     /* parse the list of formats */
81     cur = s->pix_fmts;
82     for (i = 0; i < nb_formats; i++) {
83         sep = strchr(cur, '|');
84         if (sep)
85             *sep++ = 0;
86
87         if ((ret = ff_parse_pixel_format(&s->formats[i], cur, ctx)) < 0)
88             return ret;
89
90         cur = sep;
91     }
92     s->formats[nb_formats] = AV_PIX_FMT_NONE;
93
94     if (!strcmp(ctx->filter->name, "noformat")) {
95         const AVPixFmtDescriptor *desc = NULL;
96         enum AVPixelFormat *formats_allowed;
97         int nb_formats_lavu = 0, nb_formats_allowed = 0;
98
99         /* count the formats known to lavu */
100         while ((desc = av_pix_fmt_desc_next(desc)))
101             nb_formats_lavu++;
102
103         formats_allowed = av_malloc_array(nb_formats_lavu + 1, sizeof(*formats_allowed));
104         if (!formats_allowed)
105             return AVERROR(ENOMEM);
106
107         /* for each format known to lavu, check if it's in the list of
108          * forbidden formats */
109         while ((desc = av_pix_fmt_desc_next(desc))) {
110             enum AVPixelFormat pix_fmt = av_pix_fmt_desc_get_id(desc);
111
112             for (i = 0; i < nb_formats; i++) {
113                 if (s->formats[i] == pix_fmt)
114                     break;
115             }
116             if (i < nb_formats)
117                 continue;
118
119             formats_allowed[nb_formats_allowed++] = pix_fmt;
120         }
121         formats_allowed[nb_formats_allowed] = AV_PIX_FMT_NONE;
122         av_freep(&s->formats);
123         s->formats = formats_allowed;
124     }
125
126     return 0;
127 }
128
129 static int query_formats(AVFilterContext *ctx)
130 {
131     FormatContext *s = ctx->priv;
132     AVFilterFormats *formats = ff_make_format_list(s->formats);
133
134     if (!formats)
135         return AVERROR(ENOMEM);
136
137     ff_set_common_formats(ctx, formats);
138     return 0;
139 }
140
141
142 #define OFFSET(x) offsetof(FormatContext, x)
143 static const AVOption options[] = {
144     { "pix_fmts", "A '|'-separated list of pixel formats", OFFSET(pix_fmts), AV_OPT_TYPE_STRING, .flags = AV_OPT_FLAG_VIDEO_PARAM },
145     { NULL }
146 };
147
148 #if CONFIG_FORMAT_FILTER
149
150 #define format_options options
151 AVFILTER_DEFINE_CLASS(format);
152
153 static const AVFilterPad avfilter_vf_format_inputs[] = {
154     {
155         .name             = "default",
156         .type             = AVMEDIA_TYPE_VIDEO,
157         .get_video_buffer = ff_null_get_video_buffer,
158     },
159     { NULL }
160 };
161
162 static const AVFilterPad avfilter_vf_format_outputs[] = {
163     {
164         .name = "default",
165         .type = AVMEDIA_TYPE_VIDEO
166     },
167     { NULL }
168 };
169
170 AVFilter ff_vf_format = {
171     .name          = "format",
172     .description   = NULL_IF_CONFIG_SMALL("Convert the input video to one of the specified pixel formats."),
173
174     .init          = init,
175     .uninit        = uninit,
176
177     .query_formats = query_formats,
178
179     .priv_size     = sizeof(FormatContext),
180     .priv_class    = &format_class,
181
182     .inputs        = avfilter_vf_format_inputs,
183     .outputs       = avfilter_vf_format_outputs,
184 };
185 #endif /* CONFIG_FORMAT_FILTER */
186
187 #if CONFIG_NOFORMAT_FILTER
188
189 #define noformat_options options
190 AVFILTER_DEFINE_CLASS(noformat);
191
192 static const AVFilterPad avfilter_vf_noformat_inputs[] = {
193     {
194         .name             = "default",
195         .type             = AVMEDIA_TYPE_VIDEO,
196         .get_video_buffer = ff_null_get_video_buffer,
197     },
198     { NULL }
199 };
200
201 static const AVFilterPad avfilter_vf_noformat_outputs[] = {
202     {
203         .name = "default",
204         .type = AVMEDIA_TYPE_VIDEO
205     },
206     { NULL }
207 };
208
209 AVFilter ff_vf_noformat = {
210     .name          = "noformat",
211     .description   = NULL_IF_CONFIG_SMALL("Force libavfilter not to use any of the specified pixel formats for the input to the next filter."),
212
213     .init          = init,
214     .uninit        = uninit,
215
216     .query_formats = query_formats,
217
218     .priv_size     = sizeof(FormatContext),
219     .priv_class    = &noformat_class,
220
221     .inputs        = avfilter_vf_noformat_inputs,
222     .outputs       = avfilter_vf_noformat_outputs,
223 };
224 #endif /* CONFIG_NOFORMAT_FILTER */