lavfi: add LUT (LookUp Table) generic filters
[ffmpeg.git] / libavfilter / formats.c
1 /*
2  * Filter layer - format negotiation
3  * Copyright (c) 2007 Bobby Bingham
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/pixdesc.h"
23 #include "avfilter.h"
24 #include "internal.h"
25
26 /**
27  * Add all refs from a to ret and destroy a.
28  */
29 static void merge_ref(AVFilterFormats *ret, AVFilterFormats *a)
30 {
31     int i;
32
33     for(i = 0; i < a->refcount; i ++) {
34         ret->refs[ret->refcount] = a->refs[i];
35         *ret->refs[ret->refcount++] = ret;
36     }
37
38     av_free(a->refs);
39     av_free(a->formats);
40     av_free(a);
41 }
42
43 AVFilterFormats *avfilter_merge_formats(AVFilterFormats *a, AVFilterFormats *b)
44 {
45     AVFilterFormats *ret;
46     unsigned i, j, k = 0;
47
48     ret = av_mallocz(sizeof(AVFilterFormats));
49
50     /* merge list of formats */
51     ret->formats = av_malloc(sizeof(*ret->formats) * FFMIN(a->format_count,
52                                                            b->format_count));
53     for(i = 0; i < a->format_count; i ++)
54         for(j = 0; j < b->format_count; j ++)
55             if(a->formats[i] == b->formats[j])
56                 ret->formats[k++] = a->formats[i];
57
58     ret->format_count = k;
59     /* check that there was at least one common format */
60     if(!ret->format_count) {
61         av_free(ret->formats);
62         av_free(ret);
63         return NULL;
64     }
65
66     ret->refs = av_malloc(sizeof(AVFilterFormats**)*(a->refcount+b->refcount));
67
68     merge_ref(ret, a);
69     merge_ref(ret, b);
70
71     return ret;
72 }
73
74 int ff_fmt_is_in(int fmt, const int *fmts)
75 {
76     const int *p;
77
78     for (p = fmts; *p != PIX_FMT_NONE; p++) {
79         if (fmt == *p)
80             return 1;
81     }
82     return 0;
83 }
84
85 AVFilterFormats *avfilter_make_format_list(const int *fmts)
86 {
87     AVFilterFormats *formats;
88     int count;
89
90     for (count = 0; fmts[count] != -1; count++)
91         ;
92
93     formats               = av_mallocz(sizeof(AVFilterFormats));
94     formats->formats      = av_malloc(sizeof(*formats->formats) * count);
95     formats->format_count = count;
96     memcpy(formats->formats, fmts, sizeof(*formats->formats) * count);
97
98     return formats;
99 }
100
101 int avfilter_add_format(AVFilterFormats **avff, int fmt)
102 {
103     int *fmts;
104
105     if (!(*avff) && !(*avff = av_mallocz(sizeof(AVFilterFormats))))
106         return AVERROR(ENOMEM);
107
108     fmts = av_realloc((*avff)->formats,
109                       sizeof(*(*avff)->formats) * ((*avff)->format_count+1));
110     if (!fmts)
111         return AVERROR(ENOMEM);
112
113     (*avff)->formats = fmts;
114     (*avff)->formats[(*avff)->format_count++] = fmt;
115     return 0;
116 }
117
118 AVFilterFormats *avfilter_all_formats(enum AVMediaType type)
119 {
120     AVFilterFormats *ret = NULL;
121     int fmt;
122     int num_formats = type == AVMEDIA_TYPE_VIDEO ? PIX_FMT_NB    :
123                       type == AVMEDIA_TYPE_AUDIO ? AV_SAMPLE_FMT_NB : 0;
124
125     for (fmt = 0; fmt < num_formats; fmt++)
126         if ((type != AVMEDIA_TYPE_VIDEO) ||
127             (type == AVMEDIA_TYPE_VIDEO && !(av_pix_fmt_descriptors[fmt].flags & PIX_FMT_HWACCEL)))
128             avfilter_add_format(&ret, fmt);
129
130     return ret;
131 }
132
133 void avfilter_formats_ref(AVFilterFormats *f, AVFilterFormats **ref)
134 {
135     *ref = f;
136     f->refs = av_realloc(f->refs, sizeof(AVFilterFormats**) * ++f->refcount);
137     f->refs[f->refcount-1] = ref;
138 }
139
140 static int find_ref_index(AVFilterFormats **ref)
141 {
142     int i;
143     for(i = 0; i < (*ref)->refcount; i ++)
144         if((*ref)->refs[i] == ref)
145             return i;
146     return -1;
147 }
148
149 void avfilter_formats_unref(AVFilterFormats **ref)
150 {
151     int idx;
152
153     if (!*ref)
154         return;
155
156     idx = find_ref_index(ref);
157
158     if(idx >= 0)
159         memmove((*ref)->refs + idx, (*ref)->refs + idx+1,
160             sizeof(AVFilterFormats**) * ((*ref)->refcount-idx-1));
161
162     if(!--(*ref)->refcount) {
163         av_free((*ref)->formats);
164         av_free((*ref)->refs);
165         av_free(*ref);
166     }
167     *ref = NULL;
168 }
169
170 void avfilter_formats_changeref(AVFilterFormats **oldref,
171                                 AVFilterFormats **newref)
172 {
173     int idx = find_ref_index(oldref);
174
175     if(idx >= 0) {
176         (*oldref)->refs[idx] = newref;
177         *newref = *oldref;
178         *oldref = NULL;
179     }
180 }
181