b5c0b9007fb6f967b632dc5abcd625b398fb7817
[ffmpeg.git] / libavfilter / libmpcodecs / img_format.h
1 /*
2  * This file is part of MPlayer.
3  *
4  * MPlayer is free software; you can redistribute it and/or modify
5  * it under the terms of the GNU General Public License as published by
6  * the Free Software Foundation; either version 2 of the License, or
7  * (at your option) any later version.
8  *
9  * MPlayer is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License along
15  * with MPlayer; if not, write to the Free Software Foundation, Inc.,
16  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
17  */
18
19 #ifndef MPLAYER_IMG_FORMAT_H
20 #define MPLAYER_IMG_FORMAT_H
21
22 #include "config.h"
23
24 /* RGB/BGR Formats */
25
26 #define IMGFMT_RGB_MASK 0xFFFFFF00
27 #define IMGFMT_RGB (('R'<<24)|('G'<<16)|('B'<<8))
28 #define IMGFMT_RGB1  (IMGFMT_RGB|1)
29 #define IMGFMT_RGB4  (IMGFMT_RGB|4)
30 #define IMGFMT_RGB4_CHAR  (IMGFMT_RGB|4|128) // RGB4 with 1 pixel per byte
31 #define IMGFMT_RGB8  (IMGFMT_RGB|8)
32 #define IMGFMT_RGB12 (IMGFMT_RGB|12)
33 #define IMGFMT_RGB15 (IMGFMT_RGB|15)
34 #define IMGFMT_RGB16 (IMGFMT_RGB|16)
35 #define IMGFMT_RGB24 (IMGFMT_RGB|24)
36 #define IMGFMT_RGB32 (IMGFMT_RGB|32)
37 #define IMGFMT_RGB48LE (IMGFMT_RGB|48)
38 #define IMGFMT_RGB48BE (IMGFMT_RGB|48|128)
39 #define IMGFMT_RGB64LE (IMGFMT_RGB|64)
40 #define IMGFMT_RGB64BE (IMGFMT_RGB|64|128)
41
42 #define IMGFMT_BGR_MASK 0xFFFFFF00
43 #define IMGFMT_BGR (('B'<<24)|('G'<<16)|('R'<<8))
44 #define IMGFMT_BGR1  (IMGFMT_BGR|1)
45 #define IMGFMT_BGR4  (IMGFMT_BGR|4)
46 #define IMGFMT_BGR4_CHAR (IMGFMT_BGR|4|128) // BGR4 with 1 pixel per byte
47 #define IMGFMT_BGR8  (IMGFMT_BGR|8)
48 #define IMGFMT_BGR12 (IMGFMT_BGR|12)
49 #define IMGFMT_BGR15 (IMGFMT_BGR|15)
50 #define IMGFMT_BGR16 (IMGFMT_BGR|16)
51 #define IMGFMT_BGR24 (IMGFMT_BGR|24)
52 #define IMGFMT_BGR32 (IMGFMT_BGR|32)
53
54 #define IMGFMT_XYZ_MASK 0xFFFFFF00
55 #define IMGFMT_XYZ (('X'<<24)|('Y'<<16)|('Z'<<8))
56 #define IMGFMT_XYZ12LE (IMGFMT_XYZ|12)
57 #define IMGFMT_XYZ12BE (IMGFMT_XYZ|12|128)
58
59 #define IMGFMT_GBR24P (('G'<<24)|('B'<<16)|('R'<<8)|24)
60 #define IMGFMT_GBR12PLE (('G'<<24)|('B'<<16)|('R'<<8)|36)
61 #define IMGFMT_GBR12PBE (('G'<<24)|('B'<<16)|('R'<<8)|36|128)
62 #define IMGFMT_GBR14PLE (('G'<<24)|('B'<<16)|('R'<<8)|42)
63 #define IMGFMT_GBR14PBE (('G'<<24)|('B'<<16)|('R'<<8)|42|128)
64
65 #if HAVE_BIGENDIAN
66 #define IMGFMT_ABGR    IMGFMT_RGB32
67 #define IMGFMT_BGRA    (IMGFMT_RGB32|128)
68 #define IMGFMT_ARGB    IMGFMT_BGR32
69 #define IMGFMT_RGBA    (IMGFMT_BGR32|128)
70 #define IMGFMT_RGB64NE IMGFMT_RGB64BE
71 #define IMGFMT_RGB48NE IMGFMT_RGB48BE
72 #define IMGFMT_RGB12BE IMGFMT_RGB12
73 #define IMGFMT_RGB12LE (IMGFMT_RGB12|128)
74 #define IMGFMT_RGB15BE IMGFMT_RGB15
75 #define IMGFMT_RGB15LE (IMGFMT_RGB15|128)
76 #define IMGFMT_RGB16BE IMGFMT_RGB16
77 #define IMGFMT_RGB16LE (IMGFMT_RGB16|128)
78 #define IMGFMT_BGR12BE IMGFMT_BGR12
79 #define IMGFMT_BGR12LE (IMGFMT_BGR12|128)
80 #define IMGFMT_BGR15BE IMGFMT_BGR15
81 #define IMGFMT_BGR15LE (IMGFMT_BGR15|128)
82 #define IMGFMT_BGR16BE IMGFMT_BGR16
83 #define IMGFMT_BGR16LE (IMGFMT_BGR16|128)
84 #define IMGFMT_XYZ12  IMGFMT_XYZ12BE
85 #define IMGFMT_GBR12P IMGFMT_GBR12PBE
86 #define IMGFMT_GBR14P IMGFMT_GBR14PBE
87 #else
88 #define IMGFMT_ABGR (IMGFMT_BGR32|128)
89 #define IMGFMT_BGRA IMGFMT_BGR32
90 #define IMGFMT_ARGB (IMGFMT_RGB32|128)
91 #define IMGFMT_RGBA IMGFMT_RGB32
92 #define IMGFMT_RGB64NE IMGFMT_RGB64LE
93 #define IMGFMT_RGB48NE IMGFMT_RGB48LE
94 #define IMGFMT_RGB12BE (IMGFMT_RGB12|128)
95 #define IMGFMT_RGB12LE IMGFMT_RGB12
96 #define IMGFMT_RGB15BE (IMGFMT_RGB15|128)
97 #define IMGFMT_RGB15LE IMGFMT_RGB15
98 #define IMGFMT_RGB16BE (IMGFMT_RGB16|128)
99 #define IMGFMT_RGB16LE IMGFMT_RGB16
100 #define IMGFMT_BGR12BE (IMGFMT_BGR12|128)
101 #define IMGFMT_BGR12LE IMGFMT_BGR12
102 #define IMGFMT_BGR15BE (IMGFMT_BGR15|128)
103 #define IMGFMT_BGR15LE IMGFMT_BGR15
104 #define IMGFMT_BGR16BE (IMGFMT_BGR16|128)
105 #define IMGFMT_BGR16LE IMGFMT_BGR16
106 #define IMGFMT_XYZ12  IMGFMT_XYZ12LE
107 #define IMGFMT_GBR12P IMGFMT_GBR12PLE
108 #define IMGFMT_GBR14P IMGFMT_GBR14PLE
109 #endif
110
111 /* old names for compatibility */
112 #define IMGFMT_RG4B  IMGFMT_RGB4_CHAR
113 #define IMGFMT_BG4B  IMGFMT_BGR4_CHAR
114
115 #define IMGFMT_IS_RGB(fmt) (((fmt)&IMGFMT_RGB_MASK)==IMGFMT_RGB)
116 #define IMGFMT_IS_BGR(fmt) (((fmt)&IMGFMT_BGR_MASK)==IMGFMT_BGR)
117 #define IMGFMT_IS_XYZ(fmt) (((fmt)&IMGFMT_XYZ_MASK)==IMGFMT_XYZ)
118
119 #define IMGFMT_RGB_DEPTH(fmt) ((fmt)&0x7F)
120 #define IMGFMT_BGR_DEPTH(fmt) ((fmt)&0x7F)
121 #define IMGFMT_XYZ_DEPTH(fmt) ((fmt)&0x7F)
122
123
124 /* Planar YUV Formats */
125
126 #define IMGFMT_YVU9 0x39555659
127 #define IMGFMT_IF09 0x39304649
128 #define IMGFMT_YV12 0x32315659
129 #define IMGFMT_I420 0x30323449
130 #define IMGFMT_IYUV 0x56555949
131 #define IMGFMT_CLPL 0x4C504C43
132 #define IMGFMT_Y800 0x30303859
133 #define IMGFMT_Y8   0x20203859
134 #define IMGFMT_NV12 0x3231564E
135 #define IMGFMT_NV21 0x3132564E
136 #define IMGFMT_Y16_LE 0x20363159
137
138 /* unofficial Planar Formats, FIXME if official 4CC exists */
139 #define IMGFMT_444P 0x50343434
140 #define IMGFMT_422P 0x50323234
141 #define IMGFMT_411P 0x50313134
142 #define IMGFMT_440P 0x50303434
143 #define IMGFMT_HM12 0x32314D48
144 #define IMGFMT_Y16_BE 0x59313620
145
146 // Gray with alpha
147 #define IMGFMT_Y8A 0x59320008
148 // 4:2:0 planar with alpha
149 #define IMGFMT_420A 0x41303234
150 // 4:2:2 planar with alpha
151 #define IMGFMT_422A 0x41323234
152 // 4:4:4 planar with alpha
153 #define IMGFMT_444A 0x41343434
154
155 #define IMGFMT_444P16_LE 0x51343434
156 #define IMGFMT_444P16_BE 0x34343451
157 #define IMGFMT_444P14_LE 0x54343434
158 #define IMGFMT_444P14_BE 0x34343454
159 #define IMGFMT_444P12_LE 0x55343434
160 #define IMGFMT_444P12_BE 0x34343455
161 #define IMGFMT_444P10_LE 0x52343434
162 #define IMGFMT_444P10_BE 0x34343452
163 #define IMGFMT_444P9_LE  0x53343434
164 #define IMGFMT_444P9_BE  0x34343453
165 #define IMGFMT_422P16_LE 0x51323234
166 #define IMGFMT_422P16_BE 0x34323251
167 #define IMGFMT_422P14_LE 0x54323234
168 #define IMGFMT_422P14_BE 0x34323254
169 #define IMGFMT_422P12_LE 0x55323234
170 #define IMGFMT_422P12_BE 0x34323255
171 #define IMGFMT_422P10_LE 0x52323234
172 #define IMGFMT_422P10_BE 0x34323252
173 #define IMGFMT_422P9_LE  0x53323234
174 #define IMGFMT_422P9_BE  0x34323253
175 #define IMGFMT_420P16_LE 0x51303234
176 #define IMGFMT_420P16_BE 0x34323051
177 #define IMGFMT_420P14_LE 0x54303234
178 #define IMGFMT_420P14_BE 0x34323054
179 #define IMGFMT_420P12_LE 0x55303234
180 #define IMGFMT_420P12_BE 0x34323055
181 #define IMGFMT_420P10_LE 0x52303234
182 #define IMGFMT_420P10_BE 0x34323052
183 #define IMGFMT_420P9_LE  0x53303234
184 #define IMGFMT_420P9_BE  0x34323053
185 #if HAVE_BIGENDIAN
186 #define IMGFMT_444P16 IMGFMT_444P16_BE
187 #define IMGFMT_444P14 IMGFMT_444P14_BE
188 #define IMGFMT_444P12 IMGFMT_444P12_BE
189 #define IMGFMT_444P10 IMGFMT_444P10_BE
190 #define IMGFMT_444P9  IMGFMT_444P9_BE
191 #define IMGFMT_422P16 IMGFMT_422P16_BE
192 #define IMGFMT_422P14 IMGFMT_422P14_BE
193 #define IMGFMT_422P12 IMGFMT_422P12_BE
194 #define IMGFMT_422P10 IMGFMT_422P10_BE
195 #define IMGFMT_422P9  IMGFMT_422P9_BE
196 #define IMGFMT_420P16 IMGFMT_420P16_BE
197 #define IMGFMT_420P14 IMGFMT_420P14_BE
198 #define IMGFMT_420P12 IMGFMT_420P12_BE
199 #define IMGFMT_420P10 IMGFMT_420P10_BE
200 #define IMGFMT_420P9  IMGFMT_420P9_BE
201 #define IMGFMT_Y16    IMGFMT_Y16_BE
202 #define IMGFMT_IS_YUVP16_NE(fmt) IMGFMT_IS_YUVP16_BE(fmt)
203 #else
204 #define IMGFMT_444P16 IMGFMT_444P16_LE
205 #define IMGFMT_444P14 IMGFMT_444P14_LE
206 #define IMGFMT_444P12 IMGFMT_444P12_LE
207 #define IMGFMT_444P10 IMGFMT_444P10_LE
208 #define IMGFMT_444P9  IMGFMT_444P9_LE
209 #define IMGFMT_422P16 IMGFMT_422P16_LE
210 #define IMGFMT_422P14 IMGFMT_422P14_LE
211 #define IMGFMT_422P12 IMGFMT_422P12_LE
212 #define IMGFMT_422P10 IMGFMT_422P10_LE
213 #define IMGFMT_422P9  IMGFMT_422P9_LE
214 #define IMGFMT_420P16 IMGFMT_420P16_LE
215 #define IMGFMT_420P14 IMGFMT_420P14_LE
216 #define IMGFMT_420P12 IMGFMT_420P12_LE
217 #define IMGFMT_420P10 IMGFMT_420P10_LE
218 #define IMGFMT_420P9  IMGFMT_420P9_LE
219 #define IMGFMT_Y16    IMGFMT_Y16_LE
220 #define IMGFMT_IS_YUVP16_NE(fmt) IMGFMT_IS_YUVP16_LE(fmt)
221 #endif
222
223 #define IMGFMT_IS_YUVP16_LE(fmt) (((fmt - 0x51000034) & 0xfc0000ff) == 0)
224 #define IMGFMT_IS_YUVP16_BE(fmt) (((fmt - 0x34000051) & 0xff0000fc) == 0)
225 #define IMGFMT_IS_YUVP16(fmt)    (IMGFMT_IS_YUVP16_LE(fmt) || IMGFMT_IS_YUVP16_BE(fmt))
226
227 /**
228  * \brief Find the corresponding full 16 bit format, i.e. IMGFMT_420P10_LE -> IMGFMT_420P16_LE
229  * \return normalized format ID or 0 if none exists.
230  */
231 static inline int normalize_yuvp16(int fmt) {
232     if (IMGFMT_IS_YUVP16_LE(fmt))
233         return (fmt & 0x00ffffff) | 0x51000000;
234     if (IMGFMT_IS_YUVP16_BE(fmt))
235         return (fmt & 0xffffff00) | 0x00000051;
236     return 0;
237 }
238
239 /* Packed YUV Formats */
240
241 #define IMGFMT_IUYV 0x56595549 // Interlaced UYVY
242 #define IMGFMT_IY41 0x31435949 // Interlaced Y41P
243 #define IMGFMT_IYU1 0x31555949
244 #define IMGFMT_IYU2 0x32555949
245 #define IMGFMT_UYVY 0x59565955
246 #define IMGFMT_UYNV 0x564E5955 // Exactly same as UYVY
247 #define IMGFMT_cyuv 0x76757963 // upside-down UYVY
248 #define IMGFMT_Y422 0x32323459 // Exactly same as UYVY
249 #define IMGFMT_YUY2 0x32595559
250 #define IMGFMT_YUNV 0x564E5559 // Exactly same as YUY2
251 #define IMGFMT_YVYU 0x55595659
252 #define IMGFMT_Y41P 0x50313459
253 #define IMGFMT_Y211 0x31313259
254 #define IMGFMT_Y41T 0x54313459 // Y41P, Y lsb = transparency
255 #define IMGFMT_Y42T 0x54323459 // UYVY, Y lsb = transparency
256 #define IMGFMT_V422 0x32323456 // upside-down UYVY?
257 #define IMGFMT_V655 0x35353656
258 #define IMGFMT_CLJR 0x524A4C43
259 #define IMGFMT_YUVP 0x50565559 // 10-bit YUYV
260 #define IMGFMT_UYVP 0x50565955 // 10-bit UYVY
261
262 /* Compressed Formats */
263 #define IMGFMT_MPEGPES (('M'<<24)|('P'<<16)|('E'<<8)|('S'))
264 #define IMGFMT_MJPEG (('M')|('J'<<8)|('P'<<16)|('G'<<24))
265 /* Formats that are understood by zoran chips, we include
266  * non-interlaced, interlaced top-first, interlaced bottom-first */
267 #define IMGFMT_ZRMJPEGNI  (('Z'<<24)|('R'<<16)|('N'<<8)|('I'))
268 #define IMGFMT_ZRMJPEGIT (('Z'<<24)|('R'<<16)|('I'<<8)|('T'))
269 #define IMGFMT_ZRMJPEGIB (('Z'<<24)|('R'<<16)|('I'<<8)|('B'))
270
271 // I think that this code could not be used by any other codec/format
272 #define IMGFMT_XVMC 0x1DC70000
273 #define IMGFMT_XVMC_MASK 0xFFFF0000
274 #define IMGFMT_IS_XVMC(fmt) (((fmt)&IMGFMT_XVMC_MASK)==IMGFMT_XVMC)
275 //these are chroma420
276 #define IMGFMT_XVMC_MOCO_MPEG2 (IMGFMT_XVMC|0x02)
277 #define IMGFMT_XVMC_IDCT_MPEG2 (IMGFMT_XVMC|0x82)
278
279 // VDPAU specific format.
280 #define IMGFMT_VDPAU               0x1DC80000
281 #define IMGFMT_VDPAU_MASK          0xFFFF0000
282 #define IMGFMT_IS_VDPAU(fmt)       (((fmt)&IMGFMT_VDPAU_MASK)==IMGFMT_VDPAU)
283 #define IMGFMT_VDPAU_MPEG1         (IMGFMT_VDPAU|0x01)
284 #define IMGFMT_VDPAU_MPEG2         (IMGFMT_VDPAU|0x02)
285 #define IMGFMT_VDPAU_H264          (IMGFMT_VDPAU|0x03)
286 #define IMGFMT_VDPAU_WMV3          (IMGFMT_VDPAU|0x04)
287 #define IMGFMT_VDPAU_VC1           (IMGFMT_VDPAU|0x05)
288 #define IMGFMT_VDPAU_MPEG4         (IMGFMT_VDPAU|0x06)
289
290 #define IMGFMT_IS_HWACCEL(fmt) (IMGFMT_IS_VDPAU(fmt) || IMGFMT_IS_XVMC(fmt))
291
292 typedef struct {
293     void* data;
294     int size;
295     int id;        // stream id. usually 0x1E0
296     int timestamp; // pts, 90000 Hz counter based
297 } vo_mpegpes_t;
298
299 const char *ff_vo_format_name(int format);
300
301 /**
302  * Calculates the scale shifts for the chroma planes for planar YUV
303  *
304  * \param component_bits bits per component
305  * \return bits-per-pixel for format if successful (i.e. format is 3 or 4-planes planar YUV), 0 otherwise
306  */
307 int ff_mp_get_chroma_shift(int format, int *x_shift, int *y_shift, int *component_bits);
308
309 #endif /* MPLAYER_IMG_FORMAT_H */