542bcf99e1e2c98c01a22acb57f683d11799c2b7
[vlc.git] / modules / codec / avcodec / chroma.h
1 /*****************************************************************************
2  * chroma.h: libavutil <-> libvlc conversion routines
3  *****************************************************************************
4  * Copyright (C) 1999-2008 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
8  *          Gildas Bazin <gbazin@videolan.org>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2 of the License, or
13  * (at your option) any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 021100301, USA.
23  *****************************************************************************/
24
25 /*****************************************************************************
26  * Chroma fourcc -> ffmpeg_id mapping
27  *****************************************************************************/
28 #if defined(WORDS_BIGENDIAN)
29 #   define VLC_RGB_ES( fcc, leid, beid ) \
30     { fcc, beid, 0, 0, 0 },
31 #else
32 #   define VLC_RGB_ES( fcc, leid, beid ) \
33     { fcc, leid, 0, 0, 0 },
34 #endif
35
36 #define VLC_RGB( fcc, leid, beid, rmask, gmask, bmask ) \
37     { fcc, leid, rmask, gmask, bmask }, \
38     { fcc, beid, bmask, gmask, rmask }, \
39     VLC_RGB_ES( fcc, leid, beid )
40
41
42 static const struct
43 {
44     vlc_fourcc_t  i_chroma;
45     int           i_chroma_id;
46     uint32_t      i_rmask;
47     uint32_t      i_gmask;
48     uint32_t      i_bmask;
49
50 } chroma_table[] =
51 {
52     /* Planar YUV formats */
53     {VLC_FOURCC('I','4','4','4'), PIX_FMT_YUV444P, 0, 0, 0 },
54     {VLC_FOURCC('J','4','4','4'), PIX_FMT_YUVJ444P, 0, 0, 0 },
55
56 #if LIBAVUTIL_VERSION_INT >= ((49<<16)+(5<<8)+0)
57     {VLC_FOURCC('I','4','4','0'), PIX_FMT_YUV440P, 0, 0, 0 },
58     {VLC_FOURCC('J','4','4','0'), PIX_FMT_YUVJ440P, 0, 0, 0 },
59 #endif
60
61     {VLC_FOURCC('I','4','2','2'), PIX_FMT_YUV422P, 0, 0, 0 },
62     {VLC_FOURCC('J','4','2','2'), PIX_FMT_YUVJ422P, 0, 0, 0 },
63
64     {VLC_FOURCC('I','4','2','0'), PIX_FMT_YUV420P, 0, 0, 0 },
65     {VLC_FOURCC('Y','V','1','2'), PIX_FMT_YUV420P, 0, 0, 0 },
66     {VLC_FOURCC('I','Y','U','V'), PIX_FMT_YUV420P, 0, 0, 0 },
67     {VLC_FOURCC('J','4','2','0'), PIX_FMT_YUVJ420P, 0, 0, 0 },
68     {VLC_FOURCC('I','4','1','1'), PIX_FMT_YUV411P, 0, 0, 0 },
69     {VLC_FOURCC('I','4','1','0'), PIX_FMT_YUV410P, 0, 0, 0 },
70     {VLC_FOURCC('Y','V','U','9'), PIX_FMT_YUV410P, 0, 0, 0 },
71
72     {VLC_FOURCC('N','V','1','2'), PIX_FMT_NV12, 0, 0, 0 },
73     {VLC_FOURCC('N','V','2','1'), PIX_FMT_NV21, 0, 0, 0 },
74
75     /* Packed YUV formats */
76     {VLC_FOURCC('Y','U','Y','2'), PIX_FMT_YUYV422, 0, 0, 0 },
77     {VLC_FOURCC('Y','U','Y','V'), PIX_FMT_YUYV422, 0, 0, 0 },
78     {VLC_FOURCC('U','Y','V','Y'), PIX_FMT_UYVY422, 0, 0, 0 },
79     {VLC_FOURCC('Y','4','1','1'), PIX_FMT_UYYVYY411, 0, 0, 0 },
80
81     /* Packed RGB formats */
82     VLC_RGB( VLC_FOURCC('R','G','B','4'), PIX_FMT_RGB4, PIX_FMT_BGR4, 0x10, 0x06, 0x01 )
83     VLC_RGB( VLC_FOURCC('R','G','B','8'), PIX_FMT_RGB8, PIX_FMT_BGR8, 0xC0, 0x38, 0x07 )
84
85     VLC_RGB( VLC_FOURCC('R','V','1','5'), PIX_FMT_BGR555, PIX_FMT_RGB555, 0x7c00, 0x03e0, 0x001f )
86     VLC_RGB( VLC_FOURCC('R','V','1','6'), PIX_FMT_BGR565, PIX_FMT_RGB565, 0xf800, 0x07e0, 0x001f )
87     VLC_RGB( VLC_FOURCC('R','V','2','4'), PIX_FMT_BGR24, PIX_FMT_RGB24, 0xff0000, 0x00ff00, 0x0000ff )
88
89     VLC_RGB( VLC_FOURCC('R','V','3','2'), PIX_FMT_RGB32, PIX_FMT_BGR32, 0x00ff0000, 0x0000ff00, 0x000000ff )
90     VLC_RGB( VLC_FOURCC('R','V','3','2'), PIX_FMT_RGB32_1, PIX_FMT_BGR32_1, 0xff000000, 0x00ff0000, 0x0000ff00 )
91
92 #if defined(PIX_FMT_RGBA)
93     {VLC_FOURCC('R','G','B','A'), PIX_FMT_RGBA, 0xff000000, 0x00ff0000, 0x0000ff00},
94 #endif
95     {VLC_FOURCC('G','R','E','Y'), PIX_FMT_GRAY8, 0, 0, 0},
96
97      /* Paletized RGB */
98     {VLC_FOURCC('R','G','B','P'), PIX_FMT_PAL8, 0, 0, 0},
99
100
101     { 0, 0, 0, 0, 0 }
102 };
103
104 static inline int TestFfmpegChroma( const int i_ffmpeg_id, const vlc_fourcc_t i_vlc_fourcc )
105 {
106     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
107     {
108         if( chroma_table[i].i_chroma == i_vlc_fourcc || chroma_table[i].i_chroma_id == i_ffmpeg_id )
109             return VLC_SUCCESS;
110     }
111     return VLC_EGENERIC;
112 }
113
114 /* FIXME special case the RGB formats */
115 static inline int GetFfmpegChroma( int *i_ffmpeg_chroma, const video_format_t fmt )
116 {
117     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
118     {
119         if( chroma_table[i].i_chroma == fmt.i_chroma )
120         {
121             if( chroma_table[i].i_rmask == fmt.i_rmask &&
122                 chroma_table[i].i_gmask == fmt.i_gmask &&
123                 chroma_table[i].i_bmask == fmt.i_bmask )
124             {
125                 *i_ffmpeg_chroma = chroma_table[i].i_chroma_id;
126                 return VLC_SUCCESS;
127             }
128         }
129     }
130     return VLC_EGENERIC;
131 }
132
133 static inline int GetVlcChroma( video_format_t *fmt, const int i_ffmpeg_chroma )
134 {
135     /* TODO FIXME for rgb format we HAVE to set rgb mask/shift */
136     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
137     {
138         if( chroma_table[i].i_chroma_id == i_ffmpeg_chroma )
139         {
140             fmt->i_rmask = chroma_table[i].i_rmask;
141             fmt->i_gmask = chroma_table[i].i_gmask;
142             fmt->i_bmask = chroma_table[i].i_bmask;
143             fmt->i_chroma = chroma_table[i].i_chroma;
144             return VLC_SUCCESS;
145         }
146     }
147     return VLC_EGENERIC;
148 }