Remove trailing space.
[vlc.git] / modules / codec / avcodec / chroma.h
1 /*****************************************************************************
2  * chroma.h: libavutil <-> libvlc conversion routines
3  *****************************************************************************
4  * Copyright (C) 1999-2008 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
8  *          Gildas Bazin <gbazin@videolan.org>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2 of the License, or
13  * (at your option) any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 021100301, USA.
23  *****************************************************************************/
24
25 /*****************************************************************************
26  * Chroma fourcc -> ffmpeg_id mapping
27  *****************************************************************************/
28 #if defined(WORDS_BIGENDIAN)
29 #   define VLC_RGB_ES( fcc, leid, beid ) \
30     { fcc, beid, 0, 0, 0 },
31 #else
32 #   define VLC_RGB_ES( fcc, leid, beid ) \
33     { fcc, leid, 0, 0, 0 },
34 #endif
35
36 #define VLC_RGB( fcc, leid, beid, rmask, gmask, bmask ) \
37     { fcc, leid, rmask, gmask, bmask }, \
38     { fcc, beid, bmask, gmask, rmask }, \
39     VLC_RGB_ES( fcc, leid, beid )
40
41
42 static const struct
43 {
44     vlc_fourcc_t  i_chroma;
45     int           i_chroma_id;
46     uint32_t      i_rmask;
47     uint32_t      i_gmask;
48     uint32_t      i_bmask;
49
50 } chroma_table[] =
51 {
52     /* Planar YUV formats */
53     {VLC_FOURCC('I','4','4','4'), PIX_FMT_YUV444P, 0, 0, 0 },
54     {VLC_FOURCC('J','4','4','4'), PIX_FMT_YUVJ444P, 0, 0, 0 },
55
56 #if LIBAVUTIL_VERSION_INT >= ((49<<16)+(5<<8)+0)
57     {VLC_FOURCC('I','4','4','0'), PIX_FMT_YUV440P, 0, 0, 0 },
58     {VLC_FOURCC('J','4','4','0'), PIX_FMT_YUVJ440P, 0, 0, 0 },
59 #endif
60
61     {VLC_FOURCC('I','4','2','2'), PIX_FMT_YUV422P, 0, 0, 0 },
62     {VLC_FOURCC('J','4','2','2'), PIX_FMT_YUVJ422P, 0, 0, 0 },
63
64     {VLC_FOURCC('I','4','2','0'), PIX_FMT_YUV420P, 0, 0, 0 },
65     {VLC_FOURCC('Y','V','1','2'), PIX_FMT_YUV420P, 0, 0, 0 },
66     {VLC_FOURCC('I','Y','U','V'), PIX_FMT_YUV420P, 0, 0, 0 },
67     {VLC_FOURCC('J','4','2','0'), PIX_FMT_YUVJ420P, 0, 0, 0 },
68     {VLC_FOURCC('I','4','1','1'), PIX_FMT_YUV411P, 0, 0, 0 },
69     {VLC_FOURCC('I','4','1','0'), PIX_FMT_YUV410P, 0, 0, 0 },
70     {VLC_FOURCC('Y','V','U','9'), PIX_FMT_YUV410P, 0, 0, 0 },
71
72     {VLC_FOURCC('N','V','1','2'), PIX_FMT_NV12, 0, 0, 0 },
73     {VLC_FOURCC('N','V','2','1'), PIX_FMT_NV21, 0, 0, 0 },
74
75     /* Packed YUV formats */
76     {VLC_FOURCC('Y','U','Y','2'), PIX_FMT_YUYV422, 0, 0, 0 },
77     {VLC_FOURCC('Y','U','Y','V'), PIX_FMT_YUYV422, 0, 0, 0 },
78     {VLC_FOURCC('U','Y','V','Y'), PIX_FMT_UYVY422, 0, 0, 0 },
79     {VLC_FOURCC('Y','4','1','1'), PIX_FMT_UYYVYY411, 0, 0, 0 },
80
81     /* Packed RGB formats */
82     VLC_RGB( VLC_FOURCC('R','G','B','4'), PIX_FMT_RGB4, PIX_FMT_BGR4, 0x10, 0x06, 0x01 )
83     VLC_RGB( VLC_FOURCC('R','G','B','8'), PIX_FMT_RGB8, PIX_FMT_BGR8, 0xC0, 0x38, 0x07 )
84     VLC_RGB( VLC_FOURCC('R','V','1','5'), PIX_FMT_RGB555, PIX_FMT_BGR555, 0x7c00, 0x03e0, 0x001f )
85     VLC_RGB( VLC_FOURCC('R','V','1','6'), PIX_FMT_RGB565, PIX_FMT_BGR565, 0xf800, 0x07e0, 0x001f )
86     VLC_RGB( VLC_FOURCC('R','V','2','4'), PIX_FMT_RGB24, PIX_FMT_BGR24, 0xff0000, 0x00ff00, 0x0000ff )
87
88     VLC_RGB( VLC_FOURCC('R','V','3','2'), PIX_FMT_RGB32, PIX_FMT_BGR32, 0x00ff0000, 0x0000ff00, 0x000000ff )
89     VLC_RGB( VLC_FOURCC('R','V','3','2'), PIX_FMT_RGB32_1, PIX_FMT_BGR32_1, 0xff000000, 0x00ff0000, 0x0000ff00 )
90
91 #if defined(PIX_FMT_RGBA)
92     {VLC_FOURCC('R','G','B','A'), PIX_FMT_RGBA, 0xff000000, 0x00ff0000, 0x0000ff00},
93 #endif
94     {VLC_FOURCC('G','R','E','Y'), PIX_FMT_GRAY8, 0, 0, 0},
95
96     { 0, 0, 0, 0, 0 }
97 };
98
99 static inline int TestFfmpegChroma( const int i_ffmpeg_id, const vlc_fourcc_t i_vlc_fourcc )
100 {
101     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
102     {
103         if( chroma_table[i].i_chroma == i_vlc_fourcc || chroma_table[i].i_chroma_id == i_ffmpeg_id )
104             return VLC_SUCCESS;
105     }
106     return VLC_EGENERIC;
107 }
108
109 /* FIXME special case the RGB formats */
110 static inline int GetFfmpegChroma( int *i_ffmpeg_chroma, const video_format_t fmt )
111 {
112     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
113     {
114         if( chroma_table[i].i_chroma == fmt.i_chroma )
115         {
116             if( chroma_table[i].i_rmask == fmt.i_rmask &&
117                 chroma_table[i].i_gmask == fmt.i_gmask &&
118                 chroma_table[i].i_bmask == fmt.i_bmask )
119             {
120                 *i_ffmpeg_chroma = chroma_table[i].i_chroma_id;
121                 return VLC_SUCCESS;
122             }
123         }
124     }
125     return VLC_EGENERIC;
126 }
127
128 static inline int GetVlcChroma( video_format_t *fmt, const int i_ffmpeg_chroma )
129 {
130     /* TODO FIXME for rgb format we HAVE to set rgb mask/shift */
131     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
132     {
133         if( chroma_table[i].i_chroma_id == i_ffmpeg_chroma )
134         {
135             fmt->i_rmask = chroma_table[i].i_rmask;
136             fmt->i_gmask = chroma_table[i].i_gmask;
137             fmt->i_bmask = chroma_table[i].i_bmask;
138             fmt->i_chroma = chroma_table[i].i_chroma;
139             return VLC_SUCCESS;
140         }
141     }
142     return VLC_EGENERIC;
143 }