Factorize avcodec chroma table - another 2kb
[vlc.git] / modules / codec / avcodec / chroma.c
1 /*****************************************************************************
2  * chroma.c: libavutil <-> libvlc conversion routines
3  *****************************************************************************
4  * Copyright (C) 1999-2008 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
8  *          Gildas Bazin <gbazin@videolan.org>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2 of the License, or
13  * (at your option) any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 021100301, USA.
23  *****************************************************************************/
24
25 #ifdef HAVE_CONFIG_H
26 # include <config.h>
27 #endif
28
29 #include <vlc_common.h>
30 #include <vlc_codec.h>
31
32 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
33 #   include <libavcodec/avcodec.h>
34 #elif defined(HAVE_FFMPEG_AVCODEC_H)
35 #   include <ffmpeg/avcodec.h>
36 #else
37 #   include <avcodec.h>
38 #endif
39 #include "avcodec.h"
40
41 /*****************************************************************************
42  * Chroma fourcc -> ffmpeg_id mapping
43  *****************************************************************************/
44 #if defined(WORDS_BIGENDIAN)
45 #   define VLC_RGB_ES( fcc, leid, beid ) \
46     { fcc, beid, 0, 0, 0 },
47 #else
48 #   define VLC_RGB_ES( fcc, leid, beid ) \
49     { fcc, leid, 0, 0, 0 },
50 #endif
51
52 #define VLC_RGB( fcc, leid, beid, rmask, gmask, bmask ) \
53     { fcc, leid, rmask, gmask, bmask }, \
54     { fcc, beid, bmask, gmask, rmask }, \
55     VLC_RGB_ES( fcc, leid, beid )
56
57
58 static const struct
59 {
60     vlc_fourcc_t  i_chroma;
61     int           i_chroma_id;
62     uint32_t      i_rmask;
63     uint32_t      i_gmask;
64     uint32_t      i_bmask;
65
66 } chroma_table[] =
67 {
68     /* Planar YUV formats */
69     {VLC_FOURCC('I','4','4','4'), PIX_FMT_YUV444P, 0, 0, 0 },
70     {VLC_FOURCC('J','4','4','4'), PIX_FMT_YUVJ444P, 0, 0, 0 },
71
72 #if LIBAVUTIL_VERSION_INT >= ((49<<16)+(5<<8)+0)
73     {VLC_FOURCC('I','4','4','0'), PIX_FMT_YUV440P, 0, 0, 0 },
74     {VLC_FOURCC('J','4','4','0'), PIX_FMT_YUVJ440P, 0, 0, 0 },
75 #endif
76
77     {VLC_FOURCC('I','4','2','2'), PIX_FMT_YUV422P, 0, 0, 0 },
78     {VLC_FOURCC('J','4','2','2'), PIX_FMT_YUVJ422P, 0, 0, 0 },
79
80     {VLC_FOURCC('I','4','2','0'), PIX_FMT_YUV420P, 0, 0, 0 },
81     {VLC_FOURCC('Y','V','1','2'), PIX_FMT_YUV420P, 0, 0, 0 },
82     {VLC_FOURCC('I','Y','U','V'), PIX_FMT_YUV420P, 0, 0, 0 },
83     {VLC_FOURCC('J','4','2','0'), PIX_FMT_YUVJ420P, 0, 0, 0 },
84     {VLC_FOURCC('I','4','1','1'), PIX_FMT_YUV411P, 0, 0, 0 },
85     {VLC_FOURCC('I','4','1','0'), PIX_FMT_YUV410P, 0, 0, 0 },
86     {VLC_FOURCC('Y','V','U','9'), PIX_FMT_YUV410P, 0, 0, 0 },
87
88     {VLC_FOURCC('N','V','1','2'), PIX_FMT_NV12, 0, 0, 0 },
89     {VLC_FOURCC('N','V','2','1'), PIX_FMT_NV21, 0, 0, 0 },
90
91     /* Packed YUV formats */
92     {VLC_FOURCC('Y','U','Y','2'), PIX_FMT_YUYV422, 0, 0, 0 },
93     {VLC_FOURCC('Y','U','Y','V'), PIX_FMT_YUYV422, 0, 0, 0 },
94     {VLC_FOURCC('U','Y','V','Y'), PIX_FMT_UYVY422, 0, 0, 0 },
95     {VLC_FOURCC('Y','4','1','1'), PIX_FMT_UYYVYY411, 0, 0, 0 },
96
97     /* Packed RGB formats */
98     VLC_RGB( VLC_FOURCC('R','G','B','4'), PIX_FMT_RGB4, PIX_FMT_BGR4, 0x10, 0x06, 0x01 )
99     VLC_RGB( VLC_FOURCC('R','G','B','8'), PIX_FMT_RGB8, PIX_FMT_BGR8, 0xC0, 0x38, 0x07 )
100
101     VLC_RGB( VLC_FOURCC('R','V','1','5'), PIX_FMT_BGR555, PIX_FMT_RGB555, 0x7c00, 0x03e0, 0x001f )
102     VLC_RGB( VLC_FOURCC('R','V','1','6'), PIX_FMT_BGR565, PIX_FMT_RGB565, 0xf800, 0x07e0, 0x001f )
103     VLC_RGB( VLC_FOURCC('R','V','2','4'), PIX_FMT_BGR24, PIX_FMT_RGB24, 0xff0000, 0x00ff00, 0x0000ff )
104
105     VLC_RGB( VLC_FOURCC('R','V','3','2'), PIX_FMT_RGB32, PIX_FMT_BGR32, 0x00ff0000, 0x0000ff00, 0x000000ff )
106     VLC_RGB( VLC_FOURCC('R','V','3','2'), PIX_FMT_RGB32_1, PIX_FMT_BGR32_1, 0xff000000, 0x00ff0000, 0x0000ff00 )
107
108 #if defined(PIX_FMT_RGBA)
109     {VLC_FOURCC('R','G','B','A'), PIX_FMT_RGBA, 0xff000000, 0x00ff0000, 0x0000ff00},
110 #endif
111     {VLC_FOURCC('G','R','E','Y'), PIX_FMT_GRAY8, 0, 0, 0},
112
113      /* Paletized RGB */
114     {VLC_FOURCC('R','G','B','P'), PIX_FMT_PAL8, 0, 0, 0},
115
116
117     { 0, 0, 0, 0, 0 }
118 };
119
120 int TestFfmpegChroma( const int i_ffmpeg_id, const vlc_fourcc_t i_vlc_fourcc )
121 {
122     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
123     {
124         if( chroma_table[i].i_chroma == i_vlc_fourcc || chroma_table[i].i_chroma_id == i_ffmpeg_id )
125             return VLC_SUCCESS;
126     }
127     return VLC_EGENERIC;
128 }
129
130 /* FIXME special case the RGB formats */
131 int GetFfmpegChroma( int *i_ffmpeg_chroma, const video_format_t fmt )
132 {
133     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
134     {
135         if( chroma_table[i].i_chroma == fmt.i_chroma )
136         {
137             if( chroma_table[i].i_rmask == fmt.i_rmask &&
138                 chroma_table[i].i_gmask == fmt.i_gmask &&
139                 chroma_table[i].i_bmask == fmt.i_bmask )
140             {
141                 *i_ffmpeg_chroma = chroma_table[i].i_chroma_id;
142                 return VLC_SUCCESS;
143             }
144         }
145     }
146     return VLC_EGENERIC;
147 }
148
149 int GetVlcChroma( video_format_t *fmt, const int i_ffmpeg_chroma )
150 {
151     /* TODO FIXME for rgb format we HAVE to set rgb mask/shift */
152     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
153     {
154         if( chroma_table[i].i_chroma_id == i_ffmpeg_chroma )
155         {
156             fmt->i_rmask = chroma_table[i].i_rmask;
157             fmt->i_gmask = chroma_table[i].i_gmask;
158             fmt->i_bmask = chroma_table[i].i_bmask;
159             fmt->i_chroma = chroma_table[i].i_chroma;
160             return VLC_SUCCESS;
161         }
162     }
163     return VLC_EGENERIC;
164 }