Fix a bunch of warnings and errors
[vlc.git] / modules / video_chroma / i420_rgb8.c
1 /*****************************************************************************
2  * i420_rgb8.c : YUV to bitmap RGB conversion module for vlc
3  *****************************************************************************
4  * Copyright (C) 2000 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Samuel Hocevar <sam@zoy.org>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  * 
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27 #include <string.h>                                            /* strerror() */
28 #include <stdlib.h>                                      /* malloc(), free() */
29
30 #include <vlc/vlc.h>
31 #include <vlc/vout.h>
32
33 #include "i420_rgb.h"
34 #include "i420_rgb_c.h"
35
36 static void SetOffset( int, int, int, int, vlc_bool_t *, int *, int * );
37
38 /*****************************************************************************
39  * I420_RGB8: color YUV 4:2:0 to RGB 8 bpp
40  *****************************************************************************/
41 void E_(I420_RGB8)( vout_thread_t *p_vout, picture_t *p_src, picture_t *p_dest )
42 {
43     /* We got this one from the old arguments */
44     uint8_t *p_pic = (uint8_t*)p_dest->p->p_pixels;
45     uint8_t *p_y   = p_src->Y_PIXELS;
46     uint8_t *p_u   = p_src->U_PIXELS;
47     uint8_t *p_v   = p_src->V_PIXELS;
48
49     vlc_bool_t  b_hscale;                         /* horizontal scaling type */
50     int i_vscale;                                 /* vertical scaling type */
51     unsigned int i_x, i_y;                /* horizontal and vertical indexes */
52     unsigned int i_real_y;                                          /* y % 4 */
53     int          i_right_margin;
54     int          i_scale_count;                      /* scale modulo counter */
55     unsigned int i_chroma_width = p_vout->render.i_width / 2;/* chroma width */
56
57     /* Lookup table */
58     uint8_t *        p_lookup = p_vout->chroma.p_sys->p_base;
59
60     /* Offset array pointer */
61     int *       p_offset_start = p_vout->chroma.p_sys->p_offset;
62     int *       p_offset;
63
64     const int i_source_margin = p_src->p[0].i_pitch
65                                  - p_src->p[0].i_visible_pitch;
66     const int i_source_margin_c = p_src->p[1].i_pitch
67                                  - p_src->p[1].i_visible_pitch;
68
69     /* The dithering matrices */
70     static int dither10[4] = {  0x0,  0x8,  0x2,  0xa };
71     static int dither11[4] = {  0xc,  0x4,  0xe,  0x6 };
72     static int dither12[4] = {  0x3,  0xb,  0x1,  0x9 };
73     static int dither13[4] = {  0xf,  0x7,  0xd,  0x5 };
74
75     static int dither20[4] = {  0x0, 0x10,  0x4, 0x14 };
76     static int dither21[4] = { 0x18,  0x8, 0x1c,  0xc };
77     static int dither22[4] = {  0x6, 0x16,  0x2, 0x12 };
78     static int dither23[4] = { 0x1e,  0xe, 0x1a,  0xa };
79
80     SetOffset( p_vout->render.i_width, p_vout->render.i_height,
81                p_vout->output.i_width, p_vout->output.i_height,
82                &b_hscale, &i_vscale, p_offset_start );
83
84     i_right_margin = p_dest->p->i_pitch - p_dest->p->i_visible_pitch;
85
86     /*
87      * Perform conversion
88      */
89     i_scale_count = ( i_vscale == 1 ) ?
90                     p_vout->output.i_height : p_vout->render.i_height;
91     for( i_y = 0, i_real_y = 0; i_y < p_vout->render.i_height; i_y++ )
92     {
93         /* Do horizontal and vertical scaling */
94         SCALE_WIDTH_DITHER( 420 );
95         SCALE_HEIGHT_DITHER( 420 );
96     }
97
98     p_y += i_source_margin;
99     if( i_y % 2 )
100     {
101         p_u += i_source_margin_c;
102         p_v += i_source_margin_c;
103     }
104 }
105
106 /* Following functions are local */
107
108 /*****************************************************************************
109  * SetOffset: build offset array for conversion functions
110  *****************************************************************************
111  * This function will build an offset array used in later conversion functions.
112  * It will also set horizontal and vertical scaling indicators. The p_offset
113  * structure has interleaved Y and U/V offsets.
114  *****************************************************************************/
115 static void SetOffset( int i_width, int i_height, int i_pic_width,
116                        int i_pic_height, vlc_bool_t *pb_hscale,
117                        int *pi_vscale, int *p_offset )
118 {
119     int i_x;                                    /* x position in destination */
120     int i_scale_count;                                     /* modulo counter */
121
122     /*
123      * Prepare horizontal offset array
124      */
125     if( i_pic_width - i_width == 0 )
126     {
127         /* No horizontal scaling: YUV conversion is done directly to picture */
128         *pb_hscale = 0;
129     }
130     else if( i_pic_width - i_width > 0 )
131     {
132         int i_dummy = 0;
133
134         /* Prepare scaling array for horizontal extension */
135         *pb_hscale = 1;
136         i_scale_count = i_pic_width;
137         for( i_x = i_width; i_x--; )
138         {
139             while( (i_scale_count -= i_width) > 0 )
140             {
141                 *p_offset++ = 0;
142                 *p_offset++ = 0;
143             }
144             *p_offset++ = 1;
145             *p_offset++ = i_dummy;
146             i_dummy = 1 - i_dummy;
147             i_scale_count += i_pic_width;
148         }
149     }
150     else /* if( i_pic_width - i_width < 0 ) */
151     {
152         int i_remainder = 0;
153         int i_jump;
154
155         /* Prepare scaling array for horizontal reduction */
156         *pb_hscale = 1;
157         i_scale_count = i_width;
158         for( i_x = i_pic_width; i_x--; )
159         {
160             i_jump = 1;
161             while( (i_scale_count -= i_pic_width) > 0 )
162             {
163                 i_jump += 1;
164             }
165             *p_offset++ = i_jump;
166             *p_offset++ = ( i_jump += i_remainder ) >> 1;
167             i_remainder = i_jump & 1;
168             i_scale_count += i_width;
169         }
170     }
171
172     /*
173      * Set vertical scaling indicator
174      */
175     if( i_pic_height - i_height == 0 )
176     {
177         *pi_vscale = 0;
178     }
179     else if( i_pic_height - i_height > 0 )
180     {
181         *pi_vscale = 1;
182     }
183     else /* if( i_pic_height - i_height < 0 ) */
184     {
185         *pi_vscale = -1;
186     }
187 }
188