swscale: variable declaration and placement cosmetics
[ffmpeg.git] / libswscale / rgb2rgb.c
1 /*
2  * software RGB to RGB converter
3  * pluralize by software PAL8 to RGB converter
4  *              software YUV to YUV converter
5  *              software YUV to RGB converter
6  * Written by Nick Kurshev.
7  * palette & YUV & runtime CPU stuff by Michael (michaelni@gmx.at)
8  *
9  * This file is part of Libav.
10  *
11  * Libav is free software; you can redistribute it and/or
12  * modify it under the terms of the GNU Lesser General Public
13  * License as published by the Free Software Foundation; either
14  * version 2.1 of the License, or (at your option) any later version.
15  *
16  * Libav is distributed in the hope that it will be useful,
17  * but WITHOUT ANY WARRANTY; without even the implied warranty of
18  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
19  * Lesser General Public License for more details.
20  *
21  * You should have received a copy of the GNU Lesser General Public
22  * License along with Libav; if not, write to the Free Software
23  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
24  */
25 #include <inttypes.h>
26 #include "config.h"
27 #include "libavutil/bswap.h"
28 #include "rgb2rgb.h"
29 #include "swscale.h"
30 #include "swscale_internal.h"
31
32 void (*rgb24tobgr32)(const uint8_t *src, uint8_t *dst, int src_size);
33 void (*rgb24tobgr16)(const uint8_t *src, uint8_t *dst, int src_size);
34 void (*rgb24tobgr15)(const uint8_t *src, uint8_t *dst, int src_size);
35 void (*rgb32tobgr24)(const uint8_t *src, uint8_t *dst, int src_size);
36 void (*rgb32to16)(const uint8_t *src, uint8_t *dst, int src_size);
37 void (*rgb32to15)(const uint8_t *src, uint8_t *dst, int src_size);
38 void (*rgb15to16)(const uint8_t *src, uint8_t *dst, int src_size);
39 void (*rgb15tobgr24)(const uint8_t *src, uint8_t *dst, int src_size);
40 void (*rgb15to32)(const uint8_t *src, uint8_t *dst, int src_size);
41 void (*rgb16to15)(const uint8_t *src, uint8_t *dst, int src_size);
42 void (*rgb16tobgr24)(const uint8_t *src, uint8_t *dst, int src_size);
43 void (*rgb16to32)(const uint8_t *src, uint8_t *dst, int src_size);
44 void (*rgb24tobgr24)(const uint8_t *src, uint8_t *dst, int src_size);
45 void (*rgb24to16)(const uint8_t *src, uint8_t *dst, int src_size);
46 void (*rgb24to15)(const uint8_t *src, uint8_t *dst, int src_size);
47 void (*shuffle_bytes_2103)(const uint8_t *src, uint8_t *dst, int src_size);
48 void (*rgb32tobgr16)(const uint8_t *src, uint8_t *dst, int src_size);
49 void (*rgb32tobgr15)(const uint8_t *src, uint8_t *dst, int src_size);
50
51 void (*yv12toyuy2)(const uint8_t *ysrc, const uint8_t *usrc, const uint8_t *vsrc, uint8_t *dst,
52                    int width, int height,
53                    int lumStride, int chromStride, int dstStride);
54 void (*yv12touyvy)(const uint8_t *ysrc, const uint8_t *usrc, const uint8_t *vsrc, uint8_t *dst,
55                    int width, int height,
56                    int lumStride, int chromStride, int dstStride);
57 void (*yuv422ptoyuy2)(const uint8_t *ysrc, const uint8_t *usrc, const uint8_t *vsrc, uint8_t *dst,
58                       int width, int height,
59                       int lumStride, int chromStride, int dstStride);
60 void (*yuv422ptouyvy)(const uint8_t *ysrc, const uint8_t *usrc, const uint8_t *vsrc, uint8_t *dst,
61                       int width, int height,
62                       int lumStride, int chromStride, int dstStride);
63 void (*yuy2toyv12)(const uint8_t *src, uint8_t *ydst, uint8_t *udst, uint8_t *vdst,
64                    int width, int height,
65                    int lumStride, int chromStride, int srcStride);
66 void (*rgb24toyv12)(const uint8_t *src, uint8_t *ydst, uint8_t *udst, uint8_t *vdst,
67                     int width, int height,
68                     int lumStride, int chromStride, int srcStride);
69 void (*planar2x)(const uint8_t *src, uint8_t *dst, int width, int height,
70                  int srcStride, int dstStride);
71 void (*interleaveBytes)(const uint8_t *src1, const uint8_t *src2, uint8_t *dst,
72                         int width, int height, int src1Stride,
73                         int src2Stride, int dstStride);
74 void (*vu9_to_vu12)(const uint8_t *src1, const uint8_t *src2,
75                     uint8_t *dst1, uint8_t *dst2,
76                     int width, int height,
77                     int srcStride1, int srcStride2,
78                     int dstStride1, int dstStride2);
79 void (*yvu9_to_yuy2)(const uint8_t *src1, const uint8_t *src2, const uint8_t *src3,
80                      uint8_t *dst,
81                      int width, int height,
82                      int srcStride1, int srcStride2,
83                      int srcStride3, int dstStride);
84 void (*uyvytoyuv420)(uint8_t *ydst, uint8_t *udst, uint8_t *vdst, const uint8_t *src,
85                      int width, int height,
86                      int lumStride, int chromStride, int srcStride);
87 void (*uyvytoyuv422)(uint8_t *ydst, uint8_t *udst, uint8_t *vdst, const uint8_t *src,
88                      int width, int height,
89                      int lumStride, int chromStride, int srcStride);
90 void (*yuyvtoyuv420)(uint8_t *ydst, uint8_t *udst, uint8_t *vdst, const uint8_t *src,
91                      int width, int height,
92                      int lumStride, int chromStride, int srcStride);
93 void (*yuyvtoyuv422)(uint8_t *ydst, uint8_t *udst, uint8_t *vdst, const uint8_t *src,
94                      int width, int height,
95                      int lumStride, int chromStride, int srcStride);
96
97 #define RGB2YUV_SHIFT 8
98 #define BY ((int)( 0.098*(1<<RGB2YUV_SHIFT)+0.5))
99 #define BV ((int)(-0.071*(1<<RGB2YUV_SHIFT)+0.5))
100 #define BU ((int)( 0.439*(1<<RGB2YUV_SHIFT)+0.5))
101 #define GY ((int)( 0.504*(1<<RGB2YUV_SHIFT)+0.5))
102 #define GV ((int)(-0.368*(1<<RGB2YUV_SHIFT)+0.5))
103 #define GU ((int)(-0.291*(1<<RGB2YUV_SHIFT)+0.5))
104 #define RY ((int)( 0.257*(1<<RGB2YUV_SHIFT)+0.5))
105 #define RV ((int)( 0.439*(1<<RGB2YUV_SHIFT)+0.5))
106 #define RU ((int)(-0.148*(1<<RGB2YUV_SHIFT)+0.5))
107
108 //plain C versions
109 #include "rgb2rgb_template.c"
110
111
112 /*
113  RGB15->RGB16 original by Strepto/Astral
114  ported to gcc & bugfixed : A'rpi
115  MMX2, 3DNOW optimization by Nick Kurshev
116  32-bit C version, and and&add trick by Michael Niedermayer
117 */
118
119 void sws_rgb2rgb_init(void)
120 {
121     rgb2rgb_init_c();
122     if (HAVE_MMX)
123         rgb2rgb_init_x86();
124 }
125
126 void rgb32to24(const uint8_t *src, uint8_t *dst, int src_size)
127 {
128     int i, num_pixels = src_size >> 2;
129
130     for (i=0; i<num_pixels; i++) {
131 #if HAVE_BIGENDIAN
132         /* RGB32 (= A,B,G,R) -> BGR24 (= B,G,R) */
133         dst[3*i + 0] = src[4*i + 1];
134         dst[3*i + 1] = src[4*i + 2];
135         dst[3*i + 2] = src[4*i + 3];
136 #else
137         dst[3*i + 0] = src[4*i + 2];
138         dst[3*i + 1] = src[4*i + 1];
139         dst[3*i + 2] = src[4*i + 0];
140 #endif
141     }
142 }
143
144 void rgb24to32(const uint8_t *src, uint8_t *dst, int src_size)
145 {
146     int i;
147     for (i=0; 3*i<src_size; i++) {
148 #if HAVE_BIGENDIAN
149         /* RGB24 (= R,G,B) -> BGR32 (= A,R,G,B) */
150         dst[4*i + 0] = 255;
151         dst[4*i + 1] = src[3*i + 0];
152         dst[4*i + 2] = src[3*i + 1];
153         dst[4*i + 3] = src[3*i + 2];
154 #else
155         dst[4*i + 0] = src[3*i + 2];
156         dst[4*i + 1] = src[3*i + 1];
157         dst[4*i + 2] = src[3*i + 0];
158         dst[4*i + 3] = 255;
159 #endif
160     }
161 }
162
163 void rgb16tobgr32(const uint8_t *src, uint8_t *dst, int src_size)
164 {
165     uint8_t *d = dst;
166     const uint16_t *s = (const uint16_t *)src;
167     const uint16_t *end = s + src_size / 2;
168
169     while (s < end) {
170         register uint16_t bgr = *s++;
171 #if HAVE_BIGENDIAN
172         *d++ = 255;
173         *d++ = (bgr&0x1F)<<3;
174         *d++ = (bgr&0x7E0)>>3;
175         *d++ = (bgr&0xF800)>>8;
176 #else
177         *d++ = (bgr&0xF800)>>8;
178         *d++ = (bgr&0x7E0)>>3;
179         *d++ = (bgr&0x1F)<<3;
180         *d++ = 255;
181 #endif
182     }
183 }
184
185 void rgb12to15(const uint8_t *src, uint8_t *dst, int src_size)
186 {
187     uint16_t *d = (uint16_t *)dst;
188     const uint16_t *s = (const uint16_t *)src;
189     uint16_t rgb, r, g, b;
190     const uint16_t *end = s + src_size / 2;
191
192     while (s < end) {
193         rgb = *s++;
194         r = rgb & 0xF00;
195         g = rgb & 0x0F0;
196         b = rgb & 0x00F;
197         r = (r << 3) | ((r & 0x800) >> 1);
198         g = (g << 2) | ((g & 0x080) >> 2);
199         b = (b << 1) | ( b          >> 3);
200         *d++ = r | g | b;
201     }
202 }
203
204 void rgb16to24(const uint8_t *src, uint8_t *dst, int src_size)
205 {
206     uint8_t *d = dst;
207     const uint16_t *s = (const uint16_t *)src;
208     const uint16_t *end = s + src_size / 2;
209
210     while (s < end) {
211         register uint16_t bgr = *s++;
212         *d++ = (bgr&0xF800)>>8;
213         *d++ = (bgr&0x7E0)>>3;
214         *d++ = (bgr&0x1F)<<3;
215     }
216 }
217
218 void rgb16tobgr16(const uint8_t *src, uint8_t *dst, int src_size)
219 {
220     int i, num_pixels = src_size >> 1;
221
222     for (i=0; i<num_pixels; i++) {
223         unsigned rgb = ((const uint16_t*)src)[i];
224         ((uint16_t*)dst)[i] = (rgb>>11) | (rgb&0x7E0) | (rgb<<11);
225     }
226 }
227
228 void rgb16tobgr15(const uint8_t *src, uint8_t *dst, int src_size)
229 {
230     int i, num_pixels = src_size >> 1;
231
232     for (i=0; i<num_pixels; i++) {
233         unsigned rgb = ((const uint16_t*)src)[i];
234         ((uint16_t*)dst)[i] = (rgb>>11) | ((rgb&0x7C0)>>1) | ((rgb&0x1F)<<10);
235     }
236 }
237
238 void rgb15tobgr32(const uint8_t *src, uint8_t *dst, int src_size)
239 {
240     uint8_t *d = dst;
241     const uint16_t *s = (const uint16_t *)src;
242     const uint16_t *end = s + src_size / 2;
243
244     while (s < end) {
245         register uint16_t bgr = *s++;
246 #if HAVE_BIGENDIAN
247         *d++ = 255;
248         *d++ = (bgr&0x1F)<<3;
249         *d++ = (bgr&0x3E0)>>2;
250         *d++ = (bgr&0x7C00)>>7;
251 #else
252         *d++ = (bgr&0x7C00)>>7;
253         *d++ = (bgr&0x3E0)>>2;
254         *d++ = (bgr&0x1F)<<3;
255         *d++ = 255;
256 #endif
257     }
258 }
259
260 void rgb15to24(const uint8_t *src, uint8_t *dst, int src_size)
261 {
262     uint8_t *d = dst;
263     const uint16_t *s = (const uint16_t *)src;
264     const uint16_t *end = s + src_size / 2;
265
266     while (s < end) {
267         register uint16_t bgr = *s++;
268         *d++ = (bgr&0x7C00)>>7;
269         *d++ = (bgr&0x3E0)>>2;
270         *d++ = (bgr&0x1F)<<3;
271     }
272 }
273
274 void rgb15tobgr16(const uint8_t *src, uint8_t *dst, int src_size)
275 {
276     int i, num_pixels = src_size >> 1;
277
278     for (i=0; i<num_pixels; i++) {
279         unsigned rgb = ((const uint16_t*)src)[i];
280         ((uint16_t*)dst)[i] = ((rgb&0x7C00)>>10) | ((rgb&0x3E0)<<1) | (rgb<<11);
281     }
282 }
283
284 void rgb15tobgr15(const uint8_t *src, uint8_t *dst, int src_size)
285 {
286     int i, num_pixels = src_size >> 1;
287
288     for (i=0; i<num_pixels; i++) {
289         unsigned rgb = ((const uint16_t*)src)[i];
290         unsigned br  = rgb & 0x7C1F;
291         ((uint16_t*)dst)[i] = (br>>10) | (rgb&0x3E0) | (br<<10);
292     }
293 }
294
295 void rgb12tobgr12(const uint8_t *src, uint8_t *dst, int src_size)
296 {
297     uint16_t *d = (uint16_t*)dst;
298     uint16_t *s = (uint16_t*)src;
299     int i, num_pixels = src_size >> 1;
300
301     for (i = 0; i < num_pixels; i++) {
302         unsigned rgb = s[i];
303         d[i] = (rgb << 8 | rgb & 0xF0 | rgb >> 8) & 0xFFF;
304     }
305 }
306
307 void bgr8torgb8(const uint8_t *src, uint8_t *dst, int src_size)
308 {
309     int i, num_pixels = src_size;
310
311     for (i=0; i<num_pixels; i++) {
312         register uint8_t rgb = src[i];
313         unsigned r           = (rgb & 0x07);
314         unsigned g           = (rgb & 0x38) >> 3;
315         unsigned b           = (rgb & 0xC0) >> 6;
316         dst[i] = ((b<<1)&0x07) | ((g&0x07)<<3) | ((r&0x03)<<6);
317     }
318 }
319
320 #define DEFINE_SHUFFLE_BYTES(a, b, c, d)                                \
321 void shuffle_bytes_##a##b##c##d(const uint8_t *src, uint8_t *dst, int src_size) \
322 {                                                                       \
323     int i;                                                             \
324                                                                         \
325     for (i = 0; i < src_size; i+=4) {                                   \
326         dst[i + 0] = src[i + a];                                        \
327         dst[i + 1] = src[i + b];                                        \
328         dst[i + 2] = src[i + c];                                        \
329         dst[i + 3] = src[i + d];                                        \
330     }                                                                   \
331 }
332
333 DEFINE_SHUFFLE_BYTES(0, 3, 2, 1)
334 DEFINE_SHUFFLE_BYTES(1, 2, 3, 0)
335 DEFINE_SHUFFLE_BYTES(3, 0, 1, 2)
336 DEFINE_SHUFFLE_BYTES(3, 2, 1, 0)