Use COMPILE_MMX2 instead of HAVE_MMX2 to determine whether to compile
[ffmpeg.git] / libswscale / yuv2rgb.c
1 /*
2  * yuv2rgb.c, Software YUV to RGB coverter
3  *
4  *  Copyright (C) 1999, Aaron Holtzman <aholtzma@ess.engr.uvic.ca>
5  *  All Rights Reserved.
6  *
7  *  Functions broken out from display_x11.c and several new modes
8  *  added by HÃ¥kan Hjort <d95hjort@dtek.chalmers.se>
9  *
10  *  15 & 16 bpp support by Franck Sicard <Franck.Sicard@solsoft.fr>
11  *
12  *  This file is part of mpeg2dec, a free MPEG-2 video decoder
13  *
14  *  mpeg2dec is free software; you can redistribute it and/or modify
15  *  it under the terms of the GNU General Public License as published by
16  *  the Free Software Foundation; either version 2, or (at your option)
17  *  any later version.
18  *
19  *  mpeg2dec is distributed in the hope that it will be useful,
20  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
21  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
22  *  GNU General Public License for more details.
23  *
24  *  You should have received a copy of the GNU General Public License
25  *  along with GNU Make; see the file COPYING.  If not, write to
26  *  the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.
27  *
28  * MMX/MMX2 Template stuff from Michael Niedermayer (michaelni@gmx.at) (needed for fast movntq support)
29  * 1,4,8bpp support by Michael Niedermayer (michaelni@gmx.at)
30  * context / deglobalize stuff by Michael Niedermayer
31  */
32
33 #include <stdio.h>
34 #include <stdlib.h>
35 #include <inttypes.h>
36 #include <assert.h>
37
38 #include "config.h"
39 #include "rgb2rgb.h"
40 #include "swscale.h"
41 #include "swscale_internal.h"
42 #include "img_format.h" //FIXME try to reduce dependency of such stuff
43
44 #ifdef HAVE_MLIB
45 #include "yuv2rgb_mlib.c"
46 #endif
47
48 #define DITHER1XBPP // only for mmx
49
50 const uint8_t  __attribute__((aligned(8))) dither_2x2_4[2][8]={
51 {  1,   3,   1,   3,   1,   3,   1,   3, },
52 {  2,   0,   2,   0,   2,   0,   2,   0, },
53 };
54
55 const uint8_t  __attribute__((aligned(8))) dither_2x2_8[2][8]={
56 {  6,   2,   6,   2,   6,   2,   6,   2, },
57 {  0,   4,   0,   4,   0,   4,   0,   4, },
58 };
59
60 const uint8_t  __attribute__((aligned(8))) dither_8x8_32[8][8]={
61 { 17,   9,  23,  15,  16,   8,  22,  14, },
62 {  5,  29,   3,  27,   4,  28,   2,  26, },
63 { 21,  13,  19,  11,  20,  12,  18,  10, },
64 {  0,  24,   6,  30,   1,  25,   7,  31, },
65 { 16,   8,  22,  14,  17,   9,  23,  15, },
66 {  4,  28,   2,  26,   5,  29,   3,  27, },
67 { 20,  12,  18,  10,  21,  13,  19,  11, },
68 {  1,  25,   7,  31,   0,  24,   6,  30, },
69 };
70
71 #if 0
72 const uint8_t  __attribute__((aligned(8))) dither_8x8_64[8][8]={
73 {  0,  48,  12,  60,   3,  51,  15,  63, },
74 { 32,  16,  44,  28,  35,  19,  47,  31, },
75 {  8,  56,   4,  52,  11,  59,   7,  55, },
76 { 40,  24,  36,  20,  43,  27,  39,  23, },
77 {  2,  50,  14,  62,   1,  49,  13,  61, },
78 { 34,  18,  46,  30,  33,  17,  45,  29, },
79 { 10,  58,   6,  54,   9,  57,   5,  53, },
80 { 42,  26,  38,  22,  41,  25,  37,  21, },
81 };
82 #endif
83
84 const uint8_t  __attribute__((aligned(8))) dither_8x8_73[8][8]={
85 {  0,  55,  14,  68,   3,  58,  17,  72, },
86 { 37,  18,  50,  32,  40,  22,  54,  35, },
87 {  9,  64,   5,  59,  13,  67,   8,  63, },
88 { 46,  27,  41,  23,  49,  31,  44,  26, },
89 {  2,  57,  16,  71,   1,  56,  15,  70, },
90 { 39,  21,  52,  34,  38,  19,  51,  33, },
91 { 11,  66,   7,  62,  10,  65,   6,  60, },
92 { 48,  30,  43,  25,  47,  29,  42,  24, },
93 };
94
95 #if 0
96 const uint8_t  __attribute__((aligned(8))) dither_8x8_128[8][8]={
97 { 68,  36,  92,  60,  66,  34,  90,  58, },
98 { 20, 116,  12, 108,  18, 114,  10, 106, },
99 { 84,  52,  76,  44,  82,  50,  74,  42, },
100 {  0,  96,  24, 120,   6, 102,  30, 126, },
101 { 64,  32,  88,  56,  70,  38,  94,  62, },
102 { 16, 112,   8, 104,  22, 118,  14, 110, },
103 { 80,  48,  72,  40,  86,  54,  78,  46, },
104 {  4, 100,  28, 124,   2,  98,  26, 122, },
105 };
106 #endif
107
108 #if 1
109 const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
110 {117,  62, 158, 103, 113,  58, 155, 100, },
111 { 34, 199,  21, 186,  31, 196,  17, 182, },
112 {144,  89, 131,  76, 141,  86, 127,  72, },
113 {  0, 165,  41, 206,  10, 175,  52, 217, },
114 {110,  55, 151,  96, 120,  65, 162, 107, },
115 { 28, 193,  14, 179,  38, 203,  24, 189, },
116 {138,  83, 124,  69, 148,  93, 134,  79, },
117 {  7, 172,  48, 213,   3, 168,  45, 210, },
118 };
119 #elif 1
120 // tries to correct a gamma of 1.5
121 const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
122 {  0, 143,  18, 200,   2, 156,  25, 215, },
123 { 78,  28, 125,  64,  89,  36, 138,  74, },
124 { 10, 180,   3, 161,  16, 195,   8, 175, },
125 {109,  51,  93,  38, 121,  60, 105,  47, },
126 {  1, 152,  23, 210,   0, 147,  20, 205, },
127 { 85,  33, 134,  71,  81,  30, 130,  67, },
128 { 14, 190,   6, 171,  12, 185,   5, 166, },
129 {117,  57, 101,  44, 113,  54,  97,  41, },
130 };
131 #elif 1
132 // tries to correct a gamma of 2.0
133 const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
134 {  0, 124,   8, 193,   0, 140,  12, 213, },
135 { 55,  14, 104,  42,  66,  19, 119,  52, },
136 {  3, 168,   1, 145,   6, 187,   3, 162, },
137 { 86,  31,  70,  21,  99,  39,  82,  28, },
138 {  0, 134,  11, 206,   0, 129,   9, 200, },
139 { 62,  17, 114,  48,  58,  16, 109,  45, },
140 {  5, 181,   2, 157,   4, 175,   1, 151, },
141 { 95,  36,  78,  26,  90,  34,  74,  24, },
142 };
143 #else
144 // tries to correct a gamma of 2.5
145 const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
146 {  0, 107,   3, 187,   0, 125,   6, 212, },
147 { 39,   7,  86,  28,  49,  11, 102,  36, },
148 {  1, 158,   0, 131,   3, 180,   1, 151, },
149 { 68,  19,  52,  12,  81,  25,  64,  17, },
150 {  0, 119,   5, 203,   0, 113,   4, 195, },
151 { 45,   9,  96,  33,  42,   8,  91,  30, },
152 {  2, 172,   1, 144,   2, 165,   0, 137, },
153 { 77,  23,  60,  15,  72,  21,  56,  14, },
154 };
155 #endif
156
157 #ifdef HAVE_MMX
158
159 /* hope these constant values are cache line aligned */
160 uint64_t attribute_used __attribute__((aligned(8))) mmx_00ffw = 0x00ff00ff00ff00ffULL;
161 uint64_t attribute_used __attribute__((aligned(8))) mmx_redmask = 0xf8f8f8f8f8f8f8f8ULL;
162 uint64_t attribute_used __attribute__((aligned(8))) mmx_grnmask = 0xfcfcfcfcfcfcfcfcULL;
163
164 uint64_t attribute_used __attribute__((aligned(8))) M24A=   0x00FF0000FF0000FFULL;
165 uint64_t attribute_used __attribute__((aligned(8))) M24B=   0xFF0000FF0000FF00ULL;
166 uint64_t attribute_used __attribute__((aligned(8))) M24C=   0x0000FF0000FF0000ULL;
167
168 // the volatile is required because gcc otherwise optimizes some writes away not knowing that these
169 // are read in the asm block
170 volatile uint64_t attribute_used __attribute__((aligned(8))) b5Dither;
171 volatile uint64_t attribute_used __attribute__((aligned(8))) g5Dither;
172 volatile uint64_t attribute_used __attribute__((aligned(8))) g6Dither;
173 volatile uint64_t attribute_used __attribute__((aligned(8))) r5Dither;
174
175 uint64_t __attribute__((aligned(8))) dither4[2]={
176         0x0103010301030103LL,
177         0x0200020002000200LL,};
178
179 uint64_t __attribute__((aligned(8))) dither8[2]={
180         0x0602060206020602LL,
181         0x0004000400040004LL,};
182
183 #undef HAVE_MMX
184
185 //MMX versions
186 #undef RENAME
187 #define HAVE_MMX
188 #undef HAVE_MMX2
189 #undef HAVE_3DNOW
190 #define RENAME(a) a ## _MMX
191 #include "yuv2rgb_template.c"
192
193 //MMX2 versions
194 #undef RENAME
195 #define HAVE_MMX
196 #define HAVE_MMX2
197 #undef HAVE_3DNOW
198 #define RENAME(a) a ## _MMX2
199 #include "yuv2rgb_template.c"
200
201 #endif /* defined(ARCH_X86) || defined(ARCH_X86_64) */
202
203 const int32_t Inverse_Table_6_9[8][4] = {
204     {117504, 138453, 13954, 34903}, /* no sequence_display_extension */
205     {117504, 138453, 13954, 34903}, /* ITU-R Rec. 709 (1990) */
206     {104597, 132201, 25675, 53279}, /* unspecified */
207     {104597, 132201, 25675, 53279}, /* reserved */
208     {104448, 132798, 24759, 53109}, /* FCC */
209     {104597, 132201, 25675, 53279}, /* ITU-R Rec. 624-4 System B, G */
210     {104597, 132201, 25675, 53279}, /* SMPTE 170M */
211     {117579, 136230, 16907, 35559}  /* SMPTE 240M (1987) */
212 };
213
214 #define RGB(i)                                  \
215         U = pu[i];                              \
216         V = pv[i];                              \
217         r = c->table_rV[V];                     \
218         g = c->table_gU[U] + c->table_gV[V];            \
219         b = c->table_bU[U];
220
221 #define DST1(i)                                 \
222         Y = py_1[2*i];                          \
223         dst_1[2*i] = r[Y] + g[Y] + b[Y];        \
224         Y = py_1[2*i+1];                        \
225         dst_1[2*i+1] = r[Y] + g[Y] + b[Y];
226
227 #define DST2(i)                                 \
228         Y = py_2[2*i];                          \
229         dst_2[2*i] = r[Y] + g[Y] + b[Y];        \
230         Y = py_2[2*i+1];                        \
231         dst_2[2*i+1] = r[Y] + g[Y] + b[Y];
232
233 #define DST1RGB(i)                                                      \
234         Y = py_1[2*i];                                                  \
235         dst_1[6*i] = r[Y]; dst_1[6*i+1] = g[Y]; dst_1[6*i+2] = b[Y];    \
236         Y = py_1[2*i+1];                                                \
237         dst_1[6*i+3] = r[Y]; dst_1[6*i+4] = g[Y]; dst_1[6*i+5] = b[Y];
238
239 #define DST2RGB(i)                                                      \
240         Y = py_2[2*i];                                                  \
241         dst_2[6*i] = r[Y]; dst_2[6*i+1] = g[Y]; dst_2[6*i+2] = b[Y];    \
242         Y = py_2[2*i+1];                                                \
243         dst_2[6*i+3] = r[Y]; dst_2[6*i+4] = g[Y]; dst_2[6*i+5] = b[Y];
244
245 #define DST1BGR(i)                                                      \
246         Y = py_1[2*i];                                                  \
247         dst_1[6*i] = b[Y]; dst_1[6*i+1] = g[Y]; dst_1[6*i+2] = r[Y];    \
248         Y = py_1[2*i+1];                                                \
249         dst_1[6*i+3] = b[Y]; dst_1[6*i+4] = g[Y]; dst_1[6*i+5] = r[Y];
250
251 #define DST2BGR(i)                                                      \
252         Y = py_2[2*i];                                                  \
253         dst_2[6*i] = b[Y]; dst_2[6*i+1] = g[Y]; dst_2[6*i+2] = r[Y];    \
254         Y = py_2[2*i+1];                                                \
255         dst_2[6*i+3] = b[Y]; dst_2[6*i+4] = g[Y]; dst_2[6*i+5] = r[Y];
256
257 #define PROLOG(func_name, dst_type) \
258 static int func_name(SwsContext *c, uint8_t* src[], int srcStride[], int srcSliceY, \
259              int srcSliceH, uint8_t* dst[], int dstStride[]){\
260     int y;\
261 \
262     if(c->srcFormat == IMGFMT_422P){\
263         srcStride[1] *= 2;\
264         srcStride[2] *= 2;\
265     }\
266     for(y=0; y<srcSliceH; y+=2){\
267         dst_type *dst_1= (dst_type*)(dst[0] + (y+srcSliceY  )*dstStride[0]);\
268         dst_type *dst_2= (dst_type*)(dst[0] + (y+srcSliceY+1)*dstStride[0]);\
269         dst_type *r, *g, *b;\
270         uint8_t *py_1= src[0] + y*srcStride[0];\
271         uint8_t *py_2= py_1 + srcStride[0];\
272         uint8_t *pu= src[1] + (y>>1)*srcStride[1];\
273         uint8_t *pv= src[2] + (y>>1)*srcStride[2];\
274         unsigned int h_size= c->dstW>>3;\
275         while (h_size--) {\
276             int U, V, Y;\
277
278 #define EPILOG(dst_delta)\
279             pu += 4;\
280             pv += 4;\
281             py_1 += 8;\
282             py_2 += 8;\
283             dst_1 += dst_delta;\
284             dst_2 += dst_delta;\
285         }\
286     }\
287     return srcSliceH;\
288 }
289
290 PROLOG(yuv2rgb_c_32, uint32_t)
291         RGB(0);
292         DST1(0);
293         DST2(0);
294
295         RGB(1);
296         DST2(1);
297         DST1(1);
298
299         RGB(2);
300         DST1(2);
301         DST2(2);
302
303         RGB(3);
304         DST2(3);
305         DST1(3);
306 EPILOG(8)
307
308 PROLOG(yuv2rgb_c_24_rgb, uint8_t)
309         RGB(0);
310         DST1RGB(0);
311         DST2RGB(0);
312
313         RGB(1);
314         DST2RGB(1);
315         DST1RGB(1);
316
317         RGB(2);
318         DST1RGB(2);
319         DST2RGB(2);
320
321         RGB(3);
322         DST2RGB(3);
323         DST1RGB(3);
324 EPILOG(24)
325
326 // only trivial mods from yuv2rgb_c_24_rgb
327 PROLOG(yuv2rgb_c_24_bgr, uint8_t)
328         RGB(0);
329         DST1BGR(0);
330         DST2BGR(0);
331
332         RGB(1);
333         DST2BGR(1);
334         DST1BGR(1);
335
336         RGB(2);
337         DST1BGR(2);
338         DST2BGR(2);
339
340         RGB(3);
341         DST2BGR(3);
342         DST1BGR(3);
343 EPILOG(24)
344
345 // This is exactly the same code as yuv2rgb_c_32 except for the types of
346 // r, g, b, dst_1, dst_2
347 PROLOG(yuv2rgb_c_16, uint16_t)
348         RGB(0);
349         DST1(0);
350         DST2(0);
351
352         RGB(1);
353         DST2(1);
354         DST1(1);
355
356         RGB(2);
357         DST1(2);
358         DST2(2);
359
360         RGB(3);
361         DST2(3);
362         DST1(3);
363 EPILOG(8)
364
365 // This is exactly the same code as yuv2rgb_c_32 except for the types of
366 // r, g, b, dst_1, dst_2
367 PROLOG(yuv2rgb_c_8, uint8_t)
368         RGB(0);
369         DST1(0);
370         DST2(0);
371
372         RGB(1);
373         DST2(1);
374         DST1(1);
375
376         RGB(2);
377         DST1(2);
378         DST2(2);
379
380         RGB(3);
381         DST2(3);
382         DST1(3);
383 EPILOG(8)
384
385 // r, g, b, dst_1, dst_2
386 PROLOG(yuv2rgb_c_8_ordered_dither, uint8_t)
387         const uint8_t *d32= dither_8x8_32[y&7];
388         const uint8_t *d64= dither_8x8_73[y&7];
389 #define DST1bpp8(i,o)                                   \
390         Y = py_1[2*i];                          \
391         dst_1[2*i] = r[Y+d32[0+o]] + g[Y+d32[0+o]] + b[Y+d64[0+o]];     \
392         Y = py_1[2*i+1];                        \
393         dst_1[2*i+1] = r[Y+d32[1+o]] + g[Y+d32[1+o]] + b[Y+d64[1+o]];
394
395 #define DST2bpp8(i,o)                                   \
396         Y = py_2[2*i];                          \
397         dst_2[2*i] =  r[Y+d32[8+o]] + g[Y+d32[8+o]] + b[Y+d64[8+o]];    \
398         Y = py_2[2*i+1];                        \
399         dst_2[2*i+1] =  r[Y+d32[9+o]] + g[Y+d32[9+o]] + b[Y+d64[9+o]];
400
401
402         RGB(0);
403         DST1bpp8(0,0);
404         DST2bpp8(0,0);
405
406         RGB(1);
407         DST2bpp8(1,2);
408         DST1bpp8(1,2);
409
410         RGB(2);
411         DST1bpp8(2,4);
412         DST2bpp8(2,4);
413
414         RGB(3);
415         DST2bpp8(3,6);
416         DST1bpp8(3,6);
417 EPILOG(8)
418
419
420 // This is exactly the same code as yuv2rgb_c_32 except for the types of
421 // r, g, b, dst_1, dst_2
422 PROLOG(yuv2rgb_c_4, uint8_t)
423         int acc;
424 #define DST1_4(i)                                       \
425         Y = py_1[2*i];                          \
426         acc = r[Y] + g[Y] + b[Y];       \
427         Y = py_1[2*i+1];                        \
428         acc |= (r[Y] + g[Y] + b[Y])<<4;\
429         dst_1[i] = acc; 
430
431 #define DST2_4(i)                                       \
432         Y = py_2[2*i];                          \
433         acc = r[Y] + g[Y] + b[Y];       \
434         Y = py_2[2*i+1];                        \
435         acc |= (r[Y] + g[Y] + b[Y])<<4;\
436         dst_2[i] = acc; 
437         
438         RGB(0);
439         DST1_4(0);
440         DST2_4(0);
441
442         RGB(1);
443         DST2_4(1);
444         DST1_4(1);
445
446         RGB(2);
447         DST1_4(2);
448         DST2_4(2);
449
450         RGB(3);
451         DST2_4(3);
452         DST1_4(3);
453 EPILOG(4)
454
455 PROLOG(yuv2rgb_c_4_ordered_dither, uint8_t)
456         const uint8_t *d64= dither_8x8_73[y&7];
457         const uint8_t *d128=dither_8x8_220[y&7];
458         int acc;
459
460 #define DST1bpp4(i,o)                                   \
461         Y = py_1[2*i];                          \
462         acc = r[Y+d128[0+o]] + g[Y+d64[0+o]] + b[Y+d128[0+o]];  \
463         Y = py_1[2*i+1];                        \
464         acc |= (r[Y+d128[1+o]] + g[Y+d64[1+o]] + b[Y+d128[1+o]])<<4;\
465         dst_1[i]= acc;
466
467 #define DST2bpp4(i,o)                                   \
468         Y = py_2[2*i];                          \
469         acc =  r[Y+d128[8+o]] + g[Y+d64[8+o]] + b[Y+d128[8+o]]; \
470         Y = py_2[2*i+1];                        \
471         acc |=  (r[Y+d128[9+o]] + g[Y+d64[9+o]] + b[Y+d128[9+o]])<<4;\
472         dst_2[i]= acc;
473
474
475         RGB(0);
476         DST1bpp4(0,0);
477         DST2bpp4(0,0);
478
479         RGB(1);
480         DST2bpp4(1,2);
481         DST1bpp4(1,2);
482
483         RGB(2);
484         DST1bpp4(2,4);
485         DST2bpp4(2,4);
486
487         RGB(3);
488         DST2bpp4(3,6);
489         DST1bpp4(3,6);
490 EPILOG(4)
491
492 // This is exactly the same code as yuv2rgb_c_32 except for the types of
493 // r, g, b, dst_1, dst_2
494 PROLOG(yuv2rgb_c_4b, uint8_t)
495         RGB(0);
496         DST1(0);
497         DST2(0);
498
499         RGB(1);
500         DST2(1);
501         DST1(1);
502
503         RGB(2);
504         DST1(2);
505         DST2(2);
506
507         RGB(3);
508         DST2(3);
509         DST1(3);
510 EPILOG(8)
511
512 PROLOG(yuv2rgb_c_4b_ordered_dither, uint8_t)
513         const uint8_t *d64= dither_8x8_73[y&7];
514         const uint8_t *d128=dither_8x8_220[y&7];
515
516 #define DST1bpp4b(i,o)                                  \
517         Y = py_1[2*i];                          \
518         dst_1[2*i] = r[Y+d128[0+o]] + g[Y+d64[0+o]] + b[Y+d128[0+o]];   \
519         Y = py_1[2*i+1];                        \
520         dst_1[2*i+1] = r[Y+d128[1+o]] + g[Y+d64[1+o]] + b[Y+d128[1+o]];
521
522 #define DST2bpp4b(i,o)                                  \
523         Y = py_2[2*i];                          \
524         dst_2[2*i] =  r[Y+d128[8+o]] + g[Y+d64[8+o]] + b[Y+d128[8+o]];  \
525         Y = py_2[2*i+1];                        \
526         dst_2[2*i+1] =  r[Y+d128[9+o]] + g[Y+d64[9+o]] + b[Y+d128[9+o]];
527
528
529         RGB(0);
530         DST1bpp4b(0,0);
531         DST2bpp4b(0,0);
532
533         RGB(1);
534         DST2bpp4b(1,2);
535         DST1bpp4b(1,2);
536
537         RGB(2);
538         DST1bpp4b(2,4);
539         DST2bpp4b(2,4);
540
541         RGB(3);
542         DST2bpp4b(3,6);
543         DST1bpp4b(3,6);
544 EPILOG(8)
545
546 PROLOG(yuv2rgb_c_1_ordered_dither, uint8_t)
547         const uint8_t *d128=dither_8x8_220[y&7];
548         char out_1=0, out_2=0;
549         g= c->table_gU[128] + c->table_gV[128];
550
551 #define DST1bpp1(i,o)                                   \
552         Y = py_1[2*i];                          \
553         out_1+= out_1 + g[Y+d128[0+o]]; \
554         Y = py_1[2*i+1];                        \
555         out_1+= out_1 + g[Y+d128[1+o]];
556
557 #define DST2bpp1(i,o)                                   \
558         Y = py_2[2*i];                          \
559         out_2+= out_2 + g[Y+d128[8+o]]; \
560         Y = py_2[2*i+1];                        \
561         out_2+= out_2 + g[Y+d128[9+o]];
562
563         DST1bpp1(0,0);
564         DST2bpp1(0,0);
565
566         DST2bpp1(1,2);
567         DST1bpp1(1,2);
568
569         DST1bpp1(2,4);
570         DST2bpp1(2,4);
571
572         DST2bpp1(3,6);
573         DST1bpp1(3,6);
574         
575         dst_1[0]= out_1;
576         dst_2[0]= out_2;
577 EPILOG(1)
578
579 SwsFunc yuv2rgb_get_func_ptr (SwsContext *c)
580 {
581 #if defined(HAVE_MMX2) || defined(HAVE_MMX)
582     if(c->flags & SWS_CPU_CAPS_MMX2){
583         switch(c->dstFormat){
584         case IMGFMT_BGR32: return yuv420_rgb32_MMX2;
585         case IMGFMT_BGR24: return yuv420_rgb24_MMX2;
586         case IMGFMT_BGR16: return yuv420_rgb16_MMX2;
587         case IMGFMT_BGR15: return yuv420_rgb15_MMX2;
588         }
589     }
590     if(c->flags & SWS_CPU_CAPS_MMX){
591         switch(c->dstFormat){
592         case IMGFMT_BGR32: return yuv420_rgb32_MMX;
593         case IMGFMT_BGR24: return yuv420_rgb24_MMX;
594         case IMGFMT_BGR16: return yuv420_rgb16_MMX;
595         case IMGFMT_BGR15: return yuv420_rgb15_MMX;
596         }
597     }
598 #endif
599 #ifdef HAVE_MLIB
600     {
601         SwsFunc t= yuv2rgb_init_mlib(c);
602         if(t) return t;
603     }
604 #endif
605 #ifdef HAVE_ALTIVEC
606     if (c->flags & SWS_CPU_CAPS_ALTIVEC)
607     {
608         SwsFunc t = yuv2rgb_init_altivec(c);
609         if(t) return t;
610     }
611 #endif
612
613     MSG_WARN("No accelerated colorspace conversion found\n");
614
615     switch(c->dstFormat){
616     case IMGFMT_RGB32:
617     case IMGFMT_BGR32: return yuv2rgb_c_32;
618     case IMGFMT_RGB24: return yuv2rgb_c_24_rgb;
619     case IMGFMT_BGR24: return yuv2rgb_c_24_bgr;
620     case IMGFMT_RGB16:
621     case IMGFMT_BGR16:
622     case IMGFMT_RGB15:
623     case IMGFMT_BGR15: return yuv2rgb_c_16;
624     case IMGFMT_RGB8:
625     case IMGFMT_BGR8:  return yuv2rgb_c_8_ordered_dither;
626     case IMGFMT_RGB4:
627     case IMGFMT_BGR4:  return yuv2rgb_c_4_ordered_dither;
628     case IMGFMT_RG4B:
629     case IMGFMT_BG4B:  return yuv2rgb_c_4b_ordered_dither;
630     case IMGFMT_RGB1:
631     case IMGFMT_BGR1:  return yuv2rgb_c_1_ordered_dither;
632     default:
633         assert(0);
634     }
635     return NULL;
636 }
637
638 static int div_round (int dividend, int divisor)
639 {
640     if (dividend > 0)
641         return (dividend + (divisor>>1)) / divisor;
642     else
643         return -((-dividend + (divisor>>1)) / divisor);
644 }
645
646 int yuv2rgb_c_init_tables (SwsContext *c, const int inv_table[4], int fullRange, int brightness, int contrast, int saturation)
647 {  
648     const int isRgb = IMGFMT_IS_BGR(c->dstFormat);
649     const int bpp = isRgb?IMGFMT_RGB_DEPTH(c->dstFormat):IMGFMT_BGR_DEPTH(c->dstFormat);
650     int i;
651     uint8_t table_Y[1024];
652     uint32_t *table_32 = 0;
653     uint16_t *table_16 = 0;
654     uint8_t *table_8 = 0;
655     uint8_t *table_332 = 0;
656     uint8_t *table_121 = 0;
657     uint8_t *table_1 = 0;
658     int entry_size = 0;
659     void *table_r = 0, *table_g = 0, *table_b = 0;
660     void *table_start;
661
662     int64_t crv =  inv_table[0];
663     int64_t cbu =  inv_table[1];
664     int64_t cgu = -inv_table[2];
665     int64_t cgv = -inv_table[3];
666     int64_t cy  = 1<<16;
667     int64_t oy  = 0;
668
669 //printf("%lld %lld %lld %lld %lld\n", cy, crv, cbu, cgu, cgv);
670     if(!fullRange){
671         cy= (cy*255) / 219;
672         oy= 16<<16;
673     }
674         
675     cy = (cy *contrast             )>>16;
676     crv= (crv*contrast * saturation)>>32;
677     cbu= (cbu*contrast * saturation)>>32;
678     cgu= (cgu*contrast * saturation)>>32;
679     cgv= (cgv*contrast * saturation)>>32;
680 //printf("%lld %lld %lld %lld %lld\n", cy, crv, cbu, cgu, cgv);
681     oy -= 256*brightness;
682
683     for (i = 0; i < 1024; i++) {
684         int j;
685
686         j= (cy*(((i - 384)<<16) - oy) + (1<<31))>>32;
687         j = (j < 0) ? 0 : ((j > 255) ? 255 : j);
688         table_Y[i] = j;
689     }
690
691     switch (bpp) {
692     case 32:
693         table_start= table_32 = av_malloc ((197 + 2*682 + 256 + 132) * sizeof (uint32_t));
694
695         entry_size = sizeof (uint32_t);
696         table_r = table_32 + 197;
697         table_b = table_32 + 197 + 685;
698         table_g = table_32 + 197 + 2*682;
699
700         for (i = -197; i < 256+197; i++)
701             ((uint32_t *)table_r)[i] = table_Y[i+384] << (isRgb ? 16 : 0);
702         for (i = -132; i < 256+132; i++)
703             ((uint32_t *)table_g)[i] = table_Y[i+384] << 8;
704         for (i = -232; i < 256+232; i++)
705             ((uint32_t *)table_b)[i] = table_Y[i+384] << (isRgb ? 0 : 16);
706         break;
707
708     case 24:
709         table_start= table_8 = av_malloc ((256 + 2*232) * sizeof (uint8_t));
710
711         entry_size = sizeof (uint8_t);
712         table_r = table_g = table_b = table_8 + 232;
713
714         for (i = -232; i < 256+232; i++)
715             ((uint8_t * )table_b)[i] = table_Y[i+384];
716         break;
717
718     case 15:
719     case 16:
720         table_start= table_16 = av_malloc ((197 + 2*682 + 256 + 132) * sizeof (uint16_t));
721
722         entry_size = sizeof (uint16_t);
723         table_r = table_16 + 197;
724         table_b = table_16 + 197 + 685;
725         table_g = table_16 + 197 + 2*682;
726
727         for (i = -197; i < 256+197; i++) {
728             int j = table_Y[i+384] >> 3;
729
730             if (isRgb)
731                 j <<= ((bpp==16) ? 11 : 10);
732
733             ((uint16_t *)table_r)[i] = j;
734         }
735         for (i = -132; i < 256+132; i++) {
736             int j = table_Y[i+384] >> ((bpp==16) ? 2 : 3);
737
738             ((uint16_t *)table_g)[i] = j << 5;
739         }
740         for (i = -232; i < 256+232; i++) {
741             int j = table_Y[i+384] >> 3;
742
743             if (!isRgb)
744                 j <<= ((bpp==16) ? 11 : 10);
745
746             ((uint16_t *)table_b)[i] = j;
747         }
748         break;
749
750     case 8:
751         table_start= table_332 = av_malloc ((197 + 2*682 + 256 + 132) * sizeof (uint8_t));
752
753         entry_size = sizeof (uint8_t);
754         table_r = table_332 + 197;
755         table_b = table_332 + 197 + 685;
756         table_g = table_332 + 197 + 2*682;
757
758         for (i = -197; i < 256+197; i++) {
759             int j = (table_Y[i+384 - 16] + 18)/36;
760
761             if (isRgb)
762                 j <<= 5;
763
764             ((uint8_t *)table_r)[i] = j;
765         }
766         for (i = -132; i < 256+132; i++) {
767             int j = (table_Y[i+384 - 16] + 18)/36;
768
769             if (!isRgb)
770                 j <<= 1;
771
772             ((uint8_t *)table_g)[i] = j << 2;
773         }
774         for (i = -232; i < 256+232; i++) {
775             int j = (table_Y[i+384 - 37] + 43)/85;
776
777             if (!isRgb)
778                 j <<= 6;
779
780             ((uint8_t *)table_b)[i] = j;
781         }
782         break;
783     case 4:
784     case 4|128:
785         table_start= table_121 = av_malloc ((197 + 2*682 + 256 + 132) * sizeof (uint8_t));
786
787         entry_size = sizeof (uint8_t);
788         table_r = table_121 + 197;
789         table_b = table_121 + 197 + 685;
790         table_g = table_121 + 197 + 2*682;
791
792         for (i = -197; i < 256+197; i++) {
793             int j = table_Y[i+384 - 110] >> 7;
794
795             if (isRgb)
796                 j <<= 3;
797
798             ((uint8_t *)table_r)[i] = j;
799         }
800         for (i = -132; i < 256+132; i++) {
801             int j = (table_Y[i+384 - 37]+ 43)/85;
802
803             ((uint8_t *)table_g)[i] = j << 1;
804         }
805         for (i = -232; i < 256+232; i++) {
806             int j =table_Y[i+384 - 110] >> 7;
807
808             if (!isRgb)
809                 j <<= 3;
810
811             ((uint8_t *)table_b)[i] = j;
812         }
813         break;
814
815     case 1:
816         table_start= table_1 = av_malloc (256*2 * sizeof (uint8_t));
817
818         entry_size = sizeof (uint8_t);
819         table_g = table_1;
820         table_r = table_b = NULL;
821
822         for (i = 0; i < 256+256; i++) {
823             int j = table_Y[i + 384 - 110]>>7;
824
825             ((uint8_t *)table_g)[i] = j;
826         }
827         break;
828
829     default:
830         table_start= NULL;
831         MSG_ERR("%ibpp not supported by yuv2rgb\n", bpp);
832         //free mem?
833         return -1;
834     }
835
836     for (i = 0; i < 256; i++) {
837         c->table_rV[i] = table_r + entry_size * div_round (crv * (i-128), 76309);
838         c->table_gU[i] = table_g + entry_size * div_round (cgu * (i-128), 76309);
839         c->table_gV[i] = entry_size * div_round (cgv * (i-128), 76309);
840         c->table_bU[i] = table_b + entry_size * div_round (cbu * (i-128), 76309);
841     }
842
843     av_free(c->yuvTable);
844     c->yuvTable= table_start;
845     return 0;
846 }