Fix rgb15/16 vs. bgr part1.
[ffmpeg.git] / libswscale / yuv2rgb.c
1 /*
2  * yuv2rgb.c, Software YUV to RGB converter
3  *
4  *  Copyright (C) 1999, Aaron Holtzman <aholtzma@ess.engr.uvic.ca>
5  *
6  *  Functions broken out from display_x11.c and several new modes
7  *  added by HÃ¥kan Hjort <d95hjort@dtek.chalmers.se>
8  *
9  *  15 & 16 bpp support by Franck Sicard <Franck.Sicard@solsoft.fr>
10  *
11  *  MMX/MMX2 template stuff (needed for fast movntq support),
12  *  1,4,8bpp support and context / deglobalize stuff
13  *  by Michael Niedermayer (michaelni@gmx.at)
14  *
15  *  This file is part of mpeg2dec, a free MPEG-2 video decoder
16  *
17  *  mpeg2dec is free software; you can redistribute it and/or modify
18  *  it under the terms of the GNU General Public License as published by
19  *  the Free Software Foundation; either version 2, or (at your option)
20  *  any later version.
21  *
22  *  mpeg2dec is distributed in the hope that it will be useful,
23  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
24  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
25  *  GNU General Public License for more details.
26  *
27  *  You should have received a copy of the GNU General Public License
28  *  along with mpeg2dec; if not, write to the Free Software
29  *  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
30  */
31
32 #include <stdio.h>
33 #include <stdlib.h>
34 #include <inttypes.h>
35 #include <assert.h>
36
37 #include "config.h"
38 #include "rgb2rgb.h"
39 #include "swscale.h"
40 #include "swscale_internal.h"
41
42 #define DITHER1XBPP // only for MMX
43
44 const uint8_t  __attribute__((aligned(8))) dither_2x2_4[2][8]={
45 {  1,   3,   1,   3,   1,   3,   1,   3, },
46 {  2,   0,   2,   0,   2,   0,   2,   0, },
47 };
48
49 const uint8_t  __attribute__((aligned(8))) dither_2x2_8[2][8]={
50 {  6,   2,   6,   2,   6,   2,   6,   2, },
51 {  0,   4,   0,   4,   0,   4,   0,   4, },
52 };
53
54 const uint8_t  __attribute__((aligned(8))) dither_8x8_32[8][8]={
55 { 17,   9,  23,  15,  16,   8,  22,  14, },
56 {  5,  29,   3,  27,   4,  28,   2,  26, },
57 { 21,  13,  19,  11,  20,  12,  18,  10, },
58 {  0,  24,   6,  30,   1,  25,   7,  31, },
59 { 16,   8,  22,  14,  17,   9,  23,  15, },
60 {  4,  28,   2,  26,   5,  29,   3,  27, },
61 { 20,  12,  18,  10,  21,  13,  19,  11, },
62 {  1,  25,   7,  31,   0,  24,   6,  30, },
63 };
64
65 #if 0
66 const uint8_t  __attribute__((aligned(8))) dither_8x8_64[8][8]={
67 {  0,  48,  12,  60,   3,  51,  15,  63, },
68 { 32,  16,  44,  28,  35,  19,  47,  31, },
69 {  8,  56,   4,  52,  11,  59,   7,  55, },
70 { 40,  24,  36,  20,  43,  27,  39,  23, },
71 {  2,  50,  14,  62,   1,  49,  13,  61, },
72 { 34,  18,  46,  30,  33,  17,  45,  29, },
73 { 10,  58,   6,  54,   9,  57,   5,  53, },
74 { 42,  26,  38,  22,  41,  25,  37,  21, },
75 };
76 #endif
77
78 const uint8_t  __attribute__((aligned(8))) dither_8x8_73[8][8]={
79 {  0,  55,  14,  68,   3,  58,  17,  72, },
80 { 37,  18,  50,  32,  40,  22,  54,  35, },
81 {  9,  64,   5,  59,  13,  67,   8,  63, },
82 { 46,  27,  41,  23,  49,  31,  44,  26, },
83 {  2,  57,  16,  71,   1,  56,  15,  70, },
84 { 39,  21,  52,  34,  38,  19,  51,  33, },
85 { 11,  66,   7,  62,  10,  65,   6,  60, },
86 { 48,  30,  43,  25,  47,  29,  42,  24, },
87 };
88
89 #if 0
90 const uint8_t  __attribute__((aligned(8))) dither_8x8_128[8][8]={
91 { 68,  36,  92,  60,  66,  34,  90,  58, },
92 { 20, 116,  12, 108,  18, 114,  10, 106, },
93 { 84,  52,  76,  44,  82,  50,  74,  42, },
94 {  0,  96,  24, 120,   6, 102,  30, 126, },
95 { 64,  32,  88,  56,  70,  38,  94,  62, },
96 { 16, 112,   8, 104,  22, 118,  14, 110, },
97 { 80,  48,  72,  40,  86,  54,  78,  46, },
98 {  4, 100,  28, 124,   2,  98,  26, 122, },
99 };
100 #endif
101
102 #if 1
103 const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
104 {117,  62, 158, 103, 113,  58, 155, 100, },
105 { 34, 199,  21, 186,  31, 196,  17, 182, },
106 {144,  89, 131,  76, 141,  86, 127,  72, },
107 {  0, 165,  41, 206,  10, 175,  52, 217, },
108 {110,  55, 151,  96, 120,  65, 162, 107, },
109 { 28, 193,  14, 179,  38, 203,  24, 189, },
110 {138,  83, 124,  69, 148,  93, 134,  79, },
111 {  7, 172,  48, 213,   3, 168,  45, 210, },
112 };
113 #elif 1
114 // tries to correct a gamma of 1.5
115 const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
116 {  0, 143,  18, 200,   2, 156,  25, 215, },
117 { 78,  28, 125,  64,  89,  36, 138,  74, },
118 { 10, 180,   3, 161,  16, 195,   8, 175, },
119 {109,  51,  93,  38, 121,  60, 105,  47, },
120 {  1, 152,  23, 210,   0, 147,  20, 205, },
121 { 85,  33, 134,  71,  81,  30, 130,  67, },
122 { 14, 190,   6, 171,  12, 185,   5, 166, },
123 {117,  57, 101,  44, 113,  54,  97,  41, },
124 };
125 #elif 1
126 // tries to correct a gamma of 2.0
127 const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
128 {  0, 124,   8, 193,   0, 140,  12, 213, },
129 { 55,  14, 104,  42,  66,  19, 119,  52, },
130 {  3, 168,   1, 145,   6, 187,   3, 162, },
131 { 86,  31,  70,  21,  99,  39,  82,  28, },
132 {  0, 134,  11, 206,   0, 129,   9, 200, },
133 { 62,  17, 114,  48,  58,  16, 109,  45, },
134 {  5, 181,   2, 157,   4, 175,   1, 151, },
135 { 95,  36,  78,  26,  90,  34,  74,  24, },
136 };
137 #else
138 // tries to correct a gamma of 2.5
139 const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
140 {  0, 107,   3, 187,   0, 125,   6, 212, },
141 { 39,   7,  86,  28,  49,  11, 102,  36, },
142 {  1, 158,   0, 131,   3, 180,   1, 151, },
143 { 68,  19,  52,  12,  81,  25,  64,  17, },
144 {  0, 119,   5, 203,   0, 113,   4, 195, },
145 { 45,   9,  96,  33,  42,   8,  91,  30, },
146 {  2, 172,   1, 144,   2, 165,   0, 137, },
147 { 77,  23,  60,  15,  72,  21,  56,  14, },
148 };
149 #endif
150
151 #ifdef HAVE_MMX
152
153 /* hope these constant values are cache line aligned */
154 DECLARE_ASM_CONST(8, uint64_t, mmx_00ffw)   = 0x00ff00ff00ff00ffULL;
155 DECLARE_ASM_CONST(8, uint64_t, mmx_redmask) = 0xf8f8f8f8f8f8f8f8ULL;
156 DECLARE_ASM_CONST(8, uint64_t, mmx_grnmask) = 0xfcfcfcfcfcfcfcfcULL;
157
158 // The volatile is required because gcc otherwise optimizes some writes away
159 // not knowing that these are read in the ASM block.
160 static volatile uint64_t attribute_used __attribute__((aligned(8))) b5Dither;
161 static volatile uint64_t attribute_used __attribute__((aligned(8))) g5Dither;
162 static volatile uint64_t attribute_used __attribute__((aligned(8))) g6Dither;
163 static volatile uint64_t attribute_used __attribute__((aligned(8))) r5Dither;
164
165 #undef HAVE_MMX
166
167 //MMX versions
168 #undef RENAME
169 #define HAVE_MMX
170 #undef HAVE_MMX2
171 #undef HAVE_3DNOW
172 #define RENAME(a) a ## _MMX
173 #include "yuv2rgb_template.c"
174
175 //MMX2 versions
176 #undef RENAME
177 #define HAVE_MMX
178 #define HAVE_MMX2
179 #undef HAVE_3DNOW
180 #define RENAME(a) a ## _MMX2
181 #include "yuv2rgb_template.c"
182
183 #endif /* HAVE_MMX */
184
185 const int32_t Inverse_Table_6_9[8][4] = {
186     {117504, 138453, 13954, 34903}, /* no sequence_display_extension */
187     {117504, 138453, 13954, 34903}, /* ITU-R Rec. 709 (1990) */
188     {104597, 132201, 25675, 53279}, /* unspecified */
189     {104597, 132201, 25675, 53279}, /* reserved */
190     {104448, 132798, 24759, 53109}, /* FCC */
191     {104597, 132201, 25675, 53279}, /* ITU-R Rec. 624-4 System B, G */
192     {104597, 132201, 25675, 53279}, /* SMPTE 170M */
193     {117579, 136230, 16907, 35559}  /* SMPTE 240M (1987) */
194 };
195
196 #define RGB(i)                                      \
197     U = pu[i];                                      \
198     V = pv[i];                                      \
199     r = (void *)c->table_rV[V];                     \
200     g = (void *)(c->table_gU[U] + c->table_gV[V]);  \
201     b = (void *)c->table_bU[U];
202
203 #define DST1(i)                         \
204     Y = py_1[2*i];                      \
205     dst_1[2*i] = r[Y] + g[Y] + b[Y];    \
206     Y = py_1[2*i+1];                    \
207     dst_1[2*i+1] = r[Y] + g[Y] + b[Y];
208
209 #define DST2(i)                         \
210     Y = py_2[2*i];                      \
211     dst_2[2*i] = r[Y] + g[Y] + b[Y];    \
212     Y = py_2[2*i+1];                    \
213     dst_2[2*i+1] = r[Y] + g[Y] + b[Y];
214
215 #define DST1RGB(i)                                                \
216     Y = py_1[2*i];                                                \
217     dst_1[6*i] = r[Y]; dst_1[6*i+1] = g[Y]; dst_1[6*i+2] = b[Y];  \
218     Y = py_1[2*i+1];                                              \
219     dst_1[6*i+3] = r[Y]; dst_1[6*i+4] = g[Y]; dst_1[6*i+5] = b[Y];
220
221 #define DST2RGB(i)                                                \
222     Y = py_2[2*i];                                                \
223     dst_2[6*i] = r[Y]; dst_2[6*i+1] = g[Y]; dst_2[6*i+2] = b[Y];  \
224     Y = py_2[2*i+1];                                              \
225     dst_2[6*i+3] = r[Y]; dst_2[6*i+4] = g[Y]; dst_2[6*i+5] = b[Y];
226
227 #define DST1BGR(i)                                                \
228     Y = py_1[2*i];                                                \
229     dst_1[6*i] = b[Y]; dst_1[6*i+1] = g[Y]; dst_1[6*i+2] = r[Y];  \
230     Y = py_1[2*i+1];                                              \
231     dst_1[6*i+3] = b[Y]; dst_1[6*i+4] = g[Y]; dst_1[6*i+5] = r[Y];
232
233 #define DST2BGR(i)                                                \
234     Y = py_2[2*i];                                                \
235     dst_2[6*i] = b[Y]; dst_2[6*i+1] = g[Y]; dst_2[6*i+2] = r[Y];  \
236     Y = py_2[2*i+1];                                              \
237     dst_2[6*i+3] = b[Y]; dst_2[6*i+4] = g[Y]; dst_2[6*i+5] = r[Y];
238
239 #define PROLOG(func_name, dst_type) \
240 static int func_name(SwsContext *c, uint8_t* src[], int srcStride[], int srcSliceY, \
241                      int srcSliceH, uint8_t* dst[], int dstStride[]){\
242     int y;\
243 \
244     if (c->srcFormat == PIX_FMT_YUV422P){\
245         srcStride[1] *= 2;\
246         srcStride[2] *= 2;\
247     }\
248     for (y=0; y<srcSliceH; y+=2){\
249         dst_type *dst_1= (dst_type*)(dst[0] + (y+srcSliceY  )*dstStride[0]);\
250         dst_type *dst_2= (dst_type*)(dst[0] + (y+srcSliceY+1)*dstStride[0]);\
251         dst_type av_unused *r, *b;\
252         dst_type *g;\
253         uint8_t *py_1= src[0] + y*srcStride[0];\
254         uint8_t *py_2= py_1 + srcStride[0];\
255         uint8_t *pu= src[1] + (y>>1)*srcStride[1];\
256         uint8_t *pv= src[2] + (y>>1)*srcStride[2];\
257         unsigned int h_size= c->dstW>>3;\
258         while (h_size--) {\
259             int av_unused U, V;\
260             int Y;\
261
262 #define EPILOG1(dst_delta)\
263             pu += 4;\
264             pv += 4;\
265             py_1 += 8;\
266             py_2 += 8;\
267             dst_1 += dst_delta;\
268             dst_2 += dst_delta;\
269         }\
270         if (c->dstW & 4) {\
271             int av_unused Y, U, V;\
272
273 #define EPILOG2()\
274         }\
275     }\
276     return srcSliceH;\
277 }
278
279 #define EPILOG(dst_delta)\
280     EPILOG1(dst_delta)\
281     EPILOG2()
282
283 PROLOG(yuv2rgb_c_32, uint32_t)
284     RGB(0);
285     DST1(0);
286     DST2(0);
287
288     RGB(1);
289     DST2(1);
290     DST1(1);
291
292     RGB(2);
293     DST1(2);
294     DST2(2);
295
296     RGB(3);
297     DST2(3);
298     DST1(3);
299 EPILOG1(8)
300     RGB(0);
301     DST1(0);
302     DST2(0);
303
304     RGB(1);
305     DST2(1);
306     DST1(1);
307 EPILOG2()
308
309 PROLOG(yuv2rgb_c_24_rgb, uint8_t)
310     RGB(0);
311     DST1RGB(0);
312     DST2RGB(0);
313
314     RGB(1);
315     DST2RGB(1);
316     DST1RGB(1);
317
318     RGB(2);
319     DST1RGB(2);
320     DST2RGB(2);
321
322     RGB(3);
323     DST2RGB(3);
324     DST1RGB(3);
325 EPILOG1(24)
326     RGB(0);
327     DST1RGB(0);
328     DST2RGB(0);
329
330     RGB(1);
331     DST2RGB(1);
332     DST1RGB(1);
333 EPILOG2()
334
335 // only trivial mods from yuv2rgb_c_24_rgb
336 PROLOG(yuv2rgb_c_24_bgr, uint8_t)
337     RGB(0);
338     DST1BGR(0);
339     DST2BGR(0);
340
341     RGB(1);
342     DST2BGR(1);
343     DST1BGR(1);
344
345     RGB(2);
346     DST1BGR(2);
347     DST2BGR(2);
348
349     RGB(3);
350     DST2BGR(3);
351     DST1BGR(3);
352 EPILOG1(24)
353     RGB(0);
354     DST1BGR(0);
355     DST2BGR(0);
356
357     RGB(1);
358     DST2BGR(1);
359     DST1BGR(1);
360 EPILOG2()
361
362 // This is exactly the same code as yuv2rgb_c_32 except for the types of
363 // r, g, b, dst_1, dst_2
364 PROLOG(yuv2rgb_c_16, uint16_t)
365     RGB(0);
366     DST1(0);
367     DST2(0);
368
369     RGB(1);
370     DST2(1);
371     DST1(1);
372
373     RGB(2);
374     DST1(2);
375     DST2(2);
376
377     RGB(3);
378     DST2(3);
379     DST1(3);
380 EPILOG(8)
381
382 // This is exactly the same code as yuv2rgb_c_32 except for the types of
383 // r, g, b, dst_1, dst_2
384 PROLOG(yuv2rgb_c_8, uint8_t)
385     RGB(0);
386     DST1(0);
387     DST2(0);
388
389     RGB(1);
390     DST2(1);
391     DST1(1);
392
393     RGB(2);
394     DST1(2);
395     DST2(2);
396
397     RGB(3);
398     DST2(3);
399     DST1(3);
400 EPILOG(8)
401
402 // r, g, b, dst_1, dst_2
403 PROLOG(yuv2rgb_c_8_ordered_dither, uint8_t)
404     const uint8_t *d32= dither_8x8_32[y&7];
405     const uint8_t *d64= dither_8x8_73[y&7];
406 #define DST1bpp8(i,o)                                               \
407     Y = py_1[2*i];                                                  \
408     dst_1[2*i]   = r[Y+d32[0+o]] + g[Y+d32[0+o]] + b[Y+d64[0+o]];   \
409     Y = py_1[2*i+1];                                                \
410     dst_1[2*i+1] = r[Y+d32[1+o]] + g[Y+d32[1+o]] + b[Y+d64[1+o]];
411
412 #define DST2bpp8(i,o)                                               \
413     Y = py_2[2*i];                                                  \
414     dst_2[2*i]   =  r[Y+d32[8+o]] + g[Y+d32[8+o]] + b[Y+d64[8+o]];  \
415     Y = py_2[2*i+1];                                                \
416     dst_2[2*i+1] =  r[Y+d32[9+o]] + g[Y+d32[9+o]] + b[Y+d64[9+o]];
417
418
419     RGB(0);
420     DST1bpp8(0,0);
421     DST2bpp8(0,0);
422
423     RGB(1);
424     DST2bpp8(1,2);
425     DST1bpp8(1,2);
426
427     RGB(2);
428     DST1bpp8(2,4);
429     DST2bpp8(2,4);
430
431     RGB(3);
432     DST2bpp8(3,6);
433     DST1bpp8(3,6);
434 EPILOG(8)
435
436
437 // This is exactly the same code as yuv2rgb_c_32 except for the types of
438 // r, g, b, dst_1, dst_2
439 PROLOG(yuv2rgb_c_4, uint8_t)
440     int acc;
441 #define DST1_4(i)                   \
442     Y = py_1[2*i];                  \
443     acc = r[Y] + g[Y] + b[Y];       \
444     Y = py_1[2*i+1];                \
445     acc |= (r[Y] + g[Y] + b[Y])<<4; \
446     dst_1[i] = acc;
447
448 #define DST2_4(i)                   \
449     Y = py_2[2*i];                  \
450     acc = r[Y] + g[Y] + b[Y];       \
451     Y = py_2[2*i+1];                \
452     acc |= (r[Y] + g[Y] + b[Y])<<4; \
453     dst_2[i] = acc;
454
455     RGB(0);
456     DST1_4(0);
457     DST2_4(0);
458
459     RGB(1);
460     DST2_4(1);
461     DST1_4(1);
462
463     RGB(2);
464     DST1_4(2);
465     DST2_4(2);
466
467     RGB(3);
468     DST2_4(3);
469     DST1_4(3);
470 EPILOG(4)
471
472 PROLOG(yuv2rgb_c_4_ordered_dither, uint8_t)
473     const uint8_t *d64= dither_8x8_73[y&7];
474     const uint8_t *d128=dither_8x8_220[y&7];
475     int acc;
476
477 #define DST1bpp4(i,o)                                             \
478     Y = py_1[2*i];                                                \
479     acc = r[Y+d128[0+o]] + g[Y+d64[0+o]] + b[Y+d128[0+o]];        \
480     Y = py_1[2*i+1];                                              \
481     acc |= (r[Y+d128[1+o]] + g[Y+d64[1+o]] + b[Y+d128[1+o]])<<4;  \
482     dst_1[i]= acc;
483
484 #define DST2bpp4(i,o)                                             \
485     Y = py_2[2*i];                                                \
486     acc =  r[Y+d128[8+o]] + g[Y+d64[8+o]] + b[Y+d128[8+o]];       \
487     Y = py_2[2*i+1];                                              \
488     acc |=  (r[Y+d128[9+o]] + g[Y+d64[9+o]] + b[Y+d128[9+o]])<<4; \
489     dst_2[i]= acc;
490
491
492     RGB(0);
493     DST1bpp4(0,0);
494     DST2bpp4(0,0);
495
496     RGB(1);
497     DST2bpp4(1,2);
498     DST1bpp4(1,2);
499
500     RGB(2);
501     DST1bpp4(2,4);
502     DST2bpp4(2,4);
503
504     RGB(3);
505     DST2bpp4(3,6);
506     DST1bpp4(3,6);
507 EPILOG(4)
508
509 // This is exactly the same code as yuv2rgb_c_32 except for the types of
510 // r, g, b, dst_1, dst_2
511 PROLOG(yuv2rgb_c_4b, uint8_t)
512     RGB(0);
513     DST1(0);
514     DST2(0);
515
516     RGB(1);
517     DST2(1);
518     DST1(1);
519
520     RGB(2);
521     DST1(2);
522     DST2(2);
523
524     RGB(3);
525     DST2(3);
526     DST1(3);
527 EPILOG(8)
528
529 PROLOG(yuv2rgb_c_4b_ordered_dither, uint8_t)
530     const uint8_t *d64= dither_8x8_73[y&7];
531     const uint8_t *d128=dither_8x8_220[y&7];
532
533 #define DST1bpp4b(i,o)                                                \
534     Y = py_1[2*i];                                                    \
535     dst_1[2*i]   = r[Y+d128[0+o]] + g[Y+d64[0+o]] + b[Y+d128[0+o]];   \
536     Y = py_1[2*i+1];                                                  \
537     dst_1[2*i+1] = r[Y+d128[1+o]] + g[Y+d64[1+o]] + b[Y+d128[1+o]];
538
539 #define DST2bpp4b(i,o)                                                \
540     Y = py_2[2*i];                                                    \
541     dst_2[2*i]   =  r[Y+d128[8+o]] + g[Y+d64[8+o]] + b[Y+d128[8+o]];  \
542     Y = py_2[2*i+1];                                                  \
543     dst_2[2*i+1] =  r[Y+d128[9+o]] + g[Y+d64[9+o]] + b[Y+d128[9+o]];
544
545
546     RGB(0);
547     DST1bpp4b(0,0);
548     DST2bpp4b(0,0);
549
550     RGB(1);
551     DST2bpp4b(1,2);
552     DST1bpp4b(1,2);
553
554     RGB(2);
555     DST1bpp4b(2,4);
556     DST2bpp4b(2,4);
557
558     RGB(3);
559     DST2bpp4b(3,6);
560     DST1bpp4b(3,6);
561 EPILOG(8)
562
563 PROLOG(yuv2rgb_c_1_ordered_dither, uint8_t)
564         const uint8_t *d128=dither_8x8_220[y&7];
565         char out_1=0, out_2=0;
566         g= c->table_gU[128] + c->table_gV[128];
567
568 #define DST1bpp1(i,o)               \
569     Y = py_1[2*i];                  \
570     out_1+= out_1 + g[Y+d128[0+o]]; \
571     Y = py_1[2*i+1];                \
572     out_1+= out_1 + g[Y+d128[1+o]];
573
574 #define DST2bpp1(i,o)               \
575     Y = py_2[2*i];                  \
576     out_2+= out_2 + g[Y+d128[8+o]]; \
577     Y = py_2[2*i+1];                \
578     out_2+= out_2 + g[Y+d128[9+o]];
579
580     DST1bpp1(0,0);
581     DST2bpp1(0,0);
582
583     DST2bpp1(1,2);
584     DST1bpp1(1,2);
585
586     DST1bpp1(2,4);
587     DST2bpp1(2,4);
588
589     DST2bpp1(3,6);
590     DST1bpp1(3,6);
591
592     dst_1[0]= out_1;
593     dst_2[0]= out_2;
594 EPILOG(1)
595
596 SwsFunc yuv2rgb_get_func_ptr (SwsContext *c)
597 {
598 #if defined(HAVE_MMX2) || defined(HAVE_MMX)
599     if (c->flags & SWS_CPU_CAPS_MMX2){
600         switch(c->dstFormat){
601         case PIX_FMT_RGB32:  return yuv420_rgb32_MMX2;
602         case PIX_FMT_BGR24:  return yuv420_rgb24_MMX2;
603         case PIX_FMT_RGB565: return yuv420_rgb16_MMX2;
604         case PIX_FMT_RGB555: return yuv420_rgb15_MMX2;
605         }
606     }
607     if (c->flags & SWS_CPU_CAPS_MMX){
608         switch(c->dstFormat){
609         case PIX_FMT_RGB32:  return yuv420_rgb32_MMX;
610         case PIX_FMT_BGR24:  return yuv420_rgb24_MMX;
611         case PIX_FMT_RGB565: return yuv420_rgb16_MMX;
612         case PIX_FMT_RGB555: return yuv420_rgb15_MMX;
613         }
614     }
615 #endif
616 #ifdef HAVE_VIS
617     {
618         SwsFunc t= yuv2rgb_init_vis(c);
619         if (t) return t;
620     }
621 #endif
622 #ifdef CONFIG_MLIB
623     {
624         SwsFunc t= yuv2rgb_init_mlib(c);
625         if (t) return t;
626     }
627 #endif
628 #ifdef HAVE_ALTIVEC
629     if (c->flags & SWS_CPU_CAPS_ALTIVEC)
630     {
631         SwsFunc t = yuv2rgb_init_altivec(c);
632         if (t) return t;
633     }
634 #endif
635
636 #ifdef ARCH_BFIN
637     if (c->flags & SWS_CPU_CAPS_BFIN)
638     {
639         SwsFunc t = ff_bfin_yuv2rgb_get_func_ptr (c);
640         if (t) return t;
641     }
642 #endif
643
644     av_log(c, AV_LOG_WARNING, "No accelerated colorspace conversion found.\n");
645
646     switch(c->dstFormat){
647     case PIX_FMT_BGR32:
648     case PIX_FMT_RGB32: return yuv2rgb_c_32;
649     case PIX_FMT_RGB24: return yuv2rgb_c_24_rgb;
650     case PIX_FMT_BGR24: return yuv2rgb_c_24_bgr;
651     case PIX_FMT_RGB565:
652     case PIX_FMT_BGR565:
653     case PIX_FMT_RGB555:
654     case PIX_FMT_BGR555: return yuv2rgb_c_16;
655     case PIX_FMT_RGB8:
656     case PIX_FMT_BGR8:  return yuv2rgb_c_8_ordered_dither;
657     case PIX_FMT_RGB4:
658     case PIX_FMT_BGR4:  return yuv2rgb_c_4_ordered_dither;
659     case PIX_FMT_RGB4_BYTE:
660     case PIX_FMT_BGR4_BYTE:  return yuv2rgb_c_4b_ordered_dither;
661     case PIX_FMT_MONOBLACK:  return yuv2rgb_c_1_ordered_dither;
662     default:
663         assert(0);
664     }
665     return NULL;
666 }
667
668 static int div_round (int dividend, int divisor)
669 {
670     if (dividend > 0)
671         return (dividend + (divisor>>1)) / divisor;
672     else
673         return -((-dividend + (divisor>>1)) / divisor);
674 }
675
676 int yuv2rgb_c_init_tables (SwsContext *c, const int inv_table[4], int fullRange, int brightness, int contrast, int saturation)
677 {
678     const int isRgb =      c->dstFormat==PIX_FMT_RGB32
679                         || c->dstFormat==PIX_FMT_BGR24
680                         || c->dstFormat==PIX_FMT_RGB565
681                         || c->dstFormat==PIX_FMT_RGB555
682                         || c->dstFormat==PIX_FMT_RGB8
683                         || c->dstFormat==PIX_FMT_RGB4
684                         || c->dstFormat==PIX_FMT_RGB4_BYTE
685                         || c->dstFormat==PIX_FMT_MONOBLACK;
686     const int bpp = fmt_depth(c->dstFormat);
687     int i;
688     uint8_t table_Y[1024];
689     uint32_t *table_32 = 0;
690     uint16_t *table_16 = 0;
691     uint8_t *table_8 = 0;
692     uint8_t *table_332 = 0;
693     uint8_t *table_121 = 0;
694     uint8_t *table_1 = 0;
695     int entry_size = 0;
696     void *table_r = 0, *table_g = 0, *table_b = 0;
697     void *table_start;
698
699     int64_t crv =  inv_table[0];
700     int64_t cbu =  inv_table[1];
701     int64_t cgu = -inv_table[2];
702     int64_t cgv = -inv_table[3];
703     int64_t cy  = 1<<16;
704     int64_t oy  = 0;
705
706 //printf("%lld %lld %lld %lld %lld\n", cy, crv, cbu, cgu, cgv);
707     if (!fullRange){
708         cy= (cy*255) / 219;
709         oy= 16<<16;
710     }else{
711         crv= (crv*224) / 255;
712         cbu= (cbu*224) / 255;
713         cgu= (cgu*224) / 255;
714         cgv= (cgv*224) / 255;
715     }
716
717     cy = (cy *contrast             )>>16;
718     crv= (crv*contrast * saturation)>>32;
719     cbu= (cbu*contrast * saturation)>>32;
720     cgu= (cgu*contrast * saturation)>>32;
721     cgv= (cgv*contrast * saturation)>>32;
722 //printf("%lld %lld %lld %lld %lld\n", cy, crv, cbu, cgu, cgv);
723     oy -= 256*brightness;
724
725     for (i = 0; i < 1024; i++) {
726         int j;
727
728         j= (cy*(((i - 384)<<16) - oy) + (1<<31))>>32;
729         j = (j < 0) ? 0 : ((j > 255) ? 255 : j);
730         table_Y[i] = j;
731     }
732
733     switch (bpp) {
734     case 32:
735         table_start= table_32 = av_malloc ((197 + 2*682 + 256 + 132) * sizeof (uint32_t));
736
737         entry_size = sizeof (uint32_t);
738         table_r = table_32 + 197;
739         table_b = table_32 + 197 + 685;
740         table_g = table_32 + 197 + 2*682;
741
742         for (i = -197; i < 256+197; i++)
743             ((uint32_t *)table_r)[i] = table_Y[i+384] << (isRgb ? 16 : 0);
744         for (i = -132; i < 256+132; i++)
745             ((uint32_t *)table_g)[i] = table_Y[i+384] << 8;
746         for (i = -232; i < 256+232; i++)
747             ((uint32_t *)table_b)[i] = table_Y[i+384] << (isRgb ? 0 : 16);
748         break;
749
750     case 24:
751         table_start= table_8 = av_malloc ((256 + 2*232) * sizeof (uint8_t));
752
753         entry_size = sizeof (uint8_t);
754         table_r = table_g = table_b = table_8 + 232;
755
756         for (i = -232; i < 256+232; i++)
757             ((uint8_t * )table_b)[i] = table_Y[i+384];
758         break;
759
760     case 15:
761     case 16:
762         table_start= table_16 = av_malloc ((197 + 2*682 + 256 + 132) * sizeof (uint16_t));
763
764         entry_size = sizeof (uint16_t);
765         table_r = table_16 + 197;
766         table_b = table_16 + 197 + 685;
767         table_g = table_16 + 197 + 2*682;
768
769         for (i = -197; i < 256+197; i++) {
770             int j = table_Y[i+384] >> 3;
771
772             if (isRgb)
773                 j <<= ((bpp==16) ? 11 : 10);
774
775             ((uint16_t *)table_r)[i] = j;
776         }
777         for (i = -132; i < 256+132; i++) {
778             int j = table_Y[i+384] >> ((bpp==16) ? 2 : 3);
779
780             ((uint16_t *)table_g)[i] = j << 5;
781         }
782         for (i = -232; i < 256+232; i++) {
783             int j = table_Y[i+384] >> 3;
784
785             if (!isRgb)
786                 j <<= ((bpp==16) ? 11 : 10);
787
788             ((uint16_t *)table_b)[i] = j;
789         }
790         break;
791
792     case 8:
793         table_start= table_332 = av_malloc ((197 + 2*682 + 256 + 132) * sizeof (uint8_t));
794
795         entry_size = sizeof (uint8_t);
796         table_r = table_332 + 197;
797         table_b = table_332 + 197 + 685;
798         table_g = table_332 + 197 + 2*682;
799
800         for (i = -197; i < 256+197; i++) {
801             int j = (table_Y[i+384 - 16] + 18)/36;
802
803             if (isRgb)
804                 j <<= 5;
805
806             ((uint8_t *)table_r)[i] = j;
807         }
808         for (i = -132; i < 256+132; i++) {
809             int j = (table_Y[i+384 - 16] + 18)/36;
810
811             if (!isRgb)
812                 j <<= 1;
813
814             ((uint8_t *)table_g)[i] = j << 2;
815         }
816         for (i = -232; i < 256+232; i++) {
817             int j = (table_Y[i+384 - 37] + 43)/85;
818
819             if (!isRgb)
820                 j <<= 6;
821
822             ((uint8_t *)table_b)[i] = j;
823         }
824         break;
825     case 4:
826     case 4|128:
827         table_start= table_121 = av_malloc ((197 + 2*682 + 256 + 132) * sizeof (uint8_t));
828
829         entry_size = sizeof (uint8_t);
830         table_r = table_121 + 197;
831         table_b = table_121 + 197 + 685;
832         table_g = table_121 + 197 + 2*682;
833
834         for (i = -197; i < 256+197; i++) {
835             int j = table_Y[i+384 - 110] >> 7;
836
837             if (isRgb)
838                 j <<= 3;
839
840             ((uint8_t *)table_r)[i] = j;
841         }
842         for (i = -132; i < 256+132; i++) {
843             int j = (table_Y[i+384 - 37]+ 43)/85;
844
845             ((uint8_t *)table_g)[i] = j << 1;
846         }
847         for (i = -232; i < 256+232; i++) {
848             int j =table_Y[i+384 - 110] >> 7;
849
850             if (!isRgb)
851                 j <<= 3;
852
853             ((uint8_t *)table_b)[i] = j;
854         }
855         break;
856
857     case 1:
858         table_start= table_1 = av_malloc (256*2 * sizeof (uint8_t));
859
860         entry_size = sizeof (uint8_t);
861         table_g = table_1;
862         table_r = table_b = NULL;
863
864         for (i = 0; i < 256+256; i++) {
865             int j = table_Y[i + 384 - 110]>>7;
866
867             ((uint8_t *)table_g)[i] = j;
868         }
869         break;
870
871     default:
872         table_start= NULL;
873         av_log(c, AV_LOG_ERROR, "%ibpp not supported by yuv2rgb\n", bpp);
874         //free mem?
875         return -1;
876     }
877
878     for (i = 0; i < 256; i++) {
879         c->table_rV[i] = (uint8_t *)table_r + entry_size * div_round (crv * (i-128), 76309);
880         c->table_gU[i] = (uint8_t *)table_g + entry_size * div_round (cgu * (i-128), 76309);
881         c->table_gV[i] = entry_size * div_round (cgv * (i-128), 76309);
882         c->table_bU[i] = (uint8_t *)table_b + entry_size * div_round (cbu * (i-128), 76309);
883     }
884
885     av_free(c->yuvTable);
886     c->yuvTable= table_start;
887     return 0;
888 }