Merge remote-tracking branch 'qatar/master'
[ffmpeg.git] / libswscale / input.c
1 /*
2  * Copyright (C) 2001-2012 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <assert.h>
22 #include <math.h>
23 #include <stdint.h>
24 #include <stdio.h>
25 #include <string.h>
26
27 #include "libavutil/avutil.h"
28 #include "libavutil/bswap.h"
29 #include "libavutil/cpu.h"
30 #include "libavutil/intreadwrite.h"
31 #include "libavutil/mathematics.h"
32 #include "libavutil/pixdesc.h"
33 #include "config.h"
34 #include "rgb2rgb.h"
35 #include "swscale.h"
36 #include "swscale_internal.h"
37
38 #define RGB2YUV_SHIFT 15
39 #define BY  ((int)(0.114 * 219 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
40 #define BV (-(int)(0.081 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
41 #define BU  ((int)(0.500 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
42 #define GY  ((int)(0.587 * 219 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
43 #define GV (-(int)(0.419 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
44 #define GU (-(int)(0.331 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
45 #define RY  ((int)(0.299 * 219 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
46 #define RV  ((int)(0.500 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
47 #define RU (-(int)(0.169 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
48
49 #define input_pixel(pos) (isBE(origin) ? AV_RB16(pos) : AV_RL16(pos))
50
51 #define r ((origin == PIX_FMT_BGR48BE || origin == PIX_FMT_BGR48LE) ? b_r : r_b)
52 #define b ((origin == PIX_FMT_BGR48BE || origin == PIX_FMT_BGR48LE) ? r_b : b_r)
53
54 static av_always_inline void
55 rgb64ToY_c_template(uint16_t *dst, const uint16_t *src, int width,
56                     enum PixelFormat origin)
57 {
58     int i;
59     for (i = 0; i < width; i++) {
60         unsigned int r_b = input_pixel(&src[i*4+0]);
61         unsigned int   g = input_pixel(&src[i*4+1]);
62         unsigned int b_r = input_pixel(&src[i*4+2]);
63
64         dst[i] = (RY*r + GY*g + BY*b + (0x2001<<(RGB2YUV_SHIFT-1))) >> RGB2YUV_SHIFT;
65     }
66 }
67
68 static av_always_inline void
69 rgb64ToUV_c_template(uint16_t *dstU, uint16_t *dstV,
70                     const uint16_t *src1, const uint16_t *src2,
71                     int width, enum PixelFormat origin)
72 {
73     int i;
74     assert(src1==src2);
75     for (i = 0; i < width; i++) {
76         int r_b = input_pixel(&src1[i*4+0]);
77         int   g = input_pixel(&src1[i*4+1]);
78         int b_r = input_pixel(&src1[i*4+2]);
79
80         dstU[i] = (RU*r + GU*g + BU*b + (0x10001<<(RGB2YUV_SHIFT-1))) >> RGB2YUV_SHIFT;
81         dstV[i] = (RV*r + GV*g + BV*b + (0x10001<<(RGB2YUV_SHIFT-1))) >> RGB2YUV_SHIFT;
82     }
83 }
84
85 static av_always_inline void
86 rgb64ToUV_half_c_template(uint16_t *dstU, uint16_t *dstV,
87                           const uint16_t *src1, const uint16_t *src2,
88                           int width, enum PixelFormat origin)
89 {
90     int i;
91     assert(src1==src2);
92     for (i = 0; i < width; i++) {
93         int r_b = (input_pixel(&src1[8 * i + 0]) + input_pixel(&src1[8 * i + 4]) + 1) >> 1;
94         int   g = (input_pixel(&src1[8 * i + 1]) + input_pixel(&src1[8 * i + 5]) + 1) >> 1;
95         int b_r = (input_pixel(&src1[8 * i + 2]) + input_pixel(&src1[8 * i + 6]) + 1) >> 1;
96
97         dstU[i]= (RU*r + GU*g + BU*b + (0x10001<<(RGB2YUV_SHIFT-1))) >> RGB2YUV_SHIFT;
98         dstV[i]= (RV*r + GV*g + BV*b + (0x10001<<(RGB2YUV_SHIFT-1))) >> RGB2YUV_SHIFT;
99     }
100 }
101
102 #define rgb64funcs(pattern, BE_LE, origin) \
103 static void pattern ## 64 ## BE_LE ## ToY_c(uint8_t *_dst, const uint8_t *_src, const uint8_t *unused0, const uint8_t *unused1,\
104                                     int width, uint32_t *unused) \
105 { \
106     const uint16_t *src = (const uint16_t *) _src; \
107     uint16_t *dst = (uint16_t *) _dst; \
108     rgb64ToY_c_template(dst, src, width, origin); \
109 } \
110  \
111 static void pattern ## 64 ## BE_LE ## ToUV_c(uint8_t *_dstU, uint8_t *_dstV, \
112                                     const uint8_t *unused0, const uint8_t *_src1, const uint8_t *_src2, \
113                                     int width, uint32_t *unused) \
114 { \
115     const uint16_t *src1 = (const uint16_t *) _src1, \
116                    *src2 = (const uint16_t *) _src2; \
117     uint16_t *dstU = (uint16_t *) _dstU, *dstV = (uint16_t *) _dstV; \
118     rgb64ToUV_c_template(dstU, dstV, src1, src2, width, origin); \
119 } \
120  \
121 static void pattern ## 64 ## BE_LE ## ToUV_half_c(uint8_t *_dstU, uint8_t *_dstV, \
122                                     const uint8_t *unused0, const uint8_t *_src1, const uint8_t *_src2, \
123                                     int width, uint32_t *unused) \
124 { \
125     const uint16_t *src1 = (const uint16_t *) _src1, \
126                    *src2 = (const uint16_t *) _src2; \
127     uint16_t *dstU = (uint16_t *) _dstU, *dstV = (uint16_t *) _dstV; \
128     rgb64ToUV_half_c_template(dstU, dstV, src1, src2, width, origin); \
129 }
130
131 rgb64funcs(rgb, LE, PIX_FMT_RGBA64LE)
132 rgb64funcs(rgb, BE, PIX_FMT_RGBA64BE)
133
134 static av_always_inline void rgb48ToY_c_template(uint16_t *dst,
135                                                  const uint16_t *src, int width,
136                                                  enum PixelFormat origin)
137 {
138     int i;
139     for (i = 0; i < width; i++) {
140         unsigned int r_b = input_pixel(&src[i * 3 + 0]);
141         unsigned int g   = input_pixel(&src[i * 3 + 1]);
142         unsigned int b_r = input_pixel(&src[i * 3 + 2]);
143
144         dst[i] = (RY * r + GY * g + BY * b + (0x2001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
145     }
146 }
147
148 static av_always_inline void rgb48ToUV_c_template(uint16_t *dstU,
149                                                   uint16_t *dstV,
150                                                   const uint16_t *src1,
151                                                   const uint16_t *src2,
152                                                   int width,
153                                                   enum PixelFormat origin)
154 {
155     int i;
156     assert(src1 == src2);
157     for (i = 0; i < width; i++) {
158         int r_b = input_pixel(&src1[i * 3 + 0]);
159         int g   = input_pixel(&src1[i * 3 + 1]);
160         int b_r = input_pixel(&src1[i * 3 + 2]);
161
162         dstU[i] = (RU * r + GU * g + BU * b + (0x10001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
163         dstV[i] = (RV * r + GV * g + BV * b + (0x10001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
164     }
165 }
166
167 static av_always_inline void rgb48ToUV_half_c_template(uint16_t *dstU,
168                                                        uint16_t *dstV,
169                                                        const uint16_t *src1,
170                                                        const uint16_t *src2,
171                                                        int width,
172                                                        enum PixelFormat origin)
173 {
174     int i;
175     assert(src1 == src2);
176     for (i = 0; i < width; i++) {
177         int r_b = (input_pixel(&src1[6 * i + 0]) +
178                    input_pixel(&src1[6 * i + 3]) + 1) >> 1;
179         int g   = (input_pixel(&src1[6 * i + 1]) +
180                    input_pixel(&src1[6 * i + 4]) + 1) >> 1;
181         int b_r = (input_pixel(&src1[6 * i + 2]) +
182                    input_pixel(&src1[6 * i + 5]) + 1) >> 1;
183
184         dstU[i] = (RU * r + GU * g + BU * b + (0x10001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
185         dstV[i] = (RV * r + GV * g + BV * b + (0x10001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
186     }
187 }
188
189 #undef r
190 #undef b
191 #undef input_pixel
192
193 #define rgb48funcs(pattern, BE_LE, origin)                              \
194 static void pattern ## 48 ## BE_LE ## ToY_c(uint8_t *_dst,              \
195                                             const uint8_t *_src,        \
196                                             const uint8_t *unused0, const uint8_t *unused1,\
197                                             int width,                  \
198                                             uint32_t *unused)           \
199 {                                                                       \
200     const uint16_t *src = (const uint16_t *)_src;                       \
201     uint16_t *dst       = (uint16_t *)_dst;                             \
202     rgb48ToY_c_template(dst, src, width, origin);                       \
203 }                                                                       \
204                                                                         \
205 static void pattern ## 48 ## BE_LE ## ToUV_c(uint8_t *_dstU,            \
206                                              uint8_t *_dstV,            \
207                                              const uint8_t *unused0,    \
208                                              const uint8_t *_src1,      \
209                                              const uint8_t *_src2,      \
210                                              int width,                 \
211                                              uint32_t *unused)          \
212 {                                                                       \
213     const uint16_t *src1 = (const uint16_t *)_src1,                     \
214                    *src2 = (const uint16_t *)_src2;                     \
215     uint16_t *dstU = (uint16_t *)_dstU,                                 \
216              *dstV = (uint16_t *)_dstV;                                 \
217     rgb48ToUV_c_template(dstU, dstV, src1, src2, width, origin);        \
218 }                                                                       \
219                                                                         \
220 static void pattern ## 48 ## BE_LE ## ToUV_half_c(uint8_t *_dstU,       \
221                                                   uint8_t *_dstV,       \
222                                                   const uint8_t *unused0,    \
223                                                   const uint8_t *_src1, \
224                                                   const uint8_t *_src2, \
225                                                   int width,            \
226                                                   uint32_t *unused)     \
227 {                                                                       \
228     const uint16_t *src1 = (const uint16_t *)_src1,                     \
229                    *src2 = (const uint16_t *)_src2;                     \
230     uint16_t *dstU = (uint16_t *)_dstU,                                 \
231              *dstV = (uint16_t *)_dstV;                                 \
232     rgb48ToUV_half_c_template(dstU, dstV, src1, src2, width, origin);   \
233 }
234
235 rgb48funcs(rgb, LE, PIX_FMT_RGB48LE)
236 rgb48funcs(rgb, BE, PIX_FMT_RGB48BE)
237 rgb48funcs(bgr, LE, PIX_FMT_BGR48LE)
238 rgb48funcs(bgr, BE, PIX_FMT_BGR48BE)
239
240 #define input_pixel(i) ((origin == PIX_FMT_RGBA ||                      \
241                          origin == PIX_FMT_BGRA ||                      \
242                          origin == PIX_FMT_ARGB ||                      \
243                          origin == PIX_FMT_ABGR)                        \
244                         ? AV_RN32A(&src[(i) * 4])                       \
245                         : (isBE(origin) ? AV_RB16(&src[(i) * 2])        \
246                                         : AV_RL16(&src[(i) * 2])))
247
248 static av_always_inline void rgb16_32ToY_c_template(int16_t *dst,
249                                                     const uint8_t *src,
250                                                     int width,
251                                                     enum PixelFormat origin,
252                                                     int shr, int shg,
253                                                     int shb, int shp,
254                                                     int maskr, int maskg,
255                                                     int maskb, int rsh,
256                                                     int gsh, int bsh, int S)
257 {
258     const int ry       = RY << rsh, gy = GY << gsh, by = BY << bsh;
259     const unsigned rnd = (32<<((S)-1)) + (1<<(S-7));
260     int i;
261
262     for (i = 0; i < width; i++) {
263         int px = input_pixel(i) >> shp;
264         int b  = (px & maskb) >> shb;
265         int g  = (px & maskg) >> shg;
266         int r  = (px & maskr) >> shr;
267
268         dst[i] = (ry * r + gy * g + by * b + rnd) >> ((S)-6);
269     }
270 }
271
272 static av_always_inline void rgb16_32ToUV_c_template(int16_t *dstU,
273                                                      int16_t *dstV,
274                                                      const uint8_t *src,
275                                                      int width,
276                                                      enum PixelFormat origin,
277                                                      int shr, int shg,
278                                                      int shb, int shp,
279                                                      int maskr, int maskg,
280                                                      int maskb, int rsh,
281                                                      int gsh, int bsh, int S)
282 {
283     const int ru       = RU << rsh, gu = GU << gsh, bu = BU << bsh,
284               rv       = RV << rsh, gv = GV << gsh, bv = BV << bsh;
285     const unsigned rnd = (256u<<((S)-1)) + (1<<(S-7));
286     int i;
287
288     for (i = 0; i < width; i++) {
289         int px = input_pixel(i) >> shp;
290         int b  = (px & maskb)   >> shb;
291         int g  = (px & maskg)   >> shg;
292         int r  = (px & maskr)   >> shr;
293
294         dstU[i] = (ru * r + gu * g + bu * b + rnd) >> ((S)-6);
295         dstV[i] = (rv * r + gv * g + bv * b + rnd) >> ((S)-6);
296     }
297 }
298
299 static av_always_inline void rgb16_32ToUV_half_c_template(int16_t *dstU,
300                                                           int16_t *dstV,
301                                                           const uint8_t *src,
302                                                           int width,
303                                                           enum PixelFormat origin,
304                                                           int shr, int shg,
305                                                           int shb, int shp,
306                                                           int maskr, int maskg,
307                                                           int maskb, int rsh,
308                                                           int gsh, int bsh, int S)
309 {
310     const int ru       = RU << rsh, gu = GU << gsh, bu = BU << bsh,
311               rv       = RV << rsh, gv = GV << gsh, bv = BV << bsh,
312               maskgx   = ~(maskr | maskb);
313     const unsigned rnd = (256U<<(S)) + (1<<(S-6));
314     int i;
315
316     maskr |= maskr << 1;
317     maskb |= maskb << 1;
318     maskg |= maskg << 1;
319     for (i = 0; i < width; i++) {
320         int px0 = input_pixel(2 * i + 0) >> shp;
321         int px1 = input_pixel(2 * i + 1) >> shp;
322         int b, r, g = (px0 & maskgx) + (px1 & maskgx);
323         int rb = px0 + px1 - g;
324
325         b = (rb & maskb) >> shb;
326         if (shp ||
327             origin == PIX_FMT_BGR565LE || origin == PIX_FMT_BGR565BE ||
328             origin == PIX_FMT_RGB565LE || origin == PIX_FMT_RGB565BE) {
329             g >>= shg;
330         } else {
331             g = (g & maskg) >> shg;
332         }
333         r = (rb & maskr) >> shr;
334
335         dstU[i] = (ru * r + gu * g + bu * b + (unsigned)rnd) >> ((S)-6+1);
336         dstV[i] = (rv * r + gv * g + bv * b + (unsigned)rnd) >> ((S)-6+1);
337     }
338 }
339
340 #undef input_pixel
341
342 #define rgb16_32_wrapper(fmt, name, shr, shg, shb, shp, maskr,          \
343                          maskg, maskb, rsh, gsh, bsh, S)                \
344 static void name ## ToY_c(uint8_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2,            \
345                           int width, uint32_t *unused)                  \
346 {                                                                       \
347     rgb16_32ToY_c_template((int16_t*)dst, src, width, fmt, shr, shg, shb, shp,    \
348                            maskr, maskg, maskb, rsh, gsh, bsh, S);      \
349 }                                                                       \
350                                                                         \
351 static void name ## ToUV_c(uint8_t *dstU, uint8_t *dstV,                \
352                            const uint8_t *unused0, const uint8_t *src, const uint8_t *dummy,    \
353                            int width, uint32_t *unused)                 \
354 {                                                                       \
355     rgb16_32ToUV_c_template((int16_t*)dstU, (int16_t*)dstV, src, width, fmt,                \
356                             shr, shg, shb, shp,                         \
357                             maskr, maskg, maskb, rsh, gsh, bsh, S);     \
358 }                                                                       \
359                                                                         \
360 static void name ## ToUV_half_c(uint8_t *dstU, uint8_t *dstV,           \
361                                 const uint8_t *unused0, const uint8_t *src,                     \
362                                 const uint8_t *dummy,                   \
363                                 int width, uint32_t *unused)            \
364 {                                                                       \
365     rgb16_32ToUV_half_c_template((int16_t*)dstU, (int16_t*)dstV, src, width, fmt,           \
366                                  shr, shg, shb, shp,                    \
367                                  maskr, maskg, maskb,                   \
368                                  rsh, gsh, bsh, S);                     \
369 }
370
371 rgb16_32_wrapper(PIX_FMT_BGR32,    bgr32,  16, 0,  0, 0, 0xFF0000, 0xFF00,   0x00FF,  8, 0,  8, RGB2YUV_SHIFT + 8)
372 rgb16_32_wrapper(PIX_FMT_BGR32_1,  bgr321, 16, 0,  0, 8, 0xFF0000, 0xFF00,   0x00FF,  8, 0,  8, RGB2YUV_SHIFT + 8)
373 rgb16_32_wrapper(PIX_FMT_RGB32,    rgb32,   0, 0, 16, 0,   0x00FF, 0xFF00, 0xFF0000,  8, 0,  8, RGB2YUV_SHIFT + 8)
374 rgb16_32_wrapper(PIX_FMT_RGB32_1,  rgb321,  0, 0, 16, 8,   0x00FF, 0xFF00, 0xFF0000,  8, 0,  8, RGB2YUV_SHIFT + 8)
375 rgb16_32_wrapper(PIX_FMT_BGR565LE, bgr16le, 0, 0,  0, 0,   0x001F, 0x07E0,   0xF800, 11, 5,  0, RGB2YUV_SHIFT + 8)
376 rgb16_32_wrapper(PIX_FMT_BGR555LE, bgr15le, 0, 0,  0, 0,   0x001F, 0x03E0,   0x7C00, 10, 5,  0, RGB2YUV_SHIFT + 7)
377 rgb16_32_wrapper(PIX_FMT_BGR444LE, bgr12le, 0, 0,  0, 0,   0x000F, 0x00F0,   0x0F00,  8, 4,  0, RGB2YUV_SHIFT + 4)
378 rgb16_32_wrapper(PIX_FMT_RGB565LE, rgb16le, 0, 0,  0, 0,   0xF800, 0x07E0,   0x001F,  0, 5, 11, RGB2YUV_SHIFT + 8)
379 rgb16_32_wrapper(PIX_FMT_RGB555LE, rgb15le, 0, 0,  0, 0,   0x7C00, 0x03E0,   0x001F,  0, 5, 10, RGB2YUV_SHIFT + 7)
380 rgb16_32_wrapper(PIX_FMT_RGB444LE, rgb12le, 0, 0,  0, 0,   0x0F00, 0x00F0,   0x000F,  0, 4,  8, RGB2YUV_SHIFT + 4)
381 rgb16_32_wrapper(PIX_FMT_BGR565BE, bgr16be, 0, 0,  0, 0,   0x001F, 0x07E0,   0xF800, 11, 5,  0, RGB2YUV_SHIFT + 8)
382 rgb16_32_wrapper(PIX_FMT_BGR555BE, bgr15be, 0, 0,  0, 0,   0x001F, 0x03E0,   0x7C00, 10, 5,  0, RGB2YUV_SHIFT + 7)
383 rgb16_32_wrapper(PIX_FMT_BGR444BE, bgr12be, 0, 0,  0, 0,   0x000F, 0x00F0,   0x0F00,  8, 4,  0, RGB2YUV_SHIFT + 4)
384 rgb16_32_wrapper(PIX_FMT_RGB565BE, rgb16be, 0, 0,  0, 0,   0xF800, 0x07E0,   0x001F,  0, 5, 11, RGB2YUV_SHIFT + 8)
385 rgb16_32_wrapper(PIX_FMT_RGB555BE, rgb15be, 0, 0,  0, 0,   0x7C00, 0x03E0,   0x001F,  0, 5, 10, RGB2YUV_SHIFT + 7)
386 rgb16_32_wrapper(PIX_FMT_RGB444BE, rgb12be, 0, 0,  0, 0,   0x0F00, 0x00F0,   0x000F,  0, 4,  8, RGB2YUV_SHIFT + 4)
387
388 static void gbr24pToUV_half_c(uint16_t *dstU, uint16_t *dstV,
389                          const uint8_t *gsrc, const uint8_t *bsrc, const uint8_t *rsrc,
390                          int width, enum PixelFormat origin)
391 {
392     int i;
393     for (i = 0; i < width; i++) {
394         unsigned int g   = gsrc[2*i] + gsrc[2*i+1];
395         unsigned int b   = bsrc[2*i] + bsrc[2*i+1];
396         unsigned int r   = rsrc[2*i] + rsrc[2*i+1];
397
398         dstU[i] = (RU*r + GU*g + BU*b + (0x4001<<(RGB2YUV_SHIFT-6))) >> (RGB2YUV_SHIFT-6+1);
399         dstV[i] = (RV*r + GV*g + BV*b + (0x4001<<(RGB2YUV_SHIFT-6))) >> (RGB2YUV_SHIFT-6+1);
400     }
401 }
402
403 static void rgba64ToA_c(int16_t *dst, const uint16_t *src, const uint8_t *unused1,
404                         const uint8_t *unused2, int width, uint32_t *unused)
405 {
406     int i;
407     for (i = 0; i < width; i++)
408         dst[i] = src[4 * i + 3];
409 }
410
411 static void abgrToA_c(int16_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2, int width, uint32_t *unused)
412 {
413     int i;
414     for (i=0; i<width; i++) {
415         dst[i]= src[4*i]<<6;
416     }
417 }
418
419 static void rgbaToA_c(int16_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2, int width, uint32_t *unused)
420 {
421     int i;
422     for (i=0; i<width; i++) {
423         dst[i]= src[4*i+3]<<6;
424     }
425 }
426
427 static void palToA_c(int16_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2, int width, uint32_t *pal)
428 {
429     int i;
430     for (i=0; i<width; i++) {
431         int d= src[i];
432
433         dst[i]= (pal[d] >> 24)<<6;
434     }
435 }
436
437 static void palToY_c(int16_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2, long width, uint32_t *pal)
438 {
439     int i;
440     for (i = 0; i < width; i++) {
441         int d = src[i];
442
443         dst[i] = (pal[d] & 0xFF)<<6;
444     }
445 }
446
447 static void palToUV_c(uint16_t *dstU, int16_t *dstV,
448                            const uint8_t *unused0, const uint8_t *src1, const uint8_t *src2,
449                       int width, uint32_t *pal)
450 {
451     int i;
452     assert(src1 == src2);
453     for (i = 0; i < width; i++) {
454         int p = pal[src1[i]];
455
456         dstU[i] = (uint8_t)(p>> 8)<<6;
457         dstV[i] = (uint8_t)(p>>16)<<6;
458     }
459 }
460
461 static void monowhite2Y_c(int16_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2,  int width, uint32_t *unused)
462 {
463     int i, j;
464     width = (width + 7) >> 3;
465     for (i = 0; i < width; i++) {
466         int d = ~src[i];
467         for (j = 0; j < 8; j++)
468             dst[8*i+j]= ((d>>(7-j))&1) * 16383;
469     }
470     if(width&7){
471         int d= ~src[i];
472         for (j = 0; j < (width&7); j++)
473             dst[8*i+j]= ((d>>(7-j))&1) * 16383;
474     }
475 }
476
477 static void monoblack2Y_c(int16_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2,  int width, uint32_t *unused)
478 {
479     int i, j;
480     width = (width + 7) >> 3;
481     for (i = 0; i < width; i++) {
482         int d = src[i];
483         for (j = 0; j < 8; j++)
484             dst[8*i+j]= ((d>>(7-j))&1) * 16383;
485     }
486     if(width&7){
487         int d = src[i];
488         for (j = 0; j < (width&7); j++)
489             dst[8*i+j] = ((d>>(7-j))&1) * 16383;
490     }
491 }
492
493 static void yuy2ToY_c(uint8_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2,  int width,
494                       uint32_t *unused)
495 {
496     int i;
497     for (i = 0; i < width; i++)
498         dst[i] = src[2 * i];
499 }
500
501 static void yuy2ToUV_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *unused0, const uint8_t *src1,
502                        const uint8_t *src2, int width, uint32_t *unused)
503 {
504     int i;
505     for (i = 0; i < width; i++) {
506         dstU[i] = src1[4 * i + 1];
507         dstV[i] = src1[4 * i + 3];
508     }
509     assert(src1 == src2);
510 }
511
512 static void bswap16Y_c(uint8_t *_dst, const uint8_t *_src, const uint8_t *unused1, const uint8_t *unused2,  int width,
513                        uint32_t *unused)
514 {
515     int i;
516     const uint16_t *src = (const uint16_t *)_src;
517     uint16_t *dst       = (uint16_t *)_dst;
518     for (i = 0; i < width; i++)
519         dst[i] = av_bswap16(src[i]);
520 }
521
522 static void bswap16UV_c(uint8_t *_dstU, uint8_t *_dstV, const uint8_t *unused0, const uint8_t *_src1,
523                         const uint8_t *_src2, int width, uint32_t *unused)
524 {
525     int i;
526     const uint16_t *src1 = (const uint16_t *)_src1,
527     *src2                = (const uint16_t *)_src2;
528     uint16_t *dstU       = (uint16_t *)_dstU, *dstV = (uint16_t *)_dstV;
529     for (i = 0; i < width; i++) {
530         dstU[i] = av_bswap16(src1[i]);
531         dstV[i] = av_bswap16(src2[i]);
532     }
533 }
534
535 /* This is almost identical to the previous, end exists only because
536  * yuy2ToY/UV)(dst, src + 1, ...) would have 100% unaligned accesses. */
537 static void uyvyToY_c(uint8_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2,  int width,
538                       uint32_t *unused)
539 {
540     int i;
541     for (i = 0; i < width; i++)
542         dst[i] = src[2 * i + 1];
543 }
544
545 static void uyvyToUV_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *unused0, const uint8_t *src1,
546                        const uint8_t *src2, int width, uint32_t *unused)
547 {
548     int i;
549     for (i = 0; i < width; i++) {
550         dstU[i] = src1[4 * i + 0];
551         dstV[i] = src1[4 * i + 2];
552     }
553     assert(src1 == src2);
554 }
555
556 static av_always_inline void nvXXtoUV_c(uint8_t *dst1, uint8_t *dst2,
557                                         const uint8_t *src, int width)
558 {
559     int i;
560     for (i = 0; i < width; i++) {
561         dst1[i] = src[2 * i + 0];
562         dst2[i] = src[2 * i + 1];
563     }
564 }
565
566 static void nv12ToUV_c(uint8_t *dstU, uint8_t *dstV,
567                        const uint8_t *unused0, const uint8_t *src1, const uint8_t *src2,
568                        int width, uint32_t *unused)
569 {
570     nvXXtoUV_c(dstU, dstV, src1, width);
571 }
572
573 static void nv21ToUV_c(uint8_t *dstU, uint8_t *dstV,
574                        const uint8_t *unused0, const uint8_t *src1, const uint8_t *src2,
575                        int width, uint32_t *unused)
576 {
577     nvXXtoUV_c(dstV, dstU, src1, width);
578 }
579
580 #define input_pixel(pos) (isBE(origin) ? AV_RB16(pos) : AV_RL16(pos))
581
582 static void bgr24ToY_c(int16_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2,
583                        int width, uint32_t *unused)
584 {
585     int i;
586     for (i = 0; i < width; i++) {
587         int b = src[i * 3 + 0];
588         int g = src[i * 3 + 1];
589         int r = src[i * 3 + 2];
590
591         dst[i] = ((RY*r + GY*g + BY*b + (32<<(RGB2YUV_SHIFT-1)) + (1<<(RGB2YUV_SHIFT-7)))>>(RGB2YUV_SHIFT-6));
592     }
593 }
594
595 static void bgr24ToUV_c(int16_t *dstU, int16_t *dstV, const uint8_t *unused0, const uint8_t *src1,
596                         const uint8_t *src2, int width, uint32_t *unused)
597 {
598     int i;
599     for (i = 0; i < width; i++) {
600         int b = src1[3 * i + 0];
601         int g = src1[3 * i + 1];
602         int r = src1[3 * i + 2];
603
604         dstU[i] = (RU*r + GU*g + BU*b + (256<<(RGB2YUV_SHIFT-1)) + (1<<(RGB2YUV_SHIFT-7)))>>(RGB2YUV_SHIFT-6);
605         dstV[i] = (RV*r + GV*g + BV*b + (256<<(RGB2YUV_SHIFT-1)) + (1<<(RGB2YUV_SHIFT-7)))>>(RGB2YUV_SHIFT-6);
606     }
607     assert(src1 == src2);
608 }
609
610 static void bgr24ToUV_half_c(int16_t *dstU, int16_t *dstV, const uint8_t *unused0, const uint8_t *src1,
611                              const uint8_t *src2, int width, uint32_t *unused)
612 {
613     int i;
614     for (i = 0; i < width; i++) {
615         int b = src1[6 * i + 0] + src1[6 * i + 3];
616         int g = src1[6 * i + 1] + src1[6 * i + 4];
617         int r = src1[6 * i + 2] + src1[6 * i + 5];
618
619         dstU[i] = (RU*r + GU*g + BU*b + (256<<RGB2YUV_SHIFT) + (1<<(RGB2YUV_SHIFT-6)))>>(RGB2YUV_SHIFT-5);
620         dstV[i] = (RV*r + GV*g + BV*b + (256<<RGB2YUV_SHIFT) + (1<<(RGB2YUV_SHIFT-6)))>>(RGB2YUV_SHIFT-5);
621     }
622     assert(src1 == src2);
623 }
624
625 static void rgb24ToY_c(int16_t *dst, const uint8_t *src, const uint8_t *unused1, const uint8_t *unused2, int width,
626                        uint32_t *unused)
627 {
628     int i;
629     for (i = 0; i < width; i++) {
630         int r = src[i * 3 + 0];
631         int g = src[i * 3 + 1];
632         int b = src[i * 3 + 2];
633
634         dst[i] = ((RY*r + GY*g + BY*b + (32<<(RGB2YUV_SHIFT-1)) + (1<<(RGB2YUV_SHIFT-7)))>>(RGB2YUV_SHIFT-6));
635     }
636 }
637
638 static void rgb24ToUV_c(int16_t *dstU, int16_t *dstV, const uint8_t *unused0, const uint8_t *src1,
639                         const uint8_t *src2, int width, uint32_t *unused)
640 {
641     int i;
642     assert(src1 == src2);
643     for (i = 0; i < width; i++) {
644         int r = src1[3 * i + 0];
645         int g = src1[3 * i + 1];
646         int b = src1[3 * i + 2];
647
648         dstU[i] = (RU*r + GU*g + BU*b + (256<<(RGB2YUV_SHIFT-1)) + (1<<(RGB2YUV_SHIFT-7)))>>(RGB2YUV_SHIFT-6);
649         dstV[i] = (RV*r + GV*g + BV*b + (256<<(RGB2YUV_SHIFT-1)) + (1<<(RGB2YUV_SHIFT-7)))>>(RGB2YUV_SHIFT-6);
650     }
651 }
652
653 static void rgb24ToUV_half_c(int16_t *dstU, int16_t *dstV, const uint8_t *unused0, const uint8_t *src1,
654                              const uint8_t *src2, int width, uint32_t *unused)
655 {
656     int i;
657     assert(src1 == src2);
658     for (i = 0; i < width; i++) {
659         int r = src1[6 * i + 0] + src1[6 * i + 3];
660         int g = src1[6 * i + 1] + src1[6 * i + 4];
661         int b = src1[6 * i + 2] + src1[6 * i + 5];
662
663         dstU[i] = (RU*r + GU*g + BU*b + (256<<RGB2YUV_SHIFT) + (1<<(RGB2YUV_SHIFT-6)))>>(RGB2YUV_SHIFT-5);
664         dstV[i] = (RV*r + GV*g + BV*b + (256<<RGB2YUV_SHIFT) + (1<<(RGB2YUV_SHIFT-6)))>>(RGB2YUV_SHIFT-5);
665     }
666 }
667
668 static void planar_rgb_to_y(uint16_t *dst, const uint8_t *src[4], int width)
669 {
670     int i;
671     for (i = 0; i < width; i++) {
672         int g = src[0][i];
673         int b = src[1][i];
674         int r = src[2][i];
675
676         dst[i] = (RY*r + GY*g + BY*b + (0x801<<(RGB2YUV_SHIFT-7))) >> (RGB2YUV_SHIFT-6);
677     }
678 }
679
680 static void planar_rgb16le_to_y(uint8_t *_dst, const uint8_t *_src[4], int width)
681 {
682     int i;
683     const uint16_t **src = (const uint16_t **)_src;
684     uint16_t *dst        = (uint16_t *)_dst;
685     for (i = 0; i < width; i++) {
686         int g = AV_RL16(src[0] + i);
687         int b = AV_RL16(src[1] + i);
688         int r = AV_RL16(src[2] + i);
689
690         dst[i] = ((RY * r + GY * g + BY * b + (33 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT);
691     }
692 }
693
694 static void planar_rgb16be_to_y(uint8_t *_dst, const uint8_t *_src[4], int width)
695 {
696     int i;
697     const uint16_t **src = (const uint16_t **)_src;
698     uint16_t *dst        = (uint16_t *)_dst;
699     for (i = 0; i < width; i++) {
700         int g = AV_RB16(src[0] + i);
701         int b = AV_RB16(src[1] + i);
702         int r = AV_RB16(src[2] + i);
703
704         dst[i] = ((RY * r + GY * g + BY * b + (33 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT);
705     }
706 }
707
708 static void planar_rgb_to_uv(uint16_t *dstU, uint16_t *dstV, const uint8_t *src[4], int width)
709 {
710     int i;
711     for (i = 0; i < width; i++) {
712         int g = src[0][i];
713         int b = src[1][i];
714         int r = src[2][i];
715
716         dstU[i] = (RU*r + GU*g + BU*b + (0x4001<<(RGB2YUV_SHIFT-7))) >> (RGB2YUV_SHIFT-6);
717         dstV[i] = (RV*r + GV*g + BV*b + (0x4001<<(RGB2YUV_SHIFT-7))) >> (RGB2YUV_SHIFT-6);
718     }
719 }
720
721 static void planar_rgb16le_to_uv(uint8_t *_dstU, uint8_t *_dstV,
722                                  const uint8_t *_src[4], int width)
723 {
724     int i;
725     const uint16_t **src = (const uint16_t **)_src;
726     uint16_t *dstU       = (uint16_t *)_dstU;
727     uint16_t *dstV       = (uint16_t *)_dstV;
728     for (i = 0; i < width; i++) {
729         int g = AV_RL16(src[0] + i);
730         int b = AV_RL16(src[1] + i);
731         int r = AV_RL16(src[2] + i);
732
733         dstU[i] = (RU * r + GU * g + BU * b + (257 << RGB2YUV_SHIFT)) >> (RGB2YUV_SHIFT + 1);
734         dstV[i] = (RV * r + GV * g + BV * b + (257 << RGB2YUV_SHIFT)) >> (RGB2YUV_SHIFT + 1);
735     }
736 }
737
738 static void planar_rgb16be_to_uv(uint8_t *_dstU, uint8_t *_dstV,
739                                  const uint8_t *_src[4], int width)
740 {
741     int i;
742     const uint16_t **src = (const uint16_t **)_src;
743     uint16_t *dstU       = (uint16_t *)_dstU;
744     uint16_t *dstV       = (uint16_t *)_dstV;
745     for (i = 0; i < width; i++) {
746         int g = AV_RB16(src[0] + i);
747         int b = AV_RB16(src[1] + i);
748         int r = AV_RB16(src[2] + i);
749
750         dstU[i] = (RU * r + GU * g + BU * b + (257 << RGB2YUV_SHIFT)) >> (RGB2YUV_SHIFT + 1);
751         dstV[i] = (RV * r + GV * g + BV * b + (257 << RGB2YUV_SHIFT)) >> (RGB2YUV_SHIFT + 1);
752     }
753 }
754
755 av_cold void ff_sws_init_input_funcs(SwsContext *c)
756 {
757     enum PixelFormat srcFormat = c->srcFormat;
758
759     c->chrToYV12 = NULL;
760     switch (srcFormat) {
761     case PIX_FMT_YUYV422:
762         c->chrToYV12 = yuy2ToUV_c;
763         break;
764     case PIX_FMT_UYVY422:
765         c->chrToYV12 = uyvyToUV_c;
766         break;
767     case PIX_FMT_NV12:
768         c->chrToYV12 = nv12ToUV_c;
769         break;
770     case PIX_FMT_NV21:
771         c->chrToYV12 = nv21ToUV_c;
772         break;
773     case PIX_FMT_RGB8:
774     case PIX_FMT_BGR8:
775     case PIX_FMT_PAL8:
776     case PIX_FMT_BGR4_BYTE:
777     case PIX_FMT_RGB4_BYTE:
778         c->chrToYV12 = palToUV_c;
779         break;
780     case PIX_FMT_GBRP9LE:
781     case PIX_FMT_GBRP10LE:
782     case PIX_FMT_GBRP16LE:
783         c->readChrPlanar = planar_rgb16le_to_uv;
784         break;
785     case PIX_FMT_GBRP9BE:
786     case PIX_FMT_GBRP10BE:
787     case PIX_FMT_GBRP16BE:
788         c->readChrPlanar = planar_rgb16be_to_uv;
789         break;
790     case PIX_FMT_GBRP:
791         c->readChrPlanar = planar_rgb_to_uv;
792         break;
793 #if HAVE_BIGENDIAN
794     case PIX_FMT_YUV444P9LE:
795     case PIX_FMT_YUV422P9LE:
796     case PIX_FMT_YUV420P9LE:
797     case PIX_FMT_YUV422P10LE:
798     case PIX_FMT_YUV444P10LE:
799     case PIX_FMT_YUV420P10LE:
800     case PIX_FMT_YUV420P16LE:
801     case PIX_FMT_YUV422P16LE:
802     case PIX_FMT_YUV444P16LE:
803         c->chrToYV12 = bswap16UV_c;
804         break;
805 #else
806     case PIX_FMT_YUV444P9BE:
807     case PIX_FMT_YUV422P9BE:
808     case PIX_FMT_YUV420P9BE:
809     case PIX_FMT_YUV444P10BE:
810     case PIX_FMT_YUV422P10BE:
811     case PIX_FMT_YUV420P10BE:
812     case PIX_FMT_YUV420P16BE:
813     case PIX_FMT_YUV422P16BE:
814     case PIX_FMT_YUV444P16BE:
815         c->chrToYV12 = bswap16UV_c;
816         break;
817 #endif
818     }
819     if (c->chrSrcHSubSample) {
820         switch (srcFormat) {
821         case PIX_FMT_RGBA64BE:
822             c->chrToYV12 = rgb64BEToUV_half_c;
823             break;
824         case PIX_FMT_RGBA64LE:
825             c->chrToYV12 = rgb64LEToUV_half_c;
826             break;
827         case PIX_FMT_RGB48BE:
828             c->chrToYV12 = rgb48BEToUV_half_c;
829             break;
830         case PIX_FMT_RGB48LE:
831             c->chrToYV12 = rgb48LEToUV_half_c;
832             break;
833         case PIX_FMT_BGR48BE:
834             c->chrToYV12 = bgr48BEToUV_half_c;
835             break;
836         case PIX_FMT_BGR48LE:
837             c->chrToYV12 = bgr48LEToUV_half_c;
838             break;
839         case PIX_FMT_RGB32:
840             c->chrToYV12 = bgr32ToUV_half_c;
841             break;
842         case PIX_FMT_RGB32_1:
843             c->chrToYV12 = bgr321ToUV_half_c;
844             break;
845         case PIX_FMT_BGR24:
846             c->chrToYV12 = bgr24ToUV_half_c;
847             break;
848         case PIX_FMT_BGR565LE:
849             c->chrToYV12 = bgr16leToUV_half_c;
850             break;
851         case PIX_FMT_BGR565BE:
852             c->chrToYV12 = bgr16beToUV_half_c;
853             break;
854         case PIX_FMT_BGR555LE:
855             c->chrToYV12 = bgr15leToUV_half_c;
856             break;
857         case PIX_FMT_BGR555BE:
858             c->chrToYV12 = bgr15beToUV_half_c;
859             break;
860         case PIX_FMT_GBR24P  :
861             c->chrToYV12 = gbr24pToUV_half_c;
862             break;
863         case PIX_FMT_BGR444LE:
864             c->chrToYV12 = bgr12leToUV_half_c;
865             break;
866         case PIX_FMT_BGR444BE:
867             c->chrToYV12 = bgr12beToUV_half_c;
868             break;
869         case PIX_FMT_BGR32:
870             c->chrToYV12 = rgb32ToUV_half_c;
871             break;
872         case PIX_FMT_BGR32_1:
873             c->chrToYV12 = rgb321ToUV_half_c;
874             break;
875         case PIX_FMT_RGB24:
876             c->chrToYV12 = rgb24ToUV_half_c;
877             break;
878         case PIX_FMT_RGB565LE:
879             c->chrToYV12 = rgb16leToUV_half_c;
880             break;
881         case PIX_FMT_RGB565BE:
882             c->chrToYV12 = rgb16beToUV_half_c;
883             break;
884         case PIX_FMT_RGB555LE:
885             c->chrToYV12 = rgb15leToUV_half_c;
886             break;
887         case PIX_FMT_RGB555BE:
888             c->chrToYV12 = rgb15beToUV_half_c;
889             break;
890         case PIX_FMT_RGB444LE:
891             c->chrToYV12 = rgb12leToUV_half_c;
892             break;
893         case PIX_FMT_RGB444BE:
894             c->chrToYV12 = rgb12beToUV_half_c;
895             break;
896         }
897     } else {
898         switch (srcFormat) {
899         case PIX_FMT_RGBA64BE:
900             c->chrToYV12 = rgb64BEToUV_c;
901             break;
902         case PIX_FMT_RGBA64LE:
903             c->chrToYV12 = rgb64LEToUV_c;
904             break;
905         case PIX_FMT_RGB48BE:
906             c->chrToYV12 = rgb48BEToUV_c;
907             break;
908         case PIX_FMT_RGB48LE:
909             c->chrToYV12 = rgb48LEToUV_c;
910             break;
911         case PIX_FMT_BGR48BE:
912             c->chrToYV12 = bgr48BEToUV_c;
913             break;
914         case PIX_FMT_BGR48LE:
915             c->chrToYV12 = bgr48LEToUV_c;
916             break;
917         case PIX_FMT_RGB32:
918             c->chrToYV12 = bgr32ToUV_c;
919             break;
920         case PIX_FMT_RGB32_1:
921             c->chrToYV12 = bgr321ToUV_c;
922             break;
923         case PIX_FMT_BGR24:
924             c->chrToYV12 = bgr24ToUV_c;
925             break;
926         case PIX_FMT_BGR565LE:
927             c->chrToYV12 = bgr16leToUV_c;
928             break;
929         case PIX_FMT_BGR565BE:
930             c->chrToYV12 = bgr16beToUV_c;
931             break;
932         case PIX_FMT_BGR555LE:
933             c->chrToYV12 = bgr15leToUV_c;
934             break;
935         case PIX_FMT_BGR555BE:
936             c->chrToYV12 = bgr15beToUV_c;
937             break;
938         case PIX_FMT_BGR444LE:
939             c->chrToYV12 = bgr12leToUV_c;
940             break;
941         case PIX_FMT_BGR444BE:
942             c->chrToYV12 = bgr12beToUV_c;
943             break;
944         case PIX_FMT_BGR32:
945             c->chrToYV12 = rgb32ToUV_c;
946             break;
947         case PIX_FMT_BGR32_1:
948             c->chrToYV12 = rgb321ToUV_c;
949             break;
950         case PIX_FMT_RGB24:
951             c->chrToYV12 = rgb24ToUV_c;
952             break;
953         case PIX_FMT_RGB565LE:
954             c->chrToYV12 = rgb16leToUV_c;
955             break;
956         case PIX_FMT_RGB565BE:
957             c->chrToYV12 = rgb16beToUV_c;
958             break;
959         case PIX_FMT_RGB555LE:
960             c->chrToYV12 = rgb15leToUV_c;
961             break;
962         case PIX_FMT_RGB555BE:
963             c->chrToYV12 = rgb15beToUV_c;
964             break;
965         case PIX_FMT_RGB444LE:
966             c->chrToYV12 = rgb12leToUV_c;
967             break;
968         case PIX_FMT_RGB444BE:
969             c->chrToYV12 = rgb12beToUV_c;
970             break;
971         }
972     }
973
974     c->lumToYV12 = NULL;
975     c->alpToYV12 = NULL;
976     switch (srcFormat) {
977     case PIX_FMT_GBRP9LE:
978     case PIX_FMT_GBRP10LE:
979     case PIX_FMT_GBRP16LE:
980         c->readLumPlanar = planar_rgb16le_to_y;
981         break;
982     case PIX_FMT_GBRP9BE:
983     case PIX_FMT_GBRP10BE:
984     case PIX_FMT_GBRP16BE:
985         c->readLumPlanar = planar_rgb16be_to_y;
986         break;
987     case PIX_FMT_GBRP:
988         c->readLumPlanar = planar_rgb_to_y;
989         break;
990 #if HAVE_BIGENDIAN
991     case PIX_FMT_YUV444P9LE:
992     case PIX_FMT_YUV422P9LE:
993     case PIX_FMT_YUV420P9LE:
994     case PIX_FMT_YUV444P10LE:
995     case PIX_FMT_YUV422P10LE:
996     case PIX_FMT_YUV420P10LE:
997     case PIX_FMT_YUV420P16LE:
998     case PIX_FMT_YUV422P16LE:
999     case PIX_FMT_YUV444P16LE:
1000     case PIX_FMT_GRAY16LE:
1001         c->lumToYV12 = bswap16Y_c;
1002         break;
1003 #else
1004     case PIX_FMT_YUV444P9BE:
1005     case PIX_FMT_YUV422P9BE:
1006     case PIX_FMT_YUV420P9BE:
1007     case PIX_FMT_YUV444P10BE:
1008     case PIX_FMT_YUV422P10BE:
1009     case PIX_FMT_YUV420P10BE:
1010     case PIX_FMT_YUV420P16BE:
1011     case PIX_FMT_YUV422P16BE:
1012     case PIX_FMT_YUV444P16BE:
1013     case PIX_FMT_GRAY16BE:
1014         c->lumToYV12 = bswap16Y_c;
1015         break;
1016 #endif
1017     case PIX_FMT_YUYV422:
1018     case PIX_FMT_Y400A:
1019         c->lumToYV12 = yuy2ToY_c;
1020         break;
1021     case PIX_FMT_UYVY422:
1022         c->lumToYV12 = uyvyToY_c;
1023         break;
1024     case PIX_FMT_BGR24:
1025         c->lumToYV12 = bgr24ToY_c;
1026         break;
1027     case PIX_FMT_BGR565LE:
1028         c->lumToYV12 = bgr16leToY_c;
1029         break;
1030     case PIX_FMT_BGR565BE:
1031         c->lumToYV12 = bgr16beToY_c;
1032         break;
1033     case PIX_FMT_BGR555LE:
1034         c->lumToYV12 = bgr15leToY_c;
1035         break;
1036     case PIX_FMT_BGR555BE:
1037         c->lumToYV12 = bgr15beToY_c;
1038         break;
1039     case PIX_FMT_BGR444LE:
1040         c->lumToYV12 = bgr12leToY_c;
1041         break;
1042     case PIX_FMT_BGR444BE:
1043         c->lumToYV12 = bgr12beToY_c;
1044         break;
1045     case PIX_FMT_RGB24:
1046         c->lumToYV12 = rgb24ToY_c;
1047         break;
1048     case PIX_FMT_RGB565LE:
1049         c->lumToYV12 = rgb16leToY_c;
1050         break;
1051     case PIX_FMT_RGB565BE:
1052         c->lumToYV12 = rgb16beToY_c;
1053         break;
1054     case PIX_FMT_RGB555LE:
1055         c->lumToYV12 = rgb15leToY_c;
1056         break;
1057     case PIX_FMT_RGB555BE:
1058         c->lumToYV12 = rgb15beToY_c;
1059         break;
1060     case PIX_FMT_RGB444LE:
1061         c->lumToYV12 = rgb12leToY_c;
1062         break;
1063     case PIX_FMT_RGB444BE:
1064         c->lumToYV12 = rgb12beToY_c;
1065         break;
1066     case PIX_FMT_RGB8:
1067     case PIX_FMT_BGR8:
1068     case PIX_FMT_PAL8:
1069     case PIX_FMT_BGR4_BYTE:
1070     case PIX_FMT_RGB4_BYTE:
1071         c->lumToYV12 = palToY_c;
1072         break;
1073     case PIX_FMT_MONOBLACK:
1074         c->lumToYV12 = monoblack2Y_c;
1075         break;
1076     case PIX_FMT_MONOWHITE:
1077         c->lumToYV12 = monowhite2Y_c;
1078         break;
1079     case PIX_FMT_RGB32:
1080         c->lumToYV12 = bgr32ToY_c;
1081         break;
1082     case PIX_FMT_RGB32_1:
1083         c->lumToYV12 = bgr321ToY_c;
1084         break;
1085     case PIX_FMT_BGR32:
1086         c->lumToYV12 = rgb32ToY_c;
1087         break;
1088     case PIX_FMT_BGR32_1:
1089         c->lumToYV12 = rgb321ToY_c;
1090         break;
1091     case PIX_FMT_RGB48BE:
1092         c->lumToYV12 = rgb48BEToY_c;
1093         break;
1094     case PIX_FMT_RGB48LE:
1095         c->lumToYV12 = rgb48LEToY_c;
1096         break;
1097     case PIX_FMT_BGR48BE:
1098         c->lumToYV12 = bgr48BEToY_c;
1099         break;
1100     case PIX_FMT_BGR48LE:
1101         c->lumToYV12 = bgr48LEToY_c;
1102         break;
1103     case PIX_FMT_RGBA64BE:
1104         c->lumToYV12 = rgb64BEToY_c;
1105         break;
1106     case PIX_FMT_RGBA64LE:
1107         c->lumToYV12 = rgb64LEToY_c;
1108         break;
1109     }
1110     if (c->alpPixBuf) {
1111         switch (srcFormat) {
1112         case PIX_FMT_RGBA64LE:
1113         case PIX_FMT_RGBA64BE:  c->alpToYV12 = rgba64ToA_c; break;
1114         case PIX_FMT_BGRA:
1115         case PIX_FMT_RGBA:
1116             c->alpToYV12 = rgbaToA_c;
1117             break;
1118         case PIX_FMT_ABGR:
1119         case PIX_FMT_ARGB:
1120             c->alpToYV12 = abgrToA_c;
1121             break;
1122         case PIX_FMT_Y400A:
1123             c->alpToYV12 = uyvyToY_c;
1124             break;
1125         case PIX_FMT_PAL8 :
1126             c->alpToYV12 = palToA_c;
1127             break;
1128         }
1129     }
1130 }