pixfmt: Add yuv420p12 pixel format
[ffmpeg.git] / libswscale / input.c
1 /*
2  * Copyright (C) 2001-2003 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <assert.h>
22 #include <math.h>
23 #include <stdint.h>
24 #include <stdio.h>
25 #include <string.h>
26
27 #include "libavutil/avutil.h"
28 #include "libavutil/bswap.h"
29 #include "libavutil/cpu.h"
30 #include "libavutil/intreadwrite.h"
31 #include "libavutil/mathematics.h"
32 #include "libavutil/pixdesc.h"
33 #include "config.h"
34 #include "rgb2rgb.h"
35 #include "swscale.h"
36 #include "swscale_internal.h"
37
38 #define RGB2YUV_SHIFT 15
39 #define BY  ((int)(0.114 * 219 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
40 #define BV (-(int)(0.081 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
41 #define BU  ((int)(0.500 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
42 #define GY  ((int)(0.587 * 219 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
43 #define GV (-(int)(0.419 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
44 #define GU (-(int)(0.331 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
45 #define RY  ((int)(0.299 * 219 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
46 #define RV  ((int)(0.500 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
47 #define RU (-(int)(0.169 * 224 / 255 * (1 << RGB2YUV_SHIFT) + 0.5))
48
49 #define input_pixel(pos) (isBE(origin) ? AV_RB16(pos) : AV_RL16(pos))
50
51 #define r ((origin == AV_PIX_FMT_BGR48BE || origin == AV_PIX_FMT_BGR48LE) ? b_r : r_b)
52 #define b ((origin == AV_PIX_FMT_BGR48BE || origin == AV_PIX_FMT_BGR48LE) ? r_b : b_r)
53
54 static av_always_inline void rgb48ToY_c_template(uint16_t *dst,
55                                                  const uint16_t *src, int width,
56                                                  enum AVPixelFormat origin)
57 {
58     int i;
59     for (i = 0; i < width; i++) {
60         unsigned int r_b = input_pixel(&src[i * 3 + 0]);
61         unsigned int g   = input_pixel(&src[i * 3 + 1]);
62         unsigned int b_r = input_pixel(&src[i * 3 + 2]);
63
64         dst[i] = (RY * r + GY * g + BY * b + (0x2001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
65     }
66 }
67
68 static av_always_inline void rgb48ToUV_c_template(uint16_t *dstU,
69                                                   uint16_t *dstV,
70                                                   const uint16_t *src1,
71                                                   const uint16_t *src2,
72                                                   int width,
73                                                   enum AVPixelFormat origin)
74 {
75     int i;
76     assert(src1 == src2);
77     for (i = 0; i < width; i++) {
78         int r_b = input_pixel(&src1[i * 3 + 0]);
79         int g   = input_pixel(&src1[i * 3 + 1]);
80         int b_r = input_pixel(&src1[i * 3 + 2]);
81
82         dstU[i] = (RU * r + GU * g + BU * b + (0x10001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
83         dstV[i] = (RV * r + GV * g + BV * b + (0x10001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
84     }
85 }
86
87 static av_always_inline void rgb48ToUV_half_c_template(uint16_t *dstU,
88                                                        uint16_t *dstV,
89                                                        const uint16_t *src1,
90                                                        const uint16_t *src2,
91                                                        int width,
92                                                        enum AVPixelFormat origin)
93 {
94     int i;
95     assert(src1 == src2);
96     for (i = 0; i < width; i++) {
97         int r_b = (input_pixel(&src1[6 * i + 0]) +
98                    input_pixel(&src1[6 * i + 3]) + 1) >> 1;
99         int g   = (input_pixel(&src1[6 * i + 1]) +
100                    input_pixel(&src1[6 * i + 4]) + 1) >> 1;
101         int b_r = (input_pixel(&src1[6 * i + 2]) +
102                    input_pixel(&src1[6 * i + 5]) + 1) >> 1;
103
104         dstU[i] = (RU * r + GU * g + BU * b + (0x10001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
105         dstV[i] = (RV * r + GV * g + BV * b + (0x10001 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
106     }
107 }
108
109 #undef r
110 #undef b
111 #undef input_pixel
112
113 #define rgb48funcs(pattern, BE_LE, origin)                              \
114 static void pattern ## 48 ## BE_LE ## ToY_c(uint8_t *_dst,              \
115                                             const uint8_t *_src,        \
116                                             int width,                  \
117                                             uint32_t *unused)           \
118 {                                                                       \
119     const uint16_t *src = (const uint16_t *)_src;                       \
120     uint16_t *dst       = (uint16_t *)_dst;                             \
121     rgb48ToY_c_template(dst, src, width, origin);                       \
122 }                                                                       \
123                                                                         \
124 static void pattern ## 48 ## BE_LE ## ToUV_c(uint8_t *_dstU,            \
125                                              uint8_t *_dstV,            \
126                                              const uint8_t *_src1,      \
127                                              const uint8_t *_src2,      \
128                                              int width,                 \
129                                              uint32_t *unused)          \
130 {                                                                       \
131     const uint16_t *src1 = (const uint16_t *)_src1,                     \
132                    *src2 = (const uint16_t *)_src2;                     \
133     uint16_t *dstU = (uint16_t *)_dstU,                                 \
134              *dstV = (uint16_t *)_dstV;                                 \
135     rgb48ToUV_c_template(dstU, dstV, src1, src2, width, origin);        \
136 }                                                                       \
137                                                                         \
138 static void pattern ## 48 ## BE_LE ## ToUV_half_c(uint8_t *_dstU,       \
139                                                   uint8_t *_dstV,       \
140                                                   const uint8_t *_src1, \
141                                                   const uint8_t *_src2, \
142                                                   int width,            \
143                                                   uint32_t *unused)     \
144 {                                                                       \
145     const uint16_t *src1 = (const uint16_t *)_src1,                     \
146                    *src2 = (const uint16_t *)_src2;                     \
147     uint16_t *dstU = (uint16_t *)_dstU,                                 \
148              *dstV = (uint16_t *)_dstV;                                 \
149     rgb48ToUV_half_c_template(dstU, dstV, src1, src2, width, origin);   \
150 }
151
152 rgb48funcs(rgb, LE, AV_PIX_FMT_RGB48LE)
153 rgb48funcs(rgb, BE, AV_PIX_FMT_RGB48BE)
154 rgb48funcs(bgr, LE, AV_PIX_FMT_BGR48LE)
155 rgb48funcs(bgr, BE, AV_PIX_FMT_BGR48BE)
156
157 #define input_pixel(i) ((origin == AV_PIX_FMT_RGBA ||                      \
158                          origin == AV_PIX_FMT_BGRA ||                      \
159                          origin == AV_PIX_FMT_ARGB ||                      \
160                          origin == AV_PIX_FMT_ABGR)                        \
161                         ? AV_RN32A(&src[(i) * 4])                       \
162                         : (isBE(origin) ? AV_RB16(&src[(i) * 2])        \
163                                         : AV_RL16(&src[(i) * 2])))
164
165 static av_always_inline void rgb16_32ToY_c_template(uint8_t *dst,
166                                                     const uint8_t *src,
167                                                     int width,
168                                                     enum AVPixelFormat origin,
169                                                     int shr, int shg,
170                                                     int shb, int shp,
171                                                     int maskr, int maskg,
172                                                     int maskb, int rsh,
173                                                     int gsh, int bsh, int S)
174 {
175     const int ry       = RY << rsh, gy = GY << gsh, by = BY << bsh;
176     const unsigned rnd = 33u << (S - 1);
177     int i;
178
179     for (i = 0; i < width; i++) {
180         int px = input_pixel(i) >> shp;
181         int b  = (px & maskb) >> shb;
182         int g  = (px & maskg) >> shg;
183         int r  = (px & maskr) >> shr;
184
185         dst[i] = (ry * r + gy * g + by * b + rnd) >> S;
186     }
187 }
188
189 static av_always_inline void rgb16_32ToUV_c_template(uint8_t *dstU,
190                                                      uint8_t *dstV,
191                                                      const uint8_t *src,
192                                                      int width,
193                                                      enum AVPixelFormat origin,
194                                                      int shr, int shg,
195                                                      int shb, int shp,
196                                                      int maskr, int maskg,
197                                                      int maskb, int rsh,
198                                                      int gsh, int bsh, int S)
199 {
200     const int ru       = RU << rsh, gu = GU << gsh, bu = BU << bsh,
201               rv       = RV << rsh, gv = GV << gsh, bv = BV << bsh;
202     const unsigned rnd = 257u << (S - 1);
203     int i;
204
205     for (i = 0; i < width; i++) {
206         int px = input_pixel(i) >> shp;
207         int b  = (px & maskb)   >> shb;
208         int g  = (px & maskg)   >> shg;
209         int r  = (px & maskr)   >> shr;
210
211         dstU[i] = (ru * r + gu * g + bu * b + rnd) >> S;
212         dstV[i] = (rv * r + gv * g + bv * b + rnd) >> S;
213     }
214 }
215
216 static av_always_inline void rgb16_32ToUV_half_c_template(uint8_t *dstU,
217                                                           uint8_t *dstV,
218                                                           const uint8_t *src,
219                                                           int width,
220                                                           enum AVPixelFormat origin,
221                                                           int shr, int shg,
222                                                           int shb, int shp,
223                                                           int maskr, int maskg,
224                                                           int maskb, int rsh,
225                                                           int gsh, int bsh, int S)
226 {
227     const int ru       = RU << rsh, gu = GU << gsh, bu = BU << bsh,
228               rv       = RV << rsh, gv = GV << gsh, bv = BV << bsh,
229               maskgx   = ~(maskr | maskb);
230     const unsigned rnd = 257u << S;
231     int i;
232
233     maskr |= maskr << 1;
234     maskb |= maskb << 1;
235     maskg |= maskg << 1;
236     for (i = 0; i < width; i++) {
237         int px0 = input_pixel(2 * i + 0) >> shp;
238         int px1 = input_pixel(2 * i + 1) >> shp;
239         int b, r, g = (px0 & maskgx) + (px1 & maskgx);
240         int rb = px0 + px1 - g;
241
242         b = (rb & maskb) >> shb;
243         if (shp ||
244             origin == AV_PIX_FMT_BGR565LE || origin == AV_PIX_FMT_BGR565BE ||
245             origin == AV_PIX_FMT_RGB565LE || origin == AV_PIX_FMT_RGB565BE) {
246             g >>= shg;
247         } else {
248             g = (g & maskg) >> shg;
249         }
250         r = (rb & maskr) >> shr;
251
252         dstU[i] = (ru * r + gu * g + bu * b + rnd) >> (S + 1);
253         dstV[i] = (rv * r + gv * g + bv * b + rnd) >> (S + 1);
254     }
255 }
256
257 #undef input_pixel
258
259 #define rgb16_32_wrapper(fmt, name, shr, shg, shb, shp, maskr,          \
260                          maskg, maskb, rsh, gsh, bsh, S)                \
261 static void name ## ToY_c(uint8_t *dst, const uint8_t *src,             \
262                           int width, uint32_t *unused)                  \
263 {                                                                       \
264     rgb16_32ToY_c_template(dst, src, width, fmt, shr, shg, shb, shp,    \
265                            maskr, maskg, maskb, rsh, gsh, bsh, S);      \
266 }                                                                       \
267                                                                         \
268 static void name ## ToUV_c(uint8_t *dstU, uint8_t *dstV,                \
269                            const uint8_t *src, const uint8_t *dummy,    \
270                            int width, uint32_t *unused)                 \
271 {                                                                       \
272     rgb16_32ToUV_c_template(dstU, dstV, src, width, fmt,                \
273                             shr, shg, shb, shp,                         \
274                             maskr, maskg, maskb, rsh, gsh, bsh, S);     \
275 }                                                                       \
276                                                                         \
277 static void name ## ToUV_half_c(uint8_t *dstU, uint8_t *dstV,           \
278                                 const uint8_t *src,                     \
279                                 const uint8_t *dummy,                   \
280                                 int width, uint32_t *unused)            \
281 {                                                                       \
282     rgb16_32ToUV_half_c_template(dstU, dstV, src, width, fmt,           \
283                                  shr, shg, shb, shp,                    \
284                                  maskr, maskg, maskb,                   \
285                                  rsh, gsh, bsh, S);                     \
286 }
287
288 rgb16_32_wrapper(AV_PIX_FMT_BGR32,    bgr32,  16, 0,  0, 0, 0xFF0000, 0xFF00,   0x00FF,  8, 0,  8, RGB2YUV_SHIFT + 8)
289 rgb16_32_wrapper(AV_PIX_FMT_BGR32_1,  bgr321, 16, 0,  0, 8, 0xFF0000, 0xFF00,   0x00FF,  8, 0,  8, RGB2YUV_SHIFT + 8)
290 rgb16_32_wrapper(AV_PIX_FMT_RGB32,    rgb32,   0, 0, 16, 0,   0x00FF, 0xFF00, 0xFF0000,  8, 0,  8, RGB2YUV_SHIFT + 8)
291 rgb16_32_wrapper(AV_PIX_FMT_RGB32_1,  rgb321,  0, 0, 16, 8,   0x00FF, 0xFF00, 0xFF0000,  8, 0,  8, RGB2YUV_SHIFT + 8)
292 rgb16_32_wrapper(AV_PIX_FMT_BGR565LE, bgr16le, 0, 0,  0, 0,   0x001F, 0x07E0,   0xF800, 11, 5,  0, RGB2YUV_SHIFT + 8)
293 rgb16_32_wrapper(AV_PIX_FMT_BGR555LE, bgr15le, 0, 0,  0, 0,   0x001F, 0x03E0,   0x7C00, 10, 5,  0, RGB2YUV_SHIFT + 7)
294 rgb16_32_wrapper(AV_PIX_FMT_BGR444LE, bgr12le, 0, 0,  0, 0,   0x000F, 0x00F0,   0x0F00,  8, 4,  0, RGB2YUV_SHIFT + 4)
295 rgb16_32_wrapper(AV_PIX_FMT_RGB565LE, rgb16le, 0, 0,  0, 0,   0xF800, 0x07E0,   0x001F,  0, 5, 11, RGB2YUV_SHIFT + 8)
296 rgb16_32_wrapper(AV_PIX_FMT_RGB555LE, rgb15le, 0, 0,  0, 0,   0x7C00, 0x03E0,   0x001F,  0, 5, 10, RGB2YUV_SHIFT + 7)
297 rgb16_32_wrapper(AV_PIX_FMT_RGB444LE, rgb12le, 0, 0,  0, 0,   0x0F00, 0x00F0,   0x000F,  0, 4,  8, RGB2YUV_SHIFT + 4)
298 rgb16_32_wrapper(AV_PIX_FMT_BGR565BE, bgr16be, 0, 0,  0, 0,   0x001F, 0x07E0,   0xF800, 11, 5,  0, RGB2YUV_SHIFT + 8)
299 rgb16_32_wrapper(AV_PIX_FMT_BGR555BE, bgr15be, 0, 0,  0, 0,   0x001F, 0x03E0,   0x7C00, 10, 5,  0, RGB2YUV_SHIFT + 7)
300 rgb16_32_wrapper(AV_PIX_FMT_BGR444BE, bgr12be, 0, 0,  0, 0,   0x000F, 0x00F0,   0x0F00,  8, 4,  0, RGB2YUV_SHIFT + 4)
301 rgb16_32_wrapper(AV_PIX_FMT_RGB565BE, rgb16be, 0, 0,  0, 0,   0xF800, 0x07E0,   0x001F,  0, 5, 11, RGB2YUV_SHIFT + 8)
302 rgb16_32_wrapper(AV_PIX_FMT_RGB555BE, rgb15be, 0, 0,  0, 0,   0x7C00, 0x03E0,   0x001F,  0, 5, 10, RGB2YUV_SHIFT + 7)
303 rgb16_32_wrapper(AV_PIX_FMT_RGB444BE, rgb12be, 0, 0,  0, 0,   0x0F00, 0x00F0,   0x000F,  0, 4,  8, RGB2YUV_SHIFT + 4)
304
305 static void abgrToA_c(uint8_t *dst, const uint8_t *src, int width,
306                       uint32_t *unused)
307 {
308     int i;
309     for (i = 0; i < width; i++)
310         dst[i] = src[4 * i];
311 }
312
313 static void rgbaToA_c(uint8_t *dst, const uint8_t *src, int width,
314                       uint32_t *unused)
315 {
316     int i;
317     for (i = 0; i < width; i++)
318         dst[i] = src[4 * i + 3];
319 }
320
321 static void palToY_c(uint8_t *dst, const uint8_t *src, int width, uint32_t *pal)
322 {
323     int i;
324     for (i = 0; i < width; i++) {
325         int d = src[i];
326
327         dst[i] = pal[d] & 0xFF;
328     }
329 }
330
331 static void palToUV_c(uint8_t *dstU, uint8_t *dstV,
332                       const uint8_t *src1, const uint8_t *src2,
333                       int width, uint32_t *pal)
334 {
335     int i;
336     assert(src1 == src2);
337     for (i = 0; i < width; i++) {
338         int p = pal[src1[i]];
339
340         dstU[i] = p >> 8;
341         dstV[i] = p >> 16;
342     }
343 }
344
345 static void monowhite2Y_c(uint8_t *dst, const uint8_t *src,
346                           int width, uint32_t *unused)
347 {
348     int i, j;
349     width = (width + 7) >> 3;
350     for (i = 0; i < width; i++) {
351         int d = ~src[i];
352         for (j = 0; j < 8; j++)
353             dst[8 * i + j] = ((d >> (7 - j)) & 1) * 255;
354     }
355 }
356
357 static void monoblack2Y_c(uint8_t *dst, const uint8_t *src,
358                           int width, uint32_t *unused)
359 {
360     int i, j;
361     width = (width + 7) >> 3;
362     for (i = 0; i < width; i++) {
363         int d = src[i];
364         for (j = 0; j < 8; j++)
365             dst[8 * i + j] = ((d >> (7 - j)) & 1) * 255;
366     }
367 }
368
369 static void yuy2ToY_c(uint8_t *dst, const uint8_t *src, int width,
370                       uint32_t *unused)
371 {
372     int i;
373     for (i = 0; i < width; i++)
374         dst[i] = src[2 * i];
375 }
376
377 static void yuy2ToUV_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *src1,
378                        const uint8_t *src2, int width, uint32_t *unused)
379 {
380     int i;
381     for (i = 0; i < width; i++) {
382         dstU[i] = src1[4 * i + 1];
383         dstV[i] = src1[4 * i + 3];
384     }
385     assert(src1 == src2);
386 }
387
388 static void yvy2ToUV_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *src1,
389                        const uint8_t *src2, int width, uint32_t *unused)
390 {
391     int i;
392     for (i = 0; i < width; i++) {
393         dstV[i] = src1[4 * i + 1];
394         dstU[i] = src1[4 * i + 3];
395     }
396     assert(src1 == src2);
397 }
398
399 static void bswap16Y_c(uint8_t *_dst, const uint8_t *_src, int width,
400                        uint32_t *unused)
401 {
402     int i;
403     const uint16_t *src = (const uint16_t *)_src;
404     uint16_t *dst       = (uint16_t *)_dst;
405     for (i = 0; i < width; i++)
406         dst[i] = av_bswap16(src[i]);
407 }
408
409 static void bswap16UV_c(uint8_t *_dstU, uint8_t *_dstV, const uint8_t *_src1,
410                         const uint8_t *_src2, int width, uint32_t *unused)
411 {
412     int i;
413     const uint16_t *src1 = (const uint16_t *)_src1,
414     *src2                = (const uint16_t *)_src2;
415     uint16_t *dstU       = (uint16_t *)_dstU, *dstV = (uint16_t *)_dstV;
416     for (i = 0; i < width; i++) {
417         dstU[i] = av_bswap16(src1[i]);
418         dstV[i] = av_bswap16(src2[i]);
419     }
420 }
421
422 static void read_ya16le_gray_c(uint8_t *dst, const uint8_t *src, int width,
423                                uint32_t *unused)
424 {
425     int i;
426     for (i = 0; i < width; i++)
427         AV_WN16(dst + i * 2, AV_RL16(src + i * 4));
428 }
429
430 static void read_ya16le_alpha_c(uint8_t *dst, const uint8_t *src, int width,
431                                 uint32_t *unused)
432 {
433     int i;
434     for (i = 0; i < width; i++)
435         AV_WN16(dst + i * 2, AV_RL16(src + i * 4 + 2));
436 }
437
438 static void read_ya16be_gray_c(uint8_t *dst, const uint8_t *src, int width,
439                                uint32_t *unused)
440 {
441     int i;
442     for (i = 0; i < width; i++)
443         AV_WN16(dst + i * 2, AV_RB16(src + i * 4));
444 }
445
446 static void read_ya16be_alpha_c(uint8_t *dst, const uint8_t *src, int width,
447                                 uint32_t *unused)
448 {
449     int i;
450     for (i = 0; i < width; i++)
451         AV_WN16(dst + i * 2, AV_RB16(src + i * 4 + 2));
452 }
453
454 /* This is almost identical to the previous, end exists only because
455  * yuy2ToY/UV)(dst, src + 1, ...) would have 100% unaligned accesses. */
456 static void uyvyToY_c(uint8_t *dst, const uint8_t *src, int width,
457                       uint32_t *unused)
458 {
459     int i;
460     for (i = 0; i < width; i++)
461         dst[i] = src[2 * i + 1];
462 }
463
464 static void uyvyToUV_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *src1,
465                        const uint8_t *src2, int width, uint32_t *unused)
466 {
467     int i;
468     for (i = 0; i < width; i++) {
469         dstU[i] = src1[4 * i + 0];
470         dstV[i] = src1[4 * i + 2];
471     }
472     assert(src1 == src2);
473 }
474
475 static av_always_inline void nvXXtoUV_c(uint8_t *dst1, uint8_t *dst2,
476                                         const uint8_t *src, int width)
477 {
478     int i;
479     for (i = 0; i < width; i++) {
480         dst1[i] = src[2 * i + 0];
481         dst2[i] = src[2 * i + 1];
482     }
483 }
484
485 static void nv12ToUV_c(uint8_t *dstU, uint8_t *dstV,
486                        const uint8_t *src1, const uint8_t *src2,
487                        int width, uint32_t *unused)
488 {
489     nvXXtoUV_c(dstU, dstV, src1, width);
490 }
491
492 static void nv21ToUV_c(uint8_t *dstU, uint8_t *dstV,
493                        const uint8_t *src1, const uint8_t *src2,
494                        int width, uint32_t *unused)
495 {
496     nvXXtoUV_c(dstV, dstU, src1, width);
497 }
498
499 static void p010LEToY_c(uint8_t *dst, const uint8_t *src, int width, uint32_t *unused)
500 {
501     int i;
502     for (i = 0; i < width; i++) {
503         AV_WN16(dst + i * 2, AV_RL16(src + i * 2) >> 6);
504     }
505 }
506
507 static void p010BEToY_c(uint8_t *dst, const uint8_t *src, int width, uint32_t *unused)
508 {
509     int i;
510     for (i = 0; i < width; i++) {
511         AV_WN16(dst + i * 2, AV_RB16(src + i * 2) >> 6);
512     }
513 }
514
515 static void p010LEToUV_c(uint8_t *dstU, uint8_t *dstV,
516                          const uint8_t *src1, const uint8_t *src2,
517                          int width, uint32_t *unused)
518 {
519     int i;
520     for (i = 0; i < width; i++) {
521         AV_WN16(dstU + i * 2, AV_RL16(src1 + i * 4 + 0) >> 6);
522         AV_WN16(dstV + i * 2, AV_RL16(src1 + i * 4 + 2) >> 6);
523     }
524 }
525
526 static void p010BEToUV_c(uint8_t *dstU, uint8_t *dstV,
527                          const uint8_t *src1, const uint8_t *src2,
528                          int width, uint32_t *unused)
529 {
530     int i;
531     for (i = 0; i < width; i++) {
532         AV_WN16(dstU + i * 2, AV_RB16(src1 + i * 4 + 0) >> 6);
533         AV_WN16(dstV + i * 2, AV_RB16(src1 + i * 4 + 2) >> 6);
534     }
535 }
536
537 #define input_pixel(pos) (isBE(origin) ? AV_RB16(pos) : AV_RL16(pos))
538
539 static void bgr24ToY_c(uint8_t *dst, const uint8_t *src,
540                        int width, uint32_t *unused)
541 {
542     int i;
543     for (i = 0; i < width; i++) {
544         int b = src[i * 3 + 0];
545         int g = src[i * 3 + 1];
546         int r = src[i * 3 + 2];
547
548         dst[i] = ((RY * r + GY * g + BY * b + (33 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT);
549     }
550 }
551
552 static void bgr24ToUV_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *src1,
553                         const uint8_t *src2, int width, uint32_t *unused)
554 {
555     int i;
556     for (i = 0; i < width; i++) {
557         int b = src1[3 * i + 0];
558         int g = src1[3 * i + 1];
559         int r = src1[3 * i + 2];
560
561         dstU[i] = (RU * r + GU * g + BU * b + (257 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
562         dstV[i] = (RV * r + GV * g + BV * b + (257 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
563     }
564     assert(src1 == src2);
565 }
566
567 static void bgr24ToUV_half_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *src1,
568                              const uint8_t *src2, int width, uint32_t *unused)
569 {
570     int i;
571     for (i = 0; i < width; i++) {
572         int b = src1[6 * i + 0] + src1[6 * i + 3];
573         int g = src1[6 * i + 1] + src1[6 * i + 4];
574         int r = src1[6 * i + 2] + src1[6 * i + 5];
575
576         dstU[i] = (RU * r + GU * g + BU * b + (257 << RGB2YUV_SHIFT)) >> (RGB2YUV_SHIFT + 1);
577         dstV[i] = (RV * r + GV * g + BV * b + (257 << RGB2YUV_SHIFT)) >> (RGB2YUV_SHIFT + 1);
578     }
579     assert(src1 == src2);
580 }
581
582 static void rgb24ToY_c(uint8_t *dst, const uint8_t *src, int width,
583                        uint32_t *unused)
584 {
585     int i;
586     for (i = 0; i < width; i++) {
587         int r = src[i * 3 + 0];
588         int g = src[i * 3 + 1];
589         int b = src[i * 3 + 2];
590
591         dst[i] = ((RY * r + GY * g + BY * b + (33 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT);
592     }
593 }
594
595 static void rgb24ToUV_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *src1,
596                         const uint8_t *src2, int width, uint32_t *unused)
597 {
598     int i;
599     assert(src1 == src2);
600     for (i = 0; i < width; i++) {
601         int r = src1[3 * i + 0];
602         int g = src1[3 * i + 1];
603         int b = src1[3 * i + 2];
604
605         dstU[i] = (RU * r + GU * g + BU * b + (257 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
606         dstV[i] = (RV * r + GV * g + BV * b + (257 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
607     }
608 }
609
610 static void rgb24ToUV_half_c(uint8_t *dstU, uint8_t *dstV, const uint8_t *src1,
611                              const uint8_t *src2, int width, uint32_t *unused)
612 {
613     int i;
614     assert(src1 == src2);
615     for (i = 0; i < width; i++) {
616         int r = src1[6 * i + 0] + src1[6 * i + 3];
617         int g = src1[6 * i + 1] + src1[6 * i + 4];
618         int b = src1[6 * i + 2] + src1[6 * i + 5];
619
620         dstU[i] = (RU * r + GU * g + BU * b + (257 << RGB2YUV_SHIFT)) >> (RGB2YUV_SHIFT + 1);
621         dstV[i] = (RV * r + GV * g + BV * b + (257 << RGB2YUV_SHIFT)) >> (RGB2YUV_SHIFT + 1);
622     }
623 }
624
625 static void planar_rgb_to_y(uint8_t *dst, const uint8_t *src[4], int width)
626 {
627     int i;
628     for (i = 0; i < width; i++) {
629         int g = src[0][i];
630         int b = src[1][i];
631         int r = src[2][i];
632
633         dst[i] = ((RY * r + GY * g + BY * b + (33 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT);
634     }
635 }
636
637 static void planar_rgb_to_a(uint8_t *dst, const uint8_t *src[4], int width)
638 {
639     int i;
640     for (i = 0; i < width; i++)
641         dst[i] = src[3][i];
642 }
643
644 static void planar_rgb_to_uv(uint8_t *dstU, uint8_t *dstV, const uint8_t *src[4], int width)
645 {
646     int i;
647     for (i = 0; i < width; i++) {
648         int g = src[0][i];
649         int b = src[1][i];
650         int r = src[2][i];
651
652         dstU[i] = (RU * r + GU * g + BU * b + (257 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
653         dstV[i] = (RV * r + GV * g + BV * b + (257 << (RGB2YUV_SHIFT - 1))) >> RGB2YUV_SHIFT;
654     }
655 }
656
657 #define rdpx(src) \
658     is_be ? AV_RB16(src) : AV_RL16(src)
659 static av_always_inline void planar_rgb16_to_y(uint8_t *_dst, const uint8_t *_src[4],
660                                                int width, int bpc, int is_be)
661 {
662     int i;
663     const uint16_t **src = (const uint16_t **)_src;
664     uint16_t *dst        = (uint16_t *)_dst;
665     for (i = 0; i < width; i++) {
666         int g = rdpx(src[0] + i);
667         int b = rdpx(src[1] + i);
668         int r = rdpx(src[2] + i);
669
670         dst[i] = ((RY * r + GY * g + BY * b + (33 << (RGB2YUV_SHIFT + bpc - 9))) >> RGB2YUV_SHIFT);
671     }
672 }
673
674 static void planar_rgb9le_to_y(uint8_t *dst, const uint8_t *src[4], int w)
675 {
676     planar_rgb16_to_y(dst, src, w, 9, 0);
677 }
678
679 static void planar_rgb9be_to_y(uint8_t *dst, const uint8_t *src[4], int w)
680 {
681     planar_rgb16_to_y(dst, src, w, 9, 1);
682 }
683
684 static void planar_rgb10le_to_y(uint8_t *dst, const uint8_t *src[4], int w)
685 {
686     planar_rgb16_to_y(dst, src, w, 10, 0);
687 }
688
689 static void planar_rgb10be_to_y(uint8_t *dst, const uint8_t *src[4], int w)
690 {
691     planar_rgb16_to_y(dst, src, w, 10, 1);
692 }
693
694 static void planar_rgb16le_to_y(uint8_t *dst, const uint8_t *src[4], int w)
695 {
696     planar_rgb16_to_y(dst, src, w, 16, 0);
697 }
698
699 static void planar_rgb16be_to_y(uint8_t *dst, const uint8_t *src[4], int w)
700 {
701     planar_rgb16_to_y(dst, src, w, 16, 1);
702 }
703
704 static av_always_inline void planar_rgb16_to_uv(uint8_t *_dstU, uint8_t *_dstV,
705                                                 const uint8_t *_src[4], int width,
706                                                 int bpc, int is_be)
707 {
708     int i;
709     const uint16_t **src = (const uint16_t **)_src;
710     uint16_t *dstU       = (uint16_t *)_dstU;
711     uint16_t *dstV       = (uint16_t *)_dstV;
712     for (i = 0; i < width; i++) {
713         int g = rdpx(src[0] + i);
714         int b = rdpx(src[1] + i);
715         int r = rdpx(src[2] + i);
716
717         dstU[i] = (RU * r + GU * g + BU * b + (257 << (RGB2YUV_SHIFT + bpc - 9))) >> RGB2YUV_SHIFT;
718         dstV[i] = (RV * r + GV * g + BV * b + (257 << (RGB2YUV_SHIFT + bpc - 9))) >> RGB2YUV_SHIFT;
719     }
720 }
721 #undef rdpx
722
723 static void planar_rgb9le_to_uv(uint8_t *dstU, uint8_t *dstV,
724                                 const uint8_t *src[4], int w)
725 {
726     planar_rgb16_to_uv(dstU, dstV, src, w, 9, 0);
727 }
728
729 static void planar_rgb9be_to_uv(uint8_t *dstU, uint8_t *dstV,
730                                 const uint8_t *src[4], int w)
731 {
732     planar_rgb16_to_uv(dstU, dstV, src, w, 9, 1);
733 }
734
735 static void planar_rgb10le_to_uv(uint8_t *dstU, uint8_t *dstV,
736                                  const uint8_t *src[4], int w)
737 {
738     planar_rgb16_to_uv(dstU, dstV, src, w, 10, 0);
739 }
740
741 static void planar_rgb10be_to_uv(uint8_t *dstU, uint8_t *dstV,
742                                  const uint8_t *src[4], int w)
743 {
744     planar_rgb16_to_uv(dstU, dstV, src, w, 10, 1);
745 }
746
747 static void planar_rgb16le_to_uv(uint8_t *dstU, uint8_t *dstV,
748                                  const uint8_t *src[4], int w)
749 {
750     planar_rgb16_to_uv(dstU, dstV, src, w, 16, 0);
751 }
752
753 static void planar_rgb16be_to_uv(uint8_t *dstU, uint8_t *dstV,
754                                  const uint8_t *src[4], int w)
755 {
756     planar_rgb16_to_uv(dstU, dstV, src, w, 16, 1);
757 }
758
759 av_cold void ff_sws_init_input_funcs(SwsContext *c)
760 {
761     enum AVPixelFormat srcFormat = c->srcFormat;
762
763     c->chrToYV12 = NULL;
764     switch (srcFormat) {
765     case AV_PIX_FMT_YUYV422:
766         c->chrToYV12 = yuy2ToUV_c;
767         break;
768     case AV_PIX_FMT_YVYU422:
769         c->chrToYV12 = yvy2ToUV_c;
770         break;
771     case AV_PIX_FMT_UYVY422:
772         c->chrToYV12 = uyvyToUV_c;
773         break;
774     case AV_PIX_FMT_NV12:
775         c->chrToYV12 = nv12ToUV_c;
776         break;
777     case AV_PIX_FMT_NV21:
778         c->chrToYV12 = nv21ToUV_c;
779         break;
780     case AV_PIX_FMT_RGB8:
781     case AV_PIX_FMT_BGR8:
782     case AV_PIX_FMT_PAL8:
783     case AV_PIX_FMT_BGR4_BYTE:
784     case AV_PIX_FMT_RGB4_BYTE:
785         c->chrToYV12 = palToUV_c;
786         break;
787     case AV_PIX_FMT_GBRP9LE:
788         c->readChrPlanar = planar_rgb9le_to_uv;
789         break;
790     case AV_PIX_FMT_GBRP10LE:
791         c->readChrPlanar = planar_rgb10le_to_uv;
792         break;
793     case AV_PIX_FMT_GBRAP16LE:
794     case AV_PIX_FMT_GBRP16LE:
795         c->readChrPlanar = planar_rgb16le_to_uv;
796         break;
797     case AV_PIX_FMT_GBRP9BE:
798         c->readChrPlanar = planar_rgb9be_to_uv;
799         break;
800     case AV_PIX_FMT_GBRP10BE:
801         c->readChrPlanar = planar_rgb10be_to_uv;
802         break;
803     case AV_PIX_FMT_GBRAP16BE:
804     case AV_PIX_FMT_GBRP16BE:
805         c->readChrPlanar = planar_rgb16be_to_uv;
806         break;
807     case AV_PIX_FMT_GBRAP:
808     case AV_PIX_FMT_GBRP:
809         c->readChrPlanar = planar_rgb_to_uv;
810         break;
811 #if HAVE_BIGENDIAN
812     case AV_PIX_FMT_YUV420P9LE:
813     case AV_PIX_FMT_YUV422P9LE:
814     case AV_PIX_FMT_YUV444P9LE:
815     case AV_PIX_FMT_YUV420P10LE:
816     case AV_PIX_FMT_YUV422P10LE:
817     case AV_PIX_FMT_YUV444P10LE:
818     case AV_PIX_FMT_YUV420P12LE:
819     case AV_PIX_FMT_YUV420P16LE:
820     case AV_PIX_FMT_YUV422P16LE:
821     case AV_PIX_FMT_YUV444P16LE:
822     case AV_PIX_FMT_YUVA420P9LE:
823     case AV_PIX_FMT_YUVA422P9LE:
824     case AV_PIX_FMT_YUVA444P9LE:
825     case AV_PIX_FMT_YUVA420P10LE:
826     case AV_PIX_FMT_YUVA422P10LE:
827     case AV_PIX_FMT_YUVA444P10LE:
828     case AV_PIX_FMT_YUVA420P16LE:
829     case AV_PIX_FMT_YUVA422P16LE:
830     case AV_PIX_FMT_YUVA444P16LE:
831         c->chrToYV12 = bswap16UV_c;
832         break;
833 #else
834     case AV_PIX_FMT_YUV420P9BE:
835     case AV_PIX_FMT_YUV422P9BE:
836     case AV_PIX_FMT_YUV444P9BE:
837     case AV_PIX_FMT_YUV420P10BE:
838     case AV_PIX_FMT_YUV422P10BE:
839     case AV_PIX_FMT_YUV444P10BE:
840     case AV_PIX_FMT_YUV420P12BE:
841     case AV_PIX_FMT_YUV420P16BE:
842     case AV_PIX_FMT_YUV422P16BE:
843     case AV_PIX_FMT_YUV444P16BE:
844     case AV_PIX_FMT_YUVA420P9BE:
845     case AV_PIX_FMT_YUVA422P9BE:
846     case AV_PIX_FMT_YUVA444P9BE:
847     case AV_PIX_FMT_YUVA420P10BE:
848     case AV_PIX_FMT_YUVA422P10BE:
849     case AV_PIX_FMT_YUVA444P10BE:
850     case AV_PIX_FMT_YUVA420P16BE:
851     case AV_PIX_FMT_YUVA422P16BE:
852     case AV_PIX_FMT_YUVA444P16BE:
853         c->chrToYV12 = bswap16UV_c;
854         break;
855 #endif
856     case AV_PIX_FMT_P010LE:
857         c->chrToYV12 = p010LEToUV_c;
858         break;
859     case AV_PIX_FMT_P010BE:
860         c->chrToYV12 = p010BEToUV_c;
861         break;
862     }
863     if (c->chrSrcHSubSample) {
864         switch (srcFormat) {
865         case AV_PIX_FMT_RGB48BE:
866             c->chrToYV12 = rgb48BEToUV_half_c;
867             break;
868         case AV_PIX_FMT_RGB48LE:
869             c->chrToYV12 = rgb48LEToUV_half_c;
870             break;
871         case AV_PIX_FMT_BGR48BE:
872             c->chrToYV12 = bgr48BEToUV_half_c;
873             break;
874         case AV_PIX_FMT_BGR48LE:
875             c->chrToYV12 = bgr48LEToUV_half_c;
876             break;
877         case AV_PIX_FMT_RGB32:
878             c->chrToYV12 = bgr32ToUV_half_c;
879             break;
880         case AV_PIX_FMT_RGB32_1:
881             c->chrToYV12 = bgr321ToUV_half_c;
882             break;
883         case AV_PIX_FMT_BGR24:
884             c->chrToYV12 = bgr24ToUV_half_c;
885             break;
886         case AV_PIX_FMT_BGR565LE:
887             c->chrToYV12 = bgr16leToUV_half_c;
888             break;
889         case AV_PIX_FMT_BGR565BE:
890             c->chrToYV12 = bgr16beToUV_half_c;
891             break;
892         case AV_PIX_FMT_BGR555LE:
893             c->chrToYV12 = bgr15leToUV_half_c;
894             break;
895         case AV_PIX_FMT_BGR555BE:
896             c->chrToYV12 = bgr15beToUV_half_c;
897             break;
898         case AV_PIX_FMT_BGR444LE:
899             c->chrToYV12 = bgr12leToUV_half_c;
900             break;
901         case AV_PIX_FMT_BGR444BE:
902             c->chrToYV12 = bgr12beToUV_half_c;
903             break;
904         case AV_PIX_FMT_BGR32:
905             c->chrToYV12 = rgb32ToUV_half_c;
906             break;
907         case AV_PIX_FMT_BGR32_1:
908             c->chrToYV12 = rgb321ToUV_half_c;
909             break;
910         case AV_PIX_FMT_RGB24:
911             c->chrToYV12 = rgb24ToUV_half_c;
912             break;
913         case AV_PIX_FMT_RGB565LE:
914             c->chrToYV12 = rgb16leToUV_half_c;
915             break;
916         case AV_PIX_FMT_RGB565BE:
917             c->chrToYV12 = rgb16beToUV_half_c;
918             break;
919         case AV_PIX_FMT_RGB555LE:
920             c->chrToYV12 = rgb15leToUV_half_c;
921             break;
922         case AV_PIX_FMT_RGB555BE:
923             c->chrToYV12 = rgb15beToUV_half_c;
924             break;
925         case AV_PIX_FMT_RGB444LE:
926             c->chrToYV12 = rgb12leToUV_half_c;
927             break;
928         case AV_PIX_FMT_RGB444BE:
929             c->chrToYV12 = rgb12beToUV_half_c;
930             break;
931         }
932     } else {
933         switch (srcFormat) {
934         case AV_PIX_FMT_RGB48BE:
935             c->chrToYV12 = rgb48BEToUV_c;
936             break;
937         case AV_PIX_FMT_RGB48LE:
938             c->chrToYV12 = rgb48LEToUV_c;
939             break;
940         case AV_PIX_FMT_BGR48BE:
941             c->chrToYV12 = bgr48BEToUV_c;
942             break;
943         case AV_PIX_FMT_BGR48LE:
944             c->chrToYV12 = bgr48LEToUV_c;
945             break;
946         case AV_PIX_FMT_RGB32:
947             c->chrToYV12 = bgr32ToUV_c;
948             break;
949         case AV_PIX_FMT_RGB32_1:
950             c->chrToYV12 = bgr321ToUV_c;
951             break;
952         case AV_PIX_FMT_BGR24:
953             c->chrToYV12 = bgr24ToUV_c;
954             break;
955         case AV_PIX_FMT_BGR565LE:
956             c->chrToYV12 = bgr16leToUV_c;
957             break;
958         case AV_PIX_FMT_BGR565BE:
959             c->chrToYV12 = bgr16beToUV_c;
960             break;
961         case AV_PIX_FMT_BGR555LE:
962             c->chrToYV12 = bgr15leToUV_c;
963             break;
964         case AV_PIX_FMT_BGR555BE:
965             c->chrToYV12 = bgr15beToUV_c;
966             break;
967         case AV_PIX_FMT_BGR444LE:
968             c->chrToYV12 = bgr12leToUV_c;
969             break;
970         case AV_PIX_FMT_BGR444BE:
971             c->chrToYV12 = bgr12beToUV_c;
972             break;
973         case AV_PIX_FMT_BGR32:
974             c->chrToYV12 = rgb32ToUV_c;
975             break;
976         case AV_PIX_FMT_BGR32_1:
977             c->chrToYV12 = rgb321ToUV_c;
978             break;
979         case AV_PIX_FMT_RGB24:
980             c->chrToYV12 = rgb24ToUV_c;
981             break;
982         case AV_PIX_FMT_RGB565LE:
983             c->chrToYV12 = rgb16leToUV_c;
984             break;
985         case AV_PIX_FMT_RGB565BE:
986             c->chrToYV12 = rgb16beToUV_c;
987             break;
988         case AV_PIX_FMT_RGB555LE:
989             c->chrToYV12 = rgb15leToUV_c;
990             break;
991         case AV_PIX_FMT_RGB555BE:
992             c->chrToYV12 = rgb15beToUV_c;
993             break;
994         case AV_PIX_FMT_RGB444LE:
995             c->chrToYV12 = rgb12leToUV_c;
996             break;
997         case AV_PIX_FMT_RGB444BE:
998             c->chrToYV12 = rgb12beToUV_c;
999             break;
1000         }
1001     }
1002
1003     c->lumToYV12 = NULL;
1004     c->alpToYV12 = NULL;
1005     switch (srcFormat) {
1006     case AV_PIX_FMT_GBRP9LE:
1007         c->readLumPlanar = planar_rgb9le_to_y;
1008         break;
1009     case AV_PIX_FMT_GBRP10LE:
1010         c->readLumPlanar = planar_rgb10le_to_y;
1011         break;
1012     case AV_PIX_FMT_GBRAP16LE:
1013     case AV_PIX_FMT_GBRP16LE:
1014         c->readLumPlanar = planar_rgb16le_to_y;
1015         break;
1016     case AV_PIX_FMT_GBRP9BE:
1017         c->readLumPlanar = planar_rgb9be_to_y;
1018         break;
1019     case AV_PIX_FMT_GBRP10BE:
1020         c->readLumPlanar = planar_rgb10be_to_y;
1021         break;
1022     case AV_PIX_FMT_GBRAP16BE:
1023     case AV_PIX_FMT_GBRP16BE:
1024         c->readLumPlanar = planar_rgb16be_to_y;
1025         break;
1026     case AV_PIX_FMT_GBRAP:
1027         c->readAlpPlanar = planar_rgb_to_a;
1028     case AV_PIX_FMT_GBRP:
1029         c->readLumPlanar = planar_rgb_to_y;
1030         break;
1031 #if HAVE_BIGENDIAN
1032     case AV_PIX_FMT_YUV420P9LE:
1033     case AV_PIX_FMT_YUV422P9LE:
1034     case AV_PIX_FMT_YUV444P9LE:
1035     case AV_PIX_FMT_YUV420P10LE:
1036     case AV_PIX_FMT_YUV422P10LE:
1037     case AV_PIX_FMT_YUV444P10LE:
1038     case AV_PIX_FMT_YUV420P12LE:
1039     case AV_PIX_FMT_YUV420P16LE:
1040     case AV_PIX_FMT_YUV422P16LE:
1041     case AV_PIX_FMT_YUV444P16LE:
1042     case AV_PIX_FMT_GRAY16LE:
1043         c->lumToYV12 = bswap16Y_c;
1044         break;
1045     case AV_PIX_FMT_YUVA420P9LE:
1046     case AV_PIX_FMT_YUVA422P9LE:
1047     case AV_PIX_FMT_YUVA444P9LE:
1048     case AV_PIX_FMT_YUVA420P10LE:
1049     case AV_PIX_FMT_YUVA422P10LE:
1050     case AV_PIX_FMT_YUVA444P10LE:
1051     case AV_PIX_FMT_YUVA420P16LE:
1052     case AV_PIX_FMT_YUVA422P16LE:
1053     case AV_PIX_FMT_YUVA444P16LE:
1054         c->lumToYV12 = bswap16Y_c;
1055         c->alpToYV12 = bswap16Y_c;
1056         break;
1057 #else
1058     case AV_PIX_FMT_YUV420P9BE:
1059     case AV_PIX_FMT_YUV422P9BE:
1060     case AV_PIX_FMT_YUV444P9BE:
1061     case AV_PIX_FMT_YUV420P10BE:
1062     case AV_PIX_FMT_YUV422P10BE:
1063     case AV_PIX_FMT_YUV444P10BE:
1064     case AV_PIX_FMT_YUV420P12BE:
1065     case AV_PIX_FMT_YUV420P16BE:
1066     case AV_PIX_FMT_YUV422P16BE:
1067     case AV_PIX_FMT_YUV444P16BE:
1068     case AV_PIX_FMT_GRAY16BE:
1069         c->lumToYV12 = bswap16Y_c;
1070         break;
1071     case AV_PIX_FMT_YUVA420P9BE:
1072     case AV_PIX_FMT_YUVA422P9BE:
1073     case AV_PIX_FMT_YUVA444P9BE:
1074     case AV_PIX_FMT_YUVA420P10BE:
1075     case AV_PIX_FMT_YUVA422P10BE:
1076     case AV_PIX_FMT_YUVA444P10BE:
1077     case AV_PIX_FMT_YUVA420P16BE:
1078     case AV_PIX_FMT_YUVA422P16BE:
1079     case AV_PIX_FMT_YUVA444P16BE:
1080         c->lumToYV12 = bswap16Y_c;
1081         c->alpToYV12 = bswap16Y_c;
1082         break;
1083 #endif
1084     case AV_PIX_FMT_YA16LE:
1085         c->lumToYV12 = read_ya16le_gray_c;
1086         c->alpToYV12 = read_ya16le_alpha_c;
1087         break;
1088     case AV_PIX_FMT_YA16BE:
1089         c->lumToYV12 = read_ya16be_gray_c;
1090         c->alpToYV12 = read_ya16be_alpha_c;
1091         break;
1092     case AV_PIX_FMT_YUYV422:
1093     case AV_PIX_FMT_YVYU422:
1094     case AV_PIX_FMT_YA8:
1095         c->lumToYV12 = yuy2ToY_c;
1096         break;
1097     case AV_PIX_FMT_UYVY422:
1098         c->lumToYV12 = uyvyToY_c;
1099         break;
1100     case AV_PIX_FMT_BGR24:
1101         c->lumToYV12 = bgr24ToY_c;
1102         break;
1103     case AV_PIX_FMT_BGR565LE:
1104         c->lumToYV12 = bgr16leToY_c;
1105         break;
1106     case AV_PIX_FMT_BGR565BE:
1107         c->lumToYV12 = bgr16beToY_c;
1108         break;
1109     case AV_PIX_FMT_BGR555LE:
1110         c->lumToYV12 = bgr15leToY_c;
1111         break;
1112     case AV_PIX_FMT_BGR555BE:
1113         c->lumToYV12 = bgr15beToY_c;
1114         break;
1115     case AV_PIX_FMT_BGR444LE:
1116         c->lumToYV12 = bgr12leToY_c;
1117         break;
1118     case AV_PIX_FMT_BGR444BE:
1119         c->lumToYV12 = bgr12beToY_c;
1120         break;
1121     case AV_PIX_FMT_RGB24:
1122         c->lumToYV12 = rgb24ToY_c;
1123         break;
1124     case AV_PIX_FMT_RGB565LE:
1125         c->lumToYV12 = rgb16leToY_c;
1126         break;
1127     case AV_PIX_FMT_RGB565BE:
1128         c->lumToYV12 = rgb16beToY_c;
1129         break;
1130     case AV_PIX_FMT_RGB555LE:
1131         c->lumToYV12 = rgb15leToY_c;
1132         break;
1133     case AV_PIX_FMT_RGB555BE:
1134         c->lumToYV12 = rgb15beToY_c;
1135         break;
1136     case AV_PIX_FMT_RGB444LE:
1137         c->lumToYV12 = rgb12leToY_c;
1138         break;
1139     case AV_PIX_FMT_RGB444BE:
1140         c->lumToYV12 = rgb12beToY_c;
1141         break;
1142     case AV_PIX_FMT_RGB8:
1143     case AV_PIX_FMT_BGR8:
1144     case AV_PIX_FMT_PAL8:
1145     case AV_PIX_FMT_BGR4_BYTE:
1146     case AV_PIX_FMT_RGB4_BYTE:
1147         c->lumToYV12 = palToY_c;
1148         break;
1149     case AV_PIX_FMT_MONOBLACK:
1150         c->lumToYV12 = monoblack2Y_c;
1151         break;
1152     case AV_PIX_FMT_MONOWHITE:
1153         c->lumToYV12 = monowhite2Y_c;
1154         break;
1155     case AV_PIX_FMT_RGB32:
1156         c->lumToYV12 = bgr32ToY_c;
1157         break;
1158     case AV_PIX_FMT_RGB32_1:
1159         c->lumToYV12 = bgr321ToY_c;
1160         break;
1161     case AV_PIX_FMT_BGR32:
1162         c->lumToYV12 = rgb32ToY_c;
1163         break;
1164     case AV_PIX_FMT_BGR32_1:
1165         c->lumToYV12 = rgb321ToY_c;
1166         break;
1167     case AV_PIX_FMT_RGB48BE:
1168         c->lumToYV12 = rgb48BEToY_c;
1169         break;
1170     case AV_PIX_FMT_RGB48LE:
1171         c->lumToYV12 = rgb48LEToY_c;
1172         break;
1173     case AV_PIX_FMT_BGR48BE:
1174         c->lumToYV12 = bgr48BEToY_c;
1175         break;
1176     case AV_PIX_FMT_BGR48LE:
1177         c->lumToYV12 = bgr48LEToY_c;
1178         break;
1179     case AV_PIX_FMT_P010LE:
1180         c->lumToYV12 = p010LEToY_c;
1181         break;
1182     case AV_PIX_FMT_P010BE:
1183         c->lumToYV12 = p010BEToY_c;
1184         break;
1185     }
1186     if (c->alpPixBuf) {
1187         switch (srcFormat) {
1188         case AV_PIX_FMT_BGRA:
1189         case AV_PIX_FMT_RGBA:
1190             c->alpToYV12 = rgbaToA_c;
1191             break;
1192         case AV_PIX_FMT_ABGR:
1193         case AV_PIX_FMT_ARGB:
1194             c->alpToYV12 = abgrToA_c;
1195             break;
1196         case AV_PIX_FMT_YA8:
1197             c->alpToYV12 = uyvyToY_c;
1198             break;
1199         }
1200     }
1201 }