fftools/qsv: add extra_hw_frames support
[ffmpeg.git] / libswscale / rgb2rgb.c
1 /*
2  * software RGB to RGB converter
3  * pluralize by software PAL8 to RGB converter
4  *              software YUV to YUV converter
5  *              software YUV to RGB converter
6  * Written by Nick Kurshev.
7  * palette & YUV & runtime CPU stuff by Michael (michaelni@gmx.at)
8  *
9  * This file is part of FFmpeg.
10  *
11  * FFmpeg is free software; you can redistribute it and/or
12  * modify it under the terms of the GNU Lesser General Public
13  * License as published by the Free Software Foundation; either
14  * version 2.1 of the License, or (at your option) any later version.
15  *
16  * FFmpeg is distributed in the hope that it will be useful,
17  * but WITHOUT ANY WARRANTY; without even the implied warranty of
18  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
19  * Lesser General Public License for more details.
20  *
21  * You should have received a copy of the GNU Lesser General Public
22  * License along with FFmpeg; if not, write to the Free Software
23  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
24  */
25
26 #include <inttypes.h>
27
28 #include "libavutil/attributes.h"
29 #include "libavutil/bswap.h"
30 #include "config.h"
31 #include "rgb2rgb.h"
32 #include "swscale.h"
33 #include "swscale_internal.h"
34
35 void (*rgb32tobgr24)(const uint8_t *src, uint8_t *dst, int src_size);
36 void (*rgb32tobgr16)(const uint8_t *src, uint8_t *dst, int src_size);
37 void (*rgb32tobgr15)(const uint8_t *src, uint8_t *dst, int src_size);
38 void (*rgb24tobgr32)(const uint8_t *src, uint8_t *dst, int src_size);
39 void (*rgb24tobgr24)(const uint8_t *src, uint8_t *dst, int src_size);
40 void (*rgb24tobgr16)(const uint8_t *src, uint8_t *dst, int src_size);
41 void (*rgb24tobgr15)(const uint8_t *src, uint8_t *dst, int src_size);
42 void (*rgb16tobgr24)(const uint8_t *src, uint8_t *dst, int src_size);
43 void (*rgb15tobgr24)(const uint8_t *src, uint8_t *dst, int src_size);
44
45 void (*rgb32to16)(const uint8_t *src, uint8_t *dst, int src_size);
46 void (*rgb32to15)(const uint8_t *src, uint8_t *dst, int src_size);
47 void (*rgb24to16)(const uint8_t *src, uint8_t *dst, int src_size);
48 void (*rgb24to15)(const uint8_t *src, uint8_t *dst, int src_size);
49 void (*rgb16to32)(const uint8_t *src, uint8_t *dst, int src_size);
50 void (*rgb16to15)(const uint8_t *src, uint8_t *dst, int src_size);
51 void (*rgb15to16)(const uint8_t *src, uint8_t *dst, int src_size);
52 void (*rgb15to32)(const uint8_t *src, uint8_t *dst, int src_size);
53
54 void (*shuffle_bytes_0321)(const uint8_t *src, uint8_t *dst, int src_size);
55 void (*shuffle_bytes_2103)(const uint8_t *src, uint8_t *dst, int src_size);
56 void (*shuffle_bytes_1230)(const uint8_t *src, uint8_t *dst, int src_size);
57 void (*shuffle_bytes_3012)(const uint8_t *src, uint8_t *dst, int src_size);
58 void (*shuffle_bytes_3210)(const uint8_t *src, uint8_t *dst, int src_size);
59
60
61 void (*yv12toyuy2)(const uint8_t *ysrc, const uint8_t *usrc,
62                    const uint8_t *vsrc, uint8_t *dst,
63                    int width, int height,
64                    int lumStride, int chromStride, int dstStride);
65 void (*yv12touyvy)(const uint8_t *ysrc, const uint8_t *usrc,
66                    const uint8_t *vsrc, uint8_t *dst,
67                    int width, int height,
68                    int lumStride, int chromStride, int dstStride);
69 void (*yuv422ptoyuy2)(const uint8_t *ysrc, const uint8_t *usrc,
70                       const uint8_t *vsrc, uint8_t *dst,
71                       int width, int height,
72                       int lumStride, int chromStride, int dstStride);
73 void (*yuv422ptouyvy)(const uint8_t *ysrc, const uint8_t *usrc,
74                       const uint8_t *vsrc, uint8_t *dst,
75                       int width, int height,
76                       int lumStride, int chromStride, int dstStride);
77 void (*yuy2toyv12)(const uint8_t *src, uint8_t *ydst,
78                    uint8_t *udst, uint8_t *vdst,
79                    int width, int height,
80                    int lumStride, int chromStride, int srcStride);
81 void (*ff_rgb24toyv12)(const uint8_t *src, uint8_t *ydst,
82                        uint8_t *udst, uint8_t *vdst,
83                        int width, int height,
84                        int lumStride, int chromStride, int srcStride,
85                        int32_t *rgb2yuv);
86 void (*planar2x)(const uint8_t *src, uint8_t *dst, int width, int height,
87                  int srcStride, int dstStride);
88 void (*interleaveBytes)(const uint8_t *src1, const uint8_t *src2, uint8_t *dst,
89                         int width, int height, int src1Stride,
90                         int src2Stride, int dstStride);
91 void (*deinterleaveBytes)(const uint8_t *src, uint8_t *dst1, uint8_t *dst2,
92                           int width, int height, int srcStride,
93                           int dst1Stride, int dst2Stride);
94 void (*vu9_to_vu12)(const uint8_t *src1, const uint8_t *src2,
95                     uint8_t *dst1, uint8_t *dst2,
96                     int width, int height,
97                     int srcStride1, int srcStride2,
98                     int dstStride1, int dstStride2);
99 void (*yvu9_to_yuy2)(const uint8_t *src1, const uint8_t *src2,
100                      const uint8_t *src3, uint8_t *dst,
101                      int width, int height,
102                      int srcStride1, int srcStride2,
103                      int srcStride3, int dstStride);
104 void (*uyvytoyuv420)(uint8_t *ydst, uint8_t *udst, uint8_t *vdst,
105                      const uint8_t *src, int width, int height,
106                      int lumStride, int chromStride, int srcStride);
107 void (*uyvytoyuv422)(uint8_t *ydst, uint8_t *udst, uint8_t *vdst,
108                      const uint8_t *src, int width, int height,
109                      int lumStride, int chromStride, int srcStride);
110 void (*yuyvtoyuv420)(uint8_t *ydst, uint8_t *udst, uint8_t *vdst,
111                      const uint8_t *src, int width, int height,
112                      int lumStride, int chromStride, int srcStride);
113 void (*yuyvtoyuv422)(uint8_t *ydst, uint8_t *udst, uint8_t *vdst,
114                      const uint8_t *src, int width, int height,
115                      int lumStride, int chromStride, int srcStride);
116
117 #define BY ((int)( 0.098 * (1 << RGB2YUV_SHIFT) + 0.5))
118 #define BV ((int)(-0.071 * (1 << RGB2YUV_SHIFT) + 0.5))
119 #define BU ((int)( 0.439 * (1 << RGB2YUV_SHIFT) + 0.5))
120 #define GY ((int)( 0.504 * (1 << RGB2YUV_SHIFT) + 0.5))
121 #define GV ((int)(-0.368 * (1 << RGB2YUV_SHIFT) + 0.5))
122 #define GU ((int)(-0.291 * (1 << RGB2YUV_SHIFT) + 0.5))
123 #define RY ((int)( 0.257 * (1 << RGB2YUV_SHIFT) + 0.5))
124 #define RV ((int)( 0.439 * (1 << RGB2YUV_SHIFT) + 0.5))
125 #define RU ((int)(-0.148 * (1 << RGB2YUV_SHIFT) + 0.5))
126
127 //plain C versions
128 #include "rgb2rgb_template.c"
129
130 /*
131  * RGB15->RGB16 original by Strepto/Astral
132  * ported to gcc & bugfixed : A'rpi
133  * MMXEXT, 3DNOW optimization by Nick Kurshev
134  * 32-bit C version, and and&add trick by Michael Niedermayer
135  */
136
137 av_cold void ff_sws_rgb2rgb_init(void)
138 {
139     rgb2rgb_init_c();
140     if (ARCH_X86)
141         rgb2rgb_init_x86();
142 }
143
144 void rgb32to24(const uint8_t *src, uint8_t *dst, int src_size)
145 {
146     int i, num_pixels = src_size >> 2;
147
148     for (i = 0; i < num_pixels; i++) {
149 #if HAVE_BIGENDIAN
150         /* RGB32 (= A,B,G,R) -> BGR24 (= B,G,R) */
151         dst[3 * i + 0] = src[4 * i + 1];
152         dst[3 * i + 1] = src[4 * i + 2];
153         dst[3 * i + 2] = src[4 * i + 3];
154 #else
155         dst[3 * i + 0] = src[4 * i + 2];
156         dst[3 * i + 1] = src[4 * i + 1];
157         dst[3 * i + 2] = src[4 * i + 0];
158 #endif
159     }
160 }
161
162 void rgb24to32(const uint8_t *src, uint8_t *dst, int src_size)
163 {
164     int i;
165
166     for (i = 0; 3 * i < src_size; i++) {
167 #if HAVE_BIGENDIAN
168         /* RGB24 (= R, G, B) -> BGR32 (= A, R, G, B) */
169         dst[4 * i + 0] = 255;
170         dst[4 * i + 1] = src[3 * i + 0];
171         dst[4 * i + 2] = src[3 * i + 1];
172         dst[4 * i + 3] = src[3 * i + 2];
173 #else
174         dst[4 * i + 0] = src[3 * i + 2];
175         dst[4 * i + 1] = src[3 * i + 1];
176         dst[4 * i + 2] = src[3 * i + 0];
177         dst[4 * i + 3] = 255;
178 #endif
179     }
180 }
181
182 void rgb16tobgr32(const uint8_t *src, uint8_t *dst, int src_size)
183 {
184     uint8_t *d          = dst;
185     const uint16_t *s   = (const uint16_t *)src;
186     const uint16_t *end = s + src_size / 2;
187
188     while (s < end) {
189         register uint16_t bgr = *s++;
190 #if HAVE_BIGENDIAN
191         *d++ = 255;
192         *d++ = ((bgr&0x001F)<<3) | ((bgr&0x001F)>> 2);
193         *d++ = ((bgr&0x07E0)>>3) | ((bgr&0x07E0)>> 9);
194         *d++ = ((bgr&0xF800)>>8) | ((bgr&0xF800)>>13);
195 #else
196         *d++ = ((bgr&0xF800)>>8) | ((bgr&0xF800)>>13);
197         *d++ = ((bgr&0x07E0)>>3) | ((bgr&0x07E0)>> 9);
198         *d++ = ((bgr&0x001F)<<3) | ((bgr&0x001F)>> 2);
199         *d++ = 255;
200 #endif
201     }
202 }
203
204 void rgb12to15(const uint8_t *src, uint8_t *dst, int src_size)
205 {
206     uint16_t rgb, r, g, b;
207     uint16_t *d         = (uint16_t *)dst;
208     const uint16_t *s   = (const uint16_t *)src;
209     const uint16_t *end = s + src_size / 2;
210
211     while (s < end) {
212         rgb  = *s++;
213         r    = rgb & 0xF00;
214         g    = rgb & 0x0F0;
215         b    = rgb & 0x00F;
216         r    = (r << 3) | ((r & 0x800) >> 1);
217         g    = (g << 2) | ((g & 0x080) >> 2);
218         b    = (b << 1) | ( b          >> 3);
219         *d++ = r | g | b;
220     }
221 }
222
223 void rgb16to24(const uint8_t *src, uint8_t *dst, int src_size)
224 {
225     uint8_t *d          = dst;
226     const uint16_t *s   = (const uint16_t *)src;
227     const uint16_t *end = s + src_size / 2;
228
229     while (s < end) {
230         register uint16_t bgr = *s++;
231         *d++ = ((bgr&0xF800)>>8) | ((bgr&0xF800)>>13);
232         *d++ = ((bgr&0x07E0)>>3) | ((bgr&0x07E0)>> 9);
233         *d++ = ((bgr&0x001F)<<3) | ((bgr&0x001F)>> 2);
234     }
235 }
236
237 void rgb16tobgr16(const uint8_t *src, uint8_t *dst, int src_size)
238 {
239     int i, num_pixels = src_size >> 1;
240
241     for (i = 0; i < num_pixels; i++) {
242         unsigned rgb         = ((const uint16_t *)src)[i];
243         ((uint16_t *)dst)[i] = (rgb >> 11) | (rgb & 0x7E0) | (rgb << 11);
244     }
245 }
246
247 void rgb16tobgr15(const uint8_t *src, uint8_t *dst, int src_size)
248 {
249     int i, num_pixels = src_size >> 1;
250
251     for (i = 0; i < num_pixels; i++) {
252         unsigned rgb         = ((const uint16_t *)src)[i];
253         ((uint16_t *)dst)[i] = (rgb >> 11) | ((rgb & 0x7C0) >> 1) | ((rgb & 0x1F) << 10);
254     }
255 }
256
257 void rgb15tobgr32(const uint8_t *src, uint8_t *dst, int src_size)
258 {
259     uint8_t *d          = dst;
260     const uint16_t *s   = (const uint16_t *)src;
261     const uint16_t *end = s + src_size / 2;
262
263     while (s < end) {
264         register uint16_t bgr = *s++;
265 #if HAVE_BIGENDIAN
266         *d++ = 255;
267         *d++ = ((bgr&0x001F)<<3) | ((bgr&0x001F)>> 2);
268         *d++ = ((bgr&0x03E0)>>2) | ((bgr&0x03E0)>> 7);
269         *d++ = ((bgr&0x7C00)>>7) | ((bgr&0x7C00)>>12);
270 #else
271         *d++ = ((bgr&0x7C00)>>7) | ((bgr&0x7C00)>>12);
272         *d++ = ((bgr&0x03E0)>>2) | ((bgr&0x03E0)>> 7);
273         *d++ = ((bgr&0x001F)<<3) | ((bgr&0x001F)>> 2);
274         *d++ = 255;
275 #endif
276     }
277 }
278
279 void rgb15to24(const uint8_t *src, uint8_t *dst, int src_size)
280 {
281     uint8_t *d          = dst;
282     const uint16_t *s   = (const uint16_t *)src;
283     const uint16_t *end = s + src_size / 2;
284
285     while (s < end) {
286         register uint16_t bgr = *s++;
287         *d++ = ((bgr&0x7C00)>>7) | ((bgr&0x7C00)>>12);
288         *d++ = ((bgr&0x03E0)>>2) | ((bgr&0x03E0)>> 7);
289         *d++ = ((bgr&0x001F)<<3) | ((bgr&0x001F)>> 2);
290     }
291 }
292
293 void rgb15tobgr16(const uint8_t *src, uint8_t *dst, int src_size)
294 {
295     int i, num_pixels = src_size >> 1;
296
297     for (i = 0; i < num_pixels; i++) {
298         unsigned rgb         = ((const uint16_t *)src)[i];
299         ((uint16_t *)dst)[i] = ((rgb & 0x7C00) >> 10) | ((rgb & 0x3E0) << 1) | (rgb << 11);
300     }
301 }
302
303 void rgb15tobgr15(const uint8_t *src, uint8_t *dst, int src_size)
304 {
305     int i, num_pixels = src_size >> 1;
306
307     for (i = 0; i < num_pixels; i++) {
308         unsigned rgb         = ((const uint16_t *)src)[i];
309         unsigned br          = rgb & 0x7C1F;
310         ((uint16_t *)dst)[i] = (br >> 10) | (rgb & 0x3E0) | (br << 10);
311     }
312 }
313
314 void rgb12tobgr12(const uint8_t *src, uint8_t *dst, int src_size)
315 {
316     uint16_t *d = (uint16_t *)dst;
317     uint16_t *s = (uint16_t *)src;
318     int i, num_pixels = src_size >> 1;
319
320     for (i = 0; i < num_pixels; i++) {
321         unsigned rgb = s[i];
322         d[i]         = (rgb << 8 | rgb & 0xF0 | rgb >> 8) & 0xFFF;
323     }
324 }
325
326 #define DEFINE_RGB48TOBGR48(need_bswap, swap)                           \
327 void rgb48tobgr48_ ## need_bswap(const uint8_t *src,                    \
328                                  uint8_t *dst, int src_size)            \
329 {                                                                       \
330     uint16_t *d = (uint16_t *)dst;                                      \
331     uint16_t *s = (uint16_t *)src;                                      \
332     int i, num_pixels = src_size >> 1;                                  \
333                                                                         \
334     for (i = 0; i < num_pixels; i += 3) {                               \
335         d[i    ] = swap ? av_bswap16(s[i + 2]) : s[i + 2];              \
336         d[i + 1] = swap ? av_bswap16(s[i + 1]) : s[i + 1];              \
337         d[i + 2] = swap ? av_bswap16(s[i    ]) : s[i    ];              \
338     }                                                                   \
339 }
340
341 DEFINE_RGB48TOBGR48(nobswap, 0)
342 DEFINE_RGB48TOBGR48(bswap, 1)
343
344 #define DEFINE_RGB64TOBGR48(need_bswap, swap)                           \
345 void rgb64tobgr48_ ## need_bswap(const uint8_t *src,                    \
346                                  uint8_t *dst, int src_size)            \
347 {                                                                       \
348     uint16_t *d = (uint16_t *)dst;                                      \
349     uint16_t *s = (uint16_t *)src;                                      \
350     int i, num_pixels = src_size >> 3;                                  \
351                                                                         \
352     for (i = 0; i < num_pixels; i++) {                                  \
353         d[3 * i    ] = swap ? av_bswap16(s[4 * i + 2]) : s[4 * i + 2];  \
354         d[3 * i + 1] = swap ? av_bswap16(s[4 * i + 1]) : s[4 * i + 1];  \
355         d[3 * i + 2] = swap ? av_bswap16(s[4 * i    ]) : s[4 * i    ];  \
356     }                                                                   \
357 }
358
359 DEFINE_RGB64TOBGR48(nobswap, 0)
360 DEFINE_RGB64TOBGR48(bswap, 1)
361
362 #define DEFINE_RGB64TO48(need_bswap, swap)                              \
363 void rgb64to48_ ## need_bswap(const uint8_t *src,                       \
364                               uint8_t *dst, int src_size)               \
365 {                                                                       \
366     uint16_t *d = (uint16_t *)dst;                                      \
367     uint16_t *s = (uint16_t *)src;                                      \
368     int i, num_pixels = src_size >> 3;                                  \
369                                                                         \
370     for (i = 0; i < num_pixels; i++) {                                  \
371         d[3 * i    ] = swap ? av_bswap16(s[4 * i    ]) : s[4 * i    ];  \
372         d[3 * i + 1] = swap ? av_bswap16(s[4 * i + 1]) : s[4 * i + 1];  \
373         d[3 * i + 2] = swap ? av_bswap16(s[4 * i + 2]) : s[4 * i + 2];  \
374     }                                                                   \
375 }
376
377 DEFINE_RGB64TO48(nobswap, 0)
378 DEFINE_RGB64TO48(bswap, 1)
379
380 #define DEFINE_RGB48TOBGR64(need_bswap, swap)                           \
381 void rgb48tobgr64_ ## need_bswap(const uint8_t *src,                    \
382                                  uint8_t *dst, int src_size)            \
383 {                                                                       \
384     uint16_t *d = (uint16_t *)dst;                                      \
385     uint16_t *s = (uint16_t *)src;                                      \
386     int i, num_pixels = src_size / 6;                                   \
387                                                                         \
388     for (i = 0; i < num_pixels; i++) {                                  \
389         d[4 * i    ] = swap ? av_bswap16(s[3 * i + 2]) : s[3 * i + 2];  \
390         d[4 * i + 1] = swap ? av_bswap16(s[3 * i + 1]) : s[3 * i + 1];  \
391         d[4 * i + 2] = swap ? av_bswap16(s[3 * i    ]) : s[3 * i    ];  \
392         d[4 * i + 3] = 0xFFFF;                                          \
393     }                                                                   \
394 }
395
396 DEFINE_RGB48TOBGR64(nobswap, 0)
397 DEFINE_RGB48TOBGR64(bswap, 1)
398
399 #define DEFINE_RGB48TO64(need_bswap, swap)                              \
400 void rgb48to64_ ## need_bswap(const uint8_t *src,                       \
401                               uint8_t *dst, int src_size)               \
402 {                                                                       \
403     uint16_t *d = (uint16_t *)dst;                                      \
404     uint16_t *s = (uint16_t *)src;                                      \
405     int i, num_pixels = src_size / 6;                                   \
406                                                                         \
407     for (i = 0; i < num_pixels; i++) {                                  \
408         d[4 * i    ] = swap ? av_bswap16(s[3 * i    ]) : s[3 * i    ];  \
409         d[4 * i + 1] = swap ? av_bswap16(s[3 * i + 1]) : s[3 * i + 1];  \
410         d[4 * i + 2] = swap ? av_bswap16(s[3 * i + 2]) : s[3 * i + 2];  \
411         d[4 * i + 3] = 0xFFFF;                                          \
412     }                                                                   \
413 }
414
415 DEFINE_RGB48TO64(nobswap, 0)
416 DEFINE_RGB48TO64(bswap, 1)