419d5133f96f798f7aede1da32232ddc6971c7ba
[ffmpeg.git] / libswscale / x86 / yuv2rgb.c
1 /*
2  * software YUV to RGB converter
3  *
4  * Copyright (C) 2009 Konstantin Shishkov
5  *
6  * MMX/MMXEXT template stuff (needed for fast movntq support),
7  * 1,4,8bpp support and context / deglobalize stuff
8  * by Michael Niedermayer (michaelni@gmx.at)
9  *
10  * This file is part of Libav.
11  *
12  * Libav is free software; you can redistribute it and/or
13  * modify it under the terms of the GNU Lesser General Public
14  * License as published by the Free Software Foundation; either
15  * version 2.1 of the License, or (at your option) any later version.
16  *
17  * Libav is distributed in the hope that it will be useful,
18  * but WITHOUT ANY WARRANTY; without even the implied warranty of
19  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
20  * Lesser General Public License for more details.
21  *
22  * You should have received a copy of the GNU Lesser General Public
23  * License along with Libav; if not, write to the Free Software
24  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
25  */
26
27 #include <stdio.h>
28 #include <stdlib.h>
29 #include <inttypes.h>
30 #include <assert.h>
31
32 #include "config.h"
33 #include "libswscale/rgb2rgb.h"
34 #include "libswscale/swscale.h"
35 #include "libswscale/swscale_internal.h"
36 #include "libavutil/attributes.h"
37 #include "libavutil/x86/asm.h"
38 #include "libavutil/cpu.h"
39
40 #if HAVE_INLINE_ASM
41
42 #define DITHER1XBPP // only for MMX
43
44 /* hope these constant values are cache line aligned */
45 DECLARE_ASM_CONST(8, uint64_t, mmx_00ffw)   = 0x00ff00ff00ff00ffULL;
46 DECLARE_ASM_CONST(8, uint64_t, mmx_redmask) = 0xf8f8f8f8f8f8f8f8ULL;
47 DECLARE_ASM_CONST(8, uint64_t, mmx_grnmask) = 0xfcfcfcfcfcfcfcfcULL;
48 DECLARE_ASM_CONST(8, uint64_t, pb_e0) = 0xe0e0e0e0e0e0e0e0ULL;
49 DECLARE_ASM_CONST(8, uint64_t, pb_03) = 0x0303030303030303ULL;
50 DECLARE_ASM_CONST(8, uint64_t, pb_07) = 0x0707070707070707ULL;
51
52 //MMX versions
53 #if HAVE_MMX_INLINE
54 #undef RENAME
55 #undef COMPILE_TEMPLATE_MMXEXT
56 #define COMPILE_TEMPLATE_MMXEXT 0
57 #define RENAME(a) a ## _MMX
58 #include "yuv2rgb_template.c"
59 #endif /* HAVE_MMX_INLINE */
60
61 // MMXEXT versions
62 #if HAVE_MMXEXT_INLINE
63 #undef RENAME
64 #undef COMPILE_TEMPLATE_MMXEXT
65 #define COMPILE_TEMPLATE_MMXEXT 1
66 #define RENAME(a) a ## _MMXEXT
67 #include "yuv2rgb_template.c"
68 #endif /* HAVE_MMXEXT_INLINE */
69
70 #endif /* HAVE_INLINE_ASM */
71
72 av_cold SwsFunc ff_yuv2rgb_init_mmx(SwsContext *c)
73 {
74 #if HAVE_INLINE_ASM
75     int cpu_flags = av_get_cpu_flags();
76
77     if (c->srcFormat != AV_PIX_FMT_YUV420P &&
78         c->srcFormat != AV_PIX_FMT_YUVA420P)
79         return NULL;
80
81 #if HAVE_MMXEXT_INLINE
82     if (cpu_flags & AV_CPU_FLAG_MMXEXT) {
83         switch (c->dstFormat) {
84         case AV_PIX_FMT_RGB24:
85             return yuv420_rgb24_MMXEXT;
86         case AV_PIX_FMT_BGR24:
87             return yuv420_bgr24_MMXEXT;
88         }
89     }
90 #endif
91
92     if (cpu_flags & AV_CPU_FLAG_MMX) {
93         switch (c->dstFormat) {
94             case AV_PIX_FMT_RGB32:
95                 if (c->srcFormat == AV_PIX_FMT_YUVA420P) {
96 #if HAVE_7REGS && CONFIG_SWSCALE_ALPHA
97                     return yuva420_rgb32_MMX;
98 #endif
99                     break;
100                 } else return yuv420_rgb32_MMX;
101             case AV_PIX_FMT_BGR32:
102                 if (c->srcFormat == AV_PIX_FMT_YUVA420P) {
103 #if HAVE_7REGS && CONFIG_SWSCALE_ALPHA
104                     return yuva420_bgr32_MMX;
105 #endif
106                     break;
107                 } else return yuv420_bgr32_MMX;
108             case AV_PIX_FMT_RGB24:  return yuv420_rgb24_MMX;
109             case AV_PIX_FMT_BGR24:  return yuv420_bgr24_MMX;
110             case AV_PIX_FMT_RGB565: return yuv420_rgb16_MMX;
111             case AV_PIX_FMT_RGB555: return yuv420_rgb15_MMX;
112         }
113     }
114 #endif /* HAVE_INLINE_ASM */
115
116     return NULL;
117 }