asfdec: read attached pictures.
[ffmpeg.git] / libavfilter / x86 / gradfun.c
1 /*
2  * Copyright (C) 2009 Loren Merritt <lorenm@u.washignton.edu>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/attributes.h"
22 #include "libavutil/cpu.h"
23 #include "libavutil/x86_cpu.h"
24 #include "libavfilter/gradfun.h"
25
26 DECLARE_ALIGNED(16, static const uint16_t, pw_7f)[8] = {0x7F,0x7F,0x7F,0x7F,0x7F,0x7F,0x7F,0x7F};
27 DECLARE_ALIGNED(16, static const uint16_t, pw_ff)[8] = {0xFF,0xFF,0xFF,0xFF,0xFF,0xFF,0xFF,0xFF};
28
29 #if HAVE_MMX2
30 static void gradfun_filter_line_mmx2(uint8_t *dst, uint8_t *src, uint16_t *dc, int width, int thresh, const uint16_t *dithers)
31 {
32     intptr_t x;
33     if (width & 3) {
34         x = width & ~3;
35         ff_gradfun_filter_line_c(dst + x, src + x, dc + x / 2, width - x, thresh, dithers);
36         width = x;
37     }
38     x = -width;
39     __asm__ volatile(
40         "movd          %4, %%mm5 \n"
41         "pxor       %%mm7, %%mm7 \n"
42         "pshufw $0, %%mm5, %%mm5 \n"
43         "movq          %6, %%mm6 \n"
44         "movq          %5, %%mm4 \n"
45         "1: \n"
46         "movd     (%2,%0), %%mm0 \n"
47         "movd     (%3,%0), %%mm1 \n"
48         "punpcklbw  %%mm7, %%mm0 \n"
49         "punpcklwd  %%mm1, %%mm1 \n"
50         "psllw         $7, %%mm0 \n"
51         "pxor       %%mm2, %%mm2 \n"
52         "psubw      %%mm0, %%mm1 \n" // delta = dc - pix
53         "psubw      %%mm1, %%mm2 \n"
54         "pmaxsw     %%mm1, %%mm2 \n"
55         "pmulhuw    %%mm5, %%mm2 \n" // m = abs(delta) * thresh >> 16
56         "psubw      %%mm6, %%mm2 \n"
57         "pminsw     %%mm7, %%mm2 \n" // m = -max(0, 127-m)
58         "pmullw     %%mm2, %%mm2 \n"
59         "paddw      %%mm4, %%mm0 \n" // pix += dither
60         "pmulhw     %%mm2, %%mm1 \n"
61         "psllw         $2, %%mm1 \n" // m = m*m*delta >> 14
62         "paddw      %%mm1, %%mm0 \n" // pix += m
63         "psraw         $7, %%mm0 \n"
64         "packuswb   %%mm0, %%mm0 \n"
65         "movd       %%mm0, (%1,%0) \n" // dst = clip(pix>>7)
66         "add           $4, %0 \n"
67         "jl 1b \n"
68         "emms \n"
69         :"+r"(x)
70         :"r"(dst+width), "r"(src+width), "r"(dc+width/2),
71          "rm"(thresh), "m"(*dithers), "m"(*pw_7f)
72         :"memory"
73     );
74 }
75 #endif
76
77 #if HAVE_SSSE3
78 static void gradfun_filter_line_ssse3(uint8_t *dst, uint8_t *src, uint16_t *dc, int width, int thresh, const uint16_t *dithers)
79 {
80     intptr_t x;
81     if (width & 7) {
82         // could be 10% faster if I somehow eliminated this
83         x = width & ~7;
84         ff_gradfun_filter_line_c(dst + x, src + x, dc + x / 2, width - x, thresh, dithers);
85         width = x;
86     }
87     x = -width;
88     __asm__ volatile(
89         "movd           %4, %%xmm5 \n"
90         "pxor       %%xmm7, %%xmm7 \n"
91         "pshuflw $0,%%xmm5, %%xmm5 \n"
92         "movdqa         %6, %%xmm6 \n"
93         "punpcklqdq %%xmm5, %%xmm5 \n"
94         "movdqa         %5, %%xmm4 \n"
95         "1: \n"
96         "movq      (%2,%0), %%xmm0 \n"
97         "movq      (%3,%0), %%xmm1 \n"
98         "punpcklbw  %%xmm7, %%xmm0 \n"
99         "punpcklwd  %%xmm1, %%xmm1 \n"
100         "psllw          $7, %%xmm0 \n"
101         "psubw      %%xmm0, %%xmm1 \n" // delta = dc - pix
102         "pabsw      %%xmm1, %%xmm2 \n"
103         "pmulhuw    %%xmm5, %%xmm2 \n" // m = abs(delta) * thresh >> 16
104         "psubw      %%xmm6, %%xmm2 \n"
105         "pminsw     %%xmm7, %%xmm2 \n" // m = -max(0, 127-m)
106         "pmullw     %%xmm2, %%xmm2 \n"
107         "psllw          $1, %%xmm2 \n"
108         "paddw      %%xmm4, %%xmm0 \n" // pix += dither
109         "pmulhrsw   %%xmm2, %%xmm1 \n" // m = m*m*delta >> 14
110         "paddw      %%xmm1, %%xmm0 \n" // pix += m
111         "psraw          $7, %%xmm0 \n"
112         "packuswb   %%xmm0, %%xmm0 \n"
113         "movq       %%xmm0, (%1,%0) \n" // dst = clip(pix>>7)
114         "add            $8, %0 \n"
115         "jl 1b \n"
116         :"+&r"(x)
117         :"r"(dst+width), "r"(src+width), "r"(dc+width/2),
118          "rm"(thresh), "m"(*dithers), "m"(*pw_7f)
119         :"memory"
120     );
121 }
122 #endif // HAVE_SSSE3
123
124 #if HAVE_SSE
125 static void gradfun_blur_line_sse2(uint16_t *dc, uint16_t *buf, uint16_t *buf1, uint8_t *src, int src_linesize, int width)
126 {
127 #define BLURV(load)\
128     intptr_t x = -2*width;\
129     __asm__ volatile(\
130         "movdqa %6, %%xmm7 \n"\
131         "1: \n"\
132         load"   (%4,%0), %%xmm0 \n"\
133         load"   (%5,%0), %%xmm1 \n"\
134         "movdqa  %%xmm0, %%xmm2 \n"\
135         "movdqa  %%xmm1, %%xmm3 \n"\
136         "psrlw       $8, %%xmm0 \n"\
137         "psrlw       $8, %%xmm1 \n"\
138         "pand    %%xmm7, %%xmm2 \n"\
139         "pand    %%xmm7, %%xmm3 \n"\
140         "paddw   %%xmm1, %%xmm0 \n"\
141         "paddw   %%xmm3, %%xmm2 \n"\
142         "paddw   %%xmm2, %%xmm0 \n"\
143         "paddw  (%2,%0), %%xmm0 \n"\
144         "movdqa (%1,%0), %%xmm1 \n"\
145         "movdqa  %%xmm0, (%1,%0) \n"\
146         "psubw   %%xmm1, %%xmm0 \n"\
147         "movdqa  %%xmm0, (%3,%0) \n"\
148         "add        $16, %0 \n"\
149         "jl 1b \n"\
150         :"+&r"(x)\
151         :"r"(buf+width),\
152          "r"(buf1+width),\
153          "r"(dc+width),\
154          "r"(src+width*2),\
155          "r"(src+width*2+src_linesize),\
156          "m"(*pw_ff)\
157         :"memory"\
158     );
159     if (((intptr_t) src | src_linesize) & 15) {
160         BLURV("movdqu");
161     } else {
162         BLURV("movdqa");
163     }
164 }
165 #endif // HAVE_SSE
166
167 av_cold void ff_gradfun_init_x86(GradFunContext *gf)
168 {
169     int cpu_flags = av_get_cpu_flags();
170
171     if (HAVE_MMX2 && cpu_flags & AV_CPU_FLAG_MMX2)
172         gf->filter_line = gradfun_filter_line_mmx2;
173     if (HAVE_SSSE3 && cpu_flags & AV_CPU_FLAG_SSSE3)
174         gf->filter_line = gradfun_filter_line_ssse3;
175     if (HAVE_SSE && cpu_flags & AV_CPU_FLAG_SSE2)
176         gf->blur_line = gradfun_blur_line_sse2;
177 }