avformat/rmdec: Initialize and sanity check offset in ivr_read_header()
[ffmpeg.git] / libavfilter / x86 / yadif-10.asm
1 ;*****************************************************************************
2 ;* x86-optimized functions for yadif filter
3 ;*
4 ;* Copyright (C) 2006 Michael Niedermayer <michaelni@gmx.at>
5 ;* Copyright (c) 2013 Daniel Kang <daniel.d.kang@gmail.com>
6 ;* Copyright (c) 2011-2013 James Darnley <james.darnley@gmail.com>
7 ;*
8 ;* This file is part of FFmpeg.
9 ;*
10 ;* FFmpeg is free software; you can redistribute it and/or
11 ;* modify it under the terms of the GNU Lesser General Public
12 ;* License as published by the Free Software Foundation; either
13 ;* version 2.1 of the License, or (at your option) any later version.
14 ;*
15 ;* FFmpeg is distributed in the hope that it will be useful,
16 ;* but WITHOUT ANY WARRANTY; without even the implied warranty of
17 ;* MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18 ;* Lesser General Public License for more details.
19 ;*
20 ;* You should have received a copy of the GNU Lesser General Public
21 ;* License along with FFmpeg; if not, write to the Free Software
22 ;* Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23 ;******************************************************************************
24
25 %include "libavutil/x86/x86util.asm"
26
27 SECTION_RODATA
28
29 pw_1: times 8 dw 1
30
31 SECTION .text
32
33 %macro PMAXUW 2
34 %if cpuflag(sse4)
35     pmaxuw %1, %2
36 %else
37     psubusw %1, %2
38     paddusw %1, %2
39 %endif
40 %endmacro
41
42 %macro CHECK 2
43     movu      m2, [curq+t1+%1*2]
44     movu      m3, [curq+t0+%2*2]
45     mova      m4, m2
46     mova      m5, m2
47     pxor      m4, m3
48     pavgw     m5, m3
49     pand      m4, [pw_1]
50     psubusw   m5, m4
51     RSHIFT    m5, 2
52     mova      m4, m2
53     psubusw   m2, m3
54     psubusw   m3, m4
55     PMAXUW    m2, m3
56     mova      m3, m2
57     mova      m4, m2
58     RSHIFT    m3, 2
59     RSHIFT    m4, 4
60     paddw     m2, m3
61     paddw     m2, m4
62 %endmacro
63
64 %macro CHECK1 0
65     mova    m3, m0
66     pcmpgtw m3, m2
67     pminsw  m0, m2
68     mova    m6, m3
69     pand    m5, m3
70     pandn   m3, m1
71     por     m3, m5
72     mova    m1, m3
73 %endmacro
74
75 ; %macro CHECK2 0
76 ;     paddw   m6, [pw_1]
77 ;     psllw   m6, 14
78 ;     paddsw  m2, m6
79 ;     mova    m3, m0
80 ;     pcmpgtw m3, m2
81 ;     pminsw  m0, m2
82 ;     pand    m5, m3
83 ;     pandn   m3, m1
84 ;     por     m3, m5
85 ;     mova    m1, m3
86 ; %endmacro
87
88 ; This version of CHECK2 is required for 14-bit samples.  The left-shift trick
89 ; in the old code is not large enough to correctly select pixels or scores.
90
91 %macro CHECK2 0
92     mova    m3, m0
93     pcmpgtw m0, m2
94     pand    m0, m6
95     mova    m6, m0
96     pand    m5, m6
97     pand    m2, m0
98     pandn   m6, m1
99     pandn   m0, m3
100     por     m6, m5
101     por     m0, m2
102     mova    m1, m6
103 %endmacro
104
105 %macro LOAD 2
106     movu      %1, %2
107 %endmacro
108
109 %macro FILTER 3
110 .loop%1:
111     pxor         m7, m7
112     LOAD         m0, [curq+t1]
113     LOAD         m1, [curq+t0]
114     LOAD         m2, [%2]
115     LOAD         m3, [%3]
116     mova         m4, m3
117     paddw        m3, m2
118     psraw        m3, 1
119     mova   [rsp+ 0], m0
120     mova   [rsp+16], m3
121     mova   [rsp+32], m1
122     psubw        m2, m4
123     ABS1         m2, m4
124     LOAD         m3, [prevq+t1]
125     LOAD         m4, [prevq+t0]
126     psubw        m3, m0
127     psubw        m4, m1
128     ABS2         m3, m4, m5, m6
129     paddw        m3, m4
130     psrlw        m2, 1
131     psrlw        m3, 1
132     pmaxsw       m2, m3
133     LOAD         m3, [nextq+t1]
134     LOAD         m4, [nextq+t0]
135     psubw        m3, m0
136     psubw        m4, m1
137     ABS2         m3, m4, m5, m6
138     paddw        m3, m4
139     psrlw        m3, 1
140     pmaxsw       m2, m3
141     mova   [rsp+48], m2
142
143     paddw        m1, m0
144     paddw        m0, m0
145     psubw        m0, m1
146     psrlw        m1, 1
147     ABS1         m0, m2
148
149     movu         m2, [curq+t1-1*2]
150     movu         m3, [curq+t0-1*2]
151     mova         m4, m2
152     psubusw      m2, m3
153     psubusw      m3, m4
154     PMAXUW       m2, m3
155     mova         m3, m2
156     RSHIFT       m3, 4
157     paddw        m0, m2
158     paddw        m0, m3
159     psubw        m0, [pw_1]
160
161     CHECK -2, 0
162     CHECK1
163     CHECK -3, 1
164     CHECK2
165     CHECK 0, -2
166     CHECK1
167     CHECK 1, -3
168     CHECK2
169
170     mova         m6, [rsp+48]
171     cmp   DWORD r8m, 2
172     jge .end%1
173     LOAD         m2, [%2+t1*2]
174     LOAD         m4, [%3+t1*2]
175     LOAD         m3, [%2+t0*2]
176     LOAD         m5, [%3+t0*2]
177     paddw        m2, m4
178     paddw        m3, m5
179     psrlw        m2, 1
180     psrlw        m3, 1
181     mova         m4, [rsp+ 0]
182     mova         m5, [rsp+16]
183     mova         m7, [rsp+32]
184     psubw        m2, m4
185     psubw        m3, m7
186     mova         m0, m5
187     psubw        m5, m4
188     psubw        m0, m7
189     mova         m4, m2
190     pminsw       m2, m3
191     pmaxsw       m3, m4
192     pmaxsw       m2, m5
193     pminsw       m3, m5
194     pmaxsw       m2, m0
195     pminsw       m3, m0
196     pxor         m4, m4
197     pmaxsw       m6, m3
198     psubw        m4, m2
199     pmaxsw       m6, m4
200
201 .end%1:
202     mova         m2, [rsp+16]
203     mova         m3, m2
204     psubw        m2, m6
205     paddw        m3, m6
206     pmaxsw       m1, m2
207     pminsw       m1, m3
208
209     movu     [dstq], m1
210     add        dstq, mmsize-4
211     add       prevq, mmsize-4
212     add        curq, mmsize-4
213     add       nextq, mmsize-4
214     sub   DWORD r4m, mmsize/2-2
215     jg .loop%1
216 %endmacro
217
218 %macro YADIF 0
219 %if ARCH_X86_32
220 cglobal yadif_filter_line_10bit, 4, 6, 8, 80, dst, prev, cur, next, w, \
221                                               prefs, mrefs, parity, mode
222 %else
223 cglobal yadif_filter_line_10bit, 4, 7, 8, 80, dst, prev, cur, next, w, \
224                                               prefs, mrefs, parity, mode
225 %endif
226 %if ARCH_X86_32
227     mov            r4, r5mp
228     mov            r5, r6mp
229     DECLARE_REG_TMP 4,5
230 %else
231     movsxd         r5, DWORD r5m
232     movsxd         r6, DWORD r6m
233     DECLARE_REG_TMP 5,6
234 %endif
235
236     cmp DWORD paritym, 0
237     je .parity0
238     FILTER 1, prevq, curq
239     jmp .ret
240
241 .parity0:
242     FILTER 0, curq, nextq
243
244 .ret:
245     RET
246 %endmacro
247
248 INIT_XMM ssse3
249 YADIF
250 INIT_XMM sse2
251 YADIF
252 %if ARCH_X86_32
253 INIT_MMX mmxext
254 YADIF
255 %endif