avcodec/x86: allow future 8-bit simple idct to use slightly different coefficients
[ffmpeg.git] / libavcodec / x86 / simple_idct10.asm
1 ;******************************************************************************
2 ;* x86-SIMD-optimized IDCT for prores
3 ;* this is identical to "simple" IDCT written by Michael Niedermayer
4 ;* except for the clip range
5 ;*
6 ;* Copyright (c) 2011 Ronald S. Bultje <rsbultje@gmail.com>
7 ;* Copyright (c) 2015 Christophe Gisquet
8 ;*
9 ;* This file is part of FFmpeg.
10 ;*
11 ;* FFmpeg is free software; you can redistribute it and/or
12 ;* modify it under the terms of the GNU Lesser General Public
13 ;* License as published by the Free Software Foundation; either
14 ;* version 2.1 of the License, or (at your option) any later version.
15 ;*
16 ;* FFmpeg is distributed in the hope that it will be useful,
17 ;* but WITHOUT ANY WARRANTY; without even the implied warranty of
18 ;* MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
19 ;* Lesser General Public License for more details.
20 ;*
21 ;* You should have received a copy of the GNU Lesser General Public
22 ;* License along with FFmpeg; if not, write to the Free Software
23 ;* 51, Inc., Foundation Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
24 ;******************************************************************************
25
26 %include "libavutil/x86/x86util.asm"
27
28 %if ARCH_X86_64
29
30 SECTION_RODATA
31
32 cextern pw_2
33 cextern pw_16
34 cextern pw_1023
35 cextern pw_4095
36 pd_round_12: times 4 dd 1<<(12-1)
37 pd_round_15: times 4 dd 1<<(15-1)
38 pd_round_19: times 4 dd 1<<(19-1)
39
40 %macro CONST_DEC  3
41 const %1
42 times 4 dw %2, %3
43 %endmacro
44
45 %define W1sh2 22725 ; W1 = 90901 = 22725<<2 + 1
46 %define W2sh2 21407 ; W2 = 85627 = 21407<<2 - 1
47 %define W3sh2 19265 ; W3 = 77062 = 19265<<2 + 2
48 %define W4sh2 16384 ; W4 = 65535 = 16384<<2 - 1
49 %define W3sh2_lo 19266
50 %define W4sh2_lo 16383
51 %define W5sh2 12873 ; W5 = 51491 = 12873<<2 - 1
52 %define W6sh2  8867 ; W6 = 35468 =  8867<<2
53 %define W7sh2  4520 ; W7 = 18081 =  4520<<2 + 1
54
55 CONST_DEC  w4_plus_w2_hi,   W4sh2, +W2sh2
56 CONST_DEC  w4_min_w2_hi,    W4sh2, -W2sh2
57 CONST_DEC  w4_plus_w6_hi,   W4sh2, +W6sh2
58 CONST_DEC  w4_min_w6_hi,    W4sh2, -W6sh2
59 CONST_DEC  w1_plus_w3_hi,   W1sh2, +W3sh2
60 CONST_DEC  w3_min_w1_hi,    W3sh2, -W1sh2
61 CONST_DEC  w7_plus_w3_hi,   W7sh2, +W3sh2
62 CONST_DEC  w3_min_w7_hi,    W3sh2, -W7sh2
63 CONST_DEC  w1_plus_w5,   W1sh2, +W5sh2
64 CONST_DEC  w5_min_w1,    W5sh2, -W1sh2
65 CONST_DEC  w5_plus_w7,   W5sh2, +W7sh2
66 CONST_DEC  w7_min_w5,    W7sh2, -W5sh2
67 CONST_DEC  w4_plus_w2_lo,   W4sh2_lo, +W2sh2
68 CONST_DEC  w4_min_w2_lo,    W4sh2_lo, -W2sh2
69 CONST_DEC  w4_plus_w6_lo,   W4sh2_lo, +W6sh2
70 CONST_DEC  w4_min_w6_lo,    W4sh2_lo, -W6sh2
71 CONST_DEC  w1_plus_w3_lo,   W1sh2,    +W3sh2_lo
72 CONST_DEC  w3_min_w1_lo,    W3sh2_lo, -W1sh2
73 CONST_DEC  w7_plus_w3_lo,   W7sh2,    +W3sh2_lo
74 CONST_DEC  w3_min_w7_lo,    W3sh2_lo, -W7sh2
75
76 %include "libavcodec/x86/simple_idct10_template.asm"
77
78 SECTION .text
79
80 %macro idct_fn 0
81
82 define_constants _hi
83
84 cglobal simple_idct10, 1, 1, 16, block
85     IDCT_FN    "", 12, "", 19, "store"
86     RET
87
88 cglobal simple_idct10_put, 3, 3, 16, pixels, lsize, block
89     IDCT_FN    "", 12, "", 19, "put", 0, pw_1023
90     RET
91
92 cglobal simple_idct12, 1, 1, 16, block
93     ; coeffs are already 15bits, adding the offset would cause
94     ; overflow in the input
95     IDCT_FN    "", 15, pw_2, 16, "store"
96     RET
97
98 cglobal simple_idct12_put, 3, 3, 16, pixels, lsize, block
99     ; range isn't known, so the C simple_idct range is used
100     ; Also, using a bias on input overflows, so use the bias
101     ; on output of the first butterfly instead
102     IDCT_FN    "", 15, pw_2, 16, "put", 0, pw_4095
103     RET
104 %endmacro
105
106 INIT_XMM sse2
107 idct_fn
108 %if HAVE_AVX_EXTERNAL
109 INIT_XMM avx
110 idct_fn
111 %endif
112
113 %endif