Merge remote-tracking branch 'qatar/master'
[ffmpeg.git] / libavcodec / simple_idct.c
1 /*
2  * Simple IDCT
3  *
4  * Copyright (c) 2001 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * simpleidct in C.
26  */
27
28 #include "libavutil/intreadwrite.h"
29 #include "avcodec.h"
30 #include "dsputil.h"
31 #include "mathops.h"
32 #include "simple_idct.h"
33
34 #define BIT_DEPTH 8
35 #include "simple_idct_template.c"
36 #undef BIT_DEPTH
37
38 #define BIT_DEPTH 10
39 #include "simple_idct_template.c"
40 #undef BIT_DEPTH
41
42 /* 2x4x8 idct */
43
44 #define CN_SHIFT 12
45 #define C_FIX(x) ((int)((x) * (1 << CN_SHIFT) + 0.5))
46 #define C1 C_FIX(0.6532814824)
47 #define C2 C_FIX(0.2705980501)
48
49 /* row idct is multiple by 16 * sqrt(2.0), col idct4 is normalized,
50    and the butterfly must be multiplied by 0.5 * sqrt(2.0) */
51 #define C_SHIFT (4+1+12)
52
53 static inline void idct4col_put(uint8_t *dest, int line_size, const DCTELEM *col)
54 {
55     int c0, c1, c2, c3, a0, a1, a2, a3;
56     const uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
57
58     a0 = col[8*0];
59     a1 = col[8*2];
60     a2 = col[8*4];
61     a3 = col[8*6];
62     c0 = ((a0 + a2) << (CN_SHIFT - 1)) + (1 << (C_SHIFT - 1));
63     c2 = ((a0 - a2) << (CN_SHIFT - 1)) + (1 << (C_SHIFT - 1));
64     c1 = a1 * C1 + a3 * C2;
65     c3 = a1 * C2 - a3 * C1;
66     dest[0] = cm[(c0 + c1) >> C_SHIFT];
67     dest += line_size;
68     dest[0] = cm[(c2 + c3) >> C_SHIFT];
69     dest += line_size;
70     dest[0] = cm[(c2 - c3) >> C_SHIFT];
71     dest += line_size;
72     dest[0] = cm[(c0 - c1) >> C_SHIFT];
73 }
74
75 #define BF(k) \
76 {\
77     int a0, a1;\
78     a0 = ptr[k];\
79     a1 = ptr[8 + k];\
80     ptr[k] = a0 + a1;\
81     ptr[8 + k] = a0 - a1;\
82 }
83
84 /* only used by DV codec. The input must be interlaced. 128 is added
85    to the pixels before clamping to avoid systematic error
86    (1024*sqrt(2)) offset would be needed otherwise. */
87 /* XXX: I think a 1.0/sqrt(2) normalization should be needed to
88    compensate the extra butterfly stage - I don't have the full DV
89    specification */
90 void ff_simple_idct248_put(uint8_t *dest, int line_size, DCTELEM *block)
91 {
92     int i;
93     DCTELEM *ptr;
94
95     /* butterfly */
96     ptr = block;
97     for(i=0;i<4;i++) {
98         BF(0);
99         BF(1);
100         BF(2);
101         BF(3);
102         BF(4);
103         BF(5);
104         BF(6);
105         BF(7);
106         ptr += 2 * 8;
107     }
108
109     /* IDCT8 on each line */
110     for(i=0; i<8; i++) {
111         idctRowCondDC_8(block + i*8);
112     }
113
114     /* IDCT4 and store */
115     for(i=0;i<8;i++) {
116         idct4col_put(dest + i, 2 * line_size, block + i);
117         idct4col_put(dest + line_size + i, 2 * line_size, block + 8 + i);
118     }
119 }
120
121 /* 8x4 & 4x8 WMV2 IDCT */
122 #undef CN_SHIFT
123 #undef C_SHIFT
124 #undef C_FIX
125 #undef C1
126 #undef C2
127 #define CN_SHIFT 12
128 #define C_FIX(x) ((int)((x) * 1.414213562 * (1 << CN_SHIFT) + 0.5))
129 #define C1 C_FIX(0.6532814824)
130 #define C2 C_FIX(0.2705980501)
131 #define C3 C_FIX(0.5)
132 #define C_SHIFT (4+1+12)
133 static inline void idct4col_add(uint8_t *dest, int line_size, const DCTELEM *col)
134 {
135     int c0, c1, c2, c3, a0, a1, a2, a3;
136     const uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
137
138     a0 = col[8*0];
139     a1 = col[8*1];
140     a2 = col[8*2];
141     a3 = col[8*3];
142     c0 = (a0 + a2)*C3 + (1 << (C_SHIFT - 1));
143     c2 = (a0 - a2)*C3 + (1 << (C_SHIFT - 1));
144     c1 = a1 * C1 + a3 * C2;
145     c3 = a1 * C2 - a3 * C1;
146     dest[0] = cm[dest[0] + ((c0 + c1) >> C_SHIFT)];
147     dest += line_size;
148     dest[0] = cm[dest[0] + ((c2 + c3) >> C_SHIFT)];
149     dest += line_size;
150     dest[0] = cm[dest[0] + ((c2 - c3) >> C_SHIFT)];
151     dest += line_size;
152     dest[0] = cm[dest[0] + ((c0 - c1) >> C_SHIFT)];
153 }
154
155 #define RN_SHIFT 15
156 #define R_FIX(x) ((int)((x) * 1.414213562 * (1 << RN_SHIFT) + 0.5))
157 #define R1 R_FIX(0.6532814824)
158 #define R2 R_FIX(0.2705980501)
159 #define R3 R_FIX(0.5)
160 #define R_SHIFT 11
161 static inline void idct4row(DCTELEM *row)
162 {
163     int c0, c1, c2, c3, a0, a1, a2, a3;
164     //const uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
165
166     a0 = row[0];
167     a1 = row[1];
168     a2 = row[2];
169     a3 = row[3];
170     c0 = (a0 + a2)*R3 + (1 << (R_SHIFT - 1));
171     c2 = (a0 - a2)*R3 + (1 << (R_SHIFT - 1));
172     c1 = a1 * R1 + a3 * R2;
173     c3 = a1 * R2 - a3 * R1;
174     row[0]= (c0 + c1) >> R_SHIFT;
175     row[1]= (c2 + c3) >> R_SHIFT;
176     row[2]= (c2 - c3) >> R_SHIFT;
177     row[3]= (c0 - c1) >> R_SHIFT;
178 }
179
180 void ff_simple_idct84_add(uint8_t *dest, int line_size, DCTELEM *block)
181 {
182     int i;
183
184     /* IDCT8 on each line */
185     for(i=0; i<4; i++) {
186         idctRowCondDC_8(block + i*8);
187     }
188
189     /* IDCT4 and store */
190     for(i=0;i<8;i++) {
191         idct4col_add(dest + i, line_size, block + i);
192     }
193 }
194
195 void ff_simple_idct48_add(uint8_t *dest, int line_size, DCTELEM *block)
196 {
197     int i;
198
199     /* IDCT4 on each line */
200     for(i=0; i<8; i++) {
201         idct4row(block + i*8);
202     }
203
204     /* IDCT8 and store */
205     for(i=0; i<4; i++){
206         idctSparseColAdd_8(dest + i, line_size, block + i);
207     }
208 }
209
210 void ff_simple_idct44_add(uint8_t *dest, int line_size, DCTELEM *block)
211 {
212     int i;
213
214     /* IDCT4 on each line */
215     for(i=0; i<4; i++) {
216         idct4row(block + i*8);
217     }
218
219     /* IDCT4 and store */
220     for(i=0; i<4; i++){
221         idct4col_add(dest + i, line_size, block + i);
222     }
223 }
224
225 void ff_prores_idct(DCTELEM *block, const int16_t *qmat)
226 {
227     int i;
228
229     for (i = 0; i < 64; i++)
230         block[i] *= qmat[i];
231
232     for (i = 0; i < 8; i++)
233         idctRowCondDC_10(block + i*8);
234
235     for (i = 0; i < 64; i++)
236         block[i] >>= 2;
237
238     for (i = 0; i < 8; i++)
239         idctSparseCol_10(block + i);
240 }