tiff: Check that there is no aliasing in pixel format selection
[ffmpeg.git] / libavcodec / sbrdsp.c
1 /*
2  * AAC Spectral Band Replication decoding functions
3  * Copyright (c) 2008-2009 Robert Swain ( rob opendot cl )
4  * Copyright (c) 2009-2010 Alex Converse <alex.converse@gmail.com>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "config.h"
24 #include "libavutil/attributes.h"
25 #include "libavutil/intfloat.h"
26 #include "sbrdsp.h"
27
28 static void sbr_sum64x5_c(float *z)
29 {
30     int k;
31     for (k = 0; k < 64; k++) {
32         float f = z[k] + z[k + 64] + z[k + 128] + z[k + 192] + z[k + 256];
33         z[k] = f;
34     }
35 }
36
37 static float sbr_sum_square_c(float (*x)[2], int n)
38 {
39     float sum0 = 0.0f, sum1 = 0.0f;
40     int i;
41
42     for (i = 0; i < n; i += 2)
43     {
44         sum0 += x[i + 0][0] * x[i + 0][0];
45         sum1 += x[i + 0][1] * x[i + 0][1];
46         sum0 += x[i + 1][0] * x[i + 1][0];
47         sum1 += x[i + 1][1] * x[i + 1][1];
48     }
49
50     return sum0 + sum1;
51 }
52
53 static void sbr_neg_odd_64_c(float *x)
54 {
55     union av_intfloat32 *xi = (union av_intfloat32*) x;
56     int i;
57     for (i = 1; i < 64; i += 4) {
58         xi[i + 0].i ^= 1U << 31;
59         xi[i + 2].i ^= 1U << 31;
60     }
61 }
62
63 static void sbr_qmf_pre_shuffle_c(float *z)
64 {
65     union av_intfloat32 *zi = (union av_intfloat32*) z;
66     int k;
67     zi[64].i = zi[0].i;
68     zi[65].i = zi[1].i;
69     for (k = 1; k < 31; k += 2) {
70         zi[64 + 2 * k + 0].i = zi[64 - k].i ^ (1U << 31);
71         zi[64 + 2 * k + 1].i = zi[ k + 1].i;
72         zi[64 + 2 * k + 2].i = zi[63 - k].i ^ (1U << 31);
73         zi[64 + 2 * k + 3].i = zi[ k + 2].i;
74     }
75     zi[64 + 2 * 31 + 0].i = zi[64 - 31].i ^ (1U << 31);
76     zi[64 + 2 * 31 + 1].i = zi[31 +  1].i;
77 }
78
79 static void sbr_qmf_post_shuffle_c(float W[32][2], const float *z)
80 {
81     const union av_intfloat32 *zi = (const union av_intfloat32*) z;
82     union av_intfloat32 *Wi       = (union av_intfloat32*) W;
83     int k;
84     for (k = 0; k < 32; k += 2) {
85         Wi[2 * k + 0].i = zi[63 - k].i ^ (1U << 31);
86         Wi[2 * k + 1].i = zi[ k + 0].i;
87         Wi[2 * k + 2].i = zi[62 - k].i ^ (1U << 31);
88         Wi[2 * k + 3].i = zi[ k + 1].i;
89     }
90 }
91
92 static void sbr_qmf_deint_neg_c(float *v, const float *src)
93 {
94     const union av_intfloat32 *si = (const union av_intfloat32*)src;
95     union av_intfloat32 *vi = (union av_intfloat32*)v;
96     int i;
97     for (i = 0; i < 32; i++) {
98         vi[     i].i = si[63 - 2 * i    ].i;
99         vi[63 - i].i = si[63 - 2 * i - 1].i ^ (1U << 31);
100     }
101 }
102
103 static void sbr_qmf_deint_bfly_c(float *v, const float *src0, const float *src1)
104 {
105     int i;
106     for (i = 0; i < 64; i++) {
107         v[      i] = src0[i] - src1[63 - i];
108         v[127 - i] = src0[i] + src1[63 - i];
109     }
110 }
111
112
113 #if 0
114     /* This code is slower because it multiplies memory accesses.
115      * It is left for educational purposes and because it may offer
116      * a better reference for writing arch-specific DSP functions. */
117 static av_always_inline void autocorrelate(const float x[40][2],
118                                            float phi[3][2][2], int lag)
119 {
120     int i;
121     float real_sum = 0.0f;
122     float imag_sum = 0.0f;
123     if (lag) {
124         for (i = 1; i < 38; i++) {
125             real_sum += x[i][0] * x[i+lag][0] + x[i][1] * x[i+lag][1];
126             imag_sum += x[i][0] * x[i+lag][1] - x[i][1] * x[i+lag][0];
127         }
128         phi[2-lag][1][0] = real_sum + x[ 0][0] * x[lag][0] + x[ 0][1] * x[lag][1];
129         phi[2-lag][1][1] = imag_sum + x[ 0][0] * x[lag][1] - x[ 0][1] * x[lag][0];
130         if (lag == 1) {
131             phi[0][0][0] = real_sum + x[38][0] * x[39][0] + x[38][1] * x[39][1];
132             phi[0][0][1] = imag_sum + x[38][0] * x[39][1] - x[38][1] * x[39][0];
133         }
134     } else {
135         for (i = 1; i < 38; i++) {
136             real_sum += x[i][0] * x[i][0] + x[i][1] * x[i][1];
137         }
138         phi[2][1][0] = real_sum + x[ 0][0] * x[ 0][0] + x[ 0][1] * x[ 0][1];
139         phi[1][0][0] = real_sum + x[38][0] * x[38][0] + x[38][1] * x[38][1];
140     }
141 }
142
143 static void sbr_autocorrelate_c(const float x[40][2], float phi[3][2][2])
144 {
145     autocorrelate(x, phi, 0);
146     autocorrelate(x, phi, 1);
147     autocorrelate(x, phi, 2);
148 }
149 #else
150 static void sbr_autocorrelate_c(const float x[40][2], float phi[3][2][2])
151 {
152     float real_sum2 = x[0][0] * x[2][0] + x[0][1] * x[2][1];
153     float imag_sum2 = x[0][0] * x[2][1] - x[0][1] * x[2][0];
154     float real_sum1 = 0.0f, imag_sum1 = 0.0f, real_sum0 = 0.0f;
155     int   i;
156     for (i = 1; i < 38; i++) {
157         real_sum0 += x[i][0] * x[i    ][0] + x[i][1] * x[i    ][1];
158         real_sum1 += x[i][0] * x[i + 1][0] + x[i][1] * x[i + 1][1];
159         imag_sum1 += x[i][0] * x[i + 1][1] - x[i][1] * x[i + 1][0];
160         real_sum2 += x[i][0] * x[i + 2][0] + x[i][1] * x[i + 2][1];
161         imag_sum2 += x[i][0] * x[i + 2][1] - x[i][1] * x[i + 2][0];
162     }
163     phi[2 - 2][1][0] = real_sum2;
164     phi[2 - 2][1][1] = imag_sum2;
165     phi[2    ][1][0] = real_sum0 + x[ 0][0] * x[ 0][0] + x[ 0][1] * x[ 0][1];
166     phi[1    ][0][0] = real_sum0 + x[38][0] * x[38][0] + x[38][1] * x[38][1];
167     phi[2 - 1][1][0] = real_sum1 + x[ 0][0] * x[ 1][0] + x[ 0][1] * x[ 1][1];
168     phi[2 - 1][1][1] = imag_sum1 + x[ 0][0] * x[ 1][1] - x[ 0][1] * x[ 1][0];
169     phi[0    ][0][0] = real_sum1 + x[38][0] * x[39][0] + x[38][1] * x[39][1];
170     phi[0    ][0][1] = imag_sum1 + x[38][0] * x[39][1] - x[38][1] * x[39][0];
171 #endif
172 }
173
174 static void sbr_hf_gen_c(float (*X_high)[2], const float (*X_low)[2],
175                          const float alpha0[2], const float alpha1[2],
176                          float bw, int start, int end)
177 {
178     float alpha[4];
179     int i;
180
181     alpha[0] = alpha1[0] * bw * bw;
182     alpha[1] = alpha1[1] * bw * bw;
183     alpha[2] = alpha0[0] * bw;
184     alpha[3] = alpha0[1] * bw;
185
186     for (i = start; i < end; i++) {
187         X_high[i][0] =
188             X_low[i - 2][0] * alpha[0] -
189             X_low[i - 2][1] * alpha[1] +
190             X_low[i - 1][0] * alpha[2] -
191             X_low[i - 1][1] * alpha[3] +
192             X_low[i][0];
193         X_high[i][1] =
194             X_low[i - 2][1] * alpha[0] +
195             X_low[i - 2][0] * alpha[1] +
196             X_low[i - 1][1] * alpha[2] +
197             X_low[i - 1][0] * alpha[3] +
198             X_low[i][1];
199     }
200 }
201
202 static void sbr_hf_g_filt_c(float (*Y)[2], const float (*X_high)[40][2],
203                             const float *g_filt, int m_max, intptr_t ixh)
204 {
205     int m;
206
207     for (m = 0; m < m_max; m++) {
208         Y[m][0] = X_high[m][ixh][0] * g_filt[m];
209         Y[m][1] = X_high[m][ixh][1] * g_filt[m];
210     }
211 }
212
213 static av_always_inline void sbr_hf_apply_noise(float (*Y)[2],
214                                                 const float *s_m,
215                                                 const float *q_filt,
216                                                 int noise,
217                                                 float phi_sign0,
218                                                 float phi_sign1,
219                                                 int m_max)
220 {
221     int m;
222
223     for (m = 0; m < m_max; m++) {
224         float y0 = Y[m][0];
225         float y1 = Y[m][1];
226         noise = (noise + 1) & 0x1ff;
227         if (s_m[m]) {
228             y0 += s_m[m] * phi_sign0;
229             y1 += s_m[m] * phi_sign1;
230         } else {
231             y0 += q_filt[m] * ff_sbr_noise_table[noise][0];
232             y1 += q_filt[m] * ff_sbr_noise_table[noise][1];
233         }
234         Y[m][0] = y0;
235         Y[m][1] = y1;
236         phi_sign1 = -phi_sign1;
237     }
238 }
239
240 static void sbr_hf_apply_noise_0(float (*Y)[2], const float *s_m,
241                                  const float *q_filt, int noise,
242                                  int kx, int m_max)
243 {
244     sbr_hf_apply_noise(Y, s_m, q_filt, noise, 1.0, 0.0, m_max);
245 }
246
247 static void sbr_hf_apply_noise_1(float (*Y)[2], const float *s_m,
248                                  const float *q_filt, int noise,
249                                  int kx, int m_max)
250 {
251     float phi_sign = 1 - 2 * (kx & 1);
252     sbr_hf_apply_noise(Y, s_m, q_filt, noise, 0.0, phi_sign, m_max);
253 }
254
255 static void sbr_hf_apply_noise_2(float (*Y)[2], const float *s_m,
256                                  const float *q_filt, int noise,
257                                  int kx, int m_max)
258 {
259     sbr_hf_apply_noise(Y, s_m, q_filt, noise, -1.0, 0.0, m_max);
260 }
261
262 static void sbr_hf_apply_noise_3(float (*Y)[2], const float *s_m,
263                                  const float *q_filt, int noise,
264                                  int kx, int m_max)
265 {
266     float phi_sign = 1 - 2 * (kx & 1);
267     sbr_hf_apply_noise(Y, s_m, q_filt, noise, 0.0, -phi_sign, m_max);
268 }
269
270 av_cold void ff_sbrdsp_init(SBRDSPContext *s)
271 {
272     s->sum64x5 = sbr_sum64x5_c;
273     s->sum_square = sbr_sum_square_c;
274     s->neg_odd_64 = sbr_neg_odd_64_c;
275     s->qmf_pre_shuffle = sbr_qmf_pre_shuffle_c;
276     s->qmf_post_shuffle = sbr_qmf_post_shuffle_c;
277     s->qmf_deint_neg = sbr_qmf_deint_neg_c;
278     s->qmf_deint_bfly = sbr_qmf_deint_bfly_c;
279     s->autocorrelate = sbr_autocorrelate_c;
280     s->hf_gen = sbr_hf_gen_c;
281     s->hf_g_filt = sbr_hf_g_filt_c;
282
283     s->hf_apply_noise[0] = sbr_hf_apply_noise_0;
284     s->hf_apply_noise[1] = sbr_hf_apply_noise_1;
285     s->hf_apply_noise[2] = sbr_hf_apply_noise_2;
286     s->hf_apply_noise[3] = sbr_hf_apply_noise_3;
287
288     if (ARCH_ARM)
289         ff_sbrdsp_init_arm(s);
290     if (ARCH_X86)
291         ff_sbrdsp_init_x86(s);
292 }