Floating point discrete cosine transform
[ffmpeg.git] / libavcodec / fft-test.c
1 /*
2  * (c) 2002 Fabrice Bellard
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file libavcodec/fft-test.c
23  * FFT and MDCT tests.
24  */
25
26 #include "libavutil/lfg.h"
27 #include "dsputil.h"
28 #include <math.h>
29 #include <unistd.h>
30 #include <sys/time.h>
31 #include <stdlib.h>
32 #include <string.h>
33
34 #undef exit
35
36 /* reference fft */
37
38 #define MUL16(a,b) ((a) * (b))
39
40 #define CMAC(pre, pim, are, aim, bre, bim) \
41 {\
42    pre += (MUL16(are, bre) - MUL16(aim, bim));\
43    pim += (MUL16(are, bim) + MUL16(bre, aim));\
44 }
45
46 FFTComplex *exptab;
47
48 static void fft_ref_init(int nbits, int inverse)
49 {
50     int n, i;
51     double c1, s1, alpha;
52
53     n = 1 << nbits;
54     exptab = av_malloc((n / 2) * sizeof(FFTComplex));
55
56     for (i = 0; i < (n/2); i++) {
57         alpha = 2 * M_PI * (float)i / (float)n;
58         c1 = cos(alpha);
59         s1 = sin(alpha);
60         if (!inverse)
61             s1 = -s1;
62         exptab[i].re = c1;
63         exptab[i].im = s1;
64     }
65 }
66
67 static void fft_ref(FFTComplex *tabr, FFTComplex *tab, int nbits)
68 {
69     int n, i, j, k, n2;
70     double tmp_re, tmp_im, s, c;
71     FFTComplex *q;
72
73     n = 1 << nbits;
74     n2 = n >> 1;
75     for (i = 0; i < n; i++) {
76         tmp_re = 0;
77         tmp_im = 0;
78         q = tab;
79         for (j = 0; j < n; j++) {
80             k = (i * j) & (n - 1);
81             if (k >= n2) {
82                 c = -exptab[k - n2].re;
83                 s = -exptab[k - n2].im;
84             } else {
85                 c = exptab[k].re;
86                 s = exptab[k].im;
87             }
88             CMAC(tmp_re, tmp_im, c, s, q->re, q->im);
89             q++;
90         }
91         tabr[i].re = tmp_re;
92         tabr[i].im = tmp_im;
93     }
94 }
95
96 static void imdct_ref(float *out, float *in, int nbits)
97 {
98     int n = 1<<nbits;
99     int k, i, a;
100     double sum, f;
101
102     for (i = 0; i < n; i++) {
103         sum = 0;
104         for (k = 0; k < n/2; k++) {
105             a = (2 * i + 1 + (n / 2)) * (2 * k + 1);
106             f = cos(M_PI * a / (double)(2 * n));
107             sum += f * in[k];
108         }
109         out[i] = -sum;
110     }
111 }
112
113 /* NOTE: no normalisation by 1 / N is done */
114 static void mdct_ref(float *output, float *input, int nbits)
115 {
116     int n = 1<<nbits;
117     int k, i;
118     double a, s;
119
120     /* do it by hand */
121     for (k = 0; k < n/2; k++) {
122         s = 0;
123         for (i = 0; i < n; i++) {
124             a = (2*M_PI*(2*i+1+n/2)*(2*k+1) / (4 * n));
125             s += input[i] * cos(a);
126         }
127         output[k] = s;
128     }
129 }
130
131 static void idct_ref(float *output, float *input, int nbits)
132 {
133     int n = 1<<nbits;
134     int k, i;
135     double a, s;
136
137     /* do it by hand */
138     for (i = 0; i < n; i++) {
139         s = 0.5 * input[0];
140         for (k = 1; k < n; k++) {
141             a = M_PI*k*(i+0.5) / n;
142             s += input[k] * cos(a);
143         }
144         output[i] = 2 * s / n;
145     }
146 }
147 static void dct_ref(float *output, float *input, int nbits)
148 {
149     int n = 1<<nbits;
150     int k, i;
151     double a, s;
152
153     /* do it by hand */
154     for (k = 0; k < n; k++) {
155         s = 0;
156         for (i = 0; i < n; i++) {
157             a = M_PI*k*(i+0.5) / n;
158             s += input[i] * cos(a);
159         }
160         output[k] = s;
161     }
162 }
163
164
165 static float frandom(AVLFG *prng)
166 {
167     return (int16_t)av_lfg_get(prng) / 32768.0;
168 }
169
170 static int64_t gettime(void)
171 {
172     struct timeval tv;
173     gettimeofday(&tv,NULL);
174     return (int64_t)tv.tv_sec * 1000000 + tv.tv_usec;
175 }
176
177 static void check_diff(float *tab1, float *tab2, int n, double scale)
178 {
179     int i;
180     double max= 0;
181     double error= 0;
182
183     for (i = 0; i < n; i++) {
184         double e= fabsf(tab1[i] - (tab2[i] / scale));
185         if (e >= 1e-3) {
186             av_log(NULL, AV_LOG_ERROR, "ERROR %d: %f %f\n",
187                    i, tab1[i], tab2[i]);
188         }
189         error+= e*e;
190         if(e>max) max= e;
191     }
192     av_log(NULL, AV_LOG_INFO, "max:%f e:%g\n", max, sqrt(error)/n);
193 }
194
195
196 static void help(void)
197 {
198     av_log(NULL, AV_LOG_INFO,"usage: fft-test [-h] [-s] [-i] [-n b]\n"
199            "-h     print this help\n"
200            "-s     speed test\n"
201            "-m     (I)MDCT test\n"
202            "-d     (I)DCT test\n"
203            "-i     inverse transform test\n"
204            "-n b   set the transform size to 2^b\n"
205            "-f x   set scale factor for output data of (I)MDCT to x\n"
206            );
207     exit(1);
208 }
209
210 enum tf_transform {
211     TRANSFORM_FFT,
212     TRANSFORM_MDCT,
213     TRANSFORM_RDFT,
214     TRANSFORM_DCT,
215 };
216
217 int main(int argc, char **argv)
218 {
219     FFTComplex *tab, *tab1, *tab_ref;
220     FFTSample *tab2;
221     int it, i, c;
222     int do_speed = 0;
223     enum tf_transform transform = TRANSFORM_FFT;
224     int do_inverse = 0;
225     FFTContext s1, *s = &s1;
226     FFTContext m1, *m = &m1;
227     RDFTContext r1, *r = &r1;
228     DCTContext d1, *d = &d1;
229     int fft_nbits, fft_size, fft_size_2;
230     double scale = 1.0;
231     AVLFG prng;
232     av_lfg_init(&prng, 1);
233
234     fft_nbits = 9;
235     for(;;) {
236         c = getopt(argc, argv, "hsimrdn:f:");
237         if (c == -1)
238             break;
239         switch(c) {
240         case 'h':
241             help();
242             break;
243         case 's':
244             do_speed = 1;
245             break;
246         case 'i':
247             do_inverse = 1;
248             break;
249         case 'm':
250             transform = TRANSFORM_MDCT;
251             break;
252         case 'r':
253             transform = TRANSFORM_RDFT;
254             break;
255         case 'd':
256             transform = TRANSFORM_DCT;
257             break;
258         case 'n':
259             fft_nbits = atoi(optarg);
260             break;
261         case 'f':
262             scale = atof(optarg);
263             break;
264         }
265     }
266
267     fft_size = 1 << fft_nbits;
268     fft_size_2 = fft_size >> 1;
269     tab = av_malloc(fft_size * sizeof(FFTComplex));
270     tab1 = av_malloc(fft_size * sizeof(FFTComplex));
271     tab_ref = av_malloc(fft_size * sizeof(FFTComplex));
272     tab2 = av_malloc(fft_size * sizeof(FFTSample));
273
274     switch (transform) {
275     case TRANSFORM_MDCT:
276         av_log(NULL, AV_LOG_INFO,"Scale factor is set to %f\n", scale);
277         if (do_inverse)
278             av_log(NULL, AV_LOG_INFO,"IMDCT");
279         else
280             av_log(NULL, AV_LOG_INFO,"MDCT");
281         ff_mdct_init(m, fft_nbits, do_inverse, scale);
282         break;
283     case TRANSFORM_FFT:
284         if (do_inverse)
285             av_log(NULL, AV_LOG_INFO,"IFFT");
286         else
287             av_log(NULL, AV_LOG_INFO,"FFT");
288         ff_fft_init(s, fft_nbits, do_inverse);
289         fft_ref_init(fft_nbits, do_inverse);
290         break;
291     case TRANSFORM_RDFT:
292         if (do_inverse)
293             av_log(NULL, AV_LOG_INFO,"IRDFT");
294         else
295             av_log(NULL, AV_LOG_INFO,"RDFT");
296         ff_rdft_init(r, fft_nbits, do_inverse ? IRDFT : RDFT);
297         fft_ref_init(fft_nbits, do_inverse);
298         break;
299     case TRANSFORM_DCT:
300         if (do_inverse)
301             av_log(NULL, AV_LOG_INFO,"IDCT");
302         else
303             av_log(NULL, AV_LOG_INFO,"DCT");
304         ff_dct_init(d, fft_nbits, do_inverse);
305         break;
306     }
307     av_log(NULL, AV_LOG_INFO," %d test\n", fft_size);
308
309     /* generate random data */
310
311     for (i = 0; i < fft_size; i++) {
312         tab1[i].re = frandom(&prng);
313         tab1[i].im = frandom(&prng);
314     }
315
316     /* checking result */
317     av_log(NULL, AV_LOG_INFO,"Checking...\n");
318
319     switch (transform) {
320     case TRANSFORM_MDCT:
321         if (do_inverse) {
322             imdct_ref((float *)tab_ref, (float *)tab1, fft_nbits);
323             ff_imdct_calc(m, tab2, (float *)tab1);
324             check_diff((float *)tab_ref, tab2, fft_size, scale);
325         } else {
326             mdct_ref((float *)tab_ref, (float *)tab1, fft_nbits);
327
328             ff_mdct_calc(m, tab2, (float *)tab1);
329
330             check_diff((float *)tab_ref, tab2, fft_size / 2, scale);
331         }
332         break;
333     case TRANSFORM_FFT:
334         memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
335         ff_fft_permute(s, tab);
336         ff_fft_calc(s, tab);
337
338         fft_ref(tab_ref, tab1, fft_nbits);
339         check_diff((float *)tab_ref, (float *)tab, fft_size * 2, 1.0);
340         break;
341     case TRANSFORM_RDFT:
342         if (do_inverse) {
343             tab1[         0].im = 0;
344             tab1[fft_size_2].im = 0;
345             for (i = 1; i < fft_size_2; i++) {
346                 tab1[fft_size_2+i].re =  tab1[fft_size_2-i].re;
347                 tab1[fft_size_2+i].im = -tab1[fft_size_2-i].im;
348             }
349
350             memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
351             tab2[1] = tab1[fft_size_2].re;
352
353             ff_rdft_calc(r, tab2);
354             fft_ref(tab_ref, tab1, fft_nbits);
355             for (i = 0; i < fft_size; i++) {
356                 tab[i].re = tab2[i];
357                 tab[i].im = 0;
358             }
359             check_diff((float *)tab_ref, (float *)tab, fft_size * 2, 0.5);
360         } else {
361             for (i = 0; i < fft_size; i++) {
362                 tab2[i]    = tab1[i].re;
363                 tab1[i].im = 0;
364             }
365             ff_rdft_calc(r, tab2);
366             fft_ref(tab_ref, tab1, fft_nbits);
367             tab_ref[0].im = tab_ref[fft_size_2].re;
368             check_diff((float *)tab_ref, (float *)tab2, fft_size, 1.0);
369         }
370         break;
371     case TRANSFORM_DCT:
372         memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
373         ff_dct_calc(d, tab);
374         if (do_inverse) {
375             idct_ref(tab_ref, tab1, fft_nbits);
376         } else {
377             dct_ref(tab_ref, tab1, fft_nbits);
378         }
379         check_diff((float *)tab_ref, (float *)tab, fft_size, 1.0);
380         break;
381     }
382
383     /* do a speed test */
384
385     if (do_speed) {
386         int64_t time_start, duration;
387         int nb_its;
388
389         av_log(NULL, AV_LOG_INFO,"Speed test...\n");
390         /* we measure during about 1 seconds */
391         nb_its = 1;
392         for(;;) {
393             time_start = gettime();
394             for (it = 0; it < nb_its; it++) {
395                 switch (transform) {
396                 case TRANSFORM_MDCT:
397                     if (do_inverse) {
398                         ff_imdct_calc(m, (float *)tab, (float *)tab1);
399                     } else {
400                         ff_mdct_calc(m, (float *)tab, (float *)tab1);
401                     }
402                     break;
403                 case TRANSFORM_FFT:
404                     memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
405                     ff_fft_calc(s, tab);
406                     break;
407                 case TRANSFORM_RDFT:
408                     memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
409                     ff_rdft_calc(r, tab2);
410                     break;
411                 case TRANSFORM_DCT:
412                     memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
413                     ff_dct_calc(d, tab2);
414                     break;
415                 }
416             }
417             duration = gettime() - time_start;
418             if (duration >= 1000000)
419                 break;
420             nb_its *= 2;
421         }
422         av_log(NULL, AV_LOG_INFO,"time: %0.1f us/transform [total time=%0.2f s its=%d]\n",
423                (double)duration / nb_its,
424                (double)duration / 1000000.0,
425                nb_its);
426     }
427
428     switch (transform) {
429     case TRANSFORM_MDCT:
430         ff_mdct_end(m);
431         break;
432     case TRANSFORM_FFT:
433         ff_fft_end(s);
434         break;
435     case TRANSFORM_RDFT:
436         ff_rdft_end(r);
437         break;
438     case TRANSFORM_DCT:
439         ff_dct_end(d);
440         break;
441     }
442     return 0;
443 }