Move dct and rdft definitions to separate files
[ffmpeg.git] / libavcodec / fft-test.c
1 /*
2  * (c) 2002 Fabrice Bellard
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * FFT and MDCT tests.
24  */
25
26 #include "libavutil/mathematics.h"
27 #include "libavutil/lfg.h"
28 #include "libavutil/log.h"
29 #include "fft.h"
30 #include "dct.h"
31 #include "rdft.h"
32 #include <math.h>
33 #include <unistd.h>
34 #include <sys/time.h>
35 #include <stdlib.h>
36 #include <string.h>
37
38 #undef exit
39
40 /* reference fft */
41
42 #define MUL16(a,b) ((a) * (b))
43
44 #define CMAC(pre, pim, are, aim, bre, bim) \
45 {\
46    pre += (MUL16(are, bre) - MUL16(aim, bim));\
47    pim += (MUL16(are, bim) + MUL16(bre, aim));\
48 }
49
50 FFTComplex *exptab;
51
52 static void fft_ref_init(int nbits, int inverse)
53 {
54     int n, i;
55     double c1, s1, alpha;
56
57     n = 1 << nbits;
58     exptab = av_malloc((n / 2) * sizeof(FFTComplex));
59
60     for (i = 0; i < (n/2); i++) {
61         alpha = 2 * M_PI * (float)i / (float)n;
62         c1 = cos(alpha);
63         s1 = sin(alpha);
64         if (!inverse)
65             s1 = -s1;
66         exptab[i].re = c1;
67         exptab[i].im = s1;
68     }
69 }
70
71 static void fft_ref(FFTComplex *tabr, FFTComplex *tab, int nbits)
72 {
73     int n, i, j, k, n2;
74     double tmp_re, tmp_im, s, c;
75     FFTComplex *q;
76
77     n = 1 << nbits;
78     n2 = n >> 1;
79     for (i = 0; i < n; i++) {
80         tmp_re = 0;
81         tmp_im = 0;
82         q = tab;
83         for (j = 0; j < n; j++) {
84             k = (i * j) & (n - 1);
85             if (k >= n2) {
86                 c = -exptab[k - n2].re;
87                 s = -exptab[k - n2].im;
88             } else {
89                 c = exptab[k].re;
90                 s = exptab[k].im;
91             }
92             CMAC(tmp_re, tmp_im, c, s, q->re, q->im);
93             q++;
94         }
95         tabr[i].re = tmp_re;
96         tabr[i].im = tmp_im;
97     }
98 }
99
100 static void imdct_ref(float *out, float *in, int nbits)
101 {
102     int n = 1<<nbits;
103     int k, i, a;
104     double sum, f;
105
106     for (i = 0; i < n; i++) {
107         sum = 0;
108         for (k = 0; k < n/2; k++) {
109             a = (2 * i + 1 + (n / 2)) * (2 * k + 1);
110             f = cos(M_PI * a / (double)(2 * n));
111             sum += f * in[k];
112         }
113         out[i] = -sum;
114     }
115 }
116
117 /* NOTE: no normalisation by 1 / N is done */
118 static void mdct_ref(float *output, float *input, int nbits)
119 {
120     int n = 1<<nbits;
121     int k, i;
122     double a, s;
123
124     /* do it by hand */
125     for (k = 0; k < n/2; k++) {
126         s = 0;
127         for (i = 0; i < n; i++) {
128             a = (2*M_PI*(2*i+1+n/2)*(2*k+1) / (4 * n));
129             s += input[i] * cos(a);
130         }
131         output[k] = s;
132     }
133 }
134
135 static void idct_ref(float *output, float *input, int nbits)
136 {
137     int n = 1<<nbits;
138     int k, i;
139     double a, s;
140
141     /* do it by hand */
142     for (i = 0; i < n; i++) {
143         s = 0.5 * input[0];
144         for (k = 1; k < n; k++) {
145             a = M_PI*k*(i+0.5) / n;
146             s += input[k] * cos(a);
147         }
148         output[i] = 2 * s / n;
149     }
150 }
151 static void dct_ref(float *output, float *input, int nbits)
152 {
153     int n = 1<<nbits;
154     int k, i;
155     double a, s;
156
157     /* do it by hand */
158     for (k = 0; k < n; k++) {
159         s = 0;
160         for (i = 0; i < n; i++) {
161             a = M_PI*k*(i+0.5) / n;
162             s += input[i] * cos(a);
163         }
164         output[k] = s;
165     }
166 }
167
168
169 static float frandom(AVLFG *prng)
170 {
171     return (int16_t)av_lfg_get(prng) / 32768.0;
172 }
173
174 static int64_t gettime(void)
175 {
176     struct timeval tv;
177     gettimeofday(&tv,NULL);
178     return (int64_t)tv.tv_sec * 1000000 + tv.tv_usec;
179 }
180
181 static int check_diff(float *tab1, float *tab2, int n, double scale)
182 {
183     int i;
184     double max= 0;
185     double error= 0;
186     int err = 0;
187
188     for (i = 0; i < n; i++) {
189         double e= fabsf(tab1[i] - (tab2[i] / scale));
190         if (e >= 1e-3) {
191             av_log(NULL, AV_LOG_ERROR, "ERROR %5d: %10.6f %10.6f\n",
192                    i, tab1[i], tab2[i]);
193             err = 1;
194         }
195         error+= e*e;
196         if(e>max) max= e;
197     }
198     av_log(NULL, AV_LOG_INFO, "max:%f e:%g\n", max, sqrt(error)/n);
199     return err;
200 }
201
202
203 static void help(void)
204 {
205     av_log(NULL, AV_LOG_INFO,"usage: fft-test [-h] [-s] [-i] [-n b]\n"
206            "-h     print this help\n"
207            "-s     speed test\n"
208            "-m     (I)MDCT test\n"
209            "-d     (I)DCT test\n"
210            "-r     (I)RDFT test\n"
211            "-i     inverse transform test\n"
212            "-n b   set the transform size to 2^b\n"
213            "-f x   set scale factor for output data of (I)MDCT to x\n"
214            );
215     exit(1);
216 }
217
218 enum tf_transform {
219     TRANSFORM_FFT,
220     TRANSFORM_MDCT,
221     TRANSFORM_RDFT,
222     TRANSFORM_DCT,
223 };
224
225 int main(int argc, char **argv)
226 {
227     FFTComplex *tab, *tab1, *tab_ref;
228     FFTSample *tab2;
229     int it, i, c;
230     int do_speed = 0;
231     int err = 1;
232     enum tf_transform transform = TRANSFORM_FFT;
233     int do_inverse = 0;
234     FFTContext s1, *s = &s1;
235     FFTContext m1, *m = &m1;
236     RDFTContext r1, *r = &r1;
237     DCTContext d1, *d = &d1;
238     int fft_nbits, fft_size, fft_size_2;
239     double scale = 1.0;
240     AVLFG prng;
241     av_lfg_init(&prng, 1);
242
243     fft_nbits = 9;
244     for(;;) {
245         c = getopt(argc, argv, "hsimrdn:f:");
246         if (c == -1)
247             break;
248         switch(c) {
249         case 'h':
250             help();
251             break;
252         case 's':
253             do_speed = 1;
254             break;
255         case 'i':
256             do_inverse = 1;
257             break;
258         case 'm':
259             transform = TRANSFORM_MDCT;
260             break;
261         case 'r':
262             transform = TRANSFORM_RDFT;
263             break;
264         case 'd':
265             transform = TRANSFORM_DCT;
266             break;
267         case 'n':
268             fft_nbits = atoi(optarg);
269             break;
270         case 'f':
271             scale = atof(optarg);
272             break;
273         }
274     }
275
276     fft_size = 1 << fft_nbits;
277     fft_size_2 = fft_size >> 1;
278     tab = av_malloc(fft_size * sizeof(FFTComplex));
279     tab1 = av_malloc(fft_size * sizeof(FFTComplex));
280     tab_ref = av_malloc(fft_size * sizeof(FFTComplex));
281     tab2 = av_malloc(fft_size * sizeof(FFTSample));
282
283     switch (transform) {
284     case TRANSFORM_MDCT:
285         av_log(NULL, AV_LOG_INFO,"Scale factor is set to %f\n", scale);
286         if (do_inverse)
287             av_log(NULL, AV_LOG_INFO,"IMDCT");
288         else
289             av_log(NULL, AV_LOG_INFO,"MDCT");
290         ff_mdct_init(m, fft_nbits, do_inverse, scale);
291         break;
292     case TRANSFORM_FFT:
293         if (do_inverse)
294             av_log(NULL, AV_LOG_INFO,"IFFT");
295         else
296             av_log(NULL, AV_LOG_INFO,"FFT");
297         ff_fft_init(s, fft_nbits, do_inverse);
298         fft_ref_init(fft_nbits, do_inverse);
299         break;
300     case TRANSFORM_RDFT:
301         if (do_inverse)
302             av_log(NULL, AV_LOG_INFO,"IDFT_C2R");
303         else
304             av_log(NULL, AV_LOG_INFO,"DFT_R2C");
305         ff_rdft_init(r, fft_nbits, do_inverse ? IDFT_C2R : DFT_R2C);
306         fft_ref_init(fft_nbits, do_inverse);
307         break;
308     case TRANSFORM_DCT:
309         if (do_inverse)
310             av_log(NULL, AV_LOG_INFO,"DCT_III");
311         else
312             av_log(NULL, AV_LOG_INFO,"DCT_II");
313         ff_dct_init(d, fft_nbits, do_inverse ? DCT_III : DCT_II);
314         break;
315     }
316     av_log(NULL, AV_LOG_INFO," %d test\n", fft_size);
317
318     /* generate random data */
319
320     for (i = 0; i < fft_size; i++) {
321         tab1[i].re = frandom(&prng);
322         tab1[i].im = frandom(&prng);
323     }
324
325     /* checking result */
326     av_log(NULL, AV_LOG_INFO,"Checking...\n");
327
328     switch (transform) {
329     case TRANSFORM_MDCT:
330         if (do_inverse) {
331             imdct_ref((float *)tab_ref, (float *)tab1, fft_nbits);
332             m->imdct_calc(m, tab2, (float *)tab1);
333             err = check_diff((float *)tab_ref, tab2, fft_size, scale);
334         } else {
335             mdct_ref((float *)tab_ref, (float *)tab1, fft_nbits);
336
337             m->mdct_calc(m, tab2, (float *)tab1);
338
339             err = check_diff((float *)tab_ref, tab2, fft_size / 2, scale);
340         }
341         break;
342     case TRANSFORM_FFT:
343         memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
344         s->fft_permute(s, tab);
345         s->fft_calc(s, tab);
346
347         fft_ref(tab_ref, tab1, fft_nbits);
348         err = check_diff((float *)tab_ref, (float *)tab, fft_size * 2, 1.0);
349         break;
350     case TRANSFORM_RDFT:
351         if (do_inverse) {
352             tab1[         0].im = 0;
353             tab1[fft_size_2].im = 0;
354             for (i = 1; i < fft_size_2; i++) {
355                 tab1[fft_size_2+i].re =  tab1[fft_size_2-i].re;
356                 tab1[fft_size_2+i].im = -tab1[fft_size_2-i].im;
357             }
358
359             memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
360             tab2[1] = tab1[fft_size_2].re;
361
362             r->rdft_calc(r, tab2);
363             fft_ref(tab_ref, tab1, fft_nbits);
364             for (i = 0; i < fft_size; i++) {
365                 tab[i].re = tab2[i];
366                 tab[i].im = 0;
367             }
368             err = check_diff((float *)tab_ref, (float *)tab, fft_size * 2, 0.5);
369         } else {
370             for (i = 0; i < fft_size; i++) {
371                 tab2[i]    = tab1[i].re;
372                 tab1[i].im = 0;
373             }
374             r->rdft_calc(r, tab2);
375             fft_ref(tab_ref, tab1, fft_nbits);
376             tab_ref[0].im = tab_ref[fft_size_2].re;
377             err = check_diff((float *)tab_ref, (float *)tab2, fft_size, 1.0);
378         }
379         break;
380     case TRANSFORM_DCT:
381         memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
382         d->dct_calc(d, tab);
383         if (do_inverse) {
384             idct_ref(tab_ref, tab1, fft_nbits);
385         } else {
386             dct_ref(tab_ref, tab1, fft_nbits);
387         }
388         err = check_diff((float *)tab_ref, (float *)tab, fft_size, 1.0);
389         break;
390     }
391
392     /* do a speed test */
393
394     if (do_speed) {
395         int64_t time_start, duration;
396         int nb_its;
397
398         av_log(NULL, AV_LOG_INFO,"Speed test...\n");
399         /* we measure during about 1 seconds */
400         nb_its = 1;
401         for(;;) {
402             time_start = gettime();
403             for (it = 0; it < nb_its; it++) {
404                 switch (transform) {
405                 case TRANSFORM_MDCT:
406                     if (do_inverse) {
407                         m->imdct_calc(m, (float *)tab, (float *)tab1);
408                     } else {
409                         m->mdct_calc(m, (float *)tab, (float *)tab1);
410                     }
411                     break;
412                 case TRANSFORM_FFT:
413                     memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
414                     s->fft_calc(s, tab);
415                     break;
416                 case TRANSFORM_RDFT:
417                     memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
418                     r->rdft_calc(r, tab2);
419                     break;
420                 case TRANSFORM_DCT:
421                     memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
422                     d->dct_calc(d, tab2);
423                     break;
424                 }
425             }
426             duration = gettime() - time_start;
427             if (duration >= 1000000)
428                 break;
429             nb_its *= 2;
430         }
431         av_log(NULL, AV_LOG_INFO,"time: %0.1f us/transform [total time=%0.2f s its=%d]\n",
432                (double)duration / nb_its,
433                (double)duration / 1000000.0,
434                nb_its);
435     }
436
437     switch (transform) {
438     case TRANSFORM_MDCT:
439         ff_mdct_end(m);
440         break;
441     case TRANSFORM_FFT:
442         ff_fft_end(s);
443         break;
444     case TRANSFORM_RDFT:
445         ff_rdft_end(r);
446         break;
447     case TRANSFORM_DCT:
448         ff_dct_end(d);
449         break;
450     }
451
452     av_free(tab);
453     av_free(tab1);
454     av_free(tab2);
455     av_free(tab_ref);
456     av_free(exptab);
457
458     return err;
459 }