avopt: Store defaults for AV_OPT_TYPE_FLAGS in the i64 union member
[ffmpeg.git] / libavcodec / fft-test.c
1 /*
2  * (c) 2002 Fabrice Bellard
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * FFT and MDCT tests.
24  */
25
26 #include "libavutil/cpu.h"
27 #include "libavutil/mathematics.h"
28 #include "libavutil/lfg.h"
29 #include "libavutil/log.h"
30 #include "libavutil/time.h"
31 #include "fft.h"
32 #if CONFIG_FFT_FLOAT
33 #include "dct.h"
34 #include "rdft.h"
35 #endif
36 #include <math.h>
37 #if HAVE_UNISTD_H
38 #include <unistd.h>
39 #endif
40 #include <stdlib.h>
41 #include <string.h>
42
43 /* reference fft */
44
45 #define MUL16(a,b) ((a) * (b))
46
47 #define CMAC(pre, pim, are, aim, bre, bim) \
48 {\
49    pre += (MUL16(are, bre) - MUL16(aim, bim));\
50    pim += (MUL16(are, bim) + MUL16(bre, aim));\
51 }
52
53 #if CONFIG_FFT_FLOAT
54 #   define RANGE 1.0
55 #   define REF_SCALE(x, bits)  (x)
56 #   define FMT "%10.6f"
57 #else
58 #   define RANGE 16384
59 #   define REF_SCALE(x, bits) ((x) / (1<<(bits)))
60 #   define FMT "%6d"
61 #endif
62
63 struct {
64     float re, im;
65 } *exptab;
66
67 static void fft_ref_init(int nbits, int inverse)
68 {
69     int n, i;
70     double c1, s1, alpha;
71
72     n = 1 << nbits;
73     exptab = av_malloc((n / 2) * sizeof(*exptab));
74
75     for (i = 0; i < (n/2); i++) {
76         alpha = 2 * M_PI * (float)i / (float)n;
77         c1 = cos(alpha);
78         s1 = sin(alpha);
79         if (!inverse)
80             s1 = -s1;
81         exptab[i].re = c1;
82         exptab[i].im = s1;
83     }
84 }
85
86 static void fft_ref(FFTComplex *tabr, FFTComplex *tab, int nbits)
87 {
88     int n, i, j, k, n2;
89     double tmp_re, tmp_im, s, c;
90     FFTComplex *q;
91
92     n = 1 << nbits;
93     n2 = n >> 1;
94     for (i = 0; i < n; i++) {
95         tmp_re = 0;
96         tmp_im = 0;
97         q = tab;
98         for (j = 0; j < n; j++) {
99             k = (i * j) & (n - 1);
100             if (k >= n2) {
101                 c = -exptab[k - n2].re;
102                 s = -exptab[k - n2].im;
103             } else {
104                 c = exptab[k].re;
105                 s = exptab[k].im;
106             }
107             CMAC(tmp_re, tmp_im, c, s, q->re, q->im);
108             q++;
109         }
110         tabr[i].re = REF_SCALE(tmp_re, nbits);
111         tabr[i].im = REF_SCALE(tmp_im, nbits);
112     }
113 }
114
115 static void imdct_ref(FFTSample *out, FFTSample *in, int nbits)
116 {
117     int n = 1<<nbits;
118     int k, i, a;
119     double sum, f;
120
121     for (i = 0; i < n; i++) {
122         sum = 0;
123         for (k = 0; k < n/2; k++) {
124             a = (2 * i + 1 + (n / 2)) * (2 * k + 1);
125             f = cos(M_PI * a / (double)(2 * n));
126             sum += f * in[k];
127         }
128         out[i] = REF_SCALE(-sum, nbits - 2);
129     }
130 }
131
132 /* NOTE: no normalisation by 1 / N is done */
133 static void mdct_ref(FFTSample *output, FFTSample *input, int nbits)
134 {
135     int n = 1<<nbits;
136     int k, i;
137     double a, s;
138
139     /* do it by hand */
140     for (k = 0; k < n/2; k++) {
141         s = 0;
142         for (i = 0; i < n; i++) {
143             a = (2*M_PI*(2*i+1+n/2)*(2*k+1) / (4 * n));
144             s += input[i] * cos(a);
145         }
146         output[k] = REF_SCALE(s, nbits - 1);
147     }
148 }
149
150 #if CONFIG_FFT_FLOAT
151 static void idct_ref(float *output, float *input, int nbits)
152 {
153     int n = 1<<nbits;
154     int k, i;
155     double a, s;
156
157     /* do it by hand */
158     for (i = 0; i < n; i++) {
159         s = 0.5 * input[0];
160         for (k = 1; k < n; k++) {
161             a = M_PI*k*(i+0.5) / n;
162             s += input[k] * cos(a);
163         }
164         output[i] = 2 * s / n;
165     }
166 }
167 static void dct_ref(float *output, float *input, int nbits)
168 {
169     int n = 1<<nbits;
170     int k, i;
171     double a, s;
172
173     /* do it by hand */
174     for (k = 0; k < n; k++) {
175         s = 0;
176         for (i = 0; i < n; i++) {
177             a = M_PI*k*(i+0.5) / n;
178             s += input[i] * cos(a);
179         }
180         output[k] = s;
181     }
182 }
183 #endif
184
185
186 static FFTSample frandom(AVLFG *prng)
187 {
188     return (int16_t)av_lfg_get(prng) / 32768.0 * RANGE;
189 }
190
191 static int check_diff(FFTSample *tab1, FFTSample *tab2, int n, double scale)
192 {
193     int i;
194     double max= 0;
195     double error= 0;
196     int err = 0;
197
198     for (i = 0; i < n; i++) {
199         double e = fabsf(tab1[i] - (tab2[i] / scale)) / RANGE;
200         if (e >= 1e-3) {
201             av_log(NULL, AV_LOG_ERROR, "ERROR %5d: "FMT" "FMT"\n",
202                    i, tab1[i], tab2[i]);
203             err = 1;
204         }
205         error+= e*e;
206         if(e>max) max= e;
207     }
208     av_log(NULL, AV_LOG_INFO, "max:%f e:%g\n", max, sqrt(error)/n);
209     return err;
210 }
211
212
213 static void help(void)
214 {
215     av_log(NULL, AV_LOG_INFO,"usage: fft-test [-h] [-s] [-i] [-n b]\n"
216            "-h     print this help\n"
217            "-s     speed test\n"
218            "-m     (I)MDCT test\n"
219            "-d     (I)DCT test\n"
220            "-r     (I)RDFT test\n"
221            "-i     inverse transform test\n"
222            "-n b   set the transform size to 2^b\n"
223            "-f x   set scale factor for output data of (I)MDCT to x\n"
224            );
225 }
226
227 enum tf_transform {
228     TRANSFORM_FFT,
229     TRANSFORM_MDCT,
230     TRANSFORM_RDFT,
231     TRANSFORM_DCT,
232 };
233
234 #if !HAVE_GETOPT
235 #include "compat/getopt.c"
236 #endif
237
238 int main(int argc, char **argv)
239 {
240     FFTComplex *tab, *tab1, *tab_ref;
241     FFTSample *tab2;
242     int it, i, c;
243     int cpuflags;
244     int do_speed = 0;
245     int err = 1;
246     enum tf_transform transform = TRANSFORM_FFT;
247     int do_inverse = 0;
248     FFTContext s1, *s = &s1;
249     FFTContext m1, *m = &m1;
250 #if CONFIG_FFT_FLOAT
251     RDFTContext r1, *r = &r1;
252     DCTContext d1, *d = &d1;
253     int fft_size_2;
254 #endif
255     int fft_nbits, fft_size;
256     double scale = 1.0;
257     AVLFG prng;
258     av_lfg_init(&prng, 1);
259
260     fft_nbits = 9;
261     for(;;) {
262         c = getopt(argc, argv, "hsimrdn:f:c:");
263         if (c == -1)
264             break;
265         switch(c) {
266         case 'h':
267             help();
268             return 1;
269         case 's':
270             do_speed = 1;
271             break;
272         case 'i':
273             do_inverse = 1;
274             break;
275         case 'm':
276             transform = TRANSFORM_MDCT;
277             break;
278         case 'r':
279             transform = TRANSFORM_RDFT;
280             break;
281         case 'd':
282             transform = TRANSFORM_DCT;
283             break;
284         case 'n':
285             fft_nbits = atoi(optarg);
286             break;
287         case 'f':
288             scale = atof(optarg);
289             break;
290         case 'c':
291             cpuflags = av_parse_cpu_flags(optarg);
292             if (cpuflags < 0)
293                 return 1;
294             av_set_cpu_flags_mask(cpuflags);
295             break;
296         }
297     }
298
299     fft_size = 1 << fft_nbits;
300     tab = av_malloc(fft_size * sizeof(FFTComplex));
301     tab1 = av_malloc(fft_size * sizeof(FFTComplex));
302     tab_ref = av_malloc(fft_size * sizeof(FFTComplex));
303     tab2 = av_malloc(fft_size * sizeof(FFTSample));
304
305     switch (transform) {
306     case TRANSFORM_MDCT:
307         av_log(NULL, AV_LOG_INFO,"Scale factor is set to %f\n", scale);
308         if (do_inverse)
309             av_log(NULL, AV_LOG_INFO,"IMDCT");
310         else
311             av_log(NULL, AV_LOG_INFO,"MDCT");
312         ff_mdct_init(m, fft_nbits, do_inverse, scale);
313         break;
314     case TRANSFORM_FFT:
315         if (do_inverse)
316             av_log(NULL, AV_LOG_INFO,"IFFT");
317         else
318             av_log(NULL, AV_LOG_INFO,"FFT");
319         ff_fft_init(s, fft_nbits, do_inverse);
320         fft_ref_init(fft_nbits, do_inverse);
321         break;
322 #if CONFIG_FFT_FLOAT
323     case TRANSFORM_RDFT:
324         if (do_inverse)
325             av_log(NULL, AV_LOG_INFO,"IDFT_C2R");
326         else
327             av_log(NULL, AV_LOG_INFO,"DFT_R2C");
328         ff_rdft_init(r, fft_nbits, do_inverse ? IDFT_C2R : DFT_R2C);
329         fft_ref_init(fft_nbits, do_inverse);
330         break;
331     case TRANSFORM_DCT:
332         if (do_inverse)
333             av_log(NULL, AV_LOG_INFO,"DCT_III");
334         else
335             av_log(NULL, AV_LOG_INFO,"DCT_II");
336         ff_dct_init(d, fft_nbits, do_inverse ? DCT_III : DCT_II);
337         break;
338 #endif
339     default:
340         av_log(NULL, AV_LOG_ERROR, "Requested transform not supported\n");
341         return 1;
342     }
343     av_log(NULL, AV_LOG_INFO," %d test\n", fft_size);
344
345     /* generate random data */
346
347     for (i = 0; i < fft_size; i++) {
348         tab1[i].re = frandom(&prng);
349         tab1[i].im = frandom(&prng);
350     }
351
352     /* checking result */
353     av_log(NULL, AV_LOG_INFO,"Checking...\n");
354
355     switch (transform) {
356     case TRANSFORM_MDCT:
357         if (do_inverse) {
358             imdct_ref((FFTSample *)tab_ref, (FFTSample *)tab1, fft_nbits);
359             m->imdct_calc(m, tab2, (FFTSample *)tab1);
360             err = check_diff((FFTSample *)tab_ref, tab2, fft_size, scale);
361         } else {
362             mdct_ref((FFTSample *)tab_ref, (FFTSample *)tab1, fft_nbits);
363
364             m->mdct_calc(m, tab2, (FFTSample *)tab1);
365
366             err = check_diff((FFTSample *)tab_ref, tab2, fft_size / 2, scale);
367         }
368         break;
369     case TRANSFORM_FFT:
370         memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
371         s->fft_permute(s, tab);
372         s->fft_calc(s, tab);
373
374         fft_ref(tab_ref, tab1, fft_nbits);
375         err = check_diff((FFTSample *)tab_ref, (FFTSample *)tab, fft_size * 2, 1.0);
376         break;
377 #if CONFIG_FFT_FLOAT
378     case TRANSFORM_RDFT:
379         fft_size_2 = fft_size >> 1;
380         if (do_inverse) {
381             tab1[         0].im = 0;
382             tab1[fft_size_2].im = 0;
383             for (i = 1; i < fft_size_2; i++) {
384                 tab1[fft_size_2+i].re =  tab1[fft_size_2-i].re;
385                 tab1[fft_size_2+i].im = -tab1[fft_size_2-i].im;
386             }
387
388             memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
389             tab2[1] = tab1[fft_size_2].re;
390
391             r->rdft_calc(r, tab2);
392             fft_ref(tab_ref, tab1, fft_nbits);
393             for (i = 0; i < fft_size; i++) {
394                 tab[i].re = tab2[i];
395                 tab[i].im = 0;
396             }
397             err = check_diff((float *)tab_ref, (float *)tab, fft_size * 2, 0.5);
398         } else {
399             for (i = 0; i < fft_size; i++) {
400                 tab2[i]    = tab1[i].re;
401                 tab1[i].im = 0;
402             }
403             r->rdft_calc(r, tab2);
404             fft_ref(tab_ref, tab1, fft_nbits);
405             tab_ref[0].im = tab_ref[fft_size_2].re;
406             err = check_diff((float *)tab_ref, (float *)tab2, fft_size, 1.0);
407         }
408         break;
409     case TRANSFORM_DCT:
410         memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
411         d->dct_calc(d, tab);
412         if (do_inverse) {
413             idct_ref(tab_ref, tab1, fft_nbits);
414         } else {
415             dct_ref(tab_ref, tab1, fft_nbits);
416         }
417         err = check_diff((float *)tab_ref, (float *)tab, fft_size, 1.0);
418         break;
419 #endif
420     }
421
422     /* do a speed test */
423
424     if (do_speed) {
425         int64_t time_start, duration;
426         int nb_its;
427
428         av_log(NULL, AV_LOG_INFO,"Speed test...\n");
429         /* we measure during about 1 seconds */
430         nb_its = 1;
431         for(;;) {
432             time_start = av_gettime();
433             for (it = 0; it < nb_its; it++) {
434                 switch (transform) {
435                 case TRANSFORM_MDCT:
436                     if (do_inverse) {
437                         m->imdct_calc(m, (FFTSample *)tab, (FFTSample *)tab1);
438                     } else {
439                         m->mdct_calc(m, (FFTSample *)tab, (FFTSample *)tab1);
440                     }
441                     break;
442                 case TRANSFORM_FFT:
443                     memcpy(tab, tab1, fft_size * sizeof(FFTComplex));
444                     s->fft_calc(s, tab);
445                     break;
446 #if CONFIG_FFT_FLOAT
447                 case TRANSFORM_RDFT:
448                     memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
449                     r->rdft_calc(r, tab2);
450                     break;
451                 case TRANSFORM_DCT:
452                     memcpy(tab2, tab1, fft_size * sizeof(FFTSample));
453                     d->dct_calc(d, tab2);
454                     break;
455 #endif
456                 }
457             }
458             duration = av_gettime() - time_start;
459             if (duration >= 1000000)
460                 break;
461             nb_its *= 2;
462         }
463         av_log(NULL, AV_LOG_INFO,"time: %0.1f us/transform [total time=%0.2f s its=%d]\n",
464                (double)duration / nb_its,
465                (double)duration / 1000000.0,
466                nb_its);
467     }
468
469     switch (transform) {
470     case TRANSFORM_MDCT:
471         ff_mdct_end(m);
472         break;
473     case TRANSFORM_FFT:
474         ff_fft_end(s);
475         break;
476 #if CONFIG_FFT_FLOAT
477     case TRANSFORM_RDFT:
478         ff_rdft_end(r);
479         break;
480     case TRANSFORM_DCT:
481         ff_dct_end(d);
482         break;
483 #endif
484     }
485
486     av_free(tab);
487     av_free(tab1);
488     av_free(tab2);
489     av_free(tab_ref);
490     av_free(exptab);
491
492     return err;
493 }