xvid: Add C IDCT
[ffmpeg.git] / libavcodec / dct-test.c
1 /*
2  * (c) 2001 Fabrice Bellard
3  *     2007 Marc Hoffman <marc.hoffman@analog.com>
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * DCT test (c) 2001 Fabrice Bellard
25  * Started from sample code by Juan J. Sierralta P.
26  */
27
28 #include "config.h"
29 #include <stdlib.h>
30 #include <stdio.h>
31 #include <string.h>
32 #if HAVE_UNISTD_H
33 #include <unistd.h>
34 #endif
35 #include <math.h>
36
37 #include "libavutil/cpu.h"
38 #include "libavutil/common.h"
39 #include "libavutil/lfg.h"
40 #include "libavutil/time.h"
41
42 #include "dct.h"
43 #include "idctdsp.h"
44 #include "simple_idct.h"
45 #include "xvididct.h"
46 #include "aandcttab.h"
47 #include "faandct.h"
48 #include "faanidct.h"
49 #include "dctref.h"
50
51 struct algo {
52     const char *name;
53     void (*func)(int16_t *block);
54     enum idct_permutation_type perm_type;
55     int cpu_flag;
56     int nonspec;
57 };
58
59 static const struct algo fdct_tab[4] = {
60     { "REF-DBL",     ff_ref_fdct,          FF_IDCT_PERM_NONE },
61     { "FAAN",        ff_faandct,           FF_IDCT_PERM_NONE },
62     { "IJG-AAN-INT", ff_fdct_ifast,        FF_IDCT_PERM_NONE },
63     { "IJG-LLM-INT", ff_jpeg_fdct_islow_8, FF_IDCT_PERM_NONE },
64 };
65
66 static const struct algo idct_tab[] = {
67     { "FAANI",       ff_faanidct,          FF_IDCT_PERM_NONE },
68     { "REF-DBL",     ff_ref_idct,          FF_IDCT_PERM_NONE },
69     { "INT",         ff_j_rev_dct,         FF_IDCT_PERM_LIBMPEG2 },
70     { "SIMPLE-C",    ff_simple_idct_8,     FF_IDCT_PERM_NONE },
71 #if CONFIG_MPEG4_DECODER
72     { "XVID",        ff_xvid_idct,         FF_IDCT_PERM_NONE, 0, 1 },
73 #endif /* CONFIG_MPEG4_DECODER */
74 };
75
76 #if ARCH_ARM
77 #include "arm/dct-test.c"
78 #elif ARCH_PPC
79 #include "ppc/dct-test.c"
80 #elif ARCH_X86
81 #include "x86/dct-test.c"
82 #else
83 static const struct algo fdct_tab_arch[] = { 0 };
84 static const struct algo idct_tab_arch[] = { 0 };
85 #endif
86
87 #define AANSCALE_BITS 12
88
89 #define NB_ITS 20000
90 #define NB_ITS_SPEED 50000
91
92 DECLARE_ALIGNED(16, static int16_t, block)[64];
93 DECLARE_ALIGNED(8,  static int16_t, block1)[64];
94
95 static void init_block(int16_t block[64], int test, int is_idct, AVLFG *prng)
96 {
97     int i, j;
98
99     memset(block, 0, 64 * sizeof(*block));
100
101     switch (test) {
102     case 0:
103         for (i = 0; i < 64; i++)
104             block[i] = (av_lfg_get(prng) % 512) - 256;
105         if (is_idct) {
106             ff_ref_fdct(block);
107             for (i = 0; i < 64; i++)
108                 block[i] >>= 3;
109         }
110         break;
111     case 1:
112         j = av_lfg_get(prng) % 10 + 1;
113         for (i = 0; i < j; i++)
114             block[av_lfg_get(prng) % 64] = av_lfg_get(prng) % 512 - 256;
115         break;
116     case 2:
117         block[ 0] = av_lfg_get(prng) % 4096 - 2048;
118         block[63] = (block[0] & 1) ^ 1;
119         break;
120     }
121 }
122
123 static void permute(int16_t dst[64], const int16_t src[64],
124                     enum idct_permutation_type perm_type)
125 {
126     int i;
127
128 #if ARCH_X86
129     if (permute_x86(dst, src, perm_type))
130         return;
131 #endif
132
133     switch (perm_type) {
134     case FF_IDCT_PERM_LIBMPEG2:
135         for (i = 0; i < 64; i++)
136             dst[(i & 0x38) | ((i & 6) >> 1) | ((i & 1) << 2)] = src[i];
137         break;
138     case FF_IDCT_PERM_PARTTRANS:
139         for (i = 0; i < 64; i++)
140             dst[(i & 0x24) | ((i & 3) << 3) | ((i >> 3) & 3)] = src[i];
141         break;
142     default:
143         for (i = 0; i < 64; i++)
144             dst[i] = src[i];
145         break;
146     }
147 }
148
149 static int dct_error(const struct algo *dct, int test, int is_idct, int speed)
150 {
151     void (*ref)(int16_t *block) = is_idct ? ff_ref_idct : ff_ref_fdct;
152     int it, i, scale;
153     int err_inf, v;
154     int64_t err2, ti, ti1, it1, err_sum = 0;
155     int64_t sysErr[64], sysErrMax = 0;
156     int maxout = 0;
157     int blockSumErrMax = 0, blockSumErr;
158     AVLFG prng;
159     double omse, ome;
160     int spec_err;
161
162     av_lfg_init(&prng, 1);
163
164     err_inf = 0;
165     err2 = 0;
166     for (i = 0; i < 64; i++)
167         sysErr[i] = 0;
168     for (it = 0; it < NB_ITS; it++) {
169         init_block(block1, test, is_idct, &prng);
170         permute(block, block1, dct->perm_type);
171
172         dct->func(block);
173         emms_c();
174
175         if (!strcmp(dct->name, "IJG-AAN-INT")) {
176             for (i = 0; i < 64; i++) {
177                 scale = 8 * (1 << (AANSCALE_BITS + 11)) / ff_aanscales[i];
178                 block[i] = (block[i] * scale) >> AANSCALE_BITS;
179             }
180         }
181
182         ref(block1);
183
184         blockSumErr = 0;
185         for (i = 0; i < 64; i++) {
186             int err = block[i] - block1[i];
187             err_sum += err;
188             v = abs(err);
189             if (v > err_inf)
190                 err_inf = v;
191             err2 += v * v;
192             sysErr[i] += block[i] - block1[i];
193             blockSumErr += v;
194             if (abs(block[i]) > maxout)
195                 maxout = abs(block[i]);
196         }
197         if (blockSumErrMax < blockSumErr)
198             blockSumErrMax = blockSumErr;
199     }
200     for (i = 0; i < 64; i++)
201         sysErrMax = FFMAX(sysErrMax, FFABS(sysErr[i]));
202
203     for (i = 0; i < 64; i++) {
204         if (i % 8 == 0)
205             printf("\n");
206         printf("%7d ", (int) sysErr[i]);
207     }
208     printf("\n");
209
210     omse = (double) err2 / NB_ITS / 64;
211     ome  = (double) err_sum / NB_ITS / 64;
212
213     spec_err = is_idct && (err_inf > 1 || omse > 0.02 || fabs(ome) > 0.0015);
214
215     printf("%s %s: ppe=%d omse=%0.8f ome=%0.8f syserr=%0.8f maxout=%d blockSumErr=%d\n",
216            is_idct ? "IDCT" : "DCT", dct->name, err_inf,
217            omse, ome, (double) sysErrMax / NB_ITS,
218            maxout, blockSumErrMax);
219
220     if (spec_err && !dct->nonspec)
221         return 1;
222
223     if (!speed)
224         return 0;
225
226     /* speed test */
227     init_block(block, test, is_idct, &prng);
228     permute(block1, block, dct->perm_type);
229
230     ti = av_gettime();
231     it1 = 0;
232     do {
233         for (it = 0; it < NB_ITS_SPEED; it++) {
234             memcpy(block, block1, sizeof(block));
235             dct->func(block);
236         }
237         it1 += NB_ITS_SPEED;
238         ti1 = av_gettime() - ti;
239     } while (ti1 < 1000000);
240     emms_c();
241
242     printf("%s %s: %0.1f kdct/s\n", is_idct ? "IDCT" : "DCT", dct->name,
243            (double) it1 * 1000.0 / (double) ti1);
244
245     return 0;
246 }
247
248 DECLARE_ALIGNED(8, static uint8_t, img_dest)[64];
249 DECLARE_ALIGNED(8, static uint8_t, img_dest1)[64];
250
251 static void idct248_ref(uint8_t *dest, int linesize, int16_t *block)
252 {
253     static int init;
254     static double c8[8][8];
255     static double c4[4][4];
256     double block1[64], block2[64], block3[64];
257     double s, sum, v;
258     int i, j, k;
259
260     if (!init) {
261         init = 1;
262
263         for (i = 0; i < 8; i++) {
264             sum = 0;
265             for (j = 0; j < 8; j++) {
266                 s = (i == 0) ? sqrt(1.0 / 8.0) : sqrt(1.0 / 4.0);
267                 c8[i][j] = s * cos(M_PI * i * (j + 0.5) / 8.0);
268                 sum += c8[i][j] * c8[i][j];
269             }
270         }
271
272         for (i = 0; i < 4; i++) {
273             sum = 0;
274             for (j = 0; j < 4; j++) {
275                 s = (i == 0) ? sqrt(1.0 / 4.0) : sqrt(1.0 / 2.0);
276                 c4[i][j] = s * cos(M_PI * i * (j + 0.5) / 4.0);
277                 sum += c4[i][j] * c4[i][j];
278             }
279         }
280     }
281
282     /* butterfly */
283     s = 0.5 * sqrt(2.0);
284     for (i = 0; i < 4; i++) {
285         for (j = 0; j < 8; j++) {
286             block1[8 * (2 * i) + j] =
287                 (block[8 * (2 * i) + j] + block[8 * (2 * i + 1) + j]) * s;
288             block1[8 * (2 * i + 1) + j] =
289                 (block[8 * (2 * i) + j] - block[8 * (2 * i + 1) + j]) * s;
290         }
291     }
292
293     /* idct8 on lines */
294     for (i = 0; i < 8; i++) {
295         for (j = 0; j < 8; j++) {
296             sum = 0;
297             for (k = 0; k < 8; k++)
298                 sum += c8[k][j] * block1[8 * i + k];
299             block2[8 * i + j] = sum;
300         }
301     }
302
303     /* idct4 */
304     for (i = 0; i < 8; i++) {
305         for (j = 0; j < 4; j++) {
306             /* top */
307             sum = 0;
308             for (k = 0; k < 4; k++)
309                 sum += c4[k][j] * block2[8 * (2 * k) + i];
310             block3[8 * (2 * j) + i] = sum;
311
312             /* bottom */
313             sum = 0;
314             for (k = 0; k < 4; k++)
315                 sum += c4[k][j] * block2[8 * (2 * k + 1) + i];
316             block3[8 * (2 * j + 1) + i] = sum;
317         }
318     }
319
320     /* clamp and store the result */
321     for (i = 0; i < 8; i++) {
322         for (j = 0; j < 8; j++) {
323             v = block3[8 * i + j];
324             if      (v < 0)   v = 0;
325             else if (v > 255) v = 255;
326             dest[i * linesize + j] = (int) rint(v);
327         }
328     }
329 }
330
331 static void idct248_error(const char *name,
332                           void (*idct248_put)(uint8_t *dest, int line_size,
333                                               int16_t *block),
334                           int speed)
335 {
336     int it, i, it1, ti, ti1, err_max, v;
337     AVLFG prng;
338
339     av_lfg_init(&prng, 1);
340
341     /* just one test to see if code is correct (precision is less
342        important here) */
343     err_max = 0;
344     for (it = 0; it < NB_ITS; it++) {
345         /* XXX: use forward transform to generate values */
346         for (i = 0; i < 64; i++)
347             block1[i] = av_lfg_get(&prng) % 256 - 128;
348         block1[0] += 1024;
349
350         for (i = 0; i < 64; i++)
351             block[i] = block1[i];
352         idct248_ref(img_dest1, 8, block);
353
354         for (i = 0; i < 64; i++)
355             block[i] = block1[i];
356         idct248_put(img_dest, 8, block);
357
358         for (i = 0; i < 64; i++) {
359             v = abs((int) img_dest[i] - (int) img_dest1[i]);
360             if (v == 255)
361                 printf("%d %d\n", img_dest[i], img_dest1[i]);
362             if (v > err_max)
363                 err_max = v;
364         }
365     }
366     printf("%s %s: err_inf=%d\n", 1 ? "IDCT248" : "DCT248", name, err_max);
367
368     if (!speed)
369         return;
370
371     ti = av_gettime();
372     it1 = 0;
373     do {
374         for (it = 0; it < NB_ITS_SPEED; it++) {
375             for (i = 0; i < 64; i++)
376                 block[i] = block1[i];
377             idct248_put(img_dest, 8, block);
378         }
379         it1 += NB_ITS_SPEED;
380         ti1 = av_gettime() - ti;
381     } while (ti1 < 1000000);
382     emms_c();
383
384     printf("%s %s: %0.1f kdct/s\n", 1 ? "IDCT248" : "DCT248", name,
385            (double) it1 * 1000.0 / (double) ti1);
386 }
387
388 static void help(void)
389 {
390     printf("dct-test [-i] [<test-number>]\n"
391            "test-number 0 -> test with random matrixes\n"
392            "            1 -> test with random sparse matrixes\n"
393            "            2 -> do 3. test from mpeg4 std\n"
394            "-i          test IDCT implementations\n"
395            "-4          test IDCT248 implementations\n"
396            "-t          speed test\n");
397 }
398
399 #if !HAVE_GETOPT
400 #include "compat/getopt.c"
401 #endif
402
403 int main(int argc, char **argv)
404 {
405     int test_idct = 0, test_248_dct = 0;
406     int c, i;
407     int test = 1;
408     int speed = 0;
409     int err = 0;
410
411     ff_ref_dct_init();
412
413     for (;;) {
414         c = getopt(argc, argv, "ih4t");
415         if (c == -1)
416             break;
417         switch (c) {
418         case 'i':
419             test_idct = 1;
420             break;
421         case '4':
422             test_248_dct = 1;
423             break;
424         case 't':
425             speed = 1;
426             break;
427         default:
428         case 'h':
429             help();
430             return 0;
431         }
432     }
433
434     if (optind < argc)
435         test = atoi(argv[optind]);
436
437     printf("Libav DCT/IDCT test\n");
438
439     if (test_248_dct) {
440         idct248_error("SIMPLE-C", ff_simple_idct248_put, speed);
441     } else {
442         const int cpu_flags = av_get_cpu_flags();
443         if (test_idct) {
444             for (i = 0; i < FF_ARRAY_ELEMS(idct_tab); i++)
445                 err |= dct_error(&idct_tab[i], test, test_idct, speed);
446
447             for (i = 0; idct_tab_arch[i].name; i++)
448                 if (!(~cpu_flags & idct_tab_arch[i].cpu_flag))
449                     err |= dct_error(&idct_tab_arch[i], test, test_idct, speed);
450         }
451 #if CONFIG_FDCTDSP
452         else {
453             for (i = 0; i < FF_ARRAY_ELEMS(fdct_tab); i++)
454                 err |= dct_error(&fdct_tab[i], test, test_idct, speed);
455
456             for (i = 0; fdct_tab_arch[i].name; i++)
457                 if (!(~cpu_flags & fdct_tab_arch[i].cpu_flag))
458                     err |= dct_error(&fdct_tab_arch[i], test, test_idct, speed);
459         }
460 #endif /* CONFIG_FDCTDSP */
461     }
462
463     if (err)
464         printf("Error: %d.\n", err);
465
466     return !!err;
467 }