23468ad0b9831ad7bcf6629d4484de433680c9fc
[ffmpeg.git] / libavutil / float_dsp.c
1 /*
2  * This file is part of Libav.
3  *
4  * Libav is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * Libav is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with Libav; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "config.h"
20 #include "attributes.h"
21 #include "float_dsp.h"
22
23 static void vector_fmul_c(float *dst, const float *src0, const float *src1,
24                           int len)
25 {
26     int i;
27     for (i = 0; i < len; i++)
28         dst[i] = src0[i] * src1[i];
29 }
30
31 static void vector_fmac_scalar_c(float *dst, const float *src, float mul,
32                                  int len)
33 {
34     int i;
35     for (i = 0; i < len; i++)
36         dst[i] += src[i] * mul;
37 }
38
39 static void vector_fmul_scalar_c(float *dst, const float *src, float mul,
40                                  int len)
41 {
42     int i;
43     for (i = 0; i < len; i++)
44         dst[i] = src[i] * mul;
45 }
46
47 static void vector_dmul_scalar_c(double *dst, const double *src, double mul,
48                                  int len)
49 {
50     int i;
51     for (i = 0; i < len; i++)
52         dst[i] = src[i] * mul;
53 }
54
55 static void vector_fmul_window_c(float *dst, const float *src0,
56                                  const float *src1, const float *win, int len)
57 {
58     int i, j;
59
60     dst  += len;
61     win  += len;
62     src0 += len;
63
64     for (i = -len, j = len - 1; i < 0; i++, j--) {
65         float s0 = src0[i];
66         float s1 = src1[j];
67         float wi = win[i];
68         float wj = win[j];
69         dst[i] = s0 * wj - s1 * wi;
70         dst[j] = s0 * wi + s1 * wj;
71     }
72 }
73
74 static void vector_fmul_add_c(float *dst, const float *src0, const float *src1,
75                               const float *src2, int len){
76     int i;
77
78     for (i = 0; i < len; i++)
79         dst[i] = src0[i] * src1[i] + src2[i];
80 }
81
82 static void vector_fmul_reverse_c(float *dst, const float *src0,
83                                   const float *src1, int len)
84 {
85     int i;
86
87     src1 += len-1;
88     for (i = 0; i < len; i++)
89         dst[i] = src0[i] * src1[-i];
90 }
91
92 static void butterflies_float_c(float *restrict v1, float *restrict v2,
93                                 int len)
94 {
95     int i;
96
97     for (i = 0; i < len; i++) {
98         float t = v1[i] - v2[i];
99         v1[i] += v2[i];
100         v2[i] = t;
101     }
102 }
103
104 float avpriv_scalarproduct_float_c(const float *v1, const float *v2, int len)
105 {
106     float p = 0.0;
107     int i;
108
109     for (i = 0; i < len; i++)
110         p += v1[i] * v2[i];
111
112     return p;
113 }
114
115 av_cold void avpriv_float_dsp_init(AVFloatDSPContext *fdsp, int bit_exact)
116 {
117     fdsp->vector_fmul = vector_fmul_c;
118     fdsp->vector_fmac_scalar = vector_fmac_scalar_c;
119     fdsp->vector_fmul_scalar = vector_fmul_scalar_c;
120     fdsp->vector_dmul_scalar = vector_dmul_scalar_c;
121     fdsp->vector_fmul_window = vector_fmul_window_c;
122     fdsp->vector_fmul_add = vector_fmul_add_c;
123     fdsp->vector_fmul_reverse = vector_fmul_reverse_c;
124     fdsp->butterflies_float = butterflies_float_c;
125     fdsp->scalarproduct_float = avpriv_scalarproduct_float_c;
126
127 #if   ARCH_AARCH64
128     ff_float_dsp_init_aarch64(fdsp);
129 #elif ARCH_ARM
130     ff_float_dsp_init_arm(fdsp);
131 #elif ARCH_PPC
132     ff_float_dsp_init_ppc(fdsp, bit_exact);
133 #elif ARCH_X86
134     ff_float_dsp_init_x86(fdsp);
135 #endif
136 }
137
138 #ifdef TEST
139
140 #include <float.h>
141 #include <math.h>
142 #include <stdint.h>
143 #include <stdlib.h>
144 #include <string.h>
145
146 #include "cpu.h"
147 #include "lfg.h"
148 #include "log.h"
149 #include "mem.h"
150 #include "random_seed.h"
151
152 #define LEN 240
153
154 static void fill_float_array(AVLFG *lfg, float *a, int len)
155 {
156     int i;
157     double bmg[2], stddev = 10.0, mean = 0.0;
158
159     for (i = 0; i < len; i += 2) {
160         av_bmg_get(lfg, bmg);
161         a[i]     = bmg[0] * stddev + mean;
162         a[i + 1] = bmg[1] * stddev + mean;
163     }
164 }
165 static int compare_floats(const float *a, const float *b, int len,
166                           float max_diff)
167 {
168     int i;
169     for (i = 0; i < len; i++) {
170         if (fabsf(a[i] - b[i]) > max_diff) {
171             av_log(NULL, AV_LOG_ERROR, "%d: %- .12f - %- .12f = % .12g\n",
172                    i, a[i], b[i], a[i] - b[i]);
173             return -1;
174         }
175     }
176     return 0;
177 }
178
179 static void fill_double_array(AVLFG *lfg, double *a, int len)
180 {
181     int i;
182     double bmg[2], stddev = 10.0, mean = 0.0;
183
184     for (i = 0; i < len; i += 2) {
185         av_bmg_get(lfg, bmg);
186         a[i]     = bmg[0] * stddev + mean;
187         a[i + 1] = bmg[1] * stddev + mean;
188     }
189 }
190
191 static int compare_doubles(const double *a, const double *b, int len,
192                            double max_diff)
193 {
194     int i;
195
196     for (i = 0; i < len; i++) {
197         if (fabs(a[i] - b[i]) > max_diff) {
198             av_log(NULL, AV_LOG_ERROR, "%d: %- .12f - %- .12f = % .12g\n",
199                    i, a[i], b[i], a[i] - b[i]);
200             return -1;
201         }
202     }
203     return 0;
204 }
205
206 static int test_vector_fmul(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
207                             const float *v1, const float *v2)
208 {
209     DECLARE_ALIGNED(32, float, cdst)[LEN];
210     DECLARE_ALIGNED(32, float, odst)[LEN];
211     int ret;
212
213     cdsp->vector_fmul(cdst, v1, v2, LEN);
214     fdsp->vector_fmul(odst, v1, v2, LEN);
215
216     if (ret = compare_floats(cdst, odst, LEN, FLT_EPSILON))
217         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
218
219     return ret;
220 }
221
222 #define ARBITRARY_FMAC_SCALAR_CONST 0.005
223 static int test_vector_fmac_scalar(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
224                                    const float *v1, const float *src0, float scale)
225 {
226     DECLARE_ALIGNED(32, float, cdst)[LEN];
227     DECLARE_ALIGNED(32, float, odst)[LEN];
228     int ret;
229
230     memcpy(cdst, v1, LEN * sizeof(*v1));
231     memcpy(odst, v1, LEN * sizeof(*v1));
232
233     cdsp->vector_fmac_scalar(cdst, src0, scale, LEN);
234     fdsp->vector_fmac_scalar(odst, src0, scale, LEN);
235
236     if (ret = compare_floats(cdst, odst, LEN, ARBITRARY_FMAC_SCALAR_CONST))
237         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
238
239     return ret;
240 }
241
242 static int test_vector_fmul_scalar(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
243                                    const float *v1, float scale)
244 {
245     DECLARE_ALIGNED(32, float, cdst)[LEN];
246     DECLARE_ALIGNED(32, float, odst)[LEN];
247     int ret;
248
249     cdsp->vector_fmul_scalar(cdst, v1, scale, LEN);
250     fdsp->vector_fmul_scalar(odst, v1, scale, LEN);
251
252     if (ret = compare_floats(cdst, odst, LEN, FLT_EPSILON))
253         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
254
255     return ret;
256 }
257
258 static int test_vector_dmul_scalar(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
259                                    const double *v1, double scale)
260 {
261     DECLARE_ALIGNED(32, double, cdst)[LEN];
262     DECLARE_ALIGNED(32, double, odst)[LEN];
263     int ret;
264
265     cdsp->vector_dmul_scalar(cdst, v1, scale, LEN);
266     fdsp->vector_dmul_scalar(odst, v1, scale, LEN);
267
268     if (ret = compare_doubles(cdst, odst, LEN, DBL_EPSILON))
269         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
270
271     return ret;
272 }
273
274 #define ARBITRARY_FMUL_WINDOW_CONST 0.008
275 static int test_vector_fmul_window(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
276                                    const float *v1, const float *v2, const float *v3)
277 {
278     DECLARE_ALIGNED(32, float, cdst)[LEN];
279     DECLARE_ALIGNED(32, float, odst)[LEN];
280     int ret;
281
282     cdsp->vector_fmul_window(cdst, v1, v2, v3, LEN / 2);
283     fdsp->vector_fmul_window(odst, v1, v2, v3, LEN / 2);
284
285     if (ret = compare_floats(cdst, odst, LEN, ARBITRARY_FMUL_WINDOW_CONST))
286         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
287
288     return ret;
289 }
290
291 #define ARBITRARY_FMUL_ADD_CONST 0.005
292 static int test_vector_fmul_add(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
293                                 const float *v1, const float *v2, const float *v3)
294 {
295     DECLARE_ALIGNED(32, float, cdst)[LEN];
296     DECLARE_ALIGNED(32, float, odst)[LEN];
297     int ret;
298
299     cdsp->vector_fmul_add(cdst, v1, v2, v3, LEN);
300     fdsp->vector_fmul_add(odst, v1, v2, v3, LEN);
301
302     if (ret = compare_floats(cdst, odst, LEN, ARBITRARY_FMUL_ADD_CONST))
303         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
304
305     return ret;
306 }
307
308 static int test_vector_fmul_reverse(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
309                                     const float *v1, const float *v2)
310 {
311     DECLARE_ALIGNED(32, float, cdst)[LEN];
312     DECLARE_ALIGNED(32, float, odst)[LEN];
313     int ret;
314
315     cdsp->vector_fmul_reverse(cdst, v1, v2, LEN);
316     fdsp->vector_fmul_reverse(odst, v1, v2, LEN);
317
318     if (ret = compare_floats(cdst, odst, LEN, FLT_EPSILON))
319         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
320
321     return ret;
322 }
323
324 static int test_butterflies_float(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
325                                   const float *v1, const float *v2)
326 {
327     DECLARE_ALIGNED(32, float, cv1)[LEN];
328     DECLARE_ALIGNED(32, float, cv2)[LEN];
329     DECLARE_ALIGNED(32, float, ov1)[LEN];
330     DECLARE_ALIGNED(32, float, ov2)[LEN];
331     int ret;
332
333     memcpy(cv1, v1, LEN * sizeof(*v1));
334     memcpy(cv2, v2, LEN * sizeof(*v2));
335     memcpy(ov1, v1, LEN * sizeof(*v1));
336     memcpy(ov2, v2, LEN * sizeof(*v2));
337
338     cdsp->butterflies_float(cv1, cv2, LEN);
339     fdsp->butterflies_float(ov1, ov2, LEN);
340
341     if ((ret = compare_floats(cv1, ov1, LEN, FLT_EPSILON)) ||
342         (ret = compare_floats(cv2, ov2, LEN, FLT_EPSILON)))
343         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
344
345     return ret;
346 }
347
348 #define ARBITRARY_SCALARPRODUCT_CONST 0.2
349 static int test_scalarproduct_float(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
350                                     const float *v1, const float *v2)
351 {
352     float cprod, oprod;
353     int ret;
354
355     cprod = cdsp->scalarproduct_float(v1, v2, LEN);
356     oprod = fdsp->scalarproduct_float(v1, v2, LEN);
357
358     if (ret = compare_floats(&cprod, &oprod, 1, ARBITRARY_SCALARPRODUCT_CONST))
359         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
360
361     return ret;
362 }
363
364 int main(int argc, char **argv)
365 {
366     int ret = 0;
367     uint32_t seed;
368     AVFloatDSPContext fdsp, cdsp;
369     AVLFG lfg;
370
371     DECLARE_ALIGNED(32, float, src0)[LEN];
372     DECLARE_ALIGNED(32, float, src1)[LEN];
373     DECLARE_ALIGNED(32, float, src2)[LEN];
374     DECLARE_ALIGNED(32, double, dbl_src0)[LEN];
375     DECLARE_ALIGNED(32, double, dbl_src1)[LEN];
376
377     if (argc > 2 && !strcmp(argv[1], "-s"))
378         seed = strtoul(argv[2], NULL, 10);
379     else
380         seed = av_get_random_seed();
381
382     av_log(NULL, AV_LOG_INFO, "float_dsp-test: random seed %u\n", seed);
383
384     av_lfg_init(&lfg, seed);
385
386     fill_float_array(&lfg, src0, LEN);
387     fill_float_array(&lfg, src1, LEN);
388     fill_float_array(&lfg, src2, LEN);
389
390     fill_double_array(&lfg, dbl_src0, LEN);
391     fill_double_array(&lfg, dbl_src1, LEN);
392
393     avpriv_float_dsp_init(&fdsp, 1);
394     av_set_cpu_flags_mask(0);
395     avpriv_float_dsp_init(&cdsp, 1);
396
397     if (test_vector_fmul(&fdsp, &cdsp, src0, src1))
398         ret -= 1 << 0;
399     if (test_vector_fmac_scalar(&fdsp, &cdsp, src2, src0, src1[0]))
400         ret -= 1 << 1;
401     if (test_vector_fmul_scalar(&fdsp, &cdsp, src0, src1[0]))
402         ret -= 1 << 2;
403     if (test_vector_fmul_window(&fdsp, &cdsp, src0, src1, src2))
404         ret -= 1 << 3;
405     if (test_vector_fmul_add(&fdsp, &cdsp, src0, src1, src2))
406         ret -= 1 << 4;
407     if (test_vector_fmul_reverse(&fdsp, &cdsp, src0, src1))
408         ret -= 1 << 5;
409     if (test_butterflies_float(&fdsp, &cdsp, src0, src1))
410         ret -= 1 << 6;
411     if (test_scalarproduct_float(&fdsp, &cdsp, src0, src1))
412         ret -= 1 << 7;
413     if (test_vector_dmul_scalar(&fdsp, &cdsp, dbl_src0, dbl_src1[0]))
414         ret -= 1 << 8;
415
416     return ret;
417 }
418
419 #endif /* TEST */