float_dsp: Use LOCAL_ALIGNED for instead of DECLARE_ALIGNED within functions
[ffmpeg.git] / libavutil / float_dsp.c
1 /*
2  * This file is part of Libav.
3  *
4  * Libav is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * Libav is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with Libav; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "config.h"
20 #include "attributes.h"
21 #include "float_dsp.h"
22
23 static void vector_fmul_c(float *dst, const float *src0, const float *src1,
24                           int len)
25 {
26     int i;
27     for (i = 0; i < len; i++)
28         dst[i] = src0[i] * src1[i];
29 }
30
31 static void vector_fmac_scalar_c(float *dst, const float *src, float mul,
32                                  int len)
33 {
34     int i;
35     for (i = 0; i < len; i++)
36         dst[i] += src[i] * mul;
37 }
38
39 static void vector_fmul_scalar_c(float *dst, const float *src, float mul,
40                                  int len)
41 {
42     int i;
43     for (i = 0; i < len; i++)
44         dst[i] = src[i] * mul;
45 }
46
47 static void vector_dmul_scalar_c(double *dst, const double *src, double mul,
48                                  int len)
49 {
50     int i;
51     for (i = 0; i < len; i++)
52         dst[i] = src[i] * mul;
53 }
54
55 static void vector_fmul_window_c(float *dst, const float *src0,
56                                  const float *src1, const float *win, int len)
57 {
58     int i, j;
59
60     dst  += len;
61     win  += len;
62     src0 += len;
63
64     for (i = -len, j = len - 1; i < 0; i++, j--) {
65         float s0 = src0[i];
66         float s1 = src1[j];
67         float wi = win[i];
68         float wj = win[j];
69         dst[i] = s0 * wj - s1 * wi;
70         dst[j] = s0 * wi + s1 * wj;
71     }
72 }
73
74 static void vector_fmul_add_c(float *dst, const float *src0, const float *src1,
75                               const float *src2, int len){
76     int i;
77
78     for (i = 0; i < len; i++)
79         dst[i] = src0[i] * src1[i] + src2[i];
80 }
81
82 static void vector_fmul_reverse_c(float *dst, const float *src0,
83                                   const float *src1, int len)
84 {
85     int i;
86
87     src1 += len-1;
88     for (i = 0; i < len; i++)
89         dst[i] = src0[i] * src1[-i];
90 }
91
92 static void butterflies_float_c(float *restrict v1, float *restrict v2,
93                                 int len)
94 {
95     int i;
96
97     for (i = 0; i < len; i++) {
98         float t = v1[i] - v2[i];
99         v1[i] += v2[i];
100         v2[i] = t;
101     }
102 }
103
104 float avpriv_scalarproduct_float_c(const float *v1, const float *v2, int len)
105 {
106     float p = 0.0;
107     int i;
108
109     for (i = 0; i < len; i++)
110         p += v1[i] * v2[i];
111
112     return p;
113 }
114
115 av_cold void avpriv_float_dsp_init(AVFloatDSPContext *fdsp, int bit_exact)
116 {
117     fdsp->vector_fmul = vector_fmul_c;
118     fdsp->vector_fmac_scalar = vector_fmac_scalar_c;
119     fdsp->vector_fmul_scalar = vector_fmul_scalar_c;
120     fdsp->vector_dmul_scalar = vector_dmul_scalar_c;
121     fdsp->vector_fmul_window = vector_fmul_window_c;
122     fdsp->vector_fmul_add = vector_fmul_add_c;
123     fdsp->vector_fmul_reverse = vector_fmul_reverse_c;
124     fdsp->butterflies_float = butterflies_float_c;
125     fdsp->scalarproduct_float = avpriv_scalarproduct_float_c;
126
127 #if   ARCH_AARCH64
128     ff_float_dsp_init_aarch64(fdsp);
129 #elif ARCH_ARM
130     ff_float_dsp_init_arm(fdsp);
131 #elif ARCH_PPC
132     ff_float_dsp_init_ppc(fdsp, bit_exact);
133 #elif ARCH_X86
134     ff_float_dsp_init_x86(fdsp);
135 #endif
136 }
137
138 #ifdef TEST
139
140 #include <float.h>
141 #include <math.h>
142 #include <stdint.h>
143 #include <stdlib.h>
144 #include <string.h>
145
146 #include "common.h"
147 #include "cpu.h"
148 #include "internal.h"
149 #include "lfg.h"
150 #include "log.h"
151 #include "mem.h"
152 #include "random_seed.h"
153
154 #define LEN 240
155
156 static void fill_float_array(AVLFG *lfg, float *a, int len)
157 {
158     int i;
159     double bmg[2], stddev = 10.0, mean = 0.0;
160
161     for (i = 0; i < len; i += 2) {
162         av_bmg_get(lfg, bmg);
163         a[i]     = bmg[0] * stddev + mean;
164         a[i + 1] = bmg[1] * stddev + mean;
165     }
166 }
167 static int compare_floats(const float *a, const float *b, int len,
168                           float max_diff)
169 {
170     int i;
171     for (i = 0; i < len; i++) {
172         if (fabsf(a[i] - b[i]) > max_diff) {
173             av_log(NULL, AV_LOG_ERROR, "%d: %- .12f - %- .12f = % .12g\n",
174                    i, a[i], b[i], a[i] - b[i]);
175             return -1;
176         }
177     }
178     return 0;
179 }
180
181 static void fill_double_array(AVLFG *lfg, double *a, int len)
182 {
183     int i;
184     double bmg[2], stddev = 10.0, mean = 0.0;
185
186     for (i = 0; i < len; i += 2) {
187         av_bmg_get(lfg, bmg);
188         a[i]     = bmg[0] * stddev + mean;
189         a[i + 1] = bmg[1] * stddev + mean;
190     }
191 }
192
193 static int compare_doubles(const double *a, const double *b, int len,
194                            double max_diff)
195 {
196     int i;
197
198     for (i = 0; i < len; i++) {
199         if (fabs(a[i] - b[i]) > max_diff) {
200             av_log(NULL, AV_LOG_ERROR, "%d: %- .12f - %- .12f = % .12g\n",
201                    i, a[i], b[i], a[i] - b[i]);
202             return -1;
203         }
204     }
205     return 0;
206 }
207
208 static int test_vector_fmul(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
209                             const float *v1, const float *v2)
210 {
211     LOCAL_ALIGNED(32, float, cdst, [LEN]);
212     LOCAL_ALIGNED(32, float, odst, [LEN]);
213     int ret;
214
215     cdsp->vector_fmul(cdst, v1, v2, LEN);
216     fdsp->vector_fmul(odst, v1, v2, LEN);
217
218     if (ret = compare_floats(cdst, odst, LEN, FLT_EPSILON))
219         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
220
221     return ret;
222 }
223
224 #define ARBITRARY_FMAC_SCALAR_CONST 0.005
225 static int test_vector_fmac_scalar(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
226                                    const float *v1, const float *src0, float scale)
227 {
228     LOCAL_ALIGNED(32, float, cdst, [LEN]);
229     LOCAL_ALIGNED(32, float, odst, [LEN]);
230     int ret;
231
232     memcpy(cdst, v1, LEN * sizeof(*v1));
233     memcpy(odst, v1, LEN * sizeof(*v1));
234
235     cdsp->vector_fmac_scalar(cdst, src0, scale, LEN);
236     fdsp->vector_fmac_scalar(odst, src0, scale, LEN);
237
238     if (ret = compare_floats(cdst, odst, LEN, ARBITRARY_FMAC_SCALAR_CONST))
239         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
240
241     return ret;
242 }
243
244 static int test_vector_fmul_scalar(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
245                                    const float *v1, float scale)
246 {
247     LOCAL_ALIGNED(32, float, cdst, [LEN]);
248     LOCAL_ALIGNED(32, float, odst, [LEN]);
249     int ret;
250
251     cdsp->vector_fmul_scalar(cdst, v1, scale, LEN);
252     fdsp->vector_fmul_scalar(odst, v1, scale, LEN);
253
254     if (ret = compare_floats(cdst, odst, LEN, FLT_EPSILON))
255         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
256
257     return ret;
258 }
259
260 static int test_vector_dmul_scalar(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
261                                    const double *v1, double scale)
262 {
263     LOCAL_ALIGNED(32, double, cdst, [LEN]);
264     LOCAL_ALIGNED(32, double, odst, [LEN]);
265     int ret;
266
267     cdsp->vector_dmul_scalar(cdst, v1, scale, LEN);
268     fdsp->vector_dmul_scalar(odst, v1, scale, LEN);
269
270     if (ret = compare_doubles(cdst, odst, LEN, DBL_EPSILON))
271         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
272
273     return ret;
274 }
275
276 #define ARBITRARY_FMUL_WINDOW_CONST 0.008
277 static int test_vector_fmul_window(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
278                                    const float *v1, const float *v2, const float *v3)
279 {
280     LOCAL_ALIGNED(32, float, cdst, [LEN]);
281     LOCAL_ALIGNED(32, float, odst, [LEN]);
282     int ret;
283
284     cdsp->vector_fmul_window(cdst, v1, v2, v3, LEN / 2);
285     fdsp->vector_fmul_window(odst, v1, v2, v3, LEN / 2);
286
287     if (ret = compare_floats(cdst, odst, LEN, ARBITRARY_FMUL_WINDOW_CONST))
288         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
289
290     return ret;
291 }
292
293 #define ARBITRARY_FMUL_ADD_CONST 0.005
294 static int test_vector_fmul_add(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
295                                 const float *v1, const float *v2, const float *v3)
296 {
297     LOCAL_ALIGNED(32, float, cdst, [LEN]);
298     LOCAL_ALIGNED(32, float, odst, [LEN]);
299     int ret;
300
301     cdsp->vector_fmul_add(cdst, v1, v2, v3, LEN);
302     fdsp->vector_fmul_add(odst, v1, v2, v3, LEN);
303
304     if (ret = compare_floats(cdst, odst, LEN, ARBITRARY_FMUL_ADD_CONST))
305         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
306
307     return ret;
308 }
309
310 static int test_vector_fmul_reverse(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
311                                     const float *v1, const float *v2)
312 {
313     LOCAL_ALIGNED(32, float, cdst, [LEN]);
314     LOCAL_ALIGNED(32, float, odst, [LEN]);
315     int ret;
316
317     cdsp->vector_fmul_reverse(cdst, v1, v2, LEN);
318     fdsp->vector_fmul_reverse(odst, v1, v2, LEN);
319
320     if (ret = compare_floats(cdst, odst, LEN, FLT_EPSILON))
321         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
322
323     return ret;
324 }
325
326 static int test_butterflies_float(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
327                                   const float *v1, const float *v2)
328 {
329     LOCAL_ALIGNED(32, float, cv1, [LEN]);
330     LOCAL_ALIGNED(32, float, cv2, [LEN]);
331     LOCAL_ALIGNED(32, float, ov1, [LEN]);
332     LOCAL_ALIGNED(32, float, ov2, [LEN]);
333     int ret;
334
335     memcpy(cv1, v1, LEN * sizeof(*v1));
336     memcpy(cv2, v2, LEN * sizeof(*v2));
337     memcpy(ov1, v1, LEN * sizeof(*v1));
338     memcpy(ov2, v2, LEN * sizeof(*v2));
339
340     cdsp->butterflies_float(cv1, cv2, LEN);
341     fdsp->butterflies_float(ov1, ov2, LEN);
342
343     if ((ret = compare_floats(cv1, ov1, LEN, FLT_EPSILON)) ||
344         (ret = compare_floats(cv2, ov2, LEN, FLT_EPSILON)))
345         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
346
347     return ret;
348 }
349
350 #define ARBITRARY_SCALARPRODUCT_CONST 0.2
351 static int test_scalarproduct_float(AVFloatDSPContext *fdsp, AVFloatDSPContext *cdsp,
352                                     const float *v1, const float *v2)
353 {
354     float cprod, oprod;
355     int ret;
356
357     cprod = cdsp->scalarproduct_float(v1, v2, LEN);
358     oprod = fdsp->scalarproduct_float(v1, v2, LEN);
359
360     if (ret = compare_floats(&cprod, &oprod, 1, ARBITRARY_SCALARPRODUCT_CONST))
361         av_log(NULL, AV_LOG_ERROR, "%s failed\n", __func__);
362
363     return ret;
364 }
365
366 int main(int argc, char **argv)
367 {
368     int ret = 0;
369     uint32_t seed;
370     AVFloatDSPContext fdsp, cdsp;
371     AVLFG lfg;
372
373     LOCAL_ALIGNED(32, float, src0, [LEN]);
374     LOCAL_ALIGNED(32, float, src1, [LEN]);
375     LOCAL_ALIGNED(32, float, src2, [LEN]);
376     LOCAL_ALIGNED(32, double, dbl_src0, [LEN]);
377     LOCAL_ALIGNED(32, double, dbl_src1, [LEN]);
378
379     if (argc > 2 && !strcmp(argv[1], "-s"))
380         seed = strtoul(argv[2], NULL, 10);
381     else
382         seed = av_get_random_seed();
383
384     av_log(NULL, AV_LOG_INFO, "float_dsp-test: random seed %u\n", seed);
385
386     av_lfg_init(&lfg, seed);
387
388     fill_float_array(&lfg, src0, LEN);
389     fill_float_array(&lfg, src1, LEN);
390     fill_float_array(&lfg, src2, LEN);
391
392     fill_double_array(&lfg, dbl_src0, LEN);
393     fill_double_array(&lfg, dbl_src1, LEN);
394
395     avpriv_float_dsp_init(&fdsp, 1);
396     av_set_cpu_flags_mask(0);
397     avpriv_float_dsp_init(&cdsp, 1);
398
399     if (test_vector_fmul(&fdsp, &cdsp, src0, src1))
400         ret -= 1 << 0;
401     if (test_vector_fmac_scalar(&fdsp, &cdsp, src2, src0, src1[0]))
402         ret -= 1 << 1;
403     if (test_vector_fmul_scalar(&fdsp, &cdsp, src0, src1[0]))
404         ret -= 1 << 2;
405     if (test_vector_fmul_window(&fdsp, &cdsp, src0, src1, src2))
406         ret -= 1 << 3;
407     if (test_vector_fmul_add(&fdsp, &cdsp, src0, src1, src2))
408         ret -= 1 << 4;
409     if (test_vector_fmul_reverse(&fdsp, &cdsp, src0, src1))
410         ret -= 1 << 5;
411     if (test_butterflies_float(&fdsp, &cdsp, src0, src1))
412         ret -= 1 << 6;
413     if (test_scalarproduct_float(&fdsp, &cdsp, src0, src1))
414         ret -= 1 << 7;
415     if (test_vector_dmul_scalar(&fdsp, &cdsp, dbl_src0, dbl_src1[0]))
416         ret -= 1 << 8;
417
418     return ret;
419 }
420
421 #endif /* TEST */