ffbb86303b5791a18bb0bcf07a9c5a8a8d78049c
[ffmpeg.git] / libavcodec / ppc / int_altivec.c
1 /*
2  * Copyright (c) 2007 Luca Barbato <lu_zero@gentoo.org>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * miscellaneous integer operations
24  */
25
26 #include "config.h"
27 #if HAVE_ALTIVEC_H
28 #include <altivec.h>
29 #endif
30
31 #include "libavutil/attributes.h"
32 #include "libavutil/ppc/types_altivec.h"
33 #include "libavcodec/dsputil.h"
34 #include "dsputil_altivec.h"
35
36 static int ssd_int8_vs_int16_altivec(const int8_t *pix1, const int16_t *pix2,
37                                      int size)
38 {
39     int i, size16;
40     vector signed char vpix1;
41     vector signed short vpix2, vdiff, vpix1l, vpix1h;
42     union {
43         vector signed int vscore;
44         int32_t score[4];
45     } u;
46     u.vscore = vec_splat_s32(0);
47
48 // XXX lazy way, fix it later
49
50 #define vec_unaligned_load(b)                                   \
51     vec_perm(vec_ld(0, b), vec_ld(15, b), vec_lvsl(0, b));
52
53     size16 = size >> 4;
54     while (size16) {
55         // score += (pix1[i] - pix2[i]) * (pix1[i] - pix2[i]);
56         // load pix1 and the first batch of pix2
57
58         vpix1 = vec_unaligned_load(pix1);
59         vpix2 = vec_unaligned_load(pix2);
60         pix2 += 8;
61         // unpack
62         vpix1h = vec_unpackh(vpix1);
63         vdiff  = vec_sub(vpix1h, vpix2);
64         vpix1l = vec_unpackl(vpix1);
65         // load another batch from pix2
66         vpix2    = vec_unaligned_load(pix2);
67         u.vscore = vec_msum(vdiff, vdiff, u.vscore);
68         vdiff    = vec_sub(vpix1l, vpix2);
69         u.vscore = vec_msum(vdiff, vdiff, u.vscore);
70         pix1    += 16;
71         pix2    += 8;
72         size16--;
73     }
74     u.vscore = vec_sums(u.vscore, vec_splat_s32(0));
75
76     size %= 16;
77     for (i = 0; i < size; i++)
78         u.score[3] += (pix1[i] - pix2[i]) * (pix1[i] - pix2[i]);
79
80     return u.score[3];
81 }
82
83 static int32_t scalarproduct_int16_altivec(const int16_t *v1, const int16_t *v2,
84                                            int order)
85 {
86     int i;
87     LOAD_ZERO;
88     register vec_s16 vec1;
89     register vec_s32 res = vec_splat_s32(0), t;
90     int32_t ires;
91
92     for (i = 0; i < order; i += 8) {
93         vec1 = vec_unaligned_load(v1);
94         t    = vec_msum(vec1, vec_ld(0, v2), zero_s32v);
95         res  = vec_sums(t, res);
96         v1  += 8;
97         v2  += 8;
98     }
99     res = vec_splat(res, 3);
100     vec_ste(res, 0, &ires);
101
102     return ires;
103 }
104
105 static int32_t scalarproduct_and_madd_int16_altivec(int16_t *v1,
106                                                     const int16_t *v2,
107                                                     const int16_t *v3,
108                                                     int order, int mul)
109 {
110     LOAD_ZERO;
111     vec_s16 *pv1 = (vec_s16 *) v1;
112     register vec_s16 muls = { mul, mul, mul, mul, mul, mul, mul, mul };
113     register vec_s16 t0, t1, i0, i1, i4;
114     register vec_s16 i2 = vec_ld(0, v2), i3 = vec_ld(0, v3);
115     register vec_s32 res = zero_s32v;
116     register vec_u8 align = vec_lvsl(0, v2);
117     int32_t ires;
118
119     order >>= 4;
120     do {
121         i1     = vec_ld(16, v2);
122         t0     = vec_perm(i2, i1, align);
123         i2     = vec_ld(32, v2);
124         t1     = vec_perm(i1, i2, align);
125         i0     = pv1[0];
126         i1     = pv1[1];
127         res    = vec_msum(t0, i0, res);
128         res    = vec_msum(t1, i1, res);
129         i4     = vec_ld(16, v3);
130         t0     = vec_perm(i3, i4, align);
131         i3     = vec_ld(32, v3);
132         t1     = vec_perm(i4, i3, align);
133         pv1[0] = vec_mladd(t0, muls, i0);
134         pv1[1] = vec_mladd(t1, muls, i1);
135         pv1   += 2;
136         v2    += 16;
137         v3    += 16;
138     } while (--order);
139     res = vec_splat(vec_sums(res, zero_s32v), 3);
140     vec_ste(res, 0, &ires);
141
142     return ires;
143 }
144
145 av_cold void ff_int_init_altivec(DSPContext *c, AVCodecContext *avctx)
146 {
147     c->ssd_int8_vs_int16 = ssd_int8_vs_int16_altivec;
148
149     c->scalarproduct_int16 = scalarproduct_int16_altivec;
150
151     c->scalarproduct_and_madd_int16 = scalarproduct_and_madd_int16_altivec;
152 }