cd1984a54c2080dbbbfc04f62b654bd508bae360
[ffmpeg.git] / libavcodec / ppc / int_altivec.c
1 /*
2  * Copyright (c) 2007 Luca Barbato <lu_zero@gentoo.org>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * miscellaneous integer operations
24  */
25
26 #include "config.h"
27 #if HAVE_ALTIVEC_H
28 #include <altivec.h>
29 #endif
30
31 #include "libavutil/attributes.h"
32 #include "libavutil/ppc/types_altivec.h"
33 #include "libavutil/ppc/util_altivec.h"
34 #include "libavcodec/dsputil.h"
35 #include "dsputil_altivec.h"
36
37 static int ssd_int8_vs_int16_altivec(const int8_t *pix1, const int16_t *pix2,
38                                      int size)
39 {
40     int i, size16 = size >> 4;
41     vector signed char vpix1;
42     vector signed short vpix2, vdiff, vpix1l, vpix1h;
43     union {
44         vector signed int vscore;
45         int32_t score[4];
46     } u = { .vscore = vec_splat_s32(0) };
47
48 // XXX lazy way, fix it later
49
50     while (size16) {
51         // score += (pix1[i] - pix2[i]) * (pix1[i] - pix2[i]);
52         // load pix1 and the first batch of pix2
53
54         vpix1 = vec_unaligned_load(pix1);
55         vpix2 = vec_unaligned_load(pix2);
56         pix2 += 8;
57         // unpack
58         vpix1h = vec_unpackh(vpix1);
59         vdiff  = vec_sub(vpix1h, vpix2);
60         vpix1l = vec_unpackl(vpix1);
61         // load another batch from pix2
62         vpix2    = vec_unaligned_load(pix2);
63         u.vscore = vec_msum(vdiff, vdiff, u.vscore);
64         vdiff    = vec_sub(vpix1l, vpix2);
65         u.vscore = vec_msum(vdiff, vdiff, u.vscore);
66         pix1    += 16;
67         pix2    += 8;
68         size16--;
69     }
70     u.vscore = vec_sums(u.vscore, vec_splat_s32(0));
71
72     size %= 16;
73     for (i = 0; i < size; i++)
74         u.score[3] += (pix1[i] - pix2[i]) * (pix1[i] - pix2[i]);
75
76     return u.score[3];
77 }
78
79 static int32_t scalarproduct_int16_altivec(const int16_t *v1, const int16_t *v2,
80                                            int order)
81 {
82     int i;
83     LOAD_ZERO;
84     register vec_s16 vec1;
85     register vec_s32 res = vec_splat_s32(0), t;
86     int32_t ires;
87
88     for (i = 0; i < order; i += 8) {
89         vec1 = vec_unaligned_load(v1);
90         t    = vec_msum(vec1, vec_ld(0, v2), zero_s32v);
91         res  = vec_sums(t, res);
92         v1  += 8;
93         v2  += 8;
94     }
95     res = vec_splat(res, 3);
96     vec_ste(res, 0, &ires);
97
98     return ires;
99 }
100
101 static int32_t scalarproduct_and_madd_int16_altivec(int16_t *v1,
102                                                     const int16_t *v2,
103                                                     const int16_t *v3,
104                                                     int order, int mul)
105 {
106     LOAD_ZERO;
107     vec_s16 *pv1 = (vec_s16 *) v1;
108     register vec_s16 muls = { mul, mul, mul, mul, mul, mul, mul, mul };
109     register vec_s16 t0, t1, i0, i1, i4;
110     register vec_s16 i2 = vec_ld(0, v2), i3 = vec_ld(0, v3);
111     register vec_s32 res = zero_s32v;
112     register vec_u8 align = vec_lvsl(0, v2);
113     int32_t ires;
114
115     order >>= 4;
116     do {
117         i1     = vec_ld(16, v2);
118         t0     = vec_perm(i2, i1, align);
119         i2     = vec_ld(32, v2);
120         t1     = vec_perm(i1, i2, align);
121         i0     = pv1[0];
122         i1     = pv1[1];
123         res    = vec_msum(t0, i0, res);
124         res    = vec_msum(t1, i1, res);
125         i4     = vec_ld(16, v3);
126         t0     = vec_perm(i3, i4, align);
127         i3     = vec_ld(32, v3);
128         t1     = vec_perm(i4, i3, align);
129         pv1[0] = vec_mladd(t0, muls, i0);
130         pv1[1] = vec_mladd(t1, muls, i1);
131         pv1   += 2;
132         v2    += 16;
133         v3    += 16;
134     } while (--order);
135     res = vec_splat(vec_sums(res, zero_s32v), 3);
136     vec_ste(res, 0, &ires);
137
138     return ires;
139 }
140
141 av_cold void ff_int_init_altivec(DSPContext *c, AVCodecContext *avctx)
142 {
143     c->ssd_int8_vs_int16 = ssd_int8_vs_int16_altivec;
144
145     c->scalarproduct_int16 = scalarproduct_int16_altivec;
146
147     c->scalarproduct_and_madd_int16 = scalarproduct_and_madd_int16_altivec;
148 }