1bd11b177f281ec4ac95bcfe8353510b100b8e73
[ffmpeg.git] / libavcodec / ppc / dsputil_ppc.c
1 /*
2  * Copyright (c) 2002 Brian Foley
3  * Copyright (c) 2002 Dieter Shirley
4  * Copyright (c) 2003-2004 Romain Dolbeau <romain@dolbeau.org>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include <string.h>
24
25 #include "libavutil/attributes.h"
26 #include "libavutil/cpu.h"
27 #include "libavutil/mem.h"
28 #include "libavutil/ppc/cpu.h"
29 #include "libavcodec/avcodec.h"
30 #include "libavcodec/dsputil.h"
31 #include "dsputil_altivec.h"
32
33 /* ***** WARNING ***** WARNING ***** WARNING ***** */
34 /*
35  * clear_blocks_dcbz32_ppc will not work properly on PowerPC processors with
36  * a cache line size not equal to 32 bytes. Fortunately all processors used
37  * by Apple up to at least the 7450 (AKA second generation G4) use 32-byte
38  * cache lines. This is due to the use of the 'dcbz' instruction. It simply
39  * clears a single cache line to zero, so you need to know the cache line
40  * size to use it! It's absurd, but it's fast...
41  *
42  * update 24/06/2003: Apple released the G5 yesterday, with a PPC970.
43  * cache line size: 128 bytes. Oups.
44  * The semantics of dcbz was changed, it always clears 32 bytes. So the function
45  * below will work, but will be slow. So I fixed check_dcbz_effect to use dcbzl,
46  * which is defined to clear a cache line (as dcbz before). So we can still
47  * distinguish, and use dcbz (32 bytes) or dcbzl (one cache line) as required.
48  *
49  * see <http://developer.apple.com/technotes/tn/tn2087.html>
50  * and <http://developer.apple.com/technotes/tn/tn2086.html>
51  */
52 static void clear_blocks_dcbz32_ppc(int16_t *blocks)
53 {
54     register int misal = (unsigned long) blocks & 0x00000010;
55     register int i = 0;
56
57     if (misal) {
58         ((unsigned long *) blocks)[0] = 0L;
59         ((unsigned long *) blocks)[1] = 0L;
60         ((unsigned long *) blocks)[2] = 0L;
61         ((unsigned long *) blocks)[3] = 0L;
62         i += 16;
63     }
64     for (; i < sizeof(int16_t) * 6 * 64 - 31; i += 32)
65         __asm__ volatile ("dcbz %0,%1" :: "b" (blocks), "r" (i) : "memory");
66     if (misal) {
67         ((unsigned long *) blocks)[188] = 0L;
68         ((unsigned long *) blocks)[189] = 0L;
69         ((unsigned long *) blocks)[190] = 0L;
70         ((unsigned long *) blocks)[191] = 0L;
71         i += 16;
72     }
73 }
74
75 /* Same as above, when dcbzl clears a whole 128 bytes cache line
76  * i.e. the PPC970 AKA G5. */
77 static void clear_blocks_dcbz128_ppc(int16_t *blocks)
78 {
79 #if HAVE_DCBZL
80     register int misal = (unsigned long) blocks & 0x0000007f;
81     register int i = 0;
82
83     if (misal) {
84         /* We could probably also optimize this case,
85          * but there's not much point as the machines
86          * aren't available yet (2003-06-26). */
87         memset(blocks, 0, sizeof(int16_t) * 6 * 64);
88     } else {
89         for (; i < sizeof(int16_t) * 6 * 64; i += 128)
90             __asm__ volatile ("dcbzl %0,%1" :: "b" (blocks), "r" (i) : "memory");
91     }
92 #else
93     memset(blocks, 0, sizeof(int16_t) * 6 * 64);
94 #endif
95 }
96
97 /* Check dcbz report how many bytes are set to 0 by dcbz. */
98 /* update 24/06/2003: Replace dcbz by dcbzl to get the intended effect
99  * (Apple "fixed" dcbz). Unfortunately this cannot be used unless the
100  * assembler knows about dcbzl ... */
101 static long check_dcbzl_effect(void)
102 {
103     long count = 0;
104 #if HAVE_DCBZL
105     register char *fakedata = av_malloc(1024);
106     register char *fakedata_middle;
107     register long zero = 0;
108     register long i = 0;
109
110     if (!fakedata)
111         return 0L;
112
113     fakedata_middle = fakedata + 512;
114
115     memset(fakedata, 0xFF, 1024);
116
117     /* Below the constraint "b" seems to mean "address base register"
118      * in gcc-3.3 / RS/6000 speaks. Seems to avoid using r0, so.... */
119     __asm__ volatile ("dcbzl %0, %1" :: "b" (fakedata_middle), "r" (zero));
120
121     for (i = 0; i < 1024; i++)
122         if (fakedata[i] == (char) 0)
123             count++;
124
125     av_free(fakedata);
126 #endif
127
128     return count;
129 }
130
131 av_cold void ff_dsputil_init_ppc(DSPContext *c, AVCodecContext *avctx)
132 {
133     const int high_bit_depth = avctx->bits_per_raw_sample > 8;
134
135     // common optimizations whether AltiVec is available or not
136     if (!high_bit_depth) {
137         switch (check_dcbzl_effect()) {
138         case 32:
139             c->clear_blocks = clear_blocks_dcbz32_ppc;
140             break;
141         case 128:
142             c->clear_blocks = clear_blocks_dcbz128_ppc;
143             break;
144         default:
145             break;
146         }
147     }
148
149     if (PPC_ALTIVEC(av_get_cpu_flags())) {
150         ff_dsputil_init_altivec(c, avctx);
151         ff_int_init_altivec(c, avctx);
152         c->gmc1 = ff_gmc1_altivec;
153
154 #if CONFIG_ENCODERS
155         if (avctx->bits_per_raw_sample <= 8 &&
156             (avctx->dct_algo == FF_DCT_AUTO ||
157              avctx->dct_algo == FF_DCT_ALTIVEC)) {
158             c->fdct = ff_fdct_altivec;
159         }
160 #endif //CONFIG_ENCODERS
161
162         if (avctx->bits_per_raw_sample <= 8) {
163             if ((avctx->idct_algo == FF_IDCT_AUTO) ||
164                 (avctx->idct_algo == FF_IDCT_ALTIVEC)) {
165                 c->idct_put              = ff_idct_put_altivec;
166                 c->idct_add              = ff_idct_add_altivec;
167                 c->idct_permutation_type = FF_TRANSPOSE_IDCT_PERM;
168             }
169         }
170     }
171 }