5dd3f2adc7457ed2079940d17da96e622331ce24
[ffmpeg.git] / libavcodec / ppc / dsputil_ppc.c
1 /*
2  * Copyright (c) 2002 Brian Foley
3  * Copyright (c) 2002 Dieter Shirley
4  * Copyright (c) 2003-2004 Romain Dolbeau <romain@dolbeau.org>
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include <string.h>
24
25 #include "libavutil/attributes.h"
26 #include "libavutil/cpu.h"
27 #include "libavutil/mem.h"
28 #include "libavutil/ppc/cpu.h"
29 #include "libavcodec/avcodec.h"
30 #include "libavcodec/dsputil.h"
31 #include "dsputil_altivec.h"
32
33 /* ***** WARNING ***** WARNING ***** WARNING ***** */
34 /*
35  * clear_blocks_dcbz32_ppc will not work properly on PowerPC processors with
36  * a cache line size not equal to 32 bytes. Fortunately all processors used
37  * by Apple up to at least the 7450 (AKA second generation G4) use 32-byte
38  * cache lines. This is due to the use of the 'dcbz' instruction. It simply
39  * clears a single cache line to zero, so you need to know the cache line
40  * size to use it! It's absurd, but it's fast...
41  *
42  * update 24/06/2003: Apple released the G5 yesterday, with a PPC970.
43  * cache line size: 128 bytes. Oups.
44  * The semantics of dcbz was changed, it always clears 32 bytes. So the function
45  * below will work, but will be slow. So I fixed check_dcbz_effect to use dcbzl,
46  * which is defined to clear a cache line (as dcbz before). So we can still
47  * distinguish, and use dcbz (32 bytes) or dcbzl (one cache line) as required.
48  *
49  * see <http://developer.apple.com/technotes/tn/tn2087.html>
50  * and <http://developer.apple.com/technotes/tn/tn2086.html>
51  */
52 static void clear_blocks_dcbz32_ppc(int16_t *blocks)
53 {
54     register int misal = (unsigned long) blocks & 0x00000010, i = 0;
55
56     if (misal) {
57         ((unsigned long *) blocks)[0] = 0L;
58         ((unsigned long *) blocks)[1] = 0L;
59         ((unsigned long *) blocks)[2] = 0L;
60         ((unsigned long *) blocks)[3] = 0L;
61         i += 16;
62     }
63     for (; i < sizeof(int16_t) * 6 * 64 - 31; i += 32)
64         __asm__ volatile ("dcbz %0,%1" :: "b" (blocks), "r" (i) : "memory");
65     if (misal) {
66         ((unsigned long *) blocks)[188] = 0L;
67         ((unsigned long *) blocks)[189] = 0L;
68         ((unsigned long *) blocks)[190] = 0L;
69         ((unsigned long *) blocks)[191] = 0L;
70         i += 16;
71     }
72 }
73
74 /* Same as above, when dcbzl clears a whole 128 bytes cache line
75  * i.e. the PPC970 AKA G5. */
76 static void clear_blocks_dcbz128_ppc(int16_t *blocks)
77 {
78 #if HAVE_DCBZL
79     register int misal = (unsigned long) blocks & 0x0000007f, i = 0;
80
81     if (misal) {
82         /* We could probably also optimize this case,
83          * but there's not much point as the machines
84          * aren't available yet (2003-06-26). */
85         memset(blocks, 0, sizeof(int16_t) * 6 * 64);
86     } else {
87         for (; i < sizeof(int16_t) * 6 * 64; i += 128)
88             __asm__ volatile ("dcbzl %0,%1" :: "b" (blocks), "r" (i) : "memory");
89     }
90 #else
91     memset(blocks, 0, sizeof(int16_t) * 6 * 64);
92 #endif
93 }
94
95 /* Check dcbz report how many bytes are set to 0 by dcbz. */
96 /* update 24/06/2003: Replace dcbz by dcbzl to get the intended effect
97  * (Apple "fixed" dcbz). Unfortunately this cannot be used unless the
98  * assembler knows about dcbzl ... */
99 static long check_dcbzl_effect(void)
100 {
101     long count = 0;
102 #if HAVE_DCBZL
103     register char *fakedata = av_malloc(1024);
104     register char *fakedata_middle;
105     register long zero = 0, i = 0;
106
107     if (!fakedata)
108         return 0L;
109
110     fakedata_middle = fakedata + 512;
111
112     memset(fakedata, 0xFF, 1024);
113
114     /* Below the constraint "b" seems to mean "address base register"
115      * in gcc-3.3 / RS/6000 speaks. Seems to avoid using r0, so.... */
116     __asm__ volatile ("dcbzl %0, %1" :: "b" (fakedata_middle), "r" (zero));
117
118     for (i = 0; i < 1024; i++)
119         if (fakedata[i] == (char) 0)
120             count++;
121
122     av_free(fakedata);
123 #endif
124
125     return count;
126 }
127
128 av_cold void ff_dsputil_init_ppc(DSPContext *c, AVCodecContext *avctx)
129 {
130     const int high_bit_depth = avctx->bits_per_raw_sample > 8;
131
132     // common optimizations whether AltiVec is available or not
133     if (!high_bit_depth) {
134         switch (check_dcbzl_effect()) {
135         case 32:
136             c->clear_blocks = clear_blocks_dcbz32_ppc;
137             break;
138         case 128:
139             c->clear_blocks = clear_blocks_dcbz128_ppc;
140             break;
141         default:
142             break;
143         }
144     }
145
146     if (PPC_ALTIVEC(av_get_cpu_flags())) {
147         ff_dsputil_init_altivec(c, avctx);
148         ff_int_init_altivec(c, avctx);
149         c->gmc1 = ff_gmc1_altivec;
150
151 #if CONFIG_ENCODERS
152         if (avctx->bits_per_raw_sample <= 8 &&
153             (avctx->dct_algo == FF_DCT_AUTO ||
154              avctx->dct_algo == FF_DCT_ALTIVEC)) {
155             c->fdct = ff_fdct_altivec;
156         }
157 #endif //CONFIG_ENCODERS
158
159         if (avctx->bits_per_raw_sample <= 8) {
160             if ((avctx->idct_algo == FF_IDCT_AUTO) ||
161                 (avctx->idct_algo == FF_IDCT_ALTIVEC)) {
162                 c->idct_put              = ff_idct_put_altivec;
163                 c->idct_add              = ff_idct_add_altivec;
164                 c->idct_permutation_type = FF_TRANSPOSE_IDCT_PERM;
165             }
166         }
167     }
168 }