Change license headers to say 'FFmpeg' instead of 'this program/this library'
[ffmpeg.git] / libavcodec / ppc / dsputil_ppc.c
1 /*
2  * Copyright (c) 2002 Brian Foley
3  * Copyright (c) 2002 Dieter Shirley
4  * Copyright (c) 2003-2004 Romain Dolbeau <romain@dolbeau.org>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "../dsputil.h"
24
25 #include "dsputil_ppc.h"
26
27 #ifdef HAVE_ALTIVEC
28 #include "dsputil_altivec.h"
29
30 extern void fdct_altivec(int16_t *block);
31 extern void gmc1_altivec(uint8_t *dst, uint8_t *src, int stride, int h,
32                          int x16, int y16, int rounder);
33 extern void idct_put_altivec(uint8_t *dest, int line_size, int16_t *block);
34 extern void idct_add_altivec(uint8_t *dest, int line_size, int16_t *block);
35
36 void dsputil_h264_init_ppc(DSPContext* c, AVCodecContext *avctx);
37
38 void dsputil_init_altivec(DSPContext* c, AVCodecContext *avctx);
39 void vc1dsp_init_altivec(DSPContext* c, AVCodecContext *avctx);
40 void snow_init_altivec(DSPContext* c, AVCodecContext *avctx);
41 void float_init_altivec(DSPContext* c, AVCodecContext *avctx);
42
43 #endif
44
45 int mm_flags = 0;
46
47 int mm_support(void)
48 {
49     int result = 0;
50 #ifdef HAVE_ALTIVEC
51     if (has_altivec()) {
52         result |= MM_ALTIVEC;
53     }
54 #endif /* result */
55     return result;
56 }
57
58 #ifdef POWERPC_PERFORMANCE_REPORT
59 unsigned long long perfdata[POWERPC_NUM_PMC_ENABLED][powerpc_perf_total][powerpc_data_total];
60 /* list below must match enum in dsputil_ppc.h */
61 static unsigned char* perfname[] = {
62   "ff_fft_calc_altivec",
63   "gmc1_altivec",
64   "dct_unquantize_h263_altivec",
65   "fdct_altivec",
66   "idct_add_altivec",
67   "idct_put_altivec",
68   "put_pixels16_altivec",
69   "avg_pixels16_altivec",
70   "avg_pixels8_altivec",
71   "put_pixels8_xy2_altivec",
72   "put_no_rnd_pixels8_xy2_altivec",
73   "put_pixels16_xy2_altivec",
74   "put_no_rnd_pixels16_xy2_altivec",
75   "hadamard8_diff8x8_altivec",
76   "hadamard8_diff16_altivec",
77   "avg_pixels8_xy2_altivec",
78   "clear_blocks_dcbz32_ppc",
79   "clear_blocks_dcbz128_ppc",
80   "put_h264_chroma_mc8_altivec",
81   "avg_h264_chroma_mc8_altivec",
82   "put_h264_qpel16_h_lowpass_altivec",
83   "avg_h264_qpel16_h_lowpass_altivec",
84   "put_h264_qpel16_v_lowpass_altivec",
85   "avg_h264_qpel16_v_lowpass_altivec",
86   "put_h264_qpel16_hv_lowpass_altivec",
87   "avg_h264_qpel16_hv_lowpass_altivec",
88   ""
89 };
90 #include <stdio.h>
91 #endif
92
93 #ifdef POWERPC_PERFORMANCE_REPORT
94 void powerpc_display_perf_report(void)
95 {
96   int i, j;
97   av_log(NULL, AV_LOG_INFO, "PowerPC performance report\n Values are from the PMC registers, and represent whatever the registers are set to record.\n");
98   for(i = 0 ; i < powerpc_perf_total ; i++)
99   {
100     for (j = 0; j < POWERPC_NUM_PMC_ENABLED ; j++)
101       {
102         if (perfdata[j][i][powerpc_data_num] != (unsigned long long)0)
103           av_log(NULL, AV_LOG_INFO,
104                   " Function \"%s\" (pmc%d):\n\tmin: %llu\n\tmax: %llu\n\tavg: %1.2lf (%llu)\n",
105                   perfname[i],
106                   j+1,
107                   perfdata[j][i][powerpc_data_min],
108                   perfdata[j][i][powerpc_data_max],
109                   (double)perfdata[j][i][powerpc_data_sum] /
110                   (double)perfdata[j][i][powerpc_data_num],
111                   perfdata[j][i][powerpc_data_num]);
112       }
113   }
114 }
115 #endif /* POWERPC_PERFORMANCE_REPORT */
116
117 /* ***** WARNING ***** WARNING ***** WARNING ***** */
118 /*
119   clear_blocks_dcbz32_ppc will not work properly
120   on PowerPC processors with a cache line size
121   not equal to 32 bytes.
122   Fortunately all processor used by Apple up to
123   at least the 7450 (aka second generation G4)
124   use 32 bytes cache line.
125   This is due to the use of the 'dcbz' instruction.
126   It simply clear to zero a single cache line,
127   so you need to know the cache line size to use it !
128   It's absurd, but it's fast...
129
130   update 24/06/2003 : Apple released yesterday the G5,
131   with a PPC970. cache line size : 128 bytes. Oups.
132   The semantic of dcbz was changed, it always clear
133   32 bytes. so the function below will work, but will
134   be slow. So I fixed check_dcbz_effect to use dcbzl,
135   which is defined to clear a cache line (as dcbz before).
136   So we still can distinguish, and use dcbz (32 bytes)
137   or dcbzl (one cache line) as required.
138
139   see <http://developer.apple.com/technotes/tn/tn2087.html>
140   and <http://developer.apple.com/technotes/tn/tn2086.html>
141 */
142 void clear_blocks_dcbz32_ppc(DCTELEM *blocks)
143 {
144 POWERPC_PERF_DECLARE(powerpc_clear_blocks_dcbz32, 1);
145     register int misal = ((unsigned long)blocks & 0x00000010);
146     register int i = 0;
147 POWERPC_PERF_START_COUNT(powerpc_clear_blocks_dcbz32, 1);
148 #if 1
149     if (misal) {
150       ((unsigned long*)blocks)[0] = 0L;
151       ((unsigned long*)blocks)[1] = 0L;
152       ((unsigned long*)blocks)[2] = 0L;
153       ((unsigned long*)blocks)[3] = 0L;
154       i += 16;
155     }
156     for ( ; i < sizeof(DCTELEM)*6*64-31 ; i += 32) {
157 #ifndef __MWERKS__
158       asm volatile("dcbz %0,%1" : : "b" (blocks), "r" (i) : "memory");
159 #else
160       __dcbz( blocks, i );
161 #endif
162     }
163     if (misal) {
164       ((unsigned long*)blocks)[188] = 0L;
165       ((unsigned long*)blocks)[189] = 0L;
166       ((unsigned long*)blocks)[190] = 0L;
167       ((unsigned long*)blocks)[191] = 0L;
168       i += 16;
169     }
170 #else
171     memset(blocks, 0, sizeof(DCTELEM)*6*64);
172 #endif
173 POWERPC_PERF_STOP_COUNT(powerpc_clear_blocks_dcbz32, 1);
174 }
175
176 /* same as above, when dcbzl clear a whole 128B cache line
177    i.e. the PPC970 aka G5 */
178 #ifndef NO_DCBZL
179 void clear_blocks_dcbz128_ppc(DCTELEM *blocks)
180 {
181 POWERPC_PERF_DECLARE(powerpc_clear_blocks_dcbz128, 1);
182     register int misal = ((unsigned long)blocks & 0x0000007f);
183     register int i = 0;
184 POWERPC_PERF_START_COUNT(powerpc_clear_blocks_dcbz128, 1);
185 #if 1
186  if (misal) {
187    // we could probably also optimize this case,
188    // but there's not much point as the machines
189    // aren't available yet (2003-06-26)
190       memset(blocks, 0, sizeof(DCTELEM)*6*64);
191     }
192     else
193       for ( ; i < sizeof(DCTELEM)*6*64 ; i += 128) {
194         asm volatile("dcbzl %0,%1" : : "b" (blocks), "r" (i) : "memory");
195       }
196 #else
197     memset(blocks, 0, sizeof(DCTELEM)*6*64);
198 #endif
199 POWERPC_PERF_STOP_COUNT(powerpc_clear_blocks_dcbz128, 1);
200 }
201 #else
202 void clear_blocks_dcbz128_ppc(DCTELEM *blocks)
203 {
204   memset(blocks, 0, sizeof(DCTELEM)*6*64);
205 }
206 #endif
207
208 #ifndef NO_DCBZL
209 /* check dcbz report how many bytes are set to 0 by dcbz */
210 /* update 24/06/2003 : replace dcbz by dcbzl to get
211    the intended effect (Apple "fixed" dcbz)
212    unfortunately this cannot be used unless the assembler
213    knows about dcbzl ... */
214 long check_dcbzl_effect(void)
215 {
216   register char *fakedata = (char*)av_malloc(1024);
217   register char *fakedata_middle;
218   register long zero = 0;
219   register long i = 0;
220   long count = 0;
221
222   if (!fakedata)
223   {
224     return 0L;
225   }
226
227   fakedata_middle = (fakedata + 512);
228
229   memset(fakedata, 0xFF, 1024);
230
231   /* below the constraint "b" seems to mean "Address base register"
232      in gcc-3.3 / RS/6000 speaks. seems to avoid using r0, so.... */
233   asm volatile("dcbzl %0, %1" : : "b" (fakedata_middle), "r" (zero));
234
235   for (i = 0; i < 1024 ; i ++)
236   {
237     if (fakedata[i] == (char)0)
238       count++;
239   }
240
241   av_free(fakedata);
242
243   return count;
244 }
245 #else
246 long check_dcbzl_effect(void)
247 {
248   return 0;
249 }
250 #endif
251
252 void dsputil_init_ppc(DSPContext* c, AVCodecContext *avctx)
253 {
254     // Common optimizations whether Altivec is available or not
255
256     switch (check_dcbzl_effect()) {
257         case 32:
258             c->clear_blocks = clear_blocks_dcbz32_ppc;
259             break;
260         case 128:
261             c->clear_blocks = clear_blocks_dcbz128_ppc;
262             break;
263         default:
264             break;
265     }
266
267 #ifdef HAVE_ALTIVEC
268     dsputil_h264_init_ppc(c, avctx);
269
270     if (has_altivec()) {
271         mm_flags |= MM_ALTIVEC;
272
273         dsputil_init_altivec(c, avctx);
274         snow_init_altivec(c, avctx);
275         vc1dsp_init_altivec(c, avctx);
276         float_init_altivec(c, avctx);
277         c->gmc1 = gmc1_altivec;
278
279 #ifdef CONFIG_ENCODERS
280         if (avctx->dct_algo == FF_DCT_AUTO ||
281             avctx->dct_algo == FF_DCT_ALTIVEC)
282         {
283             c->fdct = fdct_altivec;
284         }
285 #endif //CONFIG_ENCODERS
286
287         if (avctx->lowres==0)
288         {
289         if ((avctx->idct_algo == FF_IDCT_AUTO) ||
290                 (avctx->idct_algo == FF_IDCT_ALTIVEC))
291         {
292             c->idct_put = idct_put_altivec;
293             c->idct_add = idct_add_altivec;
294         #ifndef ALTIVEC_USE_REFERENCE_C_CODE
295             c->idct_permutation_type = FF_TRANSPOSE_IDCT_PERM;
296         #else /* ALTIVEC_USE_REFERENCE_C_CODE */
297             c->idct_permutation_type = FF_NO_IDCT_PERM;
298         #endif /* ALTIVEC_USE_REFERENCE_C_CODE */
299         }
300         }
301
302 #ifdef POWERPC_PERFORMANCE_REPORT
303         {
304           int i, j;
305           for (i = 0 ; i < powerpc_perf_total ; i++)
306           {
307             for (j = 0; j < POWERPC_NUM_PMC_ENABLED ; j++)
308               {
309                 perfdata[j][i][powerpc_data_min] = 0xFFFFFFFFFFFFFFFFULL;
310                 perfdata[j][i][powerpc_data_max] = 0x0000000000000000ULL;
311                 perfdata[j][i][powerpc_data_sum] = 0x0000000000000000ULL;
312                 perfdata[j][i][powerpc_data_num] = 0x0000000000000000ULL;
313               }
314           }
315         }
316 #endif /* POWERPC_PERFORMANCE_REPORT */
317     } else
318 #endif /* HAVE_ALTIVEC */
319     {
320         // Non-AltiVec PPC optimisations
321
322         // ... pending ...
323     }
324 }