(commit by michael)
[ffmpeg.git] / libavcodec / i386 / mpegvideo_mmx.c
1 /*
2  * The simplest mpeg encoder (well, it was the simplest!)
3  * Copyright (c) 2000,2001 Gerard Lantau.
4  *
5  * This program is free software; you can redistribute it and/or modify
6  * it under the terms of the GNU General Public License as published by
7  * the Free Software Foundation; either version 2 of the License, or
8  * (at your option) any later version.
9  *
10  * This program is distributed in the hope that it will be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13  * GNU General Public License for more details.
14  *
15  * You should have received a copy of the GNU General Public License
16  * along with this program; if not, write to the Free Software
17  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
18  *
19  * Optimized for ia32 cpus by Nick Kurshev <nickols_k@mail.ru>
20  * h263 dequantizer by Michael Niedermayer <michaelni@gmx.at>
21  */
22
23 #include "../dsputil.h"
24 #include "../mpegvideo.h"
25
26 extern UINT8 zigzag_end[64];
27 extern void (*draw_edges)(UINT8 *buf, int wrap, int width, int height, int w);
28
29 #if 0
30
31 /* XXX: GL: I don't understand why this function needs optimization
32    (it is called only once per frame!), so I disabled it */
33
34 void MPV_frame_start(MpegEncContext *s)
35 {
36     if (s->pict_type == B_TYPE) {
37         __asm __volatile(
38             "movl       (%1), %%eax\n\t"
39             "movl       4(%1), %%edx\n\t"
40             "movl       8(%1), %%ecx\n\t"
41             "movl       %%eax, (%0)\n\t"
42             "movl       %%edx, 4(%0)\n\t"
43             "movl       %%ecx, 8(%0)\n\t"
44             :
45             :"r"(s->current_picture), "r"(s->aux_picture)
46             :"eax","edx","ecx","memory");
47     } else {
48             /* swap next and last */
49         __asm __volatile(
50             "movl       (%1), %%eax\n\t"
51             "movl       4(%1), %%edx\n\t"
52             "movl       8(%1), %%ecx\n\t"
53             "xchgl      (%0), %%eax\n\t"
54             "xchgl      4(%0), %%edx\n\t"
55             "xchgl      8(%0), %%ecx\n\t"
56             "movl       %%eax, (%1)\n\t"
57             "movl       %%edx, 4(%1)\n\t"
58             "movl       %%ecx, 8(%1)\n\t"
59             "movl       %%eax, (%2)\n\t"
60             "movl       %%edx, 4(%2)\n\t"
61             "movl       %%ecx, 8(%2)\n\t"
62             :
63             :"r"(s->last_picture), "r"(s->next_picture), "r"(s->current_picture)
64             :"eax","edx","ecx","memory");
65     }
66 }
67 #endif
68
69 static const unsigned long long int mm_wabs __attribute__ ((aligned(8))) = 0xffffffffffffffffULL;
70 static const unsigned long long int mm_wone __attribute__ ((aligned(8))) = 0x0001000100010001ULL;
71
72
73 static void dct_unquantize_h263_mmx(MpegEncContext *s,
74                                   DCTELEM *block, int n, int qscale)
75 {
76     int i, level, qmul, qadd, nCoeffs;
77     
78     qmul = s->qscale << 1;
79     qadd = (s->qscale - 1) | 1;
80
81     if (s->mb_intra) {
82         if (n < 4)
83             block[0] = block[0] * s->y_dc_scale;
84         else
85             block[0] = block[0] * s->c_dc_scale;
86
87         for(i=1; i<8; i++) {
88                 level = block[i];
89                 if (level) {
90                         if (level < 0) {
91                                 level = level * qmul - qadd;
92                         } else {
93                                 level = level * qmul + qadd;
94                         }
95                         block[i] = level;
96                 }
97         }
98         nCoeffs=64;
99     } else {
100         i = 0;
101         nCoeffs= zigzag_end[ s->block_last_index[n] ];
102     }
103 //printf("%d %d  ", qmul, qadd);
104 asm volatile(
105                 "movd %1, %%mm6                 \n\t" //qmul
106                 "packssdw %%mm6, %%mm6          \n\t"
107                 "packssdw %%mm6, %%mm6          \n\t"
108                 "movd %2, %%mm5                 \n\t" //qadd
109                 "pxor %%mm7, %%mm7              \n\t"
110                 "packssdw %%mm5, %%mm5          \n\t"
111                 "packssdw %%mm5, %%mm5          \n\t"
112                 "psubw %%mm5, %%mm7             \n\t"
113                 "pxor %%mm4, %%mm4              \n\t"
114                 ".balign 16\n\t"
115                 "1:                             \n\t"
116                 "movq (%0, %3), %%mm0           \n\t"
117                 "movq 8(%0, %3), %%mm1          \n\t"
118
119                 "pmullw %%mm6, %%mm0            \n\t"
120                 "pmullw %%mm6, %%mm1            \n\t"
121
122                 "movq (%0, %3), %%mm2           \n\t"
123                 "movq 8(%0, %3), %%mm3          \n\t"
124
125                 "pcmpgtw %%mm4, %%mm2           \n\t" // block[i] < 0 ? -1 : 0
126                 "pcmpgtw %%mm4, %%mm3           \n\t" // block[i] < 0 ? -1 : 0
127
128                 "pxor %%mm2, %%mm0              \n\t"
129                 "pxor %%mm3, %%mm1              \n\t"
130
131                 "paddw %%mm7, %%mm0             \n\t"
132                 "paddw %%mm7, %%mm1             \n\t"
133
134                 "pxor %%mm0, %%mm2              \n\t"
135                 "pxor %%mm1, %%mm3              \n\t"
136
137                 "pcmpeqw %%mm7, %%mm0           \n\t" // block[i] == 0 ? -1 : 0
138                 "pcmpeqw %%mm7, %%mm1           \n\t" // block[i] == 0 ? -1 : 0
139
140                 "pandn %%mm2, %%mm0             \n\t"
141                 "pandn %%mm3, %%mm1             \n\t"
142
143                 "movq %%mm0, (%0, %3)           \n\t"
144                 "movq %%mm1, 8(%0, %3)          \n\t"
145
146                 "addl $16, %3                   \n\t"
147                 "js 1b                          \n\t"
148                 ::"r" (block+nCoeffs), "g"(qmul), "g" (qadd), "r" (2*(i-nCoeffs))
149                 : "memory"
150         );
151 }
152
153
154 /*
155   NK:
156   Note: looking at PARANOID:
157   "enable all paranoid tests for rounding, overflows, etc..."
158
159 #ifdef PARANOID
160                 if (level < -2048 || level > 2047)
161                     fprintf(stderr, "unquant error %d %d\n", i, level);
162 #endif
163   We can suppose that result of two multiplications can't be greate of 0xFFFF
164   i.e. is 16-bit, so we use here only PMULLW instruction and can avoid
165   a complex multiplication.
166 =====================================================
167  Full formula for multiplication of 2 integer numbers
168  which are represent as high:low words:
169  input: value1 = high1:low1
170         value2 = high2:low2
171  output: value3 = value1*value2
172  value3=high3:low3 (on overflow: modulus 2^32 wrap-around)
173  this mean that for 0x123456 * 0x123456 correct result is 0x766cb0ce4
174  but this algorithm will compute only 0x66cb0ce4
175  this limited by 16-bit size of operands
176  ---------------------------------
177  tlow1 = high1*low2
178  tlow2 = high2*low1
179  tlow1 = tlow1 + tlow2
180  high3:low3 = low1*low2
181  high3 += tlow1
182 */
183 static void dct_unquantize_mpeg1_mmx(MpegEncContext *s,
184                                      DCTELEM *block, int n, int qscale)
185 {
186     int i, level, nCoeffs;
187     const UINT16 *quant_matrix;
188     
189     if(s->alternate_scan) nCoeffs= 64;
190     else nCoeffs= nCoeffs= zigzag_end[ s->block_last_index[n] ];
191
192     if (s->mb_intra) {
193         if (n < 4) 
194             block[0] = block[0] * s->y_dc_scale;
195         else
196             block[0] = block[0] * s->c_dc_scale;
197         /* isnt used anymore (we have a h263 unquantizer since some time)
198         if (s->out_format == FMT_H263) {
199             i = 1;
200             goto unquant_even;
201         }*/
202         /* XXX: only mpeg1 */
203         quant_matrix = s->intra_matrix;
204         i=1;
205         /* Align on 4 elements boundary */
206         while(i&3)
207         {
208             level = block[i];
209             if (level) {
210                 if (level < 0) level = -level;
211                     level = (int)(level * qscale * quant_matrix[i]) >> 3;
212                     level = (level - 1) | 1;
213                 if (block[i] < 0) level = -level;
214                 block[i] = level;
215             }
216             i++;
217         }
218         __asm __volatile(
219         "movd   %0, %%mm6\n\t"       /* mm6 = qscale | 0  */
220         "punpckldq %%mm6, %%mm6\n\t" /* mm6 = qscale | qscale */
221         "movq   %2, %%mm4\n\t"
222         "movq   %%mm6, %%mm7\n\t"
223         "movq   %1, %%mm5\n\t"
224         "packssdw %%mm6, %%mm7\n\t" /* mm7 = qscale | qscale | qscale | qscale */
225         "pxor   %%mm6, %%mm6\n\t"
226         ::"g"(qscale),"m"(mm_wone),"m"(mm_wabs):"memory");
227         for(;i<nCoeffs;i+=4) {
228                 __asm __volatile(
229                         "movq   %1, %%mm0\n\t"
230                         "movq   %%mm7, %%mm1\n\t"
231                         "movq   %%mm0, %%mm2\n\t"
232                         "movq   %%mm0, %%mm3\n\t"
233                         "pcmpgtw %%mm6, %%mm2\n\t"
234                         "pmullw %2, %%mm1\n\t"
235                         "pandn  %%mm4, %%mm2\n\t"
236                         "por    %%mm5, %%mm2\n\t"
237                         "pmullw %%mm2, %%mm0\n\t" /* mm0 = abs(block[i]). */
238
239                         "pcmpeqw %%mm6, %%mm3\n\t"
240                         "pmullw %%mm0, %%mm1\n\t"
241                         "psraw  $3, %%mm1\n\t"
242                         "psubw  %%mm5, %%mm1\n\t"   /* block[i] --; */
243                         "pandn  %%mm4, %%mm3\n\t"  /* fake of pcmpneqw : mm0 != 0 then mm1 = -1 */
244                         "por    %%mm5, %%mm1\n\t"   /* block[i] |= 1 */
245                         "pmullw %%mm2, %%mm1\n\t"   /* change signs again */
246
247                         "pand   %%mm3, %%mm1\n\t" /* nullify if was zero */
248                         "movq   %%mm1, %0"
249                         :"=m"(block[i])
250                         :"m"(block[i]), "m"(quant_matrix[i])
251                         :"memory");
252         }
253     } else {
254         i = 0;
255     unquant_even:
256         quant_matrix = s->non_intra_matrix;
257         /* Align on 4 elements boundary */
258         while(i&7)
259         {
260             level = block[i];
261             if (level) {
262                 if (level < 0) level = -level;
263                     level = (((level << 1) + 1) * qscale *
264                              ((int) quant_matrix[i])) >> 4;
265                     level = (level - 1) | 1;
266                 if(block[i] < 0) level = -level;
267                 block[i] = level;
268             }
269             i++;
270         }
271 asm volatile(
272                 "pcmpeqw %%mm7, %%mm7           \n\t"
273                 "psrlw $15, %%mm7               \n\t"
274                 "movd %2, %%mm6                 \n\t"
275                 "packssdw %%mm6, %%mm6          \n\t"
276                 "packssdw %%mm6, %%mm6          \n\t"
277                 ".balign 16\n\t"
278                 "1:                             \n\t"
279                 "movq (%0, %3), %%mm0           \n\t"
280                 "movq 8(%0, %3), %%mm1          \n\t"
281                 "movq (%1, %3), %%mm4           \n\t"
282                 "movq 8(%1, %3), %%mm5          \n\t"
283                 "pmullw %%mm6, %%mm4            \n\t" // q=qscale*quant_matrix[i]
284                 "pmullw %%mm6, %%mm5            \n\t" // q=qscale*quant_matrix[i]
285                 "pxor %%mm2, %%mm2              \n\t"
286                 "pxor %%mm3, %%mm3              \n\t"
287                 "pcmpgtw %%mm0, %%mm2           \n\t" // block[i] < 0 ? -1 : 0
288                 "pcmpgtw %%mm1, %%mm3           \n\t" // block[i] < 0 ? -1 : 0
289                 "pxor %%mm2, %%mm0              \n\t"
290                 "pxor %%mm3, %%mm1              \n\t"
291                 "psubw %%mm2, %%mm0             \n\t" // abs(block[i])
292                 "psubw %%mm3, %%mm1             \n\t" // abs(block[i])
293                 "paddw %%mm0, %%mm0             \n\t" // abs(block[i])*2
294                 "paddw %%mm1, %%mm1             \n\t" // abs(block[i])*2
295                 "paddw %%mm7, %%mm0             \n\t" // abs(block[i])*2 + 1
296                 "paddw %%mm7, %%mm1             \n\t" // abs(block[i])*2 + 1
297                 "pmullw %%mm4, %%mm0            \n\t" // (abs(block[i])*2 + 1)*q
298                 "pmullw %%mm5, %%mm1            \n\t" // (abs(block[i])*2 + 1)*q
299                 "pxor %%mm4, %%mm4              \n\t"
300                 "pxor %%mm5, %%mm5              \n\t" // FIXME slow
301                 "pcmpeqw (%0, %3), %%mm4        \n\t" // block[i] == 0 ? -1 : 0
302                 "pcmpeqw 8(%0, %3), %%mm5       \n\t" // block[i] == 0 ? -1 : 0
303                 "psraw $4, %%mm0                \n\t"
304                 "psraw $4, %%mm1                \n\t"
305                 "psubw %%mm7, %%mm0             \n\t"
306                 "psubw %%mm7, %%mm1             \n\t"
307                 "por %%mm7, %%mm0               \n\t"
308                 "por %%mm7, %%mm1               \n\t"
309                 "pxor %%mm2, %%mm0              \n\t"
310                 "pxor %%mm3, %%mm1              \n\t"
311                 "psubw %%mm2, %%mm0             \n\t"
312                 "psubw %%mm3, %%mm1             \n\t"
313                 "pandn %%mm0, %%mm4             \n\t"
314                 "pandn %%mm1, %%mm5             \n\t"
315                 "movq %%mm4, (%0, %3)           \n\t"
316                 "movq %%mm5, 8(%0, %3)          \n\t"
317
318                 "addl $16, %3                   \n\t"
319                 "js 1b                          \n\t"
320                 ::"r" (block+nCoeffs), "r"(quant_matrix+nCoeffs), "g" (qscale), "r" (2*(i-nCoeffs))
321                 : "memory"
322         );
323     }
324 }
325
326 /* draw the edges of width 'w' of an image of size width, height 
327    this mmx version can only handle w==8 || w==16 */
328 static void draw_edges_mmx(UINT8 *buf, int wrap, int width, int height, int w)
329 {
330     UINT8 *ptr, *last_line;
331     int i;
332
333     last_line = buf + (height - 1) * wrap;
334     /* left and right */
335     ptr = buf;
336     if(w==8)
337     {
338         asm volatile(
339                 "1:                             \n\t"
340                 "movd (%0), %%mm0               \n\t"
341                 "punpcklbw %%mm0, %%mm0         \n\t" 
342                 "punpcklwd %%mm0, %%mm0         \n\t"
343                 "punpckldq %%mm0, %%mm0         \n\t"
344                 "movq %%mm0, -8(%0)             \n\t"
345                 "movq -8(%0, %2), %%mm1         \n\t"
346                 "punpckhbw %%mm1, %%mm1         \n\t"
347                 "punpckhwd %%mm1, %%mm1         \n\t"
348                 "punpckhdq %%mm1, %%mm1         \n\t"
349                 "movq %%mm1, (%0, %2)           \n\t"
350                 "addl %1, %0                    \n\t"
351                 "cmpl %3, %0                    \n\t"
352                 " jb 1b                         \n\t"
353                 : "+r" (ptr)
354                 : "r" (wrap), "r" (width), "r" (ptr + wrap*height)
355         );
356     }
357     else
358     {
359         asm volatile(
360                 "1:                             \n\t"
361                 "movd (%0), %%mm0               \n\t"
362                 "punpcklbw %%mm0, %%mm0         \n\t" 
363                 "punpcklwd %%mm0, %%mm0         \n\t"
364                 "punpckldq %%mm0, %%mm0         \n\t"
365                 "movq %%mm0, -8(%0)             \n\t"
366                 "movq %%mm0, -16(%0)            \n\t"
367                 "movq -8(%0, %2), %%mm1         \n\t"
368                 "punpckhbw %%mm1, %%mm1         \n\t"
369                 "punpckhwd %%mm1, %%mm1         \n\t"
370                 "punpckhdq %%mm1, %%mm1         \n\t"
371                 "movq %%mm1, (%0, %2)           \n\t"
372                 "movq %%mm1, 8(%0, %2)          \n\t"
373                 "addl %1, %0                    \n\t"
374                 "cmpl %3, %0                    \n\t"
375                 " jb 1b                         \n\t"           
376                 : "+r" (ptr)
377                 : "r" (wrap), "r" (width), "r" (ptr + wrap*height)
378         );
379     }
380     
381     for(i=0;i<w;i+=4) {
382         /* top and bottom (and hopefully also the corners) */
383         ptr= buf - (i + 1) * wrap - w;
384         asm volatile(
385                 "1:                             \n\t"
386                 "movq (%1, %0), %%mm0           \n\t"
387                 "movq %%mm0, (%0)               \n\t"
388                 "movq %%mm0, (%0, %2)           \n\t"
389                 "movq %%mm0, (%0, %2, 2)        \n\t"
390                 "movq %%mm0, (%0, %3)           \n\t"
391                 "addl $8, %0                    \n\t"
392                 "cmpl %4, %0                    \n\t"
393                 " jb 1b                         \n\t"
394                 : "+r" (ptr)
395                 : "r" ((int)buf - (int)ptr - w), "r" (-wrap), "r" (-wrap*3), "r" (ptr+width+2*w)
396         );
397         ptr= last_line + (i + 1) * wrap - w;
398         asm volatile(
399                 "1:                             \n\t"
400                 "movq (%1, %0), %%mm0           \n\t"
401                 "movq %%mm0, (%0)               \n\t"
402                 "movq %%mm0, (%0, %2)           \n\t"
403                 "movq %%mm0, (%0, %2, 2)        \n\t"
404                 "movq %%mm0, (%0, %3)           \n\t"
405                 "addl $8, %0                    \n\t"
406                 "cmpl %4, %0                    \n\t"
407                 " jb 1b                         \n\t"
408                 : "+r" (ptr)
409                 : "r" ((int)last_line - (int)ptr - w), "r" (wrap), "r" (wrap*3), "r" (ptr+width+2*w)
410         );
411     }
412 }
413
414
415 void MPV_common_init_mmx(MpegEncContext *s)
416 {
417     if (mm_flags & MM_MMX) {
418         if (s->out_format == FMT_H263)
419                 s->dct_unquantize = dct_unquantize_h263_mmx;
420         else
421                 s->dct_unquantize = dct_unquantize_mpeg1_mmx;
422         
423         draw_edges = draw_edges_mmx;
424     }
425 }