98564ebb68fc3d6ca74b233d510f80957dab3d7c
[ffmpeg.git] / libavcodec / dsputil_template.c
1 /*
2  * DSP utils
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  * Copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * gmc & q-pel & 32/64 bit based MC by Michael Niedermayer <michaelni@gmx.at>
7  *
8  * This file is part of Libav.
9  *
10  * Libav is free software; you can redistribute it and/or
11  * modify it under the terms of the GNU Lesser General Public
12  * License as published by the Free Software Foundation; either
13  * version 2.1 of the License, or (at your option) any later version.
14  *
15  * Libav is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18  * Lesser General Public License for more details.
19  *
20  * You should have received a copy of the GNU Lesser General Public
21  * License along with Libav; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23  */
24
25 /**
26  * @file
27  * DSP utils
28  */
29
30 #include "bit_depth_template.c"
31
32 #if BIT_DEPTH == 8
33 /* draw the edges of width 'w' of an image of size width, height */
34 //FIXME check that this is ok for mpeg4 interlaced
35 static void FUNCC(draw_edges)(uint8_t *_buf, int _wrap, int width, int height, int w, int h, int sides)
36 {
37     pixel *buf = (pixel*)_buf;
38     int wrap = _wrap / sizeof(pixel);
39     pixel *ptr = buf, *last_line;
40     int i;
41
42     /* left and right */
43     for(i=0;i<height;i++) {
44         memset(ptr - w, ptr[0], w);
45         memset(ptr + width, ptr[width-1], w);
46         ptr += wrap;
47     }
48
49     /* top and bottom + corners */
50     buf -= w;
51     last_line = buf + (height - 1) * wrap;
52     if (sides & EDGE_TOP)
53         for(i = 0; i < h; i++)
54             memcpy(buf - (i + 1) * wrap, buf, (width + w + w) * sizeof(pixel)); // top
55     if (sides & EDGE_BOTTOM)
56         for (i = 0; i < h; i++)
57             memcpy(last_line + (i + 1) * wrap, last_line, (width + w + w) * sizeof(pixel)); // bottom
58 }
59 #endif
60
61 static void FUNCC(get_pixels)(int16_t *restrict block,
62                               const uint8_t *_pixels,
63                               int line_size)
64 {
65     const pixel *pixels = (const pixel *) _pixels;
66     int i;
67
68     /* read the pixels */
69     for(i=0;i<8;i++) {
70         block[0] = pixels[0];
71         block[1] = pixels[1];
72         block[2] = pixels[2];
73         block[3] = pixels[3];
74         block[4] = pixels[4];
75         block[5] = pixels[5];
76         block[6] = pixels[6];
77         block[7] = pixels[7];
78         pixels += line_size / sizeof(pixel);
79         block += 8;
80     }
81 }
82
83 #if BIT_DEPTH == 8
84 static void FUNCC(clear_block)(int16_t *block)
85 {
86     memset(block, 0, sizeof(int16_t)*64);
87 }
88
89 static void FUNCC(clear_blocks)(int16_t *blocks)
90 {
91     memset(blocks, 0, sizeof(int16_t)*6*64);
92 }
93 #endif
94
95 #if BIT_DEPTH == 8
96 #include "hpel_template.c"
97 #endif
98
99 #define PIXOP2(OPNAME, OP) \
100 static inline void FUNC(OPNAME ## _no_rnd_pixels8_l2)(uint8_t *dst, const uint8_t *src1, const uint8_t *src2, int dst_stride, \
101                                                 int src_stride1, int src_stride2, int h){\
102     int i;\
103     for(i=0; i<h; i++){\
104         pixel4 a,b;\
105         a= AV_RN4P(&src1[i*src_stride1  ]);\
106         b= AV_RN4P(&src2[i*src_stride2  ]);\
107         OP(*((pixel4*)&dst[i*dst_stride  ]), no_rnd_avg_pixel4(a, b));\
108         a= AV_RN4P(&src1[i*src_stride1+4*sizeof(pixel)]);\
109         b= AV_RN4P(&src2[i*src_stride2+4*sizeof(pixel)]);\
110         OP(*((pixel4*)&dst[i*dst_stride+4*sizeof(pixel)]), no_rnd_avg_pixel4(a, b));\
111     }\
112 }\
113 \
114 static inline void FUNC(OPNAME ## _no_rnd_pixels16_l2)(uint8_t *dst, const uint8_t *src1, const uint8_t *src2, int dst_stride, \
115                                                 int src_stride1, int src_stride2, int h){\
116     FUNC(OPNAME ## _no_rnd_pixels8_l2)(dst  , src1  , src2  , dst_stride, src_stride1, src_stride2, h);\
117     FUNC(OPNAME ## _no_rnd_pixels8_l2)(dst+8*sizeof(pixel), src1+8*sizeof(pixel), src2+8*sizeof(pixel), dst_stride, src_stride1, src_stride2, h);\
118 }\
119 \
120 static inline void FUNC(OPNAME ## _pixels8_l4)(uint8_t *dst, const uint8_t *src1, const uint8_t *src2, const uint8_t *src3, const uint8_t *src4,\
121                  int dst_stride, int src_stride1, int src_stride2,int src_stride3,int src_stride4, int h){\
122     /* FIXME HIGH BIT DEPTH */\
123     int i;\
124     for(i=0; i<h; i++){\
125         uint32_t a, b, c, d, l0, l1, h0, h1;\
126         a= AV_RN32(&src1[i*src_stride1]);\
127         b= AV_RN32(&src2[i*src_stride2]);\
128         c= AV_RN32(&src3[i*src_stride3]);\
129         d= AV_RN32(&src4[i*src_stride4]);\
130         l0=  (a&0x03030303UL)\
131            + (b&0x03030303UL)\
132            + 0x02020202UL;\
133         h0= ((a&0xFCFCFCFCUL)>>2)\
134           + ((b&0xFCFCFCFCUL)>>2);\
135         l1=  (c&0x03030303UL)\
136            + (d&0x03030303UL);\
137         h1= ((c&0xFCFCFCFCUL)>>2)\
138           + ((d&0xFCFCFCFCUL)>>2);\
139         OP(*((uint32_t*)&dst[i*dst_stride]), h0+h1+(((l0+l1)>>2)&0x0F0F0F0FUL));\
140         a= AV_RN32(&src1[i*src_stride1+4]);\
141         b= AV_RN32(&src2[i*src_stride2+4]);\
142         c= AV_RN32(&src3[i*src_stride3+4]);\
143         d= AV_RN32(&src4[i*src_stride4+4]);\
144         l0=  (a&0x03030303UL)\
145            + (b&0x03030303UL)\
146            + 0x02020202UL;\
147         h0= ((a&0xFCFCFCFCUL)>>2)\
148           + ((b&0xFCFCFCFCUL)>>2);\
149         l1=  (c&0x03030303UL)\
150            + (d&0x03030303UL);\
151         h1= ((c&0xFCFCFCFCUL)>>2)\
152           + ((d&0xFCFCFCFCUL)>>2);\
153         OP(*((uint32_t*)&dst[i*dst_stride+4]), h0+h1+(((l0+l1)>>2)&0x0F0F0F0FUL));\
154     }\
155 }\
156 \
157 static inline void FUNC(OPNAME ## _no_rnd_pixels8_l4)(uint8_t *dst, const uint8_t *src1, const uint8_t *src2, const uint8_t *src3, const uint8_t *src4,\
158                  int dst_stride, int src_stride1, int src_stride2,int src_stride3,int src_stride4, int h){\
159     /* FIXME HIGH BIT DEPTH*/\
160     int i;\
161     for(i=0; i<h; i++){\
162         uint32_t a, b, c, d, l0, l1, h0, h1;\
163         a= AV_RN32(&src1[i*src_stride1]);\
164         b= AV_RN32(&src2[i*src_stride2]);\
165         c= AV_RN32(&src3[i*src_stride3]);\
166         d= AV_RN32(&src4[i*src_stride4]);\
167         l0=  (a&0x03030303UL)\
168            + (b&0x03030303UL)\
169            + 0x01010101UL;\
170         h0= ((a&0xFCFCFCFCUL)>>2)\
171           + ((b&0xFCFCFCFCUL)>>2);\
172         l1=  (c&0x03030303UL)\
173            + (d&0x03030303UL);\
174         h1= ((c&0xFCFCFCFCUL)>>2)\
175           + ((d&0xFCFCFCFCUL)>>2);\
176         OP(*((uint32_t*)&dst[i*dst_stride]), h0+h1+(((l0+l1)>>2)&0x0F0F0F0FUL));\
177         a= AV_RN32(&src1[i*src_stride1+4]);\
178         b= AV_RN32(&src2[i*src_stride2+4]);\
179         c= AV_RN32(&src3[i*src_stride3+4]);\
180         d= AV_RN32(&src4[i*src_stride4+4]);\
181         l0=  (a&0x03030303UL)\
182            + (b&0x03030303UL)\
183            + 0x01010101UL;\
184         h0= ((a&0xFCFCFCFCUL)>>2)\
185           + ((b&0xFCFCFCFCUL)>>2);\
186         l1=  (c&0x03030303UL)\
187            + (d&0x03030303UL);\
188         h1= ((c&0xFCFCFCFCUL)>>2)\
189           + ((d&0xFCFCFCFCUL)>>2);\
190         OP(*((uint32_t*)&dst[i*dst_stride+4]), h0+h1+(((l0+l1)>>2)&0x0F0F0F0FUL));\
191     }\
192 }\
193 static inline void FUNC(OPNAME ## _pixels16_l4)(uint8_t *dst, const uint8_t *src1, const uint8_t *src2, const uint8_t *src3, const uint8_t *src4,\
194                  int dst_stride, int src_stride1, int src_stride2,int src_stride3,int src_stride4, int h){\
195     FUNC(OPNAME ## _pixels8_l4)(dst  , src1  , src2  , src3  , src4  , dst_stride, src_stride1, src_stride2, src_stride3, src_stride4, h);\
196     FUNC(OPNAME ## _pixels8_l4)(dst+8*sizeof(pixel), src1+8*sizeof(pixel), src2+8*sizeof(pixel), src3+8*sizeof(pixel), src4+8*sizeof(pixel), dst_stride, src_stride1, src_stride2, src_stride3, src_stride4, h);\
197 }\
198 static inline void FUNC(OPNAME ## _no_rnd_pixels16_l4)(uint8_t *dst, const uint8_t *src1, const uint8_t *src2, const uint8_t *src3, const uint8_t *src4,\
199                  int dst_stride, int src_stride1, int src_stride2,int src_stride3,int src_stride4, int h){\
200     FUNC(OPNAME ## _no_rnd_pixels8_l4)(dst  , src1  , src2  , src3  , src4  , dst_stride, src_stride1, src_stride2, src_stride3, src_stride4, h);\
201     FUNC(OPNAME ## _no_rnd_pixels8_l4)(dst+8*sizeof(pixel), src1+8*sizeof(pixel), src2+8*sizeof(pixel), src3+8*sizeof(pixel), src4+8*sizeof(pixel), dst_stride, src_stride1, src_stride2, src_stride3, src_stride4, h);\
202 }\
203 \
204 static inline void FUNCC(OPNAME ## _pixels8_xy2)(uint8_t *block, const uint8_t *pixels, ptrdiff_t line_size, int h)\
205 {\
206     /* FIXME HIGH BIT DEPTH */\
207     int j;\
208     for(j=0; j<2; j++){\
209         int i;\
210         const uint32_t a= AV_RN32(pixels  );\
211         const uint32_t b= AV_RN32(pixels+1);\
212         uint32_t l0=  (a&0x03030303UL)\
213                     + (b&0x03030303UL)\
214                     + 0x02020202UL;\
215         uint32_t h0= ((a&0xFCFCFCFCUL)>>2)\
216                    + ((b&0xFCFCFCFCUL)>>2);\
217         uint32_t l1,h1;\
218 \
219         pixels+=line_size;\
220         for(i=0; i<h; i+=2){\
221             uint32_t a= AV_RN32(pixels  );\
222             uint32_t b= AV_RN32(pixels+1);\
223             l1=  (a&0x03030303UL)\
224                + (b&0x03030303UL);\
225             h1= ((a&0xFCFCFCFCUL)>>2)\
226               + ((b&0xFCFCFCFCUL)>>2);\
227             OP(*((uint32_t*)block), h0+h1+(((l0+l1)>>2)&0x0F0F0F0FUL));\
228             pixels+=line_size;\
229             block +=line_size;\
230             a= AV_RN32(pixels  );\
231             b= AV_RN32(pixels+1);\
232             l0=  (a&0x03030303UL)\
233                + (b&0x03030303UL)\
234                + 0x02020202UL;\
235             h0= ((a&0xFCFCFCFCUL)>>2)\
236               + ((b&0xFCFCFCFCUL)>>2);\
237             OP(*((uint32_t*)block), h0+h1+(((l0+l1)>>2)&0x0F0F0F0FUL));\
238             pixels+=line_size;\
239             block +=line_size;\
240         }\
241         pixels+=4-line_size*(h+1);\
242         block +=4-line_size*h;\
243     }\
244 }\
245 \
246 CALL_2X_PIXELS(FUNCC(OPNAME ## _pixels16_xy2), FUNCC(OPNAME ## _pixels8_xy2), 8*sizeof(pixel))\
247
248 #define op_avg(a, b) a = rnd_avg_pixel4(a, b)
249 #define op_put(a, b) a = b
250 #if BIT_DEPTH == 8
251 #define put_no_rnd_pixels8_8_c put_pixels8_8_c
252 PIXOP2(avg, op_avg)
253 PIXOP2(put, op_put)
254 #endif
255 #undef op_avg
256 #undef op_put