d175e17b487b41b43468ea410603b3984d5ee094
[ffmpeg.git] / tests / checkasm / vp9dsp.c
1 /*
2  * Copyright (c) 2015 Ronald S. Bultje <rsbultje@gmail.com>
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License along
17  * with FFmpeg; if not, write to the Free Software Foundation, Inc.,
18  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
19  */
20
21 #include <string.h>
22 #include "checkasm.h"
23 #include "libavcodec/vp9dsp.h"
24 #include "libavutil/common.h"
25 #include "libavutil/internal.h"
26 #include "libavutil/intreadwrite.h"
27
28 static const uint32_t pixel_mask[3] = { 0xffffffff, 0x03ff03ff, 0x0fff0fff };
29 #define SIZEOF_PIXEL ((bit_depth + 7) / 8)
30
31 #define randomize_buffers()                                        \
32     do {                                                           \
33         uint32_t mask = pixel_mask[(bit_depth - 8) >> 1];          \
34         int k;                                                     \
35         for (k = -4;  k < SIZEOF_PIXEL * FFMAX(8, size); k += 4) { \
36             uint32_t r = rnd() & mask;                             \
37             AV_WN32A(a + k, r);                                    \
38         }                                                          \
39         for (k = 0; k < size * SIZEOF_PIXEL; k += 4) {             \
40             uint32_t r = rnd() & mask;                             \
41             AV_WN32A(l + k, r);                                    \
42         }                                                          \
43     } while (0)
44
45 static void check_ipred(void)
46 {
47     LOCAL_ALIGNED_32(uint8_t, a_buf, [64 * 2]);
48     uint8_t *a = &a_buf[32 * 2];
49     LOCAL_ALIGNED_32(uint8_t, l, [32 * 2]);
50     LOCAL_ALIGNED_32(uint8_t, dst0, [32 * 32 * 2]);
51     LOCAL_ALIGNED_32(uint8_t, dst1, [32 * 32 * 2]);
52     VP9DSPContext dsp;
53     int tx, mode, bit_depth;
54     declare_func(void, uint8_t *dst, ptrdiff_t stride,
55                  const uint8_t *left, const uint8_t *top);
56     static const char *const mode_names[N_INTRA_PRED_MODES] = {
57         [VERT_PRED] = "vert",
58         [HOR_PRED] = "hor",
59         [DC_PRED] = "dc",
60         [DIAG_DOWN_LEFT_PRED] = "diag_downleft",
61         [DIAG_DOWN_RIGHT_PRED] = "diag_downright",
62         [VERT_RIGHT_PRED] = "vert_right",
63         [HOR_DOWN_PRED] = "hor_down",
64         [VERT_LEFT_PRED] = "vert_left",
65         [HOR_UP_PRED] = "hor_up",
66         [TM_VP8_PRED] = "tm",
67         [LEFT_DC_PRED] = "dc_left",
68         [TOP_DC_PRED] = "dc_top",
69         [DC_128_PRED] = "dc_128",
70         [DC_127_PRED] = "dc_127",
71         [DC_129_PRED] = "dc_129",
72     };
73
74     for (bit_depth = 8; bit_depth <= 12; bit_depth += 2) {
75         ff_vp9dsp_init(&dsp, bit_depth, 0);
76         for (tx = 0; tx < 4; tx++) {
77             int size = 4 << tx;
78
79             for (mode = 0; mode < N_INTRA_PRED_MODES; mode++) {
80                 if (check_func(dsp.intra_pred[tx][mode], "vp9_%s_%dx%d_%dbpp",
81                                mode_names[mode], size, size, bit_depth)) {
82                     randomize_buffers();
83                     call_ref(dst0, size * SIZEOF_PIXEL, l, a);
84                     call_new(dst1, size * SIZEOF_PIXEL, l, a);
85                     if (memcmp(dst0, dst1, size * size * SIZEOF_PIXEL))
86                         fail();
87                     bench_new(dst1, size * SIZEOF_PIXEL,l, a);
88                 }
89             }
90         }
91     }
92     report("ipred");
93 }
94
95 #undef randomize_buffers
96
97 #define setpx(a,b,c) \
98     do { \
99         if (SIZEOF_PIXEL == 1) { \
100             buf0[(a) + (b) * jstride] = av_clip_uint8(c); \
101         } else { \
102             ((uint16_t *)buf0)[(a) + (b) * jstride] = av_clip_uintp2(c, bit_depth); \
103         } \
104     } while (0)
105
106 // c can be an assignment and must not be put under ()
107 #define setdx(a,b,c,d) setpx(a,b,c-(d)+(rnd()%((d)*2+1)))
108 #define setsx(a,b,c,d) setdx(a,b,c,(d) << (bit_depth - 8))
109 static void randomize_loopfilter_buffers(int bidx, int lineoff, int str,
110                                          int bit_depth, int dir, const int *E,
111                                          const int *F, const int *H, const int *I,
112                                          uint8_t *buf0, uint8_t *buf1)
113 {
114     uint32_t mask = (1 << bit_depth) - 1;
115     int off = dir ? lineoff : lineoff * 16;
116     int istride = dir ? 1 : 16;
117     int jstride = dir ? str : 1;
118     int i, j;
119     for (i = 0; i < 2; i++) /* flat16 */ {
120         int idx = off + i * istride, p0, q0;
121         setpx(idx,  0, q0 = rnd() & mask);
122         setsx(idx, -1, p0 = q0, E[bidx] >> 2);
123         for (j = 1; j < 8; j++) {
124             setsx(idx, -1 - j, p0, F[bidx]);
125             setsx(idx, j, q0, F[bidx]);
126         }
127     }
128     for (i = 2; i < 4; i++) /* flat8 */ {
129         int idx = off + i * istride, p0, q0;
130         setpx(idx,  0, q0 = rnd() & mask);
131         setsx(idx, -1, p0 = q0, E[bidx] >> 2);
132         for (j = 1; j < 4; j++) {
133             setsx(idx, -1 - j, p0, F[bidx]);
134             setsx(idx, j, q0, F[bidx]);
135         }
136         for (j = 4; j < 8; j++) {
137             setpx(idx, -1 - j, rnd() & mask);
138             setpx(idx, j, rnd() & mask);
139         }
140     }
141     for (i = 4; i < 6; i++) /* regular */ {
142         int idx = off + i * istride, p2, p1, p0, q0, q1, q2;
143         setpx(idx,  0, q0 = rnd() & mask);
144         setsx(idx,  1, q1 = q0, I[bidx]);
145         setsx(idx,  2, q2 = q1, I[bidx]);
146         setsx(idx,  3, q2,      I[bidx]);
147         setsx(idx, -1, p0 = q0, E[bidx] >> 2);
148         setsx(idx, -2, p1 = p0, I[bidx]);
149         setsx(idx, -3, p2 = p1, I[bidx]);
150         setsx(idx, -4, p2,      I[bidx]);
151         for (j = 4; j < 8; j++) {
152             setpx(idx, -1 - j, rnd() & mask);
153             setpx(idx, j, rnd() & mask);
154         }
155     }
156     for (i = 6; i < 8; i++) /* off */ {
157         int idx = off + i * istride;
158         for (j = 0; j < 8; j++) {
159             setpx(idx, -1 - j, rnd() & mask);
160             setpx(idx, j, rnd() & mask);
161         }
162     }
163 }
164 #define randomize_buffers(bidx, lineoff, str) \
165         randomize_loopfilter_buffers(bidx, lineoff, str, bit_depth, dir, \
166                                      E, F, H, I, buf0, buf1)
167
168 static void check_loopfilter(void)
169 {
170     LOCAL_ALIGNED_32(uint8_t, base0, [32 + 16 * 16 * 2]);
171     LOCAL_ALIGNED_32(uint8_t, base1, [32 + 16 * 16 * 2]);
172     VP9DSPContext dsp;
173     int dir, wd, wd2, bit_depth;
174     static const char *const dir_name[2] = { "h", "v" };
175     static const int E[2] = { 20, 28 }, I[2] = { 10, 16 };
176     static const int H[2] = { 7, 11 }, F[2] = { 1, 1 };
177     declare_func(void, uint8_t *dst, ptrdiff_t stride, int E, int I, int H);
178
179     for (bit_depth = 8; bit_depth <= 12; bit_depth += 2) {
180         ff_vp9dsp_init(&dsp, bit_depth, 0);
181
182         for (dir = 0; dir < 2; dir++) {
183             int midoff = (dir ? 8 * 8 : 8) * SIZEOF_PIXEL;
184             int midoff_aligned = (dir ? 8 * 8 : 16) * SIZEOF_PIXEL;
185             uint8_t *buf0 = base0 + midoff_aligned;
186             uint8_t *buf1 = base1 + midoff_aligned;
187
188             for (wd = 0; wd < 3; wd++) {
189                 // 4/8/16wd_8px
190                 if (check_func(dsp.loop_filter_8[wd][dir],
191                                "vp9_loop_filter_%s_%d_8_%dbpp",
192                                dir_name[dir], 4 << wd, bit_depth)) {
193                     randomize_buffers(0, 0, 8);
194                     memcpy(buf1 - midoff, buf0 - midoff,
195                            16 * 8 * SIZEOF_PIXEL);
196                     call_ref(buf0, 16 * SIZEOF_PIXEL >> dir, E[0], I[0], H[0]);
197                     call_new(buf1, 16 * SIZEOF_PIXEL >> dir, E[0], I[0], H[0]);
198                     if (memcmp(buf0 - midoff, buf1 - midoff, 16 * 8 * SIZEOF_PIXEL))
199                         fail();
200                     bench_new(buf1, 16 * SIZEOF_PIXEL >> dir, E[0], I[0], H[0]);
201                 }
202             }
203
204             midoff = (dir ? 16 * 8 : 8) * SIZEOF_PIXEL;
205             midoff_aligned = (dir ? 16 * 8 : 16) * SIZEOF_PIXEL;
206
207             buf0 = base0 + midoff_aligned;
208             buf1 = base1 + midoff_aligned;
209
210             // 16wd_16px loopfilter
211             if (check_func(dsp.loop_filter_16[dir],
212                            "vp9_loop_filter_%s_16_16_%dbpp",
213                            dir_name[dir], bit_depth)) {
214                 randomize_buffers(0, 0, 16);
215                 randomize_buffers(0, 8, 16);
216                 memcpy(buf1 - midoff, buf0 - midoff, 16 * 16 * SIZEOF_PIXEL);
217                 call_ref(buf0, 16 * SIZEOF_PIXEL, E[0], I[0], H[0]);
218                 call_new(buf1, 16 * SIZEOF_PIXEL, E[0], I[0], H[0]);
219                 if (memcmp(buf0 - midoff, buf1 - midoff, 16 * 16 * SIZEOF_PIXEL))
220                     fail();
221                 bench_new(buf1, 16 * SIZEOF_PIXEL, E[0], I[0], H[0]);
222             }
223
224             for (wd = 0; wd < 2; wd++) {
225                 for (wd2 = 0; wd2 < 2; wd2++) {
226                     // mix2 loopfilter
227                     if (check_func(dsp.loop_filter_mix2[wd][wd2][dir],
228                                    "vp9_loop_filter_mix2_%s_%d%d_16_%dbpp",
229                                    dir_name[dir], 4 << wd, 4 << wd2, bit_depth)) {
230                         randomize_buffers(0, 0, 16);
231                         randomize_buffers(1, 8, 16);
232                         memcpy(buf1 - midoff, buf0 - midoff, 16 * 16 * SIZEOF_PIXEL);
233 #define M(a) (((a)[1] << 8) | (a)[0])
234                         call_ref(buf0, 16 * SIZEOF_PIXEL, M(E), M(I), M(H));
235                         call_new(buf1, 16 * SIZEOF_PIXEL, M(E), M(I), M(H));
236                         if (memcmp(buf0 - midoff, buf1 - midoff, 16 * 16 * SIZEOF_PIXEL))
237                             fail();
238                         bench_new(buf1, 16 * SIZEOF_PIXEL, M(E), M(I), M(H));
239 #undef M
240                     }
241                 }
242             }
243         }
244     }
245     report("loopfilter");
246 }
247
248 #undef setsx
249 #undef setpx
250 #undef setdx
251 #undef randomize_buffers
252
253 #define DST_BUF_SIZE (size * size * SIZEOF_PIXEL)
254 #define SRC_BUF_STRIDE 72
255 #define SRC_BUF_SIZE ((size + 7) * SRC_BUF_STRIDE * SIZEOF_PIXEL)
256 #define src (buf + 3 * SIZEOF_PIXEL * (SRC_BUF_STRIDE + 1))
257
258 #define randomize_buffers()                               \
259     do {                                                  \
260         uint32_t mask = pixel_mask[(bit_depth - 8) >> 1]; \
261         int k;                                            \
262         for (k = 0; k < SRC_BUF_SIZE; k += 4) {           \
263             uint32_t r = rnd() & mask;                    \
264             AV_WN32A(buf + k, r);                         \
265         }                                                 \
266         if (op == 1) {                                    \
267             for (k = 0; k < DST_BUF_SIZE; k += 4) {       \
268                 uint32_t r = rnd() & mask;                \
269                 AV_WN32A(dst0 + k, r);                    \
270                 AV_WN32A(dst1 + k, r);                    \
271             }                                             \
272         }                                                 \
273     } while (0)
274
275 static void check_mc(void)
276 {
277     LOCAL_ALIGNED_32(uint8_t, buf, [72 * 72 * 2]);
278     LOCAL_ALIGNED_32(uint8_t, dst0, [64 * 64 * 2]);
279     LOCAL_ALIGNED_32(uint8_t, dst1, [64 * 64 * 2]);
280     VP9DSPContext dsp;
281     int op, hsize, bit_depth, filter, dx, dy;
282     declare_func(void, uint8_t *dst, ptrdiff_t dst_stride,
283                  const uint8_t *ref, ptrdiff_t ref_stride,
284                  int h, int mx, int my);
285     static const char *const filter_names[4] = {
286         "8tap_smooth", "8tap_regular", "8tap_sharp", "bilin"
287     };
288     static const char *const subpel_names[2][2] = { { "", "h" }, { "v", "hv" } };
289     static const char *const op_names[2] = { "put", "avg" };
290     char str[256];
291
292     for (op = 0; op < 2; op++) {
293         for (bit_depth = 8; bit_depth <= 12; bit_depth += 2) {
294             ff_vp9dsp_init(&dsp, bit_depth, 0);
295             for (hsize = 0; hsize < 5; hsize++) {
296                 int size = 64 >> hsize;
297
298                 for (filter = 0; filter < 4; filter++) {
299                     for (dx = 0; dx < 2; dx++) {
300                         for (dy = 0; dy < 2; dy++) {
301                             if (dx || dy) {
302                                 snprintf(str, sizeof(str),
303                                          "%s_%s_%d%s", op_names[op],
304                                          filter_names[filter], size,
305                                          subpel_names[dy][dx]);
306                             } else {
307                                 snprintf(str, sizeof(str),
308                                          "%s%d", op_names[op], size);
309                             }
310                             if (check_func(dsp.mc[hsize][filter][op][dx][dy],
311                                            "vp9_%s_%dbpp", str, bit_depth)) {
312                                 int mx = dx ? 1 + (rnd() % 14) : 0;
313                                 int my = dy ? 1 + (rnd() % 14) : 0;
314                                 randomize_buffers();
315                                 call_ref(dst0, size * SIZEOF_PIXEL,
316                                          src, SRC_BUF_STRIDE * SIZEOF_PIXEL,
317                                          size, mx, my);
318                                 call_new(dst1, size * SIZEOF_PIXEL,
319                                          src, SRC_BUF_STRIDE * SIZEOF_PIXEL,
320                                          size, mx, my);
321                                 if (memcmp(dst0, dst1, DST_BUF_SIZE))
322                                     fail();
323
324                                 // simd implementations for each filter of subpel
325                                 // functions are identical
326                                 if (filter >= 1 && filter <= 2) continue;
327                                 // 10/12 bpp for bilin are identical
328                                 if (bit_depth == 12 && filter == 3) continue;
329
330                                 bench_new(dst1, size * SIZEOF_PIXEL,
331                                           src, SRC_BUF_STRIDE * SIZEOF_PIXEL,
332                                           size, mx, my);
333                             }
334                         }
335                     }
336                 }
337             }
338         }
339     }
340     report("mc");
341 }
342
343 void checkasm_check_vp9dsp(void)
344 {
345     check_ipred();
346     check_loopfilter();
347     check_mc();
348 }