checkasm: add VP9 loopfilter tests.
[ffmpeg.git] / tests / checkasm / vp9dsp.c
1 /*
2  * Copyright (c) 2015 Ronald S. Bultje <rsbultje@gmail.com>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License along
17  * with Libav; if not, write to the Free Software Foundation, Inc.,
18  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
19  */
20
21 #include <string.h>
22
23 #include "libavutil/common.h"
24 #include "libavutil/internal.h"
25 #include "libavutil/intreadwrite.h"
26
27 #include "libavcodec/vp9.h"
28
29 #include "checkasm.h"
30
31 static const uint32_t pixel_mask[3] = { 0xffffffff, 0x03ff03ff, 0x0fff0fff };
32
33 #define BIT_DEPTH 8
34 #define SIZEOF_PIXEL ((BIT_DEPTH + 7) / 8)
35
36 #define setpx(a,b,c) \
37     do { \
38         if (SIZEOF_PIXEL == 1) { \
39             buf0[(a) + (b) * jstride] = av_clip_uint8(c); \
40         } else { \
41             ((uint16_t *)buf0)[(a) + (b) * jstride] = av_clip_uintp2(c, BIT_DEPTH); \
42         } \
43     } while (0)
44 #define setdx(a,b,c,d) setpx(a,b,c-(d)+(rnd()%((d)*2+1)))
45 #define setsx(a,b,c,d) setdx(a,b,c,(d) << (BIT_DEPTH - 8))
46
47 static void randomize_loopfilter_buffers(int bidx, int lineoff, int str,
48                                          int bit_depth, int dir,
49                                          const int *E, const int *F,
50                                          const int *H, const int *I,
51                                          uint8_t *buf0, uint8_t *buf1)
52 {
53     uint32_t mask = (1 << BIT_DEPTH) - 1;
54     int off = dir ? lineoff : lineoff * 16;
55     int istride = dir ? 1 : 16;
56     int jstride = dir ? str : 1;
57     int i, j;
58     for (i = 0; i < 2; i++) /* flat16 */ {
59         int idx = off + i * istride, p0, q0;
60         setpx(idx,  0, q0 = rnd() & mask);
61         setsx(idx, -1, p0 = q0, E[bidx] >> 2);
62         for (j = 1; j < 8; j++) {
63             setsx(idx, -1 - j, p0, F[bidx]);
64             setsx(idx, j, q0, F[bidx]);
65         }
66     }
67     for (i = 2; i < 4; i++) /* flat8 */ {
68         int idx = off + i * istride, p0, q0;
69         setpx(idx,  0, q0 = rnd() & mask);
70         setsx(idx, -1, p0 = q0, E[bidx] >> 2);
71         for (j = 1; j < 4; j++) {
72             setsx(idx, -1 - j, p0, F[bidx]);
73             setsx(idx, j, q0, F[bidx]);
74         }
75         for (j = 4; j < 8; j++) {
76             setpx(idx, -1 - j, rnd() & mask);
77             setpx(idx, j, rnd() & mask);
78         }
79     }
80     for (i = 4; i < 6; i++) /* regular */ {
81         int idx = off + i * istride, p2, p1, p0, q0, q1, q2;
82         setpx(idx,  0, q0 = rnd() & mask);
83         setsx(idx,  1, q1 = q0, I[bidx]);
84         setsx(idx,  2, q2 = q1, I[bidx]);
85         setsx(idx,  3, q2,      I[bidx]);
86         setsx(idx, -1, p0 = q0, E[bidx] >> 2);
87         setsx(idx, -2, p1 = p0, I[bidx]);
88         setsx(idx, -3, p2 = p1, I[bidx]);
89         setsx(idx, -4, p2,      I[bidx]);
90         for (j = 4; j < 8; j++) {
91             setpx(idx, -1 - j, rnd() & mask);
92             setpx(idx, j, rnd() & mask);
93         }
94     }
95     for (i = 6; i < 8; i++) /* off */ {
96         int idx = off + i * istride;
97         for (j = 0; j < 8; j++) {
98             setpx(idx, -1 - j, rnd() & mask);
99             setpx(idx, j, rnd() & mask);
100         }
101     }
102 }
103
104 #define randomize_buffers(bidx, lineoff, str)                        \
105     randomize_loopfilter_buffers(bidx, lineoff, str, BIT_DEPTH, dir, \
106                                  E, F, H, I, buf0, buf1)
107
108 static void check_loopfilter(void)
109 {
110     LOCAL_ALIGNED_32(uint8_t, base0, [32 + 16 * 16 * 2]);
111     LOCAL_ALIGNED_32(uint8_t, base1, [32 + 16 * 16 * 2]);
112     VP9DSPContext dsp;
113     int dir, wd, wd2;
114     static const char *const dir_name[2] = { "h", "v" };
115     static const int E[2] = { 20, 28 }, I[2] = { 10, 16 };
116     static const int H[2] = {  7, 11 }, F[2] = {  1,  1 };
117     declare_func(void, uint8_t *dst, ptrdiff_t stride, int E, int I, int H);
118
119     ff_vp9dsp_init(&dsp);
120
121     for (dir = 0; dir < 2; dir++) {
122         uint8_t *buf0, *buf1;
123         int midoff = (dir ? 8 * 8 : 8) * SIZEOF_PIXEL;
124         int midoff_aligned = (dir ? 8 * 8 : 16) * SIZEOF_PIXEL;
125
126         buf0 = base0 + midoff_aligned;
127         buf1 = base1 + midoff_aligned;
128
129         for (wd = 0; wd < 3; wd++) {
130             // 4/8/16wd_8px
131             if (check_func(dsp.loop_filter_8[wd][dir],
132                            "vp9_loop_filter_%s_%d_8",
133                            dir_name[dir], 4 << wd)) {
134                 randomize_buffers(0, 0, 8);
135                 memcpy(buf1 - midoff, buf0 - midoff,
136                        16 * 8 * SIZEOF_PIXEL);
137                 call_ref(buf0, 16 * SIZEOF_PIXEL >> dir, E[0], I[0], H[0]);
138                 call_new(buf1, 16 * SIZEOF_PIXEL >> dir, E[0], I[0], H[0]);
139                 if (memcmp(buf0 - midoff, buf1 - midoff, 16 * 8 * SIZEOF_PIXEL))
140                     fail();
141                 bench_new(buf1, 16 * SIZEOF_PIXEL >> dir, E[0], I[0], H[0]);
142             }
143         }
144
145         midoff = (dir ? 16 * 8 : 8) * SIZEOF_PIXEL;
146         midoff_aligned = (dir ? 16 * 8 : 16) * SIZEOF_PIXEL;
147
148         buf0 = base0 + midoff_aligned;
149         buf1 = base1 + midoff_aligned;
150
151         // 16wd_16px loopfilter
152         if (check_func(dsp.loop_filter_16[dir],
153                        "vp9_loop_filter_%s_16_16",
154                        dir_name[dir])) {
155             randomize_buffers(0, 0, 16);
156             randomize_buffers(0, 8, 16);
157             memcpy(buf1 - midoff, buf0 - midoff, 16 * 16 * SIZEOF_PIXEL);
158             call_ref(buf0, 16 * SIZEOF_PIXEL, E[0], I[0], H[0]);
159             call_new(buf1, 16 * SIZEOF_PIXEL, E[0], I[0], H[0]);
160             if (memcmp(buf0 - midoff, buf1 - midoff, 16 * 16 * SIZEOF_PIXEL))
161                 fail();
162             bench_new(buf1, 16 * SIZEOF_PIXEL, E[0], I[0], H[0]);
163         }
164
165         for (wd = 0; wd < 2; wd++) {
166             for (wd2 = 0; wd2 < 2; wd2++) {
167                 // mix2 loopfilter
168                 if (check_func(dsp.loop_filter_mix2[wd][wd2][dir],
169                                "vp9_loop_filter_mix2_%s_%d%d_16",
170                                dir_name[dir], 4 << wd, 4 << wd2)) {
171                     randomize_buffers(0, 0, 16);
172                     randomize_buffers(1, 8, 16);
173                     memcpy(buf1 - midoff, buf0 - midoff, 16 * 16 * SIZEOF_PIXEL);
174 #define M(a) ((a[1] << 8) | a[0])
175                     call_ref(buf0, 16 * SIZEOF_PIXEL, M(E), M(I), M(H));
176                     call_new(buf1, 16 * SIZEOF_PIXEL, M(E), M(I), M(H));
177                     if (memcmp(buf0 - midoff, buf1 - midoff, 16 * 16 * SIZEOF_PIXEL))
178                         fail();
179                     bench_new(buf1, 16 * SIZEOF_PIXEL, M(E), M(I), M(H));
180 #undef M
181                 }
182             }
183         }
184     }
185     report("loopfilter");
186 }
187
188 #undef setsx
189 #undef setpx
190 #undef setdx
191 #undef randomize_buffers
192
193 #define DST_BUF_SIZE (size * size * SIZEOF_PIXEL)
194 #define SRC_BUF_STRIDE 72
195 #define SRC_BUF_SIZE ((size + 7) * SRC_BUF_STRIDE * SIZEOF_PIXEL)
196 #define src (buf + 3 * SIZEOF_PIXEL * (SRC_BUF_STRIDE + 1))
197
198 #define randomize_buffers()                               \
199     do {                                                  \
200         uint32_t mask = pixel_mask[(BIT_DEPTH - 8) >> 1]; \
201         int k;                                            \
202         for (k = 0; k < SRC_BUF_SIZE; k += 4) {           \
203             uint32_t r = rnd() & mask;                    \
204             AV_WN32A(buf + k, r);                         \
205         }                                                 \
206         if (op == 1) {                                    \
207             for (k = 0; k < DST_BUF_SIZE; k += 4) {       \
208                 uint32_t r = rnd() & mask;                \
209                 AV_WN32A(dst0 + k, r);                    \
210                 AV_WN32A(dst1 + k, r);                    \
211             }                                             \
212         }                                                 \
213     } while (0)
214
215 static void check_mc(void)
216 {
217     static const char *const filter_names[4] = {
218         "8tap_smooth", "8tap_regular", "8tap_sharp", "bilin"
219     };
220     static const char *const subpel_names[2][2] = { { "", "h" }, { "v", "hv" } };
221     static const char *const op_names[2] = { "put", "avg" };
222
223     LOCAL_ALIGNED_32(uint8_t, buf,  [72 * 72 * 2]);
224     LOCAL_ALIGNED_32(uint8_t, dst0, [64 * 64 * 2]);
225     LOCAL_ALIGNED_32(uint8_t, dst1, [64 * 64 * 2]);
226     char str[256];
227     VP9DSPContext dsp;
228     int op, hsize, filter, dx, dy;
229
230     declare_func_emms(AV_CPU_FLAG_MMX | AV_CPU_FLAG_MMXEXT,
231                       void, uint8_t *dst, const uint8_t *ref,
232                       ptrdiff_t dst_stride, ptrdiff_t ref_stride,
233                       int h, int mx, int my);
234
235     for (op = 0; op < 2; op++) {
236         ff_vp9dsp_init(&dsp);
237         for (hsize = 0; hsize < 5; hsize++) {
238             int size = 64 >> hsize;
239
240             for (filter = 0; filter < 4; filter++) {
241                 for (dx = 0; dx < 2; dx++) {
242                     for (dy = 0; dy < 2; dy++) {
243                         if (dx || dy) {
244                             snprintf(str, sizeof(str), "%s_%s_%d%s", op_names[op],
245                                      filter_names[filter], size,
246                                      subpel_names[dy][dx]);
247                         } else {
248                             snprintf(str, sizeof(str), "%s%d", op_names[op], size);
249                         }
250                         if (check_func(dsp.mc[hsize][filter][op][dx][dy],
251                                        "vp9_%s", str)) {
252                             int mx = dx ? 1 + (rnd() % 14) : 0;
253                             int my = dy ? 1 + (rnd() % 14) : 0;
254                             randomize_buffers();
255                             call_ref(dst0, src,
256                                      size * SIZEOF_PIXEL,
257                                      SRC_BUF_STRIDE * SIZEOF_PIXEL,
258                                      size, mx, my);
259                             call_new(dst1, src,
260                                      size * SIZEOF_PIXEL,
261                                      SRC_BUF_STRIDE * SIZEOF_PIXEL,
262                                      size, mx, my);
263                             if (memcmp(dst0, dst1, DST_BUF_SIZE))
264                                 fail();
265
266                             // SIMD implementations for each filter of subpel
267                             // functions are identical
268                             if (filter >= 1 && filter <= 2) continue;
269
270                             bench_new(dst1, src, size * SIZEOF_PIXEL,
271                                       SRC_BUF_STRIDE * SIZEOF_PIXEL,
272                                       size, mx, my);
273                         }
274                     }
275                 }
276             }
277         }
278     }
279     report("mc");
280 }
281
282 void checkasm_check_vp9dsp(void)
283 {
284     check_loopfilter();
285     check_mc();
286 }