avcodec/jpeg2000dwt: also test 9/7 float DWT
[ffmpeg.git] / tests / ref / fate / j2k-dwt
1 5/3i, decomp:15 border 151 170 140 183 milli-err2:        0
2 9/7i, decomp:15 border 151 170 140 183 milli-err2:    13030
3 9/7f, decomp:15 border 151 170 140 183 err2:              0.2626
4 5/3i, decomp:21 border 173 201  81 189 milli-err2:        0
5 9/7i, decomp:21 border 173 201  81 189 milli-err2:    21587
6 9/7f, decomp:21 border 173 201  81 189 err2:              0.3460
7 5/3i, decomp:22 border 213 227  76 245 milli-err2:        0
8 9/7i, decomp:22 border 213 227  76 245 milli-err2:    13454
9 9/7f, decomp:22 border 213 227  76 245 err2:              0.2393
10 5/3i, decomp:13 border 134 157 184 203 milli-err2:        0
11 9/7i, decomp:13 border 134 157 184 203 milli-err2:    19745
12 9/7f, decomp:13 border 134 157 184 203 err2:              0.1715
13 5/3i, decomp: 1 border 204 237   6 106 milli-err2:        0
14 9/7i, decomp: 1 border 204 237   6 106 milli-err2:     2236
15 9/7f, decomp: 1 border 204 237   6 106 err2:              0.0063
16 5/3i, decomp:28 border  76 211  13 210 milli-err2:        0
17 9/7i, decomp:28 border  76 211  13 210 milli-err2:    22341
18 9/7f, decomp:28 border  76 211  13 210 err2:              0.3931
19 5/3i, decomp:21 border  76  99  43 123 milli-err2:        0
20 9/7i, decomp:21 border  76  99  43 123 milli-err2:    15450
21 9/7f, decomp:21 border  76  99  43 123 err2:              0.2005
22 5/3i, decomp:15 border 192 243 174 204 milli-err2:        0
23 9/7i, decomp:15 border 192 243 174 204 milli-err2:    56308
24 9/7f, decomp:15 border 192 243 174 204 err2:              0.3373
25 5/3i, decomp:21 border  17  68  93 204 milli-err2:        0
26 9/7i, decomp:21 border  17  68  93 204 milli-err2:    26234
27 9/7f, decomp:21 border  17  68  93 204 err2:              0.2765
28 5/3i, decomp:11 border 142 168  82 174 milli-err2:        0
29 9/7i, decomp:11 border 142 168  82 174 milli-err2:    14802
30 9/7f, decomp:11 border 142 168  82 174 err2:              0.2064
31 5/3i, decomp:23 border 142 209 171 235 milli-err2:        0
32 9/7i, decomp:23 border 142 209 171 235 milli-err2:    26230
33 9/7f, decomp:23 border 142 209 171 235 err2:              0.3092
34 5/3i, decomp:30 border  37 185  79 245 milli-err2:        0
35 9/7i, decomp:30 border  37 185  79 245 milli-err2:    18994
36 9/7f, decomp:30 border  37 185  79 245 err2:              0.3921
37 5/3i, decomp: 5 border 129 236  30 243 milli-err2:        0
38 9/7i, decomp: 5 border 129 236  30 243 milli-err2:    14600
39 9/7f, decomp: 5 border 129 236  30 243 err2:              0.1252
40 5/3i, decomp:10 border   5 160 146 247 milli-err2:        0
41 9/7i, decomp:10 border   5 160 146 247 milli-err2:    43905
42 9/7f, decomp:10 border   5 160 146 247 err2:              0.2753
43 5/3i, decomp: 5 border 104 162   6  47 milli-err2:        0
44 9/7i, decomp: 5 border 104 162   6  47 milli-err2:    12942
45 9/7f, decomp: 5 border 104 162   6  47 err2:              0.1237
46 5/3i, decomp:24 border  78 250 102 218 milli-err2:        0
47 9/7i, decomp:24 border  78 250 102 218 milli-err2:    24997
48 9/7f, decomp:24 border  78 250 102 218 err2:              0.3907
49 5/3i, decomp:28 border  86  98  56  79 milli-err2:        0
50 9/7i, decomp:28 border  86  98  56  79 milli-err2:     8112
51 9/7f, decomp:28 border  86  98  56  79 err2:              0.3094
52 5/3i, decomp: 6 border  95 238 197 214 milli-err2:        0
53 9/7i, decomp: 6 border  95 238 197 214 milli-err2:    12925
54 9/7f, decomp: 6 border  95 238 197 214 err2:              0.1481
55 5/3i, decomp:17 border  77 169  93 165 milli-err2:        0
56 9/7i, decomp:17 border  77 169  93 165 milli-err2:    24949
57 9/7f, decomp:17 border  77 169  93 165 err2:              0.4816
58 5/3i, decomp:22 border 178 187   7 119 milli-err2:        0
59 9/7i, decomp:22 border 178 187   7 119 milli-err2:     9838
60 9/7f, decomp:22 border 178 187   7 119 err2:              0.0999