swscale: fix compile on x86-32.
[ffmpeg.git] / libswscale / swscale-test.c
1 /*
2  * Copyright (C) 2003 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include <inttypes.h>
25 #include <stdarg.h>
26
27 #undef HAVE_AV_CONFIG_H
28 #include "libavutil/imgutils.h"
29 #include "libavutil/mem.h"
30 #include "libavutil/avutil.h"
31 #include "libavutil/crc.h"
32 #include "libavutil/pixdesc.h"
33 #include "libavutil/lfg.h"
34 #include "swscale.h"
35
36 /* HACK Duplicated from swscale_internal.h.
37  * Should be removed when a cleaner pixel format system exists. */
38 #define isGray(x)       (           \
39            (x)==PIX_FMT_GRAY8       \
40         || (x)==PIX_FMT_GRAY16BE    \
41         || (x)==PIX_FMT_GRAY16LE    \
42     )
43 #define hasChroma(x)   (!(          \
44             isGray(x)               \
45         || (x)==PIX_FMT_MONOBLACK   \
46         || (x)==PIX_FMT_MONOWHITE   \
47     ))
48 #define isALPHA(x)      (           \
49            (x)==PIX_FMT_BGR32       \
50         || (x)==PIX_FMT_BGR32_1     \
51         || (x)==PIX_FMT_RGB32       \
52         || (x)==PIX_FMT_RGB32_1     \
53         || (x)==PIX_FMT_YUVA420P    \
54     )
55
56 static uint64_t getSSD(uint8_t *src1, uint8_t *src2, int stride1, int stride2, int w, int h)
57 {
58     int x,y;
59     uint64_t ssd=0;
60
61     for (y=0; y<h; y++) {
62         for (x=0; x<w; x++) {
63             int d= src1[x + y*stride1] - src2[x + y*stride2];
64             ssd+= d*d;
65         }
66     }
67     return ssd;
68 }
69
70 struct Results {
71     uint64_t ssdY;
72     uint64_t ssdU;
73     uint64_t ssdV;
74     uint64_t ssdA;
75     uint32_t crc;
76 };
77
78 // test by ref -> src -> dst -> out & compare out against ref
79 // ref & out are YV12
80 static int doTest(uint8_t *ref[4], int refStride[4], int w, int h,
81                   enum PixelFormat srcFormat, enum PixelFormat dstFormat,
82                   int srcW, int srcH, int dstW, int dstH, int flags,
83                   struct Results *r)
84 {
85     static enum PixelFormat cur_srcFormat;
86     static int cur_srcW, cur_srcH;
87     static uint8_t *src[4];
88     static int srcStride[4];
89     uint8_t *dst[4] = {0};
90     uint8_t *out[4] = {0};
91     int dstStride[4];
92     int i;
93     uint64_t ssdY, ssdU=0, ssdV=0, ssdA=0;
94     struct SwsContext *dstContext = NULL, *outContext = NULL;
95     uint32_t crc = 0;
96     int res = 0;
97
98     if (cur_srcFormat != srcFormat || cur_srcW != srcW || cur_srcH != srcH) {
99         struct SwsContext *srcContext = NULL;
100         int p;
101
102         for (p = 0; p < 4; p++)
103             av_freep(&src[p]);
104
105         av_image_fill_linesizes(srcStride, srcFormat, srcW);
106         for (p = 0; p < 4; p++) {
107             if (srcStride[p])
108                 src[p] = av_mallocz(srcStride[p]*srcH+16);
109             if (srcStride[p] && !src[p]) {
110                 perror("Malloc");
111                 res = -1;
112
113                 goto end;
114             }
115         }
116         srcContext = sws_getContext(w, h, PIX_FMT_YUVA420P, srcW, srcH,
117                                     srcFormat, SWS_BILINEAR, NULL, NULL, NULL);
118         if (!srcContext) {
119             fprintf(stderr, "Failed to get %s ---> %s\n",
120                     av_pix_fmt_descriptors[PIX_FMT_YUVA420P].name,
121                     av_pix_fmt_descriptors[srcFormat].name);
122             res = -1;
123
124             goto end;
125         }
126         sws_scale(srcContext, ref, refStride, 0, h, src, srcStride);
127         sws_freeContext(srcContext);
128
129         cur_srcFormat = srcFormat;
130         cur_srcW = srcW;
131         cur_srcH = srcH;
132     }
133
134     av_image_fill_linesizes(dstStride, dstFormat, dstW);
135     for (i=0; i<4; i++) {
136         /* Image buffers passed into libswscale can be allocated any way you
137          * prefer, as long as they're aligned enough for the architecture, and
138          * they're freed appropriately (such as using av_free for buffers
139          * allocated with av_malloc). */
140         /* An extra 16 bytes is being allocated because some scalers may write
141          * out of bounds. */
142         if (dstStride[i])
143             dst[i]= av_mallocz(dstStride[i]*dstH+16);
144         if (dstStride[i] && !dst[i]) {
145             perror("Malloc");
146             res = -1;
147
148             goto end;
149         }
150     }
151
152     dstContext= sws_getContext(srcW, srcH, srcFormat, dstW, dstH, dstFormat, flags, NULL, NULL, NULL);
153     if (!dstContext) {
154         fprintf(stderr, "Failed to get %s ---> %s\n",
155                 av_pix_fmt_descriptors[srcFormat].name,
156                 av_pix_fmt_descriptors[dstFormat].name);
157         res = -1;
158
159         goto end;
160     }
161
162     printf(" %s %dx%d -> %s %3dx%3d flags=%2d",
163            av_pix_fmt_descriptors[srcFormat].name, srcW, srcH,
164            av_pix_fmt_descriptors[dstFormat].name, dstW, dstH,
165            flags);
166     fflush(stdout);
167
168     sws_scale(dstContext, src, srcStride, 0, srcH, dst, dstStride);
169
170     for (i = 0; i < 4 && dstStride[i]; i++) {
171         crc = av_crc(av_crc_get_table(AV_CRC_32_IEEE), crc, dst[i], dstStride[i] * dstH);
172     }
173
174     if (r && crc == r->crc) {
175         ssdY = r->ssdY;
176         ssdU = r->ssdU;
177         ssdV = r->ssdV;
178         ssdA = r->ssdA;
179     } else {
180         for (i=0; i<4; i++) {
181             if (refStride[i])
182                 out[i]= av_mallocz(refStride[i]*h);
183             if (refStride[i] && !out[i]) {
184                 perror("Malloc");
185                 res = -1;
186
187                 goto end;
188             }
189         }
190         outContext= sws_getContext(dstW, dstH, dstFormat, w, h, PIX_FMT_YUVA420P, SWS_BILINEAR, NULL, NULL, NULL);
191         if (!outContext) {
192             fprintf(stderr, "Failed to get %s ---> %s\n",
193                     av_pix_fmt_descriptors[dstFormat].name,
194                     av_pix_fmt_descriptors[PIX_FMT_YUVA420P].name);
195             res = -1;
196
197             goto end;
198         }
199         sws_scale(outContext, dst, dstStride, 0, dstH, out, refStride);
200
201         ssdY= getSSD(ref[0], out[0], refStride[0], refStride[0], w, h);
202         if (hasChroma(srcFormat) && hasChroma(dstFormat)) {
203             //FIXME check that output is really gray
204             ssdU= getSSD(ref[1], out[1], refStride[1], refStride[1], (w+1)>>1, (h+1)>>1);
205             ssdV= getSSD(ref[2], out[2], refStride[2], refStride[2], (w+1)>>1, (h+1)>>1);
206         }
207         if (isALPHA(srcFormat) && isALPHA(dstFormat))
208             ssdA= getSSD(ref[3], out[3], refStride[3], refStride[3], w, h);
209
210         ssdY/= w*h;
211         ssdU/= w*h/4;
212         ssdV/= w*h/4;
213         ssdA/= w*h;
214
215         sws_freeContext(outContext);
216
217         for (i=0; i<4; i++) {
218             if (refStride[i])
219                 av_free(out[i]);
220         }
221     }
222
223     printf(" CRC=%08x SSD=%5"PRId64",%5"PRId64",%5"PRId64",%5"PRId64"\n",
224            crc, ssdY, ssdU, ssdV, ssdA);
225
226 end:
227
228     sws_freeContext(dstContext);
229
230     for (i=0; i<4; i++) {
231         if (dstStride[i])
232             av_free(dst[i]);
233     }
234
235     return res;
236 }
237
238 static void selfTest(uint8_t *ref[4], int refStride[4], int w, int h,
239                      enum PixelFormat srcFormat_in,
240                      enum PixelFormat dstFormat_in)
241 {
242     const int flags[] = { SWS_FAST_BILINEAR,
243                           SWS_BILINEAR, SWS_BICUBIC,
244                           SWS_X       , SWS_POINT  , SWS_AREA, 0 };
245     const int srcW = w;
246     const int srcH = h;
247     const int dstW[] = { srcW - srcW/3, srcW, srcW + srcW/3, 0 };
248     const int dstH[] = { srcH - srcH/3, srcH, srcH + srcH/3, 0 };
249     enum PixelFormat srcFormat, dstFormat;
250
251     for (srcFormat = srcFormat_in != PIX_FMT_NONE ? srcFormat_in : 0;
252          srcFormat < PIX_FMT_NB; srcFormat++) {
253         if (!sws_isSupportedInput(srcFormat) || !sws_isSupportedOutput(srcFormat))
254             continue;
255
256         for (dstFormat = dstFormat_in != PIX_FMT_NONE ? dstFormat_in : 0;
257              dstFormat < PIX_FMT_NB; dstFormat++) {
258             int i, j, k;
259             int res = 0;
260
261             if (!sws_isSupportedInput(dstFormat) || !sws_isSupportedOutput(dstFormat))
262                 continue;
263
264             printf("%s -> %s\n",
265                    av_pix_fmt_descriptors[srcFormat].name,
266                    av_pix_fmt_descriptors[dstFormat].name);
267             fflush(stdout);
268
269             for (k = 0; flags[k] && !res; k++) {
270                 for (i = 0; dstW[i] && !res; i++)
271                     for (j = 0; dstH[j] && !res; j++)
272                         res = doTest(ref, refStride, w, h,
273                                      srcFormat, dstFormat,
274                                      srcW, srcH, dstW[i], dstH[j], flags[k],
275                                      NULL);
276             }
277             if (dstFormat_in != PIX_FMT_NONE)
278                 break;
279         }
280         if (srcFormat_in != PIX_FMT_NONE)
281             break;
282     }
283 }
284
285 static int fileTest(uint8_t *ref[4], int refStride[4], int w, int h, FILE *fp,
286                     enum PixelFormat srcFormat_in,
287                     enum PixelFormat dstFormat_in)
288 {
289     char buf[256];
290
291     while (fgets(buf, sizeof(buf), fp)) {
292         struct Results r;
293         enum PixelFormat srcFormat;
294         char srcStr[12];
295         int srcW, srcH;
296         enum PixelFormat dstFormat;
297         char dstStr[12];
298         int dstW, dstH;
299         int flags;
300         int ret;
301
302         ret = sscanf(buf, " %12s %dx%d -> %12s %dx%d flags=%d CRC=%x"
303                           " SSD=%"PRId64", %"PRId64", %"PRId64", %"PRId64"\n",
304                           srcStr, &srcW, &srcH, dstStr, &dstW, &dstH,
305                           &flags, &r.crc, &r.ssdY, &r.ssdU, &r.ssdV, &r.ssdA);
306         if (ret != 12) {
307             srcStr[0] = dstStr[0] = 0;
308             ret = sscanf(buf, "%12s -> %12s\n", srcStr, dstStr);
309         }
310
311         srcFormat = av_get_pix_fmt(srcStr);
312         dstFormat = av_get_pix_fmt(dstStr);
313
314         if (srcFormat == PIX_FMT_NONE || dstFormat == PIX_FMT_NONE) {
315             fprintf(stderr, "malformed input file\n");
316             return -1;
317         }
318         if ((srcFormat_in != PIX_FMT_NONE && srcFormat_in != srcFormat) ||
319             (dstFormat_in != PIX_FMT_NONE && dstFormat_in != dstFormat))
320             continue;
321         if (ret != 12) {
322             printf("%s", buf);
323             continue;
324         }
325
326         doTest(ref, refStride, w, h,
327                srcFormat, dstFormat,
328                srcW, srcH, dstW, dstH, flags,
329                &r);
330     }
331
332     return 0;
333 }
334
335 #define W 96
336 #define H 96
337
338 int main(int argc, char **argv)
339 {
340     enum PixelFormat srcFormat = PIX_FMT_NONE;
341     enum PixelFormat dstFormat = PIX_FMT_NONE;
342     uint8_t *rgb_data = av_malloc (W*H*4);
343     uint8_t *rgb_src[3]= {rgb_data, NULL, NULL};
344     int rgb_stride[3]={4*W, 0, 0};
345     uint8_t *data = av_malloc (4*W*H);
346     uint8_t *src[4]= {data, data+W*H, data+W*H*2, data+W*H*3};
347     int stride[4]={W, W, W, W};
348     int x, y;
349     struct SwsContext *sws;
350     AVLFG rand;
351     int res = -1;
352     int i;
353
354     if (!rgb_data || !data)
355         return -1;
356
357     sws= sws_getContext(W/12, H/12, PIX_FMT_RGB32, W, H, PIX_FMT_YUVA420P, SWS_BILINEAR, NULL, NULL, NULL);
358
359     av_lfg_init(&rand, 1);
360
361     for (y=0; y<H; y++) {
362         for (x=0; x<W*4; x++) {
363             rgb_data[ x + y*4*W]= av_lfg_get(&rand);
364         }
365     }
366     sws_scale(sws, rgb_src, rgb_stride, 0, H, src, stride);
367     sws_freeContext(sws);
368     av_free(rgb_data);
369
370     for (i = 1; i < argc; i += 2) {
371         if (argv[i][0] != '-' || i+1 == argc)
372             goto bad_option;
373         if (!strcmp(argv[i], "-ref")) {
374             FILE *fp = fopen(argv[i+1], "r");
375             if (!fp) {
376                 fprintf(stderr, "could not open '%s'\n", argv[i+1]);
377                 goto error;
378             }
379             res = fileTest(src, stride, W, H, fp, srcFormat, dstFormat);
380             fclose(fp);
381             goto end;
382         } else if (!strcmp(argv[i], "-src")) {
383             srcFormat = av_get_pix_fmt(argv[i+1]);
384             if (srcFormat == PIX_FMT_NONE) {
385                 fprintf(stderr, "invalid pixel format %s\n", argv[i+1]);
386                 return -1;
387             }
388         } else if (!strcmp(argv[i], "-dst")) {
389             dstFormat = av_get_pix_fmt(argv[i+1]);
390             if (dstFormat == PIX_FMT_NONE) {
391                 fprintf(stderr, "invalid pixel format %s\n", argv[i+1]);
392                 return -1;
393             }
394         } else {
395 bad_option:
396             fprintf(stderr, "bad option or argument missing (%s)\n", argv[i]);
397             goto error;
398         }
399     }
400
401     selfTest(src, stride, W, H, srcFormat, dstFormat);
402 end:
403     res = 0;
404 error:
405     av_free(data);
406
407     return res;
408 }