libswscale: fix compiler warnings enumerated type mixed with another type
[ffmpeg.git] / libswscale / swscale-test.c
1 /*
2  * Copyright (C) 2003 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include <inttypes.h>
25 #include <stdarg.h>
26
27 #undef HAVE_AV_CONFIG_H
28 #include "libavutil/imgutils.h"
29 #include "libavutil/mem.h"
30 #include "libavutil/avutil.h"
31 #include "libavutil/crc.h"
32 #include "libavutil/pixdesc.h"
33 #include "libavutil/lfg.h"
34 #include "swscale.h"
35
36 /* HACK Duplicated from swscale_internal.h.
37  * Should be removed when a cleaner pixel format system exists. */
38 #define isGray(x)                      \
39     ((x) == AV_PIX_FMT_GRAY8       ||     \
40      (x) == AV_PIX_FMT_YA8         ||     \
41      (x) == AV_PIX_FMT_GRAY16BE    ||     \
42      (x) == AV_PIX_FMT_GRAY16LE    ||     \
43      (x) == AV_PIX_FMT_YA16BE      ||     \
44      (x) == AV_PIX_FMT_YA16LE)
45 #define hasChroma(x)                   \
46     (!(isGray(x)                ||     \
47        (x) == AV_PIX_FMT_MONOBLACK ||     \
48        (x) == AV_PIX_FMT_MONOWHITE))
49 #define isALPHA(x)                     \
50     ((x) == AV_PIX_FMT_BGR32   ||         \
51      (x) == AV_PIX_FMT_BGR32_1 ||         \
52      (x) == AV_PIX_FMT_RGB32   ||         \
53      (x) == AV_PIX_FMT_RGB32_1 ||         \
54      (x) == AV_PIX_FMT_YUVA420P)
55
56 static uint64_t getSSD(uint8_t *src1, uint8_t *src2, int stride1,
57                        int stride2, int w, int h)
58 {
59     int x, y;
60     uint64_t ssd = 0;
61
62     for (y = 0; y < h; y++) {
63         for (x = 0; x < w; x++) {
64             int d = src1[x + y * stride1] - src2[x + y * stride2];
65             ssd += d * d;
66         }
67     }
68     return ssd;
69 }
70
71 struct Results {
72     uint64_t ssdY;
73     uint64_t ssdU;
74     uint64_t ssdV;
75     uint64_t ssdA;
76     uint32_t crc;
77 };
78
79 // test by ref -> src -> dst -> out & compare out against ref
80 // ref & out are YV12
81 static int doTest(uint8_t *ref[4], int refStride[4], int w, int h,
82                   enum AVPixelFormat srcFormat, enum AVPixelFormat dstFormat,
83                   int srcW, int srcH, int dstW, int dstH, int flags,
84                   struct Results *r)
85 {
86     const AVPixFmtDescriptor *desc_yuva420p = av_pix_fmt_desc_get(AV_PIX_FMT_YUVA420P);
87     const AVPixFmtDescriptor *desc_src      = av_pix_fmt_desc_get(srcFormat);
88     const AVPixFmtDescriptor *desc_dst      = av_pix_fmt_desc_get(dstFormat);
89     static enum AVPixelFormat cur_srcFormat;
90     static int cur_srcW, cur_srcH;
91     static uint8_t *src[4];
92     static int srcStride[4];
93     uint8_t *dst[4] = { 0 };
94     uint8_t *out[4] = { 0 };
95     int dstStride[4];
96     int i;
97     uint64_t ssdY, ssdU = 0, ssdV = 0, ssdA = 0;
98     struct SwsContext *dstContext = NULL, *outContext = NULL;
99     uint32_t crc = 0;
100     int res      = 0;
101
102     if (cur_srcFormat != srcFormat || cur_srcW != srcW || cur_srcH != srcH) {
103         struct SwsContext *srcContext = NULL;
104         int p;
105
106         for (p = 0; p < 4; p++)
107             av_freep(&src[p]);
108
109         av_image_fill_linesizes(srcStride, srcFormat, srcW);
110         for (p = 0; p < 4; p++) {
111             if (srcStride[p])
112                 src[p] = av_mallocz(srcStride[p] * srcH + 16);
113             if (srcStride[p] && !src[p]) {
114                 perror("Malloc");
115                 res = -1;
116                 goto end;
117             }
118         }
119         srcContext = sws_getContext(w, h, AV_PIX_FMT_YUVA420P, srcW, srcH,
120                                     srcFormat, SWS_BILINEAR, NULL, NULL, NULL);
121         if (!srcContext) {
122             fprintf(stderr, "Failed to get %s ---> %s\n",
123                     desc_yuva420p->name,
124                     desc_src->name);
125             res = -1;
126             goto end;
127         }
128         sws_scale(srcContext, ref, refStride, 0, h, src, srcStride);
129         sws_freeContext(srcContext);
130
131         cur_srcFormat = srcFormat;
132         cur_srcW      = srcW;
133         cur_srcH      = srcH;
134     }
135
136     av_image_fill_linesizes(dstStride, dstFormat, dstW);
137     for (i = 0; i < 4; i++) {
138         /* Image buffers passed into libswscale can be allocated any way you
139          * prefer, as long as they're aligned enough for the architecture, and
140          * they're freed appropriately (such as using av_free for buffers
141          * allocated with av_malloc). */
142         /* An extra 16 bytes is being allocated because some scalers may write
143          * out of bounds. */
144         if (dstStride[i])
145             dst[i] = av_mallocz(dstStride[i] * dstH + 16);
146         if (dstStride[i] && !dst[i]) {
147             perror("Malloc");
148             res = -1;
149
150             goto end;
151         }
152     }
153
154     dstContext = sws_getContext(srcW, srcH, srcFormat, dstW, dstH, dstFormat,
155                                 flags, NULL, NULL, NULL);
156     if (!dstContext) {
157         fprintf(stderr, "Failed to get %s ---> %s\n",
158                 desc_src->name, desc_dst->name);
159         res = -1;
160         goto end;
161     }
162
163     printf(" %s %dx%d -> %s %3dx%3d flags=%2d",
164            desc_src->name, srcW, srcH,
165            desc_dst->name, dstW, dstH,
166            flags);
167     fflush(stdout);
168
169     sws_scale(dstContext, src, srcStride, 0, srcH, dst, dstStride);
170
171     for (i = 0; i < 4 && dstStride[i]; i++)
172         crc = av_crc(av_crc_get_table(AV_CRC_32_IEEE), crc, dst[i],
173                      dstStride[i] * dstH);
174
175     if (r && crc == r->crc) {
176         ssdY = r->ssdY;
177         ssdU = r->ssdU;
178         ssdV = r->ssdV;
179         ssdA = r->ssdA;
180     } else {
181         for (i = 0; i < 4; i++) {
182             if (refStride[i])
183                 out[i] = av_mallocz(refStride[i] * h);
184             if (refStride[i] && !out[i]) {
185                 perror("Malloc");
186                 res = -1;
187                 goto end;
188             }
189         }
190         outContext = sws_getContext(dstW, dstH, dstFormat, w, h,
191                                     AV_PIX_FMT_YUVA420P, SWS_BILINEAR,
192                                     NULL, NULL, NULL);
193         if (!outContext) {
194             fprintf(stderr, "Failed to get %s ---> %s\n",
195                     desc_dst->name,
196                     desc_yuva420p->name);
197             res = -1;
198             goto end;
199         }
200         sws_scale(outContext, dst, dstStride, 0, dstH, out, refStride);
201
202         ssdY = getSSD(ref[0], out[0], refStride[0], refStride[0], w, h);
203         if (hasChroma(srcFormat) && hasChroma(dstFormat)) {
204             //FIXME check that output is really gray
205             ssdU = getSSD(ref[1], out[1], refStride[1], refStride[1],
206                           (w + 1) >> 1, (h + 1) >> 1);
207             ssdV = getSSD(ref[2], out[2], refStride[2], refStride[2],
208                           (w + 1) >> 1, (h + 1) >> 1);
209         }
210         if (isALPHA(srcFormat) && isALPHA(dstFormat))
211             ssdA = getSSD(ref[3], out[3], refStride[3], refStride[3], w, h);
212
213         ssdY /= w * h;
214         ssdU /= w * h / 4;
215         ssdV /= w * h / 4;
216         ssdA /= w * h;
217
218         sws_freeContext(outContext);
219
220         for (i = 0; i < 4; i++)
221             if (refStride[i])
222                 av_free(out[i]);
223     }
224
225     printf(" CRC=%08x SSD=%5"PRId64 ",%5"PRId64 ",%5"PRId64 ",%5"PRId64 "\n",
226            crc, ssdY, ssdU, ssdV, ssdA);
227
228 end:
229     sws_freeContext(dstContext);
230
231     for (i = 0; i < 4; i++)
232         if (dstStride[i])
233             av_free(dst[i]);
234
235     return res;
236 }
237
238 static void selfTest(uint8_t *ref[4], int refStride[4], int w, int h,
239                      enum AVPixelFormat srcFormat_in,
240                      enum AVPixelFormat dstFormat_in)
241 {
242     const int flags[] = { SWS_FAST_BILINEAR, SWS_BILINEAR, SWS_BICUBIC,
243                           SWS_X, SWS_POINT, SWS_AREA, 0 };
244     const int srcW   = w;
245     const int srcH   = h;
246     const int dstW[] = { srcW - srcW / 3, srcW, srcW + srcW / 3, 0 };
247     const int dstH[] = { srcH - srcH / 3, srcH, srcH + srcH / 3, 0 };
248     enum AVPixelFormat srcFormat, dstFormat;
249     const AVPixFmtDescriptor *desc_src, *desc_dst;
250
251     for (srcFormat = srcFormat_in != AV_PIX_FMT_NONE ? srcFormat_in : 0;
252          srcFormat < AV_PIX_FMT_NB; srcFormat++) {
253         if (!sws_isSupportedInput(srcFormat) ||
254             !sws_isSupportedOutput(srcFormat))
255             continue;
256
257         desc_src = av_pix_fmt_desc_get(srcFormat);
258
259         for (dstFormat = dstFormat_in != AV_PIX_FMT_NONE ? dstFormat_in : 0;
260              dstFormat < AV_PIX_FMT_NB; dstFormat++) {
261             int i, j, k;
262             int res = 0;
263
264             if (!sws_isSupportedInput(dstFormat) ||
265                 !sws_isSupportedOutput(dstFormat))
266                 continue;
267
268             desc_dst = av_pix_fmt_desc_get(dstFormat);
269
270             printf("%s -> %s\n", desc_src->name, desc_dst->name);
271             fflush(stdout);
272
273             for (k = 0; flags[k] && !res; k++)
274                 for (i = 0; dstW[i] && !res; i++)
275                     for (j = 0; dstH[j] && !res; j++)
276                         res = doTest(ref, refStride, w, h,
277                                      srcFormat, dstFormat,
278                                      srcW, srcH, dstW[i], dstH[j], flags[k],
279                                      NULL);
280             if (dstFormat_in != AV_PIX_FMT_NONE)
281                 break;
282         }
283         if (srcFormat_in != AV_PIX_FMT_NONE)
284             break;
285     }
286 }
287
288 static int fileTest(uint8_t *ref[4], int refStride[4], int w, int h, FILE *fp,
289                     enum AVPixelFormat srcFormat_in,
290                     enum AVPixelFormat dstFormat_in)
291 {
292     char buf[256];
293
294     while (fgets(buf, sizeof(buf), fp)) {
295         struct Results r;
296         enum AVPixelFormat srcFormat;
297         char srcStr[12];
298         int srcW, srcH;
299         enum AVPixelFormat dstFormat;
300         char dstStr[12];
301         int dstW, dstH;
302         int flags;
303         int ret;
304
305         ret = sscanf(buf,
306                      " %12s %dx%d -> %12s %dx%d flags=%d CRC=%x"
307                      " SSD=%"PRId64 ", %"PRId64 ", %"PRId64 ", %"PRId64 "\n",
308                      srcStr, &srcW, &srcH, dstStr, &dstW, &dstH,
309                      &flags, &r.crc, &r.ssdY, &r.ssdU, &r.ssdV, &r.ssdA);
310         if (ret != 12) {
311             srcStr[0] = dstStr[0] = 0;
312             ret       = sscanf(buf, "%12s -> %12s\n", srcStr, dstStr);
313         }
314
315         srcFormat = av_get_pix_fmt(srcStr);
316         dstFormat = av_get_pix_fmt(dstStr);
317
318         if (srcFormat == AV_PIX_FMT_NONE || dstFormat == AV_PIX_FMT_NONE) {
319             fprintf(stderr, "malformed input file\n");
320             return -1;
321         }
322         if ((srcFormat_in != AV_PIX_FMT_NONE && srcFormat_in != srcFormat) ||
323             (dstFormat_in != AV_PIX_FMT_NONE && dstFormat_in != dstFormat))
324             continue;
325         if (ret != 12) {
326             printf("%s", buf);
327             continue;
328         }
329
330         doTest(ref, refStride, w, h,
331                srcFormat, dstFormat,
332                srcW, srcH, dstW, dstH, flags,
333                &r);
334     }
335
336     return 0;
337 }
338
339 #define W 96
340 #define H 96
341
342 int main(int argc, char **argv)
343 {
344     enum AVPixelFormat srcFormat = AV_PIX_FMT_NONE;
345     enum AVPixelFormat dstFormat = AV_PIX_FMT_NONE;
346     uint8_t *rgb_data   = av_malloc(W * H * 4);
347     uint8_t *rgb_src[4] = { rgb_data, NULL, NULL, NULL };
348     int rgb_stride[4]   = { 4 * W, 0, 0, 0 };
349     uint8_t *data       = av_malloc(4 * W * H);
350     uint8_t *src[4]     = { data, data + W * H, data + W * H * 2, data + W * H * 3 };
351     int stride[4]       = { W, W, W, W };
352     int x, y;
353     struct SwsContext *sws;
354     AVLFG rand;
355     int res = -1;
356     int i;
357
358     if (!rgb_data || !data)
359         return -1;
360
361     sws = sws_getContext(W / 12, H / 12, AV_PIX_FMT_RGB32, W, H,
362                          AV_PIX_FMT_YUVA420P, SWS_BILINEAR, NULL, NULL, NULL);
363
364     av_lfg_init(&rand, 1);
365
366     for (y = 0; y < H; y++)
367         for (x = 0; x < W * 4; x++)
368             rgb_data[ x + y * 4 * W] = av_lfg_get(&rand);
369     sws_scale(sws, rgb_src, rgb_stride, 0, H, src, stride);
370     sws_freeContext(sws);
371     av_free(rgb_data);
372
373     for (i = 1; i < argc; i += 2) {
374         if (argv[i][0] != '-' || i + 1 == argc)
375             goto bad_option;
376         if (!strcmp(argv[i], "-ref")) {
377             FILE *fp = fopen(argv[i + 1], "r");
378             if (!fp) {
379                 fprintf(stderr, "could not open '%s'\n", argv[i + 1]);
380                 goto error;
381             }
382             res = fileTest(src, stride, W, H, fp, srcFormat, dstFormat);
383             fclose(fp);
384             goto end;
385         } else if (!strcmp(argv[i], "-src")) {
386             srcFormat = av_get_pix_fmt(argv[i + 1]);
387             if (srcFormat == AV_PIX_FMT_NONE) {
388                 fprintf(stderr, "invalid pixel format %s\n", argv[i + 1]);
389                 return -1;
390             }
391         } else if (!strcmp(argv[i], "-dst")) {
392             dstFormat = av_get_pix_fmt(argv[i + 1]);
393             if (dstFormat == AV_PIX_FMT_NONE) {
394                 fprintf(stderr, "invalid pixel format %s\n", argv[i + 1]);
395                 return -1;
396             }
397         } else {
398 bad_option:
399             fprintf(stderr, "bad option or argument missing (%s)\n", argv[i]);
400             goto error;
401         }
402     }
403
404     selfTest(src, stride, W, H, srcFormat, dstFormat);
405 end:
406     res = 0;
407 error:
408     av_free(data);
409
410     return res;
411 }