sws/tests/pixdesc_query: replace rgb based pix fmts with endianess agnostic names
[ffmpeg.git] / libswscale / tests / swscale.c
1 /*
2  * Copyright (C) 2003-2011 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include <inttypes.h>
25 #include <stdarg.h>
26
27 #undef HAVE_AV_CONFIG_H
28 #include "libavutil/cpu.h"
29 #include "libavutil/imgutils.h"
30 #include "libavutil/mem.h"
31 #include "libavutil/avutil.h"
32 #include "libavutil/crc.h"
33 #include "libavutil/pixdesc.h"
34 #include "libavutil/lfg.h"
35
36 #include "libswscale/swscale.h"
37
38 /* HACK Duplicated from swscale_internal.h.
39  * Should be removed when a cleaner pixel format system exists. */
40 #define isGray(x)                      \
41     ((x) == AV_PIX_FMT_GRAY8       ||     \
42      (x) == AV_PIX_FMT_YA8         ||     \
43      (x) == AV_PIX_FMT_GRAY16BE    ||     \
44      (x) == AV_PIX_FMT_GRAY16LE    ||     \
45      (x) == AV_PIX_FMT_YA16BE      ||     \
46      (x) == AV_PIX_FMT_YA16LE)
47 #define hasChroma(x)                   \
48     (!(isGray(x)                ||     \
49        (x) == AV_PIX_FMT_MONOBLACK ||     \
50        (x) == AV_PIX_FMT_MONOWHITE))
51 #define isALPHA(x)                     \
52     ((x) == AV_PIX_FMT_BGR32   ||         \
53      (x) == AV_PIX_FMT_BGR32_1 ||         \
54      (x) == AV_PIX_FMT_RGB32   ||         \
55      (x) == AV_PIX_FMT_RGB32_1 ||         \
56      (x) == AV_PIX_FMT_YUVA420P)
57
58 static uint64_t getSSD(const uint8_t *src1, const uint8_t *src2, int stride1,
59                        int stride2, int w, int h)
60 {
61     int x, y;
62     uint64_t ssd = 0;
63
64     for (y = 0; y < h; y++) {
65         for (x = 0; x < w; x++) {
66             int d = src1[x + y * stride1] - src2[x + y * stride2];
67             ssd += d * d;
68         }
69     }
70     return ssd;
71 }
72
73 struct Results {
74     uint64_t ssdY;
75     uint64_t ssdU;
76     uint64_t ssdV;
77     uint64_t ssdA;
78     uint32_t crc;
79 };
80
81 // test by ref -> src -> dst -> out & compare out against ref
82 // ref & out are YV12
83 static int doTest(uint8_t *ref[4], int refStride[4], int w, int h,
84                   enum AVPixelFormat srcFormat, enum AVPixelFormat dstFormat,
85                   int srcW, int srcH, int dstW, int dstH, int flags,
86                   struct Results *r)
87 {
88     const AVPixFmtDescriptor *desc_yuva420p = av_pix_fmt_desc_get(AV_PIX_FMT_YUVA420P);
89     const AVPixFmtDescriptor *desc_src      = av_pix_fmt_desc_get(srcFormat);
90     const AVPixFmtDescriptor *desc_dst      = av_pix_fmt_desc_get(dstFormat);
91     static enum AVPixelFormat cur_srcFormat;
92     static int cur_srcW, cur_srcH;
93     static uint8_t *src[4];
94     static int srcStride[4];
95     uint8_t *dst[4] = { 0 };
96     uint8_t *out[4] = { 0 };
97     int dstStride[4] = {0};
98     int i;
99     uint64_t ssdY, ssdU = 0, ssdV = 0, ssdA = 0;
100     struct SwsContext *dstContext = NULL, *outContext = NULL;
101     uint32_t crc = 0;
102     int res      = 0;
103
104     if (cur_srcFormat != srcFormat || cur_srcW != srcW || cur_srcH != srcH) {
105         struct SwsContext *srcContext = NULL;
106         int p;
107
108         for (p = 0; p < 4; p++)
109             av_freep(&src[p]);
110
111         res = av_image_fill_linesizes(srcStride, srcFormat, srcW);
112         if (res < 0) {
113             fprintf(stderr, "av_image_fill_linesizes failed\n");
114             goto end;
115         }
116         for (p = 0; p < 4; p++) {
117             srcStride[p] = FFALIGN(srcStride[p], 16);
118             if (srcStride[p])
119                 src[p] = av_mallocz(srcStride[p] * srcH + 16);
120             if (srcStride[p] && !src[p]) {
121                 perror("Malloc");
122                 res = -1;
123                 goto end;
124             }
125         }
126         srcContext = sws_getContext(w, h, AV_PIX_FMT_YUVA420P, srcW, srcH,
127                                     srcFormat, SWS_BILINEAR, NULL, NULL, NULL);
128         if (!srcContext) {
129             fprintf(stderr, "Failed to get %s ---> %s\n",
130                     desc_yuva420p->name,
131                     desc_src->name);
132             res = -1;
133             goto end;
134         }
135         sws_scale(srcContext, (const uint8_t * const*)ref, refStride, 0, h, src, srcStride);
136         sws_freeContext(srcContext);
137
138         cur_srcFormat = srcFormat;
139         cur_srcW      = srcW;
140         cur_srcH      = srcH;
141     }
142
143     res = av_image_fill_linesizes(dstStride, dstFormat, dstW);
144     if (res < 0) {
145         fprintf(stderr, "av_image_fill_linesizes failed\n");
146         goto end;
147     }
148
149     for (i = 0; i < 4; i++) {
150         /* Image buffers passed into libswscale can be allocated any way you
151          * prefer, as long as they're aligned enough for the architecture, and
152          * they're freed appropriately (such as using av_free for buffers
153          * allocated with av_malloc). */
154         /* An extra 16 bytes is being allocated because some scalers may write
155          * out of bounds. */
156         dstStride[i] = FFALIGN(dstStride[i], 16);
157         if (dstStride[i])
158             dst[i] = av_mallocz(dstStride[i] * dstH + 16);
159         if (dstStride[i] && !dst[i]) {
160             perror("Malloc");
161             res = -1;
162
163             goto end;
164         }
165     }
166
167     dstContext = sws_getContext(srcW, srcH, srcFormat, dstW, dstH, dstFormat,
168                                 flags, NULL, NULL, NULL);
169     if (!dstContext) {
170         fprintf(stderr, "Failed to get %s ---> %s\n",
171                 desc_src->name, desc_dst->name);
172         res = -1;
173         goto end;
174     }
175
176     printf(" %s %dx%d -> %s %3dx%3d flags=%2d",
177            desc_src->name, srcW, srcH,
178            desc_dst->name, dstW, dstH,
179            flags);
180     fflush(stdout);
181
182     sws_scale(dstContext, (const uint8_t * const*)src, srcStride, 0, srcH, dst, dstStride);
183
184     for (i = 0; i < 4 && dstStride[i]; i++)
185         crc = av_crc(av_crc_get_table(AV_CRC_32_IEEE), crc, dst[i],
186                      dstStride[i] * dstH);
187
188     if (r && crc == r->crc) {
189         ssdY = r->ssdY;
190         ssdU = r->ssdU;
191         ssdV = r->ssdV;
192         ssdA = r->ssdA;
193     } else {
194         for (i = 0; i < 4; i++) {
195             refStride[i] = FFALIGN(refStride[i], 16);
196             if (refStride[i])
197                 out[i] = av_mallocz(refStride[i] * h);
198             if (refStride[i] && !out[i]) {
199                 perror("Malloc");
200                 res = -1;
201                 goto end;
202             }
203         }
204         outContext = sws_getContext(dstW, dstH, dstFormat, w, h,
205                                     AV_PIX_FMT_YUVA420P, SWS_BILINEAR,
206                                     NULL, NULL, NULL);
207         if (!outContext) {
208             fprintf(stderr, "Failed to get %s ---> %s\n",
209                     desc_dst->name,
210                     desc_yuva420p->name);
211             res = -1;
212             goto end;
213         }
214         sws_scale(outContext, (const uint8_t * const*)dst, dstStride, 0, dstH, out, refStride);
215
216         ssdY = getSSD(ref[0], out[0], refStride[0], refStride[0], w, h);
217         if (hasChroma(srcFormat) && hasChroma(dstFormat)) {
218             //FIXME check that output is really gray
219             ssdU = getSSD(ref[1], out[1], refStride[1], refStride[1],
220                           (w + 1) >> 1, (h + 1) >> 1);
221             ssdV = getSSD(ref[2], out[2], refStride[2], refStride[2],
222                           (w + 1) >> 1, (h + 1) >> 1);
223         }
224         if (isALPHA(srcFormat) && isALPHA(dstFormat))
225             ssdA = getSSD(ref[3], out[3], refStride[3], refStride[3], w, h);
226
227         ssdY /= w * h;
228         ssdU /= w * h / 4;
229         ssdV /= w * h / 4;
230         ssdA /= w * h;
231
232         sws_freeContext(outContext);
233
234         for (i = 0; i < 4; i++)
235             if (refStride[i])
236                 av_free(out[i]);
237     }
238
239     printf(" CRC=%08x SSD=%5"PRId64 ",%5"PRId64 ",%5"PRId64 ",%5"PRId64 "\n",
240            crc, ssdY, ssdU, ssdV, ssdA);
241
242 end:
243     sws_freeContext(dstContext);
244
245     for (i = 0; i < 4; i++)
246         if (dstStride[i])
247             av_free(dst[i]);
248
249     return res;
250 }
251
252 static void selfTest(uint8_t *ref[4], int refStride[4], int w, int h,
253                      enum AVPixelFormat srcFormat_in,
254                      enum AVPixelFormat dstFormat_in)
255 {
256     const int flags[] = { SWS_FAST_BILINEAR, SWS_BILINEAR, SWS_BICUBIC,
257                           SWS_X, SWS_POINT, SWS_AREA, 0 };
258     const int srcW   = w;
259     const int srcH   = h;
260     const int dstW[] = { srcW - srcW / 3, srcW, srcW + srcW / 3, 0 };
261     const int dstH[] = { srcH - srcH / 3, srcH, srcH + srcH / 3, 0 };
262     enum AVPixelFormat srcFormat, dstFormat;
263     const AVPixFmtDescriptor *desc_src, *desc_dst;
264
265     for (srcFormat = srcFormat_in != AV_PIX_FMT_NONE ? srcFormat_in : 0;
266          srcFormat < AV_PIX_FMT_NB; srcFormat++) {
267         if (!sws_isSupportedInput(srcFormat) ||
268             !sws_isSupportedOutput(srcFormat))
269             continue;
270
271         desc_src = av_pix_fmt_desc_get(srcFormat);
272
273         for (dstFormat = dstFormat_in != AV_PIX_FMT_NONE ? dstFormat_in : 0;
274              dstFormat < AV_PIX_FMT_NB; dstFormat++) {
275             int i, j, k;
276             int res = 0;
277
278             if (!sws_isSupportedInput(dstFormat) ||
279                 !sws_isSupportedOutput(dstFormat))
280                 continue;
281
282             desc_dst = av_pix_fmt_desc_get(dstFormat);
283
284             printf("%s -> %s\n", desc_src->name, desc_dst->name);
285             fflush(stdout);
286
287             for (k = 0; flags[k] && !res; k++)
288                 for (i = 0; dstW[i] && !res; i++)
289                     for (j = 0; dstH[j] && !res; j++)
290                         res = doTest(ref, refStride, w, h,
291                                      srcFormat, dstFormat,
292                                      srcW, srcH, dstW[i], dstH[j], flags[k],
293                                      NULL);
294             if (dstFormat_in != AV_PIX_FMT_NONE)
295                 break;
296         }
297         if (srcFormat_in != AV_PIX_FMT_NONE)
298             break;
299     }
300 }
301
302 static int fileTest(uint8_t *ref[4], int refStride[4], int w, int h, FILE *fp,
303                     enum AVPixelFormat srcFormat_in,
304                     enum AVPixelFormat dstFormat_in)
305 {
306     char buf[256];
307
308     while (fgets(buf, sizeof(buf), fp)) {
309         struct Results r;
310         enum AVPixelFormat srcFormat;
311         char srcStr[12];
312         int srcW = 0, srcH = 0;
313         enum AVPixelFormat dstFormat;
314         char dstStr[12];
315         int dstW = 0, dstH = 0;
316         int flags;
317         int ret;
318
319         ret = sscanf(buf,
320                      " %12s %dx%d -> %12s %dx%d flags=%d CRC=%x"
321                      " SSD=%"SCNu64 ", %"SCNu64 ", %"SCNu64 ", %"SCNu64 "\n",
322                      srcStr, &srcW, &srcH, dstStr, &dstW, &dstH,
323                      &flags, &r.crc, &r.ssdY, &r.ssdU, &r.ssdV, &r.ssdA);
324         if (ret != 12) {
325             srcStr[0] = dstStr[0] = 0;
326             ret       = sscanf(buf, "%12s -> %12s\n", srcStr, dstStr);
327         }
328
329         srcFormat = av_get_pix_fmt(srcStr);
330         dstFormat = av_get_pix_fmt(dstStr);
331
332         if (srcFormat == AV_PIX_FMT_NONE || dstFormat == AV_PIX_FMT_NONE ||
333             srcW > 8192U || srcH > 8192U || dstW > 8192U || dstH > 8192U) {
334             fprintf(stderr, "malformed input file\n");
335             return -1;
336         }
337         if ((srcFormat_in != AV_PIX_FMT_NONE && srcFormat_in != srcFormat) ||
338             (dstFormat_in != AV_PIX_FMT_NONE && dstFormat_in != dstFormat))
339             continue;
340         if (ret != 12) {
341             printf("%s", buf);
342             continue;
343         }
344
345         doTest(ref, refStride, w, h,
346                srcFormat, dstFormat,
347                srcW, srcH, dstW, dstH, flags,
348                &r);
349     }
350
351     return 0;
352 }
353
354 #define W 96
355 #define H 96
356
357 int main(int argc, char **argv)
358 {
359     enum AVPixelFormat srcFormat = AV_PIX_FMT_NONE;
360     enum AVPixelFormat dstFormat = AV_PIX_FMT_NONE;
361     uint8_t *rgb_data   = av_malloc(W * H * 4);
362     const uint8_t * const rgb_src[4] = { rgb_data, NULL, NULL, NULL };
363     int rgb_stride[4]   = { 4 * W, 0, 0, 0 };
364     uint8_t *data       = av_malloc(4 * W * H);
365     uint8_t *src[4]     = { data, data + W * H, data + W * H * 2, data + W * H * 3 };
366     int stride[4]       = { W, W, W, W };
367     int x, y;
368     struct SwsContext *sws;
369     AVLFG rand;
370     int res = -1;
371     int i;
372     FILE *fp = NULL;
373
374     if (!rgb_data || !data)
375         return -1;
376
377     for (i = 1; i < argc; i += 2) {
378         if (argv[i][0] != '-' || i + 1 == argc)
379             goto bad_option;
380         if (!strcmp(argv[i], "-ref")) {
381             fp = fopen(argv[i + 1], "r");
382             if (!fp) {
383                 fprintf(stderr, "could not open '%s'\n", argv[i + 1]);
384                 goto error;
385             }
386         } else if (!strcmp(argv[i], "-cpuflags")) {
387             unsigned flags = av_get_cpu_flags();
388             int ret = av_parse_cpu_caps(&flags, argv[i + 1]);
389             if (ret < 0) {
390                 fprintf(stderr, "invalid cpu flags %s\n", argv[i + 1]);
391                 return ret;
392             }
393             av_force_cpu_flags(flags);
394         } else if (!strcmp(argv[i], "-src")) {
395             srcFormat = av_get_pix_fmt(argv[i + 1]);
396             if (srcFormat == AV_PIX_FMT_NONE) {
397                 fprintf(stderr, "invalid pixel format %s\n", argv[i + 1]);
398                 return -1;
399             }
400         } else if (!strcmp(argv[i], "-dst")) {
401             dstFormat = av_get_pix_fmt(argv[i + 1]);
402             if (dstFormat == AV_PIX_FMT_NONE) {
403                 fprintf(stderr, "invalid pixel format %s\n", argv[i + 1]);
404                 return -1;
405             }
406         } else {
407 bad_option:
408             fprintf(stderr, "bad option or argument missing (%s)\n", argv[i]);
409             goto error;
410         }
411     }
412
413     sws = sws_getContext(W / 12, H / 12, AV_PIX_FMT_RGB32, W, H,
414                          AV_PIX_FMT_YUVA420P, SWS_BILINEAR, NULL, NULL, NULL);
415
416     av_lfg_init(&rand, 1);
417
418     for (y = 0; y < H; y++)
419         for (x = 0; x < W * 4; x++)
420             rgb_data[ x + y * 4 * W] = av_lfg_get(&rand);
421     sws_scale(sws, rgb_src, rgb_stride, 0, H / 12, src, stride);
422     sws_freeContext(sws);
423     av_free(rgb_data);
424
425     if(fp) {
426         res = fileTest(src, stride, W, H, fp, srcFormat, dstFormat);
427         fclose(fp);
428     } else {
429         selfTest(src, stride, W, H, srcFormat, dstFormat);
430         res = 0;
431     }
432 error:
433     av_free(data);
434
435     return res;
436 }