swscale-example: Don't check for chroma planes in mono formats.
[ffmpeg.git] / libswscale / swscale-example.c
1 /*
2  * Copyright (C) 2003 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include <inttypes.h>
25 #include <stdarg.h>
26
27 #undef HAVE_AV_CONFIG_H
28 #include "libavutil/avutil.h"
29 #include "libavutil/lfg.h"
30 #include "swscale.h"
31
32 /* HACK Duplicated from swscale_internal.h.
33  * Should be removed when a cleaner pixel format system exists. */
34 const char *sws_format_name(enum PixelFormat format);
35 #define isGray(x)       (           \
36            (x)==PIX_FMT_GRAY8       \
37         || (x)==PIX_FMT_GRAY16BE    \
38         || (x)==PIX_FMT_GRAY16LE    \
39     )
40 #define hasChroma(x)   (!(           \
41             isGray(x)               \
42         || (x)==PIX_FMT_MONOBLACK   \
43         || (x)==PIX_FMT_MONOWHITE   \
44     ))
45 #define isALPHA(x)      (           \
46            (x)==PIX_FMT_BGR32       \
47         || (x)==PIX_FMT_BGR32_1     \
48         || (x)==PIX_FMT_RGB32       \
49         || (x)==PIX_FMT_RGB32_1     \
50         || (x)==PIX_FMT_YUVA420P    \
51     )
52
53 static uint64_t getSSD(uint8_t *src1, uint8_t *src2, int stride1, int stride2, int w, int h){
54     int x,y;
55     uint64_t ssd=0;
56
57 //printf("%d %d\n", w, h);
58
59     for (y=0; y<h; y++){
60         for (x=0; x<w; x++){
61             int d= src1[x + y*stride1] - src2[x + y*stride2];
62             ssd+= d*d;
63 //printf("%d", abs(src1[x + y*stride1] - src2[x + y*stride2])/26 );
64         }
65 //printf("\n");
66     }
67     return ssd;
68 }
69
70 // test by ref -> src -> dst -> out & compare out against ref
71 // ref & out are YV12
72 static int doTest(uint8_t *ref[4], int refStride[4], int w, int h, int srcFormat, int dstFormat,
73                   int srcW, int srcH, int dstW, int dstH, int flags){
74     uint8_t *src[4] = {0};
75     uint8_t *dst[4] = {0};
76     uint8_t *out[4] = {0};
77     int srcStride[4], dstStride[4];
78     int i;
79     uint64_t ssdY, ssdU=0, ssdV=0, ssdA=0;
80     struct SwsContext *srcContext = NULL, *dstContext = NULL,
81                       *outContext = NULL;
82     int res;
83
84     res = 0;
85     for (i=0; i<4; i++){
86         // avoid stride % bpp != 0
87         if (srcFormat==PIX_FMT_RGB24 || srcFormat==PIX_FMT_BGR24)
88             srcStride[i]= srcW*3;
89         else if (srcFormat==PIX_FMT_RGB48BE || srcFormat==PIX_FMT_RGB48LE)
90             srcStride[i]= srcW*6;
91         else
92             srcStride[i]= srcW*4;
93
94         if (dstFormat==PIX_FMT_RGB24 || dstFormat==PIX_FMT_BGR24)
95             dstStride[i]= dstW*3;
96         else if (dstFormat==PIX_FMT_RGB48BE || dstFormat==PIX_FMT_RGB48LE)
97             dstStride[i]= dstW*6;
98         else
99             dstStride[i]= dstW*4;
100
101         src[i]= (uint8_t*) malloc(srcStride[i]*srcH);
102         dst[i]= (uint8_t*) malloc(dstStride[i]*dstH);
103         out[i]= (uint8_t*) malloc(refStride[i]*h);
104         if (!src[i] || !dst[i] || !out[i]) {
105             perror("Malloc");
106             res = -1;
107
108             goto end;
109         }
110     }
111
112     srcContext= sws_getContext(w, h, PIX_FMT_YUVA420P, srcW, srcH, srcFormat, flags, NULL, NULL, NULL);
113     if (!srcContext) {
114         fprintf(stderr, "Failed to get %s ---> %s\n",
115                 sws_format_name(PIX_FMT_YUVA420P),
116                 sws_format_name(srcFormat));
117         res = -1;
118
119         goto end;
120     }
121     dstContext= sws_getContext(srcW, srcH, srcFormat, dstW, dstH, dstFormat, flags, NULL, NULL, NULL);
122     if (!dstContext) {
123         fprintf(stderr, "Failed to get %s ---> %s\n",
124                 sws_format_name(srcFormat),
125                 sws_format_name(dstFormat));
126         res = -1;
127
128         goto end;
129     }
130     outContext= sws_getContext(dstW, dstH, dstFormat, w, h, PIX_FMT_YUVA420P, flags, NULL, NULL, NULL);
131     if (!outContext) {
132         fprintf(stderr, "Failed to get %s ---> %s\n",
133                 sws_format_name(dstFormat),
134                 sws_format_name(PIX_FMT_YUVA420P));
135         res = -1;
136
137         goto end;
138     }
139 //    printf("test %X %X %X -> %X %X %X\n", (int)ref[0], (int)ref[1], (int)ref[2],
140 //        (int)src[0], (int)src[1], (int)src[2]);
141
142     sws_scale(srcContext, ref, refStride, 0, h   , src, srcStride);
143     sws_scale(dstContext, src, srcStride, 0, srcH, dst, dstStride);
144     sws_scale(outContext, dst, dstStride, 0, dstH, out, refStride);
145
146     ssdY= getSSD(ref[0], out[0], refStride[0], refStride[0], w, h);
147     if (hasChroma(srcFormat) && hasChroma(dstFormat)) {
148         //FIXME check that output is really gray
149         ssdU= getSSD(ref[1], out[1], refStride[1], refStride[1], (w+1)>>1, (h+1)>>1);
150         ssdV= getSSD(ref[2], out[2], refStride[2], refStride[2], (w+1)>>1, (h+1)>>1);
151     }
152     if (isALPHA(srcFormat) && isALPHA(dstFormat))
153         ssdA= getSSD(ref[3], out[3], refStride[3], refStride[3], w, h);
154
155     ssdY/= w*h;
156     ssdU/= w*h/4;
157     ssdV/= w*h/4;
158     ssdA/= w*h;
159
160     printf(" %s %dx%d -> %s %4dx%4d flags=%2d SSD=%5"PRId64",%5"PRId64",%5"PRId64",%5"PRId64"\n",
161            sws_format_name(srcFormat), srcW, srcH,
162            sws_format_name(dstFormat), dstW, dstH,
163            flags, ssdY, ssdU, ssdV, ssdA);
164     fflush(stdout);
165
166     end:
167
168     sws_freeContext(srcContext);
169     sws_freeContext(dstContext);
170     sws_freeContext(outContext);
171
172     for (i=0; i<4; i++){
173         free(src[i]);
174         free(dst[i]);
175         free(out[i]);
176     }
177
178     return res;
179 }
180
181 static void selfTest(uint8_t *src[4], int stride[4], int w, int h){
182     enum PixelFormat srcFormat, dstFormat;
183     int srcW, srcH, dstW, dstH;
184     int flags;
185
186     for (srcFormat = 0; srcFormat < PIX_FMT_NB; srcFormat++) {
187         for (dstFormat = 0; dstFormat < PIX_FMT_NB; dstFormat++) {
188             int res = 0;
189
190             printf("%s -> %s\n",
191                    sws_format_name(srcFormat),
192                    sws_format_name(dstFormat));
193             fflush(stdout);
194
195             srcW= w;
196             srcH= h;
197             for (dstW=w - w/3; !res && dstW<= 4*w/3; dstW+= w/3)
198                 for (dstH=h - h/3; !res && dstH<= 4*h/3; dstH+= h/3)
199                     for (flags=1; !res && flags<33; flags*=2)
200                         res = doTest(src, stride, w, h, srcFormat, dstFormat,
201                                      srcW, srcH, dstW, dstH, flags);
202         }
203     }
204 }
205
206 #define W 96
207 #define H 96
208
209 int main(int argc, char **argv){
210     uint8_t *rgb_data = malloc (W*H*4);
211     uint8_t *rgb_src[3]= {rgb_data, NULL, NULL};
212     int rgb_stride[3]={4*W, 0, 0};
213     uint8_t *data = malloc (4*W*H);
214     uint8_t *src[4]= {data, data+W*H, data+W*H*2, data+W*H*3};
215     int stride[4]={W, W, W, W};
216     int x, y;
217     struct SwsContext *sws;
218     AVLFG rand;
219
220     sws= sws_getContext(W/12, H/12, PIX_FMT_RGB32, W, H, PIX_FMT_YUVA420P, 2, NULL, NULL, NULL);
221
222     av_lfg_init(&rand, 1);
223
224     for (y=0; y<H; y++){
225         for (x=0; x<W*4; x++){
226             rgb_data[ x + y*4*W]= av_lfg_get(&rand);
227         }
228     }
229     sws_scale(sws, rgb_src, rgb_stride, 0, H, src, stride);
230
231     selfTest(src, stride, W, H);
232
233     return 0;
234 }