Fix H.264 8x8 transform selection
[ffmpeg.git] / libavcodec / imgresample.c
1 /*
2  * High quality image resampling with polyphase filters
3  * Copyright (c) 2001 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file imgresample.c
24  * High quality image resampling with polyphase filters .
25  */
26
27 #include "avcodec.h"
28 #include "swscale.h"
29 #include "dsputil.h"
30
31 #ifdef USE_FASTMEMCPY
32 #include "libvo/fastmemcpy.h"
33 #endif
34
35 #define NB_COMPONENTS 3
36
37 #define PHASE_BITS 4
38 #define NB_PHASES  (1 << PHASE_BITS)
39 #define NB_TAPS    4
40 #define FCENTER    1  /* index of the center of the filter */
41 //#define TEST    1  /* Test it */
42
43 #define POS_FRAC_BITS 16
44 #define POS_FRAC      (1 << POS_FRAC_BITS)
45 /* 6 bits precision is needed for MMX */
46 #define FILTER_BITS   8
47
48 #define LINE_BUF_HEIGHT (NB_TAPS * 4)
49
50 struct SwsContext {
51     struct ImgReSampleContext *resampling_ctx;
52     enum PixelFormat src_pix_fmt, dst_pix_fmt;
53 };
54
55 struct ImgReSampleContext {
56     int iwidth, iheight, owidth, oheight;
57     int topBand, bottomBand, leftBand, rightBand;
58     int padtop, padbottom, padleft, padright;
59     int pad_owidth, pad_oheight;
60     int h_incr, v_incr;
61     DECLARE_ALIGNED_8(int16_t, h_filters[NB_PHASES][NB_TAPS]); /* horizontal filters */
62     DECLARE_ALIGNED_8(int16_t, v_filters[NB_PHASES][NB_TAPS]); /* vertical filters */
63     uint8_t *line_buf;
64 };
65
66 void av_build_filter(int16_t *filter, double factor, int tap_count, int phase_count, int scale, int type);
67
68 static inline int get_phase(int pos)
69 {
70     return ((pos) >> (POS_FRAC_BITS - PHASE_BITS)) & ((1 << PHASE_BITS) - 1);
71 }
72
73 /* This function must be optimized */
74 static void h_resample_fast(uint8_t *dst, int dst_width, const uint8_t *src,
75                             int src_width, int src_start, int src_incr,
76                             int16_t *filters)
77 {
78     int src_pos, phase, sum, i;
79     const uint8_t *s;
80     int16_t *filter;
81
82     src_pos = src_start;
83     for(i=0;i<dst_width;i++) {
84 #ifdef TEST
85         /* test */
86         if ((src_pos >> POS_FRAC_BITS) < 0 ||
87             (src_pos >> POS_FRAC_BITS) > (src_width - NB_TAPS))
88             av_abort();
89 #endif
90         s = src + (src_pos >> POS_FRAC_BITS);
91         phase = get_phase(src_pos);
92         filter = filters + phase * NB_TAPS;
93 #if NB_TAPS == 4
94         sum = s[0] * filter[0] +
95             s[1] * filter[1] +
96             s[2] * filter[2] +
97             s[3] * filter[3];
98 #else
99         {
100             int j;
101             sum = 0;
102             for(j=0;j<NB_TAPS;j++)
103                 sum += s[j] * filter[j];
104         }
105 #endif
106         sum = sum >> FILTER_BITS;
107         if (sum < 0)
108             sum = 0;
109         else if (sum > 255)
110             sum = 255;
111         dst[0] = sum;
112         src_pos += src_incr;
113         dst++;
114     }
115 }
116
117 /* This function must be optimized */
118 static void v_resample(uint8_t *dst, int dst_width, const uint8_t *src,
119                        int wrap, int16_t *filter)
120 {
121     int sum, i;
122     const uint8_t *s;
123
124     s = src;
125     for(i=0;i<dst_width;i++) {
126 #if NB_TAPS == 4
127         sum = s[0 * wrap] * filter[0] +
128             s[1 * wrap] * filter[1] +
129             s[2 * wrap] * filter[2] +
130             s[3 * wrap] * filter[3];
131 #else
132         {
133             int j;
134             uint8_t *s1 = s;
135
136             sum = 0;
137             for(j=0;j<NB_TAPS;j++) {
138                 sum += s1[0] * filter[j];
139                 s1 += wrap;
140             }
141         }
142 #endif
143         sum = sum >> FILTER_BITS;
144         if (sum < 0)
145             sum = 0;
146         else if (sum > 255)
147             sum = 255;
148         dst[0] = sum;
149         dst++;
150         s++;
151     }
152 }
153
154 #ifdef HAVE_MMX
155
156 #include "i386/mmx.h"
157
158 #define FILTER4(reg) \
159 {\
160         s = src + (src_pos >> POS_FRAC_BITS);\
161         phase = get_phase(src_pos);\
162         filter = filters + phase * NB_TAPS;\
163         movq_m2r(*s, reg);\
164         punpcklbw_r2r(mm7, reg);\
165         movq_m2r(*filter, mm6);\
166         pmaddwd_r2r(reg, mm6);\
167         movq_r2r(mm6, reg);\
168         psrlq_i2r(32, reg);\
169         paddd_r2r(mm6, reg);\
170         psrad_i2r(FILTER_BITS, reg);\
171         src_pos += src_incr;\
172 }
173
174 #define DUMP(reg) movq_r2m(reg, tmp); printf(#reg "=%016"PRIx64"\n", tmp.uq);
175
176 /* XXX: do four pixels at a time */
177 static void h_resample_fast4_mmx(uint8_t *dst, int dst_width,
178                                  const uint8_t *src, int src_width,
179                                  int src_start, int src_incr, int16_t *filters)
180 {
181     int src_pos, phase;
182     const uint8_t *s;
183     int16_t *filter;
184     mmx_t tmp;
185
186     src_pos = src_start;
187     pxor_r2r(mm7, mm7);
188
189     while (dst_width >= 4) {
190
191         FILTER4(mm0);
192         FILTER4(mm1);
193         FILTER4(mm2);
194         FILTER4(mm3);
195
196         packuswb_r2r(mm7, mm0);
197         packuswb_r2r(mm7, mm1);
198         packuswb_r2r(mm7, mm3);
199         packuswb_r2r(mm7, mm2);
200         movq_r2m(mm0, tmp);
201         dst[0] = tmp.ub[0];
202         movq_r2m(mm1, tmp);
203         dst[1] = tmp.ub[0];
204         movq_r2m(mm2, tmp);
205         dst[2] = tmp.ub[0];
206         movq_r2m(mm3, tmp);
207         dst[3] = tmp.ub[0];
208         dst += 4;
209         dst_width -= 4;
210     }
211     while (dst_width > 0) {
212         FILTER4(mm0);
213         packuswb_r2r(mm7, mm0);
214         movq_r2m(mm0, tmp);
215         dst[0] = tmp.ub[0];
216         dst++;
217         dst_width--;
218     }
219     emms();
220 }
221
222 static void v_resample4_mmx(uint8_t *dst, int dst_width, const uint8_t *src,
223                             int wrap, int16_t *filter)
224 {
225     int sum, i, v;
226     const uint8_t *s;
227     mmx_t tmp;
228     mmx_t coefs[4];
229
230     for(i=0;i<4;i++) {
231         v = filter[i];
232         coefs[i].uw[0] = v;
233         coefs[i].uw[1] = v;
234         coefs[i].uw[2] = v;
235         coefs[i].uw[3] = v;
236     }
237
238     pxor_r2r(mm7, mm7);
239     s = src;
240     while (dst_width >= 4) {
241         movq_m2r(s[0 * wrap], mm0);
242         punpcklbw_r2r(mm7, mm0);
243         movq_m2r(s[1 * wrap], mm1);
244         punpcklbw_r2r(mm7, mm1);
245         movq_m2r(s[2 * wrap], mm2);
246         punpcklbw_r2r(mm7, mm2);
247         movq_m2r(s[3 * wrap], mm3);
248         punpcklbw_r2r(mm7, mm3);
249
250         pmullw_m2r(coefs[0], mm0);
251         pmullw_m2r(coefs[1], mm1);
252         pmullw_m2r(coefs[2], mm2);
253         pmullw_m2r(coefs[3], mm3);
254
255         paddw_r2r(mm1, mm0);
256         paddw_r2r(mm3, mm2);
257         paddw_r2r(mm2, mm0);
258         psraw_i2r(FILTER_BITS, mm0);
259
260         packuswb_r2r(mm7, mm0);
261         movq_r2m(mm0, tmp);
262
263         *(uint32_t *)dst = tmp.ud[0];
264         dst += 4;
265         s += 4;
266         dst_width -= 4;
267     }
268     while (dst_width > 0) {
269         sum = s[0 * wrap] * filter[0] +
270             s[1 * wrap] * filter[1] +
271             s[2 * wrap] * filter[2] +
272             s[3 * wrap] * filter[3];
273         sum = sum >> FILTER_BITS;
274         if (sum < 0)
275             sum = 0;
276         else if (sum > 255)
277             sum = 255;
278         dst[0] = sum;
279         dst++;
280         s++;
281         dst_width--;
282     }
283     emms();
284 }
285 #endif
286
287 #ifdef HAVE_ALTIVEC
288 typedef         union {
289     vector unsigned char v;
290     unsigned char c[16];
291 } vec_uc_t;
292
293 typedef         union {
294     vector signed short v;
295     signed short s[8];
296 } vec_ss_t;
297
298 void v_resample16_altivec(uint8_t *dst, int dst_width, const uint8_t *src,
299                           int wrap, int16_t *filter)
300 {
301     int sum, i;
302     const uint8_t *s;
303     vector unsigned char *tv, tmp, dstv, zero;
304     vec_ss_t srchv[4], srclv[4], fv[4];
305     vector signed short zeros, sumhv, sumlv;
306     s = src;
307
308     for(i=0;i<4;i++)
309     {
310         /*
311            The vec_madds later on does an implicit >>15 on the result.
312            Since FILTER_BITS is 8, and we have 15 bits of magnitude in
313            a signed short, we have just enough bits to pre-shift our
314            filter constants <<7 to compensate for vec_madds.
315         */
316         fv[i].s[0] = filter[i] << (15-FILTER_BITS);
317         fv[i].v = vec_splat(fv[i].v, 0);
318     }
319
320     zero = vec_splat_u8(0);
321     zeros = vec_splat_s16(0);
322
323
324     /*
325        When we're resampling, we'd ideally like both our input buffers,
326        and output buffers to be 16-byte aligned, so we can do both aligned
327        reads and writes. Sadly we can't always have this at the moment, so
328        we opt for aligned writes, as unaligned writes have a huge overhead.
329        To do this, do enough scalar resamples to get dst 16-byte aligned.
330     */
331     i = (-(int)dst) & 0xf;
332     while(i>0) {
333         sum = s[0 * wrap] * filter[0] +
334         s[1 * wrap] * filter[1] +
335         s[2 * wrap] * filter[2] +
336         s[3 * wrap] * filter[3];
337         sum = sum >> FILTER_BITS;
338         if (sum<0) sum = 0; else if (sum>255) sum=255;
339         dst[0] = sum;
340         dst++;
341         s++;
342         dst_width--;
343         i--;
344     }
345
346     /* Do our altivec resampling on 16 pixels at once. */
347     while(dst_width>=16) {
348         /*
349            Read 16 (potentially unaligned) bytes from each of
350            4 lines into 4 vectors, and split them into shorts.
351            Interleave the multipy/accumulate for the resample
352            filter with the loads to hide the 3 cycle latency
353            the vec_madds have.
354         */
355         tv = (vector unsigned char *) &s[0 * wrap];
356         tmp = vec_perm(tv[0], tv[1], vec_lvsl(0, &s[i * wrap]));
357         srchv[0].v = (vector signed short) vec_mergeh(zero, tmp);
358         srclv[0].v = (vector signed short) vec_mergel(zero, tmp);
359         sumhv = vec_madds(srchv[0].v, fv[0].v, zeros);
360         sumlv = vec_madds(srclv[0].v, fv[0].v, zeros);
361
362         tv = (vector unsigned char *) &s[1 * wrap];
363         tmp = vec_perm(tv[0], tv[1], vec_lvsl(0, &s[1 * wrap]));
364         srchv[1].v = (vector signed short) vec_mergeh(zero, tmp);
365         srclv[1].v = (vector signed short) vec_mergel(zero, tmp);
366         sumhv = vec_madds(srchv[1].v, fv[1].v, sumhv);
367         sumlv = vec_madds(srclv[1].v, fv[1].v, sumlv);
368
369         tv = (vector unsigned char *) &s[2 * wrap];
370         tmp = vec_perm(tv[0], tv[1], vec_lvsl(0, &s[2 * wrap]));
371         srchv[2].v = (vector signed short) vec_mergeh(zero, tmp);
372         srclv[2].v = (vector signed short) vec_mergel(zero, tmp);
373         sumhv = vec_madds(srchv[2].v, fv[2].v, sumhv);
374         sumlv = vec_madds(srclv[2].v, fv[2].v, sumlv);
375
376         tv = (vector unsigned char *) &s[3 * wrap];
377         tmp = vec_perm(tv[0], tv[1], vec_lvsl(0, &s[3 * wrap]));
378         srchv[3].v = (vector signed short) vec_mergeh(zero, tmp);
379         srclv[3].v = (vector signed short) vec_mergel(zero, tmp);
380         sumhv = vec_madds(srchv[3].v, fv[3].v, sumhv);
381         sumlv = vec_madds(srclv[3].v, fv[3].v, sumlv);
382
383         /*
384            Pack the results into our destination vector,
385            and do an aligned write of that back to memory.
386         */
387         dstv = vec_packsu(sumhv, sumlv) ;
388         vec_st(dstv, 0, (vector unsigned char *) dst);
389
390         dst+=16;
391         s+=16;
392         dst_width-=16;
393     }
394
395     /*
396        If there are any leftover pixels, resample them
397        with the slow scalar method.
398     */
399     while(dst_width>0) {
400         sum = s[0 * wrap] * filter[0] +
401         s[1 * wrap] * filter[1] +
402         s[2 * wrap] * filter[2] +
403         s[3 * wrap] * filter[3];
404         sum = sum >> FILTER_BITS;
405         if (sum<0) sum = 0; else if (sum>255) sum=255;
406         dst[0] = sum;
407         dst++;
408         s++;
409         dst_width--;
410     }
411 }
412 #endif
413
414 /* slow version to handle limit cases. Does not need optimisation */
415 static void h_resample_slow(uint8_t *dst, int dst_width,
416                             const uint8_t *src, int src_width,
417                             int src_start, int src_incr, int16_t *filters)
418 {
419     int src_pos, phase, sum, j, v, i;
420     const uint8_t *s, *src_end;
421     int16_t *filter;
422
423     src_end = src + src_width;
424     src_pos = src_start;
425     for(i=0;i<dst_width;i++) {
426         s = src + (src_pos >> POS_FRAC_BITS);
427         phase = get_phase(src_pos);
428         filter = filters + phase * NB_TAPS;
429         sum = 0;
430         for(j=0;j<NB_TAPS;j++) {
431             if (s < src)
432                 v = src[0];
433             else if (s >= src_end)
434                 v = src_end[-1];
435             else
436                 v = s[0];
437             sum += v * filter[j];
438             s++;
439         }
440         sum = sum >> FILTER_BITS;
441         if (sum < 0)
442             sum = 0;
443         else if (sum > 255)
444             sum = 255;
445         dst[0] = sum;
446         src_pos += src_incr;
447         dst++;
448     }
449 }
450
451 static void h_resample(uint8_t *dst, int dst_width, const uint8_t *src,
452                        int src_width, int src_start, int src_incr,
453                        int16_t *filters)
454 {
455     int n, src_end;
456
457     if (src_start < 0) {
458         n = (0 - src_start + src_incr - 1) / src_incr;
459         h_resample_slow(dst, n, src, src_width, src_start, src_incr, filters);
460         dst += n;
461         dst_width -= n;
462         src_start += n * src_incr;
463     }
464     src_end = src_start + dst_width * src_incr;
465     if (src_end > ((src_width - NB_TAPS) << POS_FRAC_BITS)) {
466         n = (((src_width - NB_TAPS + 1) << POS_FRAC_BITS) - 1 - src_start) /
467             src_incr;
468     } else {
469         n = dst_width;
470     }
471 #ifdef HAVE_MMX
472     if ((mm_flags & MM_MMX) && NB_TAPS == 4)
473         h_resample_fast4_mmx(dst, n,
474                              src, src_width, src_start, src_incr, filters);
475     else
476 #endif
477         h_resample_fast(dst, n,
478                         src, src_width, src_start, src_incr, filters);
479     if (n < dst_width) {
480         dst += n;
481         dst_width -= n;
482         src_start += n * src_incr;
483         h_resample_slow(dst, dst_width,
484                         src, src_width, src_start, src_incr, filters);
485     }
486 }
487
488 static void component_resample(ImgReSampleContext *s,
489                                uint8_t *output, int owrap, int owidth, int oheight,
490                                uint8_t *input, int iwrap, int iwidth, int iheight)
491 {
492     int src_y, src_y1, last_src_y, ring_y, phase_y, y1, y;
493     uint8_t *new_line, *src_line;
494
495     last_src_y = - FCENTER - 1;
496     /* position of the bottom of the filter in the source image */
497     src_y = (last_src_y + NB_TAPS) * POS_FRAC;
498     ring_y = NB_TAPS; /* position in ring buffer */
499     for(y=0;y<oheight;y++) {
500         /* apply horizontal filter on new lines from input if needed */
501         src_y1 = src_y >> POS_FRAC_BITS;
502         while (last_src_y < src_y1) {
503             if (++ring_y >= LINE_BUF_HEIGHT + NB_TAPS)
504                 ring_y = NB_TAPS;
505             last_src_y++;
506             /* handle limit conditions : replicate line (slightly
507                inefficient because we filter multiple times) */
508             y1 = last_src_y;
509             if (y1 < 0) {
510                 y1 = 0;
511             } else if (y1 >= iheight) {
512                 y1 = iheight - 1;
513             }
514             src_line = input + y1 * iwrap;
515             new_line = s->line_buf + ring_y * owidth;
516             /* apply filter and handle limit cases correctly */
517             h_resample(new_line, owidth,
518                        src_line, iwidth, - FCENTER * POS_FRAC, s->h_incr,
519                        &s->h_filters[0][0]);
520             /* handle ring buffer wraping */
521             if (ring_y >= LINE_BUF_HEIGHT) {
522                 memcpy(s->line_buf + (ring_y - LINE_BUF_HEIGHT) * owidth,
523                        new_line, owidth);
524             }
525         }
526         /* apply vertical filter */
527         phase_y = get_phase(src_y);
528 #ifdef HAVE_MMX
529         /* desactivated MMX because loss of precision */
530         if ((mm_flags & MM_MMX) && NB_TAPS == 4 && 0)
531             v_resample4_mmx(output, owidth,
532                             s->line_buf + (ring_y - NB_TAPS + 1) * owidth, owidth,
533                             &s->v_filters[phase_y][0]);
534         else
535 #endif
536 #ifdef HAVE_ALTIVEC
537             if ((mm_flags & MM_ALTIVEC) && NB_TAPS == 4 && FILTER_BITS <= 6)
538                 v_resample16_altivec(output, owidth,
539                                 s->line_buf + (ring_y - NB_TAPS + 1) * owidth, owidth,
540                                 &s->v_filters[phase_y][0]);
541         else
542 #endif
543             v_resample(output, owidth,
544                        s->line_buf + (ring_y - NB_TAPS + 1) * owidth, owidth,
545                        &s->v_filters[phase_y][0]);
546
547         src_y += s->v_incr;
548
549         output += owrap;
550     }
551 }
552
553 ImgReSampleContext *img_resample_init(int owidth, int oheight,
554                                       int iwidth, int iheight)
555 {
556     return img_resample_full_init(owidth, oheight, iwidth, iheight,
557             0, 0, 0, 0, 0, 0, 0, 0);
558 }
559
560 ImgReSampleContext *img_resample_full_init(int owidth, int oheight,
561                                       int iwidth, int iheight,
562                                       int topBand, int bottomBand,
563         int leftBand, int rightBand,
564         int padtop, int padbottom,
565         int padleft, int padright)
566 {
567     ImgReSampleContext *s;
568
569     if (!owidth || !oheight || !iwidth || !iheight)
570         return NULL;
571
572     s = av_mallocz(sizeof(ImgReSampleContext));
573     if (!s)
574         return NULL;
575     if((unsigned)owidth >= UINT_MAX / (LINE_BUF_HEIGHT + NB_TAPS))
576         return NULL;
577     s->line_buf = av_mallocz(owidth * (LINE_BUF_HEIGHT + NB_TAPS));
578     if (!s->line_buf)
579         goto fail;
580
581     s->owidth = owidth;
582     s->oheight = oheight;
583     s->iwidth = iwidth;
584     s->iheight = iheight;
585
586     s->topBand = topBand;
587     s->bottomBand = bottomBand;
588     s->leftBand = leftBand;
589     s->rightBand = rightBand;
590
591     s->padtop = padtop;
592     s->padbottom = padbottom;
593     s->padleft = padleft;
594     s->padright = padright;
595
596     s->pad_owidth = owidth - (padleft + padright);
597     s->pad_oheight = oheight - (padtop + padbottom);
598
599     s->h_incr = ((iwidth - leftBand - rightBand) * POS_FRAC) / s->pad_owidth;
600     s->v_incr = ((iheight - topBand - bottomBand) * POS_FRAC) / s->pad_oheight;
601
602     av_build_filter(&s->h_filters[0][0], (float) s->pad_owidth  /
603             (float) (iwidth - leftBand - rightBand), NB_TAPS, NB_PHASES, 1<<FILTER_BITS, 0);
604     av_build_filter(&s->v_filters[0][0], (float) s->pad_oheight /
605             (float) (iheight - topBand - bottomBand), NB_TAPS, NB_PHASES, 1<<FILTER_BITS, 0);
606
607     return s;
608 fail:
609     av_free(s);
610     return NULL;
611 }
612
613 void img_resample(ImgReSampleContext *s,
614                   AVPicture *output, const AVPicture *input)
615 {
616     int i, shift;
617     uint8_t* optr;
618
619     for (i=0;i<3;i++) {
620         shift = (i == 0) ? 0 : 1;
621
622         optr = output->data[i] + (((output->linesize[i] *
623                         s->padtop) + s->padleft) >> shift);
624
625         component_resample(s, optr, output->linesize[i],
626                 s->pad_owidth >> shift, s->pad_oheight >> shift,
627                 input->data[i] + (input->linesize[i] *
628                     (s->topBand >> shift)) + (s->leftBand >> shift),
629                 input->linesize[i], ((s->iwidth - s->leftBand -
630                         s->rightBand) >> shift),
631                            (s->iheight - s->topBand - s->bottomBand) >> shift);
632     }
633 }
634
635 void img_resample_close(ImgReSampleContext *s)
636 {
637     av_free(s->line_buf);
638     av_free(s);
639 }
640
641 struct SwsContext *sws_getContext(int srcW, int srcH, int srcFormat,
642                                   int dstW, int dstH, int dstFormat,
643                                   int flags, SwsFilter *srcFilter,
644                                   SwsFilter *dstFilter, double *param)
645 {
646     struct SwsContext *ctx;
647
648     ctx = av_malloc(sizeof(struct SwsContext));
649     if (ctx == NULL) {
650         av_log(NULL, AV_LOG_ERROR, "Cannot allocate a resampling context!\n");
651
652         return NULL;
653     }
654
655     if ((srcH != dstH) || (srcW != dstW)) {
656         if ((srcFormat != PIX_FMT_YUV420P) || (dstFormat != PIX_FMT_YUV420P)) {
657             av_log(NULL, AV_LOG_INFO, "PIX_FMT_YUV420P will be used as an intermediate format for rescaling\n");
658         }
659         ctx->resampling_ctx = img_resample_init(dstW, dstH, srcW, srcH);
660     } else {
661         ctx->resampling_ctx = av_malloc(sizeof(ImgReSampleContext));
662         ctx->resampling_ctx->iheight = srcH;
663         ctx->resampling_ctx->iwidth = srcW;
664         ctx->resampling_ctx->oheight = dstH;
665         ctx->resampling_ctx->owidth = dstW;
666     }
667     ctx->src_pix_fmt = srcFormat;
668     ctx->dst_pix_fmt = dstFormat;
669
670     return ctx;
671 }
672
673 void sws_freeContext(struct SwsContext *ctx)
674 {
675     if (!ctx)
676         return;
677     if ((ctx->resampling_ctx->iwidth != ctx->resampling_ctx->owidth) ||
678         (ctx->resampling_ctx->iheight != ctx->resampling_ctx->oheight)) {
679         img_resample_close(ctx->resampling_ctx);
680     } else {
681         av_free(ctx->resampling_ctx);
682     }
683     av_free(ctx);
684 }
685
686
687 /**
688  * Checks if context is valid or reallocs a new one instead.
689  * If context is NULL, just calls sws_getContext() to get a new one.
690  * Otherwise, checks if the parameters are the same already saved in context.
691  * If that is the case, returns the current context.
692  * Otherwise, frees context and gets a new one.
693  *
694  * Be warned that srcFilter, dstFilter are not checked, they are
695  * asumed to remain valid.
696  */
697 struct SwsContext *sws_getCachedContext(struct SwsContext *ctx,
698                         int srcW, int srcH, int srcFormat,
699                         int dstW, int dstH, int dstFormat, int flags,
700                         SwsFilter *srcFilter, SwsFilter *dstFilter, double *param)
701 {
702     if (ctx != NULL) {
703         if ((ctx->resampling_ctx->iwidth != srcW) ||
704                         (ctx->resampling_ctx->iheight != srcH) ||
705                         (ctx->src_pix_fmt != srcFormat) ||
706                         (ctx->resampling_ctx->owidth != dstW) ||
707                         (ctx->resampling_ctx->oheight != dstH) ||
708                         (ctx->dst_pix_fmt != dstFormat))
709         {
710             sws_freeContext(ctx);
711             ctx = NULL;
712         }
713     }
714     if (ctx == NULL) {
715         return sws_getContext(srcW, srcH, srcFormat,
716                         dstW, dstH, dstFormat, flags,
717                         srcFilter, dstFilter, param);
718     }
719     return ctx;
720 }
721
722 int sws_scale(struct SwsContext *ctx, uint8_t* src[], int srcStride[],
723               int srcSliceY, int srcSliceH, uint8_t* dst[], int dstStride[])
724 {
725     AVPicture src_pict, dst_pict;
726     int i, res = 0;
727     AVPicture picture_format_temp;
728     AVPicture picture_resample_temp, *formatted_picture, *resampled_picture;
729     uint8_t *buf1 = NULL, *buf2 = NULL;
730     enum PixelFormat current_pix_fmt;
731
732     for (i = 0; i < 4; i++) {
733         src_pict.data[i] = src[i];
734         src_pict.linesize[i] = srcStride[i];
735         dst_pict.data[i] = dst[i];
736         dst_pict.linesize[i] = dstStride[i];
737     }
738     if ((ctx->resampling_ctx->iwidth != ctx->resampling_ctx->owidth) ||
739         (ctx->resampling_ctx->iheight != ctx->resampling_ctx->oheight)) {
740         /* We have to rescale the picture, but only YUV420P rescaling is supported... */
741
742         if (ctx->src_pix_fmt != PIX_FMT_YUV420P) {
743             int size;
744
745             /* create temporary picture for rescaling input*/
746             size = avpicture_get_size(PIX_FMT_YUV420P, ctx->resampling_ctx->iwidth, ctx->resampling_ctx->iheight);
747             buf1 = av_malloc(size);
748             if (!buf1) {
749                 res = -1;
750                 goto the_end;
751             }
752             formatted_picture = &picture_format_temp;
753             avpicture_fill((AVPicture*)formatted_picture, buf1,
754                            PIX_FMT_YUV420P, ctx->resampling_ctx->iwidth, ctx->resampling_ctx->iheight);
755
756             if (img_convert((AVPicture*)formatted_picture, PIX_FMT_YUV420P,
757                             &src_pict, ctx->src_pix_fmt,
758                             ctx->resampling_ctx->iwidth, ctx->resampling_ctx->iheight) < 0) {
759
760                 av_log(NULL, AV_LOG_ERROR, "pixel format conversion not handled\n");
761                 res = -1;
762                 goto the_end;
763             }
764         } else {
765             formatted_picture = &src_pict;
766         }
767
768         if (ctx->dst_pix_fmt != PIX_FMT_YUV420P) {
769             int size;
770
771             /* create temporary picture for rescaling output*/
772             size = avpicture_get_size(PIX_FMT_YUV420P, ctx->resampling_ctx->owidth, ctx->resampling_ctx->oheight);
773             buf2 = av_malloc(size);
774             if (!buf2) {
775                 res = -1;
776                 goto the_end;
777             }
778             resampled_picture = &picture_resample_temp;
779             avpicture_fill((AVPicture*)resampled_picture, buf2,
780                            PIX_FMT_YUV420P, ctx->resampling_ctx->owidth, ctx->resampling_ctx->oheight);
781
782         } else {
783             resampled_picture = &dst_pict;
784         }
785
786         /* ...and finally rescale!!! */
787         img_resample(ctx->resampling_ctx, resampled_picture, formatted_picture);
788         current_pix_fmt = PIX_FMT_YUV420P;
789     } else {
790         resampled_picture = &src_pict;
791         current_pix_fmt = ctx->src_pix_fmt;
792     }
793
794     if (current_pix_fmt != ctx->dst_pix_fmt) {
795         if (img_convert(&dst_pict, ctx->dst_pix_fmt,
796                         resampled_picture, current_pix_fmt,
797                         ctx->resampling_ctx->owidth, ctx->resampling_ctx->oheight) < 0) {
798
799             av_log(NULL, AV_LOG_ERROR, "pixel format conversion not handled\n");
800
801             res = -1;
802             goto the_end;
803         }
804     } else if (resampled_picture != &dst_pict) {
805         av_picture_copy(&dst_pict, resampled_picture, current_pix_fmt,
806                         ctx->resampling_ctx->owidth, ctx->resampling_ctx->oheight);
807     }
808
809 the_end:
810     av_free(buf1);
811     av_free(buf2);
812     return res;
813 }
814
815
816 #ifdef TEST
817 #include <stdio.h>
818
819 /* input */
820 #define XSIZE 256
821 #define YSIZE 256
822 uint8_t img[XSIZE * YSIZE];
823
824 /* output */
825 #define XSIZE1 512
826 #define YSIZE1 512
827 uint8_t img1[XSIZE1 * YSIZE1];
828 uint8_t img2[XSIZE1 * YSIZE1];
829
830 void save_pgm(const char *filename, uint8_t *img, int xsize, int ysize)
831 {
832 #undef fprintf
833     FILE *f;
834     f=fopen(filename,"w");
835     fprintf(f,"P5\n%d %d\n%d\n", xsize, ysize, 255);
836     fwrite(img,1, xsize * ysize,f);
837     fclose(f);
838 #define fprintf please_use_av_log
839 }
840
841 static void dump_filter(int16_t *filter)
842 {
843     int i, ph;
844
845     for(ph=0;ph<NB_PHASES;ph++) {
846         av_log(NULL, AV_LOG_INFO, "%2d: ", ph);
847         for(i=0;i<NB_TAPS;i++) {
848             av_log(NULL, AV_LOG_INFO, " %5.2f", filter[ph * NB_TAPS + i] / 256.0);
849         }
850         av_log(NULL, AV_LOG_INFO, "\n");
851     }
852 }
853
854 #ifdef HAVE_MMX
855 int mm_flags;
856 #endif
857
858 int main(int argc, char **argv)
859 {
860     int x, y, v, i, xsize, ysize;
861     ImgReSampleContext *s;
862     float fact, factors[] = { 1/2.0, 3.0/4.0, 1.0, 4.0/3.0, 16.0/9.0, 2.0 };
863     char buf[256];
864
865     /* build test image */
866     for(y=0;y<YSIZE;y++) {
867         for(x=0;x<XSIZE;x++) {
868             if (x < XSIZE/2 && y < YSIZE/2) {
869                 if (x < XSIZE/4 && y < YSIZE/4) {
870                     if ((x % 10) <= 6 &&
871                         (y % 10) <= 6)
872                         v = 0xff;
873                     else
874                         v = 0x00;
875                 } else if (x < XSIZE/4) {
876                     if (x & 1)
877                         v = 0xff;
878                     else
879                         v = 0;
880                 } else if (y < XSIZE/4) {
881                     if (y & 1)
882                         v = 0xff;
883                     else
884                         v = 0;
885                 } else {
886                     if (y < YSIZE*3/8) {
887                         if ((y+x) & 1)
888                             v = 0xff;
889                         else
890                             v = 0;
891                     } else {
892                         if (((x+3) % 4) <= 1 &&
893                             ((y+3) % 4) <= 1)
894                             v = 0xff;
895                         else
896                             v = 0x00;
897                     }
898                 }
899             } else if (x < XSIZE/2) {
900                 v = ((x - (XSIZE/2)) * 255) / (XSIZE/2);
901             } else if (y < XSIZE/2) {
902                 v = ((y - (XSIZE/2)) * 255) / (XSIZE/2);
903             } else {
904                 v = ((x + y - XSIZE) * 255) / XSIZE;
905             }
906             img[(YSIZE - y) * XSIZE + (XSIZE - x)] = v;
907         }
908     }
909     save_pgm("/tmp/in.pgm", img, XSIZE, YSIZE);
910     for(i=0;i<sizeof(factors)/sizeof(float);i++) {
911         fact = factors[i];
912         xsize = (int)(XSIZE * fact);
913         ysize = (int)((YSIZE - 100) * fact);
914         s = img_resample_full_init(xsize, ysize, XSIZE, YSIZE, 50 ,50, 0, 0, 0, 0, 0, 0);
915         av_log(NULL, AV_LOG_INFO, "Factor=%0.2f\n", fact);
916         dump_filter(&s->h_filters[0][0]);
917         component_resample(s, img1, xsize, xsize, ysize,
918                            img + 50 * XSIZE, XSIZE, XSIZE, YSIZE - 100);
919         img_resample_close(s);
920
921         snprintf(buf, sizeof(buf), "/tmp/out%d.pgm", i);
922         save_pgm(buf, img1, xsize, ysize);
923     }
924
925     /* mmx test */
926 #ifdef HAVE_MMX
927     av_log(NULL, AV_LOG_INFO, "MMX test\n");
928     fact = 0.72;
929     xsize = (int)(XSIZE * fact);
930     ysize = (int)(YSIZE * fact);
931     mm_flags = MM_MMX;
932     s = img_resample_init(xsize, ysize, XSIZE, YSIZE);
933     component_resample(s, img1, xsize, xsize, ysize,
934                        img, XSIZE, XSIZE, YSIZE);
935
936     mm_flags = 0;
937     s = img_resample_init(xsize, ysize, XSIZE, YSIZE);
938     component_resample(s, img2, xsize, xsize, ysize,
939                        img, XSIZE, XSIZE, YSIZE);
940     if (memcmp(img1, img2, xsize * ysize) != 0) {
941         av_log(NULL, AV_LOG_ERROR, "mmx error\n");
942         exit(1);
943     }
944     av_log(NULL, AV_LOG_INFO, "MMX OK\n");
945 #endif
946     return 0;
947 }
948
949 #endif