vYCoeffsBank and vCCoeffsBank are allocated and initialized using incorrect
authorAlan Curry <pacman@world.std.com>
Wed, 8 Feb 2006 08:16:53 +0000 (08:16 +0000)
committerDiego Biurrun <diego@biurrun.de>
Wed, 8 Feb 2006 08:16:53 +0000 (08:16 +0000)
sizes based on the image width instead of height.
patch by Alan Curry, pacman at world dot std dot com

Originally committed as revision 17558 to svn://svn.mplayerhq.hu/mplayer/trunk/postproc

postproc/yuv2rgb_altivec.c

index bb1ebeb..16acc42 100644 (file)
@@ -788,17 +788,17 @@ altivec_yuv2packedX (SwsContext *c,
 
   vector signed short *YCoeffs, *CCoeffs;
 
-  vYCoeffsBank = malloc (sizeof (vector signed short)*lumFilterSize*dstW);
-  vCCoeffsBank = malloc (sizeof (vector signed short)*chrFilterSize*dstW);
+  vYCoeffsBank = malloc (sizeof (vector signed short)*lumFilterSize*c->dstH);
+  vCCoeffsBank = malloc (sizeof (vector signed short)*chrFilterSize*c->dstH);
 
-  for (i=0;i<lumFilterSize*dstW;i++) {
+  for (i=0;i<lumFilterSize*c->dstH;i++) {
     tmp = c->vLumFilter[i];
     p = &vYCoeffsBank[i];
     for (j=0;j<8;j++)
       p[j] = tmp;
   }
 
-  for (i=0;i<chrFilterSize*dstW;i++) {
+  for (i=0;i<chrFilterSize*c->dstH;i++) {
     tmp = c->vChrFilter[i];
     p = &vCCoeffsBank[i];
     for (j=0;j<8;j++)