Little fix for block sizes <16
authorMichael Niedermayer <michaelni@gmx.at>
Fri, 9 May 2008 10:44:12 +0000 (10:44 +0000)
committerMichael Niedermayer <michaelni@gmx.at>
Fri, 9 May 2008 10:44:12 +0000 (10:44 +0000)
Originally committed as revision 13095 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/zmbvenc.c

index fbefa7c..0bf1dff 100644 (file)
@@ -246,7 +246,7 @@ static av_cold int encode_init(AVCodecContext *avctx)
     int lvl = 9;
 
     for(i=1; i<256; i++)
-        score_tab[i]= -i * log2(i/256.0) * 256;
+        score_tab[i]= -i * log2(i/(double)(ZMBV_BLOCK*ZMBV_BLOCK)) * 256;
 
     c->avctx = avctx;