libavutil/softfloat: Fix av_normalize1_sf bias.
authorNedeljko Babic <nedeljko.babic@imgtec.com>
Wed, 3 Jun 2015 14:17:39 +0000 (16:17 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Thu, 4 Jun 2015 15:20:03 +0000 (17:20 +0200)
av_normalize1_sf doesn't properly address border case when mantis is
exactly -0x40000000.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
libavutil/softfloat.h

index d6cfc3c..6aecdf3 100644 (file)
@@ -60,7 +60,7 @@ static av_const SoftFloat av_normalize_sf(SoftFloat a){
 
 static inline av_const SoftFloat av_normalize1_sf(SoftFloat a){
 #if 1
-    if((int32_t)(a.mant + 0x40000000U) < 0){
+    if((int32_t)(a.mant + 0x40000000U) <= 0){
         a.exp++;
         a.mant>>=1;
     }