swr: set scale for 32->32/24 dither
authorMichael Niedermayer <michaelni@gmx.at>
Wed, 5 Jun 2013 00:47:19 +0000 (02:47 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Wed, 5 Jun 2013 01:06:34 +0000 (03:06 +0200)
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
libswresample/dither.c

index d0193dd..7cbe410 100644 (file)
@@ -88,6 +88,7 @@ int swri_dither_init(SwrContext *s, enum AVSampleFormat out_fmt, enum AVSampleFo
         if(out_fmt == AV_SAMPLE_FMT_S16) scale = 1.0/(1L<<15);
         if(out_fmt == AV_SAMPLE_FMT_U8 ) scale = 1.0/(1L<< 7);
     }
+    if(in_fmt == AV_SAMPLE_FMT_S32 && out_fmt == AV_SAMPLE_FMT_S32 && (s->dither.output_sample_bits&31)) scale = 1;
     if(in_fmt == AV_SAMPLE_FMT_S32 && out_fmt == AV_SAMPLE_FMT_S16) scale = 1L<<16;
     if(in_fmt == AV_SAMPLE_FMT_S32 && out_fmt == AV_SAMPLE_FMT_U8 ) scale = 1L<<24;
     if(in_fmt == AV_SAMPLE_FMT_S16 && out_fmt == AV_SAMPLE_FMT_U8 ) scale = 1L<<8;