qdm2: avoid integer overflow
authorVittorio Giovara <vittorio.giovara@gmail.com>
Wed, 12 Nov 2014 18:10:44 +0000 (19:10 +0100)
committerVittorio Giovara <vittorio.giovara@gmail.com>
Fri, 21 Nov 2014 12:37:50 +0000 (12:37 +0000)
CC: libav-stable@libav.org
Bug-Id: CID 700555

libavcodec/qdm2.c

index 94bda91..4718b34 100644 (file)
@@ -730,7 +730,7 @@ static void fill_coding_method_array(sb_int8_array tone_level_idx,
                     for (j = 0; j < 64; j++)
                         acc += tone_level_idx_temp[ch][sb][j];
 
-            multres = 0x66666667 * (acc * 10);
+            multres = 0x66666667LL * (acc * 10);
             esp_40 = (multres >> 32) / 8 + ((multres & 0xffffffff) >> 31);
             for (ch = 0;  ch < nb_channels; ch++)
                 for (sb = 0; sb < 30; sb++)