avcodec/libxvid: fix potential integer overflow
authorMichael Niedermayer <michaelni@gmx.at>
Wed, 7 Jan 2015 16:23:25 +0000 (17:23 +0100)
committerMichael Niedermayer <michaelni@gmx.at>
Wed, 7 Jan 2015 17:22:31 +0000 (18:22 +0100)
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
libavcodec/libxvid.c

index 7669fee..b6840ee 100644 (file)
@@ -713,7 +713,7 @@ static int xvid_encode_frame(AVCodecContext *avctx, AVPacket *pkt,
     xvid_enc_frame_t xvid_enc_frame = { 0 };
     xvid_enc_stats_t xvid_enc_stats = { 0 };
 
-    if ((ret = ff_alloc_packet2(avctx, pkt, mb_width*mb_height*MAX_MB_BYTES + FF_MIN_BUFFER_SIZE)) < 0)
+    if ((ret = ff_alloc_packet2(avctx, pkt, mb_width*(int64_t)mb_height*MAX_MB_BYTES + FF_MIN_BUFFER_SIZE)) < 0)
         return ret;
 
     /* Start setting up the frame */