indeo3: check per-plane data buffer against input buffer bounds.
authorAneesh Dogra <lionaneesh@gmail.com>
Tue, 29 Nov 2011 17:43:35 +0000 (23:13 +0530)
committerAlex Converse <alex.converse@gmail.com>
Tue, 29 Nov 2011 17:58:05 +0000 (09:58 -0800)
Fixes : http://bugzilla.libav.org/show_bug.cgi?id=102

Signed-off-by: Alex Converse <alex.converse@gmail.com>
libavcodec/indeo3.c

index 4f3cb36..46efbd8 100644 (file)
@@ -804,8 +804,10 @@ static int decode_plane(Indeo3DecodeContext *ctx, AVCodecContext *avctx,
     num_vectors = bytestream_get_le32(&data);
     ctx->mc_vectors  = num_vectors ? data : 0;
 
+    if (num_vectors * 2 >= data_size)
+        return AVERROR_INVALIDDATA;
     /* init the bitreader */
-    init_get_bits(&ctx->gb, &data[num_vectors * 2], data_size << 3);
+    init_get_bits(&ctx->gb, &data[num_vectors * 2], (data_size - num_vectors * 2) << 3);
     ctx->skip_bits   = 0;
     ctx->need_resync = 0;