avcodec/msrle: check return code for success before use
authorMichael Niedermayer <michaelni@gmx.at>
Sun, 6 Apr 2014 02:01:24 +0000 (04:01 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Sun, 6 Apr 2014 02:01:24 +0000 (04:01 +0200)
The check is possibly redundant, but better to check for errors
that dont occur than to skip the check and crash

Fixes CID1197060

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
libavcodec/msrle.c

index 750e54a..9f0cac6 100644 (file)
@@ -116,6 +116,9 @@ static int msrle_decode_frame(AVCodecContext *avctx,
         uint8_t *buf = avpkt->data + (avctx->height-1)*istride;
         int i, j;
 
+        if (linesize < 0)
+            return linesize;
+
         for (i = 0; i < avctx->height; i++) {
             if (avctx->bits_per_coded_sample == 4) {
                 for (j = 0; j < avctx->width - 1; j += 2) {