nuv: Do not ignore lzo decompression failures
authorLuca Barbato <lu_zero@gentoo.org>
Sun, 11 Aug 2013 22:16:12 +0000 (00:16 +0200)
committerLuca Barbato <lu_zero@gentoo.org>
Tue, 13 Aug 2013 11:09:22 +0000 (13:09 +0200)
Update the fate reference since the last broken frame is not decoded
anymore.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org
libavcodec/nuv.c
tests/ref/fate/nuv-rtjpeg

index 4d5063f..269bf8b 100644 (file)
@@ -200,8 +200,10 @@ static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
     buf_size -= 12;
     if (comptype == NUV_RTJPEG_IN_LZO || comptype == NUV_LZO) {
         int outlen = c->decomp_size, inlen = buf_size;
     buf_size -= 12;
     if (comptype == NUV_RTJPEG_IN_LZO || comptype == NUV_LZO) {
         int outlen = c->decomp_size, inlen = buf_size;
-        if (av_lzo1x_decode(c->decomp_buf, &outlen, buf, &inlen))
+        if (av_lzo1x_decode(c->decomp_buf, &outlen, buf, &inlen)) {
             av_log(avctx, AV_LOG_ERROR, "error during lzo decompression\n");
             av_log(avctx, AV_LOG_ERROR, "error during lzo decompression\n");
+            return AVERROR_INVALIDDATA;
+        }
         buf      = c->decomp_buf;
         buf_size = c->decomp_size;
     }
         buf      = c->decomp_buf;
         buf_size = c->decomp_size;
     }
index e9286d6..a5c9c4a 100644 (file)
@@ -7,4 +7,3 @@
 0,        269,        269,        0,   460800, 0x4e091ee2
 0,        302,        302,        0,   460800, 0x2ea88828
 0,        335,        335,        0,   460800, 0x4b7f4df0
 0,        269,        269,        0,   460800, 0x4e091ee2
 0,        302,        302,        0,   460800, 0x2ea88828
 0,        335,        335,        0,   460800, 0x4b7f4df0
-0,        369,        369,        0,   460800, 0xb30eb322