nuv: Do not ignore lzo decompression failures
authorLuca Barbato <lu_zero@gentoo.org>
Sun, 11 Aug 2013 22:16:12 +0000 (00:16 +0200)
committerLuca Barbato <lu_zero@gentoo.org>
Tue, 13 Aug 2013 11:09:22 +0000 (13:09 +0200)
Update the fate reference since the last broken frame is not decoded
anymore.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org
libavcodec/nuv.c
tests/ref/fate/nuv-rtjpeg

index 4d5063f..269bf8b 100644 (file)
@@ -200,8 +200,10 @@ static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
     buf_size -= 12;
     if (comptype == NUV_RTJPEG_IN_LZO || comptype == NUV_LZO) {
         int outlen = c->decomp_size, inlen = buf_size;
-        if (av_lzo1x_decode(c->decomp_buf, &outlen, buf, &inlen))
+        if (av_lzo1x_decode(c->decomp_buf, &outlen, buf, &inlen)) {
             av_log(avctx, AV_LOG_ERROR, "error during lzo decompression\n");
+            return AVERROR_INVALIDDATA;
+        }
         buf      = c->decomp_buf;
         buf_size = c->decomp_size;
     }
index e9286d6..a5c9c4a 100644 (file)
@@ -7,4 +7,3 @@
 0,        269,        269,        0,   460800, 0x4e091ee2
 0,        302,        302,        0,   460800, 0x2ea88828
 0,        335,        335,        0,   460800, 0x4b7f4df0
-0,        369,        369,        0,   460800, 0xb30eb322