tiffdec: use a single strip if RowsPerStrip is 0
authorJustin Ruggles <justin.ruggles@gmail.com>
Mon, 30 Sep 2013 04:11:12 +0000 (00:11 -0400)
committerJustin Ruggles <justin.ruggles@gmail.com>
Sat, 12 Apr 2014 18:49:08 +0000 (14:49 -0400)
The spec does not specify that 0 is an error condition, and there
are samples which use 0 when the whole image is in one strip.

libavcodec/tiff.c

index 0cfa4c4..e7f1866 100644 (file)
@@ -418,14 +418,9 @@ static int tiff_decode_tag(TiffContext *s)
         }
         break;
     case TIFF_ROWSPERSTRIP:
-        if (type == TIFF_LONG && value == UINT_MAX)
-            value = s->avctx->height;
-        if (value < 1) {
-            av_log(s->avctx, AV_LOG_ERROR,
-                   "Incorrect value of rows per strip\n");
-            return AVERROR_INVALIDDATA;
-        }
-        s->rps = value;
+        if (!value || (type == TIFF_LONG && value == UINT_MAX))
+            value = s->height;
+        s->rps = FFMIN(value, s->height);
         break;
     case TIFF_STRIP_OFFS:
         if (count == 1) {