yadif: check input video size.
authorMichael Niedermayer <michaelni@gmx.at>
Thu, 9 Aug 2012 22:09:34 +0000 (00:09 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Thu, 9 Aug 2012 22:09:34 +0000 (00:09 +0200)
yadif needs at least 3x3 or it will likely crash with out of array reads

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
libavfilter/vf_yadif.c

index d25c7b1..f200cb1 100644 (file)
@@ -221,6 +221,11 @@ static int start_frame(AVFilterLink *link, AVFilterBufferRef *picref)
 
     av_assert0(picref);
 
+    if (picref->video->h < 3 || picref->video->w < 3) {
+        av_log(ctx, AV_LOG_ERROR, "Video of less than 3 columns or lines is not supported\n");
+        return AVERROR(EINVAL);
+    }
+
     if (yadif->frame_pending)
         return_frame(ctx, 1);