avfilter/vf_decimate: fix crash with gray8
authorPaul B Mahol <onemda@gmail.com>
Thu, 19 Sep 2013 17:50:18 +0000 (17:50 +0000)
committerPaul B Mahol <onemda@gmail.com>
Thu, 19 Sep 2013 17:50:42 +0000 (17:50 +0000)
Signed-off-by: Paul B Mahol <onemda@gmail.com>
libavfilter/vf_decimate.c

index 8767d5f..36284a0 100644 (file)
@@ -86,7 +86,7 @@ static void calc_diffs(const DecimateContext *dm, struct qitem *q,
 
     memset(bdiffs, 0, dm->bdiffsize * sizeof(*bdiffs));
 
-    for (plane = 0; plane < (dm->chroma ? 3 : 1); plane++) {
+    for (plane = 0; plane < (dm->chroma && f1->data[2] ? 3 : 1); plane++) {
         int x, y, xl;
         const int linesize1 = f1->linesize[plane];
         const int linesize2 = f2->linesize[plane];