rawdec: fail in case of unknow pixel format
authorStefano Sabatini <stefano.sabatini-lala@poste.it>
Sun, 29 May 2011 23:42:45 +0000 (01:42 +0200)
committerStefano Sabatini <stefano.sabatini-lala@poste.it>
Mon, 30 May 2011 07:07:43 +0000 (09:07 +0200)
libavcodec/rawdec.c

index f8e119b..503351e 100644 (file)
@@ -97,6 +97,11 @@ static av_cold int raw_init_decoder(AVCodecContext *avctx)
     else if (avctx->pix_fmt == PIX_FMT_NONE && avctx->bits_per_coded_sample)
         avctx->pix_fmt = ff_find_pix_fmt(pix_fmt_bps_avi, avctx->bits_per_coded_sample);
 
+    if (avctx->pix_fmt == PIX_FMT_NONE) {
+        av_log(avctx, AV_LOG_ERROR, "Pixel format was not specified and cannot be detected\n");
+        return AVERROR(EINVAL);
+    }
+
     ff_set_systematic_pal2(context->palette, avctx->pix_fmt);
     context->length = avpicture_get_size(avctx->pix_fmt, avctx->width, avctx->height);
     if((avctx->bits_per_coded_sample == 4 || avctx->bits_per_coded_sample == 2) &&