msrle: fix extradata palette handling
authorMichael Niedermayer <michaelni@gmx.at>
Mon, 6 Aug 2012 17:34:09 +0000 (19:34 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Mon, 6 Aug 2012 17:39:11 +0000 (19:39 +0200)
Fixes Ticket1273

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
libavcodec/msrle.c

index 0c54f9a..db76648 100644 (file)
@@ -50,6 +50,7 @@ typedef struct MsrleContext {
 static av_cold int msrle_decode_init(AVCodecContext *avctx)
 {
     MsrleContext *s = avctx->priv_data;
+    int i;
 
     s->avctx = avctx;
 
@@ -72,6 +73,10 @@ static av_cold int msrle_decode_init(AVCodecContext *avctx)
     avcodec_get_frame_defaults(&s->frame);
     s->frame.data[0] = NULL;
 
+    if (avctx->extradata_size >= AVPALETTE_SIZE)
+        for (i = 0; i < AVPALETTE_SIZE/4; i++)
+            s->pal[i] = 0xFF<<24 | AV_RL32(avctx->extradata+4*i);
+
     return 0;
 }
 
@@ -101,11 +106,11 @@ static int msrle_decode_frame(AVCodecContext *avctx,
             s->frame.palette_has_changed = 1;
             memcpy(s->pal, pal, AVPALETTE_SIZE);
         }
-
-        /* make the palette available */
-        memcpy(s->frame.data[1], s->pal, AVPALETTE_SIZE);
     }
 
+    /* make the palette available */
+    memcpy(s->frame.data[1], s->pal, AVPALETTE_SIZE);
+
     /* FIXME how to correctly detect RLE ??? */
     if (avctx->height * istride == avpkt->size) { /* assume uncompressed */
         int linesize = (avctx->width * avctx->bits_per_coded_sample + 7) / 8;