Merge commit '3185a80259ce1f8f8111073dbd14a69a396e03a3'
authorMichael Niedermayer <michaelni@gmx.at>
Fri, 20 Sep 2013 12:13:52 +0000 (14:13 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Fri, 20 Sep 2013 12:21:34 +0000 (14:21 +0200)
* commit '3185a80259ce1f8f8111073dbd14a69a396e03a3':
  fraps: Make the input buffer size checks more strict

Conflicts:
libavcodec/fraps.c

The added checks are mostly to handle duplicate frames, which
we discard, thus there are also no P frames for example.

Merged-by: Michael Niedermayer <michaelni@gmx.at>
1  2 
libavcodec/fraps.c

@@@ -139,10 -143,15 +139,15 @@@ static int decode_frame(AVCodecContext 
      const uint32_t *buf32;
      uint32_t *luma1,*luma2,*cb,*cr;
      uint32_t offs[4];
 -    int i, j, ret, is_chroma, planes;
 -    enum AVPixelFormat pix_fmt;
 -    int prev_pic_bit, expected_size;
 +    int i, j, ret, is_chroma;
 +    const int planes = 3;
 +    uint8_t *out;
  
+     if (buf_size < 4) {
+         av_log(avctx, AV_LOG_ERROR, "Packet is too short\n");
+         return AVERROR_INVALIDDATA;
+     }
      header      = AV_RL32(buf);
      version     = header & 0xff;
      header_size = (header & (1<<30))? 8 : 4; /* bit 30 means pad to 8 bytes */