h264: allow cropping to AVCodecContext.width/height
authorMans Rullgard <mans@mansr.com>
Wed, 30 May 2012 03:04:54 +0000 (04:04 +0100)
committerMans Rullgard <mans@mansr.com>
Sat, 9 Jun 2012 14:08:52 +0000 (15:08 +0100)
Override the frame size from the SPS with AVCodecContext values
if the latter specify a size smaller by less than one macroblock.
This is required for correct cropping of MOV files from Canon cameras.

Signed-off-by: Mans Rullgard <mans@mansr.com>
libavcodec/h264.c

index 6ed251e..025a0dd 100644 (file)
@@ -2968,6 +2968,12 @@ static int decode_slice_header(H264Context *h, H264Context *h0)
     else
         s->height = 16 * s->mb_height - (2 << s->chroma_y_shift) * FFMIN(h->sps.crop_bottom, (16 >> s->chroma_y_shift) - 1);
 
+    if (FFALIGN(s->avctx->width,  16) == s->width &&
+        FFALIGN(s->avctx->height, 16) == s->height) {
+        s->width  = s->avctx->width;
+        s->height = s->avctx->height;
+    }
+
     if (s->context_initialized &&
         (s->width != s->avctx->width || s->height != s->avctx->height ||
          av_cmp_q(h->sps.sar, s->avctx->sample_aspect_ratio))) {