vp9: switch min_tile_cols location so it shifts up instead of down.
authorRonald S. Bultje <rsbultje@gmail.com>
Mon, 14 Sep 2015 18:50:47 +0000 (14:50 -0400)
committerRonald S. Bultje <rsbultje@gmail.com>
Tue, 15 Sep 2015 13:20:34 +0000 (09:20 -0400)
This fixes cases where the shifted number is 64, but we shifted non-
zero numbers away in the shift. The change makes behaviour consistent
with libvpx.

libavcodec/vp9.c

index a357a5f..f1183e8 100644 (file)
@@ -823,7 +823,7 @@ static int decode_frame_header(AVCodecContext *ctx,
         return res;
     }
     for (s->tiling.log2_tile_cols = 0;
-         (s->sb_cols >> s->tiling.log2_tile_cols) > 64;
+         s->sb_cols > (64 << s->tiling.log2_tile_cols);
          s->tiling.log2_tile_cols++) ;
     for (max = 0; (s->sb_cols >> max) >= 4; max++) ;
     max = FFMAX(0, max - 1);