h264dec: be more explicit in handling container cropping
authorAnton Khirnov <anton@khirnov.net>
Tue, 27 Dec 2016 18:07:18 +0000 (19:07 +0100)
committerAnton Khirnov <anton@khirnov.net>
Thu, 12 Jan 2017 15:28:05 +0000 (16:28 +0100)
commit4fded0480f20f4d7ca5e776a85574de34dfead14
tree000be0b40f2cebfb57e013d99aa5d4728608e873
parenta02ae1c6837a54ed9e7735da2b1f789b2f4b6e13
h264dec: be more explicit in handling container cropping

The current condition can trigger in cases where it shouldn't, with
unexpected results.
Make sure that:
- container cropping is really based on the original dimensions from the
  caller
- those dimenions are discarded on size change

The code is still quite hacky and eventually should be deprecated and
removed, with the decision about which cropping is used delegated to the
caller.
libavcodec/h264_slice.c
libavcodec/h264dec.c
libavcodec/h264dec.h