AAC encoder: fix assertion error with prediction
authorClaudio Freire <klaussfreire@gmail.com>
Tue, 29 Dec 2015 08:18:40 +0000 (05:18 -0300)
committerClaudio Freire <klaussfreire@gmail.com>
Wed, 13 Jan 2016 08:28:34 +0000 (05:28 -0300)
commit2a31b076b444d0c096efd4ab0eb4e19cf0ffd2ac
treede6ee79613da9c49e27ea9701b624da710eefd95
parentd3fe2e0dc991720bab723e6bc467976e0b14709a
AAC encoder: fix assertion error with prediction

Fixes an assertion error reported in #2686 that happens when
using prediction (either explicitly or implicitly by setting
the AAC main profile), since prediction code would allow
creating new zeroes or removing existing ones, without
properly checking for SF delta violations.

This patch forbids creating/removing zeroes, perhaps an
overly conservative approach, but a safe one. More permissive
and sophisticated approaches may be attempted in the future.
libavcodec/aacenc_pred.c