aacenc_is: take absolute coefficient value upon energy calculations
authorRostislav Pehlivanov <atomnuker@gmail.com>
Sun, 6 Sep 2015 17:36:42 +0000 (18:36 +0100)
committerRostislav Pehlivanov <atomnuker@gmail.com>
Sun, 6 Sep 2015 17:36:42 +0000 (18:36 +0100)
commit1956cfbaedd364b30095e956fc881f7eaa1e21ff
tree19af9c6d74dc89c57d1164097929534f3a09199d
parentff99a388557480ac32fdf924c4f2f16a3cabfe0a
aacenc_is: take absolute coefficient value upon energy calculations

This was an oversight when the IS system was being first implemented.
The ener01 part was largely a result of trial and error and the fact
that the sum of coef0 and coef1 could result in a zero was
overlooked. Once ener01 turns to zero it's used to divide the left
channel energy which doesn't turn out so well as it fills IS[]
with -nan's and inf's which in turn confused the quantize_band_cost.

Signed-off-by: Rostislav Pehlivanov <atomnuker@gmail.com>
libavcodec/aacenc_is.c
tests/fate/aac.mak