aacenc_pred: rework the way prediction is done
authorRostislav Pehlivanov <atomnuker@gmail.com>
Sat, 29 Aug 2015 05:34:08 +0000 (06:34 +0100)
committerRostislav Pehlivanov <atomnuker@gmail.com>
Sat, 29 Aug 2015 05:34:08 +0000 (06:34 +0100)
commit44ddee945a2e8cfc1b7074de6e35595ed41da4e4
tree7c81a9f8243a3d2eb7a888c4ee995968f337de5e
parent949a4892fa1dd6da028229cb1674340542fc9bc4
aacenc_pred: rework the way prediction is done

This commit completely alters the algorithm of prediction.
The original commit which introduced prediction was completely
incorrect to even remotely care about what the actual coefficients
contain or whether any options were enabled. Not my actual fault.

This commit treats prediction the way the decoder does and expects
to do: like lossy encryption. Everything related to prediction now
happens at the very end but just before quantization and encoding
of coefficients. On the decoder side, prediction happens before
anything has had a chance to even access the coefficients.

Also the original implementation had problems because it actually
touched the band_type of special bands which already had their
scalefactor indices marked and it's a wonder the asserion wasn't
triggered when transmitting those.

Overall, this now drastically increases audio quality and you should
think about enabling it if you don't plan on playing anything encoded
on really old low power ultra-embedded devices since they might not
support decoding of prediction or AAC-Main. Though the specifications
were written ages ago and as times change so do the FLOPS.

Signed-off-by: Rostislav Pehlivanov <atomnuker@gmail.com>
libavcodec/aac.h
libavcodec/aaccoder.c
libavcodec/aacenc.c
libavcodec/aacenc.h
libavcodec/aacenc_pred.c
libavcodec/aacenc_pred.h