vc2enc: halve allocated table size, refactor and optimize quantization
authorRostislav Pehlivanov <atomnuker@gmail.com>
Fri, 26 Feb 2016 14:47:06 +0000 (14:47 +0000)
committerRostislav Pehlivanov <atomnuker@gmail.com>
Fri, 26 Feb 2016 14:47:06 +0000 (14:47 +0000)
commit2b811e4605ebd570c647f8a4ed0e021b64fc4208
treec0bf96455cb6a9471d9b328764ae0e53504bf938
parent7db2e757c5944c8a6a4a947b88a84ec2d7a52dd6
vc2enc: halve allocated table size, refactor and optimize quantization

Since coefficients differ only in the last bit when writing to the
bitstream it was possible to remove the sign from the tables, thus
halving them. Also now all quantization is done in the unsigned domain
as the sign is completely separate, which gets rid of the need to do
quantization on 32 bit signed integers.

Overall, this slightly speeds up the encoder depending on the machine.
The commit still generates bit-identical files as before the commit.

Signed-off-by: Rostislav Pehlivanov <atomnuker@gmail.com>
libavcodec/vc2enc.c
libavcodec/vc2enc_dwt.h