CABAC trellis opts part 4: x86_64 asm
[x262.git] / common / quant.h
1 /*****************************************************************************
2  * quant.h: quantization and level-run
3  *****************************************************************************
4  * Copyright (C) 2005-2011 x264 project
5  *
6  * Authors: Loren Merritt <lorenm@u.washington.edu>
7  *          Jason Garrett-Glaser <darkshikari@gmail.com>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02111, USA.
22  *
23  * This program is also available under a commercial proprietary license.
24  * For more information, contact us at licensing@x264.com.
25  *****************************************************************************/
26
27 #ifndef X264_QUANT_H
28 #define X264_QUANT_H
29
30 typedef struct
31 {
32     int (*quant_8x8)( dctcoef dct[64], udctcoef mf[64], udctcoef bias[64] );
33     int (*quant_4x4)( dctcoef dct[16], udctcoef mf[16], udctcoef bias[16] );
34     int (*quant_4x4_dc)( dctcoef dct[16], int mf, int bias );
35     int (*quant_2x2_dc)( dctcoef dct[4], int mf, int bias );
36
37     void (*dequant_8x8)( dctcoef dct[64], int dequant_mf[6][64], int i_qp );
38     void (*dequant_4x4)( dctcoef dct[16], int dequant_mf[6][16], int i_qp );
39     void (*dequant_4x4_dc)( dctcoef dct[16], int dequant_mf[6][16], int i_qp );
40
41     void (*idct_dequant_2x4_dc)( dctcoef dct[8], dctcoef dct4x4[8][16], int dequant_mf[6][16], int i_qp );
42     void (*idct_dequant_2x4_dconly)( dctcoef dct[8], int dequant_mf[6][16], int i_qp );
43
44     int (*optimize_chroma_2x2_dc)( dctcoef dct[4], int dequant_mf );
45     int (*optimize_chroma_2x4_dc)( dctcoef dct[8], int dequant_mf );
46
47     void (*denoise_dct)( dctcoef *dct, uint32_t *sum, udctcoef *offset, int size );
48
49     int (*decimate_score15)( dctcoef *dct );
50     int (*decimate_score16)( dctcoef *dct );
51     int (*decimate_score64)( dctcoef *dct );
52     int (*coeff_last[14])( dctcoef *dct );
53     int (*coeff_last4)( dctcoef *dct );
54     int (*coeff_last8)( dctcoef *dct );
55     int (*coeff_level_run[13])( dctcoef *dct, x264_run_level_t *runlevel );
56     int (*coeff_level_run4)( dctcoef *dct, x264_run_level_t *runlevel );
57     int (*coeff_level_run8)( dctcoef *dct, x264_run_level_t *runlevel );
58
59 #define TRELLIS_PARAMS const int *unquant_mf, const uint8_t *zigzag, int lambda2,\
60                        int last_nnz, dctcoef *coefs, dctcoef *quant_coefs, dctcoef *dct,\
61                        uint8_t *cabac_state_sig, uint8_t *cabac_state_last,\
62                        uint64_t level_state0, uint16_t level_state1
63     int (*trellis_cabac_4x4)( TRELLIS_PARAMS, int b_ac );
64     int (*trellis_cabac_8x8)( TRELLIS_PARAMS, int b_interlaced );
65     int (*trellis_cabac_4x4_psy)( TRELLIS_PARAMS, int b_ac, dctcoef *fenc_dct, int psy_trellis );
66     int (*trellis_cabac_8x8_psy)( TRELLIS_PARAMS, int b_interlaced, dctcoef *fenc_dct, int psy_trellis );
67     int (*trellis_cabac_dc)( TRELLIS_PARAMS, int num_coefs );
68     int (*trellis_cabac_chroma_422_dc)( TRELLIS_PARAMS );
69 } x264_quant_function_t;
70
71 void x264_quant_init( x264_t *h, int cpu, x264_quant_function_t *pf );
72
73 #endif