hevc: simplify SAO computation, delay from one row its computation
[ffmpeg.git] / libavcodec / hevcdsp.h
1 /*
2  * HEVC video decoder
3  *
4  * Copyright (C) 2012 - 2013 Guillaume Martres
5  * Copyright (C) 2013 - 2014 Pierre-Edouard Lepere
6  *
7  *
8  * This file is part of FFmpeg.
9  *
10  * FFmpeg is free software; you can redistribute it and/or
11  * modify it under the terms of the GNU Lesser General Public
12  * License as published by the Free Software Foundation; either
13  * version 2.1 of the License, or (at your option) any later version.
14  *
15  * FFmpeg is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18  * Lesser General Public License for more details.
19  *
20  * You should have received a copy of the GNU Lesser General Public
21  * License along with FFmpeg; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23  */
24
25 #ifndef AVCODEC_HEVCDSP_H
26 #define AVCODEC_HEVCDSP_H
27
28 #include "get_bits.h"
29
30 typedef struct SAOParams {
31     int offset_abs[3][4];   ///< sao_offset_abs
32     int offset_sign[3][4];  ///< sao_offset_sign
33
34     int band_position[3];   ///< sao_band_position
35
36     int eo_class[3];        ///< sao_eo_class
37
38     int offset_val[3][5];   ///<SaoOffsetVal
39
40     uint8_t type_idx[3];    ///< sao_type_idx
41 } SAOParams;
42
43 typedef struct HEVCDSPContext {
44     void (*put_pcm)(uint8_t *dst, ptrdiff_t stride, int size,
45                     GetBitContext *gb, int pcm_bit_depth);
46
47     void (*transquant_bypass[4])(uint8_t *dst, int16_t *coeffs,
48                                  ptrdiff_t stride);
49
50     void (*transform_skip)(uint8_t *dst, int16_t *coeffs, ptrdiff_t stride);
51     void (*transform_4x4_luma_add)(uint8_t *dst, int16_t *coeffs,
52                                    ptrdiff_t stride);
53     void (*transform_add[4])(uint8_t *dst, int16_t *coeffs, ptrdiff_t _stride, int col_limit);
54
55     void (*transform_dc_add[4])(uint8_t *dst, int16_t *coeffs, ptrdiff_t stride);
56
57     void (*sao_band_filter)(uint8_t *_dst, uint8_t *_src, ptrdiff_t _stride,
58                             struct SAOParams *sao, int *borders,
59                             int width, int height, int c_idx);
60
61     void (*sao_edge_filter[2])(uint8_t *_dst, uint8_t *_src, ptrdiff_t _stride,
62                                struct SAOParams *sao, int *borders, int _width,
63                                int _height, int c_idx, uint8_t *vert_edge,
64                                uint8_t *horiz_edge, uint8_t *diag_edge);
65
66     void (*put_hevc_qpel[10][2][2])(int16_t *dst, ptrdiff_t dststride, uint8_t *src, ptrdiff_t srcstride,
67                                     int height, intptr_t mx, intptr_t my, int width);
68     void (*put_hevc_qpel_uni[10][2][2])(uint8_t *dst, ptrdiff_t dststride, uint8_t *src, ptrdiff_t srcstride,
69                                         int height, intptr_t mx, intptr_t my, int width);
70     void (*put_hevc_qpel_uni_w[10][2][2])(uint8_t *_dst, ptrdiff_t _dststride, uint8_t *_src, ptrdiff_t _srcstride,
71                                           int height, int denom, int wx, int ox, intptr_t mx, intptr_t my, int width);
72
73     void (*put_hevc_qpel_bi[10][2][2])(uint8_t *dst, ptrdiff_t dststride, uint8_t *_src, ptrdiff_t _srcstride,
74                                        int16_t *src2, ptrdiff_t src2stride,
75                                        int height, intptr_t mx, intptr_t my, int width);
76     void (*put_hevc_qpel_bi_w[10][2][2])(uint8_t *dst, ptrdiff_t dststride, uint8_t *_src, ptrdiff_t _srcstride,
77                                          int16_t *src2, ptrdiff_t src2stride,
78                                          int height, int denom, int wx0, int wx1,
79                                          int ox0, int ox1, intptr_t mx, intptr_t my, int width);
80     void (*put_hevc_epel[10][2][2])(int16_t *dst, ptrdiff_t dststride, uint8_t *src, ptrdiff_t srcstride,
81                                     int height, intptr_t mx, intptr_t my, int width);
82
83     void (*put_hevc_epel_uni[10][2][2])(uint8_t *dst, ptrdiff_t dststride, uint8_t *_src, ptrdiff_t _srcstride,
84                                         int height, intptr_t mx, intptr_t my, int width);
85     void (*put_hevc_epel_uni_w[10][2][2])(uint8_t *_dst, ptrdiff_t _dststride, uint8_t *_src, ptrdiff_t _srcstride,
86                                           int height, int denom, int wx, int ox, intptr_t mx, intptr_t my, int width);
87     void (*put_hevc_epel_bi[10][2][2])(uint8_t *dst, ptrdiff_t dststride, uint8_t *_src, ptrdiff_t _srcstride,
88                                        int16_t *src2, ptrdiff_t src2stride,
89                                        int height, intptr_t mx, intptr_t my, int width);
90     void (*put_hevc_epel_bi_w[10][2][2])(uint8_t *dst, ptrdiff_t dststride, uint8_t *_src, ptrdiff_t _srcstride,
91                                          int16_t *src2, ptrdiff_t src2stride,
92                                          int height, int denom, int wx0, int ox0, int wx1,
93                                          int ox1, intptr_t mx, intptr_t my, int width);
94
95     void (*hevc_h_loop_filter_luma)(uint8_t *pix, ptrdiff_t stride,
96                                     int *beta, int *tc,
97                                     uint8_t *no_p, uint8_t *no_q);
98     void (*hevc_v_loop_filter_luma)(uint8_t *pix, ptrdiff_t stride,
99                                     int *beta, int *tc,
100                                     uint8_t *no_p, uint8_t *no_q);
101     void (*hevc_h_loop_filter_chroma)(uint8_t *pix, ptrdiff_t stride,
102                                       int *tc, uint8_t *no_p, uint8_t *no_q);
103     void (*hevc_v_loop_filter_chroma)(uint8_t *pix, ptrdiff_t stride,
104                                       int *tc, uint8_t *no_p, uint8_t *no_q);
105     void (*hevc_h_loop_filter_luma_c)(uint8_t *pix, ptrdiff_t stride,
106                                       int *beta, int *tc,
107                                       uint8_t *no_p, uint8_t *no_q);
108     void (*hevc_v_loop_filter_luma_c)(uint8_t *pix, ptrdiff_t stride,
109                                       int *beta, int *tc,
110                                       uint8_t *no_p, uint8_t *no_q);
111     void (*hevc_h_loop_filter_chroma_c)(uint8_t *pix, ptrdiff_t stride,
112                                         int *tc, uint8_t *no_p,
113                                         uint8_t *no_q);
114     void (*hevc_v_loop_filter_chroma_c)(uint8_t *pix, ptrdiff_t stride,
115                                         int *tc, uint8_t *no_p,
116                                         uint8_t *no_q);
117 } HEVCDSPContext;
118
119 void ff_hevc_dsp_init(HEVCDSPContext *hpc, int bit_depth);
120
121 extern const int8_t ff_hevc_epel_filters[7][4];
122 extern const int8_t ff_hevc_qpel_filters[3][16];
123
124 void ff_hevcdsp_init_x86(HEVCDSPContext *c, const int bit_depth);
125
126 #endif /* AVCODEC_HEVCDSP_H */