x86: proresdsp: improve SIGNEXTEND macro comments
[ffmpeg.git] / libavcodec / dwt.h
1 /*
2  * Copyright (C) 2004-2010 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #ifndef AVCODEC_DWT_H
22 #define AVCODEC_DWT_H
23
24 #include <stdint.h>
25
26 typedef int DWTELEM;
27 typedef short IDWTELEM;
28
29 typedef struct {
30     IDWTELEM *b0;
31     IDWTELEM *b1;
32     IDWTELEM *b2;
33     IDWTELEM *b3;
34     int y;
35 } DWTCompose;
36
37 /** Used to minimize the amount of memory used in order to
38  *  optimize cache performance. **/
39 typedef struct slice_buffer_s {
40     IDWTELEM **line;   ///< For use by idwt and predict_slices.
41     IDWTELEM **data_stack;   ///< Used for internal purposes.
42     int data_stack_top;
43     int line_count;
44     int line_width;
45     int data_count;
46     IDWTELEM *base_buffer;  ///< Buffer that this structure is caching.
47 } slice_buffer;
48
49 typedef struct DWTContext {
50     void (*vertical_compose97i)(IDWTELEM *b0, IDWTELEM *b1, IDWTELEM *b2,
51                                 IDWTELEM *b3, IDWTELEM *b4, IDWTELEM *b5,
52                                 int width);
53     void (*horizontal_compose97i)(IDWTELEM *b, IDWTELEM *temp, int width);
54     void (*inner_add_yblock)(const uint8_t *obmc, const int obmc_stride,
55                              uint8_t **block, int b_w, int b_h, int src_x,
56                              int src_y, int src_stride, slice_buffer *sb,
57                              int add, uint8_t *dst8);
58 } DWTContext;
59
60 #define MAX_DECOMPOSITIONS 8
61
62 #define DWT_97 0
63 #define DWT_53 1
64
65 #define liftS lift
66 #if 1
67 #define W_AM 3
68 #define W_AO 0
69 #define W_AS 1
70
71 #undef liftS
72 #define W_BM 1
73 #define W_BO 8
74 #define W_BS 4
75
76 #define W_CM 1
77 #define W_CO 0
78 #define W_CS 0
79
80 #define W_DM 3
81 #define W_DO 4
82 #define W_DS 3
83 #elif 0
84 #define W_AM 55
85 #define W_AO 16
86 #define W_AS 5
87
88 #define W_BM 3
89 #define W_BO 32
90 #define W_BS 6
91
92 #define W_CM 127
93 #define W_CO 64
94 #define W_CS 7
95
96 #define W_DM 7
97 #define W_DO 8
98 #define W_DS 4
99 #elif 0
100 #define W_AM 97
101 #define W_AO 32
102 #define W_AS 6
103
104 #define W_BM 63
105 #define W_BO 512
106 #define W_BS 10
107
108 #define W_CM 13
109 #define W_CO 8
110 #define W_CS 4
111
112 #define W_DM 15
113 #define W_DO 16
114 #define W_DS 5
115
116 #else
117
118 #define W_AM 203
119 #define W_AO 64
120 #define W_AS 7
121
122 #define W_BM 217
123 #define W_BO 2048
124 #define W_BS 12
125
126 #define W_CM 113
127 #define W_CO 64
128 #define W_CS 7
129
130 #define W_DM 227
131 #define W_DO 128
132 #define W_DS 9
133 #endif
134
135 #define slice_buffer_get_line(slice_buf, line_num)                          \
136     ((slice_buf)->line[line_num] ? (slice_buf)->line[line_num]              \
137                                  : ff_slice_buffer_load_line((slice_buf),   \
138                                                              (line_num)))
139
140 int ff_slice_buffer_init(slice_buffer *buf, int line_count,
141                          int max_allocated_lines, int line_width,
142                          IDWTELEM *base_buffer);
143 void ff_slice_buffer_release(slice_buffer *buf, int line);
144 void ff_slice_buffer_flush(slice_buffer *buf);
145 void ff_slice_buffer_destroy(slice_buffer *buf);
146 IDWTELEM *ff_slice_buffer_load_line(slice_buffer *buf, int line);
147
148 void ff_snow_vertical_compose97i(IDWTELEM *b0, IDWTELEM *b1, IDWTELEM *b2,
149                                  IDWTELEM *b3, IDWTELEM *b4, IDWTELEM *b5,
150                                  int width);
151 void ff_snow_horizontal_compose97i(IDWTELEM *b, IDWTELEM *temp, int width);
152 void ff_snow_inner_add_yblock(const uint8_t *obmc, const int obmc_stride,
153                               uint8_t **block, int b_w, int b_h, int src_x,
154                               int src_y, int src_stride, slice_buffer *sb,
155                               int add, uint8_t *dst8);
156
157 int ff_w53_32_c(void *v, uint8_t *pix1, uint8_t *pix2, int line_size, int h);
158 int ff_w97_32_c(void *v, uint8_t *pix1, uint8_t *pix2, int line_size, int h);
159
160 void ff_spatial_dwt(int *buffer, int *temp, int width, int height, int stride,
161                     int type, int decomposition_count);
162
163 void ff_spatial_idwt_buffered_init(DWTCompose *cs, slice_buffer *sb, int width,
164                                    int height, int stride_line, int type,
165                                    int decomposition_count);
166 void ff_spatial_idwt_buffered_slice(DWTContext *dsp, DWTCompose *cs,
167                                     slice_buffer *slice_buf, IDWTELEM *temp,
168                                     int width, int height, int stride_line,
169                                     int type, int decomposition_count, int y);
170 void ff_spatial_idwt(IDWTELEM *buffer, IDWTELEM *temp, int width, int height,
171                      int stride, int type, int decomposition_count);
172
173 void ff_dwt_init(DWTContext *c);
174 void ff_dwt_init_x86(DWTContext *c);
175
176 #endif /* AVCODEC_DWT_H */