libspeex: allow custom sample rates again.
[ffmpeg.git] / libavcodec / dwt.h
1 /*
2  * Copyright (C) 2004-2010 Michael Niedermayer <michaelni@gmx.at>
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #ifndef AVCODEC_DWT_H
22 #define AVCODEC_DWT_H
23
24 #include <stdint.h>
25
26 typedef int DWTELEM;
27 typedef short IDWTELEM;
28
29 #define MAX_DWT_SUPPORT 8
30 #define MAX_DECOMPOSITIONS 8
31
32 typedef struct DWTCompose {
33     IDWTELEM *b[MAX_DWT_SUPPORT];
34
35     IDWTELEM *b0;
36     IDWTELEM *b1;
37     IDWTELEM *b2;
38     IDWTELEM *b3;
39     int y;
40 } DWTCompose;
41
42 /** Used to minimize the amount of memory used in order to
43  *  optimize cache performance. **/
44 typedef struct slice_buffer_s {
45     IDWTELEM **line;   ///< For use by idwt and predict_slices.
46     IDWTELEM **data_stack;   ///< Used for internal purposes.
47     int data_stack_top;
48     int line_count;
49     int line_width;
50     int data_count;
51     IDWTELEM *base_buffer;  ///< Buffer that this structure is caching.
52 } slice_buffer;
53
54 struct DWTContext;
55
56 // Possible prototypes for vertical_compose functions
57 typedef void (*vertical_compose_2tap)(IDWTELEM *b0, IDWTELEM *b1, int width);
58 typedef void (*vertical_compose_3tap)(IDWTELEM *b0, IDWTELEM *b1, IDWTELEM *b2, int width);
59 typedef void (*vertical_compose_5tap)(IDWTELEM *b0, IDWTELEM *b1, IDWTELEM *b2, IDWTELEM *b3, IDWTELEM *b4, int width);
60 typedef void (*vertical_compose_9tap)(IDWTELEM *dst, IDWTELEM *b[8], int width);
61
62 typedef struct DWTContext {
63     IDWTELEM *buffer;
64     IDWTELEM *temp;
65     int width;
66     int height;
67     int stride;
68     int decomposition_count;
69     int support;
70
71     void (*spatial_compose)(struct DWTContext *cs, int level, int width, int height, int stride);
72     void (*vertical_compose_l0)(void);
73     void (*vertical_compose_h0)(void);
74     void (*vertical_compose_l1)(void);
75     void (*vertical_compose_h1)(void);
76     void (*vertical_compose)(void);     ///< one set of lowpass and highpass combined
77     void (*horizontal_compose)(IDWTELEM *b, IDWTELEM *tmp, int width);
78
79     void (*vertical_compose97i)(IDWTELEM *b0, IDWTELEM *b1, IDWTELEM *b2,
80                                 IDWTELEM *b3, IDWTELEM *b4, IDWTELEM *b5,
81                                 int width);
82     void (*horizontal_compose97i)(IDWTELEM *b, IDWTELEM *temp, int width);
83     void (*inner_add_yblock)(const uint8_t *obmc, const int obmc_stride,
84                              uint8_t **block, int b_w, int b_h, int src_x,
85                              int src_y, int src_stride, slice_buffer *sb,
86                              int add, uint8_t *dst8);
87
88     DWTCompose cs[MAX_DECOMPOSITIONS];
89 } DWTContext;
90
91 enum dwt_type {
92     DWT_SNOW_DAUB9_7,
93     DWT_SNOW_LEGALL5_3,
94     DWT_DIRAC_DD9_7,
95     DWT_DIRAC_LEGALL5_3,
96     DWT_DIRAC_DD13_7,
97     DWT_DIRAC_HAAR0,
98     DWT_DIRAC_HAAR1,
99     DWT_DIRAC_FIDELITY,
100     DWT_DIRAC_DAUB9_7,
101     DWT_NUM_TYPES
102 };
103
104 // -1 if an error occurred, e.g. the dwt_type isn't recognized
105 int ff_spatial_idwt_init2(DWTContext *d, IDWTELEM *buffer, int width, int height,
106                           int stride, enum dwt_type type, int decomposition_count,
107                           IDWTELEM *temp);
108
109 int ff_spatial_idwt2(IDWTELEM *buffer, int width, int height, int stride,
110                      enum dwt_type type, int decomposition_count, IDWTELEM *temp);
111
112 void ff_spatial_idwt_slice2(DWTContext *d, int y);
113
114 // shared stuff for simd optimiztions
115 #define COMPOSE_53iL0(b0, b1, b2)\
116     (b1 - ((b0 + b2 + 2) >> 2))
117
118 #define COMPOSE_DIRAC53iH0(b0, b1, b2)\
119     (b1 + ((b0 + b2 + 1) >> 1))
120
121 #define COMPOSE_DD97iH0(b0, b1, b2, b3, b4)\
122     (b2 + ((-b0 + 9*b1 + 9*b3 - b4 + 8) >> 4))
123
124 #define COMPOSE_DD137iL0(b0, b1, b2, b3, b4)\
125     (b2 - ((-b0 + 9*b1 + 9*b3 - b4 + 16) >> 5))
126
127 #define COMPOSE_HAARiL0(b0, b1)\
128     (b0 - ((b1 + 1) >> 1))
129
130 #define COMPOSE_HAARiH0(b0, b1)\
131     (b0 + b1)
132
133 #define COMPOSE_FIDELITYiL0(b0, b1, b2, b3, b4, b5, b6, b7, b8)\
134     (b4 - ((-8*(b0+b8) + 21*(b1+b7) - 46*(b2+b6) + 161*(b3+b5) + 128) >> 8))
135
136 #define COMPOSE_FIDELITYiH0(b0, b1, b2, b3, b4, b5, b6, b7, b8)\
137     (b4 + ((-2*(b0+b8) + 10*(b1+b7) - 25*(b2+b6) + 81*(b3+b5) + 128) >> 8))
138
139 #define COMPOSE_DAUB97iL1(b0, b1, b2)\
140     (b1 - ((1817*(b0 + b2) + 2048) >> 12))
141
142 #define COMPOSE_DAUB97iH1(b0, b1, b2)\
143     (b1 - (( 113*(b0 + b2) + 64) >> 7))
144
145 #define COMPOSE_DAUB97iL0(b0, b1, b2)\
146     (b1 + (( 217*(b0 + b2) + 2048) >> 12))
147
148 #define COMPOSE_DAUB97iH0(b0, b1, b2)\
149     (b1 + ((6497*(b0 + b2) + 2048) >> 12))
150
151
152
153 #define DWT_97 0
154 #define DWT_53 1
155
156 #define liftS lift
157 #define W_AM 3
158 #define W_AO 0
159 #define W_AS 1
160
161 #undef liftS
162 #define W_BM 1
163 #define W_BO 8
164 #define W_BS 4
165
166 #define W_CM 1
167 #define W_CO 0
168 #define W_CS 0
169
170 #define W_DM 3
171 #define W_DO 4
172 #define W_DS 3
173
174 #define slice_buffer_get_line(slice_buf, line_num)                          \
175     ((slice_buf)->line[line_num] ? (slice_buf)->line[line_num]              \
176                                  : ff_slice_buffer_load_line((slice_buf),   \
177                                                              (line_num)))
178
179 int ff_slice_buffer_init(slice_buffer *buf, int line_count,
180                          int max_allocated_lines, int line_width,
181                          IDWTELEM *base_buffer);
182 void ff_slice_buffer_release(slice_buffer *buf, int line);
183 void ff_slice_buffer_flush(slice_buffer *buf);
184 void ff_slice_buffer_destroy(slice_buffer *buf);
185 IDWTELEM *ff_slice_buffer_load_line(slice_buffer *buf, int line);
186
187 void ff_snow_vertical_compose97i(IDWTELEM *b0, IDWTELEM *b1, IDWTELEM *b2,
188                                  IDWTELEM *b3, IDWTELEM *b4, IDWTELEM *b5,
189                                  int width);
190 void ff_snow_horizontal_compose97i(IDWTELEM *b, IDWTELEM *temp, int width);
191 void ff_snow_inner_add_yblock(const uint8_t *obmc, const int obmc_stride,
192                               uint8_t **block, int b_w, int b_h, int src_x,
193                               int src_y, int src_stride, slice_buffer *sb,
194                               int add, uint8_t *dst8);
195
196 int ff_w53_32_c(void *v, uint8_t *pix1, uint8_t *pix2, int line_size, int h);
197 int ff_w97_32_c(void *v, uint8_t *pix1, uint8_t *pix2, int line_size, int h);
198
199 void ff_spatial_dwt(int *buffer, int *temp, int width, int height, int stride,
200                     int type, int decomposition_count);
201
202 void ff_spatial_idwt_buffered_init(DWTCompose *cs, slice_buffer *sb, int width,
203                                    int height, int stride_line, int type,
204                                    int decomposition_count);
205 void ff_spatial_idwt_buffered_slice(DWTContext *dsp, DWTCompose *cs,
206                                     slice_buffer *slice_buf, IDWTELEM *temp,
207                                     int width, int height, int stride_line,
208                                     int type, int decomposition_count, int y);
209 void ff_spatial_idwt(IDWTELEM *buffer, IDWTELEM *temp, int width, int height,
210                      int stride, int type, int decomposition_count);
211
212 void ff_dwt_init(DWTContext *c);
213 void ff_dwt_init_x86(DWTContext *c);
214
215 #endif /* AVCODEC_DWT_H */