move some CFLAGS settings away from config.* writing section
[ffmpeg.git] / libavcodec / snow.h
1 /*
2  * Copyright (C) 2004 Michael Niedermayer <michaelni@gmx.at>
3  * Copyright (C) 2006 Robert Edele <yartrebo@earthlink.net>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #ifndef _SNOW_H
23 #define _SNOW_H
24
25 #include "dsputil.h"
26
27 #define MID_STATE 128
28
29 #define MAX_DECOMPOSITIONS 8
30 #define MAX_PLANES 4
31 #define QSHIFT 5
32 #define QROOT (1<<QSHIFT)
33 #define LOSSLESS_QLOG -128
34 #define FRAC_BITS 8
35 #define MAX_REF_FRAMES 8
36
37 #define LOG2_OBMC_MAX 8
38 #define OBMC_MAX (1<<(LOG2_OBMC_MAX))
39
40 #define DWT_97 0
41 #define DWT_53 1
42 #define DWT_X  2
43
44 /** Used to minimize the amount of memory used in order to optimize cache performance. **/
45 struct slice_buffer_s {
46     DWTELEM * * line; ///< For use by idwt and predict_slices.
47     DWTELEM * * data_stack; ///< Used for internal purposes.
48     int data_stack_top;
49     int line_count;
50     int line_width;
51     int data_count;
52     DWTELEM * base_buffer; ///< Buffer that this structure is caching.
53 };
54
55 #define liftS lift
56 #define lift5 lift
57 #if 1
58 #define W_AM 3
59 #define W_AO 0
60 #define W_AS 1
61
62 #undef liftS
63 #define W_BM 1
64 #define W_BO 8
65 #define W_BS 4
66
67 #define W_CM 1
68 #define W_CO 0
69 #define W_CS 0
70
71 #define W_DM 3
72 #define W_DO 4
73 #define W_DS 3
74 #elif 0
75 #define W_AM 55
76 #define W_AO 16
77 #define W_AS 5
78
79 #define W_BM 3
80 #define W_BO 32
81 #define W_BS 6
82
83 #define W_CM 127
84 #define W_CO 64
85 #define W_CS 7
86
87 #define W_DM 7
88 #define W_DO 8
89 #define W_DS 4
90 #elif 0
91 #define W_AM 97
92 #define W_AO 32
93 #define W_AS 6
94
95 #define W_BM 63
96 #define W_BO 512
97 #define W_BS 10
98
99 #define W_CM 13
100 #define W_CO 8
101 #define W_CS 4
102
103 #define W_DM 15
104 #define W_DO 16
105 #define W_DS 5
106
107 #else
108
109 #define W_AM 203
110 #define W_AO 64
111 #define W_AS 7
112
113 #define W_BM 217
114 #define W_BO 2048
115 #define W_BS 12
116
117 #define W_CM 113
118 #define W_CO 64
119 #define W_CS 7
120
121 #define W_DM 227
122 #define W_DO 128
123 #define W_DS 9
124 #endif
125
126 extern void ff_snow_vertical_compose97i(DWTELEM *b0, DWTELEM *b1, DWTELEM *b2, DWTELEM *b3, DWTELEM *b4, DWTELEM *b5, int width);
127 extern void ff_snow_horizontal_compose97i(DWTELEM *b, int width);
128 extern void ff_snow_inner_add_yblock(uint8_t *obmc, const int obmc_stride, uint8_t * * block, int b_w, int b_h, int src_x, int src_y, int src_stride, slice_buffer * sb, int add, uint8_t * dst8);
129
130 #ifdef CONFIG_SNOW_ENCODER
131 int ff_w53_32_c(void *v, uint8_t * pix1, uint8_t * pix2, int line_size, int h);
132 int ff_w97_32_c(void *v, uint8_t * pix1, uint8_t * pix2, int line_size, int h);
133 #else
134 static int w53_32_c(void *v, uint8_t * pix1, uint8_t * pix2, int line_size, int h) {assert (0);}
135 static int w97_32_c(void *v, uint8_t * pix1, uint8_t * pix2, int line_size, int h) {assert (0);}
136 #endif
137
138 /* C bits used by mmx/sse2/altivec */
139
140 static always_inline void snow_interleave_line_header(int * i, int width, DWTELEM * low, DWTELEM * high){
141     (*i) = (width) - 2;
142
143     if (width & 1){
144         low[(*i)+1] = low[((*i)+1)>>1];
145         (*i)--;
146     }
147 }
148
149 static always_inline void snow_interleave_line_footer(int * i, DWTELEM * low, DWTELEM * high){
150     for (; (*i)>=0; (*i)-=2){
151         low[(*i)+1] = high[(*i)>>1];
152         low[*i] = low[(*i)>>1];
153     }
154 }
155
156 static always_inline void snow_horizontal_compose_lift_lead_out(int i, DWTELEM * dst, DWTELEM * src, DWTELEM * ref, int width, int w, int lift_high, int mul, int add, int shift){
157     for(; i<w; i++){
158         dst[i] = src[i] - ((mul * (ref[i] + ref[i + 1]) + add) >> shift);
159     }
160
161     if((width^lift_high)&1){
162         dst[w] = src[w] - ((mul * 2 * ref[w] + add) >> shift);
163     }
164 }
165
166 static always_inline void snow_horizontal_compose_liftS_lead_out(int i, DWTELEM * dst, DWTELEM * src, DWTELEM * ref, int width, int w){
167         for(; i<w; i++){
168             dst[i] = src[i] - (((-(ref[i] + ref[(i+1)])+W_BO) - 4 * src[i]) >> W_BS);
169         }
170
171         if(width&1){
172             dst[w] = src[w] - (((-2 * ref[w] + W_BO) - 4 * src[w]) >> W_BS);
173         }
174 }
175
176 #endif