mpegaudio: remove OUT_MIN/MAX macros
[ffmpeg.git] / libavcodec / mpegaudio.h
1 /*
2  * copyright (c) 2001 Fabrice Bellard
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * mpeg audio declarations for both encoder and decoder.
24  */
25
26 #ifndef AVCODEC_MPEGAUDIO_H
27 #define AVCODEC_MPEGAUDIO_H
28
29 #ifndef CONFIG_FLOAT
30 #   define CONFIG_FLOAT 0
31 #endif
32
33 #include "avcodec.h"
34 #include "get_bits.h"
35 #include "dsputil.h"
36 #include "dct.h"
37
38 /* max frame size, in samples */
39 #define MPA_FRAME_SIZE 1152
40
41 /* max compressed frame size */
42 #define MPA_MAX_CODED_FRAME_SIZE 1792
43
44 #define MPA_MAX_CHANNELS 2
45
46 #define SBLIMIT 32 /* number of subbands */
47
48 #define MPA_STEREO  0
49 #define MPA_JSTEREO 1
50 #define MPA_DUAL    2
51 #define MPA_MONO    3
52
53 /* header + layer + bitrate + freq + lsf/mpeg25 */
54 #define SAME_HEADER_MASK \
55    (0xffe00000 | (3 << 17) | (0xf << 12) | (3 << 10) | (3 << 19))
56
57 #define MP3_MASK 0xFFFE0CCF
58
59 #ifndef FRAC_BITS
60 #define FRAC_BITS   23   /* fractional bits for sb_samples and dct */
61 #define WFRAC_BITS  16   /* fractional bits for window */
62 #endif
63
64 #define FRAC_ONE    (1 << FRAC_BITS)
65
66 #define FIX(a)   ((int)((a) * FRAC_ONE))
67
68 #if CONFIG_FLOAT
69 typedef float OUT_INT;
70 #define OUT_FMT AV_SAMPLE_FMT_FLT
71 #else
72 typedef int16_t OUT_INT;
73 #define OUT_SHIFT (WFRAC_BITS + FRAC_BITS - 15)
74 #define OUT_FMT AV_SAMPLE_FMT_S16
75 #endif
76
77 #if CONFIG_FLOAT
78 #   define INTFLOAT float
79 typedef float MPA_INT;
80 #elif FRAC_BITS <= 15
81 #   define INTFLOAT int
82 typedef int16_t MPA_INT;
83 #else
84 #   define INTFLOAT int
85 typedef int32_t MPA_INT;
86 #endif
87
88 #define BACKSTEP_SIZE 512
89 #define EXTRABYTES 24
90
91 /* layer 3 "granule" */
92 typedef struct GranuleDef {
93     uint8_t scfsi;
94     int part2_3_length;
95     int big_values;
96     int global_gain;
97     int scalefac_compress;
98     uint8_t block_type;
99     uint8_t switch_point;
100     int table_select[3];
101     int subblock_gain[3];
102     uint8_t scalefac_scale;
103     uint8_t count1table_select;
104     int region_size[3]; /* number of huffman codes in each region */
105     int preflag;
106     int short_start, long_end; /* long/short band indexes */
107     uint8_t scale_factors[40];
108     INTFLOAT sb_hybrid[SBLIMIT * 18]; /* 576 samples */
109 } GranuleDef;
110
111 #define MPA_DECODE_HEADER \
112     int frame_size; \
113     int error_protection; \
114     int layer; \
115     int sample_rate; \
116     int sample_rate_index; /* between 0 and 8 */ \
117     int bit_rate; \
118     int nb_channels; \
119     int mode; \
120     int mode_ext; \
121     int lsf;
122
123 typedef struct MPADecodeHeader {
124   MPA_DECODE_HEADER
125 } MPADecodeHeader;
126
127 typedef struct MPADecodeContext {
128     MPA_DECODE_HEADER
129     uint8_t last_buf[2*BACKSTEP_SIZE + EXTRABYTES];
130     int last_buf_size;
131     /* next header (used in free format parsing) */
132     uint32_t free_format_next_header;
133     GetBitContext gb;
134     GetBitContext in_gb;
135     DECLARE_ALIGNED(16, MPA_INT, synth_buf)[MPA_MAX_CHANNELS][512 * 2];
136     int synth_buf_offset[MPA_MAX_CHANNELS];
137     DECLARE_ALIGNED(16, INTFLOAT, sb_samples)[MPA_MAX_CHANNELS][36][SBLIMIT];
138     INTFLOAT mdct_buf[MPA_MAX_CHANNELS][SBLIMIT * 18]; /* previous samples, for layer 3 MDCT */
139     GranuleDef granules[2][2]; /* Used in Layer 3 */
140 #ifdef DEBUG
141     int frame_count;
142 #endif
143     int adu_mode; ///< 0 for standard mp3, 1 for adu formatted mp3
144     int dither_state;
145     int error_recognition;
146     AVCodecContext* avctx;
147 #if CONFIG_FLOAT
148     DCTContext dct;
149 #endif
150     void (*apply_window_mp3)(MPA_INT *synth_buf, MPA_INT *window,
151                              int *dither_state, OUT_INT *samples, int incr);
152 } MPADecodeContext;
153
154 /* layer 3 huffman tables */
155 typedef struct HuffTable {
156     int xsize;
157     const uint8_t *bits;
158     const uint16_t *codes;
159 } HuffTable;
160
161 int ff_mpa_l2_select_table(int bitrate, int nb_channels, int freq, int lsf);
162 int ff_mpa_decode_header(AVCodecContext *avctx, uint32_t head, int *sample_rate, int *channels, int *frame_size, int *bitrate);
163 extern MPA_INT ff_mpa_synth_window[];
164 void ff_mpa_synth_init(MPA_INT *window);
165 void ff_mpa_synth_filter(MPA_INT *synth_buf_ptr, int *synth_buf_offset,
166                          MPA_INT *window, int *dither_state,
167                          OUT_INT *samples, int incr,
168                          INTFLOAT sb_samples[SBLIMIT]);
169
170 void ff_mpa_synth_init_float(MPA_INT *window);
171 void ff_mpa_synth_filter_float(MPADecodeContext *s,
172                          MPA_INT *synth_buf_ptr, int *synth_buf_offset,
173                          MPA_INT *window, int *dither_state,
174                          OUT_INT *samples, int incr,
175                          INTFLOAT sb_samples[SBLIMIT]);
176
177 void ff_mpegaudiodec_init_mmx(MPADecodeContext *s);
178 void ff_mpegaudiodec_init_altivec(MPADecodeContext *s);
179
180 /* fast header check for resync */
181 static inline int ff_mpa_check_header(uint32_t header){
182     /* header */
183     if ((header & 0xffe00000) != 0xffe00000)
184         return -1;
185     /* layer check */
186     if ((header & (3<<17)) == 0)
187         return -1;
188     /* bit rate */
189     if ((header & (0xf<<12)) == 0xf<<12)
190         return -1;
191     /* frequency */
192     if ((header & (3<<10)) == 3<<10)
193         return -1;
194     return 0;
195 }
196
197 #endif /* AVCODEC_MPEGAUDIO_H */