mpegaudio: move OUT_FMT macro to mpegaudiodec.c
[ffmpeg.git] / libavcodec / mpegaudio.h
1 /*
2  * copyright (c) 2001 Fabrice Bellard
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * mpeg audio declarations for both encoder and decoder.
24  */
25
26 #ifndef AVCODEC_MPEGAUDIO_H
27 #define AVCODEC_MPEGAUDIO_H
28
29 #ifndef CONFIG_FLOAT
30 #   define CONFIG_FLOAT 0
31 #endif
32
33 #include "avcodec.h"
34 #include "get_bits.h"
35 #include "dsputil.h"
36 #include "dct.h"
37
38 /* max frame size, in samples */
39 #define MPA_FRAME_SIZE 1152
40
41 /* max compressed frame size */
42 #define MPA_MAX_CODED_FRAME_SIZE 1792
43
44 #define MPA_MAX_CHANNELS 2
45
46 #define SBLIMIT 32 /* number of subbands */
47
48 #define MPA_STEREO  0
49 #define MPA_JSTEREO 1
50 #define MPA_DUAL    2
51 #define MPA_MONO    3
52
53 /* header + layer + bitrate + freq + lsf/mpeg25 */
54 #define SAME_HEADER_MASK \
55    (0xffe00000 | (3 << 17) | (0xf << 12) | (3 << 10) | (3 << 19))
56
57 #define MP3_MASK 0xFFFE0CCF
58
59 #ifndef FRAC_BITS
60 #define FRAC_BITS   23   /* fractional bits for sb_samples and dct */
61 #define WFRAC_BITS  16   /* fractional bits for window */
62 #endif
63
64 #define FRAC_ONE    (1 << FRAC_BITS)
65
66 #define FIX(a)   ((int)((a) * FRAC_ONE))
67
68 #if CONFIG_FLOAT
69 typedef float OUT_INT;
70 #else
71 typedef int16_t OUT_INT;
72 #define OUT_SHIFT (WFRAC_BITS + FRAC_BITS - 15)
73 #endif
74
75 #if CONFIG_FLOAT
76 #   define INTFLOAT float
77 typedef float MPA_INT;
78 #elif FRAC_BITS <= 15
79 #   define INTFLOAT int
80 typedef int16_t MPA_INT;
81 #else
82 #   define INTFLOAT int
83 typedef int32_t MPA_INT;
84 #endif
85
86 #define BACKSTEP_SIZE 512
87 #define EXTRABYTES 24
88
89 /* layer 3 "granule" */
90 typedef struct GranuleDef {
91     uint8_t scfsi;
92     int part2_3_length;
93     int big_values;
94     int global_gain;
95     int scalefac_compress;
96     uint8_t block_type;
97     uint8_t switch_point;
98     int table_select[3];
99     int subblock_gain[3];
100     uint8_t scalefac_scale;
101     uint8_t count1table_select;
102     int region_size[3]; /* number of huffman codes in each region */
103     int preflag;
104     int short_start, long_end; /* long/short band indexes */
105     uint8_t scale_factors[40];
106     INTFLOAT sb_hybrid[SBLIMIT * 18]; /* 576 samples */
107 } GranuleDef;
108
109 #define MPA_DECODE_HEADER \
110     int frame_size; \
111     int error_protection; \
112     int layer; \
113     int sample_rate; \
114     int sample_rate_index; /* between 0 and 8 */ \
115     int bit_rate; \
116     int nb_channels; \
117     int mode; \
118     int mode_ext; \
119     int lsf;
120
121 typedef struct MPADecodeHeader {
122   MPA_DECODE_HEADER
123 } MPADecodeHeader;
124
125 typedef struct MPADecodeContext {
126     MPA_DECODE_HEADER
127     uint8_t last_buf[2*BACKSTEP_SIZE + EXTRABYTES];
128     int last_buf_size;
129     /* next header (used in free format parsing) */
130     uint32_t free_format_next_header;
131     GetBitContext gb;
132     GetBitContext in_gb;
133     DECLARE_ALIGNED(16, MPA_INT, synth_buf)[MPA_MAX_CHANNELS][512 * 2];
134     int synth_buf_offset[MPA_MAX_CHANNELS];
135     DECLARE_ALIGNED(16, INTFLOAT, sb_samples)[MPA_MAX_CHANNELS][36][SBLIMIT];
136     INTFLOAT mdct_buf[MPA_MAX_CHANNELS][SBLIMIT * 18]; /* previous samples, for layer 3 MDCT */
137     GranuleDef granules[2][2]; /* Used in Layer 3 */
138 #ifdef DEBUG
139     int frame_count;
140 #endif
141     int adu_mode; ///< 0 for standard mp3, 1 for adu formatted mp3
142     int dither_state;
143     int error_recognition;
144     AVCodecContext* avctx;
145 #if CONFIG_FLOAT
146     DCTContext dct;
147 #endif
148     void (*apply_window_mp3)(MPA_INT *synth_buf, MPA_INT *window,
149                              int *dither_state, OUT_INT *samples, int incr);
150 } MPADecodeContext;
151
152 /* layer 3 huffman tables */
153 typedef struct HuffTable {
154     int xsize;
155     const uint8_t *bits;
156     const uint16_t *codes;
157 } HuffTable;
158
159 int ff_mpa_l2_select_table(int bitrate, int nb_channels, int freq, int lsf);
160 int ff_mpa_decode_header(AVCodecContext *avctx, uint32_t head, int *sample_rate, int *channels, int *frame_size, int *bitrate);
161 extern MPA_INT ff_mpa_synth_window[];
162 void ff_mpa_synth_init(MPA_INT *window);
163 void ff_mpa_synth_filter(MPA_INT *synth_buf_ptr, int *synth_buf_offset,
164                          MPA_INT *window, int *dither_state,
165                          OUT_INT *samples, int incr,
166                          INTFLOAT sb_samples[SBLIMIT]);
167
168 void ff_mpa_synth_init_float(MPA_INT *window);
169 void ff_mpa_synth_filter_float(MPADecodeContext *s,
170                          MPA_INT *synth_buf_ptr, int *synth_buf_offset,
171                          MPA_INT *window, int *dither_state,
172                          OUT_INT *samples, int incr,
173                          INTFLOAT sb_samples[SBLIMIT]);
174
175 void ff_mpegaudiodec_init_mmx(MPADecodeContext *s);
176 void ff_mpegaudiodec_init_altivec(MPADecodeContext *s);
177
178 /* fast header check for resync */
179 static inline int ff_mpa_check_header(uint32_t header){
180     /* header */
181     if ((header & 0xffe00000) != 0xffe00000)
182         return -1;
183     /* layer check */
184     if ((header & (3<<17)) == 0)
185         return -1;
186     /* bit rate */
187     if ((header & (0xf<<12)) == 0xf<<12)
188         return -1;
189     /* frequency */
190     if ((header & (3<<10)) == 3<<10)
191         return -1;
192     return 0;
193 }
194
195 #endif /* AVCODEC_MPEGAUDIO_H */