Move ff_ac3_critical_band_size_tab in ac3.c for non-hardcoded tables.
[ffmpeg.git] / libavcodec / ac3.c
1 /*
2  * Common code between the AC-3 encoder and decoder
3  * Copyright (c) 2000 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Common code between the AC-3 encoder and decoder.
25  */
26
27 #include "avcodec.h"
28 #include "ac3.h"
29 #include "get_bits.h"
30
31 #if CONFIG_HARDCODED_TABLES
32
33 /**
34  * Starting frequency coefficient bin for each critical band.
35  */
36 static const uint8_t band_start_tab[AC3_CRITICAL_BANDS+1] = {
37       0,  1,   2,   3,   4,   5,   6,   7,   8,   9,
38      10,  11, 12,  13,  14,  15,  16,  17,  18,  19,
39      20,  21, 22,  23,  24,  25,  26,  27,  28,  31,
40      34,  37, 40,  43,  46,  49,  55,  61,  67,  73,
41      79,  85, 97, 109, 121, 133, 157, 181, 205, 229, 253
42 };
43
44 /**
45  * Map each frequency coefficient bin to the critical band that contains it.
46  */
47 static const uint8_t bin_to_band_tab[253] = {
48      0,
49      1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12,
50     13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24,
51     25, 26, 27, 28, 28, 28, 29, 29, 29, 30, 30, 30,
52     31, 31, 31, 32, 32, 32, 33, 33, 33, 34, 34, 34,
53     35, 35, 35, 35, 35, 35, 36, 36, 36, 36, 36, 36,
54     37, 37, 37, 37, 37, 37, 38, 38, 38, 38, 38, 38,
55     39, 39, 39, 39, 39, 39, 40, 40, 40, 40, 40, 40,
56     41, 41, 41, 41, 41, 41, 41, 41, 41, 41, 41, 41,
57     42, 42, 42, 42, 42, 42, 42, 42, 42, 42, 42, 42,
58     43, 43, 43, 43, 43, 43, 43, 43, 43, 43, 43, 43,
59     44, 44, 44, 44, 44, 44, 44, 44, 44, 44, 44, 44,
60     45, 45, 45, 45, 45, 45, 45, 45, 45, 45, 45, 45,
61     45, 45, 45, 45, 45, 45, 45, 45, 45, 45, 45, 45,
62     46, 46, 46, 46, 46, 46, 46, 46, 46, 46, 46, 46,
63     46, 46, 46, 46, 46, 46, 46, 46, 46, 46, 46, 46,
64     47, 47, 47, 47, 47, 47, 47, 47, 47, 47, 47, 47,
65     47, 47, 47, 47, 47, 47, 47, 47, 47, 47, 47, 47,
66     48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48,
67     48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48,
68     49, 49, 49, 49, 49, 49, 49, 49, 49, 49, 49, 49,
69     49, 49, 49, 49, 49, 49, 49, 49, 49, 49, 49, 49
70 };
71
72 #else /* CONFIG_HARDCODED_TABLES */
73 static const uint8_t ff_ac3_critical_band_size_tab[AC3_CRITICAL_BANDS]={
74     1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
75     1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 3, 3, 3, 3, 3, 3,
76     3, 6, 6, 6, 6, 6, 6, 12, 12, 12, 12, 24, 24, 24, 24, 24
77 };
78
79 static uint8_t band_start_tab[51];
80 static uint8_t bin_to_band_tab[253];
81 #endif
82
83 static inline int calc_lowcomp1(int a, int b0, int b1, int c)
84 {
85     if ((b0 + 256) == b1) {
86         a = c;
87     } else if (b0 > b1) {
88         a = FFMAX(a - 64, 0);
89     }
90     return a;
91 }
92
93 static inline int calc_lowcomp(int a, int b0, int b1, int bin)
94 {
95     if (bin < 7) {
96         return calc_lowcomp1(a, b0, b1, 384);
97     } else if (bin < 20) {
98         return calc_lowcomp1(a, b0, b1, 320);
99     } else {
100         return FFMAX(a - 128, 0);
101     }
102 }
103
104 void ff_ac3_bit_alloc_calc_psd(int8_t *exp, int start, int end, int16_t *psd,
105                                int16_t *band_psd)
106 {
107     int bin, band;
108
109     /* exponent mapping to PSD */
110     for (bin = start; bin < end; bin++) {
111         psd[bin]=(3072 - (exp[bin] << 7));
112     }
113
114     /* PSD integration */
115     bin  = start;
116     band = bin_to_band_tab[start];
117     do {
118         int v = psd[bin++];
119         int band_end = FFMIN(band_start_tab[band+1], end);
120         for (; bin < band_end; bin++) {
121             int max = FFMAX(v, psd[bin]);
122             /* logadd */
123             int adr = FFMIN(max - ((v + psd[bin] + 1) >> 1), 255);
124             v = max + ff_ac3_log_add_tab[adr];
125         }
126         band_psd[band++] = v;
127     } while (end > band_start_tab[band]);
128 }
129
130 int ff_ac3_bit_alloc_calc_mask(AC3BitAllocParameters *s, int16_t *band_psd,
131                                int start, int end, int fast_gain, int is_lfe,
132                                int dba_mode, int dba_nsegs, uint8_t *dba_offsets,
133                                uint8_t *dba_lengths, uint8_t *dba_values,
134                                int16_t *mask)
135 {
136     int16_t excite[AC3_CRITICAL_BANDS]; /* excitation */
137     int band;
138     int band_start, band_end, begin, end1;
139     int lowcomp, fastleak, slowleak;
140
141     /* excitation function */
142     band_start = bin_to_band_tab[start];
143     band_end   = bin_to_band_tab[end-1] + 1;
144
145     if (band_start == 0) {
146         lowcomp = 0;
147         lowcomp = calc_lowcomp1(lowcomp, band_psd[0], band_psd[1], 384);
148         excite[0] = band_psd[0] - fast_gain - lowcomp;
149         lowcomp = calc_lowcomp1(lowcomp, band_psd[1], band_psd[2], 384);
150         excite[1] = band_psd[1] - fast_gain - lowcomp;
151         begin = 7;
152         for (band = 2; band < 7; band++) {
153             if (!(is_lfe && band == 6))
154                 lowcomp = calc_lowcomp1(lowcomp, band_psd[band], band_psd[band+1], 384);
155             fastleak = band_psd[band] - fast_gain;
156             slowleak = band_psd[band] - s->slow_gain;
157             excite[band] = fastleak - lowcomp;
158             if (!(is_lfe && band == 6)) {
159                 if (band_psd[band] <= band_psd[band+1]) {
160                     begin = band + 1;
161                     break;
162                 }
163             }
164         }
165
166         end1 = FFMIN(band_end, 22);
167         for (band = begin; band < end1; band++) {
168             if (!(is_lfe && band == 6))
169                 lowcomp = calc_lowcomp(lowcomp, band_psd[band], band_psd[band+1], band);
170             fastleak = FFMAX(fastleak - s->fast_decay, band_psd[band] - fast_gain);
171             slowleak = FFMAX(slowleak - s->slow_decay, band_psd[band] - s->slow_gain);
172             excite[band] = FFMAX(fastleak - lowcomp, slowleak);
173         }
174         begin = 22;
175     } else {
176         /* coupling channel */
177         begin = band_start;
178         fastleak = (s->cpl_fast_leak << 8) + 768;
179         slowleak = (s->cpl_slow_leak << 8) + 768;
180     }
181
182     for (band = begin; band < band_end; band++) {
183         fastleak = FFMAX(fastleak - s->fast_decay, band_psd[band] - fast_gain);
184         slowleak = FFMAX(slowleak - s->slow_decay, band_psd[band] - s->slow_gain);
185         excite[band] = FFMAX(fastleak, slowleak);
186     }
187
188     /* compute masking curve */
189
190     for (band = band_start; band < band_end; band++) {
191         int tmp = s->db_per_bit - band_psd[band];
192         if (tmp > 0) {
193             excite[band] += tmp >> 2;
194         }
195         mask[band] = FFMAX(ff_ac3_hearing_threshold_tab[band >> s->sr_shift][s->sr_code], excite[band]);
196     }
197
198     /* delta bit allocation */
199
200     if (dba_mode == DBA_REUSE || dba_mode == DBA_NEW) {
201         int i, seg, delta;
202         if (dba_nsegs >= 8)
203             return -1;
204         band = 0;
205         for (seg = 0; seg < dba_nsegs; seg++) {
206             band += dba_offsets[seg];
207             if (band >= AC3_CRITICAL_BANDS || dba_lengths[seg] > AC3_CRITICAL_BANDS-band)
208                 return -1;
209             if (dba_values[seg] >= 4) {
210                 delta = (dba_values[seg] - 3) << 7;
211             } else {
212                 delta = (dba_values[seg] - 4) << 7;
213             }
214             for (i = 0; i < dba_lengths[seg]; i++) {
215                 mask[band++] += delta;
216             }
217         }
218     }
219     return 0;
220 }
221
222 void ff_ac3_bit_alloc_calc_bap(int16_t *mask, int16_t *psd, int start, int end,
223                                int snr_offset, int floor,
224                                const uint8_t *bap_tab, uint8_t *bap)
225 {
226     int bin, band;
227
228     /* special case, if snr offset is -960, set all bap's to zero */
229     if (snr_offset == -960) {
230         memset(bap, 0, AC3_MAX_COEFS);
231         return;
232     }
233
234     bin  = start;
235     band = bin_to_band_tab[start];
236     do {
237         int m = (FFMAX(mask[band] - snr_offset - floor, 0) & 0x1FE0) + floor;
238         int band_end = FFMIN(band_start_tab[band+1], end);
239         for (; bin < band_end; bin++) {
240             int address = av_clip((psd[bin] - m) >> 5, 0, 63);
241             bap[bin] = bap_tab[address];
242         }
243     } while (end > band_start_tab[band++]);
244 }
245
246 /**
247  * Initialize some tables.
248  * note: This function must remain thread safe because it is called by the
249  *       AVParser init code.
250  */
251 av_cold void ac3_common_init(void)
252 {
253 #if !CONFIG_HARDCODED_TABLES
254     /* compute bndtab and masktab from bandsz */
255     int bin = 0, band;
256     for (band = 0; band < AC3_CRITICAL_BANDS; band++) {
257         int band_end = bin + ff_ac3_critical_band_size_tab[band];
258         band_start_tab[band] = bin;
259         while (bin < band_end)
260             bin_to_band_tab[bin++] = band;
261     }
262     band_start_tab[AC3_CRITICAL_BANDS] = bin;
263 #endif /* !CONFIG_HARDCODED_TABLES */
264 }