simplify by combining increment with array access
[ffmpeg.git] / libavcodec / ac3.c
1 /*
2  * Common code between the AC-3 encoder and decoder
3  * Copyright (c) 2000 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file libavcodec/ac3.c
24  * Common code between the AC-3 encoder and decoder.
25  */
26
27 #include "avcodec.h"
28 #include "ac3.h"
29 #include "get_bits.h"
30
31 #if CONFIG_HARDCODED_TABLES
32
33 /**
34  * Starting frequency coefficient bin for each critical band.
35  */
36 static const uint8_t band_start_tab[51] = {
37       0,  1,   2,   3,   4,   5,   6,   7,   8,   9,
38      10,  11, 12,  13,  14,  15,  16,  17,  18,  19,
39      20,  21, 22,  23,  24,  25,  26,  27,  28,  31,
40      34,  37, 40,  43,  46,  49,  55,  61,  67,  73,
41      79,  85, 97, 109, 121, 133, 157, 181, 205, 229, 253
42 };
43
44 /**
45  * Maps each frequency coefficient bin to the critical band that contains it.
46  */
47 static const uint8_t bin_to_band_tab[253] = {
48      0,
49      1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12,
50     13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24,
51     25, 26, 27, 28, 28, 28, 29, 29, 29, 30, 30, 30,
52     31, 31, 31, 32, 32, 32, 33, 33, 33, 34, 34, 34,
53     35, 35, 35, 35, 35, 35, 36, 36, 36, 36, 36, 36,
54     37, 37, 37, 37, 37, 37, 38, 38, 38, 38, 38, 38,
55     39, 39, 39, 39, 39, 39, 40, 40, 40, 40, 40, 40,
56     41, 41, 41, 41, 41, 41, 41, 41, 41, 41, 41, 41,
57     42, 42, 42, 42, 42, 42, 42, 42, 42, 42, 42, 42,
58     43, 43, 43, 43, 43, 43, 43, 43, 43, 43, 43, 43,
59     44, 44, 44, 44, 44, 44, 44, 44, 44, 44, 44, 44,
60     45, 45, 45, 45, 45, 45, 45, 45, 45, 45, 45, 45,
61     45, 45, 45, 45, 45, 45, 45, 45, 45, 45, 45, 45,
62     46, 46, 46, 46, 46, 46, 46, 46, 46, 46, 46, 46,
63     46, 46, 46, 46, 46, 46, 46, 46, 46, 46, 46, 46,
64     47, 47, 47, 47, 47, 47, 47, 47, 47, 47, 47, 47,
65     47, 47, 47, 47, 47, 47, 47, 47, 47, 47, 47, 47,
66     48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48,
67     48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48,
68     49, 49, 49, 49, 49, 49, 49, 49, 49, 49, 49, 49,
69     49, 49, 49, 49, 49, 49, 49, 49, 49, 49, 49, 49
70 };
71
72 #else /* CONFIG_HARDCODED_TABLES */
73 static uint8_t band_start_tab[51];
74 static uint8_t bin_to_band_tab[253];
75 #endif
76
77 static inline int calc_lowcomp1(int a, int b0, int b1, int c)
78 {
79     if ((b0 + 256) == b1) {
80         a = c;
81     } else if (b0 > b1) {
82         a = FFMAX(a - 64, 0);
83     }
84     return a;
85 }
86
87 static inline int calc_lowcomp(int a, int b0, int b1, int bin)
88 {
89     if (bin < 7) {
90         return calc_lowcomp1(a, b0, b1, 384);
91     } else if (bin < 20) {
92         return calc_lowcomp1(a, b0, b1, 320);
93     } else {
94         return FFMAX(a - 128, 0);
95     }
96 }
97
98 void ff_ac3_bit_alloc_calc_psd(int8_t *exp, int start, int end, int16_t *psd,
99                                int16_t *band_psd)
100 {
101     int bin, j, k, end1, v;
102
103     /* exponent mapping to PSD */
104     for(bin=start;bin<end;bin++) {
105         psd[bin]=(3072 - (exp[bin] << 7));
106     }
107
108     /* PSD integration */
109     j=start;
110     k=bin_to_band_tab[start];
111     do {
112         v = psd[j++];
113         end1 = FFMIN(band_start_tab[k+1], end);
114         for (; j < end1; j++) {
115             /* logadd */
116             int adr = FFMIN(FFABS(v - psd[j]) >> 1, 255);
117             v = FFMAX(v, psd[j]) + ff_ac3_log_add_tab[adr];
118         }
119         band_psd[k]=v;
120         k++;
121     } while (end > band_start_tab[k]);
122 }
123
124 int ff_ac3_bit_alloc_calc_mask(AC3BitAllocParameters *s, int16_t *band_psd,
125                                int start, int end, int fast_gain, int is_lfe,
126                                int dba_mode, int dba_nsegs, uint8_t *dba_offsets,
127                                uint8_t *dba_lengths, uint8_t *dba_values,
128                                int16_t *mask)
129 {
130     int16_t excite[50]; /* excitation */
131     int bin, k;
132     int bndstrt, bndend, begin, end1, tmp;
133     int lowcomp, fastleak, slowleak;
134
135     /* excitation function */
136     bndstrt = bin_to_band_tab[start];
137     bndend = bin_to_band_tab[end-1] + 1;
138
139     if (bndstrt == 0) {
140         lowcomp = 0;
141         lowcomp = calc_lowcomp1(lowcomp, band_psd[0], band_psd[1], 384);
142         excite[0] = band_psd[0] - fast_gain - lowcomp;
143         lowcomp = calc_lowcomp1(lowcomp, band_psd[1], band_psd[2], 384);
144         excite[1] = band_psd[1] - fast_gain - lowcomp;
145         begin = 7;
146         for (bin = 2; bin < 7; bin++) {
147             if (!(is_lfe && bin == 6))
148                 lowcomp = calc_lowcomp1(lowcomp, band_psd[bin], band_psd[bin+1], 384);
149             fastleak = band_psd[bin] - fast_gain;
150             slowleak = band_psd[bin] - s->slow_gain;
151             excite[bin] = fastleak - lowcomp;
152             if (!(is_lfe && bin == 6)) {
153                 if (band_psd[bin] <= band_psd[bin+1]) {
154                     begin = bin + 1;
155                     break;
156                 }
157             }
158         }
159
160         end1=bndend;
161         if (end1 > 22) end1=22;
162
163         for (bin = begin; bin < end1; bin++) {
164             if (!(is_lfe && bin == 6))
165                 lowcomp = calc_lowcomp(lowcomp, band_psd[bin], band_psd[bin+1], bin);
166
167             fastleak = FFMAX(fastleak - s->fast_decay, band_psd[bin] - fast_gain);
168             slowleak = FFMAX(slowleak - s->slow_decay, band_psd[bin] - s->slow_gain);
169             excite[bin] = FFMAX(fastleak - lowcomp, slowleak);
170         }
171         begin = 22;
172     } else {
173         /* coupling channel */
174         begin = bndstrt;
175
176         fastleak = (s->cpl_fast_leak << 8) + 768;
177         slowleak = (s->cpl_slow_leak << 8) + 768;
178     }
179
180     for (bin = begin; bin < bndend; bin++) {
181         fastleak = FFMAX(fastleak - s->fast_decay, band_psd[bin] - fast_gain);
182         slowleak = FFMAX(slowleak - s->slow_decay, band_psd[bin] - s->slow_gain);
183         excite[bin] = FFMAX(fastleak, slowleak);
184     }
185
186     /* compute masking curve */
187
188     for (bin = bndstrt; bin < bndend; bin++) {
189         tmp = s->db_per_bit - band_psd[bin];
190         if (tmp > 0) {
191             excite[bin] += tmp >> 2;
192         }
193         mask[bin] = FFMAX(ff_ac3_hearing_threshold_tab[bin >> s->sr_shift][s->sr_code], excite[bin]);
194     }
195
196     /* delta bit allocation */
197
198     if (dba_mode == DBA_REUSE || dba_mode == DBA_NEW) {
199         int band, seg, delta;
200         if (dba_nsegs >= 8)
201             return -1;
202         band = 0;
203         for (seg = 0; seg < dba_nsegs; seg++) {
204             band += dba_offsets[seg];
205             if (band >= 50 || dba_lengths[seg] > 50-band)
206                 return -1;
207             if (dba_values[seg] >= 4) {
208                 delta = (dba_values[seg] - 3) << 7;
209             } else {
210                 delta = (dba_values[seg] - 4) << 7;
211             }
212             for (k = 0; k < dba_lengths[seg]; k++) {
213                 mask[band] += delta;
214                 band++;
215             }
216         }
217     }
218     return 0;
219 }
220
221 void ff_ac3_bit_alloc_calc_bap(int16_t *mask, int16_t *psd, int start, int end,
222                                int snr_offset, int floor,
223                                const uint8_t *bap_tab, uint8_t *bap)
224 {
225     int i, j, k, end1, v, address;
226
227     /* special case, if snr offset is -960, set all bap's to zero */
228     if(snr_offset == -960) {
229         memset(bap, 0, 256);
230         return;
231     }
232
233     i = start;
234     j = bin_to_band_tab[start];
235     do {
236         v = (FFMAX(mask[j] - snr_offset - floor, 0) & 0x1FE0) + floor;
237         end1 = FFMIN(band_start_tab[j] + ff_ac3_critical_band_size_tab[j], end);
238         for (k = i; k < end1; k++) {
239             address = av_clip((psd[i] - v) >> 5, 0, 63);
240             bap[i] = bap_tab[address];
241             i++;
242         }
243     } while (end > band_start_tab[j++]);
244 }
245
246 /* AC-3 bit allocation. The algorithm is the one described in the AC-3
247    spec. */
248 void ac3_parametric_bit_allocation(AC3BitAllocParameters *s, uint8_t *bap,
249                                    int8_t *exp, int start, int end,
250                                    int snr_offset, int fast_gain, int is_lfe,
251                                    int dba_mode, int dba_nsegs,
252                                    uint8_t *dba_offsets, uint8_t *dba_lengths,
253                                    uint8_t *dba_values)
254 {
255     int16_t psd[256];   /* scaled exponents */
256     int16_t band_psd[50]; /* interpolated exponents */
257     int16_t mask[50];   /* masking value */
258
259     ff_ac3_bit_alloc_calc_psd(exp, start, end, psd, band_psd);
260
261     ff_ac3_bit_alloc_calc_mask(s, band_psd, start, end, fast_gain, is_lfe,
262                                dba_mode, dba_nsegs, dba_offsets, dba_lengths, dba_values,
263                                mask);
264
265     ff_ac3_bit_alloc_calc_bap(mask, psd, start, end, snr_offset, s->floor,
266                               ff_ac3_bap_tab, bap);
267 }
268
269 /**
270  * Initializes some tables.
271  * note: This function must remain thread safe because it is called by the
272  *       AVParser init code.
273  */
274 av_cold void ac3_common_init(void)
275 {
276 #if !CONFIG_HARDCODED_TABLES
277     int i, j, k, l, v;
278     /* compute bndtab and masktab from bandsz */
279     k = 0;
280     l = 0;
281     for(i=0;i<50;i++) {
282         band_start_tab[i] = l;
283         v = ff_ac3_critical_band_size_tab[i];
284         for(j=0;j<v;j++) bin_to_band_tab[k++]=i;
285         l += v;
286     }
287     band_start_tab[50] = l;
288 #endif /* !CONFIG_HARDCODED_TABLES */
289 }