1000l to myself - get correct quantization for blocks 1 and 2
[ffmpeg.git] / libavcodec / ac3.c
1 /*
2  * Common code between AC3 encoder and decoder
3  * Copyright (c) 2000 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file ac3.c
24  * Common code between AC3 encoder and decoder.
25  */
26
27 #include "avcodec.h"
28 #include "ac3.h"
29 #include "ac3tab.h"
30 #include "bitstream.h"
31
32 static inline int calc_lowcomp1(int a, int b0, int b1, int c)
33 {
34     if ((b0 + 256) == b1) {
35         a = c;
36     } else if (b0 > b1) {
37         a = FFMAX(a - 64, 0);
38     }
39     return a;
40 }
41
42 static inline int calc_lowcomp(int a, int b0, int b1, int bin)
43 {
44     if (bin < 7) {
45         return calc_lowcomp1(a, b0, b1, 384);
46     } else if (bin < 20) {
47         return calc_lowcomp1(a, b0, b1, 320);
48     } else {
49         return FFMAX(a - 128, 0);
50     }
51 }
52
53 void ff_ac3_bit_alloc_calc_psd(int8_t *exp, int start, int end, int16_t *psd,
54                                int16_t *bndpsd)
55 {
56     int bin, i, j, k, end1, v;
57
58     /* exponent mapping to PSD */
59     for(bin=start;bin<end;bin++) {
60         psd[bin]=(3072 - (exp[bin] << 7));
61     }
62
63     /* PSD integration */
64     j=start;
65     k=masktab[start];
66     do {
67         v=psd[j];
68         j++;
69         end1 = FFMIN(bndtab[k+1], end);
70         for(i=j;i<end1;i++) {
71             /* logadd */
72             int adr = FFMIN(FFABS(v - psd[j]) >> 1, 255);
73             v = FFMAX(v, psd[j]) + latab[adr];
74             j++;
75         }
76         bndpsd[k]=v;
77         k++;
78     } while (end > bndtab[k]);
79 }
80
81 void ff_ac3_bit_alloc_calc_mask(AC3BitAllocParameters *s, int16_t *bndpsd,
82                                 int start, int end, int fgain, int is_lfe,
83                                 int deltbae, int deltnseg, uint8_t *deltoffst,
84                                 uint8_t *deltlen, uint8_t *deltba,
85                                 int16_t *mask)
86 {
87     int16_t excite[50]; /* excitation */
88     int bin, k;
89     int bndstrt, bndend, begin, end1, tmp;
90     int lowcomp, fastleak, slowleak;
91
92     /* excitation function */
93     bndstrt = masktab[start];
94     bndend = masktab[end-1] + 1;
95
96     if (bndstrt == 0) {
97         lowcomp = 0;
98         lowcomp = calc_lowcomp1(lowcomp, bndpsd[0], bndpsd[1], 384);
99         excite[0] = bndpsd[0] - fgain - lowcomp;
100         lowcomp = calc_lowcomp1(lowcomp, bndpsd[1], bndpsd[2], 384);
101         excite[1] = bndpsd[1] - fgain - lowcomp;
102         begin = 7;
103         for (bin = 2; bin < 7; bin++) {
104             if (!(is_lfe && bin == 6))
105                 lowcomp = calc_lowcomp1(lowcomp, bndpsd[bin], bndpsd[bin+1], 384);
106             fastleak = bndpsd[bin] - fgain;
107             slowleak = bndpsd[bin] - s->sgain;
108             excite[bin] = fastleak - lowcomp;
109             if (!(is_lfe && bin == 6)) {
110                 if (bndpsd[bin] <= bndpsd[bin+1]) {
111                     begin = bin + 1;
112                     break;
113                 }
114             }
115         }
116
117         end1=bndend;
118         if (end1 > 22) end1=22;
119
120         for (bin = begin; bin < end1; bin++) {
121             if (!(is_lfe && bin == 6))
122                 lowcomp = calc_lowcomp(lowcomp, bndpsd[bin], bndpsd[bin+1], bin);
123
124             fastleak = FFMAX(fastleak - s->fdecay, bndpsd[bin] - fgain);
125             slowleak = FFMAX(slowleak - s->sdecay, bndpsd[bin] - s->sgain);
126             excite[bin] = FFMAX(fastleak - lowcomp, slowleak);
127         }
128         begin = 22;
129     } else {
130         /* coupling channel */
131         begin = bndstrt;
132
133         fastleak = (s->cplfleak << 8) + 768;
134         slowleak = (s->cplsleak << 8) + 768;
135     }
136
137     for (bin = begin; bin < bndend; bin++) {
138         fastleak = FFMAX(fastleak - s->fdecay, bndpsd[bin] - fgain);
139         slowleak = FFMAX(slowleak - s->sdecay, bndpsd[bin] - s->sgain);
140         excite[bin] = FFMAX(fastleak, slowleak);
141     }
142
143     /* compute masking curve */
144
145     for (bin = bndstrt; bin < bndend; bin++) {
146         tmp = s->dbknee - bndpsd[bin];
147         if (tmp > 0) {
148             excite[bin] += tmp >> 2;
149         }
150         mask[bin] = FFMAX(hth[bin >> s->halfratecod][s->fscod], excite[bin]);
151     }
152
153     /* delta bit allocation */
154
155     if (deltbae == 0 || deltbae == 1) {
156         int band, seg, delta;
157         band = 0;
158         for (seg = 0; seg < deltnseg; seg++) {
159             band += deltoffst[seg];
160             if (deltba[seg] >= 4) {
161                 delta = (deltba[seg] - 3) << 7;
162             } else {
163                 delta = (deltba[seg] - 4) << 7;
164             }
165             for (k = 0; k < deltlen[seg]; k++) {
166                 mask[band] += delta;
167                 band++;
168             }
169         }
170     }
171 }
172
173 void ff_ac3_bit_alloc_calc_bap(int16_t *mask, int16_t *psd, int start, int end,
174                                int snroffset, int floor, uint8_t *bap)
175 {
176     int i, j, k, end1, v, address;
177
178     /* special case, if snroffset is -960, set all bap's to zero */
179     if(snroffset == -960) {
180         memset(bap, 0, 256);
181         return;
182     }
183
184     i = start;
185     j = masktab[start];
186     do {
187         v = (FFMAX(mask[j] - snroffset - floor, 0) & 0x1FE0) + floor;
188         end1 = FFMIN(bndtab[j] + bndsz[j], end);
189         for (k = i; k < end1; k++) {
190             address = av_clip((psd[i] - v) >> 5, 0, 63);
191             bap[i] = baptab[address];
192             i++;
193         }
194     } while (end > bndtab[j++]);
195 }
196
197 /* AC3 bit allocation. The algorithm is the one described in the AC3
198    spec. */
199 void ac3_parametric_bit_allocation(AC3BitAllocParameters *s, uint8_t *bap,
200                                    int8_t *exp, int start, int end,
201                                    int snroffset, int fgain, int is_lfe,
202                                    int deltbae,int deltnseg,
203                                    uint8_t *deltoffst, uint8_t *deltlen,
204                                    uint8_t *deltba)
205 {
206     int16_t psd[256];   /* scaled exponents */
207     int16_t bndpsd[50]; /* interpolated exponents */
208     int16_t mask[50];   /* masking value */
209
210     ff_ac3_bit_alloc_calc_psd(exp, start, end, psd, bndpsd);
211
212     ff_ac3_bit_alloc_calc_mask(s, bndpsd, start, end, fgain, is_lfe,
213                                deltbae, deltnseg, deltoffst, deltlen, deltba,
214                                mask);
215
216     ff_ac3_bit_alloc_calc_bap(mask, psd, start, end, snroffset, s->floor, bap);
217 }
218
219 /**
220  * Initializes some tables.
221  * note: This function must remain thread safe because it is called by the
222  *       AVParser init code.
223  */
224 void ac3_common_init(void)
225 {
226     int i, j, k, l, v;
227     /* compute bndtab and masktab from bandsz */
228     k = 0;
229     l = 0;
230     for(i=0;i<50;i++) {
231         bndtab[i] = l;
232         v = bndsz[i];
233         for(j=0;j<v;j++) masktab[k++]=i;
234         l += v;
235     }
236     bndtab[50] = l;
237 }
238
239 int ff_ac3_parse_header(const uint8_t buf[7], AC3HeaderInfo *hdr)
240 {
241     GetBitContext gbc;
242
243     memset(hdr, 0, sizeof(*hdr));
244
245     init_get_bits(&gbc, buf, 54);
246
247     hdr->sync_word = get_bits(&gbc, 16);
248     if(hdr->sync_word != 0x0B77)
249         return -1;
250
251     /* read ahead to bsid to make sure this is AC-3, not E-AC-3 */
252     hdr->bsid = show_bits_long(&gbc, 29) & 0x1F;
253     if(hdr->bsid > 10)
254         return -2;
255
256     hdr->crc1 = get_bits(&gbc, 16);
257     hdr->fscod = get_bits(&gbc, 2);
258     if(hdr->fscod == 3)
259         return -3;
260
261     hdr->frmsizecod = get_bits(&gbc, 6);
262     if(hdr->frmsizecod > 37)
263         return -4;
264
265     skip_bits(&gbc, 5); // skip bsid, already got it
266
267     hdr->bsmod = get_bits(&gbc, 3);
268     hdr->acmod = get_bits(&gbc, 3);
269     if((hdr->acmod & 1) && hdr->acmod != 1) {
270         hdr->cmixlev = get_bits(&gbc, 2);
271     }
272     if(hdr->acmod & 4) {
273         hdr->surmixlev = get_bits(&gbc, 2);
274     }
275     if(hdr->acmod == 2) {
276         hdr->dsurmod = get_bits(&gbc, 2);
277     }
278     hdr->lfeon = get_bits1(&gbc);
279
280     hdr->halfratecod = FFMAX(hdr->bsid, 8) - 8;
281     hdr->sample_rate = ff_ac3_freqs[hdr->fscod] >> hdr->halfratecod;
282     hdr->bit_rate = (ff_ac3_bitratetab[hdr->frmsizecod>>1] * 1000) >> hdr->halfratecod;
283     hdr->channels = ff_ac3_channels[hdr->acmod] + hdr->lfeon;
284     hdr->frame_size = ff_ac3_frame_sizes[hdr->frmsizecod][hdr->fscod] * 2;
285
286     return 0;
287 }