build: Split WMA frequencies into a separate object file
[ffmpeg.git] / libavcodec / wma.c
1 /*
2  * WMA compatible codec
3  * Copyright (c) 2002-2007 The Libav Project
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/attributes.h"
23
24 #include "avcodec.h"
25 #include "sinewin.h"
26 #include "wma.h"
27 #include "wma_common.h"
28 #include "wma_freqs.h"
29 #include "wmadata.h"
30
31 #undef NDEBUG
32 #include <assert.h>
33
34 /* XXX: use same run/length optimization as mpeg decoders */
35 // FIXME maybe split decode / encode or pass flag
36 static av_cold void init_coef_vlc(VLC *vlc, uint16_t **prun_table,
37                                   float **plevel_table, uint16_t **pint_table,
38                                   const CoefVLCTable *vlc_table)
39 {
40     int n                        = vlc_table->n;
41     const uint8_t  *table_bits   = vlc_table->huffbits;
42     const uint32_t *table_codes  = vlc_table->huffcodes;
43     const uint16_t *levels_table = vlc_table->levels;
44     uint16_t *run_table, *level_table, *int_table;
45     float *flevel_table;
46     int i, l, j, k, level;
47
48     init_vlc(vlc, VLCBITS, n, table_bits, 1, 1, table_codes, 4, 4, 0);
49
50     run_table    = av_malloc(n * sizeof(uint16_t));
51     level_table  = av_malloc(n * sizeof(uint16_t));
52     flevel_table = av_malloc(n * sizeof(*flevel_table));
53     int_table    = av_malloc(n * sizeof(uint16_t));
54     i            = 2;
55     level        = 1;
56     k            = 0;
57     while (i < n) {
58         int_table[k] = i;
59         l            = levels_table[k++];
60         for (j = 0; j < l; j++) {
61             run_table[i]    = j;
62             level_table[i]  = level;
63             flevel_table[i] = level;
64             i++;
65         }
66         level++;
67     }
68     *prun_table   = run_table;
69     *plevel_table = flevel_table;
70     *pint_table   = int_table;
71     av_free(level_table);
72 }
73
74 av_cold int ff_wma_init(AVCodecContext *avctx, int flags2)
75 {
76     WMACodecContext *s = avctx->priv_data;
77     int i;
78     float bps1, high_freq;
79     volatile float bps;
80     int sample_rate1;
81     int coef_vlc_table;
82
83     if (avctx->sample_rate <= 0 || avctx->sample_rate > 50000 ||
84         avctx->channels    <= 0 || avctx->channels    > 2     ||
85         avctx->bit_rate    <= 0)
86         return -1;
87
88     ff_fmt_convert_init(&s->fmt_conv, avctx);
89     avpriv_float_dsp_init(&s->fdsp, avctx->flags & CODEC_FLAG_BITEXACT);
90
91     if (avctx->codec->id == AV_CODEC_ID_WMAV1)
92         s->version = 1;
93     else
94         s->version = 2;
95
96     /* compute MDCT block size */
97     s->frame_len_bits = ff_wma_get_frame_len_bits(avctx->sample_rate,
98                                                   s->version, 0);
99     s->next_block_len_bits = s->frame_len_bits;
100     s->prev_block_len_bits = s->frame_len_bits;
101     s->block_len_bits      = s->frame_len_bits;
102
103     s->frame_len = 1 << s->frame_len_bits;
104     if (s->use_variable_block_len) {
105         int nb_max, nb;
106         nb = ((flags2 >> 3) & 3) + 1;
107         if ((avctx->bit_rate / avctx->channels) >= 32000)
108             nb += 2;
109         nb_max = s->frame_len_bits - BLOCK_MIN_BITS;
110         if (nb > nb_max)
111             nb = nb_max;
112         s->nb_block_sizes = nb + 1;
113     } else
114         s->nb_block_sizes = 1;
115
116     /* init rate dependent parameters */
117     s->use_noise_coding = 1;
118     high_freq           = avctx->sample_rate * 0.5;
119
120     /* if version 2, then the rates are normalized */
121     sample_rate1 = avctx->sample_rate;
122     if (s->version == 2) {
123         if (sample_rate1 >= 44100)
124             sample_rate1 = 44100;
125         else if (sample_rate1 >= 22050)
126             sample_rate1 = 22050;
127         else if (sample_rate1 >= 16000)
128             sample_rate1 = 16000;
129         else if (sample_rate1 >= 11025)
130             sample_rate1 = 11025;
131         else if (sample_rate1 >= 8000)
132             sample_rate1 = 8000;
133     }
134
135     bps                 = (float) avctx->bit_rate /
136                           (float) (avctx->channels * avctx->sample_rate);
137     s->byte_offset_bits = av_log2((int) (bps * s->frame_len / 8.0 + 0.5)) + 2;
138
139     /* compute high frequency value and choose if noise coding should
140      * be activated */
141     bps1 = bps;
142     if (avctx->channels == 2)
143         bps1 = bps * 1.6;
144     if (sample_rate1 == 44100) {
145         if (bps1 >= 0.61)
146             s->use_noise_coding = 0;
147         else
148             high_freq = high_freq * 0.4;
149     } else if (sample_rate1 == 22050) {
150         if (bps1 >= 1.16)
151             s->use_noise_coding = 0;
152         else if (bps1 >= 0.72)
153             high_freq = high_freq * 0.7;
154         else
155             high_freq = high_freq * 0.6;
156     } else if (sample_rate1 == 16000) {
157         if (bps > 0.5)
158             high_freq = high_freq * 0.5;
159         else
160             high_freq = high_freq * 0.3;
161     } else if (sample_rate1 == 11025)
162         high_freq = high_freq * 0.7;
163     else if (sample_rate1 == 8000) {
164         if (bps <= 0.625)
165             high_freq = high_freq * 0.5;
166         else if (bps > 0.75)
167             s->use_noise_coding = 0;
168         else
169             high_freq = high_freq * 0.65;
170     } else {
171         if (bps >= 0.8)
172             high_freq = high_freq * 0.75;
173         else if (bps >= 0.6)
174             high_freq = high_freq * 0.6;
175         else
176             high_freq = high_freq * 0.5;
177     }
178     av_dlog(s->avctx, "flags2=0x%x\n", flags2);
179     av_dlog(s->avctx, "version=%d channels=%d sample_rate=%d bitrate=%d block_align=%d\n",
180             s->version, avctx->channels, avctx->sample_rate, avctx->bit_rate,
181             avctx->block_align);
182     av_dlog(s->avctx, "bps=%f bps1=%f high_freq=%f bitoffset=%d\n",
183             bps, bps1, high_freq, s->byte_offset_bits);
184     av_dlog(s->avctx, "use_noise_coding=%d use_exp_vlc=%d nb_block_sizes=%d\n",
185             s->use_noise_coding, s->use_exp_vlc, s->nb_block_sizes);
186
187     /* compute the scale factor band sizes for each MDCT block size */
188     {
189         int a, b, pos, lpos, k, block_len, i, j, n;
190         const uint8_t *table;
191
192         if (s->version == 1)
193             s->coefs_start = 3;
194         else
195             s->coefs_start = 0;
196         for (k = 0; k < s->nb_block_sizes; k++) {
197             block_len = s->frame_len >> k;
198
199             if (s->version == 1) {
200                 lpos = 0;
201                 for (i = 0; i < 25; i++) {
202                     a   = ff_wma_critical_freqs[i];
203                     b   = avctx->sample_rate;
204                     pos = ((block_len * 2 * a) + (b >> 1)) / b;
205                     if (pos > block_len)
206                         pos = block_len;
207                     s->exponent_bands[0][i] = pos - lpos;
208                     if (pos >= block_len) {
209                         i++;
210                         break;
211                     }
212                     lpos = pos;
213                 }
214                 s->exponent_sizes[0] = i;
215             } else {
216                 /* hardcoded tables */
217                 table = NULL;
218                 a     = s->frame_len_bits - BLOCK_MIN_BITS - k;
219                 if (a < 3) {
220                     if (avctx->sample_rate >= 44100)
221                         table = exponent_band_44100[a];
222                     else if (avctx->sample_rate >= 32000)
223                         table = exponent_band_32000[a];
224                     else if (avctx->sample_rate >= 22050)
225                         table = exponent_band_22050[a];
226                 }
227                 if (table) {
228                     n = *table++;
229                     for (i = 0; i < n; i++)
230                         s->exponent_bands[k][i] = table[i];
231                     s->exponent_sizes[k] = n;
232                 } else {
233                     j    = 0;
234                     lpos = 0;
235                     for (i = 0; i < 25; i++) {
236                         a     = ff_wma_critical_freqs[i];
237                         b     = avctx->sample_rate;
238                         pos   = ((block_len * 2 * a) + (b << 1)) / (4 * b);
239                         pos <<= 2;
240                         if (pos > block_len)
241                             pos = block_len;
242                         if (pos > lpos)
243                             s->exponent_bands[k][j++] = pos - lpos;
244                         if (pos >= block_len)
245                             break;
246                         lpos = pos;
247                     }
248                     s->exponent_sizes[k] = j;
249                 }
250             }
251
252             /* max number of coefs */
253             s->coefs_end[k] = (s->frame_len - ((s->frame_len * 9) / 100)) >> k;
254             /* high freq computation */
255             s->high_band_start[k] = (int) ((block_len * 2 * high_freq) /
256                                            avctx->sample_rate + 0.5);
257             n   = s->exponent_sizes[k];
258             j   = 0;
259             pos = 0;
260             for (i = 0; i < n; i++) {
261                 int start, end;
262                 start = pos;
263                 pos  += s->exponent_bands[k][i];
264                 end   = pos;
265                 if (start < s->high_band_start[k])
266                     start = s->high_band_start[k];
267                 if (end > s->coefs_end[k])
268                     end = s->coefs_end[k];
269                 if (end > start)
270                     s->exponent_high_bands[k][j++] = end - start;
271             }
272             s->exponent_high_sizes[k] = j;
273 #if 0
274             tprintf(s->avctx, "%5d: coefs_end=%d high_band_start=%d nb_high_bands=%d: ",
275                     s->frame_len >> k,
276                     s->coefs_end[k],
277                     s->high_band_start[k],
278                     s->exponent_high_sizes[k]);
279             for (j = 0; j < s->exponent_high_sizes[k]; j++)
280                 tprintf(s->avctx, " %d", s->exponent_high_bands[k][j]);
281             tprintf(s->avctx, "\n");
282 #endif /* 0 */
283         }
284     }
285
286 #ifdef TRACE
287     {
288         int i, j;
289         for (i = 0; i < s->nb_block_sizes; i++) {
290             tprintf(s->avctx, "%5d: n=%2d:",
291                     s->frame_len >> i,
292                     s->exponent_sizes[i]);
293             for (j = 0; j < s->exponent_sizes[i]; j++)
294                 tprintf(s->avctx, " %d", s->exponent_bands[i][j]);
295             tprintf(s->avctx, "\n");
296         }
297     }
298 #endif /* TRACE */
299
300     /* init MDCT windows : simple sine window */
301     for (i = 0; i < s->nb_block_sizes; i++) {
302         ff_init_ff_sine_windows(s->frame_len_bits - i);
303         s->windows[i] = ff_sine_windows[s->frame_len_bits - i];
304     }
305
306     s->reset_block_lengths = 1;
307
308     if (s->use_noise_coding) {
309         /* init the noise generator */
310         if (s->use_exp_vlc)
311             s->noise_mult = 0.02;
312         else
313             s->noise_mult = 0.04;
314
315 #ifdef TRACE
316         for (i = 0; i < NOISE_TAB_SIZE; i++)
317             s->noise_table[i] = 1.0 * s->noise_mult;
318 #else
319         {
320             unsigned int seed;
321             float norm;
322             seed = 1;
323             norm = (1.0 / (float) (1LL << 31)) * sqrt(3) * s->noise_mult;
324             for (i = 0; i < NOISE_TAB_SIZE; i++) {
325                 seed              = seed * 314159 + 1;
326                 s->noise_table[i] = (float) ((int) seed) * norm;
327             }
328         }
329 #endif /* TRACE */
330     }
331
332     /* choose the VLC tables for the coefficients */
333     coef_vlc_table = 2;
334     if (avctx->sample_rate >= 32000) {
335         if (bps1 < 0.72)
336             coef_vlc_table = 0;
337         else if (bps1 < 1.16)
338             coef_vlc_table = 1;
339     }
340     s->coef_vlcs[0] = &coef_vlcs[coef_vlc_table * 2];
341     s->coef_vlcs[1] = &coef_vlcs[coef_vlc_table * 2 + 1];
342     init_coef_vlc(&s->coef_vlc[0], &s->run_table[0], &s->level_table[0],
343                   &s->int_table[0], s->coef_vlcs[0]);
344     init_coef_vlc(&s->coef_vlc[1], &s->run_table[1], &s->level_table[1],
345                   &s->int_table[1], s->coef_vlcs[1]);
346
347     return 0;
348 }
349
350 int ff_wma_total_gain_to_bits(int total_gain)
351 {
352     if (total_gain < 15)
353         return 13;
354     else if (total_gain < 32)
355         return 12;
356     else if (total_gain < 40)
357         return 11;
358     else if (total_gain < 45)
359         return 10;
360     else
361         return  9;
362 }
363
364 int ff_wma_end(AVCodecContext *avctx)
365 {
366     WMACodecContext *s = avctx->priv_data;
367     int i;
368
369     for (i = 0; i < s->nb_block_sizes; i++)
370         ff_mdct_end(&s->mdct_ctx[i]);
371
372     if (s->use_exp_vlc)
373         ff_free_vlc(&s->exp_vlc);
374     if (s->use_noise_coding)
375         ff_free_vlc(&s->hgain_vlc);
376     for (i = 0; i < 2; i++) {
377         ff_free_vlc(&s->coef_vlc[i]);
378         av_free(s->run_table[i]);
379         av_free(s->level_table[i]);
380         av_free(s->int_table[i]);
381     }
382
383     return 0;
384 }
385
386 /**
387  * Decode an uncompressed coefficient.
388  * @param gb GetBitContext
389  * @return the decoded coefficient
390  */
391 unsigned int ff_wma_get_large_val(GetBitContext *gb)
392 {
393     /** consumes up to 34 bits */
394     int n_bits = 8;
395     /** decode length */
396     if (get_bits1(gb)) {
397         n_bits += 8;
398         if (get_bits1(gb)) {
399             n_bits += 8;
400             if (get_bits1(gb))
401                 n_bits += 7;
402         }
403     }
404     return get_bits_long(gb, n_bits);
405 }
406
407 /**
408  * Decode run level compressed coefficients.
409  * @param avctx codec context
410  * @param gb bitstream reader context
411  * @param vlc vlc table for get_vlc2
412  * @param level_table level codes
413  * @param run_table run codes
414  * @param version 0 for wma1,2 1 for wmapro
415  * @param ptr output buffer
416  * @param offset offset in the output buffer
417  * @param num_coefs number of input coefficents
418  * @param block_len input buffer length (2^n)
419  * @param frame_len_bits number of bits for escaped run codes
420  * @param coef_nb_bits number of bits for escaped level codes
421  * @return 0 on success, -1 otherwise
422  */
423 int ff_wma_run_level_decode(AVCodecContext *avctx, GetBitContext *gb,
424                             VLC *vlc, const float *level_table,
425                             const uint16_t *run_table, int version,
426                             WMACoef *ptr, int offset, int num_coefs,
427                             int block_len, int frame_len_bits,
428                             int coef_nb_bits)
429 {
430     int code, level, sign;
431     const uint32_t *ilvl = (const uint32_t *) level_table;
432     uint32_t *iptr = (uint32_t *) ptr;
433     const unsigned int coef_mask = block_len - 1;
434     for (; offset < num_coefs; offset++) {
435         code = get_vlc2(gb, vlc->table, VLCBITS, VLCMAX);
436         if (code > 1) {
437             /** normal code */
438             offset                  += run_table[code];
439             sign                     = get_bits1(gb) - 1;
440             iptr[offset & coef_mask] = ilvl[code] ^ sign << 31;
441         } else if (code == 1) {
442             /** EOB */
443             break;
444         } else {
445             /** escape */
446             if (!version) {
447                 level = get_bits(gb, coef_nb_bits);
448                 /** NOTE: this is rather suboptimal. reading
449                  *  block_len_bits would be better */
450                 offset += get_bits(gb, frame_len_bits);
451             } else {
452                 level = ff_wma_get_large_val(gb);
453                 /** escape decode */
454                 if (get_bits1(gb)) {
455                     if (get_bits1(gb)) {
456                         if (get_bits1(gb)) {
457                             av_log(avctx, AV_LOG_ERROR,
458                                    "broken escape sequence\n");
459                             return -1;
460                         } else
461                             offset += get_bits(gb, frame_len_bits) + 4;
462                     } else
463                         offset += get_bits(gb, 2) + 1;
464                 }
465             }
466             sign                    = get_bits1(gb) - 1;
467             ptr[offset & coef_mask] = (level ^ sign) - sign;
468         }
469     }
470     /** NOTE: EOB can be omitted */
471     if (offset > num_coefs) {
472         av_log(avctx, AV_LOG_ERROR, "overflow in spectral RLE, ignoring\n");
473         return -1;
474     }
475
476     return 0;
477 }