d705cc725c81d190a1bf1d4f6292877842c0841a
[ffmpeg.git] / libavcodec / wmaprodec.c
1 /*
2  * Wmapro compatible decoder
3  * Copyright (c) 2007 Baptiste Coudurier, Benjamin Larsson, Ulion
4  * Copyright (c) 2008 - 2009 Sascha Sommer, Benjamin Larsson
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * @brief wmapro decoder implementation
26  * Wmapro is an MDCT based codec comparable to wma standard or AAC.
27  * The decoding therefore consists of the following steps:
28  * - bitstream decoding
29  * - reconstruction of per-channel data
30  * - rescaling and inverse quantization
31  * - IMDCT
32  * - windowing and overlapp-add
33  *
34  * The compressed wmapro bitstream is split into individual packets.
35  * Every such packet contains one or more wma frames.
36  * The compressed frames may have a variable length and frames may
37  * cross packet boundaries.
38  * Common to all wmapro frames is the number of samples that are stored in
39  * a frame.
40  * The number of samples and a few other decode flags are stored
41  * as extradata that has to be passed to the decoder.
42  *
43  * The wmapro frames themselves are again split into a variable number of
44  * subframes. Every subframe contains the data for 2^N time domain samples
45  * where N varies between 7 and 12.
46  *
47  * Example wmapro bitstream (in samples):
48  *
49  * ||   packet 0           || packet 1 || packet 2      packets
50  * ---------------------------------------------------
51  * || frame 0      || frame 1       || frame 2    ||    frames
52  * ---------------------------------------------------
53  * ||   |      |   ||   |   |   |   ||            ||    subframes of channel 0
54  * ---------------------------------------------------
55  * ||      |   |   ||   |   |   |   ||            ||    subframes of channel 1
56  * ---------------------------------------------------
57  *
58  * The frame layouts for the individual channels of a wma frame does not need
59  * to be the same.
60  *
61  * However, if the offsets and lengths of several subframes of a frame are the
62  * same, the subframes of the channels can be grouped.
63  * Every group may then use special coding techniques like M/S stereo coding
64  * to improve the compression ratio. These channel transformations do not
65  * need to be applied to a whole subframe. Instead, they can also work on
66  * individual scale factor bands (see below).
67  * The coefficients that carry the audio signal in the frequency domain
68  * are transmitted as huffman-coded vectors with 4, 2 and 1 elements.
69  * In addition to that, the encoder can switch to a runlevel coding scheme
70  * by transmitting subframe_length / 128 zero coefficients.
71  *
72  * Before the audio signal can be converted to the time domain, the
73  * coefficients have to be rescaled and inverse quantized.
74  * A subframe is therefore split into several scale factor bands that get
75  * scaled individually.
76  * Scale factors are submitted for every frame but they might be shared
77  * between the subframes of a channel. Scale factors are initially DPCM-coded.
78  * Once scale factors are shared, the differences are transmitted as runlevel
79  * codes.
80  * Every subframe length and offset combination in the frame layout shares a
81  * common quantization factor that can be adjusted for every channel by a
82  * modifier.
83  * After the inverse quantization, the coefficients get processed by an IMDCT.
84  * The resulting values are then windowed with a sine window and the first half
85  * of the values are added to the second half of the output from the previous
86  * subframe in order to reconstruct the output samples.
87  */
88
89 #include "avcodec.h"
90 #include "internal.h"
91 #include "get_bits.h"
92 #include "put_bits.h"
93 #include "wmaprodata.h"
94 #include "dsputil.h"
95 #include "wma.h"
96
97 /** current decoder limitations */
98 #define WMAPRO_MAX_CHANNELS    8                             ///< max number of handled channels
99 #define MAX_SUBFRAMES  32                                    ///< max number of subframes per channel
100 #define MAX_BANDS      29                                    ///< max number of scale factor bands
101 #define MAX_FRAMESIZE  32768                                 ///< maximum compressed frame size
102
103 #define WMAPRO_BLOCK_MIN_BITS  6                                           ///< log2 of min block size
104 #define WMAPRO_BLOCK_MAX_BITS 12                                           ///< log2 of max block size
105 #define WMAPRO_BLOCK_MAX_SIZE (1 << WMAPRO_BLOCK_MAX_BITS)                 ///< maximum block size
106 #define WMAPRO_BLOCK_SIZES    (WMAPRO_BLOCK_MAX_BITS - WMAPRO_BLOCK_MIN_BITS + 1) ///< possible block sizes
107
108
109 #define VLCBITS            9
110 #define SCALEVLCBITS       8
111 #define VEC4MAXDEPTH    ((HUFF_VEC4_MAXBITS+VLCBITS-1)/VLCBITS)
112 #define VEC2MAXDEPTH    ((HUFF_VEC2_MAXBITS+VLCBITS-1)/VLCBITS)
113 #define VEC1MAXDEPTH    ((HUFF_VEC1_MAXBITS+VLCBITS-1)/VLCBITS)
114 #define SCALEMAXDEPTH   ((HUFF_SCALE_MAXBITS+SCALEVLCBITS-1)/SCALEVLCBITS)
115 #define SCALERLMAXDEPTH ((HUFF_SCALE_RL_MAXBITS+VLCBITS-1)/VLCBITS)
116
117 static VLC              sf_vlc;           ///< scale factor DPCM vlc
118 static VLC              sf_rl_vlc;        ///< scale factor run length vlc
119 static VLC              vec4_vlc;         ///< 4 coefficients per symbol
120 static VLC              vec2_vlc;         ///< 2 coefficients per symbol
121 static VLC              vec1_vlc;         ///< 1 coefficient per symbol
122 static VLC              coef_vlc[2];      ///< coefficient run length vlc codes
123 static float            sin64[33];        ///< sinus table for decorrelation
124
125 /**
126  * @brief frame specific decoder context for a single channel
127  */
128 typedef struct {
129     int16_t  prev_block_len;                          ///< length of the previous block
130     uint8_t  transmit_coefs;
131     uint8_t  num_subframes;
132     uint16_t subframe_len[MAX_SUBFRAMES];             ///< subframe length in samples
133     uint16_t subframe_offset[MAX_SUBFRAMES];          ///< subframe positions in the current frame
134     uint8_t  cur_subframe;                            ///< current subframe number
135     uint16_t decoded_samples;                         ///< number of already processed samples
136     uint8_t  grouped;                                 ///< channel is part of a group
137     int      quant_step;                              ///< quantization step for the current subframe
138     int8_t   reuse_sf;                                ///< share scale factors between subframes
139     int8_t   scale_factor_step;                       ///< scaling step for the current subframe
140     int      max_scale_factor;                        ///< maximum scale factor for the current subframe
141     int      saved_scale_factors[2][MAX_BANDS];       ///< resampled and (previously) transmitted scale factor values
142     int8_t   scale_factor_idx;                        ///< index for the transmitted scale factor values (used for resampling)
143     int*     scale_factors;                           ///< pointer to the scale factor values used for decoding
144     uint8_t  table_idx;                               ///< index in sf_offsets for the scale factor reference block
145     float*   coeffs;                                  ///< pointer to the subframe decode buffer
146     DECLARE_ALIGNED(16, float, out)[WMAPRO_BLOCK_MAX_SIZE + WMAPRO_BLOCK_MAX_SIZE / 2]; ///< output buffer
147 } WMAProChannelCtx;
148
149 /**
150  * @brief channel group for channel transformations
151  */
152 typedef struct {
153     uint8_t num_channels;                                     ///< number of channels in the group
154     int8_t  transform;                                        ///< transform on / off
155     int8_t  transform_band[MAX_BANDS];                        ///< controls if the transform is enabled for a certain band
156     float   decorrelation_matrix[WMAPRO_MAX_CHANNELS*WMAPRO_MAX_CHANNELS];
157     float*  channel_data[WMAPRO_MAX_CHANNELS];                ///< transformation coefficients
158 } WMAProChannelGrp;
159
160 /**
161  * @brief main decoder context
162  */
163 typedef struct WMAProDecodeCtx {
164     /* generic decoder variables */
165     AVCodecContext*  avctx;                         ///< codec context for av_log
166     DSPContext       dsp;                           ///< accelerated DSP functions
167     uint8_t          frame_data[MAX_FRAMESIZE +
168                       FF_INPUT_BUFFER_PADDING_SIZE];///< compressed frame data
169     PutBitContext    pb;                            ///< context for filling the frame_data buffer
170     FFTContext       mdct_ctx[WMAPRO_BLOCK_SIZES];  ///< MDCT context per block size
171     DECLARE_ALIGNED(16, float, tmp)[WMAPRO_BLOCK_MAX_SIZE]; ///< IMDCT output buffer
172     float*           windows[WMAPRO_BLOCK_SIZES];   ///< windows for the different block sizes
173
174     /* frame size dependent frame information (set during initialization) */
175     uint32_t         decode_flags;                  ///< used compression features
176     uint8_t          len_prefix;                    ///< frame is prefixed with its length
177     uint8_t          dynamic_range_compression;     ///< frame contains DRC data
178     uint8_t          bits_per_sample;               ///< integer audio sample size for the unscaled IMDCT output (used to scale to [-1.0, 1.0])
179     uint16_t         samples_per_frame;             ///< number of samples to output
180     uint16_t         log2_frame_size;
181     int8_t           num_channels;                  ///< number of channels in the stream (same as AVCodecContext.num_channels)
182     int8_t           lfe_channel;                   ///< lfe channel index
183     uint8_t          max_num_subframes;
184     uint8_t          subframe_len_bits;             ///< number of bits used for the subframe length
185     uint8_t          max_subframe_len_bit;          ///< flag indicating that the subframe is of maximum size when the first subframe length bit is 1
186     uint16_t         min_samples_per_subframe;
187     int8_t           num_sfb[WMAPRO_BLOCK_SIZES];   ///< scale factor bands per block size
188     int16_t          sfb_offsets[WMAPRO_BLOCK_SIZES][MAX_BANDS];                    ///< scale factor band offsets (multiples of 4)
189     int8_t           sf_offsets[WMAPRO_BLOCK_SIZES][WMAPRO_BLOCK_SIZES][MAX_BANDS]; ///< scale factor resample matrix
190     int16_t          subwoofer_cutoffs[WMAPRO_BLOCK_SIZES]; ///< subwoofer cutoff values
191
192     /* packet decode state */
193     GetBitContext    pgb;                           ///< bitstream reader context for the packet
194     uint8_t          packet_offset;                 ///< frame offset in the packet
195     uint8_t          packet_sequence_number;        ///< current packet number
196     int              num_saved_bits;                ///< saved number of bits
197     int              frame_offset;                  ///< frame offset in the bit reservoir
198     int              subframe_offset;               ///< subframe offset in the bit reservoir
199     uint8_t          packet_loss;                   ///< set in case of bitstream error
200     uint8_t          packet_done;                   ///< set when a packet is fully decoded
201
202     /* frame decode state */
203     uint32_t         frame_num;                     ///< current frame number (not used for decoding)
204     GetBitContext    gb;                            ///< bitstream reader context
205     int              buf_bit_size;                  ///< buffer size in bits
206     float*           samples;                       ///< current samplebuffer pointer
207     float*           samples_end;                   ///< maximum samplebuffer pointer
208     uint8_t          drc_gain;                      ///< gain for the DRC tool
209     int8_t           skip_frame;                    ///< skip output step
210     int8_t           parsed_all_subframes;          ///< all subframes decoded?
211
212     /* subframe/block decode state */
213     int16_t          subframe_len;                  ///< current subframe length
214     int8_t           channels_for_cur_subframe;     ///< number of channels that contain the subframe
215     int8_t           channel_indexes_for_cur_subframe[WMAPRO_MAX_CHANNELS];
216     int8_t           num_bands;                     ///< number of scale factor bands
217     int16_t*         cur_sfb_offsets;               ///< sfb offsets for the current block
218     uint8_t          table_idx;                     ///< index for the num_sfb, sfb_offsets, sf_offsets and subwoofer_cutoffs tables
219     int8_t           esc_len;                       ///< length of escaped coefficients
220
221     uint8_t          num_chgroups;                  ///< number of channel groups
222     WMAProChannelGrp chgroup[WMAPRO_MAX_CHANNELS];  ///< channel group information
223
224     WMAProChannelCtx channel[WMAPRO_MAX_CHANNELS];  ///< per channel data
225 } WMAProDecodeCtx;
226
227
228 /**
229  *@brief helper function to print the most important members of the context
230  *@param s context
231  */
232 static void av_cold dump_context(WMAProDecodeCtx *s)
233 {
234 #define PRINT(a, b)     av_log(s->avctx, AV_LOG_DEBUG, " %s = %d\n", a, b);
235 #define PRINT_HEX(a, b) av_log(s->avctx, AV_LOG_DEBUG, " %s = %x\n", a, b);
236
237     PRINT("ed sample bit depth", s->bits_per_sample);
238     PRINT_HEX("ed decode flags", s->decode_flags);
239     PRINT("samples per frame",   s->samples_per_frame);
240     PRINT("log2 frame size",     s->log2_frame_size);
241     PRINT("max num subframes",   s->max_num_subframes);
242     PRINT("len prefix",          s->len_prefix);
243     PRINT("num channels",        s->num_channels);
244 }
245
246 /**
247  *@brief Uninitialize the decoder and free all resources.
248  *@param avctx codec context
249  *@return 0 on success, < 0 otherwise
250  */
251 static av_cold int decode_end(AVCodecContext *avctx)
252 {
253     WMAProDecodeCtx *s = avctx->priv_data;
254     int i;
255
256     for (i = 0; i < WMAPRO_BLOCK_SIZES; i++)
257         ff_mdct_end(&s->mdct_ctx[i]);
258
259     return 0;
260 }
261
262 /**
263  *@brief Initialize the decoder.
264  *@param avctx codec context
265  *@return 0 on success, -1 otherwise
266  */
267 static av_cold int decode_init(AVCodecContext *avctx)
268 {
269     WMAProDecodeCtx *s = avctx->priv_data;
270     uint8_t *edata_ptr = avctx->extradata;
271     unsigned int channel_mask;
272     int i;
273     int log2_max_num_subframes;
274     int num_possible_block_sizes;
275
276     s->avctx = avctx;
277     dsputil_init(&s->dsp, avctx);
278     init_put_bits(&s->pb, s->frame_data, MAX_FRAMESIZE);
279
280     avctx->sample_fmt = AV_SAMPLE_FMT_FLT;
281
282     if (avctx->extradata_size >= 18) {
283         s->decode_flags    = AV_RL16(edata_ptr+14);
284         channel_mask       = AV_RL32(edata_ptr+2);
285         s->bits_per_sample = AV_RL16(edata_ptr);
286         /** dump the extradata */
287         for (i = 0; i < avctx->extradata_size; i++)
288             dprintf(avctx, "[%x] ", avctx->extradata[i]);
289         dprintf(avctx, "\n");
290
291     } else {
292         av_log_ask_for_sample(avctx, "Unknown extradata size\n");
293         return AVERROR_INVALIDDATA;
294     }
295
296     /** generic init */
297     s->log2_frame_size = av_log2(avctx->block_align) + 4;
298
299     /** frame info */
300     s->skip_frame  = 1; /* skip first frame */
301     s->packet_loss = 1;
302     s->len_prefix  = (s->decode_flags & 0x40);
303
304     /** get frame len */
305     s->samples_per_frame = 1 << ff_wma_get_frame_len_bits(avctx->sample_rate,
306                                                           3, s->decode_flags);
307
308     /** init previous block len */
309     for (i = 0; i < avctx->channels; i++)
310         s->channel[i].prev_block_len = s->samples_per_frame;
311
312     /** subframe info */
313     log2_max_num_subframes       = ((s->decode_flags & 0x38) >> 3);
314     s->max_num_subframes         = 1 << log2_max_num_subframes;
315     if (s->max_num_subframes == 16 || s->max_num_subframes == 4)
316         s->max_subframe_len_bit = 1;
317     s->subframe_len_bits = av_log2(log2_max_num_subframes) + 1;
318
319     num_possible_block_sizes     = log2_max_num_subframes + 1;
320     s->min_samples_per_subframe  = s->samples_per_frame / s->max_num_subframes;
321     s->dynamic_range_compression = (s->decode_flags & 0x80);
322
323     if (s->max_num_subframes > MAX_SUBFRAMES) {
324         av_log(avctx, AV_LOG_ERROR, "invalid number of subframes %i\n",
325                s->max_num_subframes);
326         return AVERROR_INVALIDDATA;
327     }
328
329     s->num_channels = avctx->channels;
330
331     /** extract lfe channel position */
332     s->lfe_channel = -1;
333
334     if (channel_mask & 8) {
335         unsigned int mask;
336         for (mask = 1; mask < 16; mask <<= 1) {
337             if (channel_mask & mask)
338                 ++s->lfe_channel;
339         }
340     }
341
342     if (s->num_channels < 0) {
343         av_log(avctx, AV_LOG_ERROR, "invalid number of channels %d\n", s->num_channels);
344         return AVERROR_INVALIDDATA;
345     } else if (s->num_channels > WMAPRO_MAX_CHANNELS) {
346         av_log_ask_for_sample(avctx, "unsupported number of channels\n");
347         return AVERROR_PATCHWELCOME;
348     }
349
350     INIT_VLC_STATIC(&sf_vlc, SCALEVLCBITS, HUFF_SCALE_SIZE,
351                     scale_huffbits, 1, 1,
352                     scale_huffcodes, 2, 2, 616);
353
354     INIT_VLC_STATIC(&sf_rl_vlc, VLCBITS, HUFF_SCALE_RL_SIZE,
355                     scale_rl_huffbits, 1, 1,
356                     scale_rl_huffcodes, 4, 4, 1406);
357
358     INIT_VLC_STATIC(&coef_vlc[0], VLCBITS, HUFF_COEF0_SIZE,
359                     coef0_huffbits, 1, 1,
360                     coef0_huffcodes, 4, 4, 2108);
361
362     INIT_VLC_STATIC(&coef_vlc[1], VLCBITS, HUFF_COEF1_SIZE,
363                     coef1_huffbits, 1, 1,
364                     coef1_huffcodes, 4, 4, 3912);
365
366     INIT_VLC_STATIC(&vec4_vlc, VLCBITS, HUFF_VEC4_SIZE,
367                     vec4_huffbits, 1, 1,
368                     vec4_huffcodes, 2, 2, 604);
369
370     INIT_VLC_STATIC(&vec2_vlc, VLCBITS, HUFF_VEC2_SIZE,
371                     vec2_huffbits, 1, 1,
372                     vec2_huffcodes, 2, 2, 562);
373
374     INIT_VLC_STATIC(&vec1_vlc, VLCBITS, HUFF_VEC1_SIZE,
375                     vec1_huffbits, 1, 1,
376                     vec1_huffcodes, 2, 2, 562);
377
378     /** calculate number of scale factor bands and their offsets
379         for every possible block size */
380     for (i = 0; i < num_possible_block_sizes; i++) {
381         int subframe_len = s->samples_per_frame >> i;
382         int x;
383         int band = 1;
384
385         s->sfb_offsets[i][0] = 0;
386
387         for (x = 0; x < MAX_BANDS-1 && s->sfb_offsets[i][band - 1] < subframe_len; x++) {
388             int offset = (subframe_len * 2 * critical_freq[x])
389                           / s->avctx->sample_rate + 2;
390             offset &= ~3;
391             if (offset > s->sfb_offsets[i][band - 1])
392                 s->sfb_offsets[i][band++] = offset;
393         }
394         s->sfb_offsets[i][band - 1] = subframe_len;
395         s->num_sfb[i]               = band - 1;
396     }
397
398
399     /** Scale factors can be shared between blocks of different size
400         as every block has a different scale factor band layout.
401         The matrix sf_offsets is needed to find the correct scale factor.
402      */
403
404     for (i = 0; i < num_possible_block_sizes; i++) {
405         int b;
406         for (b = 0; b < s->num_sfb[i]; b++) {
407             int x;
408             int offset = ((s->sfb_offsets[i][b]
409                            + s->sfb_offsets[i][b + 1] - 1) << i) >> 1;
410             for (x = 0; x < num_possible_block_sizes; x++) {
411                 int v = 0;
412                 while (s->sfb_offsets[x][v + 1] << x < offset)
413                     ++v;
414                 s->sf_offsets[i][x][b] = v;
415             }
416         }
417     }
418
419     /** init MDCT, FIXME: only init needed sizes */
420     for (i = 0; i < WMAPRO_BLOCK_SIZES; i++)
421         ff_mdct_init(&s->mdct_ctx[i], WMAPRO_BLOCK_MIN_BITS+1+i, 1,
422                      1.0 / (1 << (WMAPRO_BLOCK_MIN_BITS + i - 1))
423                      / (1 << (s->bits_per_sample - 1)));
424
425     /** init MDCT windows: simple sinus window */
426     for (i = 0; i < WMAPRO_BLOCK_SIZES; i++) {
427         const int win_idx = WMAPRO_BLOCK_MAX_BITS - i;
428         ff_init_ff_sine_windows(win_idx);
429         s->windows[WMAPRO_BLOCK_SIZES - i - 1] = ff_sine_windows[win_idx];
430     }
431
432     /** calculate subwoofer cutoff values */
433     for (i = 0; i < num_possible_block_sizes; i++) {
434         int block_size = s->samples_per_frame >> i;
435         int cutoff = (440*block_size + 3 * (s->avctx->sample_rate >> 1) - 1)
436                      / s->avctx->sample_rate;
437         s->subwoofer_cutoffs[i] = av_clip(cutoff, 4, block_size);
438     }
439
440     /** calculate sine values for the decorrelation matrix */
441     for (i = 0; i < 33; i++)
442         sin64[i] = sin(i*M_PI / 64.0);
443
444     if (avctx->debug & FF_DEBUG_BITSTREAM)
445         dump_context(s);
446
447     avctx->channel_layout = channel_mask;
448     return 0;
449 }
450
451 /**
452  *@brief Decode the subframe length.
453  *@param s context
454  *@param offset sample offset in the frame
455  *@return decoded subframe length on success, < 0 in case of an error
456  */
457 static int decode_subframe_length(WMAProDecodeCtx *s, int offset)
458 {
459     int frame_len_shift = 0;
460     int subframe_len;
461
462     /** no need to read from the bitstream when only one length is possible */
463     if (offset == s->samples_per_frame - s->min_samples_per_subframe)
464         return s->min_samples_per_subframe;
465
466     /** 1 bit indicates if the subframe is of maximum length */
467     if (s->max_subframe_len_bit) {
468         if (get_bits1(&s->gb))
469             frame_len_shift = 1 + get_bits(&s->gb, s->subframe_len_bits-1);
470     } else
471         frame_len_shift = get_bits(&s->gb, s->subframe_len_bits);
472
473     subframe_len = s->samples_per_frame >> frame_len_shift;
474
475     /** sanity check the length */
476     if (subframe_len < s->min_samples_per_subframe ||
477         subframe_len > s->samples_per_frame) {
478         av_log(s->avctx, AV_LOG_ERROR, "broken frame: subframe_len %i\n",
479                subframe_len);
480         return AVERROR_INVALIDDATA;
481     }
482     return subframe_len;
483 }
484
485 /**
486  *@brief Decode how the data in the frame is split into subframes.
487  *       Every WMA frame contains the encoded data for a fixed number of
488  *       samples per channel. The data for every channel might be split
489  *       into several subframes. This function will reconstruct the list of
490  *       subframes for every channel.
491  *
492  *       If the subframes are not evenly split, the algorithm estimates the
493  *       channels with the lowest number of total samples.
494  *       Afterwards, for each of these channels a bit is read from the
495  *       bitstream that indicates if the channel contains a subframe with the
496  *       next subframe size that is going to be read from the bitstream or not.
497  *       If a channel contains such a subframe, the subframe size gets added to
498  *       the channel's subframe list.
499  *       The algorithm repeats these steps until the frame is properly divided
500  *       between the individual channels.
501  *
502  *@param s context
503  *@return 0 on success, < 0 in case of an error
504  */
505 static int decode_tilehdr(WMAProDecodeCtx *s)
506 {
507     uint16_t num_samples[WMAPRO_MAX_CHANNELS];        /**< sum of samples for all currently known subframes of a channel */
508     uint8_t  contains_subframe[WMAPRO_MAX_CHANNELS];  /**< flag indicating if a channel contains the current subframe */
509     int channels_for_cur_subframe = s->num_channels;  /**< number of channels that contain the current subframe */
510     int fixed_channel_layout = 0;                     /**< flag indicating that all channels use the same subframe offsets and sizes */
511     int min_channel_len = 0;                          /**< smallest sum of samples (channels with this length will be processed first) */
512     int c;
513
514     /* Should never consume more than 3073 bits (256 iterations for the
515      * while loop when always the minimum amount of 128 samples is substracted
516      * from missing samples in the 8 channel case).
517      * 1 + BLOCK_MAX_SIZE * MAX_CHANNELS / BLOCK_MIN_SIZE * (MAX_CHANNELS  + 4)
518      */
519
520     /** reset tiling information */
521     for (c = 0; c < s->num_channels; c++)
522         s->channel[c].num_subframes = 0;
523
524     memset(num_samples, 0, sizeof(num_samples));
525
526     if (s->max_num_subframes == 1 || get_bits1(&s->gb))
527         fixed_channel_layout = 1;
528
529     /** loop until the frame data is split between the subframes */
530     do {
531         int subframe_len;
532
533         /** check which channels contain the subframe */
534         for (c = 0; c < s->num_channels; c++) {
535             if (num_samples[c] == min_channel_len) {
536                 if (fixed_channel_layout || channels_for_cur_subframe == 1 ||
537                    (min_channel_len == s->samples_per_frame - s->min_samples_per_subframe))
538                     contains_subframe[c] = 1;
539                 else
540                     contains_subframe[c] = get_bits1(&s->gb);
541             } else
542                 contains_subframe[c] = 0;
543         }
544
545         /** get subframe length, subframe_len == 0 is not allowed */
546         if ((subframe_len = decode_subframe_length(s, min_channel_len)) <= 0)
547             return AVERROR_INVALIDDATA;
548
549         /** add subframes to the individual channels and find new min_channel_len */
550         min_channel_len += subframe_len;
551         for (c = 0; c < s->num_channels; c++) {
552             WMAProChannelCtx* chan = &s->channel[c];
553
554             if (contains_subframe[c]) {
555                 if (chan->num_subframes >= MAX_SUBFRAMES) {
556                     av_log(s->avctx, AV_LOG_ERROR,
557                            "broken frame: num subframes > 31\n");
558                     return AVERROR_INVALIDDATA;
559                 }
560                 chan->subframe_len[chan->num_subframes] = subframe_len;
561                 num_samples[c] += subframe_len;
562                 ++chan->num_subframes;
563                 if (num_samples[c] > s->samples_per_frame) {
564                     av_log(s->avctx, AV_LOG_ERROR, "broken frame: "
565                            "channel len > samples_per_frame\n");
566                     return AVERROR_INVALIDDATA;
567                 }
568             } else if (num_samples[c] <= min_channel_len) {
569                 if (num_samples[c] < min_channel_len) {
570                     channels_for_cur_subframe = 0;
571                     min_channel_len = num_samples[c];
572                 }
573                 ++channels_for_cur_subframe;
574             }
575         }
576     } while (min_channel_len < s->samples_per_frame);
577
578     for (c = 0; c < s->num_channels; c++) {
579         int i;
580         int offset = 0;
581         for (i = 0; i < s->channel[c].num_subframes; i++) {
582             dprintf(s->avctx, "frame[%i] channel[%i] subframe[%i]"
583                     " len %i\n", s->frame_num, c, i,
584                     s->channel[c].subframe_len[i]);
585             s->channel[c].subframe_offset[i] = offset;
586             offset += s->channel[c].subframe_len[i];
587         }
588     }
589
590     return 0;
591 }
592
593 /**
594  *@brief Calculate a decorrelation matrix from the bitstream parameters.
595  *@param s codec context
596  *@param chgroup channel group for which the matrix needs to be calculated
597  */
598 static void decode_decorrelation_matrix(WMAProDecodeCtx *s,
599                                         WMAProChannelGrp *chgroup)
600 {
601     int i;
602     int offset = 0;
603     int8_t rotation_offset[WMAPRO_MAX_CHANNELS * WMAPRO_MAX_CHANNELS];
604     memset(chgroup->decorrelation_matrix, 0, s->num_channels *
605            s->num_channels * sizeof(*chgroup->decorrelation_matrix));
606
607     for (i = 0; i < chgroup->num_channels * (chgroup->num_channels - 1) >> 1; i++)
608         rotation_offset[i] = get_bits(&s->gb, 6);
609
610     for (i = 0; i < chgroup->num_channels; i++)
611         chgroup->decorrelation_matrix[chgroup->num_channels * i + i] =
612             get_bits1(&s->gb) ? 1.0 : -1.0;
613
614     for (i = 1; i < chgroup->num_channels; i++) {
615         int x;
616         for (x = 0; x < i; x++) {
617             int y;
618             for (y = 0; y < i + 1; y++) {
619                 float v1 = chgroup->decorrelation_matrix[x * chgroup->num_channels + y];
620                 float v2 = chgroup->decorrelation_matrix[i * chgroup->num_channels + y];
621                 int n = rotation_offset[offset + x];
622                 float sinv;
623                 float cosv;
624
625                 if (n < 32) {
626                     sinv = sin64[n];
627                     cosv = sin64[32 - n];
628                 } else {
629                     sinv =  sin64[64 -  n];
630                     cosv = -sin64[n  - 32];
631                 }
632
633                 chgroup->decorrelation_matrix[y + x * chgroup->num_channels] =
634                                                (v1 * sinv) - (v2 * cosv);
635                 chgroup->decorrelation_matrix[y + i * chgroup->num_channels] =
636                                                (v1 * cosv) + (v2 * sinv);
637             }
638         }
639         offset += i;
640     }
641 }
642
643 /**
644  *@brief Decode channel transformation parameters
645  *@param s codec context
646  *@return 0 in case of success, < 0 in case of bitstream errors
647  */
648 static int decode_channel_transform(WMAProDecodeCtx* s)
649 {
650     int i;
651     /* should never consume more than 1921 bits for the 8 channel case
652      * 1 + MAX_CHANNELS * (MAX_CHANNELS + 2 + 3 * MAX_CHANNELS * MAX_CHANNELS
653      * + MAX_CHANNELS + MAX_BANDS + 1)
654      */
655
656     /** in the one channel case channel transforms are pointless */
657     s->num_chgroups = 0;
658     if (s->num_channels > 1) {
659         int remaining_channels = s->channels_for_cur_subframe;
660
661         if (get_bits1(&s->gb)) {
662             av_log_ask_for_sample(s->avctx,
663                                   "unsupported channel transform bit\n");
664             return AVERROR_INVALIDDATA;
665         }
666
667         for (s->num_chgroups = 0; remaining_channels &&
668              s->num_chgroups < s->channels_for_cur_subframe; s->num_chgroups++) {
669             WMAProChannelGrp* chgroup = &s->chgroup[s->num_chgroups];
670             float** channel_data = chgroup->channel_data;
671             chgroup->num_channels = 0;
672             chgroup->transform = 0;
673
674             /** decode channel mask */
675             if (remaining_channels > 2) {
676                 for (i = 0; i < s->channels_for_cur_subframe; i++) {
677                     int channel_idx = s->channel_indexes_for_cur_subframe[i];
678                     if (!s->channel[channel_idx].grouped
679                         && get_bits1(&s->gb)) {
680                         ++chgroup->num_channels;
681                         s->channel[channel_idx].grouped = 1;
682                         *channel_data++ = s->channel[channel_idx].coeffs;
683                     }
684                 }
685             } else {
686                 chgroup->num_channels = remaining_channels;
687                 for (i = 0; i < s->channels_for_cur_subframe; i++) {
688                     int channel_idx = s->channel_indexes_for_cur_subframe[i];
689                     if (!s->channel[channel_idx].grouped)
690                         *channel_data++ = s->channel[channel_idx].coeffs;
691                     s->channel[channel_idx].grouped = 1;
692                 }
693             }
694
695             /** decode transform type */
696             if (chgroup->num_channels == 2) {
697                 if (get_bits1(&s->gb)) {
698                     if (get_bits1(&s->gb)) {
699                         av_log_ask_for_sample(s->avctx,
700                                               "unsupported channel transform type\n");
701                     }
702                 } else {
703                     chgroup->transform = 1;
704                     if (s->num_channels == 2) {
705                         chgroup->decorrelation_matrix[0] =  1.0;
706                         chgroup->decorrelation_matrix[1] = -1.0;
707                         chgroup->decorrelation_matrix[2] =  1.0;
708                         chgroup->decorrelation_matrix[3] =  1.0;
709                     } else {
710                         /** cos(pi/4) */
711                         chgroup->decorrelation_matrix[0] =  0.70703125;
712                         chgroup->decorrelation_matrix[1] = -0.70703125;
713                         chgroup->decorrelation_matrix[2] =  0.70703125;
714                         chgroup->decorrelation_matrix[3] =  0.70703125;
715                     }
716                 }
717             } else if (chgroup->num_channels > 2) {
718                 if (get_bits1(&s->gb)) {
719                     chgroup->transform = 1;
720                     if (get_bits1(&s->gb)) {
721                         decode_decorrelation_matrix(s, chgroup);
722                     } else {
723                         /** FIXME: more than 6 coupled channels not supported */
724                         if (chgroup->num_channels > 6) {
725                             av_log_ask_for_sample(s->avctx,
726                                                   "coupled channels > 6\n");
727                         } else {
728                             memcpy(chgroup->decorrelation_matrix,
729                                    default_decorrelation[chgroup->num_channels],
730                                    chgroup->num_channels * chgroup->num_channels *
731                                    sizeof(*chgroup->decorrelation_matrix));
732                         }
733                     }
734                 }
735             }
736
737             /** decode transform on / off */
738             if (chgroup->transform) {
739                 if (!get_bits1(&s->gb)) {
740                     int i;
741                     /** transform can be enabled for individual bands */
742                     for (i = 0; i < s->num_bands; i++) {
743                         chgroup->transform_band[i] = get_bits1(&s->gb);
744                     }
745                 } else {
746                     memset(chgroup->transform_band, 1, s->num_bands);
747                 }
748             }
749             remaining_channels -= chgroup->num_channels;
750         }
751     }
752     return 0;
753 }
754
755 /**
756  *@brief Extract the coefficients from the bitstream.
757  *@param s codec context
758  *@param c current channel number
759  *@return 0 on success, < 0 in case of bitstream errors
760  */
761 static int decode_coeffs(WMAProDecodeCtx *s, int c)
762 {
763     /* Integers 0..15 as single-precision floats.  The table saves a
764        costly int to float conversion, and storing the values as
765        integers allows fast sign-flipping. */
766     static const int fval_tab[16] = {
767         0x00000000, 0x3f800000, 0x40000000, 0x40400000,
768         0x40800000, 0x40a00000, 0x40c00000, 0x40e00000,
769         0x41000000, 0x41100000, 0x41200000, 0x41300000,
770         0x41400000, 0x41500000, 0x41600000, 0x41700000,
771     };
772     int vlctable;
773     VLC* vlc;
774     WMAProChannelCtx* ci = &s->channel[c];
775     int rl_mode = 0;
776     int cur_coeff = 0;
777     int num_zeros = 0;
778     const uint16_t* run;
779     const float* level;
780
781     dprintf(s->avctx, "decode coefficients for channel %i\n", c);
782
783     vlctable = get_bits1(&s->gb);
784     vlc = &coef_vlc[vlctable];
785
786     if (vlctable) {
787         run = coef1_run;
788         level = coef1_level;
789     } else {
790         run = coef0_run;
791         level = coef0_level;
792     }
793
794     /** decode vector coefficients (consumes up to 167 bits per iteration for
795       4 vector coded large values) */
796     while (!rl_mode && cur_coeff + 3 < s->subframe_len) {
797         int vals[4];
798         int i;
799         unsigned int idx;
800
801         idx = get_vlc2(&s->gb, vec4_vlc.table, VLCBITS, VEC4MAXDEPTH);
802
803         if (idx == HUFF_VEC4_SIZE - 1) {
804             for (i = 0; i < 4; i += 2) {
805                 idx = get_vlc2(&s->gb, vec2_vlc.table, VLCBITS, VEC2MAXDEPTH);
806                 if (idx == HUFF_VEC2_SIZE - 1) {
807                     int v0, v1;
808                     v0 = get_vlc2(&s->gb, vec1_vlc.table, VLCBITS, VEC1MAXDEPTH);
809                     if (v0 == HUFF_VEC1_SIZE - 1)
810                         v0 += ff_wma_get_large_val(&s->gb);
811                     v1 = get_vlc2(&s->gb, vec1_vlc.table, VLCBITS, VEC1MAXDEPTH);
812                     if (v1 == HUFF_VEC1_SIZE - 1)
813                         v1 += ff_wma_get_large_val(&s->gb);
814                     ((float*)vals)[i  ] = v0;
815                     ((float*)vals)[i+1] = v1;
816                 } else {
817                     vals[i]   = fval_tab[symbol_to_vec2[idx] >> 4 ];
818                     vals[i+1] = fval_tab[symbol_to_vec2[idx] & 0xF];
819                 }
820             }
821         } else {
822             vals[0] = fval_tab[ symbol_to_vec4[idx] >> 12      ];
823             vals[1] = fval_tab[(symbol_to_vec4[idx] >> 8) & 0xF];
824             vals[2] = fval_tab[(symbol_to_vec4[idx] >> 4) & 0xF];
825             vals[3] = fval_tab[ symbol_to_vec4[idx]       & 0xF];
826         }
827
828         /** decode sign */
829         for (i = 0; i < 4; i++) {
830             if (vals[i]) {
831                 int sign = get_bits1(&s->gb) - 1;
832                 *(uint32_t*)&ci->coeffs[cur_coeff] = vals[i] ^ sign<<31;
833                 num_zeros = 0;
834             } else {
835                 ci->coeffs[cur_coeff] = 0;
836                 /** switch to run level mode when subframe_len / 128 zeros
837                     were found in a row */
838                 rl_mode |= (++num_zeros > s->subframe_len >> 8);
839             }
840             ++cur_coeff;
841         }
842     }
843
844     /** decode run level coded coefficients */
845     if (rl_mode) {
846         memset(&ci->coeffs[cur_coeff], 0,
847                sizeof(*ci->coeffs) * (s->subframe_len - cur_coeff));
848         if (ff_wma_run_level_decode(s->avctx, &s->gb, vlc,
849                                     level, run, 1, ci->coeffs,
850                                     cur_coeff, s->subframe_len,
851                                     s->subframe_len, s->esc_len, 0))
852             return AVERROR_INVALIDDATA;
853     }
854
855     return 0;
856 }
857
858 /**
859  *@brief Extract scale factors from the bitstream.
860  *@param s codec context
861  *@return 0 on success, < 0 in case of bitstream errors
862  */
863 static int decode_scale_factors(WMAProDecodeCtx* s)
864 {
865     int i;
866
867     /** should never consume more than 5344 bits
868      *  MAX_CHANNELS * (1 +  MAX_BANDS * 23)
869      */
870
871     for (i = 0; i < s->channels_for_cur_subframe; i++) {
872         int c = s->channel_indexes_for_cur_subframe[i];
873         int* sf;
874         int* sf_end;
875         s->channel[c].scale_factors = s->channel[c].saved_scale_factors[!s->channel[c].scale_factor_idx];
876         sf_end = s->channel[c].scale_factors + s->num_bands;
877
878         /** resample scale factors for the new block size
879          *  as the scale factors might need to be resampled several times
880          *  before some  new values are transmitted, a backup of the last
881          *  transmitted scale factors is kept in saved_scale_factors
882          */
883         if (s->channel[c].reuse_sf) {
884             const int8_t* sf_offsets = s->sf_offsets[s->table_idx][s->channel[c].table_idx];
885             int b;
886             for (b = 0; b < s->num_bands; b++)
887                 s->channel[c].scale_factors[b] =
888                     s->channel[c].saved_scale_factors[s->channel[c].scale_factor_idx][*sf_offsets++];
889         }
890
891         if (!s->channel[c].cur_subframe || get_bits1(&s->gb)) {
892
893             if (!s->channel[c].reuse_sf) {
894                 int val;
895                 /** decode DPCM coded scale factors */
896                 s->channel[c].scale_factor_step = get_bits(&s->gb, 2) + 1;
897                 val = 45 / s->channel[c].scale_factor_step;
898                 for (sf = s->channel[c].scale_factors; sf < sf_end; sf++) {
899                     val += get_vlc2(&s->gb, sf_vlc.table, SCALEVLCBITS, SCALEMAXDEPTH) - 60;
900                     *sf = val;
901                 }
902             } else {
903                 int i;
904                 /** run level decode differences to the resampled factors */
905                 for (i = 0; i < s->num_bands; i++) {
906                     int idx;
907                     int skip;
908                     int val;
909                     int sign;
910
911                     idx = get_vlc2(&s->gb, sf_rl_vlc.table, VLCBITS, SCALERLMAXDEPTH);
912
913                     if (!idx) {
914                         uint32_t code = get_bits(&s->gb, 14);
915                         val  =  code >> 6;
916                         sign = (code & 1) - 1;
917                         skip = (code & 0x3f) >> 1;
918                     } else if (idx == 1) {
919                         break;
920                     } else {
921                         skip = scale_rl_run[idx];
922                         val  = scale_rl_level[idx];
923                         sign = get_bits1(&s->gb)-1;
924                     }
925
926                     i += skip;
927                     if (i >= s->num_bands) {
928                         av_log(s->avctx, AV_LOG_ERROR,
929                                "invalid scale factor coding\n");
930                         return AVERROR_INVALIDDATA;
931                     }
932                     s->channel[c].scale_factors[i] += (val ^ sign) - sign;
933                 }
934             }
935             /** swap buffers */
936             s->channel[c].scale_factor_idx = !s->channel[c].scale_factor_idx;
937             s->channel[c].table_idx = s->table_idx;
938             s->channel[c].reuse_sf  = 1;
939         }
940
941         /** calculate new scale factor maximum */
942         s->channel[c].max_scale_factor = s->channel[c].scale_factors[0];
943         for (sf = s->channel[c].scale_factors + 1; sf < sf_end; sf++) {
944             s->channel[c].max_scale_factor =
945                 FFMAX(s->channel[c].max_scale_factor, *sf);
946         }
947
948     }
949     return 0;
950 }
951
952 /**
953  *@brief Reconstruct the individual channel data.
954  *@param s codec context
955  */
956 static void inverse_channel_transform(WMAProDecodeCtx *s)
957 {
958     int i;
959
960     for (i = 0; i < s->num_chgroups; i++) {
961         if (s->chgroup[i].transform) {
962             float data[WMAPRO_MAX_CHANNELS];
963             const int num_channels = s->chgroup[i].num_channels;
964             float** ch_data = s->chgroup[i].channel_data;
965             float** ch_end = ch_data + num_channels;
966             const int8_t* tb = s->chgroup[i].transform_band;
967             int16_t* sfb;
968
969             /** multichannel decorrelation */
970             for (sfb = s->cur_sfb_offsets;
971                  sfb < s->cur_sfb_offsets + s->num_bands; sfb++) {
972                 int y;
973                 if (*tb++ == 1) {
974                     /** multiply values with the decorrelation_matrix */
975                     for (y = sfb[0]; y < FFMIN(sfb[1], s->subframe_len); y++) {
976                         const float* mat = s->chgroup[i].decorrelation_matrix;
977                         const float* data_end = data + num_channels;
978                         float* data_ptr = data;
979                         float** ch;
980
981                         for (ch = ch_data; ch < ch_end; ch++)
982                             *data_ptr++ = (*ch)[y];
983
984                         for (ch = ch_data; ch < ch_end; ch++) {
985                             float sum = 0;
986                             data_ptr = data;
987                             while (data_ptr < data_end)
988                                 sum += *data_ptr++ * *mat++;
989
990                             (*ch)[y] = sum;
991                         }
992                     }
993                 } else if (s->num_channels == 2) {
994                     int len = FFMIN(sfb[1], s->subframe_len) - sfb[0];
995                     s->dsp.vector_fmul_scalar(ch_data[0] + sfb[0],
996                                               ch_data[0] + sfb[0],
997                                               181.0 / 128, len);
998                     s->dsp.vector_fmul_scalar(ch_data[1] + sfb[0],
999                                               ch_data[1] + sfb[0],
1000                                               181.0 / 128, len);
1001                 }
1002             }
1003         }
1004     }
1005 }
1006
1007 /**
1008  *@brief Apply sine window and reconstruct the output buffer.
1009  *@param s codec context
1010  */
1011 static void wmapro_window(WMAProDecodeCtx *s)
1012 {
1013     int i;
1014     for (i = 0; i < s->channels_for_cur_subframe; i++) {
1015         int c = s->channel_indexes_for_cur_subframe[i];
1016         float* window;
1017         int winlen = s->channel[c].prev_block_len;
1018         float* start = s->channel[c].coeffs - (winlen >> 1);
1019
1020         if (s->subframe_len < winlen) {
1021             start += (winlen - s->subframe_len) >> 1;
1022             winlen = s->subframe_len;
1023         }
1024
1025         window = s->windows[av_log2(winlen) - WMAPRO_BLOCK_MIN_BITS];
1026
1027         winlen >>= 1;
1028
1029         s->dsp.vector_fmul_window(start, start, start + winlen,
1030                                   window, 0, winlen);
1031
1032         s->channel[c].prev_block_len = s->subframe_len;
1033     }
1034 }
1035
1036 /**
1037  *@brief Decode a single subframe (block).
1038  *@param s codec context
1039  *@return 0 on success, < 0 when decoding failed
1040  */
1041 static int decode_subframe(WMAProDecodeCtx *s)
1042 {
1043     int offset = s->samples_per_frame;
1044     int subframe_len = s->samples_per_frame;
1045     int i;
1046     int total_samples   = s->samples_per_frame * s->num_channels;
1047     int transmit_coeffs = 0;
1048     int cur_subwoofer_cutoff;
1049
1050     s->subframe_offset = get_bits_count(&s->gb);
1051
1052     /** reset channel context and find the next block offset and size
1053         == the next block of the channel with the smallest number of
1054         decoded samples
1055     */
1056     for (i = 0; i < s->num_channels; i++) {
1057         s->channel[i].grouped = 0;
1058         if (offset > s->channel[i].decoded_samples) {
1059             offset = s->channel[i].decoded_samples;
1060             subframe_len =
1061                 s->channel[i].subframe_len[s->channel[i].cur_subframe];
1062         }
1063     }
1064
1065     dprintf(s->avctx,
1066             "processing subframe with offset %i len %i\n", offset, subframe_len);
1067
1068     /** get a list of all channels that contain the estimated block */
1069     s->channels_for_cur_subframe = 0;
1070     for (i = 0; i < s->num_channels; i++) {
1071         const int cur_subframe = s->channel[i].cur_subframe;
1072         /** substract already processed samples */
1073         total_samples -= s->channel[i].decoded_samples;
1074
1075         /** and count if there are multiple subframes that match our profile */
1076         if (offset == s->channel[i].decoded_samples &&
1077             subframe_len == s->channel[i].subframe_len[cur_subframe]) {
1078             total_samples -= s->channel[i].subframe_len[cur_subframe];
1079             s->channel[i].decoded_samples +=
1080                 s->channel[i].subframe_len[cur_subframe];
1081             s->channel_indexes_for_cur_subframe[s->channels_for_cur_subframe] = i;
1082             ++s->channels_for_cur_subframe;
1083         }
1084     }
1085
1086     /** check if the frame will be complete after processing the
1087         estimated block */
1088     if (!total_samples)
1089         s->parsed_all_subframes = 1;
1090
1091
1092     dprintf(s->avctx, "subframe is part of %i channels\n",
1093             s->channels_for_cur_subframe);
1094
1095     /** calculate number of scale factor bands and their offsets */
1096     s->table_idx         = av_log2(s->samples_per_frame/subframe_len);
1097     s->num_bands         = s->num_sfb[s->table_idx];
1098     s->cur_sfb_offsets   = s->sfb_offsets[s->table_idx];
1099     cur_subwoofer_cutoff = s->subwoofer_cutoffs[s->table_idx];
1100
1101     /** configure the decoder for the current subframe */
1102     for (i = 0; i < s->channels_for_cur_subframe; i++) {
1103         int c = s->channel_indexes_for_cur_subframe[i];
1104
1105         s->channel[c].coeffs = &s->channel[c].out[(s->samples_per_frame >> 1)
1106                                                   + offset];
1107     }
1108
1109     s->subframe_len = subframe_len;
1110     s->esc_len = av_log2(s->subframe_len - 1) + 1;
1111
1112     /** skip extended header if any */
1113     if (get_bits1(&s->gb)) {
1114         int num_fill_bits;
1115         if (!(num_fill_bits = get_bits(&s->gb, 2))) {
1116             int len = get_bits(&s->gb, 4);
1117             num_fill_bits = get_bits(&s->gb, len) + 1;
1118         }
1119
1120         if (num_fill_bits >= 0) {
1121             if (get_bits_count(&s->gb) + num_fill_bits > s->num_saved_bits) {
1122                 av_log(s->avctx, AV_LOG_ERROR, "invalid number of fill bits\n");
1123                 return AVERROR_INVALIDDATA;
1124             }
1125
1126             skip_bits_long(&s->gb, num_fill_bits);
1127         }
1128     }
1129
1130     /** no idea for what the following bit is used */
1131     if (get_bits1(&s->gb)) {
1132         av_log_ask_for_sample(s->avctx, "reserved bit set\n");
1133         return AVERROR_INVALIDDATA;
1134     }
1135
1136
1137     if (decode_channel_transform(s) < 0)
1138         return AVERROR_INVALIDDATA;
1139
1140
1141     for (i = 0; i < s->channels_for_cur_subframe; i++) {
1142         int c = s->channel_indexes_for_cur_subframe[i];
1143         if ((s->channel[c].transmit_coefs = get_bits1(&s->gb)))
1144             transmit_coeffs = 1;
1145     }
1146
1147     if (transmit_coeffs) {
1148         int step;
1149         int quant_step = 90 * s->bits_per_sample >> 4;
1150         if ((get_bits1(&s->gb))) {
1151             /** FIXME: might change run level mode decision */
1152             av_log_ask_for_sample(s->avctx, "unsupported quant step coding\n");
1153             return AVERROR_INVALIDDATA;
1154         }
1155         /** decode quantization step */
1156         step = get_sbits(&s->gb, 6);
1157         quant_step += step;
1158         if (step == -32 || step == 31) {
1159             const int sign = (step == 31) - 1;
1160             int quant = 0;
1161             while (get_bits_count(&s->gb) + 5 < s->num_saved_bits &&
1162                    (step = get_bits(&s->gb, 5)) == 31) {
1163                 quant += 31;
1164             }
1165             quant_step += ((quant + step) ^ sign) - sign;
1166         }
1167         if (quant_step < 0) {
1168             av_log(s->avctx, AV_LOG_DEBUG, "negative quant step\n");
1169         }
1170
1171         /** decode quantization step modifiers for every channel */
1172
1173         if (s->channels_for_cur_subframe == 1) {
1174             s->channel[s->channel_indexes_for_cur_subframe[0]].quant_step = quant_step;
1175         } else {
1176             int modifier_len = get_bits(&s->gb, 3);
1177             for (i = 0; i < s->channels_for_cur_subframe; i++) {
1178                 int c = s->channel_indexes_for_cur_subframe[i];
1179                 s->channel[c].quant_step = quant_step;
1180                 if (get_bits1(&s->gb)) {
1181                     if (modifier_len) {
1182                         s->channel[c].quant_step += get_bits(&s->gb, modifier_len) + 1;
1183                     } else
1184                         ++s->channel[c].quant_step;
1185                 }
1186             }
1187         }
1188
1189         /** decode scale factors */
1190         if (decode_scale_factors(s) < 0)
1191             return AVERROR_INVALIDDATA;
1192     }
1193
1194     dprintf(s->avctx, "BITSTREAM: subframe header length was %i\n",
1195             get_bits_count(&s->gb) - s->subframe_offset);
1196
1197     /** parse coefficients */
1198     for (i = 0; i < s->channels_for_cur_subframe; i++) {
1199         int c = s->channel_indexes_for_cur_subframe[i];
1200         if (s->channel[c].transmit_coefs &&
1201             get_bits_count(&s->gb) < s->num_saved_bits) {
1202             decode_coeffs(s, c);
1203         } else
1204             memset(s->channel[c].coeffs, 0,
1205                    sizeof(*s->channel[c].coeffs) * subframe_len);
1206     }
1207
1208     dprintf(s->avctx, "BITSTREAM: subframe length was %i\n",
1209             get_bits_count(&s->gb) - s->subframe_offset);
1210
1211     if (transmit_coeffs) {
1212         /** reconstruct the per channel data */
1213         inverse_channel_transform(s);
1214         for (i = 0; i < s->channels_for_cur_subframe; i++) {
1215             int c = s->channel_indexes_for_cur_subframe[i];
1216             const int* sf = s->channel[c].scale_factors;
1217             int b;
1218
1219             if (c == s->lfe_channel)
1220                 memset(&s->tmp[cur_subwoofer_cutoff], 0, sizeof(*s->tmp) *
1221                        (subframe_len - cur_subwoofer_cutoff));
1222
1223             /** inverse quantization and rescaling */
1224             for (b = 0; b < s->num_bands; b++) {
1225                 const int end = FFMIN(s->cur_sfb_offsets[b+1], s->subframe_len);
1226                 const int exp = s->channel[c].quant_step -
1227                             (s->channel[c].max_scale_factor - *sf++) *
1228                             s->channel[c].scale_factor_step;
1229                 const float quant = pow(10.0, exp / 20.0);
1230                 int start = s->cur_sfb_offsets[b];
1231                 s->dsp.vector_fmul_scalar(s->tmp + start,
1232                                           s->channel[c].coeffs + start,
1233                                           quant, end - start);
1234             }
1235
1236             /** apply imdct (ff_imdct_half == DCTIV with reverse) */
1237             ff_imdct_half(&s->mdct_ctx[av_log2(subframe_len) - WMAPRO_BLOCK_MIN_BITS],
1238                           s->channel[c].coeffs, s->tmp);
1239         }
1240     }
1241
1242     /** window and overlapp-add */
1243     wmapro_window(s);
1244
1245     /** handled one subframe */
1246     for (i = 0; i < s->channels_for_cur_subframe; i++) {
1247         int c = s->channel_indexes_for_cur_subframe[i];
1248         if (s->channel[c].cur_subframe >= s->channel[c].num_subframes) {
1249             av_log(s->avctx, AV_LOG_ERROR, "broken subframe\n");
1250             return AVERROR_INVALIDDATA;
1251         }
1252         ++s->channel[c].cur_subframe;
1253     }
1254
1255     return 0;
1256 }
1257
1258 /**
1259  *@brief Decode one WMA frame.
1260  *@param s codec context
1261  *@return 0 if the trailer bit indicates that this is the last frame,
1262  *        1 if there are additional frames
1263  */
1264 static int decode_frame(WMAProDecodeCtx *s)
1265 {
1266     GetBitContext* gb = &s->gb;
1267     int more_frames = 0;
1268     int len = 0;
1269     int i;
1270
1271     /** check for potential output buffer overflow */
1272     if (s->num_channels * s->samples_per_frame > s->samples_end - s->samples) {
1273         /** return an error if no frame could be decoded at all */
1274         av_log(s->avctx, AV_LOG_ERROR,
1275                "not enough space for the output samples\n");
1276         s->packet_loss = 1;
1277         return 0;
1278     }
1279
1280     /** get frame length */
1281     if (s->len_prefix)
1282         len = get_bits(gb, s->log2_frame_size);
1283
1284     dprintf(s->avctx, "decoding frame with length %x\n", len);
1285
1286     /** decode tile information */
1287     if (decode_tilehdr(s)) {
1288         s->packet_loss = 1;
1289         return 0;
1290     }
1291
1292     /** read postproc transform */
1293     if (s->num_channels > 1 && get_bits1(gb)) {
1294         if (get_bits1(gb)) {
1295             for (i = 0; i < s->num_channels * s->num_channels; i++)
1296                 skip_bits(gb, 4);
1297         }
1298     }
1299
1300     /** read drc info */
1301     if (s->dynamic_range_compression) {
1302         s->drc_gain = get_bits(gb, 8);
1303         dprintf(s->avctx, "drc_gain %i\n", s->drc_gain);
1304     }
1305
1306     /** no idea what these are for, might be the number of samples
1307         that need to be skipped at the beginning or end of a stream */
1308     if (get_bits1(gb)) {
1309         int skip;
1310
1311         /** usually true for the first frame */
1312         if (get_bits1(gb)) {
1313             skip = get_bits(gb, av_log2(s->samples_per_frame * 2));
1314             dprintf(s->avctx, "start skip: %i\n", skip);
1315         }
1316
1317         /** sometimes true for the last frame */
1318         if (get_bits1(gb)) {
1319             skip = get_bits(gb, av_log2(s->samples_per_frame * 2));
1320             dprintf(s->avctx, "end skip: %i\n", skip);
1321         }
1322
1323     }
1324
1325     dprintf(s->avctx, "BITSTREAM: frame header length was %i\n",
1326             get_bits_count(gb) - s->frame_offset);
1327
1328     /** reset subframe states */
1329     s->parsed_all_subframes = 0;
1330     for (i = 0; i < s->num_channels; i++) {
1331         s->channel[i].decoded_samples = 0;
1332         s->channel[i].cur_subframe    = 0;
1333         s->channel[i].reuse_sf        = 0;
1334     }
1335
1336     /** decode all subframes */
1337     while (!s->parsed_all_subframes) {
1338         if (decode_subframe(s) < 0) {
1339             s->packet_loss = 1;
1340             return 0;
1341         }
1342     }
1343
1344     /** interleave samples and write them to the output buffer */
1345     for (i = 0; i < s->num_channels; i++) {
1346         float* ptr  = s->samples + i;
1347         int incr = s->num_channels;
1348         float* iptr = s->channel[i].out;
1349         float* iend = iptr + s->samples_per_frame;
1350
1351         // FIXME should create/use a DSP function here
1352         while (iptr < iend) {
1353             *ptr = *iptr++;
1354             ptr += incr;
1355         }
1356
1357         /** reuse second half of the IMDCT output for the next frame */
1358         memcpy(&s->channel[i].out[0],
1359                &s->channel[i].out[s->samples_per_frame],
1360                s->samples_per_frame * sizeof(*s->channel[i].out) >> 1);
1361     }
1362
1363     if (s->skip_frame) {
1364         s->skip_frame = 0;
1365     } else
1366         s->samples += s->num_channels * s->samples_per_frame;
1367
1368     if (s->len_prefix) {
1369         if (len != (get_bits_count(gb) - s->frame_offset) + 2) {
1370             /** FIXME: not sure if this is always an error */
1371             av_log(s->avctx, AV_LOG_ERROR,
1372                    "frame[%i] would have to skip %i bits\n", s->frame_num,
1373                    len - (get_bits_count(gb) - s->frame_offset) - 1);
1374             s->packet_loss = 1;
1375             return 0;
1376         }
1377
1378         /** skip the rest of the frame data */
1379         skip_bits_long(gb, len - (get_bits_count(gb) - s->frame_offset) - 1);
1380     } else {
1381         while (get_bits_count(gb) < s->num_saved_bits && get_bits1(gb) == 0) {
1382         }
1383     }
1384
1385     /** decode trailer bit */
1386     more_frames = get_bits1(gb);
1387
1388     ++s->frame_num;
1389     return more_frames;
1390 }
1391
1392 /**
1393  *@brief Calculate remaining input buffer length.
1394  *@param s codec context
1395  *@param gb bitstream reader context
1396  *@return remaining size in bits
1397  */
1398 static int remaining_bits(WMAProDecodeCtx *s, GetBitContext *gb)
1399 {
1400     return s->buf_bit_size - get_bits_count(gb);
1401 }
1402
1403 /**
1404  *@brief Fill the bit reservoir with a (partial) frame.
1405  *@param s codec context
1406  *@param gb bitstream reader context
1407  *@param len length of the partial frame
1408  *@param append decides wether to reset the buffer or not
1409  */
1410 static void save_bits(WMAProDecodeCtx *s, GetBitContext* gb, int len,
1411                       int append)
1412 {
1413     int buflen;
1414
1415     /** when the frame data does not need to be concatenated, the input buffer
1416         is resetted and additional bits from the previous frame are copyed
1417         and skipped later so that a fast byte copy is possible */
1418
1419     if (!append) {
1420         s->frame_offset = get_bits_count(gb) & 7;
1421         s->num_saved_bits = s->frame_offset;
1422         init_put_bits(&s->pb, s->frame_data, MAX_FRAMESIZE);
1423     }
1424
1425     buflen = (s->num_saved_bits + len + 8) >> 3;
1426
1427     if (len <= 0 || buflen > MAX_FRAMESIZE) {
1428         av_log_ask_for_sample(s->avctx, "input buffer too small\n");
1429         s->packet_loss = 1;
1430         return;
1431     }
1432
1433     s->num_saved_bits += len;
1434     if (!append) {
1435         ff_copy_bits(&s->pb, gb->buffer + (get_bits_count(gb) >> 3),
1436                      s->num_saved_bits);
1437     } else {
1438         int align = 8 - (get_bits_count(gb) & 7);
1439         align = FFMIN(align, len);
1440         put_bits(&s->pb, align, get_bits(gb, align));
1441         len -= align;
1442         ff_copy_bits(&s->pb, gb->buffer + (get_bits_count(gb) >> 3), len);
1443     }
1444     skip_bits_long(gb, len);
1445
1446     {
1447         PutBitContext tmp = s->pb;
1448         flush_put_bits(&tmp);
1449     }
1450
1451     init_get_bits(&s->gb, s->frame_data, s->num_saved_bits);
1452     skip_bits(&s->gb, s->frame_offset);
1453 }
1454
1455 /**
1456  *@brief Decode a single WMA packet.
1457  *@param avctx codec context
1458  *@param data the output buffer
1459  *@param data_size number of bytes that were written to the output buffer
1460  *@param avpkt input packet
1461  *@return number of bytes that were read from the input buffer
1462  */
1463 static int decode_packet(AVCodecContext *avctx,
1464                          void *data, int *data_size, AVPacket* avpkt)
1465 {
1466     WMAProDecodeCtx *s = avctx->priv_data;
1467     GetBitContext* gb  = &s->pgb;
1468     const uint8_t* buf = avpkt->data;
1469     int buf_size       = avpkt->size;
1470     int num_bits_prev_frame;
1471     int packet_sequence_number;
1472
1473     s->samples       = data;
1474     s->samples_end   = (float*)((int8_t*)data + *data_size);
1475     *data_size = 0;
1476
1477     if (s->packet_done || s->packet_loss) {
1478         s->packet_done = 0;
1479         s->buf_bit_size = buf_size << 3;
1480
1481         /** sanity check for the buffer length */
1482         if (buf_size < avctx->block_align)
1483             return 0;
1484
1485         buf_size = avctx->block_align;
1486
1487         /** parse packet header */
1488         init_get_bits(gb, buf, s->buf_bit_size);
1489         packet_sequence_number = get_bits(gb, 4);
1490         skip_bits(gb, 2);
1491
1492         /** get number of bits that need to be added to the previous frame */
1493         num_bits_prev_frame = get_bits(gb, s->log2_frame_size);
1494         dprintf(avctx, "packet[%d]: nbpf %x\n", avctx->frame_number,
1495                 num_bits_prev_frame);
1496
1497         /** check for packet loss */
1498         if (!s->packet_loss &&
1499             ((s->packet_sequence_number + 1) & 0xF) != packet_sequence_number) {
1500             s->packet_loss = 1;
1501             av_log(avctx, AV_LOG_ERROR, "Packet loss detected! seq %x vs %x\n",
1502                    s->packet_sequence_number, packet_sequence_number);
1503         }
1504         s->packet_sequence_number = packet_sequence_number;
1505
1506         if (num_bits_prev_frame > 0) {
1507             /** append the previous frame data to the remaining data from the
1508                 previous packet to create a full frame */
1509             save_bits(s, gb, num_bits_prev_frame, 1);
1510             dprintf(avctx, "accumulated %x bits of frame data\n",
1511                     s->num_saved_bits - s->frame_offset);
1512
1513             /** decode the cross packet frame if it is valid */
1514             if (!s->packet_loss)
1515                 decode_frame(s);
1516         } else if (s->num_saved_bits - s->frame_offset) {
1517             dprintf(avctx, "ignoring %x previously saved bits\n",
1518                     s->num_saved_bits - s->frame_offset);
1519         }
1520
1521         if (s->packet_loss) {
1522             /** reset number of saved bits so that the decoder
1523                 does not start to decode incomplete frames in the
1524                 s->len_prefix == 0 case */
1525             s->num_saved_bits = 0;
1526             s->packet_loss = 0;
1527         }
1528
1529     } else {
1530         int frame_size;
1531         s->buf_bit_size = avpkt->size << 3;
1532         init_get_bits(gb, avpkt->data, s->buf_bit_size);
1533         skip_bits(gb, s->packet_offset);
1534         if (s->len_prefix && remaining_bits(s, gb) > s->log2_frame_size &&
1535             (frame_size = show_bits(gb, s->log2_frame_size)) &&
1536             frame_size <= remaining_bits(s, gb)) {
1537             save_bits(s, gb, frame_size, 0);
1538             s->packet_done = !decode_frame(s);
1539         } else if (!s->len_prefix
1540                    && s->num_saved_bits > get_bits_count(&s->gb)) {
1541             /** when the frames do not have a length prefix, we don't know
1542                 the compressed length of the individual frames
1543                 however, we know what part of a new packet belongs to the
1544                 previous frame
1545                 therefore we save the incoming packet first, then we append
1546                 the "previous frame" data from the next packet so that
1547                 we get a buffer that only contains full frames */
1548             s->packet_done = !decode_frame(s);
1549         } else
1550             s->packet_done = 1;
1551     }
1552
1553     if (s->packet_done && !s->packet_loss &&
1554         remaining_bits(s, gb) > 0) {
1555         /** save the rest of the data so that it can be decoded
1556             with the next packet */
1557         save_bits(s, gb, remaining_bits(s, gb), 0);
1558     }
1559
1560     *data_size = (int8_t *)s->samples - (int8_t *)data;
1561     s->packet_offset = get_bits_count(gb) & 7;
1562
1563     return (s->packet_loss) ? AVERROR_INVALIDDATA : get_bits_count(gb) >> 3;
1564 }
1565
1566 /**
1567  *@brief Clear decoder buffers (for seeking).
1568  *@param avctx codec context
1569  */
1570 static void flush(AVCodecContext *avctx)
1571 {
1572     WMAProDecodeCtx *s = avctx->priv_data;
1573     int i;
1574     /** reset output buffer as a part of it is used during the windowing of a
1575         new frame */
1576     for (i = 0; i < s->num_channels; i++)
1577         memset(s->channel[i].out, 0, s->samples_per_frame *
1578                sizeof(*s->channel[i].out));
1579     s->packet_loss = 1;
1580 }
1581
1582
1583 /**
1584  *@brief wmapro decoder
1585  */
1586 AVCodec wmapro_decoder = {
1587     "wmapro",
1588     AVMEDIA_TYPE_AUDIO,
1589     CODEC_ID_WMAPRO,
1590     sizeof(WMAProDecodeCtx),
1591     decode_init,
1592     NULL,
1593     decode_end,
1594     decode_packet,
1595     .capabilities = CODEC_CAP_SUBFRAMES,
1596     .flush= flush,
1597     .long_name = NULL_IF_CONFIG_SMALL("Windows Media Audio 9 Professional"),
1598 };