Fix wrong buffer allocation for MCC in ALS.
[ffmpeg.git] / libavcodec / alsdec.c
1 /*
2  * MPEG-4 ALS decoder
3  * Copyright (c) 2009 Thilo Borgmann <thilo.borgmann _at_ googlemail.com>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file libavcodec/alsdec.c
24  * MPEG-4 ALS decoder
25  * @author Thilo Borgmann <thilo.borgmann _at_ googlemail.com>
26  */
27
28
29 //#define DEBUG
30
31
32 #include "avcodec.h"
33 #include "get_bits.h"
34 #include "unary.h"
35 #include "mpeg4audio.h"
36 #include "bytestream.h"
37 #include "bgmc.h"
38
39 #include <stdint.h>
40
41 /** Rice parameters and corresponding index offsets for decoding the
42  *  indices of scaled PARCOR values. The table choosen is set globally
43  *  by the encoder and stored in ALSSpecificConfig.
44  */
45 static const int8_t parcor_rice_table[3][20][2] = {
46     { {-52, 4}, {-29, 5}, {-31, 4}, { 19, 4}, {-16, 4},
47       { 12, 3}, { -7, 3}, {  9, 3}, { -5, 3}, {  6, 3},
48       { -4, 3}, {  3, 3}, { -3, 2}, {  3, 2}, { -2, 2},
49       {  3, 2}, { -1, 2}, {  2, 2}, { -1, 2}, {  2, 2} },
50     { {-58, 3}, {-42, 4}, {-46, 4}, { 37, 5}, {-36, 4},
51       { 29, 4}, {-29, 4}, { 25, 4}, {-23, 4}, { 20, 4},
52       {-17, 4}, { 16, 4}, {-12, 4}, { 12, 3}, {-10, 4},
53       {  7, 3}, { -4, 4}, {  3, 3}, { -1, 3}, {  1, 3} },
54     { {-59, 3}, {-45, 5}, {-50, 4}, { 38, 4}, {-39, 4},
55       { 32, 4}, {-30, 4}, { 25, 3}, {-23, 3}, { 20, 3},
56       {-20, 3}, { 16, 3}, {-13, 3}, { 10, 3}, { -7, 3},
57       {  3, 3}, {  0, 3}, { -1, 3}, {  2, 3}, { -1, 2} }
58 };
59
60
61 /** Scaled PARCOR values used for the first two PARCOR coefficients.
62  *  To be indexed by the Rice coded indices.
63  *  Generated by: parcor_scaled_values[i] = 32 + ((i * (i+1)) << 7) - (1 << 20)
64  *  Actual values are divided by 32 in order to be stored in 16 bits.
65  */
66 static const int16_t parcor_scaled_values[] = {
67     -1048544 / 32, -1048288 / 32, -1047776 / 32, -1047008 / 32,
68     -1045984 / 32, -1044704 / 32, -1043168 / 32, -1041376 / 32,
69     -1039328 / 32, -1037024 / 32, -1034464 / 32, -1031648 / 32,
70     -1028576 / 32, -1025248 / 32, -1021664 / 32, -1017824 / 32,
71     -1013728 / 32, -1009376 / 32, -1004768 / 32,  -999904 / 32,
72      -994784 / 32,  -989408 / 32,  -983776 / 32,  -977888 / 32,
73      -971744 / 32,  -965344 / 32,  -958688 / 32,  -951776 / 32,
74      -944608 / 32,  -937184 / 32,  -929504 / 32,  -921568 / 32,
75      -913376 / 32,  -904928 / 32,  -896224 / 32,  -887264 / 32,
76      -878048 / 32,  -868576 / 32,  -858848 / 32,  -848864 / 32,
77      -838624 / 32,  -828128 / 32,  -817376 / 32,  -806368 / 32,
78      -795104 / 32,  -783584 / 32,  -771808 / 32,  -759776 / 32,
79      -747488 / 32,  -734944 / 32,  -722144 / 32,  -709088 / 32,
80      -695776 / 32,  -682208 / 32,  -668384 / 32,  -654304 / 32,
81      -639968 / 32,  -625376 / 32,  -610528 / 32,  -595424 / 32,
82      -580064 / 32,  -564448 / 32,  -548576 / 32,  -532448 / 32,
83      -516064 / 32,  -499424 / 32,  -482528 / 32,  -465376 / 32,
84      -447968 / 32,  -430304 / 32,  -412384 / 32,  -394208 / 32,
85      -375776 / 32,  -357088 / 32,  -338144 / 32,  -318944 / 32,
86      -299488 / 32,  -279776 / 32,  -259808 / 32,  -239584 / 32,
87      -219104 / 32,  -198368 / 32,  -177376 / 32,  -156128 / 32,
88      -134624 / 32,  -112864 / 32,   -90848 / 32,   -68576 / 32,
89       -46048 / 32,   -23264 / 32,     -224 / 32,    23072 / 32,
90        46624 / 32,    70432 / 32,    94496 / 32,   118816 / 32,
91       143392 / 32,   168224 / 32,   193312 / 32,   218656 / 32,
92       244256 / 32,   270112 / 32,   296224 / 32,   322592 / 32,
93       349216 / 32,   376096 / 32,   403232 / 32,   430624 / 32,
94       458272 / 32,   486176 / 32,   514336 / 32,   542752 / 32,
95       571424 / 32,   600352 / 32,   629536 / 32,   658976 / 32,
96       688672 / 32,   718624 / 32,   748832 / 32,   779296 / 32,
97       810016 / 32,   840992 / 32,   872224 / 32,   903712 / 32,
98       935456 / 32,   967456 / 32,   999712 / 32,  1032224 / 32
99 };
100
101
102 /** Gain values of p(0) for long-term prediction.
103  *  To be indexed by the Rice coded indices.
104  */
105 static const uint8_t ltp_gain_values [4][4] = {
106     { 0,  8, 16,  24},
107     {32, 40, 48,  56},
108     {64, 70, 76,  82},
109     {88, 92, 96, 100}
110 };
111
112
113 /** Inter-channel weighting factors for multi-channel correlation.
114  *  To be indexed by the Rice coded indices.
115  */
116 static const int16_t mcc_weightings[] = {
117     204,  192,  179,  166,  153,  140,  128,  115,
118     102,   89,   76,   64,   51,   38,   25,   12,
119       0,  -12,  -25,  -38,  -51,  -64,  -76,  -89,
120    -102, -115, -128, -140, -153, -166, -179, -192
121 };
122
123
124 /** Tail codes used in arithmetic coding using block Gilbert-Moore codes.
125  */
126 static const uint8_t tail_code[16][6] = {
127     { 74, 44, 25, 13,  7, 3},
128     { 68, 42, 24, 13,  7, 3},
129     { 58, 39, 23, 13,  7, 3},
130     {126, 70, 37, 19, 10, 5},
131     {132, 70, 37, 20, 10, 5},
132     {124, 70, 38, 20, 10, 5},
133     {120, 69, 37, 20, 11, 5},
134     {116, 67, 37, 20, 11, 5},
135     {108, 66, 36, 20, 10, 5},
136     {102, 62, 36, 20, 10, 5},
137     { 88, 58, 34, 19, 10, 5},
138     {162, 89, 49, 25, 13, 7},
139     {156, 87, 49, 26, 14, 7},
140     {150, 86, 47, 26, 14, 7},
141     {142, 84, 47, 26, 14, 7},
142     {131, 79, 46, 26, 14, 7}
143 };
144
145
146 enum RA_Flag {
147     RA_FLAG_NONE,
148     RA_FLAG_FRAMES,
149     RA_FLAG_HEADER
150 };
151
152
153 typedef struct {
154     uint32_t samples;         ///< number of samples, 0xFFFFFFFF if unknown
155     int resolution;           ///< 000 = 8-bit; 001 = 16-bit; 010 = 24-bit; 011 = 32-bit
156     int floating;             ///< 1 = IEEE 32-bit floating-point, 0 = integer
157     int frame_length;         ///< frame length for each frame (last frame may differ)
158     int ra_distance;          ///< distance between RA frames (in frames, 0...255)
159     enum RA_Flag ra_flag;     ///< indicates where the size of ra units is stored
160     int adapt_order;          ///< adaptive order: 1 = on, 0 = off
161     int coef_table;           ///< table index of Rice code parameters
162     int long_term_prediction; ///< long term prediction (LTP): 1 = on, 0 = off
163     int max_order;            ///< maximum prediction order (0..1023)
164     int block_switching;      ///< number of block switching levels
165     int bgmc;                 ///< "Block Gilbert-Moore Code": 1 = on, 0 = off (Rice coding only)
166     int sb_part;              ///< sub-block partition
167     int joint_stereo;         ///< joint stereo: 1 = on, 0 = off
168     int mc_coding;            ///< extended inter-channel coding (multi channel coding): 1 = on, 0 = off
169     int chan_config;          ///< indicates that a chan_config_info field is present
170     int chan_sort;            ///< channel rearrangement: 1 = on, 0 = off
171     int rlslms;               ///< use "Recursive Least Square-Least Mean Square" predictor: 1 = on, 0 = off
172     int chan_config_info;     ///< mapping of channels to loudspeaker locations. Unused until setting channel configuration is implemented.
173     int *chan_pos;            ///< original channel positions
174 } ALSSpecificConfig;
175
176
177 typedef struct {
178     int stop_flag;
179     int master_channel;
180     int time_diff_flag;
181     int time_diff_sign;
182     int time_diff_index;
183     int weighting[6];
184 } ALSChannelData;
185
186
187 typedef struct {
188     AVCodecContext *avctx;
189     ALSSpecificConfig sconf;
190     GetBitContext gb;
191     unsigned int cur_frame_length;  ///< length of the current frame to decode
192     unsigned int frame_id;          ///< the frame ID / number of the current frame
193     unsigned int js_switch;         ///< if true, joint-stereo decoding is enforced
194     unsigned int num_blocks;        ///< number of blocks used in the current frame
195     unsigned int s_max;             ///< maximum Rice parameter allowed in entropy coding
196     uint8_t *bgmc_lut;              ///< pointer at lookup tables used for BGMC
197     unsigned int *bgmc_lut_status;  ///< pointer at lookup table status flags used for BGMC
198     int ltp_lag_length;             ///< number of bits used for ltp lag value
199     int *use_ltp;                   ///< contains use_ltp flags for all channels
200     int *ltp_lag;                   ///< contains ltp lag values for all channels
201     int **ltp_gain;                 ///< gain values for ltp 5-tap filter for a channel
202     int *ltp_gain_buffer;           ///< contains all gain values for ltp 5-tap filter
203     int32_t **quant_cof;            ///< quantized parcor coefficients for a channel
204     int32_t *quant_cof_buffer;      ///< contains all quantized parcor coefficients
205     int32_t **lpc_cof;              ///< coefficients of the direct form prediction filter for a channel
206     int32_t *lpc_cof_buffer;        ///< contains all coefficients of the direct form prediction filter
207     int32_t *lpc_cof_reversed_buffer; ///< temporary buffer to set up a reversed versio of lpc_cof_buffer
208     ALSChannelData **chan_data;     ///< channel data for multi-channel correlation
209     ALSChannelData *chan_data_buffer; ///< contains channel data for all channels
210     int *reverted_channels;         ///< stores a flag for each reverted channel
211     int32_t *prev_raw_samples;      ///< contains unshifted raw samples from the previous block
212     int32_t **raw_samples;          ///< decoded raw samples for each channel
213     int32_t *raw_buffer;            ///< contains all decoded raw samples including carryover samples
214 } ALSDecContext;
215
216
217 typedef struct {
218     unsigned int block_length;      ///< number of samples within the block
219     unsigned int ra_block;          ///< if true, this is a random access block
220     int          const_block;       ///< if true, this is a constant value block
221     int32_t      const_val;         ///< the sample value of a constant block
222     int          js_blocks;         ///< true if this block contains a difference signal
223     unsigned int shift_lsbs;        ///< shift of values for this block
224     unsigned int opt_order;         ///< prediction order of this block
225     int          store_prev_samples;///< if true, carryover samples have to be stored
226     int          *use_ltp;          ///< if true, long-term prediction is used
227     int          *ltp_lag;          ///< lag value for long-term prediction
228     int          *ltp_gain;         ///< gain values for ltp 5-tap filter
229     int32_t      *quant_cof;        ///< quantized parcor coefficients
230     int32_t      *lpc_cof;          ///< coefficients of the direct form prediction
231     int32_t      *raw_samples;      ///< decoded raw samples / residuals for this block
232     int32_t      *prev_raw_samples; ///< contains unshifted raw samples from the previous block
233     int32_t      *raw_other;        ///< decoded raw samples of the other channel of a channel pair
234 } ALSBlockData;
235
236
237 static av_cold void dprint_specific_config(ALSDecContext *ctx)
238 {
239 #ifdef DEBUG
240     AVCodecContext *avctx    = ctx->avctx;
241     ALSSpecificConfig *sconf = &ctx->sconf;
242
243     dprintf(avctx, "resolution = %i\n",           sconf->resolution);
244     dprintf(avctx, "floating = %i\n",             sconf->floating);
245     dprintf(avctx, "frame_length = %i\n",         sconf->frame_length);
246     dprintf(avctx, "ra_distance = %i\n",          sconf->ra_distance);
247     dprintf(avctx, "ra_flag = %i\n",              sconf->ra_flag);
248     dprintf(avctx, "adapt_order = %i\n",          sconf->adapt_order);
249     dprintf(avctx, "coef_table = %i\n",           sconf->coef_table);
250     dprintf(avctx, "long_term_prediction = %i\n", sconf->long_term_prediction);
251     dprintf(avctx, "max_order = %i\n",            sconf->max_order);
252     dprintf(avctx, "block_switching = %i\n",      sconf->block_switching);
253     dprintf(avctx, "bgmc = %i\n",                 sconf->bgmc);
254     dprintf(avctx, "sb_part = %i\n",              sconf->sb_part);
255     dprintf(avctx, "joint_stereo = %i\n",         sconf->joint_stereo);
256     dprintf(avctx, "mc_coding = %i\n",            sconf->mc_coding);
257     dprintf(avctx, "chan_config = %i\n",          sconf->chan_config);
258     dprintf(avctx, "chan_sort = %i\n",            sconf->chan_sort);
259     dprintf(avctx, "RLSLMS = %i\n",               sconf->rlslms);
260     dprintf(avctx, "chan_config_info = %i\n",     sconf->chan_config_info);
261 #endif
262 }
263
264
265 /** Reads an ALSSpecificConfig from a buffer into the output struct.
266  */
267 static av_cold int read_specific_config(ALSDecContext *ctx)
268 {
269     GetBitContext gb;
270     uint64_t ht_size;
271     int i, config_offset, crc_enabled;
272     MPEG4AudioConfig m4ac;
273     ALSSpecificConfig *sconf = &ctx->sconf;
274     AVCodecContext *avctx    = ctx->avctx;
275     uint32_t als_id, header_size, trailer_size;
276
277     init_get_bits(&gb, avctx->extradata, avctx->extradata_size * 8);
278
279     config_offset = ff_mpeg4audio_get_config(&m4ac, avctx->extradata,
280                                              avctx->extradata_size);
281
282     if (config_offset < 0)
283         return -1;
284
285     skip_bits_long(&gb, config_offset);
286
287     if (get_bits_left(&gb) < (30 << 3))
288         return -1;
289
290     // read the fixed items
291     als_id                      = get_bits_long(&gb, 32);
292     avctx->sample_rate          = m4ac.sample_rate;
293     skip_bits_long(&gb, 32); // sample rate already known
294     sconf->samples              = get_bits_long(&gb, 32);
295     avctx->channels             = m4ac.channels;
296     skip_bits(&gb, 16);      // number of channels already knwon
297     skip_bits(&gb, 3);       // skip file_type
298     sconf->resolution           = get_bits(&gb, 3);
299     sconf->floating             = get_bits1(&gb);
300     skip_bits1(&gb);         // skip msb_first
301     sconf->frame_length         = get_bits(&gb, 16) + 1;
302     sconf->ra_distance          = get_bits(&gb, 8);
303     sconf->ra_flag              = get_bits(&gb, 2);
304     sconf->adapt_order          = get_bits1(&gb);
305     sconf->coef_table           = get_bits(&gb, 2);
306     sconf->long_term_prediction = get_bits1(&gb);
307     sconf->max_order            = get_bits(&gb, 10);
308     sconf->block_switching      = get_bits(&gb, 2);
309     sconf->bgmc                 = get_bits1(&gb);
310     sconf->sb_part              = get_bits1(&gb);
311     sconf->joint_stereo         = get_bits1(&gb);
312     sconf->mc_coding            = get_bits1(&gb);
313     sconf->chan_config          = get_bits1(&gb);
314     sconf->chan_sort            = get_bits1(&gb);
315     crc_enabled                 = get_bits1(&gb);
316     sconf->rlslms               = get_bits1(&gb);
317     skip_bits(&gb, 5);       // skip 5 reserved bits
318     skip_bits1(&gb);         // skip aux_data_enabled
319
320
321     // check for ALSSpecificConfig struct
322     if (als_id != MKBETAG('A','L','S','\0'))
323         return -1;
324
325     ctx->cur_frame_length = sconf->frame_length;
326
327     // read channel config
328     if (sconf->chan_config)
329         sconf->chan_config_info = get_bits(&gb, 16);
330     // TODO: use this to set avctx->channel_layout
331
332
333     // read channel sorting
334     if (sconf->chan_sort && avctx->channels > 1) {
335         int chan_pos_bits = av_ceil_log2(avctx->channels);
336         int bits_needed  = avctx->channels * chan_pos_bits + 7;
337         if (get_bits_left(&gb) < bits_needed)
338             return -1;
339
340         if (!(sconf->chan_pos = av_malloc(avctx->channels * sizeof(*sconf->chan_pos))))
341             return AVERROR(ENOMEM);
342
343         for (i = 0; i < avctx->channels; i++)
344             sconf->chan_pos[i] = get_bits(&gb, chan_pos_bits);
345
346         align_get_bits(&gb);
347         // TODO: use this to actually do channel sorting
348     } else {
349         sconf->chan_sort = 0;
350     }
351
352
353     // read fixed header and trailer sizes,
354     // if size = 0xFFFFFFFF then there is no data field!
355     if (get_bits_left(&gb) < 64)
356         return -1;
357
358     header_size  = get_bits_long(&gb, 32);
359     trailer_size = get_bits_long(&gb, 32);
360     if (header_size  == 0xFFFFFFFF)
361         header_size  = 0;
362     if (trailer_size == 0xFFFFFFFF)
363         trailer_size = 0;
364
365     ht_size = ((int64_t)(header_size) + (int64_t)(trailer_size)) << 3;
366
367
368     // skip the header and trailer data
369     if (get_bits_left(&gb) < ht_size)
370         return -1;
371
372     if (ht_size > INT32_MAX)
373         return -1;
374
375     skip_bits_long(&gb, ht_size);
376
377
378     // skip the crc data
379     if (crc_enabled) {
380         if (get_bits_left(&gb) < 32)
381             return -1;
382
383         skip_bits_long(&gb, 32);
384     }
385
386
387     // no need to read the rest of ALSSpecificConfig (ra_unit_size & aux data)
388
389     dprint_specific_config(ctx);
390
391     return 0;
392 }
393
394
395 /** Checks the ALSSpecificConfig for unsupported features.
396  */
397 static int check_specific_config(ALSDecContext *ctx)
398 {
399     ALSSpecificConfig *sconf = &ctx->sconf;
400     int error = 0;
401
402     // report unsupported feature and set error value
403     #define MISSING_ERR(cond, str, errval)              \
404     {                                                   \
405         if (cond) {                                     \
406             av_log_missing_feature(ctx->avctx, str, 0); \
407             error = errval;                             \
408         }                                               \
409     }
410
411     MISSING_ERR(sconf->floating,             "Floating point decoding",     -1);
412     MISSING_ERR(sconf->rlslms,               "Adaptive RLS-LMS prediction", -1);
413     MISSING_ERR(sconf->chan_sort,            "Channel sorting",              0);
414
415     return error;
416 }
417
418
419 /** Parses the bs_info field to extract the block partitioning used in
420  *  block switching mode, refer to ISO/IEC 14496-3, section 11.6.2.
421  */
422 static void parse_bs_info(const uint32_t bs_info, unsigned int n,
423                           unsigned int div, unsigned int **div_blocks,
424                           unsigned int *num_blocks)
425 {
426     if (n < 31 && ((bs_info << n) & 0x40000000)) {
427         // if the level is valid and the investigated bit n is set
428         // then recursively check both children at bits (2n+1) and (2n+2)
429         n   *= 2;
430         div += 1;
431         parse_bs_info(bs_info, n + 1, div, div_blocks, num_blocks);
432         parse_bs_info(bs_info, n + 2, div, div_blocks, num_blocks);
433     } else {
434         // else the bit is not set or the last level has been reached
435         // (bit implicitly not set)
436         **div_blocks = div;
437         (*div_blocks)++;
438         (*num_blocks)++;
439     }
440 }
441
442
443 /** Reads and decodes a Rice codeword.
444  */
445 static int32_t decode_rice(GetBitContext *gb, unsigned int k)
446 {
447     int max = get_bits_left(gb) - k;
448     int q   = get_unary(gb, 0, max);
449     int r   = k ? get_bits1(gb) : !(q & 1);
450
451     if (k > 1) {
452         q <<= (k - 1);
453         q  += get_bits_long(gb, k - 1);
454     } else if (!k) {
455         q >>= 1;
456     }
457     return r ? q : ~q;
458 }
459
460
461 /** Converts PARCOR coefficient k to direct filter coefficient.
462  */
463 static void parcor_to_lpc(unsigned int k, const int32_t *par, int32_t *cof)
464 {
465     int i, j;
466
467     for (i = 0, j = k - 1; i < j; i++, j--) {
468         int tmp1 = ((MUL64(par[k], cof[j]) + (1 << 19)) >> 20);
469         cof[j]  += ((MUL64(par[k], cof[i]) + (1 << 19)) >> 20);
470         cof[i]  += tmp1;
471     }
472     if (i == j)
473         cof[i] += ((MUL64(par[k], cof[j]) + (1 << 19)) >> 20);
474
475     cof[k] = par[k];
476 }
477
478
479 /** Reads block switching field if necessary and sets actual block sizes.
480  *  Also assures that the block sizes of the last frame correspond to the
481  *  actual number of samples.
482  */
483 static void get_block_sizes(ALSDecContext *ctx, unsigned int *div_blocks,
484                             uint32_t *bs_info)
485 {
486     ALSSpecificConfig *sconf     = &ctx->sconf;
487     GetBitContext *gb            = &ctx->gb;
488     unsigned int *ptr_div_blocks = div_blocks;
489     unsigned int b;
490
491     if (sconf->block_switching) {
492         unsigned int bs_info_len = 1 << (sconf->block_switching + 2);
493         *bs_info = get_bits_long(gb, bs_info_len);
494         *bs_info <<= (32 - bs_info_len);
495     }
496
497     ctx->num_blocks = 0;
498     parse_bs_info(*bs_info, 0, 0, &ptr_div_blocks, &ctx->num_blocks);
499
500     // The last frame may have an overdetermined block structure given in
501     // the bitstream. In that case the defined block structure would need
502     // more samples than available to be consistent.
503     // The block structure is actually used but the block sizes are adapted
504     // to fit the actual number of available samples.
505     // Example: 5 samples, 2nd level block sizes: 2 2 2 2.
506     // This results in the actual block sizes:    2 2 1 0.
507     // This is not specified in 14496-3 but actually done by the reference
508     // codec RM22 revision 2.
509     // This appears to happen in case of an odd number of samples in the last
510     // frame which is actually not allowed by the block length switching part
511     // of 14496-3.
512     // The ALS conformance files feature an odd number of samples in the last
513     // frame.
514
515     for (b = 0; b < ctx->num_blocks; b++)
516         div_blocks[b] = ctx->sconf.frame_length >> div_blocks[b];
517
518     if (ctx->cur_frame_length != ctx->sconf.frame_length) {
519         unsigned int remaining = ctx->cur_frame_length;
520
521         for (b = 0; b < ctx->num_blocks; b++) {
522             if (remaining < div_blocks[b]) {
523                 div_blocks[b] = remaining;
524                 ctx->num_blocks = b + 1;
525                 break;
526             }
527
528             remaining -= div_blocks[b];
529         }
530     }
531 }
532
533
534 /** Reads the block data for a constant block
535  */
536 static void read_const_block_data(ALSDecContext *ctx, ALSBlockData *bd)
537 {
538     ALSSpecificConfig *sconf = &ctx->sconf;
539     AVCodecContext *avctx    = ctx->avctx;
540     GetBitContext *gb        = &ctx->gb;
541
542     bd->const_val    = 0;
543     bd->const_block  = get_bits1(gb);    // 1 = constant value, 0 = zero block (silence)
544     bd->js_blocks    = get_bits1(gb);
545
546     // skip 5 reserved bits
547     skip_bits(gb, 5);
548
549     if (bd->const_block) {
550         unsigned int const_val_bits = sconf->floating ? 24 : avctx->bits_per_raw_sample;
551         bd->const_val = get_sbits_long(gb, const_val_bits);
552     }
553
554     // ensure constant block decoding by reusing this field
555     bd->const_block = 1;
556 }
557
558
559 /** Decodes the block data for a constant block
560  */
561 static void decode_const_block_data(ALSDecContext *ctx, ALSBlockData *bd)
562 {
563     int      smp = bd->block_length;
564     int32_t  val = bd->const_val;
565     int32_t *dst = bd->raw_samples;
566
567     // write raw samples into buffer
568     for (; smp; smp--)
569         *dst++ = val;
570 }
571
572
573 /** Reads the block data for a non-constant block
574  */
575 static int read_var_block_data(ALSDecContext *ctx, ALSBlockData *bd)
576 {
577     ALSSpecificConfig *sconf = &ctx->sconf;
578     AVCodecContext *avctx    = ctx->avctx;
579     GetBitContext *gb        = &ctx->gb;
580     unsigned int k;
581     unsigned int s[8];
582     unsigned int sx[8];
583     unsigned int sub_blocks, log2_sub_blocks, sb_length;
584     unsigned int start      = 0;
585     unsigned int opt_order;
586     int          sb;
587     int32_t      *quant_cof = bd->quant_cof;
588     int32_t      *current_res;
589
590
591     // ensure variable block decoding by reusing this field
592     bd->const_block = 0;
593
594     bd->opt_order   = 1;
595     bd->js_blocks   = get_bits1(gb);
596
597     opt_order       = bd->opt_order;
598
599     // determine the number of subblocks for entropy decoding
600     if (!sconf->bgmc && !sconf->sb_part) {
601         log2_sub_blocks = 0;
602     } else {
603         if (sconf->bgmc && sconf->sb_part)
604             log2_sub_blocks = get_bits(gb, 2);
605         else
606             log2_sub_blocks = 2 * get_bits1(gb);
607     }
608
609     sub_blocks = 1 << log2_sub_blocks;
610
611     // do not continue in case of a damaged stream since
612     // block_length must be evenly divisible by sub_blocks
613     if (bd->block_length & (sub_blocks - 1)) {
614         av_log(avctx, AV_LOG_WARNING,
615                "Block length is not evenly divisible by the number of subblocks.\n");
616         return -1;
617     }
618
619     sb_length = bd->block_length >> log2_sub_blocks;
620
621     if (sconf->bgmc) {
622         s[0] = get_bits(gb, 8 + (sconf->resolution > 1));
623         for (k = 1; k < sub_blocks; k++)
624             s[k] = s[k - 1] + decode_rice(gb, 2);
625
626         for (k = 0; k < sub_blocks; k++) {
627             sx[k]   = s[k] & 0x0F;
628             s [k] >>= 4;
629         }
630     } else {
631         s[0] = get_bits(gb, 4 + (sconf->resolution > 1));
632         for (k = 1; k < sub_blocks; k++)
633             s[k] = s[k - 1] + decode_rice(gb, 0);
634     }
635
636     if (get_bits1(gb))
637         bd->shift_lsbs = get_bits(gb, 4) + 1;
638
639     bd->store_prev_samples = (bd->js_blocks && bd->raw_other) || bd->shift_lsbs;
640
641
642     if (!sconf->rlslms) {
643         if (sconf->adapt_order) {
644             int opt_order_length = av_ceil_log2(av_clip((bd->block_length >> 3) - 1,
645                                                 2, sconf->max_order + 1));
646             bd->opt_order        = get_bits(gb, opt_order_length);
647         } else {
648             bd->opt_order = sconf->max_order;
649         }
650
651         opt_order = bd->opt_order;
652
653         if (opt_order) {
654             int add_base;
655
656             if (sconf->coef_table == 3) {
657                 add_base = 0x7F;
658
659                 // read coefficient 0
660                 quant_cof[0] = 32 * parcor_scaled_values[get_bits(gb, 7)];
661
662                 // read coefficient 1
663                 if (opt_order > 1)
664                     quant_cof[1] = -32 * parcor_scaled_values[get_bits(gb, 7)];
665
666                 // read coefficients 2 to opt_order
667                 for (k = 2; k < opt_order; k++)
668                     quant_cof[k] = get_bits(gb, 7);
669             } else {
670                 int k_max;
671                 add_base = 1;
672
673                 // read coefficient 0 to 19
674                 k_max = FFMIN(opt_order, 20);
675                 for (k = 0; k < k_max; k++) {
676                     int rice_param = parcor_rice_table[sconf->coef_table][k][1];
677                     int offset     = parcor_rice_table[sconf->coef_table][k][0];
678                     quant_cof[k] = decode_rice(gb, rice_param) + offset;
679                 }
680
681                 // read coefficients 20 to 126
682                 k_max = FFMIN(opt_order, 127);
683                 for (; k < k_max; k++)
684                     quant_cof[k] = decode_rice(gb, 2) + (k & 1);
685
686                 // read coefficients 127 to opt_order
687                 for (; k < opt_order; k++)
688                     quant_cof[k] = decode_rice(gb, 1);
689
690                 quant_cof[0] = 32 * parcor_scaled_values[quant_cof[0] + 64];
691
692                 if (opt_order > 1)
693                     quant_cof[1] = -32 * parcor_scaled_values[quant_cof[1] + 64];
694             }
695
696             for (k = 2; k < opt_order; k++)
697                 quant_cof[k] = (quant_cof[k] << 14) + (add_base << 13);
698         }
699     }
700
701     // read LTP gain and lag values
702     if (sconf->long_term_prediction) {
703         *bd->use_ltp = get_bits1(gb);
704
705         if (*bd->use_ltp) {
706             bd->ltp_gain[0]   = decode_rice(gb, 1) << 3;
707             bd->ltp_gain[1]   = decode_rice(gb, 2) << 3;
708
709             bd->ltp_gain[2]   = ltp_gain_values[get_unary(gb, 0, 4)][get_bits(gb, 2)];
710
711             bd->ltp_gain[3]   = decode_rice(gb, 2) << 3;
712             bd->ltp_gain[4]   = decode_rice(gb, 1) << 3;
713
714             *bd->ltp_lag      = get_bits(gb, ctx->ltp_lag_length);
715             *bd->ltp_lag     += FFMAX(4, opt_order + 1);
716         }
717     }
718
719     // read first value and residuals in case of a random access block
720     if (bd->ra_block) {
721         if (opt_order)
722             bd->raw_samples[0] = decode_rice(gb, avctx->bits_per_raw_sample - 4);
723         if (opt_order > 1)
724             bd->raw_samples[1] = decode_rice(gb, FFMIN(s[0] + 3, ctx->s_max));
725         if (opt_order > 2)
726             bd->raw_samples[2] = decode_rice(gb, FFMIN(s[0] + 1, ctx->s_max));
727
728         start = FFMIN(opt_order, 3);
729     }
730
731     // read all residuals
732     if (sconf->bgmc) {
733         unsigned int delta[sub_blocks];
734         unsigned int k    [sub_blocks];
735         unsigned int b = av_clip((av_ceil_log2(bd->block_length) - 3) >> 1, 0, 5);
736         unsigned int i = start;
737
738         // read most significant bits
739         unsigned int high;
740         unsigned int low;
741         unsigned int value;
742
743         ff_bgmc_decode_init(gb, &high, &low, &value);
744
745         current_res = bd->raw_samples + start;
746
747         for (sb = 0; sb < sub_blocks; sb++, i = 0) {
748             k    [sb] = s[sb] > b ? s[sb] - b : 0;
749             delta[sb] = 5 - s[sb] + k[sb];
750
751             ff_bgmc_decode(gb, sb_length, current_res,
752                         delta[sb], sx[sb], &high, &low, &value, ctx->bgmc_lut, ctx->bgmc_lut_status);
753
754             current_res += sb_length;
755         }
756
757         ff_bgmc_decode_end(gb);
758
759
760         // read least significant bits and tails
761         i = start;
762         current_res = bd->raw_samples + start;
763
764         for (sb = 0; sb < sub_blocks; sb++, i = 0) {
765             unsigned int cur_tail_code = tail_code[sx[sb]][delta[sb]];
766             unsigned int cur_k         = k[sb];
767             unsigned int cur_s         = s[sb];
768
769             for (; i < sb_length; i++) {
770                 int32_t res = *current_res;
771
772                 if (res == cur_tail_code) {
773                     unsigned int max_msb =   (2 + (sx[sb] > 2) + (sx[sb] > 10))
774                                           << (5 - delta[sb]);
775
776                     res = decode_rice(gb, cur_s);
777
778                     if (res >= 0) {
779                         res += (max_msb    ) << cur_k;
780                     } else {
781                         res -= (max_msb - 1) << cur_k;
782                     }
783                 } else {
784                     if (res > cur_tail_code)
785                         res--;
786
787                     if (res & 1)
788                         res = -res;
789
790                     res >>= 1;
791
792                     if (cur_k) {
793                         res <<= cur_k;
794                         res  |= get_bits_long(gb, cur_k);
795                     }
796                 }
797
798                 *current_res++ = res;
799             }
800         }
801     } else {
802         current_res = bd->raw_samples + start;
803
804         for (sb = 0; sb < sub_blocks; sb++, start = 0)
805             for (; start < sb_length; start++)
806                 *current_res++ = decode_rice(gb, s[sb]);
807      }
808
809     if (!sconf->mc_coding || ctx->js_switch)
810         align_get_bits(gb);
811
812     return 0;
813 }
814
815
816 /** Decodes the block data for a non-constant block
817  */
818 static int decode_var_block_data(ALSDecContext *ctx, ALSBlockData *bd)
819 {
820     ALSSpecificConfig *sconf = &ctx->sconf;
821     unsigned int block_length = bd->block_length;
822     unsigned int smp = 0;
823     unsigned int k;
824     int opt_order             = bd->opt_order;
825     int sb;
826     int64_t y;
827     int32_t *quant_cof        = bd->quant_cof;
828     int32_t *lpc_cof          = bd->lpc_cof;
829     int32_t *raw_samples      = bd->raw_samples;
830     int32_t *raw_samples_end  = bd->raw_samples + bd->block_length;
831     int32_t *lpc_cof_reversed = ctx->lpc_cof_reversed_buffer;
832
833     // reverse long-term prediction
834     if (*bd->use_ltp) {
835         int ltp_smp;
836
837         for (ltp_smp = FFMAX(*bd->ltp_lag - 2, 0); ltp_smp < block_length; ltp_smp++) {
838             int center = ltp_smp - *bd->ltp_lag;
839             int begin  = FFMAX(0, center - 2);
840             int end    = center + 3;
841             int tab    = 5 - (end - begin);
842             int base;
843
844             y = 1 << 6;
845
846             for (base = begin; base < end; base++, tab++)
847                 y += MUL64(bd->ltp_gain[tab], raw_samples[base]);
848
849             raw_samples[ltp_smp] += y >> 7;
850         }
851     }
852
853     // reconstruct all samples from residuals
854     if (bd->ra_block) {
855         for (smp = 0; smp < opt_order; smp++) {
856             y = 1 << 19;
857
858             for (sb = 0; sb < smp; sb++)
859                 y += MUL64(lpc_cof[sb], raw_samples[-(sb + 1)]);
860
861             *raw_samples++ -= y >> 20;
862             parcor_to_lpc(smp, quant_cof, lpc_cof);
863         }
864     } else {
865         for (k = 0; k < opt_order; k++)
866             parcor_to_lpc(k, quant_cof, lpc_cof);
867
868         // store previous samples in case that they have to be altered
869         if (bd->store_prev_samples)
870             memcpy(bd->prev_raw_samples, raw_samples - sconf->max_order,
871                    sizeof(*bd->prev_raw_samples) * sconf->max_order);
872
873         // reconstruct difference signal for prediction (joint-stereo)
874         if (bd->js_blocks && bd->raw_other) {
875             int32_t *left, *right;
876
877             if (bd->raw_other > raw_samples) {  // D = R - L
878                 left  = raw_samples;
879                 right = bd->raw_other;
880             } else {                                // D = R - L
881                 left  = bd->raw_other;
882                 right = raw_samples;
883             }
884
885             for (sb = -1; sb >= -sconf->max_order; sb--)
886                 raw_samples[sb] = right[sb] - left[sb];
887         }
888
889         // reconstruct shifted signal
890         if (bd->shift_lsbs)
891             for (sb = -1; sb >= -sconf->max_order; sb--)
892                 raw_samples[sb] >>= bd->shift_lsbs;
893     }
894
895     // reverse linear prediction coefficients for efficiency
896     lpc_cof = lpc_cof + opt_order;
897
898     for (sb = 0; sb < opt_order; sb++)
899         lpc_cof_reversed[sb] = lpc_cof[-(sb + 1)];
900
901     // reconstruct raw samples
902     raw_samples = bd->raw_samples + smp;
903     lpc_cof     = lpc_cof_reversed + opt_order;
904
905     for (; raw_samples < raw_samples_end; raw_samples++) {
906         y = 1 << 19;
907
908         for (sb = -opt_order; sb < 0; sb++)
909             y += MUL64(lpc_cof[sb], raw_samples[sb]);
910
911         *raw_samples -= y >> 20;
912     }
913
914     raw_samples = bd->raw_samples;
915
916     // restore previous samples in case that they have been altered
917     if (bd->store_prev_samples)
918         memcpy(raw_samples - sconf->max_order, bd->prev_raw_samples,
919                sizeof(*raw_samples) * sconf->max_order);
920
921     return 0;
922 }
923
924
925 /** Reads the block data.
926  */
927 static int read_block(ALSDecContext *ctx, ALSBlockData *bd)
928 {
929     GetBitContext *gb        = &ctx->gb;
930
931     // read block type flag and read the samples accordingly
932     if (get_bits1(gb)) {
933         if (read_var_block_data(ctx, bd))
934             return -1;
935     } else {
936         read_const_block_data(ctx, bd);
937     }
938
939     return 0;
940 }
941
942
943 /** Decodes the block data.
944  */
945 static int decode_block(ALSDecContext *ctx, ALSBlockData *bd)
946 {
947     unsigned int smp;
948
949     // read block type flag and read the samples accordingly
950     if (bd->const_block)
951         decode_const_block_data(ctx, bd);
952     else if (decode_var_block_data(ctx, bd))
953         return -1;
954
955     // TODO: read RLSLMS extension data
956
957     if (bd->shift_lsbs)
958         for (smp = 0; smp < bd->block_length; smp++)
959             bd->raw_samples[smp] <<= bd->shift_lsbs;
960
961     return 0;
962 }
963
964
965 /** Reads and decodes block data successively.
966  */
967 static int read_decode_block(ALSDecContext *ctx, ALSBlockData *bd)
968 {
969     int ret;
970
971     ret = read_block(ctx, bd);
972
973     if (ret)
974         return ret;
975
976     ret = decode_block(ctx, bd);
977
978     return ret;
979 }
980
981
982 /** Computes the number of samples left to decode for the current frame and
983  *  sets these samples to zero.
984  */
985 static void zero_remaining(unsigned int b, unsigned int b_max,
986                            const unsigned int *div_blocks, int32_t *buf)
987 {
988     unsigned int count = 0;
989
990     while (b < b_max)
991         count += div_blocks[b];
992
993     if (count)
994         memset(buf, 0, sizeof(*buf) * count);
995 }
996
997
998 /** Decodes blocks independently.
999  */
1000 static int decode_blocks_ind(ALSDecContext *ctx, unsigned int ra_frame,
1001                              unsigned int c, const unsigned int *div_blocks,
1002                              unsigned int *js_blocks)
1003 {
1004     unsigned int b;
1005     ALSBlockData bd;
1006
1007     memset(&bd, 0, sizeof(ALSBlockData));
1008
1009     bd.ra_block         = ra_frame;
1010     bd.use_ltp          = ctx->use_ltp;
1011     bd.ltp_lag          = ctx->ltp_lag;
1012     bd.ltp_gain         = ctx->ltp_gain[0];
1013     bd.quant_cof        = ctx->quant_cof[0];
1014     bd.lpc_cof          = ctx->lpc_cof[0];
1015     bd.prev_raw_samples = ctx->prev_raw_samples;
1016     bd.raw_samples      = ctx->raw_samples[c];
1017
1018
1019     for (b = 0; b < ctx->num_blocks; b++) {
1020         bd.shift_lsbs       = 0;
1021         bd.block_length     = div_blocks[b];
1022
1023         if (read_decode_block(ctx, &bd)) {
1024             // damaged block, write zero for the rest of the frame
1025             zero_remaining(b, ctx->num_blocks, div_blocks, bd.raw_samples);
1026             return -1;
1027         }
1028         bd.raw_samples += div_blocks[b];
1029         bd.ra_block     = 0;
1030     }
1031
1032     return 0;
1033 }
1034
1035
1036 /** Decodes blocks dependently.
1037  */
1038 static int decode_blocks(ALSDecContext *ctx, unsigned int ra_frame,
1039                          unsigned int c, const unsigned int *div_blocks,
1040                          unsigned int *js_blocks)
1041 {
1042     ALSSpecificConfig *sconf = &ctx->sconf;
1043     unsigned int offset = 0;
1044     unsigned int b;
1045     ALSBlockData bd[2];
1046
1047     memset(bd, 0, 2 * sizeof(ALSBlockData));
1048
1049     bd[0].ra_block         = ra_frame;
1050     bd[0].use_ltp          = ctx->use_ltp;
1051     bd[0].ltp_lag          = ctx->ltp_lag;
1052     bd[0].ltp_gain         = ctx->ltp_gain[0];
1053     bd[0].quant_cof        = ctx->quant_cof[0];
1054     bd[0].lpc_cof          = ctx->lpc_cof[0];
1055     bd[0].prev_raw_samples = ctx->prev_raw_samples;
1056     bd[0].js_blocks        = *js_blocks;
1057
1058     bd[1].ra_block         = ra_frame;
1059     bd[1].use_ltp          = ctx->use_ltp;
1060     bd[1].ltp_lag          = ctx->ltp_lag;
1061     bd[1].ltp_gain         = ctx->ltp_gain[0];
1062     bd[1].quant_cof        = ctx->quant_cof[0];
1063     bd[1].lpc_cof          = ctx->lpc_cof[0];
1064     bd[1].prev_raw_samples = ctx->prev_raw_samples;
1065     bd[1].js_blocks        = *(js_blocks + 1);
1066
1067     // decode all blocks
1068     for (b = 0; b < ctx->num_blocks; b++) {
1069         unsigned int s;
1070
1071         bd[0].shift_lsbs   = 0;
1072         bd[1].shift_lsbs   = 0;
1073
1074         bd[0].block_length = div_blocks[b];
1075         bd[1].block_length = div_blocks[b];
1076
1077         bd[0].raw_samples  = ctx->raw_samples[c    ] + offset;
1078         bd[1].raw_samples  = ctx->raw_samples[c + 1] + offset;
1079
1080         bd[0].raw_other    = bd[1].raw_samples;
1081         bd[1].raw_other    = bd[0].raw_samples;
1082
1083         if(read_decode_block(ctx, &bd[0]) || read_decode_block(ctx, &bd[1])) {
1084             // damaged block, write zero for the rest of the frame
1085             zero_remaining(b, ctx->num_blocks, div_blocks, bd[0].raw_samples);
1086             zero_remaining(b, ctx->num_blocks, div_blocks, bd[1].raw_samples);
1087             return -1;
1088         }
1089
1090         // reconstruct joint-stereo blocks
1091         if (bd[0].js_blocks) {
1092             if (bd[1].js_blocks)
1093                 av_log(ctx->avctx, AV_LOG_WARNING, "Invalid channel pair!\n");
1094
1095             for (s = 0; s < div_blocks[b]; s++)
1096                 bd[0].raw_samples[s] = bd[1].raw_samples[s] - bd[0].raw_samples[s];
1097         } else if (bd[1].js_blocks) {
1098             for (s = 0; s < div_blocks[b]; s++)
1099                 bd[1].raw_samples[s] = bd[1].raw_samples[s] + bd[0].raw_samples[s];
1100         }
1101
1102         offset  += div_blocks[b];
1103         bd[0].ra_block = 0;
1104         bd[1].ra_block = 0;
1105     }
1106
1107     // store carryover raw samples,
1108     // the others channel raw samples are stored by the calling function.
1109     memmove(ctx->raw_samples[c] - sconf->max_order,
1110             ctx->raw_samples[c] - sconf->max_order + sconf->frame_length,
1111             sizeof(*ctx->raw_samples[c]) * sconf->max_order);
1112
1113     return 0;
1114 }
1115
1116
1117 /** Reads the channel data.
1118   */
1119 static int read_channel_data(ALSDecContext *ctx, ALSChannelData *cd, int c)
1120 {
1121     GetBitContext *gb       = &ctx->gb;
1122     ALSChannelData *current = cd;
1123     unsigned int channels   = ctx->avctx->channels;
1124     int entries             = 0;
1125
1126     while (entries < channels && !(current->stop_flag = get_bits1(gb))) {
1127         current->master_channel = get_bits_long(gb, av_ceil_log2(channels));
1128
1129         if (current->master_channel >= channels) {
1130             av_log(ctx->avctx, AV_LOG_ERROR, "Invalid master channel!\n");
1131             return -1;
1132         }
1133
1134         if (current->master_channel != c) {
1135             current->time_diff_flag = get_bits1(gb);
1136             current->weighting[0]   = mcc_weightings[av_clip(decode_rice(gb, 1) + 16, 0, 32)];
1137             current->weighting[1]   = mcc_weightings[av_clip(decode_rice(gb, 2) + 14, 0, 32)];
1138             current->weighting[2]   = mcc_weightings[av_clip(decode_rice(gb, 1) + 16, 0, 32)];
1139
1140             if (current->time_diff_flag) {
1141                 current->weighting[3] = mcc_weightings[av_clip(decode_rice(gb, 1) + 16, 0, 32)];
1142                 current->weighting[4] = mcc_weightings[av_clip(decode_rice(gb, 1) + 16, 0, 32)];
1143                 current->weighting[5] = mcc_weightings[av_clip(decode_rice(gb, 1) + 16, 0, 32)];
1144
1145                 current->time_diff_sign  = get_bits1(gb);
1146                 current->time_diff_index = get_bits(gb, ctx->ltp_lag_length - 3) + 3;
1147             }
1148         }
1149
1150         current++;
1151         entries++;
1152     }
1153
1154     if (entries == channels) {
1155         av_log(ctx->avctx, AV_LOG_ERROR, "Damaged channel data!\n");
1156         return -1;
1157     }
1158
1159     align_get_bits(gb);
1160     return 0;
1161 }
1162
1163
1164 /** Recursively reverts the inter-channel correlation for a block.
1165  */
1166 static int revert_channel_correlation(ALSDecContext *ctx, ALSBlockData *bd,
1167                                        ALSChannelData **cd, int *reverted,
1168                                        unsigned int offset, int c)
1169 {
1170     ALSChannelData *ch = cd[c];
1171     unsigned int   dep = 0;
1172     unsigned int channels = ctx->avctx->channels;
1173
1174     if (reverted[c])
1175         return 0;
1176
1177     reverted[c] = 1;
1178
1179     while (dep < channels && !ch[dep].stop_flag) {
1180         revert_channel_correlation(ctx, bd, cd, reverted, offset,
1181                                    ch[dep].master_channel);
1182
1183         dep++;
1184     }
1185
1186     if (dep == channels) {
1187         av_log(ctx->avctx, AV_LOG_WARNING, "Invalid channel correlation!\n");
1188         return -1;
1189     }
1190
1191     bd->use_ltp     = ctx->use_ltp + c;
1192     bd->ltp_lag     = ctx->ltp_lag + c;
1193     bd->ltp_gain    = ctx->ltp_gain[c];
1194     bd->lpc_cof     = ctx->lpc_cof[c];
1195     bd->quant_cof   = ctx->quant_cof[c];
1196     bd->raw_samples = ctx->raw_samples[c] + offset;
1197
1198     dep = 0;
1199     while (!ch[dep].stop_flag) {
1200         unsigned int smp;
1201         unsigned int begin = 1;
1202         unsigned int end   = bd->block_length - 1;
1203         int64_t y;
1204         int32_t *master = ctx->raw_samples[ch[dep].master_channel] + offset;
1205
1206         if (ch[dep].time_diff_flag) {
1207             int t = ch[dep].time_diff_index;
1208
1209             if (ch[dep].time_diff_sign) {
1210                 t      = -t;
1211                 begin -= t;
1212             } else {
1213                 end   -= t;
1214             }
1215
1216             for (smp = begin; smp < end; smp++) {
1217                 y  = (1 << 6) +
1218                      MUL64(ch[dep].weighting[0], master[smp - 1    ]) +
1219                      MUL64(ch[dep].weighting[1], master[smp        ]) +
1220                      MUL64(ch[dep].weighting[2], master[smp + 1    ]) +
1221                      MUL64(ch[dep].weighting[3], master[smp - 1 + t]) +
1222                      MUL64(ch[dep].weighting[4], master[smp     + t]) +
1223                      MUL64(ch[dep].weighting[5], master[smp + 1 + t]);
1224
1225                 bd->raw_samples[smp] += y >> 7;
1226             }
1227         } else {
1228             for (smp = begin; smp < end; smp++) {
1229                 y  = (1 << 6) +
1230                      MUL64(ch[dep].weighting[0], master[smp - 1]) +
1231                      MUL64(ch[dep].weighting[1], master[smp    ]) +
1232                      MUL64(ch[dep].weighting[2], master[smp + 1]);
1233
1234                 bd->raw_samples[smp] += y >> 7;
1235             }
1236         }
1237
1238         dep++;
1239     }
1240
1241     return 0;
1242 }
1243
1244
1245 /** Reads the frame data.
1246  */
1247 static int read_frame_data(ALSDecContext *ctx, unsigned int ra_frame)
1248 {
1249     ALSSpecificConfig *sconf = &ctx->sconf;
1250     AVCodecContext *avctx    = ctx->avctx;
1251     GetBitContext *gb = &ctx->gb;
1252     unsigned int div_blocks[32];                ///< block sizes.
1253     unsigned int c;
1254     unsigned int js_blocks[2];
1255
1256     uint32_t bs_info = 0;
1257
1258     // skip the size of the ra unit if present in the frame
1259     if (sconf->ra_flag == RA_FLAG_FRAMES && ra_frame)
1260         skip_bits_long(gb, 32);
1261
1262     if (sconf->mc_coding && sconf->joint_stereo) {
1263         ctx->js_switch = get_bits1(gb);
1264         align_get_bits(gb);
1265     }
1266
1267     if (!sconf->mc_coding || ctx->js_switch) {
1268         int independent_bs = !sconf->joint_stereo;
1269
1270         for (c = 0; c < avctx->channels; c++) {
1271             js_blocks[0] = 0;
1272             js_blocks[1] = 0;
1273
1274             get_block_sizes(ctx, div_blocks, &bs_info);
1275
1276             // if joint_stereo and block_switching is set, independent decoding
1277             // is signaled via the first bit of bs_info
1278             if (sconf->joint_stereo && sconf->block_switching)
1279                 if (bs_info >> 31)
1280                     independent_bs = 2;
1281
1282             // if this is the last channel, it has to be decoded independently
1283             if (c == avctx->channels - 1)
1284                 independent_bs = 1;
1285
1286             if (independent_bs) {
1287                 if (decode_blocks_ind(ctx, ra_frame, c, div_blocks, js_blocks))
1288                     return -1;
1289
1290                 independent_bs--;
1291             } else {
1292                 if (decode_blocks(ctx, ra_frame, c, div_blocks, js_blocks))
1293                     return -1;
1294
1295                 c++;
1296             }
1297
1298             // store carryover raw samples
1299             memmove(ctx->raw_samples[c] - sconf->max_order,
1300                     ctx->raw_samples[c] - sconf->max_order + sconf->frame_length,
1301                     sizeof(*ctx->raw_samples[c]) * sconf->max_order);
1302         }
1303     } else { // multi-channel coding
1304         ALSBlockData   bd;
1305         int            b;
1306         int            *reverted_channels = ctx->reverted_channels;
1307         unsigned int   offset             = 0;
1308
1309         for (c = 0; c < avctx->channels; c++)
1310             if (ctx->chan_data[c] < ctx->chan_data_buffer) {
1311                 av_log(ctx->avctx, AV_LOG_ERROR, "Invalid channel data!\n");
1312                 return -1;
1313             }
1314
1315         memset(&bd,               0, sizeof(ALSBlockData));
1316         memset(reverted_channels, 0, sizeof(*reverted_channels) * avctx->channels);
1317
1318         bd.ra_block         = ra_frame;
1319         bd.prev_raw_samples = ctx->prev_raw_samples;
1320
1321         get_block_sizes(ctx, div_blocks, &bs_info);
1322
1323         for (b = 0; b < ctx->num_blocks; b++) {
1324             bd.shift_lsbs   = 0;
1325             bd.block_length = div_blocks[b];
1326
1327             for (c = 0; c < avctx->channels; c++) {
1328                 bd.use_ltp     = ctx->use_ltp + c;
1329                 bd.ltp_lag     = ctx->ltp_lag + c;
1330                 bd.ltp_gain    = ctx->ltp_gain[c];
1331                 bd.lpc_cof     = ctx->lpc_cof[c];
1332                 bd.quant_cof   = ctx->quant_cof[c];
1333                 bd.raw_samples = ctx->raw_samples[c] + offset;
1334                 bd.raw_other   = NULL;
1335
1336                 read_block(ctx, &bd);
1337                 if (read_channel_data(ctx, ctx->chan_data[c], c))
1338                     return -1;
1339             }
1340
1341             for (c = 0; c < avctx->channels; c++)
1342                 if (revert_channel_correlation(ctx, &bd, ctx->chan_data,
1343                                                reverted_channels, offset, c))
1344                     return -1;
1345
1346             for (c = 0; c < avctx->channels; c++) {
1347                 bd.use_ltp     = ctx->use_ltp + c;
1348                 bd.ltp_lag     = ctx->ltp_lag + c;
1349                 bd.ltp_gain    = ctx->ltp_gain[c];
1350                 bd.lpc_cof     = ctx->lpc_cof[c];
1351                 bd.quant_cof   = ctx->quant_cof[c];
1352                 bd.raw_samples = ctx->raw_samples[c] + offset;
1353                 decode_block(ctx, &bd);
1354             }
1355
1356             memset(reverted_channels, 0, avctx->channels * sizeof(*reverted_channels));
1357             offset      += div_blocks[b];
1358             bd.ra_block  = 0;
1359         }
1360
1361         // store carryover raw samples
1362         for (c = 0; c < avctx->channels; c++)
1363             memmove(ctx->raw_samples[c] - sconf->max_order,
1364                     ctx->raw_samples[c] - sconf->max_order + sconf->frame_length,
1365                     sizeof(*ctx->raw_samples[c]) * sconf->max_order);
1366     }
1367
1368     // TODO: read_diff_float_data
1369
1370     return 0;
1371 }
1372
1373
1374 /** Decodes an ALS frame.
1375  */
1376 static int decode_frame(AVCodecContext *avctx,
1377                         void *data, int *data_size,
1378                         AVPacket *avpkt)
1379 {
1380     ALSDecContext *ctx       = avctx->priv_data;
1381     ALSSpecificConfig *sconf = &ctx->sconf;
1382     const uint8_t *buffer    = avpkt->data;
1383     int buffer_size          = avpkt->size;
1384     int invalid_frame, size;
1385     unsigned int c, sample, ra_frame, bytes_read, shift;
1386
1387     init_get_bits(&ctx->gb, buffer, buffer_size * 8);
1388
1389     // In the case that the distance between random access frames is set to zero
1390     // (sconf->ra_distance == 0) no frame is treated as a random access frame.
1391     // For the first frame, if prediction is used, all samples used from the
1392     // previous frame are assumed to be zero.
1393     ra_frame = sconf->ra_distance && !(ctx->frame_id % sconf->ra_distance);
1394
1395     // the last frame to decode might have a different length
1396     if (sconf->samples != 0xFFFFFFFF)
1397         ctx->cur_frame_length = FFMIN(sconf->samples - ctx->frame_id * (uint64_t) sconf->frame_length,
1398                                       sconf->frame_length);
1399     else
1400         ctx->cur_frame_length = sconf->frame_length;
1401
1402     // decode the frame data
1403     if ((invalid_frame = read_frame_data(ctx, ra_frame) < 0))
1404         av_log(ctx->avctx, AV_LOG_WARNING,
1405                "Reading frame data failed. Skipping RA unit.\n");
1406
1407     ctx->frame_id++;
1408
1409     // check for size of decoded data
1410     size = ctx->cur_frame_length * avctx->channels *
1411            (av_get_bits_per_sample_format(avctx->sample_fmt) >> 3);
1412
1413     if (size > *data_size) {
1414         av_log(avctx, AV_LOG_ERROR, "Decoded data exceeds buffer size.\n");
1415         return -1;
1416     }
1417
1418     *data_size = size;
1419
1420     // transform decoded frame into output format
1421     #define INTERLEAVE_OUTPUT(bps)                                 \
1422     {                                                              \
1423         int##bps##_t *dest = (int##bps##_t*) data;                 \
1424         shift = bps - ctx->avctx->bits_per_raw_sample;             \
1425         for (sample = 0; sample < ctx->cur_frame_length; sample++) \
1426             for (c = 0; c < avctx->channels; c++)                  \
1427                 *dest++ = ctx->raw_samples[c][sample] << shift;    \
1428     }
1429
1430     if (ctx->avctx->bits_per_raw_sample <= 16) {
1431         INTERLEAVE_OUTPUT(16)
1432     } else {
1433         INTERLEAVE_OUTPUT(32)
1434     }
1435
1436     bytes_read = invalid_frame ? buffer_size :
1437                                  (get_bits_count(&ctx->gb) + 7) >> 3;
1438
1439     return bytes_read;
1440 }
1441
1442
1443 /** Uninitializes the ALS decoder.
1444  */
1445 static av_cold int decode_end(AVCodecContext *avctx)
1446 {
1447     ALSDecContext *ctx = avctx->priv_data;
1448
1449     av_freep(&ctx->sconf.chan_pos);
1450
1451     ff_bgmc_end(&ctx->bgmc_lut, &ctx->bgmc_lut_status);
1452
1453     av_freep(&ctx->use_ltp);
1454     av_freep(&ctx->ltp_lag);
1455     av_freep(&ctx->ltp_gain);
1456     av_freep(&ctx->ltp_gain_buffer);
1457     av_freep(&ctx->quant_cof);
1458     av_freep(&ctx->lpc_cof);
1459     av_freep(&ctx->quant_cof_buffer);
1460     av_freep(&ctx->lpc_cof_buffer);
1461     av_freep(&ctx->lpc_cof_reversed_buffer);
1462     av_freep(&ctx->prev_raw_samples);
1463     av_freep(&ctx->raw_samples);
1464     av_freep(&ctx->raw_buffer);
1465     av_freep(&ctx->chan_data);
1466     av_freep(&ctx->chan_data_buffer);
1467     av_freep(&ctx->reverted_channels);
1468
1469     return 0;
1470 }
1471
1472
1473 /** Initializes the ALS decoder.
1474  */
1475 static av_cold int decode_init(AVCodecContext *avctx)
1476 {
1477     unsigned int c;
1478     unsigned int channel_size;
1479     int num_buffers;
1480     ALSDecContext *ctx = avctx->priv_data;
1481     ALSSpecificConfig *sconf = &ctx->sconf;
1482     ctx->avctx = avctx;
1483
1484     if (!avctx->extradata) {
1485         av_log(avctx, AV_LOG_ERROR, "Missing required ALS extradata.\n");
1486         return -1;
1487     }
1488
1489     if (read_specific_config(ctx)) {
1490         av_log(avctx, AV_LOG_ERROR, "Reading ALSSpecificConfig failed.\n");
1491         decode_end(avctx);
1492         return -1;
1493     }
1494
1495     if (check_specific_config(ctx)) {
1496         decode_end(avctx);
1497         return -1;
1498     }
1499
1500     if (sconf->bgmc)
1501         ff_bgmc_init(avctx, &ctx->bgmc_lut, &ctx->bgmc_lut_status);
1502
1503     if (sconf->floating) {
1504         avctx->sample_fmt          = SAMPLE_FMT_FLT;
1505         avctx->bits_per_raw_sample = 32;
1506     } else {
1507         avctx->sample_fmt          = sconf->resolution > 1
1508                                      ? SAMPLE_FMT_S32 : SAMPLE_FMT_S16;
1509         avctx->bits_per_raw_sample = (sconf->resolution + 1) * 8;
1510     }
1511
1512     // set maximum Rice parameter for progressive decoding based on resolution
1513     // This is not specified in 14496-3 but actually done by the reference
1514     // codec RM22 revision 2.
1515     ctx->s_max = sconf->resolution > 1 ? 31 : 15;
1516
1517     // set lag value for long-term prediction
1518     ctx->ltp_lag_length = 8 + (avctx->sample_rate >=  96000) +
1519                               (avctx->sample_rate >= 192000);
1520
1521     // allocate quantized parcor coefficient buffer
1522     num_buffers = sconf->mc_coding ? avctx->channels : 1;
1523
1524     ctx->quant_cof        = av_malloc(sizeof(*ctx->quant_cof) * num_buffers);
1525     ctx->lpc_cof          = av_malloc(sizeof(*ctx->lpc_cof)   * num_buffers);
1526     ctx->quant_cof_buffer = av_malloc(sizeof(*ctx->quant_cof_buffer) *
1527                                       num_buffers * sconf->max_order);
1528     ctx->lpc_cof_buffer   = av_malloc(sizeof(*ctx->lpc_cof_buffer) *
1529                                       num_buffers * sconf->max_order);
1530     ctx->lpc_cof_reversed_buffer = av_malloc(sizeof(*ctx->lpc_cof_buffer) *
1531                                              sconf->max_order);
1532
1533     if (!ctx->quant_cof              || !ctx->lpc_cof        ||
1534         !ctx->quant_cof_buffer       || !ctx->lpc_cof_buffer ||
1535         !ctx->lpc_cof_reversed_buffer) {
1536         av_log(avctx, AV_LOG_ERROR, "Allocating buffer memory failed.\n");
1537         return AVERROR(ENOMEM);
1538     }
1539
1540     // assign quantized parcor coefficient buffers
1541     for (c = 0; c < num_buffers; c++) {
1542         ctx->quant_cof[c] = ctx->quant_cof_buffer + c * sconf->max_order;
1543         ctx->lpc_cof[c]   = ctx->lpc_cof_buffer   + c * sconf->max_order;
1544     }
1545
1546     // allocate and assign lag and gain data buffer for ltp mode
1547     ctx->use_ltp         = av_mallocz(sizeof(*ctx->use_ltp)  * num_buffers);
1548     ctx->ltp_lag         = av_malloc (sizeof(*ctx->ltp_lag)  * num_buffers);
1549     ctx->ltp_gain        = av_malloc (sizeof(*ctx->ltp_gain) * num_buffers);
1550     ctx->ltp_gain_buffer = av_malloc (sizeof(*ctx->ltp_gain_buffer) *
1551                                       num_buffers * 5);
1552
1553     if (!ctx->use_ltp  || !ctx->ltp_lag ||
1554         !ctx->ltp_gain || !ctx->ltp_gain_buffer) {
1555         av_log(avctx, AV_LOG_ERROR, "Allocating buffer memory failed.\n");
1556         decode_end(avctx);
1557         return AVERROR(ENOMEM);
1558     }
1559
1560     for (c = 0; c < num_buffers; c++)
1561         ctx->ltp_gain[c] = ctx->ltp_gain_buffer + c * 5;
1562
1563     // allocate and assign channel data buffer for mcc mode
1564     if (sconf->mc_coding) {
1565         ctx->chan_data_buffer  = av_malloc(sizeof(*ctx->chan_data_buffer) *
1566                                            num_buffers * num_buffers);
1567         ctx->chan_data         = av_malloc(sizeof(ALSChannelData) *
1568                                            num_buffers);
1569         ctx->reverted_channels = av_malloc(sizeof(*ctx->reverted_channels) *
1570                                            num_buffers);
1571
1572         if (!ctx->chan_data_buffer || !ctx->chan_data || !ctx->reverted_channels) {
1573             av_log(avctx, AV_LOG_ERROR, "Allocating buffer memory failed.\n");
1574             decode_end(avctx);
1575             return AVERROR(ENOMEM);
1576         }
1577
1578         for (c = 0; c < num_buffers; c++)
1579             ctx->chan_data[c] = ctx->chan_data_buffer + c * num_buffers;
1580     } else {
1581         ctx->chan_data         = NULL;
1582         ctx->chan_data_buffer  = NULL;
1583         ctx->reverted_channels = NULL;
1584     }
1585
1586     avctx->frame_size = sconf->frame_length;
1587     channel_size      = sconf->frame_length + sconf->max_order;
1588
1589     ctx->prev_raw_samples = av_malloc (sizeof(*ctx->prev_raw_samples) * sconf->max_order);
1590     ctx->raw_buffer       = av_mallocz(sizeof(*ctx->     raw_buffer)  * avctx->channels * channel_size);
1591     ctx->raw_samples      = av_malloc (sizeof(*ctx->     raw_samples) * avctx->channels);
1592
1593     // allocate previous raw sample buffer
1594     if (!ctx->prev_raw_samples || !ctx->raw_buffer|| !ctx->raw_samples) {
1595         av_log(avctx, AV_LOG_ERROR, "Allocating buffer memory failed.\n");
1596         decode_end(avctx);
1597         return AVERROR(ENOMEM);
1598     }
1599
1600     // assign raw samples buffers
1601     ctx->raw_samples[0] = ctx->raw_buffer + sconf->max_order;
1602     for (c = 1; c < avctx->channels; c++)
1603         ctx->raw_samples[c] = ctx->raw_samples[c - 1] + channel_size;
1604
1605     return 0;
1606 }
1607
1608
1609 /** Flushes (resets) the frame ID after seeking.
1610  */
1611 static av_cold void flush(AVCodecContext *avctx)
1612 {
1613     ALSDecContext *ctx = avctx->priv_data;
1614
1615     ctx->frame_id = 0;
1616 }
1617
1618
1619 AVCodec als_decoder = {
1620     "als",
1621     CODEC_TYPE_AUDIO,
1622     CODEC_ID_MP4ALS,
1623     sizeof(ALSDecContext),
1624     decode_init,
1625     NULL,
1626     decode_end,
1627     decode_frame,
1628     .flush = flush,
1629     .capabilities = CODEC_CAP_SUBFRAMES,
1630     .long_name = NULL_IF_CONFIG_SMALL("MPEG-4 Audio Lossless Coding (ALS)"),
1631 };
1632