a25436cdec879178ce17b82ac2403ac50808d76c
[ffmpeg.git] / libavcodec / dcadec.c
1 /*
2  * DCA compatible decoder
3  * Copyright (C) 2004 Gildas Bazin
4  * Copyright (C) 2004 Benjamin Zores
5  * Copyright (C) 2006 Benjamin Larsson
6  * Copyright (C) 2007 Konstantin Shishkov
7  * Copyright (C) 2012 Paul B Mahol
8  * Copyright (C) 2014 Niels Möller
9  *
10  * This file is part of Libav.
11  *
12  * Libav is free software; you can redistribute it and/or
13  * modify it under the terms of the GNU Lesser General Public
14  * License as published by the Free Software Foundation; either
15  * version 2.1 of the License, or (at your option) any later version.
16  *
17  * Libav is distributed in the hope that it will be useful,
18  * but WITHOUT ANY WARRANTY; without even the implied warranty of
19  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
20  * Lesser General Public License for more details.
21  *
22  * You should have received a copy of the GNU Lesser General Public
23  * License along with Libav; if not, write to the Free Software
24  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
25  */
26
27 #include <math.h>
28 #include <stddef.h>
29 #include <stdio.h>
30
31 #include "libavutil/attributes.h"
32 #include "libavutil/channel_layout.h"
33 #include "libavutil/common.h"
34 #include "libavutil/float_dsp.h"
35 #include "libavutil/internal.h"
36 #include "libavutil/intreadwrite.h"
37 #include "libavutil/mathematics.h"
38 #include "libavutil/opt.h"
39 #include "libavutil/samplefmt.h"
40
41 #include "avcodec.h"
42 #include "dca.h"
43 #include "dca_syncwords.h"
44 #include "dcadata.h"
45 #include "dcadsp.h"
46 #include "dcahuff.h"
47 #include "fft.h"
48 #include "fmtconvert.h"
49 #include "get_bits.h"
50 #include "internal.h"
51 #include "mathops.h"
52 #include "profiles.h"
53 #include "put_bits.h"
54 #include "synth_filter.h"
55
56 #if ARCH_ARM
57 #   include "arm/dca.h"
58 #endif
59
60 enum DCAMode {
61     DCA_MONO = 0,
62     DCA_CHANNEL,
63     DCA_STEREO,
64     DCA_STEREO_SUMDIFF,
65     DCA_STEREO_TOTAL,
66     DCA_3F,
67     DCA_2F1R,
68     DCA_3F1R,
69     DCA_2F2R,
70     DCA_3F2R,
71     DCA_4F2R
72 };
73
74 /* -1 are reserved or unknown */
75 static const int dca_ext_audio_descr_mask[] = {
76     DCA_EXT_XCH,
77     -1,
78     DCA_EXT_X96,
79     DCA_EXT_XCH | DCA_EXT_X96,
80     -1,
81     -1,
82     DCA_EXT_XXCH,
83     -1,
84 };
85
86 /* Tables for mapping dts channel configurations to libavcodec multichannel api.
87  * Some compromises have been made for special configurations. Most configurations
88  * are never used so complete accuracy is not needed.
89  *
90  * L = left, R = right, C = center, S = surround, F = front, R = rear, T = total, OV = overhead.
91  * S  -> side, when both rear and back are configured move one of them to the side channel
92  * OV -> center back
93  * All 2 channel configurations -> AV_CH_LAYOUT_STEREO
94  */
95 static const uint64_t dca_core_channel_layout[] = {
96     AV_CH_FRONT_CENTER,                                                     ///< 1, A
97     AV_CH_LAYOUT_STEREO,                                                    ///< 2, A + B (dual mono)
98     AV_CH_LAYOUT_STEREO,                                                    ///< 2, L + R (stereo)
99     AV_CH_LAYOUT_STEREO,                                                    ///< 2, (L + R) + (L - R) (sum-difference)
100     AV_CH_LAYOUT_STEREO,                                                    ///< 2, LT + RT (left and right total)
101     AV_CH_LAYOUT_STEREO | AV_CH_FRONT_CENTER,                               ///< 3, C + L + R
102     AV_CH_LAYOUT_STEREO | AV_CH_BACK_CENTER,                                ///< 3, L + R + S
103     AV_CH_LAYOUT_STEREO | AV_CH_FRONT_CENTER | AV_CH_BACK_CENTER,           ///< 4, C + L + R + S
104     AV_CH_LAYOUT_STEREO | AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT,               ///< 4, L + R + SL + SR
105
106     AV_CH_LAYOUT_STEREO | AV_CH_FRONT_CENTER | AV_CH_SIDE_LEFT |
107     AV_CH_SIDE_RIGHT,                                                       ///< 5, C + L + R + SL + SR
108
109     AV_CH_LAYOUT_STEREO | AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT |
110     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_RIGHT_OF_CENTER,               ///< 6, CL + CR + L + R + SL + SR
111
112     AV_CH_LAYOUT_STEREO | AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT |
113     AV_CH_FRONT_CENTER  | AV_CH_BACK_CENTER,                                ///< 6, C + L + R + LR + RR + OV
114
115     AV_CH_FRONT_CENTER | AV_CH_FRONT_RIGHT_OF_CENTER |
116     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_BACK_CENTER   |
117     AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT,                                     ///< 6, CF + CR + LF + RF + LR + RR
118
119     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_CENTER   |
120     AV_CH_FRONT_RIGHT_OF_CENTER | AV_CH_LAYOUT_STEREO |
121     AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT,                                     ///< 7, CL + C + CR + L + R + SL + SR
122
123     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_RIGHT_OF_CENTER |
124     AV_CH_LAYOUT_STEREO | AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT |
125     AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT,                                     ///< 8, CL + CR + L + R + SL1 + SL2 + SR1 + SR2
126
127     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_CENTER   |
128     AV_CH_FRONT_RIGHT_OF_CENTER | AV_CH_LAYOUT_STEREO |
129     AV_CH_SIDE_LEFT | AV_CH_BACK_CENTER | AV_CH_SIDE_RIGHT,                 ///< 8, CL + C + CR + L + R + SL + S + SR
130 };
131
132 #define DCA_DOLBY                  101           /* FIXME */
133
134 #define DCA_CHANNEL_BITS             6
135 #define DCA_CHANNEL_MASK          0x3F
136
137 #define DCA_LFE                   0x80
138
139 #define HEADER_SIZE                 14
140
141 #define DCA_NSYNCAUX        0x9A1105A0
142
143 #define SAMPLES_PER_SUBBAND 8 // number of samples per subband per subsubframe
144
145 /** Bit allocation */
146 typedef struct BitAlloc {
147     int offset;                 ///< code values offset
148     int maxbits[8];             ///< max bits in VLC
149     int wrap;                   ///< wrap for get_vlc2()
150     VLC vlc[8];                 ///< actual codes
151 } BitAlloc;
152
153 static BitAlloc dca_bitalloc_index;    ///< indexes for samples VLC select
154 static BitAlloc dca_tmode;             ///< transition mode VLCs
155 static BitAlloc dca_scalefactor;       ///< scalefactor VLCs
156 static BitAlloc dca_smpl_bitalloc[11]; ///< samples VLCs
157
158 static av_always_inline int get_bitalloc(GetBitContext *gb, BitAlloc *ba,
159                                          int idx)
160 {
161     return get_vlc2(gb, ba->vlc[idx].table, ba->vlc[idx].bits, ba->wrap) +
162            ba->offset;
163 }
164
165 static av_cold void dca_init_vlcs(void)
166 {
167     static int vlcs_initialized = 0;
168     int i, j, c = 14;
169     static VLC_TYPE dca_table[23622][2];
170
171     if (vlcs_initialized)
172         return;
173
174     dca_bitalloc_index.offset = 1;
175     dca_bitalloc_index.wrap   = 2;
176     for (i = 0; i < 5; i++) {
177         dca_bitalloc_index.vlc[i].table           = &dca_table[ff_dca_vlc_offs[i]];
178         dca_bitalloc_index.vlc[i].table_allocated = ff_dca_vlc_offs[i + 1] - ff_dca_vlc_offs[i];
179         init_vlc(&dca_bitalloc_index.vlc[i], bitalloc_12_vlc_bits[i], 12,
180                  bitalloc_12_bits[i], 1, 1,
181                  bitalloc_12_codes[i], 2, 2, INIT_VLC_USE_NEW_STATIC);
182     }
183     dca_scalefactor.offset = -64;
184     dca_scalefactor.wrap   = 2;
185     for (i = 0; i < 5; i++) {
186         dca_scalefactor.vlc[i].table           = &dca_table[ff_dca_vlc_offs[i + 5]];
187         dca_scalefactor.vlc[i].table_allocated = ff_dca_vlc_offs[i + 6] - ff_dca_vlc_offs[i + 5];
188         init_vlc(&dca_scalefactor.vlc[i], SCALES_VLC_BITS, 129,
189                  scales_bits[i], 1, 1,
190                  scales_codes[i], 2, 2, INIT_VLC_USE_NEW_STATIC);
191     }
192     dca_tmode.offset = 0;
193     dca_tmode.wrap   = 1;
194     for (i = 0; i < 4; i++) {
195         dca_tmode.vlc[i].table           = &dca_table[ff_dca_vlc_offs[i + 10]];
196         dca_tmode.vlc[i].table_allocated = ff_dca_vlc_offs[i + 11] - ff_dca_vlc_offs[i + 10];
197         init_vlc(&dca_tmode.vlc[i], tmode_vlc_bits[i], 4,
198                  tmode_bits[i], 1, 1,
199                  tmode_codes[i], 2, 2, INIT_VLC_USE_NEW_STATIC);
200     }
201
202     for (i = 0; i < 10; i++)
203         for (j = 0; j < 7; j++) {
204             if (!bitalloc_codes[i][j])
205                 break;
206             dca_smpl_bitalloc[i + 1].offset                 = bitalloc_offsets[i];
207             dca_smpl_bitalloc[i + 1].wrap                   = 1 + (j > 4);
208             dca_smpl_bitalloc[i + 1].vlc[j].table           = &dca_table[ff_dca_vlc_offs[c]];
209             dca_smpl_bitalloc[i + 1].vlc[j].table_allocated = ff_dca_vlc_offs[c + 1] - ff_dca_vlc_offs[c];
210
211             init_vlc(&dca_smpl_bitalloc[i + 1].vlc[j], bitalloc_maxbits[i][j],
212                      bitalloc_sizes[i],
213                      bitalloc_bits[i][j], 1, 1,
214                      bitalloc_codes[i][j], 2, 2, INIT_VLC_USE_NEW_STATIC);
215             c++;
216         }
217     vlcs_initialized = 1;
218 }
219
220 static inline void get_array(GetBitContext *gb, int *dst, int len, int bits)
221 {
222     while (len--)
223         *dst++ = get_bits(gb, bits);
224 }
225
226 static int dca_parse_audio_coding_header(DCAContext *s, int base_channel)
227 {
228     int i, j;
229     static const uint8_t adj_table[4] = { 16, 18, 20, 23 };
230     static const int bitlen[11] = { 0, 1, 2, 2, 2, 2, 3, 3, 3, 3, 3 };
231     static const int thr[11]    = { 0, 1, 3, 3, 3, 3, 7, 7, 7, 7, 7 };
232
233     s->audio_header.total_channels = get_bits(&s->gb, 3) + 1 + base_channel;
234     s->audio_header.prim_channels  = s->audio_header.total_channels;
235
236     if (s->audio_header.prim_channels > DCA_PRIM_CHANNELS_MAX)
237         s->audio_header.prim_channels = DCA_PRIM_CHANNELS_MAX;
238
239     for (i = base_channel; i < s->audio_header.prim_channels; i++) {
240         s->audio_header.subband_activity[i] = get_bits(&s->gb, 5) + 2;
241         if (s->audio_header.subband_activity[i] > DCA_SUBBANDS)
242             s->audio_header.subband_activity[i] = DCA_SUBBANDS;
243     }
244     for (i = base_channel; i < s->audio_header.prim_channels; i++) {
245         s->audio_header.vq_start_subband[i] = get_bits(&s->gb, 5) + 1;
246         if (s->audio_header.vq_start_subband[i] > DCA_SUBBANDS)
247             s->audio_header.vq_start_subband[i] = DCA_SUBBANDS;
248     }
249     get_array(&s->gb, s->audio_header.joint_intensity + base_channel,
250               s->audio_header.prim_channels - base_channel, 3);
251     get_array(&s->gb, s->audio_header.transient_huffman + base_channel,
252               s->audio_header.prim_channels - base_channel, 2);
253     get_array(&s->gb, s->audio_header.scalefactor_huffman + base_channel,
254               s->audio_header.prim_channels - base_channel, 3);
255     get_array(&s->gb, s->audio_header.bitalloc_huffman + base_channel,
256               s->audio_header.prim_channels - base_channel, 3);
257
258     /* Get codebooks quantization indexes */
259     if (!base_channel)
260         memset(s->audio_header.quant_index_huffman, 0, sizeof(s->audio_header.quant_index_huffman));
261     for (j = 1; j < 11; j++)
262         for (i = base_channel; i < s->audio_header.prim_channels; i++)
263             s->audio_header.quant_index_huffman[i][j] = get_bits(&s->gb, bitlen[j]);
264
265     /* Get scale factor adjustment */
266     for (j = 0; j < 11; j++)
267         for (i = base_channel; i < s->audio_header.prim_channels; i++)
268             s->audio_header.scalefactor_adj[i][j] = 16;
269
270     for (j = 1; j < 11; j++)
271         for (i = base_channel; i < s->audio_header.prim_channels; i++)
272             if (s->audio_header.quant_index_huffman[i][j] < thr[j])
273                 s->audio_header.scalefactor_adj[i][j] = adj_table[get_bits(&s->gb, 2)];
274
275     if (s->crc_present) {
276         /* Audio header CRC check */
277         get_bits(&s->gb, 16);
278     }
279
280     s->current_subframe    = 0;
281     s->current_subsubframe = 0;
282
283     return 0;
284 }
285
286 static int dca_parse_frame_header(DCAContext *s)
287 {
288     init_get_bits(&s->gb, s->dca_buffer, s->dca_buffer_size * 8);
289
290     /* Sync code */
291     skip_bits_long(&s->gb, 32);
292
293     /* Frame header */
294     s->frame_type        = get_bits(&s->gb, 1);
295     s->samples_deficit   = get_bits(&s->gb, 5) + 1;
296     s->crc_present       = get_bits(&s->gb, 1);
297     s->sample_blocks     = get_bits(&s->gb, 7) + 1;
298     s->frame_size        = get_bits(&s->gb, 14) + 1;
299     if (s->frame_size < 95)
300         return AVERROR_INVALIDDATA;
301     s->amode             = get_bits(&s->gb, 6);
302     s->sample_rate       = avpriv_dca_sample_rates[get_bits(&s->gb, 4)];
303     if (!s->sample_rate)
304         return AVERROR_INVALIDDATA;
305     s->bit_rate_index    = get_bits(&s->gb, 5);
306     s->bit_rate          = ff_dca_bit_rates[s->bit_rate_index];
307     if (!s->bit_rate)
308         return AVERROR_INVALIDDATA;
309
310     skip_bits1(&s->gb); // always 0 (reserved, cf. ETSI TS 102 114 V1.4.1)
311     s->dynrange          = get_bits(&s->gb, 1);
312     s->timestamp         = get_bits(&s->gb, 1);
313     s->aux_data          = get_bits(&s->gb, 1);
314     s->hdcd              = get_bits(&s->gb, 1);
315     s->ext_descr         = get_bits(&s->gb, 3);
316     s->ext_coding        = get_bits(&s->gb, 1);
317     s->aspf              = get_bits(&s->gb, 1);
318     s->lfe               = get_bits(&s->gb, 2);
319     s->predictor_history = get_bits(&s->gb, 1);
320
321     if (s->lfe > 2) {
322         av_log(s->avctx, AV_LOG_ERROR, "Invalid LFE value: %d\n", s->lfe);
323         return AVERROR_INVALIDDATA;
324     }
325
326     /* TODO: check CRC */
327     if (s->crc_present)
328         s->header_crc    = get_bits(&s->gb, 16);
329
330     s->multirate_inter   = get_bits(&s->gb, 1);
331     s->version           = get_bits(&s->gb, 4);
332     s->copy_history      = get_bits(&s->gb, 2);
333     s->source_pcm_res    = get_bits(&s->gb, 3);
334     s->front_sum         = get_bits(&s->gb, 1);
335     s->surround_sum      = get_bits(&s->gb, 1);
336     s->dialog_norm       = get_bits(&s->gb, 4);
337
338     /* FIXME: channels mixing levels */
339     s->output = s->amode;
340     if (s->lfe)
341         s->output |= DCA_LFE;
342
343     /* Primary audio coding header */
344     s->audio_header.subframes = get_bits(&s->gb, 4) + 1;
345
346     return dca_parse_audio_coding_header(s, 0);
347 }
348
349 static inline int get_scale(GetBitContext *gb, int level, int value, int log2range)
350 {
351     if (level < 5) {
352         /* huffman encoded */
353         value += get_bitalloc(gb, &dca_scalefactor, level);
354         value  = av_clip(value, 0, (1 << log2range) - 1);
355     } else if (level < 8) {
356         if (level + 1 > log2range) {
357             skip_bits(gb, level + 1 - log2range);
358             value = get_bits(gb, log2range);
359         } else {
360             value = get_bits(gb, level + 1);
361         }
362     }
363     return value;
364 }
365
366 static int dca_subframe_header(DCAContext *s, int base_channel, int block_index)
367 {
368     /* Primary audio coding side information */
369     int j, k;
370
371     if (get_bits_left(&s->gb) < 0)
372         return AVERROR_INVALIDDATA;
373
374     if (!base_channel) {
375         s->subsubframes[s->current_subframe]    = get_bits(&s->gb, 2) + 1;
376         s->partial_samples[s->current_subframe] = get_bits(&s->gb, 3);
377     }
378
379     for (j = base_channel; j < s->audio_header.prim_channels; j++) {
380         for (k = 0; k < s->audio_header.subband_activity[j]; k++)
381             s->dca_chan[j].prediction_mode[k] = get_bits(&s->gb, 1);
382     }
383
384     /* Get prediction codebook */
385     for (j = base_channel; j < s->audio_header.prim_channels; j++) {
386         for (k = 0; k < s->audio_header.subband_activity[j]; k++) {
387             if (s->dca_chan[j].prediction_mode[k] > 0) {
388                 /* (Prediction coefficient VQ address) */
389                 s->dca_chan[j].prediction_vq[k] = get_bits(&s->gb, 12);
390             }
391         }
392     }
393
394     /* Bit allocation index */
395     for (j = base_channel; j < s->audio_header.prim_channels; j++) {
396         for (k = 0; k < s->audio_header.vq_start_subband[j]; k++) {
397             if (s->audio_header.bitalloc_huffman[j] == 6)
398                 s->dca_chan[j].bitalloc[k] = get_bits(&s->gb, 5);
399             else if (s->audio_header.bitalloc_huffman[j] == 5)
400                 s->dca_chan[j].bitalloc[k] = get_bits(&s->gb, 4);
401             else if (s->audio_header.bitalloc_huffman[j] == 7) {
402                 av_log(s->avctx, AV_LOG_ERROR,
403                        "Invalid bit allocation index\n");
404                 return AVERROR_INVALIDDATA;
405             } else {
406                 s->dca_chan[j].bitalloc[k] =
407                     get_bitalloc(&s->gb, &dca_bitalloc_index, s->audio_header.bitalloc_huffman[j]);
408             }
409
410             if (s->dca_chan[j].bitalloc[k] > 26) {
411                 ff_dlog(s->avctx, "bitalloc index [%i][%i] too big (%i)\n",
412                         j, k, s->dca_chan[j].bitalloc[k]);
413                 return AVERROR_INVALIDDATA;
414             }
415         }
416     }
417
418     /* Transition mode */
419     for (j = base_channel; j < s->audio_header.prim_channels; j++) {
420         for (k = 0; k < s->audio_header.subband_activity[j]; k++) {
421             s->dca_chan[j].transition_mode[k] = 0;
422             if (s->subsubframes[s->current_subframe] > 1 &&
423                 k < s->audio_header.vq_start_subband[j] && s->dca_chan[j].bitalloc[k] > 0) {
424                 s->dca_chan[j].transition_mode[k] =
425                     get_bitalloc(&s->gb, &dca_tmode, s->audio_header.transient_huffman[j]);
426             }
427         }
428     }
429
430     if (get_bits_left(&s->gb) < 0)
431         return AVERROR_INVALIDDATA;
432
433     for (j = base_channel; j < s->audio_header.prim_channels; j++) {
434         const uint32_t *scale_table;
435         int scale_sum, log_size;
436
437         memset(s->dca_chan[j].scale_factor, 0,
438                s->audio_header.subband_activity[j] * sizeof(s->dca_chan[j].scale_factor[0][0]) * 2);
439
440         if (s->audio_header.scalefactor_huffman[j] == 6) {
441             scale_table = ff_dca_scale_factor_quant7;
442             log_size    = 7;
443         } else {
444             scale_table = ff_dca_scale_factor_quant6;
445             log_size    = 6;
446         }
447
448         /* When huffman coded, only the difference is encoded */
449         scale_sum = 0;
450
451         for (k = 0; k < s->audio_header.subband_activity[j]; k++) {
452             if (k >= s->audio_header.vq_start_subband[j] || s->dca_chan[j].bitalloc[k] > 0) {
453                 scale_sum = get_scale(&s->gb, s->audio_header.scalefactor_huffman[j], scale_sum, log_size);
454                 s->dca_chan[j].scale_factor[k][0] = scale_table[scale_sum];
455             }
456
457             if (k < s->audio_header.vq_start_subband[j] && s->dca_chan[j].transition_mode[k]) {
458                 /* Get second scale factor */
459                 scale_sum = get_scale(&s->gb, s->audio_header.scalefactor_huffman[j], scale_sum, log_size);
460                 s->dca_chan[j].scale_factor[k][1] = scale_table[scale_sum];
461             }
462         }
463     }
464
465     /* Joint subband scale factor codebook select */
466     for (j = base_channel; j < s->audio_header.prim_channels; j++) {
467         /* Transmitted only if joint subband coding enabled */
468         if (s->audio_header.joint_intensity[j] > 0)
469             s->dca_chan[j].joint_huff = get_bits(&s->gb, 3);
470     }
471
472     if (get_bits_left(&s->gb) < 0)
473         return AVERROR_INVALIDDATA;
474
475     /* Scale factors for joint subband coding */
476     for (j = base_channel; j < s->audio_header.prim_channels; j++) {
477         int source_channel;
478
479         /* Transmitted only if joint subband coding enabled */
480         if (s->audio_header.joint_intensity[j] > 0) {
481             int scale = 0;
482             source_channel = s->audio_header.joint_intensity[j] - 1;
483
484             /* When huffman coded, only the difference is encoded
485              * (is this valid as well for joint scales ???) */
486
487             for (k = s->audio_header.subband_activity[j];
488                  k < s->audio_header.subband_activity[source_channel]; k++) {
489                 scale = get_scale(&s->gb, s->dca_chan[j].joint_huff, 64 /* bias */, 7);
490                 s->dca_chan[j].joint_scale_factor[k] = scale;    /*joint_scale_table[scale]; */
491             }
492
493             if (!(s->debug_flag & 0x02)) {
494                 av_log(s->avctx, AV_LOG_DEBUG,
495                        "Joint stereo coding not supported\n");
496                 s->debug_flag |= 0x02;
497             }
498         }
499     }
500
501     /* Dynamic range coefficient */
502     if (!base_channel && s->dynrange)
503         s->dynrange_coef = get_bits(&s->gb, 8);
504
505     /* Side information CRC check word */
506     if (s->crc_present) {
507         get_bits(&s->gb, 16);
508     }
509
510     /*
511      * Primary audio data arrays
512      */
513
514     /* VQ encoded high frequency subbands */
515     for (j = base_channel; j < s->audio_header.prim_channels; j++)
516         for (k = s->audio_header.vq_start_subband[j]; k < s->audio_header.subband_activity[j]; k++)
517             /* 1 vector -> 32 samples */
518             s->dca_chan[j].high_freq_vq[k] = get_bits(&s->gb, 10);
519
520     /* Low frequency effect data */
521     if (!base_channel && s->lfe) {
522         /* LFE samples */
523         int lfe_samples    = 2 * s->lfe * (4 + block_index);
524         int lfe_end_sample = 2 * s->lfe * (4 + block_index + s->subsubframes[s->current_subframe]);
525         float lfe_scale;
526
527         for (j = lfe_samples; j < lfe_end_sample; j++) {
528             /* Signed 8 bits int */
529             s->lfe_data[j] = get_sbits(&s->gb, 8);
530         }
531
532         /* Scale factor index */
533         skip_bits(&s->gb, 1);
534         s->lfe_scale_factor = ff_dca_scale_factor_quant7[get_bits(&s->gb, 7)];
535
536         /* Quantization step size * scale factor */
537         lfe_scale = 0.035 * s->lfe_scale_factor;
538
539         for (j = lfe_samples; j < lfe_end_sample; j++)
540             s->lfe_data[j] *= lfe_scale;
541     }
542
543     return 0;
544 }
545
546 static void qmf_32_subbands(DCAContext *s, int chans,
547                             float samples_in[32][SAMPLES_PER_SUBBAND], float *samples_out,
548                             float scale)
549 {
550     const float *prCoeff;
551
552     int sb_act = s->audio_header.subband_activity[chans];
553
554     scale *= sqrt(1 / 8.0);
555
556     /* Select filter */
557     if (!s->multirate_inter)    /* Non-perfect reconstruction */
558         prCoeff = ff_dca_fir_32bands_nonperfect;
559     else                        /* Perfect reconstruction */
560         prCoeff = ff_dca_fir_32bands_perfect;
561
562     s->dcadsp.qmf_32_subbands(samples_in, sb_act, &s->synth, &s->imdct,
563                               s->dca_chan[chans].subband_fir_hist,
564                               &s->dca_chan[chans].hist_index,
565                               s->dca_chan[chans].subband_fir_noidea, prCoeff,
566                               samples_out, s->raXin, scale);
567 }
568
569 static QMF64_table *qmf64_precompute(void)
570 {
571     unsigned i, j;
572     QMF64_table *table = av_malloc(sizeof(*table));
573     if (!table)
574         return NULL;
575
576     for (i = 0; i < 32; i++)
577         for (j = 0; j < 32; j++)
578             table->dct4_coeff[i][j] = cos((2 * i + 1) * (2 * j + 1) * M_PI / 128);
579     for (i = 0; i < 32; i++)
580         for (j = 0; j < 32; j++)
581             table->dct2_coeff[i][j] = cos((2 * i + 1) *      j      * M_PI /  64);
582
583     /* FIXME: Is the factor 0.125 = 1/8 right? */
584     for (i = 0; i < 32; i++)
585         table->rcos[i] =  0.125 / cos((2 * i + 1) * M_PI / 256);
586     for (i = 0; i < 32; i++)
587         table->rsin[i] = -0.125 / sin((2 * i + 1) * M_PI / 256);
588
589     return table;
590 }
591
592 /* FIXME: Totally unoptimized. Based on the reference code and
593  * http://multimedia.cx/mirror/dca-transform.pdf, with guessed tweaks
594  * for doubling the size. */
595 static void qmf_64_subbands(DCAContext *s, int chans, float samples_in[64][SAMPLES_PER_SUBBAND],
596                             float *samples_out, float scale)
597 {
598     float raXin[64];
599     float A[32], B[32];
600     float *raX = s->dca_chan[chans].subband_fir_hist;
601     float *raZ = s->dca_chan[chans].subband_fir_noidea;
602     unsigned i, j, k, subindex;
603
604     for (i = s->audio_header.subband_activity[chans]; i < 64; i++)
605         raXin[i] = 0.0;
606     for (subindex = 0; subindex < SAMPLES_PER_SUBBAND; subindex++) {
607         for (i = 0; i < s->audio_header.subband_activity[chans]; i++)
608             raXin[i] = samples_in[i][subindex];
609
610         for (k = 0; k < 32; k++) {
611             A[k] = 0.0;
612             for (i = 0; i < 32; i++)
613                 A[k] += (raXin[2 * i] + raXin[2 * i + 1]) * s->qmf64_table->dct4_coeff[k][i];
614         }
615         for (k = 0; k < 32; k++) {
616             B[k] = raXin[0] * s->qmf64_table->dct2_coeff[k][0];
617             for (i = 1; i < 32; i++)
618                 B[k] += (raXin[2 * i] + raXin[2 * i - 1]) * s->qmf64_table->dct2_coeff[k][i];
619         }
620         for (k = 0; k < 32; k++) {
621             raX[k]      = s->qmf64_table->rcos[k] * (A[k] + B[k]);
622             raX[63 - k] = s->qmf64_table->rsin[k] * (A[k] - B[k]);
623         }
624
625         for (i = 0; i < 64; i++) {
626             float out = raZ[i];
627             for (j = 0; j < 1024; j += 128)
628                 out += ff_dca_fir_64bands[j + i] * (raX[j + i] - raX[j + 63 - i]);
629             *samples_out++ = out * scale;
630         }
631
632         for (i = 0; i < 64; i++) {
633             float hist = 0.0;
634             for (j = 0; j < 1024; j += 128)
635                 hist += ff_dca_fir_64bands[64 + j + i] * (-raX[i + j] - raX[j + 63 - i]);
636
637             raZ[i] = hist;
638         }
639
640         /* FIXME: Make buffer circular, to avoid this move. */
641         memmove(raX + 64, raX, (1024 - 64) * sizeof(*raX));
642     }
643 }
644
645 static void lfe_interpolation_fir(DCAContext *s, const float *samples_in,
646                                   float *samples_out)
647 {
648     /* samples_in: An array holding decimated samples.
649      *   Samples in current subframe starts from samples_in[0],
650      *   while samples_in[-1], samples_in[-2], ..., stores samples
651      *   from last subframe as history.
652      *
653      * samples_out: An array holding interpolated samples
654      */
655
656     int idx;
657     const float *prCoeff;
658     int deciindex;
659
660     /* Select decimation filter */
661     if (s->lfe == 1) {
662         idx     = 1;
663         prCoeff = ff_dca_lfe_fir_128;
664     } else {
665         idx = 0;
666         if (s->exss_ext_mask & DCA_EXT_EXSS_XLL)
667             prCoeff = ff_dca_lfe_xll_fir_64;
668         else
669             prCoeff = ff_dca_lfe_fir_64;
670     }
671     /* Interpolation */
672     for (deciindex = 0; deciindex < 2 * s->lfe; deciindex++) {
673         s->dcadsp.lfe_fir[idx](samples_out, samples_in, prCoeff);
674         samples_in++;
675         samples_out += 2 * 32 * (1 + idx);
676     }
677 }
678
679 /* downmixing routines */
680 #define MIX_REAR1(samples, s1, rs, coef)            \
681     samples[0][i] += samples[s1][i] * coef[rs][0];  \
682     samples[1][i] += samples[s1][i] * coef[rs][1];
683
684 #define MIX_REAR2(samples, s1, s2, rs, coef)                                          \
685     samples[0][i] += samples[s1][i] * coef[rs][0] + samples[s2][i] * coef[rs + 1][0]; \
686     samples[1][i] += samples[s1][i] * coef[rs][1] + samples[s2][i] * coef[rs + 1][1];
687
688 #define MIX_FRONT3(samples, coef)                                      \
689     t = samples[c][i];                                                 \
690     u = samples[l][i];                                                 \
691     v = samples[r][i];                                                 \
692     samples[0][i] = t * coef[0][0] + u * coef[1][0] + v * coef[2][0];  \
693     samples[1][i] = t * coef[0][1] + u * coef[1][1] + v * coef[2][1];
694
695 #define DOWNMIX_TO_STEREO(op1, op2)             \
696     for (i = 0; i < 256; i++) {                 \
697         op1                                     \
698         op2                                     \
699     }
700
701 static void dca_downmix(float **samples, int srcfmt, int lfe_present,
702                         float coef[DCA_PRIM_CHANNELS_MAX + 1][2],
703                         const int8_t *channel_mapping)
704 {
705     int c, l, r, sl, sr, s;
706     int i;
707     float t, u, v;
708
709     switch (srcfmt) {
710     case DCA_MONO:
711     case DCA_4F2R:
712         av_log(NULL, 0, "Not implemented!\n");
713         break;
714     case DCA_CHANNEL:
715     case DCA_STEREO:
716     case DCA_STEREO_TOTAL:
717     case DCA_STEREO_SUMDIFF:
718         break;
719     case DCA_3F:
720         c = channel_mapping[0];
721         l = channel_mapping[1];
722         r = channel_mapping[2];
723         DOWNMIX_TO_STEREO(MIX_FRONT3(samples, coef), );
724         break;
725     case DCA_2F1R:
726         s = channel_mapping[2];
727         DOWNMIX_TO_STEREO(MIX_REAR1(samples, s, 2, coef), );
728         break;
729     case DCA_3F1R:
730         c = channel_mapping[0];
731         l = channel_mapping[1];
732         r = channel_mapping[2];
733         s = channel_mapping[3];
734         DOWNMIX_TO_STEREO(MIX_FRONT3(samples, coef),
735                           MIX_REAR1(samples, s, 3, coef));
736         break;
737     case DCA_2F2R:
738         sl = channel_mapping[2];
739         sr = channel_mapping[3];
740         DOWNMIX_TO_STEREO(MIX_REAR2(samples, sl, sr, 2, coef), );
741         break;
742     case DCA_3F2R:
743         c  = channel_mapping[0];
744         l  = channel_mapping[1];
745         r  = channel_mapping[2];
746         sl = channel_mapping[3];
747         sr = channel_mapping[4];
748         DOWNMIX_TO_STEREO(MIX_FRONT3(samples, coef),
749                           MIX_REAR2(samples, sl, sr, 3, coef));
750         break;
751     }
752     if (lfe_present) {
753         int lf_buf = ff_dca_lfe_index[srcfmt];
754         int lf_idx =  ff_dca_channels[srcfmt];
755         for (i = 0; i < 256; i++) {
756             samples[0][i] += samples[lf_buf][i] * coef[lf_idx][0];
757             samples[1][i] += samples[lf_buf][i] * coef[lf_idx][1];
758         }
759     }
760 }
761
762 #ifndef decode_blockcodes
763 /* Very compact version of the block code decoder that does not use table
764  * look-up but is slightly slower */
765 static int decode_blockcode(int code, int levels, int32_t *values)
766 {
767     int i;
768     int offset = (levels - 1) >> 1;
769
770     for (i = 0; i < 4; i++) {
771         int div = FASTDIV(code, levels);
772         values[i] = code - offset - div * levels;
773         code      = div;
774     }
775
776     return code;
777 }
778
779 static int decode_blockcodes(int code1, int code2, int levels, int32_t *values)
780 {
781     return decode_blockcode(code1, levels, values) |
782            decode_blockcode(code2, levels, values + 4);
783 }
784 #endif
785
786 static const uint8_t abits_sizes[7]  = { 7, 10, 12, 13, 15, 17, 19 };
787 static const uint8_t abits_levels[7] = { 3,  5,  7,  9, 13, 17, 25 };
788
789 static int dca_subsubframe(DCAContext *s, int base_channel, int block_index)
790 {
791     int k, l;
792     int subsubframe = s->current_subsubframe;
793     const uint32_t *quant_step_table;
794
795     /*
796      * Audio data
797      */
798
799     /* Select quantization step size table */
800     if (s->bit_rate_index == 0x1f)
801         quant_step_table = ff_dca_lossless_quant;
802     else
803         quant_step_table = ff_dca_lossy_quant;
804
805     for (k = base_channel; k < s->audio_header.prim_channels; k++) {
806         int32_t (*subband_samples)[8] = s->dca_chan[k].subband_samples[block_index];
807
808         if (get_bits_left(&s->gb) < 0)
809             return AVERROR_INVALIDDATA;
810
811         for (l = 0; l < s->audio_header.vq_start_subband[k]; l++) {
812             int m;
813
814             /* Select the mid-tread linear quantizer */
815             int abits = s->dca_chan[k].bitalloc[l];
816
817             uint32_t quant_step_size = quant_step_table[abits];
818
819             /*
820              * Extract bits from the bit stream
821              */
822             if (!abits)
823                 memset(subband_samples[l], 0, SAMPLES_PER_SUBBAND *
824                        sizeof(subband_samples[l][0]));
825             else {
826                 uint32_t rscale;
827                 /* Deal with transients */
828                 int sfi = s->dca_chan[k].transition_mode[l] &&
829                     subsubframe >= s->dca_chan[k].transition_mode[l];
830                 /* Determine quantization index code book and its type.
831                    Select quantization index code book */
832                 int sel = s->audio_header.quant_index_huffman[k][abits];
833
834                 rscale = (s->dca_chan[k].scale_factor[l][sfi] *
835                           s->audio_header.scalefactor_adj[k][sel] + 8) >> 4;
836
837                 if (abits >= 11 || !dca_smpl_bitalloc[abits].vlc[sel].table) {
838                     if (abits <= 7) {
839                         /* Block code */
840                         int block_code1, block_code2, size, levels, err;
841
842                         size   = abits_sizes[abits - 1];
843                         levels = abits_levels[abits - 1];
844
845                         block_code1 = get_bits(&s->gb, size);
846                         block_code2 = get_bits(&s->gb, size);
847                         err         = decode_blockcodes(block_code1, block_code2,
848                                                         levels, subband_samples[l]);
849                         if (err) {
850                             av_log(s->avctx, AV_LOG_ERROR,
851                                    "ERROR: block code look-up failed\n");
852                             return AVERROR_INVALIDDATA;
853                         }
854                     } else {
855                         /* no coding */
856                         for (m = 0; m < SAMPLES_PER_SUBBAND; m++)
857                             subband_samples[l][m] = get_sbits(&s->gb, abits - 3);
858                     }
859                 } else {
860                     /* Huffman coded */
861                     for (m = 0; m < SAMPLES_PER_SUBBAND; m++)
862                         subband_samples[l][m] = get_bitalloc(&s->gb,
863                                                              &dca_smpl_bitalloc[abits], sel);
864                 }
865                 s->dcadsp.dequantize(subband_samples[l], quant_step_size, rscale);
866             }
867         }
868
869         for (l = 0; l < s->audio_header.vq_start_subband[k]; l++) {
870             int m;
871             /*
872              * Inverse ADPCM if in prediction mode
873              */
874             if (s->dca_chan[k].prediction_mode[l]) {
875                 int n;
876                 if (s->predictor_history)
877                     subband_samples[l][0] += (ff_dca_adpcm_vb[s->dca_chan[k].prediction_vq[l]][0] *
878                                               (int64_t)s->dca_chan[k].subband_samples_hist[l][3] +
879                                               ff_dca_adpcm_vb[s->dca_chan[k].prediction_vq[l]][1] *
880                                               (int64_t)s->dca_chan[k].subband_samples_hist[l][2] +
881                                               ff_dca_adpcm_vb[s->dca_chan[k].prediction_vq[l]][2] *
882                                               (int64_t)s->dca_chan[k].subband_samples_hist[l][1] +
883                                               ff_dca_adpcm_vb[s->dca_chan[k].prediction_vq[l]][3] *
884                                               (int64_t)s->dca_chan[k].subband_samples_hist[l][0]) +
885                                               (1 << 12) >> 13;
886                 for (m = 1; m < SAMPLES_PER_SUBBAND; m++) {
887                     int64_t sum = ff_dca_adpcm_vb[s->dca_chan[k].prediction_vq[l]][0] *
888                                   (int64_t)subband_samples[l][m - 1];
889                     for (n = 2; n <= 4; n++)
890                         if (m >= n)
891                             sum += ff_dca_adpcm_vb[s->dca_chan[k].prediction_vq[l]][n - 1] *
892                                    (int64_t)subband_samples[l][m - n];
893                         else if (s->predictor_history)
894                             sum += ff_dca_adpcm_vb[s->dca_chan[k].prediction_vq[l]][n - 1] *
895                                    (int64_t)s->dca_chan[k].subband_samples_hist[l][m - n + 4];
896                     subband_samples[l][m] += (int32_t)(sum + (1 << 12) >> 13);
897                 }
898             }
899
900         }
901         /* Backup predictor history for adpcm */
902         for (l = 0; l < DCA_SUBBANDS; l++)
903             AV_COPY128(s->dca_chan[k].subband_samples_hist[l], &subband_samples[l][4]);
904
905
906         /*
907          * Decode VQ encoded high frequencies
908          */
909         if (s->audio_header.subband_activity[k] > s->audio_header.vq_start_subband[k]) {
910             if (!s->debug_flag & 0x01) {
911                 av_log(s->avctx, AV_LOG_DEBUG,
912                        "Stream with high frequencies VQ coding\n");
913                 s->debug_flag |= 0x01;
914             }
915
916             s->dcadsp.decode_hf(subband_samples, s->dca_chan[k].high_freq_vq,
917                                 ff_dca_high_freq_vq,
918                                 subsubframe * SAMPLES_PER_SUBBAND,
919                                 s->dca_chan[k].scale_factor,
920                                 s->audio_header.vq_start_subband[k],
921                                 s->audio_header.subband_activity[k]);
922         }
923     }
924
925     /* Check for DSYNC after subsubframe */
926     if (s->aspf || subsubframe == s->subsubframes[s->current_subframe] - 1) {
927         if (get_bits(&s->gb, 16) != 0xFFFF) {
928             av_log(s->avctx, AV_LOG_ERROR, "Didn't get subframe DSYNC\n");
929             return AVERROR_INVALIDDATA;
930         }
931     }
932
933     return 0;
934 }
935
936 static int dca_filter_channels(DCAContext *s, int block_index, int upsample)
937 {
938     int k;
939
940     if (upsample) {
941         LOCAL_ALIGNED(32, float, samples, [64], [SAMPLES_PER_SUBBAND]);
942
943         if (!s->qmf64_table) {
944             s->qmf64_table = qmf64_precompute();
945             if (!s->qmf64_table)
946                 return AVERROR(ENOMEM);
947         }
948
949         /* 64 subbands QMF */
950         for (k = 0; k < s->audio_header.prim_channels; k++) {
951             int32_t (*subband_samples)[SAMPLES_PER_SUBBAND] =
952                      s->dca_chan[k].subband_samples[block_index];
953
954             s->fmt_conv.int32_to_float(samples[0], subband_samples[0],
955                                        64 * SAMPLES_PER_SUBBAND);
956
957             if (s->channel_order_tab[k] >= 0)
958                 qmf_64_subbands(s, k, samples,
959                                 s->samples_chanptr[s->channel_order_tab[k]],
960                                 /* Upsampling needs a factor 2 here. */
961                                 M_SQRT2 / 32768.0);
962         }
963     } else {
964         /* 32 subbands QMF */
965         LOCAL_ALIGNED(32, float, samples, [32], [SAMPLES_PER_SUBBAND]);
966
967         for (k = 0; k < s->audio_header.prim_channels; k++) {
968             int32_t (*subband_samples)[SAMPLES_PER_SUBBAND] =
969                      s->dca_chan[k].subband_samples[block_index];
970
971             s->fmt_conv.int32_to_float(samples[0], subband_samples[0],
972                                        32 * SAMPLES_PER_SUBBAND);
973
974             if (s->channel_order_tab[k] >= 0)
975                 qmf_32_subbands(s, k, samples,
976                                 s->samples_chanptr[s->channel_order_tab[k]],
977                                 M_SQRT1_2 / 32768.0);
978         }
979     }
980
981     /* Generate LFE samples for this subsubframe FIXME!!! */
982     if (s->lfe) {
983         float *samples = s->samples_chanptr[ff_dca_lfe_index[s->amode]];
984         lfe_interpolation_fir(s,
985                               s->lfe_data + 2 * s->lfe * (block_index + 4),
986                               samples);
987         if (upsample) {
988             unsigned i;
989             /* Should apply the filter in Table 6-11 when upsampling. For
990              * now, just duplicate. */
991             for (i = 511; i > 0; i--) {
992                 samples[2 * i]     =
993                 samples[2 * i + 1] = samples[i];
994             }
995             samples[1] = samples[0];
996         }
997     }
998
999     /* FIXME: This downmixing is probably broken with upsample.
1000      * Probably totally broken also with XLL in general. */
1001     /* Downmixing to Stereo */
1002     if (s->audio_header.prim_channels + !!s->lfe > 2 &&
1003         s->avctx->request_channel_layout == AV_CH_LAYOUT_STEREO) {
1004         dca_downmix(s->samples_chanptr, s->amode, !!s->lfe, s->downmix_coef,
1005                     s->channel_order_tab);
1006     }
1007
1008     return 0;
1009 }
1010
1011 static int dca_subframe_footer(DCAContext *s, int base_channel)
1012 {
1013     int in, out, aux_data_count, aux_data_end, reserved;
1014     uint32_t nsyncaux;
1015
1016     /*
1017      * Unpack optional information
1018      */
1019
1020     /* presumably optional information only appears in the core? */
1021     if (!base_channel) {
1022         if (s->timestamp)
1023             skip_bits_long(&s->gb, 32);
1024
1025         if (s->aux_data) {
1026             aux_data_count = get_bits(&s->gb, 6);
1027
1028             // align (32-bit)
1029             skip_bits_long(&s->gb, (-get_bits_count(&s->gb)) & 31);
1030
1031             aux_data_end = 8 * aux_data_count + get_bits_count(&s->gb);
1032
1033             if ((nsyncaux = get_bits_long(&s->gb, 32)) != DCA_NSYNCAUX) {
1034                 av_log(s->avctx, AV_LOG_ERROR, "nSYNCAUX mismatch %#"PRIx32"\n",
1035                        nsyncaux);
1036                 return AVERROR_INVALIDDATA;
1037             }
1038
1039             if (get_bits1(&s->gb)) { // bAUXTimeStampFlag
1040                 avpriv_request_sample(s->avctx,
1041                                       "Auxiliary Decode Time Stamp Flag");
1042                 // align (4-bit)
1043                 skip_bits(&s->gb, (-get_bits_count(&s->gb)) & 4);
1044                 // 44 bits: nMSByte (8), nMarker (4), nLSByte (28), nMarker (4)
1045                 skip_bits_long(&s->gb, 44);
1046             }
1047
1048             if ((s->core_downmix = get_bits1(&s->gb))) {
1049                 int am = get_bits(&s->gb, 3);
1050                 switch (am) {
1051                 case 0:
1052                     s->core_downmix_amode = DCA_MONO;
1053                     break;
1054                 case 1:
1055                     s->core_downmix_amode = DCA_STEREO;
1056                     break;
1057                 case 2:
1058                     s->core_downmix_amode = DCA_STEREO_TOTAL;
1059                     break;
1060                 case 3:
1061                     s->core_downmix_amode = DCA_3F;
1062                     break;
1063                 case 4:
1064                     s->core_downmix_amode = DCA_2F1R;
1065                     break;
1066                 case 5:
1067                     s->core_downmix_amode = DCA_2F2R;
1068                     break;
1069                 case 6:
1070                     s->core_downmix_amode = DCA_3F1R;
1071                     break;
1072                 default:
1073                     av_log(s->avctx, AV_LOG_ERROR,
1074                            "Invalid mode %d for embedded downmix coefficients\n",
1075                            am);
1076                     return AVERROR_INVALIDDATA;
1077                 }
1078                 for (out = 0; out < ff_dca_channels[s->core_downmix_amode]; out++) {
1079                     for (in = 0; in < s->audio_header.prim_channels + !!s->lfe; in++) {
1080                         uint16_t tmp = get_bits(&s->gb, 9);
1081                         if ((tmp & 0xFF) > 241) {
1082                             av_log(s->avctx, AV_LOG_ERROR,
1083                                    "Invalid downmix coefficient code %"PRIu16"\n",
1084                                    tmp);
1085                             return AVERROR_INVALIDDATA;
1086                         }
1087                         s->core_downmix_codes[in][out] = tmp;
1088                     }
1089                 }
1090             }
1091
1092             align_get_bits(&s->gb); // byte align
1093             skip_bits(&s->gb, 16);  // nAUXCRC16
1094
1095             /*
1096              * additional data (reserved, cf. ETSI TS 102 114 V1.4.1)
1097              *
1098              * Note: don't check for overreads, aux_data_count can't be trusted.
1099              */
1100             if ((reserved = (aux_data_end - get_bits_count(&s->gb))) > 0) {
1101                 avpriv_request_sample(s->avctx,
1102                                       "Core auxiliary data reserved content");
1103                 skip_bits_long(&s->gb, reserved);
1104             }
1105         }
1106
1107         if (s->crc_present && s->dynrange)
1108             get_bits(&s->gb, 16);
1109     }
1110
1111     return 0;
1112 }
1113
1114 /**
1115  * Decode a dca frame block
1116  *
1117  * @param s     pointer to the DCAContext
1118  */
1119
1120 static int dca_decode_block(DCAContext *s, int base_channel, int block_index)
1121 {
1122     int ret;
1123
1124     /* Sanity check */
1125     if (s->current_subframe >= s->audio_header.subframes) {
1126         av_log(s->avctx, AV_LOG_DEBUG, "check failed: %i>%i",
1127                s->current_subframe, s->audio_header.subframes);
1128         return AVERROR_INVALIDDATA;
1129     }
1130
1131     if (!s->current_subsubframe) {
1132         /* Read subframe header */
1133         if ((ret = dca_subframe_header(s, base_channel, block_index)))
1134             return ret;
1135     }
1136
1137     /* Read subsubframe */
1138     if ((ret = dca_subsubframe(s, base_channel, block_index)))
1139         return ret;
1140
1141     /* Update state */
1142     s->current_subsubframe++;
1143     if (s->current_subsubframe >= s->subsubframes[s->current_subframe]) {
1144         s->current_subsubframe = 0;
1145         s->current_subframe++;
1146     }
1147     if (s->current_subframe >= s->audio_header.subframes) {
1148         /* Read subframe footer */
1149         if ((ret = dca_subframe_footer(s, base_channel)))
1150             return ret;
1151     }
1152
1153     return 0;
1154 }
1155
1156 static float dca_dmix_code(unsigned code)
1157 {
1158     int sign = (code >> 8) - 1;
1159     code &= 0xff;
1160     return ((ff_dca_dmixtable[code] ^ sign) - sign) * (1.0 / (1U << 15));
1161 }
1162
1163 static int scan_for_extensions(AVCodecContext *avctx)
1164 {
1165     DCAContext *s = avctx->priv_data;
1166     int core_ss_end, ret = 0;
1167
1168     core_ss_end = FFMIN(s->frame_size, s->dca_buffer_size) * 8;
1169
1170     /* only scan for extensions if ext_descr was unknown or indicated a
1171      * supported XCh extension */
1172     if (s->core_ext_mask < 0 || s->core_ext_mask & DCA_EXT_XCH) {
1173         /* if ext_descr was unknown, clear s->core_ext_mask so that the
1174          * extensions scan can fill it up */
1175         s->core_ext_mask = FFMAX(s->core_ext_mask, 0);
1176
1177         /* extensions start at 32-bit boundaries into bitstream */
1178         skip_bits_long(&s->gb, (-get_bits_count(&s->gb)) & 31);
1179
1180         while (core_ss_end - get_bits_count(&s->gb) >= 32) {
1181             uint32_t bits = get_bits_long(&s->gb, 32);
1182             int i;
1183
1184             switch (bits) {
1185             case DCA_SYNCWORD_XCH: {
1186                 int ext_amode, xch_fsize;
1187
1188                 s->xch_base_channel = s->audio_header.prim_channels;
1189
1190                 /* validate sync word using XCHFSIZE field */
1191                 xch_fsize = show_bits(&s->gb, 10);
1192                 if ((s->frame_size != (get_bits_count(&s->gb) >> 3) - 4 + xch_fsize) &&
1193                     (s->frame_size != (get_bits_count(&s->gb) >> 3) - 4 + xch_fsize + 1))
1194                     continue;
1195
1196                 /* skip length-to-end-of-frame field for the moment */
1197                 skip_bits(&s->gb, 10);
1198
1199                 s->core_ext_mask |= DCA_EXT_XCH;
1200
1201                 /* extension amode(number of channels in extension) should be 1 */
1202                 /* AFAIK XCh is not used for more channels */
1203                 if ((ext_amode = get_bits(&s->gb, 4)) != 1) {
1204                     av_log(avctx, AV_LOG_ERROR,
1205                            "XCh extension amode %d not supported!\n",
1206                            ext_amode);
1207                     continue;
1208                 }
1209
1210                 /* much like core primary audio coding header */
1211                 dca_parse_audio_coding_header(s, s->xch_base_channel);
1212
1213                 for (i = 0; i < (s->sample_blocks / 8); i++)
1214                     if ((ret = dca_decode_block(s, s->xch_base_channel, i))) {
1215                         av_log(avctx, AV_LOG_ERROR, "error decoding XCh extension\n");
1216                         continue;
1217                     }
1218
1219                 s->xch_present = 1;
1220                 break;
1221             }
1222             case DCA_SYNCWORD_XXCH:
1223                 /* XXCh: extended channels */
1224                 /* usually found either in core or HD part in DTS-HD HRA streams,
1225                  * but not in DTS-ES which contains XCh extensions instead */
1226                 s->core_ext_mask |= DCA_EXT_XXCH;
1227                 break;
1228
1229             case 0x1d95f262: {
1230                 int fsize96 = show_bits(&s->gb, 12) + 1;
1231                 if (s->frame_size != (get_bits_count(&s->gb) >> 3) - 4 + fsize96)
1232                     continue;
1233
1234                 av_log(avctx, AV_LOG_DEBUG, "X96 extension found at %d bits\n",
1235                        get_bits_count(&s->gb));
1236                 skip_bits(&s->gb, 12);
1237                 av_log(avctx, AV_LOG_DEBUG, "FSIZE96 = %d bytes\n", fsize96);
1238                 av_log(avctx, AV_LOG_DEBUG, "REVNO = %d\n", get_bits(&s->gb, 4));
1239
1240                 s->core_ext_mask |= DCA_EXT_X96;
1241                 break;
1242             }
1243             }
1244
1245             skip_bits_long(&s->gb, (-get_bits_count(&s->gb)) & 31);
1246         }
1247     } else {
1248         /* no supported extensions, skip the rest of the core substream */
1249         skip_bits_long(&s->gb, core_ss_end - get_bits_count(&s->gb));
1250     }
1251
1252     if (s->core_ext_mask & DCA_EXT_X96)
1253         s->profile = FF_PROFILE_DTS_96_24;
1254     else if (s->core_ext_mask & (DCA_EXT_XCH | DCA_EXT_XXCH))
1255         s->profile = FF_PROFILE_DTS_ES;
1256
1257     /* check for ExSS (HD part) */
1258     if (s->dca_buffer_size - s->frame_size > 32 &&
1259         get_bits_long(&s->gb, 32) == DCA_SYNCWORD_SUBSTREAM)
1260         ff_dca_exss_parse_header(s);
1261
1262     return ret;
1263 }
1264
1265 static int set_channel_layout(AVCodecContext *avctx, int channels, int num_core_channels)
1266 {
1267     DCAContext *s = avctx->priv_data;
1268     int i;
1269
1270     if (s->amode < 16) {
1271         avctx->channel_layout = dca_core_channel_layout[s->amode];
1272
1273         if (s->audio_header.prim_channels + !!s->lfe > 2 &&
1274             avctx->request_channel_layout == AV_CH_LAYOUT_STEREO) {
1275             /*
1276              * Neither the core's auxiliary data nor our default tables contain
1277              * downmix coefficients for the additional channel coded in the XCh
1278              * extension, so when we're doing a Stereo downmix, don't decode it.
1279              */
1280             s->xch_disable = 1;
1281         }
1282
1283         if (s->xch_present && !s->xch_disable) {
1284             avctx->channel_layout |= AV_CH_BACK_CENTER;
1285             if (s->lfe) {
1286                 avctx->channel_layout |= AV_CH_LOW_FREQUENCY;
1287                 s->channel_order_tab = ff_dca_channel_reorder_lfe_xch[s->amode];
1288             } else {
1289                 s->channel_order_tab = ff_dca_channel_reorder_nolfe_xch[s->amode];
1290             }
1291         } else {
1292             channels       = num_core_channels + !!s->lfe;
1293             s->xch_present = 0; /* disable further xch processing */
1294             if (s->lfe) {
1295                 avctx->channel_layout |= AV_CH_LOW_FREQUENCY;
1296                 s->channel_order_tab = ff_dca_channel_reorder_lfe[s->amode];
1297             } else
1298                 s->channel_order_tab = ff_dca_channel_reorder_nolfe[s->amode];
1299         }
1300
1301         if (channels > !!s->lfe &&
1302             s->channel_order_tab[channels - 1 - !!s->lfe] < 0)
1303             return AVERROR_INVALIDDATA;
1304
1305         if (num_core_channels + !!s->lfe > 2 &&
1306             avctx->request_channel_layout == AV_CH_LAYOUT_STEREO) {
1307             channels              = 2;
1308             s->output             = s->audio_header.prim_channels == 2 ? s->amode : DCA_STEREO;
1309             avctx->channel_layout = AV_CH_LAYOUT_STEREO;
1310
1311             /* Stereo downmix coefficients
1312              *
1313              * The decoder can only downmix to 2-channel, so we need to ensure
1314              * embedded downmix coefficients are actually targeting 2-channel.
1315              */
1316             if (s->core_downmix && (s->core_downmix_amode == DCA_STEREO ||
1317                                     s->core_downmix_amode == DCA_STEREO_TOTAL)) {
1318                 for (i = 0; i < num_core_channels + !!s->lfe; i++) {
1319                     /* Range checked earlier */
1320                     s->downmix_coef[i][0] = dca_dmix_code(s->core_downmix_codes[i][0]);
1321                     s->downmix_coef[i][1] = dca_dmix_code(s->core_downmix_codes[i][1]);
1322                 }
1323                 s->output = s->core_downmix_amode;
1324             } else {
1325                 int am = s->amode & DCA_CHANNEL_MASK;
1326                 if (am >= FF_ARRAY_ELEMS(ff_dca_default_coeffs)) {
1327                     av_log(s->avctx, AV_LOG_ERROR,
1328                            "Invalid channel mode %d\n", am);
1329                     return AVERROR_INVALIDDATA;
1330                 }
1331                 if (num_core_channels + !!s->lfe >
1332                     FF_ARRAY_ELEMS(ff_dca_default_coeffs[0])) {
1333                     avpriv_request_sample(s->avctx, "Downmixing %d channels",
1334                                           s->audio_header.prim_channels + !!s->lfe);
1335                     return AVERROR_PATCHWELCOME;
1336                 }
1337                 for (i = 0; i < num_core_channels + !!s->lfe; i++) {
1338                     s->downmix_coef[i][0] = ff_dca_default_coeffs[am][i][0];
1339                     s->downmix_coef[i][1] = ff_dca_default_coeffs[am][i][1];
1340                 }
1341             }
1342             ff_dlog(s->avctx, "Stereo downmix coeffs:\n");
1343             for (i = 0; i < num_core_channels + !!s->lfe; i++) {
1344                 ff_dlog(s->avctx, "L, input channel %d = %f\n", i,
1345                         s->downmix_coef[i][0]);
1346                 ff_dlog(s->avctx, "R, input channel %d = %f\n", i,
1347                         s->downmix_coef[i][1]);
1348             }
1349             ff_dlog(s->avctx, "\n");
1350         }
1351     } else {
1352         av_log(avctx, AV_LOG_ERROR, "Non standard configuration %d !\n", s->amode);
1353         return AVERROR_INVALIDDATA;
1354     }
1355
1356     return 0;
1357 }
1358
1359 /**
1360  * Main frame decoding function
1361  * FIXME add arguments
1362  */
1363 static int dca_decode_frame(AVCodecContext *avctx, void *data,
1364                             int *got_frame_ptr, AVPacket *avpkt)
1365 {
1366     AVFrame *frame     = data;
1367     const uint8_t *buf = avpkt->data;
1368     int buf_size       = avpkt->size;
1369
1370     int lfe_samples;
1371     int num_core_channels = 0;
1372     int i, ret;
1373     float  **samples_flt;
1374     DCAContext *s = avctx->priv_data;
1375     int channels, full_channels;
1376     int upsample = 0;
1377
1378     s->exss_ext_mask = 0;
1379     s->xch_present   = 0;
1380
1381     s->dca_buffer_size = ff_dca_convert_bitstream(buf, buf_size, s->dca_buffer,
1382                                                   DCA_MAX_FRAME_SIZE + DCA_MAX_EXSS_HEADER_SIZE);
1383     if (s->dca_buffer_size == AVERROR_INVALIDDATA) {
1384         av_log(avctx, AV_LOG_ERROR, "Not a valid DCA frame\n");
1385         return AVERROR_INVALIDDATA;
1386     }
1387
1388     if ((ret = dca_parse_frame_header(s)) < 0) {
1389         // seems like the frame is corrupt, try with the next one
1390         return ret;
1391     }
1392     // set AVCodec values with parsed data
1393     avctx->sample_rate = s->sample_rate;
1394     avctx->bit_rate    = s->bit_rate;
1395
1396     s->profile = FF_PROFILE_DTS;
1397
1398     for (i = 0; i < (s->sample_blocks / SAMPLES_PER_SUBBAND); i++) {
1399         if ((ret = dca_decode_block(s, 0, i))) {
1400             av_log(avctx, AV_LOG_ERROR, "error decoding block\n");
1401             return ret;
1402         }
1403     }
1404
1405     /* record number of core channels incase less than max channels are requested */
1406     num_core_channels = s->audio_header.prim_channels;
1407
1408     if (s->ext_coding)
1409         s->core_ext_mask = dca_ext_audio_descr_mask[s->ext_descr];
1410     else
1411         s->core_ext_mask = 0;
1412
1413     ret = scan_for_extensions(avctx);
1414
1415     avctx->profile = s->profile;
1416
1417     full_channels = channels = s->audio_header.prim_channels + !!s->lfe;
1418
1419     ret = set_channel_layout(avctx, channels, num_core_channels);
1420     if (ret < 0)
1421         return ret;
1422     avctx->channels = channels;
1423
1424     /* get output buffer */
1425     frame->nb_samples = 256 * (s->sample_blocks / SAMPLES_PER_SUBBAND);
1426     if (s->exss_ext_mask & DCA_EXT_EXSS_XLL) {
1427         int xll_nb_samples = s->xll_segments * s->xll_smpl_in_seg;
1428         /* Check for invalid/unsupported conditions first */
1429         if (s->xll_residual_channels > channels) {
1430             av_log(s->avctx, AV_LOG_WARNING,
1431                    "DCA: too many residual channels (%d, core channels %d). Disabling XLL\n",
1432                    s->xll_residual_channels, channels);
1433             s->exss_ext_mask &= ~DCA_EXT_EXSS_XLL;
1434         } else if (xll_nb_samples != frame->nb_samples &&
1435                    2 * frame->nb_samples != xll_nb_samples) {
1436             av_log(s->avctx, AV_LOG_WARNING,
1437                    "DCA: unsupported upsampling (%d XLL samples, %d core samples). Disabling XLL\n",
1438                    xll_nb_samples, frame->nb_samples);
1439             s->exss_ext_mask &= ~DCA_EXT_EXSS_XLL;
1440         } else {
1441             if (2 * frame->nb_samples == xll_nb_samples) {
1442                 av_log(s->avctx, AV_LOG_INFO,
1443                        "XLL: upsampling core channels by a factor of 2\n");
1444                 upsample = 1;
1445
1446                 frame->nb_samples = xll_nb_samples;
1447                 // FIXME: Is it good enough to copy from the first channel set?
1448                 avctx->sample_rate = s->xll_chsets[0].sampling_frequency;
1449             }
1450             /* If downmixing to stereo, don't decode additional channels.
1451              * FIXME: Using the xch_disable flag for this doesn't seem right. */
1452             if (!s->xch_disable)
1453                 avctx->channels += s->xll_channels - s->xll_residual_channels;
1454         }
1455     }
1456
1457     /* FIXME: This is an ugly hack, to just revert to the default
1458      * layout if we have additional channels. Need to convert the XLL
1459      * channel masks to libav channel_layout mask. */
1460     if (av_get_channel_layout_nb_channels(avctx->channel_layout) != avctx->channels)
1461         avctx->channel_layout = 0;
1462
1463     if ((ret = ff_get_buffer(avctx, frame, 0)) < 0) {
1464         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1465         return ret;
1466     }
1467     samples_flt = (float **) frame->extended_data;
1468
1469     /* allocate buffer for extra channels if downmixing */
1470     if (avctx->channels < full_channels) {
1471         ret = av_samples_get_buffer_size(NULL, full_channels - channels,
1472                                          frame->nb_samples,
1473                                          avctx->sample_fmt, 0);
1474         if (ret < 0)
1475             return ret;
1476
1477         av_fast_malloc(&s->extra_channels_buffer,
1478                        &s->extra_channels_buffer_size, ret);
1479         if (!s->extra_channels_buffer)
1480             return AVERROR(ENOMEM);
1481
1482         ret = av_samples_fill_arrays((uint8_t **) s->extra_channels, NULL,
1483                                      s->extra_channels_buffer,
1484                                      full_channels - channels,
1485                                      frame->nb_samples, avctx->sample_fmt, 0);
1486         if (ret < 0)
1487             return ret;
1488     }
1489
1490     /* filter to get final output */
1491     for (i = 0; i < (s->sample_blocks / SAMPLES_PER_SUBBAND); i++) {
1492         int ch;
1493         unsigned block = upsample ? 512 : 256;
1494         for (ch = 0; ch < channels; ch++)
1495             s->samples_chanptr[ch] = samples_flt[ch] + i * block;
1496         for (; ch < full_channels; ch++)
1497             s->samples_chanptr[ch] = s->extra_channels[ch - channels] + i * block;
1498
1499         dca_filter_channels(s, i, upsample);
1500
1501         /* If this was marked as a DTS-ES stream we need to subtract back- */
1502         /* channel from SL & SR to remove matrixed back-channel signal */
1503         if ((s->source_pcm_res & 1) && s->xch_present) {
1504             float *back_chan = s->samples_chanptr[s->channel_order_tab[s->xch_base_channel]];
1505             float *lt_chan   = s->samples_chanptr[s->channel_order_tab[s->xch_base_channel - 2]];
1506             float *rt_chan   = s->samples_chanptr[s->channel_order_tab[s->xch_base_channel - 1]];
1507             s->fdsp.vector_fmac_scalar(lt_chan, back_chan, -M_SQRT1_2, 256);
1508             s->fdsp.vector_fmac_scalar(rt_chan, back_chan, -M_SQRT1_2, 256);
1509         }
1510     }
1511
1512     /* update lfe history */
1513     lfe_samples = 2 * s->lfe * (s->sample_blocks / SAMPLES_PER_SUBBAND);
1514     for (i = 0; i < 2 * s->lfe * 4; i++)
1515         s->lfe_data[i] = s->lfe_data[i + lfe_samples];
1516
1517     if (s->exss_ext_mask & DCA_EXT_EXSS_XLL) {
1518         ret = ff_dca_xll_decode_audio(s, frame);
1519         if (ret < 0)
1520             return ret;
1521     }
1522     /* AVMatrixEncoding
1523      *
1524      * DCA_STEREO_TOTAL (Lt/Rt) is equivalent to Dolby Surround */
1525     ret = ff_side_data_update_matrix_encoding(frame,
1526                                               (s->output & ~DCA_LFE) == DCA_STEREO_TOTAL ?
1527                                               AV_MATRIX_ENCODING_DOLBY : AV_MATRIX_ENCODING_NONE);
1528     if (ret < 0)
1529         return ret;
1530
1531     *got_frame_ptr = 1;
1532
1533     return buf_size;
1534 }
1535
1536 /**
1537  * DCA initialization
1538  *
1539  * @param avctx     pointer to the AVCodecContext
1540  */
1541
1542 static av_cold int dca_decode_init(AVCodecContext *avctx)
1543 {
1544     DCAContext *s = avctx->priv_data;
1545
1546     s->avctx = avctx;
1547     dca_init_vlcs();
1548
1549     avpriv_float_dsp_init(&s->fdsp, avctx->flags & AV_CODEC_FLAG_BITEXACT);
1550     ff_mdct_init(&s->imdct, 6, 1, 1.0);
1551     ff_synth_filter_init(&s->synth);
1552     ff_dcadsp_init(&s->dcadsp);
1553     ff_fmt_convert_init(&s->fmt_conv, avctx);
1554
1555     avctx->sample_fmt = AV_SAMPLE_FMT_FLTP;
1556
1557     /* allow downmixing to stereo */
1558     if (avctx->channels > 2 &&
1559         avctx->request_channel_layout == AV_CH_LAYOUT_STEREO)
1560         avctx->channels = 2;
1561
1562     return 0;
1563 }
1564
1565 static av_cold int dca_decode_end(AVCodecContext *avctx)
1566 {
1567     DCAContext *s = avctx->priv_data;
1568     ff_mdct_end(&s->imdct);
1569     av_freep(&s->extra_channels_buffer);
1570     av_freep(&s->xll_sample_buf);
1571     av_freep(&s->qmf64_table);
1572     return 0;
1573 }
1574
1575 static const AVOption options[] = {
1576     { "disable_xch", "disable decoding of the XCh extension", offsetof(DCAContext, xch_disable), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_AUDIO_PARAM },
1577     { "disable_xll", "disable decoding of the XLL extension", offsetof(DCAContext, xll_disable), AV_OPT_TYPE_INT, { .i64 = 1 }, 0, 1, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_AUDIO_PARAM },
1578     { NULL },
1579 };
1580
1581 static const AVClass dca_decoder_class = {
1582     .class_name = "DCA decoder",
1583     .item_name  = av_default_item_name,
1584     .option     = options,
1585     .version    = LIBAVUTIL_VERSION_INT,
1586 };
1587
1588 AVCodec ff_dca_decoder = {
1589     .name            = "dca",
1590     .long_name       = NULL_IF_CONFIG_SMALL("DCA (DTS Coherent Acoustics)"),
1591     .type            = AVMEDIA_TYPE_AUDIO,
1592     .id              = AV_CODEC_ID_DTS,
1593     .priv_data_size  = sizeof(DCAContext),
1594     .init            = dca_decode_init,
1595     .decode          = dca_decode_frame,
1596     .close           = dca_decode_end,
1597     .capabilities    = AV_CODEC_CAP_CHANNEL_CONF | AV_CODEC_CAP_DR1,
1598     .sample_fmts     = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_FLTP,
1599                                                        AV_SAMPLE_FMT_NONE },
1600     .profiles        = NULL_IF_CONFIG_SMALL(ff_dca_profiles),
1601     .priv_class      = &dca_decoder_class,
1602 };