2df6178bb0df4fef8ecd627399822b12af468859
[ffmpeg.git] / libavcodec / dcadec.c
1 /*
2  * DCA compatible decoder
3  * Copyright (C) 2004 Gildas Bazin
4  * Copyright (C) 2004 Benjamin Zores
5  * Copyright (C) 2006 Benjamin Larsson
6  * Copyright (C) 2007 Konstantin Shishkov
7  *
8  * This file is part of FFmpeg.
9  *
10  * FFmpeg is free software; you can redistribute it and/or
11  * modify it under the terms of the GNU Lesser General Public
12  * License as published by the Free Software Foundation; either
13  * version 2.1 of the License, or (at your option) any later version.
14  *
15  * FFmpeg is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18  * Lesser General Public License for more details.
19  *
20  * You should have received a copy of the GNU Lesser General Public
21  * License along with FFmpeg; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23  */
24
25 #include <math.h>
26 #include <stddef.h>
27 #include <stdio.h>
28
29 #include "libavutil/channel_layout.h"
30 #include "libavutil/common.h"
31 #include "libavutil/float_dsp.h"
32 #include "libavutil/internal.h"
33 #include "libavutil/intreadwrite.h"
34 #include "libavutil/mathematics.h"
35 #include "libavutil/opt.h"
36 #include "libavutil/samplefmt.h"
37
38 #include "avcodec.h"
39 #include "dca.h"
40 #include "dcadata.h"
41 #include "dcadsp.h"
42 #include "dcahuff.h"
43 #include "dca_exss.h"
44 #include "fft.h"
45 #include "fmtconvert.h"
46 #include "get_bits.h"
47 #include "internal.h"
48 #include "mathops.h"
49 #include "synth_filter.h"
50
51 #if ARCH_ARM
52 #   include "arm/dca.h"
53 #endif
54
55 enum DCAMode {
56     DCA_MONO = 0,
57     DCA_CHANNEL,
58     DCA_STEREO,
59     DCA_STEREO_SUMDIFF,
60     DCA_STEREO_TOTAL,
61     DCA_3F,
62     DCA_2F1R,
63     DCA_3F1R,
64     DCA_2F2R,
65     DCA_3F2R,
66     DCA_4F2R
67 };
68
69
70 enum DCAXxchSpeakerMask {
71     DCA_XXCH_FRONT_CENTER          = 0x0000001,
72     DCA_XXCH_FRONT_LEFT            = 0x0000002,
73     DCA_XXCH_FRONT_RIGHT           = 0x0000004,
74     DCA_XXCH_SIDE_REAR_LEFT        = 0x0000008,
75     DCA_XXCH_SIDE_REAR_RIGHT       = 0x0000010,
76     DCA_XXCH_LFE1                  = 0x0000020,
77     DCA_XXCH_REAR_CENTER           = 0x0000040,
78     DCA_XXCH_SURROUND_REAR_LEFT    = 0x0000080,
79     DCA_XXCH_SURROUND_REAR_RIGHT   = 0x0000100,
80     DCA_XXCH_SIDE_SURROUND_LEFT    = 0x0000200,
81     DCA_XXCH_SIDE_SURROUND_RIGHT   = 0x0000400,
82     DCA_XXCH_FRONT_CENTER_LEFT     = 0x0000800,
83     DCA_XXCH_FRONT_CENTER_RIGHT    = 0x0001000,
84     DCA_XXCH_FRONT_HIGH_LEFT       = 0x0002000,
85     DCA_XXCH_FRONT_HIGH_CENTER     = 0x0004000,
86     DCA_XXCH_FRONT_HIGH_RIGHT      = 0x0008000,
87     DCA_XXCH_LFE2                  = 0x0010000,
88     DCA_XXCH_SIDE_FRONT_LEFT       = 0x0020000,
89     DCA_XXCH_SIDE_FRONT_RIGHT      = 0x0040000,
90     DCA_XXCH_OVERHEAD              = 0x0080000,
91     DCA_XXCH_SIDE_HIGH_LEFT        = 0x0100000,
92     DCA_XXCH_SIDE_HIGH_RIGHT       = 0x0200000,
93     DCA_XXCH_REAR_HIGH_CENTER      = 0x0400000,
94     DCA_XXCH_REAR_HIGH_LEFT        = 0x0800000,
95     DCA_XXCH_REAR_HIGH_RIGHT       = 0x1000000,
96     DCA_XXCH_REAR_LOW_CENTER       = 0x2000000,
97     DCA_XXCH_REAR_LOW_LEFT         = 0x4000000,
98     DCA_XXCH_REAR_LOW_RIGHT        = 0x8000000,
99 };
100
101 static const uint32_t map_xxch_to_native[28] = {
102     AV_CH_FRONT_CENTER,
103     AV_CH_FRONT_LEFT,
104     AV_CH_FRONT_RIGHT,
105     AV_CH_SIDE_LEFT,
106     AV_CH_SIDE_RIGHT,
107     AV_CH_LOW_FREQUENCY,
108     AV_CH_BACK_CENTER,
109     AV_CH_BACK_LEFT,
110     AV_CH_BACK_RIGHT,
111     AV_CH_SIDE_LEFT,           /* side surround left -- dup sur side L */
112     AV_CH_SIDE_RIGHT,          /* side surround right -- dup sur side R */
113     AV_CH_FRONT_LEFT_OF_CENTER,
114     AV_CH_FRONT_RIGHT_OF_CENTER,
115     AV_CH_TOP_FRONT_LEFT,
116     AV_CH_TOP_FRONT_CENTER,
117     AV_CH_TOP_FRONT_RIGHT,
118     AV_CH_LOW_FREQUENCY,        /* lfe2 -- duplicate lfe1 position */
119     AV_CH_FRONT_LEFT_OF_CENTER, /* side front left -- dup front cntr L */
120     AV_CH_FRONT_RIGHT_OF_CENTER,/* side front right -- dup front cntr R */
121     AV_CH_TOP_CENTER,           /* overhead */
122     AV_CH_TOP_FRONT_LEFT,       /* side high left -- dup */
123     AV_CH_TOP_FRONT_RIGHT,      /* side high right -- dup */
124     AV_CH_TOP_BACK_CENTER,
125     AV_CH_TOP_BACK_LEFT,
126     AV_CH_TOP_BACK_RIGHT,
127     AV_CH_BACK_CENTER,          /* rear low center -- dup */
128     AV_CH_BACK_LEFT,            /* rear low left -- dup */
129     AV_CH_BACK_RIGHT            /* read low right -- dup  */
130 };
131
132 /* -1 are reserved or unknown */
133 static const int dca_ext_audio_descr_mask[] = {
134     DCA_EXT_XCH,
135     -1,
136     DCA_EXT_X96,
137     DCA_EXT_XCH | DCA_EXT_X96,
138     -1,
139     -1,
140     DCA_EXT_XXCH,
141     -1,
142 };
143
144 /* Tables for mapping dts channel configurations to libavcodec multichannel api.
145  * Some compromises have been made for special configurations. Most configurations
146  * are never used so complete accuracy is not needed.
147  *
148  * L = left, R = right, C = center, S = surround, F = front, R = rear, T = total, OV = overhead.
149  * S  -> side, when both rear and back are configured move one of them to the side channel
150  * OV -> center back
151  * All 2 channel configurations -> AV_CH_LAYOUT_STEREO
152  */
153 static const uint64_t dca_core_channel_layout[] = {
154     AV_CH_FRONT_CENTER,                                                     ///< 1, A
155     AV_CH_LAYOUT_STEREO,                                                    ///< 2, A + B (dual mono)
156     AV_CH_LAYOUT_STEREO,                                                    ///< 2, L + R (stereo)
157     AV_CH_LAYOUT_STEREO,                                                    ///< 2, (L + R) + (L - R) (sum-difference)
158     AV_CH_LAYOUT_STEREO,                                                    ///< 2, LT + RT (left and right total)
159     AV_CH_LAYOUT_STEREO | AV_CH_FRONT_CENTER,                               ///< 3, C + L + R
160     AV_CH_LAYOUT_STEREO | AV_CH_BACK_CENTER,                                ///< 3, L + R + S
161     AV_CH_LAYOUT_STEREO | AV_CH_FRONT_CENTER | AV_CH_BACK_CENTER,           ///< 4, C + L + R + S
162     AV_CH_LAYOUT_STEREO | AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT,               ///< 4, L + R + SL + SR
163
164     AV_CH_LAYOUT_STEREO | AV_CH_FRONT_CENTER | AV_CH_SIDE_LEFT |
165     AV_CH_SIDE_RIGHT,                                                       ///< 5, C + L + R + SL + SR
166
167     AV_CH_LAYOUT_STEREO | AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT |
168     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_RIGHT_OF_CENTER,               ///< 6, CL + CR + L + R + SL + SR
169
170     AV_CH_LAYOUT_STEREO | AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT |
171     AV_CH_FRONT_CENTER  | AV_CH_BACK_CENTER,                                ///< 6, C + L + R + LR + RR + OV
172
173     AV_CH_FRONT_CENTER | AV_CH_FRONT_RIGHT_OF_CENTER |
174     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_BACK_CENTER   |
175     AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT,                                     ///< 6, CF + CR + LF + RF + LR + RR
176
177     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_CENTER   |
178     AV_CH_FRONT_RIGHT_OF_CENTER | AV_CH_LAYOUT_STEREO |
179     AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT,                                     ///< 7, CL + C + CR + L + R + SL + SR
180
181     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_RIGHT_OF_CENTER |
182     AV_CH_LAYOUT_STEREO | AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT |
183     AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT,                                     ///< 8, CL + CR + L + R + SL1 + SL2 + SR1 + SR2
184
185     AV_CH_FRONT_LEFT_OF_CENTER | AV_CH_FRONT_CENTER   |
186     AV_CH_FRONT_RIGHT_OF_CENTER | AV_CH_LAYOUT_STEREO |
187     AV_CH_SIDE_LEFT | AV_CH_BACK_CENTER | AV_CH_SIDE_RIGHT,                 ///< 8, CL + C + CR + L + R + SL + S + SR
188 };
189
190 #define DCA_DOLBY                  101           /* FIXME */
191
192 #define DCA_CHANNEL_BITS             6
193 #define DCA_CHANNEL_MASK          0x3F
194
195 #define DCA_LFE                   0x80
196
197 #define HEADER_SIZE                 14
198
199 #define DCA_NSYNCAUX        0x9A1105A0
200
201 /** Bit allocation */
202 typedef struct BitAlloc {
203     int offset;                 ///< code values offset
204     int maxbits[8];             ///< max bits in VLC
205     int wrap;                   ///< wrap for get_vlc2()
206     VLC vlc[8];                 ///< actual codes
207 } BitAlloc;
208
209 static BitAlloc dca_bitalloc_index;    ///< indexes for samples VLC select
210 static BitAlloc dca_tmode;             ///< transition mode VLCs
211 static BitAlloc dca_scalefactor;       ///< scalefactor VLCs
212 static BitAlloc dca_smpl_bitalloc[11]; ///< samples VLCs
213
214 static av_always_inline int get_bitalloc(GetBitContext *gb, BitAlloc *ba,
215                                          int idx)
216 {
217     return get_vlc2(gb, ba->vlc[idx].table, ba->vlc[idx].bits, ba->wrap) +
218            ba->offset;
219 }
220
221 static float dca_dmix_code(unsigned code);
222
223 static av_cold void dca_init_vlcs(void)
224 {
225     static int vlcs_initialized = 0;
226     int i, j, c = 14;
227     static VLC_TYPE dca_table[23622][2];
228
229     if (vlcs_initialized)
230         return;
231
232     dca_bitalloc_index.offset = 1;
233     dca_bitalloc_index.wrap   = 2;
234     for (i = 0; i < 5; i++) {
235         dca_bitalloc_index.vlc[i].table           = &dca_table[dca_vlc_offs[i]];
236         dca_bitalloc_index.vlc[i].table_allocated = dca_vlc_offs[i + 1] - dca_vlc_offs[i];
237         init_vlc(&dca_bitalloc_index.vlc[i], bitalloc_12_vlc_bits[i], 12,
238                  bitalloc_12_bits[i], 1, 1,
239                  bitalloc_12_codes[i], 2, 2, INIT_VLC_USE_NEW_STATIC);
240     }
241     dca_scalefactor.offset = -64;
242     dca_scalefactor.wrap   = 2;
243     for (i = 0; i < 5; i++) {
244         dca_scalefactor.vlc[i].table           = &dca_table[dca_vlc_offs[i + 5]];
245         dca_scalefactor.vlc[i].table_allocated = dca_vlc_offs[i + 6] - dca_vlc_offs[i + 5];
246         init_vlc(&dca_scalefactor.vlc[i], SCALES_VLC_BITS, 129,
247                  scales_bits[i], 1, 1,
248                  scales_codes[i], 2, 2, INIT_VLC_USE_NEW_STATIC);
249     }
250     dca_tmode.offset = 0;
251     dca_tmode.wrap   = 1;
252     for (i = 0; i < 4; i++) {
253         dca_tmode.vlc[i].table           = &dca_table[dca_vlc_offs[i + 10]];
254         dca_tmode.vlc[i].table_allocated = dca_vlc_offs[i + 11] - dca_vlc_offs[i + 10];
255         init_vlc(&dca_tmode.vlc[i], tmode_vlc_bits[i], 4,
256                  tmode_bits[i], 1, 1,
257                  tmode_codes[i], 2, 2, INIT_VLC_USE_NEW_STATIC);
258     }
259
260     for (i = 0; i < 10; i++)
261         for (j = 0; j < 7; j++) {
262             if (!bitalloc_codes[i][j])
263                 break;
264             dca_smpl_bitalloc[i + 1].offset                 = bitalloc_offsets[i];
265             dca_smpl_bitalloc[i + 1].wrap                   = 1 + (j > 4);
266             dca_smpl_bitalloc[i + 1].vlc[j].table           = &dca_table[dca_vlc_offs[c]];
267             dca_smpl_bitalloc[i + 1].vlc[j].table_allocated = dca_vlc_offs[c + 1] - dca_vlc_offs[c];
268
269             init_vlc(&dca_smpl_bitalloc[i + 1].vlc[j], bitalloc_maxbits[i][j],
270                      bitalloc_sizes[i],
271                      bitalloc_bits[i][j], 1, 1,
272                      bitalloc_codes[i][j], 2, 2, INIT_VLC_USE_NEW_STATIC);
273             c++;
274         }
275     vlcs_initialized = 1;
276 }
277
278 static inline void get_array(GetBitContext *gb, int *dst, int len, int bits)
279 {
280     while (len--)
281         *dst++ = get_bits(gb, bits);
282 }
283
284 static inline int dca_xxch2index(DCAContext *s, int xxch_ch)
285 {
286     int i, base, mask;
287
288     /* locate channel set containing the channel */
289     for (i = -1, base = 0, mask = (s->xxch_core_spkmask & ~DCA_XXCH_LFE1);
290          i <= s->xxch_chset && !(mask & xxch_ch); mask = s->xxch_spk_masks[++i])
291         base += av_popcount(mask);
292
293     return base + av_popcount(mask & (xxch_ch - 1));
294 }
295
296 static int dca_parse_audio_coding_header(DCAContext *s, int base_channel,
297                                          int xxch)
298 {
299     int i, j;
300     static const float adj_table[4] = { 1.0, 1.1250, 1.2500, 1.4375 };
301     static const int bitlen[11] = { 0, 1, 2, 2, 2, 2, 3, 3, 3, 3, 3 };
302     static const int thr[11]    = { 0, 1, 3, 3, 3, 3, 7, 7, 7, 7, 7 };
303     int hdr_pos = 0, hdr_size = 0;
304     float scale_factor;
305     int this_chans, acc_mask;
306     int embedded_downmix;
307     int nchans, mask[8];
308     int coeff, ichan;
309
310     /* xxch has arbitrary sized audio coding headers */
311     if (xxch) {
312         hdr_pos  = get_bits_count(&s->gb);
313         hdr_size = get_bits(&s->gb, 7) + 1;
314     }
315
316     nchans = get_bits(&s->gb, 3) + 1;
317     s->total_channels = nchans + base_channel;
318     s->prim_channels  = s->total_channels;
319
320     /* obtain speaker layout mask & downmix coefficients for XXCH */
321     if (xxch) {
322         acc_mask = s->xxch_core_spkmask;
323
324         this_chans = get_bits(&s->gb, s->xxch_nbits_spk_mask - 6) << 6;
325         s->xxch_spk_masks[s->xxch_chset] = this_chans;
326         s->xxch_chset_nch[s->xxch_chset] = nchans;
327
328         for (i = 0; i <= s->xxch_chset; i++)
329             acc_mask |= s->xxch_spk_masks[i];
330
331         /* check for downmixing information */
332         if (get_bits1(&s->gb)) {
333             embedded_downmix = get_bits1(&s->gb);
334             coeff            = get_bits(&s->gb, 6);
335
336             if (coeff<1 || coeff>61) {
337                 av_log(s->avctx, AV_LOG_ERROR, "6bit coeff %d is out of range\n", coeff);
338                 return AVERROR_INVALIDDATA;
339             }
340
341             scale_factor     = -1.0f / dca_dmix_code((coeff<<2)-3);
342
343             s->xxch_dmix_sf[s->xxch_chset] = scale_factor;
344
345             for (i = base_channel; i < s->prim_channels; i++) {
346                 mask[i] = get_bits(&s->gb, s->xxch_nbits_spk_mask);
347             }
348
349             for (j = base_channel; j < s->prim_channels; j++) {
350                 memset(s->xxch_dmix_coeff[j], 0, sizeof(s->xxch_dmix_coeff[0]));
351                 s->xxch_dmix_embedded |= (embedded_downmix << j);
352                 for (i = 0; i < s->xxch_nbits_spk_mask; i++) {
353                     if (mask[j] & (1 << i)) {
354                         if ((1 << i) == DCA_XXCH_LFE1) {
355                             av_log(s->avctx, AV_LOG_WARNING,
356                                    "DCA-XXCH: dmix to LFE1 not supported.\n");
357                             continue;
358                         }
359
360                         coeff = get_bits(&s->gb, 7);
361                         ichan = dca_xxch2index(s, 1 << i);
362                         if ((coeff&63)<1 || (coeff&63)>61) {
363                             av_log(s->avctx, AV_LOG_ERROR, "7bit coeff %d is out of range\n", coeff);
364                             return AVERROR_INVALIDDATA;
365                         }
366                         s->xxch_dmix_coeff[j][ichan] = dca_dmix_code((coeff<<2)-3);
367                     }
368                 }
369             }
370         }
371     }
372
373     if (s->prim_channels > DCA_PRIM_CHANNELS_MAX)
374         s->prim_channels = DCA_PRIM_CHANNELS_MAX;
375
376     for (i = base_channel; i < s->prim_channels; i++) {
377         s->subband_activity[i] = get_bits(&s->gb, 5) + 2;
378         if (s->subband_activity[i] > DCA_SUBBANDS)
379             s->subband_activity[i] = DCA_SUBBANDS;
380     }
381     for (i = base_channel; i < s->prim_channels; i++) {
382         s->vq_start_subband[i] = get_bits(&s->gb, 5) + 1;
383         if (s->vq_start_subband[i] > DCA_SUBBANDS)
384             s->vq_start_subband[i] = DCA_SUBBANDS;
385     }
386     get_array(&s->gb, s->joint_intensity + base_channel,     s->prim_channels - base_channel, 3);
387     get_array(&s->gb, s->transient_huffman + base_channel,   s->prim_channels - base_channel, 2);
388     get_array(&s->gb, s->scalefactor_huffman + base_channel, s->prim_channels - base_channel, 3);
389     get_array(&s->gb, s->bitalloc_huffman + base_channel,    s->prim_channels - base_channel, 3);
390
391     /* Get codebooks quantization indexes */
392     if (!base_channel)
393         memset(s->quant_index_huffman, 0, sizeof(s->quant_index_huffman));
394     for (j = 1; j < 11; j++)
395         for (i = base_channel; i < s->prim_channels; i++)
396             s->quant_index_huffman[i][j] = get_bits(&s->gb, bitlen[j]);
397
398     /* Get scale factor adjustment */
399     for (j = 0; j < 11; j++)
400         for (i = base_channel; i < s->prim_channels; i++)
401             s->scalefactor_adj[i][j] = 1;
402
403     for (j = 1; j < 11; j++)
404         for (i = base_channel; i < s->prim_channels; i++)
405             if (s->quant_index_huffman[i][j] < thr[j])
406                 s->scalefactor_adj[i][j] = adj_table[get_bits(&s->gb, 2)];
407
408     if (!xxch) {
409         if (s->crc_present) {
410             /* Audio header CRC check */
411             get_bits(&s->gb, 16);
412         }
413     } else {
414         /* Skip to the end of the header, also ignore CRC if present  */
415         i = get_bits_count(&s->gb);
416         if (hdr_pos + 8 * hdr_size > i)
417             skip_bits_long(&s->gb, hdr_pos + 8 * hdr_size - i);
418     }
419
420     s->current_subframe    = 0;
421     s->current_subsubframe = 0;
422
423     return 0;
424 }
425
426 static int dca_parse_frame_header(DCAContext *s)
427 {
428     init_get_bits(&s->gb, s->dca_buffer, s->dca_buffer_size * 8);
429
430     /* Sync code */
431     skip_bits_long(&s->gb, 32);
432
433     /* Frame header */
434     s->frame_type        = get_bits(&s->gb, 1);
435     s->samples_deficit   = get_bits(&s->gb, 5) + 1;
436     s->crc_present       = get_bits(&s->gb, 1);
437     s->sample_blocks     = get_bits(&s->gb, 7) + 1;
438     s->frame_size        = get_bits(&s->gb, 14) + 1;
439     if (s->frame_size < 95)
440         return AVERROR_INVALIDDATA;
441     s->amode             = get_bits(&s->gb, 6);
442     s->sample_rate       = avpriv_dca_sample_rates[get_bits(&s->gb, 4)];
443     if (!s->sample_rate)
444         return AVERROR_INVALIDDATA;
445     s->bit_rate_index    = get_bits(&s->gb, 5);
446     s->bit_rate          = dca_bit_rates[s->bit_rate_index];
447     if (!s->bit_rate)
448         return AVERROR_INVALIDDATA;
449
450     skip_bits1(&s->gb); // always 0 (reserved, cf. ETSI TS 102 114 V1.4.1)
451     s->dynrange          = get_bits(&s->gb, 1);
452     s->timestamp         = get_bits(&s->gb, 1);
453     s->aux_data          = get_bits(&s->gb, 1);
454     s->hdcd              = get_bits(&s->gb, 1);
455     s->ext_descr         = get_bits(&s->gb, 3);
456     s->ext_coding        = get_bits(&s->gb, 1);
457     s->aspf              = get_bits(&s->gb, 1);
458     s->lfe               = get_bits(&s->gb, 2);
459     s->predictor_history = get_bits(&s->gb, 1);
460
461     if (s->lfe > 2) {
462         s->lfe = 0;
463         av_log(s->avctx, AV_LOG_ERROR, "Invalid LFE value: %d\n", s->lfe);
464         return AVERROR_INVALIDDATA;
465     }
466
467     /* TODO: check CRC */
468     if (s->crc_present)
469         s->header_crc    = get_bits(&s->gb, 16);
470
471     s->multirate_inter   = get_bits(&s->gb, 1);
472     s->version           = get_bits(&s->gb, 4);
473     s->copy_history      = get_bits(&s->gb, 2);
474     s->source_pcm_res    = get_bits(&s->gb, 3);
475     s->front_sum         = get_bits(&s->gb, 1);
476     s->surround_sum      = get_bits(&s->gb, 1);
477     s->dialog_norm       = get_bits(&s->gb, 4);
478
479     /* FIXME: channels mixing levels */
480     s->output = s->amode;
481     if (s->lfe)
482         s->output |= DCA_LFE;
483
484     /* Primary audio coding header */
485     s->subframes = get_bits(&s->gb, 4) + 1;
486
487     return dca_parse_audio_coding_header(s, 0, 0);
488 }
489
490 static inline int get_scale(GetBitContext *gb, int level, int value, int log2range)
491 {
492     if (level < 5) {
493         /* huffman encoded */
494         value += get_bitalloc(gb, &dca_scalefactor, level);
495         value  = av_clip(value, 0, (1 << log2range) - 1);
496     } else if (level < 8) {
497         if (level + 1 > log2range) {
498             skip_bits(gb, level + 1 - log2range);
499             value = get_bits(gb, log2range);
500         } else {
501             value = get_bits(gb, level + 1);
502         }
503     }
504     return value;
505 }
506
507 static int dca_subframe_header(DCAContext *s, int base_channel, int block_index)
508 {
509     /* Primary audio coding side information */
510     int j, k;
511
512     if (get_bits_left(&s->gb) < 0)
513         return AVERROR_INVALIDDATA;
514
515     if (!base_channel) {
516         s->subsubframes[s->current_subframe]    = get_bits(&s->gb, 2) + 1;
517         s->partial_samples[s->current_subframe] = get_bits(&s->gb, 3);
518     }
519
520     for (j = base_channel; j < s->prim_channels; j++) {
521         for (k = 0; k < s->subband_activity[j]; k++)
522             s->prediction_mode[j][k] = get_bits(&s->gb, 1);
523     }
524
525     /* Get prediction codebook */
526     for (j = base_channel; j < s->prim_channels; j++) {
527         for (k = 0; k < s->subband_activity[j]; k++) {
528             if (s->prediction_mode[j][k] > 0) {
529                 /* (Prediction coefficient VQ address) */
530                 s->prediction_vq[j][k] = get_bits(&s->gb, 12);
531             }
532         }
533     }
534
535     /* Bit allocation index */
536     for (j = base_channel; j < s->prim_channels; j++) {
537         for (k = 0; k < s->vq_start_subband[j]; k++) {
538             if (s->bitalloc_huffman[j] == 6)
539                 s->bitalloc[j][k] = get_bits(&s->gb, 5);
540             else if (s->bitalloc_huffman[j] == 5)
541                 s->bitalloc[j][k] = get_bits(&s->gb, 4);
542             else if (s->bitalloc_huffman[j] == 7) {
543                 av_log(s->avctx, AV_LOG_ERROR,
544                        "Invalid bit allocation index\n");
545                 return AVERROR_INVALIDDATA;
546             } else {
547                 s->bitalloc[j][k] =
548                     get_bitalloc(&s->gb, &dca_bitalloc_index, s->bitalloc_huffman[j]);
549             }
550
551             if (s->bitalloc[j][k] > 26) {
552                 av_dlog(s->avctx, "bitalloc index [%i][%i] too big (%i)\n",
553                         j, k, s->bitalloc[j][k]);
554                 return AVERROR_INVALIDDATA;
555             }
556         }
557     }
558
559     /* Transition mode */
560     for (j = base_channel; j < s->prim_channels; j++) {
561         for (k = 0; k < s->subband_activity[j]; k++) {
562             s->transition_mode[j][k] = 0;
563             if (s->subsubframes[s->current_subframe] > 1 &&
564                 k < s->vq_start_subband[j] && s->bitalloc[j][k] > 0) {
565                 s->transition_mode[j][k] =
566                     get_bitalloc(&s->gb, &dca_tmode, s->transient_huffman[j]);
567             }
568         }
569     }
570
571     if (get_bits_left(&s->gb) < 0)
572         return AVERROR_INVALIDDATA;
573
574     for (j = base_channel; j < s->prim_channels; j++) {
575         const uint32_t *scale_table;
576         int scale_sum, log_size;
577
578         memset(s->scale_factor[j], 0,
579                s->subband_activity[j] * sizeof(s->scale_factor[0][0][0]) * 2);
580
581         if (s->scalefactor_huffman[j] == 6) {
582             scale_table = scale_factor_quant7;
583             log_size    = 7;
584         } else {
585             scale_table = scale_factor_quant6;
586             log_size    = 6;
587         }
588
589         /* When huffman coded, only the difference is encoded */
590         scale_sum = 0;
591
592         for (k = 0; k < s->subband_activity[j]; k++) {
593             if (k >= s->vq_start_subband[j] || s->bitalloc[j][k] > 0) {
594                 scale_sum = get_scale(&s->gb, s->scalefactor_huffman[j], scale_sum, log_size);
595                 s->scale_factor[j][k][0] = scale_table[scale_sum];
596             }
597
598             if (k < s->vq_start_subband[j] && s->transition_mode[j][k]) {
599                 /* Get second scale factor */
600                 scale_sum = get_scale(&s->gb, s->scalefactor_huffman[j], scale_sum, log_size);
601                 s->scale_factor[j][k][1] = scale_table[scale_sum];
602             }
603         }
604     }
605
606     /* Joint subband scale factor codebook select */
607     for (j = base_channel; j < s->prim_channels; j++) {
608         /* Transmitted only if joint subband coding enabled */
609         if (s->joint_intensity[j] > 0)
610             s->joint_huff[j] = get_bits(&s->gb, 3);
611     }
612
613     if (get_bits_left(&s->gb) < 0)
614         return AVERROR_INVALIDDATA;
615
616     /* Scale factors for joint subband coding */
617     for (j = base_channel; j < s->prim_channels; j++) {
618         int source_channel;
619
620         /* Transmitted only if joint subband coding enabled */
621         if (s->joint_intensity[j] > 0) {
622             int scale = 0;
623             source_channel = s->joint_intensity[j] - 1;
624
625             /* When huffman coded, only the difference is encoded
626              * (is this valid as well for joint scales ???) */
627
628             for (k = s->subband_activity[j]; k < s->subband_activity[source_channel]; k++) {
629                 scale = get_scale(&s->gb, s->joint_huff[j], 64 /* bias */, 7);
630                 s->joint_scale_factor[j][k] = scale;    /*joint_scale_table[scale]; */
631             }
632
633             if (!(s->debug_flag & 0x02)) {
634                 av_log(s->avctx, AV_LOG_DEBUG,
635                        "Joint stereo coding not supported\n");
636                 s->debug_flag |= 0x02;
637             }
638         }
639     }
640
641     /* Dynamic range coefficient */
642     if (!base_channel && s->dynrange)
643         s->dynrange_coef = get_bits(&s->gb, 8);
644
645     /* Side information CRC check word */
646     if (s->crc_present) {
647         get_bits(&s->gb, 16);
648     }
649
650     /*
651      * Primary audio data arrays
652      */
653
654     /* VQ encoded high frequency subbands */
655     for (j = base_channel; j < s->prim_channels; j++)
656         for (k = s->vq_start_subband[j]; k < s->subband_activity[j]; k++)
657             /* 1 vector -> 32 samples */
658             s->high_freq_vq[j][k] = get_bits(&s->gb, 10);
659
660     /* Low frequency effect data */
661     if (!base_channel && s->lfe) {
662         int quant7;
663         /* LFE samples */
664         int lfe_samples    = 2 * s->lfe * (4 + block_index);
665         int lfe_end_sample = 2 * s->lfe * (4 + block_index + s->subsubframes[s->current_subframe]);
666         float lfe_scale;
667
668         for (j = lfe_samples; j < lfe_end_sample; j++) {
669             /* Signed 8 bits int */
670             s->lfe_data[j] = get_sbits(&s->gb, 8);
671         }
672
673         /* Scale factor index */
674         quant7 = get_bits(&s->gb, 8);
675         if (quant7 > 127) {
676             avpriv_request_sample(s->avctx, "LFEScaleIndex larger than 127");
677             return AVERROR_INVALIDDATA;
678         }
679         s->lfe_scale_factor = scale_factor_quant7[quant7];
680
681         /* Quantization step size * scale factor */
682         lfe_scale = 0.035 * s->lfe_scale_factor;
683
684         for (j = lfe_samples; j < lfe_end_sample; j++)
685             s->lfe_data[j] *= lfe_scale;
686     }
687
688     return 0;
689 }
690
691 static void qmf_32_subbands(DCAContext *s, int chans,
692                             float samples_in[32][8], float *samples_out,
693                             float scale)
694 {
695     const float *prCoeff;
696
697     int sb_act = s->subband_activity[chans];
698
699     scale *= sqrt(1 / 8.0);
700
701     /* Select filter */
702     if (!s->multirate_inter)    /* Non-perfect reconstruction */
703         prCoeff = fir_32bands_nonperfect;
704     else                        /* Perfect reconstruction */
705         prCoeff = fir_32bands_perfect;
706
707     s->dcadsp.qmf_32_subbands(samples_in, sb_act, &s->synth, &s->imdct,
708                               s->subband_fir_hist[chans],
709                               &s->hist_index[chans],
710                               s->subband_fir_noidea[chans], prCoeff,
711                               samples_out, s->raXin, scale);
712 }
713
714 static void lfe_interpolation_fir(DCAContext *s, int decimation_select,
715                                   int num_deci_sample, float *samples_in,
716                                   float *samples_out)
717 {
718     /* samples_in: An array holding decimated samples.
719      *   Samples in current subframe starts from samples_in[0],
720      *   while samples_in[-1], samples_in[-2], ..., stores samples
721      *   from last subframe as history.
722      *
723      * samples_out: An array holding interpolated samples
724      */
725
726     int idx;
727     const float *prCoeff;
728     int deciindex;
729
730     /* Select decimation filter */
731     if (decimation_select == 1) {
732         idx     = 1;
733         prCoeff = lfe_fir_128;
734     } else {
735         idx     = 0;
736         prCoeff = lfe_fir_64;
737     }
738     /* Interpolation */
739     for (deciindex = 0; deciindex < num_deci_sample; deciindex++) {
740         s->dcadsp.lfe_fir[idx](samples_out, samples_in, prCoeff);
741         samples_in++;
742         samples_out += 2 * 32 * (1 + idx);
743     }
744 }
745
746 /* downmixing routines */
747 #define MIX_REAR1(samples, s1, rs, coef)            \
748     samples[0][i] += samples[s1][i] * coef[rs][0];  \
749     samples[1][i] += samples[s1][i] * coef[rs][1];
750
751 #define MIX_REAR2(samples, s1, s2, rs, coef)                                          \
752     samples[0][i] += samples[s1][i] * coef[rs][0] + samples[s2][i] * coef[rs + 1][0]; \
753     samples[1][i] += samples[s1][i] * coef[rs][1] + samples[s2][i] * coef[rs + 1][1];
754
755 #define MIX_FRONT3(samples, coef)                                      \
756     t = samples[c][i];                                                 \
757     u = samples[l][i];                                                 \
758     v = samples[r][i];                                                 \
759     samples[0][i] = t * coef[0][0] + u * coef[1][0] + v * coef[2][0];  \
760     samples[1][i] = t * coef[0][1] + u * coef[1][1] + v * coef[2][1];
761
762 #define DOWNMIX_TO_STEREO(op1, op2)             \
763     for (i = 0; i < 256; i++) {                 \
764         op1                                     \
765         op2                                     \
766     }
767
768 static void dca_downmix(float **samples, int srcfmt, int lfe_present,
769                         float coef[DCA_PRIM_CHANNELS_MAX + 1][2],
770                         const int8_t *channel_mapping)
771 {
772     int c, l, r, sl, sr, s;
773     int i;
774     float t, u, v;
775
776     switch (srcfmt) {
777     case DCA_MONO:
778     case DCA_4F2R:
779         av_log(NULL, AV_LOG_ERROR, "Not implemented!\n");
780         break;
781     case DCA_CHANNEL:
782     case DCA_STEREO:
783     case DCA_STEREO_TOTAL:
784     case DCA_STEREO_SUMDIFF:
785         break;
786     case DCA_3F:
787         c = channel_mapping[0];
788         l = channel_mapping[1];
789         r = channel_mapping[2];
790         DOWNMIX_TO_STEREO(MIX_FRONT3(samples, coef), );
791         break;
792     case DCA_2F1R:
793         s = channel_mapping[2];
794         DOWNMIX_TO_STEREO(MIX_REAR1(samples, s, 2, coef), );
795         break;
796     case DCA_3F1R:
797         c = channel_mapping[0];
798         l = channel_mapping[1];
799         r = channel_mapping[2];
800         s = channel_mapping[3];
801         DOWNMIX_TO_STEREO(MIX_FRONT3(samples, coef),
802                           MIX_REAR1(samples, s, 3, coef));
803         break;
804     case DCA_2F2R:
805         sl = channel_mapping[2];
806         sr = channel_mapping[3];
807         DOWNMIX_TO_STEREO(MIX_REAR2(samples, sl, sr, 2, coef), );
808         break;
809     case DCA_3F2R:
810         c  = channel_mapping[0];
811         l  = channel_mapping[1];
812         r  = channel_mapping[2];
813         sl = channel_mapping[3];
814         sr = channel_mapping[4];
815         DOWNMIX_TO_STEREO(MIX_FRONT3(samples, coef),
816                           MIX_REAR2(samples, sl, sr, 3, coef));
817         break;
818     }
819     if (lfe_present) {
820         int lf_buf = dca_lfe_index[srcfmt];
821         int lf_idx =  dca_channels[srcfmt];
822         for (i = 0; i < 256; i++) {
823             samples[0][i] += samples[lf_buf][i] * coef[lf_idx][0];
824             samples[1][i] += samples[lf_buf][i] * coef[lf_idx][1];
825         }
826     }
827 }
828
829 #ifndef decode_blockcodes
830 /* Very compact version of the block code decoder that does not use table
831  * look-up but is slightly slower */
832 static int decode_blockcode(int code, int levels, int32_t *values)
833 {
834     int i;
835     int offset = (levels - 1) >> 1;
836
837     for (i = 0; i < 4; i++) {
838         int div = FASTDIV(code, levels);
839         values[i] = code - offset - div * levels;
840         code      = div;
841     }
842
843     return code;
844 }
845
846 static int decode_blockcodes(int code1, int code2, int levels, int32_t *values)
847 {
848     return decode_blockcode(code1, levels, values) |
849            decode_blockcode(code2, levels, values + 4);
850 }
851 #endif
852
853 static const uint8_t abits_sizes[7]  = { 7, 10, 12, 13, 15, 17, 19 };
854 static const uint8_t abits_levels[7] = { 3,  5,  7,  9, 13, 17, 25 };
855
856 static int dca_subsubframe(DCAContext *s, int base_channel, int block_index)
857 {
858     int k, l;
859     int subsubframe = s->current_subsubframe;
860
861     const float *quant_step_table;
862
863     /* FIXME */
864     float (*subband_samples)[DCA_SUBBANDS][8] = s->subband_samples[block_index];
865     LOCAL_ALIGNED_16(int32_t, block, [8 * DCA_SUBBANDS]);
866
867     /*
868      * Audio data
869      */
870
871     /* Select quantization step size table */
872     if (s->bit_rate_index == 0x1f)
873         quant_step_table = lossless_quant_d;
874     else
875         quant_step_table = lossy_quant_d;
876
877     for (k = base_channel; k < s->prim_channels; k++) {
878         float rscale[DCA_SUBBANDS];
879
880         if (get_bits_left(&s->gb) < 0)
881             return AVERROR_INVALIDDATA;
882
883         for (l = 0; l < s->vq_start_subband[k]; l++) {
884             int m;
885
886             /* Select the mid-tread linear quantizer */
887             int abits = s->bitalloc[k][l];
888
889             float quant_step_size = quant_step_table[abits];
890
891             /*
892              * Determine quantization index code book and its type
893              */
894
895             /* Select quantization index code book */
896             int sel = s->quant_index_huffman[k][abits];
897
898             /*
899              * Extract bits from the bit stream
900              */
901             if (!abits) {
902                 rscale[l] = 0;
903                 memset(block + 8 * l, 0, 8 * sizeof(block[0]));
904             } else {
905                 /* Deal with transients */
906                 int sfi = s->transition_mode[k][l] && subsubframe >= s->transition_mode[k][l];
907                 rscale[l] = quant_step_size * s->scale_factor[k][l][sfi] *
908                             s->scalefactor_adj[k][sel];
909
910                 if (abits >= 11 || !dca_smpl_bitalloc[abits].vlc[sel].table) {
911                     if (abits <= 7) {
912                         /* Block code */
913                         int block_code1, block_code2, size, levels, err;
914
915                         size   = abits_sizes[abits - 1];
916                         levels = abits_levels[abits - 1];
917
918                         block_code1 = get_bits(&s->gb, size);
919                         block_code2 = get_bits(&s->gb, size);
920                         err         = decode_blockcodes(block_code1, block_code2,
921                                                         levels, block + 8 * l);
922                         if (err) {
923                             av_log(s->avctx, AV_LOG_ERROR,
924                                    "ERROR: block code look-up failed\n");
925                             return AVERROR_INVALIDDATA;
926                         }
927                     } else {
928                         /* no coding */
929                         for (m = 0; m < 8; m++)
930                             block[8 * l + m] = get_sbits(&s->gb, abits - 3);
931                     }
932                 } else {
933                     /* Huffman coded */
934                     for (m = 0; m < 8; m++)
935                         block[8 * l + m] = get_bitalloc(&s->gb,
936                                                         &dca_smpl_bitalloc[abits], sel);
937                 }
938             }
939         }
940
941         s->fmt_conv.int32_to_float_fmul_array8(&s->fmt_conv, subband_samples[k][0],
942                                                block, rscale, 8 * s->vq_start_subband[k]);
943
944         for (l = 0; l < s->vq_start_subband[k]; l++) {
945             int m;
946             /*
947              * Inverse ADPCM if in prediction mode
948              */
949             if (s->prediction_mode[k][l]) {
950                 int n;
951                 if (s->predictor_history)
952                     subband_samples[k][l][0] += (adpcm_vb[s->prediction_vq[k][l]][0] *
953                                                  s->subband_samples_hist[k][l][3] +
954                                                  adpcm_vb[s->prediction_vq[k][l]][1] *
955                                                  s->subband_samples_hist[k][l][2] +
956                                                  adpcm_vb[s->prediction_vq[k][l]][2] *
957                                                  s->subband_samples_hist[k][l][1] +
958                                                  adpcm_vb[s->prediction_vq[k][l]][3] *
959                                                  s->subband_samples_hist[k][l][0]) *
960                                                 (1.0f / 8192);
961                 for (m = 1; m < 8; m++) {
962                     float sum = adpcm_vb[s->prediction_vq[k][l]][0] *
963                                 subband_samples[k][l][m - 1];
964                     for (n = 2; n <= 4; n++)
965                         if (m >= n)
966                             sum += adpcm_vb[s->prediction_vq[k][l]][n - 1] *
967                                    subband_samples[k][l][m - n];
968                         else if (s->predictor_history)
969                             sum += adpcm_vb[s->prediction_vq[k][l]][n - 1] *
970                                    s->subband_samples_hist[k][l][m - n + 4];
971                     subband_samples[k][l][m] += sum * (1.0f / 8192);
972                 }
973             }
974         }
975
976         /*
977          * Decode VQ encoded high frequencies
978          */
979         if (s->subband_activity[k] > s->vq_start_subband[k]) {
980             if (!(s->debug_flag & 0x01)) {
981                 av_log(s->avctx, AV_LOG_DEBUG,
982                        "Stream with high frequencies VQ coding\n");
983                 s->debug_flag |= 0x01;
984             }
985             s->dcadsp.decode_hf(subband_samples[k], s->high_freq_vq[k],
986                                 high_freq_vq, subsubframe * 8,
987                                 s->scale_factor[k], s->vq_start_subband[k],
988                                 s->subband_activity[k]);
989         }
990     }
991
992     /* Check for DSYNC after subsubframe */
993     if (s->aspf || subsubframe == s->subsubframes[s->current_subframe] - 1) {
994         if (get_bits(&s->gb, 16) != 0xFFFF) {
995             av_log(s->avctx, AV_LOG_ERROR, "Didn't get subframe DSYNC\n");
996             return AVERROR_INVALIDDATA;
997         }
998     }
999
1000     /* Backup predictor history for adpcm */
1001     for (k = base_channel; k < s->prim_channels; k++)
1002         for (l = 0; l < s->vq_start_subband[k]; l++)
1003             AV_COPY128(s->subband_samples_hist[k][l], &subband_samples[k][l][4]);
1004
1005     return 0;
1006 }
1007
1008 static int dca_filter_channels(DCAContext *s, int block_index)
1009 {
1010     float (*subband_samples)[DCA_SUBBANDS][8] = s->subband_samples[block_index];
1011     int k;
1012
1013     /* 32 subbands QMF */
1014     for (k = 0; k < s->prim_channels; k++) {
1015         if (s->channel_order_tab[k] >= 0)
1016             qmf_32_subbands(s, k, subband_samples[k],
1017                             s->samples_chanptr[s->channel_order_tab[k]],
1018                             M_SQRT1_2 / 32768.0);
1019     }
1020
1021     /* Generate LFE samples for this subsubframe FIXME!!! */
1022     if (s->lfe) {
1023         lfe_interpolation_fir(s, s->lfe, 2 * s->lfe,
1024                               s->lfe_data + 2 * s->lfe * (block_index + 4),
1025                               s->samples_chanptr[s->lfe_index]);
1026         /* Outputs 20bits pcm samples */
1027     }
1028
1029     /* Downmixing to Stereo */
1030     if (s->prim_channels + !!s->lfe > 2 &&
1031         s->avctx->request_channel_layout == AV_CH_LAYOUT_STEREO) {
1032         dca_downmix(s->samples_chanptr, s->amode, !!s->lfe, s->downmix_coef,
1033                     s->channel_order_tab);
1034     }
1035
1036     return 0;
1037 }
1038
1039 static int dca_subframe_footer(DCAContext *s, int base_channel)
1040 {
1041     int in, out, aux_data_count, aux_data_end, reserved;
1042     uint32_t nsyncaux;
1043
1044     /*
1045      * Unpack optional information
1046      */
1047
1048     /* presumably optional information only appears in the core? */
1049     if (!base_channel) {
1050         if (s->timestamp)
1051             skip_bits_long(&s->gb, 32);
1052
1053         if (s->aux_data) {
1054             aux_data_count = get_bits(&s->gb, 6);
1055
1056             // align (32-bit)
1057             skip_bits_long(&s->gb, (-get_bits_count(&s->gb)) & 31);
1058
1059             aux_data_end = 8 * aux_data_count + get_bits_count(&s->gb);
1060
1061             if ((nsyncaux = get_bits_long(&s->gb, 32)) != DCA_NSYNCAUX) {
1062                 av_log(s->avctx, AV_LOG_ERROR, "nSYNCAUX mismatch %#"PRIx32"\n",
1063                        nsyncaux);
1064                 return AVERROR_INVALIDDATA;
1065             }
1066
1067             if (get_bits1(&s->gb)) { // bAUXTimeStampFlag
1068                 avpriv_request_sample(s->avctx,
1069                                       "Auxiliary Decode Time Stamp Flag");
1070                 // align (4-bit)
1071                 skip_bits(&s->gb, (-get_bits_count(&s->gb)) & 4);
1072                 // 44 bits: nMSByte (8), nMarker (4), nLSByte (28), nMarker (4)
1073                 skip_bits_long(&s->gb, 44);
1074             }
1075
1076             if ((s->core_downmix = get_bits1(&s->gb))) {
1077                 int am = get_bits(&s->gb, 3);
1078                 switch (am) {
1079                 case 0:
1080                     s->core_downmix_amode = DCA_MONO;
1081                     break;
1082                 case 1:
1083                     s->core_downmix_amode = DCA_STEREO;
1084                     break;
1085                 case 2:
1086                     s->core_downmix_amode = DCA_STEREO_TOTAL;
1087                     break;
1088                 case 3:
1089                     s->core_downmix_amode = DCA_3F;
1090                     break;
1091                 case 4:
1092                     s->core_downmix_amode = DCA_2F1R;
1093                     break;
1094                 case 5:
1095                     s->core_downmix_amode = DCA_2F2R;
1096                     break;
1097                 case 6:
1098                     s->core_downmix_amode = DCA_3F1R;
1099                     break;
1100                 default:
1101                     av_log(s->avctx, AV_LOG_ERROR,
1102                            "Invalid mode %d for embedded downmix coefficients\n",
1103                            am);
1104                     return AVERROR_INVALIDDATA;
1105                 }
1106                 for (out = 0; out < dca_channels[s->core_downmix_amode]; out++) {
1107                     for (in = 0; in < s->prim_channels + !!s->lfe; in++) {
1108                         uint16_t tmp = get_bits(&s->gb, 9);
1109                         if ((tmp & 0xFF) > 241) {
1110                             av_log(s->avctx, AV_LOG_ERROR,
1111                                    "Invalid downmix coefficient code %"PRIu16"\n",
1112                                    tmp);
1113                             return AVERROR_INVALIDDATA;
1114                         }
1115                         s->core_downmix_codes[in][out] = tmp;
1116                     }
1117                 }
1118             }
1119
1120             align_get_bits(&s->gb); // byte align
1121             skip_bits(&s->gb, 16);  // nAUXCRC16
1122
1123             // additional data (reserved, cf. ETSI TS 102 114 V1.4.1)
1124             if ((reserved = (aux_data_end - get_bits_count(&s->gb))) < 0) {
1125                 av_log(s->avctx, AV_LOG_ERROR,
1126                        "Overread auxiliary data by %d bits\n", -reserved);
1127                 return AVERROR_INVALIDDATA;
1128             } else if (reserved) {
1129                 avpriv_request_sample(s->avctx,
1130                                       "Core auxiliary data reserved content");
1131                 skip_bits_long(&s->gb, reserved);
1132             }
1133         }
1134
1135         if (s->crc_present && s->dynrange)
1136             get_bits(&s->gb, 16);
1137     }
1138
1139     return 0;
1140 }
1141
1142 /**
1143  * Decode a dca frame block
1144  *
1145  * @param s     pointer to the DCAContext
1146  */
1147
1148 static int dca_decode_block(DCAContext *s, int base_channel, int block_index)
1149 {
1150     int ret;
1151
1152     /* Sanity check */
1153     if (s->current_subframe >= s->subframes) {
1154         av_log(s->avctx, AV_LOG_DEBUG, "check failed: %i>%i",
1155                s->current_subframe, s->subframes);
1156         return AVERROR_INVALIDDATA;
1157     }
1158
1159     if (!s->current_subsubframe) {
1160         /* Read subframe header */
1161         if ((ret = dca_subframe_header(s, base_channel, block_index)))
1162             return ret;
1163     }
1164
1165     /* Read subsubframe */
1166     if ((ret = dca_subsubframe(s, base_channel, block_index)))
1167         return ret;
1168
1169     /* Update state */
1170     s->current_subsubframe++;
1171     if (s->current_subsubframe >= s->subsubframes[s->current_subframe]) {
1172         s->current_subsubframe = 0;
1173         s->current_subframe++;
1174     }
1175     if (s->current_subframe >= s->subframes) {
1176         /* Read subframe footer */
1177         if ((ret = dca_subframe_footer(s, base_channel)))
1178             return ret;
1179     }
1180
1181     return 0;
1182 }
1183
1184 int ff_dca_xbr_parse_frame(DCAContext *s)
1185 {
1186     int scale_table_high[DCA_CHSET_CHANS_MAX][DCA_SUBBANDS][2];
1187     int active_bands[DCA_CHSETS_MAX][DCA_CHSET_CHANS_MAX];
1188     int abits_high[DCA_CHSET_CHANS_MAX][DCA_SUBBANDS];
1189     int anctemp[DCA_CHSET_CHANS_MAX];
1190     int chset_fsize[DCA_CHSETS_MAX];
1191     int n_xbr_ch[DCA_CHSETS_MAX];
1192     int hdr_size, num_chsets, xbr_tmode, hdr_pos;
1193     int i, j, k, l, chset, chan_base;
1194
1195     av_log(s->avctx, AV_LOG_DEBUG, "DTS-XBR: decoding XBR extension\n");
1196
1197     /* get bit position of sync header */
1198     hdr_pos = get_bits_count(&s->gb) - 32;
1199
1200     hdr_size = get_bits(&s->gb, 6) + 1;
1201     num_chsets = get_bits(&s->gb, 2) + 1;
1202
1203     for(i = 0; i < num_chsets; i++)
1204         chset_fsize[i] = get_bits(&s->gb, 14) + 1;
1205
1206     xbr_tmode = get_bits1(&s->gb);
1207
1208     for(i = 0; i < num_chsets; i++) {
1209         n_xbr_ch[i] = get_bits(&s->gb, 3) + 1;
1210         k = get_bits(&s->gb, 2) + 5;
1211         for(j = 0; j < n_xbr_ch[i]; j++)
1212             active_bands[i][j] = get_bits(&s->gb, k) + 1;
1213     }
1214
1215     /* skip to the end of the header */
1216     i = get_bits_count(&s->gb);
1217     if(hdr_pos + hdr_size * 8 > i)
1218         skip_bits_long(&s->gb, hdr_pos + hdr_size * 8 - i);
1219
1220     /* loop over the channel data sets */
1221     /* only decode as many channels as we've decoded base data for */
1222     for(chset = 0, chan_base = 0;
1223         chset < num_chsets && chan_base + n_xbr_ch[chset] <= s->prim_channels;
1224         chan_base += n_xbr_ch[chset++]) {
1225         int start_posn = get_bits_count(&s->gb);
1226         int subsubframe = 0;
1227         int subframe = 0;
1228
1229         /* loop over subframes */
1230         for (k = 0; k < (s->sample_blocks / 8); k++) {
1231             /* parse header if we're on first subsubframe of a block */
1232             if(subsubframe == 0) {
1233                 /* Parse subframe header */
1234                 for(i = 0; i < n_xbr_ch[chset]; i++) {
1235                     anctemp[i] = get_bits(&s->gb, 2) + 2;
1236                 }
1237
1238                 for(i = 0; i < n_xbr_ch[chset]; i++) {
1239                     get_array(&s->gb, abits_high[i], active_bands[chset][i], anctemp[i]);
1240                 }
1241
1242                 for(i = 0; i < n_xbr_ch[chset]; i++) {
1243                     anctemp[i] = get_bits(&s->gb, 3);
1244                     if(anctemp[i] < 1) {
1245                         av_log(s->avctx, AV_LOG_ERROR, "DTS-XBR: SYNC ERROR\n");
1246                         return AVERROR_INVALIDDATA;
1247                     }
1248                 }
1249
1250                 /* generate scale factors */
1251                 for(i = 0; i < n_xbr_ch[chset]; i++) {
1252                     const uint32_t *scale_table;
1253                     int nbits;
1254
1255                     if (s->scalefactor_huffman[chan_base+i] == 6) {
1256                         scale_table = scale_factor_quant7;
1257                     } else {
1258                         scale_table = scale_factor_quant6;
1259                     }
1260
1261                     nbits = anctemp[i];
1262
1263                     for(j = 0; j < active_bands[chset][i]; j++) {
1264                         if(abits_high[i][j] > 0) {
1265                             scale_table_high[i][j][0] =
1266                                 scale_table[get_bits(&s->gb, nbits)];
1267
1268                             if(xbr_tmode && s->transition_mode[i][j]) {
1269                                 scale_table_high[i][j][1] =
1270                                     scale_table[get_bits(&s->gb, nbits)];
1271                             }
1272                         }
1273                     }
1274                 }
1275             }
1276
1277             /* decode audio array for this block */
1278             for(i = 0; i < n_xbr_ch[chset]; i++) {
1279                 for(j = 0; j < active_bands[chset][i]; j++) {
1280                     const int xbr_abits = abits_high[i][j];
1281                     const float quant_step_size = lossless_quant_d[xbr_abits];
1282                     const int sfi = xbr_tmode && s->transition_mode[i][j] && subsubframe >= s->transition_mode[i][j];
1283                     const float rscale = quant_step_size * scale_table_high[i][j][sfi];
1284                     float *subband_samples = s->subband_samples[k][chan_base+i][j];
1285                     int block[8];
1286
1287                     if(xbr_abits <= 0)
1288                         continue;
1289
1290                     if(xbr_abits > 7) {
1291                         get_array(&s->gb, block, 8, xbr_abits - 3);
1292                     } else {
1293                         int block_code1, block_code2, size, levels, err;
1294
1295                         size   = abits_sizes[xbr_abits - 1];
1296                         levels = abits_levels[xbr_abits - 1];
1297
1298                         block_code1 = get_bits(&s->gb, size);
1299                         block_code2 = get_bits(&s->gb, size);
1300                         err = decode_blockcodes(block_code1, block_code2,
1301                                                 levels, block);
1302                         if (err) {
1303                             av_log(s->avctx, AV_LOG_ERROR,
1304                                    "ERROR: DTS-XBR: block code look-up failed\n");
1305                             return AVERROR_INVALIDDATA;
1306                         }
1307                     }
1308
1309                     /* scale & sum into subband */
1310                     for(l = 0; l < 8; l++)
1311                         subband_samples[l] += (float)block[l] * rscale;
1312                 }
1313             }
1314
1315             /* check DSYNC marker */
1316             if(s->aspf || subsubframe == s->subsubframes[subframe] - 1) {
1317                 if(get_bits(&s->gb, 16) != 0xffff) {
1318                     av_log(s->avctx, AV_LOG_ERROR, "DTS-XBR: Didn't get subframe DSYNC\n");
1319                     return AVERROR_INVALIDDATA;
1320                 }
1321             }
1322
1323             /* advance sub-sub-frame index */
1324             if(++subsubframe >= s->subsubframes[subframe]) {
1325                 subsubframe = 0;
1326                 subframe++;
1327             }
1328         }
1329
1330         /* skip to next channel set */
1331         i = get_bits_count(&s->gb);
1332         if(start_posn + chset_fsize[chset] * 8 != i) {
1333             j = start_posn + chset_fsize[chset] * 8 - i;
1334             if(j < 0 || j >= 8)
1335                 av_log(s->avctx, AV_LOG_ERROR, "DTS-XBR: end of channel set,"
1336                        " skipping further than expected (%d bits)\n", j);
1337             skip_bits_long(&s->gb, j);
1338         }
1339     }
1340
1341     return 0;
1342 }
1343
1344
1345 /* parse initial header for XXCH and dump details */
1346 int ff_dca_xxch_decode_frame(DCAContext *s)
1347 {
1348     int hdr_size, spkmsk_bits, num_chsets, core_spk, hdr_pos;
1349     int i, chset, base_channel, chstart, fsize[8];
1350
1351     /* assume header word has already been parsed */
1352     hdr_pos     = get_bits_count(&s->gb) - 32;
1353     hdr_size    = get_bits(&s->gb, 6) + 1;
1354   /*chhdr_crc   =*/ skip_bits1(&s->gb);
1355     spkmsk_bits = get_bits(&s->gb, 5) + 1;
1356     num_chsets  = get_bits(&s->gb, 2) + 1;
1357
1358     for (i = 0; i < num_chsets; i++)
1359         fsize[i] = get_bits(&s->gb, 14) + 1;
1360
1361     core_spk               = get_bits(&s->gb, spkmsk_bits);
1362     s->xxch_core_spkmask   = core_spk;
1363     s->xxch_nbits_spk_mask = spkmsk_bits;
1364     s->xxch_dmix_embedded  = 0;
1365
1366     /* skip to the end of the header */
1367     i = get_bits_count(&s->gb);
1368     if (hdr_pos + hdr_size * 8 > i)
1369         skip_bits_long(&s->gb, hdr_pos + hdr_size * 8 - i);
1370
1371     for (chset = 0; chset < num_chsets; chset++) {
1372         chstart       = get_bits_count(&s->gb);
1373         base_channel  = s->prim_channels;
1374         s->xxch_chset = chset;
1375
1376         /* XXCH and Core headers differ, see 6.4.2 "XXCH Channel Set Header" vs.
1377            5.3.2 "Primary Audio Coding Header", DTS Spec 1.3.1 */
1378         dca_parse_audio_coding_header(s, base_channel, 1);
1379
1380         /* decode channel data */
1381         for (i = 0; i < (s->sample_blocks / 8); i++) {
1382             if (dca_decode_block(s, base_channel, i)) {
1383                 av_log(s->avctx, AV_LOG_ERROR,
1384                        "Error decoding DTS-XXCH extension\n");
1385                 continue;
1386             }
1387         }
1388
1389         /* skip to end of this section */
1390         i = get_bits_count(&s->gb);
1391         if (chstart + fsize[chset] * 8 > i)
1392             skip_bits_long(&s->gb, chstart + fsize[chset] * 8 - i);
1393     }
1394     s->xxch_chset = num_chsets;
1395
1396     return 0;
1397 }
1398
1399 static float dca_dmix_code(unsigned code)
1400 {
1401     int sign = (code >> 8) - 1;
1402     code &= 0xff;
1403     return ((dca_dmixtable[code] ^ sign) - sign) * (1.0 / (1 << 15));
1404 }
1405
1406 /**
1407  * Main frame decoding function
1408  * FIXME add arguments
1409  */
1410 static int dca_decode_frame(AVCodecContext *avctx, void *data,
1411                             int *got_frame_ptr, AVPacket *avpkt)
1412 {
1413     AVFrame *frame     = data;
1414     const uint8_t *buf = avpkt->data;
1415     int buf_size       = avpkt->size;
1416     int channel_mask;
1417     int channel_layout;
1418     int lfe_samples;
1419     int num_core_channels = 0;
1420     int i, ret;
1421     float **samples_flt;
1422     float *src_chan;
1423     float *dst_chan;
1424     DCAContext *s = avctx->priv_data;
1425     int core_ss_end;
1426     int channels, full_channels;
1427     float scale;
1428     int achan;
1429     int chset;
1430     int mask;
1431     int lavc;
1432     int posn;
1433     int j, k;
1434     int endch;
1435
1436     s->xch_present = 0;
1437
1438     s->dca_buffer_size = avpriv_dca_convert_bitstream(buf, buf_size, s->dca_buffer,
1439                                                   DCA_MAX_FRAME_SIZE + DCA_MAX_EXSS_HEADER_SIZE);
1440     if (s->dca_buffer_size == AVERROR_INVALIDDATA) {
1441         av_log(avctx, AV_LOG_ERROR, "Not a valid DCA frame\n");
1442         return AVERROR_INVALIDDATA;
1443     }
1444
1445     if ((ret = dca_parse_frame_header(s)) < 0) {
1446         // seems like the frame is corrupt, try with the next one
1447         return ret;
1448     }
1449     // set AVCodec values with parsed data
1450     avctx->sample_rate = s->sample_rate;
1451     avctx->bit_rate    = s->bit_rate;
1452
1453     s->profile = FF_PROFILE_DTS;
1454
1455     for (i = 0; i < (s->sample_blocks / 8); i++) {
1456         if ((ret = dca_decode_block(s, 0, i))) {
1457             av_log(avctx, AV_LOG_ERROR, "error decoding block\n");
1458             return ret;
1459         }
1460     }
1461
1462     /* record number of core channels incase less than max channels are requested */
1463     num_core_channels = s->prim_channels;
1464
1465     if (s->prim_channels + !!s->lfe > 2 &&
1466         avctx->request_channel_layout == AV_CH_LAYOUT_STEREO) {
1467             /* Stereo downmix coefficients
1468              *
1469              * The decoder can only downmix to 2-channel, so we need to ensure
1470              * embedded downmix coefficients are actually targeting 2-channel.
1471              */
1472             if (s->core_downmix && (s->core_downmix_amode == DCA_STEREO ||
1473                                     s->core_downmix_amode == DCA_STEREO_TOTAL)) {
1474                 for (i = 0; i < num_core_channels + !!s->lfe; i++) {
1475                     /* Range checked earlier */
1476                     s->downmix_coef[i][0] = dca_dmix_code(s->core_downmix_codes[i][0]);
1477                     s->downmix_coef[i][1] = dca_dmix_code(s->core_downmix_codes[i][1]);
1478                 }
1479                 s->output = s->core_downmix_amode;
1480             } else {
1481                 int am = s->amode & DCA_CHANNEL_MASK;
1482                 if (am >= FF_ARRAY_ELEMS(dca_default_coeffs)) {
1483                     av_log(s->avctx, AV_LOG_ERROR,
1484                            "Invalid channel mode %d\n", am);
1485                     return AVERROR_INVALIDDATA;
1486                 }
1487                 if (num_core_channels + !!s->lfe >
1488                     FF_ARRAY_ELEMS(dca_default_coeffs[0])) {
1489                     avpriv_request_sample(s->avctx, "Downmixing %d channels",
1490                                           s->prim_channels + !!s->lfe);
1491                     return AVERROR_PATCHWELCOME;
1492                 }
1493                 for (i = 0; i < num_core_channels + !!s->lfe; i++) {
1494                     s->downmix_coef[i][0] = dca_default_coeffs[am][i][0];
1495                     s->downmix_coef[i][1] = dca_default_coeffs[am][i][1];
1496                 }
1497             }
1498             av_dlog(s->avctx, "Stereo downmix coeffs:\n");
1499             for (i = 0; i < num_core_channels + !!s->lfe; i++) {
1500                 av_dlog(s->avctx, "L, input channel %d = %f\n", i,
1501                         s->downmix_coef[i][0]);
1502                 av_dlog(s->avctx, "R, input channel %d = %f\n", i,
1503                         s->downmix_coef[i][1]);
1504             }
1505             av_dlog(s->avctx, "\n");
1506     }
1507
1508     if (s->ext_coding)
1509         s->core_ext_mask = dca_ext_audio_descr_mask[s->ext_descr];
1510     else
1511         s->core_ext_mask = 0;
1512
1513     core_ss_end = FFMIN(s->frame_size, s->dca_buffer_size) * 8;
1514
1515     /* only scan for extensions if ext_descr was unknown or indicated a
1516      * supported XCh extension */
1517     if (s->core_ext_mask < 0 || s->core_ext_mask & (DCA_EXT_XCH | DCA_EXT_XXCH)) {
1518         /* if ext_descr was unknown, clear s->core_ext_mask so that the
1519          * extensions scan can fill it up */
1520         s->core_ext_mask = FFMAX(s->core_ext_mask, 0);
1521
1522         /* extensions start at 32-bit boundaries into bitstream */
1523         skip_bits_long(&s->gb, (-get_bits_count(&s->gb)) & 31);
1524
1525         while (core_ss_end - get_bits_count(&s->gb) >= 32) {
1526             uint32_t bits = get_bits_long(&s->gb, 32);
1527
1528             switch (bits) {
1529             case 0x5a5a5a5a: {
1530                 int ext_amode, xch_fsize;
1531
1532                 s->xch_base_channel = s->prim_channels;
1533
1534                 /* validate sync word using XCHFSIZE field */
1535                 xch_fsize = show_bits(&s->gb, 10);
1536                 if ((s->frame_size != (get_bits_count(&s->gb) >> 3) - 4 + xch_fsize) &&
1537                     (s->frame_size != (get_bits_count(&s->gb) >> 3) - 4 + xch_fsize + 1))
1538                     continue;
1539
1540                 /* skip length-to-end-of-frame field for the moment */
1541                 skip_bits(&s->gb, 10);
1542
1543                 s->core_ext_mask |= DCA_EXT_XCH;
1544
1545                 /* extension amode(number of channels in extension) should be 1 */
1546                 /* AFAIK XCh is not used for more channels */
1547                 if ((ext_amode = get_bits(&s->gb, 4)) != 1) {
1548                     av_log(avctx, AV_LOG_ERROR,
1549                            "XCh extension amode %d not supported!\n",
1550                            ext_amode);
1551                     continue;
1552                 }
1553
1554                 if (s->xch_base_channel < 2) {
1555                     avpriv_request_sample(avctx, "XCh with fewer than 2 base channels");
1556                     continue;
1557                 }
1558
1559                 /* much like core primary audio coding header */
1560                 dca_parse_audio_coding_header(s, s->xch_base_channel, 0);
1561
1562                 for (i = 0; i < (s->sample_blocks / 8); i++)
1563                     if ((ret = dca_decode_block(s, s->xch_base_channel, i))) {
1564                         av_log(avctx, AV_LOG_ERROR, "error decoding XCh extension\n");
1565                         continue;
1566                     }
1567
1568                 s->xch_present = 1;
1569                 break;
1570             }
1571             case 0x47004a03:
1572                 /* XXCh: extended channels */
1573                 /* usually found either in core or HD part in DTS-HD HRA streams,
1574                  * but not in DTS-ES which contains XCh extensions instead */
1575                 s->core_ext_mask |= DCA_EXT_XXCH;
1576                 ff_dca_xxch_decode_frame(s);
1577                 break;
1578
1579             case 0x1d95f262: {
1580                 int fsize96 = show_bits(&s->gb, 12) + 1;
1581                 if (s->frame_size != (get_bits_count(&s->gb) >> 3) - 4 + fsize96)
1582                     continue;
1583
1584                 av_log(avctx, AV_LOG_DEBUG, "X96 extension found at %d bits\n",
1585                        get_bits_count(&s->gb));
1586                 skip_bits(&s->gb, 12);
1587                 av_log(avctx, AV_LOG_DEBUG, "FSIZE96 = %d bytes\n", fsize96);
1588                 av_log(avctx, AV_LOG_DEBUG, "REVNO = %d\n", get_bits(&s->gb, 4));
1589
1590                 s->core_ext_mask |= DCA_EXT_X96;
1591                 break;
1592             }
1593             }
1594
1595             skip_bits_long(&s->gb, (-get_bits_count(&s->gb)) & 31);
1596         }
1597     } else {
1598         /* no supported extensions, skip the rest of the core substream */
1599         skip_bits_long(&s->gb, core_ss_end - get_bits_count(&s->gb));
1600     }
1601
1602     if (s->core_ext_mask & DCA_EXT_X96)
1603         s->profile = FF_PROFILE_DTS_96_24;
1604     else if (s->core_ext_mask & (DCA_EXT_XCH | DCA_EXT_XXCH))
1605         s->profile = FF_PROFILE_DTS_ES;
1606
1607     /* check for ExSS (HD part) */
1608     if (s->dca_buffer_size - s->frame_size > 32 &&
1609         get_bits_long(&s->gb, 32) == DCA_HD_MARKER)
1610         ff_dca_exss_parse_header(s);
1611
1612     avctx->profile = s->profile;
1613
1614     full_channels = channels = s->prim_channels + !!s->lfe;
1615
1616     /* If we have XXCH then the channel layout is managed differently */
1617     /* note that XLL will also have another way to do things */
1618     if (!(s->core_ext_mask & DCA_EXT_XXCH)
1619         || (s->core_ext_mask & DCA_EXT_XXCH && avctx->request_channels > 0
1620             && avctx->request_channels
1621             < num_core_channels + !!s->lfe + s->xxch_chset_nch[0]))
1622     { /* xxx should also do MA extensions */
1623         if (s->amode < 16) {
1624             avctx->channel_layout = dca_core_channel_layout[s->amode];
1625
1626             if (s->prim_channels + !!s->lfe > 2 &&
1627                 avctx->request_channel_layout == AV_CH_LAYOUT_STEREO) {
1628                 /*
1629                  * Neither the core's auxiliary data nor our default tables contain
1630                  * downmix coefficients for the additional channel coded in the XCh
1631                  * extension, so when we're doing a Stereo downmix, don't decode it.
1632                  */
1633                 s->xch_disable = 1;
1634             }
1635
1636 #if FF_API_REQUEST_CHANNELS
1637 FF_DISABLE_DEPRECATION_WARNINGS
1638             if (s->xch_present && !s->xch_disable &&
1639                 (!avctx->request_channels ||
1640                  avctx->request_channels > num_core_channels + !!s->lfe)) {
1641 FF_ENABLE_DEPRECATION_WARNINGS
1642 #else
1643             if (s->xch_present && !s->xch_disable) {
1644 #endif
1645                 if (avctx->channel_layout & AV_CH_BACK_CENTER) {
1646                     avpriv_request_sample(avctx, "XCh with Back center channel");
1647                     return AVERROR_INVALIDDATA;
1648                 }
1649                 avctx->channel_layout |= AV_CH_BACK_CENTER;
1650                 if (s->lfe) {
1651                     avctx->channel_layout |= AV_CH_LOW_FREQUENCY;
1652                     s->channel_order_tab = dca_channel_reorder_lfe_xch[s->amode];
1653                 } else {
1654                     s->channel_order_tab = dca_channel_reorder_nolfe_xch[s->amode];
1655                 }
1656                 if (s->channel_order_tab[s->xch_base_channel] < 0)
1657                     return AVERROR_INVALIDDATA;
1658             } else {
1659                 channels       = num_core_channels + !!s->lfe;
1660                 s->xch_present = 0; /* disable further xch processing */
1661                 if (s->lfe) {
1662                     avctx->channel_layout |= AV_CH_LOW_FREQUENCY;
1663                     s->channel_order_tab = dca_channel_reorder_lfe[s->amode];
1664                 } else
1665                     s->channel_order_tab = dca_channel_reorder_nolfe[s->amode];
1666             }
1667
1668             if (channels > !!s->lfe &&
1669                 s->channel_order_tab[channels - 1 - !!s->lfe] < 0)
1670                 return AVERROR_INVALIDDATA;
1671
1672             if (av_get_channel_layout_nb_channels(avctx->channel_layout) != channels) {
1673                 av_log(avctx, AV_LOG_ERROR, "Number of channels %d mismatches layout %d\n", channels, av_get_channel_layout_nb_channels(avctx->channel_layout));
1674                 return AVERROR_INVALIDDATA;
1675             }
1676
1677             if (num_core_channels + !!s->lfe > 2 &&
1678                 avctx->request_channel_layout == AV_CH_LAYOUT_STEREO) {
1679                 channels              = 2;
1680                 s->output             = s->prim_channels == 2 ? s->amode : DCA_STEREO;
1681                 avctx->channel_layout = AV_CH_LAYOUT_STEREO;
1682             }
1683             else if (avctx->request_channel_layout & AV_CH_LAYOUT_NATIVE) {
1684                 static const int8_t dca_channel_order_native[9] = { 0, 1, 2, 3, 4, 5, 6, 7, 8 };
1685                 s->channel_order_tab = dca_channel_order_native;
1686             }
1687             s->lfe_index = dca_lfe_index[s->amode];
1688         } else {
1689             av_log(avctx, AV_LOG_ERROR,
1690                    "Non standard configuration %d !\n", s->amode);
1691             return AVERROR_INVALIDDATA;
1692         }
1693
1694         s->xxch_dmix_embedded = 0;
1695     } else {
1696         /* we only get here if an XXCH channel set can be added to the mix */
1697         channel_mask = s->xxch_core_spkmask;
1698
1699         if (avctx->request_channels > 0
1700             && avctx->request_channels < s->prim_channels) {
1701             channels = num_core_channels + !!s->lfe;
1702             for (i = 0; i < s->xxch_chset && channels + s->xxch_chset_nch[i]
1703                                               <= avctx->request_channels; i++) {
1704                 channels += s->xxch_chset_nch[i];
1705                 channel_mask |= s->xxch_spk_masks[i];
1706             }
1707         } else {
1708             channels = s->prim_channels + !!s->lfe;
1709             for (i = 0; i < s->xxch_chset; i++) {
1710                 channel_mask |= s->xxch_spk_masks[i];
1711             }
1712         }
1713
1714         /* Given the DTS spec'ed channel mask, generate an avcodec version */
1715         channel_layout = 0;
1716         for (i = 0; i < s->xxch_nbits_spk_mask; ++i) {
1717             if (channel_mask & (1 << i)) {
1718                 channel_layout |= map_xxch_to_native[i];
1719             }
1720         }
1721
1722         /* make sure that we have managed to get equivalent dts/avcodec channel
1723          * masks in some sense -- unfortunately some channels could overlap */
1724         if (av_popcount(channel_mask) != av_popcount(channel_layout)) {
1725             av_log(avctx, AV_LOG_DEBUG,
1726                    "DTS-XXCH: Inconsistent avcodec/dts channel layouts\n");
1727             return AVERROR_INVALIDDATA;
1728         }
1729
1730         avctx->channel_layout = channel_layout;
1731
1732         if (!(avctx->request_channel_layout & AV_CH_LAYOUT_NATIVE)) {
1733             /* Estimate DTS --> avcodec ordering table */
1734             for (chset = -1, j = 0; chset < s->xxch_chset; ++chset) {
1735                 mask = chset >= 0 ? s->xxch_spk_masks[chset]
1736                                   : s->xxch_core_spkmask;
1737                 for (i = 0; i < s->xxch_nbits_spk_mask; i++) {
1738                     if (mask & ~(DCA_XXCH_LFE1 | DCA_XXCH_LFE2) & (1 << i)) {
1739                         lavc = map_xxch_to_native[i];
1740                         posn = av_popcount(channel_layout & (lavc - 1));
1741                         s->xxch_order_tab[j++] = posn;
1742                     }
1743                 }
1744
1745             }
1746
1747             s->lfe_index = av_popcount(channel_layout & (AV_CH_LOW_FREQUENCY-1));
1748         } else { /* native ordering */
1749             for (i = 0; i < channels; i++)
1750                 s->xxch_order_tab[i] = i;
1751
1752             s->lfe_index = channels - 1;
1753         }
1754
1755         s->channel_order_tab = s->xxch_order_tab;
1756     }
1757
1758     if (avctx->channels != channels) {
1759         if (avctx->channels)
1760             av_log(avctx, AV_LOG_INFO, "Number of channels changed in DCA decoder (%d -> %d)\n", avctx->channels, channels);
1761         avctx->channels = channels;
1762     }
1763
1764     /* get output buffer */
1765     frame->nb_samples = 256 * (s->sample_blocks / 8);
1766     if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
1767         return ret;
1768     samples_flt = (float **) frame->extended_data;
1769
1770     /* allocate buffer for extra channels if downmixing */
1771     if (avctx->channels < full_channels) {
1772         ret = av_samples_get_buffer_size(NULL, full_channels - channels,
1773                                          frame->nb_samples,
1774                                          avctx->sample_fmt, 0);
1775         if (ret < 0)
1776             return ret;
1777
1778         av_fast_malloc(&s->extra_channels_buffer,
1779                        &s->extra_channels_buffer_size, ret);
1780         if (!s->extra_channels_buffer)
1781             return AVERROR(ENOMEM);
1782
1783         ret = av_samples_fill_arrays((uint8_t **) s->extra_channels, NULL,
1784                                      s->extra_channels_buffer,
1785                                      full_channels - channels,
1786                                      frame->nb_samples, avctx->sample_fmt, 0);
1787         if (ret < 0)
1788             return ret;
1789     }
1790
1791     /* filter to get final output */
1792     for (i = 0; i < (s->sample_blocks / 8); i++) {
1793         int ch;
1794
1795         for (ch = 0; ch < channels; ch++)
1796             s->samples_chanptr[ch] = samples_flt[ch] + i * 256;
1797         for (; ch < full_channels; ch++)
1798             s->samples_chanptr[ch] = s->extra_channels[ch - channels] + i * 256;
1799
1800         dca_filter_channels(s, i);
1801
1802         /* If this was marked as a DTS-ES stream we need to subtract back- */
1803         /* channel from SL & SR to remove matrixed back-channel signal */
1804         if ((s->source_pcm_res & 1) && s->xch_present) {
1805             float *back_chan = s->samples_chanptr[s->channel_order_tab[s->xch_base_channel]];
1806             float *lt_chan   = s->samples_chanptr[s->channel_order_tab[s->xch_base_channel - 2]];
1807             float *rt_chan   = s->samples_chanptr[s->channel_order_tab[s->xch_base_channel - 1]];
1808             s->fdsp->vector_fmac_scalar(lt_chan, back_chan, -M_SQRT1_2, 256);
1809             s->fdsp->vector_fmac_scalar(rt_chan, back_chan, -M_SQRT1_2, 256);
1810         }
1811
1812         /* If stream contains XXCH, we might need to undo an embedded downmix */
1813         if (s->xxch_dmix_embedded) {
1814             /* Loop over channel sets in turn */
1815             ch = num_core_channels;
1816             for (chset = 0; chset < s->xxch_chset; chset++) {
1817                 endch = ch + s->xxch_chset_nch[chset];
1818                 mask = s->xxch_dmix_embedded;
1819
1820                 /* undo downmix */
1821                 for (j = ch; j < endch; j++) {
1822                     if (mask & (1 << j)) { /* this channel has been mixed-out */
1823                         src_chan = s->samples_chanptr[s->channel_order_tab[j]];
1824                         for (k = 0; k < endch; k++) {
1825                             achan = s->channel_order_tab[k];
1826                             scale = s->xxch_dmix_coeff[j][k];
1827                             if (scale != 0.0) {
1828                                 dst_chan = s->samples_chanptr[achan];
1829                                 s->fdsp->vector_fmac_scalar(dst_chan, src_chan,
1830                                                            -scale, 256);
1831                             }
1832                         }
1833                     }
1834                 }
1835
1836                 /* if a downmix has been embedded then undo the pre-scaling */
1837                 if ((mask & (1 << ch)) && s->xxch_dmix_sf[chset] != 1.0f) {
1838                     scale = s->xxch_dmix_sf[chset];
1839
1840                     for (j = 0; j < ch; j++) {
1841                         src_chan = s->samples_chanptr[s->channel_order_tab[j]];
1842                         for (k = 0; k < 256; k++)
1843                             src_chan[k] *= scale;
1844                     }
1845
1846                     /* LFE channel is always part of core, scale if it exists */
1847                     if (s->lfe) {
1848                         src_chan = s->samples_chanptr[s->lfe_index];
1849                         for (k = 0; k < 256; k++)
1850                             src_chan[k] *= scale;
1851                     }
1852                 }
1853
1854                 ch = endch;
1855             }
1856
1857         }
1858     }
1859
1860     /* update lfe history */
1861     lfe_samples = 2 * s->lfe * (s->sample_blocks / 8);
1862     for (i = 0; i < 2 * s->lfe * 4; i++)
1863         s->lfe_data[i] = s->lfe_data[i + lfe_samples];
1864
1865     /* AVMatrixEncoding
1866      *
1867      * DCA_STEREO_TOTAL (Lt/Rt) is equivalent to Dolby Surround */
1868     ret = ff_side_data_update_matrix_encoding(frame,
1869                                               (s->output & ~DCA_LFE) == DCA_STEREO_TOTAL ?
1870                                               AV_MATRIX_ENCODING_DOLBY : AV_MATRIX_ENCODING_NONE);
1871     if (ret < 0)
1872         return ret;
1873
1874     *got_frame_ptr = 1;
1875
1876     return buf_size;
1877 }
1878
1879 /**
1880  * DCA initialization
1881  *
1882  * @param avctx     pointer to the AVCodecContext
1883  */
1884
1885 static av_cold int dca_decode_init(AVCodecContext *avctx)
1886 {
1887     DCAContext *s = avctx->priv_data;
1888
1889     s->avctx = avctx;
1890     dca_init_vlcs();
1891
1892     s->fdsp = avpriv_float_dsp_alloc(avctx->flags & CODEC_FLAG_BITEXACT);
1893     if (!s->fdsp)
1894         return AVERROR(ENOMEM);
1895
1896     ff_mdct_init(&s->imdct, 6, 1, 1.0);
1897     ff_synth_filter_init(&s->synth);
1898     ff_dcadsp_init(&s->dcadsp);
1899     ff_fmt_convert_init(&s->fmt_conv, avctx);
1900
1901     avctx->sample_fmt = AV_SAMPLE_FMT_FLTP;
1902
1903     /* allow downmixing to stereo */
1904 #if FF_API_REQUEST_CHANNELS
1905 FF_DISABLE_DEPRECATION_WARNINGS
1906     if (avctx->request_channels == 2)
1907         avctx->request_channel_layout = AV_CH_LAYOUT_STEREO;
1908 FF_ENABLE_DEPRECATION_WARNINGS
1909 #endif
1910     if (avctx->channels > 2 &&
1911         avctx->request_channel_layout == AV_CH_LAYOUT_STEREO)
1912         avctx->channels = 2;
1913
1914     return 0;
1915 }
1916
1917 static av_cold int dca_decode_end(AVCodecContext *avctx)
1918 {
1919     DCAContext *s = avctx->priv_data;
1920     ff_mdct_end(&s->imdct);
1921     av_freep(&s->extra_channels_buffer);
1922     av_freep(&s->fdsp);
1923     return 0;
1924 }
1925
1926 static const AVProfile profiles[] = {
1927     { FF_PROFILE_DTS,        "DTS"        },
1928     { FF_PROFILE_DTS_ES,     "DTS-ES"     },
1929     { FF_PROFILE_DTS_96_24,  "DTS 96/24"  },
1930     { FF_PROFILE_DTS_HD_HRA, "DTS-HD HRA" },
1931     { FF_PROFILE_DTS_HD_MA,  "DTS-HD MA"  },
1932     { FF_PROFILE_UNKNOWN },
1933 };
1934
1935 static const AVOption options[] = {
1936     { "disable_xch", "disable decoding of the XCh extension", offsetof(DCAContext, xch_disable), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_AUDIO_PARAM },
1937     { NULL },
1938 };
1939
1940 static const AVClass dca_decoder_class = {
1941     .class_name = "DCA decoder",
1942     .item_name  = av_default_item_name,
1943     .option     = options,
1944     .version    = LIBAVUTIL_VERSION_INT,
1945     .category   = AV_CLASS_CATEGORY_DECODER,
1946 };
1947
1948 AVCodec ff_dca_decoder = {
1949     .name            = "dca",
1950     .long_name       = NULL_IF_CONFIG_SMALL("DCA (DTS Coherent Acoustics)"),
1951     .type            = AVMEDIA_TYPE_AUDIO,
1952     .id              = AV_CODEC_ID_DTS,
1953     .priv_data_size  = sizeof(DCAContext),
1954     .init            = dca_decode_init,
1955     .decode          = dca_decode_frame,
1956     .close           = dca_decode_end,
1957     .capabilities    = CODEC_CAP_CHANNEL_CONF | CODEC_CAP_DR1,
1958     .sample_fmts     = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_FLTP,
1959                                                        AV_SAMPLE_FMT_NONE },
1960     .profiles        = NULL_IF_CONFIG_SMALL(profiles),
1961     .priv_class      = &dca_decoder_class,
1962 };