dsputil: Move LOCAL_ALIGNED macros to libavutil
[ffmpeg.git] / libavcodec / takdec.c
1 /*
2  * TAK decoder
3  * Copyright (c) 2012 Paul B Mahol
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * TAK (Tom's lossless Audio Kompressor) decoder
25  * @author Paul B Mahol
26  */
27
28 #include "libavutil/internal.h"
29 #include "libavutil/samplefmt.h"
30 #include "tak.h"
31 #include "avcodec.h"
32 #include "dsputil.h"
33 #include "internal.h"
34 #include "unary.h"
35
36 #define MAX_SUBFRAMES     8                         // max number of subframes per channel
37 #define MAX_PREDICTORS  256
38
39 typedef struct MCDParam {
40     int8_t present;                                 // decorrelation parameter availability for this channel
41     int8_t index;                                   // index into array of decorrelation types
42     int8_t chan1;
43     int8_t chan2;
44 } MCDParam;
45
46 typedef struct TAKDecContext {
47     AVCodecContext *avctx;                          // parent AVCodecContext
48     AVFrame         frame;                          // AVFrame for decoded output
49     DSPContext      dsp;
50     TAKStreamInfo   ti;
51     GetBitContext   gb;                             // bitstream reader initialized to start at the current frame
52
53     int             uval;
54     int             nb_samples;                     // number of samples in the current frame
55     uint8_t        *decode_buffer;
56     unsigned int    decode_buffer_size;
57     int32_t        *decoded[TAK_MAX_CHANNELS];      // decoded samples for each channel
58
59     int8_t          lpc_mode[TAK_MAX_CHANNELS];
60     int8_t          sample_shift[TAK_MAX_CHANNELS]; // shift applied to every sample in the channel
61     int             subframe_scale;
62
63     int8_t          dmode;                          // channel decorrelation type in the current frame
64
65     MCDParam        mcdparams[TAK_MAX_CHANNELS];    // multichannel decorrelation parameters
66
67     int16_t        *residues;
68     unsigned int    residues_buf_size;
69 } TAKDecContext;
70
71 static const int8_t mc_dmodes[] = { 1, 3, 4, 6, };
72
73 static const uint16_t predictor_sizes[] = {
74     4, 8, 12, 16, 24, 32, 48, 64, 80, 96, 128, 160, 192, 224, 256, 0,
75 };
76
77 static const struct CParam {
78     int init;
79     int escape;
80     int scale;
81     int aescape;
82     int bias;
83 } xcodes[50] = {
84     { 0x01, 0x0000001, 0x0000001, 0x0000003, 0x0000008 },
85     { 0x02, 0x0000003, 0x0000001, 0x0000007, 0x0000006 },
86     { 0x03, 0x0000005, 0x0000002, 0x000000E, 0x000000D },
87     { 0x03, 0x0000003, 0x0000003, 0x000000D, 0x0000018 },
88     { 0x04, 0x000000B, 0x0000004, 0x000001C, 0x0000019 },
89     { 0x04, 0x0000006, 0x0000006, 0x000001A, 0x0000030 },
90     { 0x05, 0x0000016, 0x0000008, 0x0000038, 0x0000032 },
91     { 0x05, 0x000000C, 0x000000C, 0x0000034, 0x0000060 },
92     { 0x06, 0x000002C, 0x0000010, 0x0000070, 0x0000064 },
93     { 0x06, 0x0000018, 0x0000018, 0x0000068, 0x00000C0 },
94     { 0x07, 0x0000058, 0x0000020, 0x00000E0, 0x00000C8 },
95     { 0x07, 0x0000030, 0x0000030, 0x00000D0, 0x0000180 },
96     { 0x08, 0x00000B0, 0x0000040, 0x00001C0, 0x0000190 },
97     { 0x08, 0x0000060, 0x0000060, 0x00001A0, 0x0000300 },
98     { 0x09, 0x0000160, 0x0000080, 0x0000380, 0x0000320 },
99     { 0x09, 0x00000C0, 0x00000C0, 0x0000340, 0x0000600 },
100     { 0x0A, 0x00002C0, 0x0000100, 0x0000700, 0x0000640 },
101     { 0x0A, 0x0000180, 0x0000180, 0x0000680, 0x0000C00 },
102     { 0x0B, 0x0000580, 0x0000200, 0x0000E00, 0x0000C80 },
103     { 0x0B, 0x0000300, 0x0000300, 0x0000D00, 0x0001800 },
104     { 0x0C, 0x0000B00, 0x0000400, 0x0001C00, 0x0001900 },
105     { 0x0C, 0x0000600, 0x0000600, 0x0001A00, 0x0003000 },
106     { 0x0D, 0x0001600, 0x0000800, 0x0003800, 0x0003200 },
107     { 0x0D, 0x0000C00, 0x0000C00, 0x0003400, 0x0006000 },
108     { 0x0E, 0x0002C00, 0x0001000, 0x0007000, 0x0006400 },
109     { 0x0E, 0x0001800, 0x0001800, 0x0006800, 0x000C000 },
110     { 0x0F, 0x0005800, 0x0002000, 0x000E000, 0x000C800 },
111     { 0x0F, 0x0003000, 0x0003000, 0x000D000, 0x0018000 },
112     { 0x10, 0x000B000, 0x0004000, 0x001C000, 0x0019000 },
113     { 0x10, 0x0006000, 0x0006000, 0x001A000, 0x0030000 },
114     { 0x11, 0x0016000, 0x0008000, 0x0038000, 0x0032000 },
115     { 0x11, 0x000C000, 0x000C000, 0x0034000, 0x0060000 },
116     { 0x12, 0x002C000, 0x0010000, 0x0070000, 0x0064000 },
117     { 0x12, 0x0018000, 0x0018000, 0x0068000, 0x00C0000 },
118     { 0x13, 0x0058000, 0x0020000, 0x00E0000, 0x00C8000 },
119     { 0x13, 0x0030000, 0x0030000, 0x00D0000, 0x0180000 },
120     { 0x14, 0x00B0000, 0x0040000, 0x01C0000, 0x0190000 },
121     { 0x14, 0x0060000, 0x0060000, 0x01A0000, 0x0300000 },
122     { 0x15, 0x0160000, 0x0080000, 0x0380000, 0x0320000 },
123     { 0x15, 0x00C0000, 0x00C0000, 0x0340000, 0x0600000 },
124     { 0x16, 0x02C0000, 0x0100000, 0x0700000, 0x0640000 },
125     { 0x16, 0x0180000, 0x0180000, 0x0680000, 0x0C00000 },
126     { 0x17, 0x0580000, 0x0200000, 0x0E00000, 0x0C80000 },
127     { 0x17, 0x0300000, 0x0300000, 0x0D00000, 0x1800000 },
128     { 0x18, 0x0B00000, 0x0400000, 0x1C00000, 0x1900000 },
129     { 0x18, 0x0600000, 0x0600000, 0x1A00000, 0x3000000 },
130     { 0x19, 0x1600000, 0x0800000, 0x3800000, 0x3200000 },
131     { 0x19, 0x0C00000, 0x0C00000, 0x3400000, 0x6000000 },
132     { 0x1A, 0x2C00000, 0x1000000, 0x7000000, 0x6400000 },
133     { 0x1A, 0x1800000, 0x1800000, 0x6800000, 0xC000000 },
134 };
135
136 static av_cold void tak_init_static_data(AVCodec *codec)
137 {
138     ff_tak_init_crc();
139 }
140
141 static int set_bps_params(AVCodecContext *avctx)
142 {
143     switch (avctx->bits_per_coded_sample) {
144     case 8:
145         avctx->sample_fmt = AV_SAMPLE_FMT_U8P;
146         break;
147     case 16:
148         avctx->sample_fmt = AV_SAMPLE_FMT_S16P;
149         break;
150     case 24:
151         avctx->sample_fmt = AV_SAMPLE_FMT_S32P;
152         break;
153     default:
154         av_log(avctx, AV_LOG_ERROR, "unsupported bits per sample: %d\n",
155                avctx->bits_per_coded_sample);
156         return AVERROR_INVALIDDATA;
157     }
158     avctx->bits_per_raw_sample = avctx->bits_per_coded_sample;
159
160     return 0;
161 }
162
163 static void set_sample_rate_params(AVCodecContext *avctx)
164 {
165     TAKDecContext *s  = avctx->priv_data;
166     int shift         = 3 - (avctx->sample_rate / 11025);
167     shift             = FFMAX(0, shift);
168     s->uval           = FFALIGN(avctx->sample_rate + 511 >> 9, 4) << shift;
169     s->subframe_scale = FFALIGN(avctx->sample_rate + 511 >> 9, 4) << 1;
170 }
171
172 static av_cold int tak_decode_init(AVCodecContext *avctx)
173 {
174     TAKDecContext *s = avctx->priv_data;
175
176     ff_dsputil_init(&s->dsp, avctx);
177
178     s->avctx = avctx;
179     avcodec_get_frame_defaults(&s->frame);
180     avctx->coded_frame = &s->frame;
181
182     set_sample_rate_params(avctx);
183
184     return set_bps_params(avctx);
185 }
186
187 static void decode_lpc(int32_t *coeffs, int mode, int length)
188 {
189     int i;
190
191     if (length < 2)
192         return;
193
194     if (mode == 1) {
195         int a1 = *coeffs++;
196         for (i = 0; i < length - 1 >> 1; i++) {
197             *coeffs   += a1;
198             coeffs[1] += *coeffs;
199             a1         = coeffs[1];
200             coeffs    += 2;
201         }
202         if (length - 1 & 1)
203             *coeffs += a1;
204     } else if (mode == 2) {
205         int a1    = coeffs[1];
206         int a2    = a1 + *coeffs;
207         coeffs[1] = a2;
208         if (length > 2) {
209             coeffs += 2;
210             for (i = 0; i < length - 2 >> 1; i++) {
211                 int a3    = *coeffs + a1;
212                 int a4    = a3 + a2;
213                 *coeffs   = a4;
214                 a1        = coeffs[1] + a3;
215                 a2        = a1 + a4;
216                 coeffs[1] = a2;
217                 coeffs   += 2;
218             }
219             if (length & 1)
220                 *coeffs += a1 + a2;
221         }
222     } else if (mode == 3) {
223         int a1    = coeffs[1];
224         int a2    = a1 + *coeffs;
225         coeffs[1] = a2;
226         if (length > 2) {
227             int a3  = coeffs[2];
228             int a4  = a3 + a1;
229             int a5  = a4 + a2;
230             coeffs += 3;
231             for (i = 0; i < length - 3; i++) {
232                 a3     += *coeffs;
233                 a4     += a3;
234                 a5     += a4;
235                 *coeffs = a5;
236                 coeffs++;
237             }
238         }
239     }
240 }
241
242 static int decode_segment(GetBitContext *gb, int mode, int32_t *decoded,
243                           int len)
244 {
245     struct CParam code;
246     int i;
247
248     if (!mode) {
249         memset(decoded, 0, len * sizeof(*decoded));
250         return 0;
251     }
252
253     if (mode > FF_ARRAY_ELEMS(xcodes))
254         return AVERROR_INVALIDDATA;
255     code = xcodes[mode - 1];
256
257     for (i = 0; i < len; i++) {
258         int x = get_bits_long(gb, code.init);
259         if (x >= code.escape && get_bits1(gb)) {
260             x |= 1 << code.init;
261             if (x >= code.aescape) {
262                 int scale = get_unary(gb, 1, 9);
263                 if (scale == 9) {
264                     int scale_bits = get_bits(gb, 3);
265                     if (scale_bits > 0) {
266                         if (scale_bits == 7) {
267                             scale_bits += get_bits(gb, 5);
268                             if (scale_bits > 29)
269                                 return AVERROR_INVALIDDATA;
270                         }
271                         scale = get_bits_long(gb, scale_bits) + 1;
272                         x    += code.scale * scale;
273                     }
274                     x += code.bias;
275                 } else
276                     x += code.scale * scale - code.escape;
277             } else
278                 x -= code.escape;
279         }
280         decoded[i] = (x >> 1) ^ -(x & 1);
281     }
282
283     return 0;
284 }
285
286 static int decode_residues(TAKDecContext *s, int32_t *decoded, int length)
287 {
288     GetBitContext *gb = &s->gb;
289     int i, mode, ret;
290
291     if (length > s->nb_samples)
292         return AVERROR_INVALIDDATA;
293
294     if (get_bits1(gb)) {
295         int wlength, rval;
296         int coding_mode[128];
297
298         wlength = length / s->uval;
299
300         rval = length - (wlength * s->uval);
301
302         if (rval < s->uval / 2)
303             rval += s->uval;
304         else
305             wlength++;
306
307         if (wlength <= 1 || wlength > 128)
308             return AVERROR_INVALIDDATA;
309
310         coding_mode[0] = mode = get_bits(gb, 6);
311
312         for (i = 1; i < wlength; i++) {
313             int c = get_unary(gb, 1, 6);
314
315             switch (c) {
316             case 6:
317                 mode = get_bits(gb, 6);
318                 break;
319             case 5:
320             case 4:
321             case 3: {
322                 /* mode += sign ? (1 - c) : (c - 1) */
323                 int sign = get_bits1(gb);
324                 mode    += (-sign ^ (c - 1)) + sign;
325                 break;
326             }
327             case 2:
328                 mode++;
329                 break;
330             case 1:
331                 mode--;
332                 break;
333             }
334             coding_mode[i] = mode;
335         }
336
337         i = 0;
338         while (i < wlength) {
339             int len = 0;
340
341             mode = coding_mode[i];
342             do {
343                 if (i >= wlength - 1)
344                     len += rval;
345                 else
346                     len += s->uval;
347                 i++;
348
349                 if (i == wlength)
350                     break;
351             } while (coding_mode[i] == mode);
352
353             if ((ret = decode_segment(gb, mode, decoded, len)) < 0)
354                 return ret;
355             decoded += len;
356         }
357     } else {
358         mode = get_bits(gb, 6);
359         if ((ret = decode_segment(gb, mode, decoded, length)) < 0)
360             return ret;
361     }
362
363     return 0;
364 }
365
366 static int get_bits_esc4(GetBitContext *gb)
367 {
368     if (get_bits1(gb))
369         return get_bits(gb, 4) + 1;
370     else
371         return 0;
372 }
373
374 static void decode_filter_coeffs(TAKDecContext *s, int filter_order, int size,
375                                  int filter_quant, int16_t *filter)
376 {
377     GetBitContext *gb = &s->gb;
378     int i, j, a, b;
379     int filter_tmp[MAX_PREDICTORS];
380     int16_t predictors[MAX_PREDICTORS];
381
382     predictors[0] = get_sbits(gb, 10);
383     predictors[1] = get_sbits(gb, 10);
384     predictors[2] = get_sbits(gb, size) << (10 - size);
385     predictors[3] = get_sbits(gb, size) << (10 - size);
386     if (filter_order > 4) {
387         int av_uninit(code_size);
388         int code_size_base = size - get_bits1(gb);
389
390         for (i = 4; i < filter_order; i++) {
391             if (!(i & 3))
392                 code_size = code_size_base - get_bits(gb, 2);
393             predictors[i] = get_sbits(gb, code_size) << (10 - size);
394         }
395     }
396
397     filter_tmp[0] = predictors[0] << 6;
398     for (i = 1; i < filter_order; i++) {
399         int *p1 = &filter_tmp[0];
400         int *p2 = &filter_tmp[i - 1];
401
402         for (j = 0; j < (i + 1) / 2; j++) {
403             int tmp = *p1 + (predictors[i] * *p2 + 256 >> 9);
404             *p2     = *p2 + (predictors[i] * *p1 + 256 >> 9);
405             *p1     = tmp;
406             p1++;
407             p2--;
408         }
409
410         filter_tmp[i] = predictors[i] << 6;
411     }
412
413     a = 1 << (32 - (15 - filter_quant));
414     b = 1 << ((15 - filter_quant) - 1);
415     for (i = 0, j = filter_order - 1; i < filter_order / 2; i++, j--) {
416         filter[j] = a - ((filter_tmp[i] + b) >> (15 - filter_quant));
417         filter[i] = a - ((filter_tmp[j] + b) >> (15 - filter_quant));
418     }
419 }
420
421 static int decode_subframe(TAKDecContext *s, int32_t *decoded,
422                            int subframe_size, int prev_subframe_size)
423 {
424     LOCAL_ALIGNED_16(int16_t, filter, [MAX_PREDICTORS]);
425     GetBitContext *gb = &s->gb;
426     int i, ret;
427     int dshift, size, filter_quant, filter_order;
428
429     memset(filter, 0, MAX_PREDICTORS * sizeof(*filter));
430
431     if (!get_bits1(gb))
432         return decode_residues(s, decoded, subframe_size);
433
434     filter_order = predictor_sizes[get_bits(gb, 4)];
435
436     if (prev_subframe_size > 0 && get_bits1(gb)) {
437         if (filter_order > prev_subframe_size)
438             return AVERROR_INVALIDDATA;
439
440         decoded       -= filter_order;
441         subframe_size += filter_order;
442
443         if (filter_order > subframe_size)
444             return AVERROR_INVALIDDATA;
445     } else {
446         int lpc_mode;
447
448         if (filter_order > subframe_size)
449             return AVERROR_INVALIDDATA;
450
451         lpc_mode = get_bits(gb, 2);
452         if (lpc_mode > 2)
453             return AVERROR_INVALIDDATA;
454
455         if ((ret = decode_residues(s, decoded, filter_order)) < 0)
456             return ret;
457
458         if (lpc_mode)
459             decode_lpc(decoded, lpc_mode, filter_order);
460     }
461
462     dshift = get_bits_esc4(gb);
463     size   = get_bits1(gb) + 6;
464
465     filter_quant = 10;
466     if (get_bits1(gb)) {
467         filter_quant -= get_bits(gb, 3) + 1;
468         if (filter_quant < 3)
469             return AVERROR_INVALIDDATA;
470     }
471
472     decode_filter_coeffs(s, filter_order, size, filter_quant, filter);
473
474     if ((ret = decode_residues(s, &decoded[filter_order],
475                                subframe_size - filter_order)) < 0)
476         return ret;
477
478     av_fast_malloc(&s->residues, &s->residues_buf_size,
479                    FFALIGN(subframe_size + 16, 16) * sizeof(*s->residues));
480     if (!s->residues)
481         return AVERROR(ENOMEM);
482     memset(s->residues, 0, s->residues_buf_size);
483
484     for (i = 0; i < filter_order; i++)
485         s->residues[i] = *decoded++ >> dshift;
486
487     for (i = 0; i < subframe_size - filter_order; i++) {
488         int v = 1 << (filter_quant - 1);
489
490         v += s->dsp.scalarproduct_int16(&s->residues[i], filter,
491                                         FFALIGN(filter_order, 16));
492
493         v = (av_clip(v >> filter_quant, -8192, 8191) << dshift) - *decoded;
494         *decoded++ = v;
495         s->residues[filter_order + i] = v >> dshift;
496     }
497
498     emms_c();
499
500     return 0;
501 }
502
503 static int decode_channel(TAKDecContext *s, int chan)
504 {
505     AVCodecContext *avctx = s->avctx;
506     GetBitContext *gb     = &s->gb;
507     int32_t *decoded      = s->decoded[chan];
508     int left              = s->nb_samples - 1;
509     int i, prev, ret, nb_subframes;
510     int subframe_len[MAX_SUBFRAMES];
511
512     s->sample_shift[chan] = get_bits_esc4(gb);
513     if (s->sample_shift[chan] >= avctx->bits_per_coded_sample)
514         return AVERROR_INVALIDDATA;
515
516     /* NOTE: TAK 2.2.0 appears to set the sample value to 0 if
517      *       bits_per_coded_sample - sample_shift is 1, but this produces
518      *       non-bit-exact output. Reading the 1 bit using get_sbits() instead
519      *       of skipping it produces bit-exact output. This has been reported
520      *       to the TAK author. */
521     *decoded++        = get_sbits(gb,
522                                   avctx->bits_per_coded_sample -
523                                   s->sample_shift[chan]);
524     s->lpc_mode[chan] = get_bits(gb, 2);
525     nb_subframes      = get_bits(gb, 3) + 1;
526
527     i = 0;
528     if (nb_subframes > 1) {
529         if (get_bits_left(gb) < (nb_subframes - 1) * 6)
530             return AVERROR_INVALIDDATA;
531
532         prev = 0;
533         for (; i < nb_subframes - 1; i++) {
534             int subframe_end = get_bits(gb, 6) * s->subframe_scale;
535             if (subframe_end <= prev)
536                 return AVERROR_INVALIDDATA;
537             subframe_len[i] = subframe_end - prev;
538             left           -= subframe_len[i];
539             prev            = subframe_end;
540         }
541
542         if (left <= 0)
543             return AVERROR_INVALIDDATA;
544     }
545     subframe_len[i] = left;
546
547     prev = 0;
548     for (i = 0; i < nb_subframes; i++) {
549         if ((ret = decode_subframe(s, decoded, subframe_len[i], prev)) < 0)
550             return ret;
551         decoded += subframe_len[i];
552         prev     = subframe_len[i];
553     }
554
555     return 0;
556 }
557
558 static int decorrelate(TAKDecContext *s, int c1, int c2, int length)
559 {
560     GetBitContext *gb = &s->gb;
561     int32_t *p1       = s->decoded[c1] + 1;
562     int32_t *p2       = s->decoded[c2] + 1;
563     int i;
564     int dshift, dfactor;
565
566     switch (s->dmode) {
567     case 1: /* left/side */
568         for (i = 0; i < length; i++) {
569             int32_t a = p1[i];
570             int32_t b = p2[i];
571             p2[i]     = a + b;
572         }
573         break;
574     case 2: /* side/right */
575         for (i = 0; i < length; i++) {
576             int32_t a = p1[i];
577             int32_t b = p2[i];
578             p1[i]     = b - a;
579         }
580         break;
581     case 3: /* side/mid */
582         for (i = 0; i < length; i++) {
583             int32_t a = p1[i];
584             int32_t b = p2[i];
585             a        -= b >> 1;
586             p1[i]     = a;
587             p2[i]     = a + b;
588         }
589         break;
590     case 4: /* side/left with scale factor */
591         FFSWAP(int32_t*, p1, p2);
592     case 5: /* side/right with scale factor */
593         dshift  = get_bits_esc4(gb);
594         dfactor = get_sbits(gb, 10);
595         for (i = 0; i < length; i++) {
596             int32_t a = p1[i];
597             int32_t b = p2[i];
598             b         = dfactor * (b >> dshift) + 128 >> 8 << dshift;
599             p1[i]     = b - a;
600         }
601         break;
602     case 6:
603         FFSWAP(int32_t*, p1, p2);
604     case 7: {
605         LOCAL_ALIGNED_16(int16_t, filter, [MAX_PREDICTORS]);
606         int length2, order_half, filter_order, dval1, dval2;
607         int av_uninit(code_size);
608
609         memset(filter, 0, MAX_PREDICTORS * sizeof(*filter));
610
611         if (length < 256)
612             return AVERROR_INVALIDDATA;
613
614         dshift       = get_bits_esc4(gb);
615         filter_order = 8 << get_bits1(gb);
616         dval1        = get_bits1(gb);
617         dval2        = get_bits1(gb);
618
619         for (i = 0; i < filter_order; i++) {
620             if (!(i & 3))
621                 code_size = 14 - get_bits(gb, 3);
622             filter[i] = get_sbits(gb, code_size);
623         }
624
625         order_half = filter_order / 2;
626         length2    = length - (filter_order - 1);
627
628         /* decorrelate beginning samples */
629         if (dval1) {
630             for (i = 0; i < order_half; i++) {
631                 int32_t a = p1[i];
632                 int32_t b = p2[i];
633                 p1[i]     = a + b;
634             }
635         }
636
637         /* decorrelate ending samples */
638         if (dval2) {
639             for (i = length2 + order_half; i < length; i++) {
640                 int32_t a = p1[i];
641                 int32_t b = p2[i];
642                 p1[i]     = a + b;
643             }
644         }
645
646         av_fast_malloc(&s->residues, &s->residues_buf_size,
647                        FFALIGN(length + 16, 16) * sizeof(*s->residues));
648         if (!s->residues)
649             return AVERROR(ENOMEM);
650         memset(s->residues, 0, s->residues_buf_size);
651
652         for (i = 0; i < length; i++)
653             s->residues[i] = p2[i] >> dshift;
654
655         p1 += order_half;
656
657         for (i = 0; i < length2; i++) {
658             int v = 1 << 9;
659
660             v += s->dsp.scalarproduct_int16(&s->residues[i], filter,
661                                             FFALIGN(filter_order, 16));
662
663             p1[i] = (av_clip(v >> 10, -8192, 8191) << dshift) - p1[i];
664         }
665
666         emms_c();
667         break;
668     }
669     }
670
671     return 0;
672 }
673
674 static int tak_decode_frame(AVCodecContext *avctx, void *data,
675                             int *got_frame_ptr, AVPacket *pkt)
676 {
677     TAKDecContext *s  = avctx->priv_data;
678     GetBitContext *gb = &s->gb;
679     int chan, i, ret, hsize;
680
681     if (pkt->size < TAK_MIN_FRAME_HEADER_BYTES)
682         return AVERROR_INVALIDDATA;
683
684     init_get_bits(gb, pkt->data, pkt->size * 8);
685
686     if ((ret = ff_tak_decode_frame_header(avctx, gb, &s->ti, 0)) < 0)
687         return ret;
688
689     if (s->ti.flags & TAK_FRAME_FLAG_HAS_METADATA) {
690         av_log_missing_feature(avctx, "frame metadata", 1);
691         return AVERROR_PATCHWELCOME;
692     }
693
694     hsize = get_bits_count(gb) / 8;
695     if (avctx->err_recognition & AV_EF_CRCCHECK) {
696         if (ff_tak_check_crc(pkt->data, hsize)) {
697             av_log(avctx, AV_LOG_ERROR, "CRC error\n");
698             return AVERROR_INVALIDDATA;
699         }
700     }
701
702     if (s->ti.codec != TAK_CODEC_MONO_STEREO &&
703         s->ti.codec != TAK_CODEC_MULTICHANNEL) {
704         av_log(avctx, AV_LOG_ERROR, "unsupported codec: %d\n", s->ti.codec);
705         return AVERROR_PATCHWELCOME;
706     }
707     if (s->ti.data_type) {
708         av_log(avctx, AV_LOG_ERROR,
709                "unsupported data type: %d\n", s->ti.data_type);
710         return AVERROR_INVALIDDATA;
711     }
712     if (s->ti.codec == TAK_CODEC_MONO_STEREO && s->ti.channels > 2) {
713         av_log(avctx, AV_LOG_ERROR,
714                "invalid number of channels: %d\n", s->ti.channels);
715         return AVERROR_INVALIDDATA;
716     }
717     if (s->ti.channels > 6) {
718         av_log(avctx, AV_LOG_ERROR,
719                "unsupported number of channels: %d\n", s->ti.channels);
720         return AVERROR_INVALIDDATA;
721     }
722
723     if (s->ti.frame_samples <= 0) {
724         av_log(avctx, AV_LOG_ERROR, "unsupported/invalid number of samples\n");
725         return AVERROR_INVALIDDATA;
726     }
727
728     if (s->ti.bps != avctx->bits_per_coded_sample) {
729         avctx->bits_per_coded_sample = s->ti.bps;
730         if ((ret = set_bps_params(avctx)) < 0)
731             return ret;
732     }
733     if (s->ti.sample_rate != avctx->sample_rate) {
734         avctx->sample_rate = s->ti.sample_rate;
735         set_sample_rate_params(avctx);
736     }
737     if (s->ti.ch_layout)
738         avctx->channel_layout = s->ti.ch_layout;
739     avctx->channels = s->ti.channels;
740
741     s->nb_samples = s->ti.last_frame_samples ? s->ti.last_frame_samples
742                                              : s->ti.frame_samples;
743
744     s->frame.nb_samples = s->nb_samples;
745     if ((ret = ff_get_buffer(avctx, &s->frame)) < 0)
746         return ret;
747
748     if (avctx->bits_per_coded_sample <= 16) {
749         int buf_size = av_samples_get_buffer_size(NULL, avctx->channels,
750                                                   s->nb_samples,
751                                                   AV_SAMPLE_FMT_S32P, 0);
752         av_fast_malloc(&s->decode_buffer, &s->decode_buffer_size, buf_size);
753         if (!s->decode_buffer)
754             return AVERROR(ENOMEM);
755         ret = av_samples_fill_arrays((uint8_t **)s->decoded, NULL,
756                                      s->decode_buffer, avctx->channels,
757                                      s->nb_samples, AV_SAMPLE_FMT_S32P, 0);
758         if (ret < 0)
759             return ret;
760     } else {
761         for (chan = 0; chan < avctx->channels; chan++)
762             s->decoded[chan] = (int32_t *)s->frame.extended_data[chan];
763     }
764
765     if (s->nb_samples < 16) {
766         for (chan = 0; chan < avctx->channels; chan++) {
767             int32_t *decoded = s->decoded[chan];
768             for (i = 0; i < s->nb_samples; i++)
769                 decoded[i] = get_sbits(gb, avctx->bits_per_coded_sample);
770         }
771     } else {
772         if (s->ti.codec == TAK_CODEC_MONO_STEREO) {
773             for (chan = 0; chan < avctx->channels; chan++)
774                 if (ret = decode_channel(s, chan))
775                     return ret;
776
777             if (avctx->channels == 2) {
778                 if (get_bits1(gb)) {
779                     // some kind of subframe length, but it seems to be unused
780                     skip_bits(gb, 6);
781                 }
782
783                 s->dmode = get_bits(gb, 3);
784                 if (ret = decorrelate(s, 0, 1, s->nb_samples - 1))
785                     return ret;
786             }
787         } else if (s->ti.codec == TAK_CODEC_MULTICHANNEL) {
788             if (get_bits1(gb)) {
789                 int ch_mask = 0;
790
791                 chan = get_bits(gb, 4) + 1;
792                 if (chan > avctx->channels)
793                     return AVERROR_INVALIDDATA;
794
795                 for (i = 0; i < chan; i++) {
796                     int nbit = get_bits(gb, 4);
797
798                     if (nbit >= avctx->channels)
799                         return AVERROR_INVALIDDATA;
800
801                     if (ch_mask & 1 << nbit)
802                         return AVERROR_INVALIDDATA;
803
804                     s->mcdparams[i].present = get_bits1(gb);
805                     if (s->mcdparams[i].present) {
806                         s->mcdparams[i].index = get_bits(gb, 2);
807                         s->mcdparams[i].chan2 = get_bits(gb, 4);
808                         if (s->mcdparams[i].index == 1) {
809                             if ((nbit == s->mcdparams[i].chan2) ||
810                                 (ch_mask & 1 << s->mcdparams[i].chan2))
811                                 return AVERROR_INVALIDDATA;
812
813                             ch_mask |= 1 << s->mcdparams[i].chan2;
814                         } else if (!(ch_mask & 1 << s->mcdparams[i].chan2)) {
815                             return AVERROR_INVALIDDATA;
816                         }
817                     }
818                     s->mcdparams[i].chan1 = nbit;
819
820                     ch_mask |= 1 << nbit;
821                 }
822             } else {
823                 chan = avctx->channels;
824                 for (i = 0; i < chan; i++) {
825                     s->mcdparams[i].present = 0;
826                     s->mcdparams[i].chan1   = i;
827                 }
828             }
829
830             for (i = 0; i < chan; i++) {
831                 if (s->mcdparams[i].present && s->mcdparams[i].index == 1)
832                     if (ret = decode_channel(s, s->mcdparams[i].chan2))
833                         return ret;
834
835                 if (ret = decode_channel(s, s->mcdparams[i].chan1))
836                     return ret;
837
838                 if (s->mcdparams[i].present) {
839                     s->dmode = mc_dmodes[s->mcdparams[i].index];
840                     if (ret = decorrelate(s,
841                                           s->mcdparams[i].chan2,
842                                           s->mcdparams[i].chan1,
843                                           s->nb_samples - 1))
844                         return ret;
845                 }
846             }
847         }
848
849         for (chan = 0; chan < avctx->channels; chan++) {
850             int32_t *decoded = s->decoded[chan];
851
852             if (s->lpc_mode[chan])
853                 decode_lpc(decoded, s->lpc_mode[chan], s->nb_samples);
854
855             if (s->sample_shift[chan] > 0)
856                 for (i = 0; i < s->nb_samples; i++)
857                     decoded[i] <<= s->sample_shift[chan];
858         }
859     }
860
861     align_get_bits(gb);
862     skip_bits(gb, 24);
863     if (get_bits_left(gb) < 0)
864         av_log(avctx, AV_LOG_DEBUG, "overread\n");
865     else if (get_bits_left(gb) > 0)
866         av_log(avctx, AV_LOG_DEBUG, "underread\n");
867
868     if (avctx->err_recognition & AV_EF_CRCCHECK) {
869         if (ff_tak_check_crc(pkt->data + hsize,
870                              get_bits_count(gb) / 8 - hsize)) {
871             av_log(avctx, AV_LOG_ERROR, "CRC error\n");
872             return AVERROR_INVALIDDATA;
873         }
874     }
875
876     /* convert to output buffer */
877     switch (avctx->sample_fmt) {
878     case AV_SAMPLE_FMT_U8P:
879         for (chan = 0; chan < avctx->channels; chan++) {
880             uint8_t *samples = (uint8_t *)s->frame.extended_data[chan];
881             int32_t *decoded = s->decoded[chan];
882             for (i = 0; i < s->nb_samples; i++)
883                 samples[i] = decoded[i] + 0x80;
884         }
885         break;
886     case AV_SAMPLE_FMT_S16P:
887         for (chan = 0; chan < avctx->channels; chan++) {
888             int16_t *samples = (int16_t *)s->frame.extended_data[chan];
889             int32_t *decoded = s->decoded[chan];
890             for (i = 0; i < s->nb_samples; i++)
891                 samples[i] = decoded[i];
892         }
893         break;
894     case AV_SAMPLE_FMT_S32P:
895         for (chan = 0; chan < avctx->channels; chan++) {
896             int32_t *samples = (int32_t *)s->frame.extended_data[chan];
897             for (i = 0; i < s->nb_samples; i++)
898                 samples[i] <<= 8;
899         }
900         break;
901     }
902
903     *got_frame_ptr   = 1;
904     *(AVFrame *)data = s->frame;
905
906     return pkt->size;
907 }
908
909 static av_cold int tak_decode_close(AVCodecContext *avctx)
910 {
911     TAKDecContext *s = avctx->priv_data;
912
913     av_freep(&s->decode_buffer);
914     av_freep(&s->residues);
915
916     return 0;
917 }
918
919 AVCodec ff_tak_decoder = {
920     .name             = "tak",
921     .type             = AVMEDIA_TYPE_AUDIO,
922     .id               = AV_CODEC_ID_TAK,
923     .priv_data_size   = sizeof(TAKDecContext),
924     .init             = tak_decode_init,
925     .init_static_data = tak_init_static_data,
926     .close            = tak_decode_close,
927     .decode           = tak_decode_frame,
928     .capabilities     = CODEC_CAP_DR1,
929     .long_name        = NULL_IF_CONFIG_SMALL("TAK (Tom's lossless Audio Kompressor)"),
930     .sample_fmts      = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_U8P,
931                                                         AV_SAMPLE_FMT_S16P,
932                                                         AV_SAMPLE_FMT_S32P,
933                                                         AV_SAMPLE_FMT_NONE },
934 };