c7cf7fb462c3dca6b63dab375c5bac40cf72d7eb
[ffmpeg.git] / libavcodec / mpc8.c
1 /*
2  * Musepack SV8 decoder
3  * Copyright (c) 2007 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * MPEG Audio Layer 1/2 -like codec with frames of 1152 samples
25  * divided into 32 subbands.
26  */
27
28 #include "libavutil/channel_layout.h"
29 #include "libavutil/lfg.h"
30 #include "avcodec.h"
31 #include "get_bits.h"
32 #include "dsputil.h"
33 #include "internal.h"
34 #include "mpegaudiodsp.h"
35
36 #include "mpc.h"
37 #include "mpc8data.h"
38 #include "mpc8huff.h"
39
40 static VLC band_vlc, scfi_vlc[2], dscf_vlc[2], res_vlc[2];
41 static VLC q1_vlc, q2_vlc[2], q3_vlc[2], quant_vlc[4][2], q9up_vlc;
42
43 static const int q3_offsets[2] = { MPC8_Q3_OFFSET, MPC8_Q4_OFFSET };
44 static const int quant_offsets[6] = { MPC8_Q5_OFFSET, MPC8_Q6_OFFSET, MPC8_Q7_OFFSET, MPC8_Q8_OFFSET };
45
46 static inline int mpc8_dec_base(GetBitContext *gb, int k, int n)
47 {
48     int len = mpc8_cnk_len[k-1][n-1] - 1;
49     int code = len ? get_bits_long(gb, len) : 0;
50
51     if (code >= mpc8_cnk_lost[k-1][n-1])
52         code = ((code << 1) | get_bits1(gb)) - mpc8_cnk_lost[k-1][n-1];
53
54     return code;
55 }
56
57 static inline int mpc8_dec_enum(GetBitContext *gb, int k, int n)
58 {
59     int bits = 0;
60     const uint32_t * C = mpc8_cnk[k-1];
61     int code = mpc8_dec_base(gb, k, n);
62
63     do {
64         n--;
65         if (code >= C[n]) {
66             bits |= 1 << n;
67             code -= C[n];
68             C -= 32;
69             k--;
70         }
71     } while(k > 0);
72
73     return bits;
74 }
75
76 static inline int mpc8_get_mod_golomb(GetBitContext *gb, int m)
77 {
78     if(mpc8_cnk_len[0][m] < 1) return 0;
79     return mpc8_dec_base(gb, 1, m+1);
80 }
81
82 static int mpc8_get_mask(GetBitContext *gb, int size, int t)
83 {
84     int mask = 0;
85
86     if(t && t != size)
87          mask = mpc8_dec_enum(gb, FFMIN(t, size - t), size);
88     if((t << 1) > size) mask = ~mask;
89
90     return mask;
91 }
92
93 static const uint16_t vlc_offsets[13] = {
94     0, 640, 1184, 1748, 2298, 2426, 2554, 3066, 3578, 4106, 4618, 5196, 5708
95 };
96
97 static av_cold int mpc8_decode_init(AVCodecContext * avctx)
98 {
99     int i;
100     MPCContext *c = avctx->priv_data;
101     GetBitContext gb;
102     static int vlc_initialized = 0;
103     int channels;
104
105     static VLC_TYPE band_table[542][2];
106     static VLC_TYPE q1_table[520][2];
107     static VLC_TYPE q9up_table[524][2];
108     static VLC_TYPE scfi0_table[1 << MPC8_SCFI0_BITS][2];
109     static VLC_TYPE scfi1_table[1 << MPC8_SCFI1_BITS][2];
110     static VLC_TYPE dscf0_table[560][2];
111     static VLC_TYPE dscf1_table[598][2];
112     static VLC_TYPE q3_0_table[512][2];
113     static VLC_TYPE q3_1_table[516][2];
114     static VLC_TYPE codes_table[5708][2];
115
116     if(avctx->extradata_size < 2){
117         av_log(avctx, AV_LOG_ERROR, "Too small extradata size (%i)!\n", avctx->extradata_size);
118         return -1;
119     }
120     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
121     av_lfg_init(&c->rnd, 0xDEADBEEF);
122     ff_dsputil_init(&c->dsp, avctx);
123     ff_mpadsp_init(&c->mpadsp);
124
125     ff_mpc_init();
126
127     init_get_bits(&gb, avctx->extradata, 16);
128
129     skip_bits(&gb, 3);//sample rate
130     c->maxbands = get_bits(&gb, 5) + 1;
131     if (c->maxbands >= BANDS) {
132         av_log(avctx,AV_LOG_ERROR, "maxbands %d too high\n", c->maxbands);
133         return AVERROR_INVALIDDATA;
134     }
135     channels = get_bits(&gb, 4) + 1;
136     if (channels > 2) {
137         av_log_missing_feature(avctx, "Multichannel MPC SV8", 1);
138         return AVERROR_PATCHWELCOME;
139     }
140     c->MSS = get_bits1(&gb);
141     c->frames = 1 << (get_bits(&gb, 3) * 2);
142
143     avctx->sample_fmt = AV_SAMPLE_FMT_S16P;
144     avctx->channel_layout = (channels==2) ? AV_CH_LAYOUT_STEREO : AV_CH_LAYOUT_MONO;
145     avctx->channels = channels;
146
147     if(vlc_initialized) return 0;
148     av_log(avctx, AV_LOG_DEBUG, "Initing VLC\n");
149
150     band_vlc.table = band_table;
151     band_vlc.table_allocated = 542;
152     init_vlc(&band_vlc, MPC8_BANDS_BITS, MPC8_BANDS_SIZE,
153              mpc8_bands_bits,  1, 1,
154              mpc8_bands_codes, 1, 1, INIT_VLC_USE_NEW_STATIC);
155
156     q1_vlc.table = q1_table;
157     q1_vlc.table_allocated = 520;
158     init_vlc(&q1_vlc, MPC8_Q1_BITS, MPC8_Q1_SIZE,
159              mpc8_q1_bits,  1, 1,
160              mpc8_q1_codes, 1, 1, INIT_VLC_USE_NEW_STATIC);
161     q9up_vlc.table = q9up_table;
162     q9up_vlc.table_allocated = 524;
163     init_vlc(&q9up_vlc, MPC8_Q9UP_BITS, MPC8_Q9UP_SIZE,
164              mpc8_q9up_bits,  1, 1,
165              mpc8_q9up_codes, 1, 1, INIT_VLC_USE_NEW_STATIC);
166
167     scfi_vlc[0].table = scfi0_table;
168     scfi_vlc[0].table_allocated = 1 << MPC8_SCFI0_BITS;
169     init_vlc(&scfi_vlc[0], MPC8_SCFI0_BITS, MPC8_SCFI0_SIZE,
170              mpc8_scfi0_bits,  1, 1,
171              mpc8_scfi0_codes, 1, 1, INIT_VLC_USE_NEW_STATIC);
172     scfi_vlc[1].table = scfi1_table;
173     scfi_vlc[1].table_allocated = 1 << MPC8_SCFI1_BITS;
174     init_vlc(&scfi_vlc[1], MPC8_SCFI1_BITS, MPC8_SCFI1_SIZE,
175              mpc8_scfi1_bits,  1, 1,
176              mpc8_scfi1_codes, 1, 1, INIT_VLC_USE_NEW_STATIC);
177
178     dscf_vlc[0].table = dscf0_table;
179     dscf_vlc[0].table_allocated = 560;
180     init_vlc(&dscf_vlc[0], MPC8_DSCF0_BITS, MPC8_DSCF0_SIZE,
181              mpc8_dscf0_bits,  1, 1,
182              mpc8_dscf0_codes, 1, 1, INIT_VLC_USE_NEW_STATIC);
183     dscf_vlc[1].table = dscf1_table;
184     dscf_vlc[1].table_allocated = 598;
185     init_vlc(&dscf_vlc[1], MPC8_DSCF1_BITS, MPC8_DSCF1_SIZE,
186              mpc8_dscf1_bits,  1, 1,
187              mpc8_dscf1_codes, 1, 1, INIT_VLC_USE_NEW_STATIC);
188
189     q3_vlc[0].table = q3_0_table;
190     q3_vlc[0].table_allocated = 512;
191     ff_init_vlc_sparse(&q3_vlc[0], MPC8_Q3_BITS, MPC8_Q3_SIZE,
192              mpc8_q3_bits,  1, 1,
193              mpc8_q3_codes, 1, 1,
194              mpc8_q3_syms,  1, 1, INIT_VLC_USE_NEW_STATIC);
195     q3_vlc[1].table = q3_1_table;
196     q3_vlc[1].table_allocated = 516;
197     ff_init_vlc_sparse(&q3_vlc[1], MPC8_Q4_BITS, MPC8_Q4_SIZE,
198              mpc8_q4_bits,  1, 1,
199              mpc8_q4_codes, 1, 1,
200              mpc8_q4_syms,  1, 1, INIT_VLC_USE_NEW_STATIC);
201
202     for(i = 0; i < 2; i++){
203         res_vlc[i].table = &codes_table[vlc_offsets[0+i]];
204         res_vlc[i].table_allocated = vlc_offsets[1+i] - vlc_offsets[0+i];
205         init_vlc(&res_vlc[i], MPC8_RES_BITS, MPC8_RES_SIZE,
206                  &mpc8_res_bits[i],  1, 1,
207                  &mpc8_res_codes[i], 1, 1, INIT_VLC_USE_NEW_STATIC);
208
209         q2_vlc[i].table = &codes_table[vlc_offsets[2+i]];
210         q2_vlc[i].table_allocated = vlc_offsets[3+i] - vlc_offsets[2+i];
211         init_vlc(&q2_vlc[i], MPC8_Q2_BITS, MPC8_Q2_SIZE,
212                  &mpc8_q2_bits[i],  1, 1,
213                  &mpc8_q2_codes[i], 1, 1, INIT_VLC_USE_NEW_STATIC);
214
215         quant_vlc[0][i].table = &codes_table[vlc_offsets[4+i]];
216         quant_vlc[0][i].table_allocated = vlc_offsets[5+i] - vlc_offsets[4+i];
217         init_vlc(&quant_vlc[0][i], MPC8_Q5_BITS, MPC8_Q5_SIZE,
218                  &mpc8_q5_bits[i],  1, 1,
219                  &mpc8_q5_codes[i], 1, 1, INIT_VLC_USE_NEW_STATIC);
220         quant_vlc[1][i].table = &codes_table[vlc_offsets[6+i]];
221         quant_vlc[1][i].table_allocated = vlc_offsets[7+i] - vlc_offsets[6+i];
222         init_vlc(&quant_vlc[1][i], MPC8_Q6_BITS, MPC8_Q6_SIZE,
223                  &mpc8_q6_bits[i],  1, 1,
224                  &mpc8_q6_codes[i], 1, 1, INIT_VLC_USE_NEW_STATIC);
225         quant_vlc[2][i].table = &codes_table[vlc_offsets[8+i]];
226         quant_vlc[2][i].table_allocated = vlc_offsets[9+i] - vlc_offsets[8+i];
227         init_vlc(&quant_vlc[2][i], MPC8_Q7_BITS, MPC8_Q7_SIZE,
228                  &mpc8_q7_bits[i],  1, 1,
229                  &mpc8_q7_codes[i], 1, 1, INIT_VLC_USE_NEW_STATIC);
230         quant_vlc[3][i].table = &codes_table[vlc_offsets[10+i]];
231         quant_vlc[3][i].table_allocated = vlc_offsets[11+i] - vlc_offsets[10+i];
232         init_vlc(&quant_vlc[3][i], MPC8_Q8_BITS, MPC8_Q8_SIZE,
233                  &mpc8_q8_bits[i],  1, 1,
234                  &mpc8_q8_codes[i], 1, 1, INIT_VLC_USE_NEW_STATIC);
235     }
236     vlc_initialized = 1;
237
238     return 0;
239 }
240
241 static int mpc8_decode_frame(AVCodecContext * avctx, void *data,
242                              int *got_frame_ptr, AVPacket *avpkt)
243 {
244     AVFrame *frame     = data;
245     const uint8_t *buf = avpkt->data;
246     int buf_size = avpkt->size;
247     MPCContext *c = avctx->priv_data;
248     GetBitContext gb2, *gb = &gb2;
249     int i, j, k, ch, cnt, res, t;
250     Band *bands = c->bands;
251     int off;
252     int maxband, keyframe;
253     int last[2];
254
255     /* get output buffer */
256     frame->nb_samples = MPC_FRAME_SIZE;
257     if ((res = ff_get_buffer(avctx, frame, 0)) < 0) {
258         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
259         return res;
260     }
261
262     keyframe = c->cur_frame == 0;
263
264     if(keyframe){
265         memset(c->Q, 0, sizeof(c->Q));
266         c->last_bits_used = 0;
267     }
268     init_get_bits(gb, buf, buf_size * 8);
269     skip_bits(gb, c->last_bits_used & 7);
270
271     if(keyframe)
272         maxband = mpc8_get_mod_golomb(gb, c->maxbands + 1);
273     else{
274         maxband = c->last_max_band + get_vlc2(gb, band_vlc.table, MPC8_BANDS_BITS, 2);
275         if(maxband > 32) maxband -= 33;
276     }
277
278     if(maxband > c->maxbands + 1) {
279         av_log(avctx, AV_LOG_ERROR, "maxband %d too large\n",maxband);
280         return AVERROR_INVALIDDATA;
281     }
282     c->last_max_band = maxband;
283
284     /* read subband indexes */
285     if(maxband){
286         last[0] = last[1] = 0;
287         for(i = maxband - 1; i >= 0; i--){
288             for(ch = 0; ch < 2; ch++){
289                 last[ch] = get_vlc2(gb, res_vlc[last[ch] > 2].table, MPC8_RES_BITS, 2) + last[ch];
290                 if(last[ch] > 15) last[ch] -= 17;
291                 bands[i].res[ch] = last[ch];
292             }
293         }
294         if(c->MSS){
295             int mask;
296
297             cnt = 0;
298             for(i = 0; i < maxband; i++)
299                 if(bands[i].res[0] || bands[i].res[1])
300                     cnt++;
301             t = mpc8_get_mod_golomb(gb, cnt);
302             mask = mpc8_get_mask(gb, cnt, t);
303             for(i = maxband - 1; i >= 0; i--)
304                 if(bands[i].res[0] || bands[i].res[1]){
305                     bands[i].msf = mask & 1;
306                     mask >>= 1;
307                 }
308         }
309     }
310     for(i = maxband; i < c->maxbands; i++)
311         bands[i].res[0] = bands[i].res[1] = 0;
312
313     if(keyframe){
314         for(i = 0; i < 32; i++)
315             c->oldDSCF[0][i] = c->oldDSCF[1][i] = 1;
316     }
317
318     for(i = 0; i < maxband; i++){
319         if(bands[i].res[0] || bands[i].res[1]){
320             cnt = !!bands[i].res[0] + !!bands[i].res[1] - 1;
321             if(cnt >= 0){
322                 t = get_vlc2(gb, scfi_vlc[cnt].table, scfi_vlc[cnt].bits, 1);
323                 if(bands[i].res[0]) bands[i].scfi[0] = t >> (2 * cnt);
324                 if(bands[i].res[1]) bands[i].scfi[1] = t & 3;
325             }
326         }
327     }
328
329     for(i = 0; i < maxband; i++){
330         for(ch = 0; ch < 2; ch++){
331             if(!bands[i].res[ch]) continue;
332
333             if(c->oldDSCF[ch][i]){
334                 bands[i].scf_idx[ch][0] = get_bits(gb, 7) - 6;
335                 c->oldDSCF[ch][i] = 0;
336             }else{
337                 t = get_vlc2(gb, dscf_vlc[1].table, MPC8_DSCF1_BITS, 2);
338                 if(t == 64)
339                     t += get_bits(gb, 6);
340                 bands[i].scf_idx[ch][0] = ((bands[i].scf_idx[ch][2] + t - 25) & 0x7F) - 6;
341             }
342             for(j = 0; j < 2; j++){
343                 if((bands[i].scfi[ch] << j) & 2)
344                     bands[i].scf_idx[ch][j + 1] = bands[i].scf_idx[ch][j];
345                 else{
346                     t = get_vlc2(gb, dscf_vlc[0].table, MPC8_DSCF0_BITS, 2);
347                     if(t == 31)
348                         t = 64 + get_bits(gb, 6);
349                     bands[i].scf_idx[ch][j + 1] = ((bands[i].scf_idx[ch][j] + t - 25) & 0x7F) - 6;
350                 }
351             }
352         }
353     }
354
355     for(i = 0, off = 0; i < maxband; i++, off += SAMPLES_PER_BAND){
356         for(ch = 0; ch < 2; ch++){
357             res = bands[i].res[ch];
358             switch(res){
359             case -1:
360                 for(j = 0; j < SAMPLES_PER_BAND; j++)
361                     c->Q[ch][off + j] = (av_lfg_get(&c->rnd) & 0x3FC) - 510;
362                 break;
363             case 0:
364                 break;
365             case 1:
366                 for(j = 0; j < SAMPLES_PER_BAND; j += SAMPLES_PER_BAND / 2){
367                     cnt = get_vlc2(gb, q1_vlc.table, MPC8_Q1_BITS, 2);
368                     t = mpc8_get_mask(gb, 18, cnt);
369                     for(k = 0; k < SAMPLES_PER_BAND / 2; k++, t <<= 1)
370                         c->Q[ch][off + j + k] = (t & 0x20000) ? (get_bits1(gb) << 1) - 1 : 0;
371                 }
372                 break;
373             case 2:
374                 cnt = 6;//2*mpc8_thres[res]
375                 for(j = 0; j < SAMPLES_PER_BAND; j += 3){
376                     t = get_vlc2(gb, q2_vlc[cnt > 3].table, MPC8_Q2_BITS, 2);
377                     c->Q[ch][off + j + 0] = mpc8_idx50[t];
378                     c->Q[ch][off + j + 1] = mpc8_idx51[t];
379                     c->Q[ch][off + j + 2] = mpc8_idx52[t];
380                     cnt = (cnt >> 1) + mpc8_huffq2[t];
381                 }
382                 break;
383             case 3:
384             case 4:
385                 for(j = 0; j < SAMPLES_PER_BAND; j += 2){
386                     t = get_vlc2(gb, q3_vlc[res - 3].table, MPC8_Q3_BITS, 2) + q3_offsets[res - 3];
387                     c->Q[ch][off + j + 1] = t >> 4;
388                     c->Q[ch][off + j + 0] = (t & 8) ? (t & 0xF) - 16 : (t & 0xF);
389                 }
390                 break;
391             case 5:
392             case 6:
393             case 7:
394             case 8:
395                 cnt = 2 * mpc8_thres[res];
396                 for(j = 0; j < SAMPLES_PER_BAND; j++){
397                     t = get_vlc2(gb, quant_vlc[res - 5][cnt > mpc8_thres[res]].table, quant_vlc[res - 5][cnt > mpc8_thres[res]].bits, 2) + quant_offsets[res - 5];
398                     c->Q[ch][off + j] = t;
399                     cnt = (cnt >> 1) + FFABS(c->Q[ch][off + j]);
400                 }
401                 break;
402             default:
403                 for(j = 0; j < SAMPLES_PER_BAND; j++){
404                     c->Q[ch][off + j] = get_vlc2(gb, q9up_vlc.table, MPC8_Q9UP_BITS, 2);
405                     if(res != 9){
406                         c->Q[ch][off + j] <<= res - 9;
407                         c->Q[ch][off + j] |= get_bits(gb, res - 9);
408                     }
409                     c->Q[ch][off + j] -= (1 << (res - 2)) - 1;
410                 }
411             }
412         }
413     }
414
415     ff_mpc_dequantize_and_synth(c, maxband - 1,
416                                 (int16_t **)frame->extended_data,
417                                 avctx->channels);
418
419     c->cur_frame++;
420
421     c->last_bits_used = get_bits_count(gb);
422     if(get_bits_left(gb) < 8) // we have only padding left
423         c->last_bits_used = buf_size << 3;
424     if(c->cur_frame >= c->frames)
425         c->cur_frame = 0;
426
427     *got_frame_ptr = 1;
428
429     return c->cur_frame ? c->last_bits_used >> 3 : buf_size;
430 }
431
432 static av_cold void mpc8_decode_flush(AVCodecContext *avctx)
433 {
434     MPCContext *c = avctx->priv_data;
435     c->cur_frame = 0;
436 }
437
438 AVCodec ff_mpc8_decoder = {
439     .name           = "mpc8",
440     .type           = AVMEDIA_TYPE_AUDIO,
441     .id             = AV_CODEC_ID_MUSEPACK8,
442     .priv_data_size = sizeof(MPCContext),
443     .init           = mpc8_decode_init,
444     .decode         = mpc8_decode_frame,
445     .flush          = mpc8_decode_flush,
446     .capabilities   = CODEC_CAP_DR1,
447     .long_name      = NULL_IF_CONFIG_SMALL("Musepack SV8"),
448     .sample_fmts    = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_S16P,
449                                                       AV_SAMPLE_FMT_NONE },
450 };