mpc: Convert to the new bitstream reader
[ffmpeg.git] / libavcodec / mpc7.c
1 /*
2  * Musepack SV7 decoder
3  * Copyright (c) 2006 Konstantin Shishkov
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * MPEG Audio Layer 1/2 -like codec with frames of 1152 samples
25  * divided into 32 subbands.
26  */
27
28 #include "libavutil/channel_layout.h"
29 #include "libavutil/internal.h"
30 #include "libavutil/lfg.h"
31
32 #include "avcodec.h"
33 #include "bitstream.h"
34 #include "internal.h"
35 #include "mpegaudiodsp.h"
36
37 #include "mpc.h"
38 #include "mpc7data.h"
39
40 #define BANDS            32
41 #define SAMPLES_PER_BAND 36
42 #define MPC_FRAME_SIZE   (BANDS * SAMPLES_PER_BAND)
43
44 static VLC scfi_vlc, dscf_vlc, hdr_vlc, quant_vlc[MPC7_QUANT_VLC_TABLES][2];
45
46 static const uint16_t quant_offsets[MPC7_QUANT_VLC_TABLES*2 + 1] =
47 {
48        0, 512, 1024, 1536, 2052, 2564, 3076, 3588, 4100, 4612, 5124,
49        5636, 6164, 6676, 7224
50 };
51
52
53 static av_cold int mpc7_decode_init(AVCodecContext * avctx)
54 {
55     int i, j;
56     MPCContext *c = avctx->priv_data;
57     BitstreamContext bc;
58     LOCAL_ALIGNED_16(uint8_t, buf, [16]);
59     static int vlc_initialized = 0;
60
61     static VLC_TYPE scfi_table[1 << MPC7_SCFI_BITS][2];
62     static VLC_TYPE dscf_table[1 << MPC7_DSCF_BITS][2];
63     static VLC_TYPE hdr_table[1 << MPC7_HDR_BITS][2];
64     static VLC_TYPE quant_tables[7224][2];
65
66     /* Musepack SV7 is always stereo */
67     if (avctx->channels != 2) {
68         avpriv_request_sample(avctx, "%d channels", avctx->channels);
69         return AVERROR_PATCHWELCOME;
70     }
71
72     if(avctx->extradata_size < 16){
73         av_log(avctx, AV_LOG_ERROR, "Too small extradata size (%i)!\n", avctx->extradata_size);
74         return -1;
75     }
76     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
77     av_lfg_init(&c->rnd, 0xDEADBEEF);
78     ff_bswapdsp_init(&c->bdsp);
79     ff_mpadsp_init(&c->mpadsp);
80     c->bdsp.bswap_buf((uint32_t *) buf, (const uint32_t *) avctx->extradata, 4);
81     ff_mpc_init();
82     bitstream_init(&bc, buf, 128);
83
84     c->IS       = bitstream_read_bit(&bc);
85     c->MSS      = bitstream_read_bit(&bc);
86     c->maxbands = bitstream_read(&bc, 6);
87     if(c->maxbands >= BANDS){
88         av_log(avctx, AV_LOG_ERROR, "Too many bands: %i\n", c->maxbands);
89         return -1;
90     }
91     bitstream_skip(&bc, 88);
92     c->gapless      = bitstream_read_bit(&bc);
93     c->lastframelen = bitstream_read(&bc, 11);
94     av_log(avctx, AV_LOG_DEBUG, "IS: %d, MSS: %d, TG: %d, LFL: %d, bands: %d\n",
95             c->IS, c->MSS, c->gapless, c->lastframelen, c->maxbands);
96     c->frames_to_skip = 0;
97
98     avctx->sample_fmt = AV_SAMPLE_FMT_S16P;
99     avctx->channel_layout = AV_CH_LAYOUT_STEREO;
100
101     if(vlc_initialized) return 0;
102     av_log(avctx, AV_LOG_DEBUG, "Initing VLC\n");
103     scfi_vlc.table = scfi_table;
104     scfi_vlc.table_allocated = 1 << MPC7_SCFI_BITS;
105     if(init_vlc(&scfi_vlc, MPC7_SCFI_BITS, MPC7_SCFI_SIZE,
106                 &mpc7_scfi[1], 2, 1,
107                 &mpc7_scfi[0], 2, 1, INIT_VLC_USE_NEW_STATIC)){
108         av_log(avctx, AV_LOG_ERROR, "Cannot init SCFI VLC\n");
109         return -1;
110     }
111     dscf_vlc.table = dscf_table;
112     dscf_vlc.table_allocated = 1 << MPC7_DSCF_BITS;
113     if(init_vlc(&dscf_vlc, MPC7_DSCF_BITS, MPC7_DSCF_SIZE,
114                 &mpc7_dscf[1], 2, 1,
115                 &mpc7_dscf[0], 2, 1, INIT_VLC_USE_NEW_STATIC)){
116         av_log(avctx, AV_LOG_ERROR, "Cannot init DSCF VLC\n");
117         return -1;
118     }
119     hdr_vlc.table = hdr_table;
120     hdr_vlc.table_allocated = 1 << MPC7_HDR_BITS;
121     if(init_vlc(&hdr_vlc, MPC7_HDR_BITS, MPC7_HDR_SIZE,
122                 &mpc7_hdr[1], 2, 1,
123                 &mpc7_hdr[0], 2, 1, INIT_VLC_USE_NEW_STATIC)){
124         av_log(avctx, AV_LOG_ERROR, "Cannot init HDR VLC\n");
125         return -1;
126     }
127     for(i = 0; i < MPC7_QUANT_VLC_TABLES; i++){
128         for(j = 0; j < 2; j++){
129             quant_vlc[i][j].table = &quant_tables[quant_offsets[i*2 + j]];
130             quant_vlc[i][j].table_allocated = quant_offsets[i*2 + j + 1] - quant_offsets[i*2 + j];
131             if(init_vlc(&quant_vlc[i][j], 9, mpc7_quant_vlc_sizes[i],
132                         &mpc7_quant_vlc[i][j][1], 4, 2,
133                         &mpc7_quant_vlc[i][j][0], 4, 2, INIT_VLC_USE_NEW_STATIC)){
134                 av_log(avctx, AV_LOG_ERROR, "Cannot init QUANT VLC %i,%i\n",i,j);
135                 return -1;
136             }
137         }
138     }
139     vlc_initialized = 1;
140
141     return 0;
142 }
143
144 /**
145  * Fill samples for given subband
146  */
147 static inline void idx_to_quant(MPCContext *c, BitstreamContext *bc, int idx, int *dst)
148 {
149     int i, i1, t;
150     switch(idx){
151     case -1:
152         for(i = 0; i < SAMPLES_PER_BAND; i++){
153             *dst++ = (av_lfg_get(&c->rnd) & 0x3FC) - 510;
154         }
155         break;
156     case 1:
157         i1 = bitstream_read_bit(bc);
158         for(i = 0; i < SAMPLES_PER_BAND/3; i++){
159             t = bitstream_read_vlc(bc, quant_vlc[0][i1].table, 9, 2);
160             *dst++ = mpc7_idx30[t];
161             *dst++ = mpc7_idx31[t];
162             *dst++ = mpc7_idx32[t];
163         }
164         break;
165     case 2:
166         i1 = bitstream_read_bit(bc);
167         for(i = 0; i < SAMPLES_PER_BAND/2; i++){
168             t = bitstream_read_vlc(bc, quant_vlc[1][i1].table, 9, 2);
169             *dst++ = mpc7_idx50[t];
170             *dst++ = mpc7_idx51[t];
171         }
172         break;
173     case  3: case  4: case  5: case  6: case  7:
174         i1 = bitstream_read_bit(bc);
175         for(i = 0; i < SAMPLES_PER_BAND; i++)
176             *dst++ = bitstream_read_vlc(bc, quant_vlc[idx - 1][i1].table, 9, 2) - mpc7_quant_vlc_off[idx - 1];
177         break;
178     case  8: case  9: case 10: case 11: case 12:
179     case 13: case 14: case 15: case 16: case 17:
180         t = (1 << (idx - 2)) - 1;
181         for(i = 0; i < SAMPLES_PER_BAND; i++)
182             *dst++ = bitstream_read(bc, idx - 1) - t;
183         break;
184     default: // case 0 and -2..-17
185         return;
186     }
187 }
188
189 static int get_scale_idx(BitstreamContext *bc, int ref)
190 {
191     int t = bitstream_read_vlc(bc, dscf_vlc.table, MPC7_DSCF_BITS, 1) - 7;
192     if (t == 8)
193         return bitstream_read(bc, 6);
194     return av_clip_uintp2(ref + t, 7);
195 }
196
197 static int mpc7_decode_frame(AVCodecContext * avctx, void *data,
198                              int *got_frame_ptr, AVPacket *avpkt)
199 {
200     AVFrame *frame     = data;
201     const uint8_t *buf = avpkt->data;
202     int buf_size;
203     MPCContext *c = avctx->priv_data;
204     BitstreamContext bc;
205     int i, ch;
206     int mb = -1;
207     Band *bands = c->bands;
208     int off, ret, last_frame, skip;
209     int bits_used, bits_avail;
210
211     memset(bands, 0, sizeof(*bands) * (c->maxbands + 1));
212
213     buf_size = avpkt->size & ~3;
214     if (buf_size <= 0) {
215         av_log(avctx, AV_LOG_ERROR, "packet size is too small (%i bytes)\n",
216                avpkt->size);
217         return AVERROR_INVALIDDATA;
218     }
219     if (buf_size != avpkt->size) {
220         av_log(avctx, AV_LOG_WARNING, "packet size is not a multiple of 4. "
221                "extra bytes at the end will be skipped.\n");
222     }
223
224     skip       = buf[0];
225     last_frame = buf[1];
226     buf       += 4;
227     buf_size  -= 4;
228
229     /* get output buffer */
230     frame->nb_samples = last_frame ? c->lastframelen : MPC_FRAME_SIZE;
231     if ((ret = ff_get_buffer(avctx, frame, 0)) < 0) {
232         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
233         return ret;
234     }
235
236     av_fast_padded_malloc(&c->bits, &c->buf_size, buf_size);
237     if (!c->bits)
238         return AVERROR(ENOMEM);
239     c->bdsp.bswap_buf((uint32_t *) c->bits, (const uint32_t *) buf,
240                       buf_size >> 2);
241     bitstream_init(&bc, c->bits, buf_size * 8);
242     bitstream_skip(&bc, skip);
243
244     /* read subband indexes */
245     for(i = 0; i <= c->maxbands; i++){
246         for(ch = 0; ch < 2; ch++){
247             int t = 4;
248             if (i)
249                 t = bitstream_read_vlc(&bc, hdr_vlc.table, MPC7_HDR_BITS, 1) - 5;
250             if (t == 4)
251                 bands[i].res[ch] = bitstream_read(&bc, 4);
252             else bands[i].res[ch] = av_clip(bands[i-1].res[ch] + t, 0, 17);
253         }
254
255         if(bands[i].res[0] || bands[i].res[1]){
256             mb = i;
257             if (c->MSS)
258                 bands[i].msf = bitstream_read_bit(&bc);
259         }
260     }
261     /* get scale indexes coding method */
262     for(i = 0; i <= mb; i++)
263         for(ch = 0; ch < 2; ch++)
264             if (bands[i].res[ch])
265                 bands[i].scfi[ch] = bitstream_read_vlc(&bc, scfi_vlc.table, MPC7_SCFI_BITS, 1);
266     /* get scale indexes */
267     for(i = 0; i <= mb; i++){
268         for(ch = 0; ch < 2; ch++){
269             if(bands[i].res[ch]){
270                 bands[i].scf_idx[ch][2] = c->oldDSCF[ch][i];
271                 bands[i].scf_idx[ch][0] = get_scale_idx(&bc, bands[i].scf_idx[ch][2]);
272                 switch(bands[i].scfi[ch]){
273                 case 0:
274                     bands[i].scf_idx[ch][1] = get_scale_idx(&bc, bands[i].scf_idx[ch][0]);
275                     bands[i].scf_idx[ch][2] = get_scale_idx(&bc, bands[i].scf_idx[ch][1]);
276                     break;
277                 case 1:
278                     bands[i].scf_idx[ch][1] = get_scale_idx(&bc, bands[i].scf_idx[ch][0]);
279                     bands[i].scf_idx[ch][2] = bands[i].scf_idx[ch][1];
280                     break;
281                 case 2:
282                     bands[i].scf_idx[ch][1] = bands[i].scf_idx[ch][0];
283                     bands[i].scf_idx[ch][2] = get_scale_idx(&bc, bands[i].scf_idx[ch][1]);
284                     break;
285                 case 3:
286                     bands[i].scf_idx[ch][2] = bands[i].scf_idx[ch][1] = bands[i].scf_idx[ch][0];
287                     break;
288                 }
289                 c->oldDSCF[ch][i] = bands[i].scf_idx[ch][2];
290             }
291         }
292     }
293     /* get quantizers */
294     memset(c->Q, 0, sizeof(c->Q));
295     off = 0;
296     for(i = 0; i < BANDS; i++, off += SAMPLES_PER_BAND)
297         for(ch = 0; ch < 2; ch++)
298             idx_to_quant(c, &bc, bands[i].res[ch], c->Q[ch] + off);
299
300     ff_mpc_dequantize_and_synth(c, mb, (int16_t **)frame->extended_data, 2);
301
302     bits_used = bitstream_tell(&bc);
303     bits_avail = buf_size * 8;
304     if (!last_frame && ((bits_avail < bits_used) || (bits_used + 32 <= bits_avail))) {
305         av_log(avctx, AV_LOG_ERROR, "Error decoding frame: used %i of %i bits\n", bits_used, bits_avail);
306         return -1;
307     }
308     if(c->frames_to_skip){
309         c->frames_to_skip--;
310         *got_frame_ptr = 0;
311         return avpkt->size;
312     }
313
314     *got_frame_ptr = 1;
315
316     return avpkt->size;
317 }
318
319 static void mpc7_decode_flush(AVCodecContext *avctx)
320 {
321     MPCContext *c = avctx->priv_data;
322
323     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
324     c->frames_to_skip = 32;
325 }
326
327 static av_cold int mpc7_decode_close(AVCodecContext *avctx)
328 {
329     MPCContext *c = avctx->priv_data;
330     av_freep(&c->bits);
331     c->buf_size = 0;
332     return 0;
333 }
334
335 AVCodec ff_mpc7_decoder = {
336     .name           = "mpc7",
337     .long_name      = NULL_IF_CONFIG_SMALL("Musepack SV7"),
338     .type           = AVMEDIA_TYPE_AUDIO,
339     .id             = AV_CODEC_ID_MUSEPACK7,
340     .priv_data_size = sizeof(MPCContext),
341     .init           = mpc7_decode_init,
342     .close          = mpc7_decode_close,
343     .decode         = mpc7_decode_frame,
344     .flush          = mpc7_decode_flush,
345     .capabilities   = AV_CODEC_CAP_DR1,
346     .sample_fmts    = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_S16P,
347                                                       AV_SAMPLE_FMT_NONE },
348 };