Merge remote-tracking branch 'qatar/master'
[ffmpeg.git] / libavcodec / mpc7.c
1 /*
2  * Musepack SV7 decoder
3  * Copyright (c) 2006 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * MPEG Audio Layer 1/2 -like codec with frames of 1152 samples
25  * divided into 32 subbands.
26  */
27
28 #include "libavutil/lfg.h"
29 #include "avcodec.h"
30 #include "get_bits.h"
31 #include "dsputil.h"
32 #include "mpegaudiodsp.h"
33 #include "libavutil/audioconvert.h"
34
35 #include "mpc.h"
36 #include "mpc7data.h"
37
38 #define BANDS            32
39 #define SAMPLES_PER_BAND 36
40 #define MPC_FRAME_SIZE   (BANDS * SAMPLES_PER_BAND)
41
42 static VLC scfi_vlc, dscf_vlc, hdr_vlc, quant_vlc[MPC7_QUANT_VLC_TABLES][2];
43
44 static const uint16_t quant_offsets[MPC7_QUANT_VLC_TABLES*2 + 1] =
45 {
46        0, 512, 1024, 1536, 2052, 2564, 3076, 3588, 4100, 4612, 5124,
47        5636, 6164, 6676, 7224
48 };
49
50
51 static av_cold int mpc7_decode_init(AVCodecContext * avctx)
52 {
53     int i, j;
54     MPCContext *c = avctx->priv_data;
55     GetBitContext gb;
56     uint8_t buf[16];
57     static int vlc_initialized = 0;
58
59     static VLC_TYPE scfi_table[1 << MPC7_SCFI_BITS][2];
60     static VLC_TYPE dscf_table[1 << MPC7_DSCF_BITS][2];
61     static VLC_TYPE hdr_table[1 << MPC7_HDR_BITS][2];
62     static VLC_TYPE quant_tables[7224][2];
63
64     /* Musepack SV7 is always stereo */
65     if (avctx->channels != 2) {
66         av_log_ask_for_sample(avctx, "Unsupported number of channels: %d\n",
67                               avctx->channels);
68         return AVERROR_PATCHWELCOME;
69     }
70
71     if(avctx->extradata_size < 16){
72         av_log(avctx, AV_LOG_ERROR, "Too small extradata size (%i)!\n", avctx->extradata_size);
73         return -1;
74     }
75     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
76     av_lfg_init(&c->rnd, 0xDEADBEEF);
77     dsputil_init(&c->dsp, avctx);
78     ff_mpadsp_init(&c->mpadsp);
79     c->dsp.bswap_buf((uint32_t*)buf, (const uint32_t*)avctx->extradata, 4);
80     ff_mpc_init();
81     init_get_bits(&gb, buf, 128);
82
83     c->IS = get_bits1(&gb);
84     c->MSS = get_bits1(&gb);
85     c->maxbands = get_bits(&gb, 6);
86     if(c->maxbands >= BANDS){
87         av_log(avctx, AV_LOG_ERROR, "Too many bands: %i\n", c->maxbands);
88         return -1;
89     }
90     skip_bits_long(&gb, 88);
91     c->gapless = get_bits1(&gb);
92     c->lastframelen = get_bits(&gb, 11);
93     av_log(avctx, AV_LOG_DEBUG, "IS: %d, MSS: %d, TG: %d, LFL: %d, bands: %d\n",
94             c->IS, c->MSS, c->gapless, c->lastframelen, c->maxbands);
95     c->frames_to_skip = 0;
96
97     avctx->sample_fmt = AV_SAMPLE_FMT_S16;
98     avctx->channel_layout = AV_CH_LAYOUT_STEREO;
99
100     if(vlc_initialized) return 0;
101     av_log(avctx, AV_LOG_DEBUG, "Initing VLC\n");
102     scfi_vlc.table = scfi_table;
103     scfi_vlc.table_allocated = 1 << MPC7_SCFI_BITS;
104     if(init_vlc(&scfi_vlc, MPC7_SCFI_BITS, MPC7_SCFI_SIZE,
105                 &mpc7_scfi[1], 2, 1,
106                 &mpc7_scfi[0], 2, 1, INIT_VLC_USE_NEW_STATIC)){
107         av_log(avctx, AV_LOG_ERROR, "Cannot init SCFI VLC\n");
108         return -1;
109     }
110     dscf_vlc.table = dscf_table;
111     dscf_vlc.table_allocated = 1 << MPC7_DSCF_BITS;
112     if(init_vlc(&dscf_vlc, MPC7_DSCF_BITS, MPC7_DSCF_SIZE,
113                 &mpc7_dscf[1], 2, 1,
114                 &mpc7_dscf[0], 2, 1, INIT_VLC_USE_NEW_STATIC)){
115         av_log(avctx, AV_LOG_ERROR, "Cannot init DSCF VLC\n");
116         return -1;
117     }
118     hdr_vlc.table = hdr_table;
119     hdr_vlc.table_allocated = 1 << MPC7_HDR_BITS;
120     if(init_vlc(&hdr_vlc, MPC7_HDR_BITS, MPC7_HDR_SIZE,
121                 &mpc7_hdr[1], 2, 1,
122                 &mpc7_hdr[0], 2, 1, INIT_VLC_USE_NEW_STATIC)){
123         av_log(avctx, AV_LOG_ERROR, "Cannot init HDR VLC\n");
124         return -1;
125     }
126     for(i = 0; i < MPC7_QUANT_VLC_TABLES; i++){
127         for(j = 0; j < 2; j++){
128             quant_vlc[i][j].table = &quant_tables[quant_offsets[i*2 + j]];
129             quant_vlc[i][j].table_allocated = quant_offsets[i*2 + j + 1] - quant_offsets[i*2 + j];
130             if(init_vlc(&quant_vlc[i][j], 9, mpc7_quant_vlc_sizes[i],
131                         &mpc7_quant_vlc[i][j][1], 4, 2,
132                         &mpc7_quant_vlc[i][j][0], 4, 2, INIT_VLC_USE_NEW_STATIC)){
133                 av_log(avctx, AV_LOG_ERROR, "Cannot init QUANT VLC %i,%i\n",i,j);
134                 return -1;
135             }
136         }
137     }
138     vlc_initialized = 1;
139     return 0;
140 }
141
142 /**
143  * Fill samples for given subband
144  */
145 static inline void idx_to_quant(MPCContext *c, GetBitContext *gb, int idx, int *dst)
146 {
147     int i, i1, t;
148     switch(idx){
149     case -1:
150         for(i = 0; i < SAMPLES_PER_BAND; i++){
151             *dst++ = (av_lfg_get(&c->rnd) & 0x3FC) - 510;
152         }
153         break;
154     case 1:
155         i1 = get_bits1(gb);
156         for(i = 0; i < SAMPLES_PER_BAND/3; i++){
157             t = get_vlc2(gb, quant_vlc[0][i1].table, 9, 2);
158             *dst++ = mpc7_idx30[t];
159             *dst++ = mpc7_idx31[t];
160             *dst++ = mpc7_idx32[t];
161         }
162         break;
163     case 2:
164         i1 = get_bits1(gb);
165         for(i = 0; i < SAMPLES_PER_BAND/2; i++){
166             t = get_vlc2(gb, quant_vlc[1][i1].table, 9, 2);
167             *dst++ = mpc7_idx50[t];
168             *dst++ = mpc7_idx51[t];
169         }
170         break;
171     case  3: case  4: case  5: case  6: case  7:
172         i1 = get_bits1(gb);
173         for(i = 0; i < SAMPLES_PER_BAND; i++)
174             *dst++ = get_vlc2(gb, quant_vlc[idx-1][i1].table, 9, 2) - mpc7_quant_vlc_off[idx-1];
175         break;
176     case  8: case  9: case 10: case 11: case 12:
177     case 13: case 14: case 15: case 16: case 17:
178         t = (1 << (idx - 2)) - 1;
179         for(i = 0; i < SAMPLES_PER_BAND; i++)
180             *dst++ = get_bits(gb, idx - 1) - t;
181         break;
182     default: // case 0 and -2..-17
183         return;
184     }
185 }
186
187 static int get_scale_idx(GetBitContext *gb, int ref)
188 {
189     int t = get_vlc2(gb, dscf_vlc.table, MPC7_DSCF_BITS, 1) - 7;
190     if (t == 8)
191         return get_bits(gb, 6);
192     return ref + t;
193 }
194
195 static int mpc7_decode_frame(AVCodecContext * avctx,
196                             void *data, int *data_size,
197                             AVPacket *avpkt)
198 {
199     const uint8_t *buf = avpkt->data;
200     int buf_size = avpkt->size;
201     MPCContext *c = avctx->priv_data;
202     GetBitContext gb;
203     uint8_t *bits;
204     int i, ch;
205     int mb = -1;
206     Band *bands = c->bands;
207     int off, out_size;
208     int bits_used, bits_avail;
209
210     memset(bands, 0, sizeof(*bands) * (c->maxbands + 1));
211     if(buf_size <= 4){
212         av_log(avctx, AV_LOG_ERROR, "Too small buffer passed (%i bytes)\n", buf_size);
213         return AVERROR(EINVAL);
214     }
215
216     out_size = (buf[1] ? c->lastframelen : MPC_FRAME_SIZE) * 4;
217     if (*data_size < out_size) {
218         av_log(avctx, AV_LOG_ERROR, "Output buffer is too small\n");
219         return AVERROR(EINVAL);
220     }
221
222     bits = av_malloc(((buf_size - 1) & ~3) + FF_INPUT_BUFFER_PADDING_SIZE);
223     c->dsp.bswap_buf((uint32_t*)bits, (const uint32_t*)(buf + 4), (buf_size - 4) >> 2);
224     init_get_bits(&gb, bits, (buf_size - 4)* 8);
225     skip_bits_long(&gb, buf[0]);
226
227     /* read subband indexes */
228     for(i = 0; i <= c->maxbands; i++){
229         for(ch = 0; ch < 2; ch++){
230             int t = 4;
231             if(i) t = get_vlc2(&gb, hdr_vlc.table, MPC7_HDR_BITS, 1) - 5;
232             if(t == 4) bands[i].res[ch] = get_bits(&gb, 4);
233             else bands[i].res[ch] = bands[i-1].res[ch] + t;
234         }
235
236         if(bands[i].res[0] || bands[i].res[1]){
237             mb = i;
238             if(c->MSS) bands[i].msf = get_bits1(&gb);
239         }
240     }
241     /* get scale indexes coding method */
242     for(i = 0; i <= mb; i++)
243         for(ch = 0; ch < 2; ch++)
244             if(bands[i].res[ch]) bands[i].scfi[ch] = get_vlc2(&gb, scfi_vlc.table, MPC7_SCFI_BITS, 1);
245     /* get scale indexes */
246     for(i = 0; i <= mb; i++){
247         for(ch = 0; ch < 2; ch++){
248             if(bands[i].res[ch]){
249                 bands[i].scf_idx[ch][2] = c->oldDSCF[ch][i];
250                 bands[i].scf_idx[ch][0] = get_scale_idx(&gb, bands[i].scf_idx[ch][2]);
251                 switch(bands[i].scfi[ch]){
252                 case 0:
253                     bands[i].scf_idx[ch][1] = get_scale_idx(&gb, bands[i].scf_idx[ch][0]);
254                     bands[i].scf_idx[ch][2] = get_scale_idx(&gb, bands[i].scf_idx[ch][1]);
255                     break;
256                 case 1:
257                     bands[i].scf_idx[ch][1] = get_scale_idx(&gb, bands[i].scf_idx[ch][0]);
258                     bands[i].scf_idx[ch][2] = bands[i].scf_idx[ch][1];
259                     break;
260                 case 2:
261                     bands[i].scf_idx[ch][1] = bands[i].scf_idx[ch][0];
262                     bands[i].scf_idx[ch][2] = get_scale_idx(&gb, bands[i].scf_idx[ch][1]);
263                     break;
264                 case 3:
265                     bands[i].scf_idx[ch][2] = bands[i].scf_idx[ch][1] = bands[i].scf_idx[ch][0];
266                     break;
267                 }
268                 c->oldDSCF[ch][i] = bands[i].scf_idx[ch][2];
269             }
270         }
271     }
272     /* get quantizers */
273     memset(c->Q, 0, sizeof(c->Q));
274     off = 0;
275     for(i = 0; i < BANDS; i++, off += SAMPLES_PER_BAND)
276         for(ch = 0; ch < 2; ch++)
277             idx_to_quant(c, &gb, bands[i].res[ch], c->Q[ch] + off);
278
279     ff_mpc_dequantize_and_synth(c, mb, data, 2);
280
281     av_free(bits);
282
283     bits_used = get_bits_count(&gb);
284     bits_avail = (buf_size - 4) * 8;
285     if(!buf[1] && ((bits_avail < bits_used) || (bits_used + 32 <= bits_avail))){
286         av_log(NULL,0, "Error decoding frame: used %i of %i bits\n", bits_used, bits_avail);
287         return -1;
288     }
289     if(c->frames_to_skip){
290         c->frames_to_skip--;
291         *data_size = 0;
292         return buf_size;
293     }
294     *data_size = out_size;
295
296     return buf_size;
297 }
298
299 static void mpc7_decode_flush(AVCodecContext *avctx)
300 {
301     MPCContext *c = avctx->priv_data;
302
303     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
304     c->frames_to_skip = 32;
305 }
306
307 AVCodec ff_mpc7_decoder = {
308     .name           = "mpc7",
309     .type           = AVMEDIA_TYPE_AUDIO,
310     .id             = CODEC_ID_MUSEPACK7,
311     .priv_data_size = sizeof(MPCContext),
312     .init           = mpc7_decode_init,
313     .decode         = mpc7_decode_frame,
314     .flush = mpc7_decode_flush,
315     .long_name = NULL_IF_CONFIG_SMALL("Musepack SV7"),
316 };