Modify all codecs to report their supported input and output sample format(s).
[ffmpeg.git] / libavcodec / mpc7.c
1 /*
2  * Musepack SV7 decoder
3  * Copyright (c) 2006 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file mpc7.c Musepack SV7 decoder
24  * MPEG Audio Layer 1/2 -like codec with frames of 1152 samples
25  * divided into 32 subbands.
26  */
27
28 #include "libavutil/random.h"
29 #include "avcodec.h"
30 #include "bitstream.h"
31 #include "dsputil.h"
32
33 #ifdef CONFIG_MPEGAUDIO_HP
34 #define USE_HIGHPRECISION
35 #endif
36 #include "mpegaudio.h"
37
38 #include "mpc.h"
39 #include "mpc7data.h"
40
41 #define BANDS            32
42 #define SAMPLES_PER_BAND 36
43 #define MPC_FRAME_SIZE   (BANDS * SAMPLES_PER_BAND)
44
45 static VLC scfi_vlc, dscf_vlc, hdr_vlc, quant_vlc[MPC7_QUANT_VLC_TABLES][2];
46
47 static av_cold int mpc7_decode_init(AVCodecContext * avctx)
48 {
49     int i, j;
50     MPCContext *c = avctx->priv_data;
51     GetBitContext gb;
52     uint8_t buf[16];
53     static int vlc_initialized = 0;
54
55     if(avctx->extradata_size < 16){
56         av_log(avctx, AV_LOG_ERROR, "Too small extradata size (%i)!\n", avctx->extradata_size);
57         return -1;
58     }
59     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
60     av_init_random(0xDEADBEEF, &c->rnd);
61     dsputil_init(&c->dsp, avctx);
62     c->dsp.bswap_buf((uint32_t*)buf, (const uint32_t*)avctx->extradata, 4);
63     ff_mpc_init();
64     init_get_bits(&gb, buf, 128);
65
66     c->IS = get_bits1(&gb);
67     c->MSS = get_bits1(&gb);
68     c->maxbands = get_bits(&gb, 6);
69     if(c->maxbands >= BANDS){
70         av_log(avctx, AV_LOG_ERROR, "Too many bands: %i\n", c->maxbands);
71         return -1;
72     }
73     skip_bits(&gb, 88);
74     c->gapless = get_bits1(&gb);
75     c->lastframelen = get_bits(&gb, 11);
76     av_log(avctx, AV_LOG_DEBUG, "IS: %d, MSS: %d, TG: %d, LFL: %d, bands: %d\n",
77             c->IS, c->MSS, c->gapless, c->lastframelen, c->maxbands);
78     c->frames_to_skip = 0;
79
80     if(vlc_initialized) return 0;
81     av_log(avctx, AV_LOG_DEBUG, "Initing VLC\n");
82     if(init_vlc(&scfi_vlc, MPC7_SCFI_BITS, MPC7_SCFI_SIZE,
83                 &mpc7_scfi[1], 2, 1,
84                 &mpc7_scfi[0], 2, 1, INIT_VLC_USE_STATIC)){
85         av_log(avctx, AV_LOG_ERROR, "Cannot init SCFI VLC\n");
86         return -1;
87     }
88     if(init_vlc(&dscf_vlc, MPC7_DSCF_BITS, MPC7_DSCF_SIZE,
89                 &mpc7_dscf[1], 2, 1,
90                 &mpc7_dscf[0], 2, 1, INIT_VLC_USE_STATIC)){
91         av_log(avctx, AV_LOG_ERROR, "Cannot init DSCF VLC\n");
92         return -1;
93     }
94     if(init_vlc(&hdr_vlc, MPC7_HDR_BITS, MPC7_HDR_SIZE,
95                 &mpc7_hdr[1], 2, 1,
96                 &mpc7_hdr[0], 2, 1, INIT_VLC_USE_STATIC)){
97         av_log(avctx, AV_LOG_ERROR, "Cannot init HDR VLC\n");
98         return -1;
99     }
100     for(i = 0; i < MPC7_QUANT_VLC_TABLES; i++){
101         for(j = 0; j < 2; j++){
102             if(init_vlc(&quant_vlc[i][j], 9, mpc7_quant_vlc_sizes[i],
103                         &mpc7_quant_vlc[i][j][1], 4, 2,
104                         &mpc7_quant_vlc[i][j][0], 4, 2, INIT_VLC_USE_STATIC)){
105                 av_log(avctx, AV_LOG_ERROR, "Cannot init QUANT VLC %i,%i\n",i,j);
106                 return -1;
107             }
108         }
109     }
110     vlc_initialized = 1;
111     avctx->sample_fmt = SAMPLE_FMT_S16;
112     return 0;
113 }
114
115 /**
116  * Fill samples for given subband
117  */
118 static inline void idx_to_quant(MPCContext *c, GetBitContext *gb, int idx, int *dst)
119 {
120     int i, i1, t;
121     switch(idx){
122     case -1:
123         for(i = 0; i < SAMPLES_PER_BAND; i++){
124             *dst++ = (av_random(&c->rnd) & 0x3FC) - 510;
125         }
126         break;
127     case 1:
128         i1 = get_bits1(gb);
129         for(i = 0; i < SAMPLES_PER_BAND/3; i++){
130             t = get_vlc2(gb, quant_vlc[0][i1].table, 9, 2);
131             *dst++ = mpc7_idx30[t];
132             *dst++ = mpc7_idx31[t];
133             *dst++ = mpc7_idx32[t];
134         }
135         break;
136     case 2:
137         i1 = get_bits1(gb);
138         for(i = 0; i < SAMPLES_PER_BAND/2; i++){
139             t = get_vlc2(gb, quant_vlc[1][i1].table, 9, 2);
140             *dst++ = mpc7_idx50[t];
141             *dst++ = mpc7_idx51[t];
142         }
143         break;
144     case  3: case  4: case  5: case  6: case  7:
145         i1 = get_bits1(gb);
146         for(i = 0; i < SAMPLES_PER_BAND; i++)
147             *dst++ = get_vlc2(gb, quant_vlc[idx-1][i1].table, 9, 2) - mpc7_quant_vlc_off[idx-1];
148         break;
149     case  8: case  9: case 10: case 11: case 12:
150     case 13: case 14: case 15: case 16: case 17:
151         t = (1 << (idx - 2)) - 1;
152         for(i = 0; i < SAMPLES_PER_BAND; i++)
153             *dst++ = get_bits(gb, idx - 1) - t;
154         break;
155     default: // case 0 and -2..-17
156         return;
157     }
158 }
159
160 static int mpc7_decode_frame(AVCodecContext * avctx,
161                             void *data, int *data_size,
162                             const uint8_t * buf, int buf_size)
163 {
164     MPCContext *c = avctx->priv_data;
165     GetBitContext gb;
166     uint8_t *bits;
167     int i, ch, t;
168     int mb = -1;
169     Band *bands = c->bands;
170     int off;
171     int bits_used, bits_avail;
172
173     memset(bands, 0, sizeof(bands));
174     if(buf_size <= 4){
175         av_log(avctx, AV_LOG_ERROR, "Too small buffer passed (%i bytes)\n", buf_size);
176     }
177
178     bits = av_malloc(((buf_size - 1) & ~3) + FF_INPUT_BUFFER_PADDING_SIZE);
179     c->dsp.bswap_buf((uint32_t*)bits, (const uint32_t*)(buf + 4), (buf_size - 4) >> 2);
180     init_get_bits(&gb, bits, (buf_size - 4)* 8);
181     skip_bits(&gb, buf[0]);
182
183     /* read subband indexes */
184     for(i = 0; i <= c->maxbands; i++){
185         for(ch = 0; ch < 2; ch++){
186             if(i) t = get_vlc2(&gb, hdr_vlc.table, MPC7_HDR_BITS, 1) - 5;
187             if(!i || (t == 4)) bands[i].res[ch] = get_bits(&gb, 4);
188             else bands[i].res[ch] = bands[i-1].res[ch] + t;
189         }
190
191         if(bands[i].res[0] || bands[i].res[1]){
192             mb = i;
193             if(c->MSS) bands[i].msf = get_bits1(&gb);
194         }
195     }
196     /* get scale indexes coding method */
197     for(i = 0; i <= mb; i++)
198         for(ch = 0; ch < 2; ch++)
199             if(bands[i].res[ch]) bands[i].scfi[ch] = get_vlc2(&gb, scfi_vlc.table, MPC7_SCFI_BITS, 1);
200     /* get scale indexes */
201     for(i = 0; i <= mb; i++){
202         for(ch = 0; ch < 2; ch++){
203             if(bands[i].res[ch]){
204                 bands[i].scf_idx[ch][2] = c->oldDSCF[ch][i];
205                 t = get_vlc2(&gb, dscf_vlc.table, MPC7_DSCF_BITS, 1) - 7;
206                 bands[i].scf_idx[ch][0] = (t == 8) ? get_bits(&gb, 6) : (bands[i].scf_idx[ch][2] + t);
207                 switch(bands[i].scfi[ch]){
208                 case 0:
209                     t = get_vlc2(&gb, dscf_vlc.table, MPC7_DSCF_BITS, 1) - 7;
210                     bands[i].scf_idx[ch][1] = (t == 8) ? get_bits(&gb, 6) : (bands[i].scf_idx[ch][0] + t);
211                     t = get_vlc2(&gb, dscf_vlc.table, MPC7_DSCF_BITS, 1) - 7;
212                     bands[i].scf_idx[ch][2] = (t == 8) ? get_bits(&gb, 6) : (bands[i].scf_idx[ch][1] + t);
213                     break;
214                 case 1:
215                     t = get_vlc2(&gb, dscf_vlc.table, MPC7_DSCF_BITS, 1) - 7;
216                     bands[i].scf_idx[ch][1] = (t == 8) ? get_bits(&gb, 6) : (bands[i].scf_idx[ch][0] + t);
217                     bands[i].scf_idx[ch][2] = bands[i].scf_idx[ch][1];
218                     break;
219                 case 2:
220                     bands[i].scf_idx[ch][1] = bands[i].scf_idx[ch][0];
221                     t = get_vlc2(&gb, dscf_vlc.table, MPC7_DSCF_BITS, 1) - 7;
222                     bands[i].scf_idx[ch][2] = (t == 8) ? get_bits(&gb, 6) : (bands[i].scf_idx[ch][1] + t);
223                     break;
224                 case 3:
225                     bands[i].scf_idx[ch][2] = bands[i].scf_idx[ch][1] = bands[i].scf_idx[ch][0];
226                     break;
227                 }
228                 c->oldDSCF[ch][i] = bands[i].scf_idx[ch][2];
229             }
230         }
231     }
232     /* get quantizers */
233     memset(c->Q, 0, sizeof(c->Q));
234     off = 0;
235     for(i = 0; i < BANDS; i++, off += SAMPLES_PER_BAND)
236         for(ch = 0; ch < 2; ch++)
237             idx_to_quant(c, &gb, bands[i].res[ch], c->Q[ch] + off);
238
239     ff_mpc_dequantize_and_synth(c, mb, data);
240
241     av_free(bits);
242
243     bits_used = get_bits_count(&gb);
244     bits_avail = (buf_size - 4) * 8;
245     if(!buf[1] && ((bits_avail < bits_used) || (bits_used + 32 <= bits_avail))){
246         av_log(NULL,0, "Error decoding frame: used %i of %i bits\n", bits_used, bits_avail);
247         return -1;
248     }
249     if(c->frames_to_skip){
250         c->frames_to_skip--;
251         *data_size = 0;
252         return buf_size;
253     }
254     *data_size = (buf[1] ? c->lastframelen : MPC_FRAME_SIZE) * 4;
255
256     return buf_size;
257 }
258
259 static void mpc7_decode_flush(AVCodecContext *avctx)
260 {
261     MPCContext *c = avctx->priv_data;
262
263     memset(c->oldDSCF, 0, sizeof(c->oldDSCF));
264     c->frames_to_skip = 32;
265 }
266
267 AVCodec mpc7_decoder = {
268     "mpc7",
269     CODEC_TYPE_AUDIO,
270     CODEC_ID_MUSEPACK7,
271     sizeof(MPCContext),
272     mpc7_decode_init,
273     NULL,
274     NULL,
275     mpc7_decode_frame,
276     .flush = mpc7_decode_flush,
277     .long_name = NULL_IF_CONFIG_SMALL("Musepack SV7"),
278 };