Check available size before writing in decode_frame()
[ffmpeg.git] / libavcodec / ra144.c
1 /*
2  * Real Audio 1.0 (14.4K)
3  *
4  * Copyright (c) 2008 Vitor Sessak
5  * Copyright (c) 2003 Nick Kurshev
6  *     Based on public domain decoder at http://www.honeypot.net/audio
7  *
8  * This file is part of FFmpeg.
9  *
10  * FFmpeg is free software; you can redistribute it and/or
11  * modify it under the terms of the GNU Lesser General Public
12  * License as published by the Free Software Foundation; either
13  * version 2.1 of the License, or (at your option) any later version.
14  *
15  * FFmpeg is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18  * Lesser General Public License for more details.
19  *
20  * You should have received a copy of the GNU Lesser General Public
21  * License along with FFmpeg; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
23  */
24
25 #include "avcodec.h"
26 #include "bitstream.h"
27 #include "ra144.h"
28 #include "acelp_filters.h"
29
30 #define NBLOCKS         4       ///< number of subblocks within a block
31 #define BLOCKSIZE       40      ///< subblock size in 16-bit words
32 #define BUFFERSIZE      146     ///< the size of the adaptive codebook
33
34
35 typedef struct {
36     unsigned int     old_energy;        ///< previous frame energy
37
38     unsigned int     lpc_tables[2][10];
39
40     /** LPC coefficients: lpc_coef[0] is the coefficients of the current frame
41      *  and lpc_coef[1] of the previous one */
42     unsigned int    *lpc_coef[2];
43
44     unsigned int     lpc_refl_rms[2];
45
46     /** the current subblock padded by the last 10 values of the previous one*/
47     int16_t curr_sblock[50];
48
49     /** adaptive codebook. Its size is two units bigger to avoid a
50      *  buffer overflow */
51     uint16_t adapt_cb[148];
52 } RA144Context;
53
54 static int ra144_decode_init(AVCodecContext * avctx)
55 {
56     RA144Context *ractx = avctx->priv_data;
57
58     ractx->lpc_coef[0] = ractx->lpc_tables[0];
59     ractx->lpc_coef[1] = ractx->lpc_tables[1];
60
61     avctx->sample_fmt = SAMPLE_FMT_S16;
62     return 0;
63 }
64
65 /**
66  * Evaluate sqrt(x << 24). x must fit in 20 bits. This value is evaluated in an
67  * odd way to make the output identical to the binary decoder.
68  */
69 static int t_sqrt(unsigned int x)
70 {
71     int s = 2;
72     while (x > 0xfff) {
73         s++;
74         x = x >> 2;
75     }
76
77     return ff_sqrt(x << 20) << s;
78 }
79
80 /**
81  * Evaluate the LPC filter coefficients from the reflection coefficients.
82  * Does the inverse of the eval_refl() function.
83  */
84 static void eval_coefs(int *coefs, const int *refl)
85 {
86     int buffer[10];
87     int *b1 = buffer;
88     int *b2 = coefs;
89     int i, j;
90
91     for (i=0; i < 10; i++) {
92         b1[i] = refl[i] << 4;
93
94         for (j=0; j < i; j++)
95             b1[j] = ((refl[i] * b2[i-j-1]) >> 12) + b2[j];
96
97         FFSWAP(int *, b1, b2);
98     }
99
100     for (i=0; i < 10; i++)
101         coefs[i] >>= 4;
102 }
103
104 /**
105  * Copy the last offset values of *source to *target. If those values are not
106  * enough to fill the target buffer, fill it with another copy of those values.
107  */
108 static void copy_and_dup(int16_t *target, const int16_t *source, int offset)
109 {
110     source += BUFFERSIZE - offset;
111
112     if (offset > BLOCKSIZE) {
113         memcpy(target, source, BLOCKSIZE*sizeof(*target));
114     } else {
115         memcpy(target, source, offset*sizeof(*target));
116         memcpy(target + offset, source, (BLOCKSIZE - offset)*sizeof(*target));
117     }
118 }
119
120 /** inverse root mean square */
121 static int irms(const int16_t *data)
122 {
123     unsigned int i, sum = 0;
124
125     for (i=0; i < BLOCKSIZE; i++)
126         sum += data[i] * data[i];
127
128     if (sum == 0)
129         return 0; /* OOPS - division by zero */
130
131     return 0x20000000 / (t_sqrt(sum) >> 8);
132 }
133
134 static void add_wav(int16_t *dest, int n, int skip_first, int *m,
135                     const int16_t *s1, const int8_t *s2, const int8_t *s3)
136 {
137     int i;
138     int v[3];
139
140     v[0] = 0;
141     for (i=!skip_first; i<3; i++)
142         v[i] = (gain_val_tab[n][i] * m[i]) >> (gain_exp_tab[n][i] + 1);
143
144     for (i=0; i < BLOCKSIZE; i++)
145         dest[i] = (s1[i]*v[0] + s2[i]*v[1] + s3[i]*v[2]) >> 12;
146 }
147
148 static unsigned int rescale_rms(unsigned int rms, unsigned int energy)
149 {
150     return (rms * energy) >> 10;
151 }
152
153 static unsigned int rms(const int *data)
154 {
155     int i;
156     unsigned int res = 0x10000;
157     int b = 0;
158
159     for (i=0; i < 10; i++) {
160         res = (((0x1000000 - data[i]*data[i]) >> 12) * res) >> 12;
161
162         if (res == 0)
163             return 0;
164
165         while (res <= 0x3fff) {
166             b++;
167             res <<= 2;
168         }
169     }
170
171     res = t_sqrt(res);
172
173     res >>= (b + 10);
174     return res;
175 }
176
177 static void do_output_subblock(RA144Context *ractx, const uint16_t  *lpc_coefs,
178                                int gval, GetBitContext *gb)
179 {
180     uint16_t buffer_a[40];
181     uint16_t *block;
182     int cba_idx = get_bits(gb, 7); // index of the adaptive CB, 0 if none
183     int gain    = get_bits(gb, 8);
184     int cb1_idx = get_bits(gb, 7);
185     int cb2_idx = get_bits(gb, 7);
186     int m[3];
187
188     if (cba_idx) {
189         cba_idx += BLOCKSIZE/2 - 1;
190         copy_and_dup(buffer_a, ractx->adapt_cb, cba_idx);
191         m[0] = (irms(buffer_a) * gval) >> 12;
192     } else {
193         m[0] = 0;
194     }
195
196     m[1] = (cb1_base[cb1_idx] * gval) >> 8;
197     m[2] = (cb2_base[cb2_idx] * gval) >> 8;
198
199     memmove(ractx->adapt_cb, ractx->adapt_cb + BLOCKSIZE,
200             (BUFFERSIZE - BLOCKSIZE) * sizeof(*ractx->adapt_cb));
201
202     block = ractx->adapt_cb + BUFFERSIZE - BLOCKSIZE;
203
204     add_wav(block, gain, cba_idx, m, buffer_a,
205             cb1_vects[cb1_idx], cb2_vects[cb2_idx]);
206
207     memcpy(ractx->curr_sblock, ractx->curr_sblock + 40,
208            10*sizeof(*ractx->curr_sblock));
209     memcpy(ractx->curr_sblock + 10, block,
210            BLOCKSIZE*sizeof(*ractx->curr_sblock));
211
212     if (ff_acelp_lp_synthesis_filter(
213                                      ractx->curr_sblock + 10, lpc_coefs,
214                                      ractx->curr_sblock + 10, BLOCKSIZE,
215                                      10, 1, 0xfff)
216         )
217         memset(ractx->curr_sblock, 0, 50*sizeof(*ractx->curr_sblock));
218 }
219
220 static void int_to_int16(int16_t *out, const int *inp)
221 {
222     int i;
223
224     for (i=0; i < 30; i++)
225         *(out++) = *(inp++);
226 }
227
228 /**
229  * Evaluate the reflection coefficients from the filter coefficients.
230  * Does the inverse of the eval_coefs() function.
231  *
232  * @return 1 if one of the reflection coefficients is of magnitude greater than
233  *         4095, 0 if not.
234  */
235 static int eval_refl(int *refl, const int16_t *coefs, RA144Context *ractx)
236 {
237     int retval = 0;
238     int b, c, i;
239     unsigned int u;
240     int buffer1[10];
241     int buffer2[10];
242     int *bp1 = buffer1;
243     int *bp2 = buffer2;
244
245     for (i=0; i < 10; i++)
246         buffer2[i] = coefs[i];
247
248     u = refl[9] = bp2[9];
249
250     if (u + 0x1000 > 0x1fff) {
251         av_log(ractx, AV_LOG_ERROR, "Overflow. Broken sample?\n");
252         return 1;
253     }
254
255     for (c=8; c >= 0; c--) {
256         if (u == 0x1000)
257             u++;
258
259         if (u == 0xfffff000)
260             u--;
261
262         b = 0x1000-((u * u) >> 12);
263
264         if (b == 0)
265             b++;
266
267         for (u=0; u<=c; u++)
268             bp1[u] = ((bp2[u] - ((refl[c+1] * bp2[c-u]) >> 12)) * (0x1000000 / b)) >> 12;
269
270         refl[c] = u = bp1[c];
271
272         if ((u + 0x1000) > 0x1fff)
273             retval = 1;
274
275         FFSWAP(int *, bp1, bp2);
276     }
277     return retval;
278 }
279
280 static int interp(RA144Context *ractx, int16_t *out, int block_num,
281                   int copyold, int energy)
282 {
283     int work[10];
284     int a = block_num + 1;
285     int b = NBLOCKS - a;
286     int i;
287
288     // Interpolate block coefficients from the this frame forth block and
289     // last frame forth block
290     for (i=0; i<30; i++)
291         out[i] = (a * ractx->lpc_coef[0][i] + b * ractx->lpc_coef[1][i])>> 2;
292
293     if (eval_refl(work, out, ractx)) {
294         // The interpolated coefficients are unstable, copy either new or old
295         // coefficients
296         int_to_int16(out, ractx->lpc_coef[copyold]);
297         return rescale_rms(ractx->lpc_refl_rms[copyold], energy);
298     } else {
299         return rescale_rms(rms(work), energy);
300     }
301 }
302
303 /** Uncompress one block (20 bytes -> 160*2 bytes) */
304 static int ra144_decode_frame(AVCodecContext * avctx, void *vdata,
305                               int *data_size, const uint8_t *buf, int buf_size)
306 {
307     static const uint8_t sizes[10] = {6, 5, 5, 4, 4, 3, 3, 3, 3, 2};
308     unsigned int refl_rms[4];    // RMS of the reflection coefficients
309     uint16_t block_coefs[4][30]; // LPC coefficients of each sub-block
310     unsigned int lpc_refl[10];   // LPC reflection coefficients of the frame
311     int i, j;
312     int16_t *data = vdata;
313     unsigned int energy;
314
315     RA144Context *ractx = avctx->priv_data;
316     GetBitContext gb;
317
318     if (*data_size < 2*160)
319         return -1;
320
321     if(buf_size < 20) {
322         av_log(avctx, AV_LOG_ERROR,
323                "Frame too small (%d bytes). Truncated file?\n", buf_size);
324         *data_size = 0;
325         return buf_size;
326     }
327     init_get_bits(&gb, buf, 20 * 8);
328
329     for (i=0; i<10; i++)
330         lpc_refl[i] = lpc_refl_cb[i][get_bits(&gb, sizes[i])];
331
332     eval_coefs(ractx->lpc_coef[0], lpc_refl);
333     ractx->lpc_refl_rms[0] = rms(lpc_refl);
334
335     energy = energy_tab[get_bits(&gb, 5)];
336
337     refl_rms[0] = interp(ractx, block_coefs[0], 0, 1, ractx->old_energy);
338     refl_rms[1] = interp(ractx, block_coefs[1], 1, energy <= ractx->old_energy,
339                     t_sqrt(energy*ractx->old_energy) >> 12);
340     refl_rms[2] = interp(ractx, block_coefs[2], 2, 0, energy);
341     refl_rms[3] = rescale_rms(ractx->lpc_refl_rms[0], energy);
342
343     int_to_int16(block_coefs[3], ractx->lpc_coef[0]);
344
345     for (i=0; i < 4; i++) {
346         do_output_subblock(ractx, block_coefs[i], refl_rms[i], &gb);
347
348         for (j=0; j < BLOCKSIZE; j++)
349             *data++ = av_clip_int16(ractx->curr_sblock[j + 10] << 2);
350     }
351
352     ractx->old_energy = energy;
353     ractx->lpc_refl_rms[1] = ractx->lpc_refl_rms[0];
354
355     FFSWAP(unsigned int *, ractx->lpc_coef[0], ractx->lpc_coef[1]);
356
357     *data_size = 2*160;
358     return 20;
359 }
360
361 AVCodec ra_144_decoder =
362 {
363     "real_144",
364     CODEC_TYPE_AUDIO,
365     CODEC_ID_RA_144,
366     sizeof(RA144Context),
367     ra144_decode_init,
368     NULL,
369     NULL,
370     ra144_decode_frame,
371     .long_name = NULL_IF_CONFIG_SMALL("RealAudio 1.0 (14.4K)"),
372 };