adx: calculate the number of blocks in a packet
[ffmpeg.git] / libavcodec / adxdec.c
1 /*
2  * ADX ADPCM codecs
3  * Copyright (c) 2001,2003 BERO
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/intreadwrite.h"
23 #include "avcodec.h"
24 #include "adx.h"
25 #include "get_bits.h"
26
27 /**
28  * @file
29  * SEGA CRI adx codecs.
30  *
31  * Reference documents:
32  * http://ku-www.ss.titech.ac.jp/~yatsushi/adx.html
33  * adx2wav & wav2adx http://www.geocities.co.jp/Playtown/2004/
34  */
35
36 #define BLOCK_SIZE      18
37 #define BLOCK_SAMPLES   32
38
39 static av_cold int adx_decode_init(AVCodecContext *avctx)
40 {
41     avctx->sample_fmt = AV_SAMPLE_FMT_S16;
42     return 0;
43 }
44
45 /**
46  * Decode 32 samples from 18 bytes.
47  *
48  * A 16-bit scalar value is applied to 32 residuals, which then have a
49  * 2nd-order LPC filter applied to it to form the output signal for a single
50  * channel.
51  */
52 static void adx_decode(ADXContext *c, int16_t *out, const uint8_t *in, int ch)
53 {
54     ADXChannelState *prev = &c->prev[ch];
55     GetBitContext gb;
56     int scale = AV_RB16(in);
57     int i;
58     int s0, s1, s2, d;
59
60     init_get_bits(&gb, in + 2, (BLOCK_SIZE - 2) * 8);
61     s1 = prev->s1;
62     s2 = prev->s2;
63     for (i = 0; i < BLOCK_SAMPLES; i++) {
64         d  = get_sbits(&gb, 4);
65         s0 = ((d << COEFF_BITS) * scale + c->coeff[0] * s1 + c->coeff[1] * s2) >> COEFF_BITS;
66         s2 = s1;
67         s1 = av_clip_int16(s0);
68         *out = s1;
69         out += c->channels;
70     }
71     prev->s1 = s1;
72     prev->s2 = s2;
73 }
74
75 /**
76  * Decode stream header.
77  *
78  * @param avctx   codec context
79  * @param buf     packet data
80  * @param bufsize packet size
81  * @return data offset or negative error code if header is invalid
82  */
83 static int adx_decode_header(AVCodecContext *avctx, const uint8_t *buf,
84                              int bufsize)
85 {
86     ADXContext *c = avctx->priv_data;
87     int offset, cutoff;
88
89     if (AV_RB16(buf) != 0x8000)
90         return AVERROR_INVALIDDATA;
91     offset = AV_RB16(buf + 2) + 4;
92     if (bufsize < offset || memcmp(buf + offset - 6, "(c)CRI", 6))
93         return AVERROR_INVALIDDATA;
94
95     /* check for encoding=3 block_size=18, sample_size=4 */
96     if (buf[4] != 3 || buf[5] != 18 || buf[6] != 4) {
97         av_log_ask_for_sample(avctx, "unsupported ADX format\n");
98         return AVERROR_PATCHWELCOME;
99     }
100
101     c->channels = avctx->channels = buf[7];
102     if (avctx->channels > 2)
103         return AVERROR_INVALIDDATA;
104     avctx->sample_rate = AV_RB32(buf + 8);
105     if (avctx->sample_rate < 1 ||
106         avctx->sample_rate > INT_MAX / (avctx->channels * BLOCK_SIZE * 8))
107         return AVERROR_INVALIDDATA;
108     avctx->bit_rate = avctx->sample_rate * avctx->channels * BLOCK_SIZE * 8 / BLOCK_SAMPLES;
109
110     cutoff = AV_RB16(buf + 16);
111     ff_adx_calculate_coeffs(cutoff, avctx->sample_rate, COEFF_BITS, c->coeff);
112
113     return offset;
114 }
115
116 static int adx_decode_frame(AVCodecContext *avctx, void *data, int *data_size,
117                             AVPacket *avpkt)
118 {
119     const uint8_t *buf0 = avpkt->data;
120     int buf_size        = avpkt->size;
121     ADXContext *c       = avctx->priv_data;
122     int16_t *samples    = data;
123     const uint8_t *buf  = buf0;
124     int rest            = buf_size;
125     int num_blocks;
126
127     if (!c->header_parsed) {
128         int hdrsize = adx_decode_header(avctx, buf, rest);
129         if (hdrsize < 0) {
130             av_log(avctx, AV_LOG_ERROR, "invalid stream header\n");
131             return hdrsize;
132         }
133         c->header_parsed = 1;
134         buf  += hdrsize;
135         rest -= hdrsize;
136     }
137
138     /* 18 bytes of data are expanded into 32*2 bytes of audio,
139        so guard against buffer overflows */
140     num_blocks = (rest + c->in_temp) / (BLOCK_SIZE * c->channels);
141     if (num_blocks > *data_size / (BLOCK_SAMPLES * c->channels)) {
142         rest = (*data_size / (BLOCK_SAMPLES * c->channels)) * BLOCK_SIZE;
143         num_blocks = (rest + c->in_temp) / (BLOCK_SIZE * c->channels);
144     }
145     if (!num_blocks) {
146         av_log(avctx, AV_LOG_ERROR, "packet is too small\n");
147         return AVERROR_INVALIDDATA;
148     }
149
150     if (c->in_temp) {
151         int copysize = BLOCK_SIZE * avctx->channels - c->in_temp;
152         memcpy(c->dec_temp + c->in_temp, buf, copysize);
153         rest -= copysize;
154         buf  += copysize;
155         adx_decode(c, samples, c->dec_temp, 0);
156         if (avctx->channels == 2)
157             adx_decode(c, samples + 1, c->dec_temp + BLOCK_SIZE, 1);
158         samples += BLOCK_SAMPLES * c->channels;
159         num_blocks--;
160     }
161
162     while (num_blocks--) {
163         adx_decode(c, samples, buf, 0);
164         if (c->channels == 2)
165             adx_decode(c, samples + 1, buf + BLOCK_SIZE, 1);
166         rest    -= BLOCK_SIZE * c->channels;
167         buf     += BLOCK_SIZE * c->channels;
168         samples += BLOCK_SAMPLES * c->channels;
169     }
170
171     c->in_temp = rest;
172     if (rest) {
173         memcpy(c->dec_temp, buf, rest);
174         buf += rest;
175     }
176     *data_size = (uint8_t*)samples - (uint8_t*)data;
177     return buf - buf0;
178 }
179
180 AVCodec ff_adpcm_adx_decoder = {
181     .name           = "adpcm_adx",
182     .type           = AVMEDIA_TYPE_AUDIO,
183     .id             = CODEC_ID_ADPCM_ADX,
184     .priv_data_size = sizeof(ADXContext),
185     .init           = adx_decode_init,
186     .decode         = adx_decode_frame,
187     .long_name      = NULL_IF_CONFIG_SMALL("SEGA CRI ADX ADPCM"),
188 };