adx: fix the data offset parsing in adx_decode_header()
[ffmpeg.git] / libavcodec / adxdec.c
1 /*
2  * ADX ADPCM codecs
3  * Copyright (c) 2001,2003 BERO
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/intreadwrite.h"
23 #include "avcodec.h"
24 #include "adx.h"
25
26 /**
27  * @file
28  * SEGA CRI adx codecs.
29  *
30  * Reference documents:
31  * http://ku-www.ss.titech.ac.jp/~yatsushi/adx.html
32  * adx2wav & wav2adx http://www.geocities.co.jp/Playtown/2004/
33  */
34
35 static av_cold int adx_decode_init(AVCodecContext *avctx)
36 {
37     avctx->sample_fmt = AV_SAMPLE_FMT_S16;
38     return 0;
39 }
40
41 /**
42  * Decode 32 samples from 18 bytes.
43  *
44  * A 16-bit scalar value is applied to 32 residuals, which then have a
45  * 2nd-order LPC filter applied to it to form the output signal for a single
46  * channel.
47  */
48 static void adx_decode(ADXContext *c, int16_t *out, const uint8_t *in, int ch)
49 {
50     ADXChannelState *prev = &c->prev[ch];
51     int scale = AV_RB16(in);
52     int i;
53     int s0, s1, s2, d;
54
55     in += 2;
56     s1 = prev->s1;
57     s2 = prev->s2;
58     for (i = 0; i < 16; i++) {
59         d  = in[i];
60         d  = (signed char)d >> 4;
61         s0 = (BASEVOL * d * scale + SCALE1 * s1 - SCALE2 * s2) >> 14;
62         s2 = s1;
63         s1 = av_clip_int16(s0);
64         *out = s1;
65         out += c->channels;
66
67         d  = in[i];
68         d  = (signed char)(d << 4) >> 4;
69         s0 = (BASEVOL * d * scale + SCALE1 * s1 - SCALE2 * s2) >> 14;
70         s2 = s1;
71         s1 = av_clip_int16(s0);
72         *out = s1;
73         out += c->channels;
74     }
75     prev->s1 = s1;
76     prev->s2 = s2;
77 }
78
79 /**
80  * Decode stream header.
81  *
82  * @param avctx   codec context
83  * @param buf     packet data
84  * @param bufsize packet size
85  * @return data offset or negative error code if header is invalid
86  */
87 static int adx_decode_header(AVCodecContext *avctx, const uint8_t *buf,
88                              int bufsize)
89 {
90     ADXContext *c = avctx->priv_data;
91     int offset;
92
93     if (AV_RB16(buf) != 0x8000)
94         return AVERROR_INVALIDDATA;
95     offset = AV_RB16(buf + 2) + 4;
96     if (bufsize < offset || memcmp(buf + offset - 6, "(c)CRI", 6))
97         return AVERROR_INVALIDDATA;
98
99     c->channels = avctx->channels = buf[7];
100     if (avctx->channels > 2)
101         return AVERROR_INVALIDDATA;
102     avctx->sample_rate = AV_RB32(buf + 8);
103     if (avctx->sample_rate < 1 ||
104         avctx->sample_rate > INT_MAX / (avctx->channels * 18 * 8))
105         return AVERROR_INVALIDDATA;
106     avctx->bit_rate    = avctx->sample_rate * avctx->channels * 18 * 8 / 32;
107
108     return offset;
109 }
110
111 static int adx_decode_frame(AVCodecContext *avctx, void *data, int *data_size,
112                             AVPacket *avpkt)
113 {
114     const uint8_t *buf0 = avpkt->data;
115     int buf_size        = avpkt->size;
116     ADXContext *c       = avctx->priv_data;
117     int16_t *samples    = data;
118     const uint8_t *buf  = buf0;
119     int rest            = buf_size;
120
121     if (!c->header_parsed) {
122         int hdrsize = adx_decode_header(avctx, buf, rest);
123         if (hdrsize < 0) {
124             av_log(avctx, AV_LOG_ERROR, "invalid stream header\n");
125             return hdrsize;
126         }
127         c->header_parsed = 1;
128         buf  += hdrsize;
129         rest -= hdrsize;
130     }
131
132     /* 18 bytes of data are expanded into 32*2 bytes of audio,
133        so guard against buffer overflows */
134     if (rest / 18 > *data_size / 64)
135         rest = (*data_size / 64) * 18;
136
137     if (c->in_temp) {
138         int copysize = 18 * avctx->channels - c->in_temp;
139         memcpy(c->dec_temp + c->in_temp, buf, copysize);
140         rest -= copysize;
141         buf  += copysize;
142         adx_decode(c, samples, c->dec_temp, 0);
143         if (avctx->channels == 2)
144             adx_decode(c, samples + 1, c->dec_temp + 18, 1);
145         samples += 32 * c->channels;
146     }
147
148     while (rest >= 18 * c->channels) {
149         adx_decode(c, samples, buf, 0);
150         if (c->channels == 2)
151             adx_decode(c, samples + 1, buf + 18, 1);
152         rest    -= 18 * c->channels;
153         buf     += 18 * c->channels;
154         samples += 32 * c->channels;
155     }
156
157     c->in_temp = rest;
158     if (rest) {
159         memcpy(c->dec_temp, buf, rest);
160         buf += rest;
161     }
162     *data_size = (uint8_t*)samples - (uint8_t*)data;
163     return buf - buf0;
164 }
165
166 AVCodec ff_adpcm_adx_decoder = {
167     .name           = "adpcm_adx",
168     .type           = AVMEDIA_TYPE_AUDIO,
169     .id             = CODEC_ID_ADPCM_ADX,
170     .priv_data_size = sizeof(ADXContext),
171     .init           = adx_decode_init,
172     .decode         = adx_decode_frame,
173     .long_name      = NULL_IF_CONFIG_SMALL("SEGA CRI ADX ADPCM"),
174 };