Do not try to decode more data than output buffer may hold
[ffmpeg.git] / libavcodec / adx.c
1 /*
2  * ADX ADPCM codecs
3  * Copyright (c) 2001,2003 BERO
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21 #include "avcodec.h"
22
23 /**
24  * @file adx.c
25  * SEGA CRI adx codecs.
26  *
27  * Reference documents:
28  * http://ku-www.ss.titech.ac.jp/~yatsushi/adx.html
29  * adx2wav & wav2adx http://www.geocities.co.jp/Playtown/2004/
30  */
31
32 typedef struct {
33     int s1,s2;
34 } PREV;
35
36 typedef struct {
37     PREV prev[2];
38     int header_parsed;
39     unsigned char dec_temp[18*2];
40     unsigned short enc_temp[32*2];
41     int in_temp;
42 } ADXContext;
43
44 //#define    BASEVOL    0x11e0
45 #define    BASEVOL   0x4000
46 #define    SCALE1    0x7298
47 #define    SCALE2    0x3350
48
49 /* 18 bytes <-> 32 samples */
50
51 #ifdef CONFIG_ENCODERS
52 static void adx_encode(unsigned char *adx,const short *wav,PREV *prev)
53 {
54     int scale;
55     int i;
56     int s0,s1,s2,d;
57     int max=0;
58     int min=0;
59     int data[32];
60
61     s1 = prev->s1;
62     s2 = prev->s2;
63     for(i=0;i<32;i++) {
64         s0 = wav[i];
65         d = ((s0<<14) - SCALE1*s1 + SCALE2*s2)/BASEVOL;
66         data[i]=d;
67         if (max<d) max=d;
68         if (min>d) min=d;
69         s2 = s1;
70         s1 = s0;
71     }
72     prev->s1 = s1;
73     prev->s2 = s2;
74
75     /* -8..+7 */
76
77     if (max==0 && min==0) {
78         memset(adx,0,18);
79         return;
80     }
81
82     if (max/7>-min/8) scale = max/7;
83     else scale = -min/8;
84
85     if (scale==0) scale=1;
86
87     AV_WB16(adx, scale);
88
89     for(i=0;i<16;i++) {
90         adx[i+2] = ((data[i*2]/scale)<<4) | ((data[i*2+1]/scale)&0xf);
91     }
92 }
93 #endif //CONFIG_ENCODERS
94
95 static void adx_decode(short *out,const unsigned char *in,PREV *prev)
96 {
97     int scale = AV_RB16(in);
98     int i;
99     int s0,s1,s2,d;
100
101 //    printf("%x ",scale);
102
103     in+=2;
104     s1 = prev->s1;
105     s2 = prev->s2;
106     for(i=0;i<16;i++) {
107         d = in[i];
108         // d>>=4; if (d&8) d-=16;
109         d = ((signed char)d >> 4);
110         s0 = (BASEVOL*d*scale + SCALE1*s1 - SCALE2*s2)>>14;
111         s2 = s1;
112         s1 = av_clip_int16(s0);
113         *out++=s1;
114
115         d = in[i];
116         //d&=15; if (d&8) d-=16;
117         d = ((signed char)(d<<4) >> 4);
118         s0 = (BASEVOL*d*scale + SCALE1*s1 - SCALE2*s2)>>14;
119         s2 = s1;
120         s1 = av_clip_int16(s0);
121         *out++=s1;
122     }
123     prev->s1 = s1;
124     prev->s2 = s2;
125
126 }
127
128 static void adx_decode_stereo(short *out,const unsigned char *in,PREV *prev)
129 {
130     short tmp[32*2];
131     int i;
132
133     adx_decode(tmp   ,in   ,prev);
134     adx_decode(tmp+32,in+18,prev+1);
135     for(i=0;i<32;i++) {
136         out[i*2]   = tmp[i];
137         out[i*2+1] = tmp[i+32];
138     }
139 }
140
141 #ifdef CONFIG_ENCODERS
142
143 static int adx_encode_header(AVCodecContext *avctx,unsigned char *buf,size_t bufsize)
144 {
145 #if 0
146     struct {
147         uint32_t offset; /* 0x80000000 + sample start - 4 */
148         unsigned char unknown1[3]; /* 03 12 04 */
149         unsigned char channel; /* 1 or 2 */
150         uint32_t freq;
151         uint32_t size;
152         uint32_t unknown2; /* 01 f4 03 00 */
153         uint32_t unknown3; /* 00 00 00 00 */
154         uint32_t unknown4; /* 00 00 00 00 */
155
156     /* if loop
157         unknown3 00 15 00 01
158         unknown4 00 00 00 01
159         long loop_start_sample;
160         long loop_start_byte;
161         long loop_end_sample;
162         long loop_end_byte;
163         long
164     */
165     } adxhdr; /* big endian */
166     /* offset-6 "(c)CRI" */
167 #endif
168     AV_WB32(buf+0x00,0x80000000|0x20);
169     AV_WB32(buf+0x04,0x03120400|avctx->channels);
170     AV_WB32(buf+0x08,avctx->sample_rate);
171     AV_WB32(buf+0x0c,0); /* FIXME: set after */
172     AV_WB32(buf+0x10,0x01040300);
173     AV_WB32(buf+0x14,0x00000000);
174     AV_WB32(buf+0x18,0x00000000);
175     memcpy(buf+0x1c,"\0\0(c)CRI",8);
176     return 0x20+4;
177 }
178
179 static int adx_decode_init(AVCodecContext *avctx);
180 static int adx_encode_init(AVCodecContext *avctx)
181 {
182     if (avctx->channels > 2)
183         return -1; /* only stereo or mono =) */
184     avctx->frame_size = 32;
185
186     avctx->coded_frame= avcodec_alloc_frame();
187     avctx->coded_frame->key_frame= 1;
188
189 //    avctx->bit_rate = avctx->sample_rate*avctx->channels*18*8/32;
190
191     av_log(avctx, AV_LOG_DEBUG, "adx encode init\n");
192     adx_decode_init(avctx);
193
194     return 0;
195 }
196
197 static int adx_encode_close(AVCodecContext *avctx)
198 {
199     av_freep(&avctx->coded_frame);
200
201     return 0;
202 }
203
204 static int adx_encode_frame(AVCodecContext *avctx,
205                 uint8_t *frame, int buf_size, void *data)
206 {
207     ADXContext *c = avctx->priv_data;
208     const short *samples = data;
209     unsigned char *dst = frame;
210     int rest = avctx->frame_size;
211
212 /*
213     input data size =
214     ffmpeg.c: do_audio_out()
215     frame_bytes = enc->frame_size * 2 * enc->channels;
216 */
217
218 //    printf("sz=%d ",buf_size); fflush(stdout);
219     if (!c->header_parsed) {
220         int hdrsize = adx_encode_header(avctx,dst,buf_size);
221         dst+=hdrsize;
222         c->header_parsed = 1;
223     }
224
225     if (avctx->channels==1) {
226         while(rest>=32) {
227             adx_encode(dst,samples,c->prev);
228             dst+=18;
229             samples+=32;
230             rest-=32;
231         }
232     } else {
233         while(rest>=32*2) {
234             short tmpbuf[32*2];
235             int i;
236
237             for(i=0;i<32;i++) {
238                 tmpbuf[i] = samples[i*2];
239                 tmpbuf[i+32] = samples[i*2+1];
240             }
241
242             adx_encode(dst,tmpbuf,c->prev);
243             adx_encode(dst+18,tmpbuf+32,c->prev+1);
244             dst+=18*2;
245             samples+=32*2;
246             rest-=32*2;
247         }
248     }
249     return dst-frame;
250 }
251
252 #endif //CONFIG_ENCODERS
253
254 static int is_adx(const unsigned char *buf,size_t bufsize)
255 {
256     int    offset;
257
258     if (buf[0]!=0x80) return 0;
259     offset = (AV_RB32(buf)^0x80000000)+4;
260     if (bufsize<offset || memcmp(buf+offset-6,"(c)CRI",6)) return 0;
261     return offset;
262 }
263
264 /* return data offset or 6 */
265 static int adx_decode_header(AVCodecContext *avctx,const unsigned char *buf,size_t bufsize)
266 {
267     int offset;
268     int channels,freq,size;
269
270     offset = is_adx(buf,bufsize);
271     if (offset==0) return 0;
272
273     channels = buf[7];
274     freq = AV_RB32(buf+8);
275     size = AV_RB32(buf+12);
276
277 //    printf("freq=%d ch=%d\n",freq,channels);
278
279     avctx->sample_rate = freq;
280     avctx->channels = channels;
281     avctx->bit_rate = freq*channels*18*8/32;
282 //    avctx->frame_size = 18*channels;
283
284     return offset;
285 }
286
287 static int adx_decode_init(AVCodecContext * avctx)
288 {
289     ADXContext *c = avctx->priv_data;
290
291 //    printf("adx_decode_init\n"); fflush(stdout);
292     c->prev[0].s1 = 0;
293     c->prev[0].s2 = 0;
294     c->prev[1].s1 = 0;
295     c->prev[1].s2 = 0;
296     c->header_parsed = 0;
297     c->in_temp = 0;
298     return 0;
299 }
300
301 #if 0
302 static void dump(unsigned char *buf,size_t len)
303 {
304     int i;
305     for(i=0;i<len;i++) {
306         if ((i&15)==0) av_log(NULL, AV_LOG_DEBUG, "%04x  ",i);
307         av_log(NULL, AV_LOG_DEBUG, "%02x ",buf[i]);
308         if ((i&15)==15) av_log(NULL, AV_LOG_DEBUG, "\n");
309     }
310     av_log(NULL, AV_LOG_ERROR, "\n");
311 }
312 #endif
313
314 static int adx_decode_frame(AVCodecContext *avctx,
315                 void *data, int *data_size,
316                 uint8_t *buf0, int buf_size)
317 {
318     ADXContext *c = avctx->priv_data;
319     short *samples = data;
320     const uint8_t *buf = buf0;
321     int rest = buf_size;
322
323     if (!c->header_parsed) {
324         int hdrsize = adx_decode_header(avctx,buf,rest);
325         if (hdrsize==0) return -1;
326         c->header_parsed = 1;
327         buf  += hdrsize;
328         rest -= hdrsize;
329     }
330
331     /* 18 bytes of data are expanded into 32*2 bytes of audio,
332        so guard against buffer overflows */
333     if(rest/18 > *data_size/64)
334         rest = (*data_size/64) * 18;
335
336     if (c->in_temp) {
337         int copysize = 18*avctx->channels - c->in_temp;
338         memcpy(c->dec_temp+c->in_temp,buf,copysize);
339         rest -= copysize;
340         buf  += copysize;
341         if (avctx->channels==1) {
342             adx_decode(samples,c->dec_temp,c->prev);
343             samples += 32;
344         } else {
345             adx_decode_stereo(samples,c->dec_temp,c->prev);
346             samples += 32*2;
347         }
348     }
349     //
350     if (avctx->channels==1) {
351         while(rest>=18) {
352             adx_decode(samples,buf,c->prev);
353             rest-=18;
354             buf+=18;
355             samples+=32;
356         }
357     } else {
358         while(rest>=18*2) {
359             adx_decode_stereo(samples,buf,c->prev);
360             rest-=18*2;
361             buf+=18*2;
362             samples+=32*2;
363         }
364     }
365     //
366     c->in_temp = rest;
367     if (rest) {
368         memcpy(c->dec_temp,buf,rest);
369         buf+=rest;
370     }
371     *data_size = (uint8_t*)samples - (uint8_t*)data;
372 //    printf("%d:%d ",buf-buf0,*data_size); fflush(stdout);
373     return buf-buf0;
374 }
375
376 #ifdef CONFIG_ENCODERS
377 AVCodec adpcm_adx_encoder = {
378     "adpcm_adx",
379     CODEC_TYPE_AUDIO,
380     CODEC_ID_ADPCM_ADX,
381     sizeof(ADXContext),
382     adx_encode_init,
383     adx_encode_frame,
384     adx_encode_close,
385     NULL,
386 };
387 #endif //CONFIG_ENCODERS
388
389 AVCodec adpcm_adx_decoder = {
390     "adpcm_adx",
391     CODEC_TYPE_AUDIO,
392     CODEC_ID_ADPCM_ADX,
393     sizeof(ADXContext),
394     adx_decode_init,
395     NULL,
396     NULL,
397     adx_decode_frame,
398 };
399