use av_clip_int16() where it makes sense
[ffmpeg.git] / libavcodec / adx.c
1 /*
2  * ADX ADPCM codecs
3  * Copyright (c) 2001,2003 BERO
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21 #include "avcodec.h"
22
23 /**
24  * @file adx.c
25  * SEGA CRI adx codecs.
26  *
27  * Reference documents:
28  * http://ku-www.ss.titech.ac.jp/~yatsushi/adx.html
29  * adx2wav & wav2adx http://www.geocities.co.jp/Playtown/2004/
30  */
31
32 typedef struct {
33     int s1,s2;
34 } PREV;
35
36 typedef struct {
37     PREV prev[2];
38     int header_parsed;
39     unsigned char dec_temp[18*2];
40     unsigned short enc_temp[32*2];
41     int in_temp;
42 } ADXContext;
43
44 //#define    BASEVOL    0x11e0
45 #define    BASEVOL   0x4000
46 #define    SCALE1    0x7298
47 #define    SCALE2    0x3350
48
49 /* 18 bytes <-> 32 samples */
50
51 #ifdef CONFIG_ENCODERS
52 static void adx_encode(unsigned char *adx,const short *wav,PREV *prev)
53 {
54     int scale;
55     int i;
56     int s0,s1,s2,d;
57     int max=0;
58     int min=0;
59     int data[32];
60
61     s1 = prev->s1;
62     s2 = prev->s2;
63     for(i=0;i<32;i++) {
64         s0 = wav[i];
65         d = ((s0<<14) - SCALE1*s1 + SCALE2*s2)/BASEVOL;
66         data[i]=d;
67         if (max<d) max=d;
68         if (min>d) min=d;
69         s2 = s1;
70         s1 = s0;
71     }
72     prev->s1 = s1;
73     prev->s2 = s2;
74
75     /* -8..+7 */
76
77     if (max==0 && min==0) {
78         memset(adx,0,18);
79         return;
80     }
81
82     if (max/7>-min/8) scale = max/7;
83     else scale = -min/8;
84
85     if (scale==0) scale=1;
86
87     AV_WB16(adx, scale);
88
89     for(i=0;i<16;i++) {
90         adx[i+2] = ((data[i*2]/scale)<<4) | ((data[i*2+1]/scale)&0xf);
91     }
92 }
93 #endif //CONFIG_ENCODERS
94
95 static void adx_decode(short *out,const unsigned char *in,PREV *prev)
96 {
97     int scale = AV_RB16(in);
98     int i;
99     int s0,s1,s2,d;
100
101 //    printf("%x ",scale);
102
103     in+=2;
104     s1 = prev->s1;
105     s2 = prev->s2;
106     for(i=0;i<16;i++) {
107         d = in[i];
108         // d>>=4; if (d&8) d-=16;
109         d = ((signed char)d >> 4);
110         s0 = (BASEVOL*d*scale + SCALE1*s1 - SCALE2*s2)>>14;
111         s0 = av_clip_int16(s0);
112         *out++=s0;
113         s2 = s1;
114         s1 = s0;
115
116         d = in[i];
117         //d&=15; if (d&8) d-=16;
118         d = ((signed char)(d<<4) >> 4);
119         s0 = (BASEVOL*d*scale + SCALE1*s1 - SCALE2*s2)>>14;
120         s0 = av_clip_int16(s0);
121         *out++=s0;
122         s2 = s1;
123         s1 = s0;
124     }
125     prev->s1 = s1;
126     prev->s2 = s2;
127
128 }
129
130 static void adx_decode_stereo(short *out,const unsigned char *in,PREV *prev)
131 {
132     short tmp[32*2];
133     int i;
134
135     adx_decode(tmp   ,in   ,prev);
136     adx_decode(tmp+32,in+18,prev+1);
137     for(i=0;i<32;i++) {
138         out[i*2]   = tmp[i];
139         out[i*2+1] = tmp[i+32];
140     }
141 }
142
143 #ifdef CONFIG_ENCODERS
144
145 static int adx_encode_header(AVCodecContext *avctx,unsigned char *buf,size_t bufsize)
146 {
147 #if 0
148     struct {
149         uint32_t offset; /* 0x80000000 + sample start - 4 */
150         unsigned char unknown1[3]; /* 03 12 04 */
151         unsigned char channel; /* 1 or 2 */
152         uint32_t freq;
153         uint32_t size;
154         uint32_t unknown2; /* 01 f4 03 00 */
155         uint32_t unknown3; /* 00 00 00 00 */
156         uint32_t unknown4; /* 00 00 00 00 */
157
158     /* if loop
159         unknown3 00 15 00 01
160         unknown4 00 00 00 01
161         long loop_start_sample;
162         long loop_start_byte;
163         long loop_end_sample;
164         long loop_end_byte;
165         long
166     */
167     } adxhdr; /* big endian */
168     /* offset-6 "(c)CRI" */
169 #endif
170     AV_WB32(buf+0x00,0x80000000|0x20);
171     AV_WB32(buf+0x04,0x03120400|avctx->channels);
172     AV_WB32(buf+0x08,avctx->sample_rate);
173     AV_WB32(buf+0x0c,0); /* FIXME: set after */
174     AV_WB32(buf+0x10,0x01040300);
175     AV_WB32(buf+0x14,0x00000000);
176     AV_WB32(buf+0x18,0x00000000);
177     memcpy(buf+0x1c,"\0\0(c)CRI",8);
178     return 0x20+4;
179 }
180
181 static int adx_decode_init(AVCodecContext *avctx);
182 static int adx_encode_init(AVCodecContext *avctx)
183 {
184     if (avctx->channels > 2)
185         return -1; /* only stereo or mono =) */
186     avctx->frame_size = 32;
187
188     avctx->coded_frame= avcodec_alloc_frame();
189     avctx->coded_frame->key_frame= 1;
190
191 //    avctx->bit_rate = avctx->sample_rate*avctx->channels*18*8/32;
192
193     av_log(avctx, AV_LOG_DEBUG, "adx encode init\n");
194     adx_decode_init(avctx);
195
196     return 0;
197 }
198
199 static int adx_encode_close(AVCodecContext *avctx)
200 {
201     av_freep(&avctx->coded_frame);
202
203     return 0;
204 }
205
206 static int adx_encode_frame(AVCodecContext *avctx,
207                 uint8_t *frame, int buf_size, void *data)
208 {
209     ADXContext *c = avctx->priv_data;
210     const short *samples = data;
211     unsigned char *dst = frame;
212     int rest = avctx->frame_size;
213
214 /*
215     input data size =
216     ffmpeg.c: do_audio_out()
217     frame_bytes = enc->frame_size * 2 * enc->channels;
218 */
219
220 //    printf("sz=%d ",buf_size); fflush(stdout);
221     if (!c->header_parsed) {
222         int hdrsize = adx_encode_header(avctx,dst,buf_size);
223         dst+=hdrsize;
224         c->header_parsed = 1;
225     }
226
227     if (avctx->channels==1) {
228         while(rest>=32) {
229             adx_encode(dst,samples,c->prev);
230             dst+=18;
231             samples+=32;
232             rest-=32;
233         }
234     } else {
235         while(rest>=32*2) {
236             short tmpbuf[32*2];
237             int i;
238
239             for(i=0;i<32;i++) {
240                 tmpbuf[i] = samples[i*2];
241                 tmpbuf[i+32] = samples[i*2+1];
242             }
243
244             adx_encode(dst,tmpbuf,c->prev);
245             adx_encode(dst+18,tmpbuf+32,c->prev+1);
246             dst+=18*2;
247             samples+=32*2;
248             rest-=32*2;
249         }
250     }
251     return dst-frame;
252 }
253
254 #endif //CONFIG_ENCODERS
255
256 static int is_adx(const unsigned char *buf,size_t bufsize)
257 {
258     int    offset;
259
260     if (buf[0]!=0x80) return 0;
261     offset = (AV_RB32(buf)^0x80000000)+4;
262     if (bufsize<offset || memcmp(buf+offset-6,"(c)CRI",6)) return 0;
263     return offset;
264 }
265
266 /* return data offset or 6 */
267 static int adx_decode_header(AVCodecContext *avctx,const unsigned char *buf,size_t bufsize)
268 {
269     int offset;
270     int channels,freq,size;
271
272     offset = is_adx(buf,bufsize);
273     if (offset==0) return 0;
274
275     channels = buf[7];
276     freq = AV_RB32(buf+8);
277     size = AV_RB32(buf+12);
278
279 //    printf("freq=%d ch=%d\n",freq,channels);
280
281     avctx->sample_rate = freq;
282     avctx->channels = channels;
283     avctx->bit_rate = freq*channels*18*8/32;
284 //    avctx->frame_size = 18*channels;
285
286     return offset;
287 }
288
289 static int adx_decode_init(AVCodecContext * avctx)
290 {
291     ADXContext *c = avctx->priv_data;
292
293 //    printf("adx_decode_init\n"); fflush(stdout);
294     c->prev[0].s1 = 0;
295     c->prev[0].s2 = 0;
296     c->prev[1].s1 = 0;
297     c->prev[1].s2 = 0;
298     c->header_parsed = 0;
299     c->in_temp = 0;
300     return 0;
301 }
302
303 #if 0
304 static void dump(unsigned char *buf,size_t len)
305 {
306     int i;
307     for(i=0;i<len;i++) {
308         if ((i&15)==0) av_log(NULL, AV_LOG_DEBUG, "%04x  ",i);
309         av_log(NULL, AV_LOG_DEBUG, "%02x ",buf[i]);
310         if ((i&15)==15) av_log(NULL, AV_LOG_DEBUG, "\n");
311     }
312     av_log(NULL, AV_LOG_ERROR, "\n");
313 }
314 #endif
315
316 static int adx_decode_frame(AVCodecContext *avctx,
317                 void *data, int *data_size,
318                 uint8_t *buf0, int buf_size)
319 {
320     ADXContext *c = avctx->priv_data;
321     short *samples = data;
322     const uint8_t *buf = buf0;
323     int rest = buf_size;
324
325     if (!c->header_parsed) {
326         int hdrsize = adx_decode_header(avctx,buf,rest);
327         if (hdrsize==0) return -1;
328         c->header_parsed = 1;
329         buf  += hdrsize;
330         rest -= hdrsize;
331     }
332
333     if (c->in_temp) {
334         int copysize = 18*avctx->channels - c->in_temp;
335         memcpy(c->dec_temp+c->in_temp,buf,copysize);
336         rest -= copysize;
337         buf  += copysize;
338         if (avctx->channels==1) {
339             adx_decode(samples,c->dec_temp,c->prev);
340             samples += 32;
341         } else {
342             adx_decode_stereo(samples,c->dec_temp,c->prev);
343             samples += 32*2;
344         }
345     }
346     //
347     if (avctx->channels==1) {
348         while(rest>=18) {
349             adx_decode(samples,buf,c->prev);
350             rest-=18;
351             buf+=18;
352             samples+=32;
353         }
354     } else {
355         while(rest>=18*2) {
356             adx_decode_stereo(samples,buf,c->prev);
357             rest-=18*2;
358             buf+=18*2;
359             samples+=32*2;
360         }
361     }
362     //
363     c->in_temp = rest;
364     if (rest) {
365         memcpy(c->dec_temp,buf,rest);
366         buf+=rest;
367     }
368     *data_size = (uint8_t*)samples - (uint8_t*)data;
369 //    printf("%d:%d ",buf-buf0,*data_size); fflush(stdout);
370     return buf-buf0;
371 }
372
373 #ifdef CONFIG_ENCODERS
374 AVCodec adpcm_adx_encoder = {
375     "adpcm_adx",
376     CODEC_TYPE_AUDIO,
377     CODEC_ID_ADPCM_ADX,
378     sizeof(ADXContext),
379     adx_encode_init,
380     adx_encode_frame,
381     adx_encode_close,
382     NULL,
383 };
384 #endif //CONFIG_ENCODERS
385
386 AVCodec adpcm_adx_decoder = {
387     "adpcm_adx",
388     CODEC_TYPE_AUDIO,
389     CODEC_ID_ADPCM_ADX,
390     sizeof(ADXContext),
391     adx_decode_init,
392     NULL,
393     NULL,
394     adx_decode_frame,
395 };
396