adx: use 12-bit coefficients instead of 14-bit to avoid integer overflow
[ffmpeg.git] / libavcodec / adxenc.c
1 /*
2  * ADX ADPCM codecs
3  * Copyright (c) 2001,2003 BERO
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/intreadwrite.h"
23 #include "avcodec.h"
24 #include "adx.h"
25
26 /**
27  * @file
28  * SEGA CRI adx codecs.
29  *
30  * Reference documents:
31  * http://ku-www.ss.titech.ac.jp/~yatsushi/adx.html
32  * adx2wav & wav2adx http://www.geocities.co.jp/Playtown/2004/
33  */
34
35 /* 18 bytes <-> 32 samples */
36
37 static void adx_encode(unsigned char *adx,const short *wav,
38                        ADXChannelState *prev)
39 {
40     int scale;
41     int i;
42     int s0,s1,s2,d;
43     int max=0;
44     int min=0;
45     int data[32];
46
47     s1 = prev->s1;
48     s2 = prev->s2;
49     for(i=0;i<32;i++) {
50         s0 = wav[i];
51         d = ((s0 << COEFF_BITS) - COEFF1 * s1 + COEFF2 * s2) >> COEFF_BITS;
52         data[i]=d;
53         if (max<d) max=d;
54         if (min>d) min=d;
55         s2 = s1;
56         s1 = s0;
57     }
58     prev->s1 = s1;
59     prev->s2 = s2;
60
61     /* -8..+7 */
62
63     if (max==0 && min==0) {
64         memset(adx,0,18);
65         return;
66     }
67
68     if (max/7>-min/8) scale = max/7;
69     else scale = -min/8;
70
71     if (scale==0) scale=1;
72
73     AV_WB16(adx, scale);
74
75     for(i=0;i<16;i++) {
76         adx[i+2] = ((data[i*2]/scale)<<4) | ((data[i*2+1]/scale)&0xf);
77     }
78 }
79
80 static int adx_encode_header(AVCodecContext *avctx,unsigned char *buf,size_t bufsize)
81 {
82 #if 0
83     struct {
84         uint32_t offset; /* 0x80000000 + sample start - 4 */
85         unsigned char unknown1[3]; /* 03 12 04 */
86         unsigned char channel; /* 1 or 2 */
87         uint32_t freq;
88         uint32_t size;
89         uint32_t unknown2; /* 01 f4 03 00 */
90         uint32_t unknown3; /* 00 00 00 00 */
91         uint32_t unknown4; /* 00 00 00 00 */
92
93     /* if loop
94         unknown3 00 15 00 01
95         unknown4 00 00 00 01
96         long loop_start_sample;
97         long loop_start_byte;
98         long loop_end_sample;
99         long loop_end_byte;
100         long
101     */
102     } adxhdr; /* big endian */
103     /* offset-6 "(c)CRI" */
104 #endif
105     AV_WB32(buf+0x00,0x80000000|0x20);
106     AV_WB32(buf+0x04,0x03120400|avctx->channels);
107     AV_WB32(buf+0x08,avctx->sample_rate);
108     AV_WB32(buf+0x0c,0); /* FIXME: set after */
109     AV_WB32(buf+0x10,0x01040300);
110     AV_WB32(buf+0x14,0x00000000);
111     AV_WB32(buf+0x18,0x00000000);
112     memcpy(buf+0x1c,"\0\0(c)CRI",8);
113     return 0x20+4;
114 }
115
116 static av_cold int adx_encode_init(AVCodecContext *avctx)
117 {
118     if (avctx->channels > 2)
119         return -1; /* only stereo or mono =) */
120     avctx->frame_size = 32;
121
122     avctx->coded_frame= avcodec_alloc_frame();
123     avctx->coded_frame->key_frame= 1;
124
125 //    avctx->bit_rate = avctx->sample_rate*avctx->channels*18*8/32;
126
127     av_log(avctx, AV_LOG_DEBUG, "adx encode init\n");
128
129     return 0;
130 }
131
132 static av_cold int adx_encode_close(AVCodecContext *avctx)
133 {
134     av_freep(&avctx->coded_frame);
135
136     return 0;
137 }
138
139 static int adx_encode_frame(AVCodecContext *avctx,
140                 uint8_t *frame, int buf_size, void *data)
141 {
142     ADXContext *c = avctx->priv_data;
143     const short *samples = data;
144     unsigned char *dst = frame;
145     int rest = avctx->frame_size;
146
147 /*
148     input data size =
149     avconv.c:do_audio_out()
150     frame_bytes = enc->frame_size * 2 * enc->channels;
151 */
152
153 //    printf("sz=%d ",buf_size); fflush(stdout);
154     if (!c->header_parsed) {
155         int hdrsize = adx_encode_header(avctx,dst,buf_size);
156         dst+=hdrsize;
157         c->header_parsed = 1;
158     }
159
160     if (avctx->channels==1) {
161         while(rest>=32) {
162             adx_encode(dst,samples,c->prev);
163             dst+=18;
164             samples+=32;
165             rest-=32;
166         }
167     } else {
168         while(rest>=32*2) {
169             short tmpbuf[32*2];
170             int i;
171
172             for(i=0;i<32;i++) {
173                 tmpbuf[i] = samples[i*2];
174                 tmpbuf[i+32] = samples[i*2+1];
175             }
176
177             adx_encode(dst,tmpbuf,c->prev);
178             adx_encode(dst+18,tmpbuf+32,c->prev+1);
179             dst+=18*2;
180             samples+=32*2;
181             rest-=32*2;
182         }
183     }
184     return dst-frame;
185 }
186
187 AVCodec ff_adpcm_adx_encoder = {
188     .name           = "adpcm_adx",
189     .type           = AVMEDIA_TYPE_AUDIO,
190     .id             = CODEC_ID_ADPCM_ADX,
191     .priv_data_size = sizeof(ADXContext),
192     .init           = adx_encode_init,
193     .encode         = adx_encode_frame,
194     .close          = adx_encode_close,
195     .sample_fmts = (const enum AVSampleFormat[]){AV_SAMPLE_FMT_S16,AV_SAMPLE_FMT_NONE},
196     .long_name = NULL_IF_CONFIG_SMALL("SEGA CRI ADX ADPCM"),
197 };