apedec: use unsigned int for 'nblocks' and make sure that it's within int range
[ffmpeg.git] / libavcodec / libopencore-amr.c
1 /*
2  * AMR Audio decoder stub
3  * Copyright (c) 2003 the ffmpeg project
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "libavutil/avstring.h"
24 #include "libavutil/opt.h"
25
26 static void amr_decode_fix_avctx(AVCodecContext *avctx)
27 {
28     const int is_amr_wb = 1 + (avctx->codec_id == CODEC_ID_AMR_WB);
29
30     if (!avctx->sample_rate)
31         avctx->sample_rate = 8000 * is_amr_wb;
32
33     if (!avctx->channels)
34         avctx->channels = 1;
35
36     avctx->frame_size = 160 * is_amr_wb;
37     avctx->sample_fmt = AV_SAMPLE_FMT_S16;
38 }
39
40 #if CONFIG_LIBOPENCORE_AMRNB
41
42 #include <opencore-amrnb/interf_dec.h>
43 #include <opencore-amrnb/interf_enc.h>
44
45 /* Common code for fixed and float version*/
46 typedef struct AMR_bitrates {
47     int       rate;
48     enum Mode mode;
49 } AMR_bitrates;
50
51 /* Match desired bitrate */
52 static int get_bitrate_mode(int bitrate, void *log_ctx)
53 {
54     /* make the correspondance between bitrate and mode */
55     static const AMR_bitrates rates[] = {
56         { 4750, MR475 }, { 5150, MR515 }, {  5900, MR59  }, {  6700, MR67  },
57         { 7400, MR74 },  { 7950, MR795 }, { 10200, MR102 }, { 12200, MR122 }
58     };
59     int i, best = -1, min_diff = 0;
60     char log_buf[200];
61
62     for (i = 0; i < 8; i++) {
63         if (rates[i].rate == bitrate)
64             return rates[i].mode;
65         if (best < 0 || abs(rates[i].rate - bitrate) < min_diff) {
66             best     = i;
67             min_diff = abs(rates[i].rate - bitrate);
68         }
69     }
70     /* no bitrate matching exactly, log a warning */
71     snprintf(log_buf, sizeof(log_buf), "bitrate not supported: use one of ");
72     for (i = 0; i < 8; i++)
73         av_strlcatf(log_buf, sizeof(log_buf), "%.2fk, ", rates[i].rate    / 1000.f);
74     av_strlcatf(log_buf, sizeof(log_buf), "using %.2fk", rates[best].rate / 1000.f);
75     av_log(log_ctx, AV_LOG_WARNING, "%s\n", log_buf);
76
77     return best;
78 }
79
80 typedef struct AMRContext {
81     AVClass *av_class;
82     void *dec_state;
83     void *enc_state;
84     int   enc_bitrate;
85     int   enc_mode;
86     int   enc_dtx;
87 } AMRContext;
88
89 static const AVOption options[] = {
90     { "dtx", "Allow DTX (generate comfort noise)", offsetof(AMRContext, enc_dtx), AV_OPT_TYPE_INT, { 0 }, 0, 1, AV_OPT_FLAG_AUDIO_PARAM | AV_OPT_FLAG_ENCODING_PARAM },
91     { NULL }
92 };
93
94 static const AVClass class = {
95     "libopencore_amrnb", av_default_item_name, options, LIBAVUTIL_VERSION_INT
96 };
97
98 static av_cold int amr_nb_decode_init(AVCodecContext *avctx)
99 {
100     AMRContext *s  = avctx->priv_data;
101
102     s->dec_state   = Decoder_Interface_init();
103     if (!s->dec_state) {
104         av_log(avctx, AV_LOG_ERROR, "Decoder_Interface_init error\n");
105         return -1;
106     }
107
108     amr_decode_fix_avctx(avctx);
109
110     if (avctx->channels > 1) {
111         av_log(avctx, AV_LOG_ERROR, "amr_nb: multichannel decoding not supported\n");
112         return AVERROR(ENOSYS);
113     }
114
115     return 0;
116 }
117
118 static av_cold int amr_nb_decode_close(AVCodecContext *avctx)
119 {
120     AMRContext *s = avctx->priv_data;
121
122     Decoder_Interface_exit(s->dec_state);
123     return 0;
124 }
125
126 static int amr_nb_decode_frame(AVCodecContext *avctx, void *data,
127                                int *data_size, AVPacket *avpkt)
128 {
129     const uint8_t *buf = avpkt->data;
130     int buf_size       = avpkt->size;
131     AMRContext *s      = avctx->priv_data;
132     static const uint8_t block_size[16] = { 12, 13, 15, 17, 19, 20, 26, 31, 5, 0, 0, 0, 0, 0, 0, 0 };
133     enum Mode dec_mode;
134     int packet_size, out_size;
135
136     av_dlog(avctx, "amr_decode_frame buf=%p buf_size=%d frame_count=%d!!\n",
137             buf, buf_size, avctx->frame_number);
138
139     out_size = 160 * av_get_bytes_per_sample(avctx->sample_fmt);
140     if (*data_size < out_size) {
141         av_log(avctx, AV_LOG_ERROR, "output buffer is too small\n");
142         return AVERROR(EINVAL);
143     }
144
145     dec_mode    = (buf[0] >> 3) & 0x000F;
146     packet_size = block_size[dec_mode] + 1;
147
148     if (packet_size > buf_size) {
149         av_log(avctx, AV_LOG_ERROR, "amr frame too short (%u, should be %u)\n",
150                buf_size, packet_size);
151         return AVERROR_INVALIDDATA;
152     }
153
154     av_dlog(avctx, "packet_size=%d buf= 0x%X %X %X %X\n",
155               packet_size, buf[0], buf[1], buf[2], buf[3]);
156     /* call decoder */
157     Decoder_Interface_Decode(s->dec_state, buf, data, 0);
158     *data_size = out_size;
159
160     return packet_size;
161 }
162
163 AVCodec ff_libopencore_amrnb_decoder = {
164     .name           = "libopencore_amrnb",
165     .type           = AVMEDIA_TYPE_AUDIO,
166     .id             = CODEC_ID_AMR_NB,
167     .priv_data_size = sizeof(AMRContext),
168     .init           = amr_nb_decode_init,
169     .close          = amr_nb_decode_close,
170     .decode         = amr_nb_decode_frame,
171     .long_name = NULL_IF_CONFIG_SMALL("OpenCORE Adaptive Multi-Rate (AMR) Narrow-Band"),
172 };
173
174 static av_cold int amr_nb_encode_init(AVCodecContext *avctx)
175 {
176     AMRContext *s = avctx->priv_data;
177
178     if (avctx->sample_rate != 8000) {
179         av_log(avctx, AV_LOG_ERROR, "Only 8000Hz sample rate supported\n");
180         return AVERROR(ENOSYS);
181     }
182
183     if (avctx->channels != 1) {
184         av_log(avctx, AV_LOG_ERROR, "Only mono supported\n");
185         return AVERROR(ENOSYS);
186     }
187
188     avctx->frame_size  = 160;
189     avctx->coded_frame = avcodec_alloc_frame();
190
191     s->enc_state = Encoder_Interface_init(s->enc_dtx);
192     if (!s->enc_state) {
193         av_log(avctx, AV_LOG_ERROR, "Encoder_Interface_init error\n");
194         return -1;
195     }
196
197     s->enc_mode    = get_bitrate_mode(avctx->bit_rate, avctx);
198     s->enc_bitrate = avctx->bit_rate;
199
200     return 0;
201 }
202
203 static av_cold int amr_nb_encode_close(AVCodecContext *avctx)
204 {
205     AMRContext *s = avctx->priv_data;
206
207     Encoder_Interface_exit(s->enc_state);
208     av_freep(&avctx->coded_frame);
209     return 0;
210 }
211
212 static int amr_nb_encode_frame(AVCodecContext *avctx,
213                                unsigned char *frame/*out*/,
214                                int buf_size, void *data/*in*/)
215 {
216     AMRContext *s = avctx->priv_data;
217     int written;
218
219     if (s->enc_bitrate != avctx->bit_rate) {
220         s->enc_mode    = get_bitrate_mode(avctx->bit_rate, avctx);
221         s->enc_bitrate = avctx->bit_rate;
222     }
223
224     written = Encoder_Interface_Encode(s->enc_state, s->enc_mode, data,
225                                        frame, 0);
226     av_dlog(avctx, "amr_nb_encode_frame encoded %u bytes, bitrate %u, first byte was %#02x\n",
227             written, s->enc_mode, frame[0]);
228
229     return written;
230 }
231
232 AVCodec ff_libopencore_amrnb_encoder = {
233     .name           = "libopencore_amrnb",
234     .type           = AVMEDIA_TYPE_AUDIO,
235     .id             = CODEC_ID_AMR_NB,
236     .priv_data_size = sizeof(AMRContext),
237     .init           = amr_nb_encode_init,
238     .encode         = amr_nb_encode_frame,
239     .close          = amr_nb_encode_close,
240     .sample_fmts = (const enum AVSampleFormat[]){AV_SAMPLE_FMT_S16,AV_SAMPLE_FMT_NONE},
241     .long_name = NULL_IF_CONFIG_SMALL("OpenCORE Adaptive Multi-Rate (AMR) Narrow-Band"),
242     .priv_class = &class,
243 };
244
245 #endif
246
247 /* -----------AMR wideband ------------*/
248 #if CONFIG_LIBOPENCORE_AMRWB
249
250 #include <opencore-amrwb/dec_if.h>
251 #include <opencore-amrwb/if_rom.h>
252
253 typedef struct AMRWBContext {
254     void  *state;
255 } AMRWBContext;
256
257 static av_cold int amr_wb_decode_init(AVCodecContext *avctx)
258 {
259     AMRWBContext *s = avctx->priv_data;
260
261     s->state        = D_IF_init();
262
263     amr_decode_fix_avctx(avctx);
264
265     if (avctx->channels > 1) {
266         av_log(avctx, AV_LOG_ERROR, "amr_wb: multichannel decoding not supported\n");
267         return AVERROR(ENOSYS);
268     }
269
270     return 0;
271 }
272
273 static int amr_wb_decode_frame(AVCodecContext *avctx, void *data,
274                                int *data_size, AVPacket *avpkt)
275 {
276     const uint8_t *buf = avpkt->data;
277     int buf_size       = avpkt->size;
278     AMRWBContext *s    = avctx->priv_data;
279     int mode;
280     int packet_size, out_size;
281     static const uint8_t block_size[16] = {18, 24, 33, 37, 41, 47, 51, 59, 61, 6, 6, 0, 0, 0, 1, 1};
282
283     out_size = 320 * av_get_bytes_per_sample(avctx->sample_fmt);
284     if (*data_size < out_size) {
285         av_log(avctx, AV_LOG_ERROR, "output buffer is too small\n");
286         return AVERROR(EINVAL);
287     }
288
289     mode        = (buf[0] >> 3) & 0x000F;
290     packet_size = block_size[mode];
291
292     if (packet_size > buf_size) {
293         av_log(avctx, AV_LOG_ERROR, "amr frame too short (%u, should be %u)\n",
294                buf_size, packet_size + 1);
295         return AVERROR_INVALIDDATA;
296     }
297
298     D_IF_decode(s->state, buf, data, _good_frame);
299     *data_size = out_size;
300     return packet_size;
301 }
302
303 static int amr_wb_decode_close(AVCodecContext *avctx)
304 {
305     AMRWBContext *s = avctx->priv_data;
306
307     D_IF_exit(s->state);
308     return 0;
309 }
310
311 AVCodec ff_libopencore_amrwb_decoder = {
312     .name           = "libopencore_amrwb",
313     .type           = AVMEDIA_TYPE_AUDIO,
314     .id             = CODEC_ID_AMR_WB,
315     .priv_data_size = sizeof(AMRWBContext),
316     .init           = amr_wb_decode_init,
317     .close          = amr_wb_decode_close,
318     .decode         = amr_wb_decode_frame,
319     .long_name = NULL_IF_CONFIG_SMALL("OpenCORE Adaptive Multi-Rate (AMR) Wide-Band"),
320 };
321
322 #endif /* CONFIG_LIBOPENCORE_AMRWB */