Do not fail when decoding invalid v410 files with odd width.
[ffmpeg.git] / libavcodec / libmp3lame.c
1 /*
2  * Interface to libmp3lame for mp3 encoding
3  * Copyright (c) 2002 Lennert Buytenhek <buytenh@gnu.org>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Interface to libmp3lame for mp3 encoding.
25  */
26
27 #include "libavutil/intreadwrite.h"
28 #include "libavutil/log.h"
29 #include "libavutil/opt.h"
30 #include "avcodec.h"
31 #include "mpegaudio.h"
32 #include <lame/lame.h>
33
34 #define BUFFER_SIZE (7200 + 2*MPA_FRAME_SIZE + MPA_FRAME_SIZE/4)
35 typedef struct Mp3AudioContext {
36     AVClass *class;
37     lame_global_flags *gfp;
38     int stereo;
39     uint8_t buffer[BUFFER_SIZE];
40     int buffer_index;
41     struct {
42         int *left;
43         int *right;
44     } s32_data;
45     int reservoir;
46 } Mp3AudioContext;
47
48 static av_cold int MP3lame_encode_init(AVCodecContext *avctx)
49 {
50     Mp3AudioContext *s = avctx->priv_data;
51
52     if (avctx->channels > 2) {
53         av_log(avctx, AV_LOG_ERROR,
54                "Invalid number of channels %d, must be <= 2\n", avctx->channels);
55         return AVERROR(EINVAL);
56     }
57
58     s->stereo = avctx->channels > 1 ? 1 : 0;
59
60     if ((s->gfp = lame_init()) == NULL)
61         goto err;
62     lame_set_in_samplerate(s->gfp, avctx->sample_rate);
63     lame_set_out_samplerate(s->gfp, avctx->sample_rate);
64     lame_set_num_channels(s->gfp, avctx->channels);
65     if(avctx->compression_level == FF_COMPRESSION_DEFAULT) {
66         lame_set_quality(s->gfp, 5);
67     } else {
68         lame_set_quality(s->gfp, avctx->compression_level);
69     }
70     lame_set_mode(s->gfp, s->stereo ? JOINT_STEREO : MONO);
71     lame_set_brate(s->gfp, avctx->bit_rate/1000);
72     if(avctx->flags & CODEC_FLAG_QSCALE) {
73         lame_set_brate(s->gfp, 0);
74         lame_set_VBR(s->gfp, vbr_default);
75         lame_set_VBR_quality(s->gfp, avctx->global_quality/(float)FF_QP2LAMBDA);
76     }
77     lame_set_bWriteVbrTag(s->gfp,0);
78 #if FF_API_LAME_GLOBAL_OPTS
79     s->reservoir = avctx->flags2 & CODEC_FLAG2_BIT_RESERVOIR;
80 #endif
81     lame_set_disable_reservoir(s->gfp, !s->reservoir);
82     if (lame_init_params(s->gfp) < 0)
83         goto err_close;
84
85     avctx->frame_size = lame_get_framesize(s->gfp);
86
87     if(!(avctx->coded_frame= avcodec_alloc_frame())) {
88         lame_close(s->gfp);
89
90         return AVERROR(ENOMEM);
91     }
92     avctx->coded_frame->key_frame= 1;
93
94     if(AV_SAMPLE_FMT_S32 == avctx->sample_fmt && s->stereo) {
95         int nelem = 2 * avctx->frame_size;
96
97         if(! (s->s32_data.left = av_malloc(nelem * sizeof(int)))) {
98             av_freep(&avctx->coded_frame);
99             lame_close(s->gfp);
100
101             return AVERROR(ENOMEM);
102         }
103
104         s->s32_data.right = s->s32_data.left + avctx->frame_size;
105     }
106
107     return 0;
108
109 err_close:
110     lame_close(s->gfp);
111 err:
112     return -1;
113 }
114
115 static const int sSampleRates[] = {
116     44100, 48000,  32000, 22050, 24000, 16000, 11025, 12000, 8000, 0
117 };
118
119 static const int sBitRates[2][3][15] = {
120     {   {  0, 32, 64, 96,128,160,192,224,256,288,320,352,384,416,448},
121         {  0, 32, 48, 56, 64, 80, 96,112,128,160,192,224,256,320,384},
122         {  0, 32, 40, 48, 56, 64, 80, 96,112,128,160,192,224,256,320}
123     },
124     {   {  0, 32, 48, 56, 64, 80, 96,112,128,144,160,176,192,224,256},
125         {  0,  8, 16, 24, 32, 40, 48, 56, 64, 80, 96,112,128,144,160},
126         {  0,  8, 16, 24, 32, 40, 48, 56, 64, 80, 96,112,128,144,160}
127     },
128 };
129
130 static const int sSamplesPerFrame[2][3] =
131 {
132     {  384,     1152,    1152 },
133     {  384,     1152,     576 }
134 };
135
136 static const int sBitsPerSlot[3] = {
137     32,
138     8,
139     8
140 };
141
142 static int mp3len(void *data, int *samplesPerFrame, int *sampleRate)
143 {
144     uint32_t header = AV_RB32(data);
145     int layerID = 3 - ((header >> 17) & 0x03);
146     int bitRateID = ((header >> 12) & 0x0f);
147     int sampleRateID = ((header >> 10) & 0x03);
148     int bitsPerSlot = sBitsPerSlot[layerID];
149     int isPadded = ((header >> 9) & 0x01);
150     static int const mode_tab[4]= {2,3,1,0};
151     int mode= mode_tab[(header >> 19) & 0x03];
152     int mpeg_id= mode>0;
153     int temp0, temp1, bitRate;
154
155     if ( (( header >> 21 ) & 0x7ff) != 0x7ff || mode == 3 || layerID==3 || sampleRateID==3) {
156         return -1;
157     }
158
159     if(!samplesPerFrame) samplesPerFrame= &temp0;
160     if(!sampleRate     ) sampleRate     = &temp1;
161
162 //    *isMono = ((header >>  6) & 0x03) == 0x03;
163
164     *sampleRate = sSampleRates[sampleRateID]>>mode;
165     bitRate = sBitRates[mpeg_id][layerID][bitRateID] * 1000;
166     *samplesPerFrame = sSamplesPerFrame[mpeg_id][layerID];
167 //av_log(NULL, AV_LOG_DEBUG, "sr:%d br:%d spf:%d l:%d m:%d\n", *sampleRate, bitRate, *samplesPerFrame, layerID, mode);
168
169     return *samplesPerFrame * bitRate / (bitsPerSlot * *sampleRate) + isPadded;
170 }
171
172 static int MP3lame_encode_frame(AVCodecContext *avctx,
173                                 unsigned char *frame, int buf_size, void *data)
174 {
175     Mp3AudioContext *s = avctx->priv_data;
176     int len;
177     int lame_result;
178
179     /* lame 3.91 dies on '1-channel interleaved' data */
180
181     if(!data){
182         lame_result= lame_encode_flush(
183                 s->gfp,
184                 s->buffer + s->buffer_index,
185                 BUFFER_SIZE - s->buffer_index
186                 );
187 #if 2147483647 == INT_MAX
188     }else if(AV_SAMPLE_FMT_S32 == avctx->sample_fmt){
189         if (s->stereo) {
190             int32_t *rp = data;
191             int32_t *mp = rp + 2*avctx->frame_size;
192             int *wpl = s->s32_data.left;
193             int *wpr = s->s32_data.right;
194
195             while (rp < mp) {
196                 *wpl++ = *rp++;
197                 *wpr++ = *rp++;
198             }
199
200             lame_result = lame_encode_buffer_int(
201                 s->gfp,
202                 s->s32_data.left,
203                 s->s32_data.right,
204                 avctx->frame_size,
205                 s->buffer + s->buffer_index,
206                 BUFFER_SIZE - s->buffer_index
207                 );
208         } else {
209             lame_result = lame_encode_buffer_int(
210                 s->gfp,
211                 data,
212                 data,
213                 avctx->frame_size,
214                 s->buffer + s->buffer_index,
215                 BUFFER_SIZE - s->buffer_index
216                 );
217         }
218 #endif
219     }else{
220         if (s->stereo) {
221             lame_result = lame_encode_buffer_interleaved(
222                 s->gfp,
223                 data,
224                 avctx->frame_size,
225                 s->buffer + s->buffer_index,
226                 BUFFER_SIZE - s->buffer_index
227                 );
228         } else {
229             lame_result = lame_encode_buffer(
230                 s->gfp,
231                 data,
232                 data,
233                 avctx->frame_size,
234                 s->buffer + s->buffer_index,
235                 BUFFER_SIZE - s->buffer_index
236                 );
237         }
238     }
239
240     if(lame_result < 0){
241         if(lame_result==-1) {
242             /* output buffer too small */
243             av_log(avctx, AV_LOG_ERROR, "lame: output buffer too small (buffer index: %d, free bytes: %d)\n", s->buffer_index, BUFFER_SIZE - s->buffer_index);
244         }
245         return -1;
246     }
247
248     s->buffer_index += lame_result;
249
250     if(s->buffer_index<4)
251         return 0;
252
253     len= mp3len(s->buffer, NULL, NULL);
254 //av_log(avctx, AV_LOG_DEBUG, "in:%d packet-len:%d index:%d\n", avctx->frame_size, len, s->buffer_index);
255     if(len <= s->buffer_index){
256         memcpy(frame, s->buffer, len);
257         s->buffer_index -= len;
258
259         memmove(s->buffer, s->buffer+len, s->buffer_index);
260             //FIXME fix the audio codec API, so we do not need the memcpy()
261 /*for(i=0; i<len; i++){
262     av_log(avctx, AV_LOG_DEBUG, "%2X ", frame[i]);
263 }*/
264         return len;
265     }else
266         return 0;
267 }
268
269 static av_cold int MP3lame_encode_close(AVCodecContext *avctx)
270 {
271     Mp3AudioContext *s = avctx->priv_data;
272
273     av_freep(&s->s32_data.left);
274     av_freep(&avctx->coded_frame);
275
276     lame_close(s->gfp);
277     return 0;
278 }
279
280 #define OFFSET(x) offsetof(Mp3AudioContext, x)
281 #define AE AV_OPT_FLAG_AUDIO_PARAM | AV_OPT_FLAG_ENCODING_PARAM
282 static const AVOption options[] = {
283     { "reservoir",      "Use bit reservoir.",   OFFSET(reservoir),  AV_OPT_TYPE_INT, { 1 }, 0, 1, AE },
284     { NULL },
285 };
286
287 static const AVClass libmp3lame_class = {
288     .class_name = "libmp3lame encoder",
289     .item_name  = av_default_item_name,
290     .option     = options,
291     .version    = LIBAVUTIL_VERSION_INT,
292 };
293
294 AVCodec ff_libmp3lame_encoder = {
295     .name           = "libmp3lame",
296     .type           = AVMEDIA_TYPE_AUDIO,
297     .id             = CODEC_ID_MP3,
298     .priv_data_size = sizeof(Mp3AudioContext),
299     .init           = MP3lame_encode_init,
300     .encode         = MP3lame_encode_frame,
301     .close          = MP3lame_encode_close,
302     .capabilities= CODEC_CAP_DELAY,
303     .sample_fmts = (const enum AVSampleFormat[]){AV_SAMPLE_FMT_S16,
304 #if 2147483647 == INT_MAX
305     AV_SAMPLE_FMT_S32,
306 #endif
307     AV_SAMPLE_FMT_NONE},
308     .supported_samplerates= sSampleRates,
309     .long_name= NULL_IF_CONFIG_SMALL("libmp3lame MP3 (MPEG audio layer 3)"),
310     .priv_class     = &libmp3lame_class,
311 };