lavc: fix support of unofficial pix_fmt extensions of jpeg
[ffmpeg.git] / libavcodec / libmp3lame.c
1 /*
2  * Interface to libmp3lame for mp3 encoding
3  * Copyright (c) 2002 Lennert Buytenhek <buytenh@gnu.org>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Interface to libmp3lame for mp3 encoding.
25  */
26
27 #include <lame/lame.h>
28
29 #include "libavutil/audioconvert.h"
30 #include "libavutil/intreadwrite.h"
31 #include "libavutil/log.h"
32 #include "libavutil/opt.h"
33 #include "avcodec.h"
34 #include "audio_frame_queue.h"
35 #include "internal.h"
36 #include "mpegaudio.h"
37 #include "mpegaudiodecheader.h"
38
39 #define BUFFER_SIZE (7200 + 2 * MPA_FRAME_SIZE + MPA_FRAME_SIZE / 4+1000) // FIXME: Buffer size to small? Adding 1000 to make up for it.
40
41 typedef struct LAMEContext {
42     AVClass *class;
43     AVCodecContext *avctx;
44     lame_global_flags *gfp;
45     uint8_t buffer[BUFFER_SIZE];
46     int buffer_index;
47     int reservoir;
48     void *planar_samples[2];
49     AudioFrameQueue afq;
50 } LAMEContext;
51
52
53 static av_cold int mp3lame_encode_close(AVCodecContext *avctx)
54 {
55     LAMEContext *s = avctx->priv_data;
56
57 #if FF_API_OLD_ENCODE_AUDIO
58     av_freep(&avctx->coded_frame);
59 #endif
60     av_freep(&s->planar_samples[0]);
61     av_freep(&s->planar_samples[1]);
62
63     ff_af_queue_close(&s->afq);
64
65     lame_close(s->gfp);
66     return 0;
67 }
68
69 static av_cold int mp3lame_encode_init(AVCodecContext *avctx)
70 {
71     LAMEContext *s = avctx->priv_data;
72     int ret;
73
74     s->avctx = avctx;
75
76     /* initialize LAME and get defaults */
77     if ((s->gfp = lame_init()) == NULL)
78         return AVERROR(ENOMEM);
79
80
81     lame_set_num_channels(s->gfp, avctx->channels);
82     lame_set_mode(s->gfp, avctx->channels > 1 ? JOINT_STEREO : MONO);
83
84     /* sample rate */
85     lame_set_in_samplerate (s->gfp, avctx->sample_rate);
86     lame_set_out_samplerate(s->gfp, avctx->sample_rate);
87
88     /* algorithmic quality */
89     if (avctx->compression_level == FF_COMPRESSION_DEFAULT)
90         lame_set_quality(s->gfp, 5);
91     else
92         lame_set_quality(s->gfp, avctx->compression_level);
93
94     /* rate control */
95     if (avctx->flags & CODEC_FLAG_QSCALE) {
96         lame_set_VBR(s->gfp, vbr_default);
97         lame_set_VBR_quality(s->gfp, avctx->global_quality / (float)FF_QP2LAMBDA);
98     } else {
99         if (avctx->bit_rate)
100             lame_set_brate(s->gfp, avctx->bit_rate / 1000);
101     }
102
103     /* do not get a Xing VBR header frame from LAME */
104     lame_set_bWriteVbrTag(s->gfp,0);
105
106     /* bit reservoir usage */
107     lame_set_disable_reservoir(s->gfp, !s->reservoir);
108
109     /* set specified parameters */
110     if (lame_init_params(s->gfp) < 0) {
111         ret = -1;
112         goto error;
113     }
114
115     /* get encoder delay */
116     avctx->delay = lame_get_encoder_delay(s->gfp) + 528 + 1;
117     ff_af_queue_init(avctx, &s->afq);
118
119     avctx->frame_size  = lame_get_framesize(s->gfp);
120
121 #if FF_API_OLD_ENCODE_AUDIO
122     avctx->coded_frame = avcodec_alloc_frame();
123     if (!avctx->coded_frame) {
124         ret = AVERROR(ENOMEM);
125         goto error;
126     }
127 #endif
128
129     /* sample format */
130     if (avctx->sample_fmt == AV_SAMPLE_FMT_S32 ||
131         avctx->sample_fmt == AV_SAMPLE_FMT_FLT) {
132         int ch;
133         for (ch = 0; ch < avctx->channels; ch++) {
134             s->planar_samples[ch] = av_malloc(avctx->frame_size *
135                                               av_get_bytes_per_sample(avctx->sample_fmt));
136             if (!s->planar_samples[ch]) {
137                 ret = AVERROR(ENOMEM);
138                 goto error;
139             }
140         }
141     }
142
143     return 0;
144 error:
145     mp3lame_encode_close(avctx);
146     return ret;
147 }
148
149 #define DEINTERLEAVE(type, scale) do {                  \
150     int ch, i;                                          \
151     for (ch = 0; ch < s->avctx->channels; ch++) {       \
152         const type *input = samples;                    \
153         type      *output = s->planar_samples[ch];      \
154         input += ch;                                    \
155         for (i = 0; i < nb_samples; i++) {              \
156             output[i] = *input * scale;                 \
157             input += s->avctx->channels;                \
158         }                                               \
159     }                                                   \
160 } while (0)
161
162 static int encode_frame_int16(LAMEContext *s, void *samples, int nb_samples)
163 {
164     if (s->avctx->channels > 1) {
165         return lame_encode_buffer_interleaved(s->gfp, samples,
166                                               nb_samples,
167                                               s->buffer + s->buffer_index,
168                                               BUFFER_SIZE - s->buffer_index);
169     } else {
170         return lame_encode_buffer(s->gfp, samples, NULL, nb_samples,
171                                   s->buffer + s->buffer_index,
172                                   BUFFER_SIZE - s->buffer_index);
173     }
174 }
175
176 static int encode_frame_int32(LAMEContext *s, void *samples, int nb_samples)
177 {
178     DEINTERLEAVE(int32_t, 1);
179
180     return lame_encode_buffer_int(s->gfp,
181                                   s->planar_samples[0], s->planar_samples[1],
182                                   nb_samples,
183                                   s->buffer + s->buffer_index,
184                                   BUFFER_SIZE - s->buffer_index);
185 }
186
187 static int encode_frame_float(LAMEContext *s, void *samples, int nb_samples)
188 {
189     DEINTERLEAVE(float, 32768.0f);
190
191     return lame_encode_buffer_float(s->gfp,
192                                     s->planar_samples[0], s->planar_samples[1],
193                                     nb_samples,
194                                     s->buffer + s->buffer_index,
195                                     BUFFER_SIZE - s->buffer_index);
196 }
197
198 static int mp3lame_encode_frame(AVCodecContext *avctx, AVPacket *avpkt,
199                                 const AVFrame *frame, int *got_packet_ptr)
200 {
201     LAMEContext *s = avctx->priv_data;
202     MPADecodeHeader hdr;
203     int len, ret;
204     int lame_result;
205
206     if (frame) {
207         switch (avctx->sample_fmt) {
208         case AV_SAMPLE_FMT_S16:
209             lame_result = encode_frame_int16(s, frame->data[0], frame->nb_samples);
210             break;
211         case AV_SAMPLE_FMT_S32:
212             lame_result = encode_frame_int32(s, frame->data[0], frame->nb_samples);
213             break;
214         case AV_SAMPLE_FMT_FLT:
215             lame_result = encode_frame_float(s, frame->data[0], frame->nb_samples);
216             break;
217         default:
218             return AVERROR_BUG;
219         }
220     } else {
221         lame_result = lame_encode_flush(s->gfp, s->buffer + s->buffer_index,
222                                         BUFFER_SIZE - s->buffer_index);
223     }
224     if (lame_result < 0) {
225         if (lame_result == -1) {
226             av_log(avctx, AV_LOG_ERROR,
227                    "lame: output buffer too small (buffer index: %d, free bytes: %d)\n",
228                    s->buffer_index, BUFFER_SIZE - s->buffer_index);
229         }
230         return -1;
231     }
232     s->buffer_index += lame_result;
233
234     /* add current frame to the queue */
235     if (frame) {
236         if ((ret = ff_af_queue_add(&s->afq, frame) < 0))
237             return ret;
238     }
239
240     /* Move 1 frame from the LAME buffer to the output packet, if available.
241        We have to parse the first frame header in the output buffer to
242        determine the frame size. */
243     if (s->buffer_index < 4)
244         return 0;
245     if (avpriv_mpegaudio_decode_header(&hdr, AV_RB32(s->buffer))) {
246         av_log(avctx, AV_LOG_ERROR, "free format output not supported\n");
247         return -1;
248     }
249     len = hdr.frame_size;
250     av_dlog(avctx, "in:%d packet-len:%d index:%d\n", avctx->frame_size, len,
251             s->buffer_index);
252     if (len <= s->buffer_index) {
253         if ((ret = ff_alloc_packet2(avctx, avpkt, len)))
254             return ret;
255         memcpy(avpkt->data, s->buffer, len);
256         s->buffer_index -= len;
257         memmove(s->buffer, s->buffer + len, s->buffer_index);
258
259         /* Get the next frame pts/duration */
260         ff_af_queue_remove(&s->afq, avctx->frame_size, &avpkt->pts,
261                            &avpkt->duration);
262
263         avpkt->size = len;
264         *got_packet_ptr = 1;
265     }
266     return 0;
267 }
268
269 #define OFFSET(x) offsetof(LAMEContext, x)
270 #define AE AV_OPT_FLAG_AUDIO_PARAM | AV_OPT_FLAG_ENCODING_PARAM
271 static const AVOption options[] = {
272     { "reservoir", "Use bit reservoir.", OFFSET(reservoir), AV_OPT_TYPE_INT, { 1 }, 0, 1, AE },
273     { NULL },
274 };
275
276 static const AVClass libmp3lame_class = {
277     .class_name = "libmp3lame encoder",
278     .item_name  = av_default_item_name,
279     .option     = options,
280     .version    = LIBAVUTIL_VERSION_INT,
281 };
282
283 static const AVCodecDefault libmp3lame_defaults[] = {
284     { "b",          "0" },
285     { NULL },
286 };
287
288 static const int libmp3lame_sample_rates[] = {
289     44100, 48000,  32000, 22050, 24000, 16000, 11025, 12000, 8000, 0
290 };
291
292 AVCodec ff_libmp3lame_encoder = {
293     .name                  = "libmp3lame",
294     .type                  = AVMEDIA_TYPE_AUDIO,
295     .id                    = CODEC_ID_MP3,
296     .priv_data_size        = sizeof(LAMEContext),
297     .init                  = mp3lame_encode_init,
298     .encode2               = mp3lame_encode_frame,
299     .close                 = mp3lame_encode_close,
300     .capabilities          = CODEC_CAP_DELAY | CODEC_CAP_SMALL_LAST_FRAME,
301     .sample_fmts           = (const enum AVSampleFormat[]) { AV_SAMPLE_FMT_S32,
302                                                              AV_SAMPLE_FMT_FLT,
303                                                              AV_SAMPLE_FMT_S16,
304                                                              AV_SAMPLE_FMT_NONE },
305     .supported_samplerates = libmp3lame_sample_rates,
306     .channel_layouts       = (const uint64_t[]) { AV_CH_LAYOUT_MONO,
307                                                   AV_CH_LAYOUT_STEREO,
308                                                   0 },
309     .long_name             = NULL_IF_CONFIG_SMALL("libmp3lame MP3 (MPEG audio layer 3)"),
310     .priv_class            = &libmp3lame_class,
311     .defaults              = libmp3lame_defaults,
312 };