ab442add4a79c9d41c88f279de6693e621292c7b
[ffmpeg.git] / libavcodec / libfaac.c
1 /*
2  * Interface to libfaac for aac encoding
3  * Copyright (c) 2002 Gildas Bazin <gbazin@netcourrier.com>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Interface to libfaac for aac encoding.
25  */
26
27 #include <faac.h>
28
29 #include "avcodec.h"
30 #include "audio_frame_queue.h"
31 #include "internal.h"
32
33
34 /* libfaac has an encoder delay of 1024 samples */
35 #define FAAC_DELAY_SAMPLES 1024
36
37 typedef struct FaacAudioContext {
38     faacEncHandle faac_handle;
39     AudioFrameQueue afq;
40 } FaacAudioContext;
41
42 static const int channel_maps[][6] = {
43     { 2, 0, 1 },          //< C L R
44     { 2, 0, 1, 3 },       //< C L R Cs
45     { 2, 0, 1, 3, 4 },    //< C L R Ls Rs
46     { 2, 0, 1, 4, 5, 3 }, //< C L R Ls Rs LFE
47 };
48
49 static av_cold int Faac_encode_close(AVCodecContext *avctx)
50 {
51     FaacAudioContext *s = avctx->priv_data;
52
53 #if FF_API_OLD_ENCODE_AUDIO
54     av_freep(&avctx->coded_frame);
55 #endif
56     av_freep(&avctx->extradata);
57     ff_af_queue_close(&s->afq);
58
59     if (s->faac_handle)
60         faacEncClose(s->faac_handle);
61
62     return 0;
63 }
64
65 static av_cold int Faac_encode_init(AVCodecContext *avctx)
66 {
67     FaacAudioContext *s = avctx->priv_data;
68     faacEncConfigurationPtr faac_cfg;
69     unsigned long samples_input, max_bytes_output;
70     int ret;
71
72     /* number of channels */
73     if (avctx->channels < 1 || avctx->channels > 6) {
74         av_log(avctx, AV_LOG_ERROR, "encoding %d channel(s) is not allowed\n", avctx->channels);
75         ret = AVERROR(EINVAL);
76         goto error;
77     }
78
79     s->faac_handle = faacEncOpen(avctx->sample_rate,
80                                  avctx->channels,
81                                  &samples_input, &max_bytes_output);
82     if (!s->faac_handle) {
83         av_log(avctx, AV_LOG_ERROR, "error in faacEncOpen()\n");
84         ret = AVERROR_UNKNOWN;
85         goto error;
86     }
87
88     /* check faac version */
89     faac_cfg = faacEncGetCurrentConfiguration(s->faac_handle);
90     if (faac_cfg->version != FAAC_CFG_VERSION) {
91         av_log(avctx, AV_LOG_ERROR, "wrong libfaac version (compiled for: %d, using %d)\n", FAAC_CFG_VERSION, faac_cfg->version);
92         ret = AVERROR(EINVAL);
93         goto error;
94     }
95
96     /* put the options in the configuration struct */
97     switch(avctx->profile) {
98         case FF_PROFILE_AAC_MAIN:
99             faac_cfg->aacObjectType = MAIN;
100             break;
101         case FF_PROFILE_UNKNOWN:
102         case FF_PROFILE_AAC_LOW:
103             faac_cfg->aacObjectType = LOW;
104             break;
105         case FF_PROFILE_AAC_SSR:
106             faac_cfg->aacObjectType = SSR;
107             break;
108         case FF_PROFILE_AAC_LTP:
109             faac_cfg->aacObjectType = LTP;
110             break;
111         default:
112             av_log(avctx, AV_LOG_ERROR, "invalid AAC profile\n");
113             ret = AVERROR(EINVAL);
114             goto error;
115     }
116     faac_cfg->mpegVersion = MPEG4;
117     faac_cfg->useTns = 0;
118     faac_cfg->allowMidside = 1;
119     faac_cfg->bitRate = avctx->bit_rate / avctx->channels;
120     faac_cfg->bandWidth = avctx->cutoff;
121     if(avctx->flags & CODEC_FLAG_QSCALE) {
122         faac_cfg->bitRate = 0;
123         faac_cfg->quantqual = avctx->global_quality / FF_QP2LAMBDA;
124     }
125     faac_cfg->outputFormat = 1;
126     faac_cfg->inputFormat = FAAC_INPUT_16BIT;
127     if (avctx->channels > 2)
128         memcpy(faac_cfg->channel_map, channel_maps[avctx->channels-3],
129                avctx->channels * sizeof(int));
130
131     avctx->frame_size = samples_input / avctx->channels;
132
133 #if FF_API_OLD_ENCODE_AUDIO
134     avctx->coded_frame= avcodec_alloc_frame();
135     if (!avctx->coded_frame) {
136         ret = AVERROR(ENOMEM);
137         goto error;
138     }
139 #endif
140
141     /* Set decoder specific info */
142     avctx->extradata_size = 0;
143     if (avctx->flags & CODEC_FLAG_GLOBAL_HEADER) {
144
145         unsigned char *buffer = NULL;
146         unsigned long decoder_specific_info_size;
147
148         if (!faacEncGetDecoderSpecificInfo(s->faac_handle, &buffer,
149                                            &decoder_specific_info_size)) {
150             avctx->extradata = av_malloc(decoder_specific_info_size + FF_INPUT_BUFFER_PADDING_SIZE);
151             if (!avctx->extradata) {
152                 ret = AVERROR(ENOMEM);
153                 goto error;
154             }
155             avctx->extradata_size = decoder_specific_info_size;
156             memcpy(avctx->extradata, buffer, avctx->extradata_size);
157             faac_cfg->outputFormat = 0;
158         }
159 #undef free
160         free(buffer);
161 #define free please_use_av_free
162     }
163
164     if (!faacEncSetConfiguration(s->faac_handle, faac_cfg)) {
165         av_log(avctx, AV_LOG_ERROR, "libfaac doesn't support this output format!\n");
166         ret = AVERROR(EINVAL);
167         goto error;
168     }
169
170     avctx->delay = FAAC_DELAY_SAMPLES;
171     ff_af_queue_init(avctx, &s->afq);
172
173     return 0;
174 error:
175     Faac_encode_close(avctx);
176     return ret;
177 }
178
179 static int Faac_encode_frame(AVCodecContext *avctx, AVPacket *avpkt,
180                              const AVFrame *frame, int *got_packet_ptr)
181 {
182     FaacAudioContext *s = avctx->priv_data;
183     int bytes_written, ret;
184     int num_samples  = frame ? frame->nb_samples : 0;
185     void *samples    = frame ? frame->data[0]    : NULL;
186
187     if ((ret = ff_alloc_packet(avpkt, (7 + 768) * avctx->channels))) {
188         av_log(avctx, AV_LOG_ERROR, "Error getting output packet\n");
189         return ret;
190     }
191
192     bytes_written = faacEncEncode(s->faac_handle, samples,
193                                   num_samples * avctx->channels,
194                                   avpkt->data, avpkt->size);
195     if (bytes_written < 0) {
196         av_log(avctx, AV_LOG_ERROR, "faacEncEncode() error\n");
197         return bytes_written;
198     }
199
200     /* add current frame to the queue */
201     if (frame) {
202         if ((ret = ff_af_queue_add(&s->afq, frame) < 0))
203             return ret;
204     }
205
206     if (!bytes_written)
207         return 0;
208
209     /* Get the next frame pts/duration */
210     ff_af_queue_remove(&s->afq, avctx->frame_size, &avpkt->pts,
211                        &avpkt->duration);
212
213     avpkt->size = bytes_written;
214     *got_packet_ptr = 1;
215     return 0;
216 }
217
218 static const AVProfile profiles[] = {
219     { FF_PROFILE_AAC_MAIN, "Main" },
220     { FF_PROFILE_AAC_LOW,  "LC"   },
221     { FF_PROFILE_AAC_SSR,  "SSR"  },
222     { FF_PROFILE_AAC_LTP,  "LTP"  },
223     { FF_PROFILE_UNKNOWN },
224 };
225
226 AVCodec ff_libfaac_encoder = {
227     .name           = "libfaac",
228     .type           = AVMEDIA_TYPE_AUDIO,
229     .id             = CODEC_ID_AAC,
230     .priv_data_size = sizeof(FaacAudioContext),
231     .init           = Faac_encode_init,
232     .encode2        = Faac_encode_frame,
233     .close          = Faac_encode_close,
234     .capabilities = CODEC_CAP_SMALL_LAST_FRAME | CODEC_CAP_DELAY,
235     .sample_fmts = (const enum AVSampleFormat[]){AV_SAMPLE_FMT_S16,AV_SAMPLE_FMT_NONE},
236     .long_name = NULL_IF_CONFIG_SMALL("libfaac AAC (Advanced Audio Codec)"),
237     .profiles = NULL_IF_CONFIG_SMALL(profiles),
238 };