Merge commit '2f7065190ad48744014a02288799d03adfa613e0'
[ffmpeg.git] / libavcodec / libfdk-aacdec.c
1 /*
2  * AAC decoder wrapper
3  * Copyright (c) 2012 Martin Storsjo
4  *
5  * This file is part of FFmpeg.
6  *
7  * Permission to use, copy, modify, and/or distribute this software for any
8  * purpose with or without fee is hereby granted, provided that the above
9  * copyright notice and this permission notice appear in all copies.
10  *
11  * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHOR DISCLAIMS ALL WARRANTIES
12  * WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED WARRANTIES OF
13  * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR
14  * ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES
15  * WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN
16  * ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF
17  * OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
18  */
19
20 #include <fdk-aac/aacdecoder_lib.h>
21
22 #include "libavutil/channel_layout.h"
23 #include "libavutil/common.h"
24 #include "libavutil/opt.h"
25 #include "avcodec.h"
26 #include "internal.h"
27
28 enum ConcealMethod {
29     CONCEAL_METHOD_DEFAULT              = -1,
30     CONCEAL_METHOD_SPECTRAL_MUTING      =  0,
31     CONCEAL_METHOD_NOISE_SUBSTITUTION   =  1,
32     CONCEAL_METHOD_ENERGY_INTERPOLATION =  2,
33     CONCEAL_METHOD_NB,
34 };
35
36 typedef struct FDKAACDecContext {
37     const AVClass *class;
38     HANDLE_AACDECODER handle;
39     int initialized;
40     enum ConcealMethod conceal_method;
41 } FDKAACDecContext;
42
43 #define OFFSET(x) offsetof(FDKAACDecContext, x)
44 #define AD AV_OPT_FLAG_AUDIO_PARAM | AV_OPT_FLAG_DECODING_PARAM
45 static const AVOption fdk_aac_dec_options[] = {
46     { "conceal", "Error concealment method", OFFSET(conceal_method), AV_OPT_TYPE_INT, { .i64 = CONCEAL_METHOD_DEFAULT }, CONCEAL_METHOD_DEFAULT, CONCEAL_METHOD_NB - 1, AD, "conceal" },
47     { "default",  "Default",              0, AV_OPT_TYPE_CONST, { .i64 = CONCEAL_METHOD_DEFAULT },              INT_MIN, INT_MAX, AD, "conceal" },
48     { "spectral", "Spectral muting",      0, AV_OPT_TYPE_CONST, { .i64 = CONCEAL_METHOD_SPECTRAL_MUTING },      INT_MIN, INT_MAX, AD, "conceal" },
49     { "noise",    "Noise Substitution",   0, AV_OPT_TYPE_CONST, { .i64 = CONCEAL_METHOD_NOISE_SUBSTITUTION },   INT_MIN, INT_MAX, AD, "conceal" },
50     { "energy",   "Energy Interpolation", 0, AV_OPT_TYPE_CONST, { .i64 = CONCEAL_METHOD_ENERGY_INTERPOLATION }, INT_MIN, INT_MAX, AD, "conceal" },
51     { NULL }
52 };
53
54 static const AVClass fdk_aac_dec_class = {
55     "libfdk-aac decoder", av_default_item_name, fdk_aac_dec_options, LIBAVUTIL_VERSION_INT
56 };
57
58 static int get_stream_info(AVCodecContext *avctx)
59 {
60     FDKAACDecContext *s   = avctx->priv_data;
61     CStreamInfo *info     = aacDecoder_GetStreamInfo(s->handle);
62     int channel_counts[9] = { 0 };
63     int i, ch_error       = 0;
64     uint64_t ch_layout    = 0;
65
66     if (!info) {
67         av_log(avctx, AV_LOG_ERROR, "Unable to get stream info\n");
68         return AVERROR_UNKNOWN;
69     }
70
71     if (info->sampleRate <= 0) {
72         av_log(avctx, AV_LOG_ERROR, "Stream info not initialized\n");
73         return AVERROR_UNKNOWN;
74     }
75     avctx->sample_rate = info->sampleRate;
76     avctx->frame_size  = info->frameSize;
77
78     for (i = 0; i < info->numChannels; i++) {
79         AUDIO_CHANNEL_TYPE ctype = info->pChannelType[i];
80         if (ctype <= ACT_NONE || ctype > ACT_TOP) {
81             av_log(avctx, AV_LOG_WARNING, "unknown channel type\n");
82             break;
83         }
84         channel_counts[ctype]++;
85     }
86     av_log(avctx, AV_LOG_DEBUG,
87            "%d channels - front:%d side:%d back:%d lfe:%d top:%d\n",
88            info->numChannels,
89            channel_counts[ACT_FRONT], channel_counts[ACT_SIDE],
90            channel_counts[ACT_BACK],  channel_counts[ACT_LFE],
91            channel_counts[ACT_FRONT_TOP] + channel_counts[ACT_SIDE_TOP] +
92            channel_counts[ACT_BACK_TOP]  + channel_counts[ACT_TOP]);
93
94     switch (channel_counts[ACT_FRONT]) {
95     case 4:
96         ch_layout |= AV_CH_LAYOUT_STEREO | AV_CH_FRONT_LEFT_OF_CENTER |
97                      AV_CH_FRONT_RIGHT_OF_CENTER;
98         break;
99     case 3:
100         ch_layout |= AV_CH_LAYOUT_STEREO | AV_CH_FRONT_CENTER;
101         break;
102     case 2:
103         ch_layout |= AV_CH_LAYOUT_STEREO;
104         break;
105     case 1:
106         ch_layout |= AV_CH_FRONT_CENTER;
107         break;
108     default:
109         av_log(avctx, AV_LOG_WARNING,
110                "unsupported number of front channels: %d\n",
111                channel_counts[ACT_FRONT]);
112         ch_error = 1;
113         break;
114     }
115     if (channel_counts[ACT_SIDE] > 0) {
116         if (channel_counts[ACT_SIDE] == 2) {
117             ch_layout |= AV_CH_SIDE_LEFT | AV_CH_SIDE_RIGHT;
118         } else {
119             av_log(avctx, AV_LOG_WARNING,
120                    "unsupported number of side channels: %d\n",
121                    channel_counts[ACT_SIDE]);
122             ch_error = 1;
123         }
124     }
125     if (channel_counts[ACT_BACK] > 0) {
126         switch (channel_counts[ACT_BACK]) {
127         case 3:
128             ch_layout |= AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT | AV_CH_BACK_CENTER;
129             break;
130         case 2:
131             ch_layout |= AV_CH_BACK_LEFT | AV_CH_BACK_RIGHT;
132             break;
133         case 1:
134             ch_layout |= AV_CH_BACK_CENTER;
135             break;
136         default:
137             av_log(avctx, AV_LOG_WARNING,
138                    "unsupported number of back channels: %d\n",
139                    channel_counts[ACT_BACK]);
140             ch_error = 1;
141             break;
142         }
143     }
144     if (channel_counts[ACT_LFE] > 0) {
145         if (channel_counts[ACT_LFE] == 1) {
146             ch_layout |= AV_CH_LOW_FREQUENCY;
147         } else {
148             av_log(avctx, AV_LOG_WARNING,
149                    "unsupported number of LFE channels: %d\n",
150                    channel_counts[ACT_LFE]);
151             ch_error = 1;
152         }
153     }
154     if (!ch_error &&
155         av_get_channel_layout_nb_channels(ch_layout) != info->numChannels) {
156         av_log(avctx, AV_LOG_WARNING, "unsupported channel configuration\n");
157         ch_error = 1;
158     }
159     if (ch_error)
160         avctx->channel_layout = 0;
161     else
162         avctx->channel_layout = ch_layout;
163
164     avctx->channels = info->numChannels;
165
166     return 0;
167 }
168
169 static av_cold int fdk_aac_decode_close(AVCodecContext *avctx)
170 {
171     FDKAACDecContext *s = avctx->priv_data;
172
173     if (s->handle)
174         aacDecoder_Close(s->handle);
175
176     return 0;
177 }
178
179 static av_cold int fdk_aac_decode_init(AVCodecContext *avctx)
180 {
181     FDKAACDecContext *s = avctx->priv_data;
182     AAC_DECODER_ERROR err;
183
184     s->handle = aacDecoder_Open(avctx->extradata_size ? TT_MP4_RAW : TT_MP4_ADTS, 1);
185     if (!s->handle) {
186         av_log(avctx, AV_LOG_ERROR, "Error opening decoder\n");
187         return AVERROR_UNKNOWN;
188     }
189
190     if (avctx->extradata_size) {
191         if ((err = aacDecoder_ConfigRaw(s->handle, &avctx->extradata,
192                                         &avctx->extradata_size)) != AAC_DEC_OK) {
193             av_log(avctx, AV_LOG_ERROR, "Unable to set extradata\n");
194             return AVERROR_INVALIDDATA;
195         }
196     }
197
198     if (s->conceal_method != CONCEAL_METHOD_DEFAULT) {
199         if ((err = aacDecoder_SetParam(s->handle, AAC_CONCEAL_METHOD,
200                                        s->conceal_method)) != AAC_DEC_OK) {
201             av_log(avctx, AV_LOG_ERROR, "Unable to set error concealment method\n");
202             return AVERROR_UNKNOWN;
203         }
204     }
205
206     avctx->sample_fmt = AV_SAMPLE_FMT_S16;
207
208     return 0;
209 }
210
211 static int fdk_aac_decode_frame(AVCodecContext *avctx, void *data,
212                                 int *got_frame_ptr, AVPacket *avpkt)
213 {
214     FDKAACDecContext *s = avctx->priv_data;
215     AVFrame *frame = data;
216     int ret;
217     AAC_DECODER_ERROR err;
218     UINT valid = avpkt->size;
219     uint8_t *buf, *tmpptr = NULL;
220     int buf_size;
221
222     err = aacDecoder_Fill(s->handle, &avpkt->data, &avpkt->size, &valid);
223     if (err != AAC_DEC_OK) {
224         av_log(avctx, AV_LOG_ERROR, "aacDecoder_Fill() failed: %x\n", err);
225         return AVERROR_INVALIDDATA;
226     }
227
228     if (s->initialized) {
229         frame->nb_samples = avctx->frame_size;
230         if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
231             return ret;
232         buf = frame->extended_data[0];
233         buf_size = avctx->channels * frame->nb_samples *
234                    av_get_bytes_per_sample(avctx->sample_fmt);
235     } else {
236         buf_size = 50 * 1024;
237         buf = tmpptr = av_malloc(buf_size);
238         if (!buf)
239             return AVERROR(ENOMEM);
240     }
241
242     err = aacDecoder_DecodeFrame(s->handle, (INT_PCM *) buf, buf_size, 0);
243     if (err == AAC_DEC_NOT_ENOUGH_BITS) {
244         ret = avpkt->size - valid;
245         goto end;
246     }
247     if (err != AAC_DEC_OK) {
248         av_log(avctx, AV_LOG_ERROR,
249                "aacDecoder_DecodeFrame() failed: %x\n", err);
250         ret = AVERROR_UNKNOWN;
251         goto end;
252     }
253
254     if (!s->initialized) {
255         if ((ret = get_stream_info(avctx)) < 0)
256             goto end;
257         s->initialized = 1;
258         frame->nb_samples = avctx->frame_size;
259     }
260
261     if (tmpptr) {
262         frame->nb_samples = avctx->frame_size;
263         if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
264             goto end;
265         memcpy(frame->extended_data[0], tmpptr,
266                avctx->channels * avctx->frame_size *
267                av_get_bytes_per_sample(avctx->sample_fmt));
268     }
269
270     *got_frame_ptr = 1;
271     ret = avpkt->size - valid;
272
273 end:
274     av_free(tmpptr);
275     return ret;
276 }
277
278 static av_cold void fdk_aac_decode_flush(AVCodecContext *avctx)
279 {
280     FDKAACDecContext *s = avctx->priv_data;
281     AAC_DECODER_ERROR err;
282
283     if (!s->handle)
284         return;
285
286     if ((err = aacDecoder_SetParam(s->handle,
287                                    AAC_TPDEC_CLEAR_BUFFER, 1)) != AAC_DEC_OK)
288         av_log(avctx, AV_LOG_WARNING, "failed to clear buffer when flushing\n");
289 }
290
291 AVCodec ff_libfdk_aac_decoder = {
292     .name           = "libfdk_aac",
293     .long_name      = NULL_IF_CONFIG_SMALL("Fraunhofer FDK AAC"),
294     .type           = AVMEDIA_TYPE_AUDIO,
295     .id             = AV_CODEC_ID_AAC,
296     .priv_data_size = sizeof(FDKAACDecContext),
297     .init           = fdk_aac_decode_init,
298     .decode         = fdk_aac_decode_frame,
299     .close          = fdk_aac_decode_close,
300     .flush          = fdk_aac_decode_flush,
301     .capabilities   = CODEC_CAP_DR1,
302     .priv_class     = &fdk_aac_dec_class,
303 };