e5730d40782803afd69863db280766961d32afe6
[ffmpeg.git] / libavcodec / aacenc.c
1 /*
2  * AAC encoder
3  * Copyright (C) 2008 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * AAC encoder
25  */
26
27 /***********************************
28  *              TODOs:
29  * add sane pulse detection
30  * add temporal noise shaping
31  ***********************************/
32
33 #include "libavutil/float_dsp.h"
34 #include "libavutil/opt.h"
35 #include "avcodec.h"
36 #include "put_bits.h"
37 #include "internal.h"
38 #include "mpeg4audio.h"
39 #include "kbdwin.h"
40 #include "sinewin.h"
41
42 #include "aac.h"
43 #include "aactab.h"
44 #include "aacenc.h"
45 #include "aacenctab.h"
46 #include "aacenc_utils.h"
47
48 #include "psymodel.h"
49
50 /**
51  * Make AAC audio config object.
52  * @see 1.6.2.1 "Syntax - AudioSpecificConfig"
53  */
54 static void put_audio_specific_config(AVCodecContext *avctx)
55 {
56     PutBitContext pb;
57     AACEncContext *s = avctx->priv_data;
58
59     init_put_bits(&pb, avctx->extradata, avctx->extradata_size);
60     put_bits(&pb, 5, 2); //object type - AAC-LC
61     put_bits(&pb, 4, s->samplerate_index); //sample rate index
62     put_bits(&pb, 4, s->channels);
63     //GASpecificConfig
64     put_bits(&pb, 1, 0); //frame length - 1024 samples
65     put_bits(&pb, 1, 0); //does not depend on core coder
66     put_bits(&pb, 1, 0); //is not extension
67
68     //Explicitly Mark SBR absent
69     put_bits(&pb, 11, 0x2b7); //sync extension
70     put_bits(&pb, 5,  AOT_SBR);
71     put_bits(&pb, 1,  0);
72     flush_put_bits(&pb);
73 }
74
75 #define WINDOW_FUNC(type) \
76 static void apply_ ##type ##_window(AVFloatDSPContext *fdsp, \
77                                     SingleChannelElement *sce, \
78                                     const float *audio)
79
80 WINDOW_FUNC(only_long)
81 {
82     const float *lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
83     const float *pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_long_1024 : ff_sine_1024;
84     float *out = sce->ret_buf;
85
86     fdsp->vector_fmul        (out,        audio,        lwindow, 1024);
87     fdsp->vector_fmul_reverse(out + 1024, audio + 1024, pwindow, 1024);
88 }
89
90 WINDOW_FUNC(long_start)
91 {
92     const float *lwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_long_1024 : ff_sine_1024;
93     const float *swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
94     float *out = sce->ret_buf;
95
96     fdsp->vector_fmul(out, audio, lwindow, 1024);
97     memcpy(out + 1024, audio + 1024, sizeof(out[0]) * 448);
98     fdsp->vector_fmul_reverse(out + 1024 + 448, audio + 1024 + 448, swindow, 128);
99     memset(out + 1024 + 576, 0, sizeof(out[0]) * 448);
100 }
101
102 WINDOW_FUNC(long_stop)
103 {
104     const float *lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
105     const float *swindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
106     float *out = sce->ret_buf;
107
108     memset(out, 0, sizeof(out[0]) * 448);
109     fdsp->vector_fmul(out + 448, audio + 448, swindow, 128);
110     memcpy(out + 576, audio + 576, sizeof(out[0]) * 448);
111     fdsp->vector_fmul_reverse(out + 1024, audio + 1024, lwindow, 1024);
112 }
113
114 WINDOW_FUNC(eight_short)
115 {
116     const float *swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
117     const float *pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
118     const float *in = audio + 448;
119     float *out = sce->ret_buf;
120     int w;
121
122     for (w = 0; w < 8; w++) {
123         fdsp->vector_fmul        (out, in, w ? pwindow : swindow, 128);
124         out += 128;
125         in  += 128;
126         fdsp->vector_fmul_reverse(out, in, swindow, 128);
127         out += 128;
128     }
129 }
130
131 static void (*const apply_window[4])(AVFloatDSPContext *fdsp,
132                                      SingleChannelElement *sce,
133                                      const float *audio) = {
134     [ONLY_LONG_SEQUENCE]   = apply_only_long_window,
135     [LONG_START_SEQUENCE]  = apply_long_start_window,
136     [EIGHT_SHORT_SEQUENCE] = apply_eight_short_window,
137     [LONG_STOP_SEQUENCE]   = apply_long_stop_window
138 };
139
140 static void apply_window_and_mdct(AACEncContext *s, SingleChannelElement *sce,
141                                   float *audio)
142 {
143     int i;
144     float *output = sce->ret_buf;
145
146     apply_window[sce->ics.window_sequence[0]](s->fdsp, sce, audio);
147
148     if (sce->ics.window_sequence[0] != EIGHT_SHORT_SEQUENCE)
149         s->mdct1024.mdct_calc(&s->mdct1024, sce->coeffs, output);
150     else
151         for (i = 0; i < 1024; i += 128)
152             s->mdct128.mdct_calc(&s->mdct128, &sce->coeffs[i], output + i*2);
153     memcpy(audio, audio + 1024, sizeof(audio[0]) * 1024);
154     memcpy(sce->pcoeffs, sce->coeffs, sizeof(sce->pcoeffs));
155 }
156
157 /**
158  * Encode ics_info element.
159  * @see Table 4.6 (syntax of ics_info)
160  */
161 static void put_ics_info(AACEncContext *s, IndividualChannelStream *info)
162 {
163     int w;
164
165     put_bits(&s->pb, 1, 0);                // ics_reserved bit
166     put_bits(&s->pb, 2, info->window_sequence[0]);
167     put_bits(&s->pb, 1, info->use_kb_window[0]);
168     if (info->window_sequence[0] != EIGHT_SHORT_SEQUENCE) {
169         put_bits(&s->pb, 6, info->max_sfb);
170         put_bits(&s->pb, 1, 0);            // no prediction
171     } else {
172         put_bits(&s->pb, 4, info->max_sfb);
173         for (w = 1; w < 8; w++)
174             put_bits(&s->pb, 1, !info->group_len[w]);
175     }
176 }
177
178 /**
179  * Encode MS data.
180  * @see 4.6.8.1 "Joint Coding - M/S Stereo"
181  */
182 static void encode_ms_info(PutBitContext *pb, ChannelElement *cpe)
183 {
184     int i, w;
185
186     put_bits(pb, 2, cpe->ms_mode);
187     if (cpe->ms_mode == 1)
188         for (w = 0; w < cpe->ch[0].ics.num_windows; w += cpe->ch[0].ics.group_len[w])
189             for (i = 0; i < cpe->ch[0].ics.max_sfb; i++)
190                 put_bits(pb, 1, cpe->ms_mask[w*16 + i]);
191 }
192
193 /**
194  * Produce integer coefficients from scalefactors provided by the model.
195  */
196 static void adjust_frame_information(ChannelElement *cpe, int chans)
197 {
198     int i, w, w2, g, ch;
199     int maxsfb, cmaxsfb;
200     IndividualChannelStream *ics;
201
202     if (cpe->common_window) {
203         ics = &cpe->ch[0].ics;
204         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
205             for (w2 =  0; w2 < ics->group_len[w]; w2++) {
206                 int start = (w+w2) * 128;
207                 for (g = 0; g < ics->num_swb; g++) {
208                     //apply Intensity stereo coeffs transformation
209                     if (cpe->is_mask[w*16 + g]) {
210                         int p = -1 + 2 * (cpe->ch[1].band_type[w*16+g] - 14);
211                         float scale = cpe->ch[0].is_ener[w*16+g];
212                         for (i = 0; i < ics->swb_sizes[g]; i++) {
213                             cpe->ch[0].coeffs[start+i] = (cpe->ch[0].coeffs[start+i] + p*cpe->ch[1].coeffs[start+i]) * scale;
214                             cpe->ch[1].coeffs[start+i] = 0.0f;
215                         }
216                     } else if (cpe->ms_mask[w*16 + g] &&
217                                cpe->ch[0].band_type[w*16 + g] < NOISE_BT &&
218                                cpe->ch[1].band_type[w*16 + g] < NOISE_BT) {
219                         for (i = 0; i < ics->swb_sizes[g]; i++) {
220                             float L = (cpe->ch[0].coeffs[start+i] + cpe->ch[1].coeffs[start+i]) * 0.5f;
221                             float R = L - cpe->ch[1].coeffs[start+i];
222                             cpe->ch[0].coeffs[start+i] = L;
223                             cpe->ch[1].coeffs[start+i] = R;
224                         }
225                     }
226                     start += ics->swb_sizes[g];
227                 }
228             }
229         }
230     }
231
232     for (ch = 0; ch < chans; ch++) {
233         IndividualChannelStream *ics = &cpe->ch[ch].ics;
234         maxsfb = 0;
235         cpe->ch[ch].pulse.num_pulse = 0;
236         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
237             for (w2 =  0; w2 < ics->group_len[w]; w2++) {
238                 for (cmaxsfb = ics->num_swb; cmaxsfb > 0 && cpe->ch[ch].zeroes[w*16+cmaxsfb-1]; cmaxsfb--)
239                     ;
240                 maxsfb = FFMAX(maxsfb, cmaxsfb);
241             }
242         }
243         ics->max_sfb = maxsfb;
244
245         //adjust zero bands for window groups
246         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
247             for (g = 0; g < ics->max_sfb; g++) {
248                 i = 1;
249                 for (w2 = w; w2 < w + ics->group_len[w]; w2++) {
250                     if (!cpe->ch[ch].zeroes[w2*16 + g]) {
251                         i = 0;
252                         break;
253                     }
254                 }
255                 cpe->ch[ch].zeroes[w*16 + g] = i;
256             }
257         }
258     }
259
260     if (chans > 1 && cpe->common_window) {
261         IndividualChannelStream *ics0 = &cpe->ch[0].ics;
262         IndividualChannelStream *ics1 = &cpe->ch[1].ics;
263         int msc = 0;
264         ics0->max_sfb = FFMAX(ics0->max_sfb, ics1->max_sfb);
265         ics1->max_sfb = ics0->max_sfb;
266         for (w = 0; w < ics0->num_windows*16; w += 16)
267             for (i = 0; i < ics0->max_sfb; i++)
268                 if (cpe->ms_mask[w+i])
269                     msc++;
270         if (msc == 0 || ics0->max_sfb == 0)
271             cpe->ms_mode = 0;
272         else
273             cpe->ms_mode = msc < ics0->max_sfb * ics0->num_windows ? 1 : 2;
274     }
275 }
276
277 /**
278  * Encode scalefactor band coding type.
279  */
280 static void encode_band_info(AACEncContext *s, SingleChannelElement *sce)
281 {
282     int w;
283
284     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w])
285         s->coder->encode_window_bands_info(s, sce, w, sce->ics.group_len[w], s->lambda);
286 }
287
288 /**
289  * Encode scalefactors.
290  */
291 static void encode_scale_factors(AVCodecContext *avctx, AACEncContext *s,
292                                  SingleChannelElement *sce)
293 {
294     int diff, off_sf = sce->sf_idx[0], off_pns = sce->sf_idx[0] - NOISE_OFFSET;
295     int off_is = 0, noise_flag = 1;
296     int i, w;
297
298     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
299         for (i = 0; i < sce->ics.max_sfb; i++) {
300             if (!sce->zeroes[w*16 + i]) {
301                 if (sce->band_type[w*16 + i] == NOISE_BT) {
302                     diff = sce->sf_idx[w*16 + i] - off_pns;
303                     off_pns = sce->sf_idx[w*16 + i];
304                     if (noise_flag-- > 0) {
305                         put_bits(&s->pb, NOISE_PRE_BITS, diff + NOISE_PRE);
306                         continue;
307                     }
308                 } else if (sce->band_type[w*16 + i] == INTENSITY_BT  ||
309                            sce->band_type[w*16 + i] == INTENSITY_BT2) {
310                     diff = sce->sf_idx[w*16 + i] - off_is;
311                     off_is = sce->sf_idx[w*16 + i];
312                 } else {
313                     diff = sce->sf_idx[w*16 + i] - off_sf;
314                     off_sf = sce->sf_idx[w*16 + i];
315                 }
316                 diff += SCALE_DIFF_ZERO;
317                 av_assert0(diff >= 0 && diff <= 120);
318                 put_bits(&s->pb, ff_aac_scalefactor_bits[diff], ff_aac_scalefactor_code[diff]);
319             }
320         }
321     }
322 }
323
324 /**
325  * Encode pulse data.
326  */
327 static void encode_pulses(AACEncContext *s, Pulse *pulse)
328 {
329     int i;
330
331     put_bits(&s->pb, 1, !!pulse->num_pulse);
332     if (!pulse->num_pulse)
333         return;
334
335     put_bits(&s->pb, 2, pulse->num_pulse - 1);
336     put_bits(&s->pb, 6, pulse->start);
337     for (i = 0; i < pulse->num_pulse; i++) {
338         put_bits(&s->pb, 5, pulse->pos[i]);
339         put_bits(&s->pb, 4, pulse->amp[i]);
340     }
341 }
342
343 /**
344  * Encode spectral coefficients processed by psychoacoustic model.
345  */
346 static void encode_spectral_coeffs(AACEncContext *s, SingleChannelElement *sce)
347 {
348     int start, i, w, w2;
349
350     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
351         start = 0;
352         for (i = 0; i < sce->ics.max_sfb; i++) {
353             if (sce->zeroes[w*16 + i]) {
354                 start += sce->ics.swb_sizes[i];
355                 continue;
356             }
357             for (w2 = w; w2 < w + sce->ics.group_len[w]; w2++)
358                 s->coder->quantize_and_encode_band(s, &s->pb, sce->coeffs + start + w2*128,
359                                                    sce->ics.swb_sizes[i],
360                                                    sce->sf_idx[w*16 + i],
361                                                    sce->band_type[w*16 + i],
362                                                    s->lambda, sce->ics.window_clipping[w]);
363             start += sce->ics.swb_sizes[i];
364         }
365     }
366 }
367
368 /**
369  * Downscale spectral coefficients for near-clipping windows to avoid artifacts
370  */
371 static void avoid_clipping(AACEncContext *s, SingleChannelElement *sce)
372 {
373     int start, i, j, w;
374
375     if (sce->ics.clip_avoidance_factor < 1.0f) {
376         for (w = 0; w < sce->ics.num_windows; w++) {
377             start = 0;
378             for (i = 0; i < sce->ics.max_sfb; i++) {
379                 float *swb_coeffs = &sce->coeffs[start + w*128];
380                 for (j = 0; j < sce->ics.swb_sizes[i]; j++)
381                     swb_coeffs[j] *= sce->ics.clip_avoidance_factor;
382                 start += sce->ics.swb_sizes[i];
383             }
384         }
385     }
386 }
387
388 /**
389  * Encode one channel of audio data.
390  */
391 static int encode_individual_channel(AVCodecContext *avctx, AACEncContext *s,
392                                      SingleChannelElement *sce,
393                                      int common_window)
394 {
395     put_bits(&s->pb, 8, sce->sf_idx[0]);
396     if (!common_window)
397         put_ics_info(s, &sce->ics);
398     encode_band_info(s, sce);
399     encode_scale_factors(avctx, s, sce);
400     encode_pulses(s, &sce->pulse);
401     put_bits(&s->pb, 1, 0); //tns
402     put_bits(&s->pb, 1, 0); //ssr
403     encode_spectral_coeffs(s, sce);
404     return 0;
405 }
406
407 /**
408  * Write some auxiliary information about the created AAC file.
409  */
410 static void put_bitstream_info(AACEncContext *s, const char *name)
411 {
412     int i, namelen, padbits;
413
414     namelen = strlen(name) + 2;
415     put_bits(&s->pb, 3, TYPE_FIL);
416     put_bits(&s->pb, 4, FFMIN(namelen, 15));
417     if (namelen >= 15)
418         put_bits(&s->pb, 8, namelen - 14);
419     put_bits(&s->pb, 4, 0); //extension type - filler
420     padbits = -put_bits_count(&s->pb) & 7;
421     avpriv_align_put_bits(&s->pb);
422     for (i = 0; i < namelen - 2; i++)
423         put_bits(&s->pb, 8, name[i]);
424     put_bits(&s->pb, 12 - padbits, 0);
425 }
426
427 /*
428  * Copy input samples.
429  * Channels are reordered from libavcodec's default order to AAC order.
430  */
431 static void copy_input_samples(AACEncContext *s, const AVFrame *frame)
432 {
433     int ch;
434     int end = 2048 + (frame ? frame->nb_samples : 0);
435     const uint8_t *channel_map = aac_chan_maps[s->channels - 1];
436
437     /* copy and remap input samples */
438     for (ch = 0; ch < s->channels; ch++) {
439         /* copy last 1024 samples of previous frame to the start of the current frame */
440         memcpy(&s->planar_samples[ch][1024], &s->planar_samples[ch][2048], 1024 * sizeof(s->planar_samples[0][0]));
441
442         /* copy new samples and zero any remaining samples */
443         if (frame) {
444             memcpy(&s->planar_samples[ch][2048],
445                    frame->extended_data[channel_map[ch]],
446                    frame->nb_samples * sizeof(s->planar_samples[0][0]));
447         }
448         memset(&s->planar_samples[ch][end], 0,
449                (3072 - end) * sizeof(s->planar_samples[0][0]));
450     }
451 }
452
453 static int aac_encode_frame(AVCodecContext *avctx, AVPacket *avpkt,
454                             const AVFrame *frame, int *got_packet_ptr)
455 {
456     AACEncContext *s = avctx->priv_data;
457     float **samples = s->planar_samples, *samples2, *la, *overlap;
458     ChannelElement *cpe;
459     int i, ch, w, g, chans, tag, start_ch, ret, ms_mode = 0, is_mode = 0;
460     int chan_el_counter[4];
461     FFPsyWindowInfo windows[AAC_MAX_CHANNELS];
462
463     if (s->last_frame == 2)
464         return 0;
465
466     /* add current frame to queue */
467     if (frame) {
468         if ((ret = ff_af_queue_add(&s->afq, frame)) < 0)
469             return ret;
470     }
471
472     copy_input_samples(s, frame);
473     if (s->psypp)
474         ff_psy_preprocess(s->psypp, s->planar_samples, s->channels);
475
476     if (!avctx->frame_number)
477         return 0;
478
479     start_ch = 0;
480     for (i = 0; i < s->chan_map[0]; i++) {
481         FFPsyWindowInfo* wi = windows + start_ch;
482         tag      = s->chan_map[i+1];
483         chans    = tag == TYPE_CPE ? 2 : 1;
484         cpe      = &s->cpe[i];
485         for (ch = 0; ch < chans; ch++) {
486             IndividualChannelStream *ics = &cpe->ch[ch].ics;
487             int cur_channel = start_ch + ch;
488             float clip_avoidance_factor;
489             overlap  = &samples[cur_channel][0];
490             samples2 = overlap + 1024;
491             la       = samples2 + (448+64);
492             if (!frame)
493                 la = NULL;
494             if (tag == TYPE_LFE) {
495                 wi[ch].window_type[0] = ONLY_LONG_SEQUENCE;
496                 wi[ch].window_shape   = 0;
497                 wi[ch].num_windows    = 1;
498                 wi[ch].grouping[0]    = 1;
499
500                 /* Only the lowest 12 coefficients are used in a LFE channel.
501                  * The expression below results in only the bottom 8 coefficients
502                  * being used for 11.025kHz to 16kHz sample rates.
503                  */
504                 ics->num_swb = s->samplerate_index >= 8 ? 1 : 3;
505             } else {
506                 wi[ch] = s->psy.model->window(&s->psy, samples2, la, cur_channel,
507                                               ics->window_sequence[0]);
508             }
509             ics->window_sequence[1] = ics->window_sequence[0];
510             ics->window_sequence[0] = wi[ch].window_type[0];
511             ics->use_kb_window[1]   = ics->use_kb_window[0];
512             ics->use_kb_window[0]   = wi[ch].window_shape;
513             ics->num_windows        = wi[ch].num_windows;
514             ics->swb_sizes          = s->psy.bands    [ics->num_windows == 8];
515             ics->num_swb            = tag == TYPE_LFE ? ics->num_swb : s->psy.num_bands[ics->num_windows == 8];
516             ics->swb_offset         = wi[ch].window_type[0] == EIGHT_SHORT_SEQUENCE ?
517                                         ff_swb_offset_128 [s->samplerate_index]:
518                                         ff_swb_offset_1024[s->samplerate_index];
519             clip_avoidance_factor = 0.0f;
520             for (w = 0; w < ics->num_windows; w++)
521                 ics->group_len[w] = wi[ch].grouping[w];
522             for (w = 0; w < ics->num_windows; w++) {
523                 if (wi[ch].clipping[w] > CLIP_AVOIDANCE_FACTOR) {
524                     ics->window_clipping[w] = 1;
525                     clip_avoidance_factor = FFMAX(clip_avoidance_factor, wi[ch].clipping[w]);
526                 } else {
527                     ics->window_clipping[w] = 0;
528                 }
529             }
530             if (clip_avoidance_factor > CLIP_AVOIDANCE_FACTOR) {
531                 ics->clip_avoidance_factor = CLIP_AVOIDANCE_FACTOR / clip_avoidance_factor;
532             } else {
533                 ics->clip_avoidance_factor = 1.0f;
534             }
535
536             apply_window_and_mdct(s, &cpe->ch[ch], overlap);
537             if (isnan(cpe->ch->coeffs[0])) {
538                 av_log(avctx, AV_LOG_ERROR, "Input contains NaN\n");
539                 return AVERROR(EINVAL);
540             }
541             avoid_clipping(s, &cpe->ch[ch]);
542         }
543         start_ch += chans;
544     }
545     if ((ret = ff_alloc_packet2(avctx, avpkt, 8192 * s->channels, 0)) < 0)
546         return ret;
547     do {
548         int frame_bits;
549
550         init_put_bits(&s->pb, avpkt->data, avpkt->size);
551
552         if ((avctx->frame_number & 0xFF)==1 && !(avctx->flags & AV_CODEC_FLAG_BITEXACT))
553             put_bitstream_info(s, LIBAVCODEC_IDENT);
554         start_ch = 0;
555         memset(chan_el_counter, 0, sizeof(chan_el_counter));
556         for (i = 0; i < s->chan_map[0]; i++) {
557             FFPsyWindowInfo* wi = windows + start_ch;
558             const float *coeffs[2];
559             tag      = s->chan_map[i+1];
560             chans    = tag == TYPE_CPE ? 2 : 1;
561             cpe      = &s->cpe[i];
562             memset(cpe->is_mask, 0, sizeof(cpe->is_mask));
563             memset(cpe->ms_mask, 0, sizeof(cpe->ms_mask));
564             put_bits(&s->pb, 3, tag);
565             put_bits(&s->pb, 4, chan_el_counter[tag]++);
566             for (ch = 0; ch < chans; ch++) {
567                 sce = &cpe->ch[ch];
568                 coeffs[ch] = sce->coeffs;
569                 for (w = 0; w < 128; w++)
570                     if (sce->band_type[w] > RESERVED_BT)
571                         sce->band_type[w] = 0;
572             }
573             s->psy.model->analyze(&s->psy, start_ch, coeffs, wi);
574             for (ch = 0; ch < chans; ch++) {
575                 s->cur_channel = start_ch + ch;
576                 s->coder->search_for_quantizers(avctx, s, &cpe->ch[ch], s->lambda);
577             }
578             cpe->common_window = 0;
579             if (chans > 1
580                 && wi[0].window_type[0] == wi[1].window_type[0]
581                 && wi[0].window_shape   == wi[1].window_shape) {
582
583                 cpe->common_window = 1;
584                 for (w = 0; w < wi[0].num_windows; w++) {
585                     if (wi[0].grouping[w] != wi[1].grouping[w]) {
586                         cpe->common_window = 0;
587                         break;
588                     }
589                 }
590             }
591             if (s->options.pns && s->coder->search_for_pns) {
592                 for (ch = 0; ch < chans; ch++) {
593                     s->cur_channel = start_ch + ch;
594                     s->coder->search_for_pns(s, avctx, &cpe->ch[ch]);
595                 }
596             }
597             s->cur_channel = start_ch;
598             if (s->options.stereo_mode && cpe->common_window) {
599                 if (s->options.stereo_mode > 0) {
600                     IndividualChannelStream *ics = &cpe->ch[0].ics;
601                     for (w = 0; w < ics->num_windows; w += ics->group_len[w])
602                         for (g = 0;  g < ics->num_swb; g++)
603                             cpe->ms_mask[w*16+g] = 1;
604                 } else if (s->coder->search_for_ms) {
605                     s->coder->search_for_ms(s, cpe);
606                 }
607             }
608             if (chans > 1 && s->options.intensity_stereo && s->coder->search_for_is) {
609                 s->coder->search_for_is(s, avctx, cpe);
610                 if (cpe->is_mode) is_mode = 1;
611             }
612             if (s->coder->set_special_band_scalefactors)
613                 for (ch = 0; ch < chans; ch++)
614                     s->coder->set_special_band_scalefactors(s, &cpe->ch[ch]);
615             adjust_frame_information(cpe, chans);
616             if (chans == 2) {
617                 put_bits(&s->pb, 1, cpe->common_window);
618                 if (cpe->common_window) {
619                     put_ics_info(s, &cpe->ch[0].ics);
620                     encode_ms_info(&s->pb, cpe);
621                     if (cpe->ms_mode) ms_mode = 1;
622                 }
623             }
624             for (ch = 0; ch < chans; ch++) {
625                 s->cur_channel = start_ch + ch;
626                 encode_individual_channel(avctx, s, &cpe->ch[ch], cpe->common_window);
627             }
628             start_ch += chans;
629         }
630
631         frame_bits = put_bits_count(&s->pb);
632         if (frame_bits <= 6144 * s->channels - 3) {
633             s->psy.bitres.bits = frame_bits / s->channels;
634             break;
635         }
636         if (is_mode || ms_mode) {
637             for (i = 0; i < s->chan_map[0]; i++) {
638                 // Must restore coeffs
639                 chans = tag == TYPE_CPE ? 2 : 1;
640                 cpe = &s->cpe[i];
641                 for (ch = 0; ch < chans; ch++)
642                     memcpy(cpe->ch[ch].coeffs, cpe->ch[ch].pcoeffs, sizeof(cpe->ch[ch].coeffs));
643             }
644         }
645
646         s->lambda *= avctx->bit_rate * 1024.0f / avctx->sample_rate / frame_bits;
647
648     } while (1);
649
650     put_bits(&s->pb, 3, TYPE_END);
651     flush_put_bits(&s->pb);
652     avctx->frame_bits = put_bits_count(&s->pb);
653
654     // rate control stuff
655     if (!(avctx->flags & AV_CODEC_FLAG_QSCALE)) {
656         float ratio = avctx->bit_rate * 1024.0f / avctx->sample_rate / avctx->frame_bits;
657         s->lambda *= ratio;
658         s->lambda = FFMIN(s->lambda, 65536.f);
659     }
660
661     if (!frame)
662         s->last_frame++;
663
664     ff_af_queue_remove(&s->afq, avctx->frame_size, &avpkt->pts,
665                        &avpkt->duration);
666
667     avpkt->size = put_bits_count(&s->pb) >> 3;
668     *got_packet_ptr = 1;
669     return 0;
670 }
671
672 static av_cold int aac_encode_end(AVCodecContext *avctx)
673 {
674     AACEncContext *s = avctx->priv_data;
675
676     ff_mdct_end(&s->mdct1024);
677     ff_mdct_end(&s->mdct128);
678     ff_psy_end(&s->psy);
679     ff_lpc_end(&s->lpc);
680     if (s->psypp)
681         ff_psy_preprocess_end(s->psypp);
682     av_freep(&s->buffer.samples);
683     av_freep(&s->cpe);
684     av_freep(&s->fdsp);
685     ff_af_queue_close(&s->afq);
686     return 0;
687 }
688
689 static av_cold int dsp_init(AVCodecContext *avctx, AACEncContext *s)
690 {
691     int ret = 0;
692
693     s->fdsp = avpriv_float_dsp_alloc(avctx->flags & AV_CODEC_FLAG_BITEXACT);
694     if (!s->fdsp)
695         return AVERROR(ENOMEM);
696
697     // window init
698     ff_kbd_window_init(ff_aac_kbd_long_1024, 4.0, 1024);
699     ff_kbd_window_init(ff_aac_kbd_short_128, 6.0, 128);
700     ff_init_ff_sine_windows(10);
701     ff_init_ff_sine_windows(7);
702
703     if ((ret = ff_mdct_init(&s->mdct1024, 11, 0, 32768.0)) < 0)
704         return ret;
705     if ((ret = ff_mdct_init(&s->mdct128,   8, 0, 32768.0)) < 0)
706         return ret;
707
708     return 0;
709 }
710
711 static av_cold int alloc_buffers(AVCodecContext *avctx, AACEncContext *s)
712 {
713     int ch;
714     FF_ALLOCZ_ARRAY_OR_GOTO(avctx, s->buffer.samples, s->channels, 3 * 1024 * sizeof(s->buffer.samples[0]), alloc_fail);
715     FF_ALLOCZ_ARRAY_OR_GOTO(avctx, s->cpe, s->chan_map[0], sizeof(ChannelElement), alloc_fail);
716     FF_ALLOCZ_OR_GOTO(avctx, avctx->extradata, 5 + AV_INPUT_BUFFER_PADDING_SIZE, alloc_fail);
717
718     for(ch = 0; ch < s->channels; ch++)
719         s->planar_samples[ch] = s->buffer.samples + 3 * 1024 * ch;
720
721     return 0;
722 alloc_fail:
723     return AVERROR(ENOMEM);
724 }
725
726 static av_cold int aac_encode_init(AVCodecContext *avctx)
727 {
728     AACEncContext *s = avctx->priv_data;
729     int i, ret = 0;
730     const uint8_t *sizes[2];
731     uint8_t grouping[AAC_MAX_CHANNELS];
732     int lengths[2];
733
734     avctx->frame_size = 1024;
735
736     for (i = 0; i < 16; i++)
737         if (avctx->sample_rate == avpriv_mpeg4audio_sample_rates[i])
738             break;
739
740     s->channels = avctx->channels;
741
742     ERROR_IF(i == 16 || i >= swb_size_1024_len || i >= swb_size_128_len,
743              "Unsupported sample rate %d\n", avctx->sample_rate);
744     ERROR_IF(s->channels > AAC_MAX_CHANNELS,
745              "Unsupported number of channels: %d\n", s->channels);
746     ERROR_IF(avctx->profile != FF_PROFILE_UNKNOWN && avctx->profile != FF_PROFILE_AAC_LOW,
747              "Unsupported profile %d\n", avctx->profile);
748     WARN_IF(1024.0 * avctx->bit_rate / avctx->sample_rate > 6144 * s->channels,
749              "Too many bits per frame requested, clamping to max\n");
750
751     avctx->bit_rate = (int)FFMIN(
752         6144 * s->channels / 1024.0 * avctx->sample_rate,
753         avctx->bit_rate);
754
755     s->samplerate_index = i;
756
757     s->chan_map = aac_chan_configs[s->channels-1];
758
759     if ((ret = dsp_init(avctx, s)) < 0)
760         goto fail;
761
762     if ((ret = alloc_buffers(avctx, s)) < 0)
763         goto fail;
764
765     avctx->extradata_size = 5;
766     put_audio_specific_config(avctx);
767
768     sizes[0]   = swb_size_1024[i];
769     sizes[1]   = swb_size_128[i];
770     lengths[0] = ff_aac_num_swb_1024[i];
771     lengths[1] = ff_aac_num_swb_128[i];
772     for (i = 0; i < s->chan_map[0]; i++)
773         grouping[i] = s->chan_map[i + 1] == TYPE_CPE;
774     if ((ret = ff_psy_init(&s->psy, avctx, 2, sizes, lengths,
775                            s->chan_map[0], grouping)) < 0)
776         goto fail;
777     s->psypp = ff_psy_preprocess_init(avctx);
778     s->coder = &ff_aac_coders[s->options.aac_coder];
779     ff_lpc_init(&s->lpc, avctx->frame_size, TNS_MAX_ORDER, FF_LPC_TYPE_LEVINSON);
780
781     if (HAVE_MIPSDSPR1)
782         ff_aac_coder_init_mips(s);
783
784     s->lambda = avctx->global_quality > 0 ? avctx->global_quality : 120;
785
786     ff_aac_tableinit();
787
788     avctx->initial_padding = 1024;
789     ff_af_queue_init(avctx, &s->afq);
790
791     return 0;
792 fail:
793     aac_encode_end(avctx);
794     return ret;
795 }
796
797 #define AACENC_FLAGS AV_OPT_FLAG_ENCODING_PARAM | AV_OPT_FLAG_AUDIO_PARAM
798 static const AVOption aacenc_options[] = {
799     {"stereo_mode", "Stereo coding method", offsetof(AACEncContext, options.stereo_mode), AV_OPT_TYPE_INT, {.i64 = 0}, -1, 1, AACENC_FLAGS, "stereo_mode"},
800         {"auto",     "Selected by the Encoder", 0, AV_OPT_TYPE_CONST, {.i64 = -1 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
801         {"ms_off",   "Disable Mid/Side coding", 0, AV_OPT_TYPE_CONST, {.i64 =  0 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
802         {"ms_force", "Force Mid/Side for the whole frame if possible", 0, AV_OPT_TYPE_CONST, {.i64 =  1 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
803     {"aac_coder", "Coding algorithm", offsetof(AACEncContext, options.aac_coder), AV_OPT_TYPE_INT, {.i64 = AAC_CODER_TWOLOOP}, 0, AAC_CODER_NB-1, AACENC_FLAGS, "aac_coder"},
804         {"faac",     "FAAC-inspired method",      0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_FAAC},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
805         {"anmr",     "ANMR method",               0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_ANMR},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
806         {"twoloop",  "Two loop searching method", 0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_TWOLOOP}, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
807         {"fast",     "Constant quantizer",        0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_FAST},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
808     {"aac_pns", "Perceptual Noise Substitution", offsetof(AACEncContext, options.pns), AV_OPT_TYPE_INT, {.i64 = 0}, 0, 1, AACENC_FLAGS, "aac_pns"},
809         {"disable",  "Disable perceptual noise substitution", 0, AV_OPT_TYPE_CONST, {.i64 =  0 }, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_pns"},
810         {"enable",   "Enable perceptual noise substitution",  0, AV_OPT_TYPE_CONST, {.i64 =  1 }, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_pns"},
811     {"aac_is", "Intensity stereo coding", offsetof(AACEncContext, options.intensity_stereo), AV_OPT_TYPE_INT, {.i64 = 0}, 0, 1, AACENC_FLAGS, "intensity_stereo"},
812         {"disable",  "Disable intensity stereo coding", 0, AV_OPT_TYPE_CONST, {.i64 = 0}, INT_MIN, INT_MAX, AACENC_FLAGS, "intensity_stereo"},
813         {"enable",   "Enable intensity stereo coding", 0, AV_OPT_TYPE_CONST, {.i64 = 1}, INT_MIN, INT_MAX, AACENC_FLAGS, "intensity_stereo"},
814     {NULL}
815 };
816
817 static const AVClass aacenc_class = {
818     "AAC encoder",
819     av_default_item_name,
820     aacenc_options,
821     LIBAVUTIL_VERSION_INT,
822 };
823
824 AVCodec ff_aac_encoder = {
825     .name           = "aac",
826     .long_name      = NULL_IF_CONFIG_SMALL("AAC (Advanced Audio Coding)"),
827     .type           = AVMEDIA_TYPE_AUDIO,
828     .id             = AV_CODEC_ID_AAC,
829     .priv_data_size = sizeof(AACEncContext),
830     .init           = aac_encode_init,
831     .encode2        = aac_encode_frame,
832     .close          = aac_encode_end,
833     .supported_samplerates = mpeg4audio_sample_rates,
834     .capabilities   = AV_CODEC_CAP_SMALL_LAST_FRAME | AV_CODEC_CAP_DELAY |
835                       AV_CODEC_CAP_EXPERIMENTAL,
836     .sample_fmts    = (const enum AVSampleFormat[]){ AV_SAMPLE_FMT_FLTP,
837                                                      AV_SAMPLE_FMT_NONE },
838     .priv_class     = &aacenc_class,
839 };