AAC encoder: memoize quantize_band_cost
[ffmpeg.git] / libavcodec / aacenc.c
1 /*
2  * AAC encoder
3  * Copyright (C) 2008 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * AAC encoder
25  */
26
27 /***********************************
28  *              TODOs:
29  * add sane pulse detection
30  ***********************************/
31
32 #include "libavutil/float_dsp.h"
33 #include "libavutil/opt.h"
34 #include "avcodec.h"
35 #include "put_bits.h"
36 #include "internal.h"
37 #include "mpeg4audio.h"
38 #include "kbdwin.h"
39 #include "sinewin.h"
40
41 #include "aac.h"
42 #include "aactab.h"
43 #include "aacenc.h"
44 #include "aacenctab.h"
45 #include "aacenc_utils.h"
46
47 #include "psymodel.h"
48
49 /**
50  * Make AAC audio config object.
51  * @see 1.6.2.1 "Syntax - AudioSpecificConfig"
52  */
53 static void put_audio_specific_config(AVCodecContext *avctx)
54 {
55     PutBitContext pb;
56     AACEncContext *s = avctx->priv_data;
57
58     init_put_bits(&pb, avctx->extradata, avctx->extradata_size);
59     put_bits(&pb, 5, s->profile+1); //profile
60     put_bits(&pb, 4, s->samplerate_index); //sample rate index
61     put_bits(&pb, 4, s->channels);
62     //GASpecificConfig
63     put_bits(&pb, 1, 0); //frame length - 1024 samples
64     put_bits(&pb, 1, 0); //does not depend on core coder
65     put_bits(&pb, 1, 0); //is not extension
66
67     //Explicitly Mark SBR absent
68     put_bits(&pb, 11, 0x2b7); //sync extension
69     put_bits(&pb, 5,  AOT_SBR);
70     put_bits(&pb, 1,  0);
71     flush_put_bits(&pb);
72 }
73
74 void ff_quantize_band_cost_cache_init(struct AACEncContext *s)
75 {
76     int sf, g;
77     for (sf = 0; sf < 256; sf++) {
78         for (g = 0; g < 128; g++) {
79             s->quantize_band_cost_cache[sf][g].bits = -1;
80         }
81     }
82 }
83
84 #define WINDOW_FUNC(type) \
85 static void apply_ ##type ##_window(AVFloatDSPContext *fdsp, \
86                                     SingleChannelElement *sce, \
87                                     const float *audio)
88
89 WINDOW_FUNC(only_long)
90 {
91     const float *lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
92     const float *pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_long_1024 : ff_sine_1024;
93     float *out = sce->ret_buf;
94
95     fdsp->vector_fmul        (out,        audio,        lwindow, 1024);
96     fdsp->vector_fmul_reverse(out + 1024, audio + 1024, pwindow, 1024);
97 }
98
99 WINDOW_FUNC(long_start)
100 {
101     const float *lwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_long_1024 : ff_sine_1024;
102     const float *swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
103     float *out = sce->ret_buf;
104
105     fdsp->vector_fmul(out, audio, lwindow, 1024);
106     memcpy(out + 1024, audio + 1024, sizeof(out[0]) * 448);
107     fdsp->vector_fmul_reverse(out + 1024 + 448, audio + 1024 + 448, swindow, 128);
108     memset(out + 1024 + 576, 0, sizeof(out[0]) * 448);
109 }
110
111 WINDOW_FUNC(long_stop)
112 {
113     const float *lwindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_long_1024 : ff_sine_1024;
114     const float *swindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
115     float *out = sce->ret_buf;
116
117     memset(out, 0, sizeof(out[0]) * 448);
118     fdsp->vector_fmul(out + 448, audio + 448, swindow, 128);
119     memcpy(out + 576, audio + 576, sizeof(out[0]) * 448);
120     fdsp->vector_fmul_reverse(out + 1024, audio + 1024, lwindow, 1024);
121 }
122
123 WINDOW_FUNC(eight_short)
124 {
125     const float *swindow = sce->ics.use_kb_window[0] ? ff_aac_kbd_short_128 : ff_sine_128;
126     const float *pwindow = sce->ics.use_kb_window[1] ? ff_aac_kbd_short_128 : ff_sine_128;
127     const float *in = audio + 448;
128     float *out = sce->ret_buf;
129     int w;
130
131     for (w = 0; w < 8; w++) {
132         fdsp->vector_fmul        (out, in, w ? pwindow : swindow, 128);
133         out += 128;
134         in  += 128;
135         fdsp->vector_fmul_reverse(out, in, swindow, 128);
136         out += 128;
137     }
138 }
139
140 static void (*const apply_window[4])(AVFloatDSPContext *fdsp,
141                                      SingleChannelElement *sce,
142                                      const float *audio) = {
143     [ONLY_LONG_SEQUENCE]   = apply_only_long_window,
144     [LONG_START_SEQUENCE]  = apply_long_start_window,
145     [EIGHT_SHORT_SEQUENCE] = apply_eight_short_window,
146     [LONG_STOP_SEQUENCE]   = apply_long_stop_window
147 };
148
149 static void apply_window_and_mdct(AACEncContext *s, SingleChannelElement *sce,
150                                   float *audio)
151 {
152     int i;
153     float *output = sce->ret_buf;
154
155     apply_window[sce->ics.window_sequence[0]](s->fdsp, sce, audio);
156
157     if (sce->ics.window_sequence[0] != EIGHT_SHORT_SEQUENCE)
158         s->mdct1024.mdct_calc(&s->mdct1024, sce->coeffs, output);
159     else
160         for (i = 0; i < 1024; i += 128)
161             s->mdct128.mdct_calc(&s->mdct128, &sce->coeffs[i], output + i*2);
162     memcpy(audio, audio + 1024, sizeof(audio[0]) * 1024);
163     memcpy(sce->pcoeffs, sce->coeffs, sizeof(sce->pcoeffs));
164 }
165
166 /**
167  * Encode ics_info element.
168  * @see Table 4.6 (syntax of ics_info)
169  */
170 static void put_ics_info(AACEncContext *s, IndividualChannelStream *info)
171 {
172     int w;
173
174     put_bits(&s->pb, 1, 0);                // ics_reserved bit
175     put_bits(&s->pb, 2, info->window_sequence[0]);
176     put_bits(&s->pb, 1, info->use_kb_window[0]);
177     if (info->window_sequence[0] != EIGHT_SHORT_SEQUENCE) {
178         put_bits(&s->pb, 6, info->max_sfb);
179         put_bits(&s->pb, 1, !!info->predictor_present);
180     } else {
181         put_bits(&s->pb, 4, info->max_sfb);
182         for (w = 1; w < 8; w++)
183             put_bits(&s->pb, 1, !info->group_len[w]);
184     }
185 }
186
187 /**
188  * Encode MS data.
189  * @see 4.6.8.1 "Joint Coding - M/S Stereo"
190  */
191 static void encode_ms_info(PutBitContext *pb, ChannelElement *cpe)
192 {
193     int i, w;
194
195     put_bits(pb, 2, cpe->ms_mode);
196     if (cpe->ms_mode == 1)
197         for (w = 0; w < cpe->ch[0].ics.num_windows; w += cpe->ch[0].ics.group_len[w])
198             for (i = 0; i < cpe->ch[0].ics.max_sfb; i++)
199                 put_bits(pb, 1, cpe->ms_mask[w*16 + i]);
200 }
201
202 /**
203  * Produce integer coefficients from scalefactors provided by the model.
204  */
205 static void adjust_frame_information(ChannelElement *cpe, int chans)
206 {
207     int i, w, w2, g, ch;
208     int maxsfb, cmaxsfb;
209
210     for (ch = 0; ch < chans; ch++) {
211         IndividualChannelStream *ics = &cpe->ch[ch].ics;
212         maxsfb = 0;
213         cpe->ch[ch].pulse.num_pulse = 0;
214         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
215             for (w2 =  0; w2 < ics->group_len[w]; w2++) {
216                 for (cmaxsfb = ics->num_swb; cmaxsfb > 0 && cpe->ch[ch].zeroes[w*16+cmaxsfb-1]; cmaxsfb--)
217                     ;
218                 maxsfb = FFMAX(maxsfb, cmaxsfb);
219             }
220         }
221         ics->max_sfb = maxsfb;
222
223         //adjust zero bands for window groups
224         for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
225             for (g = 0; g < ics->max_sfb; g++) {
226                 i = 1;
227                 for (w2 = w; w2 < w + ics->group_len[w]; w2++) {
228                     if (!cpe->ch[ch].zeroes[w2*16 + g]) {
229                         i = 0;
230                         break;
231                     }
232                 }
233                 cpe->ch[ch].zeroes[w*16 + g] = i;
234             }
235         }
236     }
237
238     if (chans > 1 && cpe->common_window) {
239         IndividualChannelStream *ics0 = &cpe->ch[0].ics;
240         IndividualChannelStream *ics1 = &cpe->ch[1].ics;
241         int msc = 0;
242         ics0->max_sfb = FFMAX(ics0->max_sfb, ics1->max_sfb);
243         ics1->max_sfb = ics0->max_sfb;
244         for (w = 0; w < ics0->num_windows*16; w += 16)
245             for (i = 0; i < ics0->max_sfb; i++)
246                 if (cpe->ms_mask[w+i])
247                     msc++;
248         if (msc == 0 || ics0->max_sfb == 0)
249             cpe->ms_mode = 0;
250         else
251             cpe->ms_mode = msc < ics0->max_sfb * ics0->num_windows ? 1 : 2;
252     }
253 }
254
255 static void apply_intensity_stereo(ChannelElement *cpe)
256 {
257     int w, w2, g, i;
258     IndividualChannelStream *ics = &cpe->ch[0].ics;
259     if (!cpe->common_window)
260         return;
261     for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
262         for (w2 =  0; w2 < ics->group_len[w]; w2++) {
263             int start = (w+w2) * 128;
264             for (g = 0; g < ics->num_swb; g++) {
265                 int p  = -1 + 2 * (cpe->ch[1].band_type[w*16+g] - 14);
266                 float scale = cpe->ch[0].is_ener[w*16+g];
267                 if (!cpe->is_mask[w*16 + g]) {
268                     start += ics->swb_sizes[g];
269                     continue;
270                 }
271                 if (cpe->ms_mask[w*16 + g])
272                     p *= -1;
273                 for (i = 0; i < ics->swb_sizes[g]; i++) {
274                     float sum = (cpe->ch[0].coeffs[start+i] + p*cpe->ch[1].coeffs[start+i])*scale;
275                     cpe->ch[0].coeffs[start+i] = sum;
276                     cpe->ch[1].coeffs[start+i] = 0.0f;
277                 }
278                 start += ics->swb_sizes[g];
279             }
280         }
281     }
282 }
283
284 static void apply_mid_side_stereo(ChannelElement *cpe)
285 {
286     int w, w2, g, i;
287     IndividualChannelStream *ics = &cpe->ch[0].ics;
288     if (!cpe->common_window)
289         return;
290     for (w = 0; w < ics->num_windows; w += ics->group_len[w]) {
291         for (w2 =  0; w2 < ics->group_len[w]; w2++) {
292             int start = (w+w2) * 128;
293             for (g = 0; g < ics->num_swb; g++) {
294                 if (!cpe->ms_mask[w*16 + g] && !cpe->is_mask[w*16 + g]) {
295                     start += ics->swb_sizes[g];
296                     continue;
297                 }
298                 for (i = 0; i < ics->swb_sizes[g]; i++) {
299                     float L = (cpe->ch[0].coeffs[start+i] + cpe->ch[1].coeffs[start+i]) * 0.5f;
300                     float R = L - cpe->ch[1].coeffs[start+i];
301                     cpe->ch[0].coeffs[start+i] = L;
302                     cpe->ch[1].coeffs[start+i] = R;
303                 }
304                 start += ics->swb_sizes[g];
305             }
306         }
307     }
308 }
309
310 /**
311  * Encode scalefactor band coding type.
312  */
313 static void encode_band_info(AACEncContext *s, SingleChannelElement *sce)
314 {
315     int w;
316
317     if (s->coder->set_special_band_scalefactors)
318         s->coder->set_special_band_scalefactors(s, sce);
319
320     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w])
321         s->coder->encode_window_bands_info(s, sce, w, sce->ics.group_len[w], s->lambda);
322 }
323
324 /**
325  * Encode scalefactors.
326  */
327 static void encode_scale_factors(AVCodecContext *avctx, AACEncContext *s,
328                                  SingleChannelElement *sce)
329 {
330     int diff, off_sf = sce->sf_idx[0], off_pns = sce->sf_idx[0] - NOISE_OFFSET;
331     int off_is = 0, noise_flag = 1;
332     int i, w;
333
334     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
335         for (i = 0; i < sce->ics.max_sfb; i++) {
336             if (!sce->zeroes[w*16 + i]) {
337                 if (sce->band_type[w*16 + i] == NOISE_BT) {
338                     diff = sce->sf_idx[w*16 + i] - off_pns;
339                     off_pns = sce->sf_idx[w*16 + i];
340                     if (noise_flag-- > 0) {
341                         put_bits(&s->pb, NOISE_PRE_BITS, diff + NOISE_PRE);
342                         continue;
343                     }
344                 } else if (sce->band_type[w*16 + i] == INTENSITY_BT  ||
345                            sce->band_type[w*16 + i] == INTENSITY_BT2) {
346                     diff = sce->sf_idx[w*16 + i] - off_is;
347                     off_is = sce->sf_idx[w*16 + i];
348                 } else {
349                     diff = sce->sf_idx[w*16 + i] - off_sf;
350                     off_sf = sce->sf_idx[w*16 + i];
351                 }
352                 diff += SCALE_DIFF_ZERO;
353                 av_assert0(diff >= 0 && diff <= 120);
354                 put_bits(&s->pb, ff_aac_scalefactor_bits[diff], ff_aac_scalefactor_code[diff]);
355             }
356         }
357     }
358 }
359
360 /**
361  * Encode pulse data.
362  */
363 static void encode_pulses(AACEncContext *s, Pulse *pulse)
364 {
365     int i;
366
367     put_bits(&s->pb, 1, !!pulse->num_pulse);
368     if (!pulse->num_pulse)
369         return;
370
371     put_bits(&s->pb, 2, pulse->num_pulse - 1);
372     put_bits(&s->pb, 6, pulse->start);
373     for (i = 0; i < pulse->num_pulse; i++) {
374         put_bits(&s->pb, 5, pulse->pos[i]);
375         put_bits(&s->pb, 4, pulse->amp[i]);
376     }
377 }
378
379 /**
380  * Encode spectral coefficients processed by psychoacoustic model.
381  */
382 static void encode_spectral_coeffs(AACEncContext *s, SingleChannelElement *sce)
383 {
384     int start, i, w, w2;
385
386     for (w = 0; w < sce->ics.num_windows; w += sce->ics.group_len[w]) {
387         start = 0;
388         for (i = 0; i < sce->ics.max_sfb; i++) {
389             if (sce->zeroes[w*16 + i]) {
390                 start += sce->ics.swb_sizes[i];
391                 continue;
392             }
393             for (w2 = w; w2 < w + sce->ics.group_len[w]; w2++) {
394                 s->coder->quantize_and_encode_band(s, &s->pb,
395                                                    &sce->coeffs[start + w2*128],
396                                                    NULL, sce->ics.swb_sizes[i],
397                                                    sce->sf_idx[w*16 + i],
398                                                    sce->band_type[w*16 + i],
399                                                    s->lambda,
400                                                    sce->ics.window_clipping[w]);
401             }
402             start += sce->ics.swb_sizes[i];
403         }
404     }
405 }
406
407 /**
408  * Downscale spectral coefficients for near-clipping windows to avoid artifacts
409  */
410 static void avoid_clipping(AACEncContext *s, SingleChannelElement *sce)
411 {
412     int start, i, j, w;
413
414     if (sce->ics.clip_avoidance_factor < 1.0f) {
415         for (w = 0; w < sce->ics.num_windows; w++) {
416             start = 0;
417             for (i = 0; i < sce->ics.max_sfb; i++) {
418                 float *swb_coeffs = &sce->coeffs[start + w*128];
419                 for (j = 0; j < sce->ics.swb_sizes[i]; j++)
420                     swb_coeffs[j] *= sce->ics.clip_avoidance_factor;
421                 start += sce->ics.swb_sizes[i];
422             }
423         }
424     }
425 }
426
427 /**
428  * Encode one channel of audio data.
429  */
430 static int encode_individual_channel(AVCodecContext *avctx, AACEncContext *s,
431                                      SingleChannelElement *sce,
432                                      int common_window)
433 {
434     put_bits(&s->pb, 8, sce->sf_idx[0]);
435     if (!common_window) {
436         put_ics_info(s, &sce->ics);
437         if (s->coder->encode_main_pred)
438             s->coder->encode_main_pred(s, sce);
439     }
440     encode_band_info(s, sce);
441     encode_scale_factors(avctx, s, sce);
442     encode_pulses(s, &sce->pulse);
443     put_bits(&s->pb, 1, !!sce->tns.present);
444     if (s->coder->encode_tns_info)
445         s->coder->encode_tns_info(s, sce);
446     put_bits(&s->pb, 1, 0); //ssr
447     encode_spectral_coeffs(s, sce);
448     return 0;
449 }
450
451 /**
452  * Write some auxiliary information about the created AAC file.
453  */
454 static void put_bitstream_info(AACEncContext *s, const char *name)
455 {
456     int i, namelen, padbits;
457
458     namelen = strlen(name) + 2;
459     put_bits(&s->pb, 3, TYPE_FIL);
460     put_bits(&s->pb, 4, FFMIN(namelen, 15));
461     if (namelen >= 15)
462         put_bits(&s->pb, 8, namelen - 14);
463     put_bits(&s->pb, 4, 0); //extension type - filler
464     padbits = -put_bits_count(&s->pb) & 7;
465     avpriv_align_put_bits(&s->pb);
466     for (i = 0; i < namelen - 2; i++)
467         put_bits(&s->pb, 8, name[i]);
468     put_bits(&s->pb, 12 - padbits, 0);
469 }
470
471 /*
472  * Copy input samples.
473  * Channels are reordered from libavcodec's default order to AAC order.
474  */
475 static void copy_input_samples(AACEncContext *s, const AVFrame *frame)
476 {
477     int ch;
478     int end = 2048 + (frame ? frame->nb_samples : 0);
479     const uint8_t *channel_map = aac_chan_maps[s->channels - 1];
480
481     /* copy and remap input samples */
482     for (ch = 0; ch < s->channels; ch++) {
483         /* copy last 1024 samples of previous frame to the start of the current frame */
484         memcpy(&s->planar_samples[ch][1024], &s->planar_samples[ch][2048], 1024 * sizeof(s->planar_samples[0][0]));
485
486         /* copy new samples and zero any remaining samples */
487         if (frame) {
488             memcpy(&s->planar_samples[ch][2048],
489                    frame->extended_data[channel_map[ch]],
490                    frame->nb_samples * sizeof(s->planar_samples[0][0]));
491         }
492         memset(&s->planar_samples[ch][end], 0,
493                (3072 - end) * sizeof(s->planar_samples[0][0]));
494     }
495 }
496
497 static int aac_encode_frame(AVCodecContext *avctx, AVPacket *avpkt,
498                             const AVFrame *frame, int *got_packet_ptr)
499 {
500     AACEncContext *s = avctx->priv_data;
501     float **samples = s->planar_samples, *samples2, *la, *overlap;
502     ChannelElement *cpe;
503     SingleChannelElement *sce;
504     int i, its, ch, w, chans, tag, start_ch, ret, frame_bits;
505     int target_bits, rate_bits, too_many_bits, too_few_bits;
506     int ms_mode = 0, is_mode = 0, tns_mode = 0, pred_mode = 0;
507     int chan_el_counter[4];
508     FFPsyWindowInfo windows[AAC_MAX_CHANNELS];
509
510     if (s->last_frame == 2)
511         return 0;
512
513     /* add current frame to queue */
514     if (frame) {
515         if ((ret = ff_af_queue_add(&s->afq, frame)) < 0)
516             return ret;
517     }
518
519     copy_input_samples(s, frame);
520     if (s->psypp)
521         ff_psy_preprocess(s->psypp, s->planar_samples, s->channels);
522
523     if (!avctx->frame_number)
524         return 0;
525
526     start_ch = 0;
527     for (i = 0; i < s->chan_map[0]; i++) {
528         FFPsyWindowInfo* wi = windows + start_ch;
529         tag      = s->chan_map[i+1];
530         chans    = tag == TYPE_CPE ? 2 : 1;
531         cpe      = &s->cpe[i];
532         for (ch = 0; ch < chans; ch++) {
533             IndividualChannelStream *ics = &cpe->ch[ch].ics;
534             int cur_channel = start_ch + ch;
535             float clip_avoidance_factor;
536             overlap  = &samples[cur_channel][0];
537             samples2 = overlap + 1024;
538             la       = samples2 + (448+64);
539             if (!frame)
540                 la = NULL;
541             if (tag == TYPE_LFE) {
542                 wi[ch].window_type[0] = ONLY_LONG_SEQUENCE;
543                 wi[ch].window_shape   = 0;
544                 wi[ch].num_windows    = 1;
545                 wi[ch].grouping[0]    = 1;
546
547                 /* Only the lowest 12 coefficients are used in a LFE channel.
548                  * The expression below results in only the bottom 8 coefficients
549                  * being used for 11.025kHz to 16kHz sample rates.
550                  */
551                 ics->num_swb = s->samplerate_index >= 8 ? 1 : 3;
552             } else {
553                 wi[ch] = s->psy.model->window(&s->psy, samples2, la, cur_channel,
554                                               ics->window_sequence[0]);
555             }
556             ics->window_sequence[1] = ics->window_sequence[0];
557             ics->window_sequence[0] = wi[ch].window_type[0];
558             ics->use_kb_window[1]   = ics->use_kb_window[0];
559             ics->use_kb_window[0]   = wi[ch].window_shape;
560             ics->num_windows        = wi[ch].num_windows;
561             ics->swb_sizes          = s->psy.bands    [ics->num_windows == 8];
562             ics->num_swb            = tag == TYPE_LFE ? ics->num_swb : s->psy.num_bands[ics->num_windows == 8];
563             ics->swb_offset         = wi[ch].window_type[0] == EIGHT_SHORT_SEQUENCE ?
564                                         ff_swb_offset_128 [s->samplerate_index]:
565                                         ff_swb_offset_1024[s->samplerate_index];
566             ics->tns_max_bands      = wi[ch].window_type[0] == EIGHT_SHORT_SEQUENCE ?
567                                         ff_tns_max_bands_128 [s->samplerate_index]:
568                                         ff_tns_max_bands_1024[s->samplerate_index];
569             clip_avoidance_factor = 0.0f;
570             for (w = 0; w < ics->num_windows; w++)
571                 ics->group_len[w] = wi[ch].grouping[w];
572             for (w = 0; w < ics->num_windows; w++) {
573                 if (wi[ch].clipping[w] > CLIP_AVOIDANCE_FACTOR) {
574                     ics->window_clipping[w] = 1;
575                     clip_avoidance_factor = FFMAX(clip_avoidance_factor, wi[ch].clipping[w]);
576                 } else {
577                     ics->window_clipping[w] = 0;
578                 }
579             }
580             if (clip_avoidance_factor > CLIP_AVOIDANCE_FACTOR) {
581                 ics->clip_avoidance_factor = CLIP_AVOIDANCE_FACTOR / clip_avoidance_factor;
582             } else {
583                 ics->clip_avoidance_factor = 1.0f;
584             }
585
586             apply_window_and_mdct(s, &cpe->ch[ch], overlap);
587             if (isnan(cpe->ch->coeffs[0])) {
588                 av_log(avctx, AV_LOG_ERROR, "Input contains NaN\n");
589                 return AVERROR(EINVAL);
590             }
591             avoid_clipping(s, &cpe->ch[ch]);
592         }
593         start_ch += chans;
594     }
595     if ((ret = ff_alloc_packet2(avctx, avpkt, 8192 * s->channels, 0)) < 0)
596         return ret;
597     frame_bits = its = 0;
598     do {
599         init_put_bits(&s->pb, avpkt->data, avpkt->size);
600
601         if ((avctx->frame_number & 0xFF)==1 && !(avctx->flags & AV_CODEC_FLAG_BITEXACT))
602             put_bitstream_info(s, LIBAVCODEC_IDENT);
603         start_ch = 0;
604         target_bits = 0;
605         memset(chan_el_counter, 0, sizeof(chan_el_counter));
606         for (i = 0; i < s->chan_map[0]; i++) {
607             FFPsyWindowInfo* wi = windows + start_ch;
608             const float *coeffs[2];
609             tag      = s->chan_map[i+1];
610             chans    = tag == TYPE_CPE ? 2 : 1;
611             cpe      = &s->cpe[i];
612             cpe->common_window = 0;
613             memset(cpe->is_mask, 0, sizeof(cpe->is_mask));
614             memset(cpe->ms_mask, 0, sizeof(cpe->ms_mask));
615             put_bits(&s->pb, 3, tag);
616             put_bits(&s->pb, 4, chan_el_counter[tag]++);
617             for (ch = 0; ch < chans; ch++) {
618                 sce = &cpe->ch[ch];
619                 coeffs[ch] = sce->coeffs;
620                 sce->ics.predictor_present = 0;
621                 memset(&sce->ics.prediction_used, 0, sizeof(sce->ics.prediction_used));
622                 memset(&sce->tns, 0, sizeof(TemporalNoiseShaping));
623                 for (w = 0; w < 128; w++)
624                     if (sce->band_type[w] > RESERVED_BT)
625                         sce->band_type[w] = 0;
626             }
627             s->psy.bitres.alloc = -1;
628             s->psy.bitres.bits = avctx->frame_bits / s->channels;
629             s->psy.model->analyze(&s->psy, start_ch, coeffs, wi);
630             if (s->psy.bitres.alloc > 0) {
631                 /* Lambda unused here on purpose, we need to take psy's unscaled allocation */
632                 target_bits += s->psy.bitres.alloc
633                     * (s->lambda / (avctx->global_quality ? avctx->global_quality : 120));
634                 s->psy.bitres.alloc /= chans;
635             }
636             s->cur_type = tag;
637             for (ch = 0; ch < chans; ch++) {
638                 s->cur_channel = start_ch + ch;
639                 if (s->options.pns && s->coder->mark_pns)
640                     s->coder->mark_pns(s, avctx, &cpe->ch[ch]);
641                 s->coder->search_for_quantizers(avctx, s, &cpe->ch[ch], s->lambda);
642             }
643             if (chans > 1
644                 && wi[0].window_type[0] == wi[1].window_type[0]
645                 && wi[0].window_shape   == wi[1].window_shape) {
646
647                 cpe->common_window = 1;
648                 for (w = 0; w < wi[0].num_windows; w++) {
649                     if (wi[0].grouping[w] != wi[1].grouping[w]) {
650                         cpe->common_window = 0;
651                         break;
652                     }
653                 }
654             }
655             for (ch = 0; ch < chans; ch++) { /* TNS and PNS */
656                 sce = &cpe->ch[ch];
657                 s->cur_channel = start_ch + ch;
658                 if (s->options.pns && s->coder->search_for_pns)
659                     s->coder->search_for_pns(s, avctx, sce);
660                 if (s->options.tns && s->coder->search_for_tns)
661                     s->coder->search_for_tns(s, sce);
662                 if (s->options.tns && s->coder->apply_tns_filt)
663                     s->coder->apply_tns_filt(s, sce);
664                 if (sce->tns.present)
665                     tns_mode = 1;
666             }
667             s->cur_channel = start_ch;
668             if (s->options.intensity_stereo) { /* Intensity Stereo */
669                 if (s->coder->search_for_is)
670                     s->coder->search_for_is(s, avctx, cpe);
671                 if (cpe->is_mode) is_mode = 1;
672                 apply_intensity_stereo(cpe);
673             }
674             if (s->options.pred) { /* Prediction */
675                 for (ch = 0; ch < chans; ch++) {
676                     sce = &cpe->ch[ch];
677                     s->cur_channel = start_ch + ch;
678                     if (s->options.pred && s->coder->search_for_pred)
679                         s->coder->search_for_pred(s, sce);
680                     if (cpe->ch[ch].ics.predictor_present) pred_mode = 1;
681                 }
682                 if (s->coder->adjust_common_prediction)
683                     s->coder->adjust_common_prediction(s, cpe);
684                 for (ch = 0; ch < chans; ch++) {
685                     sce = &cpe->ch[ch];
686                     s->cur_channel = start_ch + ch;
687                     if (s->options.pred && s->coder->apply_main_pred)
688                         s->coder->apply_main_pred(s, sce);
689                 }
690                 s->cur_channel = start_ch;
691             }
692             if (s->options.stereo_mode) { /* Mid/Side stereo */
693                 if (s->options.stereo_mode == -1 && s->coder->search_for_ms)
694                     s->coder->search_for_ms(s, cpe);
695                 else if (cpe->common_window)
696                     memset(cpe->ms_mask, 1, sizeof(cpe->ms_mask));
697                 apply_mid_side_stereo(cpe);
698             }
699             adjust_frame_information(cpe, chans);
700             if (chans == 2) {
701                 put_bits(&s->pb, 1, cpe->common_window);
702                 if (cpe->common_window) {
703                     put_ics_info(s, &cpe->ch[0].ics);
704                     if (s->coder->encode_main_pred)
705                         s->coder->encode_main_pred(s, &cpe->ch[0]);
706                     encode_ms_info(&s->pb, cpe);
707                     if (cpe->ms_mode) ms_mode = 1;
708                 }
709             }
710             for (ch = 0; ch < chans; ch++) {
711                 s->cur_channel = start_ch + ch;
712                 encode_individual_channel(avctx, s, &cpe->ch[ch], cpe->common_window);
713             }
714             start_ch += chans;
715         }
716
717         if (avctx->flags & CODEC_FLAG_QSCALE) {
718             /* When using a constant Q-scale, don't mess with lambda */
719             break;
720         }
721
722         /* rate control stuff
723          * allow between the nominal bitrate, and what psy's bit reservoir says to target
724          * but drift towards the nominal bitrate always
725          */
726         frame_bits = put_bits_count(&s->pb);
727         rate_bits = avctx->bit_rate * 1024 / avctx->sample_rate;
728         rate_bits = FFMIN(rate_bits, 6144 * s->channels - 3);
729         too_many_bits = FFMAX(target_bits, rate_bits);
730         too_many_bits = FFMIN(too_many_bits, 6144 * s->channels - 3);
731         too_few_bits = FFMIN(FFMAX(rate_bits - rate_bits/4, target_bits), too_many_bits);
732
733         /* When using ABR, be strict (but only for increasing) */
734         too_few_bits = too_few_bits - too_few_bits/8;
735         too_many_bits = too_many_bits + too_many_bits/2;
736
737         if (   its == 0 /* for steady-state Q-scale tracking */
738             || (its < 5 && (frame_bits < too_few_bits || frame_bits > too_many_bits))
739             || frame_bits >= 6144 * s->channels - 3  )
740         {
741             float ratio = ((float)rate_bits) / frame_bits;
742
743             if (frame_bits >= too_few_bits && frame_bits <= too_many_bits) {
744                 /*
745                  * This path is for steady-state Q-scale tracking
746                  * When frame bits fall within the stable range, we still need to adjust
747                  * lambda to maintain it like so in a stable fashion (large jumps in lambda
748                  * create artifacts and should be avoided), but slowly
749                  */
750                 ratio = sqrtf(sqrtf(ratio));
751                 ratio = av_clipf(ratio, 0.9f, 1.1f);
752             } else {
753                 /* Not so fast though */
754                 ratio = sqrtf(ratio);
755             }
756             s->lambda = FFMIN(s->lambda * ratio, 65536.f);
757
758             /* Keep iterating if we must reduce and lambda is in the sky */
759             if ((s->lambda < 300.f || ratio > 0.9f) && (s->lambda > 10.f || ratio < 1.1f)) {
760                 break;
761             } else {
762                 if (is_mode || ms_mode || tns_mode || pred_mode) {
763                     for (i = 0; i < s->chan_map[0]; i++) {
764                         // Must restore coeffs
765                         chans = tag == TYPE_CPE ? 2 : 1;
766                         cpe = &s->cpe[i];
767                         for (ch = 0; ch < chans; ch++)
768                             memcpy(cpe->ch[ch].coeffs, cpe->ch[ch].pcoeffs, sizeof(cpe->ch[ch].coeffs));
769                     }
770                 }
771                 its++;
772             }
773         } else {
774             break;
775         }
776     } while (1);
777
778     put_bits(&s->pb, 3, TYPE_END);
779     flush_put_bits(&s->pb);
780     avctx->frame_bits = put_bits_count(&s->pb);
781     s->lambda_sum += s->lambda;
782     s->lambda_count++;
783
784     if (!frame)
785         s->last_frame++;
786
787     ff_af_queue_remove(&s->afq, avctx->frame_size, &avpkt->pts,
788                        &avpkt->duration);
789
790     avpkt->size = put_bits_count(&s->pb) >> 3;
791     *got_packet_ptr = 1;
792     return 0;
793 }
794
795 static av_cold int aac_encode_end(AVCodecContext *avctx)
796 {
797     AACEncContext *s = avctx->priv_data;
798
799     av_log(avctx, AV_LOG_INFO, "Qavg: %.3f\n", s->lambda_sum / s->lambda_count);
800
801     ff_mdct_end(&s->mdct1024);
802     ff_mdct_end(&s->mdct128);
803     ff_psy_end(&s->psy);
804     ff_lpc_end(&s->lpc);
805     if (s->psypp)
806         ff_psy_preprocess_end(s->psypp);
807     av_freep(&s->buffer.samples);
808     av_freep(&s->cpe);
809     av_freep(&s->fdsp);
810     ff_af_queue_close(&s->afq);
811     return 0;
812 }
813
814 static av_cold int dsp_init(AVCodecContext *avctx, AACEncContext *s)
815 {
816     int ret = 0;
817
818     s->fdsp = avpriv_float_dsp_alloc(avctx->flags & AV_CODEC_FLAG_BITEXACT);
819     if (!s->fdsp)
820         return AVERROR(ENOMEM);
821
822     // window init
823     ff_kbd_window_init(ff_aac_kbd_long_1024, 4.0, 1024);
824     ff_kbd_window_init(ff_aac_kbd_short_128, 6.0, 128);
825     ff_init_ff_sine_windows(10);
826     ff_init_ff_sine_windows(7);
827
828     if ((ret = ff_mdct_init(&s->mdct1024, 11, 0, 32768.0)) < 0)
829         return ret;
830     if ((ret = ff_mdct_init(&s->mdct128,   8, 0, 32768.0)) < 0)
831         return ret;
832
833     return 0;
834 }
835
836 static av_cold int alloc_buffers(AVCodecContext *avctx, AACEncContext *s)
837 {
838     int ch;
839     FF_ALLOCZ_ARRAY_OR_GOTO(avctx, s->buffer.samples, s->channels, 3 * 1024 * sizeof(s->buffer.samples[0]), alloc_fail);
840     FF_ALLOCZ_ARRAY_OR_GOTO(avctx, s->cpe, s->chan_map[0], sizeof(ChannelElement), alloc_fail);
841     FF_ALLOCZ_OR_GOTO(avctx, avctx->extradata, 5 + AV_INPUT_BUFFER_PADDING_SIZE, alloc_fail);
842
843     for(ch = 0; ch < s->channels; ch++)
844         s->planar_samples[ch] = s->buffer.samples + 3 * 1024 * ch;
845
846     return 0;
847 alloc_fail:
848     return AVERROR(ENOMEM);
849 }
850
851 static av_cold int aac_encode_init(AVCodecContext *avctx)
852 {
853     AACEncContext *s = avctx->priv_data;
854     int i, ret = 0;
855     const uint8_t *sizes[2];
856     uint8_t grouping[AAC_MAX_CHANNELS];
857     int lengths[2];
858
859     avctx->frame_size = 1024;
860
861     for (i = 0; i < 16; i++)
862         if (avctx->sample_rate == avpriv_mpeg4audio_sample_rates[i])
863             break;
864
865     s->channels = avctx->channels;
866
867     ERROR_IF(i == 16 || i >= ff_aac_swb_size_1024_len || i >= ff_aac_swb_size_128_len,
868              "Unsupported sample rate %d\n", avctx->sample_rate);
869     ERROR_IF(s->channels > AAC_MAX_CHANNELS,
870              "Unsupported number of channels: %d\n", s->channels);
871     WARN_IF(1024.0 * avctx->bit_rate / avctx->sample_rate > 6144 * s->channels,
872              "Too many bits per frame requested, clamping to max\n");
873     if (avctx->profile == FF_PROFILE_AAC_MAIN) {
874         s->options.pred = 1;
875     } else if ((avctx->profile == FF_PROFILE_AAC_LOW ||
876                 avctx->profile == FF_PROFILE_UNKNOWN) && s->options.pred) {
877         s->profile = 0; /* Main */
878         WARN_IF(1, "Prediction requested, changing profile to AAC-Main\n");
879     } else if (avctx->profile == FF_PROFILE_AAC_LOW ||
880                avctx->profile == FF_PROFILE_UNKNOWN) {
881         s->profile = 1; /* Low */
882     } else {
883         ERROR_IF(1, "Unsupported profile %d\n", avctx->profile);
884     }
885
886     if (s->options.aac_coder != AAC_CODER_TWOLOOP) {
887         s->options.intensity_stereo = 0;
888         s->options.pns = 0;
889     }
890
891     avctx->bit_rate = (int)FFMIN(
892         6144 * s->channels / 1024.0 * avctx->sample_rate,
893         avctx->bit_rate);
894
895     s->samplerate_index = i;
896
897     s->chan_map = aac_chan_configs[s->channels-1];
898
899     if ((ret = dsp_init(avctx, s)) < 0)
900         goto fail;
901
902     if ((ret = alloc_buffers(avctx, s)) < 0)
903         goto fail;
904
905     avctx->extradata_size = 5;
906     put_audio_specific_config(avctx);
907
908     sizes[0]   = ff_aac_swb_size_1024[i];
909     sizes[1]   = ff_aac_swb_size_128[i];
910     lengths[0] = ff_aac_num_swb_1024[i];
911     lengths[1] = ff_aac_num_swb_128[i];
912     for (i = 0; i < s->chan_map[0]; i++)
913         grouping[i] = s->chan_map[i + 1] == TYPE_CPE;
914     if ((ret = ff_psy_init(&s->psy, avctx, 2, sizes, lengths,
915                            s->chan_map[0], grouping)) < 0)
916         goto fail;
917     s->psypp = ff_psy_preprocess_init(avctx);
918     s->coder = &ff_aac_coders[s->options.aac_coder];
919     ff_lpc_init(&s->lpc, 2*avctx->frame_size, TNS_MAX_ORDER, FF_LPC_TYPE_LEVINSON);
920
921     if (HAVE_MIPSDSPR1)
922         ff_aac_coder_init_mips(s);
923
924     s->lambda = avctx->global_quality > 0 ? avctx->global_quality : 120;
925     s->random_state = 0x1f2e3d4c;
926
927     ff_aac_tableinit();
928
929     avctx->initial_padding = 1024;
930     ff_af_queue_init(avctx, &s->afq);
931
932     return 0;
933 fail:
934     aac_encode_end(avctx);
935     return ret;
936 }
937
938 #define AACENC_FLAGS AV_OPT_FLAG_ENCODING_PARAM | AV_OPT_FLAG_AUDIO_PARAM
939 static const AVOption aacenc_options[] = {
940     {"stereo_mode", "Stereo coding method", offsetof(AACEncContext, options.stereo_mode), AV_OPT_TYPE_INT, {.i64 = 0}, -1, 1, AACENC_FLAGS, "stereo_mode"},
941         {"auto",     "Selected by the Encoder", 0, AV_OPT_TYPE_CONST, {.i64 = -1 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
942         {"ms_off",   "Disable Mid/Side coding", 0, AV_OPT_TYPE_CONST, {.i64 =  0 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
943         {"ms_force", "Force Mid/Side for the whole frame if possible", 0, AV_OPT_TYPE_CONST, {.i64 =  1 }, INT_MIN, INT_MAX, AACENC_FLAGS, "stereo_mode"},
944     {"aac_coder", "Coding algorithm", offsetof(AACEncContext, options.aac_coder), AV_OPT_TYPE_INT, {.i64 = AAC_CODER_TWOLOOP}, 0, AAC_CODER_NB-1, AACENC_FLAGS, "aac_coder"},
945         {"faac",     "FAAC-inspired method",      0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_FAAC},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
946         {"anmr",     "ANMR method",               0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_ANMR},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
947         {"twoloop",  "Two loop searching method", 0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_TWOLOOP}, INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
948         {"fast",     "Constant quantizer",        0, AV_OPT_TYPE_CONST, {.i64 = AAC_CODER_FAST},    INT_MIN, INT_MAX, AACENC_FLAGS, "aac_coder"},
949     {"aac_pns", "Perceptual Noise Substitution", offsetof(AACEncContext, options.pns), AV_OPT_TYPE_BOOL, {.i64 = 1}, 0, 1, AACENC_FLAGS},
950     {"aac_is", "Intensity stereo coding", offsetof(AACEncContext, options.intensity_stereo), AV_OPT_TYPE_BOOL, {.i64 = 1}, 0, 1, AACENC_FLAGS},
951     {"aac_tns", "Temporal noise shaping", offsetof(AACEncContext, options.tns), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, AACENC_FLAGS},
952     {"aac_pred", "AAC-Main prediction", offsetof(AACEncContext, options.pred), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, AACENC_FLAGS},
953     {NULL}
954 };
955
956 static const AVClass aacenc_class = {
957     "AAC encoder",
958     av_default_item_name,
959     aacenc_options,
960     LIBAVUTIL_VERSION_INT,
961 };
962
963 AVCodec ff_aac_encoder = {
964     .name           = "aac",
965     .long_name      = NULL_IF_CONFIG_SMALL("AAC (Advanced Audio Coding)"),
966     .type           = AVMEDIA_TYPE_AUDIO,
967     .id             = AV_CODEC_ID_AAC,
968     .priv_data_size = sizeof(AACEncContext),
969     .init           = aac_encode_init,
970     .encode2        = aac_encode_frame,
971     .close          = aac_encode_end,
972     .supported_samplerates = mpeg4audio_sample_rates,
973     .capabilities   = AV_CODEC_CAP_SMALL_LAST_FRAME | AV_CODEC_CAP_DELAY |
974                       AV_CODEC_CAP_EXPERIMENTAL,
975     .sample_fmts    = (const enum AVSampleFormat[]){ AV_SAMPLE_FMT_FLTP,
976                                                      AV_SAMPLE_FMT_NONE },
977     .priv_class     = &aacenc_class,
978 };