ac3enc: store per-block/channel bap pointers by reference block in a 2D array
[ffmpeg.git] / libavcodec / ac3enc.c
1 /*
2  * The simplest AC-3 encoder
3  * Copyright (c) 2000 Fabrice Bellard
4  * Copyright (c) 2006-2010 Justin Ruggles <justin.ruggles@gmail.com>
5  * Copyright (c) 2006-2010 Prakash Punnoor <prakash@punnoor.de>
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 /**
25  * @file
26  * The simplest AC-3 encoder.
27  */
28
29 //#define DEBUG
30 //#define ASSERT_LEVEL 2
31
32 #include <stdint.h>
33
34 #include "libavutil/audioconvert.h"
35 #include "libavutil/avassert.h"
36 #include "libavutil/avstring.h"
37 #include "libavutil/crc.h"
38 #include "libavutil/opt.h"
39 #include "avcodec.h"
40 #include "put_bits.h"
41 #include "dsputil.h"
42 #include "ac3dsp.h"
43 #include "ac3.h"
44 #include "audioconvert.h"
45 #include "fft.h"
46
47
48 #ifndef CONFIG_AC3ENC_FLOAT
49 #define CONFIG_AC3ENC_FLOAT 0
50 #endif
51
52
53 /** Maximum number of exponent groups. +1 for separate DC exponent. */
54 #define AC3_MAX_EXP_GROUPS 85
55
56 #if CONFIG_AC3ENC_FLOAT
57 #define MAC_COEF(d,a,b) ((d)+=(a)*(b))
58 typedef float SampleType;
59 typedef float CoefType;
60 typedef float CoefSumType;
61 #else
62 #define MAC_COEF(d,a,b) MAC64(d,a,b)
63 typedef int16_t SampleType;
64 typedef int32_t CoefType;
65 typedef int64_t CoefSumType;
66 #endif
67
68 typedef struct AC3MDCTContext {
69     const SampleType *window;           ///< MDCT window function
70     FFTContext fft;                     ///< FFT context for MDCT calculation
71 } AC3MDCTContext;
72
73 /**
74  * Encoding Options used by AVOption.
75  */
76 typedef struct AC3EncOptions {
77     /* AC-3 metadata options*/
78     int dialogue_level;
79     int bitstream_mode;
80     float center_mix_level;
81     float surround_mix_level;
82     int dolby_surround_mode;
83     int audio_production_info;
84     int mixing_level;
85     int room_type;
86     int copyright;
87     int original;
88     int extended_bsi_1;
89     int preferred_stereo_downmix;
90     float ltrt_center_mix_level;
91     float ltrt_surround_mix_level;
92     float loro_center_mix_level;
93     float loro_surround_mix_level;
94     int extended_bsi_2;
95     int dolby_surround_ex_mode;
96     int dolby_headphone_mode;
97     int ad_converter_type;
98
99     /* other encoding options */
100     int allow_per_frame_metadata;
101     int stereo_rematrixing;
102     int channel_coupling;
103     int cpl_start;
104 } AC3EncOptions;
105
106 /**
107  * Data for a single audio block.
108  */
109 typedef struct AC3Block {
110     CoefType **mdct_coef;                       ///< MDCT coefficients
111     int32_t  **fixed_coef;                      ///< fixed-point MDCT coefficients
112     uint8_t  **exp;                             ///< original exponents
113     uint8_t  **grouped_exp;                     ///< grouped exponents
114     int16_t  **psd;                             ///< psd per frequency bin
115     int16_t  **band_psd;                        ///< psd per critical band
116     int16_t  **mask;                            ///< masking curve
117     uint16_t **qmant;                           ///< quantized mantissas
118     uint8_t  **cpl_coord_exp;                   ///< coupling coord exponents           (cplcoexp)
119     uint8_t  **cpl_coord_mant;                  ///< coupling coord mantissas           (cplcomant)
120     uint8_t  coeff_shift[AC3_MAX_CHANNELS];     ///< fixed-point coefficient shift values
121     uint8_t  new_rematrixing_strategy;          ///< send new rematrixing flags in this block
122     int      num_rematrixing_bands;             ///< number of rematrixing bands
123     uint8_t  rematrixing_flags[4];              ///< rematrixing flags
124     int      new_cpl_strategy;                  ///< send new coupling strategy
125     int      cpl_in_use;                        ///< coupling in use for this block     (cplinu)
126     uint8_t  channel_in_cpl[AC3_MAX_CHANNELS];  ///< channel in coupling                (chincpl)
127     int      num_cpl_channels;                  ///< number of channels in coupling
128     uint8_t  new_cpl_coords;                    ///< send new coupling coordinates      (cplcoe)
129     uint8_t  cpl_master_exp[AC3_MAX_CHANNELS];  ///< coupling coord master exponents    (mstrcplco)
130     int      new_snr_offsets;                   ///< send new SNR offsets
131     int      new_cpl_leak;                      ///< send new coupling leak info
132     int      end_freq[AC3_MAX_CHANNELS];        ///< end frequency bin                  (endmant)
133 } AC3Block;
134
135 /**
136  * AC-3 encoder private context.
137  */
138 typedef struct AC3EncodeContext {
139     AVClass *av_class;                      ///< AVClass used for AVOption
140     AC3EncOptions options;                  ///< encoding options
141     PutBitContext pb;                       ///< bitstream writer context
142     DSPContext dsp;
143     AC3DSPContext ac3dsp;                   ///< AC-3 optimized functions
144     AC3MDCTContext mdct;                    ///< MDCT context
145
146     AC3Block blocks[AC3_MAX_BLOCKS];        ///< per-block info
147
148     int eac3;                               ///< indicates if this is E-AC-3 vs. AC-3
149     int bitstream_id;                       ///< bitstream id                           (bsid)
150     int bitstream_mode;                     ///< bitstream mode                         (bsmod)
151
152     int bit_rate;                           ///< target bit rate, in bits-per-second
153     int sample_rate;                        ///< sampling frequency, in Hz
154
155     int frame_size_min;                     ///< minimum frame size in case rounding is necessary
156     int frame_size;                         ///< current frame size in bytes
157     int frame_size_code;                    ///< frame size code                        (frmsizecod)
158     uint16_t crc_inv[2];
159     int64_t bits_written;                   ///< bit count    (used to avg. bitrate)
160     int64_t samples_written;                ///< sample count (used to avg. bitrate)
161
162     int fbw_channels;                       ///< number of full-bandwidth channels      (nfchans)
163     int channels;                           ///< total number of channels               (nchans)
164     int lfe_on;                             ///< indicates if there is an LFE channel   (lfeon)
165     int lfe_channel;                        ///< channel index of the LFE channel
166     int has_center;                         ///< indicates if there is a center channel
167     int has_surround;                       ///< indicates if there are one or more surround channels
168     int channel_mode;                       ///< channel mode                           (acmod)
169     const uint8_t *channel_map;             ///< channel map used to reorder channels
170
171     int center_mix_level;                   ///< center mix level code
172     int surround_mix_level;                 ///< surround mix level code
173     int ltrt_center_mix_level;              ///< Lt/Rt center mix level code
174     int ltrt_surround_mix_level;            ///< Lt/Rt surround mix level code
175     int loro_center_mix_level;              ///< Lo/Ro center mix level code
176     int loro_surround_mix_level;            ///< Lo/Ro surround mix level code
177
178     int cutoff;                             ///< user-specified cutoff frequency, in Hz
179     int bandwidth_code;                     ///< bandwidth code (0 to 60)               (chbwcod)
180     int start_freq[AC3_MAX_CHANNELS];       ///< start frequency bin                    (strtmant)
181     int cpl_end_freq;                       ///< coupling channel end frequency bin
182
183     int cpl_on;                             ///< coupling turned on for this frame
184     int cpl_enabled;                        ///< coupling enabled for all frames
185     int num_cpl_subbands;                   ///< number of coupling subbands            (ncplsubnd)
186     int num_cpl_bands;                      ///< number of coupling bands               (ncplbnd)
187     uint8_t cpl_band_sizes[AC3_MAX_CPL_BANDS];  ///< number of coeffs in each coupling band
188
189     int rematrixing_enabled;                ///< stereo rematrixing enabled
190
191     /* bitrate allocation control */
192     int slow_gain_code;                     ///< slow gain code                         (sgaincod)
193     int slow_decay_code;                    ///< slow decay code                        (sdcycod)
194     int fast_decay_code;                    ///< fast decay code                        (fdcycod)
195     int db_per_bit_code;                    ///< dB/bit code                            (dbpbcod)
196     int floor_code;                         ///< floor code                             (floorcod)
197     AC3BitAllocParameters bit_alloc;        ///< bit allocation parameters
198     int coarse_snr_offset;                  ///< coarse SNR offsets                     (csnroffst)
199     int fast_gain_code[AC3_MAX_CHANNELS];   ///< fast gain codes (signal-to-mask ratio) (fgaincod)
200     int fine_snr_offset[AC3_MAX_CHANNELS];  ///< fine SNR offsets                       (fsnroffst)
201     int frame_bits_fixed;                   ///< number of non-coefficient bits for fixed parameters
202     int frame_bits;                         ///< all frame bits except exponents and mantissas
203     int exponent_bits;                      ///< number of bits used for exponents
204
205     SampleType **planar_samples;
206     uint8_t *bap_buffer;
207     uint8_t *bap1_buffer;
208     CoefType *mdct_coef_buffer;
209     int32_t *fixed_coef_buffer;
210     uint8_t *exp_buffer;
211     uint8_t *grouped_exp_buffer;
212     int16_t *psd_buffer;
213     int16_t *band_psd_buffer;
214     int16_t *mask_buffer;
215     uint16_t *qmant_buffer;
216     uint8_t *cpl_coord_exp_buffer;
217     uint8_t *cpl_coord_mant_buffer;
218
219     uint8_t exp_strategy[AC3_MAX_CHANNELS][AC3_MAX_BLOCKS]; ///< exponent strategies
220     uint8_t exp_ref_block[AC3_MAX_CHANNELS][AC3_MAX_BLOCKS]; ///< reference blocks for EXP_REUSE
221     uint8_t *ref_bap     [AC3_MAX_CHANNELS][AC3_MAX_BLOCKS]; ///< bit allocation pointers (bap)
222     int ref_bap_set;                                         ///< indicates if ref_bap pointers have been set
223
224     DECLARE_ALIGNED(32, SampleType, windowed_samples)[AC3_WINDOW_SIZE];
225 } AC3EncodeContext;
226
227 typedef struct AC3Mant {
228     uint16_t *qmant1_ptr, *qmant2_ptr, *qmant4_ptr; ///< mantissa pointers for bap=1,2,4
229     int mant1_cnt, mant2_cnt, mant4_cnt;    ///< mantissa counts for bap=1,2,4
230 } AC3Mant;
231
232 #define CMIXLEV_NUM_OPTIONS 3
233 static const float cmixlev_options[CMIXLEV_NUM_OPTIONS] = {
234     LEVEL_MINUS_3DB, LEVEL_MINUS_4POINT5DB, LEVEL_MINUS_6DB
235 };
236
237 #define SURMIXLEV_NUM_OPTIONS 3
238 static const float surmixlev_options[SURMIXLEV_NUM_OPTIONS] = {
239     LEVEL_MINUS_3DB, LEVEL_MINUS_6DB, LEVEL_ZERO
240 };
241
242 #define EXTMIXLEV_NUM_OPTIONS 8
243 static const float extmixlev_options[EXTMIXLEV_NUM_OPTIONS] = {
244     LEVEL_PLUS_3DB,  LEVEL_PLUS_1POINT5DB,  LEVEL_ONE,       LEVEL_MINUS_4POINT5DB,
245     LEVEL_MINUS_3DB, LEVEL_MINUS_4POINT5DB, LEVEL_MINUS_6DB, LEVEL_ZERO
246 };
247
248
249 #define OFFSET(param) offsetof(AC3EncodeContext, options.param)
250 #define AC3ENC_PARAM (AV_OPT_FLAG_AUDIO_PARAM | AV_OPT_FLAG_ENCODING_PARAM)
251
252 #define AC3ENC_TYPE_AC3_FIXED   0
253 #define AC3ENC_TYPE_AC3         1
254 #define AC3ENC_TYPE_EAC3        2
255
256 #if CONFIG_AC3ENC_FLOAT
257 #define AC3ENC_TYPE AC3ENC_TYPE_AC3
258 #include "ac3enc_opts_template.c"
259 static AVClass ac3enc_class = { "AC-3 Encoder", av_default_item_name,
260                                 ac3_options, LIBAVUTIL_VERSION_INT };
261 #undef AC3ENC_TYPE
262 #define AC3ENC_TYPE AC3ENC_TYPE_EAC3
263 #include "ac3enc_opts_template.c"
264 static AVClass eac3enc_class = { "E-AC-3 Encoder", av_default_item_name,
265                                  eac3_options, LIBAVUTIL_VERSION_INT };
266 #else
267 #define AC3ENC_TYPE AC3ENC_TYPE_AC3_FIXED
268 #include "ac3enc_opts_template.c"
269 static AVClass ac3enc_class = { "Fixed-Point AC-3 Encoder", av_default_item_name,
270                                 ac3fixed_options, LIBAVUTIL_VERSION_INT };
271 #endif
272
273
274 /* prototypes for functions in ac3enc_fixed.c and ac3enc_float.c */
275
276 static av_cold void mdct_end(AC3MDCTContext *mdct);
277
278 static av_cold int mdct_init(AVCodecContext *avctx, AC3MDCTContext *mdct,
279                              int nbits);
280
281 static void apply_window(DSPContext *dsp, SampleType *output, const SampleType *input,
282                          const SampleType *window, unsigned int len);
283
284 static int normalize_samples(AC3EncodeContext *s);
285
286 static void scale_coefficients(AC3EncodeContext *s);
287
288
289 /**
290  * LUT for number of exponent groups.
291  * exponent_group_tab[coupling][exponent strategy-1][number of coefficients]
292  */
293 static uint8_t exponent_group_tab[2][3][256];
294
295
296 /**
297  * List of supported channel layouts.
298  */
299 static const int64_t ac3_channel_layouts[] = {
300      AV_CH_LAYOUT_MONO,
301      AV_CH_LAYOUT_STEREO,
302      AV_CH_LAYOUT_2_1,
303      AV_CH_LAYOUT_SURROUND,
304      AV_CH_LAYOUT_2_2,
305      AV_CH_LAYOUT_QUAD,
306      AV_CH_LAYOUT_4POINT0,
307      AV_CH_LAYOUT_5POINT0,
308      AV_CH_LAYOUT_5POINT0_BACK,
309     (AV_CH_LAYOUT_MONO     | AV_CH_LOW_FREQUENCY),
310     (AV_CH_LAYOUT_STEREO   | AV_CH_LOW_FREQUENCY),
311     (AV_CH_LAYOUT_2_1      | AV_CH_LOW_FREQUENCY),
312     (AV_CH_LAYOUT_SURROUND | AV_CH_LOW_FREQUENCY),
313     (AV_CH_LAYOUT_2_2      | AV_CH_LOW_FREQUENCY),
314     (AV_CH_LAYOUT_QUAD     | AV_CH_LOW_FREQUENCY),
315     (AV_CH_LAYOUT_4POINT0  | AV_CH_LOW_FREQUENCY),
316      AV_CH_LAYOUT_5POINT1,
317      AV_CH_LAYOUT_5POINT1_BACK,
318      0
319 };
320
321
322 /**
323  * LUT to select the bandwidth code based on the bit rate, sample rate, and
324  * number of full-bandwidth channels.
325  * bandwidth_tab[fbw_channels-1][sample rate code][bit rate code]
326  */
327 static const uint8_t ac3_bandwidth_tab[5][3][19] = {
328 //      32  40  48  56  64  80  96 112 128 160 192 224 256 320 384 448 512 576 640
329
330     { {  0,  0,  0, 12, 16, 32, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48 },
331       {  0,  0,  0, 16, 20, 36, 56, 56, 56, 56, 56, 56, 56, 56, 56, 56, 56, 56, 56 },
332       {  0,  0,  0, 32, 40, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60 } },
333
334     { {  0,  0,  0,  0,  0,  0,  0, 20, 24, 32, 48, 48, 48, 48, 48, 48, 48, 48, 48 },
335       {  0,  0,  0,  0,  0,  0,  4, 24, 28, 36, 56, 56, 56, 56, 56, 56, 56, 56, 56 },
336       {  0,  0,  0,  0,  0,  0, 20, 44, 52, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60 } },
337
338     { {  0,  0,  0,  0,  0,  0,  0,  0,  0, 16, 24, 32, 40, 48, 48, 48, 48, 48, 48 },
339       {  0,  0,  0,  0,  0,  0,  0,  0,  4, 20, 28, 36, 44, 56, 56, 56, 56, 56, 56 },
340       {  0,  0,  0,  0,  0,  0,  0,  0, 20, 40, 48, 60, 60, 60, 60, 60, 60, 60, 60 } },
341
342     { {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 12, 24, 32, 48, 48, 48, 48, 48, 48 },
343       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 16, 28, 36, 56, 56, 56, 56, 56, 56 },
344       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 32, 48, 60, 60, 60, 60, 60, 60, 60 } },
345
346     { {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  8, 20, 32, 40, 48, 48, 48, 48 },
347       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 12, 24, 36, 44, 56, 56, 56, 56 },
348       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 28, 44, 60, 60, 60, 60, 60, 60 } }
349 };
350
351
352 /**
353  * LUT to select the coupling start band based on the bit rate, sample rate, and
354  * number of full-bandwidth channels. -1 = coupling off
355  * ac3_coupling_start_tab[channel_mode-2][sample rate code][bit rate code]
356  *
357  * TODO: more testing for optimal parameters.
358  *       multi-channel tests at 44.1kHz and 32kHz.
359  */
360 static const int8_t ac3_coupling_start_tab[6][3][19] = {
361 //      32  40  48  56  64  80  96 112 128 160 192 224 256 320 384 448 512 576 640
362
363     // 2/0
364     { {  0,  0,  0,  0,  0,  0,  0,  1,  1,  7,  8, 11, 12, -1, -1, -1, -1, -1, -1 },
365       {  0,  0,  0,  0,  0,  0,  1,  3,  5,  7, 10, 12, 13, -1, -1, -1, -1, -1, -1 },
366       {  0,  0,  0,  0,  1,  2,  2,  9, 13, 15, -1, -1, -1, -1, -1, -1, -1, -1, -1 } },
367
368     // 3/0
369     { {  0,  0,  0,  0,  0,  0,  0,  0,  2,  2,  6,  9, 11, 12, 13, -1, -1, -1, -1 },
370       {  0,  0,  0,  0,  0,  0,  0,  0,  2,  2,  6,  9, 11, 12, 13, -1, -1, -1, -1 },
371       { -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1 } },
372
373     // 2/1 - untested
374     { {  0,  0,  0,  0,  0,  0,  0,  0,  2,  2,  6,  9, 11, 12, 13, -1, -1, -1, -1 },
375       {  0,  0,  0,  0,  0,  0,  0,  0,  2,  2,  6,  9, 11, 12, 13, -1, -1, -1, -1 },
376       { -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1 } },
377
378     // 3/1
379     { {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  3,  2, 10, 11, 11, 12, 12, 14, -1 },
380       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  3,  2, 10, 11, 11, 12, 12, 14, -1 },
381       { -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1 } },
382
383     // 2/2 - untested
384     { {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  3,  2, 10, 11, 11, 12, 12, 14, -1 },
385       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  3,  2, 10, 11, 11, 12, 12, 14, -1 },
386       { -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1 } },
387
388     // 3/2
389     { {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  1,  6,  8, 11, 12, 12, -1, -1 },
390       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  1,  6,  8, 11, 12, 12, -1, -1 },
391       { -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1 } },
392 };
393
394
395 /**
396  * Adjust the frame size to make the average bit rate match the target bit rate.
397  * This is only needed for 11025, 22050, and 44100 sample rates or any E-AC-3.
398  */
399 static void adjust_frame_size(AC3EncodeContext *s)
400 {
401     while (s->bits_written >= s->bit_rate && s->samples_written >= s->sample_rate) {
402         s->bits_written    -= s->bit_rate;
403         s->samples_written -= s->sample_rate;
404     }
405     s->frame_size = s->frame_size_min +
406                     2 * (s->bits_written * s->sample_rate < s->samples_written * s->bit_rate);
407     s->bits_written    += s->frame_size * 8;
408     s->samples_written += AC3_FRAME_SIZE;
409 }
410
411
412 /**
413  * Deinterleave input samples.
414  * Channels are reordered from Libav's default order to AC-3 order.
415  */
416 static void deinterleave_input_samples(AC3EncodeContext *s,
417                                        const SampleType *samples)
418 {
419     int ch, i;
420
421     /* deinterleave and remap input samples */
422     for (ch = 0; ch < s->channels; ch++) {
423         const SampleType *sptr;
424         int sinc;
425
426         /* copy last 256 samples of previous frame to the start of the current frame */
427         memcpy(&s->planar_samples[ch][0], &s->planar_samples[ch][AC3_FRAME_SIZE],
428                AC3_BLOCK_SIZE * sizeof(s->planar_samples[0][0]));
429
430         /* deinterleave */
431         sinc = s->channels;
432         sptr = samples + s->channel_map[ch];
433         for (i = AC3_BLOCK_SIZE; i < AC3_FRAME_SIZE+AC3_BLOCK_SIZE; i++) {
434             s->planar_samples[ch][i] = *sptr;
435             sptr += sinc;
436         }
437     }
438 }
439
440
441 /**
442  * Apply the MDCT to input samples to generate frequency coefficients.
443  * This applies the KBD window and normalizes the input to reduce precision
444  * loss due to fixed-point calculations.
445  */
446 static void apply_mdct(AC3EncodeContext *s)
447 {
448     int blk, ch;
449
450     for (ch = 0; ch < s->channels; ch++) {
451         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
452             AC3Block *block = &s->blocks[blk];
453             const SampleType *input_samples = &s->planar_samples[ch][blk * AC3_BLOCK_SIZE];
454
455             apply_window(&s->dsp, s->windowed_samples, input_samples, s->mdct.window, AC3_WINDOW_SIZE);
456
457             block->coeff_shift[ch+1] = normalize_samples(s);
458
459             s->mdct.fft.mdct_calcw(&s->mdct.fft, block->mdct_coef[ch+1],
460                                    s->windowed_samples);
461         }
462     }
463 }
464
465
466 static void compute_coupling_strategy(AC3EncodeContext *s)
467 {
468     int blk, ch;
469     int got_cpl_snr;
470
471     /* set coupling use flags for each block/channel */
472     /* TODO: turn coupling on/off and adjust start band based on bit usage */
473     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
474         AC3Block *block = &s->blocks[blk];
475         for (ch = 1; ch <= s->fbw_channels; ch++)
476             block->channel_in_cpl[ch] = s->cpl_on;
477     }
478
479     /* enable coupling for each block if at least 2 channels have coupling
480        enabled for that block */
481     got_cpl_snr = 0;
482     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
483         AC3Block *block = &s->blocks[blk];
484         block->num_cpl_channels = 0;
485         for (ch = 1; ch <= s->fbw_channels; ch++)
486             block->num_cpl_channels += block->channel_in_cpl[ch];
487         block->cpl_in_use = block->num_cpl_channels > 1;
488         if (!block->cpl_in_use) {
489             block->num_cpl_channels = 0;
490             for (ch = 1; ch <= s->fbw_channels; ch++)
491                 block->channel_in_cpl[ch] = 0;
492         }
493
494         block->new_cpl_strategy = !blk;
495         if (blk) {
496             for (ch = 1; ch <= s->fbw_channels; ch++) {
497                 if (block->channel_in_cpl[ch] != s->blocks[blk-1].channel_in_cpl[ch]) {
498                     block->new_cpl_strategy = 1;
499                     break;
500                 }
501             }
502         }
503         block->new_cpl_leak = block->new_cpl_strategy;
504
505         if (!blk || (block->cpl_in_use && !got_cpl_snr)) {
506             block->new_snr_offsets = 1;
507             if (block->cpl_in_use)
508                 got_cpl_snr = 1;
509         } else {
510             block->new_snr_offsets = 0;
511         }
512     }
513
514     /* set bandwidth for each channel */
515     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
516         AC3Block *block = &s->blocks[blk];
517         for (ch = 1; ch <= s->fbw_channels; ch++) {
518             if (block->channel_in_cpl[ch])
519                 block->end_freq[ch] = s->start_freq[CPL_CH];
520             else
521                 block->end_freq[ch] = s->bandwidth_code * 3 + 73;
522         }
523     }
524 }
525
526
527 /**
528  * Calculate a single coupling coordinate.
529  */
530 static inline float calc_cpl_coord(float energy_ch, float energy_cpl)
531 {
532     float coord = 0.125;
533     if (energy_cpl > 0)
534         coord *= sqrtf(energy_ch / energy_cpl);
535     return coord;
536 }
537
538
539 /**
540  * Calculate coupling channel and coupling coordinates.
541  * TODO: Currently this is only used for the floating-point encoder. I was
542  *       able to make it work for the fixed-point encoder, but quality was
543  *       generally lower in most cases than not using coupling. If a more
544  *       adaptive coupling strategy were to be implemented it might be useful
545  *       at that time to use coupling for the fixed-point encoder as well.
546  */
547 static void apply_channel_coupling(AC3EncodeContext *s)
548 {
549 #if CONFIG_AC3ENC_FLOAT
550     LOCAL_ALIGNED_16(float,   cpl_coords,       [AC3_MAX_BLOCKS], [AC3_MAX_CHANNELS][16]);
551     LOCAL_ALIGNED_16(int32_t, fixed_cpl_coords, [AC3_MAX_BLOCKS], [AC3_MAX_CHANNELS][16]);
552     int blk, ch, bnd, i, j;
553     CoefSumType energy[AC3_MAX_BLOCKS][AC3_MAX_CHANNELS][16] = {{{0}}};
554     int num_cpl_coefs = s->num_cpl_subbands * 12;
555
556     memset(cpl_coords,       0, AC3_MAX_BLOCKS * sizeof(*cpl_coords));
557     memset(fixed_cpl_coords, 0, AC3_MAX_BLOCKS * sizeof(*fixed_cpl_coords));
558
559     /* calculate coupling channel from fbw channels */
560     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
561         AC3Block *block = &s->blocks[blk];
562         CoefType *cpl_coef = &block->mdct_coef[CPL_CH][s->start_freq[CPL_CH]];
563         if (!block->cpl_in_use)
564             continue;
565         memset(cpl_coef-1, 0, (num_cpl_coefs+4) * sizeof(*cpl_coef));
566         for (ch = 1; ch <= s->fbw_channels; ch++) {
567             CoefType *ch_coef = &block->mdct_coef[ch][s->start_freq[CPL_CH]];
568             if (!block->channel_in_cpl[ch])
569                 continue;
570             for (i = 0; i < num_cpl_coefs; i++)
571                 cpl_coef[i] += ch_coef[i];
572         }
573         /* note: coupling start bin % 4 will always be 1 and num_cpl_coefs
574                  will always be a multiple of 12, so we need to subtract 1 from
575                  the start and add 4 to the length when using optimized
576                  functions which require 16-byte alignment. */
577
578         /* coefficients must be clipped to +/- 1.0 in order to be encoded */
579         s->dsp.vector_clipf(cpl_coef-1, cpl_coef-1, -1.0f, 1.0f, num_cpl_coefs+4);
580
581         /* scale coupling coefficients from float to 24-bit fixed-point */
582         s->ac3dsp.float_to_fixed24(&block->fixed_coef[CPL_CH][s->start_freq[CPL_CH]-1],
583                                    cpl_coef-1, num_cpl_coefs+4);
584     }
585
586     /* calculate energy in each band in coupling channel and each fbw channel */
587     /* TODO: possibly use SIMD to speed up energy calculation */
588     bnd = 0;
589     i = s->start_freq[CPL_CH];
590     while (i < s->cpl_end_freq) {
591         int band_size = s->cpl_band_sizes[bnd];
592         for (ch = CPL_CH; ch <= s->fbw_channels; ch++) {
593             for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
594                 AC3Block *block = &s->blocks[blk];
595                 if (!block->cpl_in_use || (ch > CPL_CH && !block->channel_in_cpl[ch]))
596                     continue;
597                 for (j = 0; j < band_size; j++) {
598                     CoefType v = block->mdct_coef[ch][i+j];
599                     MAC_COEF(energy[blk][ch][bnd], v, v);
600                 }
601             }
602         }
603         i += band_size;
604         bnd++;
605     }
606
607     /* determine which blocks to send new coupling coordinates for */
608     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
609         AC3Block *block  = &s->blocks[blk];
610         AC3Block *block0 = blk ? &s->blocks[blk-1] : NULL;
611         int new_coords = 0;
612         CoefSumType coord_diff[AC3_MAX_CHANNELS] = {0,};
613
614         if (block->cpl_in_use) {
615             /* calculate coupling coordinates for all blocks and calculate the
616                average difference between coordinates in successive blocks */
617             for (ch = 1; ch <= s->fbw_channels; ch++) {
618                 if (!block->channel_in_cpl[ch])
619                     continue;
620
621                 for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
622                     cpl_coords[blk][ch][bnd] = calc_cpl_coord(energy[blk][ch][bnd],
623                                                               energy[blk][CPL_CH][bnd]);
624                     if (blk > 0 && block0->cpl_in_use &&
625                         block0->channel_in_cpl[ch]) {
626                         coord_diff[ch] += fabs(cpl_coords[blk-1][ch][bnd] -
627                                                cpl_coords[blk  ][ch][bnd]);
628                     }
629                 }
630                 coord_diff[ch] /= s->num_cpl_bands;
631             }
632
633             /* send new coordinates if this is the first block, if previous
634              * block did not use coupling but this block does, the channels
635              * using coupling has changed from the previous block, or the
636              * coordinate difference from the last block for any channel is
637              * greater than a threshold value. */
638             if (blk == 0) {
639                 new_coords = 1;
640             } else if (!block0->cpl_in_use) {
641                 new_coords = 1;
642             } else {
643                 for (ch = 1; ch <= s->fbw_channels; ch++) {
644                     if (block->channel_in_cpl[ch] && !block0->channel_in_cpl[ch]) {
645                         new_coords = 1;
646                         break;
647                     }
648                 }
649                 if (!new_coords) {
650                     for (ch = 1; ch <= s->fbw_channels; ch++) {
651                         if (block->channel_in_cpl[ch] && coord_diff[ch] > 0.04) {
652                             new_coords = 1;
653                             break;
654                         }
655                     }
656                 }
657             }
658         }
659         block->new_cpl_coords = new_coords;
660     }
661
662     /* calculate final coupling coordinates, taking into account reusing of
663        coordinates in successive blocks */
664     for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
665         blk = 0;
666         while (blk < AC3_MAX_BLOCKS) {
667             int blk1;
668             CoefSumType energy_cpl;
669             AC3Block *block  = &s->blocks[blk];
670
671             if (!block->cpl_in_use) {
672                 blk++;
673                 continue;
674             }
675
676             energy_cpl = energy[blk][CPL_CH][bnd];
677             blk1 = blk+1;
678             while (!s->blocks[blk1].new_cpl_coords && blk1 < AC3_MAX_BLOCKS) {
679                 if (s->blocks[blk1].cpl_in_use)
680                     energy_cpl += energy[blk1][CPL_CH][bnd];
681                 blk1++;
682             }
683
684             for (ch = 1; ch <= s->fbw_channels; ch++) {
685                 CoefType energy_ch;
686                 if (!block->channel_in_cpl[ch])
687                     continue;
688                 energy_ch = energy[blk][ch][bnd];
689                 blk1 = blk+1;
690                 while (!s->blocks[blk1].new_cpl_coords && blk1 < AC3_MAX_BLOCKS) {
691                     if (s->blocks[blk1].cpl_in_use)
692                         energy_ch += energy[blk1][ch][bnd];
693                     blk1++;
694                 }
695                 cpl_coords[blk][ch][bnd] = calc_cpl_coord(energy_ch, energy_cpl);
696             }
697             blk = blk1;
698         }
699     }
700
701     /* calculate exponents/mantissas for coupling coordinates */
702     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
703         AC3Block *block = &s->blocks[blk];
704         if (!block->cpl_in_use || !block->new_cpl_coords)
705             continue;
706
707         s->ac3dsp.float_to_fixed24(fixed_cpl_coords[blk][1],
708                                    cpl_coords[blk][1],
709                                    s->fbw_channels * 16);
710         s->ac3dsp.extract_exponents(block->cpl_coord_exp[1],
711                                     fixed_cpl_coords[blk][1],
712                                     s->fbw_channels * 16);
713
714         for (ch = 1; ch <= s->fbw_channels; ch++) {
715             int bnd, min_exp, max_exp, master_exp;
716
717             /* determine master exponent */
718             min_exp = max_exp = block->cpl_coord_exp[ch][0];
719             for (bnd = 1; bnd < s->num_cpl_bands; bnd++) {
720                 int exp = block->cpl_coord_exp[ch][bnd];
721                 min_exp = FFMIN(exp, min_exp);
722                 max_exp = FFMAX(exp, max_exp);
723             }
724             master_exp = ((max_exp - 15) + 2) / 3;
725             master_exp = FFMAX(master_exp, 0);
726             while (min_exp < master_exp * 3)
727                 master_exp--;
728             for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
729                 block->cpl_coord_exp[ch][bnd] = av_clip(block->cpl_coord_exp[ch][bnd] -
730                                                         master_exp * 3, 0, 15);
731             }
732             block->cpl_master_exp[ch] = master_exp;
733
734             /* quantize mantissas */
735             for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
736                 int cpl_exp  = block->cpl_coord_exp[ch][bnd];
737                 int cpl_mant = (fixed_cpl_coords[blk][ch][bnd] << (5 + cpl_exp + master_exp * 3)) >> 24;
738                 if (cpl_exp == 15)
739                     cpl_mant >>= 1;
740                 else
741                     cpl_mant -= 16;
742
743                 block->cpl_coord_mant[ch][bnd] = cpl_mant;
744             }
745         }
746     }
747
748     if (s->eac3) {
749         /* set first cpl coords */
750         int first_cpl_coords[AC3_MAX_CHANNELS];
751         for (ch = 1; ch <= s->fbw_channels; ch++)
752             first_cpl_coords[ch] = 1;
753         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
754             AC3Block *block = &s->blocks[blk];
755             for (ch = 1; ch <= s->fbw_channels; ch++) {
756                 if (block->channel_in_cpl[ch]) {
757                     if (first_cpl_coords[ch]) {
758                         block->new_cpl_coords = 2;
759                         first_cpl_coords[ch]  = 0;
760                     }
761                 } else {
762                     first_cpl_coords[ch] = 1;
763                 }
764             }
765         }
766
767         /* set first cpl leak */
768         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
769             AC3Block *block = &s->blocks[blk];
770             if (block->cpl_in_use) {
771                 block->new_cpl_leak = 2;
772                 break;
773             }
774         }
775     }
776 #endif /* CONFIG_AC3ENC_FLOAT */
777 }
778
779
780 /**
781  * Determine rematrixing flags for each block and band.
782  */
783 static void compute_rematrixing_strategy(AC3EncodeContext *s)
784 {
785     int nb_coefs;
786     int blk, bnd, i;
787     AC3Block *block, *block0;
788
789     if (s->channel_mode != AC3_CHMODE_STEREO)
790         return;
791
792     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
793         block = &s->blocks[blk];
794         block->new_rematrixing_strategy = !blk;
795
796         if (!s->rematrixing_enabled) {
797             block0 = block;
798             continue;
799         }
800
801         block->num_rematrixing_bands = 4;
802         if (block->cpl_in_use) {
803             block->num_rematrixing_bands -= (s->start_freq[CPL_CH] <= 61);
804             block->num_rematrixing_bands -= (s->start_freq[CPL_CH] == 37);
805             if (blk && block->num_rematrixing_bands != block0->num_rematrixing_bands)
806                 block->new_rematrixing_strategy = 1;
807         }
808         nb_coefs = FFMIN(block->end_freq[1], block->end_freq[2]);
809
810         for (bnd = 0; bnd < block->num_rematrixing_bands; bnd++) {
811             /* calculate calculate sum of squared coeffs for one band in one block */
812             int start = ff_ac3_rematrix_band_tab[bnd];
813             int end   = FFMIN(nb_coefs, ff_ac3_rematrix_band_tab[bnd+1]);
814             CoefSumType sum[4] = {0,};
815             for (i = start; i < end; i++) {
816                 CoefType lt = block->mdct_coef[1][i];
817                 CoefType rt = block->mdct_coef[2][i];
818                 CoefType md = lt + rt;
819                 CoefType sd = lt - rt;
820                 MAC_COEF(sum[0], lt, lt);
821                 MAC_COEF(sum[1], rt, rt);
822                 MAC_COEF(sum[2], md, md);
823                 MAC_COEF(sum[3], sd, sd);
824             }
825
826             /* compare sums to determine if rematrixing will be used for this band */
827             if (FFMIN(sum[2], sum[3]) < FFMIN(sum[0], sum[1]))
828                 block->rematrixing_flags[bnd] = 1;
829             else
830                 block->rematrixing_flags[bnd] = 0;
831
832             /* determine if new rematrixing flags will be sent */
833             if (blk &&
834                 block->rematrixing_flags[bnd] != block0->rematrixing_flags[bnd]) {
835                 block->new_rematrixing_strategy = 1;
836             }
837         }
838         block0 = block;
839     }
840 }
841
842
843 /**
844  * Apply stereo rematrixing to coefficients based on rematrixing flags.
845  */
846 static void apply_rematrixing(AC3EncodeContext *s)
847 {
848     int nb_coefs;
849     int blk, bnd, i;
850     int start, end;
851     uint8_t *flags;
852
853     if (!s->rematrixing_enabled)
854         return;
855
856     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
857         AC3Block *block = &s->blocks[blk];
858         if (block->new_rematrixing_strategy)
859             flags = block->rematrixing_flags;
860         nb_coefs = FFMIN(block->end_freq[1], block->end_freq[2]);
861         for (bnd = 0; bnd < block->num_rematrixing_bands; bnd++) {
862             if (flags[bnd]) {
863                 start = ff_ac3_rematrix_band_tab[bnd];
864                 end   = FFMIN(nb_coefs, ff_ac3_rematrix_band_tab[bnd+1]);
865                 for (i = start; i < end; i++) {
866                     int32_t lt = block->fixed_coef[1][i];
867                     int32_t rt = block->fixed_coef[2][i];
868                     block->fixed_coef[1][i] = (lt + rt) >> 1;
869                     block->fixed_coef[2][i] = (lt - rt) >> 1;
870                 }
871             }
872         }
873     }
874 }
875
876
877 /**
878  * Initialize exponent tables.
879  */
880 static av_cold void exponent_init(AC3EncodeContext *s)
881 {
882     int expstr, i, grpsize;
883
884     for (expstr = EXP_D15-1; expstr <= EXP_D45-1; expstr++) {
885         grpsize = 3 << expstr;
886         for (i = 12; i < 256; i++) {
887             exponent_group_tab[0][expstr][i] = (i + grpsize - 4) / grpsize;
888             exponent_group_tab[1][expstr][i] = (i              ) / grpsize;
889         }
890     }
891     /* LFE */
892     exponent_group_tab[0][0][7] = 2;
893 }
894
895
896 /**
897  * Extract exponents from the MDCT coefficients.
898  * This takes into account the normalization that was done to the input samples
899  * by adjusting the exponents by the exponent shift values.
900  */
901 static void extract_exponents(AC3EncodeContext *s)
902 {
903     int blk, ch;
904
905     for (ch = !s->cpl_on; ch <= s->channels; ch++) {
906         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
907             AC3Block *block = &s->blocks[blk];
908             s->ac3dsp.extract_exponents(block->exp[ch], block->fixed_coef[ch],
909                                         AC3_MAX_COEFS);
910         }
911     }
912 }
913
914
915 /**
916  * Exponent Difference Threshold.
917  * New exponents are sent if their SAD exceed this number.
918  */
919 #define EXP_DIFF_THRESHOLD 500
920
921
922 /**
923  * Calculate exponent strategies for all channels.
924  * Array arrangement is reversed to simplify the per-channel calculation.
925  */
926 static void compute_exp_strategy(AC3EncodeContext *s)
927 {
928     int ch, blk, blk1;
929
930     for (ch = !s->cpl_on; ch <= s->fbw_channels; ch++) {
931         uint8_t *exp_strategy = s->exp_strategy[ch];
932         uint8_t *exp          = s->blocks[0].exp[ch];
933         int exp_diff;
934
935         /* estimate if the exponent variation & decide if they should be
936            reused in the next frame */
937         exp_strategy[0] = EXP_NEW;
938         exp += AC3_MAX_COEFS;
939         for (blk = 1; blk < AC3_MAX_BLOCKS; blk++, exp += AC3_MAX_COEFS) {
940             if ((ch == CPL_CH && (!s->blocks[blk].cpl_in_use || !s->blocks[blk-1].cpl_in_use)) ||
941                 (ch  > CPL_CH && (s->blocks[blk].channel_in_cpl[ch] != s->blocks[blk-1].channel_in_cpl[ch]))) {
942                 exp_strategy[blk] = EXP_NEW;
943                 continue;
944             }
945             exp_diff = s->dsp.sad[0](NULL, exp, exp - AC3_MAX_COEFS, 16, 16);
946             exp_strategy[blk] = EXP_REUSE;
947             if (ch == CPL_CH && exp_diff > (EXP_DIFF_THRESHOLD * (s->blocks[blk].end_freq[ch] - s->start_freq[ch]) / AC3_MAX_COEFS))
948                 exp_strategy[blk] = EXP_NEW;
949             else if (ch > CPL_CH && exp_diff > EXP_DIFF_THRESHOLD)
950                 exp_strategy[blk] = EXP_NEW;
951         }
952
953         /* now select the encoding strategy type : if exponents are often
954            recoded, we use a coarse encoding */
955         blk = 0;
956         while (blk < AC3_MAX_BLOCKS) {
957             blk1 = blk + 1;
958             while (blk1 < AC3_MAX_BLOCKS && exp_strategy[blk1] == EXP_REUSE)
959                 blk1++;
960             switch (blk1 - blk) {
961             case 1:  exp_strategy[blk] = EXP_D45; break;
962             case 2:
963             case 3:  exp_strategy[blk] = EXP_D25; break;
964             default: exp_strategy[blk] = EXP_D15; break;
965             }
966             blk = blk1;
967         }
968     }
969     if (s->lfe_on) {
970         ch = s->lfe_channel;
971         s->exp_strategy[ch][0] = EXP_D15;
972         for (blk = 1; blk < AC3_MAX_BLOCKS; blk++)
973             s->exp_strategy[ch][blk] = EXP_REUSE;
974     }
975 }
976
977
978 /**
979  * Update the exponents so that they are the ones the decoder will decode.
980  */
981 static void encode_exponents_blk_ch(uint8_t *exp, int nb_exps, int exp_strategy,
982                                     int cpl)
983 {
984     int nb_groups, i, k;
985
986     nb_groups = exponent_group_tab[cpl][exp_strategy-1][nb_exps] * 3;
987
988     /* for each group, compute the minimum exponent */
989     switch(exp_strategy) {
990     case EXP_D25:
991         for (i = 1, k = 1-cpl; i <= nb_groups; i++) {
992             uint8_t exp_min = exp[k];
993             if (exp[k+1] < exp_min)
994                 exp_min = exp[k+1];
995             exp[i-cpl] = exp_min;
996             k += 2;
997         }
998         break;
999     case EXP_D45:
1000         for (i = 1, k = 1-cpl; i <= nb_groups; i++) {
1001             uint8_t exp_min = exp[k];
1002             if (exp[k+1] < exp_min)
1003                 exp_min = exp[k+1];
1004             if (exp[k+2] < exp_min)
1005                 exp_min = exp[k+2];
1006             if (exp[k+3] < exp_min)
1007                 exp_min = exp[k+3];
1008             exp[i-cpl] = exp_min;
1009             k += 4;
1010         }
1011         break;
1012     }
1013
1014     /* constraint for DC exponent */
1015     if (!cpl && exp[0] > 15)
1016         exp[0] = 15;
1017
1018     /* decrease the delta between each groups to within 2 so that they can be
1019        differentially encoded */
1020     for (i = 1; i <= nb_groups; i++)
1021         exp[i] = FFMIN(exp[i], exp[i-1] + 2);
1022     i--;
1023     while (--i >= 0)
1024         exp[i] = FFMIN(exp[i], exp[i+1] + 2);
1025
1026     if (cpl)
1027         exp[-1] = exp[0] & ~1;
1028
1029     /* now we have the exponent values the decoder will see */
1030     switch (exp_strategy) {
1031     case EXP_D25:
1032         for (i = nb_groups, k = (nb_groups * 2)-cpl; i > 0; i--) {
1033             uint8_t exp1 = exp[i-cpl];
1034             exp[k--] = exp1;
1035             exp[k--] = exp1;
1036         }
1037         break;
1038     case EXP_D45:
1039         for (i = nb_groups, k = (nb_groups * 4)-cpl; i > 0; i--) {
1040             exp[k] = exp[k-1] = exp[k-2] = exp[k-3] = exp[i-cpl];
1041             k -= 4;
1042         }
1043         break;
1044     }
1045 }
1046
1047
1048 /**
1049  * Encode exponents from original extracted form to what the decoder will see.
1050  * This copies and groups exponents based on exponent strategy and reduces
1051  * deltas between adjacent exponent groups so that they can be differentially
1052  * encoded.
1053  */
1054 static void encode_exponents(AC3EncodeContext *s)
1055 {
1056     int blk, blk1, ch, cpl;
1057     uint8_t *exp, *exp_strategy;
1058     int nb_coefs, num_reuse_blocks;
1059
1060     for (ch = !s->cpl_on; ch <= s->channels; ch++) {
1061         exp          = s->blocks[0].exp[ch] + s->start_freq[ch];
1062         exp_strategy = s->exp_strategy[ch];
1063
1064         cpl = (ch == CPL_CH);
1065         blk = 0;
1066         while (blk < AC3_MAX_BLOCKS) {
1067             AC3Block *block = &s->blocks[blk];
1068             if (cpl && !block->cpl_in_use) {
1069                 exp += AC3_MAX_COEFS;
1070                 blk++;
1071                 continue;
1072             }
1073             nb_coefs = block->end_freq[ch] - s->start_freq[ch];
1074             blk1 = blk + 1;
1075
1076             /* count the number of EXP_REUSE blocks after the current block
1077                and set exponent reference block numbers */
1078             s->exp_ref_block[ch][blk] = blk;
1079             while (blk1 < AC3_MAX_BLOCKS && exp_strategy[blk1] == EXP_REUSE) {
1080                 s->exp_ref_block[ch][blk1] = blk;
1081                 blk1++;
1082             }
1083             num_reuse_blocks = blk1 - blk - 1;
1084
1085             /* for the EXP_REUSE case we select the min of the exponents */
1086             s->ac3dsp.ac3_exponent_min(exp-s->start_freq[ch], num_reuse_blocks,
1087                                        AC3_MAX_COEFS);
1088
1089             encode_exponents_blk_ch(exp, nb_coefs, exp_strategy[blk], cpl);
1090
1091             exp += AC3_MAX_COEFS * (num_reuse_blocks + 1);
1092             blk = blk1;
1093         }
1094     }
1095
1096     /* reference block numbers have been changed, so reset ref_bap_set */
1097     s->ref_bap_set = 0;
1098 }
1099
1100
1101 /**
1102  * Group exponents.
1103  * 3 delta-encoded exponents are in each 7-bit group. The number of groups
1104  * varies depending on exponent strategy and bandwidth.
1105  */
1106 static void group_exponents(AC3EncodeContext *s)
1107 {
1108     int blk, ch, i, cpl;
1109     int group_size, nb_groups, bit_count;
1110     uint8_t *p;
1111     int delta0, delta1, delta2;
1112     int exp0, exp1;
1113
1114     bit_count = 0;
1115     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1116         AC3Block *block = &s->blocks[blk];
1117         for (ch = !block->cpl_in_use; ch <= s->channels; ch++) {
1118             int exp_strategy = s->exp_strategy[ch][blk];
1119             if (exp_strategy == EXP_REUSE)
1120                 continue;
1121             cpl = (ch == CPL_CH);
1122             group_size = exp_strategy + (exp_strategy == EXP_D45);
1123             nb_groups = exponent_group_tab[cpl][exp_strategy-1][block->end_freq[ch]-s->start_freq[ch]];
1124             bit_count += 4 + (nb_groups * 7);
1125             p = block->exp[ch] + s->start_freq[ch] - cpl;
1126
1127             /* DC exponent */
1128             exp1 = *p++;
1129             block->grouped_exp[ch][0] = exp1;
1130
1131             /* remaining exponents are delta encoded */
1132             for (i = 1; i <= nb_groups; i++) {
1133                 /* merge three delta in one code */
1134                 exp0   = exp1;
1135                 exp1   = p[0];
1136                 p     += group_size;
1137                 delta0 = exp1 - exp0 + 2;
1138                 av_assert2(delta0 >= 0 && delta0 <= 4);
1139
1140                 exp0   = exp1;
1141                 exp1   = p[0];
1142                 p     += group_size;
1143                 delta1 = exp1 - exp0 + 2;
1144                 av_assert2(delta1 >= 0 && delta1 <= 4);
1145
1146                 exp0   = exp1;
1147                 exp1   = p[0];
1148                 p     += group_size;
1149                 delta2 = exp1 - exp0 + 2;
1150                 av_assert2(delta2 >= 0 && delta2 <= 4);
1151
1152                 block->grouped_exp[ch][i] = ((delta0 * 5 + delta1) * 5) + delta2;
1153             }
1154         }
1155     }
1156
1157     s->exponent_bits = bit_count;
1158 }
1159
1160
1161 /**
1162  * Calculate final exponents from the supplied MDCT coefficients and exponent shift.
1163  * Extract exponents from MDCT coefficients, calculate exponent strategies,
1164  * and encode final exponents.
1165  */
1166 static void process_exponents(AC3EncodeContext *s)
1167 {
1168     extract_exponents(s);
1169
1170     compute_exp_strategy(s);
1171
1172     encode_exponents(s);
1173
1174     group_exponents(s);
1175
1176     emms_c();
1177 }
1178
1179
1180 /**
1181  * Count frame bits that are based solely on fixed parameters.
1182  * This only has to be run once when the encoder is initialized.
1183  */
1184 static void count_frame_bits_fixed(AC3EncodeContext *s)
1185 {
1186     static const int frame_bits_inc[8] = { 0, 0, 2, 2, 2, 4, 2, 4 };
1187     int blk;
1188     int frame_bits;
1189
1190     /* assumptions:
1191      *   no dynamic range codes
1192      *   bit allocation parameters do not change between blocks
1193      *   no delta bit allocation
1194      *   no skipped data
1195      *   no auxilliary data
1196      *   no E-AC-3 metadata
1197      */
1198
1199     /* header */
1200     frame_bits = 16; /* sync info */
1201     if (s->eac3) {
1202         /* bitstream info header */
1203         frame_bits += 35;
1204         frame_bits += 1 + 1 + 1;
1205         /* audio frame header */
1206         frame_bits += 2;
1207         frame_bits += 10;
1208         /* exponent strategy */
1209         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
1210             frame_bits += 2 * s->fbw_channels + s->lfe_on;
1211         /* converter exponent strategy */
1212         frame_bits += s->fbw_channels * 5;
1213         /* snr offsets */
1214         frame_bits += 10;
1215         /* block start info */
1216         frame_bits++;
1217     } else {
1218         frame_bits += 49;
1219         frame_bits += frame_bits_inc[s->channel_mode];
1220     }
1221
1222     /* audio blocks */
1223     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1224         if (!s->eac3) {
1225             /* block switch flags */
1226             frame_bits += s->fbw_channels;
1227
1228             /* dither flags */
1229             frame_bits += s->fbw_channels;
1230         }
1231
1232         /* dynamic range */
1233         frame_bits++;
1234
1235         /* spectral extension */
1236         if (s->eac3)
1237             frame_bits++;
1238
1239         if (!s->eac3) {
1240             /* exponent strategy */
1241             frame_bits += 2 * s->fbw_channels;
1242             if (s->lfe_on)
1243                 frame_bits++;
1244
1245             /* bit allocation params */
1246             frame_bits++;
1247             if (!blk)
1248                 frame_bits += 2 + 2 + 2 + 2 + 3;
1249         }
1250
1251         /* converter snr offset */
1252         if (s->eac3)
1253             frame_bits++;
1254
1255         if (!s->eac3) {
1256             /* delta bit allocation */
1257             frame_bits++;
1258
1259             /* skipped data */
1260             frame_bits++;
1261         }
1262     }
1263
1264     /* auxiliary data */
1265     frame_bits++;
1266
1267     /* CRC */
1268     frame_bits += 1 + 16;
1269
1270     s->frame_bits_fixed = frame_bits;
1271 }
1272
1273
1274 /**
1275  * Initialize bit allocation.
1276  * Set default parameter codes and calculate parameter values.
1277  */
1278 static void bit_alloc_init(AC3EncodeContext *s)
1279 {
1280     int ch;
1281
1282     /* init default parameters */
1283     s->slow_decay_code = 2;
1284     s->fast_decay_code = 1;
1285     s->slow_gain_code  = 1;
1286     s->db_per_bit_code = s->eac3 ? 2 : 3;
1287     s->floor_code      = 7;
1288     for (ch = 0; ch <= s->channels; ch++)
1289         s->fast_gain_code[ch] = 4;
1290
1291     /* initial snr offset */
1292     s->coarse_snr_offset = 40;
1293
1294     /* compute real values */
1295     /* currently none of these values change during encoding, so we can just
1296        set them once at initialization */
1297     s->bit_alloc.slow_decay = ff_ac3_slow_decay_tab[s->slow_decay_code] >> s->bit_alloc.sr_shift;
1298     s->bit_alloc.fast_decay = ff_ac3_fast_decay_tab[s->fast_decay_code] >> s->bit_alloc.sr_shift;
1299     s->bit_alloc.slow_gain  = ff_ac3_slow_gain_tab[s->slow_gain_code];
1300     s->bit_alloc.db_per_bit = ff_ac3_db_per_bit_tab[s->db_per_bit_code];
1301     s->bit_alloc.floor      = ff_ac3_floor_tab[s->floor_code];
1302     s->bit_alloc.cpl_fast_leak = 0;
1303     s->bit_alloc.cpl_slow_leak = 0;
1304
1305     count_frame_bits_fixed(s);
1306 }
1307
1308
1309 /**
1310  * Count the bits used to encode the frame, minus exponents and mantissas.
1311  * Bits based on fixed parameters have already been counted, so now we just
1312  * have to add the bits based on parameters that change during encoding.
1313  */
1314 static void count_frame_bits(AC3EncodeContext *s)
1315 {
1316     AC3EncOptions *opt = &s->options;
1317     int blk, ch;
1318     int frame_bits = 0;
1319
1320     /* header */
1321     if (s->eac3) {
1322         /* coupling */
1323         if (s->channel_mode > AC3_CHMODE_MONO) {
1324             frame_bits++;
1325             for (blk = 1; blk < AC3_MAX_BLOCKS; blk++) {
1326                 AC3Block *block = &s->blocks[blk];
1327                 frame_bits++;
1328                 if (block->new_cpl_strategy)
1329                     frame_bits++;
1330             }
1331         }
1332         /* coupling exponent strategy */
1333         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
1334             frame_bits += 2 * s->blocks[blk].cpl_in_use;
1335     } else {
1336         if (opt->audio_production_info)
1337             frame_bits += 7;
1338         if (s->bitstream_id == 6) {
1339             if (opt->extended_bsi_1)
1340                 frame_bits += 14;
1341             if (opt->extended_bsi_2)
1342                 frame_bits += 14;
1343         }
1344     }
1345
1346     /* audio blocks */
1347     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1348         AC3Block *block = &s->blocks[blk];
1349
1350         /* coupling strategy */
1351         if (!s->eac3)
1352             frame_bits++;
1353         if (block->new_cpl_strategy) {
1354             if (!s->eac3)
1355                 frame_bits++;
1356             if (block->cpl_in_use) {
1357                 if (s->eac3)
1358                     frame_bits++;
1359                 if (!s->eac3 || s->channel_mode != AC3_CHMODE_STEREO)
1360                     frame_bits += s->fbw_channels;
1361                 if (s->channel_mode == AC3_CHMODE_STEREO)
1362                     frame_bits++;
1363                 frame_bits += 4 + 4;
1364                 if (s->eac3)
1365                     frame_bits++;
1366                 else
1367                     frame_bits += s->num_cpl_subbands - 1;
1368             }
1369         }
1370
1371         /* coupling coordinates */
1372         if (block->cpl_in_use) {
1373             for (ch = 1; ch <= s->fbw_channels; ch++) {
1374                 if (block->channel_in_cpl[ch]) {
1375                     if (!s->eac3 || block->new_cpl_coords != 2)
1376                         frame_bits++;
1377                     if (block->new_cpl_coords) {
1378                         frame_bits += 2;
1379                         frame_bits += (4 + 4) * s->num_cpl_bands;
1380                     }
1381                 }
1382             }
1383         }
1384
1385         /* stereo rematrixing */
1386         if (s->channel_mode == AC3_CHMODE_STEREO) {
1387             if (!s->eac3 || blk > 0)
1388                 frame_bits++;
1389             if (s->blocks[blk].new_rematrixing_strategy)
1390                 frame_bits += block->num_rematrixing_bands;
1391         }
1392
1393         /* bandwidth codes & gain range */
1394         for (ch = 1; ch <= s->fbw_channels; ch++) {
1395             if (s->exp_strategy[ch][blk] != EXP_REUSE) {
1396                 if (!block->channel_in_cpl[ch])
1397                     frame_bits += 6;
1398                 frame_bits += 2;
1399             }
1400         }
1401
1402         /* coupling exponent strategy */
1403         if (!s->eac3 && block->cpl_in_use)
1404             frame_bits += 2;
1405
1406         /* snr offsets and fast gain codes */
1407         if (!s->eac3) {
1408             frame_bits++;
1409             if (block->new_snr_offsets)
1410                 frame_bits += 6 + (s->channels + block->cpl_in_use) * (4 + 3);
1411         }
1412
1413         /* coupling leak info */
1414         if (block->cpl_in_use) {
1415             if (!s->eac3 || block->new_cpl_leak != 2)
1416                 frame_bits++;
1417             if (block->new_cpl_leak)
1418                 frame_bits += 3 + 3;
1419         }
1420     }
1421
1422     s->frame_bits = s->frame_bits_fixed + frame_bits;
1423 }
1424
1425
1426 /**
1427  * Finalize the mantissa bit count by adding in the grouped mantissas.
1428  */
1429 static int compute_mantissa_size_final(int mant_cnt[5])
1430 {
1431     // bap=1 : 3 mantissas in 5 bits
1432     int bits = (mant_cnt[1] / 3) * 5;
1433     // bap=2 : 3 mantissas in 7 bits
1434     // bap=4 : 2 mantissas in 7 bits
1435     bits += ((mant_cnt[2] / 3) + (mant_cnt[4] >> 1)) * 7;
1436     // bap=3 : each mantissa is 3 bits
1437     bits += mant_cnt[3] * 3;
1438     return bits;
1439 }
1440
1441
1442 /**
1443  * Calculate masking curve based on the final exponents.
1444  * Also calculate the power spectral densities to use in future calculations.
1445  */
1446 static void bit_alloc_masking(AC3EncodeContext *s)
1447 {
1448     int blk, ch;
1449
1450     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1451         AC3Block *block = &s->blocks[blk];
1452         for (ch = !block->cpl_in_use; ch <= s->channels; ch++) {
1453             /* We only need psd and mask for calculating bap.
1454                Since we currently do not calculate bap when exponent
1455                strategy is EXP_REUSE we do not need to calculate psd or mask. */
1456             if (s->exp_strategy[ch][blk] != EXP_REUSE) {
1457                 ff_ac3_bit_alloc_calc_psd(block->exp[ch], s->start_freq[ch],
1458                                           block->end_freq[ch], block->psd[ch],
1459                                           block->band_psd[ch]);
1460                 ff_ac3_bit_alloc_calc_mask(&s->bit_alloc, block->band_psd[ch],
1461                                            s->start_freq[ch], block->end_freq[ch],
1462                                            ff_ac3_fast_gain_tab[s->fast_gain_code[ch]],
1463                                            ch == s->lfe_channel,
1464                                            DBA_NONE, 0, NULL, NULL, NULL,
1465                                            block->mask[ch]);
1466             }
1467         }
1468     }
1469 }
1470
1471
1472 /**
1473  * Ensure that bap for each block and channel point to the current bap_buffer.
1474  * They may have been switched during the bit allocation search.
1475  */
1476 static void reset_block_bap(AC3EncodeContext *s)
1477 {
1478     int blk, ch;
1479     uint8_t *ref_bap;
1480
1481     if (s->ref_bap[0][0] == s->bap_buffer && s->ref_bap_set)
1482         return;
1483
1484     ref_bap = s->bap_buffer;
1485     for (ch = 0; ch <= s->channels; ch++) {
1486         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
1487             s->ref_bap[ch][blk] = ref_bap + AC3_MAX_COEFS * s->exp_ref_block[ch][blk];
1488         ref_bap += AC3_MAX_COEFS * AC3_MAX_BLOCKS;
1489     }
1490     s->ref_bap_set = 1;
1491 }
1492
1493
1494 /**
1495  * Run the bit allocation with a given SNR offset.
1496  * This calculates the bit allocation pointers that will be used to determine
1497  * the quantization of each mantissa.
1498  * @return the number of bits needed for mantissas if the given SNR offset is
1499  *         is used.
1500  */
1501 static int bit_alloc(AC3EncodeContext *s, int snr_offset)
1502 {
1503     int blk, ch;
1504     int mantissa_bits;
1505     int mant_cnt[5];
1506
1507     snr_offset = (snr_offset - 240) << 2;
1508
1509     reset_block_bap(s);
1510     mantissa_bits = 0;
1511     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1512         AC3Block *block = &s->blocks[blk];
1513         int av_uninit(ch0);
1514         int got_cpl = !block->cpl_in_use;
1515         // initialize grouped mantissa counts. these are set so that they are
1516         // padded to the next whole group size when bits are counted in
1517         // compute_mantissa_size_final
1518         mant_cnt[0] = mant_cnt[3] = 0;
1519         mant_cnt[1] = mant_cnt[2] = 2;
1520         mant_cnt[4] = 1;
1521         for (ch = 1; ch <= s->channels; ch++) {
1522             if (!got_cpl && ch > 1 && block->channel_in_cpl[ch-1]) {
1523                 ch0     = ch - 1;
1524                 ch      = CPL_CH;
1525                 got_cpl = 1;
1526             }
1527
1528             /* Currently the only bit allocation parameters which vary across
1529                blocks within a frame are the exponent values.  We can take
1530                advantage of that by reusing the bit allocation pointers
1531                whenever we reuse exponents. */
1532             if (s->exp_strategy[ch][blk] != EXP_REUSE) {
1533                 s->ac3dsp.bit_alloc_calc_bap(block->mask[ch], block->psd[ch],
1534                                              s->start_freq[ch], block->end_freq[ch],
1535                                              snr_offset, s->bit_alloc.floor,
1536                                              ff_ac3_bap_tab, s->ref_bap[ch][blk]);
1537             }
1538             mantissa_bits += s->ac3dsp.compute_mantissa_size(mant_cnt,
1539                                                              s->ref_bap[ch][blk]+s->start_freq[ch],
1540                                                              block->end_freq[ch]-s->start_freq[ch]);
1541             if (ch == CPL_CH)
1542                 ch = ch0;
1543         }
1544         mantissa_bits += compute_mantissa_size_final(mant_cnt);
1545     }
1546     return mantissa_bits;
1547 }
1548
1549
1550 /**
1551  * Constant bitrate bit allocation search.
1552  * Find the largest SNR offset that will allow data to fit in the frame.
1553  */
1554 static int cbr_bit_allocation(AC3EncodeContext *s)
1555 {
1556     int ch;
1557     int bits_left;
1558     int snr_offset, snr_incr;
1559
1560     bits_left = 8 * s->frame_size - (s->frame_bits + s->exponent_bits);
1561     if (bits_left < 0)
1562         return AVERROR(EINVAL);
1563
1564     snr_offset = s->coarse_snr_offset << 4;
1565
1566     /* if previous frame SNR offset was 1023, check if current frame can also
1567        use SNR offset of 1023. if so, skip the search. */
1568     if ((snr_offset | s->fine_snr_offset[1]) == 1023) {
1569         if (bit_alloc(s, 1023) <= bits_left)
1570             return 0;
1571     }
1572
1573     while (snr_offset >= 0 &&
1574            bit_alloc(s, snr_offset) > bits_left) {
1575         snr_offset -= 64;
1576     }
1577     if (snr_offset < 0)
1578         return AVERROR(EINVAL);
1579
1580     FFSWAP(uint8_t *, s->bap_buffer, s->bap1_buffer);
1581     for (snr_incr = 64; snr_incr > 0; snr_incr >>= 2) {
1582         while (snr_offset + snr_incr <= 1023 &&
1583                bit_alloc(s, snr_offset + snr_incr) <= bits_left) {
1584             snr_offset += snr_incr;
1585             FFSWAP(uint8_t *, s->bap_buffer, s->bap1_buffer);
1586         }
1587     }
1588     FFSWAP(uint8_t *, s->bap_buffer, s->bap1_buffer);
1589     reset_block_bap(s);
1590
1591     s->coarse_snr_offset = snr_offset >> 4;
1592     for (ch = !s->cpl_on; ch <= s->channels; ch++)
1593         s->fine_snr_offset[ch] = snr_offset & 0xF;
1594
1595     return 0;
1596 }
1597
1598
1599 /**
1600  * Downgrade exponent strategies to reduce the bits used by the exponents.
1601  * This is a fallback for when bit allocation fails with the normal exponent
1602  * strategies.  Each time this function is run it only downgrades the
1603  * strategy in 1 channel of 1 block.
1604  * @return non-zero if downgrade was unsuccessful
1605  */
1606 static int downgrade_exponents(AC3EncodeContext *s)
1607 {
1608     int ch, blk;
1609
1610     for (blk = AC3_MAX_BLOCKS-1; blk >= 0; blk--) {
1611         for (ch = !s->blocks[blk].cpl_in_use; ch <= s->fbw_channels; ch++) {
1612             if (s->exp_strategy[ch][blk] == EXP_D15) {
1613                 s->exp_strategy[ch][blk] = EXP_D25;
1614                 return 0;
1615             }
1616         }
1617     }
1618     for (blk = AC3_MAX_BLOCKS-1; blk >= 0; blk--) {
1619         for (ch = !s->blocks[blk].cpl_in_use; ch <= s->fbw_channels; ch++) {
1620             if (s->exp_strategy[ch][blk] == EXP_D25) {
1621                 s->exp_strategy[ch][blk] = EXP_D45;
1622                 return 0;
1623             }
1624         }
1625     }
1626     /* block 0 cannot reuse exponents, so only downgrade D45 to REUSE if
1627        the block number > 0 */
1628     for (blk = AC3_MAX_BLOCKS-1; blk > 0; blk--) {
1629         for (ch = !s->blocks[blk].cpl_in_use; ch <= s->fbw_channels; ch++) {
1630             if (s->exp_strategy[ch][blk] > EXP_REUSE) {
1631                 s->exp_strategy[ch][blk] = EXP_REUSE;
1632                 return 0;
1633             }
1634         }
1635     }
1636     return -1;
1637 }
1638
1639
1640 /**
1641  * Perform bit allocation search.
1642  * Finds the SNR offset value that maximizes quality and fits in the specified
1643  * frame size.  Output is the SNR offset and a set of bit allocation pointers
1644  * used to quantize the mantissas.
1645  */
1646 static int compute_bit_allocation(AC3EncodeContext *s)
1647 {
1648     int ret;
1649
1650     count_frame_bits(s);
1651
1652     bit_alloc_masking(s);
1653
1654     ret = cbr_bit_allocation(s);
1655     while (ret) {
1656         /* fallback 1: disable channel coupling */
1657         if (s->cpl_on) {
1658             s->cpl_on = 0;
1659             compute_coupling_strategy(s);
1660             compute_rematrixing_strategy(s);
1661             apply_rematrixing(s);
1662             process_exponents(s);
1663             ret = compute_bit_allocation(s);
1664             continue;
1665         }
1666
1667         /* fallback 2: downgrade exponents */
1668         if (!downgrade_exponents(s)) {
1669             extract_exponents(s);
1670             encode_exponents(s);
1671             group_exponents(s);
1672             ret = compute_bit_allocation(s);
1673             continue;
1674         }
1675
1676         /* fallbacks were not enough... */
1677         break;
1678     }
1679
1680     return ret;
1681 }
1682
1683
1684 /**
1685  * Symmetric quantization on 'levels' levels.
1686  */
1687 static inline int sym_quant(int c, int e, int levels)
1688 {
1689     int v = (((levels * c) >> (24 - e)) + levels) >> 1;
1690     av_assert2(v >= 0 && v < levels);
1691     return v;
1692 }
1693
1694
1695 /**
1696  * Asymmetric quantization on 2^qbits levels.
1697  */
1698 static inline int asym_quant(int c, int e, int qbits)
1699 {
1700     int lshift, m, v;
1701
1702     lshift = e + qbits - 24;
1703     if (lshift >= 0)
1704         v = c << lshift;
1705     else
1706         v = c >> (-lshift);
1707     /* rounding */
1708     v = (v + 1) >> 1;
1709     m = (1 << (qbits-1));
1710     if (v >= m)
1711         v = m - 1;
1712     av_assert2(v >= -m);
1713     return v & ((1 << qbits)-1);
1714 }
1715
1716
1717 /**
1718  * Quantize a set of mantissas for a single channel in a single block.
1719  */
1720 static void quantize_mantissas_blk_ch(AC3Mant *s, int32_t *fixed_coef,
1721                                       uint8_t *exp, uint8_t *bap,
1722                                       uint16_t *qmant, int start_freq,
1723                                       int end_freq)
1724 {
1725     int i;
1726
1727     for (i = start_freq; i < end_freq; i++) {
1728         int v;
1729         int c = fixed_coef[i];
1730         int e = exp[i];
1731         int b = bap[i];
1732         switch (b) {
1733         case 0:
1734             v = 0;
1735             break;
1736         case 1:
1737             v = sym_quant(c, e, 3);
1738             switch (s->mant1_cnt) {
1739             case 0:
1740                 s->qmant1_ptr = &qmant[i];
1741                 v = 9 * v;
1742                 s->mant1_cnt = 1;
1743                 break;
1744             case 1:
1745                 *s->qmant1_ptr += 3 * v;
1746                 s->mant1_cnt = 2;
1747                 v = 128;
1748                 break;
1749             default:
1750                 *s->qmant1_ptr += v;
1751                 s->mant1_cnt = 0;
1752                 v = 128;
1753                 break;
1754             }
1755             break;
1756         case 2:
1757             v = sym_quant(c, e, 5);
1758             switch (s->mant2_cnt) {
1759             case 0:
1760                 s->qmant2_ptr = &qmant[i];
1761                 v = 25 * v;
1762                 s->mant2_cnt = 1;
1763                 break;
1764             case 1:
1765                 *s->qmant2_ptr += 5 * v;
1766                 s->mant2_cnt = 2;
1767                 v = 128;
1768                 break;
1769             default:
1770                 *s->qmant2_ptr += v;
1771                 s->mant2_cnt = 0;
1772                 v = 128;
1773                 break;
1774             }
1775             break;
1776         case 3:
1777             v = sym_quant(c, e, 7);
1778             break;
1779         case 4:
1780             v = sym_quant(c, e, 11);
1781             switch (s->mant4_cnt) {
1782             case 0:
1783                 s->qmant4_ptr = &qmant[i];
1784                 v = 11 * v;
1785                 s->mant4_cnt = 1;
1786                 break;
1787             default:
1788                 *s->qmant4_ptr += v;
1789                 s->mant4_cnt = 0;
1790                 v = 128;
1791                 break;
1792             }
1793             break;
1794         case 5:
1795             v = sym_quant(c, e, 15);
1796             break;
1797         case 14:
1798             v = asym_quant(c, e, 14);
1799             break;
1800         case 15:
1801             v = asym_quant(c, e, 16);
1802             break;
1803         default:
1804             v = asym_quant(c, e, b - 1);
1805             break;
1806         }
1807         qmant[i] = v;
1808     }
1809 }
1810
1811
1812 /**
1813  * Quantize mantissas using coefficients, exponents, and bit allocation pointers.
1814  */
1815 static void quantize_mantissas(AC3EncodeContext *s)
1816 {
1817     int blk, ch, ch0=0, got_cpl;
1818
1819     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1820         AC3Block *block = &s->blocks[blk];
1821         AC3Mant m = { 0 };
1822
1823         got_cpl = !block->cpl_in_use;
1824         for (ch = 1; ch <= s->channels; ch++) {
1825             if (!got_cpl && ch > 1 && block->channel_in_cpl[ch-1]) {
1826                 ch0     = ch - 1;
1827                 ch      = CPL_CH;
1828                 got_cpl = 1;
1829             }
1830             quantize_mantissas_blk_ch(&m, block->fixed_coef[ch],
1831                                       s->blocks[s->exp_ref_block[ch][blk]].exp[ch],
1832                                       s->ref_bap[ch][blk], block->qmant[ch],
1833                                       s->start_freq[ch], block->end_freq[ch]);
1834             if (ch == CPL_CH)
1835                 ch = ch0;
1836         }
1837     }
1838 }
1839
1840
1841 /**
1842  * Write the AC-3 frame header to the output bitstream.
1843  */
1844 static void ac3_output_frame_header(AC3EncodeContext *s)
1845 {
1846     AC3EncOptions *opt = &s->options;
1847
1848     put_bits(&s->pb, 16, 0x0b77);   /* frame header */
1849     put_bits(&s->pb, 16, 0);        /* crc1: will be filled later */
1850     put_bits(&s->pb, 2,  s->bit_alloc.sr_code);
1851     put_bits(&s->pb, 6,  s->frame_size_code + (s->frame_size - s->frame_size_min) / 2);
1852     put_bits(&s->pb, 5,  s->bitstream_id);
1853     put_bits(&s->pb, 3,  s->bitstream_mode);
1854     put_bits(&s->pb, 3,  s->channel_mode);
1855     if ((s->channel_mode & 0x01) && s->channel_mode != AC3_CHMODE_MONO)
1856         put_bits(&s->pb, 2, s->center_mix_level);
1857     if (s->channel_mode & 0x04)
1858         put_bits(&s->pb, 2, s->surround_mix_level);
1859     if (s->channel_mode == AC3_CHMODE_STEREO)
1860         put_bits(&s->pb, 2, opt->dolby_surround_mode);
1861     put_bits(&s->pb, 1, s->lfe_on); /* LFE */
1862     put_bits(&s->pb, 5, -opt->dialogue_level);
1863     put_bits(&s->pb, 1, 0);         /* no compression control word */
1864     put_bits(&s->pb, 1, 0);         /* no lang code */
1865     put_bits(&s->pb, 1, opt->audio_production_info);
1866     if (opt->audio_production_info) {
1867         put_bits(&s->pb, 5, opt->mixing_level - 80);
1868         put_bits(&s->pb, 2, opt->room_type);
1869     }
1870     put_bits(&s->pb, 1, opt->copyright);
1871     put_bits(&s->pb, 1, opt->original);
1872     if (s->bitstream_id == 6) {
1873         /* alternate bit stream syntax */
1874         put_bits(&s->pb, 1, opt->extended_bsi_1);
1875         if (opt->extended_bsi_1) {
1876             put_bits(&s->pb, 2, opt->preferred_stereo_downmix);
1877             put_bits(&s->pb, 3, s->ltrt_center_mix_level);
1878             put_bits(&s->pb, 3, s->ltrt_surround_mix_level);
1879             put_bits(&s->pb, 3, s->loro_center_mix_level);
1880             put_bits(&s->pb, 3, s->loro_surround_mix_level);
1881         }
1882         put_bits(&s->pb, 1, opt->extended_bsi_2);
1883         if (opt->extended_bsi_2) {
1884             put_bits(&s->pb, 2, opt->dolby_surround_ex_mode);
1885             put_bits(&s->pb, 2, opt->dolby_headphone_mode);
1886             put_bits(&s->pb, 1, opt->ad_converter_type);
1887             put_bits(&s->pb, 9, 0);     /* xbsi2 and encinfo : reserved */
1888         }
1889     } else {
1890     put_bits(&s->pb, 1, 0);         /* no time code 1 */
1891     put_bits(&s->pb, 1, 0);         /* no time code 2 */
1892     }
1893     put_bits(&s->pb, 1, 0);         /* no additional bit stream info */
1894 }
1895
1896
1897 /**
1898  * Write the E-AC-3 frame header to the output bitstream.
1899  */
1900 static void eac3_output_frame_header(AC3EncodeContext *s)
1901 {
1902     int blk, ch;
1903     AC3EncOptions *opt = &s->options;
1904
1905     put_bits(&s->pb, 16, 0x0b77);                   /* sync word */
1906
1907     /* BSI header */
1908     put_bits(&s->pb,  2, 0);                        /* stream type = independent */
1909     put_bits(&s->pb,  3, 0);                        /* substream id = 0 */
1910     put_bits(&s->pb, 11, (s->frame_size / 2) - 1);  /* frame size */
1911     if (s->bit_alloc.sr_shift) {
1912         put_bits(&s->pb, 2, 0x3);                   /* fscod2 */
1913         put_bits(&s->pb, 2, s->bit_alloc.sr_code);  /* sample rate code */
1914     } else {
1915         put_bits(&s->pb, 2, s->bit_alloc.sr_code);  /* sample rate code */
1916         put_bits(&s->pb, 2, 0x3);                   /* number of blocks = 6 */
1917     }
1918     put_bits(&s->pb, 3, s->channel_mode);           /* audio coding mode */
1919     put_bits(&s->pb, 1, s->lfe_on);                 /* LFE channel indicator */
1920     put_bits(&s->pb, 5, s->bitstream_id);           /* bitstream id (EAC3=16) */
1921     put_bits(&s->pb, 5, -opt->dialogue_level);      /* dialogue normalization level */
1922     put_bits(&s->pb, 1, 0);                         /* no compression gain */
1923     put_bits(&s->pb, 1, 0);                         /* no mixing metadata */
1924     /* TODO: mixing metadata */
1925     put_bits(&s->pb, 1, 0);                         /* no info metadata */
1926     /* TODO: info metadata */
1927     put_bits(&s->pb, 1, 0);                         /* no additional bit stream info */
1928
1929     /* frame header */
1930     put_bits(&s->pb, 1, 1);                         /* exponent strategy syntax = each block */
1931     put_bits(&s->pb, 1, 0);                         /* aht enabled = no */
1932     put_bits(&s->pb, 2, 0);                         /* snr offset strategy = 1 */
1933     put_bits(&s->pb, 1, 0);                         /* transient pre-noise processing enabled = no */
1934     put_bits(&s->pb, 1, 0);                         /* block switch syntax enabled = no */
1935     put_bits(&s->pb, 1, 0);                         /* dither flag syntax enabled = no */
1936     put_bits(&s->pb, 1, 0);                         /* bit allocation model syntax enabled = no */
1937     put_bits(&s->pb, 1, 0);                         /* fast gain codes enabled = no */
1938     put_bits(&s->pb, 1, 0);                         /* dba syntax enabled = no */
1939     put_bits(&s->pb, 1, 0);                         /* skip field syntax enabled = no */
1940     put_bits(&s->pb, 1, 0);                         /* spx enabled = no */
1941     /* coupling strategy use flags */
1942     if (s->channel_mode > AC3_CHMODE_MONO) {
1943         put_bits(&s->pb, 1, s->blocks[0].cpl_in_use);
1944         for (blk = 1; blk < AC3_MAX_BLOCKS; blk++) {
1945             AC3Block *block = &s->blocks[blk];
1946             put_bits(&s->pb, 1, block->new_cpl_strategy);
1947             if (block->new_cpl_strategy)
1948                 put_bits(&s->pb, 1, block->cpl_in_use);
1949         }
1950     }
1951     /* exponent strategy */
1952     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
1953         for (ch = !s->blocks[blk].cpl_in_use; ch <= s->fbw_channels; ch++)
1954             put_bits(&s->pb, 2, s->exp_strategy[ch][blk]);
1955     if (s->lfe_on) {
1956         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
1957             put_bits(&s->pb, 1, s->exp_strategy[s->lfe_channel][blk]);
1958     }
1959     /* E-AC-3 to AC-3 converter exponent strategy (unfortunately not optional...) */
1960     for (ch = 1; ch <= s->fbw_channels; ch++)
1961         put_bits(&s->pb, 5, 0);
1962     /* snr offsets */
1963     put_bits(&s->pb, 6, s->coarse_snr_offset);
1964     put_bits(&s->pb, 4, s->fine_snr_offset[1]);
1965     /* block start info */
1966     put_bits(&s->pb, 1, 0);
1967 }
1968
1969
1970 /**
1971  * Write one audio block to the output bitstream.
1972  */
1973 static void output_audio_block(AC3EncodeContext *s, int blk)
1974 {
1975     int ch, i, baie, bnd, got_cpl;
1976     int av_uninit(ch0);
1977     AC3Block *block = &s->blocks[blk];
1978
1979     /* block switching */
1980     if (!s->eac3) {
1981         for (ch = 0; ch < s->fbw_channels; ch++)
1982             put_bits(&s->pb, 1, 0);
1983     }
1984
1985     /* dither flags */
1986     if (!s->eac3) {
1987         for (ch = 0; ch < s->fbw_channels; ch++)
1988             put_bits(&s->pb, 1, 1);
1989     }
1990
1991     /* dynamic range codes */
1992     put_bits(&s->pb, 1, 0);
1993
1994     /* spectral extension */
1995     if (s->eac3)
1996         put_bits(&s->pb, 1, 0);
1997
1998     /* channel coupling */
1999     if (!s->eac3)
2000         put_bits(&s->pb, 1, block->new_cpl_strategy);
2001     if (block->new_cpl_strategy) {
2002         if (!s->eac3)
2003             put_bits(&s->pb, 1, block->cpl_in_use);
2004         if (block->cpl_in_use) {
2005             int start_sub, end_sub;
2006             if (s->eac3)
2007                 put_bits(&s->pb, 1, 0); /* enhanced coupling */
2008             if (!s->eac3 || s->channel_mode != AC3_CHMODE_STEREO) {
2009                 for (ch = 1; ch <= s->fbw_channels; ch++)
2010                     put_bits(&s->pb, 1, block->channel_in_cpl[ch]);
2011             }
2012             if (s->channel_mode == AC3_CHMODE_STEREO)
2013                 put_bits(&s->pb, 1, 0); /* phase flags in use */
2014             start_sub = (s->start_freq[CPL_CH] - 37) / 12;
2015             end_sub   = (s->cpl_end_freq       - 37) / 12;
2016             put_bits(&s->pb, 4, start_sub);
2017             put_bits(&s->pb, 4, end_sub - 3);
2018             /* coupling band structure */
2019             if (s->eac3) {
2020                 put_bits(&s->pb, 1, 0); /* use default */
2021             } else {
2022                 for (bnd = start_sub+1; bnd < end_sub; bnd++)
2023                     put_bits(&s->pb, 1, ff_eac3_default_cpl_band_struct[bnd]);
2024             }
2025         }
2026     }
2027
2028     /* coupling coordinates */
2029     if (block->cpl_in_use) {
2030         for (ch = 1; ch <= s->fbw_channels; ch++) {
2031             if (block->channel_in_cpl[ch]) {
2032                 if (!s->eac3 || block->new_cpl_coords != 2)
2033                     put_bits(&s->pb, 1, block->new_cpl_coords);
2034                 if (block->new_cpl_coords) {
2035                     put_bits(&s->pb, 2, block->cpl_master_exp[ch]);
2036                     for (bnd = 0; bnd < s->num_cpl_bands; bnd++) {
2037                         put_bits(&s->pb, 4, block->cpl_coord_exp [ch][bnd]);
2038                         put_bits(&s->pb, 4, block->cpl_coord_mant[ch][bnd]);
2039                     }
2040                 }
2041             }
2042         }
2043     }
2044
2045     /* stereo rematrixing */
2046     if (s->channel_mode == AC3_CHMODE_STEREO) {
2047         if (!s->eac3 || blk > 0)
2048             put_bits(&s->pb, 1, block->new_rematrixing_strategy);
2049         if (block->new_rematrixing_strategy) {
2050             /* rematrixing flags */
2051             for (bnd = 0; bnd < block->num_rematrixing_bands; bnd++)
2052                 put_bits(&s->pb, 1, block->rematrixing_flags[bnd]);
2053         }
2054     }
2055
2056     /* exponent strategy */
2057     if (!s->eac3) {
2058         for (ch = !block->cpl_in_use; ch <= s->fbw_channels; ch++)
2059             put_bits(&s->pb, 2, s->exp_strategy[ch][blk]);
2060         if (s->lfe_on)
2061             put_bits(&s->pb, 1, s->exp_strategy[s->lfe_channel][blk]);
2062     }
2063
2064     /* bandwidth */
2065     for (ch = 1; ch <= s->fbw_channels; ch++) {
2066         if (s->exp_strategy[ch][blk] != EXP_REUSE && !block->channel_in_cpl[ch])
2067             put_bits(&s->pb, 6, s->bandwidth_code);
2068     }
2069
2070     /* exponents */
2071     for (ch = !block->cpl_in_use; ch <= s->channels; ch++) {
2072         int nb_groups;
2073         int cpl = (ch == CPL_CH);
2074
2075         if (s->exp_strategy[ch][blk] == EXP_REUSE)
2076             continue;
2077
2078         /* DC exponent */
2079         put_bits(&s->pb, 4, block->grouped_exp[ch][0] >> cpl);
2080
2081         /* exponent groups */
2082         nb_groups = exponent_group_tab[cpl][s->exp_strategy[ch][blk]-1][block->end_freq[ch]-s->start_freq[ch]];
2083         for (i = 1; i <= nb_groups; i++)
2084             put_bits(&s->pb, 7, block->grouped_exp[ch][i]);
2085
2086         /* gain range info */
2087         if (ch != s->lfe_channel && !cpl)
2088             put_bits(&s->pb, 2, 0);
2089     }
2090
2091     /* bit allocation info */
2092     if (!s->eac3) {
2093         baie = (blk == 0);
2094         put_bits(&s->pb, 1, baie);
2095         if (baie) {
2096             put_bits(&s->pb, 2, s->slow_decay_code);
2097             put_bits(&s->pb, 2, s->fast_decay_code);
2098             put_bits(&s->pb, 2, s->slow_gain_code);
2099             put_bits(&s->pb, 2, s->db_per_bit_code);
2100             put_bits(&s->pb, 3, s->floor_code);
2101         }
2102     }
2103
2104     /* snr offset */
2105     if (!s->eac3) {
2106         put_bits(&s->pb, 1, block->new_snr_offsets);
2107         if (block->new_snr_offsets) {
2108             put_bits(&s->pb, 6, s->coarse_snr_offset);
2109             for (ch = !block->cpl_in_use; ch <= s->channels; ch++) {
2110                 put_bits(&s->pb, 4, s->fine_snr_offset[ch]);
2111                 put_bits(&s->pb, 3, s->fast_gain_code[ch]);
2112             }
2113         }
2114     } else {
2115         put_bits(&s->pb, 1, 0); /* no converter snr offset */
2116     }
2117
2118     /* coupling leak */
2119     if (block->cpl_in_use) {
2120         if (!s->eac3 || block->new_cpl_leak != 2)
2121             put_bits(&s->pb, 1, block->new_cpl_leak);
2122         if (block->new_cpl_leak) {
2123             put_bits(&s->pb, 3, s->bit_alloc.cpl_fast_leak);
2124             put_bits(&s->pb, 3, s->bit_alloc.cpl_slow_leak);
2125         }
2126     }
2127
2128     if (!s->eac3) {
2129         put_bits(&s->pb, 1, 0); /* no delta bit allocation */
2130         put_bits(&s->pb, 1, 0); /* no data to skip */
2131     }
2132
2133     /* mantissas */
2134     got_cpl = !block->cpl_in_use;
2135     for (ch = 1; ch <= s->channels; ch++) {
2136         int b, q;
2137
2138         if (!got_cpl && ch > 1 && block->channel_in_cpl[ch-1]) {
2139             ch0     = ch - 1;
2140             ch      = CPL_CH;
2141             got_cpl = 1;
2142         }
2143         for (i = s->start_freq[ch]; i < block->end_freq[ch]; i++) {
2144             q = block->qmant[ch][i];
2145             b = s->ref_bap[ch][blk][i];
2146             switch (b) {
2147             case 0:                                         break;
2148             case 1: if (q != 128) put_bits(&s->pb,   5, q); break;
2149             case 2: if (q != 128) put_bits(&s->pb,   7, q); break;
2150             case 3:               put_bits(&s->pb,   3, q); break;
2151             case 4: if (q != 128) put_bits(&s->pb,   7, q); break;
2152             case 14:              put_bits(&s->pb,  14, q); break;
2153             case 15:              put_bits(&s->pb,  16, q); break;
2154             default:              put_bits(&s->pb, b-1, q); break;
2155             }
2156         }
2157         if (ch == CPL_CH)
2158             ch = ch0;
2159     }
2160 }
2161
2162
2163 /** CRC-16 Polynomial */
2164 #define CRC16_POLY ((1 << 0) | (1 << 2) | (1 << 15) | (1 << 16))
2165
2166
2167 static unsigned int mul_poly(unsigned int a, unsigned int b, unsigned int poly)
2168 {
2169     unsigned int c;
2170
2171     c = 0;
2172     while (a) {
2173         if (a & 1)
2174             c ^= b;
2175         a = a >> 1;
2176         b = b << 1;
2177         if (b & (1 << 16))
2178             b ^= poly;
2179     }
2180     return c;
2181 }
2182
2183
2184 static unsigned int pow_poly(unsigned int a, unsigned int n, unsigned int poly)
2185 {
2186     unsigned int r;
2187     r = 1;
2188     while (n) {
2189         if (n & 1)
2190             r = mul_poly(r, a, poly);
2191         a = mul_poly(a, a, poly);
2192         n >>= 1;
2193     }
2194     return r;
2195 }
2196
2197
2198 /**
2199  * Fill the end of the frame with 0's and compute the two CRCs.
2200  */
2201 static void output_frame_end(AC3EncodeContext *s)
2202 {
2203     const AVCRC *crc_ctx = av_crc_get_table(AV_CRC_16_ANSI);
2204     int frame_size_58, pad_bytes, crc1, crc2_partial, crc2, crc_inv;
2205     uint8_t *frame;
2206
2207     frame_size_58 = ((s->frame_size >> 2) + (s->frame_size >> 4)) << 1;
2208
2209     /* pad the remainder of the frame with zeros */
2210     av_assert2(s->frame_size * 8 - put_bits_count(&s->pb) >= 18);
2211     flush_put_bits(&s->pb);
2212     frame = s->pb.buf;
2213     pad_bytes = s->frame_size - (put_bits_ptr(&s->pb) - frame) - 2;
2214     av_assert2(pad_bytes >= 0);
2215     if (pad_bytes > 0)
2216         memset(put_bits_ptr(&s->pb), 0, pad_bytes);
2217
2218     if (s->eac3) {
2219         /* compute crc2 */
2220         crc2_partial = av_crc(crc_ctx, 0, frame + 2, s->frame_size - 5);
2221     } else {
2222     /* compute crc1 */
2223     /* this is not so easy because it is at the beginning of the data... */
2224     crc1    = av_bswap16(av_crc(crc_ctx, 0, frame + 4, frame_size_58 - 4));
2225     crc_inv = s->crc_inv[s->frame_size > s->frame_size_min];
2226     crc1    = mul_poly(crc_inv, crc1, CRC16_POLY);
2227     AV_WB16(frame + 2, crc1);
2228
2229     /* compute crc2 */
2230     crc2_partial = av_crc(crc_ctx, 0, frame + frame_size_58,
2231                           s->frame_size - frame_size_58 - 3);
2232     }
2233     crc2 = av_crc(crc_ctx, crc2_partial, frame + s->frame_size - 3, 1);
2234     /* ensure crc2 does not match sync word by flipping crcrsv bit if needed */
2235     if (crc2 == 0x770B) {
2236         frame[s->frame_size - 3] ^= 0x1;
2237         crc2 = av_crc(crc_ctx, crc2_partial, frame + s->frame_size - 3, 1);
2238     }
2239     crc2 = av_bswap16(crc2);
2240     AV_WB16(frame + s->frame_size - 2, crc2);
2241 }
2242
2243
2244 /**
2245  * Write the frame to the output bitstream.
2246  */
2247 static void output_frame(AC3EncodeContext *s, unsigned char *frame)
2248 {
2249     int blk;
2250
2251     init_put_bits(&s->pb, frame, AC3_MAX_CODED_FRAME_SIZE);
2252
2253     if (s->eac3)
2254         eac3_output_frame_header(s);
2255     else
2256         ac3_output_frame_header(s);
2257
2258     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
2259         output_audio_block(s, blk);
2260
2261     output_frame_end(s);
2262 }
2263
2264
2265 static void dprint_options(AVCodecContext *avctx)
2266 {
2267 #ifdef DEBUG
2268     AC3EncodeContext *s = avctx->priv_data;
2269     AC3EncOptions *opt = &s->options;
2270     char strbuf[32];
2271
2272     switch (s->bitstream_id) {
2273     case  6:  av_strlcpy(strbuf, "AC-3 (alt syntax)",       32); break;
2274     case  8:  av_strlcpy(strbuf, "AC-3 (standard)",         32); break;
2275     case  9:  av_strlcpy(strbuf, "AC-3 (dnet half-rate)",   32); break;
2276     case 10:  av_strlcpy(strbuf, "AC-3 (dnet quater-rate)", 32); break;
2277     case 16:  av_strlcpy(strbuf, "E-AC-3 (enhanced)",       32); break;
2278     default: snprintf(strbuf, 32, "ERROR");
2279     }
2280     av_dlog(avctx, "bitstream_id: %s (%d)\n", strbuf, s->bitstream_id);
2281     av_dlog(avctx, "sample_fmt: %s\n", av_get_sample_fmt_name(avctx->sample_fmt));
2282     av_get_channel_layout_string(strbuf, 32, s->channels, avctx->channel_layout);
2283     av_dlog(avctx, "channel_layout: %s\n", strbuf);
2284     av_dlog(avctx, "sample_rate: %d\n", s->sample_rate);
2285     av_dlog(avctx, "bit_rate: %d\n", s->bit_rate);
2286     if (s->cutoff)
2287         av_dlog(avctx, "cutoff: %d\n", s->cutoff);
2288
2289     av_dlog(avctx, "per_frame_metadata: %s\n",
2290             opt->allow_per_frame_metadata?"on":"off");
2291     if (s->has_center)
2292         av_dlog(avctx, "center_mixlev: %0.3f (%d)\n", opt->center_mix_level,
2293                 s->center_mix_level);
2294     else
2295         av_dlog(avctx, "center_mixlev: {not written}\n");
2296     if (s->has_surround)
2297         av_dlog(avctx, "surround_mixlev: %0.3f (%d)\n", opt->surround_mix_level,
2298                 s->surround_mix_level);
2299     else
2300         av_dlog(avctx, "surround_mixlev: {not written}\n");
2301     if (opt->audio_production_info) {
2302         av_dlog(avctx, "mixing_level: %ddB\n", opt->mixing_level);
2303         switch (opt->room_type) {
2304         case 0:  av_strlcpy(strbuf, "notindicated", 32); break;
2305         case 1:  av_strlcpy(strbuf, "large", 32);        break;
2306         case 2:  av_strlcpy(strbuf, "small", 32);        break;
2307         default: snprintf(strbuf, 32, "ERROR (%d)", opt->room_type);
2308         }
2309         av_dlog(avctx, "room_type: %s\n", strbuf);
2310     } else {
2311         av_dlog(avctx, "mixing_level: {not written}\n");
2312         av_dlog(avctx, "room_type: {not written}\n");
2313     }
2314     av_dlog(avctx, "copyright: %s\n", opt->copyright?"on":"off");
2315     av_dlog(avctx, "dialnorm: %ddB\n", opt->dialogue_level);
2316     if (s->channel_mode == AC3_CHMODE_STEREO) {
2317         switch (opt->dolby_surround_mode) {
2318         case 0:  av_strlcpy(strbuf, "notindicated", 32); break;
2319         case 1:  av_strlcpy(strbuf, "on", 32);           break;
2320         case 2:  av_strlcpy(strbuf, "off", 32);          break;
2321         default: snprintf(strbuf, 32, "ERROR (%d)", opt->dolby_surround_mode);
2322         }
2323         av_dlog(avctx, "dsur_mode: %s\n", strbuf);
2324     } else {
2325         av_dlog(avctx, "dsur_mode: {not written}\n");
2326     }
2327     av_dlog(avctx, "original: %s\n", opt->original?"on":"off");
2328
2329     if (s->bitstream_id == 6) {
2330         if (opt->extended_bsi_1) {
2331             switch (opt->preferred_stereo_downmix) {
2332             case 0:  av_strlcpy(strbuf, "notindicated", 32); break;
2333             case 1:  av_strlcpy(strbuf, "ltrt", 32);         break;
2334             case 2:  av_strlcpy(strbuf, "loro", 32);         break;
2335             default: snprintf(strbuf, 32, "ERROR (%d)", opt->preferred_stereo_downmix);
2336             }
2337             av_dlog(avctx, "dmix_mode: %s\n", strbuf);
2338             av_dlog(avctx, "ltrt_cmixlev: %0.3f (%d)\n",
2339                     opt->ltrt_center_mix_level, s->ltrt_center_mix_level);
2340             av_dlog(avctx, "ltrt_surmixlev: %0.3f (%d)\n",
2341                     opt->ltrt_surround_mix_level, s->ltrt_surround_mix_level);
2342             av_dlog(avctx, "loro_cmixlev: %0.3f (%d)\n",
2343                     opt->loro_center_mix_level, s->loro_center_mix_level);
2344             av_dlog(avctx, "loro_surmixlev: %0.3f (%d)\n",
2345                     opt->loro_surround_mix_level, s->loro_surround_mix_level);
2346         } else {
2347             av_dlog(avctx, "extended bitstream info 1: {not written}\n");
2348         }
2349         if (opt->extended_bsi_2) {
2350             switch (opt->dolby_surround_ex_mode) {
2351             case 0:  av_strlcpy(strbuf, "notindicated", 32); break;
2352             case 1:  av_strlcpy(strbuf, "on", 32);           break;
2353             case 2:  av_strlcpy(strbuf, "off", 32);          break;
2354             default: snprintf(strbuf, 32, "ERROR (%d)", opt->dolby_surround_ex_mode);
2355             }
2356             av_dlog(avctx, "dsurex_mode: %s\n", strbuf);
2357             switch (opt->dolby_headphone_mode) {
2358             case 0:  av_strlcpy(strbuf, "notindicated", 32); break;
2359             case 1:  av_strlcpy(strbuf, "on", 32);           break;
2360             case 2:  av_strlcpy(strbuf, "off", 32);          break;
2361             default: snprintf(strbuf, 32, "ERROR (%d)", opt->dolby_headphone_mode);
2362             }
2363             av_dlog(avctx, "dheadphone_mode: %s\n", strbuf);
2364
2365             switch (opt->ad_converter_type) {
2366             case 0:  av_strlcpy(strbuf, "standard", 32); break;
2367             case 1:  av_strlcpy(strbuf, "hdcd", 32);     break;
2368             default: snprintf(strbuf, 32, "ERROR (%d)", opt->ad_converter_type);
2369             }
2370             av_dlog(avctx, "ad_conv_type: %s\n", strbuf);
2371         } else {
2372             av_dlog(avctx, "extended bitstream info 2: {not written}\n");
2373         }
2374     }
2375 #endif
2376 }
2377
2378
2379 #define FLT_OPTION_THRESHOLD 0.01
2380
2381 static int validate_float_option(float v, const float *v_list, int v_list_size)
2382 {
2383     int i;
2384
2385     for (i = 0; i < v_list_size; i++) {
2386         if (v < (v_list[i] + FLT_OPTION_THRESHOLD) &&
2387             v > (v_list[i] - FLT_OPTION_THRESHOLD))
2388             break;
2389     }
2390     if (i == v_list_size)
2391         return -1;
2392
2393     return i;
2394 }
2395
2396
2397 static void validate_mix_level(void *log_ctx, const char *opt_name,
2398                                float *opt_param, const float *list,
2399                                int list_size, int default_value, int min_value,
2400                                int *ctx_param)
2401 {
2402     int mixlev = validate_float_option(*opt_param, list, list_size);
2403     if (mixlev < min_value) {
2404         mixlev = default_value;
2405         if (*opt_param >= 0.0) {
2406             av_log(log_ctx, AV_LOG_WARNING, "requested %s is not valid. using "
2407                    "default value: %0.3f\n", opt_name, list[mixlev]);
2408         }
2409     }
2410     *opt_param = list[mixlev];
2411     *ctx_param = mixlev;
2412 }
2413
2414
2415 /**
2416  * Validate metadata options as set by AVOption system.
2417  * These values can optionally be changed per-frame.
2418  */
2419 static int validate_metadata(AVCodecContext *avctx)
2420 {
2421     AC3EncodeContext *s = avctx->priv_data;
2422     AC3EncOptions *opt = &s->options;
2423
2424     /* validate mixing levels */
2425     if (s->has_center) {
2426         validate_mix_level(avctx, "center_mix_level", &opt->center_mix_level,
2427                            cmixlev_options, CMIXLEV_NUM_OPTIONS, 1, 0,
2428                            &s->center_mix_level);
2429     }
2430     if (s->has_surround) {
2431         validate_mix_level(avctx, "surround_mix_level", &opt->surround_mix_level,
2432                            surmixlev_options, SURMIXLEV_NUM_OPTIONS, 1, 0,
2433                            &s->surround_mix_level);
2434     }
2435
2436     /* set audio production info flag */
2437     if (opt->mixing_level >= 0 || opt->room_type >= 0) {
2438         if (opt->mixing_level < 0) {
2439             av_log(avctx, AV_LOG_ERROR, "mixing_level must be set if "
2440                    "room_type is set\n");
2441             return AVERROR(EINVAL);
2442         }
2443         if (opt->mixing_level < 80) {
2444             av_log(avctx, AV_LOG_ERROR, "invalid mixing level. must be between "
2445                    "80dB and 111dB\n");
2446             return AVERROR(EINVAL);
2447         }
2448         /* default room type */
2449         if (opt->room_type < 0)
2450             opt->room_type = 0;
2451         opt->audio_production_info = 1;
2452     } else {
2453         opt->audio_production_info = 0;
2454     }
2455
2456     /* set extended bsi 1 flag */
2457     if ((s->has_center || s->has_surround) &&
2458         (opt->preferred_stereo_downmix >= 0 ||
2459          opt->ltrt_center_mix_level   >= 0 ||
2460          opt->ltrt_surround_mix_level >= 0 ||
2461          opt->loro_center_mix_level   >= 0 ||
2462          opt->loro_surround_mix_level >= 0)) {
2463         /* default preferred stereo downmix */
2464         if (opt->preferred_stereo_downmix < 0)
2465             opt->preferred_stereo_downmix = 0;
2466         /* validate Lt/Rt center mix level */
2467         validate_mix_level(avctx, "ltrt_center_mix_level",
2468                            &opt->ltrt_center_mix_level, extmixlev_options,
2469                            EXTMIXLEV_NUM_OPTIONS, 5, 0,
2470                            &s->ltrt_center_mix_level);
2471         /* validate Lt/Rt surround mix level */
2472         validate_mix_level(avctx, "ltrt_surround_mix_level",
2473                            &opt->ltrt_surround_mix_level, extmixlev_options,
2474                            EXTMIXLEV_NUM_OPTIONS, 6, 3,
2475                            &s->ltrt_surround_mix_level);
2476         /* validate Lo/Ro center mix level */
2477         validate_mix_level(avctx, "loro_center_mix_level",
2478                            &opt->loro_center_mix_level, extmixlev_options,
2479                            EXTMIXLEV_NUM_OPTIONS, 5, 0,
2480                            &s->loro_center_mix_level);
2481         /* validate Lo/Ro surround mix level */
2482         validate_mix_level(avctx, "loro_surround_mix_level",
2483                            &opt->loro_surround_mix_level, extmixlev_options,
2484                            EXTMIXLEV_NUM_OPTIONS, 6, 3,
2485                            &s->loro_surround_mix_level);
2486         opt->extended_bsi_1 = 1;
2487     } else {
2488         opt->extended_bsi_1 = 0;
2489     }
2490
2491     /* set extended bsi 2 flag */
2492     if (opt->dolby_surround_ex_mode >= 0 ||
2493         opt->dolby_headphone_mode   >= 0 ||
2494         opt->ad_converter_type      >= 0) {
2495         /* default dolby surround ex mode */
2496         if (opt->dolby_surround_ex_mode < 0)
2497             opt->dolby_surround_ex_mode = 0;
2498         /* default dolby headphone mode */
2499         if (opt->dolby_headphone_mode < 0)
2500             opt->dolby_headphone_mode = 0;
2501         /* default A/D converter type */
2502         if (opt->ad_converter_type < 0)
2503             opt->ad_converter_type = 0;
2504         opt->extended_bsi_2 = 1;
2505     } else {
2506         opt->extended_bsi_2 = 0;
2507     }
2508
2509     /* set bitstream id for alternate bitstream syntax */
2510     if (opt->extended_bsi_1 || opt->extended_bsi_2) {
2511         if (s->bitstream_id > 8 && s->bitstream_id < 11) {
2512             static int warn_once = 1;
2513             if (warn_once) {
2514                 av_log(avctx, AV_LOG_WARNING, "alternate bitstream syntax is "
2515                        "not compatible with reduced samplerates. writing of "
2516                        "extended bitstream information will be disabled.\n");
2517                 warn_once = 0;
2518             }
2519         } else {
2520             s->bitstream_id = 6;
2521         }
2522     }
2523
2524     return 0;
2525 }
2526
2527
2528 /**
2529  * Encode a single AC-3 frame.
2530  */
2531 static int ac3_encode_frame(AVCodecContext *avctx, unsigned char *frame,
2532                             int buf_size, void *data)
2533 {
2534     AC3EncodeContext *s = avctx->priv_data;
2535     const SampleType *samples = data;
2536     int ret;
2537
2538     if (!s->eac3 && s->options.allow_per_frame_metadata) {
2539         ret = validate_metadata(avctx);
2540         if (ret)
2541             return ret;
2542     }
2543
2544     if (s->bit_alloc.sr_code == 1 || s->eac3)
2545         adjust_frame_size(s);
2546
2547     deinterleave_input_samples(s, samples);
2548
2549     apply_mdct(s);
2550
2551     scale_coefficients(s);
2552
2553     s->cpl_on = s->cpl_enabled;
2554     compute_coupling_strategy(s);
2555
2556     if (s->cpl_on)
2557         apply_channel_coupling(s);
2558
2559     compute_rematrixing_strategy(s);
2560
2561     apply_rematrixing(s);
2562
2563     process_exponents(s);
2564
2565     ret = compute_bit_allocation(s);
2566     if (ret) {
2567         av_log(avctx, AV_LOG_ERROR, "Bit allocation failed. Try increasing the bitrate.\n");
2568         return ret;
2569     }
2570
2571     quantize_mantissas(s);
2572
2573     output_frame(s, frame);
2574
2575     return s->frame_size;
2576 }
2577
2578
2579 /**
2580  * Finalize encoding and free any memory allocated by the encoder.
2581  */
2582 static av_cold int ac3_encode_close(AVCodecContext *avctx)
2583 {
2584     int blk, ch;
2585     AC3EncodeContext *s = avctx->priv_data;
2586
2587     for (ch = 0; ch < s->channels; ch++)
2588         av_freep(&s->planar_samples[ch]);
2589     av_freep(&s->planar_samples);
2590     av_freep(&s->bap_buffer);
2591     av_freep(&s->bap1_buffer);
2592     av_freep(&s->mdct_coef_buffer);
2593     av_freep(&s->fixed_coef_buffer);
2594     av_freep(&s->exp_buffer);
2595     av_freep(&s->grouped_exp_buffer);
2596     av_freep(&s->psd_buffer);
2597     av_freep(&s->band_psd_buffer);
2598     av_freep(&s->mask_buffer);
2599     av_freep(&s->qmant_buffer);
2600     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
2601         AC3Block *block = &s->blocks[blk];
2602         av_freep(&block->mdct_coef);
2603         av_freep(&block->fixed_coef);
2604         av_freep(&block->exp);
2605         av_freep(&block->grouped_exp);
2606         av_freep(&block->psd);
2607         av_freep(&block->band_psd);
2608         av_freep(&block->mask);
2609         av_freep(&block->qmant);
2610     }
2611
2612     mdct_end(&s->mdct);
2613
2614     av_freep(&avctx->coded_frame);
2615     return 0;
2616 }
2617
2618
2619 /**
2620  * Set channel information during initialization.
2621  */
2622 static av_cold int set_channel_info(AC3EncodeContext *s, int channels,
2623                                     int64_t *channel_layout)
2624 {
2625     int ch_layout;
2626
2627     if (channels < 1 || channels > AC3_MAX_CHANNELS)
2628         return AVERROR(EINVAL);
2629     if ((uint64_t)*channel_layout > 0x7FF)
2630         return AVERROR(EINVAL);
2631     ch_layout = *channel_layout;
2632     if (!ch_layout)
2633         ch_layout = avcodec_guess_channel_layout(channels, CODEC_ID_AC3, NULL);
2634
2635     s->lfe_on       = !!(ch_layout & AV_CH_LOW_FREQUENCY);
2636     s->channels     = channels;
2637     s->fbw_channels = channels - s->lfe_on;
2638     s->lfe_channel  = s->lfe_on ? s->fbw_channels + 1 : -1;
2639     if (s->lfe_on)
2640         ch_layout -= AV_CH_LOW_FREQUENCY;
2641
2642     switch (ch_layout) {
2643     case AV_CH_LAYOUT_MONO:           s->channel_mode = AC3_CHMODE_MONO;   break;
2644     case AV_CH_LAYOUT_STEREO:         s->channel_mode = AC3_CHMODE_STEREO; break;
2645     case AV_CH_LAYOUT_SURROUND:       s->channel_mode = AC3_CHMODE_3F;     break;
2646     case AV_CH_LAYOUT_2_1:            s->channel_mode = AC3_CHMODE_2F1R;   break;
2647     case AV_CH_LAYOUT_4POINT0:        s->channel_mode = AC3_CHMODE_3F1R;   break;
2648     case AV_CH_LAYOUT_QUAD:
2649     case AV_CH_LAYOUT_2_2:            s->channel_mode = AC3_CHMODE_2F2R;   break;
2650     case AV_CH_LAYOUT_5POINT0:
2651     case AV_CH_LAYOUT_5POINT0_BACK:   s->channel_mode = AC3_CHMODE_3F2R;   break;
2652     default:
2653         return AVERROR(EINVAL);
2654     }
2655     s->has_center   = (s->channel_mode & 0x01) && s->channel_mode != AC3_CHMODE_MONO;
2656     s->has_surround =  s->channel_mode & 0x04;
2657
2658     s->channel_map  = ff_ac3_enc_channel_map[s->channel_mode][s->lfe_on];
2659     *channel_layout = ch_layout;
2660     if (s->lfe_on)
2661         *channel_layout |= AV_CH_LOW_FREQUENCY;
2662
2663     return 0;
2664 }
2665
2666
2667 static av_cold int validate_options(AVCodecContext *avctx, AC3EncodeContext *s)
2668 {
2669     int i, ret, max_sr;
2670
2671     /* validate channel layout */
2672     if (!avctx->channel_layout) {
2673         av_log(avctx, AV_LOG_WARNING, "No channel layout specified. The "
2674                                       "encoder will guess the layout, but it "
2675                                       "might be incorrect.\n");
2676     }
2677     ret = set_channel_info(s, avctx->channels, &avctx->channel_layout);
2678     if (ret) {
2679         av_log(avctx, AV_LOG_ERROR, "invalid channel layout\n");
2680         return ret;
2681     }
2682
2683     /* validate sample rate */
2684     /* note: max_sr could be changed from 2 to 5 for E-AC-3 once we find a
2685              decoder that supports half sample rate so we can validate that
2686              the generated files are correct. */
2687     max_sr = s->eac3 ? 2 : 8;
2688     for (i = 0; i <= max_sr; i++) {
2689         if ((ff_ac3_sample_rate_tab[i % 3] >> (i / 3)) == avctx->sample_rate)
2690             break;
2691     }
2692     if (i > max_sr) {
2693         av_log(avctx, AV_LOG_ERROR, "invalid sample rate\n");
2694         return AVERROR(EINVAL);
2695     }
2696     s->sample_rate        = avctx->sample_rate;
2697     s->bit_alloc.sr_shift = i / 3;
2698     s->bit_alloc.sr_code  = i % 3;
2699     s->bitstream_id       = s->eac3 ? 16 : 8 + s->bit_alloc.sr_shift;
2700
2701     /* validate bit rate */
2702     if (s->eac3) {
2703         int max_br, min_br, wpf, min_br_dist, min_br_code;
2704
2705         /* calculate min/max bitrate */
2706         max_br = 2048 * s->sample_rate / AC3_FRAME_SIZE * 16;
2707         min_br = ((s->sample_rate + (AC3_FRAME_SIZE-1)) / AC3_FRAME_SIZE) * 16;
2708         if (avctx->bit_rate < min_br || avctx->bit_rate > max_br) {
2709             av_log(avctx, AV_LOG_ERROR, "invalid bit rate. must be %d to %d "
2710                    "for this sample rate\n", min_br, max_br);
2711             return AVERROR(EINVAL);
2712         }
2713
2714         /* calculate words-per-frame for the selected bitrate */
2715         wpf = (avctx->bit_rate / 16) * AC3_FRAME_SIZE / s->sample_rate;
2716         av_assert1(wpf > 0 && wpf <= 2048);
2717
2718         /* find the closest AC-3 bitrate code to the selected bitrate.
2719            this is needed for lookup tables for bandwidth and coupling
2720            parameter selection */
2721         min_br_code = -1;
2722         min_br_dist = INT_MAX;
2723         for (i = 0; i < 19; i++) {
2724             int br_dist = abs(ff_ac3_bitrate_tab[i] * 1000 - avctx->bit_rate);
2725             if (br_dist < min_br_dist) {
2726                 min_br_dist = br_dist;
2727                 min_br_code = i;
2728             }
2729         }
2730
2731         /* make sure the minimum frame size is below the average frame size */
2732         s->frame_size_code = min_br_code << 1;
2733         while (wpf > 1 && wpf * s->sample_rate / AC3_FRAME_SIZE * 16 > avctx->bit_rate)
2734             wpf--;
2735         s->frame_size_min = 2 * wpf;
2736     } else {
2737         for (i = 0; i < 19; i++) {
2738             if ((ff_ac3_bitrate_tab[i] >> s->bit_alloc.sr_shift)*1000 == avctx->bit_rate)
2739                 break;
2740         }
2741         if (i == 19) {
2742             av_log(avctx, AV_LOG_ERROR, "invalid bit rate\n");
2743             return AVERROR(EINVAL);
2744         }
2745         s->frame_size_code = i << 1;
2746         s->frame_size_min  = 2 * ff_ac3_frame_size_tab[s->frame_size_code][s->bit_alloc.sr_code];
2747     }
2748     s->bit_rate   = avctx->bit_rate;
2749     s->frame_size = s->frame_size_min;
2750
2751     /* validate cutoff */
2752     if (avctx->cutoff < 0) {
2753         av_log(avctx, AV_LOG_ERROR, "invalid cutoff frequency\n");
2754         return AVERROR(EINVAL);
2755     }
2756     s->cutoff = avctx->cutoff;
2757     if (s->cutoff > (s->sample_rate >> 1))
2758         s->cutoff = s->sample_rate >> 1;
2759
2760     /* validate audio service type / channels combination */
2761     if ((avctx->audio_service_type == AV_AUDIO_SERVICE_TYPE_KARAOKE &&
2762          avctx->channels == 1) ||
2763         ((avctx->audio_service_type == AV_AUDIO_SERVICE_TYPE_COMMENTARY ||
2764           avctx->audio_service_type == AV_AUDIO_SERVICE_TYPE_EMERGENCY  ||
2765           avctx->audio_service_type == AV_AUDIO_SERVICE_TYPE_VOICE_OVER)
2766          && avctx->channels > 1)) {
2767         av_log(avctx, AV_LOG_ERROR, "invalid audio service type for the "
2768                                     "specified number of channels\n");
2769         return AVERROR(EINVAL);
2770     }
2771
2772     if (!s->eac3) {
2773         ret = validate_metadata(avctx);
2774         if (ret)
2775             return ret;
2776     }
2777
2778     s->rematrixing_enabled = s->options.stereo_rematrixing &&
2779                              (s->channel_mode == AC3_CHMODE_STEREO);
2780
2781     s->cpl_enabled = s->options.channel_coupling &&
2782                      s->channel_mode >= AC3_CHMODE_STEREO &&
2783                      CONFIG_AC3ENC_FLOAT;
2784
2785     return 0;
2786 }
2787
2788
2789 /**
2790  * Set bandwidth for all channels.
2791  * The user can optionally supply a cutoff frequency. Otherwise an appropriate
2792  * default value will be used.
2793  */
2794 static av_cold void set_bandwidth(AC3EncodeContext *s)
2795 {
2796     int blk, ch;
2797     int av_uninit(cpl_start);
2798
2799     if (s->cutoff) {
2800         /* calculate bandwidth based on user-specified cutoff frequency */
2801         int fbw_coeffs;
2802         fbw_coeffs     = s->cutoff * 2 * AC3_MAX_COEFS / s->sample_rate;
2803         s->bandwidth_code = av_clip((fbw_coeffs - 73) / 3, 0, 60);
2804     } else {
2805         /* use default bandwidth setting */
2806         s->bandwidth_code = ac3_bandwidth_tab[s->fbw_channels-1][s->bit_alloc.sr_code][s->frame_size_code/2];
2807     }
2808
2809     /* set number of coefficients for each channel */
2810     for (ch = 1; ch <= s->fbw_channels; ch++) {
2811         s->start_freq[ch] = 0;
2812         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
2813             s->blocks[blk].end_freq[ch] = s->bandwidth_code * 3 + 73;
2814     }
2815     /* LFE channel always has 7 coefs */
2816     if (s->lfe_on) {
2817         s->start_freq[s->lfe_channel] = 0;
2818         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
2819             s->blocks[blk].end_freq[ch] = 7;
2820     }
2821
2822     /* initialize coupling strategy */
2823     if (s->cpl_enabled) {
2824         if (s->options.cpl_start >= 0) {
2825             cpl_start = s->options.cpl_start;
2826         } else {
2827             cpl_start = ac3_coupling_start_tab[s->channel_mode-2][s->bit_alloc.sr_code][s->frame_size_code/2];
2828             if (cpl_start < 0)
2829                 s->cpl_enabled = 0;
2830         }
2831     }
2832     if (s->cpl_enabled) {
2833         int i, cpl_start_band, cpl_end_band;
2834         uint8_t *cpl_band_sizes = s->cpl_band_sizes;
2835
2836         cpl_end_band   = s->bandwidth_code / 4 + 3;
2837         cpl_start_band = av_clip(cpl_start, 0, FFMIN(cpl_end_band-1, 15));
2838
2839         s->num_cpl_subbands = cpl_end_band - cpl_start_band;
2840
2841         s->num_cpl_bands = 1;
2842         *cpl_band_sizes  = 12;
2843         for (i = cpl_start_band + 1; i < cpl_end_band; i++) {
2844             if (ff_eac3_default_cpl_band_struct[i]) {
2845                 *cpl_band_sizes += 12;
2846             } else {
2847                 s->num_cpl_bands++;
2848                 cpl_band_sizes++;
2849                 *cpl_band_sizes = 12;
2850             }
2851         }
2852
2853         s->start_freq[CPL_CH] = cpl_start_band * 12 + 37;
2854         s->cpl_end_freq       = cpl_end_band   * 12 + 37;
2855         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
2856             s->blocks[blk].end_freq[CPL_CH] = s->cpl_end_freq;
2857     }
2858 }
2859
2860
2861 static av_cold int allocate_buffers(AVCodecContext *avctx)
2862 {
2863     int blk, ch;
2864     AC3EncodeContext *s = avctx->priv_data;
2865     int channels = s->channels + 1; /* includes coupling channel */
2866
2867     FF_ALLOC_OR_GOTO(avctx, s->planar_samples, s->channels * sizeof(*s->planar_samples),
2868                      alloc_fail);
2869     for (ch = 0; ch < s->channels; ch++) {
2870         FF_ALLOCZ_OR_GOTO(avctx, s->planar_samples[ch],
2871                           (AC3_FRAME_SIZE+AC3_BLOCK_SIZE) * sizeof(**s->planar_samples),
2872                           alloc_fail);
2873     }
2874     FF_ALLOC_OR_GOTO(avctx, s->bap_buffer,  AC3_MAX_BLOCKS * channels *
2875                      AC3_MAX_COEFS * sizeof(*s->bap_buffer),  alloc_fail);
2876     FF_ALLOC_OR_GOTO(avctx, s->bap1_buffer, AC3_MAX_BLOCKS * channels *
2877                      AC3_MAX_COEFS * sizeof(*s->bap1_buffer), alloc_fail);
2878     FF_ALLOCZ_OR_GOTO(avctx, s->mdct_coef_buffer, AC3_MAX_BLOCKS * channels *
2879                       AC3_MAX_COEFS * sizeof(*s->mdct_coef_buffer), alloc_fail);
2880     FF_ALLOC_OR_GOTO(avctx, s->exp_buffer, AC3_MAX_BLOCKS * channels *
2881                      AC3_MAX_COEFS * sizeof(*s->exp_buffer), alloc_fail);
2882     FF_ALLOC_OR_GOTO(avctx, s->grouped_exp_buffer, AC3_MAX_BLOCKS * channels *
2883                      128 * sizeof(*s->grouped_exp_buffer), alloc_fail);
2884     FF_ALLOC_OR_GOTO(avctx, s->psd_buffer, AC3_MAX_BLOCKS * channels *
2885                      AC3_MAX_COEFS * sizeof(*s->psd_buffer), alloc_fail);
2886     FF_ALLOC_OR_GOTO(avctx, s->band_psd_buffer, AC3_MAX_BLOCKS * channels *
2887                      64 * sizeof(*s->band_psd_buffer), alloc_fail);
2888     FF_ALLOC_OR_GOTO(avctx, s->mask_buffer, AC3_MAX_BLOCKS * channels *
2889                      64 * sizeof(*s->mask_buffer), alloc_fail);
2890     FF_ALLOC_OR_GOTO(avctx, s->qmant_buffer, AC3_MAX_BLOCKS * channels *
2891                      AC3_MAX_COEFS * sizeof(*s->qmant_buffer), alloc_fail);
2892     if (s->cpl_enabled) {
2893         FF_ALLOC_OR_GOTO(avctx, s->cpl_coord_exp_buffer, AC3_MAX_BLOCKS * channels *
2894                          16 * sizeof(*s->cpl_coord_exp_buffer), alloc_fail);
2895         FF_ALLOC_OR_GOTO(avctx, s->cpl_coord_mant_buffer, AC3_MAX_BLOCKS * channels *
2896                          16 * sizeof(*s->cpl_coord_mant_buffer), alloc_fail);
2897     }
2898     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
2899         AC3Block *block = &s->blocks[blk];
2900         FF_ALLOCZ_OR_GOTO(avctx, block->mdct_coef, channels * sizeof(*block->mdct_coef),
2901                           alloc_fail);
2902         FF_ALLOCZ_OR_GOTO(avctx, block->exp, channels * sizeof(*block->exp),
2903                           alloc_fail);
2904         FF_ALLOCZ_OR_GOTO(avctx, block->grouped_exp, channels * sizeof(*block->grouped_exp),
2905                           alloc_fail);
2906         FF_ALLOCZ_OR_GOTO(avctx, block->psd, channels * sizeof(*block->psd),
2907                           alloc_fail);
2908         FF_ALLOCZ_OR_GOTO(avctx, block->band_psd, channels * sizeof(*block->band_psd),
2909                           alloc_fail);
2910         FF_ALLOCZ_OR_GOTO(avctx, block->mask, channels * sizeof(*block->mask),
2911                           alloc_fail);
2912         FF_ALLOCZ_OR_GOTO(avctx, block->qmant, channels * sizeof(*block->qmant),
2913                           alloc_fail);
2914         if (s->cpl_enabled) {
2915             FF_ALLOCZ_OR_GOTO(avctx, block->cpl_coord_exp, channels * sizeof(*block->cpl_coord_exp),
2916                               alloc_fail);
2917             FF_ALLOCZ_OR_GOTO(avctx, block->cpl_coord_mant, channels * sizeof(*block->cpl_coord_mant),
2918                               alloc_fail);
2919         }
2920
2921         for (ch = 0; ch < channels; ch++) {
2922             /* arrangement: block, channel, coeff */
2923             block->grouped_exp[ch] = &s->grouped_exp_buffer[128           * (blk * channels + ch)];
2924             block->psd[ch]         = &s->psd_buffer        [AC3_MAX_COEFS * (blk * channels + ch)];
2925             block->band_psd[ch]    = &s->band_psd_buffer   [64            * (blk * channels + ch)];
2926             block->mask[ch]        = &s->mask_buffer       [64            * (blk * channels + ch)];
2927             block->qmant[ch]       = &s->qmant_buffer      [AC3_MAX_COEFS * (blk * channels + ch)];
2928             if (s->cpl_enabled) {
2929                 block->cpl_coord_exp[ch]  = &s->cpl_coord_exp_buffer [16  * (blk * channels + ch)];
2930                 block->cpl_coord_mant[ch] = &s->cpl_coord_mant_buffer[16  * (blk * channels + ch)];
2931             }
2932
2933             /* arrangement: channel, block, coeff */
2934             block->exp[ch]         = &s->exp_buffer        [AC3_MAX_COEFS * (AC3_MAX_BLOCKS * ch + blk)];
2935             block->mdct_coef[ch]   = &s->mdct_coef_buffer  [AC3_MAX_COEFS * (AC3_MAX_BLOCKS * ch + blk)];
2936         }
2937     }
2938
2939     if (CONFIG_AC3ENC_FLOAT) {
2940         FF_ALLOCZ_OR_GOTO(avctx, s->fixed_coef_buffer, AC3_MAX_BLOCKS * channels *
2941                           AC3_MAX_COEFS * sizeof(*s->fixed_coef_buffer), alloc_fail);
2942         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
2943             AC3Block *block = &s->blocks[blk];
2944             FF_ALLOCZ_OR_GOTO(avctx, block->fixed_coef, channels *
2945                               sizeof(*block->fixed_coef), alloc_fail);
2946             for (ch = 0; ch < channels; ch++)
2947                 block->fixed_coef[ch] = &s->fixed_coef_buffer[AC3_MAX_COEFS * (AC3_MAX_BLOCKS * ch + blk)];
2948         }
2949     } else {
2950         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
2951             AC3Block *block = &s->blocks[blk];
2952             FF_ALLOCZ_OR_GOTO(avctx, block->fixed_coef, channels *
2953                               sizeof(*block->fixed_coef), alloc_fail);
2954             for (ch = 0; ch < channels; ch++)
2955                 block->fixed_coef[ch] = (int32_t *)block->mdct_coef[ch];
2956         }
2957     }
2958
2959     return 0;
2960 alloc_fail:
2961     return AVERROR(ENOMEM);
2962 }
2963
2964
2965 /**
2966  * Initialize the encoder.
2967  */
2968 static av_cold int ac3_encode_init(AVCodecContext *avctx)
2969 {
2970     AC3EncodeContext *s = avctx->priv_data;
2971     int ret, frame_size_58;
2972
2973     s->eac3 = avctx->codec_id == CODEC_ID_EAC3;
2974
2975     avctx->frame_size = AC3_FRAME_SIZE;
2976
2977     ff_ac3_common_init();
2978
2979     ret = validate_options(avctx, s);
2980     if (ret)
2981         return ret;
2982
2983     s->bitstream_mode = avctx->audio_service_type;
2984     if (s->bitstream_mode == AV_AUDIO_SERVICE_TYPE_KARAOKE)
2985         s->bitstream_mode = 0x7;
2986
2987     s->bits_written    = 0;
2988     s->samples_written = 0;
2989
2990     /* calculate crc_inv for both possible frame sizes */
2991     frame_size_58 = (( s->frame_size    >> 2) + ( s->frame_size    >> 4)) << 1;
2992     s->crc_inv[0] = pow_poly((CRC16_POLY >> 1), (8 * frame_size_58) - 16, CRC16_POLY);
2993     if (s->bit_alloc.sr_code == 1) {
2994         frame_size_58 = (((s->frame_size+2) >> 2) + ((s->frame_size+2) >> 4)) << 1;
2995         s->crc_inv[1] = pow_poly((CRC16_POLY >> 1), (8 * frame_size_58) - 16, CRC16_POLY);
2996     }
2997
2998     set_bandwidth(s);
2999
3000     exponent_init(s);
3001
3002     bit_alloc_init(s);
3003
3004     ret = mdct_init(avctx, &s->mdct, 9);
3005     if (ret)
3006         goto init_fail;
3007
3008     ret = allocate_buffers(avctx);
3009     if (ret)
3010         goto init_fail;
3011
3012     avctx->coded_frame= avcodec_alloc_frame();
3013
3014     dsputil_init(&s->dsp, avctx);
3015     ff_ac3dsp_init(&s->ac3dsp, avctx->flags & CODEC_FLAG_BITEXACT);
3016
3017     dprint_options(avctx);
3018
3019     return 0;
3020 init_fail:
3021     ac3_encode_close(avctx);
3022     return ret;
3023 }