ac3enc: merge compute_exp_strategy_ch() into compute_exp_strategy()
[ffmpeg.git] / libavcodec / ac3enc.c
1 /*
2  * The simplest AC-3 encoder
3  * Copyright (c) 2000 Fabrice Bellard
4  * Copyright (c) 2006-2010 Justin Ruggles <justin.ruggles@gmail.com>
5  * Copyright (c) 2006-2010 Prakash Punnoor <prakash@punnoor.de>
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 /**
25  * @file
26  * The simplest AC-3 encoder.
27  */
28
29 //#define DEBUG
30 //#define ASSERT_LEVEL 2
31
32 #include <stdint.h>
33
34 #include "libavutil/audioconvert.h"
35 #include "libavutil/avassert.h"
36 #include "libavutil/crc.h"
37 #include "libavutil/opt.h"
38 #include "avcodec.h"
39 #include "put_bits.h"
40 #include "dsputil.h"
41 #include "ac3dsp.h"
42 #include "ac3.h"
43 #include "audioconvert.h"
44 #include "fft.h"
45
46
47 #ifndef CONFIG_AC3ENC_FLOAT
48 #define CONFIG_AC3ENC_FLOAT 0
49 #endif
50
51
52 /** Maximum number of exponent groups. +1 for separate DC exponent. */
53 #define AC3_MAX_EXP_GROUPS 85
54
55 #if CONFIG_AC3ENC_FLOAT
56 #define MAC_COEF(d,a,b) ((d)+=(a)*(b))
57 typedef float SampleType;
58 typedef float CoefType;
59 typedef float CoefSumType;
60 #else
61 #define MAC_COEF(d,a,b) MAC64(d,a,b)
62 typedef int16_t SampleType;
63 typedef int32_t CoefType;
64 typedef int64_t CoefSumType;
65 #endif
66
67 typedef struct AC3MDCTContext {
68     const SampleType *window;           ///< MDCT window function
69     FFTContext fft;                     ///< FFT context for MDCT calculation
70 } AC3MDCTContext;
71
72 /**
73  * Encoding Options used by AVOption.
74  */
75 typedef struct AC3EncOptions {
76     /* AC-3 metadata options*/
77     int dialogue_level;
78     int bitstream_mode;
79     float center_mix_level;
80     float surround_mix_level;
81     int dolby_surround_mode;
82     int audio_production_info;
83     int mixing_level;
84     int room_type;
85     int copyright;
86     int original;
87     int extended_bsi_1;
88     int preferred_stereo_downmix;
89     float ltrt_center_mix_level;
90     float ltrt_surround_mix_level;
91     float loro_center_mix_level;
92     float loro_surround_mix_level;
93     int extended_bsi_2;
94     int dolby_surround_ex_mode;
95     int dolby_headphone_mode;
96     int ad_converter_type;
97
98     /* other encoding options */
99     int allow_per_frame_metadata;
100     int stereo_rematrixing;
101 } AC3EncOptions;
102
103 /**
104  * Data for a single audio block.
105  */
106 typedef struct AC3Block {
107     uint8_t  **bap;                             ///< bit allocation pointers (bap)
108     CoefType **mdct_coef;                       ///< MDCT coefficients
109     int32_t  **fixed_coef;                      ///< fixed-point MDCT coefficients
110     uint8_t  **exp;                             ///< original exponents
111     uint8_t  **grouped_exp;                     ///< grouped exponents
112     int16_t  **psd;                             ///< psd per frequency bin
113     int16_t  **band_psd;                        ///< psd per critical band
114     int16_t  **mask;                            ///< masking curve
115     uint16_t **qmant;                           ///< quantized mantissas
116     uint8_t  coeff_shift[AC3_MAX_CHANNELS];     ///< fixed-point coefficient shift values
117     uint8_t  new_rematrixing_strategy;          ///< send new rematrixing flags in this block
118     uint8_t  rematrixing_flags[4];              ///< rematrixing flags
119     struct AC3Block *exp_ref_block[AC3_MAX_CHANNELS]; ///< reference blocks for EXP_REUSE
120 } AC3Block;
121
122 /**
123  * AC-3 encoder private context.
124  */
125 typedef struct AC3EncodeContext {
126     AVClass *av_class;                      ///< AVClass used for AVOption
127     AC3EncOptions options;                  ///< encoding options
128     PutBitContext pb;                       ///< bitstream writer context
129     DSPContext dsp;
130     AC3DSPContext ac3dsp;                   ///< AC-3 optimized functions
131     AC3MDCTContext mdct;                    ///< MDCT context
132
133     AC3Block blocks[AC3_MAX_BLOCKS];        ///< per-block info
134
135     int bitstream_id;                       ///< bitstream id                           (bsid)
136     int bitstream_mode;                     ///< bitstream mode                         (bsmod)
137
138     int bit_rate;                           ///< target bit rate, in bits-per-second
139     int sample_rate;                        ///< sampling frequency, in Hz
140
141     int frame_size_min;                     ///< minimum frame size in case rounding is necessary
142     int frame_size;                         ///< current frame size in bytes
143     int frame_size_code;                    ///< frame size code                        (frmsizecod)
144     uint16_t crc_inv[2];
145     int bits_written;                       ///< bit count    (used to avg. bitrate)
146     int samples_written;                    ///< sample count (used to avg. bitrate)
147
148     int fbw_channels;                       ///< number of full-bandwidth channels      (nfchans)
149     int channels;                           ///< total number of channels               (nchans)
150     int lfe_on;                             ///< indicates if there is an LFE channel   (lfeon)
151     int lfe_channel;                        ///< channel index of the LFE channel
152     int has_center;                         ///< indicates if there is a center channel
153     int has_surround;                       ///< indicates if there are one or more surround channels
154     int channel_mode;                       ///< channel mode                           (acmod)
155     const uint8_t *channel_map;             ///< channel map used to reorder channels
156
157     int center_mix_level;                   ///< center mix level code
158     int surround_mix_level;                 ///< surround mix level code
159     int ltrt_center_mix_level;              ///< Lt/Rt center mix level code
160     int ltrt_surround_mix_level;            ///< Lt/Rt surround mix level code
161     int loro_center_mix_level;              ///< Lo/Ro center mix level code
162     int loro_surround_mix_level;            ///< Lo/Ro surround mix level code
163
164     int cutoff;                             ///< user-specified cutoff frequency, in Hz
165     int bandwidth_code[AC3_MAX_CHANNELS];   ///< bandwidth code (0 to 60)               (chbwcod)
166     int nb_coefs[AC3_MAX_CHANNELS];
167
168     int rematrixing_enabled;                ///< stereo rematrixing enabled
169     int num_rematrixing_bands;              ///< number of rematrixing bands
170
171     /* bitrate allocation control */
172     int slow_gain_code;                     ///< slow gain code                         (sgaincod)
173     int slow_decay_code;                    ///< slow decay code                        (sdcycod)
174     int fast_decay_code;                    ///< fast decay code                        (fdcycod)
175     int db_per_bit_code;                    ///< dB/bit code                            (dbpbcod)
176     int floor_code;                         ///< floor code                             (floorcod)
177     AC3BitAllocParameters bit_alloc;        ///< bit allocation parameters
178     int coarse_snr_offset;                  ///< coarse SNR offsets                     (csnroffst)
179     int fast_gain_code[AC3_MAX_CHANNELS];   ///< fast gain codes (signal-to-mask ratio) (fgaincod)
180     int fine_snr_offset[AC3_MAX_CHANNELS];  ///< fine SNR offsets                       (fsnroffst)
181     int frame_bits_fixed;                   ///< number of non-coefficient bits for fixed parameters
182     int frame_bits;                         ///< all frame bits except exponents and mantissas
183     int exponent_bits;                      ///< number of bits used for exponents
184
185     SampleType **planar_samples;
186     uint8_t *bap_buffer;
187     uint8_t *bap1_buffer;
188     CoefType *mdct_coef_buffer;
189     int32_t *fixed_coef_buffer;
190     uint8_t *exp_buffer;
191     uint8_t *grouped_exp_buffer;
192     int16_t *psd_buffer;
193     int16_t *band_psd_buffer;
194     int16_t *mask_buffer;
195     uint16_t *qmant_buffer;
196
197     uint8_t exp_strategy[AC3_MAX_CHANNELS][AC3_MAX_BLOCKS]; ///< exponent strategies
198
199     DECLARE_ALIGNED(32, SampleType, windowed_samples)[AC3_WINDOW_SIZE];
200 } AC3EncodeContext;
201
202 typedef struct AC3Mant {
203     uint16_t *qmant1_ptr, *qmant2_ptr, *qmant4_ptr; ///< mantissa pointers for bap=1,2,4
204     int mant1_cnt, mant2_cnt, mant4_cnt;    ///< mantissa counts for bap=1,2,4
205 } AC3Mant;
206
207 #define CMIXLEV_NUM_OPTIONS 3
208 static const float cmixlev_options[CMIXLEV_NUM_OPTIONS] = {
209     LEVEL_MINUS_3DB, LEVEL_MINUS_4POINT5DB, LEVEL_MINUS_6DB
210 };
211
212 #define SURMIXLEV_NUM_OPTIONS 3
213 static const float surmixlev_options[SURMIXLEV_NUM_OPTIONS] = {
214     LEVEL_MINUS_3DB, LEVEL_MINUS_6DB, LEVEL_ZERO
215 };
216
217 #define EXTMIXLEV_NUM_OPTIONS 8
218 static const float extmixlev_options[EXTMIXLEV_NUM_OPTIONS] = {
219     LEVEL_PLUS_3DB,  LEVEL_PLUS_1POINT5DB,  LEVEL_ONE,       LEVEL_MINUS_4POINT5DB,
220     LEVEL_MINUS_3DB, LEVEL_MINUS_4POINT5DB, LEVEL_MINUS_6DB, LEVEL_ZERO
221 };
222
223
224 #define OFFSET(param) offsetof(AC3EncodeContext, options.param)
225 #define AC3ENC_PARAM (AV_OPT_FLAG_AUDIO_PARAM | AV_OPT_FLAG_ENCODING_PARAM)
226
227 static const AVOption options[] = {
228 /* Metadata Options */
229 {"per_frame_metadata", "Allow Changing Metadata Per-Frame", OFFSET(allow_per_frame_metadata), FF_OPT_TYPE_INT, 0, 0, 1, AC3ENC_PARAM},
230 /* downmix levels */
231 {"center_mixlev", "Center Mix Level", OFFSET(center_mix_level), FF_OPT_TYPE_FLOAT, LEVEL_MINUS_4POINT5DB, 0.0, 1.0, AC3ENC_PARAM},
232 {"surround_mixlev", "Surround Mix Level", OFFSET(surround_mix_level), FF_OPT_TYPE_FLOAT, LEVEL_MINUS_6DB, 0.0, 1.0, AC3ENC_PARAM},
233 /* audio production information */
234 {"mixing_level", "Mixing Level", OFFSET(mixing_level), FF_OPT_TYPE_INT, -1, -1, 111, AC3ENC_PARAM},
235 {"room_type", "Room Type", OFFSET(room_type), FF_OPT_TYPE_INT, -1, -1, 2, AC3ENC_PARAM, "room_type"},
236     {"notindicated", "Not Indicated (default)", 0, FF_OPT_TYPE_CONST, 0, INT_MIN, INT_MAX, AC3ENC_PARAM, "room_type"},
237     {"large",        "Large Room",              0, FF_OPT_TYPE_CONST, 1, INT_MIN, INT_MAX, AC3ENC_PARAM, "room_type"},
238     {"small",        "Small Room",              0, FF_OPT_TYPE_CONST, 2, INT_MIN, INT_MAX, AC3ENC_PARAM, "room_type"},
239 /* other metadata options */
240 {"copyright", "Copyright Bit", OFFSET(copyright), FF_OPT_TYPE_INT, 0, 0, 1, AC3ENC_PARAM},
241 {"dialnorm", "Dialogue Level (dB)", OFFSET(dialogue_level), FF_OPT_TYPE_INT, -31, -31, -1, AC3ENC_PARAM},
242 {"dsur_mode", "Dolby Surround Mode", OFFSET(dolby_surround_mode), FF_OPT_TYPE_INT, 0, 0, 2, AC3ENC_PARAM, "dsur_mode"},
243     {"notindicated", "Not Indicated (default)",    0, FF_OPT_TYPE_CONST, 0, INT_MIN, INT_MAX, AC3ENC_PARAM, "dsur_mode"},
244     {"on",           "Dolby Surround Encoded",     0, FF_OPT_TYPE_CONST, 1, INT_MIN, INT_MAX, AC3ENC_PARAM, "dsur_mode"},
245     {"off",          "Not Dolby Surround Encoded", 0, FF_OPT_TYPE_CONST, 2, INT_MIN, INT_MAX, AC3ENC_PARAM, "dsur_mode"},
246 {"original", "Original Bit Stream", OFFSET(original), FF_OPT_TYPE_INT, 1, 0, 1, AC3ENC_PARAM},
247 /* extended bitstream information */
248 {"dmix_mode", "Preferred Stereo Downmix Mode", OFFSET(preferred_stereo_downmix), FF_OPT_TYPE_INT, -1, -1, 2, AC3ENC_PARAM, "dmix_mode"},
249     {"notindicated", "Not Indicated (default)", 0, FF_OPT_TYPE_CONST, 0, INT_MIN, INT_MAX, AC3ENC_PARAM, "dmix_mode"},
250     {"ltrt", "Lt/Rt Downmix Preferred",         0, FF_OPT_TYPE_CONST, 1, INT_MIN, INT_MAX, AC3ENC_PARAM, "dmix_mode"},
251     {"loro", "Lo/Ro Downmix Preferred",         0, FF_OPT_TYPE_CONST, 2, INT_MIN, INT_MAX, AC3ENC_PARAM, "dmix_mode"},
252 {"ltrt_cmixlev", "Lt/Rt Center Mix Level", OFFSET(ltrt_center_mix_level), FF_OPT_TYPE_FLOAT, -1.0, -1.0, 2.0, AC3ENC_PARAM},
253 {"ltrt_surmixlev", "Lt/Rt Surround Mix Level", OFFSET(ltrt_surround_mix_level), FF_OPT_TYPE_FLOAT, -1.0, -1.0, 2.0, AC3ENC_PARAM},
254 {"loro_cmixlev", "Lo/Ro Center Mix Level", OFFSET(loro_center_mix_level), FF_OPT_TYPE_FLOAT, -1.0, -1.0, 2.0, AC3ENC_PARAM},
255 {"loro_surmixlev", "Lo/Ro Surround Mix Level", OFFSET(loro_surround_mix_level), FF_OPT_TYPE_FLOAT, -1.0, -1.0, 2.0, AC3ENC_PARAM},
256 {"dsurex_mode", "Dolby Surround EX Mode", OFFSET(dolby_surround_ex_mode), FF_OPT_TYPE_INT, -1, -1, 2, AC3ENC_PARAM, "dsurex_mode"},
257     {"notindicated", "Not Indicated (default)",       0, FF_OPT_TYPE_CONST, 0, INT_MIN, INT_MAX, AC3ENC_PARAM, "dsurex_mode"},
258     {"on",           "Dolby Surround EX Encoded",     0, FF_OPT_TYPE_CONST, 1, INT_MIN, INT_MAX, AC3ENC_PARAM, "dsurex_mode"},
259     {"off",          "Not Dolby Surround EX Encoded", 0, FF_OPT_TYPE_CONST, 2, INT_MIN, INT_MAX, AC3ENC_PARAM, "dsurex_mode"},
260 {"dheadphone_mode", "Dolby Headphone Mode", OFFSET(dolby_headphone_mode), FF_OPT_TYPE_INT, -1, -1, 2, AC3ENC_PARAM, "dheadphone_mode"},
261     {"notindicated", "Not Indicated (default)",     0, FF_OPT_TYPE_CONST, 0, INT_MIN, INT_MAX, AC3ENC_PARAM, "dheadphone_mode"},
262     {"on",           "Dolby Headphone Encoded",     0, FF_OPT_TYPE_CONST, 1, INT_MIN, INT_MAX, AC3ENC_PARAM, "dheadphone_mode"},
263     {"off",          "Not Dolby Headphone Encoded", 0, FF_OPT_TYPE_CONST, 2, INT_MIN, INT_MAX, AC3ENC_PARAM, "dheadphone_mode"},
264 {"ad_conv_type", "A/D Converter Type", OFFSET(ad_converter_type), FF_OPT_TYPE_INT, -1, -1, 1, AC3ENC_PARAM, "ad_conv_type"},
265     {"standard", "Standard (default)", 0, FF_OPT_TYPE_CONST, 0, INT_MIN, INT_MAX, AC3ENC_PARAM, "ad_conv_type"},
266     {"hdcd",     "HDCD",               0, FF_OPT_TYPE_CONST, 1, INT_MIN, INT_MAX, AC3ENC_PARAM, "ad_conv_type"},
267 /* Other Encoding Options */
268 {"stereo_rematrixing", "Stereo Rematrixing", OFFSET(stereo_rematrixing), FF_OPT_TYPE_INT, 1, 0, 1, AC3ENC_PARAM},
269 {NULL}
270 };
271
272 #if CONFIG_AC3ENC_FLOAT
273 static AVClass ac3enc_class = { "AC-3 Encoder", av_default_item_name,
274                                 options, LIBAVUTIL_VERSION_INT };
275 #else
276 static AVClass ac3enc_class = { "Fixed-Point AC-3 Encoder", av_default_item_name,
277                                 options, LIBAVUTIL_VERSION_INT };
278 #endif
279
280
281 /* prototypes for functions in ac3enc_fixed.c and ac3enc_float.c */
282
283 static av_cold void mdct_end(AC3MDCTContext *mdct);
284
285 static av_cold int mdct_init(AVCodecContext *avctx, AC3MDCTContext *mdct,
286                              int nbits);
287
288 static void apply_window(DSPContext *dsp, SampleType *output, const SampleType *input,
289                          const SampleType *window, unsigned int len);
290
291 static int normalize_samples(AC3EncodeContext *s);
292
293 static void scale_coefficients(AC3EncodeContext *s);
294
295
296 /**
297  * LUT for number of exponent groups.
298  * exponent_group_tab[exponent strategy-1][number of coefficients]
299  */
300 static uint8_t exponent_group_tab[3][256];
301
302
303 /**
304  * List of supported channel layouts.
305  */
306 static const int64_t ac3_channel_layouts[] = {
307      AV_CH_LAYOUT_MONO,
308      AV_CH_LAYOUT_STEREO,
309      AV_CH_LAYOUT_2_1,
310      AV_CH_LAYOUT_SURROUND,
311      AV_CH_LAYOUT_2_2,
312      AV_CH_LAYOUT_QUAD,
313      AV_CH_LAYOUT_4POINT0,
314      AV_CH_LAYOUT_5POINT0,
315      AV_CH_LAYOUT_5POINT0_BACK,
316     (AV_CH_LAYOUT_MONO     | AV_CH_LOW_FREQUENCY),
317     (AV_CH_LAYOUT_STEREO   | AV_CH_LOW_FREQUENCY),
318     (AV_CH_LAYOUT_2_1      | AV_CH_LOW_FREQUENCY),
319     (AV_CH_LAYOUT_SURROUND | AV_CH_LOW_FREQUENCY),
320     (AV_CH_LAYOUT_2_2      | AV_CH_LOW_FREQUENCY),
321     (AV_CH_LAYOUT_QUAD     | AV_CH_LOW_FREQUENCY),
322     (AV_CH_LAYOUT_4POINT0  | AV_CH_LOW_FREQUENCY),
323      AV_CH_LAYOUT_5POINT1,
324      AV_CH_LAYOUT_5POINT1_BACK,
325      0
326 };
327
328
329 /**
330  * LUT to select the bandwidth code based on the bit rate, sample rate, and
331  * number of full-bandwidth channels.
332  * bandwidth_tab[fbw_channels-1][sample rate code][bit rate code]
333  */
334 static const uint8_t ac3_bandwidth_tab[5][3][19] = {
335 //      32  40  48  56  64  80  96 112 128 160 192 224 256 320 384 448 512 576 640
336
337     { {  0,  0,  0, 12, 16, 32, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48, 48 },
338       {  0,  0,  0, 16, 20, 36, 56, 56, 56, 56, 56, 56, 56, 56, 56, 56, 56, 56, 56 },
339       {  0,  0,  0, 32, 40, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60 } },
340
341     { {  0,  0,  0,  0,  0,  0,  0, 20, 24, 32, 48, 48, 48, 48, 48, 48, 48, 48, 48 },
342       {  0,  0,  0,  0,  0,  0,  4, 24, 28, 36, 56, 56, 56, 56, 56, 56, 56, 56, 56 },
343       {  0,  0,  0,  0,  0,  0, 20, 44, 52, 60, 60, 60, 60, 60, 60, 60, 60, 60, 60 } },
344
345     { {  0,  0,  0,  0,  0,  0,  0,  0,  0, 16, 24, 32, 40, 48, 48, 48, 48, 48, 48 },
346       {  0,  0,  0,  0,  0,  0,  0,  0,  4, 20, 28, 36, 44, 56, 56, 56, 56, 56, 56 },
347       {  0,  0,  0,  0,  0,  0,  0,  0, 20, 40, 48, 60, 60, 60, 60, 60, 60, 60, 60 } },
348
349     { {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 12, 24, 32, 48, 48, 48, 48, 48, 48 },
350       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 16, 28, 36, 56, 56, 56, 56, 56, 56 },
351       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 32, 48, 60, 60, 60, 60, 60, 60, 60 } },
352
353     { {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  8, 20, 32, 40, 48, 48, 48, 48 },
354       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 12, 24, 36, 44, 56, 56, 56, 56 },
355       {  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 28, 44, 60, 60, 60, 60, 60, 60 } }
356 };
357
358
359 /**
360  * Adjust the frame size to make the average bit rate match the target bit rate.
361  * This is only needed for 11025, 22050, and 44100 sample rates.
362  */
363 static void adjust_frame_size(AC3EncodeContext *s)
364 {
365     while (s->bits_written >= s->bit_rate && s->samples_written >= s->sample_rate) {
366         s->bits_written    -= s->bit_rate;
367         s->samples_written -= s->sample_rate;
368     }
369     s->frame_size = s->frame_size_min +
370                     2 * (s->bits_written * s->sample_rate < s->samples_written * s->bit_rate);
371     s->bits_written    += s->frame_size * 8;
372     s->samples_written += AC3_FRAME_SIZE;
373 }
374
375
376 /**
377  * Deinterleave input samples.
378  * Channels are reordered from Libav's default order to AC-3 order.
379  */
380 static void deinterleave_input_samples(AC3EncodeContext *s,
381                                        const SampleType *samples)
382 {
383     int ch, i;
384
385     /* deinterleave and remap input samples */
386     for (ch = 0; ch < s->channels; ch++) {
387         const SampleType *sptr;
388         int sinc;
389
390         /* copy last 256 samples of previous frame to the start of the current frame */
391         memcpy(&s->planar_samples[ch][0], &s->planar_samples[ch][AC3_FRAME_SIZE],
392                AC3_BLOCK_SIZE * sizeof(s->planar_samples[0][0]));
393
394         /* deinterleave */
395         sinc = s->channels;
396         sptr = samples + s->channel_map[ch];
397         for (i = AC3_BLOCK_SIZE; i < AC3_FRAME_SIZE+AC3_BLOCK_SIZE; i++) {
398             s->planar_samples[ch][i] = *sptr;
399             sptr += sinc;
400         }
401     }
402 }
403
404
405 /**
406  * Apply the MDCT to input samples to generate frequency coefficients.
407  * This applies the KBD window and normalizes the input to reduce precision
408  * loss due to fixed-point calculations.
409  */
410 static void apply_mdct(AC3EncodeContext *s)
411 {
412     int blk, ch;
413
414     for (ch = 0; ch < s->channels; ch++) {
415         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
416             AC3Block *block = &s->blocks[blk];
417             const SampleType *input_samples = &s->planar_samples[ch][blk * AC3_BLOCK_SIZE];
418
419             apply_window(&s->dsp, s->windowed_samples, input_samples, s->mdct.window, AC3_WINDOW_SIZE);
420
421             block->coeff_shift[ch] = normalize_samples(s);
422
423             s->mdct.fft.mdct_calcw(&s->mdct.fft, block->mdct_coef[ch],
424                                    s->windowed_samples);
425         }
426     }
427 }
428
429
430 /**
431  * Determine rematrixing flags for each block and band.
432  */
433 static void compute_rematrixing_strategy(AC3EncodeContext *s)
434 {
435     int nb_coefs;
436     int blk, bnd, i;
437     AC3Block *block, *block0;
438
439     if (s->channel_mode != AC3_CHMODE_STEREO)
440         return;
441
442     s->num_rematrixing_bands = 4;
443
444     nb_coefs = FFMIN(s->nb_coefs[0], s->nb_coefs[1]);
445
446     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
447         block = &s->blocks[blk];
448         block->new_rematrixing_strategy = !blk;
449         if (!s->rematrixing_enabled)
450             continue;
451         for (bnd = 0; bnd < s->num_rematrixing_bands; bnd++) {
452             /* calculate calculate sum of squared coeffs for one band in one block */
453             int start = ff_ac3_rematrix_band_tab[bnd];
454             int end   = FFMIN(nb_coefs, ff_ac3_rematrix_band_tab[bnd+1]);
455             CoefSumType sum[4] = {0,};
456             for (i = start; i < end; i++) {
457                 CoefType lt = block->mdct_coef[0][i];
458                 CoefType rt = block->mdct_coef[1][i];
459                 CoefType md = lt + rt;
460                 CoefType sd = lt - rt;
461                 MAC_COEF(sum[0], lt, lt);
462                 MAC_COEF(sum[1], rt, rt);
463                 MAC_COEF(sum[2], md, md);
464                 MAC_COEF(sum[3], sd, sd);
465             }
466
467             /* compare sums to determine if rematrixing will be used for this band */
468             if (FFMIN(sum[2], sum[3]) < FFMIN(sum[0], sum[1]))
469                 block->rematrixing_flags[bnd] = 1;
470             else
471                 block->rematrixing_flags[bnd] = 0;
472
473             /* determine if new rematrixing flags will be sent */
474             if (blk &&
475                 block->rematrixing_flags[bnd] != block0->rematrixing_flags[bnd]) {
476                 block->new_rematrixing_strategy = 1;
477             }
478         }
479         block0 = block;
480     }
481 }
482
483
484 /**
485  * Apply stereo rematrixing to coefficients based on rematrixing flags.
486  */
487 static void apply_rematrixing(AC3EncodeContext *s)
488 {
489     int nb_coefs;
490     int blk, bnd, i;
491     int start, end;
492     uint8_t *flags;
493
494     if (!s->rematrixing_enabled)
495         return;
496
497     nb_coefs = FFMIN(s->nb_coefs[0], s->nb_coefs[1]);
498
499     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
500         AC3Block *block = &s->blocks[blk];
501         if (block->new_rematrixing_strategy)
502             flags = block->rematrixing_flags;
503         for (bnd = 0; bnd < s->num_rematrixing_bands; bnd++) {
504             if (flags[bnd]) {
505                 start = ff_ac3_rematrix_band_tab[bnd];
506                 end   = FFMIN(nb_coefs, ff_ac3_rematrix_band_tab[bnd+1]);
507                 for (i = start; i < end; i++) {
508                     int32_t lt = block->fixed_coef[0][i];
509                     int32_t rt = block->fixed_coef[1][i];
510                     block->fixed_coef[0][i] = (lt + rt) >> 1;
511                     block->fixed_coef[1][i] = (lt - rt) >> 1;
512                 }
513             }
514         }
515     }
516 }
517
518
519 /**
520  * Initialize exponent tables.
521  */
522 static av_cold void exponent_init(AC3EncodeContext *s)
523 {
524     int expstr, i, grpsize;
525
526     for (expstr = EXP_D15-1; expstr <= EXP_D45-1; expstr++) {
527         grpsize = 3 << expstr;
528         for (i = 73; i < 256; i++) {
529             exponent_group_tab[expstr][i] = (i + grpsize - 4) / grpsize;
530         }
531     }
532     /* LFE */
533     exponent_group_tab[0][7] = 2;
534 }
535
536
537 /**
538  * Extract exponents from the MDCT coefficients.
539  * This takes into account the normalization that was done to the input samples
540  * by adjusting the exponents by the exponent shift values.
541  */
542 static void extract_exponents(AC3EncodeContext *s)
543 {
544     int blk, ch;
545
546     for (ch = 0; ch < s->channels; ch++) {
547         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
548             AC3Block *block = &s->blocks[blk];
549             s->ac3dsp.extract_exponents(block->exp[ch], block->fixed_coef[ch],
550                                         AC3_MAX_COEFS);
551         }
552     }
553 }
554
555
556 /**
557  * Exponent Difference Threshold.
558  * New exponents are sent if their SAD exceed this number.
559  */
560 #define EXP_DIFF_THRESHOLD 500
561
562
563 /**
564  * Calculate exponent strategies for all channels.
565  * Array arrangement is reversed to simplify the per-channel calculation.
566  */
567 static void compute_exp_strategy(AC3EncodeContext *s)
568 {
569     int ch, blk, blk1;
570
571     for (ch = 0; ch < s->fbw_channels; ch++) {
572         uint8_t *exp_strategy = s->exp_strategy[ch];
573         uint8_t *exp          = s->blocks[0].exp[ch];
574         int exp_diff;
575
576         /* estimate if the exponent variation & decide if they should be
577            reused in the next frame */
578         exp_strategy[0] = EXP_NEW;
579         exp += AC3_MAX_COEFS;
580         for (blk = 1; blk < AC3_MAX_BLOCKS; blk++) {
581             exp_diff = s->dsp.sad[0](NULL, exp, exp - AC3_MAX_COEFS, 16, 16);
582             if (exp_diff > EXP_DIFF_THRESHOLD)
583                 exp_strategy[blk] = EXP_NEW;
584             else
585                 exp_strategy[blk] = EXP_REUSE;
586             exp += AC3_MAX_COEFS;
587         }
588
589         /* now select the encoding strategy type : if exponents are often
590            recoded, we use a coarse encoding */
591         blk = 0;
592         while (blk < AC3_MAX_BLOCKS) {
593             blk1 = blk + 1;
594             while (blk1 < AC3_MAX_BLOCKS && exp_strategy[blk1] == EXP_REUSE)
595                 blk1++;
596             switch (blk1 - blk) {
597             case 1:  exp_strategy[blk] = EXP_D45; break;
598             case 2:
599             case 3:  exp_strategy[blk] = EXP_D25; break;
600             default: exp_strategy[blk] = EXP_D15; break;
601             }
602             blk = blk1;
603         }
604     }
605     if (s->lfe_on) {
606         ch = s->lfe_channel;
607         s->exp_strategy[ch][0] = EXP_D15;
608         for (blk = 1; blk < AC3_MAX_BLOCKS; blk++)
609             s->exp_strategy[ch][blk] = EXP_REUSE;
610     }
611 }
612
613
614 /**
615  * Update the exponents so that they are the ones the decoder will decode.
616  */
617 static void encode_exponents_blk_ch(uint8_t *exp, int nb_exps, int exp_strategy)
618 {
619     int nb_groups, i, k;
620
621     nb_groups = exponent_group_tab[exp_strategy-1][nb_exps] * 3;
622
623     /* for each group, compute the minimum exponent */
624     switch(exp_strategy) {
625     case EXP_D25:
626         for (i = 1, k = 1; i <= nb_groups; i++) {
627             uint8_t exp_min = exp[k];
628             if (exp[k+1] < exp_min)
629                 exp_min = exp[k+1];
630             exp[i] = exp_min;
631             k += 2;
632         }
633         break;
634     case EXP_D45:
635         for (i = 1, k = 1; i <= nb_groups; i++) {
636             uint8_t exp_min = exp[k];
637             if (exp[k+1] < exp_min)
638                 exp_min = exp[k+1];
639             if (exp[k+2] < exp_min)
640                 exp_min = exp[k+2];
641             if (exp[k+3] < exp_min)
642                 exp_min = exp[k+3];
643             exp[i] = exp_min;
644             k += 4;
645         }
646         break;
647     }
648
649     /* constraint for DC exponent */
650     if (exp[0] > 15)
651         exp[0] = 15;
652
653     /* decrease the delta between each groups to within 2 so that they can be
654        differentially encoded */
655     for (i = 1; i <= nb_groups; i++)
656         exp[i] = FFMIN(exp[i], exp[i-1] + 2);
657     i--;
658     while (--i >= 0)
659         exp[i] = FFMIN(exp[i], exp[i+1] + 2);
660
661     /* now we have the exponent values the decoder will see */
662     switch (exp_strategy) {
663     case EXP_D25:
664         for (i = nb_groups, k = nb_groups * 2; i > 0; i--) {
665             uint8_t exp1 = exp[i];
666             exp[k--] = exp1;
667             exp[k--] = exp1;
668         }
669         break;
670     case EXP_D45:
671         for (i = nb_groups, k = nb_groups * 4; i > 0; i--) {
672             exp[k] = exp[k-1] = exp[k-2] = exp[k-3] = exp[i];
673             k -= 4;
674         }
675         break;
676     }
677 }
678
679
680 /**
681  * Encode exponents from original extracted form to what the decoder will see.
682  * This copies and groups exponents based on exponent strategy and reduces
683  * deltas between adjacent exponent groups so that they can be differentially
684  * encoded.
685  */
686 static void encode_exponents(AC3EncodeContext *s)
687 {
688     int blk, blk1, ch;
689     uint8_t *exp, *exp_strategy;
690     int nb_coefs, num_reuse_blocks;
691
692     for (ch = 0; ch < s->channels; ch++) {
693         exp          = s->blocks[0].exp[ch];
694         exp_strategy = s->exp_strategy[ch];
695         nb_coefs     = s->nb_coefs[ch];
696
697         blk = 0;
698         while (blk < AC3_MAX_BLOCKS) {
699             blk1 = blk + 1;
700
701             /* count the number of EXP_REUSE blocks after the current block
702                and set exponent reference block pointers */
703             s->blocks[blk].exp_ref_block[ch] = &s->blocks[blk];
704             while (blk1 < AC3_MAX_BLOCKS && exp_strategy[blk1] == EXP_REUSE) {
705                 s->blocks[blk1].exp_ref_block[ch] = &s->blocks[blk];
706                 blk1++;
707             }
708             num_reuse_blocks = blk1 - blk - 1;
709
710             /* for the EXP_REUSE case we select the min of the exponents */
711             s->ac3dsp.ac3_exponent_min(exp, num_reuse_blocks, nb_coefs);
712
713             encode_exponents_blk_ch(exp, nb_coefs, exp_strategy[blk]);
714
715             exp += AC3_MAX_COEFS * (num_reuse_blocks + 1);
716             blk = blk1;
717         }
718     }
719 }
720
721
722 /**
723  * Group exponents.
724  * 3 delta-encoded exponents are in each 7-bit group. The number of groups
725  * varies depending on exponent strategy and bandwidth.
726  */
727 static void group_exponents(AC3EncodeContext *s)
728 {
729     int blk, ch, i;
730     int group_size, nb_groups, bit_count;
731     uint8_t *p;
732     int delta0, delta1, delta2;
733     int exp0, exp1;
734
735     bit_count = 0;
736     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
737         AC3Block *block = &s->blocks[blk];
738         for (ch = 0; ch < s->channels; ch++) {
739             int exp_strategy = s->exp_strategy[ch][blk];
740             if (exp_strategy == EXP_REUSE)
741                 continue;
742             group_size = exp_strategy + (exp_strategy == EXP_D45);
743             nb_groups = exponent_group_tab[exp_strategy-1][s->nb_coefs[ch]];
744             bit_count += 4 + (nb_groups * 7);
745             p = block->exp[ch];
746
747             /* DC exponent */
748             exp1 = *p++;
749             block->grouped_exp[ch][0] = exp1;
750
751             /* remaining exponents are delta encoded */
752             for (i = 1; i <= nb_groups; i++) {
753                 /* merge three delta in one code */
754                 exp0   = exp1;
755                 exp1   = p[0];
756                 p     += group_size;
757                 delta0 = exp1 - exp0 + 2;
758                 av_assert2(delta0 >= 0 && delta0 <= 4);
759
760                 exp0   = exp1;
761                 exp1   = p[0];
762                 p     += group_size;
763                 delta1 = exp1 - exp0 + 2;
764                 av_assert2(delta1 >= 0 && delta1 <= 4);
765
766                 exp0   = exp1;
767                 exp1   = p[0];
768                 p     += group_size;
769                 delta2 = exp1 - exp0 + 2;
770                 av_assert2(delta2 >= 0 && delta2 <= 4);
771
772                 block->grouped_exp[ch][i] = ((delta0 * 5 + delta1) * 5) + delta2;
773             }
774         }
775     }
776
777     s->exponent_bits = bit_count;
778 }
779
780
781 /**
782  * Calculate final exponents from the supplied MDCT coefficients and exponent shift.
783  * Extract exponents from MDCT coefficients, calculate exponent strategies,
784  * and encode final exponents.
785  */
786 static void process_exponents(AC3EncodeContext *s)
787 {
788     extract_exponents(s);
789
790     compute_exp_strategy(s);
791
792     encode_exponents(s);
793
794     group_exponents(s);
795
796     emms_c();
797 }
798
799
800 /**
801  * Count frame bits that are based solely on fixed parameters.
802  * This only has to be run once when the encoder is initialized.
803  */
804 static void count_frame_bits_fixed(AC3EncodeContext *s)
805 {
806     static const int frame_bits_inc[8] = { 0, 0, 2, 2, 2, 4, 2, 4 };
807     int blk;
808     int frame_bits;
809
810     /* assumptions:
811      *   no dynamic range codes
812      *   no channel coupling
813      *   bit allocation parameters do not change between blocks
814      *   SNR offsets do not change between blocks
815      *   no delta bit allocation
816      *   no skipped data
817      *   no auxilliary data
818      */
819
820     /* header size */
821     frame_bits = 65;
822     frame_bits += frame_bits_inc[s->channel_mode];
823
824     /* audio blocks */
825     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
826         frame_bits += s->fbw_channels * 2 + 2; /* blksw * c, dithflag * c, dynrnge, cplstre */
827         if (s->channel_mode == AC3_CHMODE_STEREO) {
828             frame_bits++; /* rematstr */
829         }
830         frame_bits += 2 * s->fbw_channels; /* chexpstr[2] * c */
831         if (s->lfe_on)
832             frame_bits++; /* lfeexpstr */
833         frame_bits++; /* baie */
834         frame_bits++; /* snr */
835         frame_bits += 2; /* delta / skip */
836     }
837     frame_bits++; /* cplinu for block 0 */
838     /* bit alloc info */
839     /* sdcycod[2], fdcycod[2], sgaincod[2], dbpbcod[2], floorcod[3] */
840     /* csnroffset[6] */
841     /* (fsnoffset[4] + fgaincod[4]) * c */
842     frame_bits += 2*4 + 3 + 6 + s->channels * (4 + 3);
843
844     /* auxdatae, crcrsv */
845     frame_bits += 2;
846
847     /* CRC */
848     frame_bits += 16;
849
850     s->frame_bits_fixed = frame_bits;
851 }
852
853
854 /**
855  * Initialize bit allocation.
856  * Set default parameter codes and calculate parameter values.
857  */
858 static void bit_alloc_init(AC3EncodeContext *s)
859 {
860     int ch;
861
862     /* init default parameters */
863     s->slow_decay_code = 2;
864     s->fast_decay_code = 1;
865     s->slow_gain_code  = 1;
866     s->db_per_bit_code = 3;
867     s->floor_code      = 7;
868     for (ch = 0; ch < s->channels; ch++)
869         s->fast_gain_code[ch] = 4;
870
871     /* initial snr offset */
872     s->coarse_snr_offset = 40;
873
874     /* compute real values */
875     /* currently none of these values change during encoding, so we can just
876        set them once at initialization */
877     s->bit_alloc.slow_decay = ff_ac3_slow_decay_tab[s->slow_decay_code] >> s->bit_alloc.sr_shift;
878     s->bit_alloc.fast_decay = ff_ac3_fast_decay_tab[s->fast_decay_code] >> s->bit_alloc.sr_shift;
879     s->bit_alloc.slow_gain  = ff_ac3_slow_gain_tab[s->slow_gain_code];
880     s->bit_alloc.db_per_bit = ff_ac3_db_per_bit_tab[s->db_per_bit_code];
881     s->bit_alloc.floor      = ff_ac3_floor_tab[s->floor_code];
882
883     count_frame_bits_fixed(s);
884 }
885
886
887 /**
888  * Count the bits used to encode the frame, minus exponents and mantissas.
889  * Bits based on fixed parameters have already been counted, so now we just
890  * have to add the bits based on parameters that change during encoding.
891  */
892 static void count_frame_bits(AC3EncodeContext *s)
893 {
894     AC3EncOptions *opt = &s->options;
895     int blk, ch;
896     int frame_bits = 0;
897
898     if (opt->audio_production_info)
899         frame_bits += 7;
900     if (s->bitstream_id == 6) {
901         if (opt->extended_bsi_1)
902             frame_bits += 14;
903         if (opt->extended_bsi_2)
904             frame_bits += 14;
905     }
906
907     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
908         /* stereo rematrixing */
909         if (s->channel_mode == AC3_CHMODE_STEREO &&
910             s->blocks[blk].new_rematrixing_strategy) {
911             frame_bits += s->num_rematrixing_bands;
912         }
913
914         for (ch = 0; ch < s->fbw_channels; ch++) {
915             if (s->exp_strategy[ch][blk] != EXP_REUSE)
916                 frame_bits += 6 + 2; /* chbwcod[6], gainrng[2] */
917         }
918     }
919     s->frame_bits = s->frame_bits_fixed + frame_bits;
920 }
921
922
923 /**
924  * Finalize the mantissa bit count by adding in the grouped mantissas.
925  */
926 static int compute_mantissa_size_final(int mant_cnt[5])
927 {
928     // bap=1 : 3 mantissas in 5 bits
929     int bits = (mant_cnt[1] / 3) * 5;
930     // bap=2 : 3 mantissas in 7 bits
931     // bap=4 : 2 mantissas in 7 bits
932     bits += ((mant_cnt[2] / 3) + (mant_cnt[4] >> 1)) * 7;
933     // bap=3 : each mantissa is 3 bits
934     bits += mant_cnt[3] * 3;
935     return bits;
936 }
937
938
939 /**
940  * Calculate masking curve based on the final exponents.
941  * Also calculate the power spectral densities to use in future calculations.
942  */
943 static void bit_alloc_masking(AC3EncodeContext *s)
944 {
945     int blk, ch;
946
947     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
948         AC3Block *block = &s->blocks[blk];
949         for (ch = 0; ch < s->channels; ch++) {
950             /* We only need psd and mask for calculating bap.
951                Since we currently do not calculate bap when exponent
952                strategy is EXP_REUSE we do not need to calculate psd or mask. */
953             if (s->exp_strategy[ch][blk] != EXP_REUSE) {
954                 ff_ac3_bit_alloc_calc_psd(block->exp[ch], 0,
955                                           s->nb_coefs[ch],
956                                           block->psd[ch], block->band_psd[ch]);
957                 ff_ac3_bit_alloc_calc_mask(&s->bit_alloc, block->band_psd[ch],
958                                            0, s->nb_coefs[ch],
959                                            ff_ac3_fast_gain_tab[s->fast_gain_code[ch]],
960                                            ch == s->lfe_channel,
961                                            DBA_NONE, 0, NULL, NULL, NULL,
962                                            block->mask[ch]);
963             }
964         }
965     }
966 }
967
968
969 /**
970  * Ensure that bap for each block and channel point to the current bap_buffer.
971  * They may have been switched during the bit allocation search.
972  */
973 static void reset_block_bap(AC3EncodeContext *s)
974 {
975     int blk, ch;
976     if (s->blocks[0].bap[0] == s->bap_buffer)
977         return;
978     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
979         for (ch = 0; ch < s->channels; ch++) {
980             s->blocks[blk].bap[ch] = &s->bap_buffer[AC3_MAX_COEFS * (blk * s->channels + ch)];
981         }
982     }
983 }
984
985
986 /**
987  * Run the bit allocation with a given SNR offset.
988  * This calculates the bit allocation pointers that will be used to determine
989  * the quantization of each mantissa.
990  * @return the number of bits needed for mantissas if the given SNR offset is
991  *         is used.
992  */
993 static int bit_alloc(AC3EncodeContext *s, int snr_offset)
994 {
995     int blk, ch;
996     int mantissa_bits;
997     int mant_cnt[5];
998
999     snr_offset = (snr_offset - 240) << 2;
1000
1001     reset_block_bap(s);
1002     mantissa_bits = 0;
1003     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1004         AC3Block *block = &s->blocks[blk];
1005         AC3Block *ref_block;
1006         // initialize grouped mantissa counts. these are set so that they are
1007         // padded to the next whole group size when bits are counted in
1008         // compute_mantissa_size_final
1009         mant_cnt[0] = mant_cnt[3] = 0;
1010         mant_cnt[1] = mant_cnt[2] = 2;
1011         mant_cnt[4] = 1;
1012         for (ch = 0; ch < s->channels; ch++) {
1013             /* Currently the only bit allocation parameters which vary across
1014                blocks within a frame are the exponent values.  We can take
1015                advantage of that by reusing the bit allocation pointers
1016                whenever we reuse exponents. */
1017             ref_block = block->exp_ref_block[ch];
1018             if (s->exp_strategy[ch][blk] != EXP_REUSE) {
1019                 s->ac3dsp.bit_alloc_calc_bap(ref_block->mask[ch],
1020                                              ref_block->psd[ch], 0,
1021                                              s->nb_coefs[ch], snr_offset,
1022                                              s->bit_alloc.floor, ff_ac3_bap_tab,
1023                                              ref_block->bap[ch]);
1024             }
1025             mantissa_bits += s->ac3dsp.compute_mantissa_size(mant_cnt,
1026                                                              ref_block->bap[ch],
1027                                                              s->nb_coefs[ch]);
1028         }
1029         mantissa_bits += compute_mantissa_size_final(mant_cnt);
1030     }
1031     return mantissa_bits;
1032 }
1033
1034
1035 /**
1036  * Constant bitrate bit allocation search.
1037  * Find the largest SNR offset that will allow data to fit in the frame.
1038  */
1039 static int cbr_bit_allocation(AC3EncodeContext *s)
1040 {
1041     int ch;
1042     int bits_left;
1043     int snr_offset, snr_incr;
1044
1045     bits_left = 8 * s->frame_size - (s->frame_bits + s->exponent_bits);
1046     if (bits_left < 0)
1047         return AVERROR(EINVAL);
1048
1049     snr_offset = s->coarse_snr_offset << 4;
1050
1051     /* if previous frame SNR offset was 1023, check if current frame can also
1052        use SNR offset of 1023. if so, skip the search. */
1053     if ((snr_offset | s->fine_snr_offset[0]) == 1023) {
1054         if (bit_alloc(s, 1023) <= bits_left)
1055             return 0;
1056     }
1057
1058     while (snr_offset >= 0 &&
1059            bit_alloc(s, snr_offset) > bits_left) {
1060         snr_offset -= 64;
1061     }
1062     if (snr_offset < 0)
1063         return AVERROR(EINVAL);
1064
1065     FFSWAP(uint8_t *, s->bap_buffer, s->bap1_buffer);
1066     for (snr_incr = 64; snr_incr > 0; snr_incr >>= 2) {
1067         while (snr_offset + snr_incr <= 1023 &&
1068                bit_alloc(s, snr_offset + snr_incr) <= bits_left) {
1069             snr_offset += snr_incr;
1070             FFSWAP(uint8_t *, s->bap_buffer, s->bap1_buffer);
1071         }
1072     }
1073     FFSWAP(uint8_t *, s->bap_buffer, s->bap1_buffer);
1074     reset_block_bap(s);
1075
1076     s->coarse_snr_offset = snr_offset >> 4;
1077     for (ch = 0; ch < s->channels; ch++)
1078         s->fine_snr_offset[ch] = snr_offset & 0xF;
1079
1080     return 0;
1081 }
1082
1083
1084 /**
1085  * Downgrade exponent strategies to reduce the bits used by the exponents.
1086  * This is a fallback for when bit allocation fails with the normal exponent
1087  * strategies.  Each time this function is run it only downgrades the
1088  * strategy in 1 channel of 1 block.
1089  * @return non-zero if downgrade was unsuccessful
1090  */
1091 static int downgrade_exponents(AC3EncodeContext *s)
1092 {
1093     int ch, blk;
1094
1095     for (ch = 0; ch < s->fbw_channels; ch++) {
1096         for (blk = AC3_MAX_BLOCKS-1; blk >= 0; blk--) {
1097             if (s->exp_strategy[ch][blk] == EXP_D15) {
1098                 s->exp_strategy[ch][blk] = EXP_D25;
1099                 return 0;
1100             }
1101         }
1102     }
1103     for (ch = 0; ch < s->fbw_channels; ch++) {
1104         for (blk = AC3_MAX_BLOCKS-1; blk >= 0; blk--) {
1105             if (s->exp_strategy[ch][blk] == EXP_D25) {
1106                 s->exp_strategy[ch][blk] = EXP_D45;
1107                 return 0;
1108             }
1109         }
1110     }
1111     for (ch = 0; ch < s->fbw_channels; ch++) {
1112         /* block 0 cannot reuse exponents, so only downgrade D45 to REUSE if
1113            the block number > 0 */
1114         for (blk = AC3_MAX_BLOCKS-1; blk > 0; blk--) {
1115             if (s->exp_strategy[ch][blk] > EXP_REUSE) {
1116                 s->exp_strategy[ch][blk] = EXP_REUSE;
1117                 return 0;
1118             }
1119         }
1120     }
1121     return -1;
1122 }
1123
1124
1125 /**
1126  * Reduce the bandwidth to reduce the number of bits used for a given SNR offset.
1127  * This is a second fallback for when bit allocation still fails after exponents
1128  * have been downgraded.
1129  * @return non-zero if bandwidth reduction was unsuccessful
1130  */
1131 static int reduce_bandwidth(AC3EncodeContext *s, int min_bw_code)
1132 {
1133     int ch;
1134
1135     if (s->bandwidth_code[0] > min_bw_code) {
1136         for (ch = 0; ch < s->fbw_channels; ch++) {
1137             s->bandwidth_code[ch]--;
1138             s->nb_coefs[ch] = s->bandwidth_code[ch] * 3 + 73;
1139         }
1140         return 0;
1141     }
1142     return -1;
1143 }
1144
1145
1146 /**
1147  * Perform bit allocation search.
1148  * Finds the SNR offset value that maximizes quality and fits in the specified
1149  * frame size.  Output is the SNR offset and a set of bit allocation pointers
1150  * used to quantize the mantissas.
1151  */
1152 static int compute_bit_allocation(AC3EncodeContext *s)
1153 {
1154     int ret;
1155
1156     count_frame_bits(s);
1157
1158     bit_alloc_masking(s);
1159
1160     ret = cbr_bit_allocation(s);
1161     while (ret) {
1162         /* fallback 1: downgrade exponents */
1163         if (!downgrade_exponents(s)) {
1164             extract_exponents(s);
1165             encode_exponents(s);
1166             group_exponents(s);
1167             ret = compute_bit_allocation(s);
1168             continue;
1169         }
1170
1171         /* fallback 2: reduce bandwidth */
1172         /* only do this if the user has not specified a specific cutoff
1173            frequency */
1174         if (!s->cutoff && !reduce_bandwidth(s, 0)) {
1175             process_exponents(s);
1176             ret = compute_bit_allocation(s);
1177             continue;
1178         }
1179
1180         /* fallbacks were not enough... */
1181         break;
1182     }
1183
1184     return ret;
1185 }
1186
1187
1188 /**
1189  * Symmetric quantization on 'levels' levels.
1190  */
1191 static inline int sym_quant(int c, int e, int levels)
1192 {
1193     int v = (((levels * c) >> (24 - e)) + levels) >> 1;
1194     av_assert2(v >= 0 && v < levels);
1195     return v;
1196 }
1197
1198
1199 /**
1200  * Asymmetric quantization on 2^qbits levels.
1201  */
1202 static inline int asym_quant(int c, int e, int qbits)
1203 {
1204     int lshift, m, v;
1205
1206     lshift = e + qbits - 24;
1207     if (lshift >= 0)
1208         v = c << lshift;
1209     else
1210         v = c >> (-lshift);
1211     /* rounding */
1212     v = (v + 1) >> 1;
1213     m = (1 << (qbits-1));
1214     if (v >= m)
1215         v = m - 1;
1216     av_assert2(v >= -m);
1217     return v & ((1 << qbits)-1);
1218 }
1219
1220
1221 /**
1222  * Quantize a set of mantissas for a single channel in a single block.
1223  */
1224 static void quantize_mantissas_blk_ch(AC3Mant *s, int32_t *fixed_coef,
1225                                       uint8_t *exp,
1226                                       uint8_t *bap, uint16_t *qmant, int n)
1227 {
1228     int i;
1229
1230     for (i = 0; i < n; i++) {
1231         int v;
1232         int c = fixed_coef[i];
1233         int e = exp[i];
1234         int b = bap[i];
1235         switch (b) {
1236         case 0:
1237             v = 0;
1238             break;
1239         case 1:
1240             v = sym_quant(c, e, 3);
1241             switch (s->mant1_cnt) {
1242             case 0:
1243                 s->qmant1_ptr = &qmant[i];
1244                 v = 9 * v;
1245                 s->mant1_cnt = 1;
1246                 break;
1247             case 1:
1248                 *s->qmant1_ptr += 3 * v;
1249                 s->mant1_cnt = 2;
1250                 v = 128;
1251                 break;
1252             default:
1253                 *s->qmant1_ptr += v;
1254                 s->mant1_cnt = 0;
1255                 v = 128;
1256                 break;
1257             }
1258             break;
1259         case 2:
1260             v = sym_quant(c, e, 5);
1261             switch (s->mant2_cnt) {
1262             case 0:
1263                 s->qmant2_ptr = &qmant[i];
1264                 v = 25 * v;
1265                 s->mant2_cnt = 1;
1266                 break;
1267             case 1:
1268                 *s->qmant2_ptr += 5 * v;
1269                 s->mant2_cnt = 2;
1270                 v = 128;
1271                 break;
1272             default:
1273                 *s->qmant2_ptr += v;
1274                 s->mant2_cnt = 0;
1275                 v = 128;
1276                 break;
1277             }
1278             break;
1279         case 3:
1280             v = sym_quant(c, e, 7);
1281             break;
1282         case 4:
1283             v = sym_quant(c, e, 11);
1284             switch (s->mant4_cnt) {
1285             case 0:
1286                 s->qmant4_ptr = &qmant[i];
1287                 v = 11 * v;
1288                 s->mant4_cnt = 1;
1289                 break;
1290             default:
1291                 *s->qmant4_ptr += v;
1292                 s->mant4_cnt = 0;
1293                 v = 128;
1294                 break;
1295             }
1296             break;
1297         case 5:
1298             v = sym_quant(c, e, 15);
1299             break;
1300         case 14:
1301             v = asym_quant(c, e, 14);
1302             break;
1303         case 15:
1304             v = asym_quant(c, e, 16);
1305             break;
1306         default:
1307             v = asym_quant(c, e, b - 1);
1308             break;
1309         }
1310         qmant[i] = v;
1311     }
1312 }
1313
1314
1315 /**
1316  * Quantize mantissas using coefficients, exponents, and bit allocation pointers.
1317  */
1318 static void quantize_mantissas(AC3EncodeContext *s)
1319 {
1320     int blk, ch;
1321
1322
1323     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1324         AC3Block *block = &s->blocks[blk];
1325         AC3Block *ref_block;
1326         AC3Mant m = { 0 };
1327
1328         for (ch = 0; ch < s->channels; ch++) {
1329             ref_block = block->exp_ref_block[ch];
1330             quantize_mantissas_blk_ch(&m, block->fixed_coef[ch],
1331                                       ref_block->exp[ch], ref_block->bap[ch],
1332                                       block->qmant[ch], s->nb_coefs[ch]);
1333         }
1334     }
1335 }
1336
1337
1338 /**
1339  * Write the AC-3 frame header to the output bitstream.
1340  */
1341 static void output_frame_header(AC3EncodeContext *s)
1342 {
1343     AC3EncOptions *opt = &s->options;
1344
1345     put_bits(&s->pb, 16, 0x0b77);   /* frame header */
1346     put_bits(&s->pb, 16, 0);        /* crc1: will be filled later */
1347     put_bits(&s->pb, 2,  s->bit_alloc.sr_code);
1348     put_bits(&s->pb, 6,  s->frame_size_code + (s->frame_size - s->frame_size_min) / 2);
1349     put_bits(&s->pb, 5,  s->bitstream_id);
1350     put_bits(&s->pb, 3,  s->bitstream_mode);
1351     put_bits(&s->pb, 3,  s->channel_mode);
1352     if ((s->channel_mode & 0x01) && s->channel_mode != AC3_CHMODE_MONO)
1353         put_bits(&s->pb, 2, s->center_mix_level);
1354     if (s->channel_mode & 0x04)
1355         put_bits(&s->pb, 2, s->surround_mix_level);
1356     if (s->channel_mode == AC3_CHMODE_STEREO)
1357         put_bits(&s->pb, 2, opt->dolby_surround_mode);
1358     put_bits(&s->pb, 1, s->lfe_on); /* LFE */
1359     put_bits(&s->pb, 5, -opt->dialogue_level);
1360     put_bits(&s->pb, 1, 0);         /* no compression control word */
1361     put_bits(&s->pb, 1, 0);         /* no lang code */
1362     put_bits(&s->pb, 1, opt->audio_production_info);
1363     if (opt->audio_production_info) {
1364         put_bits(&s->pb, 5, opt->mixing_level - 80);
1365         put_bits(&s->pb, 2, opt->room_type);
1366     }
1367     put_bits(&s->pb, 1, opt->copyright);
1368     put_bits(&s->pb, 1, opt->original);
1369     if (s->bitstream_id == 6) {
1370         /* alternate bit stream syntax */
1371         put_bits(&s->pb, 1, opt->extended_bsi_1);
1372         if (opt->extended_bsi_1) {
1373             put_bits(&s->pb, 2, opt->preferred_stereo_downmix);
1374             put_bits(&s->pb, 3, s->ltrt_center_mix_level);
1375             put_bits(&s->pb, 3, s->ltrt_surround_mix_level);
1376             put_bits(&s->pb, 3, s->loro_center_mix_level);
1377             put_bits(&s->pb, 3, s->loro_surround_mix_level);
1378         }
1379         put_bits(&s->pb, 1, opt->extended_bsi_2);
1380         if (opt->extended_bsi_2) {
1381             put_bits(&s->pb, 2, opt->dolby_surround_ex_mode);
1382             put_bits(&s->pb, 2, opt->dolby_headphone_mode);
1383             put_bits(&s->pb, 1, opt->ad_converter_type);
1384             put_bits(&s->pb, 9, 0);     /* xbsi2 and encinfo : reserved */
1385         }
1386     } else {
1387     put_bits(&s->pb, 1, 0);         /* no time code 1 */
1388     put_bits(&s->pb, 1, 0);         /* no time code 2 */
1389     }
1390     put_bits(&s->pb, 1, 0);         /* no additional bit stream info */
1391 }
1392
1393
1394 /**
1395  * Write one audio block to the output bitstream.
1396  */
1397 static void output_audio_block(AC3EncodeContext *s, int blk)
1398 {
1399     int ch, i, baie, rbnd;
1400     AC3Block *block = &s->blocks[blk];
1401
1402     /* block switching */
1403     for (ch = 0; ch < s->fbw_channels; ch++)
1404         put_bits(&s->pb, 1, 0);
1405
1406     /* dither flags */
1407     for (ch = 0; ch < s->fbw_channels; ch++)
1408         put_bits(&s->pb, 1, 1);
1409
1410     /* dynamic range codes */
1411     put_bits(&s->pb, 1, 0);
1412
1413     /* channel coupling */
1414     if (!blk) {
1415         put_bits(&s->pb, 1, 1); /* coupling strategy present */
1416         put_bits(&s->pb, 1, 0); /* no coupling strategy */
1417     } else {
1418         put_bits(&s->pb, 1, 0); /* no new coupling strategy */
1419     }
1420
1421     /* stereo rematrixing */
1422     if (s->channel_mode == AC3_CHMODE_STEREO) {
1423         put_bits(&s->pb, 1, block->new_rematrixing_strategy);
1424         if (block->new_rematrixing_strategy) {
1425             /* rematrixing flags */
1426             for (rbnd = 0; rbnd < s->num_rematrixing_bands; rbnd++)
1427                 put_bits(&s->pb, 1, block->rematrixing_flags[rbnd]);
1428         }
1429     }
1430
1431     /* exponent strategy */
1432     for (ch = 0; ch < s->fbw_channels; ch++)
1433         put_bits(&s->pb, 2, s->exp_strategy[ch][blk]);
1434     if (s->lfe_on)
1435         put_bits(&s->pb, 1, s->exp_strategy[s->lfe_channel][blk]);
1436
1437     /* bandwidth */
1438     for (ch = 0; ch < s->fbw_channels; ch++) {
1439         if (s->exp_strategy[ch][blk] != EXP_REUSE)
1440             put_bits(&s->pb, 6, s->bandwidth_code[ch]);
1441     }
1442
1443     /* exponents */
1444     for (ch = 0; ch < s->channels; ch++) {
1445         int nb_groups;
1446
1447         if (s->exp_strategy[ch][blk] == EXP_REUSE)
1448             continue;
1449
1450         /* DC exponent */
1451         put_bits(&s->pb, 4, block->grouped_exp[ch][0]);
1452
1453         /* exponent groups */
1454         nb_groups = exponent_group_tab[s->exp_strategy[ch][blk]-1][s->nb_coefs[ch]];
1455         for (i = 1; i <= nb_groups; i++)
1456             put_bits(&s->pb, 7, block->grouped_exp[ch][i]);
1457
1458         /* gain range info */
1459         if (ch != s->lfe_channel)
1460             put_bits(&s->pb, 2, 0);
1461     }
1462
1463     /* bit allocation info */
1464     baie = (blk == 0);
1465     put_bits(&s->pb, 1, baie);
1466     if (baie) {
1467         put_bits(&s->pb, 2, s->slow_decay_code);
1468         put_bits(&s->pb, 2, s->fast_decay_code);
1469         put_bits(&s->pb, 2, s->slow_gain_code);
1470         put_bits(&s->pb, 2, s->db_per_bit_code);
1471         put_bits(&s->pb, 3, s->floor_code);
1472     }
1473
1474     /* snr offset */
1475     put_bits(&s->pb, 1, baie);
1476     if (baie) {
1477         put_bits(&s->pb, 6, s->coarse_snr_offset);
1478         for (ch = 0; ch < s->channels; ch++) {
1479             put_bits(&s->pb, 4, s->fine_snr_offset[ch]);
1480             put_bits(&s->pb, 3, s->fast_gain_code[ch]);
1481         }
1482     }
1483
1484     put_bits(&s->pb, 1, 0); /* no delta bit allocation */
1485     put_bits(&s->pb, 1, 0); /* no data to skip */
1486
1487     /* mantissas */
1488     for (ch = 0; ch < s->channels; ch++) {
1489         int b, q;
1490         AC3Block *ref_block = block->exp_ref_block[ch];
1491         for (i = 0; i < s->nb_coefs[ch]; i++) {
1492             q = block->qmant[ch][i];
1493             b = ref_block->bap[ch][i];
1494             switch (b) {
1495             case 0:                                         break;
1496             case 1: if (q != 128) put_bits(&s->pb,   5, q); break;
1497             case 2: if (q != 128) put_bits(&s->pb,   7, q); break;
1498             case 3:               put_bits(&s->pb,   3, q); break;
1499             case 4: if (q != 128) put_bits(&s->pb,   7, q); break;
1500             case 14:              put_bits(&s->pb,  14, q); break;
1501             case 15:              put_bits(&s->pb,  16, q); break;
1502             default:              put_bits(&s->pb, b-1, q); break;
1503             }
1504         }
1505     }
1506 }
1507
1508
1509 /** CRC-16 Polynomial */
1510 #define CRC16_POLY ((1 << 0) | (1 << 2) | (1 << 15) | (1 << 16))
1511
1512
1513 static unsigned int mul_poly(unsigned int a, unsigned int b, unsigned int poly)
1514 {
1515     unsigned int c;
1516
1517     c = 0;
1518     while (a) {
1519         if (a & 1)
1520             c ^= b;
1521         a = a >> 1;
1522         b = b << 1;
1523         if (b & (1 << 16))
1524             b ^= poly;
1525     }
1526     return c;
1527 }
1528
1529
1530 static unsigned int pow_poly(unsigned int a, unsigned int n, unsigned int poly)
1531 {
1532     unsigned int r;
1533     r = 1;
1534     while (n) {
1535         if (n & 1)
1536             r = mul_poly(r, a, poly);
1537         a = mul_poly(a, a, poly);
1538         n >>= 1;
1539     }
1540     return r;
1541 }
1542
1543
1544 /**
1545  * Fill the end of the frame with 0's and compute the two CRCs.
1546  */
1547 static void output_frame_end(AC3EncodeContext *s)
1548 {
1549     const AVCRC *crc_ctx = av_crc_get_table(AV_CRC_16_ANSI);
1550     int frame_size_58, pad_bytes, crc1, crc2_partial, crc2, crc_inv;
1551     uint8_t *frame;
1552
1553     frame_size_58 = ((s->frame_size >> 2) + (s->frame_size >> 4)) << 1;
1554
1555     /* pad the remainder of the frame with zeros */
1556     av_assert2(s->frame_size * 8 - put_bits_count(&s->pb) >= 18);
1557     flush_put_bits(&s->pb);
1558     frame = s->pb.buf;
1559     pad_bytes = s->frame_size - (put_bits_ptr(&s->pb) - frame) - 2;
1560     av_assert2(pad_bytes >= 0);
1561     if (pad_bytes > 0)
1562         memset(put_bits_ptr(&s->pb), 0, pad_bytes);
1563
1564     /* compute crc1 */
1565     /* this is not so easy because it is at the beginning of the data... */
1566     crc1    = av_bswap16(av_crc(crc_ctx, 0, frame + 4, frame_size_58 - 4));
1567     crc_inv = s->crc_inv[s->frame_size > s->frame_size_min];
1568     crc1    = mul_poly(crc_inv, crc1, CRC16_POLY);
1569     AV_WB16(frame + 2, crc1);
1570
1571     /* compute crc2 */
1572     crc2_partial = av_crc(crc_ctx, 0, frame + frame_size_58,
1573                           s->frame_size - frame_size_58 - 3);
1574     crc2 = av_crc(crc_ctx, crc2_partial, frame + s->frame_size - 3, 1);
1575     /* ensure crc2 does not match sync word by flipping crcrsv bit if needed */
1576     if (crc2 == 0x770B) {
1577         frame[s->frame_size - 3] ^= 0x1;
1578         crc2 = av_crc(crc_ctx, crc2_partial, frame + s->frame_size - 3, 1);
1579     }
1580     crc2 = av_bswap16(crc2);
1581     AV_WB16(frame + s->frame_size - 2, crc2);
1582 }
1583
1584
1585 /**
1586  * Write the frame to the output bitstream.
1587  */
1588 static void output_frame(AC3EncodeContext *s, unsigned char *frame)
1589 {
1590     int blk;
1591
1592     init_put_bits(&s->pb, frame, AC3_MAX_CODED_FRAME_SIZE);
1593
1594     output_frame_header(s);
1595
1596     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++)
1597         output_audio_block(s, blk);
1598
1599     output_frame_end(s);
1600 }
1601
1602
1603 static void dprint_options(AVCodecContext *avctx)
1604 {
1605 #ifdef DEBUG
1606     AC3EncodeContext *s = avctx->priv_data;
1607     AC3EncOptions *opt = &s->options;
1608     char strbuf[32];
1609
1610     switch (s->bitstream_id) {
1611     case  6:  strncpy(strbuf, "AC-3 (alt syntax)", 32);      break;
1612     case  8:  strncpy(strbuf, "AC-3 (standard)", 32);        break;
1613     case  9:  strncpy(strbuf, "AC-3 (dnet half-rate)", 32);  break;
1614     case 10:  strncpy(strbuf, "AC-3 (dnet quater-rate", 32); break;
1615     default: snprintf(strbuf, 32, "ERROR");
1616     }
1617     av_dlog(avctx, "bitstream_id: %s (%d)\n", strbuf, s->bitstream_id);
1618     av_dlog(avctx, "sample_fmt: %s\n", av_get_sample_fmt_name(avctx->sample_fmt));
1619     av_get_channel_layout_string(strbuf, 32, s->channels, avctx->channel_layout);
1620     av_dlog(avctx, "channel_layout: %s\n", strbuf);
1621     av_dlog(avctx, "sample_rate: %d\n", s->sample_rate);
1622     av_dlog(avctx, "bit_rate: %d\n", s->bit_rate);
1623     if (s->cutoff)
1624         av_dlog(avctx, "cutoff: %d\n", s->cutoff);
1625
1626     av_dlog(avctx, "per_frame_metadata: %s\n",
1627             opt->allow_per_frame_metadata?"on":"off");
1628     if (s->has_center)
1629         av_dlog(avctx, "center_mixlev: %0.3f (%d)\n", opt->center_mix_level,
1630                 s->center_mix_level);
1631     else
1632         av_dlog(avctx, "center_mixlev: {not written}\n");
1633     if (s->has_surround)
1634         av_dlog(avctx, "surround_mixlev: %0.3f (%d)\n", opt->surround_mix_level,
1635                 s->surround_mix_level);
1636     else
1637         av_dlog(avctx, "surround_mixlev: {not written}\n");
1638     if (opt->audio_production_info) {
1639         av_dlog(avctx, "mixing_level: %ddB\n", opt->mixing_level);
1640         switch (opt->room_type) {
1641         case 0:  strncpy(strbuf, "notindicated", 32); break;
1642         case 1:  strncpy(strbuf, "large", 32);        break;
1643         case 2:  strncpy(strbuf, "small", 32);        break;
1644         default: snprintf(strbuf, 32, "ERROR (%d)", opt->room_type);
1645         }
1646         av_dlog(avctx, "room_type: %s\n", strbuf);
1647     } else {
1648         av_dlog(avctx, "mixing_level: {not written}\n");
1649         av_dlog(avctx, "room_type: {not written}\n");
1650     }
1651     av_dlog(avctx, "copyright: %s\n", opt->copyright?"on":"off");
1652     av_dlog(avctx, "dialnorm: %ddB\n", opt->dialogue_level);
1653     if (s->channel_mode == AC3_CHMODE_STEREO) {
1654         switch (opt->dolby_surround_mode) {
1655         case 0:  strncpy(strbuf, "notindicated", 32); break;
1656         case 1:  strncpy(strbuf, "on", 32);           break;
1657         case 2:  strncpy(strbuf, "off", 32);          break;
1658         default: snprintf(strbuf, 32, "ERROR (%d)", opt->dolby_surround_mode);
1659         }
1660         av_dlog(avctx, "dsur_mode: %s\n", strbuf);
1661     } else {
1662         av_dlog(avctx, "dsur_mode: {not written}\n");
1663     }
1664     av_dlog(avctx, "original: %s\n", opt->original?"on":"off");
1665
1666     if (s->bitstream_id == 6) {
1667         if (opt->extended_bsi_1) {
1668             switch (opt->preferred_stereo_downmix) {
1669             case 0:  strncpy(strbuf, "notindicated", 32); break;
1670             case 1:  strncpy(strbuf, "ltrt", 32);         break;
1671             case 2:  strncpy(strbuf, "loro", 32);         break;
1672             default: snprintf(strbuf, 32, "ERROR (%d)", opt->preferred_stereo_downmix);
1673             }
1674             av_dlog(avctx, "dmix_mode: %s\n", strbuf);
1675             av_dlog(avctx, "ltrt_cmixlev: %0.3f (%d)\n",
1676                     opt->ltrt_center_mix_level, s->ltrt_center_mix_level);
1677             av_dlog(avctx, "ltrt_surmixlev: %0.3f (%d)\n",
1678                     opt->ltrt_surround_mix_level, s->ltrt_surround_mix_level);
1679             av_dlog(avctx, "loro_cmixlev: %0.3f (%d)\n",
1680                     opt->loro_center_mix_level, s->loro_center_mix_level);
1681             av_dlog(avctx, "loro_surmixlev: %0.3f (%d)\n",
1682                     opt->loro_surround_mix_level, s->loro_surround_mix_level);
1683         } else {
1684             av_dlog(avctx, "extended bitstream info 1: {not written}\n");
1685         }
1686         if (opt->extended_bsi_2) {
1687             switch (opt->dolby_surround_ex_mode) {
1688             case 0:  strncpy(strbuf, "notindicated", 32); break;
1689             case 1:  strncpy(strbuf, "on", 32);           break;
1690             case 2:  strncpy(strbuf, "off", 32);          break;
1691             default: snprintf(strbuf, 32, "ERROR (%d)", opt->dolby_surround_ex_mode);
1692             }
1693             av_dlog(avctx, "dsurex_mode: %s\n", strbuf);
1694             switch (opt->dolby_headphone_mode) {
1695             case 0:  strncpy(strbuf, "notindicated", 32); break;
1696             case 1:  strncpy(strbuf, "on", 32);           break;
1697             case 2:  strncpy(strbuf, "off", 32);          break;
1698             default: snprintf(strbuf, 32, "ERROR (%d)", opt->dolby_headphone_mode);
1699             }
1700             av_dlog(avctx, "dheadphone_mode: %s\n", strbuf);
1701
1702             switch (opt->ad_converter_type) {
1703             case 0:  strncpy(strbuf, "standard", 32); break;
1704             case 1:  strncpy(strbuf, "hdcd", 32);     break;
1705             default: snprintf(strbuf, 32, "ERROR (%d)", opt->ad_converter_type);
1706             }
1707             av_dlog(avctx, "ad_conv_type: %s\n", strbuf);
1708         } else {
1709             av_dlog(avctx, "extended bitstream info 2: {not written}\n");
1710         }
1711     }
1712 #endif
1713 }
1714
1715
1716 #define FLT_OPTION_THRESHOLD 0.01
1717
1718 static int validate_float_option(float v, const float *v_list, int v_list_size)
1719 {
1720     int i;
1721
1722     for (i = 0; i < v_list_size; i++) {
1723         if (v < (v_list[i] + FLT_OPTION_THRESHOLD) &&
1724             v > (v_list[i] - FLT_OPTION_THRESHOLD))
1725             break;
1726     }
1727     if (i == v_list_size)
1728         return -1;
1729
1730     return i;
1731 }
1732
1733
1734 static void validate_mix_level(void *log_ctx, const char *opt_name,
1735                                float *opt_param, const float *list,
1736                                int list_size, int default_value, int min_value,
1737                                int *ctx_param)
1738 {
1739     int mixlev = validate_float_option(*opt_param, list, list_size);
1740     if (mixlev < min_value) {
1741         mixlev = default_value;
1742         if (*opt_param >= 0.0) {
1743             av_log(log_ctx, AV_LOG_WARNING, "requested %s is not valid. using "
1744                    "default value: %0.3f\n", opt_name, list[mixlev]);
1745         }
1746     }
1747     *opt_param = list[mixlev];
1748     *ctx_param = mixlev;
1749 }
1750
1751
1752 /**
1753  * Validate metadata options as set by AVOption system.
1754  * These values can optionally be changed per-frame.
1755  */
1756 static int validate_metadata(AVCodecContext *avctx)
1757 {
1758     AC3EncodeContext *s = avctx->priv_data;
1759     AC3EncOptions *opt = &s->options;
1760
1761     /* validate mixing levels */
1762     if (s->has_center) {
1763         validate_mix_level(avctx, "center_mix_level", &opt->center_mix_level,
1764                            cmixlev_options, CMIXLEV_NUM_OPTIONS, 1, 0,
1765                            &s->center_mix_level);
1766     }
1767     if (s->has_surround) {
1768         validate_mix_level(avctx, "surround_mix_level", &opt->surround_mix_level,
1769                            surmixlev_options, SURMIXLEV_NUM_OPTIONS, 1, 0,
1770                            &s->surround_mix_level);
1771     }
1772
1773     /* set audio production info flag */
1774     if (opt->mixing_level >= 0 || opt->room_type >= 0) {
1775         if (opt->mixing_level < 0) {
1776             av_log(avctx, AV_LOG_ERROR, "mixing_level must be set if "
1777                    "room_type is set\n");
1778             return AVERROR(EINVAL);
1779         }
1780         if (opt->mixing_level < 80) {
1781             av_log(avctx, AV_LOG_ERROR, "invalid mixing level. must be between "
1782                    "80dB and 111dB\n");
1783             return AVERROR(EINVAL);
1784         }
1785         /* default room type */
1786         if (opt->room_type < 0)
1787             opt->room_type = 0;
1788         opt->audio_production_info = 1;
1789     } else {
1790         opt->audio_production_info = 0;
1791     }
1792
1793     /* set extended bsi 1 flag */
1794     if ((s->has_center || s->has_surround) &&
1795         (opt->preferred_stereo_downmix >= 0 ||
1796          opt->ltrt_center_mix_level   >= 0 ||
1797          opt->ltrt_surround_mix_level >= 0 ||
1798          opt->loro_center_mix_level   >= 0 ||
1799          opt->loro_surround_mix_level >= 0)) {
1800         /* default preferred stereo downmix */
1801         if (opt->preferred_stereo_downmix < 0)
1802             opt->preferred_stereo_downmix = 0;
1803         /* validate Lt/Rt center mix level */
1804         validate_mix_level(avctx, "ltrt_center_mix_level",
1805                            &opt->ltrt_center_mix_level, extmixlev_options,
1806                            EXTMIXLEV_NUM_OPTIONS, 5, 0,
1807                            &s->ltrt_center_mix_level);
1808         /* validate Lt/Rt surround mix level */
1809         validate_mix_level(avctx, "ltrt_surround_mix_level",
1810                            &opt->ltrt_surround_mix_level, extmixlev_options,
1811                            EXTMIXLEV_NUM_OPTIONS, 6, 3,
1812                            &s->ltrt_surround_mix_level);
1813         /* validate Lo/Ro center mix level */
1814         validate_mix_level(avctx, "loro_center_mix_level",
1815                            &opt->loro_center_mix_level, extmixlev_options,
1816                            EXTMIXLEV_NUM_OPTIONS, 5, 0,
1817                            &s->loro_center_mix_level);
1818         /* validate Lo/Ro surround mix level */
1819         validate_mix_level(avctx, "loro_surround_mix_level",
1820                            &opt->loro_surround_mix_level, extmixlev_options,
1821                            EXTMIXLEV_NUM_OPTIONS, 6, 3,
1822                            &s->loro_surround_mix_level);
1823         opt->extended_bsi_1 = 1;
1824     } else {
1825         opt->extended_bsi_1 = 0;
1826     }
1827
1828     /* set extended bsi 2 flag */
1829     if (opt->dolby_surround_ex_mode >= 0 ||
1830         opt->dolby_headphone_mode   >= 0 ||
1831         opt->ad_converter_type      >= 0) {
1832         /* default dolby surround ex mode */
1833         if (opt->dolby_surround_ex_mode < 0)
1834             opt->dolby_surround_ex_mode = 0;
1835         /* default dolby headphone mode */
1836         if (opt->dolby_headphone_mode < 0)
1837             opt->dolby_headphone_mode = 0;
1838         /* default A/D converter type */
1839         if (opt->ad_converter_type < 0)
1840             opt->ad_converter_type = 0;
1841         opt->extended_bsi_2 = 1;
1842     } else {
1843         opt->extended_bsi_2 = 0;
1844     }
1845
1846     /* set bitstream id for alternate bitstream syntax */
1847     if (opt->extended_bsi_1 || opt->extended_bsi_2) {
1848         if (s->bitstream_id > 8 && s->bitstream_id < 11) {
1849             static int warn_once = 1;
1850             if (warn_once) {
1851                 av_log(avctx, AV_LOG_WARNING, "alternate bitstream syntax is "
1852                        "not compatible with reduced samplerates. writing of "
1853                        "extended bitstream information will be disabled.\n");
1854                 warn_once = 0;
1855             }
1856         } else {
1857             s->bitstream_id = 6;
1858         }
1859     }
1860
1861     return 0;
1862 }
1863
1864
1865 /**
1866  * Encode a single AC-3 frame.
1867  */
1868 static int ac3_encode_frame(AVCodecContext *avctx, unsigned char *frame,
1869                             int buf_size, void *data)
1870 {
1871     AC3EncodeContext *s = avctx->priv_data;
1872     const SampleType *samples = data;
1873     int ret;
1874
1875     if (s->options.allow_per_frame_metadata) {
1876         ret = validate_metadata(avctx);
1877         if (ret)
1878             return ret;
1879     }
1880
1881     if (s->bit_alloc.sr_code == 1)
1882         adjust_frame_size(s);
1883
1884     deinterleave_input_samples(s, samples);
1885
1886     apply_mdct(s);
1887
1888     scale_coefficients(s);
1889
1890     compute_rematrixing_strategy(s);
1891
1892     apply_rematrixing(s);
1893
1894     process_exponents(s);
1895
1896     ret = compute_bit_allocation(s);
1897     if (ret) {
1898         av_log(avctx, AV_LOG_ERROR, "Bit allocation failed. Try increasing the bitrate.\n");
1899         return ret;
1900     }
1901
1902     quantize_mantissas(s);
1903
1904     output_frame(s, frame);
1905
1906     return s->frame_size;
1907 }
1908
1909
1910 /**
1911  * Finalize encoding and free any memory allocated by the encoder.
1912  */
1913 static av_cold int ac3_encode_close(AVCodecContext *avctx)
1914 {
1915     int blk, ch;
1916     AC3EncodeContext *s = avctx->priv_data;
1917
1918     for (ch = 0; ch < s->channels; ch++)
1919         av_freep(&s->planar_samples[ch]);
1920     av_freep(&s->planar_samples);
1921     av_freep(&s->bap_buffer);
1922     av_freep(&s->bap1_buffer);
1923     av_freep(&s->mdct_coef_buffer);
1924     av_freep(&s->fixed_coef_buffer);
1925     av_freep(&s->exp_buffer);
1926     av_freep(&s->grouped_exp_buffer);
1927     av_freep(&s->psd_buffer);
1928     av_freep(&s->band_psd_buffer);
1929     av_freep(&s->mask_buffer);
1930     av_freep(&s->qmant_buffer);
1931     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
1932         AC3Block *block = &s->blocks[blk];
1933         av_freep(&block->bap);
1934         av_freep(&block->mdct_coef);
1935         av_freep(&block->fixed_coef);
1936         av_freep(&block->exp);
1937         av_freep(&block->grouped_exp);
1938         av_freep(&block->psd);
1939         av_freep(&block->band_psd);
1940         av_freep(&block->mask);
1941         av_freep(&block->qmant);
1942     }
1943
1944     mdct_end(&s->mdct);
1945
1946     av_freep(&avctx->coded_frame);
1947     return 0;
1948 }
1949
1950
1951 /**
1952  * Set channel information during initialization.
1953  */
1954 static av_cold int set_channel_info(AC3EncodeContext *s, int channels,
1955                                     int64_t *channel_layout)
1956 {
1957     int ch_layout;
1958
1959     if (channels < 1 || channels > AC3_MAX_CHANNELS)
1960         return AVERROR(EINVAL);
1961     if ((uint64_t)*channel_layout > 0x7FF)
1962         return AVERROR(EINVAL);
1963     ch_layout = *channel_layout;
1964     if (!ch_layout)
1965         ch_layout = avcodec_guess_channel_layout(channels, CODEC_ID_AC3, NULL);
1966
1967     s->lfe_on       = !!(ch_layout & AV_CH_LOW_FREQUENCY);
1968     s->channels     = channels;
1969     s->fbw_channels = channels - s->lfe_on;
1970     s->lfe_channel  = s->lfe_on ? s->fbw_channels : -1;
1971     if (s->lfe_on)
1972         ch_layout -= AV_CH_LOW_FREQUENCY;
1973
1974     switch (ch_layout) {
1975     case AV_CH_LAYOUT_MONO:           s->channel_mode = AC3_CHMODE_MONO;   break;
1976     case AV_CH_LAYOUT_STEREO:         s->channel_mode = AC3_CHMODE_STEREO; break;
1977     case AV_CH_LAYOUT_SURROUND:       s->channel_mode = AC3_CHMODE_3F;     break;
1978     case AV_CH_LAYOUT_2_1:            s->channel_mode = AC3_CHMODE_2F1R;   break;
1979     case AV_CH_LAYOUT_4POINT0:        s->channel_mode = AC3_CHMODE_3F1R;   break;
1980     case AV_CH_LAYOUT_QUAD:
1981     case AV_CH_LAYOUT_2_2:            s->channel_mode = AC3_CHMODE_2F2R;   break;
1982     case AV_CH_LAYOUT_5POINT0:
1983     case AV_CH_LAYOUT_5POINT0_BACK:   s->channel_mode = AC3_CHMODE_3F2R;   break;
1984     default:
1985         return AVERROR(EINVAL);
1986     }
1987     s->has_center   = (s->channel_mode & 0x01) && s->channel_mode != AC3_CHMODE_MONO;
1988     s->has_surround =  s->channel_mode & 0x04;
1989
1990     s->channel_map  = ff_ac3_enc_channel_map[s->channel_mode][s->lfe_on];
1991     *channel_layout = ch_layout;
1992     if (s->lfe_on)
1993         *channel_layout |= AV_CH_LOW_FREQUENCY;
1994
1995     return 0;
1996 }
1997
1998
1999 static av_cold int validate_options(AVCodecContext *avctx, AC3EncodeContext *s)
2000 {
2001     int i, ret;
2002
2003     /* validate channel layout */
2004     if (!avctx->channel_layout) {
2005         av_log(avctx, AV_LOG_WARNING, "No channel layout specified. The "
2006                                       "encoder will guess the layout, but it "
2007                                       "might be incorrect.\n");
2008     }
2009     ret = set_channel_info(s, avctx->channels, &avctx->channel_layout);
2010     if (ret) {
2011         av_log(avctx, AV_LOG_ERROR, "invalid channel layout\n");
2012         return ret;
2013     }
2014
2015     /* validate sample rate */
2016     for (i = 0; i < 9; i++) {
2017         if ((ff_ac3_sample_rate_tab[i / 3] >> (i % 3)) == avctx->sample_rate)
2018             break;
2019     }
2020     if (i == 9) {
2021         av_log(avctx, AV_LOG_ERROR, "invalid sample rate\n");
2022         return AVERROR(EINVAL);
2023     }
2024     s->sample_rate        = avctx->sample_rate;
2025     s->bit_alloc.sr_shift = i % 3;
2026     s->bit_alloc.sr_code  = i / 3;
2027     s->bitstream_id       = 8 + s->bit_alloc.sr_shift;
2028
2029     /* validate bit rate */
2030     for (i = 0; i < 19; i++) {
2031         if ((ff_ac3_bitrate_tab[i] >> s->bit_alloc.sr_shift)*1000 == avctx->bit_rate)
2032             break;
2033     }
2034     if (i == 19) {
2035         av_log(avctx, AV_LOG_ERROR, "invalid bit rate\n");
2036         return AVERROR(EINVAL);
2037     }
2038     s->bit_rate        = avctx->bit_rate;
2039     s->frame_size_code = i << 1;
2040
2041     /* validate cutoff */
2042     if (avctx->cutoff < 0) {
2043         av_log(avctx, AV_LOG_ERROR, "invalid cutoff frequency\n");
2044         return AVERROR(EINVAL);
2045     }
2046     s->cutoff = avctx->cutoff;
2047     if (s->cutoff > (s->sample_rate >> 1))
2048         s->cutoff = s->sample_rate >> 1;
2049
2050     /* validate audio service type / channels combination */
2051     if ((avctx->audio_service_type == AV_AUDIO_SERVICE_TYPE_KARAOKE &&
2052          avctx->channels == 1) ||
2053         ((avctx->audio_service_type == AV_AUDIO_SERVICE_TYPE_COMMENTARY ||
2054           avctx->audio_service_type == AV_AUDIO_SERVICE_TYPE_EMERGENCY  ||
2055           avctx->audio_service_type == AV_AUDIO_SERVICE_TYPE_VOICE_OVER)
2056          && avctx->channels > 1)) {
2057         av_log(avctx, AV_LOG_ERROR, "invalid audio service type for the "
2058                                     "specified number of channels\n");
2059         return AVERROR(EINVAL);
2060     }
2061
2062     ret = validate_metadata(avctx);
2063     if (ret)
2064         return ret;
2065
2066     s->rematrixing_enabled = s->options.stereo_rematrixing &&
2067                              (s->channel_mode == AC3_CHMODE_STEREO);
2068
2069     return 0;
2070 }
2071
2072
2073 /**
2074  * Set bandwidth for all channels.
2075  * The user can optionally supply a cutoff frequency. Otherwise an appropriate
2076  * default value will be used.
2077  */
2078 static av_cold void set_bandwidth(AC3EncodeContext *s)
2079 {
2080     int ch, bw_code;
2081
2082     if (s->cutoff) {
2083         /* calculate bandwidth based on user-specified cutoff frequency */
2084         int fbw_coeffs;
2085         fbw_coeffs     = s->cutoff * 2 * AC3_MAX_COEFS / s->sample_rate;
2086         bw_code        = av_clip((fbw_coeffs - 73) / 3, 0, 60);
2087     } else {
2088         /* use default bandwidth setting */
2089         bw_code = ac3_bandwidth_tab[s->fbw_channels-1][s->bit_alloc.sr_code][s->frame_size_code/2];
2090     }
2091
2092     /* set number of coefficients for each channel */
2093     for (ch = 0; ch < s->fbw_channels; ch++) {
2094         s->bandwidth_code[ch] = bw_code;
2095         s->nb_coefs[ch]       = bw_code * 3 + 73;
2096     }
2097     if (s->lfe_on)
2098         s->nb_coefs[s->lfe_channel] = 7; /* LFE channel always has 7 coefs */
2099 }
2100
2101
2102 static av_cold int allocate_buffers(AVCodecContext *avctx)
2103 {
2104     int blk, ch;
2105     AC3EncodeContext *s = avctx->priv_data;
2106
2107     FF_ALLOC_OR_GOTO(avctx, s->planar_samples, s->channels * sizeof(*s->planar_samples),
2108                      alloc_fail);
2109     for (ch = 0; ch < s->channels; ch++) {
2110         FF_ALLOCZ_OR_GOTO(avctx, s->planar_samples[ch],
2111                           (AC3_FRAME_SIZE+AC3_BLOCK_SIZE) * sizeof(**s->planar_samples),
2112                           alloc_fail);
2113     }
2114     FF_ALLOC_OR_GOTO(avctx, s->bap_buffer,  AC3_MAX_BLOCKS * s->channels *
2115                      AC3_MAX_COEFS * sizeof(*s->bap_buffer),  alloc_fail);
2116     FF_ALLOC_OR_GOTO(avctx, s->bap1_buffer, AC3_MAX_BLOCKS * s->channels *
2117                      AC3_MAX_COEFS * sizeof(*s->bap1_buffer), alloc_fail);
2118     FF_ALLOC_OR_GOTO(avctx, s->mdct_coef_buffer, AC3_MAX_BLOCKS * s->channels *
2119                      AC3_MAX_COEFS * sizeof(*s->mdct_coef_buffer), alloc_fail);
2120     FF_ALLOC_OR_GOTO(avctx, s->exp_buffer, AC3_MAX_BLOCKS * s->channels *
2121                      AC3_MAX_COEFS * sizeof(*s->exp_buffer), alloc_fail);
2122     FF_ALLOC_OR_GOTO(avctx, s->grouped_exp_buffer, AC3_MAX_BLOCKS * s->channels *
2123                      128 * sizeof(*s->grouped_exp_buffer), alloc_fail);
2124     FF_ALLOC_OR_GOTO(avctx, s->psd_buffer, AC3_MAX_BLOCKS * s->channels *
2125                      AC3_MAX_COEFS * sizeof(*s->psd_buffer), alloc_fail);
2126     FF_ALLOC_OR_GOTO(avctx, s->band_psd_buffer, AC3_MAX_BLOCKS * s->channels *
2127                      64 * sizeof(*s->band_psd_buffer), alloc_fail);
2128     FF_ALLOC_OR_GOTO(avctx, s->mask_buffer, AC3_MAX_BLOCKS * s->channels *
2129                      64 * sizeof(*s->mask_buffer), alloc_fail);
2130     FF_ALLOC_OR_GOTO(avctx, s->qmant_buffer, AC3_MAX_BLOCKS * s->channels *
2131                      AC3_MAX_COEFS * sizeof(*s->qmant_buffer), alloc_fail);
2132     for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
2133         AC3Block *block = &s->blocks[blk];
2134         FF_ALLOC_OR_GOTO(avctx, block->bap, s->channels * sizeof(*block->bap),
2135                          alloc_fail);
2136         FF_ALLOCZ_OR_GOTO(avctx, block->mdct_coef, s->channels * sizeof(*block->mdct_coef),
2137                           alloc_fail);
2138         FF_ALLOCZ_OR_GOTO(avctx, block->exp, s->channels * sizeof(*block->exp),
2139                           alloc_fail);
2140         FF_ALLOCZ_OR_GOTO(avctx, block->grouped_exp, s->channels * sizeof(*block->grouped_exp),
2141                           alloc_fail);
2142         FF_ALLOCZ_OR_GOTO(avctx, block->psd, s->channels * sizeof(*block->psd),
2143                           alloc_fail);
2144         FF_ALLOCZ_OR_GOTO(avctx, block->band_psd, s->channels * sizeof(*block->band_psd),
2145                           alloc_fail);
2146         FF_ALLOCZ_OR_GOTO(avctx, block->mask, s->channels * sizeof(*block->mask),
2147                           alloc_fail);
2148         FF_ALLOCZ_OR_GOTO(avctx, block->qmant, s->channels * sizeof(*block->qmant),
2149                           alloc_fail);
2150
2151         for (ch = 0; ch < s->channels; ch++) {
2152             /* arrangement: block, channel, coeff */
2153             block->bap[ch]         = &s->bap_buffer        [AC3_MAX_COEFS * (blk * s->channels + ch)];
2154             block->mdct_coef[ch]   = &s->mdct_coef_buffer  [AC3_MAX_COEFS * (blk * s->channels + ch)];
2155             block->grouped_exp[ch] = &s->grouped_exp_buffer[128           * (blk * s->channels + ch)];
2156             block->psd[ch]         = &s->psd_buffer        [AC3_MAX_COEFS * (blk * s->channels + ch)];
2157             block->band_psd[ch]    = &s->band_psd_buffer   [64            * (blk * s->channels + ch)];
2158             block->mask[ch]        = &s->mask_buffer       [64            * (blk * s->channels + ch)];
2159             block->qmant[ch]       = &s->qmant_buffer      [AC3_MAX_COEFS * (blk * s->channels + ch)];
2160
2161             /* arrangement: channel, block, coeff */
2162             block->exp[ch]         = &s->exp_buffer        [AC3_MAX_COEFS * (AC3_MAX_BLOCKS * ch + blk)];
2163         }
2164     }
2165
2166     if (CONFIG_AC3ENC_FLOAT) {
2167         FF_ALLOC_OR_GOTO(avctx, s->fixed_coef_buffer, AC3_MAX_BLOCKS * s->channels *
2168                          AC3_MAX_COEFS * sizeof(*s->fixed_coef_buffer), alloc_fail);
2169         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
2170             AC3Block *block = &s->blocks[blk];
2171             FF_ALLOCZ_OR_GOTO(avctx, block->fixed_coef, s->channels *
2172                               sizeof(*block->fixed_coef), alloc_fail);
2173             for (ch = 0; ch < s->channels; ch++)
2174                 block->fixed_coef[ch] = &s->fixed_coef_buffer[AC3_MAX_COEFS * (blk * s->channels + ch)];
2175         }
2176     } else {
2177         for (blk = 0; blk < AC3_MAX_BLOCKS; blk++) {
2178             AC3Block *block = &s->blocks[blk];
2179             FF_ALLOCZ_OR_GOTO(avctx, block->fixed_coef, s->channels *
2180                               sizeof(*block->fixed_coef), alloc_fail);
2181             for (ch = 0; ch < s->channels; ch++)
2182                 block->fixed_coef[ch] = (int32_t *)block->mdct_coef[ch];
2183         }
2184     }
2185
2186     return 0;
2187 alloc_fail:
2188     return AVERROR(ENOMEM);
2189 }
2190
2191
2192 /**
2193  * Initialize the encoder.
2194  */
2195 static av_cold int ac3_encode_init(AVCodecContext *avctx)
2196 {
2197     AC3EncodeContext *s = avctx->priv_data;
2198     int ret, frame_size_58;
2199
2200     avctx->frame_size = AC3_FRAME_SIZE;
2201
2202     ff_ac3_common_init();
2203
2204     ret = validate_options(avctx, s);
2205     if (ret)
2206         return ret;
2207
2208     s->bitstream_mode = avctx->audio_service_type;
2209     if (s->bitstream_mode == AV_AUDIO_SERVICE_TYPE_KARAOKE)
2210         s->bitstream_mode = 0x7;
2211
2212     s->frame_size_min  = 2 * ff_ac3_frame_size_tab[s->frame_size_code][s->bit_alloc.sr_code];
2213     s->bits_written    = 0;
2214     s->samples_written = 0;
2215     s->frame_size      = s->frame_size_min;
2216
2217     /* calculate crc_inv for both possible frame sizes */
2218     frame_size_58 = (( s->frame_size    >> 2) + ( s->frame_size    >> 4)) << 1;
2219     s->crc_inv[0] = pow_poly((CRC16_POLY >> 1), (8 * frame_size_58) - 16, CRC16_POLY);
2220     if (s->bit_alloc.sr_code == 1) {
2221         frame_size_58 = (((s->frame_size+2) >> 2) + ((s->frame_size+2) >> 4)) << 1;
2222         s->crc_inv[1] = pow_poly((CRC16_POLY >> 1), (8 * frame_size_58) - 16, CRC16_POLY);
2223     }
2224
2225     set_bandwidth(s);
2226
2227     exponent_init(s);
2228
2229     bit_alloc_init(s);
2230
2231     ret = mdct_init(avctx, &s->mdct, 9);
2232     if (ret)
2233         goto init_fail;
2234
2235     ret = allocate_buffers(avctx);
2236     if (ret)
2237         goto init_fail;
2238
2239     avctx->coded_frame= avcodec_alloc_frame();
2240
2241     dsputil_init(&s->dsp, avctx);
2242     ff_ac3dsp_init(&s->ac3dsp, avctx->flags & CODEC_FLAG_BITEXACT);
2243
2244     dprint_options(avctx);
2245
2246     return 0;
2247 init_fail:
2248     ac3_encode_close(avctx);
2249     return ret;
2250 }