apedec: use unsigned int for 'nblocks' and make sure that it's within int range
[ffmpeg.git] / libavcodec / ac3enc_fixed.c
1 /*
2  * The simplest AC-3 encoder
3  * Copyright (c) 2000 Fabrice Bellard
4  * Copyright (c) 2006-2010 Justin Ruggles <justin.ruggles@gmail.com>
5  * Copyright (c) 2006-2010 Prakash Punnoor <prakash@punnoor.de>
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 /**
25  * @file
26  * fixed-point AC-3 encoder.
27  */
28
29 #define CONFIG_FFT_FLOAT 0
30 #undef CONFIG_AC3ENC_FLOAT
31 #include "ac3enc.h"
32 #include "eac3enc.h"
33
34 #define AC3ENC_TYPE AC3ENC_TYPE_AC3_FIXED
35 #include "ac3enc_opts_template.c"
36 static const AVClass ac3enc_class = { "Fixed-Point AC-3 Encoder", av_default_item_name,
37                                       ac3fixed_options, LIBAVUTIL_VERSION_INT };
38
39 #include "ac3enc_template.c"
40
41
42 /**
43  * Finalize MDCT and free allocated memory.
44  */
45 av_cold void AC3_NAME(mdct_end)(AC3EncodeContext *s)
46 {
47     ff_mdct_end(&s->mdct);
48 }
49
50
51 /**
52  * Initialize MDCT tables.
53  * @param nbits log2(MDCT size)
54  */
55 av_cold int AC3_NAME(mdct_init)(AC3EncodeContext *s)
56 {
57     int ret = ff_mdct_init(&s->mdct, 9, 0, -1.0);
58     s->mdct_window = ff_ac3_window;
59     return ret;
60 }
61
62
63 /**
64  * Apply KBD window to input samples prior to MDCT.
65  */
66 static void apply_window(DSPContext *dsp, int16_t *output, const int16_t *input,
67                          const int16_t *window, unsigned int len)
68 {
69     dsp->apply_window_int16(output, input, window, len);
70 }
71
72
73 /**
74  * Normalize the input samples to use the maximum available precision.
75  * This assumes signed 16-bit input samples.
76  *
77  * @return exponent shift
78  */
79 static int normalize_samples(AC3EncodeContext *s)
80 {
81     int v = s->ac3dsp.ac3_max_msb_abs_int16(s->windowed_samples, AC3_WINDOW_SIZE);
82     v = 14 - av_log2(v);
83     if (v > 0)
84         s->ac3dsp.ac3_lshift_int16(s->windowed_samples, AC3_WINDOW_SIZE, v);
85     /* +6 to right-shift from 31-bit to 25-bit */
86     return v + 6;
87 }
88
89
90 /**
91  * Scale MDCT coefficients to 25-bit signed fixed-point.
92  */
93 static void scale_coefficients(AC3EncodeContext *s)
94 {
95     int blk, ch;
96
97     for (blk = 0; blk < s->num_blocks; blk++) {
98         AC3Block *block = &s->blocks[blk];
99         for (ch = 1; ch <= s->channels; ch++) {
100             s->ac3dsp.ac3_rshift_int32(block->mdct_coef[ch], AC3_MAX_COEFS,
101                                        block->coeff_shift[ch]);
102         }
103     }
104 }
105
106
107 /**
108  * Clip MDCT coefficients to allowable range.
109  */
110 static void clip_coefficients(DSPContext *dsp, int32_t *coef, unsigned int len)
111 {
112     dsp->vector_clip_int32(coef, coef, COEF_MIN, COEF_MAX, len);
113 }
114
115
116 /**
117  * Calculate a single coupling coordinate.
118  */
119 static CoefType calc_cpl_coord(CoefSumType energy_ch, CoefSumType energy_cpl)
120 {
121     if (energy_cpl <= COEF_MAX) {
122         return 1048576;
123     } else {
124         uint64_t coord   = energy_ch / (energy_cpl >> 24);
125         uint32_t coord32 = FFMIN(coord, 1073741824);
126         coord32          = ff_sqrt(coord32) << 9;
127         return FFMIN(coord32, COEF_MAX);
128     }
129 }
130
131
132 static av_cold int ac3_fixed_encode_init(AVCodecContext *avctx)
133 {
134     AC3EncodeContext *s = avctx->priv_data;
135     s->fixed_point = 1;
136     return ff_ac3_encode_init(avctx);
137 }
138
139
140 AVCodec ff_ac3_fixed_encoder = {
141     .name           = "ac3_fixed",
142     .type           = AVMEDIA_TYPE_AUDIO,
143     .id             = CODEC_ID_AC3,
144     .priv_data_size = sizeof(AC3EncodeContext),
145     .init           = ac3_fixed_encode_init,
146     .encode         = ff_ac3_fixed_encode_frame,
147     .close          = ff_ac3_encode_close,
148     .sample_fmts = (const enum AVSampleFormat[]){AV_SAMPLE_FMT_S16,AV_SAMPLE_FMT_NONE},
149     .long_name = NULL_IF_CONFIG_SMALL("ATSC A/52A (AC-3)"),
150     .priv_class = &ac3enc_class,
151     .channel_layouts = ff_ac3_channel_layouts,
152 };