amrwbdec: fix invalid pointer arithmetic
[ffmpeg.git] / libavcodec / amrwbdec.c
1 /*
2  * AMR wideband decoder
3  * Copyright (c) 2010 Marcelo Galvao Povoa
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A particular PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * AMR wideband decoder
25  */
26
27 #include "libavutil/common.h"
28 #include "libavutil/lfg.h"
29
30 #include "avcodec.h"
31 #include "dsputil.h"
32 #include "lsp.h"
33 #include "celp_filters.h"
34 #include "acelp_filters.h"
35 #include "acelp_vectors.h"
36 #include "acelp_pitch_delay.h"
37
38 #define AMR_USE_16BIT_TABLES
39 #include "amr.h"
40
41 #include "amrwbdata.h"
42
43 typedef struct {
44     AVFrame                              avframe; ///< AVFrame for decoded samples
45     AMRWBFrame                             frame; ///< AMRWB parameters decoded from bitstream
46     enum Mode                        fr_cur_mode; ///< mode index of current frame
47     uint8_t                           fr_quality; ///< frame quality index (FQI)
48     float                      isf_cur[LP_ORDER]; ///< working ISF vector from current frame
49     float                   isf_q_past[LP_ORDER]; ///< quantized ISF vector of the previous frame
50     float               isf_past_final[LP_ORDER]; ///< final processed ISF vector of the previous frame
51     double                      isp[4][LP_ORDER]; ///< ISP vectors from current frame
52     double               isp_sub4_past[LP_ORDER]; ///< ISP vector for the 4th subframe of the previous frame
53
54     float                   lp_coef[4][LP_ORDER]; ///< Linear Prediction Coefficients from ISP vector
55
56     uint8_t                       base_pitch_lag; ///< integer part of pitch lag for the next relative subframe
57     uint8_t                        pitch_lag_int; ///< integer part of pitch lag of the previous subframe
58
59     float excitation_buf[AMRWB_P_DELAY_MAX + LP_ORDER + 2 + AMRWB_SFR_SIZE]; ///< current excitation and all necessary excitation history
60     float                            *excitation; ///< points to current excitation in excitation_buf[]
61
62     float           pitch_vector[AMRWB_SFR_SIZE]; ///< adaptive codebook (pitch) vector for current subframe
63     float           fixed_vector[AMRWB_SFR_SIZE]; ///< algebraic codebook (fixed) vector for current subframe
64
65     float                    prediction_error[4]; ///< quantified prediction errors {20log10(^gamma_gc)} for previous four subframes
66     float                          pitch_gain[6]; ///< quantified pitch gains for the current and previous five subframes
67     float                          fixed_gain[2]; ///< quantified fixed gains for the current and previous subframes
68
69     float                              tilt_coef; ///< {beta_1} related to the voicing of the previous subframe
70
71     float                 prev_sparse_fixed_gain; ///< previous fixed gain; used by anti-sparseness to determine "onset"
72     uint8_t                    prev_ir_filter_nr; ///< previous impulse response filter "impNr": 0 - strong, 1 - medium, 2 - none
73     float                           prev_tr_gain; ///< previous initial gain used by noise enhancer for threshold
74
75     float samples_az[LP_ORDER + AMRWB_SFR_SIZE];         ///< low-band samples and memory from synthesis at 12.8kHz
76     float samples_up[UPS_MEM_SIZE + AMRWB_SFR_SIZE];     ///< low-band samples and memory processed for upsampling
77     float samples_hb[LP_ORDER_16k + AMRWB_SFR_SIZE_16k]; ///< high-band samples and memory from synthesis at 16kHz
78
79     float          hpf_31_mem[2], hpf_400_mem[2]; ///< previous values in the high pass filters
80     float                           demph_mem[1]; ///< previous value in the de-emphasis filter
81     float               bpf_6_7_mem[HB_FIR_SIZE]; ///< previous values in the high-band band pass filter
82     float                 lpf_7_mem[HB_FIR_SIZE]; ///< previous values in the high-band low pass filter
83
84     AVLFG                                   prng; ///< random number generator for white noise excitation
85     uint8_t                          first_frame; ///< flag active during decoding of the first frame
86 } AMRWBContext;
87
88 static av_cold int amrwb_decode_init(AVCodecContext *avctx)
89 {
90     AMRWBContext *ctx = avctx->priv_data;
91     int i;
92
93     avctx->sample_fmt = AV_SAMPLE_FMT_FLT;
94
95     av_lfg_init(&ctx->prng, 1);
96
97     ctx->excitation  = &ctx->excitation_buf[AMRWB_P_DELAY_MAX + LP_ORDER + 1];
98     ctx->first_frame = 1;
99
100     for (i = 0; i < LP_ORDER; i++)
101         ctx->isf_past_final[i] = isf_init[i] * (1.0f / (1 << 15));
102
103     for (i = 0; i < 4; i++)
104         ctx->prediction_error[i] = MIN_ENERGY;
105
106     avcodec_get_frame_defaults(&ctx->avframe);
107     avctx->coded_frame = &ctx->avframe;
108
109     return 0;
110 }
111
112 /**
113  * Decode the frame header in the "MIME/storage" format. This format
114  * is simpler and does not carry the auxiliary frame information.
115  *
116  * @param[in] ctx                  The Context
117  * @param[in] buf                  Pointer to the input buffer
118  *
119  * @return The decoded header length in bytes
120  */
121 static int decode_mime_header(AMRWBContext *ctx, const uint8_t *buf)
122 {
123     /* Decode frame header (1st octet) */
124     ctx->fr_cur_mode  = buf[0] >> 3 & 0x0F;
125     ctx->fr_quality   = (buf[0] & 0x4) == 0x4;
126
127     return 1;
128 }
129
130 /**
131  * Decode quantized ISF vectors using 36-bit indexes (6K60 mode only).
132  *
133  * @param[in]  ind                 Array of 5 indexes
134  * @param[out] isf_q               Buffer for isf_q[LP_ORDER]
135  *
136  */
137 static void decode_isf_indices_36b(uint16_t *ind, float *isf_q)
138 {
139     int i;
140
141     for (i = 0; i < 9; i++)
142         isf_q[i]      = dico1_isf[ind[0]][i]      * (1.0f / (1 << 15));
143
144     for (i = 0; i < 7; i++)
145         isf_q[i + 9]  = dico2_isf[ind[1]][i]      * (1.0f / (1 << 15));
146
147     for (i = 0; i < 5; i++)
148         isf_q[i]     += dico21_isf_36b[ind[2]][i] * (1.0f / (1 << 15));
149
150     for (i = 0; i < 4; i++)
151         isf_q[i + 5] += dico22_isf_36b[ind[3]][i] * (1.0f / (1 << 15));
152
153     for (i = 0; i < 7; i++)
154         isf_q[i + 9] += dico23_isf_36b[ind[4]][i] * (1.0f / (1 << 15));
155 }
156
157 /**
158  * Decode quantized ISF vectors using 46-bit indexes (except 6K60 mode).
159  *
160  * @param[in]  ind                 Array of 7 indexes
161  * @param[out] isf_q               Buffer for isf_q[LP_ORDER]
162  *
163  */
164 static void decode_isf_indices_46b(uint16_t *ind, float *isf_q)
165 {
166     int i;
167
168     for (i = 0; i < 9; i++)
169         isf_q[i]       = dico1_isf[ind[0]][i]  * (1.0f / (1 << 15));
170
171     for (i = 0; i < 7; i++)
172         isf_q[i + 9]   = dico2_isf[ind[1]][i]  * (1.0f / (1 << 15));
173
174     for (i = 0; i < 3; i++)
175         isf_q[i]      += dico21_isf[ind[2]][i] * (1.0f / (1 << 15));
176
177     for (i = 0; i < 3; i++)
178         isf_q[i + 3]  += dico22_isf[ind[3]][i] * (1.0f / (1 << 15));
179
180     for (i = 0; i < 3; i++)
181         isf_q[i + 6]  += dico23_isf[ind[4]][i] * (1.0f / (1 << 15));
182
183     for (i = 0; i < 3; i++)
184         isf_q[i + 9]  += dico24_isf[ind[5]][i] * (1.0f / (1 << 15));
185
186     for (i = 0; i < 4; i++)
187         isf_q[i + 12] += dico25_isf[ind[6]][i] * (1.0f / (1 << 15));
188 }
189
190 /**
191  * Apply mean and past ISF values using the prediction factor.
192  * Updates past ISF vector.
193  *
194  * @param[in,out] isf_q            Current quantized ISF
195  * @param[in,out] isf_past         Past quantized ISF
196  *
197  */
198 static void isf_add_mean_and_past(float *isf_q, float *isf_past)
199 {
200     int i;
201     float tmp;
202
203     for (i = 0; i < LP_ORDER; i++) {
204         tmp = isf_q[i];
205         isf_q[i] += isf_mean[i] * (1.0f / (1 << 15));
206         isf_q[i] += PRED_FACTOR * isf_past[i];
207         isf_past[i] = tmp;
208     }
209 }
210
211 /**
212  * Interpolate the fourth ISP vector from current and past frames
213  * to obtain an ISP vector for each subframe.
214  *
215  * @param[in,out] isp_q            ISPs for each subframe
216  * @param[in]     isp4_past        Past ISP for subframe 4
217  */
218 static void interpolate_isp(double isp_q[4][LP_ORDER], const double *isp4_past)
219 {
220     int i, k;
221
222     for (k = 0; k < 3; k++) {
223         float c = isfp_inter[k];
224         for (i = 0; i < LP_ORDER; i++)
225             isp_q[k][i] = (1.0 - c) * isp4_past[i] + c * isp_q[3][i];
226     }
227 }
228
229 /**
230  * Decode an adaptive codebook index into pitch lag (except 6k60, 8k85 modes).
231  * Calculate integer lag and fractional lag always using 1/4 resolution.
232  * In 1st and 3rd subframes the index is relative to last subframe integer lag.
233  *
234  * @param[out]    lag_int          Decoded integer pitch lag
235  * @param[out]    lag_frac         Decoded fractional pitch lag
236  * @param[in]     pitch_index      Adaptive codebook pitch index
237  * @param[in,out] base_lag_int     Base integer lag used in relative subframes
238  * @param[in]     subframe         Current subframe index (0 to 3)
239  */
240 static void decode_pitch_lag_high(int *lag_int, int *lag_frac, int pitch_index,
241                                   uint8_t *base_lag_int, int subframe)
242 {
243     if (subframe == 0 || subframe == 2) {
244         if (pitch_index < 376) {
245             *lag_int  = (pitch_index + 137) >> 2;
246             *lag_frac = pitch_index - (*lag_int << 2) + 136;
247         } else if (pitch_index < 440) {
248             *lag_int  = (pitch_index + 257 - 376) >> 1;
249             *lag_frac = (pitch_index - (*lag_int << 1) + 256 - 376) << 1;
250             /* the actual resolution is 1/2 but expressed as 1/4 */
251         } else {
252             *lag_int  = pitch_index - 280;
253             *lag_frac = 0;
254         }
255         /* minimum lag for next subframe */
256         *base_lag_int = av_clip(*lag_int - 8 - (*lag_frac < 0),
257                                 AMRWB_P_DELAY_MIN, AMRWB_P_DELAY_MAX - 15);
258         // XXX: the spec states clearly that *base_lag_int should be
259         // the nearest integer to *lag_int (minus 8), but the ref code
260         // actually always uses its floor, I'm following the latter
261     } else {
262         *lag_int  = (pitch_index + 1) >> 2;
263         *lag_frac = pitch_index - (*lag_int << 2);
264         *lag_int += *base_lag_int;
265     }
266 }
267
268 /**
269  * Decode an adaptive codebook index into pitch lag for 8k85 and 6k60 modes.
270  * The description is analogous to decode_pitch_lag_high, but in 6k60 the
271  * relative index is used for all subframes except the first.
272  */
273 static void decode_pitch_lag_low(int *lag_int, int *lag_frac, int pitch_index,
274                                  uint8_t *base_lag_int, int subframe, enum Mode mode)
275 {
276     if (subframe == 0 || (subframe == 2 && mode != MODE_6k60)) {
277         if (pitch_index < 116) {
278             *lag_int  = (pitch_index + 69) >> 1;
279             *lag_frac = (pitch_index - (*lag_int << 1) + 68) << 1;
280         } else {
281             *lag_int  = pitch_index - 24;
282             *lag_frac = 0;
283         }
284         // XXX: same problem as before
285         *base_lag_int = av_clip(*lag_int - 8 - (*lag_frac < 0),
286                                 AMRWB_P_DELAY_MIN, AMRWB_P_DELAY_MAX - 15);
287     } else {
288         *lag_int  = (pitch_index + 1) >> 1;
289         *lag_frac = (pitch_index - (*lag_int << 1)) << 1;
290         *lag_int += *base_lag_int;
291     }
292 }
293
294 /**
295  * Find the pitch vector by interpolating the past excitation at the
296  * pitch delay, which is obtained in this function.
297  *
298  * @param[in,out] ctx              The context
299  * @param[in]     amr_subframe     Current subframe data
300  * @param[in]     subframe         Current subframe index (0 to 3)
301  */
302 static void decode_pitch_vector(AMRWBContext *ctx,
303                                 const AMRWBSubFrame *amr_subframe,
304                                 const int subframe)
305 {
306     int pitch_lag_int, pitch_lag_frac;
307     int i;
308     float *exc     = ctx->excitation;
309     enum Mode mode = ctx->fr_cur_mode;
310
311     if (mode <= MODE_8k85) {
312         decode_pitch_lag_low(&pitch_lag_int, &pitch_lag_frac, amr_subframe->adap,
313                               &ctx->base_pitch_lag, subframe, mode);
314     } else
315         decode_pitch_lag_high(&pitch_lag_int, &pitch_lag_frac, amr_subframe->adap,
316                               &ctx->base_pitch_lag, subframe);
317
318     ctx->pitch_lag_int = pitch_lag_int;
319     pitch_lag_int += pitch_lag_frac > 0;
320
321     /* Calculate the pitch vector by interpolating the past excitation at the
322        pitch lag using a hamming windowed sinc function */
323     ff_acelp_interpolatef(exc, exc + 1 - pitch_lag_int,
324                           ac_inter, 4,
325                           pitch_lag_frac + (pitch_lag_frac > 0 ? 0 : 4),
326                           LP_ORDER, AMRWB_SFR_SIZE + 1);
327
328     /* Check which pitch signal path should be used
329      * 6k60 and 8k85 modes have the ltp flag set to 0 */
330     if (amr_subframe->ltp) {
331         memcpy(ctx->pitch_vector, exc, AMRWB_SFR_SIZE * sizeof(float));
332     } else {
333         for (i = 0; i < AMRWB_SFR_SIZE; i++)
334             ctx->pitch_vector[i] = 0.18 * exc[i - 1] + 0.64 * exc[i] +
335                                    0.18 * exc[i + 1];
336         memcpy(exc, ctx->pitch_vector, AMRWB_SFR_SIZE * sizeof(float));
337     }
338 }
339
340 /** Get x bits in the index interval [lsb,lsb+len-1] inclusive */
341 #define BIT_STR(x,lsb,len) (((x) >> (lsb)) & ((1 << (len)) - 1))
342
343 /** Get the bit at specified position */
344 #define BIT_POS(x, p) (((x) >> (p)) & 1)
345
346 /**
347  * The next six functions decode_[i]p_track decode exactly i pulses
348  * positions and amplitudes (-1 or 1) in a subframe track using
349  * an encoded pulse indexing (TS 26.190 section 5.8.2).
350  *
351  * The results are given in out[], in which a negative number means
352  * amplitude -1 and vice versa (i.e., ampl(x) = x / abs(x) ).
353  *
354  * @param[out] out                 Output buffer (writes i elements)
355  * @param[in]  code                Pulse index (no. of bits varies, see below)
356  * @param[in]  m                   (log2) Number of potential positions
357  * @param[in]  off                 Offset for decoded positions
358  */
359 static inline void decode_1p_track(int *out, int code, int m, int off)
360 {
361     int pos = BIT_STR(code, 0, m) + off; ///code: m+1 bits
362
363     out[0] = BIT_POS(code, m) ? -pos : pos;
364 }
365
366 static inline void decode_2p_track(int *out, int code, int m, int off) ///code: 2m+1 bits
367 {
368     int pos0 = BIT_STR(code, m, m) + off;
369     int pos1 = BIT_STR(code, 0, m) + off;
370
371     out[0] = BIT_POS(code, 2*m) ? -pos0 : pos0;
372     out[1] = BIT_POS(code, 2*m) ? -pos1 : pos1;
373     out[1] = pos0 > pos1 ? -out[1] : out[1];
374 }
375
376 static void decode_3p_track(int *out, int code, int m, int off) ///code: 3m+1 bits
377 {
378     int half_2p = BIT_POS(code, 2*m - 1) << (m - 1);
379
380     decode_2p_track(out, BIT_STR(code, 0, 2*m - 1),
381                     m - 1, off + half_2p);
382     decode_1p_track(out + 2, BIT_STR(code, 2*m, m + 1), m, off);
383 }
384
385 static void decode_4p_track(int *out, int code, int m, int off) ///code: 4m bits
386 {
387     int half_4p, subhalf_2p;
388     int b_offset = 1 << (m - 1);
389
390     switch (BIT_STR(code, 4*m - 2, 2)) { /* case ID (2 bits) */
391     case 0: /* 0 pulses in A, 4 pulses in B or vice versa */
392         half_4p = BIT_POS(code, 4*m - 3) << (m - 1); // which has 4 pulses
393         subhalf_2p = BIT_POS(code, 2*m - 3) << (m - 2);
394
395         decode_2p_track(out, BIT_STR(code, 0, 2*m - 3),
396                         m - 2, off + half_4p + subhalf_2p);
397         decode_2p_track(out + 2, BIT_STR(code, 2*m - 2, 2*m - 1),
398                         m - 1, off + half_4p);
399         break;
400     case 1: /* 1 pulse in A, 3 pulses in B */
401         decode_1p_track(out, BIT_STR(code,  3*m - 2, m),
402                         m - 1, off);
403         decode_3p_track(out + 1, BIT_STR(code, 0, 3*m - 2),
404                         m - 1, off + b_offset);
405         break;
406     case 2: /* 2 pulses in each half */
407         decode_2p_track(out, BIT_STR(code, 2*m - 1, 2*m - 1),
408                         m - 1, off);
409         decode_2p_track(out + 2, BIT_STR(code, 0, 2*m - 1),
410                         m - 1, off + b_offset);
411         break;
412     case 3: /* 3 pulses in A, 1 pulse in B */
413         decode_3p_track(out, BIT_STR(code, m, 3*m - 2),
414                         m - 1, off);
415         decode_1p_track(out + 3, BIT_STR(code, 0, m),
416                         m - 1, off + b_offset);
417         break;
418     }
419 }
420
421 static void decode_5p_track(int *out, int code, int m, int off) ///code: 5m bits
422 {
423     int half_3p = BIT_POS(code, 5*m - 1) << (m - 1);
424
425     decode_3p_track(out, BIT_STR(code, 2*m + 1, 3*m - 2),
426                     m - 1, off + half_3p);
427
428     decode_2p_track(out + 3, BIT_STR(code, 0, 2*m + 1), m, off);
429 }
430
431 static void decode_6p_track(int *out, int code, int m, int off) ///code: 6m-2 bits
432 {
433     int b_offset = 1 << (m - 1);
434     /* which half has more pulses in cases 0 to 2 */
435     int half_more  = BIT_POS(code, 6*m - 5) << (m - 1);
436     int half_other = b_offset - half_more;
437
438     switch (BIT_STR(code, 6*m - 4, 2)) { /* case ID (2 bits) */
439     case 0: /* 0 pulses in A, 6 pulses in B or vice versa */
440         decode_1p_track(out, BIT_STR(code, 0, m),
441                         m - 1, off + half_more);
442         decode_5p_track(out + 1, BIT_STR(code, m, 5*m - 5),
443                         m - 1, off + half_more);
444         break;
445     case 1: /* 1 pulse in A, 5 pulses in B or vice versa */
446         decode_1p_track(out, BIT_STR(code, 0, m),
447                         m - 1, off + half_other);
448         decode_5p_track(out + 1, BIT_STR(code, m, 5*m - 5),
449                         m - 1, off + half_more);
450         break;
451     case 2: /* 2 pulses in A, 4 pulses in B or vice versa */
452         decode_2p_track(out, BIT_STR(code, 0, 2*m - 1),
453                         m - 1, off + half_other);
454         decode_4p_track(out + 2, BIT_STR(code, 2*m - 1, 4*m - 4),
455                         m - 1, off + half_more);
456         break;
457     case 3: /* 3 pulses in A, 3 pulses in B */
458         decode_3p_track(out, BIT_STR(code, 3*m - 2, 3*m - 2),
459                         m - 1, off);
460         decode_3p_track(out + 3, BIT_STR(code, 0, 3*m - 2),
461                         m - 1, off + b_offset);
462         break;
463     }
464 }
465
466 /**
467  * Decode the algebraic codebook index to pulse positions and signs,
468  * then construct the algebraic codebook vector.
469  *
470  * @param[out] fixed_vector        Buffer for the fixed codebook excitation
471  * @param[in]  pulse_hi            MSBs part of the pulse index array (higher modes only)
472  * @param[in]  pulse_lo            LSBs part of the pulse index array
473  * @param[in]  mode                Mode of the current frame
474  */
475 static void decode_fixed_vector(float *fixed_vector, const uint16_t *pulse_hi,
476                                 const uint16_t *pulse_lo, const enum Mode mode)
477 {
478     /* sig_pos stores for each track the decoded pulse position indexes
479      * (1-based) multiplied by its corresponding amplitude (+1 or -1) */
480     int sig_pos[4][6];
481     int spacing = (mode == MODE_6k60) ? 2 : 4;
482     int i, j;
483
484     switch (mode) {
485     case MODE_6k60:
486         for (i = 0; i < 2; i++)
487             decode_1p_track(sig_pos[i], pulse_lo[i], 5, 1);
488         break;
489     case MODE_8k85:
490         for (i = 0; i < 4; i++)
491             decode_1p_track(sig_pos[i], pulse_lo[i], 4, 1);
492         break;
493     case MODE_12k65:
494         for (i = 0; i < 4; i++)
495             decode_2p_track(sig_pos[i], pulse_lo[i], 4, 1);
496         break;
497     case MODE_14k25:
498         for (i = 0; i < 2; i++)
499             decode_3p_track(sig_pos[i], pulse_lo[i], 4, 1);
500         for (i = 2; i < 4; i++)
501             decode_2p_track(sig_pos[i], pulse_lo[i], 4, 1);
502         break;
503     case MODE_15k85:
504         for (i = 0; i < 4; i++)
505             decode_3p_track(sig_pos[i], pulse_lo[i], 4, 1);
506         break;
507     case MODE_18k25:
508         for (i = 0; i < 4; i++)
509             decode_4p_track(sig_pos[i], (int) pulse_lo[i] +
510                            ((int) pulse_hi[i] << 14), 4, 1);
511         break;
512     case MODE_19k85:
513         for (i = 0; i < 2; i++)
514             decode_5p_track(sig_pos[i], (int) pulse_lo[i] +
515                            ((int) pulse_hi[i] << 10), 4, 1);
516         for (i = 2; i < 4; i++)
517             decode_4p_track(sig_pos[i], (int) pulse_lo[i] +
518                            ((int) pulse_hi[i] << 14), 4, 1);
519         break;
520     case MODE_23k05:
521     case MODE_23k85:
522         for (i = 0; i < 4; i++)
523             decode_6p_track(sig_pos[i], (int) pulse_lo[i] +
524                            ((int) pulse_hi[i] << 11), 4, 1);
525         break;
526     }
527
528     memset(fixed_vector, 0, sizeof(float) * AMRWB_SFR_SIZE);
529
530     for (i = 0; i < 4; i++)
531         for (j = 0; j < pulses_nb_per_mode_tr[mode][i]; j++) {
532             int pos = (FFABS(sig_pos[i][j]) - 1) * spacing + i;
533
534             fixed_vector[pos] += sig_pos[i][j] < 0 ? -1.0 : 1.0;
535         }
536 }
537
538 /**
539  * Decode pitch gain and fixed gain correction factor.
540  *
541  * @param[in]  vq_gain             Vector-quantized index for gains
542  * @param[in]  mode                Mode of the current frame
543  * @param[out] fixed_gain_factor   Decoded fixed gain correction factor
544  * @param[out] pitch_gain          Decoded pitch gain
545  */
546 static void decode_gains(const uint8_t vq_gain, const enum Mode mode,
547                          float *fixed_gain_factor, float *pitch_gain)
548 {
549     const int16_t *gains = (mode <= MODE_8k85 ? qua_gain_6b[vq_gain] :
550                                                 qua_gain_7b[vq_gain]);
551
552     *pitch_gain        = gains[0] * (1.0f / (1 << 14));
553     *fixed_gain_factor = gains[1] * (1.0f / (1 << 11));
554 }
555
556 /**
557  * Apply pitch sharpening filters to the fixed codebook vector.
558  *
559  * @param[in]     ctx              The context
560  * @param[in,out] fixed_vector     Fixed codebook excitation
561  */
562 // XXX: Spec states this procedure should be applied when the pitch
563 // lag is less than 64, but this checking seems absent in reference and AMR-NB
564 static void pitch_sharpening(AMRWBContext *ctx, float *fixed_vector)
565 {
566     int i;
567
568     /* Tilt part */
569     for (i = AMRWB_SFR_SIZE - 1; i != 0; i--)
570         fixed_vector[i] -= fixed_vector[i - 1] * ctx->tilt_coef;
571
572     /* Periodicity enhancement part */
573     for (i = ctx->pitch_lag_int; i < AMRWB_SFR_SIZE; i++)
574         fixed_vector[i] += fixed_vector[i - ctx->pitch_lag_int] * 0.85;
575 }
576
577 /**
578  * Calculate the voicing factor (-1.0 = unvoiced to 1.0 = voiced).
579  *
580  * @param[in] p_vector, f_vector   Pitch and fixed excitation vectors
581  * @param[in] p_gain, f_gain       Pitch and fixed gains
582  */
583 // XXX: There is something wrong with the precision here! The magnitudes
584 // of the energies are not correct. Please check the reference code carefully
585 static float voice_factor(float *p_vector, float p_gain,
586                           float *f_vector, float f_gain)
587 {
588     double p_ener = (double) ff_scalarproduct_float_c(p_vector, p_vector,
589                                                       AMRWB_SFR_SIZE) *
590                     p_gain * p_gain;
591     double f_ener = (double) ff_scalarproduct_float_c(f_vector, f_vector,
592                                                       AMRWB_SFR_SIZE) *
593                     f_gain * f_gain;
594
595     return (p_ener - f_ener) / (p_ener + f_ener);
596 }
597
598 /**
599  * Reduce fixed vector sparseness by smoothing with one of three IR filters,
600  * also known as "adaptive phase dispersion".
601  *
602  * @param[in]     ctx              The context
603  * @param[in,out] fixed_vector     Unfiltered fixed vector
604  * @param[out]    buf              Space for modified vector if necessary
605  *
606  * @return The potentially overwritten filtered fixed vector address
607  */
608 static float *anti_sparseness(AMRWBContext *ctx,
609                               float *fixed_vector, float *buf)
610 {
611     int ir_filter_nr;
612
613     if (ctx->fr_cur_mode > MODE_8k85) // no filtering in higher modes
614         return fixed_vector;
615
616     if (ctx->pitch_gain[0] < 0.6) {
617         ir_filter_nr = 0;      // strong filtering
618     } else if (ctx->pitch_gain[0] < 0.9) {
619         ir_filter_nr = 1;      // medium filtering
620     } else
621         ir_filter_nr = 2;      // no filtering
622
623     /* detect 'onset' */
624     if (ctx->fixed_gain[0] > 3.0 * ctx->fixed_gain[1]) {
625         if (ir_filter_nr < 2)
626             ir_filter_nr++;
627     } else {
628         int i, count = 0;
629
630         for (i = 0; i < 6; i++)
631             if (ctx->pitch_gain[i] < 0.6)
632                 count++;
633
634         if (count > 2)
635             ir_filter_nr = 0;
636
637         if (ir_filter_nr > ctx->prev_ir_filter_nr + 1)
638             ir_filter_nr--;
639     }
640
641     /* update ir filter strength history */
642     ctx->prev_ir_filter_nr = ir_filter_nr;
643
644     ir_filter_nr += (ctx->fr_cur_mode == MODE_8k85);
645
646     if (ir_filter_nr < 2) {
647         int i;
648         const float *coef = ir_filters_lookup[ir_filter_nr];
649
650         /* Circular convolution code in the reference
651          * decoder was modified to avoid using one
652          * extra array. The filtered vector is given by:
653          *
654          * c2(n) = sum(i,0,len-1){ c(i) * coef( (n - i + len) % len ) }
655          */
656
657         memset(buf, 0, sizeof(float) * AMRWB_SFR_SIZE);
658         for (i = 0; i < AMRWB_SFR_SIZE; i++)
659             if (fixed_vector[i])
660                 ff_celp_circ_addf(buf, buf, coef, i, fixed_vector[i],
661                                   AMRWB_SFR_SIZE);
662         fixed_vector = buf;
663     }
664
665     return fixed_vector;
666 }
667
668 /**
669  * Calculate a stability factor {teta} based on distance between
670  * current and past isf. A value of 1 shows maximum signal stability.
671  */
672 static float stability_factor(const float *isf, const float *isf_past)
673 {
674     int i;
675     float acc = 0.0;
676
677     for (i = 0; i < LP_ORDER - 1; i++)
678         acc += (isf[i] - isf_past[i]) * (isf[i] - isf_past[i]);
679
680     // XXX: This part is not so clear from the reference code
681     // the result is more accurate changing the "/ 256" to "* 512"
682     return FFMAX(0.0, 1.25 - acc * 0.8 * 512);
683 }
684
685 /**
686  * Apply a non-linear fixed gain smoothing in order to reduce
687  * fluctuation in the energy of excitation.
688  *
689  * @param[in]     fixed_gain       Unsmoothed fixed gain
690  * @param[in,out] prev_tr_gain     Previous threshold gain (updated)
691  * @param[in]     voice_fac        Frame voicing factor
692  * @param[in]     stab_fac         Frame stability factor
693  *
694  * @return The smoothed gain
695  */
696 static float noise_enhancer(float fixed_gain, float *prev_tr_gain,
697                             float voice_fac,  float stab_fac)
698 {
699     float sm_fac = 0.5 * (1 - voice_fac) * stab_fac;
700     float g0;
701
702     // XXX: the following fixed-point constants used to in(de)crement
703     // gain by 1.5dB were taken from the reference code, maybe it could
704     // be simpler
705     if (fixed_gain < *prev_tr_gain) {
706         g0 = FFMIN(*prev_tr_gain, fixed_gain + fixed_gain *
707                      (6226 * (1.0f / (1 << 15)))); // +1.5 dB
708     } else
709         g0 = FFMAX(*prev_tr_gain, fixed_gain *
710                     (27536 * (1.0f / (1 << 15)))); // -1.5 dB
711
712     *prev_tr_gain = g0; // update next frame threshold
713
714     return sm_fac * g0 + (1 - sm_fac) * fixed_gain;
715 }
716
717 /**
718  * Filter the fixed_vector to emphasize the higher frequencies.
719  *
720  * @param[in,out] fixed_vector     Fixed codebook vector
721  * @param[in]     voice_fac        Frame voicing factor
722  */
723 static void pitch_enhancer(float *fixed_vector, float voice_fac)
724 {
725     int i;
726     float cpe  = 0.125 * (1 + voice_fac);
727     float last = fixed_vector[0]; // holds c(i - 1)
728
729     fixed_vector[0] -= cpe * fixed_vector[1];
730
731     for (i = 1; i < AMRWB_SFR_SIZE - 1; i++) {
732         float cur = fixed_vector[i];
733
734         fixed_vector[i] -= cpe * (last + fixed_vector[i + 1]);
735         last = cur;
736     }
737
738     fixed_vector[AMRWB_SFR_SIZE - 1] -= cpe * last;
739 }
740
741 /**
742  * Conduct 16th order linear predictive coding synthesis from excitation.
743  *
744  * @param[in]     ctx              Pointer to the AMRWBContext
745  * @param[in]     lpc              Pointer to the LPC coefficients
746  * @param[out]    excitation       Buffer for synthesis final excitation
747  * @param[in]     fixed_gain       Fixed codebook gain for synthesis
748  * @param[in]     fixed_vector     Algebraic codebook vector
749  * @param[in,out] samples          Pointer to the output samples and memory
750  */
751 static void synthesis(AMRWBContext *ctx, float *lpc, float *excitation,
752                       float fixed_gain, const float *fixed_vector,
753                       float *samples)
754 {
755     ff_weighted_vector_sumf(excitation, ctx->pitch_vector, fixed_vector,
756                             ctx->pitch_gain[0], fixed_gain, AMRWB_SFR_SIZE);
757
758     /* emphasize pitch vector contribution in low bitrate modes */
759     if (ctx->pitch_gain[0] > 0.5 && ctx->fr_cur_mode <= MODE_8k85) {
760         int i;
761         float energy = ff_scalarproduct_float_c(excitation, excitation,
762                                                 AMRWB_SFR_SIZE);
763
764         // XXX: Weird part in both ref code and spec. A unknown parameter
765         // {beta} seems to be identical to the current pitch gain
766         float pitch_factor = 0.25 * ctx->pitch_gain[0] * ctx->pitch_gain[0];
767
768         for (i = 0; i < AMRWB_SFR_SIZE; i++)
769             excitation[i] += pitch_factor * ctx->pitch_vector[i];
770
771         ff_scale_vector_to_given_sum_of_squares(excitation, excitation,
772                                                 energy, AMRWB_SFR_SIZE);
773     }
774
775     ff_celp_lp_synthesis_filterf(samples, lpc, excitation,
776                                  AMRWB_SFR_SIZE, LP_ORDER);
777 }
778
779 /**
780  * Apply to synthesis a de-emphasis filter of the form:
781  * H(z) = 1 / (1 - m * z^-1)
782  *
783  * @param[out]    out              Output buffer
784  * @param[in]     in               Input samples array with in[-1]
785  * @param[in]     m                Filter coefficient
786  * @param[in,out] mem              State from last filtering
787  */
788 static void de_emphasis(float *out, float *in, float m, float mem[1])
789 {
790     int i;
791
792     out[0] = in[0] + m * mem[0];
793
794     for (i = 1; i < AMRWB_SFR_SIZE; i++)
795          out[i] = in[i] + out[i - 1] * m;
796
797     mem[0] = out[AMRWB_SFR_SIZE - 1];
798 }
799
800 /**
801  * Upsample a signal by 5/4 ratio (from 12.8kHz to 16kHz) using
802  * a FIR interpolation filter. Uses past data from before *in address.
803  *
804  * @param[out] out                 Buffer for interpolated signal
805  * @param[in]  in                  Current signal data (length 0.8*o_size)
806  * @param[in]  o_size              Output signal length
807  */
808 static void upsample_5_4(float *out, const float *in, int o_size)
809 {
810     const float *in0 = in - UPS_FIR_SIZE + 1;
811     int i, j, k;
812     int int_part = 0, frac_part;
813
814     i = 0;
815     for (j = 0; j < o_size / 5; j++) {
816         out[i] = in[int_part];
817         frac_part = 4;
818         i++;
819
820         for (k = 1; k < 5; k++) {
821             out[i] = ff_scalarproduct_float_c(in0 + int_part,
822                                               upsample_fir[4 - frac_part],
823                                               UPS_MEM_SIZE);
824             int_part++;
825             frac_part--;
826             i++;
827         }
828     }
829 }
830
831 /**
832  * Calculate the high-band gain based on encoded index (23k85 mode) or
833  * on the low-band speech signal and the Voice Activity Detection flag.
834  *
835  * @param[in] ctx                  The context
836  * @param[in] synth                LB speech synthesis at 12.8k
837  * @param[in] hb_idx               Gain index for mode 23k85 only
838  * @param[in] vad                  VAD flag for the frame
839  */
840 static float find_hb_gain(AMRWBContext *ctx, const float *synth,
841                           uint16_t hb_idx, uint8_t vad)
842 {
843     int wsp = (vad > 0);
844     float tilt;
845
846     if (ctx->fr_cur_mode == MODE_23k85)
847         return qua_hb_gain[hb_idx] * (1.0f / (1 << 14));
848
849     tilt = ff_scalarproduct_float_c(synth, synth + 1, AMRWB_SFR_SIZE - 1) /
850            ff_scalarproduct_float_c(synth, synth, AMRWB_SFR_SIZE);
851
852     /* return gain bounded by [0.1, 1.0] */
853     return av_clipf((1.0 - FFMAX(0.0, tilt)) * (1.25 - 0.25 * wsp), 0.1, 1.0);
854 }
855
856 /**
857  * Generate the high-band excitation with the same energy from the lower
858  * one and scaled by the given gain.
859  *
860  * @param[in]  ctx                 The context
861  * @param[out] hb_exc              Buffer for the excitation
862  * @param[in]  synth_exc           Low-band excitation used for synthesis
863  * @param[in]  hb_gain             Wanted excitation gain
864  */
865 static void scaled_hb_excitation(AMRWBContext *ctx, float *hb_exc,
866                                  const float *synth_exc, float hb_gain)
867 {
868     int i;
869     float energy = ff_scalarproduct_float_c(synth_exc, synth_exc, AMRWB_SFR_SIZE);
870
871     /* Generate a white-noise excitation */
872     for (i = 0; i < AMRWB_SFR_SIZE_16k; i++)
873         hb_exc[i] = 32768.0 - (uint16_t) av_lfg_get(&ctx->prng);
874
875     ff_scale_vector_to_given_sum_of_squares(hb_exc, hb_exc,
876                                             energy * hb_gain * hb_gain,
877                                             AMRWB_SFR_SIZE_16k);
878 }
879
880 /**
881  * Calculate the auto-correlation for the ISF difference vector.
882  */
883 static float auto_correlation(float *diff_isf, float mean, int lag)
884 {
885     int i;
886     float sum = 0.0;
887
888     for (i = 7; i < LP_ORDER - 2; i++) {
889         float prod = (diff_isf[i] - mean) * (diff_isf[i - lag] - mean);
890         sum += prod * prod;
891     }
892     return sum;
893 }
894
895 /**
896  * Extrapolate a ISF vector to the 16kHz range (20th order LP)
897  * used at mode 6k60 LP filter for the high frequency band.
898  *
899  * @param[out] isf Buffer for extrapolated isf; contains LP_ORDER
900  *                 values on input
901  */
902 static void extrapolate_isf(float isf[LP_ORDER_16k])
903 {
904     float diff_isf[LP_ORDER - 2], diff_mean;
905     float corr_lag[3];
906     float est, scale;
907     int i, j, i_max_corr;
908
909     isf[LP_ORDER_16k - 1] = isf[LP_ORDER - 1];
910
911     /* Calculate the difference vector */
912     for (i = 0; i < LP_ORDER - 2; i++)
913         diff_isf[i] = isf[i + 1] - isf[i];
914
915     diff_mean = 0.0;
916     for (i = 2; i < LP_ORDER - 2; i++)
917         diff_mean += diff_isf[i] * (1.0f / (LP_ORDER - 4));
918
919     /* Find which is the maximum autocorrelation */
920     i_max_corr = 0;
921     for (i = 0; i < 3; i++) {
922         corr_lag[i] = auto_correlation(diff_isf, diff_mean, i + 2);
923
924         if (corr_lag[i] > corr_lag[i_max_corr])
925             i_max_corr = i;
926     }
927     i_max_corr++;
928
929     for (i = LP_ORDER - 1; i < LP_ORDER_16k - 1; i++)
930         isf[i] = isf[i - 1] + isf[i - 1 - i_max_corr]
931                             - isf[i - 2 - i_max_corr];
932
933     /* Calculate an estimate for ISF(18) and scale ISF based on the error */
934     est   = 7965 + (isf[2] - isf[3] - isf[4]) / 6.0;
935     scale = 0.5 * (FFMIN(est, 7600) - isf[LP_ORDER - 2]) /
936             (isf[LP_ORDER_16k - 2] - isf[LP_ORDER - 2]);
937
938     for (i = LP_ORDER - 1, j = 0; i < LP_ORDER_16k - 1; i++, j++)
939         diff_isf[j] = scale * (isf[i] - isf[i - 1]);
940
941     /* Stability insurance */
942     for (i = 1; i < LP_ORDER_16k - LP_ORDER; i++)
943         if (diff_isf[i] + diff_isf[i - 1] < 5.0) {
944             if (diff_isf[i] > diff_isf[i - 1]) {
945                 diff_isf[i - 1] = 5.0 - diff_isf[i];
946             } else
947                 diff_isf[i] = 5.0 - diff_isf[i - 1];
948         }
949
950     for (i = LP_ORDER - 1, j = 0; i < LP_ORDER_16k - 1; i++, j++)
951         isf[i] = isf[i - 1] + diff_isf[j] * (1.0f / (1 << 15));
952
953     /* Scale the ISF vector for 16000 Hz */
954     for (i = 0; i < LP_ORDER_16k - 1; i++)
955         isf[i] *= 0.8;
956 }
957
958 /**
959  * Spectral expand the LP coefficients using the equation:
960  *   y[i] = x[i] * (gamma ** i)
961  *
962  * @param[out] out                 Output buffer (may use input array)
963  * @param[in]  lpc                 LP coefficients array
964  * @param[in]  gamma               Weighting factor
965  * @param[in]  size                LP array size
966  */
967 static void lpc_weighting(float *out, const float *lpc, float gamma, int size)
968 {
969     int i;
970     float fac = gamma;
971
972     for (i = 0; i < size; i++) {
973         out[i] = lpc[i] * fac;
974         fac   *= gamma;
975     }
976 }
977
978 /**
979  * Conduct 20th order linear predictive coding synthesis for the high
980  * frequency band excitation at 16kHz.
981  *
982  * @param[in]     ctx              The context
983  * @param[in]     subframe         Current subframe index (0 to 3)
984  * @param[in,out] samples          Pointer to the output speech samples
985  * @param[in]     exc              Generated white-noise scaled excitation
986  * @param[in]     isf              Current frame isf vector
987  * @param[in]     isf_past         Past frame final isf vector
988  */
989 static void hb_synthesis(AMRWBContext *ctx, int subframe, float *samples,
990                          const float *exc, const float *isf, const float *isf_past)
991 {
992     float hb_lpc[LP_ORDER_16k];
993     enum Mode mode = ctx->fr_cur_mode;
994
995     if (mode == MODE_6k60) {
996         float e_isf[LP_ORDER_16k]; // ISF vector for extrapolation
997         double e_isp[LP_ORDER_16k];
998
999         ff_weighted_vector_sumf(e_isf, isf_past, isf, isfp_inter[subframe],
1000                                 1.0 - isfp_inter[subframe], LP_ORDER);
1001
1002         extrapolate_isf(e_isf);
1003
1004         e_isf[LP_ORDER_16k - 1] *= 2.0;
1005         ff_acelp_lsf2lspd(e_isp, e_isf, LP_ORDER_16k);
1006         ff_amrwb_lsp2lpc(e_isp, hb_lpc, LP_ORDER_16k);
1007
1008         lpc_weighting(hb_lpc, hb_lpc, 0.9, LP_ORDER_16k);
1009     } else {
1010         lpc_weighting(hb_lpc, ctx->lp_coef[subframe], 0.6, LP_ORDER);
1011     }
1012
1013     ff_celp_lp_synthesis_filterf(samples, hb_lpc, exc, AMRWB_SFR_SIZE_16k,
1014                                  (mode == MODE_6k60) ? LP_ORDER_16k : LP_ORDER);
1015 }
1016
1017 /**
1018  * Apply a 15th order filter to high-band samples.
1019  * The filter characteristic depends on the given coefficients.
1020  *
1021  * @param[out]    out              Buffer for filtered output
1022  * @param[in]     fir_coef         Filter coefficients
1023  * @param[in,out] mem              State from last filtering (updated)
1024  * @param[in]     in               Input speech data (high-band)
1025  *
1026  * @remark It is safe to pass the same array in in and out parameters
1027  */
1028 static void hb_fir_filter(float *out, const float fir_coef[HB_FIR_SIZE + 1],
1029                           float mem[HB_FIR_SIZE], const float *in)
1030 {
1031     int i, j;
1032     float data[AMRWB_SFR_SIZE_16k + HB_FIR_SIZE]; // past and current samples
1033
1034     memcpy(data, mem, HB_FIR_SIZE * sizeof(float));
1035     memcpy(data + HB_FIR_SIZE, in, AMRWB_SFR_SIZE_16k * sizeof(float));
1036
1037     for (i = 0; i < AMRWB_SFR_SIZE_16k; i++) {
1038         out[i] = 0.0;
1039         for (j = 0; j <= HB_FIR_SIZE; j++)
1040             out[i] += data[i + j] * fir_coef[j];
1041     }
1042
1043     memcpy(mem, data + AMRWB_SFR_SIZE_16k, HB_FIR_SIZE * sizeof(float));
1044 }
1045
1046 /**
1047  * Update context state before the next subframe.
1048  */
1049 static void update_sub_state(AMRWBContext *ctx)
1050 {
1051     memmove(&ctx->excitation_buf[0], &ctx->excitation_buf[AMRWB_SFR_SIZE],
1052             (AMRWB_P_DELAY_MAX + LP_ORDER + 1) * sizeof(float));
1053
1054     memmove(&ctx->pitch_gain[1], &ctx->pitch_gain[0], 5 * sizeof(float));
1055     memmove(&ctx->fixed_gain[1], &ctx->fixed_gain[0], 1 * sizeof(float));
1056
1057     memmove(&ctx->samples_az[0], &ctx->samples_az[AMRWB_SFR_SIZE],
1058             LP_ORDER * sizeof(float));
1059     memmove(&ctx->samples_up[0], &ctx->samples_up[AMRWB_SFR_SIZE],
1060             UPS_MEM_SIZE * sizeof(float));
1061     memmove(&ctx->samples_hb[0], &ctx->samples_hb[AMRWB_SFR_SIZE_16k],
1062             LP_ORDER_16k * sizeof(float));
1063 }
1064
1065 static int amrwb_decode_frame(AVCodecContext *avctx, void *data,
1066                               int *got_frame_ptr, AVPacket *avpkt)
1067 {
1068     AMRWBContext *ctx  = avctx->priv_data;
1069     AMRWBFrame   *cf   = &ctx->frame;
1070     const uint8_t *buf = avpkt->data;
1071     int buf_size       = avpkt->size;
1072     int expected_fr_size, header_size;
1073     float *buf_out;
1074     float spare_vector[AMRWB_SFR_SIZE];      // extra stack space to hold result from anti-sparseness processing
1075     float fixed_gain_factor;                 // fixed gain correction factor (gamma)
1076     float *synth_fixed_vector;               // pointer to the fixed vector that synthesis should use
1077     float synth_fixed_gain;                  // the fixed gain that synthesis should use
1078     float voice_fac, stab_fac;               // parameters used for gain smoothing
1079     float synth_exc[AMRWB_SFR_SIZE];         // post-processed excitation for synthesis
1080     float hb_exc[AMRWB_SFR_SIZE_16k];        // excitation for the high frequency band
1081     float hb_samples[AMRWB_SFR_SIZE_16k];    // filtered high-band samples from synthesis
1082     float hb_gain;
1083     int sub, i, ret;
1084
1085     /* get output buffer */
1086     ctx->avframe.nb_samples = 4 * AMRWB_SFR_SIZE_16k;
1087     if ((ret = avctx->get_buffer(avctx, &ctx->avframe)) < 0) {
1088         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1089         return ret;
1090     }
1091     buf_out = (float *)ctx->avframe.data[0];
1092
1093     header_size      = decode_mime_header(ctx, buf);
1094     if (ctx->fr_cur_mode > MODE_SID) {
1095         av_log(avctx, AV_LOG_ERROR,
1096                "Invalid mode %d\n", ctx->fr_cur_mode);
1097         return AVERROR_INVALIDDATA;
1098     }
1099     expected_fr_size = ((cf_sizes_wb[ctx->fr_cur_mode] + 7) >> 3) + 1;
1100
1101     if (buf_size < expected_fr_size) {
1102         av_log(avctx, AV_LOG_ERROR,
1103             "Frame too small (%d bytes). Truncated file?\n", buf_size);
1104         *got_frame_ptr = 0;
1105         return AVERROR_INVALIDDATA;
1106     }
1107
1108     if (!ctx->fr_quality || ctx->fr_cur_mode > MODE_SID)
1109         av_log(avctx, AV_LOG_ERROR, "Encountered a bad or corrupted frame\n");
1110
1111     if (ctx->fr_cur_mode == MODE_SID) { /* Comfort noise frame */
1112         av_log_missing_feature(avctx, "SID mode", 1);
1113         return AVERROR_PATCHWELCOME;
1114     }
1115
1116     ff_amr_bit_reorder((uint16_t *) &ctx->frame, sizeof(AMRWBFrame),
1117         buf + header_size, amr_bit_orderings_by_mode[ctx->fr_cur_mode]);
1118
1119     /* Decode the quantized ISF vector */
1120     if (ctx->fr_cur_mode == MODE_6k60) {
1121         decode_isf_indices_36b(cf->isp_id, ctx->isf_cur);
1122     } else {
1123         decode_isf_indices_46b(cf->isp_id, ctx->isf_cur);
1124     }
1125
1126     isf_add_mean_and_past(ctx->isf_cur, ctx->isf_q_past);
1127     ff_set_min_dist_lsf(ctx->isf_cur, MIN_ISF_SPACING, LP_ORDER - 1);
1128
1129     stab_fac = stability_factor(ctx->isf_cur, ctx->isf_past_final);
1130
1131     ctx->isf_cur[LP_ORDER - 1] *= 2.0;
1132     ff_acelp_lsf2lspd(ctx->isp[3], ctx->isf_cur, LP_ORDER);
1133
1134     /* Generate a ISP vector for each subframe */
1135     if (ctx->first_frame) {
1136         ctx->first_frame = 0;
1137         memcpy(ctx->isp_sub4_past, ctx->isp[3], LP_ORDER * sizeof(double));
1138     }
1139     interpolate_isp(ctx->isp, ctx->isp_sub4_past);
1140
1141     for (sub = 0; sub < 4; sub++)
1142         ff_amrwb_lsp2lpc(ctx->isp[sub], ctx->lp_coef[sub], LP_ORDER);
1143
1144     for (sub = 0; sub < 4; sub++) {
1145         const AMRWBSubFrame *cur_subframe = &cf->subframe[sub];
1146         float *sub_buf = buf_out + sub * AMRWB_SFR_SIZE_16k;
1147
1148         /* Decode adaptive codebook (pitch vector) */
1149         decode_pitch_vector(ctx, cur_subframe, sub);
1150         /* Decode innovative codebook (fixed vector) */
1151         decode_fixed_vector(ctx->fixed_vector, cur_subframe->pul_ih,
1152                             cur_subframe->pul_il, ctx->fr_cur_mode);
1153
1154         pitch_sharpening(ctx, ctx->fixed_vector);
1155
1156         decode_gains(cur_subframe->vq_gain, ctx->fr_cur_mode,
1157                      &fixed_gain_factor, &ctx->pitch_gain[0]);
1158
1159         ctx->fixed_gain[0] =
1160             ff_amr_set_fixed_gain(fixed_gain_factor,
1161                                   ff_scalarproduct_float_c(ctx->fixed_vector,
1162                                                            ctx->fixed_vector,
1163                                                            AMRWB_SFR_SIZE) /
1164                                   AMRWB_SFR_SIZE,
1165                        ctx->prediction_error,
1166                        ENERGY_MEAN, energy_pred_fac);
1167
1168         /* Calculate voice factor and store tilt for next subframe */
1169         voice_fac      = voice_factor(ctx->pitch_vector, ctx->pitch_gain[0],
1170                                       ctx->fixed_vector, ctx->fixed_gain[0]);
1171         ctx->tilt_coef = voice_fac * 0.25 + 0.25;
1172
1173         /* Construct current excitation */
1174         for (i = 0; i < AMRWB_SFR_SIZE; i++) {
1175             ctx->excitation[i] *= ctx->pitch_gain[0];
1176             ctx->excitation[i] += ctx->fixed_gain[0] * ctx->fixed_vector[i];
1177             ctx->excitation[i] = truncf(ctx->excitation[i]);
1178         }
1179
1180         /* Post-processing of excitation elements */
1181         synth_fixed_gain = noise_enhancer(ctx->fixed_gain[0], &ctx->prev_tr_gain,
1182                                           voice_fac, stab_fac);
1183
1184         synth_fixed_vector = anti_sparseness(ctx, ctx->fixed_vector,
1185                                              spare_vector);
1186
1187         pitch_enhancer(synth_fixed_vector, voice_fac);
1188
1189         synthesis(ctx, ctx->lp_coef[sub], synth_exc, synth_fixed_gain,
1190                   synth_fixed_vector, &ctx->samples_az[LP_ORDER]);
1191
1192         /* Synthesis speech post-processing */
1193         de_emphasis(&ctx->samples_up[UPS_MEM_SIZE],
1194                     &ctx->samples_az[LP_ORDER], PREEMPH_FAC, ctx->demph_mem);
1195
1196         ff_acelp_apply_order_2_transfer_function(&ctx->samples_up[UPS_MEM_SIZE],
1197             &ctx->samples_up[UPS_MEM_SIZE], hpf_zeros, hpf_31_poles,
1198             hpf_31_gain, ctx->hpf_31_mem, AMRWB_SFR_SIZE);
1199
1200         upsample_5_4(sub_buf, &ctx->samples_up[UPS_FIR_SIZE],
1201                      AMRWB_SFR_SIZE_16k);
1202
1203         /* High frequency band (6.4 - 7.0 kHz) generation part */
1204         ff_acelp_apply_order_2_transfer_function(hb_samples,
1205             &ctx->samples_up[UPS_MEM_SIZE], hpf_zeros, hpf_400_poles,
1206             hpf_400_gain, ctx->hpf_400_mem, AMRWB_SFR_SIZE);
1207
1208         hb_gain = find_hb_gain(ctx, hb_samples,
1209                                cur_subframe->hb_gain, cf->vad);
1210
1211         scaled_hb_excitation(ctx, hb_exc, synth_exc, hb_gain);
1212
1213         hb_synthesis(ctx, sub, &ctx->samples_hb[LP_ORDER_16k],
1214                      hb_exc, ctx->isf_cur, ctx->isf_past_final);
1215
1216         /* High-band post-processing filters */
1217         hb_fir_filter(hb_samples, bpf_6_7_coef, ctx->bpf_6_7_mem,
1218                       &ctx->samples_hb[LP_ORDER_16k]);
1219
1220         if (ctx->fr_cur_mode == MODE_23k85)
1221             hb_fir_filter(hb_samples, lpf_7_coef, ctx->lpf_7_mem,
1222                           hb_samples);
1223
1224         /* Add the low and high frequency bands */
1225         for (i = 0; i < AMRWB_SFR_SIZE_16k; i++)
1226             sub_buf[i] = (sub_buf[i] + hb_samples[i]) * (1.0f / (1 << 15));
1227
1228         /* Update buffers and history */
1229         update_sub_state(ctx);
1230     }
1231
1232     /* update state for next frame */
1233     memcpy(ctx->isp_sub4_past, ctx->isp[3], LP_ORDER * sizeof(ctx->isp[3][0]));
1234     memcpy(ctx->isf_past_final, ctx->isf_cur, LP_ORDER * sizeof(float));
1235
1236     *got_frame_ptr   = 1;
1237     *(AVFrame *)data = ctx->avframe;
1238
1239     return expected_fr_size;
1240 }
1241
1242 AVCodec ff_amrwb_decoder = {
1243     .name           = "amrwb",
1244     .type           = AVMEDIA_TYPE_AUDIO,
1245     .id             = AV_CODEC_ID_AMR_WB,
1246     .priv_data_size = sizeof(AMRWBContext),
1247     .init           = amrwb_decode_init,
1248     .decode         = amrwb_decode_frame,
1249     .capabilities   = CODEC_CAP_DR1,
1250     .long_name      = NULL_IF_CONFIG_SMALL("AMR-WB (Adaptive Multi-Rate WideBand)"),
1251     .sample_fmts    = (const enum AVSampleFormat[]){ AV_SAMPLE_FMT_FLT,
1252                                                      AV_SAMPLE_FMT_NONE },
1253 };