Merge remote-tracking branch 'qatar/master'
[ffmpeg.git] / libavcodec / amrwbdec.c
1 /*
2  * AMR wideband decoder
3  * Copyright (c) 2010 Marcelo Galvao Povoa
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A particular PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * AMR wideband decoder
25  */
26
27 #include "libavutil/lfg.h"
28
29 #include "avcodec.h"
30 #include "lsp.h"
31 #include "celp_math.h"
32 #include "celp_filters.h"
33 #include "acelp_filters.h"
34 #include "acelp_vectors.h"
35 #include "acelp_pitch_delay.h"
36
37 #define AMR_USE_16BIT_TABLES
38 #include "amr.h"
39
40 #include "amrwbdata.h"
41 #include "mips/amrwbdec_mips.h"
42
43 typedef struct {
44     AVFrame                              avframe; ///< AVFrame for decoded samples
45     AMRWBFrame                             frame; ///< AMRWB parameters decoded from bitstream
46     enum Mode                        fr_cur_mode; ///< mode index of current frame
47     uint8_t                           fr_quality; ///< frame quality index (FQI)
48     float                      isf_cur[LP_ORDER]; ///< working ISF vector from current frame
49     float                   isf_q_past[LP_ORDER]; ///< quantized ISF vector of the previous frame
50     float               isf_past_final[LP_ORDER]; ///< final processed ISF vector of the previous frame
51     double                      isp[4][LP_ORDER]; ///< ISP vectors from current frame
52     double               isp_sub4_past[LP_ORDER]; ///< ISP vector for the 4th subframe of the previous frame
53
54     float                   lp_coef[4][LP_ORDER]; ///< Linear Prediction Coefficients from ISP vector
55
56     uint8_t                       base_pitch_lag; ///< integer part of pitch lag for the next relative subframe
57     uint8_t                        pitch_lag_int; ///< integer part of pitch lag of the previous subframe
58
59     float excitation_buf[AMRWB_P_DELAY_MAX + LP_ORDER + 2 + AMRWB_SFR_SIZE]; ///< current excitation and all necessary excitation history
60     float                            *excitation; ///< points to current excitation in excitation_buf[]
61
62     float           pitch_vector[AMRWB_SFR_SIZE]; ///< adaptive codebook (pitch) vector for current subframe
63     float           fixed_vector[AMRWB_SFR_SIZE]; ///< algebraic codebook (fixed) vector for current subframe
64
65     float                    prediction_error[4]; ///< quantified prediction errors {20log10(^gamma_gc)} for previous four subframes
66     float                          pitch_gain[6]; ///< quantified pitch gains for the current and previous five subframes
67     float                          fixed_gain[2]; ///< quantified fixed gains for the current and previous subframes
68
69     float                              tilt_coef; ///< {beta_1} related to the voicing of the previous subframe
70
71     float                 prev_sparse_fixed_gain; ///< previous fixed gain; used by anti-sparseness to determine "onset"
72     uint8_t                    prev_ir_filter_nr; ///< previous impulse response filter "impNr": 0 - strong, 1 - medium, 2 - none
73     float                           prev_tr_gain; ///< previous initial gain used by noise enhancer for threshold
74
75     float samples_az[LP_ORDER + AMRWB_SFR_SIZE];         ///< low-band samples and memory from synthesis at 12.8kHz
76     float samples_up[UPS_MEM_SIZE + AMRWB_SFR_SIZE];     ///< low-band samples and memory processed for upsampling
77     float samples_hb[LP_ORDER_16k + AMRWB_SFR_SIZE_16k]; ///< high-band samples and memory from synthesis at 16kHz
78
79     float          hpf_31_mem[2], hpf_400_mem[2]; ///< previous values in the high pass filters
80     float                           demph_mem[1]; ///< previous value in the de-emphasis filter
81     float               bpf_6_7_mem[HB_FIR_SIZE]; ///< previous values in the high-band band pass filter
82     float                 lpf_7_mem[HB_FIR_SIZE]; ///< previous values in the high-band low pass filter
83
84     AVLFG                                   prng; ///< random number generator for white noise excitation
85     uint8_t                          first_frame; ///< flag active during decoding of the first frame
86     ACELPFContext                     acelpf_ctx; ///< context for filters for ACELP-based codecs
87     ACELPVContext                     acelpv_ctx; ///< context for vector operations for ACELP-based codecs
88     CELPFContext                       celpf_ctx; ///< context for filters for CELP-based codecs
89     CELPMContext                       celpm_ctx; ///< context for fixed point math operations
90
91 } AMRWBContext;
92
93 static av_cold int amrwb_decode_init(AVCodecContext *avctx)
94 {
95     AMRWBContext *ctx = avctx->priv_data;
96     int i;
97
98     avctx->sample_fmt = AV_SAMPLE_FMT_FLT;
99
100     av_lfg_init(&ctx->prng, 1);
101
102     ctx->excitation  = &ctx->excitation_buf[AMRWB_P_DELAY_MAX + LP_ORDER + 1];
103     ctx->first_frame = 1;
104
105     for (i = 0; i < LP_ORDER; i++)
106         ctx->isf_past_final[i] = isf_init[i] * (1.0f / (1 << 15));
107
108     for (i = 0; i < 4; i++)
109         ctx->prediction_error[i] = MIN_ENERGY;
110
111     avcodec_get_frame_defaults(&ctx->avframe);
112     avctx->coded_frame = &ctx->avframe;
113
114     ff_acelp_filter_init(&ctx->acelpf_ctx);
115     ff_acelp_vectors_init(&ctx->acelpv_ctx);
116     ff_celp_filter_init(&ctx->celpf_ctx);
117     ff_celp_math_init(&ctx->celpm_ctx);
118
119     return 0;
120 }
121
122 /**
123  * Decode the frame header in the "MIME/storage" format. This format
124  * is simpler and does not carry the auxiliary frame information.
125  *
126  * @param[in] ctx                  The Context
127  * @param[in] buf                  Pointer to the input buffer
128  *
129  * @return The decoded header length in bytes
130  */
131 static int decode_mime_header(AMRWBContext *ctx, const uint8_t *buf)
132 {
133     /* Decode frame header (1st octet) */
134     ctx->fr_cur_mode  = buf[0] >> 3 & 0x0F;
135     ctx->fr_quality   = (buf[0] & 0x4) != 0x4;
136
137     return 1;
138 }
139
140 /**
141  * Decode quantized ISF vectors using 36-bit indexes (6K60 mode only).
142  *
143  * @param[in]  ind                 Array of 5 indexes
144  * @param[out] isf_q               Buffer for isf_q[LP_ORDER]
145  *
146  */
147 static void decode_isf_indices_36b(uint16_t *ind, float *isf_q)
148 {
149     int i;
150
151     for (i = 0; i < 9; i++)
152         isf_q[i]      = dico1_isf[ind[0]][i]      * (1.0f / (1 << 15));
153
154     for (i = 0; i < 7; i++)
155         isf_q[i + 9]  = dico2_isf[ind[1]][i]      * (1.0f / (1 << 15));
156
157     for (i = 0; i < 5; i++)
158         isf_q[i]     += dico21_isf_36b[ind[2]][i] * (1.0f / (1 << 15));
159
160     for (i = 0; i < 4; i++)
161         isf_q[i + 5] += dico22_isf_36b[ind[3]][i] * (1.0f / (1 << 15));
162
163     for (i = 0; i < 7; i++)
164         isf_q[i + 9] += dico23_isf_36b[ind[4]][i] * (1.0f / (1 << 15));
165 }
166
167 /**
168  * Decode quantized ISF vectors using 46-bit indexes (except 6K60 mode).
169  *
170  * @param[in]  ind                 Array of 7 indexes
171  * @param[out] isf_q               Buffer for isf_q[LP_ORDER]
172  *
173  */
174 static void decode_isf_indices_46b(uint16_t *ind, float *isf_q)
175 {
176     int i;
177
178     for (i = 0; i < 9; i++)
179         isf_q[i]       = dico1_isf[ind[0]][i]  * (1.0f / (1 << 15));
180
181     for (i = 0; i < 7; i++)
182         isf_q[i + 9]   = dico2_isf[ind[1]][i]  * (1.0f / (1 << 15));
183
184     for (i = 0; i < 3; i++)
185         isf_q[i]      += dico21_isf[ind[2]][i] * (1.0f / (1 << 15));
186
187     for (i = 0; i < 3; i++)
188         isf_q[i + 3]  += dico22_isf[ind[3]][i] * (1.0f / (1 << 15));
189
190     for (i = 0; i < 3; i++)
191         isf_q[i + 6]  += dico23_isf[ind[4]][i] * (1.0f / (1 << 15));
192
193     for (i = 0; i < 3; i++)
194         isf_q[i + 9]  += dico24_isf[ind[5]][i] * (1.0f / (1 << 15));
195
196     for (i = 0; i < 4; i++)
197         isf_q[i + 12] += dico25_isf[ind[6]][i] * (1.0f / (1 << 15));
198 }
199
200 /**
201  * Apply mean and past ISF values using the prediction factor.
202  * Updates past ISF vector.
203  *
204  * @param[in,out] isf_q            Current quantized ISF
205  * @param[in,out] isf_past         Past quantized ISF
206  *
207  */
208 static void isf_add_mean_and_past(float *isf_q, float *isf_past)
209 {
210     int i;
211     float tmp;
212
213     for (i = 0; i < LP_ORDER; i++) {
214         tmp = isf_q[i];
215         isf_q[i] += isf_mean[i] * (1.0f / (1 << 15));
216         isf_q[i] += PRED_FACTOR * isf_past[i];
217         isf_past[i] = tmp;
218     }
219 }
220
221 /**
222  * Interpolate the fourth ISP vector from current and past frames
223  * to obtain an ISP vector for each subframe.
224  *
225  * @param[in,out] isp_q            ISPs for each subframe
226  * @param[in]     isp4_past        Past ISP for subframe 4
227  */
228 static void interpolate_isp(double isp_q[4][LP_ORDER], const double *isp4_past)
229 {
230     int i, k;
231
232     for (k = 0; k < 3; k++) {
233         float c = isfp_inter[k];
234         for (i = 0; i < LP_ORDER; i++)
235             isp_q[k][i] = (1.0 - c) * isp4_past[i] + c * isp_q[3][i];
236     }
237 }
238
239 /**
240  * Decode an adaptive codebook index into pitch lag (except 6k60, 8k85 modes).
241  * Calculate integer lag and fractional lag always using 1/4 resolution.
242  * In 1st and 3rd subframes the index is relative to last subframe integer lag.
243  *
244  * @param[out]    lag_int          Decoded integer pitch lag
245  * @param[out]    lag_frac         Decoded fractional pitch lag
246  * @param[in]     pitch_index      Adaptive codebook pitch index
247  * @param[in,out] base_lag_int     Base integer lag used in relative subframes
248  * @param[in]     subframe         Current subframe index (0 to 3)
249  */
250 static void decode_pitch_lag_high(int *lag_int, int *lag_frac, int pitch_index,
251                                   uint8_t *base_lag_int, int subframe)
252 {
253     if (subframe == 0 || subframe == 2) {
254         if (pitch_index < 376) {
255             *lag_int  = (pitch_index + 137) >> 2;
256             *lag_frac = pitch_index - (*lag_int << 2) + 136;
257         } else if (pitch_index < 440) {
258             *lag_int  = (pitch_index + 257 - 376) >> 1;
259             *lag_frac = (pitch_index - (*lag_int << 1) + 256 - 376) << 1;
260             /* the actual resolution is 1/2 but expressed as 1/4 */
261         } else {
262             *lag_int  = pitch_index - 280;
263             *lag_frac = 0;
264         }
265         /* minimum lag for next subframe */
266         *base_lag_int = av_clip(*lag_int - 8 - (*lag_frac < 0),
267                                 AMRWB_P_DELAY_MIN, AMRWB_P_DELAY_MAX - 15);
268         // XXX: the spec states clearly that *base_lag_int should be
269         // the nearest integer to *lag_int (minus 8), but the ref code
270         // actually always uses its floor, I'm following the latter
271     } else {
272         *lag_int  = (pitch_index + 1) >> 2;
273         *lag_frac = pitch_index - (*lag_int << 2);
274         *lag_int += *base_lag_int;
275     }
276 }
277
278 /**
279  * Decode an adaptive codebook index into pitch lag for 8k85 and 6k60 modes.
280  * The description is analogous to decode_pitch_lag_high, but in 6k60 the
281  * relative index is used for all subframes except the first.
282  */
283 static void decode_pitch_lag_low(int *lag_int, int *lag_frac, int pitch_index,
284                                  uint8_t *base_lag_int, int subframe, enum Mode mode)
285 {
286     if (subframe == 0 || (subframe == 2 && mode != MODE_6k60)) {
287         if (pitch_index < 116) {
288             *lag_int  = (pitch_index + 69) >> 1;
289             *lag_frac = (pitch_index - (*lag_int << 1) + 68) << 1;
290         } else {
291             *lag_int  = pitch_index - 24;
292             *lag_frac = 0;
293         }
294         // XXX: same problem as before
295         *base_lag_int = av_clip(*lag_int - 8 - (*lag_frac < 0),
296                                 AMRWB_P_DELAY_MIN, AMRWB_P_DELAY_MAX - 15);
297     } else {
298         *lag_int  = (pitch_index + 1) >> 1;
299         *lag_frac = (pitch_index - (*lag_int << 1)) << 1;
300         *lag_int += *base_lag_int;
301     }
302 }
303
304 /**
305  * Find the pitch vector by interpolating the past excitation at the
306  * pitch delay, which is obtained in this function.
307  *
308  * @param[in,out] ctx              The context
309  * @param[in]     amr_subframe     Current subframe data
310  * @param[in]     subframe         Current subframe index (0 to 3)
311  */
312 static void decode_pitch_vector(AMRWBContext *ctx,
313                                 const AMRWBSubFrame *amr_subframe,
314                                 const int subframe)
315 {
316     int pitch_lag_int, pitch_lag_frac;
317     int i;
318     float *exc     = ctx->excitation;
319     enum Mode mode = ctx->fr_cur_mode;
320
321     if (mode <= MODE_8k85) {
322         decode_pitch_lag_low(&pitch_lag_int, &pitch_lag_frac, amr_subframe->adap,
323                               &ctx->base_pitch_lag, subframe, mode);
324     } else
325         decode_pitch_lag_high(&pitch_lag_int, &pitch_lag_frac, amr_subframe->adap,
326                               &ctx->base_pitch_lag, subframe);
327
328     ctx->pitch_lag_int = pitch_lag_int;
329     pitch_lag_int += pitch_lag_frac > 0;
330
331     /* Calculate the pitch vector by interpolating the past excitation at the
332        pitch lag using a hamming windowed sinc function */
333     ctx->acelpf_ctx.acelp_interpolatef(exc,
334                           exc + 1 - pitch_lag_int,
335                           ac_inter, 4,
336                           pitch_lag_frac + (pitch_lag_frac > 0 ? 0 : 4),
337                           LP_ORDER, AMRWB_SFR_SIZE + 1);
338
339     /* Check which pitch signal path should be used
340      * 6k60 and 8k85 modes have the ltp flag set to 0 */
341     if (amr_subframe->ltp) {
342         memcpy(ctx->pitch_vector, exc, AMRWB_SFR_SIZE * sizeof(float));
343     } else {
344         for (i = 0; i < AMRWB_SFR_SIZE; i++)
345             ctx->pitch_vector[i] = 0.18 * exc[i - 1] + 0.64 * exc[i] +
346                                    0.18 * exc[i + 1];
347         memcpy(exc, ctx->pitch_vector, AMRWB_SFR_SIZE * sizeof(float));
348     }
349 }
350
351 /** Get x bits in the index interval [lsb,lsb+len-1] inclusive */
352 #define BIT_STR(x,lsb,len) (((x) >> (lsb)) & ((1 << (len)) - 1))
353
354 /** Get the bit at specified position */
355 #define BIT_POS(x, p) (((x) >> (p)) & 1)
356
357 /**
358  * The next six functions decode_[i]p_track decode exactly i pulses
359  * positions and amplitudes (-1 or 1) in a subframe track using
360  * an encoded pulse indexing (TS 26.190 section 5.8.2).
361  *
362  * The results are given in out[], in which a negative number means
363  * amplitude -1 and vice versa (i.e., ampl(x) = x / abs(x) ).
364  *
365  * @param[out] out                 Output buffer (writes i elements)
366  * @param[in]  code                Pulse index (no. of bits varies, see below)
367  * @param[in]  m                   (log2) Number of potential positions
368  * @param[in]  off                 Offset for decoded positions
369  */
370 static inline void decode_1p_track(int *out, int code, int m, int off)
371 {
372     int pos = BIT_STR(code, 0, m) + off; ///code: m+1 bits
373
374     out[0] = BIT_POS(code, m) ? -pos : pos;
375 }
376
377 static inline void decode_2p_track(int *out, int code, int m, int off) ///code: 2m+1 bits
378 {
379     int pos0 = BIT_STR(code, m, m) + off;
380     int pos1 = BIT_STR(code, 0, m) + off;
381
382     out[0] = BIT_POS(code, 2*m) ? -pos0 : pos0;
383     out[1] = BIT_POS(code, 2*m) ? -pos1 : pos1;
384     out[1] = pos0 > pos1 ? -out[1] : out[1];
385 }
386
387 static void decode_3p_track(int *out, int code, int m, int off) ///code: 3m+1 bits
388 {
389     int half_2p = BIT_POS(code, 2*m - 1) << (m - 1);
390
391     decode_2p_track(out, BIT_STR(code, 0, 2*m - 1),
392                     m - 1, off + half_2p);
393     decode_1p_track(out + 2, BIT_STR(code, 2*m, m + 1), m, off);
394 }
395
396 static void decode_4p_track(int *out, int code, int m, int off) ///code: 4m bits
397 {
398     int half_4p, subhalf_2p;
399     int b_offset = 1 << (m - 1);
400
401     switch (BIT_STR(code, 4*m - 2, 2)) { /* case ID (2 bits) */
402     case 0: /* 0 pulses in A, 4 pulses in B or vice versa */
403         half_4p = BIT_POS(code, 4*m - 3) << (m - 1); // which has 4 pulses
404         subhalf_2p = BIT_POS(code, 2*m - 3) << (m - 2);
405
406         decode_2p_track(out, BIT_STR(code, 0, 2*m - 3),
407                         m - 2, off + half_4p + subhalf_2p);
408         decode_2p_track(out + 2, BIT_STR(code, 2*m - 2, 2*m - 1),
409                         m - 1, off + half_4p);
410         break;
411     case 1: /* 1 pulse in A, 3 pulses in B */
412         decode_1p_track(out, BIT_STR(code,  3*m - 2, m),
413                         m - 1, off);
414         decode_3p_track(out + 1, BIT_STR(code, 0, 3*m - 2),
415                         m - 1, off + b_offset);
416         break;
417     case 2: /* 2 pulses in each half */
418         decode_2p_track(out, BIT_STR(code, 2*m - 1, 2*m - 1),
419                         m - 1, off);
420         decode_2p_track(out + 2, BIT_STR(code, 0, 2*m - 1),
421                         m - 1, off + b_offset);
422         break;
423     case 3: /* 3 pulses in A, 1 pulse in B */
424         decode_3p_track(out, BIT_STR(code, m, 3*m - 2),
425                         m - 1, off);
426         decode_1p_track(out + 3, BIT_STR(code, 0, m),
427                         m - 1, off + b_offset);
428         break;
429     }
430 }
431
432 static void decode_5p_track(int *out, int code, int m, int off) ///code: 5m bits
433 {
434     int half_3p = BIT_POS(code, 5*m - 1) << (m - 1);
435
436     decode_3p_track(out, BIT_STR(code, 2*m + 1, 3*m - 2),
437                     m - 1, off + half_3p);
438
439     decode_2p_track(out + 3, BIT_STR(code, 0, 2*m + 1), m, off);
440 }
441
442 static void decode_6p_track(int *out, int code, int m, int off) ///code: 6m-2 bits
443 {
444     int b_offset = 1 << (m - 1);
445     /* which half has more pulses in cases 0 to 2 */
446     int half_more  = BIT_POS(code, 6*m - 5) << (m - 1);
447     int half_other = b_offset - half_more;
448
449     switch (BIT_STR(code, 6*m - 4, 2)) { /* case ID (2 bits) */
450     case 0: /* 0 pulses in A, 6 pulses in B or vice versa */
451         decode_1p_track(out, BIT_STR(code, 0, m),
452                         m - 1, off + half_more);
453         decode_5p_track(out + 1, BIT_STR(code, m, 5*m - 5),
454                         m - 1, off + half_more);
455         break;
456     case 1: /* 1 pulse in A, 5 pulses in B or vice versa */
457         decode_1p_track(out, BIT_STR(code, 0, m),
458                         m - 1, off + half_other);
459         decode_5p_track(out + 1, BIT_STR(code, m, 5*m - 5),
460                         m - 1, off + half_more);
461         break;
462     case 2: /* 2 pulses in A, 4 pulses in B or vice versa */
463         decode_2p_track(out, BIT_STR(code, 0, 2*m - 1),
464                         m - 1, off + half_other);
465         decode_4p_track(out + 2, BIT_STR(code, 2*m - 1, 4*m - 4),
466                         m - 1, off + half_more);
467         break;
468     case 3: /* 3 pulses in A, 3 pulses in B */
469         decode_3p_track(out, BIT_STR(code, 3*m - 2, 3*m - 2),
470                         m - 1, off);
471         decode_3p_track(out + 3, BIT_STR(code, 0, 3*m - 2),
472                         m - 1, off + b_offset);
473         break;
474     }
475 }
476
477 /**
478  * Decode the algebraic codebook index to pulse positions and signs,
479  * then construct the algebraic codebook vector.
480  *
481  * @param[out] fixed_vector        Buffer for the fixed codebook excitation
482  * @param[in]  pulse_hi            MSBs part of the pulse index array (higher modes only)
483  * @param[in]  pulse_lo            LSBs part of the pulse index array
484  * @param[in]  mode                Mode of the current frame
485  */
486 static void decode_fixed_vector(float *fixed_vector, const uint16_t *pulse_hi,
487                                 const uint16_t *pulse_lo, const enum Mode mode)
488 {
489     /* sig_pos stores for each track the decoded pulse position indexes
490      * (1-based) multiplied by its corresponding amplitude (+1 or -1) */
491     int sig_pos[4][6];
492     int spacing = (mode == MODE_6k60) ? 2 : 4;
493     int i, j;
494
495     switch (mode) {
496     case MODE_6k60:
497         for (i = 0; i < 2; i++)
498             decode_1p_track(sig_pos[i], pulse_lo[i], 5, 1);
499         break;
500     case MODE_8k85:
501         for (i = 0; i < 4; i++)
502             decode_1p_track(sig_pos[i], pulse_lo[i], 4, 1);
503         break;
504     case MODE_12k65:
505         for (i = 0; i < 4; i++)
506             decode_2p_track(sig_pos[i], pulse_lo[i], 4, 1);
507         break;
508     case MODE_14k25:
509         for (i = 0; i < 2; i++)
510             decode_3p_track(sig_pos[i], pulse_lo[i], 4, 1);
511         for (i = 2; i < 4; i++)
512             decode_2p_track(sig_pos[i], pulse_lo[i], 4, 1);
513         break;
514     case MODE_15k85:
515         for (i = 0; i < 4; i++)
516             decode_3p_track(sig_pos[i], pulse_lo[i], 4, 1);
517         break;
518     case MODE_18k25:
519         for (i = 0; i < 4; i++)
520             decode_4p_track(sig_pos[i], (int) pulse_lo[i] +
521                            ((int) pulse_hi[i] << 14), 4, 1);
522         break;
523     case MODE_19k85:
524         for (i = 0; i < 2; i++)
525             decode_5p_track(sig_pos[i], (int) pulse_lo[i] +
526                            ((int) pulse_hi[i] << 10), 4, 1);
527         for (i = 2; i < 4; i++)
528             decode_4p_track(sig_pos[i], (int) pulse_lo[i] +
529                            ((int) pulse_hi[i] << 14), 4, 1);
530         break;
531     case MODE_23k05:
532     case MODE_23k85:
533         for (i = 0; i < 4; i++)
534             decode_6p_track(sig_pos[i], (int) pulse_lo[i] +
535                            ((int) pulse_hi[i] << 11), 4, 1);
536         break;
537     }
538
539     memset(fixed_vector, 0, sizeof(float) * AMRWB_SFR_SIZE);
540
541     for (i = 0; i < 4; i++)
542         for (j = 0; j < pulses_nb_per_mode_tr[mode][i]; j++) {
543             int pos = (FFABS(sig_pos[i][j]) - 1) * spacing + i;
544
545             fixed_vector[pos] += sig_pos[i][j] < 0 ? -1.0 : 1.0;
546         }
547 }
548
549 /**
550  * Decode pitch gain and fixed gain correction factor.
551  *
552  * @param[in]  vq_gain             Vector-quantized index for gains
553  * @param[in]  mode                Mode of the current frame
554  * @param[out] fixed_gain_factor   Decoded fixed gain correction factor
555  * @param[out] pitch_gain          Decoded pitch gain
556  */
557 static void decode_gains(const uint8_t vq_gain, const enum Mode mode,
558                          float *fixed_gain_factor, float *pitch_gain)
559 {
560     const int16_t *gains = (mode <= MODE_8k85 ? qua_gain_6b[vq_gain] :
561                                                 qua_gain_7b[vq_gain]);
562
563     *pitch_gain        = gains[0] * (1.0f / (1 << 14));
564     *fixed_gain_factor = gains[1] * (1.0f / (1 << 11));
565 }
566
567 /**
568  * Apply pitch sharpening filters to the fixed codebook vector.
569  *
570  * @param[in]     ctx              The context
571  * @param[in,out] fixed_vector     Fixed codebook excitation
572  */
573 // XXX: Spec states this procedure should be applied when the pitch
574 // lag is less than 64, but this checking seems absent in reference and AMR-NB
575 static void pitch_sharpening(AMRWBContext *ctx, float *fixed_vector)
576 {
577     int i;
578
579     /* Tilt part */
580     for (i = AMRWB_SFR_SIZE - 1; i != 0; i--)
581         fixed_vector[i] -= fixed_vector[i - 1] * ctx->tilt_coef;
582
583     /* Periodicity enhancement part */
584     for (i = ctx->pitch_lag_int; i < AMRWB_SFR_SIZE; i++)
585         fixed_vector[i] += fixed_vector[i - ctx->pitch_lag_int] * 0.85;
586 }
587
588 /**
589  * Calculate the voicing factor (-1.0 = unvoiced to 1.0 = voiced).
590  *
591  * @param[in] p_vector, f_vector   Pitch and fixed excitation vectors
592  * @param[in] p_gain, f_gain       Pitch and fixed gains
593  * @param[in] ctx                  The context
594  */
595 // XXX: There is something wrong with the precision here! The magnitudes
596 // of the energies are not correct. Please check the reference code carefully
597 static float voice_factor(float *p_vector, float p_gain,
598                           float *f_vector, float f_gain,
599                           CELPMContext *ctx)
600 {
601     double p_ener = (double) ctx->dot_productf(p_vector, p_vector,
602                                              AMRWB_SFR_SIZE) * p_gain * p_gain;
603     double f_ener = (double) ctx->dot_productf(f_vector, f_vector,
604                                              AMRWB_SFR_SIZE) * f_gain * f_gain;
605
606     return (p_ener - f_ener) / (p_ener + f_ener);
607 }
608
609 /**
610  * Reduce fixed vector sparseness by smoothing with one of three IR filters,
611  * also known as "adaptive phase dispersion".
612  *
613  * @param[in]     ctx              The context
614  * @param[in,out] fixed_vector     Unfiltered fixed vector
615  * @param[out]    buf              Space for modified vector if necessary
616  *
617  * @return The potentially overwritten filtered fixed vector address
618  */
619 static float *anti_sparseness(AMRWBContext *ctx,
620                               float *fixed_vector, float *buf)
621 {
622     int ir_filter_nr;
623
624     if (ctx->fr_cur_mode > MODE_8k85) // no filtering in higher modes
625         return fixed_vector;
626
627     if (ctx->pitch_gain[0] < 0.6) {
628         ir_filter_nr = 0;      // strong filtering
629     } else if (ctx->pitch_gain[0] < 0.9) {
630         ir_filter_nr = 1;      // medium filtering
631     } else
632         ir_filter_nr = 2;      // no filtering
633
634     /* detect 'onset' */
635     if (ctx->fixed_gain[0] > 3.0 * ctx->fixed_gain[1]) {
636         if (ir_filter_nr < 2)
637             ir_filter_nr++;
638     } else {
639         int i, count = 0;
640
641         for (i = 0; i < 6; i++)
642             if (ctx->pitch_gain[i] < 0.6)
643                 count++;
644
645         if (count > 2)
646             ir_filter_nr = 0;
647
648         if (ir_filter_nr > ctx->prev_ir_filter_nr + 1)
649             ir_filter_nr--;
650     }
651
652     /* update ir filter strength history */
653     ctx->prev_ir_filter_nr = ir_filter_nr;
654
655     ir_filter_nr += (ctx->fr_cur_mode == MODE_8k85);
656
657     if (ir_filter_nr < 2) {
658         int i;
659         const float *coef = ir_filters_lookup[ir_filter_nr];
660
661         /* Circular convolution code in the reference
662          * decoder was modified to avoid using one
663          * extra array. The filtered vector is given by:
664          *
665          * c2(n) = sum(i,0,len-1){ c(i) * coef( (n - i + len) % len ) }
666          */
667
668         memset(buf, 0, sizeof(float) * AMRWB_SFR_SIZE);
669         for (i = 0; i < AMRWB_SFR_SIZE; i++)
670             if (fixed_vector[i])
671                 ff_celp_circ_addf(buf, buf, coef, i, fixed_vector[i],
672                                   AMRWB_SFR_SIZE);
673         fixed_vector = buf;
674     }
675
676     return fixed_vector;
677 }
678
679 /**
680  * Calculate a stability factor {teta} based on distance between
681  * current and past isf. A value of 1 shows maximum signal stability.
682  */
683 static float stability_factor(const float *isf, const float *isf_past)
684 {
685     int i;
686     float acc = 0.0;
687
688     for (i = 0; i < LP_ORDER - 1; i++)
689         acc += (isf[i] - isf_past[i]) * (isf[i] - isf_past[i]);
690
691     // XXX: This part is not so clear from the reference code
692     // the result is more accurate changing the "/ 256" to "* 512"
693     return FFMAX(0.0, 1.25 - acc * 0.8 * 512);
694 }
695
696 /**
697  * Apply a non-linear fixed gain smoothing in order to reduce
698  * fluctuation in the energy of excitation.
699  *
700  * @param[in]     fixed_gain       Unsmoothed fixed gain
701  * @param[in,out] prev_tr_gain     Previous threshold gain (updated)
702  * @param[in]     voice_fac        Frame voicing factor
703  * @param[in]     stab_fac         Frame stability factor
704  *
705  * @return The smoothed gain
706  */
707 static float noise_enhancer(float fixed_gain, float *prev_tr_gain,
708                             float voice_fac,  float stab_fac)
709 {
710     float sm_fac = 0.5 * (1 - voice_fac) * stab_fac;
711     float g0;
712
713     // XXX: the following fixed-point constants used to in(de)crement
714     // gain by 1.5dB were taken from the reference code, maybe it could
715     // be simpler
716     if (fixed_gain < *prev_tr_gain) {
717         g0 = FFMIN(*prev_tr_gain, fixed_gain + fixed_gain *
718                      (6226 * (1.0f / (1 << 15)))); // +1.5 dB
719     } else
720         g0 = FFMAX(*prev_tr_gain, fixed_gain *
721                     (27536 * (1.0f / (1 << 15)))); // -1.5 dB
722
723     *prev_tr_gain = g0; // update next frame threshold
724
725     return sm_fac * g0 + (1 - sm_fac) * fixed_gain;
726 }
727
728 /**
729  * Filter the fixed_vector to emphasize the higher frequencies.
730  *
731  * @param[in,out] fixed_vector     Fixed codebook vector
732  * @param[in]     voice_fac        Frame voicing factor
733  */
734 static void pitch_enhancer(float *fixed_vector, float voice_fac)
735 {
736     int i;
737     float cpe  = 0.125 * (1 + voice_fac);
738     float last = fixed_vector[0]; // holds c(i - 1)
739
740     fixed_vector[0] -= cpe * fixed_vector[1];
741
742     for (i = 1; i < AMRWB_SFR_SIZE - 1; i++) {
743         float cur = fixed_vector[i];
744
745         fixed_vector[i] -= cpe * (last + fixed_vector[i + 1]);
746         last = cur;
747     }
748
749     fixed_vector[AMRWB_SFR_SIZE - 1] -= cpe * last;
750 }
751
752 /**
753  * Conduct 16th order linear predictive coding synthesis from excitation.
754  *
755  * @param[in]     ctx              Pointer to the AMRWBContext
756  * @param[in]     lpc              Pointer to the LPC coefficients
757  * @param[out]    excitation       Buffer for synthesis final excitation
758  * @param[in]     fixed_gain       Fixed codebook gain for synthesis
759  * @param[in]     fixed_vector     Algebraic codebook vector
760  * @param[in,out] samples          Pointer to the output samples and memory
761  */
762 static void synthesis(AMRWBContext *ctx, float *lpc, float *excitation,
763                       float fixed_gain, const float *fixed_vector,
764                       float *samples)
765 {
766     ctx->acelpv_ctx.weighted_vector_sumf(excitation, ctx->pitch_vector, fixed_vector,
767                             ctx->pitch_gain[0], fixed_gain, AMRWB_SFR_SIZE);
768
769     /* emphasize pitch vector contribution in low bitrate modes */
770     if (ctx->pitch_gain[0] > 0.5 && ctx->fr_cur_mode <= MODE_8k85) {
771         int i;
772         float energy = ctx->celpm_ctx.dot_productf(excitation, excitation,
773                                        AMRWB_SFR_SIZE);
774
775         // XXX: Weird part in both ref code and spec. A unknown parameter
776         // {beta} seems to be identical to the current pitch gain
777         float pitch_factor = 0.25 * ctx->pitch_gain[0] * ctx->pitch_gain[0];
778
779         for (i = 0; i < AMRWB_SFR_SIZE; i++)
780             excitation[i] += pitch_factor * ctx->pitch_vector[i];
781
782         ff_scale_vector_to_given_sum_of_squares(excitation, excitation,
783                                                 energy, AMRWB_SFR_SIZE);
784     }
785
786     ctx->celpf_ctx.celp_lp_synthesis_filterf(samples, lpc, excitation,
787                                  AMRWB_SFR_SIZE, LP_ORDER);
788 }
789
790 /**
791  * Apply to synthesis a de-emphasis filter of the form:
792  * H(z) = 1 / (1 - m * z^-1)
793  *
794  * @param[out]    out              Output buffer
795  * @param[in]     in               Input samples array with in[-1]
796  * @param[in]     m                Filter coefficient
797  * @param[in,out] mem              State from last filtering
798  */
799 static void de_emphasis(float *out, float *in, float m, float mem[1])
800 {
801     int i;
802
803     out[0] = in[0] + m * mem[0];
804
805     for (i = 1; i < AMRWB_SFR_SIZE; i++)
806          out[i] = in[i] + out[i - 1] * m;
807
808     mem[0] = out[AMRWB_SFR_SIZE - 1];
809 }
810
811 /**
812  * Upsample a signal by 5/4 ratio (from 12.8kHz to 16kHz) using
813  * a FIR interpolation filter. Uses past data from before *in address.
814  *
815  * @param[out] out                 Buffer for interpolated signal
816  * @param[in]  in                  Current signal data (length 0.8*o_size)
817  * @param[in]  o_size              Output signal length
818  * @param[in] ctx                  The context
819  */
820 static void upsample_5_4(float *out, const float *in, int o_size, CELPMContext *ctx)
821 {
822     const float *in0 = in - UPS_FIR_SIZE + 1;
823     int i, j, k;
824     int int_part = 0, frac_part;
825
826     i = 0;
827     for (j = 0; j < o_size / 5; j++) {
828         out[i] = in[int_part];
829         frac_part = 4;
830         i++;
831
832         for (k = 1; k < 5; k++) {
833             out[i] = ctx->dot_productf(in0 + int_part,
834                                      upsample_fir[4 - frac_part],
835                                      UPS_MEM_SIZE);
836             int_part++;
837             frac_part--;
838             i++;
839         }
840     }
841 }
842
843 /**
844  * Calculate the high-band gain based on encoded index (23k85 mode) or
845  * on the low-band speech signal and the Voice Activity Detection flag.
846  *
847  * @param[in] ctx                  The context
848  * @param[in] synth                LB speech synthesis at 12.8k
849  * @param[in] hb_idx               Gain index for mode 23k85 only
850  * @param[in] vad                  VAD flag for the frame
851  */
852 static float find_hb_gain(AMRWBContext *ctx, const float *synth,
853                           uint16_t hb_idx, uint8_t vad)
854 {
855     int wsp = (vad > 0);
856     float tilt;
857
858     if (ctx->fr_cur_mode == MODE_23k85)
859         return qua_hb_gain[hb_idx] * (1.0f / (1 << 14));
860
861     tilt = ctx->celpm_ctx.dot_productf(synth, synth + 1, AMRWB_SFR_SIZE - 1) /
862            ctx->celpm_ctx.dot_productf(synth, synth, AMRWB_SFR_SIZE);
863
864     /* return gain bounded by [0.1, 1.0] */
865     return av_clipf((1.0 - FFMAX(0.0, tilt)) * (1.25 - 0.25 * wsp), 0.1, 1.0);
866 }
867
868 /**
869  * Generate the high-band excitation with the same energy from the lower
870  * one and scaled by the given gain.
871  *
872  * @param[in]  ctx                 The context
873  * @param[out] hb_exc              Buffer for the excitation
874  * @param[in]  synth_exc           Low-band excitation used for synthesis
875  * @param[in]  hb_gain             Wanted excitation gain
876  */
877 static void scaled_hb_excitation(AMRWBContext *ctx, float *hb_exc,
878                                  const float *synth_exc, float hb_gain)
879 {
880     int i;
881     float energy = ctx->celpm_ctx.dot_productf(synth_exc, synth_exc, AMRWB_SFR_SIZE);
882
883     /* Generate a white-noise excitation */
884     for (i = 0; i < AMRWB_SFR_SIZE_16k; i++)
885         hb_exc[i] = 32768.0 - (uint16_t) av_lfg_get(&ctx->prng);
886
887     ff_scale_vector_to_given_sum_of_squares(hb_exc, hb_exc,
888                                             energy * hb_gain * hb_gain,
889                                             AMRWB_SFR_SIZE_16k);
890 }
891
892 /**
893  * Calculate the auto-correlation for the ISF difference vector.
894  */
895 static float auto_correlation(float *diff_isf, float mean, int lag)
896 {
897     int i;
898     float sum = 0.0;
899
900     for (i = 7; i < LP_ORDER - 2; i++) {
901         float prod = (diff_isf[i] - mean) * (diff_isf[i - lag] - mean);
902         sum += prod * prod;
903     }
904     return sum;
905 }
906
907 /**
908  * Extrapolate a ISF vector to the 16kHz range (20th order LP)
909  * used at mode 6k60 LP filter for the high frequency band.
910  *
911  * @param[out] isf Buffer for extrapolated isf; contains LP_ORDER
912  *                 values on input
913  */
914 static void extrapolate_isf(float isf[LP_ORDER_16k])
915 {
916     float diff_isf[LP_ORDER - 2], diff_mean;
917     float *diff_hi = diff_isf - LP_ORDER + 1; // diff array for extrapolated indexes
918     float corr_lag[3];
919     float est, scale;
920     int i, i_max_corr;
921
922     isf[LP_ORDER_16k - 1] = isf[LP_ORDER - 1];
923
924     /* Calculate the difference vector */
925     for (i = 0; i < LP_ORDER - 2; i++)
926         diff_isf[i] = isf[i + 1] - isf[i];
927
928     diff_mean = 0.0;
929     for (i = 2; i < LP_ORDER - 2; i++)
930         diff_mean += diff_isf[i] * (1.0f / (LP_ORDER - 4));
931
932     /* Find which is the maximum autocorrelation */
933     i_max_corr = 0;
934     for (i = 0; i < 3; i++) {
935         corr_lag[i] = auto_correlation(diff_isf, diff_mean, i + 2);
936
937         if (corr_lag[i] > corr_lag[i_max_corr])
938             i_max_corr = i;
939     }
940     i_max_corr++;
941
942     for (i = LP_ORDER - 1; i < LP_ORDER_16k - 1; i++)
943         isf[i] = isf[i - 1] + isf[i - 1 - i_max_corr]
944                             - isf[i - 2 - i_max_corr];
945
946     /* Calculate an estimate for ISF(18) and scale ISF based on the error */
947     est   = 7965 + (isf[2] - isf[3] - isf[4]) / 6.0;
948     scale = 0.5 * (FFMIN(est, 7600) - isf[LP_ORDER - 2]) /
949             (isf[LP_ORDER_16k - 2] - isf[LP_ORDER - 2]);
950
951     for (i = LP_ORDER - 1; i < LP_ORDER_16k - 1; i++)
952         diff_hi[i] = scale * (isf[i] - isf[i - 1]);
953
954     /* Stability insurance */
955     for (i = LP_ORDER; i < LP_ORDER_16k - 1; i++)
956         if (diff_hi[i] + diff_hi[i - 1] < 5.0) {
957             if (diff_hi[i] > diff_hi[i - 1]) {
958                 diff_hi[i - 1] = 5.0 - diff_hi[i];
959             } else
960                 diff_hi[i] = 5.0 - diff_hi[i - 1];
961         }
962
963     for (i = LP_ORDER - 1; i < LP_ORDER_16k - 1; i++)
964         isf[i] = isf[i - 1] + diff_hi[i] * (1.0f / (1 << 15));
965
966     /* Scale the ISF vector for 16000 Hz */
967     for (i = 0; i < LP_ORDER_16k - 1; i++)
968         isf[i] *= 0.8;
969 }
970
971 /**
972  * Spectral expand the LP coefficients using the equation:
973  *   y[i] = x[i] * (gamma ** i)
974  *
975  * @param[out] out                 Output buffer (may use input array)
976  * @param[in]  lpc                 LP coefficients array
977  * @param[in]  gamma               Weighting factor
978  * @param[in]  size                LP array size
979  */
980 static void lpc_weighting(float *out, const float *lpc, float gamma, int size)
981 {
982     int i;
983     float fac = gamma;
984
985     for (i = 0; i < size; i++) {
986         out[i] = lpc[i] * fac;
987         fac   *= gamma;
988     }
989 }
990
991 /**
992  * Conduct 20th order linear predictive coding synthesis for the high
993  * frequency band excitation at 16kHz.
994  *
995  * @param[in]     ctx              The context
996  * @param[in]     subframe         Current subframe index (0 to 3)
997  * @param[in,out] samples          Pointer to the output speech samples
998  * @param[in]     exc              Generated white-noise scaled excitation
999  * @param[in]     isf              Current frame isf vector
1000  * @param[in]     isf_past         Past frame final isf vector
1001  */
1002 static void hb_synthesis(AMRWBContext *ctx, int subframe, float *samples,
1003                          const float *exc, const float *isf, const float *isf_past)
1004 {
1005     float hb_lpc[LP_ORDER_16k];
1006     enum Mode mode = ctx->fr_cur_mode;
1007
1008     if (mode == MODE_6k60) {
1009         float e_isf[LP_ORDER_16k]; // ISF vector for extrapolation
1010         double e_isp[LP_ORDER_16k];
1011
1012         ctx->acelpv_ctx.weighted_vector_sumf(e_isf, isf_past, isf, isfp_inter[subframe],
1013                                 1.0 - isfp_inter[subframe], LP_ORDER);
1014
1015         extrapolate_isf(e_isf);
1016
1017         e_isf[LP_ORDER_16k - 1] *= 2.0;
1018         ff_acelp_lsf2lspd(e_isp, e_isf, LP_ORDER_16k);
1019         ff_amrwb_lsp2lpc(e_isp, hb_lpc, LP_ORDER_16k);
1020
1021         lpc_weighting(hb_lpc, hb_lpc, 0.9, LP_ORDER_16k);
1022     } else {
1023         lpc_weighting(hb_lpc, ctx->lp_coef[subframe], 0.6, LP_ORDER);
1024     }
1025
1026     ctx->celpf_ctx.celp_lp_synthesis_filterf(samples, hb_lpc, exc, AMRWB_SFR_SIZE_16k,
1027                                  (mode == MODE_6k60) ? LP_ORDER_16k : LP_ORDER);
1028 }
1029
1030 /**
1031  * Apply a 15th order filter to high-band samples.
1032  * The filter characteristic depends on the given coefficients.
1033  *
1034  * @param[out]    out              Buffer for filtered output
1035  * @param[in]     fir_coef         Filter coefficients
1036  * @param[in,out] mem              State from last filtering (updated)
1037  * @param[in]     in               Input speech data (high-band)
1038  *
1039  * @remark It is safe to pass the same array in in and out parameters
1040  */
1041
1042 #ifndef hb_fir_filter
1043 static void hb_fir_filter(float *out, const float fir_coef[HB_FIR_SIZE + 1],
1044                           float mem[HB_FIR_SIZE], const float *in)
1045 {
1046     int i, j;
1047     float data[AMRWB_SFR_SIZE_16k + HB_FIR_SIZE]; // past and current samples
1048
1049     memcpy(data, mem, HB_FIR_SIZE * sizeof(float));
1050     memcpy(data + HB_FIR_SIZE, in, AMRWB_SFR_SIZE_16k * sizeof(float));
1051
1052     for (i = 0; i < AMRWB_SFR_SIZE_16k; i++) {
1053         out[i] = 0.0;
1054         for (j = 0; j <= HB_FIR_SIZE; j++)
1055             out[i] += data[i + j] * fir_coef[j];
1056     }
1057
1058     memcpy(mem, data + AMRWB_SFR_SIZE_16k, HB_FIR_SIZE * sizeof(float));
1059 }
1060 #endif /* hb_fir_filter */
1061
1062 /**
1063  * Update context state before the next subframe.
1064  */
1065 static void update_sub_state(AMRWBContext *ctx)
1066 {
1067     memmove(&ctx->excitation_buf[0], &ctx->excitation_buf[AMRWB_SFR_SIZE],
1068             (AMRWB_P_DELAY_MAX + LP_ORDER + 1) * sizeof(float));
1069
1070     memmove(&ctx->pitch_gain[1], &ctx->pitch_gain[0], 5 * sizeof(float));
1071     memmove(&ctx->fixed_gain[1], &ctx->fixed_gain[0], 1 * sizeof(float));
1072
1073     memmove(&ctx->samples_az[0], &ctx->samples_az[AMRWB_SFR_SIZE],
1074             LP_ORDER * sizeof(float));
1075     memmove(&ctx->samples_up[0], &ctx->samples_up[AMRWB_SFR_SIZE],
1076             UPS_MEM_SIZE * sizeof(float));
1077     memmove(&ctx->samples_hb[0], &ctx->samples_hb[AMRWB_SFR_SIZE_16k],
1078             LP_ORDER_16k * sizeof(float));
1079 }
1080
1081 static int amrwb_decode_frame(AVCodecContext *avctx, void *data,
1082                               int *got_frame_ptr, AVPacket *avpkt)
1083 {
1084     AMRWBContext *ctx  = avctx->priv_data;
1085     AMRWBFrame   *cf   = &ctx->frame;
1086     const uint8_t *buf = avpkt->data;
1087     int buf_size       = avpkt->size;
1088     int expected_fr_size, header_size;
1089     float *buf_out;
1090     float spare_vector[AMRWB_SFR_SIZE];      // extra stack space to hold result from anti-sparseness processing
1091     float fixed_gain_factor;                 // fixed gain correction factor (gamma)
1092     float *synth_fixed_vector;               // pointer to the fixed vector that synthesis should use
1093     float synth_fixed_gain;                  // the fixed gain that synthesis should use
1094     float voice_fac, stab_fac;               // parameters used for gain smoothing
1095     float synth_exc[AMRWB_SFR_SIZE];         // post-processed excitation for synthesis
1096     float hb_exc[AMRWB_SFR_SIZE_16k];        // excitation for the high frequency band
1097     float hb_samples[AMRWB_SFR_SIZE_16k];    // filtered high-band samples from synthesis
1098     float hb_gain;
1099     int sub, i, ret;
1100
1101     /* get output buffer */
1102     ctx->avframe.nb_samples = 4 * AMRWB_SFR_SIZE_16k;
1103     if ((ret = avctx->get_buffer(avctx, &ctx->avframe)) < 0) {
1104         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
1105         return ret;
1106     }
1107     buf_out = (float *)ctx->avframe.data[0];
1108
1109     header_size      = decode_mime_header(ctx, buf);
1110     if (ctx->fr_cur_mode > MODE_SID) {
1111         av_log(avctx, AV_LOG_ERROR,
1112                "Invalid mode %d\n", ctx->fr_cur_mode);
1113         return AVERROR_INVALIDDATA;
1114     }
1115     expected_fr_size = ((cf_sizes_wb[ctx->fr_cur_mode] + 7) >> 3) + 1;
1116
1117     if (buf_size < expected_fr_size) {
1118         av_log(avctx, AV_LOG_ERROR,
1119             "Frame too small (%d bytes). Truncated file?\n", buf_size);
1120         *got_frame_ptr = 0;
1121         return AVERROR_INVALIDDATA;
1122     }
1123
1124     if (!ctx->fr_quality || ctx->fr_cur_mode > MODE_SID)
1125         av_log(avctx, AV_LOG_ERROR, "Encountered a bad or corrupted frame\n");
1126
1127     if (ctx->fr_cur_mode == MODE_SID) { /* Comfort noise frame */
1128         av_log_missing_feature(avctx, "SID mode", 1);
1129         return -1;
1130     }
1131
1132     ff_amr_bit_reorder((uint16_t *) &ctx->frame, sizeof(AMRWBFrame),
1133         buf + header_size, amr_bit_orderings_by_mode[ctx->fr_cur_mode]);
1134
1135     /* Decode the quantized ISF vector */
1136     if (ctx->fr_cur_mode == MODE_6k60) {
1137         decode_isf_indices_36b(cf->isp_id, ctx->isf_cur);
1138     } else {
1139         decode_isf_indices_46b(cf->isp_id, ctx->isf_cur);
1140     }
1141
1142     isf_add_mean_and_past(ctx->isf_cur, ctx->isf_q_past);
1143     ff_set_min_dist_lsf(ctx->isf_cur, MIN_ISF_SPACING, LP_ORDER - 1);
1144
1145     stab_fac = stability_factor(ctx->isf_cur, ctx->isf_past_final);
1146
1147     ctx->isf_cur[LP_ORDER - 1] *= 2.0;
1148     ff_acelp_lsf2lspd(ctx->isp[3], ctx->isf_cur, LP_ORDER);
1149
1150     /* Generate a ISP vector for each subframe */
1151     if (ctx->first_frame) {
1152         ctx->first_frame = 0;
1153         memcpy(ctx->isp_sub4_past, ctx->isp[3], LP_ORDER * sizeof(double));
1154     }
1155     interpolate_isp(ctx->isp, ctx->isp_sub4_past);
1156
1157     for (sub = 0; sub < 4; sub++)
1158         ff_amrwb_lsp2lpc(ctx->isp[sub], ctx->lp_coef[sub], LP_ORDER);
1159
1160     for (sub = 0; sub < 4; sub++) {
1161         const AMRWBSubFrame *cur_subframe = &cf->subframe[sub];
1162         float *sub_buf = buf_out + sub * AMRWB_SFR_SIZE_16k;
1163
1164         /* Decode adaptive codebook (pitch vector) */
1165         decode_pitch_vector(ctx, cur_subframe, sub);
1166         /* Decode innovative codebook (fixed vector) */
1167         decode_fixed_vector(ctx->fixed_vector, cur_subframe->pul_ih,
1168                             cur_subframe->pul_il, ctx->fr_cur_mode);
1169
1170         pitch_sharpening(ctx, ctx->fixed_vector);
1171
1172         decode_gains(cur_subframe->vq_gain, ctx->fr_cur_mode,
1173                      &fixed_gain_factor, &ctx->pitch_gain[0]);
1174
1175         ctx->fixed_gain[0] =
1176             ff_amr_set_fixed_gain(fixed_gain_factor,
1177                        ctx->celpm_ctx.dot_productf(ctx->fixed_vector, ctx->fixed_vector,
1178                                        AMRWB_SFR_SIZE) / AMRWB_SFR_SIZE,
1179                        ctx->prediction_error,
1180                        ENERGY_MEAN, energy_pred_fac);
1181
1182         /* Calculate voice factor and store tilt for next subframe */
1183         voice_fac      = voice_factor(ctx->pitch_vector, ctx->pitch_gain[0],
1184                                       ctx->fixed_vector, ctx->fixed_gain[0],
1185                                       &ctx->celpm_ctx);
1186         ctx->tilt_coef = voice_fac * 0.25 + 0.25;
1187
1188         /* Construct current excitation */
1189         for (i = 0; i < AMRWB_SFR_SIZE; i++) {
1190             ctx->excitation[i] *= ctx->pitch_gain[0];
1191             ctx->excitation[i] += ctx->fixed_gain[0] * ctx->fixed_vector[i];
1192             ctx->excitation[i] = truncf(ctx->excitation[i]);
1193         }
1194
1195         /* Post-processing of excitation elements */
1196         synth_fixed_gain = noise_enhancer(ctx->fixed_gain[0], &ctx->prev_tr_gain,
1197                                           voice_fac, stab_fac);
1198
1199         synth_fixed_vector = anti_sparseness(ctx, ctx->fixed_vector,
1200                                              spare_vector);
1201
1202         pitch_enhancer(synth_fixed_vector, voice_fac);
1203
1204         synthesis(ctx, ctx->lp_coef[sub], synth_exc, synth_fixed_gain,
1205                   synth_fixed_vector, &ctx->samples_az[LP_ORDER]);
1206
1207         /* Synthesis speech post-processing */
1208         de_emphasis(&ctx->samples_up[UPS_MEM_SIZE],
1209                     &ctx->samples_az[LP_ORDER], PREEMPH_FAC, ctx->demph_mem);
1210
1211         ctx->acelpf_ctx.acelp_apply_order_2_transfer_function(&ctx->samples_up[UPS_MEM_SIZE],
1212             &ctx->samples_up[UPS_MEM_SIZE], hpf_zeros, hpf_31_poles,
1213             hpf_31_gain, ctx->hpf_31_mem, AMRWB_SFR_SIZE);
1214
1215         upsample_5_4(sub_buf, &ctx->samples_up[UPS_FIR_SIZE],
1216                      AMRWB_SFR_SIZE_16k, &ctx->celpm_ctx);
1217
1218         /* High frequency band (6.4 - 7.0 kHz) generation part */
1219         ctx->acelpf_ctx.acelp_apply_order_2_transfer_function(hb_samples,
1220             &ctx->samples_up[UPS_MEM_SIZE], hpf_zeros, hpf_400_poles,
1221             hpf_400_gain, ctx->hpf_400_mem, AMRWB_SFR_SIZE);
1222
1223         hb_gain = find_hb_gain(ctx, hb_samples,
1224                                cur_subframe->hb_gain, cf->vad);
1225
1226         scaled_hb_excitation(ctx, hb_exc, synth_exc, hb_gain);
1227
1228         hb_synthesis(ctx, sub, &ctx->samples_hb[LP_ORDER_16k],
1229                      hb_exc, ctx->isf_cur, ctx->isf_past_final);
1230
1231         /* High-band post-processing filters */
1232         hb_fir_filter(hb_samples, bpf_6_7_coef, ctx->bpf_6_7_mem,
1233                       &ctx->samples_hb[LP_ORDER_16k]);
1234
1235         if (ctx->fr_cur_mode == MODE_23k85)
1236             hb_fir_filter(hb_samples, lpf_7_coef, ctx->lpf_7_mem,
1237                           hb_samples);
1238
1239         /* Add the low and high frequency bands */
1240         for (i = 0; i < AMRWB_SFR_SIZE_16k; i++)
1241             sub_buf[i] = (sub_buf[i] + hb_samples[i]) * (1.0f / (1 << 15));
1242
1243         /* Update buffers and history */
1244         update_sub_state(ctx);
1245     }
1246
1247     /* update state for next frame */
1248     memcpy(ctx->isp_sub4_past, ctx->isp[3], LP_ORDER * sizeof(ctx->isp[3][0]));
1249     memcpy(ctx->isf_past_final, ctx->isf_cur, LP_ORDER * sizeof(float));
1250
1251     *got_frame_ptr   = 1;
1252     *(AVFrame *)data = ctx->avframe;
1253
1254     return expected_fr_size;
1255 }
1256
1257 AVCodec ff_amrwb_decoder = {
1258     .name           = "amrwb",
1259     .type           = AVMEDIA_TYPE_AUDIO,
1260     .id             = CODEC_ID_AMR_WB,
1261     .priv_data_size = sizeof(AMRWBContext),
1262     .init           = amrwb_decode_init,
1263     .decode         = amrwb_decode_frame,
1264     .capabilities   = CODEC_CAP_DR1,
1265     .long_name      = NULL_IF_CONFIG_SMALL("Adaptive Multi-Rate WideBand"),
1266     .sample_fmts    = (const enum AVSampleFormat[]){ AV_SAMPLE_FMT_FLT,
1267                                                      AV_SAMPLE_FMT_NONE },
1268 };