avcodec/aacsbr_fixed: Fix integer overflow in sbr_hf_assemble()
[ffmpeg.git] / libavcodec / aacsbr_fixed.c
1 /*
2  * Copyright (c) 2013
3  *      MIPS Technologies, Inc., California.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  * 1. Redistributions of source code must retain the above copyright
9  *    notice, this list of conditions and the following disclaimer.
10  * 2. Redistributions in binary form must reproduce the above copyright
11  *    notice, this list of conditions and the following disclaimer in the
12  *    documentation and/or other materials provided with the distribution.
13  * 3. Neither the name of the MIPS Technologies, Inc., nor the names of its
14  *    contributors may be used to endorse or promote products derived from
15  *    this software without specific prior written permission.
16  *
17  * THIS SOFTWARE IS PROVIDED BY THE MIPS TECHNOLOGIES, INC. ``AS IS'' AND
18  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
19  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
20  * ARE DISCLAIMED.  IN NO EVENT SHALL THE MIPS TECHNOLOGIES, INC. BE LIABLE
21  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
22  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
23  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
24  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
25  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
26  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
27  * SUCH DAMAGE.
28  *
29  * AAC Spectral Band Replication decoding functions (fixed-point)
30  * Copyright (c) 2008-2009 Robert Swain ( rob opendot cl )
31  * Copyright (c) 2009-2010 Alex Converse <alex.converse@gmail.com>
32  *
33  * This file is part of FFmpeg.
34  *
35  * FFmpeg is free software; you can redistribute it and/or
36  * modify it under the terms of the GNU Lesser General Public
37  * License as published by the Free Software Foundation; either
38  * version 2.1 of the License, or (at your option) any later version.
39  *
40  * FFmpeg is distributed in the hope that it will be useful,
41  * but WITHOUT ANY WARRANTY; without even the implied warranty of
42  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
43  * Lesser General Public License for more details.
44  *
45  * You should have received a copy of the GNU Lesser General Public
46  * License along with FFmpeg; if not, write to the Free Software
47  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
48  */
49
50 /**
51  * @file
52  * AAC Spectral Band Replication decoding functions (fixed-point)
53  * Note: Rounding-to-nearest used unless otherwise stated
54  * @author Robert Swain ( rob opendot cl )
55  * @author Stanislav Ocovaj ( stanislav.ocovaj imgtec com )
56  */
57 #define USE_FIXED 1
58
59 #include "aac.h"
60 #include "sbr.h"
61 #include "aacsbr.h"
62 #include "aacsbrdata.h"
63 #include "aacsbr_fixed_tablegen.h"
64 #include "fft.h"
65 #include "aacps.h"
66 #include "sbrdsp.h"
67 #include "libavutil/internal.h"
68 #include "libavutil/libm.h"
69 #include "libavutil/avassert.h"
70
71 #include <stdint.h>
72 #include <float.h>
73 #include <math.h>
74
75 static VLC vlc_sbr[10];
76 static void aacsbr_func_ptr_init(AACSBRContext *c);
77 static const int CONST_LN2       = Q31(0.6931471806/256);  // ln(2)/256
78 static const int CONST_RECIP_LN2 = Q31(0.7213475204);      // 0.5/ln(2)
79 static const int CONST_076923    = Q31(0.76923076923076923077f);
80
81 static const int fixed_log_table[10] =
82 {
83     Q31(1.0/2), Q31(1.0/3), Q31(1.0/4), Q31(1.0/5), Q31(1.0/6),
84     Q31(1.0/7), Q31(1.0/8), Q31(1.0/9), Q31(1.0/10), Q31(1.0/11)
85 };
86
87 static int fixed_log(int x)
88 {
89     int i, ret, xpow, tmp;
90
91     ret = x;
92     xpow = x;
93     for (i=0; i<10; i+=2){
94         xpow = (int)(((int64_t)xpow * x + 0x40000000) >> 31);
95         tmp = (int)(((int64_t)xpow * fixed_log_table[i] + 0x40000000) >> 31);
96         ret -= tmp;
97
98         xpow = (int)(((int64_t)xpow * x + 0x40000000) >> 31);
99         tmp = (int)(((int64_t)xpow * fixed_log_table[i+1] + 0x40000000) >> 31);
100         ret += tmp;
101     }
102
103     return ret;
104 }
105
106 static const int fixed_exp_table[7] =
107 {
108     Q31(1.0/2), Q31(1.0/6), Q31(1.0/24), Q31(1.0/120),
109     Q31(1.0/720), Q31(1.0/5040), Q31(1.0/40320)
110 };
111
112 static int fixed_exp(int x)
113 {
114     int i, ret, xpow, tmp;
115
116     ret = 0x800000 + x;
117     xpow = x;
118     for (i=0; i<7; i++){
119         xpow = (int)(((int64_t)xpow * x + 0x400000) >> 23);
120         tmp = (int)(((int64_t)xpow * fixed_exp_table[i] + 0x40000000) >> 31);
121         ret += tmp;
122     }
123
124     return ret;
125 }
126
127 static void make_bands(int16_t* bands, int start, int stop, int num_bands)
128 {
129     int k, previous, present;
130     int base, prod, nz = 0;
131
132     base = (stop << 23) / start;
133     while (base < 0x40000000){
134         base <<= 1;
135         nz++;
136     }
137     base = fixed_log(base - 0x80000000);
138     base = (((base + 0x80) >> 8) + (8-nz)*CONST_LN2) / num_bands;
139     base = fixed_exp(base);
140
141     previous = start;
142     prod = start << 23;
143
144     for (k = 0; k < num_bands-1; k++) {
145         prod = (int)(((int64_t)prod * base + 0x400000) >> 23);
146         present = (prod + 0x400000) >> 23;
147         bands[k] = present - previous;
148         previous = present;
149     }
150     bands[num_bands-1] = stop - previous;
151 }
152
153 /// Dequantization and stereo decoding (14496-3 sp04 p203)
154 static void sbr_dequant(SpectralBandReplication *sbr, int id_aac)
155 {
156     int k, e;
157     int ch;
158
159     if (id_aac == TYPE_CPE && sbr->bs_coupling) {
160         int alpha      = sbr->data[0].bs_amp_res ?  2 :  1;
161         int pan_offset = sbr->data[0].bs_amp_res ? 12 : 24;
162         for (e = 1; e <= sbr->data[0].bs_num_env; e++) {
163             for (k = 0; k < sbr->n[sbr->data[0].bs_freq_res[e]]; k++) {
164                 SoftFloat temp1, temp2, fac;
165
166                 temp1.exp = sbr->data[0].env_facs_q[e][k] * alpha + 14;
167                 if (temp1.exp & 1)
168                   temp1.mant = 759250125;
169                 else
170                   temp1.mant = 0x20000000;
171                 temp1.exp = (temp1.exp >> 1) + 1;
172                 if (temp1.exp > 66) { // temp1 > 1E20
173                     av_log(NULL, AV_LOG_ERROR, "envelope scalefactor overflow in dequant\n");
174                     temp1 = FLOAT_1;
175                 }
176
177                 temp2.exp = (pan_offset - sbr->data[1].env_facs_q[e][k]) * alpha;
178                 if (temp2.exp & 1)
179                   temp2.mant = 759250125;
180                 else
181                   temp2.mant = 0x20000000;
182                 temp2.exp = (temp2.exp >> 1) + 1;
183                 fac   = av_div_sf(temp1, av_add_sf(FLOAT_1, temp2));
184                 sbr->data[0].env_facs[e][k] = fac;
185                 sbr->data[1].env_facs[e][k] = av_mul_sf(fac, temp2);
186             }
187         }
188         for (e = 1; e <= sbr->data[0].bs_num_noise; e++) {
189             for (k = 0; k < sbr->n_q; k++) {
190                 SoftFloat temp1, temp2, fac;
191
192                 temp1.exp = NOISE_FLOOR_OFFSET - \
193                     sbr->data[0].noise_facs_q[e][k] + 2;
194                 temp1.mant = 0x20000000;
195                 av_assert0(temp1.exp <= 66);
196                 temp2.exp = 12 - sbr->data[1].noise_facs_q[e][k] + 1;
197                 temp2.mant = 0x20000000;
198                 fac   = av_div_sf(temp1, av_add_sf(FLOAT_1, temp2));
199                 sbr->data[0].noise_facs[e][k] = fac;
200                 sbr->data[1].noise_facs[e][k] = av_mul_sf(fac, temp2);
201             }
202         }
203     } else { // SCE or one non-coupled CPE
204         for (ch = 0; ch < (id_aac == TYPE_CPE) + 1; ch++) {
205             int alpha = sbr->data[ch].bs_amp_res ? 2 : 1;
206             for (e = 1; e <= sbr->data[ch].bs_num_env; e++)
207                 for (k = 0; k < sbr->n[sbr->data[ch].bs_freq_res[e]]; k++){
208                     SoftFloat temp1;
209
210                     temp1.exp = alpha * sbr->data[ch].env_facs_q[e][k] + 12;
211                     if (temp1.exp & 1)
212                         temp1.mant = 759250125;
213                     else
214                         temp1.mant = 0x20000000;
215                     temp1.exp = (temp1.exp >> 1) + 1;
216                     if (temp1.exp > 66) { // temp1 > 1E20
217                         av_log(NULL, AV_LOG_ERROR, "envelope scalefactor overflow in dequant\n");
218                         temp1 = FLOAT_1;
219                     }
220                     sbr->data[ch].env_facs[e][k] = temp1;
221                 }
222             for (e = 1; e <= sbr->data[ch].bs_num_noise; e++)
223                 for (k = 0; k < sbr->n_q; k++){
224                     sbr->data[ch].noise_facs[e][k].exp = NOISE_FLOOR_OFFSET - \
225                         sbr->data[ch].noise_facs_q[e][k] + 1;
226                     sbr->data[ch].noise_facs[e][k].mant = 0x20000000;
227                 }
228         }
229     }
230 }
231
232 /** High Frequency Generation (14496-3 sp04 p214+) and Inverse Filtering
233  * (14496-3 sp04 p214)
234  * Warning: This routine does not seem numerically stable.
235  */
236 static void sbr_hf_inverse_filter(SBRDSPContext *dsp,
237                                   int (*alpha0)[2], int (*alpha1)[2],
238                                   const int X_low[32][40][2], int k0)
239 {
240     int k;
241     int shift, round;
242
243     for (k = 0; k < k0; k++) {
244         SoftFloat phi[3][2][2];
245         SoftFloat a00, a01, a10, a11;
246         SoftFloat dk;
247
248         dsp->autocorrelate(X_low[k], phi);
249
250         dk = av_sub_sf(av_mul_sf(phi[2][1][0], phi[1][0][0]),
251              av_mul_sf(av_add_sf(av_mul_sf(phi[1][1][0], phi[1][1][0]),
252              av_mul_sf(phi[1][1][1], phi[1][1][1])), FLOAT_0999999));
253
254         if (!dk.mant) {
255             a10 = FLOAT_0;
256             a11 = FLOAT_0;
257         } else {
258             SoftFloat temp_real, temp_im;
259             temp_real = av_sub_sf(av_sub_sf(av_mul_sf(phi[0][0][0], phi[1][1][0]),
260                                             av_mul_sf(phi[0][0][1], phi[1][1][1])),
261                                   av_mul_sf(phi[0][1][0], phi[1][0][0]));
262             temp_im   = av_sub_sf(av_add_sf(av_mul_sf(phi[0][0][0], phi[1][1][1]),
263                                             av_mul_sf(phi[0][0][1], phi[1][1][0])),
264                                   av_mul_sf(phi[0][1][1], phi[1][0][0]));
265
266             a10 = av_div_sf(temp_real, dk);
267             a11 = av_div_sf(temp_im,   dk);
268         }
269
270         if (!phi[1][0][0].mant) {
271             a00 = FLOAT_0;
272             a01 = FLOAT_0;
273         } else {
274             SoftFloat temp_real, temp_im;
275             temp_real = av_add_sf(phi[0][0][0],
276                                   av_add_sf(av_mul_sf(a10, phi[1][1][0]),
277                                             av_mul_sf(a11, phi[1][1][1])));
278             temp_im   = av_add_sf(phi[0][0][1],
279                                   av_sub_sf(av_mul_sf(a11, phi[1][1][0]),
280                                             av_mul_sf(a10, phi[1][1][1])));
281
282             temp_real.mant = -temp_real.mant;
283             temp_im.mant   = -temp_im.mant;
284             a00 = av_div_sf(temp_real, phi[1][0][0]);
285             a01 = av_div_sf(temp_im,   phi[1][0][0]);
286         }
287
288         shift = a00.exp;
289         if (shift >= 3)
290             alpha0[k][0] = 0x7fffffff;
291         else if (shift <= -30)
292             alpha0[k][0] = 0;
293         else {
294             a00.mant <<= 1;
295             shift = 2-shift;
296             if (shift == 0)
297                 alpha0[k][0] = a00.mant;
298             else {
299                 round = 1 << (shift-1);
300                 alpha0[k][0] = (a00.mant + round) >> shift;
301             }
302         }
303
304         shift = a01.exp;
305         if (shift >= 3)
306             alpha0[k][1] = 0x7fffffff;
307         else if (shift <= -30)
308             alpha0[k][1] = 0;
309         else {
310             a01.mant <<= 1;
311             shift = 2-shift;
312             if (shift == 0)
313                 alpha0[k][1] = a01.mant;
314             else {
315                 round = 1 << (shift-1);
316                 alpha0[k][1] = (a01.mant + round) >> shift;
317             }
318         }
319         shift = a10.exp;
320         if (shift >= 3)
321             alpha1[k][0] = 0x7fffffff;
322         else if (shift <= -30)
323             alpha1[k][0] = 0;
324         else {
325             a10.mant <<= 1;
326             shift = 2-shift;
327             if (shift == 0)
328                 alpha1[k][0] = a10.mant;
329             else {
330                 round = 1 << (shift-1);
331                 alpha1[k][0] = (a10.mant + round) >> shift;
332             }
333         }
334
335         shift = a11.exp;
336         if (shift >= 3)
337             alpha1[k][1] = 0x7fffffff;
338         else if (shift <= -30)
339             alpha1[k][1] = 0;
340         else {
341             a11.mant <<= 1;
342             shift = 2-shift;
343             if (shift == 0)
344                 alpha1[k][1] = a11.mant;
345             else {
346                 round = 1 << (shift-1);
347                 alpha1[k][1] = (a11.mant + round) >> shift;
348             }
349         }
350
351         shift = (int)(((int64_t)(alpha1[k][0]>>1) * (alpha1[k][0]>>1) + \
352                        (int64_t)(alpha1[k][1]>>1) * (alpha1[k][1]>>1) + \
353                        0x40000000) >> 31);
354         if (shift >= 0x20000000){
355             alpha1[k][0] = 0;
356             alpha1[k][1] = 0;
357             alpha0[k][0] = 0;
358             alpha0[k][1] = 0;
359         }
360
361         shift = (int)(((int64_t)(alpha0[k][0]>>1) * (alpha0[k][0]>>1) + \
362                        (int64_t)(alpha0[k][1]>>1) * (alpha0[k][1]>>1) + \
363                        0x40000000) >> 31);
364         if (shift >= 0x20000000){
365             alpha1[k][0] = 0;
366             alpha1[k][1] = 0;
367             alpha0[k][0] = 0;
368             alpha0[k][1] = 0;
369         }
370     }
371 }
372
373 /// Chirp Factors (14496-3 sp04 p214)
374 static void sbr_chirp(SpectralBandReplication *sbr, SBRData *ch_data)
375 {
376     int i;
377     int new_bw;
378     static const int bw_tab[] = { 0, 1610612736, 1932735283, 2104533975 };
379     int64_t accu;
380
381     for (i = 0; i < sbr->n_q; i++) {
382         if (ch_data->bs_invf_mode[0][i] + ch_data->bs_invf_mode[1][i] == 1)
383             new_bw = 1288490189;
384         else
385             new_bw = bw_tab[ch_data->bs_invf_mode[0][i]];
386
387         if (new_bw < ch_data->bw_array[i]){
388             accu  = (int64_t)new_bw * 1610612736;
389             accu += (int64_t)ch_data->bw_array[i] * 0x20000000;
390             new_bw = (int)((accu + 0x40000000) >> 31);
391         } else {
392             accu  = (int64_t)new_bw * 1946157056;
393             accu += (int64_t)ch_data->bw_array[i] * 201326592;
394             new_bw = (int)((accu + 0x40000000) >> 31);
395         }
396         ch_data->bw_array[i] = new_bw < 0x2000000 ? 0 : new_bw;
397     }
398 }
399
400 /**
401  * Calculation of levels of additional HF signal components (14496-3 sp04 p219)
402  * and Calculation of gain (14496-3 sp04 p219)
403  */
404 static void sbr_gain_calc(AACContext *ac, SpectralBandReplication *sbr,
405                           SBRData *ch_data, const int e_a[2])
406 {
407     int e, k, m;
408     // max gain limits : -3dB, 0dB, 3dB, inf dB (limiter off)
409     static const SoftFloat limgain[4] = { { 760155524,  0 }, { 0x20000000,  1 },
410                                             { 758351638,  1 }, { 625000000, 34 } };
411
412     for (e = 0; e < ch_data->bs_num_env; e++) {
413         int delta = !((e == e_a[1]) || (e == e_a[0]));
414         for (k = 0; k < sbr->n_lim; k++) {
415             SoftFloat gain_boost, gain_max;
416             SoftFloat sum[2];
417             sum[0] = sum[1] = FLOAT_0;
418             for (m = sbr->f_tablelim[k] - sbr->kx[1]; m < sbr->f_tablelim[k + 1] - sbr->kx[1]; m++) {
419                 const SoftFloat temp = av_div_sf(sbr->e_origmapped[e][m],
420                                             av_add_sf(FLOAT_1, sbr->q_mapped[e][m]));
421                 sbr->q_m[e][m] = av_sqrt_sf(av_mul_sf(temp, sbr->q_mapped[e][m]));
422                 sbr->s_m[e][m] = av_sqrt_sf(av_mul_sf(temp, av_int2sf(ch_data->s_indexmapped[e + 1][m], 0)));
423                 if (!sbr->s_mapped[e][m]) {
424                     if (delta) {
425                       sbr->gain[e][m] = av_sqrt_sf(av_div_sf(sbr->e_origmapped[e][m],
426                                             av_mul_sf(av_add_sf(FLOAT_1, sbr->e_curr[e][m]),
427                                             av_add_sf(FLOAT_1, sbr->q_mapped[e][m]))));
428                     } else {
429                       sbr->gain[e][m] = av_sqrt_sf(av_div_sf(sbr->e_origmapped[e][m],
430                                             av_add_sf(FLOAT_1, sbr->e_curr[e][m])));
431                     }
432                 } else {
433                     sbr->gain[e][m] = av_sqrt_sf(
434                                         av_div_sf(
435                                             av_mul_sf(sbr->e_origmapped[e][m], sbr->q_mapped[e][m]),
436                                             av_mul_sf(
437                                                 av_add_sf(FLOAT_1, sbr->e_curr[e][m]),
438                                                 av_add_sf(FLOAT_1, sbr->q_mapped[e][m]))));
439                 }
440                 sbr->gain[e][m] = av_add_sf(sbr->gain[e][m], FLOAT_MIN);
441             }
442             for (m = sbr->f_tablelim[k] - sbr->kx[1]; m < sbr->f_tablelim[k + 1] - sbr->kx[1]; m++) {
443                 sum[0] = av_add_sf(sum[0], sbr->e_origmapped[e][m]);
444                 sum[1] = av_add_sf(sum[1], sbr->e_curr[e][m]);
445             }
446             gain_max = av_mul_sf(limgain[sbr->bs_limiter_gains],
447                             av_sqrt_sf(
448                                 av_div_sf(
449                                     av_add_sf(FLOAT_EPSILON, sum[0]),
450                                     av_add_sf(FLOAT_EPSILON, sum[1]))));
451             if (av_gt_sf(gain_max, FLOAT_100000))
452               gain_max = FLOAT_100000;
453             for (m = sbr->f_tablelim[k] - sbr->kx[1]; m < sbr->f_tablelim[k + 1] - sbr->kx[1]; m++) {
454                 SoftFloat q_m_max = av_div_sf(
455                                         av_mul_sf(sbr->q_m[e][m], gain_max),
456                                         sbr->gain[e][m]);
457                 if (av_gt_sf(sbr->q_m[e][m], q_m_max))
458                   sbr->q_m[e][m] = q_m_max;
459                 if (av_gt_sf(sbr->gain[e][m], gain_max))
460                   sbr->gain[e][m] = gain_max;
461             }
462             sum[0] = sum[1] = FLOAT_0;
463             for (m = sbr->f_tablelim[k] - sbr->kx[1]; m < sbr->f_tablelim[k + 1] - sbr->kx[1]; m++) {
464                 sum[0] = av_add_sf(sum[0], sbr->e_origmapped[e][m]);
465                 sum[1] = av_add_sf(sum[1],
466                             av_mul_sf(
467                                 av_mul_sf(sbr->e_curr[e][m],
468                                           sbr->gain[e][m]),
469                                 sbr->gain[e][m]));
470                 sum[1] = av_add_sf(sum[1],
471                             av_mul_sf(sbr->s_m[e][m], sbr->s_m[e][m]));
472                 if (delta && !sbr->s_m[e][m].mant)
473                   sum[1] = av_add_sf(sum[1],
474                                 av_mul_sf(sbr->q_m[e][m], sbr->q_m[e][m]));
475             }
476             gain_boost = av_sqrt_sf(
477                             av_div_sf(
478                                 av_add_sf(FLOAT_EPSILON, sum[0]),
479                                 av_add_sf(FLOAT_EPSILON, sum[1])));
480             if (av_gt_sf(gain_boost, FLOAT_1584893192))
481               gain_boost = FLOAT_1584893192;
482
483             for (m = sbr->f_tablelim[k] - sbr->kx[1]; m < sbr->f_tablelim[k + 1] - sbr->kx[1]; m++) {
484                 sbr->gain[e][m] = av_mul_sf(sbr->gain[e][m], gain_boost);
485                 sbr->q_m[e][m]  = av_mul_sf(sbr->q_m[e][m], gain_boost);
486                 sbr->s_m[e][m]  = av_mul_sf(sbr->s_m[e][m], gain_boost);
487             }
488         }
489     }
490 }
491
492 /// Assembling HF Signals (14496-3 sp04 p220)
493 static void sbr_hf_assemble(int Y1[38][64][2],
494                             const int X_high[64][40][2],
495                             SpectralBandReplication *sbr, SBRData *ch_data,
496                             const int e_a[2])
497 {
498     int e, i, j, m;
499     const int h_SL = 4 * !sbr->bs_smoothing_mode;
500     const int kx = sbr->kx[1];
501     const int m_max = sbr->m[1];
502     static const SoftFloat h_smooth[5] = {
503       { 715827883, -1 },
504       { 647472402, -1 },
505       { 937030863, -2 },
506       { 989249804, -3 },
507       { 546843842, -4 },
508     };
509     SoftFloat (*g_temp)[48] = ch_data->g_temp, (*q_temp)[48] = ch_data->q_temp;
510     int indexnoise = ch_data->f_indexnoise;
511     int indexsine  = ch_data->f_indexsine;
512
513     if (sbr->reset) {
514         for (i = 0; i < h_SL; i++) {
515             memcpy(g_temp[i + 2*ch_data->t_env[0]], sbr->gain[0], m_max * sizeof(sbr->gain[0][0]));
516             memcpy(q_temp[i + 2*ch_data->t_env[0]], sbr->q_m[0],  m_max * sizeof(sbr->q_m[0][0]));
517         }
518     } else if (h_SL) {
519         for (i = 0; i < 4; i++) {
520             memcpy(g_temp[i + 2 * ch_data->t_env[0]],
521                    g_temp[i + 2 * ch_data->t_env_num_env_old],
522                    sizeof(g_temp[0]));
523             memcpy(q_temp[i + 2 * ch_data->t_env[0]],
524                    q_temp[i + 2 * ch_data->t_env_num_env_old],
525                    sizeof(q_temp[0]));
526         }
527     }
528
529     for (e = 0; e < ch_data->bs_num_env; e++) {
530         for (i = 2 * ch_data->t_env[e]; i < 2 * ch_data->t_env[e + 1]; i++) {
531             memcpy(g_temp[h_SL + i], sbr->gain[e], m_max * sizeof(sbr->gain[0][0]));
532             memcpy(q_temp[h_SL + i], sbr->q_m[e],  m_max * sizeof(sbr->q_m[0][0]));
533         }
534     }
535
536     for (e = 0; e < ch_data->bs_num_env; e++) {
537         for (i = 2 * ch_data->t_env[e]; i < 2 * ch_data->t_env[e + 1]; i++) {
538             SoftFloat g_filt_tab[48];
539             SoftFloat q_filt_tab[48];
540             SoftFloat *g_filt, *q_filt;
541
542             if (h_SL && e != e_a[0] && e != e_a[1]) {
543                 g_filt = g_filt_tab;
544                 q_filt = q_filt_tab;
545                 for (m = 0; m < m_max; m++) {
546                     const int idx1 = i + h_SL;
547                     g_filt[m].mant = g_filt[m].exp = 0;
548                     q_filt[m].mant = q_filt[m].exp = 0;
549                     for (j = 0; j <= h_SL; j++) {
550                         g_filt[m] = av_add_sf(g_filt[m],
551                                         av_mul_sf(g_temp[idx1 - j][m],
552                                             h_smooth[j]));
553                         q_filt[m] = av_add_sf(q_filt[m],
554                                         av_mul_sf(q_temp[idx1 - j][m],
555                                             h_smooth[j]));
556                     }
557                 }
558             } else {
559                 g_filt = g_temp[i + h_SL];
560                 q_filt = q_temp[i];
561             }
562
563             sbr->dsp.hf_g_filt(Y1[i] + kx, X_high + kx, g_filt, m_max,
564                                i + ENVELOPE_ADJUSTMENT_OFFSET);
565
566             if (e != e_a[0] && e != e_a[1]) {
567                 sbr->dsp.hf_apply_noise[indexsine](Y1[i] + kx, sbr->s_m[e],
568                                                    q_filt, indexnoise,
569                                                    kx, m_max);
570             } else {
571                 int idx = indexsine&1;
572                 int A = (1-((indexsine+(kx & 1))&2));
573                 int B = (A^(-idx)) + idx;
574                 unsigned *out = &Y1[i][kx][idx];
575                 int shift;
576                 unsigned round;
577
578                 SoftFloat *in  = sbr->s_m[e];
579                 for (m = 0; m+1 < m_max; m+=2) {
580                     int shift2;
581                     shift = 22 - in[m  ].exp;
582                     shift2= 22 - in[m+1].exp;
583                     if (shift < 1 || shift2 < 1) {
584                         av_log(NULL, AV_LOG_ERROR, "Overflow in sbr_hf_assemble, shift=%d,%d\n", shift, shift2);
585                         return;
586                     }
587                     if (shift < 32) {
588                         round = 1 << (shift-1);
589                         out[2*m  ] += (int)(in[m  ].mant * A + round) >> shift;
590                     }
591
592                     if (shift2 < 32) {
593                         round = 1 << (shift2-1);
594                         out[2*m+2] += (int)(in[m+1].mant * B + round) >> shift2;
595                     }
596                 }
597                 if(m_max&1)
598                 {
599                     shift = 22 - in[m  ].exp;
600                     if (shift < 1) {
601                         av_log(NULL, AV_LOG_ERROR, "Overflow in sbr_hf_assemble, shift=%d\n", shift);
602                         return;
603                     } else if (shift < 32) {
604                         round = 1 << (shift-1);
605                         out[2*m  ] += (int)(in[m  ].mant * A + round) >> shift;
606                     }
607                 }
608             }
609             indexnoise = (indexnoise + m_max) & 0x1ff;
610             indexsine = (indexsine + 1) & 3;
611         }
612     }
613     ch_data->f_indexnoise = indexnoise;
614     ch_data->f_indexsine  = indexsine;
615 }
616
617 #include "aacsbr_template.c"