8c8ef92023e6d2aa07297a7691d5343b6143d1ab
[ffmpeg.git] / libswresample / resample.c
1 /*
2  * audio resampling
3  * Copyright (c) 2004-2012 Michael Niedermayer <michaelni@gmx.at>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * audio resampling
25  * @author Michael Niedermayer <michaelni@gmx.at>
26  */
27
28 #include "libavutil/log.h"
29 #include "libavutil/avassert.h"
30 #include "swresample_internal.h"
31
32 #define WINDOW_TYPE 9
33
34
35
36 typedef struct ResampleContext {
37     const AVClass *av_class;
38     uint8_t *filter_bank;
39     int filter_length;
40     int filter_alloc;
41     int ideal_dst_incr;
42     int dst_incr;
43     int index;
44     int frac;
45     int src_incr;
46     int compensation_distance;
47     int phase_shift;
48     int phase_mask;
49     int linear;
50     double factor;
51     enum AVSampleFormat format;
52     int felem_size;
53     int filter_shift;
54 } ResampleContext;
55
56 /**
57  * 0th order modified bessel function of the first kind.
58  */
59 static double bessel(double x){
60     double v=1;
61     double lastv=0;
62     double t=1;
63     int i;
64     static const double inv[100]={
65  1.0/( 1* 1), 1.0/( 2* 2), 1.0/( 3* 3), 1.0/( 4* 4), 1.0/( 5* 5), 1.0/( 6* 6), 1.0/( 7* 7), 1.0/( 8* 8), 1.0/( 9* 9), 1.0/(10*10),
66  1.0/(11*11), 1.0/(12*12), 1.0/(13*13), 1.0/(14*14), 1.0/(15*15), 1.0/(16*16), 1.0/(17*17), 1.0/(18*18), 1.0/(19*19), 1.0/(20*20),
67  1.0/(21*21), 1.0/(22*22), 1.0/(23*23), 1.0/(24*24), 1.0/(25*25), 1.0/(26*26), 1.0/(27*27), 1.0/(28*28), 1.0/(29*29), 1.0/(30*30),
68  1.0/(31*31), 1.0/(32*32), 1.0/(33*33), 1.0/(34*34), 1.0/(35*35), 1.0/(36*36), 1.0/(37*37), 1.0/(38*38), 1.0/(39*39), 1.0/(40*40),
69  1.0/(41*41), 1.0/(42*42), 1.0/(43*43), 1.0/(44*44), 1.0/(45*45), 1.0/(46*46), 1.0/(47*47), 1.0/(48*48), 1.0/(49*49), 1.0/(50*50),
70  1.0/(51*51), 1.0/(52*52), 1.0/(53*53), 1.0/(54*54), 1.0/(55*55), 1.0/(56*56), 1.0/(57*57), 1.0/(58*58), 1.0/(59*59), 1.0/(60*60),
71  1.0/(61*61), 1.0/(62*62), 1.0/(63*63), 1.0/(64*64), 1.0/(65*65), 1.0/(66*66), 1.0/(67*67), 1.0/(68*68), 1.0/(69*69), 1.0/(70*70),
72  1.0/(71*71), 1.0/(72*72), 1.0/(73*73), 1.0/(74*74), 1.0/(75*75), 1.0/(76*76), 1.0/(77*77), 1.0/(78*78), 1.0/(79*79), 1.0/(80*80),
73  1.0/(81*81), 1.0/(82*82), 1.0/(83*83), 1.0/(84*84), 1.0/(85*85), 1.0/(86*86), 1.0/(87*87), 1.0/(88*88), 1.0/(89*89), 1.0/(90*90),
74  1.0/(91*91), 1.0/(92*92), 1.0/(93*93), 1.0/(94*94), 1.0/(95*95), 1.0/(96*96), 1.0/(97*97), 1.0/(98*98), 1.0/(99*99), 1.0/(10000)
75     };
76
77     x= x*x/4;
78     for(i=0; v != lastv; i++){
79         lastv=v;
80         t *= x*inv[i];
81         v += t;
82     }
83     return v;
84 }
85
86 /**
87  * builds a polyphase filterbank.
88  * @param factor resampling factor
89  * @param scale wanted sum of coefficients for each filter
90  * @param type 0->cubic, 1->blackman nuttall windowed sinc, 2..16->kaiser windowed sinc beta=2..16
91  * @return 0 on success, negative on error
92  */
93 static int build_filter(ResampleContext *c, void *filter, double factor, int tap_count, int alloc, int phase_count, int scale, int type){
94     int ph, i;
95     double x, y, w;
96     double *tab = av_malloc(tap_count * sizeof(*tab));
97     const int center= (tap_count-1)/2;
98
99     if (!tab)
100         return AVERROR(ENOMEM);
101
102     /* if upsampling, only need to interpolate, no filter */
103     if (factor > 1.0)
104         factor = 1.0;
105
106     for(ph=0;ph<phase_count;ph++) {
107         double norm = 0;
108         for(i=0;i<tap_count;i++) {
109             x = M_PI * ((double)(i - center) - (double)ph / phase_count) * factor;
110             if (x == 0) y = 1.0;
111             else        y = sin(x) / x;
112             switch(type){
113             case 0:{
114                 const float d= -0.5; //first order derivative = -0.5
115                 x = fabs(((double)(i - center) - (double)ph / phase_count) * factor);
116                 if(x<1.0) y= 1 - 3*x*x + 2*x*x*x + d*(            -x*x + x*x*x);
117                 else      y=                       d*(-4 + 8*x - 5*x*x + x*x*x);
118                 break;}
119             case 1:
120                 w = 2.0*x / (factor*tap_count) + M_PI;
121                 y *= 0.3635819 - 0.4891775 * cos(w) + 0.1365995 * cos(2*w) - 0.0106411 * cos(3*w);
122                 break;
123             default:
124                 w = 2.0*x / (factor*tap_count*M_PI);
125                 y *= bessel(type*sqrt(FFMAX(1-w*w, 0)));
126                 break;
127             }
128
129             tab[i] = y;
130             norm += y;
131         }
132
133         /* normalize so that an uniform color remains the same */
134         switch(c->format){
135         case AV_SAMPLE_FMT_S16P:
136             for(i=0;i<tap_count;i++)
137                 ((int16_t*)filter)[ph * alloc + i] = av_clip(lrintf(tab[i] * scale / norm), INT16_MIN, INT16_MAX);
138             break;
139         case AV_SAMPLE_FMT_S32P:
140             for(i=0;i<tap_count;i++)
141                 ((int32_t*)filter)[ph * alloc + i] = av_clip(lrintf(tab[i] * scale / norm), INT32_MIN, INT32_MAX);
142             break;
143         case AV_SAMPLE_FMT_FLTP:
144             for(i=0;i<tap_count;i++)
145                 ((float*)filter)[ph * alloc + i] = tab[i] * scale / norm;
146             break;
147         case AV_SAMPLE_FMT_DBLP:
148             for(i=0;i<tap_count;i++)
149                 ((double*)filter)[ph * alloc + i] = tab[i] * scale / norm;
150             break;
151         }
152     }
153 #if 0
154     {
155 #define LEN 1024
156         int j,k;
157         double sine[LEN + tap_count];
158         double filtered[LEN];
159         double maxff=-2, minff=2, maxsf=-2, minsf=2;
160         for(i=0; i<LEN; i++){
161             double ss=0, sf=0, ff=0;
162             for(j=0; j<LEN+tap_count; j++)
163                 sine[j]= cos(i*j*M_PI/LEN);
164             for(j=0; j<LEN; j++){
165                 double sum=0;
166                 ph=0;
167                 for(k=0; k<tap_count; k++)
168                     sum += filter[ph * tap_count + k] * sine[k+j];
169                 filtered[j]= sum / (1<<FILTER_SHIFT);
170                 ss+= sine[j + center] * sine[j + center];
171                 ff+= filtered[j] * filtered[j];
172                 sf+= sine[j + center] * filtered[j];
173             }
174             ss= sqrt(2*ss/LEN);
175             ff= sqrt(2*ff/LEN);
176             sf= 2*sf/LEN;
177             maxff= FFMAX(maxff, ff);
178             minff= FFMIN(minff, ff);
179             maxsf= FFMAX(maxsf, sf);
180             minsf= FFMIN(minsf, sf);
181             if(i%11==0){
182                 av_log(NULL, AV_LOG_ERROR, "i:%4d ss:%f ff:%13.6e-%13.6e sf:%13.6e-%13.6e\n", i, ss, maxff, minff, maxsf, minsf);
183                 minff=minsf= 2;
184                 maxff=maxsf= -2;
185             }
186         }
187     }
188 #endif
189
190     av_free(tab);
191     return 0;
192 }
193
194 ResampleContext *swri_resample_init(ResampleContext *c, int out_rate, int in_rate, int filter_size, int phase_shift, int linear, double cutoff, enum AVSampleFormat format){
195     double factor= FFMIN(out_rate * cutoff / in_rate, 1.0);
196     int phase_count= 1<<phase_shift;
197
198     if (!c || c->phase_shift != phase_shift || c->linear!=linear || c->factor != factor
199            || c->filter_length != FFMAX((int)ceil(filter_size/factor), 1) || c->format != format) {
200         c = av_mallocz(sizeof(*c));
201         if (!c)
202             return NULL;
203
204         c->format= format;
205
206         c->felem_size= av_get_bytes_per_sample(c->format);
207
208         switch(c->format){
209         case AV_SAMPLE_FMT_S16P:
210             c->filter_shift = 15;
211             break;
212         case AV_SAMPLE_FMT_S32P:
213             c->filter_shift = 30;
214             break;
215         case AV_SAMPLE_FMT_FLTP:
216         case AV_SAMPLE_FMT_DBLP:
217             c->filter_shift = 0;
218             break;
219         default:
220             av_log(NULL, AV_LOG_ERROR, "Unsupported sample format\n");
221             return NULL;
222         }
223
224         c->phase_shift   = phase_shift;
225         c->phase_mask    = phase_count - 1;
226         c->linear        = linear;
227         c->factor        = factor;
228         c->filter_length = FFMAX((int)ceil(filter_size/factor), 1);
229         c->filter_alloc  = FFALIGN(c->filter_length, 8);
230         c->filter_bank   = av_mallocz(c->filter_alloc*(phase_count+1)*c->felem_size);
231         if (!c->filter_bank)
232             goto error;
233         if (build_filter(c, (void*)c->filter_bank, factor, c->filter_length, c->filter_alloc, phase_count, 1<<c->filter_shift, WINDOW_TYPE))
234             goto error;
235         memcpy(c->filter_bank + (c->filter_alloc*phase_count+1)*c->felem_size, c->filter_bank, (c->filter_alloc-1)*c->felem_size);
236         memcpy(c->filter_bank + (c->filter_alloc*phase_count  )*c->felem_size, c->filter_bank + (c->filter_alloc - 1)*c->felem_size, c->felem_size);
237     }
238
239     c->compensation_distance= 0;
240     if(!av_reduce(&c->src_incr, &c->dst_incr, out_rate, in_rate * (int64_t)phase_count, INT32_MAX/2))
241         goto error;
242     c->ideal_dst_incr= c->dst_incr;
243
244     c->index= -phase_count*((c->filter_length-1)/2);
245     c->frac= 0;
246
247     return c;
248 error:
249     av_free(c->filter_bank);
250     av_free(c);
251     return NULL;
252 }
253
254 void swri_resample_free(ResampleContext **c){
255     if(!*c)
256         return;
257     av_freep(&(*c)->filter_bank);
258     av_freep(c);
259 }
260
261 int swr_set_compensation(struct SwrContext *s, int sample_delta, int compensation_distance){
262     ResampleContext *c;
263     int ret;
264
265     if (!s || compensation_distance < 0)
266         return AVERROR(EINVAL);
267     if (!compensation_distance && sample_delta)
268         return AVERROR(EINVAL);
269     if (!s->resample) {
270         s->flags |= SWR_FLAG_RESAMPLE;
271         ret = swr_init(s);
272         if (ret < 0)
273             return ret;
274     }
275     c= s->resample;
276     c->compensation_distance= compensation_distance;
277     if (compensation_distance)
278         c->dst_incr = c->ideal_dst_incr - c->ideal_dst_incr * (int64_t)sample_delta / compensation_distance;
279     else
280         c->dst_incr = c->ideal_dst_incr;
281     return 0;
282 }
283
284 #define RENAME(N) N ## _int16
285 #define FILTER_SHIFT 15
286 #define DELEM  int16_t
287 #define FELEM  int16_t
288 #define FELEM2 int32_t
289 #define FELEML int64_t
290 #define FELEM_MAX INT16_MAX
291 #define FELEM_MIN INT16_MIN
292 #define OUT(d, v) v = (v + (1<<(FILTER_SHIFT-1)))>>FILTER_SHIFT;\
293                   d = (unsigned)(v + 32768) > 65535 ? (v>>31) ^ 32767 : v
294 #include "resample_template.c"
295
296 #undef RENAME
297 #undef FELEM
298 #undef FELEM2
299 #undef DELEM
300 #undef FELEML
301 #undef OUT
302 #undef FELEM_MIN
303 #undef FELEM_MAX
304 #undef FILTER_SHIFT
305
306
307 #define RENAME(N) N ## _int32
308 #define FILTER_SHIFT 30
309 #define DELEM  int32_t
310 #define FELEM  int32_t
311 #define FELEM2 int64_t
312 #define FELEML int64_t
313 #define FELEM_MAX INT32_MAX
314 #define FELEM_MIN INT32_MIN
315 #define OUT(d, v) v = (v + (1<<(FILTER_SHIFT-1)))>>FILTER_SHIFT;\
316                   d = (uint64_t)(v + 0x80000000) > 0xFFFFFFFF ? (v>>63) ^ 0x7FFFFFFF : v
317 #include "resample_template.c"
318
319 #undef RENAME
320 #undef FELEM
321 #undef FELEM2
322 #undef DELEM
323 #undef FELEML
324 #undef OUT
325 #undef FELEM_MIN
326 #undef FELEM_MAX
327 #undef FILTER_SHIFT
328
329
330 #define RENAME(N) N ## _float
331 #define FILTER_SHIFT 0
332 #define DELEM  float
333 #define FELEM  float
334 #define FELEM2 float
335 #define FELEML float
336 #define OUT(d, v) d = v
337 #include "resample_template.c"
338
339 #undef RENAME
340 #undef FELEM
341 #undef FELEM2
342 #undef DELEM
343 #undef FELEML
344 #undef OUT
345 #undef FELEM_MIN
346 #undef FELEM_MAX
347 #undef FILTER_SHIFT
348
349
350 #define RENAME(N) N ## _double
351 #define FILTER_SHIFT 0
352 #define DELEM  double
353 #define FELEM  double
354 #define FELEM2 double
355 #define FELEML double
356 #define OUT(d, v) d = v
357 #include "resample_template.c"
358
359 #undef RENAME
360 #undef FELEM
361 #undef FELEM2
362 #undef DELEM
363 #undef FELEML
364 #undef OUT
365 #undef FELEM_MIN
366 #undef FELEM_MAX
367 #undef FILTER_SHIFT
368
369 // XXX FIXME the whole C loop should be written in asm so this x86 specific code here isnt needed
370 #if ARCH_X86
371 #include "x86/resample_mmx.h"
372 #define COMMON_CORE COMMON_CORE_INT16_MMX2
373 #define RENAME(N) N ## _int16_mmx2
374 #define FILTER_SHIFT 15
375 #define DELEM  int16_t
376 #define FELEM  int16_t
377 #define FELEM2 int32_t
378 #define FELEML int64_t
379 #define FELEM_MAX INT16_MAX
380 #define FELEM_MIN INT16_MIN
381 #define OUT(d, v) v = (v + (1<<(FILTER_SHIFT-1)))>>FILTER_SHIFT;\
382                   d = (unsigned)(v + 32768) > 65535 ? (v>>31) ^ 32767 : v
383 #include "resample_template.c"
384
385 #undef COMMON_CORE
386 #undef RENAME
387 #undef FELEM
388 #undef FELEM2
389 #undef DELEM
390 #undef FELEML
391 #undef OUT
392 #undef FELEM_MIN
393 #undef FELEM_MAX
394 #undef FILTER_SHIFT
395
396 #if HAVE_SSSE3
397 #define COMMON_CORE COMMON_CORE_INT16_SSSE3
398 #define RENAME(N) N ## _int16_ssse3
399 #define FILTER_SHIFT 15
400 #define DELEM  int16_t
401 #define FELEM  int16_t
402 #define FELEM2 int32_t
403 #define FELEML int64_t
404 #define FELEM_MAX INT16_MAX
405 #define FELEM_MIN INT16_MIN
406 #define OUT(d, v) v = (v + (1<<(FILTER_SHIFT-1)))>>FILTER_SHIFT;\
407                   d = (unsigned)(v + 32768) > 65535 ? (v>>31) ^ 32767 : v
408 #include "resample_template.c"
409 #endif
410 #endif // ARCH_X86
411
412 int swri_multiple_resample(ResampleContext *c, AudioData *dst, int dst_size, AudioData *src, int src_size, int *consumed){
413     int i, ret= -1;
414     int mm_flags = av_get_cpu_flags();
415
416     for(i=0; i<dst->ch_count; i++){
417 #if ARCH_X86
418 #if HAVE_SSSE3
419              if(c->format == AV_SAMPLE_FMT_S16P && (mm_flags&AV_CPU_FLAG_SSSE3)) ret= swri_resample_int16_ssse3(c, (int16_t*)dst->ch[i], (const int16_t*)src->ch[i], consumed, src_size, dst_size, i+1==dst->ch_count);
420         else
421 #endif
422              if(c->format == AV_SAMPLE_FMT_S16P && (mm_flags&AV_CPU_FLAG_MMX2 )) ret= swri_resample_int16_mmx2 (c, (int16_t*)dst->ch[i], (const int16_t*)src->ch[i], consumed, src_size, dst_size, i+1==dst->ch_count);
423         else
424 #endif
425              if(c->format == AV_SAMPLE_FMT_S16P) ret= swri_resample_int16(c, (int16_t*)dst->ch[i], (const int16_t*)src->ch[i], consumed, src_size, dst_size, i+1==dst->ch_count);
426         else if(c->format == AV_SAMPLE_FMT_S32P) ret= swri_resample_int32(c, (int32_t*)dst->ch[i], (const int32_t*)src->ch[i], consumed, src_size, dst_size, i+1==dst->ch_count);
427         else if(c->format == AV_SAMPLE_FMT_FLTP) ret= swri_resample_float(c, (float  *)dst->ch[i], (const float  *)src->ch[i], consumed, src_size, dst_size, i+1==dst->ch_count);
428         else if(c->format == AV_SAMPLE_FMT_DBLP) ret= swri_resample_double(c,(double *)dst->ch[i], (const double *)src->ch[i], consumed, src_size, dst_size, i+1==dst->ch_count);
429     }
430
431     return ret;
432 }
433
434 int64_t swr_get_delay(struct SwrContext *s, int64_t base){
435     ResampleContext *c = s->resample;
436     if(c){
437         int64_t num = s->in_buffer_count - (c->filter_length-1)/2;
438         num <<= c->phase_shift;
439         num -= c->index;
440         num *= c->src_incr;
441         num -= c->frac;
442
443         return av_rescale(num, base, s->in_sample_rate*(int64_t)c->src_incr << c->phase_shift);
444     }else{
445         return (s->in_buffer_count*base + (s->in_sample_rate>>1))/ s->in_sample_rate;
446     }
447 }