opusenc: implement a psychoacoustic system
[ffmpeg.git] / libavcodec / opusenc_utils.h
1 /*
2  * Opus encoder
3  * Copyright (c) 2017 Rostislav Pehlivanov <atomnuker@gmail.com>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "opus.h"
23
24 typedef struct FFBesselFilter {
25     float a[3];
26     float b[2];
27     float x[3];
28     float y[3];
29 } FFBesselFilter;
30
31 /* Fills the coefficients, returns 1 if filter will be unstable */
32 static inline int bessel_reinit(FFBesselFilter *s, float n, float f0, float fs,
33                                 int highpass)
34 {
35     int unstable;
36     float c, cfreq, w0, k1, k2;
37
38     if (!highpass) {
39         c = (1.0f/sqrtf(sqrtf(pow(2.0f, 1.0f/n) - 3.0f/4.0f) - 0.5f))/sqrtf(3.0f);
40         cfreq = c*f0/fs;
41         unstable = (cfreq <= 0.0f || cfreq >= 1.0f/4.0f);
42     } else {
43         c = sqrtf(3.0f)*sqrtf(sqrtf(pow(2.0f, 1.0f/n) - 3.0f/4.0f) - 0.5f);
44         cfreq = 0.5f - c*f0/fs;
45         unstable = (cfreq <= 3.0f/8.0f || cfreq >= 1.0f/2.0f);
46     }
47
48     w0 = tanf(M_PI*cfreq);
49     k1 = 3.0f * w0;
50     k2 = 3.0f * w0;
51
52     s->a[0] = k2/(1.0f + k1 + k2);
53     s->a[1] = 2.0f * s->a[0];
54     s->a[2] = s->a[0];
55     s->b[0] = 2.0f * s->a[0] * (1.0f/k2 - 1.0f);
56     s->b[1] = 1.0f - (s->a[0] + s->a[1] + s->a[2] + s->b[0]);
57
58     if (highpass) {
59         s->a[1] *= -1;
60         s->b[0] *= -1;
61     }
62
63     return unstable;
64 }
65
66 static inline int bessel_init(FFBesselFilter *s, float n, float f0, float fs,
67                               int highpass)
68 {
69     memset(s, 0, sizeof(FFBesselFilter));
70     return bessel_reinit(s, n, f0, fs, highpass);
71 }
72
73 static inline float bessel_filter(FFBesselFilter *s, float x)
74 {
75     s->x[2] = s->x[1];
76     s->x[1] = s->x[0];
77     s->x[0] = x;
78     s->y[2] = s->y[1];
79     s->y[1] = s->y[0];
80     s->y[0] = s->a[0]*s->x[0] + s->a[1]*s->x[1] + s->a[2]*s->x[2] + s->b[0]*s->y[1] + s->b[1]*s->y[2];
81     return s->y[0];
82 }